Progress in Mathematics 5
S. Helgason
The Radon transform
Blrkhauser, Boston, Basel, Stuttgart 1980

СХелгасон
Преобразование
Радона
Персвол с английского
А.Г. Сергеева
под релакпией
Б.И.Завьялова
с предисловием
B.C. Владимирова
Москва «Мир» 1983

ББК 22.151
Х38
УДК 517.4
Хелгасон С.
X 36 Преобразование Радона: Пер. с англ.— М.: Мир,
1983. 152 с. ил.
Впсдепие п сопрсмспную интегральную геометрию, ее методы и прило-
приложения. Ш1ПИСЛШЮС известным американским ученым (он таком советским
читателям но переподу его книги «Дифференциальная геометрии и симметри-
симметрически? пространства».— М.: Мир, ИНН).
Для математиков ра.шых специальностей, физиков, радиоастрономов и
сейсмологов.
1702050000—407 ББК 22.151
Х 041@0-83 12~831 Ч> ' 617.4
Редакция литературы по математическим наукам
© Birk!i;iiiser Boston, 1980
(g) Ik-pi'iKVi на русский н.шк,
«Мир», 19НЗ

ПРЕДИСЛОВИЕ К РУССКОМУ ИЗДАНИЮ
Предлагаемая вниманию читателя книга известного аме-
американского математика Сигурдура Хелгасона посвящена пре-
обра.чонанню Радона и его обобщениям. Это преобразование
было введено Иоганном Радоном в статье, опубликованной
в 1917 г. и трудах Саксонской академии наук. Оно сопостав-
сопоставляет функции / па плоскости функцию f на множестве всех
прямых, задаваемую интегралами от / вдоль прямых. Ра-
Радону удалось получить явную формулу обращения, вы-
выражающую функцию f через функцию /. Аналоги этого
преобразования, названного впоследствии преобразова-
преобразованием Радона, встречались и ранее, например в рабо-
работах Г. А. Лоренца, Г. Минковского и П. Функа, однако
именно в статье Радона была поставлена общая задача
of) изучении преобразований типа f-*-f на различных про-
пространствах и намечены методы исследования таких преоб-
преобразований.
Тем самым было положено начало новому направлению,
часто называемому интегральной геометрией, предмет кото-
которого состоит в изучении преобразований, сопоставляющих
данном функции / на многообразии X функцию f на некото-
некотором семействе X подмногообразий многообразия X, задавае-
задаваемую интегралами от / вдоль подмногообразий этого семей-
семейства. Задачи указанного типа часто встречаются в различных
областях математики (дифференциальные уравнения, мате-
математическая физика, теория представлений и т. д.), что в зна-
значительной степени стимулировало дальнейшее развитие этого
направления.
Огметнм, в частности, известное в математической физике
представление Иоста -- Лсмана — Дайсопа и преобразование
Пеироуза -- Уорда, лежащее в основе бурно развивающейся
в настоящее время теории твнеторов. Преобразование Пеи-
Пеироуза— Уорда, являющееся по существу вариантом преоб-
преобразования Радона, позволяет свести изучение многих важ-
важных уравнений теории поля (например, уравнений Янга -
Мпллса) к решению некоторых задач комплексного анализа

ПРЕДИСЛОВИЕ К РУССКОМУ ИЗДАНИЮ
в проективных пространствах1). Преобразование Радона
естественным образом появляется также при изучении асим-
асимптотических свойств причинных обобщенных функций кван-
квантовой теории поля2).
В последнее время преобразование Радона нашло неожи-
неожиданное применение в рентгеновской диагностике, точнее в ее
новой области —вычислительной томографии. В отличие от
хорошо знакомого всем рентгеновского аппарата, дающего
рентгеновский снимок «проекции» участка тела на плоскость
флюорографической пластины, новый аппарат — томограф
позволяет получить плоский срез (по-гречески «томос») зон-
зондируемого участка. Математически задача сводится к обра-
обращению преобразования Радона. Отметим также интересные
приложения преобразования Радона в геофизике и радио-
радиоастрономии.
Книгу С. Хелгасона можно условно разделить на две
части. Первая часть (гл. I) посвящена «классическому» пре-
преобразованию Радона (сопоставляющему функции f на IR"
функцию / на множестве ^-мерных плоскостей, задаваемую
интегралами от f вдоль этих плоскостей). Эта часть не тре-
требует никаких специальных знаний помимо стандартного уни-
университетского курса математического анализа. В то же время
она, сама по себе, дает достаточно полное представление
о возможностях метода преобразования Радона и его при-
приложениях. Во второй части книги (гл. II, III, IV) на основе
единого теоретико-группового подхода рассматриваются раз-
различные обобщения и варианты преобразования Радона. Эти
главы, по необходимости, потребуют от читателя более ши-
широкой математической подготовки, в особенности знания
основ дифференциальной геометрии (например, в объеме
переведенной у нас монографии автора «Дифференциальная
геометрия и симметрические пространства»).
Во второй главе дается общее теоретико-групповое опре-
определение преобразования Радона и сферических средних на
однородных пространствах и ставятся основные задачи.
В третьей главе изучается преобразование Радона на одно-
однородных римановых многообразиях, отвечающее интегриро-
интегрированию по вполне геодезическим подмногообразиям. Главный
результат — формула обращения преобразования Радона
в случае двухточечно-однородных многообразий. Наконец,
четвертая глава посвящена обобщенным сферическим сред-
средним (интегралам по орбитам) на изотропных лорепцевых
') Подробнее о теории тписторов см. в сб. «Твисторы п калибровочные
поля».—М.: Мир, 1983.
2) См. Владимиров В. С, Завьялов Б. И. Автомодельная асимптотика
причинных функций и их почедспис на световом конусе.— Теор. и матом.
физика, 1982, т. 50, № 2, 163—194.

ПРПДИСЛОВПП К РУССКОМУ ИЗДАНИЮ
Miioi (XN|):i:niH.\. Здесь, в частности, получена формула вос-
восстановления функции по ее обобщенным сферическим
средним.
В качество приложения к книге приводится упомянутая
нише пионерская работа И. Радона. Эта статья безусловно
представляет большой исторический интерес. Предложенные
п ней методы не утратили своего значения до сих пор, ими
широко пользуется и аитор этой книги.
Удачное изложение, а также лаконичный и вместе с тем
ясный язык позволили автору в небольшой по объему книге
осветить основные проблемы, связанные с преобразованием
Радона и его обобщениями, а также познакомить читателя
с различными приложениями этой теории. Немногочислен-
Немногочисленные опечатки, имеющиеся в оригинале книги, исправлялись
без особых указаний. Книга несомненно будет хорошим до-
дополнением к уже имеющимся на русском языке моногра-
монографиям, посвященным преобразованию Радона и его прило-
приложениям.
В. С. Владимиров

Посвящается Арти
ПРЕДИСЛОВИЕ
Тема этой небольшой книги относится к разделу геомет-
геометрического анализа, берущему начало с результатов Функа
[1916] и Радона [1917] о восстановлении соответственно
четной функции на двумерной сфере S2 по интегралам от нее
вдоль больших кругов и функции, заданной па плоскости R2,
по ее интегралам вдоль прямых. Последние достижения
в этой области, особенно применения к дифференциальным
уравнениям в частных производных, в рентгенологии и ра-
радиоастрономии, значительно расширили интерес к этой проб-
проблематике.
Настоящие заметки представляют собой переработанный
вариант лекций, прочитанных и Массачусетсом технологиче-
технологическом институте осенью 1966 г., и основаны па моих статьях
1959—1965 гг. о преобразовании Радона и его обобщениях.
(Термин «преобразование Радона» заимствован из работы
Джона [1955].) Обобщения строятся исходя из следующих
соображений.
Множество точек сферы S2 и множество больших кругов
на ней являются однородными пространствами ортогональ-
ортогональной группы 0C). Аналогично, множество точек плоскости
R2 и множество прямых на ней суть однородные простран-
пространства группы М{2) движении плоскости 'К'2. Эти факты моти-
мотивируют наше общее определение преобразования Радона
[1965 А, В], составляющее предмет второй главы: если G/K
и G/H — два однородных пространства одной и той же
группы G, то преобразование Радона f-+f переводит функ-
функцию /, заданную па первом из этих пространств, в функцию f,
заданную па втором из них. Для точки ? е G/Я функция
f(|) определяется как (естественный) интеграл от f по мно-
множеству точек х е G/K, инцидентных ? в смысле Чжэня
[1942]. Задача обращения преобразования /->/ решена
з ряде случаев.
Пусть G/K — евклидово пространство пли, более общо,
симметрическое риманово пространство; часто бывает, что
естественные дифференциальные операторы D на G/K пре-
преобразованием f-*-f переводятся в более удобные операторы
О на G/H (где (Df)" = bf). Поэтому теория преобразова-
преобразования f-*-f имеет важные применения при изучении свойств
дифференциальных операторов.

ПРПДИСЛОВИП
С другой стороны, приложения исходного преобразования
Радона на R2 в рентгенологии и радиоастрономии основаны
на том факте, что для неизвестной плотности f измерение
ослабления интенсивности пучка рентгеновских лучей непо-
непосредственно приводит к функции f, а тогда формулы обраще-
обращения Радона позволяют найти и саму f. Точнее, пусть В— вы-
выпуклое тело, a f{x) —его плотность в точке х. Предположим,
что на тело В вдоль прямой \ направлен тонкий пучок рент-
рентгеновских лучен. Тогда интеграл по прямой
ранен log (/о//), где /0 и / соответственно интенсивности
пучка до его попадания на тело В и после его выхода из
тела Н. Таким образом, в то время как функция f первона-
первоначально неизвестна, функция f определяется по данным рент-
рентгеновского облучения.
Записи упомянутых выше лекций слегка модернизиро-
модернизированы за счет включения краткого описания нескольких при-
приложении (§ 7 гл. I), добавления некоторых следствий B.8,
2. i2, (i.4 и гл. 1, 2.8 и 4.1 в гл. Ш) и указаний па ряд послед-
последних достижений, приведенных в библиографических замеча-
замечаниях в конце глап.
Определенные усилия были затрачены на то, чтобы со-
сохранить элементарный характер изложения. Необходимые
сведения из теории обобщенных функции и потенциалов Рис-
сл, используемые в гл. I, приводятся в § 8. За исключением
гл. II, где изложение ведется в рамках общих однородных
пространств, рассматриваются только евклидовы и изотроп-
изотропные пространства (т. с. пространства, «одинаковые вдоль
всех направлений»). Что касается более общих симметриче-
симметрических пространств, то для их изучения приходится полисе
использовать аппарат теории полупростых групп Ли, поэтому
мы откладываем его (за исключением § 4 гл. III) до другого
удобного случая.
Я благодарен Р. Мслроузу и Р. Сили за полезные советы
п Ф. Гонсалссу и Дж. Орлоффу, прочитавшим отдельные
части рукописи и сделавшим критические замечания.
Поскольку пионерская работа И. Радона [1917] сейчас
п значительной мере недоступна, мы приводим се в прило-
приложении ').
') В оригинале приводится факсимильная копия работы Радона (на
немецком ячике). В русском издании решено было перевести ее, сохранив,
однако, как несколько старомодный1 стиль аитора, так и некоторые неточ-
неточности d его рассуждениях.— Прим. ред.

ПРИНЯТЫЕ ОБОЗНАЧЕНИЯ
Алгебра. Как обычно, R и С обозначают поля веществен-
вещественных и комплексных чисел соответственно, Z — кольцо целых
чисел. Далее
R+ = {/eR:/>0}, Z+=Z[]R+.
Если аб,С, то Rea обозначает вещественную часть числа
а, | се| — его модуль.
Если G — группа, A cr G — ее подмножество и g— эле-
элемент G, то по определению
As ~{gag~l: a^A}, gA = {aga~u. a <= А).
Группа вещественных матриц, сохраняющих квадратичную
форму
х2 4- 4- х2 х2 у2
обозначается через O(p,q). Мы полагаем О(л) = О@, я) =
= О(л, 0). Через 11{п) обозначается группа унитарных
(л Xп)-матриц. Группа изометрий евклидова n-мерного про-
пространства R" обозначается М{п),
Геометрия. Через S"~' мы обозначаем (л — 1)-мерную
единичную сферу в R", Qn — ее площадь. Через Р" обозна-
обозначается «-мерное многообразие гиперплоскостей в R". Для
О < d < л через G(d,n) будем обозначать многообразие
d-мерных плоскостей в R"; положим, кроме того, Ga, n =
= {cr e G (d, п): 0 ест}. В метрическом пространстве Вг(х)
обозначает открытый шар с центром х и радиусом г; Sr{x) —
соответствующая сфера. В пространстве Р" мы используем
обозначение Рл@) для множества гиперплоскостей gcrR",
находящихся на расстоянии <СА от пуля.
Анализ. Если X — топологическое пространство, то С(Х)
(соотв. СС(Х)) обозначает пространство комплекспозначиых
непрерывных функций (соотв. с компактным носителем).
Если X — многообразие, то
Г„, . . f комплекснозначные m раз непрерывно!
^ W — | дифференцируемые функции на X у

ПРИНЯТЫЕ ОБОЗНАЧЕНИЯ 11
= П Ст{Х),
т>0
3>'{Х) = {обобщенные функции на X),
#'(,Y)—{обобщенны.; функции с компактным носителем на X},
5^ (к") = {быстро убывающие функции на R"},
уly11)— {медленно растущие обобщенные функции на R"}.
Подпространства 3)ц, 9"н, 9"*, 9*0 пространства 9° опреде-
определяются па стр. К), 20, 21.
Рассматриваемые функции обычно предполагаются ком-
плекспозначпымп, по иногда мы пользуемся теми же обозна-
обозначениями для пространств вещественнозначпых функций.
Преобразование Радоиа обозначается f-*-f, дуальное
к нему преобразование ф->ф, преобразование Фурье запи-
записывается /->-/, а преобразование Гильберта обозначается Ш.
Потенциалы Рисса и их обобщения обозначены /а, 1К~, /о
и /+; Мг обозначает оператор среднего значения и инте-
интегрирования по орбитам, L — лапласиан n R" и оператор
Лапласа - Г>ельтрамн па псевдоримановом многообразии.
Операторы ? и Л действуют в некоторых функциональных
пространствах пи IP" (стр. 14 и 30); символ ? используется
также для обозначения оператора Лапласа — Бсльтрами на
лоренцевом многообразии.

ГЛАВА I
ПРЕОБРАЗОВАНИЕ РАДОНАВ К"
§ 1. Введение
В 1917 г. И. Радон показал, что всякая дифференцируе-
дифференцируемая функция на пространство к'3 может быть задана в явном
виде своими интегралами по плоскостям в R3. Обозначим
через /(со, р) интеграл функции [ по плоскости (х, со) = р,
где со — единичный вектор, а (,)—скалярное произведение.
Тогда
где L—лапласиан в R3, a cfco —элемент площади поверхно-
поверхности на сфере S2 (см. теорему 3.1).
Отметим, что приведенная формула содержит два двой-
двойственных друг другу интегрирования: первое —по множе-
множеству точек данной плоскости, а второе —по множеству пло-
плоскостей, проходящих через заданную точку. Это наводит на
мысль рассмотреть определяемые ниже преобразования
Эта формула имеет и другую интересную особенность.
Для фиксированного со подынтегральная функция х-*-
-*- / (со, (со, х)) представляет собой плоскую волну; другими
словами, она постоянна на любой плоскости, ортогональной
к со. Если не обращать внимания на лапласиан, то приведен-
приведенная формула даст непрерывное разложение функции / на
плоские волны. Поскольку плоская волна сводится к функции
всего лишь одной переменной (вдоль направления, нормаль-
нормального к указанным плоскостям), то это разложение во мно-
многих случаях позволяет свести задачу в 'к'3 к аналогичной
задаче в R. Указанный принцип особенно полезен в теории
дифференциальных уравнений в частных производных.
Аналог вышеприведенной формулы для интегралов по
прямым имеет важное значение' в рентгенологии, цель кото-
которой состоит в описании функции плотности посредством не-
некоторых интегралов по прямым.
В этой главе мы обсудим соотношения между функцией
на пространстве R" и интегралами от нес по ^-мерным пло-

2. ПРЕОБРАЗОВАНИЕ РАДОНА В С~ (Р") И &{Ып) 18
скостим в R". Особый интерес при этом будет представлять
для и «'1С случаи k = п— 1.
§ 2. Преобразования Радона в пространствах СТ (R")
^(к"). Теорема о носителе
Пусть / — функция на М", интегрируемая по каждой ги-
гиперплоскости. Обозначим через Р" пространство веех гипер-
гиперплоскостей в V", снабженное очевидной топологией. Преоб-
Преобразование Радона функции / определяется как функция f на
Р", задаваемая формулой
f(l)=\f(x)dm(x),
I
где dm -- евклидова мера па гиперплоскости |. Наряду с пре-
преобразованием /->-/ мы рассмотрим также дуальное преоб-
преобразование ф->ф, которое непрерывной функции ф на Р" со-
сопоставляет функцию ф на К" по формуле
где d\i — мера на компактном множестве {|еР": хе^},
инвариантная относительно группы вращений вокруг точки х
и такая, что полная мера всего этого множества равна 1.
С, помощью преобразований /-»-/, ф->ф мы установим связь
между некоторыми функциональными пространствами на R"
н Р" it получим затем явные формулы обращения.
Всякую гиперплоскость |еР" можно записать в виде
? = {.v ее К'": (х,о)) = р}, где (,) —обычное скалярное про-
произведение, со = (coi, ..., со,,)—единичный вектор и peR. За-
Заметим, что пары (и, р) и (—со,—р) приводят к одной и той
же гиперплоскости %: отображение (со, п)-»-? есть двукратное
накрытие Jj"-! X Ь- па Р". Таким образом, пространство
Р" имеет каноническую структуру многообразия, относи-
относительно которой это накрывающее отображение дифференци-
дифференцируемо п регулярно. Итак, мы отождествляем непрерывные
(дифференцируемые) функции <р на Р" с непрерывными
(дифференцируемыми) функциями ф на S"~' X R, удовле-
удовлетворяющими условию ср(со, р) = ф(—со, — р). Переобозначая
теперь функцию /(?) через /(со, р), для преобразования Ра-
Дона сдвинутой функции /(: х -*-/(/ + х) получаем
\ J f(y)dm(y).
х. ш) = р (у, а)=р+(<, а)

14 ГЛ. I. ПРЕОБРАЗОВАНИЕ РАДОНА В Р"
Следовательно,
A) М«,р)=fK/) + (/,©))•
Переходя к пределам, мы видим, что
B) C(/)"(».p) = »if(«.p),
где di = <9/&х;/. Обозначим через L лапласиан ? <Э* в R",
i
а через D—оператор ф(со, р)->-т-г-ф((й, р), корректно опре-
определенный на пространстве С°°(Рп). Пусть М(п)— группа
изометрических преобразований R". Можно доказать, что
оператор L (соотв. ?) порождает алгебру М(п) -инвариант-
-инвариантных дифференциальных операторов в R" (соотв. в Р").
Лемма 2.1. Преобразования f->/, ф-»-ф сплетают операторы
L и О, т. е.
Доказательство. Первое соотношение доказывается последо-
последовательным применением формулы B). По поводу второго
достаточно заметить, что для некоторой постоянной с
C) ф(*) = с ^
Sn-1
где cfco — обычная мера на S".
Преобразование Радона тесно связано с преобразованием
Фурье
Действительно, если seR и ш — единичный вектор, то
-оо (Jt, Ш)-Г
следовательно,
«о
D) f (sco) = J f(o>,
Это означает, что «-мерное преобразование Фурье есть ком-
композиция одномерного преобразования Фурье и преобразова-
преобразования Радона. Исходя из формулы D) или с помощью прямого

5 2. ПРЕОБРАЗОВАНИЕ РАДОНА В С~ ((?") И & ((?") 15
вычисления нетрудно показать, что преобразование Радона
функции
f(x)=
есть свертка
E) f(<o,P)= $М®. Р — <7) f2
Мы будем работать с пространством ^"(R") комплекснознач-
пых быстро убывающих функций на R", хотя возможна чуть
большая общность. Напомним, что /e^(IR") тогда и только
тогда, когда для любого полинома Р и любого целого числа
F) suplU \Р(ди .... dn)f(x)\<oo,
х
где \х\ — норма вектора xeR". Сформулируем теперь это
определение в более инвариантном виде.
Лемма 2.2. Функция /eC°°(R") принадлежит пространству
") тогда и только тогда, когда для любой пары чисел
Z
sup |(l+U|)fe(Z.'f)(*)K°o.
же К"
Лемма легко доказывается применением преобразования
Фурье.
По аналогии с пространством ^(R") определим простран-
пространство 5?(S"-1X^). состоящее из С°°-функций <р на S"-1 X К,
которые для любых целых /г, / ^ 0 и любого дифференциаль-
дифференциального оператора D на S"~' удовлетворяют условию
G) sup
R
, г)
<00.
Toi-да пространство ^"(Р") определяется как множество
функции феУ( S"-1 X R), таких что ф(ю, р) = ф(—со, — р).
Лемма 2.3. Для любой функции /е^(Кя) преобразование
Радона /(со, р) удовлетворяет следующему условию: для лю-
любого целого А е Z+ интеграл \f((o, p)pkdp может быть за-
к
писан как однородный полином степени k no переменным
«1. . . . , С0„.

16
Доказательство. Утверждение немедленно следует из соотно-
соотношения
(8) \ f (©, Р) pk dp == \ pk dp J / (х) dm (x) = \ f (x) (x, со)* dx.
Н к ( ) "
В соответствии с этой леммой определим пространство
n) = {f 6=^(P"): для любого iieZ+ интеграл
\ F(co, p)рк dp есть однородный полипом степени /г по соь ...
...,соп}. Введя обозначение ^(Р") = СГ(Р")> положим
Согласно Шварцу [1966, стр. 243], преобразование Фурье
f-*-J отображает пространство ^(R") на себя. Мы изучим
сейчас аналогичный вопрос для преобразования Радона.
Теорема 2.4 (теорема Шварца). Преобразование Радона
f 1 есть линейное взаимно однозначное отображение
9>{R") на 9>н(Ря).
п
Доказательство. Так как -r-f (ss>)== V ©;(<?/), то из соот-
ношения D) ясно, что функция r->f (со, г) при каждом фик-
фиксированном со лежит в ?7(R). Для произвольной точки со0 <=
е S"-' в качестве локальных координат на сфере S"-'
в окрестности ш° можно выбрать любые п — 1 неременных
из набора {соь ..., со,,}, для которых оставшаяся переменная
не обращается в пуль в указанной окрестности. Следова-
Следовательно, для того, чтобы убедиться в том, что f ^ 9"(Рп), до-
достаточно доказать неравенство G) при ср = / па открытом
подмножестве N cz S"~\ где переменная со,< отделена от
нуля, а переменные coi, ..., «„-i являются локальными коор-
координатами на S", через которые выражен оператор D. По-
Полагая
(9) и, = в(о„ .... "„_, =stort_,, H,, = s(l -(*]- ... -^_,I/2,
имеем
Отсюда следует, что если О — произвольный дифференциаль-
дифференциальный оператор на 5"-' и k, I e Z+, то
(Ш) сос/Лс: jA +S?/i) rf7(^)(C0> S)
<оо.

5 2. ПРЕОБРАЗОВАНИЕ РЛДОПЛ П С^° (RB) И „5е (R™) 17
Следовательно, в формуле
обратной к равенству D), мы можем внести оператор D под
знак интеграла и получить
Неравенство A0) показывает теперь, что fe^(P"), по-
поэтому, согласно лемме 2.3, /е^нA'").
В силу равенства D) и того факта, что преобразование
Фурье вчапмпо однозначно, в теореме 2.4 осталось доказать
лишь сюрьектнвиость преобразования Радона. Пусть <ре
е= ?Л/(]"). Для того чтобы показать, что Ф = / Для некото-
некоторой функции /е^(К>п), положим
ФE,ю)= \ ф(ю, r)e~lrsdr.
— оо
Тогда cl)(s, со) = Ф(—s, —ш) и функция Ф@, ю) является
однородным полипомом степени 0 но переменным соь ..., ю„
и потому постоянна. Следовательно, существует функция F
па !ч" такая что
F(s, о) = \ф(ш, r)e~irsdr.
к
Функция F, очевидно, является гладкой вне начала коорди-
координат; мы докажем сейчас, что она гладкая и в начале коорди-
координат. Именно здесь условие однородности в определении про-
пространства ?Pii(Pn) играет существенную роль. Рассмотрим,
как и выше, координатную окрестность N czz S"~' и для h es
с^ О (Г" -{0}) обозначим через h*(@\, .... ю,,_ь s) функ-
функцию, полученную из h после подстановки в нее соотношений
(9). Тогда
/¦»!
ds
ди1

18 ГЛ. 1. ПРЕОБРАЗОВАНИЕ РАДОНА В R "
Следовательно,
— = — — - — ш (— — l"V(o -^\ П<"<
diij s <Эщ, ' \ ds s i—i ' <Эсо. у ^~
(Зн_ V ' ''' п-\)
Для того чтобы воспользоваться этими соотношениями при
h — F, напишем
00
>, r)dr+ \ ф(ш, r)(e-(rs— I)dr.
По предположению первый интеграл не зависит от перемен-
переменной ю. Поэтому, в силу неравенства G), при некоторой кон-
константе К > 0 имеем
Аналогичная оценка, очевидно, имеет место и для dF(sa>)/ds.
Следовательно, из приведенных выше формул вытекает, что
все производные dF/dui ограничены в проколотом шаре 0 <
<|«|<е и, стало быть, функция F заведомо непрерывна
в точке и = 0.
Более общим образом, мы докажем по индукции, что
dqh Г» , , v dl+th*
V л i
7t
где функции А имеют вид
A2) Л/. *,...*((ffl,s) = а/. *,...*,(<»)$'-«.
Для ^=1 равенство A1) уже доказано; предполагая, что
A1) выполнено для некоторого q, и используя вышеприве-
вышеприведенные формулы для д/дщ, вычислим d"+lh/diiil ... dut
Если продифференцировать функции A/, kx ... kt по и{ , то
получится формула, аналогичная A2), в которой q заменено
на 9+1. С другой стороны, если в равенстве A1) продиф-
продифференцировать по ui член, содержащий производную по-
порядка i + j, то получится комбинация членов вида
<Эюь

§ 2. ПРЕОБРАЗОВАНИЕ РАДОНА В cf ((?") И # (r") 19
поэтому в обоих случаях мы приходим к коэффициентам,
удовлетворяющим соотношениям A2) с заменой q на <7+1.
Соотношения A1) — A2) тем самым доказаны. Далее,
A3) F(sa) ==
где
Из наших предположений относительно функции <р следует,
что первый интеграл в A3) есть полином по переменным
и\, ..., н„ степени ^.q — l, поэтому под действием диффе-
дифференциального оператора (И) он обращается в нуль. Так как
функция t->-(it)-!'ep(it), очевидно, ограничена на R (р^О),
то при 0 <; / <; q имеем
М - 6.1
=! (— «>)' (— frs/"»в,_, (—
eq4
где kj — положительная постоянная. Поскольку ф()
из A1) —A4) следует, что любая производная порядка q
функции F по переменным щ, ..., ип ограничена в проколо-
проколотом шаре 0<|н|<;е. Таким образом, мы доказали, что Fe
EClV(k"). Быстрое убывание функции F вытекает теперь из
формул G) и A1). Наконец, если / есть функция из ^R)
преобразование Фурье которой равно F, то
= F (sm) = [ ф (ю, г) e~ira dr
— во
и, следовательно, в силу соотношения D), / == ф. Тем самым
теорему доказана.
Введем для дальнейшего несколько полезных обозначе-
обозначений. Пусть Sr(x) — сфера {у: \у — х\ = г} в R", а А (г) —
площадь ее поверхности. Обозначим через В'{х) открытый
шаР {У- \у — х\<г)- Для непрерывной на сфере Sr(x)
функции / через {Mrf)(x) обозначим среднее значение
7)W = tW S
где da — евклидова мера. Пусть К — ортогональная группа
0(п) и dk — мера Хаара на К, нормированная условием
\dk==l. Если г/eR" и г = \у\, то
05) (Mrf)(x)

20 ГЛ. I. ПРЕОБРАЗОВАНИИ РАДОНА В 1р"
Действительно, для фиксированных х, у обо части этого со-
соотношения представляют собой инвариантные относительно
вращений функционалы на C(Sr(x)), принимающие одно п то
же значение на функции /' == 1. Поскольку группа вращений
действует трапзптппно на сферах Sr(x), равенство A5) яв-
является следствием единственности таких инвариантных функ-
функционалов. Формула C) может быть записана аналогичным
образом:
06) . <t(x)=
где ь<> — некоторая фиксированная гиперплоскость, проходя-
проходящая через начало координат. Мы видим, что если fU
н Qk — площадь поверхности единичной сферы в R1', то
00
(M1 u '/) (x) dm (y) — Qn_( V r"~2 j -p- \ f {x + m) da> \ dr,
h 0 \ sb-I /
и, следовательно,
A7) (ff(x) = ^1-\\x-y\-lf{y)dy.
к"
Теперь мы рассмотрим аналог теоремы 2.4 для преобра-
преобразования ф->ф. Заметим, однако, что принадлежность (ре
е^и(Рп) не влечет за собой q>e5?'(l\'1) (если бы это было
так, то по теореме2.4 мы могли бы написать <f=f, [е5?(!1\"),
и из формулы обращения в теореме 3.1 при п = 3 следовало
бы, что \ f(x)dx — 0). Более удовлетворительный результат
получится, если предварительно сузить исходное прост-
пространство.
Обозначим через 5?*(|Я''1) пространство функций /е5?('К"),
которые ортогональны всем полипомам, т. с.
\ / {х) Р(х) dx — 0 для всех полиномов Р.
Аналогично, пусть 5?*(Р")сг ^(Рл)—пространство функций
ср удовлетворяющих условию
\ ф (ю, /•) р (г) dr = 0 для всех полиномов р.

§2. ПРЕОБРАЗОВАНИИ РАДОНА В С™ О'") М ,5» ('¦'") 21
Заметим, что при преобразовании Фурье пространство
д>*(\41) соответствует подпространству 9'о(у.п)<^:9'(У.'1)
функции, псе производные которых в точке 0 равны нулю.
Следствие 2.5. Преобразования f~>f и ф->-ф являются баек-
tittuMii соответственно пространства ^*(R") на ^*(P") и про-
сгринсгна &*(Рп) на9>*(\1").
I Iepnoc утверждение с очевидностью следует из соотно-
соотношения (8), если принять во внимание тот элементарный
факт, что полиномы х-*¦ (х, со)* порождают пространство
однородных полиномов степени k. Чтобы убедиться в том,
что преобразование ф-»-ф есть бпекция ^*A)п) на ^*(^"),
носполь.чуемся равенством A7) и тем, что ф = f для некото-
некоторой функции /е^*(К"). Правая часть A7) представляет
собой свертку / с обобщенной функцией \х\~[ умеренного
роста, преобразование Фурье которой по лемме 8.2 равно
константе, умноженной на l^l1-" (мы не рассматриваем
здесь тривиальный случай м = 1). Согласно общей теории
обобщенных функций медленного роста (Шварц [1966,
гл. VII, § 8J), эта свертка есть обобщенная функция медлен-
медленного роста, а ее преобразование Фурье равно константе,
умноженной па \u\x~nf{u). Но последняя функция принадле-
принадлежит пространству ^o(R"), если ему принадлежит функция J.
Равепстно A7) показывает теперь, что ф— (/) ~ e^*(R")
п ф#0, если ф Ф 0. Наконец, поскольку функции
((/)")" (")= С1"|'""/(") (где с — постоянная) заполняют
все пространство ^0(R"). когда функция / пробегает про-
пространство 9*(Rn), мы видим, что отображение ф->ф сюръ-
ективпо.
Обратимся теперь к пространству 3) (R") = С? (R") н его
образу при преобразовании Радона. Начнем с предваритель-
предварительного результата.
Теорема 2.6 (теорема о носителе). Пусть функция /eC(R")
удовлетворяет следующим условиям:
(i) для любого целого k>0 функция \x\kf(x) огра-
ограничена:
(и) существует постоянная А >» 0, такая что /(|) = 0,
если </((), I) > А, где d —расстояние в R\
Тогда f(x) = 0 при \х\ > А.
Доказательство. Заменяя функцию f сверткой фя-f, где ф —
радиальная С^-функция с носителем в малом шаре Ве@),
мы видим, что теорему достаточно доказать для функции
/ {= C'v(!l.;"). Действительно, функция ф*/ гладкая, удовле-
удовлетворяет условию (i) и, согласно E), условию (ii) с заменой
А на Л -j- е. Считая теорему справедливой в гладком случае,

22 ГЛ. I. ПРЕОБРАЗОВАНИЕ РАДОНА В R*
находим, что supp(cp */)с= 5Л)е@). Поэтому, устремляя е
к нулю, получаем, что носитель функции / принадлежит за-
замыканию ВА@).
Допустим сначала, что функция / радпальиа. Тогда /(*) =
= F(\x\), где FgCm(^) и четна. В этом случае f имеет
вид /(ь) = Р(d@,1)), где функция Р по определению преоб-
преобразования Радона дастся формулой
= \
В частности, так как F четна, Р продолжается до четной
функции из C°°(!R). Воспользовавшись полярными координа-
координатами в пространстве К", получим
A8)
Сделаем замену переменных s = (р2 + /2)~1/2 и положим
и = р~1. Тогда соотношение A8) принимает вид
l) s-«) („2 _ s2
Запишем для простоты это уравнение в виде
и
A9) h (и) = J g- (s) (u2 - s2)(/l-3)/2 rfs.
Это интегральное уравнение очень похоже на интегральное
уравнение Абеля (Уиттекер — Ватсоп [1927, гл. IX]) и может
быть обращено следующим образом. Умножая обе его части
на u(t2 — u2)(n-3)/2 и интегрируя по и в пределах от нуля
до t, получим
" *2) V2 ~ «2)]('"Я>/2 ds) « du =
О 0 '
t / t \
= 5 8 (s)I \ и [(t2 - и2) (мг - s2)f"'mdu)<fo.

§ 2. ПРЕОБРАЗОВАНИЕ РАДОНА В С~ ((?") И & (кп) 23
С помощью подстановки (/2 —s2) V = (^2-fs2) —2u2 внутрен-
внутренний интеграл вычисляется точно, что дает
\ h (и) (/2 - к2)udu = c\g(s) (/2 - S2I1  ds.
о о
Применим теперь к обеим частям уравнения п—1 раз опе-
оператор -гттгг ~ "гГ 7Г' после чег0 пРавая часть с точностью до
постоянного множителя будет равна Hg@- Следовательно,
мы получим
B0) Finr^
Согласно условию (и), /?(«-|) = 0, если «-' ^ Л, т. е. если
и г^ Л-1. По тогда из формулы B0) вытекает, что F(t~l) = Q
при / ^ Л-1, т. с. при Н ^ Л. Это доказывает теорему в слу-
случае, когда функция f радиальиа.
Рассмотрим теперь случай произвольной функции /. Фик-
Фиксируем точку jreR" и рассмотрим, как и в формуле A5),
функцию
к
Тогда gx удовлетворяет условию (i), причем
B1) gx®*
где х + ki, — сдвинутая в точку к гиперплоскость k\. Нера-
Неравенство треугольника показывает, что
Следовательно, в силу условия (i) и формулы B1), мы за-
заключаем, что
B2) ?,(?) = 0 при d(Q,\)>A+\x\.
Но gx — радиальная функция, поэтому из формулы B2)
и nepiioii части доказательства вытекает, что
B3) \f(x + ky)dk = O при \у\>Л+\х\.
к
Геометрический смысл этой формулы таков: поверхностный
интеграл функции f по сфере S|y|(x) равен нулю, если шар
ВМ(х) содержит шар ВА@). Поэтому наша теорема
кает ikj следующей леммы.

24 ГЛ. I. ПРЕОБРАЗОВАНИИ РАДОНА BR"
Лемма 2.7. Пусть функция /<=С(К") такова, что для любого
целого k > О
sup U|fe|/(*)|<oo.
Предположим, что поверхностный интеграл функции f no лю-
любой сфере S, охватывающей единичный шар, равен нулю.
Тогда /(х) == О при \х\> 1.
Доказательство. Идея доказательства состоит в том, чтобы,
деформируя сферу S, которая входит в соотношение
B4)
и дифференцируя по параметру деформации, получить до-
дополнительные соотношения для функции f. Заменяя, как
и выше, функцию / подходящей сверткой ср*Д мы видим,
что достаточно доказать лемму для f^C°°(Un). Полагая
S = SR(x) и рассматривая внешность шара BR(x) как объ-
объединение сфер с центром в х, по предположению получим
f{y)dy= \ f(y)dy,
где правая часть не зависит от х. Дифференцируя по хь,
найдем, что
B5) \ (dif)(x + y)dy=*Q.
BR@)
Воспользуемся теперь формулой Грина для векторного поля
F на R":
B6) \ (d\vF)(y)dy= \ (F,n)(s)d(o(s),
где п —единичный вектор внешней нормали, a da> — эле-
элемент поверхности на сфере SR@). Для векторного поля
F(y)= f(x + y)d/dyi из формул B5) и B6), учитывая со-
соотношение п = /?-' (si, ..., sn), получаем
B7) \ f(* + s)*|rf<i>(*) —0.
SR @)
Но по условию B4)
J f(x + s)x, da (s) = 0;

§ 2. ПРЕОБРАЗОВАНИЕ РАДОНА В С~ (а") И <У (р")
следовательно, складывая эти соотношения, находим, что
Это означает, что условия леммы выполнены и для функции
.v,/(.v). Последовательное использование этого факта даст
[ f (s) P (s) da> (s) = 0 для любого полинома Р.
<?
Следонатсльно, f = 0 на S, что доказывает лемму, а вместе
с иен и теорему 2.6.
Следствие 2.8. Пусть функция /eC(R") удовлетворяет усло-
условию (i) теоремы 2,6 и /(?)=0 для всех гиперплоскостей ?,
лежащих вне некоторого компактного выпуклого множе-
множества С. Тогда
B8) f(*) = 0 при хф.С.
Действительно, если В — замкнутый шар, содержащий
множество С, то по теореме 2.6 f(x)= О при хфВ. Но мно-
множество С является пересечением таких шаров, что и приво-
приводит к соотношению B8),
Замечание 2.9. При доказательстве леммы 2.7 применялось
условие (i) быстрого убывания (мы пользовались тем, что
|x|ft/(x) e U (Rn) для любого &>0). Естественно задаться
вопросом: нельзя ли ослабить его в теореме 2.6 и, быть мо-
может, совсем отбросить в лемме 2.7?
В качестве примера, показывающего, что условие быст-
быстрого убывания нельзя исключить ни в одном из этих резуль-
результатов, рассмотрим при п — 2 функцию f(x, у) = (х -+- iy)~5,
измененную в малом круге около начала координат так,
чтобы полученная функция была гладкой в R2. По теореме
Ко для большого полукруга имеем \ /{х)dm(х) = 0 для
i
любой прямой /, лежащей вне единичного круга. Таким об-
ра.чом, выполнено условие (И) теоремы 2.6. Следовательно,
условие (i) не может быть отброшено или существенно
ослаблено.
Тот же пример годится и для леммы 2.7. Действительно,
пусть S — окружность |г — го| = г, охватывающая единич-
единичный круг. Тогда da>(s)— —irdz/(z — Zo), и по формуле вы-
вычетов

26 ГЛ. I. ПРЕОБРАЗОВАНИЕ РАДОНА В R п
(вычеты в точках 2 = 0 и z = г0 сокращаются). Следова-
Следовательно, на самом деле \ f(s)du>{s) — Q.
s
Напомним теперь, что <?>/,(Р") обозначает пространство
С^-функций <р(?) = ср(со, р) на пространстве Р" с компакт-
компактным носителем, таких что для любого ?e=Z+ функция
\ ф(со, p)pkdp является однородным полиномом степени k по
переменным оц, ..., соп.
Комбинируя теоремы 2.4 и 2.6, мы получаем следующую
характеристику преобразования Радона пространства
() ()
= C?°(Rn), которую можно рассматривать как аналог
(для преобразования Радона) теоремы Пэли — Винера для
преобразования Фурье (см. Хёрмандер [1963]).
Теорема 2.10 (теорема Пэли — Винера). Преобразование Ра-
Радона является биекцией пространства 0(R") на простран-
пространство @>н(Рп).
Мы закончим этот параграф вариантом теоремы 2.6
и следствием из нее.
Лемма 2.11. Пусть feCc(R"), A > 0 и щ — фиксированный
единичный вектор. Пусть, далее, N с: S — окрестность век-
вектора (о0 на единичной сфере S в R". Предположим, что
f((o,p) = Q при coeJV, p> A.
Тогда
B9) f(x)=O в полупространстве (х, шA) > А.
Доказательство. Обозначим через В замкнутый шар с цент-
центром в начале координат, содержащий носитель функции f.
Выберем е > 0 и обозначим через Н& объединение всех по-
полупространств {{х, со) > А -(- е}, где со пробегает окрестность
N. Тогда по нашему предположению
C0) f(S) = O при ?еЯ,
Выберем теперь шар Ве с центром на луче, проходящем
через начало координат вдоль вектора —соо, содержащий
на своей границе точку (/1 + 2е)со0 и имеющий столь боль-
большой радиус, что любая гиперплоскость ?, пересекающая В
и не пересекающая ВЕ, лежит в ЯЕ. Тогда, в силу соотноше-
соотношения C0),
f(l) = Q при &еР", ?П5е = 0-
Следовательно, по теореме 2.G f(x) = O при х^Ве. В част-
частности, /(х) = 0 при (х, со0) > А + 2р.. Поскольку е > 0 про-
произвольно, лемма доказана.

5 3. ФОРМУЛЫ ОБРАЩЕНИЯ 27
Следствие 2.12. Пусть N — произвольное открытое подмноже-
подмножество единичной сферы S"-1. Если f<=Cc(kn) и f (со, р) = О
при р<^'\\ (oe/V, то / = 0.
Так как /(—со, — р) = f (со, р), то утверждение следует из
ломм*-1 2.11.
§ 3. Формулы обращения
Ниже мы установим явные формулы обращения для пре-
преобразования Радона /-»-/ и дуального преобразования
ф -*¦ Ф-
Теорема 3.1. Функция /e<?(R") может быть восстановлена
по ее преобразованию Радона с помощью следующей фор-
формулы обращения:
где с — постоянная, определяемая формулой
с = (- 4я)(/1~1)/2 Г (п/2)/Г A/2).
Здесь L — оператор Лапласа в пространстве R". Для чет-
четных а дробная степень Цп-]^2 нуждается в дополнительном
определении, которое будет дано в процессе доказательства.
Напомним сначала известный факт, согласно которому
если функция /eC2(IR") радиальна, т. е. f(x) — F(r), r —
= \х\, то
d2F , п—1 dF
+
Это немедленно следует из соотношения
dxj ~ dr2 \dxl ) dr dx]
Лемма 3.2. (i) Для любого г > 0 справедливо соотношение
LMr = M'L.
(ii) Среднее значение (Mrf) (x) функции /<=C2(R") удов-
удовлетворяет уравнению Дарбу
Lx (M'f) (х) = (^т + ~± Jr) Wf (x));
другими словами, функция F (х, у) = (M^f) (х) удовлетворяет
Уравнению
Lx(F(x,y))^Ly(F{x,y)).
Доказательство. Мы докажем эту лемму теоретико-группо-
теоретико-групповым способом, используя выражение A5) для среднего зна-

28 ГЛ. I. ПРЕОБРАЗОВАНИИ РАДОНА В К'"
чсния. Для точки геР" и матрицы k e К обозначим через
7'г сдвиг x-*-x-\-z, а через Rit вращение x-+k-x. Так как
оператор L инвариантен относительно этих преобразований,
то, полагая г — \у\, имеем
Р7) W = \ 1-х (/ {x + k. у)) dk = 5 (Z.f) (х + /г//) J6 =
= (MrLf) (x) = J [(Lf) о Г,
= J [Z. (f о уя о Rk)] (if) dk=Lyf\f{x + ky) dk\
что и доказывает лемму.
Для доказательства теоремы 3.1 предположим, что ^ е
<=9*(R"). Фиксируем гиперплоскость ?,0, проходящую через
начало координат, и цзометрню g^M(n), Если k пробегает
всю группу О(п), то gk-^o пробегает множество всех гипер-
гиперплоскостей, проходящих через точку g'-O, и мы имеем q (.,' • 0)=
р
— \ ф(gk ¦ |0)dk. Поэтому
к
(f)" (e-O)=\(\f(gkn) dm (;,)) dk
= 5 dm (//) J / {gk ¦y)dk=\i(M\y l/) (g ¦ 0) dm (//).
Ь К I»
Следовательно,
C2) (frw
где Q,,_i — площадь поверхности единичной сферы в про-
пространстве К"Л т. е. ?2„_, =2л'"-')/2/Г((«— 1)/2).
Применяя оператор L к обеим частям соотношения C2)
и используя формулу C1) и лемму 3.2, получаем
C3) 1((;Г) = ип_
где F(r) — (Mrf)(x). Интегрируя по частям н пользуясь тем,
что F@)= f(x) и lim rRF(r) = 0, получаем
при й=3,
при п>3.

§ 3. ФОРМУЛЫ ОБРАЩЕНИЯ 29
Более общо, имеем
Lx(\ (Ai7)Wr*<
— (л — 2)f(x) при k — l,
-(л- 1 — k)(k— \)\ F(r)rk-2dr при k>\.
При нечетном « формула обращения в теореме 3.1 полу-
получается отсюда с помощью последовательной редукции.
Обратимей теперь к случаю четных п. Мы будем поль-
пользоваться определением дробной степени оператора Лапласа
lj.ii-\)П |, смысле потенциалов Рпсса /v (см. формулы (85),
(Н(>) n:t § 8). В силу формулы A7),
(.44) (f)"-2"-1at"l/2)-1r(rt/2) /'-f.
Воспользовавшись предложением 8.6 и определением опера-
оператора L{"-A>/'2, получаем искомую формулу:
C5) L("-1)/2((f)") = cf.
Докажем теперь аналогичную формулу обращения для
дуального преобразования <р-»-ф на подпространстве 9)*{Vn).
Теорема 3.3. Справедливо соотношение
где с — постоянная, определяемая формулой
с = (_ 4nf~m Г (га/2)/Г A/2).
Здесь, как и раньше, D обозначает оператор d2/dp2, а его
дробные степени снова определяются а терминах потенциа-
потенциалов Рпсс-н па одномерном пространство переменной р.
При нечетном п искомая формула обращения следует из
печегиомериого случая теоремы 3.1, если положить /=ф
п принять но внимание лемму 2.1 и следствие 2,5. Предпо-
Предположим теперь, что п четно. Мы утверждаем, что
(Щ ((--//•-"'-/)~ = (-D)("-')/2f, /е=.Г(К").
ДеГи-пште.чыю, по лемме 8.5 и следствию 2.5 обе части этого
соотношении принадлежат пространству ^*(!;я). Взяв одно-
одномерное преобразование Фурье от ((—/-)'""')'"/) , с помощью
формулы D) получим, что ((—L)(n~mfY(sv>) = \s\n'lJ{sia).
Последнее выражение совпадает с преобразованием Фурье
от (— ?)" '" f. Следовательно, формула C(>) доказана. Тео-

30 ГЛ. 1. ПРЕОБРАЗОВАНИЕ РАДОНА В R "
рема 3.3 вытекает теперь из соотношения C5), если в фор-
формуле C6) положить (f = g, f — (g)~, ge?"(R").
Ввиду теоретической важности теоремы 3.1 мы приведем
здесь еще одно се доказательство. Оно менее гсомстричио,
и в нем используется только одномерное преобразование
Фурье.
Обозначим через Ж преобразование Гильберта
(ад (/) = ¦!. \ {^
где интеграл понимается в смысле главного значения по
Коши. Для функции фе^(Р") определим функцию Лф фор-
формулой
—^ггФ(й)>Р) ПРИ нечетном п,
C7) "-w" ч ' dp
Жр—^гг(Р(а)'/') ПРИ четном п.
Заметим, что в обоих случаях (Лф) (—со,—р) = (Лф) (ш, р),
следовательно, Лф — функция на пространстве Р".
Теорема 3.4. Пусть оператор Л определен формулой C7).
Тогда
где, как и раньше, с = (— 4л) «"-'^Г (я/2)/Г A/2).
Доказательство. Формула обращения для преобразования
Фурье вместе с формулой D) даст
оо - оо
ОО / I
„с с I i
f(x) — Bn) \ rfco\ ( '
Sn-I 0 \-
Запишсм это соотношение в виде
sn-\ sn-l
С учетом равенства /(-—ш, —p) =/(w,/)) мы приходим к фор-
формуле
C8) /(*)=4BлГ
-1
Если п нечетно, то знак абсолютной величины при s можно
опустить, а множитель s"-1 можно учесть заменой /(со, р)

§ 4. ФОРМУЛА ПЛЛНШНРНЛЯ 31
.in -1 .
/)' —^тг1(а' Р)- Тогда формула обращения преоб-
преобразования Фурье на R дает
/(д.) = ±BяГ"Bя)(-/Г1 \
что и требовалось доказать.
Предполагая теперь, что п четно, положим sgn s = 1 при
s ^ 0 и sgn s =—1 при s < 0. Тогда, обозначая константу
перед интегралом через сй, получим
C9) f(x) = c0 J da J (sgn s)e's^^ds \-jr=V f (®> P)e~isp<*P-
sn-l P
Главное значение в смысле Коши
является обобщенной функцией медленного роста, преобра-
преобразование Фурье которой равно —m'sgns (см. Шварц [1966,
гл. VII]). Следовательно,
D0) №{F)) (s) = sgnsF(s).
Таким образом, множитель sgns можно учесть с помощью
замены функции тг!(®>Р) на Л/(<й,р). Формула обра-
clp
щения для одномерного преобразования Фурье приводит те-
теперь к нужному результату.
§ 4. Формула Планшереля
Напомним, что функции на пространстве Р" отождеств-
отождествляются с функциями ф на S^'XR, которые четны:
ф(—со,— р)= ф(со, р). Следовательно, функционал
D1) Ф- \ \<?(<*,p)d(»dp,
\
представляет собой корректно определенную меру на Р",
обозначаемую da dp. Группа М(п) жестких движений про-
пространства V" транзитивно действует на Рв. Она также остав-
оставляет меру dcoclp инвариантной. Последнее утверждение до-
достаточно проверить для сдвигов Т из М(п), поскольку группа
М(п) порождается трансляциями и вращениями вокруг на-
начала координат, а мера da>dp с очевидностью инвариантна

относительно таких вращении. Но (ср , Т) (w, р) — ф(со, р +.
+ 9(ш. 71))» гДе число д(со, Г)е1\ не зависит от р. Следова-
Следовательно,
(ф о Г) (со, р) dto dp = \ \ ф (со, р + <7 (°>, Т)) dp da> =•=
J J
что и доказывает инвариантность меры.
Согласно формулам (85) и (86) из § 8, дробная степень
? * оператора ? определяется на пространстве ^(Р") фор-
формулой
D2) (- d)v ф (о, р) - Hi *_т \ ф («», q) I р - я Г2* </</•
Применяя одномерное преобразование Фурье, получаем от-
отсюда
Далее, если /eP'fP"), то по формуле D) /(ю, р) =
= Bл)~1 \ f{s(o)eisPds и
D4) (-D)("-1/(o),/>) = BK)-|
Теорема 4.1. Отобраоюение /->¦ П("-|)//4/ продолжается до изо-
метрии пространства I2(R") м« подпространство /J(S"~' X R)
четных функций из L2( $п~] X К); «Р« -тож жера на я/?о-
странстве S ""' X R задается выражением 9"Bit) ~nd(adp.
Доказательство. В силу соотношения D4), из формулы
Плапшереля на оси 1\ вытекает равенство
Следовательно, интегрируя по сфере S"~' и используя фор-
формулу Плапшереля для отображения f(x)->-](s<a), получаем
ID'"-11'1/^, p)\4mdp.
Осталось доказать, что паше отображение сюръективио. Для
этого достаточно показать, что если четная функция (ре
s L2( S"-1 X R) удовлетворяет условию

5 б. ПРЕОБРАЗОВАНИЕ РАДОНА ОБОБЩЕННЫХ ФУНКЦИЙ 33
Sfl-1 p
для любой функции /e^(R"), то ф = 0. Переходя к преоб-
преобразованиям Фурье, покажем, что если четная функция г|з е
е L2( S"~' X Ю удовлетворяет условию
D5) \ J + К s) I s |(л~1)/2 f (sffl) rfs rfo = 0
«^-l R
для любой функции /eSZ7(Rn), то г|? = 0. Пользуясь условием
i|) (—ш, —s) = я|з (to, s), находим, что
it
К©, s) I s |*"-iwa f (sa>) tfs rfa» —
n-i о
Тем самым условие D5) остается справедливым при замене
оси R на положительную полуось R+. Но тогда функция
Ч? («) = ф (и/1 ы |, | и |)| и Г'"'2, «eR*- {0},
удовлетворяет условию
\ Ф («)/(«) rf«- 0, /
_
и, следовательно, 4х = 0 почти всюду, откуда яр = 0.
§ 5. Преобразование Радона обобщенных функций
Ниже в более общей ситуации (гл. III, предложение 2.2)
мы покажем, что
D6) $f«)q>(l)<«-$f(*LK*)d*.
Р" R"
где /eCc(R"), феС(Р") и dg — подходящая фиксирован-
фиксированная М(п)-инвариантная мера на пространстве Р". Иначе го-
говоря, d\ = у flfco dp, где у — константа, не зависящая от /
и ф. Имея н виду приложения к обобщенным функциям, мы
докажем формулу D6) в несколько более сильной форме.
Лемма 5.1. Формула D6) (для функций f и ф, определенных
почти всюду) справедлива в следующих двух случаях:
a) функция /e!'(R") и обращается в нуль вне некото-
некоторого компактного множества; ф е С(Р");
b) / е Cc(Rn), функция локально интегрируема.
При этом dl = Q~l rf© dp.
2 Зак. 563

ГЛ. I. ПРЕОБРАЗОВАНИЕ РАДОНА В
Доказательство. Воспользуемся дважды теоремой Фубини на
произведении R"X SM и на произведении !R" = К' X Н"-1.
Так как f<=Ll{Rn), то для любого юе S"-1 функция /(со,р)
существует для почти всех р и
К Р) dp.
Мы заключаем также, что функция f((o,p) существует для
почти всех точек (со, р)е S"~' X №. Рассмотрим далее на
пространстве R"X SM измеримую функцию {х, <о)-»-
->/(х)ф(со, (со, х)). Имеем
sn-lxKn
( \ I / (л:) ф (о, (ю, jc)) \dx\dv)--
- J А|/Г(со,р)|ф((о,
sn-l \R
причем последнее выражение конечно в обоих рассматривае-
рассматриваемых случаях. Таким образом, функция f(x) •ф(а), (ю, х)) ин-
интегрируема на пространстве K"XSn~', и интеграл от нее
вычисляется по вышеприведенной формуле, в которой нужно
опустить знак абсолютной величины. В результате получим
левую часть соотношения D6). Меняя порядок интегрирова-
интегрирования, мы заключаем, что функция ф{х) существует для почти
всех точек х, а двойной интеграл преобразуется в правую
часть соотношения D6).
Формула D6) подсказывает, как определить преобразо-
преобразование Радона и дуальное к нему преобразование для обоб-
обобщенных функций. Чтобы согласовать это определение с соот-
соответствующим определением для функций, мы должны фор-
формально положить S(q)) = S(<p) и 2(/) = 2(/), где S и 2 —
обобщенные функции соответственно на пространствах R"
и Р". Но, в то время как включение /e®(R") влечет за
собой включение f e2)(P°), для ф аналогичное утверждение
не верно; нельзя даже утверждать, что qpe^R"), если
фе®(Р"). Следовательно, обобщенную функцию 5 нельзя
определить так, как это сделано выше, даже в случае, когда
5—обобщенная функция медленного роста. Обозначая че-
через 8 (соотв. &)) пространство С°°-функций (соотв. С°°-фуик-
ций с компактным носителем), а через 3)' (соотв. &') про-
пространство обобщенных функций (соотв. обобщенных функций
с компактным носителем), дадим следующее

5 5. ПРЕОБРАЗОВАНИЕ РАДОНА ОБОБЩЕННЫХ ФУНКЦИИ 35
Определение. Для обобщенной функции S<^&'(R") опреде-
определим функционал 5 формулой
SD>) для
для обобщенной функции 2е0'(Р") определим функцио-
функционал 2 формулой
2(/)=2(/) для /€=?>(R").
Лемма 5.2. (i) Для любой обобщенной функции 2ей5'(Р")
имеет место включение 2 e2)'(R"),
(ii) Для любой обобщенной функции S^^'(Rn) имеет
место включение 5 е#"(Р")
Доказательство. Пусть А > 0. Обозначим через 3!)A(Rn) мно-
множество функций /ei?5(Rn) с носителем в замыкании шара
ВА{0). Аналогично через 2)а(Рп) обозначим множество функ-
функций фе2)(Р") с носителем в замыкании «шара»
р» @) = {% s Р": d@,l)<A].
Так как отображение f-*-f из iZ^IR") в ^(Р") непрерывно
(в топологиях, определенных в § 8), то ограничение функ-
функционала S на каждое пространство 2)А(№п) непрерывно, от-
откуда и следует утверждение (i). Тот факт, что функционал 5
является обобщенной функцией, с очевидностью следует из
формулы C). Для доказательства компактности его носи-
носителя пыберем число R > 0 так, чтобы носитель 5 содержался
внутри шара BR@). Тогда если ф(<о, р) = 0 при |р|^#, то
ф(*) = 0 при |*|<;/? и, следовательно, 5(ср)= S(qi) = 0.
Лемма 5.3. Для функционалов Se=<gT'(Rn) и 2е0'(Рп)
имеем
Доказательство. Действительно, по лемме 2.1
(LSf (Ф) = (LS) (ф) = S (L® =S((П фГ ) = S (D Ф) ¦= (П §) (ф).
Второе соотношение доказывается аналогично.
Докажем теперь для обобщенных функций аналог тео-
теоремы о носителе (теорема 2.6). Пусть, как и раньше, рл@)
обозначает шар в Р" радиуса А, А > 0.
Теорема 5.4. Пусть обобщенная функция Т е$"l(Rn) удов-
удовлетворяет условию supp(?)cCl(|}''1@)), где символ С1 обо-
обозначает операцию замыкания.
Тогда supp(]f)c: С1(?л @)).
2*

86 ГЛ. I, ПРЕОБРАЗОПАНИЕ РАДОНА В R*1
Доказательство. Для функций f^3)(Rn) и ф?Й)(Рл) рас-
рассмотрим «свертку»
где g— г/ обозначает сдвиг гиперплоскости |ер" на вектор
—г/. Справедлива формула
Действительно, для любой гиперплоскости go, проходящей
через начало координат,
(/•ф) (*) = $d? J f (^) Ф (Jt + А: • 1о
По определению обобщенной функции Т предположение о но-
носителе Т эквивалентно соотношению Т(ф) = О, справедли-
справедливому для асех функций <рей)(Р") с носителем в Р" —
— С1(рл@)). Выберем число е > 0, и пусть /' <= SD (R") — чет-
ная функция с носителем в шаре С1(Ве@)). Пусть, далее, но-
носитель функции ф<=й)(Р") принадлежит множеству Р" —
— С1(рл+е(О)). Так как d@, g —«/)< d@, ?) + |//|, то носи-
носитель свертки f ±ф содержится в множестве Р" — С1(рл(О)).
Отсюда по приведенным выше формулам и в силу четности
функции /
(/
Но тогда
а последнее означает, что носитель функции (f*T)~ содер-
содержится в шаре С1(р/4+е(О)). Значит, по теореме 2.6 носитель
свертки f*T содержится в С\(ВА+е\о)). Устремляя е к 0, мы
получаем требуемый результат: supp(r)c C\(BA@)).
Теперь мы можем распространить формулы обращения
преобразования Радона на обобщенные функции. Сначала
заметим, что на обобщенные функции 7" на R с компактным
носителем можно распространить преобразование Гильберта
Ж. Для этого достаточно положить
= Т (MF), Fe=2) (R).
Действительно, так как преобразование Ж представляет со-
собой свертку с обобщенной функцией медленного роста, то
отображение F-+2&F пространства 2){R) в #(R) непре-

5 5. ПРЕОБРАЗОВАНИЕ РЛДОПЛ ОБОБЩЕННЫХ ФУНКЦИИ 37
оывно (см. Шварц [1966, гл. VII, § 5]). В частности, Ж{Т)е=
Oft'tti\
Теорема 5.5. Преобразование Радона S-+$ (Sel"(R"))
обращается с помощью формулы
где константа с определяется формулой
с = (- 4я)<«-"/2 Г (л/2)/Г A/2).
б случае когда п нечетно, справедлива также формула
Замечание. Поскольку обобщенная функция 5 имеет ком-
компактный носитель, а оператор Л определяется через преобра-
преобразование Гильберта, то в соответствии со сказанным выше
AS e S>'(P"). Следовательно, правая часть доказываемого
соотношения определена корректно.
Доказательство. Используя теорему 3.4, получаем
Вторая формула обращения следует теперь из леммы 5.3.
Пусть М — многообразие и d\x— мера на нем, такая что
в каждой локальной карте с координатами (t\, ..., tn) лебе-
лебегова мера dl\ ... dtn и dji абсолютно непрерывны одна отно-
относительно другой. Если функция h локально интегрируема
на М относительно d\i, то обобщенную функцию <р —*¦ \ q>Adn
обозначим через Th.
Предложение 5.6. а) Пусть функция {<= V (R") равна нулю
вне компактного множества. Тогда преобразование Радона
обобщенной функции Tf дается формулой
D7) ff = Tf,
b) Пусть функция ф локально интегрируема на простран-
пространстве р». Тогда
D8) (ГФ)"=7-Ф.
Доказательство. Существование и локальная интегрируе-
интегрируемость функций f и ф была установлена в процессе доказа-
доказательства леммы 5.1. Обе формулы непосредственно следуют
теперь из леммы 5.1.
Из доказанного предложения вытекает, что условие глад-
гладкости функций в формуле обращения может быть отброшено.
В частности, имеет место

38 ГЛ. 1. ПРЕОБРАЗОВАНИЕ РАДОНА В R"
Следствие 5.7 (п нечетно). Формула обращения
справедлива для всех функций /eZ.'(R") с компактным но.
сителем, где дифференцирование понимается в смысле обоб-
обобщенных функций.
Примеры. Если ц — мера (или обобщенная функция) на под-
подмногообразии S многообразия М, то обобщенную функцию
на М, задаваемую формулой ф —»-ц(ф|5), будем обозначать
также через jx.
а) Пусть So есть б-функция f-*-f(Q) на пространстве R".
Тогда
Оо (ф) = бо (ф) — Ип \ Ф (©, 0) d(o
и, следовательно,
D9) ^«Q^/m^-i,
т. е. So есть нормированная мера на сфере S", рассматри-
рассматриваемая как обобщенная функция на пространстве S"~'X'R.
b) Обозначим через ?0 гиперплоскость {х„ — 0} в про-
пространстве R", а через 65 обозначим б-функцию ф->ф(|о) на
пространстве Р". Тогда б&,(/) = \ f(x)dm(x), откуда
E0) К = ти
т. е, 6§0 есть евклидова мера на гиперплоскости |0.
c) Пусть %в есть характеристическая функция единичного
шара В в IR". Тогда, в силу формулы D7),
а —
7~ \ I ^^ Р ) 1ШИ | U 5^ 1,
ХВ(<о,р)= «-1
0 при I р | > 1.
d) Пусть Q — выпуклая область в пространстве IR" с глад-
гладкой границей. Мы выведем сейчас формулу, выражающую
объем области Q через площади ее сечений гиперплоско-
гиперплоскостями. Для простоты будем считать, что п нечетно. Характе-
Характеристическая функция /Q является обобщенно» функцией
с компактным носителем, и потому преобразование Радона
{%и)~ корректно определено. Аппроксимируя Х'->- п0 ?2-норме
последовательностью функций (г|зт) с С)Г(Й), мы получаем,
согласно теореме 4.1, что последовательность dp"~ " ij>m(<», p)
сходится по /Лиорме на пространстве Р". Так как

§ 6. ИНТЕГРИРОВАНИЕ ПО d-МЕРНЫМ ПЛОСКОСТЯМ 39
то из неравенства Шварца вытекает, что фп-Кха)" в смысле
обобщенных функций, и соответственно д(п~1I2$т сходится
как последовательность обобщенных функций к д'п ' ((xti)")-
Так как ?2-нредел является пределом и в смысле обобщен-
обобщенных функции, то последняя функция совпадает с ^-пределом
последовательности функций d("-I)/2H|im. Поэтому из теоре-
теоремы 4.1 вытекает следующая
Теорема 5.8. Пусть, как и выше, Q есть выпуклая область
в пространстве IR" (п нечетно) и V(Q)—ее объем. Пусть
А(а>,р) обозначает (п — 1) -мерную площадь пересечения об-
области Q с гиперплоскостью {(х, со) = р). Тогда
E1)
jn—1 R
B.P) 2
dp<
dp dco.
§ 6. Интегрирование по d-мерным плоскостям.
Лучевые преобразования
Пусть d — фиксированное целое число, такое что 0 <.
<С d <C п. Так как гиперплоскость в пространстве R" можно
рассматривать как объединение параллельных of-мерных пло-
плоскостей (d-плоскостей), параметризованных точками про-
пространства IRn-'-d, то из формулы D) следует, что если функ-
функция fe^(Rn) имеет нулевые интегралы по всем d-плоско-
стям в IR", то она тождественно равна нулю. Аналогично из
теоремы 2.6 можно вывести
Следствие 6.1. Пусть функция f&C(Rn) удовлетворяет сле-
следующим условиям:
(i) для любого целого m > 0 функция xmf(x) ограничена
в R";
(И) для любой d-плоскости \d, лежащей вне единичного шара
U|< I, [ f(x)dm(x)*=*O,ede dm — евклидова мера.
Тогда!(х) = 0 при \х\> 1.
Определим d-мерное преобразование Радона /->f, по-
полагая
где | — произвольная d-плоскость. Принимая во внимание
приложения в рентгенологии, о которых будет сказано в
§ 7Ь), одномерное преобразование Радона часто называют
лучевым преобразованием. Теперь можно переформулировать
следствие 6.1 так:

40 Гл. i. Преобразование радона в r"
Следствие 6.2. Пусть функции f, geC(R") удовлетворяют
условию быстрого убывания: для любого m > 0 функции
\x\mf(x) и \x\mg(x) ограничены в R". Предположим, что для
d-мерных преобразований Радона этих функций выполнено
равенство f{l) = g(l), если d-плоскость | лежит вне единич-
единичного шара. Тогда
f(x) = g(x) при \х\>1.
Теперь мы обобщим формулу обращения из теоремы 3.1.
Для функции ф, непрерывной на пространстве d-плоскостей
в R", обозначим через ф функцию точки, определяемую фор-
формулой
где |х — единственная мера на (компактном) пространстве
^-плоскостей, проходящих через точку х, инвариантная отно-
относительно вращений вокруг х, полная масса которой равна 1.
Если а — фиксированная d-плоскость, проходящая через на-
начало координат, то по аналогии с формулой A6) имеем
E3) ф (*) = \ Ф (х + ka) dk.
к
Теорема 6.3. Обращение d-мерного преобразования Радона
в R" задается формулой
E4) cf = Ld/2((f)"), /a^(R"),
где с — (—4я) а'2Г (п/2) /T((n~d)/2).
Доказательство. По аналогии с формулой C2) имеем
О)" (х) - \ (\ fix + ky) dm (у)\ dk =
- \ dm (у) J / (х + ky) dk = \(Mly lf) (x) dm (у).
а К а
OO
Следовательно, (f) (*) = Qd\ (Mrf)(x)rd~l dr. Пользуясь по-
o
лярными координатами с центром в точке х, получаем
E5) tfM*) = t
Утверждение теоремы следует теперь из предложения 8.6.

§ 6. ИНТЕГРИРОВАНИЕ ПО rf-МЕРНЫМ ПЛОСКОСТЯМ 41
Выведем теперь из теоремы 2.10 результат, характери-
характеризующий образ пространства СГ(КЛ) при d-мерном преобра-
преобразовании Радона.
Множество G(d,n) всех d-плоскостей в пространстве R"
представляет собой многообразие, которое является однород-
однородным пространством группы М(п) изометрий пространства R".
Обозначим через Gd. n многообразие всех d-мерных подпро-
подпространств (т. е. flf-плоскостсй, проходящих через начало коор-
координат) в R". Параллельный перенос, переводящий произ-
произвольную ^-плоскость в соответствующую d-плоскость, про-
проходящую через начало координат, задает отображение я
многообразия G{d, л) на Ga, я- Прообраз лг1 (о) элемента не
е Gd, n допускает естественное отождествление с ортогональ-
ортогональным дополнением а1. Если а = я(?) и х" = а11"| ё. то будем
писать ? = (ст, *"). Тогда формулу E2) можно переписать
в виде
E6) f (о, к") = J / («' + х") dx'.
Для k е 7,+ рассмотрим полином
E7) Pk{u)=\f{x){x,u)kdx.
R"
Если « = «"(= 0х, то
/ (х) {х, u"f dx^ ^ \f(x' + х") (х"> "")* dx' dx".
Следовательно, полином
является ограничением полинома Pk на ах.
По аналогии с пространством 3)н(Рп) (см. § 2) опреде-
определим пространство S!>H(G(d, n)) как множество С°°-функций
Ф(!)= фи(*") с компактным носителем на пространстве
G(d, n), удовлетворяющих следующему условию:
(Н) Для любого UeZ+ существует однородный полином
Рк степени k на пространстве R", такой что для любой
d-плоскости а ^ Gd, п полином
Pa. k (U") = J ф0 (X") (X", U'f dx", U" <= О\
o-L
совпадает с ограничением Рц\а1.

42 ГЛ. I. ПРЕОБРАЗОВАНИЕ РАДОНА В Rn
Следствие 6.4. d-мерное преобразование Радона является
взаимно однозначным отображением пространства 2)(Rn) на
пространство 2Е>н (G (d, n)).
Доказательство. В случае d = п — 1 наше утверждение сов-
совпадает с теоремой 2.10. Сведем случай произвольного d
к случаю d — n— 1. Для этого достаточно доказать сюръек-
тивность в следствии 6.4.
Пусть (pe2)/)(G((f,n)) и иеР" — единичный вектор.
Выберем d-мерное подпространство о, перпендикулярное
к со, и рассмотрим (п — d— 1)-мерный интеграл
E8) Ф„(», Р)= \ <Р0(*")dn-d_,(*"). peR.
x I—p. x gel
Мы утверждаем, что этот интеграл не зависит от выбора
подпространства о. Действительно,
\ Ч'а (со, р) pk dp = \ pk (J Фо (*") dn_d_, (х")) dp =
Если мы выберем другое подпространство, перпендику-
перпендикулярное к со, скажем Oj, то по доказанному выше функция
4*0(ю, р) — Ч'оДш, р) будет ортогональна ко всем полиномам
от переменной р. Так как ее носитель компактен, то она тож-
тождественно равна нулю. Таким образом, мы получили кор-
корректно определенную функцию Ч^ю, р) = ^(ш, р), к кото-
которой применима теорема 2.10. По этой теореме найдется функ-
функция / е 3) (R"), такая что
E9) W(ffl,/))= J f(x)dm(x).
ОС, (й)-.р
Осталось доказать, что
F0) Фо(*")
Но из соотношений E8) и E9) следует, что интегралы по х"
от обеих частей соотношения F0) по любой гиперплоскости
в пространстве а1 имеют одинаковые значения. Таким обра-
образом, равенство F0) вытекает из инъективности (п — d— ])•
мерного преобразования Радона на о1. Следствие 6.4 до-
доказано.

§ Г. ПРИЛОЖЕНИЯ 43
§ 7. Приложения
а) Дифференциальные уравнения в частных производных
Формула обращения, фигурирующая в теореме 3.1, хо-
хорошо приспособлена для приложений к дифференциальным
уравнениям с частными производными. Чтобы пояснить это,
запишем ее в виде
F1) ( J
\s»-i
где постоянная у равна Bш")'~"/2. Заметим, что функция
fia(x) = /(«, (х, ш)) есть плоская волна в направлении ш, дру-
другими словами, она постоянна на каждой гиперплоскости, пер-
перпендикулярной к ш.
Рассмотрим теперь дифференциальный оператор D —
Tj ak k dk\x • • • $1" с постоянными коэффициентами ak ... t
и допустим, что нам нужно решить дифференциальное урав-
уравнение
F2) Du=~f,
где / — заданная функция из пространства ^(Rn). Для того
чтобы облегчить применение формулы F1), предположим,
что п нечетно. Начнем с дифференциального уравнения
F3) Dv=-U,
где /« — определенная выше плоская волна, и будем искать
решение v, которое также является плоской волной в на-
направлении со. Но плоская волна вдоль со является функцией
всего лишь одной переменной; кроме того, если v — плоская
волна в направлении со, то таковой же является и функция
Ov. Тем самым дифференциальное уравнение F3) (где v —
плоская волна) представляет собой обыкновенное дифферен-
дифференциальное уравнение с постоянными коэффициентами. Пред-
Предположим, что функция v = Ua, является решением, и допус-
допустим, что оно гладко зависит от ш. Тогда функция
F4) и-у^" [ ишй«>
является решением дифференциального уравнения F2). Дей-
Действительно, операторы и и L*"^2 коммутируют, поэтому
J
9Л-1

44 ГЛ. 1. ПРЕОБРАЗОВАНИЕ РАДОНА В Rrt
Этот метод предполагает только, что решение в виде пло-
плоской болны «,„ обыкновенного дифференциального уравнения
Dv = /w существует и может быть выбрано гладко завися-
зависящим от со. Последнее верно не всегда, поскольку оператор D
может аннулировать все плоские полны в направлении ш
(пример: оператор D = д2/дх\дх2 и вектор со = A,0)). Од-
Однако если ограничение оператора D на пространство плоских
волн нигде не обращается в нуль, то по одной теореме Трева
[1963] решение иа может быть выбрано гладко зависящим
от со. Таким образом, установлена следующая
Теорема 7.1. Предположим, что ограничение Da оператора D
на пространство плоских волн в направлении со не обра-
обращается в нуль ни для какого вектора со. Тогда формула F4)
дает решение дифференциального уравнения Du = f (f e
Метод плоских волн может быть применен также для ре-
решения задачи Коши для гиперболических дифференциальных
уравнений с постоянными коэффициентами. Проиллюстри-
Проиллюстрируем это на примере волнового уравнения в R":
F5) ?«=¦§?. «(*, 0) = 0, -^-(х, 0) = /(*),
где f e^(R") — заданная функция.
Лемма 7.2. Для любого вектора х е R"
(в6)
Доказательство. Гиперплоскость, перпендикулярная к век-
вектору х и отстоящая от начала координат на расстоянии р,
пересекает сферу S"-1 по (я — 2)-мерной сфере радиуса
A—/?2I/2. На этой сфере подынтегральное выражение по-
постоянно и равно (\х\р)к. Как видно из рисунка, ds/dp =
= A —р2)~112. Отсюда следует, что
sn-\
= 2 J Оя_, A —
о
и лемма доказана.
Воспользовавшись формулой F6) и тождествами (88)
и (89) из § 8, можно вывести для нечетного п тождество
F7) Цл+1)/2 \( \ f(y)\((x- у), со) |da\ dy = 4Bя0"-' /(х).

§ 7. ПРИЛОЖЕНИЯ 45
Предположим, что »/,„ — плоская волна в направлении со,
удовлетворяющая волновому уравнению Lua = дгии,/дР без
учета начальных условий. Тогда функция
Z(x, /)¦= J ua(x, /)</со
Sn-I
также является решением волнового уравнения, равно как
и свертка
v(x, /)= J f(y)Z(x-y,t)dy.
Производная от нее по времени удовлетворяет соотношению
М*. 0)= J f(y)Zt{x-y, Q)dy.
Имея в виду тождество F7), мы попытаемся определить ре-
решение uw таким образом, чтобы 2Г4 (лг, 0) = \ | (я, со) |dco.
Для этого достаточно положить
и. (*. 0 = Т ((*. и) + О2 sgn ((х, со) + /).
Тем самым получена следующая
Теорема 7.3. Пусть п нечетно. Решение задачи Коши F5)
дается формулой
A) Х
fix-У) J ((г/, со) + О2 sgn ((г/, ш) + /) dco rft/ "I.
p sn~' -^
При л = 3 мы приведем полученную формулу к другому
виду. Так как функция иа удовлетворяет волновому уравне-
уравнению, то эту формулу можно записать так:
\jt \ sgn ((*-</,*>)+/) Ли] dr/.
Как it в лемме 7.2, вычислим интеграл по сфере S2 с по-
помощью интегрирования по сеченням, перпендикулярным век-
вектору х — у. Это вычисление дает
i
x — у, v>)
S» -1

46 ГЛ. I. ПРЕОБРАЗОВАНИЕ РАДОНА В
что при t ^ 0 равно
.-1Л,/ i 4л\х — у\~Ч,
t>\x-y\.
'¦л\х — у\ '/, t<\x — y\,
Следовательно,
и(х,/) = _-!--
f(y)\x-y\'xdy=*
\*-v\>t
Тем самым доказано
Следствие 7.4. Яри л = 3 решение задачи Коши F5) дается
формулой
Замечания, (i) Похожая формула справедлива и для произ*
вольного п: решение задачи F5) дается формулой
«(*,/)=¦
(«-2)!
(см. Джон [1955, гл. II]).
(И) (Принцип Гюйгенса). Формула, фигурирующая
в следствии 7.4, показывает, что решение и(х, t) определено
значениями функции / на сфере S'(x) в пространстве R3.
Это свойство, называемое принципом Гюйгенса, в несколько
более слабой форме справедливо и в пространстве R" (если
п нечетно). Действительно, после выполнения дифференци-
дифференцирования dn~2/dt"-2 в предыдущей формуле мы приходим
к линейной комбинации производных от сферических сред-
средних M'f с полиномиальными коэффициентами вида
dk {M*f) (х)
откуда вытекает следующее утверждение:
При нечетном п решение u(x,t) задачи Коши F5) опре-
определяется значениями функции f в сколь' угодно тонком ша-
шаровом слое вокруг сферы S'(x).
Если п четно, то в формуле решения остается интегри-
интегрирование, и для нахождения решения и(х, t) необходимо
знать функцию / в шаре В1 (х).

<S 7. ПРИЛОЖЕНИЯ 47
b) Лучевое восстановление
Обычная интерпретация рентгеновского снимка есть не
что иное, как попытка восстановить свойства трехмерного
тела по его рентгеновской проекции на плоскость.
В современной рентгеновской технологии используется
более совершенная математическая интерпретация. Пусть
В -¦- некоторое тело (например, часть тела человека) в про-
пространстве К3.и f(x) обозначает его плотность в точке х. Пусть,
далее, ^ — прямая в IR3. Предположим, что тонкий пучок
рентгеновских лучей направляется на тело В вдоль прямой ?.
Обозначим через /о и / интенсивность пучка соответственно
до его нхода в тело В и после выхода из него. Тогда, со-
согласно физически установленному факту,
F8) log (у/) =[/(*) dm (*),
f
т. е. логарифм отношения интенсивностей равен интегралу
от плотности f по прямой |. Так как левая часть этой фор-
формулы определяется рентгеновским снимком, то задача луче-
лучевого восстановления сводится к нахождению функции f по ее
мптогралам f(?) вдоль прямых. Точное решение этой задачи
дастся формулой обращения из теоремы 3.1.
Если Во — выпуклое подмножество тела В (например,
сердце), то может представлять интерес определение плот-
плотности / вне множества Во с использованием лишь рентгенов-
рентгеновских лучей, не пересекающих Во. Теорема о носителе (тео-
(теорема 2.G, следствия 2.8 и 6.2) утверждает, что вне множества
Во плотность f определяется интегралами f(g) no не пересе-
пересекающим Во прямым \.
На практике интегралы f(%) в формуле F8) можно опре-
определить, разумеется, лишь для конечного числа направлений.
Но это компенсируется тем, что плотность / нужно знать
только приближенно. Тем самым возникает математическая
задача выбора направлений просвечивания таким образом,
чтобы оптимизировать искомую аппроксимацию.
Как и раньше, мы представляем прямую | парой g =
=»(<о, z), где <о eRn —единичный вектор в направлении ?
и г = ? П со1. При этом мы пишем
Функция Pvf представляет собой рентгеновский снимок, или
рентгенограмму, в направлении со. Здесь / есть функция на
R", равная пулю вне некоторого шара В с центром в начале
координат. Для того чтобы пользоваться методами гильбер-
гильбертовых пространств, удобно предполагать, что f^L2{B).
Тогда /eL'(Rn) и по теореме Фубини для любого вектора

48 ГЛ. 1. ПРЕОБРАЗОВАНИЕ РАДОНА В Rrt
с» е= S"~' функция (Paf) (z) определена для почти всех z
е ю1.. Более того, по аналогии с формулой D) имеем
G0) f(?) =
Предложение 7.5. Произвольный объект определяется любым
бесконечным множеством рентгенограмм.
Другими словами, функция f с компактным носителем
определяется функциями Paf для любого бесконечного на-
набора векторов со.
Доказательство. Так как функция f имеет компактный носи-
носитель, то / есть вещественно аналитическая функция на R".
Но если 7E) = 0 при 5 ею1, то 7(л) = (©, л)^(л) (т|еИ,
где g— также аналитическая функция. Итак, при условии
что для бесконечного набора векторов a>i, ..., ю*, ... все
функции PaJ P<*ki' • • ¦ тождественно равны нулю,
функция J(i\) представима в виде
для любого k, где gk—аналитическая функция. Но это про-
противоречит разложимости функции / в степенной ряд, из ко-
которой следует, что limf {t®)t~r Ф 0 для подходящего век-
f»0
тора iiieS" и целого числа г ^ 0.
Если использовать лишь конечное число рентгенограмм,
мы получаем противоположный результат.
Предложение 7.6. Пусть Юь ..., G^eS"-1 — произвольный
конечный набор векторов. Тогда существует функция
f е= С? (R"), / Ф 0, такая что Ра/ s 0 при всех 1 < i < k.
Доказательство. Мы должны найти функцию f s СГ (R"),
f^O, такую что fE) = 0 при Сегю1 A</<й). Для этого
возьмем дифференциальный оператор D с постоянными ко-
коэффициентами, такой что
(ЛиГ(Л)-П(^, 4)fl0l), r,eR".
Для произвольной функции и ф 0 из пространства СГ(К")
функция / = Dm обладает требуемым свойством.
Теперь рассмотрим задачу о приближенном восстановле-
восстановлении функции / по конечному числу рентгенограмм Рш /, . ..

§ 7. ПРИЛОЖЕНИЯ 49
Обозначим через Nj нуль-пространство оператора Pw,,
а через Р/— ортогональный проектор в пространстве L2(B)
на плоскость f-\-N/; иначе говоря,
G1)
где Q/ — (линейный) проектор на подпространство N/CZ
czL2(B). Положим Р = Рк ... Р,. Пусть g — произвольный
элемент пространства L2(B) (первое приближение для /).
Образуем последовательность Pmg, т = 1, 2 Положим
к
NQ= {] Nj и обозначим через Ро (соотв. Qo) ортогональный
проектор в пространстве L2(B) на плоскость f-\-No (соотв.
подпространство No). Мы докажем, что последовательность
Pmg сходится к проекции Pog; это довольно естественно, так
как, в силу включения Pog — f^No, функции Pog и / имеют
одни и те же рентгенограммы в направлениях ©i, .... ©*.
Теорема 7.7. В приведенных выше обозначениях для любой
функции g e L2(B)
Доказательство. Последовательно применяя соотношение
G1), мы приходим к равенству Pk ... P\g — f = Qk ...
• •• Q\(g — f)- Полагая Q = Qk ... Q\, получаем Pmg — f =
= Qm(g-f)-
Докажем теперь, что Qmg^>-Qog для любой функции g;
так как Pog = Qo{g — f)+f, то тем самым теорема будет
доказана. Но это утверждение вытекает из следующего об-
общего результата, справедливого в абстрактном гильбертовом
пространстве.
Теорема 7.8. Пусть 36 — гильбертово пространство и Q,—
проектор в Ж на подпространство NicM A^/^й).
k
Пусть, далее, No= f| Nt и Qo: Ж-^No — проектор на под-
подпространство No- Тогда если Q = Qk ¦.. Q\, то
Qmg -*¦ Qoe для любого g*=M.
Поскольку оператор Q является сжимающим (||Q|| ^ 1),
то мы начнем с доказательства простой леммы о таких опе-
операторах.
Лемма 7.9. Пусть Т: Эв^-Зё— линейный оператор с нормой
^ 1. Тогда имеет место разложение в ортогональную пря-
прямую сумму.
нуль-пространство оператора (/—Г),

50 ГЛ. 1. ПРЕОБРАЗОВАНИЕ РЛДО11Л В 1?"
где С1 обозначает операцию замыкания, а 1 — тождествен-
тождественный оператор.
Доказательство. Если Tg = g, то, в силу соотношения ||7"*|| =
= НЛ1<1, имеем \\g\\2 = (g,g) = (Tg,g) = {g,T*g)^
^ Ilg1[l|7"*g1| ^ llgil2, поэтому все члены в этой цепочке нера-
неравенств равны друг другу. Следовательно,
II g - rg ||2 = || g |p - (g, T*g) - (T*g, g) + II rg II2 = 0,
и, стало быть, T*g — g. Таким образом, операторы / — T
и f—T* имеют одно и то же нуль-пространство. Но соотно-
соотношение (/ — T*)g = 0 эквивалентно соотношению (g, (/ —
— Т)Ж) — 0, откуда и следует утверждение леммы.
Определение. Будем говорить, что оператор Т в гильберто-
гильбертовом пространстве Ж обладает свойством, (S), если
G2) из || („ || < 1, || 77„ II -> 1 следует || (/ - Т) fj -> 0.
Лемма 7.10. Всякий проектор и вообще всякое произведение
конечного числа проекторов обладает свойством (S).
Доказательство. Если Г —проектор, то
II (/ - Т) fn ||2 = || fn IP -1| Tfn ||2 < 1 -1| Tfaf -> 0,
когда ПМКГи II Tfn!!->!.
Пусть Т2 — проектор, н предположим, что оператор 7"ь
l|7'ill ^ 1. обладает свойством (S). Предположим, что для
последовательности векторов \п<^.Ж, таких что 11/^11^1,
справедливо соотношение \ТъГ\\А-*-\- Из неравенства
||7'i|| < 1 следует, что \Т\\п\ ^ 1, и, поскольку
мы получаем также, что ЦГ^Ц -*¦ 1. Тогда, в силу равенства
(/ ~ ВД f« - (/ - Г,) /„ + (/- Г2) r,fn,
оператор Г27[ обладает свойством (S). Доказательство
леммы завершается теперь по индукции.
Лемма 7.11. Пусть оператор Т обладает свойством (S) и
|| ГЦ ^ 1. Тогда для любого вектора \°^3в
Tnf-+nf при п->оо,
где л — проектор на подпространство неподвижных точек
оператора Т.
Доказательство. Пусть 1^Ж. Так как ЦГЦ ^ 1, то нормы
||7""f||, монотонно убывая, стремятся к некоторому пределу
«ЗгО. Если <х = 0, то Tnf->0. По лемме 7.9 пТ — Тп, по-
поэтому nf — Tnnf = nTnf, и, следовательно, в этом случае

§ 8. ДОБАВЛЕНИЕ. ОБОБЩЕННЫЙ ФУНКЦИИ 51
nf = O. Если а >0, положим g,, = \\Tnf\\-1 {Tnf). Тогда
Hg-,,11 = 1 и || 7"g-,»|| -*¦ 1. Так как оператор Т обладает свой-
свойством (S), то мы заключаем, что
Следовательно, 7'"/г —*- 0 для всех векторов h из множества
значений оператора /—Т. Если вектор g принадлежит за-
замыканию этого множества, то для заданного числа е > О
существует вектор fte(/ — Т)Ж, такой что \\g — ft|| < е.
Тогда
II Tng ||< || Г (g - h) || +1| Tnh ||< e + К Tnh ||,
следовательно, Tng->-0. С другой стороны, если вектор h
принадлежит пуль-прострапству оператора /—Т, то Th = h,
поэтому Tnh-*-h. Утверждение леммы вытекает теперь из
леммы 7.9.
Для того чтобы вывести теорему 7.8 из лемм 7.10 и 7.11,
нам нужно лишь проверить, что jVo есть подпространство не-
неподвижных точек оператора Q. Но если Qg = g, то
поэтому здесь всюду можно поставить знак равенства. Но
операторы Qi являются проекторами, поэтому из равенства
норм вытекает, что g — Q\g = Q2Qig = ... — Qk ... Qig,
откуда g <= No.
§ 8. Добавление. Обобщенные функции
и потенциалы Рисса'>
В этом параграфе мы изложим основные результаты тсо
рии потенциалов Рисса в пространстве Rn (Рисе [1949]).
Большинство этих результатов имеется в широко доступной
литературе, однако часть из них найти труднее, поэтому мы
приведем здесь замкнутое в себе изложение. Сначала кратко
напомним некоторые понятия теории обобщенных функций.
Для компактного интервала / числовой оси R обозначим
через C"(R) подпространство функций из СТ(Щ с носителем
в /. Это подпространство наделяется топологией, зада-
задаваемой семейством норм F); другими словами, последова-
последовательность (/„) сходится к нулю в СГ(К), если все производ-
производные f№ сходятся к нулю при я-»-оо равномерно на R. Ли-
Линейный функционал Т на пространстве СГ(К) называется
') См. также Владимиров В. С. Обобщенные функции в математиче-
математической физике. --М.: Паука, 1979; Гельфапд И. М., Шнлон Г. Е. Обобщен-
Обобщенные функции. Вы». 1—3. — М.: Физматгиз, 1958. — Прим. ред.

52 ГЛ. I ПРЕОБРАЗОВАНИЕ РАДОНА В (?"
обобщенной функцией на R, если его ограничение на каждое
из пространств C/°(R) непрерывно. Всякая локально интегри-
интегрируемая на R функция F определяет обобщенную функцию
TF: ф ->¦ \ ф (х) F (х) dx. Производная обобщенной функции Т
есть обобщенная функция ф->—Т(<р'). Если FsC'(R), то
обобщенные функции ТР- и GV)' совпадают (доказывается
интегрированием по частям).
Линейная форма на пространстве ^(R) называется об-
обобщенной функцией медленного роста, если она непрерывна
в топологии, задаваемой семейством норм F). Ограничение
обобщенной функции медленного роста на пространство
СТ (R) есть обобщенная функция, и, поскольку подпростран-
подпространство C?°(R) плотно в y(R), две обобщенные функции мед-
медленного роста совпадают, если они совпадают на C<T(R).
Если Г —обобщенная функция медленного роста на R,
то се преобразование Фурье Т есть линейная форма на (К
задаваемая формулой
где ф —преобразование Фурье, определенное в § 2. Так как
отображение ф->ф является гомеоморфизмом пространства
i?(R) на себя, то отсюда следует, что Т также обобщенная
функция медленного роста. Поскольку \ Ftp = \ Fy (ф, F^9" (R)),
обобщенные функции (TFy и Тр совпадают.
Ввиду того что понятие обобщенной функции служит об-
обобщением понятия меры, значение обобщенной функции Т на
функции ф иногда удобно записывать в виде
Говорят, что обобщенная функция равна нулю на открытом
множестве UczR, если Г(ср)=0 для любой функции
феСГ^)с носителем, содержащимся в U. Если U — объ-
объединение всех открытых множеств UaczR, на которых обоб-
обобщенная функция Т равна нулю, то, рассматривая разбиение
единицы, можно показать, что Т = 0 на 11. Дополнение
к множеству U называется носителем Т. Обобщенная функ-
функция Т с компактным носителем продолжается до линейной
формы на пространстве C°°(R) посредством формулы
где фо — любая функция из пространства С? (R), тожде-
тождественно равная 1 на носителе Т. Конкретный выбор ф0 не-

$ в, ДОБАВЛЕНИЕ. ОБОБЩЕННЫЕ ФУНКЦИИ 53
существен. Кроме того, Т есть обобщенная функция медлен-
медленного роста.
Если S и Т — две обобщенные функции, причем хотя бы
одна из них с компактным носителем, то их свертка есть
обобщенная функция, определяемая формулой
Эта обобщенная функция обозначается S*T. Если f^€7 (R).
то обобщенная функция Т\ * Т имеет вид Т8, где
поэтому для простоты мы пишем g = f*Т.
Если обе обобщенные функции S и Т имеют компактный
носитель, то носитель свертки S * Т также компактен. При
этом обобщенные функции 5 и Т имеют вид 5 = Ts и Т = Tt,
где s, /eC°°(R), и, кроме того, (S * 7") " = Tst. Последнее
соотношение можно записать в виде
(S*Tf=ST.
Эта формула остается справедливой, если Se^(R), a T —
обобщенная функция медленного роста.
Приведенные выше понятия (обобщенные функции, обоб-
обобщенные функции медленного роста, производная, преобразо-
преобразование Фурье и свертка) очевидным образом обобщаются на
случай многих переменных. Мы часто пользуемся обозначе-
обозначениями Шварца: 3>{Rn) для пространства С^(К); 8 (R") для
пространства C°°(Rn) и 9"(Ra) для пространства быстро
убывающих функций. Множество всех обобщенных функций
на пространстве R" обозначается S>'(Rn), множество всех
обобщенных функций медленного роста 9"(Rn), а множе-
множество всех обобщенных функций с компактным носителем
?r'(Rn). Имеют место следующие канонические включения:
SD (R") с 9> (Rn) с 8 (Rn)
п п п
8' (R") с 9" (R") с Sf (R")
Теперь мы подробно изучим несколько полезных при-
примеров.
Если комплексное число ae.Cj удовлетворяет условию
Re a > —1, то функционал
сю
G3) х«: ф ->- [ л;«ф (х) dx, Ф s 9> (R),

54 ГЛ. I. ПРЕОБРАЗОВАНИЕ РАДОНА В R"
является корректно определенной обобщенной функцией мед-
медленного роста. Отображение а->х™ полуплоскости Rea>
> -I в пространств обобщенных функций медленного роста
y'(IR) голоморфно (т. е. функция а^-х^{ц>) голоморфна для
любой qp ?^УAН)). Из соотношения
I 00
А« (ф) = \х* (ф (X) - ф @)) dx + ^ + J Х«ф (X) dx
О I
следует, что функция а-*д;^ продолжается до голоморфной
функции в области Rea>—2, а ф—1. Действительно,
00
Ф(*)-Ф(О)=*$ 4>'(tx)dt,
поэтому первый интеграл в предыдущей формуле сходится
при Re a > —2. Вообще, при помощи формулы
G4) X* (ф)=\ Ха ф (х)—ф@)—X(f>'@)—...— 7^—тт: ф<"-1) @)\dx +
о
Ф(*-" @)
I ft=l
функция а-»дс* может быть продолжена до голоморфного
отображения со значениями в 9"(К) на область
Rea> — п — 1, аф— 1, —2, ..., — п.
Таким образом, а-*ха+ является мероморфпой функцией
в комплексной плоскости .С. со значениями в пространстве
обобщенных функций, имеющей простые полюсы в точках
а ^= — 1, —2 Заметим, что ее вычет в точке a = —k
определяется формулой
G5) Res х% = lim (a + k) x% = ^~г Ь{к~",
где б(Л) —производная порядка h от б-функции. Заметим,
кроме того, чтол:^ — обобщенная функция медленного роста.
Рассмотрим далее для Rea>—-n обобщенную функцию
га на R", задаваемую формулой
Лемма 8.1. Отображение a->ra однозначно продолжается до
мероморфного отображения комплексной плоскости „С. в про-

§ 8. ДОБАВЛЕНИЕ. ОБОБЩЕННЫЕ ФУНКЦИИ 55
странство 3"'{Rn). Его полюсы расположены в точках а =
= —п — 2Л (AeZ+), причем все они простые.
Доказательство. При Re а > —п имеем
G6) /-а(Ф) = а
Заметим теперь, что функция среднего значения t-+(M'q>) @)
продолжается до четной С°°-фуикции на R (это следует, на-
например, из формулы A5) § 2) и ее производные нечетного
порядка равны нулю в начале координат. Что же касается
производных четного порядка, то при подходящем выборе
функции ф ни одна из них не обращается в нуль. Так как,
в силу формулы G6),
G7) га(ф)=а„/Гп-'((м'ф)(О)),
то первое утверждение леммы доказано. Согласно замеча-
замечаниям, сделанным выше относительно обобщенной функции
ха+, возможные (простые) полюсы функции га расположены
лишь в точках, для которых а + п—1 = —1, —2 Од-
Однако если а + п—1 = —2, —4, ..., то, ввиду равенства
(M^@))(h) =з 0 (h нечетно), из формулы G5) вытекает, что
функция га(ф) голоморфна в точках а = —п— 1, —п—3
С другой стороны, как показывает замечание относи-
относительно четных производных функции А1'ф, точки а = —n—2h
(h^Z+) действительно являются полюсами. Заметим также,
что, в силу формул G5) и G7),
G8) Res ra= lim (а + п) r° — Qnf>.
а--л а->-л
Напомним, что преобразование Фурье Т-*-Т обобщенной
функции медленного роста Т на R" определяется формулой
Вычислим теперь преобразования Фурье обобщенных функ-
функций медленного роста га.
Лемма 8.2. Имеют место равенства
G9) (г°У = Щ$р
(80) (г2*) ^ = Bя)" (~ L)" б, AeZ+.
Доказательство. Воспользуемся тем, что если'ф(А;) = е-1 *1'/2,
то ij>(и) = Bл)" е~|и'''^. Отсюда, в силу соотношения

56 ГЛ. I. ПРЕОБРАЗОВАНИЕ РАДОНА В Rn
=Wg-( мы получаем для функции фе^(Р") и числа
(81)
Умножим обе части этого равенства на t~a/2~{ и проинтегри-
проинтегрируем по /. Используя формулу
о
для левой части получим выражение
Г(-а/2J~а12\)<р(х)\х\ас1х.
Аналогично для правой части получим
-?-±-2-) 2{п+а)П \ Ф(и) \и\ -a-ndu.
Перемена порядка интегрирований возможна, если а лежит
в полосе —«<CRea<0, следовательно, для этих a фор-
формула G9) доказана. Для остальных а она получается ана-
аналитическим продолжением. Наконец, формула (80) вытекает
непосредственно из определений.
Лемма 8.3. Действие оператора Лапласа на функцию г°- за*
дается формулами
(82) Lr° = a(a + n-2)r°~2 (- a -n + 2 ф 2Z+),
(83) Lr2-n = B- п) Qn& {пф2).
При п = 2 это «уравнение Пуассона» заменяется следую-
следующим:
(84) L (log г) = 2яб.
Доказательство. При достаточно больших Re a формула (82)
проверяется простым подсчетом. Для остальных а она полу-
получается аналитическим продолжением. Для доказательства
формулы (83) воспользуемся преобразованием Фурье и тем
фактом, что (—LS) " = r2S для обобщенной функции мед-
медленного роста S. Следовательно, в силу равенства G9),
я"'2 2я"/2

§ 8. ДОБАВЛЕНИЕ. ОБОБЩЕННЫЕ ФУНКЦИИ 57
Докажем, наконец, формулу (84). Если фе®(Р2), то,
полагая F(r) — (ЛГср) @), имеем
00
jj (log r) (Lqp) (%)</*= J (log r) 2nr{MrL<v)@) dr.
R< 0
Последнее выражение с помощью леммы 3.2 приводится
к виду
5 (log r) 2nr(F" (r) + r~lF' (r)) dr,
о
что после интегрирования по частям дает
[(log г) 2шР' (г)\о - 2я J F' (r) dr = 2nF @).
о
Лемма доказана.
Ложный путь (Methode errone1)). Другой метод получения
формулы (84) состоит в том, чтобы в соотношении (82) по-
положить п = 2 и затем продифференцировать его по пара-
параметру а. Так как dra/da = (logr)ra, то (при помощи ана-
аналитического продолжения) мы получаем
L (dog г) га) = 2аг°-2 + а2 (log r)ra~2 (- а ф 2Z+).
В силу равенства G8), имеем
limara-2= lim (p + 2) г» «= 2яб.
а*0 Р2
Кроме того, !ima2ra~2 = 0, и мы, как будто бы, приходим
к неверному результату L(!ogr) = 4яб. Как указал мне
Р. Мелроуз, причина ошибки заключается в том, что умно-
умножение на log г не является непрерывным отображением про-
пространства 9" в себя. Чтобы преодолеть эту трудность, нужно
переписать соотношение (82) в виде L(a-'(ra—l)) = ara-2.
Формула (84) получается после перехода к пределу при
а->0.
Тепещ> мы дадим определение дробных степеней опера-
оператора L. Мотивировкой для него служит 'формула
По формальной аналогии нам хотелось бы иметь соотно-
соотношение
(<-ГУГУ («)-|«
См. Рисе [1949, с. 74].

58 ГЛ. 1. ПРЕОБРАЗОВАНИЕ РАДОНА В Rn
Поскольку преобразование Фурье свертки двух функций
равно произведению их преобразований Фурье, формула G9)
(при 2р = —а — п) подсказывает следующее определение:
(85) (_L)p/-/-2p(/),
где ft — потенциал Рисса
(86) (Pf)(х)--^ [f(y)\x-yrndy,
причем
(87, „Лу)
Переписывая правую часть формулы (86) в виде Hn(y)-l(f •
*rv-n)(x) и предполагая, что /<=У(К"), мы видим, что по-
полюсы функции rv~" компенсируются полюсами функции
F(v/2). Поэтому функция (Ivf)(x) продолжается до голо-
голоморфной функции в области .С„={уеС: у — n^2Z+}.
В силу соотношения G8) и формулы для й„, имеем также
(88) /°f = !jm/7=f.
Кроме того, из формулы (82) с помощью аналитического
продолжения получаем
(89) l4f = U*f = -I4-2f, fey(R"), VeCn.
Докажем теперь важное свойство потенциалов Рисса.
Предложение 8.4. Имеет место следующее тождество:
Ia (/»f) = /«+»/ при /s?(R"), Re a, Re |3 > 0,
Доказательство. Имеем
Подстановка v=a{x — z)/\x-~y\ преобразует внутренний
интеграл к виду
(90) \х-у |a+p-" J I v Г" I ю ~ о IP~" rfo,
где о» — единичный вектор (х — у)/\х — у\. Применяя вра-
вращение вокруг начала координат, мы видим, что интеграл
в выражении (90) равен числу
(91) cn(*,$)*\

5 8. ДОБАВЛЕНИЕ ОБОБШ.ГП|П>ТЕ ФУНКЦИИ 59
где ei=(l, 0, ..., 0). Предположения, сделанные относи-
относительно чисел а и C, гарантируют, что этот интеграл сходится.
По теореме Фубиии можно поменять порядок интегрирова-
интегрирований и получить
Осталось вычислить константу сп{а, Р). Для этого восполь-
воспользуемся следующей леммой. Пусть, как и в § 2, 9**(К") обо-
обозначает подпространство функций в ^(R"), ортогональных
ко всем полиномам.
Лемма 8.5. Любой потенциал Рисса 1а оставляет простран-
пространство 91* (к'") инвариантным.
Доказательство. В силу непрерывности, лемму достаточно
доказать лишь при тех а, для которых выполнены предполо-
предположения леммы 8.2, т. е. а — п, —a^2Z+. Но тогда если
feS?*(K"), то, в силу соотношения (<p*S)~=(j>S при
Ф е 9, S 6= 9", имеем
(93) (/e/)>)--j^(f*re-y
Так как все производные функции J равны нулю в начале
координат, то тем же свойством обладает и функция
f (и) |и|~а. Тем самым лемма доказана.
Теперь мы молсем завершить доказательство предложе-
предложения 8.4. Взяв функцию fo&P'*, положим в формуле (93)
f = 1%. Тогда
(/" (/Р/о))^ («) = W («) I« Г" - Го («) I « Г""Р - (/a+Sfo) ^ (и)-
Следовательно, скалярный множитель в соотношении (92)
равен 1. В процессе доказательства мы установили равенство
Г. ,a-n, Л-в ., '1п(а) НпФ)
R"
Докажем теперь вариант предложения 8.4, необходимый
в теории преобразования Радона.
Предложение 8.6. Яусгь 0 < k < /г. Гог<Эа
Доказательство. Согласно предложению 8.4, имеем
(94) ia([kf) = Ia+kf при 0 <Rea <»-/!.
Теперь, следуя предложению Р. Сили (R. Seeley), докажем,
что функция ф = lkf удовлетворяет условию
(95) sup| ф (х) 11 л Г"* < °°-

60 ГЛ. I. ПРЕОБРАЗОВАНИЕ РАДОНА В R
Для любого числа N > 0 справедлива оценка |/#)| ^
^^A+1^/1)"^, где Cn — некоторая постоянная. Следова-
Следовательно,
\VK\X\I2
\У\>\х\12
В первом интеграле имеем \х — у\к~п ^ \х/2\к~п, а для
оценки второго воспользуемся неравенством
A +1 У \YN <A + I У IГЫ~к+п A + I х/2 \)к~п.
Если N достаточно велико, то оба интеграла в правой части
предыдущей формулы удовлетворяют оценке (95), тем самым
неравенство (95) доказано.
Мы утверждаем далее, что функция /a(qp)(;e), которая,
в силу соотношения (94), голоморфна при 0<Rea<« — k,
продолжается до голоморфной функции в полуплоскости
Rea<tt — k. Это утверждение достаточно доказать для
точки х — 0. Представим функцию qp в виде суммы: qp =
= Ф1 + Ф2. где ф| — гладкая функция, тождественно равная
нулю в окрестности начала координат |х|<е, а ф2еУ(К").
Так как ф1 удовлетворяет условию (95), то при Rea<n — k
имеем
Следовательно, функция /°4pi голоморфна в указанной полу-
полуплоскости. С другой стороны, функция /аф2 голоморфна при
ae.Cn. Поэтому в соотношении (94) мы можем положить
a = —k, и наше предложение доказано.
БИБЛИОГРАФИЧЕСКИЕ ЗАМЕЧАНИЯ
§ 1—2. Формулы обращения
(i) I (*) я 1 BяО' ~ " L{2~|)/2 [ J (ю, (W, х)) da (n нечетно),
{„чет„0)
(ID fW-(a«o-tS-w« J to J ^

БИБЛИОГРАФИЧЕСКИЕ ЗАМЕЧАНИЯ 61
для функции /еС*(К")в терминах интегралов J(ot,p) от псе вдоль пло-
плоскостей восходят к работам Радона [19171 и Джона [1934, 1955].
Теорема о носителе, теорема Пэли — Винера и теорема Шварца (тео-
(теоремы 2.4, 2.6, 2.10) содержатся в работах Хелгасоиа [1961 А, 1965 Л].
Пример из замечания 2.9 был найден также Д. Дж. Ныомапом (см. статью
Bcrica [1967], где приводится другое доказательство теоремы о носителе).
Локальный результат, сформулированный в следствии 2.12, восходит к
Джону [1935]; наш вывод навеян доказательством близкой леммы и работе
Фленстед-Иеисеиа [1977, с. 83]. Другое доказательство содержится в
работе Людвига [1966].
Следствие 2.8 получено Людвигом [19661 другим способом. F.ro под-
подход к теореме Шварца и Пэли — Винера основан на разложении функции
f (to, р) по переменной ш в ряд по сферическим гармоникам. Однако основ-
основном факт — гладкость функции . f(?) в формуле B.7) на с. 57 п точке
| = 0 — не был установлен, и, видимо, его трудно получить при данном
подходе (это функция F в нашем доказательстве теоремы 2.4; ее глад-
гладкость в начале координат является основным моментом нашего доказа-
доказательства).
Так как для нечетных п сравнительно легко доказать формулу обра-
обращения (теорема 3.1), то в этом случае естественно попытаться доказать
теорему 2.4, непосредственно показав, что если <peSPH(P"), то функция
/ = сИя~1)/г (ф) принадлежит пространству S^fR") (в общем случае
ф <? 5? (R я)). Этот подход принят в книге Гельфаида — Граева — Виленки-
иа [1962, с, 34—39]. Если выкладки па с. 36—37 допускают обоснование,
то из них будет следовать частичный результат: f(x)-*-0 при |jc|-»-oo.
Следствие 2.5 установлено В. И. Ссмяиистым [1960].
§ 3—4. Приведенные выше формулы обращения (i) и (и) доказаны у
Джона [1955, гл. I] прямым вычислением, включающим решение урав-
уравнения Пуассона 1м = }. Другие доказательства, использующие обобщен-
обобщенные функции, даны в книге Гельфаида — Шилова [1959]. Дуальные пре-
преобразования f-*-f, ф-<-ф. унифицированная формула обращения и дуаль-
дуальная к ней формула
С/ = Цп-W ((j!)~), Сф = Q<n-0/2
даны автором в работе [1964 А]. Доказательства, взятые из работ Хелга-
сопа [1959, с. 284] и [1965 А], основаны на уравнении Дарбу (лемма 3.2)
и поэтому обобщаются на двухточечно-однородные пространства. Формулы
A7) и E5) были даны уже Фуледе [1958]. Согласно Радону [1917[, пер-
первая формула была замечена еще Гсрглотцем 1). Модифицированная фор-
формула обращения (теорема 3.4) и теорема 4.1 доказаны Людиигом [1906],
Последний результат, как указывается в книге Гельфаида—Граева — Ви-
леикниа [1962], принадлежит IO. Решетпяку.
§ 5. Подход к преобразованиям Радона обобщенных функций, принятый
в тексте, взят из статьи автора [1965В]. Другие методы предлагаются в
книге Гельфанда — Граева — Внлепкипа [1962] и в статье Людвига [1966]
(где также доказана формула D6)).
•) Как указано в работе: GrOnbaum F. A. Reconstruction with arbitrary
dimensions: dimensions two and three. In- Mathematical aspects of compute-
computerized tomography. — Lect. Notes in Medical Informatics, 8 A981), 112—126,
формула обращения преобразования Радона в трехмерном пространстве
была известна уже Лоренцу (см. Bockwinkel, On the propagation of light
in a two-axial crystal around a center of vibration. — Versl. Kon. Akad.
Wet., 1906, XIV2, 636—651). — Прим. ред.

62 ГЛ. I. ПРЕОБРАЗОВАНИЕ РАДОНА В R*
§ 6. W-мериые преобразований Радона и теорема 6.3 содержатся в работе
Хелгаеона [1959, с. 284]. /Лвариант следствия 6.4 доказан Солмоном
[1976, с. 77]. Другая характеристика образа d-мерпого преобразования
Радона (для d = I, п = 3) принадлежит Джону [ 19381 •
Некоторые трудности, связанные с d-мерным преобразованием Радона
на пространстве L2(R"), указаны в работах Смита и Солмона [1975] и
Солмона [1976, с. 68]. Например, функция f{x), равная |ж|~"/a(logfIxl)
при ]х\ :== 2 и пулю в противном случае, является функцией с интегри-
интегрируемым квадратом на пространстве R™, но не интегрируема ни по какой
плоскости размерности ^я/2.
§ 7. а) Некоторые отмеченные нами применения к дифференциальным
уравнениям в частных производных восходят к Герглотцу [1931]. Наше
рассмотрение в основном базируется на книге Джона [1955]. Другие при-
применения преобразования Радона к дифференциальным уравнениям в част-
частных производных с постоянными коэффициентами можно найти в работах
Куранта — Лакса [1955], Гельфаида — Шапиро [1955], Джона [1955],
Боровикова [1959], Гордиша [1961], Людвига [1966] и Лакса — Фнллип-
са [19G7J. Применения к общим эллиптическим уравнениям даны Джоном
[1955].
В то время как преобразованием Радона на пространстве R" можно
воспользоваться для того, чтобы дифференциальное уравнение в частных
производных «свести» к обыкновенному дифференциальному уравнению,
преобразования типа Радона па симметрическом пространстве X можно
использовать для «сведения» инвариантного дифференциального оператора
D па X к. дифференциальному оператору в частных производных с по-
постоянными коэффициентами (см. Хелгасон [1963, 1964В и 1973]). Фор-
Формула обращения дает, например, формулу для решения волнового урав-
уравнения на пространстве X [1963], аналог теоремы Шварца позволяет найти
фундаментальное решение для оператора D [I964B], а аналог теоремы
Пули — Винера доказывает сюръективность DC°°(X) =C°°(X) [1973].
В случае когда X есть трехмерное гиперболическое пространство, соответ-
соответствующее исследование волнового уравнения проведено Лаксом и Филлип-
сом [1979].
6) Применение преобразования Радона в медицине предложено Кормаком
[1963, 1964], а в радиоастрономии — Бренсуэллом и Риддлом [1967]. Мы
отсылаем читателя также к недавнему обзору Шспнп и Крускала [1978].
О задаче приближенного восстановления, включая предложения 7.5, 7.6 и
?точнения теорем 7.7 и 7.8, см. Смит, Солмоп и Вагнер [1977], Солмои
1976] и Хэмейкер и Солмон [1978]. Теорема 7.8 принадлежит Гальпе-
Гальперину [1962], а ее доказательство, приведенное в тексте, — Амемия и Андо
11965].
§ 8. Подробное изложение теории обобщенных функций па пространстве
ik1" и па многообразиях содержится п книге Шиарца [1966] или Трсва
[1967]. Сжатое, по замкнутое и себе изложение основ теории дано Хёр-
мапдером [1963]. Более, систематическое изучение потенциалов/v и обобщен
пых функции ra и я0^ имеется у Рнеса [1949], Шнарца [1966], Гельфан-
да — Шилова [1959]. Однако в литературе мы не нашли доказательства
предложения 8.6.

ГЛАВА II
ДУАЛЬНОСТЬ В ИНТЕГРАЛЬНОЙ ГЕОМЕТРИИ.
ОБОБЩЕННЫЕ ПРЕОБРАЗОВАНИЯ РАДОНА
И ИНТЕГРАЛЫ ПО ОРБИТАМ
§ 1. Дуальность в однородных пространствах
Формулы обращения из теорем 3.1, 3.3, 3.4 и 3.7 гл. I на-
наводят на мысль поставить общую задачу нахождения функ-
функции, заданной на многообразии, по интегралам от нее вдоль
некоторых подмногообразий. Для того чтобы установить
естественные рамки для такой задачи, рассмотрим преобра-
преобразование Радона f-*-f и дуальное к нему преобразование
ф-> ф с теоретико-групповой точки зрения. В основе этого
подхода лежит тот факт, что группа изометрий М(п) дей-
действует транзитивно как на пространстве R", так и на про-
пространстве гиперплоскостей Р". Следовательно,
A) R" = М (п)/О (п), Р" = М (п)/(Z2 X М (п - 1)),
где О (и) —ортогональная группа, оставляющая неподвиж-
неподвижным начало координат Оек" и 7,чУ^М{п — 1) — подгруппа
группы М(п), оставляющая неподвижной некоторую гипер-
гиперплоскость go, проходящую через начало координат (Z2 со-
состоит из тождественного преобразования и отражения отно-
относительно этой гиперплоскости).
Заметим теперь, что точка g\O(n) в первом из вышепри-
вышеприведенных факторпространств лежит в плоскости ^(^гХ
ХМ[п—1)) второго из этих пространств тогда и только
тогда, когда соответствующие классы смежности, рассматри-
рассматриваемые как подмножества группы М(п), имеют общую точку.
Это наблюдение приводит к следующей общей постановке.
Пусть G — локально-компактная группа, X и 5 — два
пространства левых классов смежности группы Or
B) X~Q/HX, B = G/tfs,
где Их и #в— замкнутые подгруппы группы О. Удобно сде-
сделать следующие предположения:
A) Группы G, Нх, Нг и Нх Л Янунимодулярны (правоинва-
риантная мера Хаара является также и левоинвариантной).
(п) Если /?*#sc: Hs Н*> то hx e На .
Если АнЯх с: HxHs> то hB e Нх.
(Ш) Множество НхН3 с: О замкнуто.

64 ГЛ. П. ДУАЛЬНОСТЬ В ИНТЕГРАЛЬНОЙ ГЕОМЕТРИИ
Заметим, что условие (iii) всегда выполнено, если хотя
бы одна из подгрупп Их и #в компактна.
Для двух факторпространств в формуле A) все приведен-
приведенные условия выполнены. Проверим, например, первую часть
условия (ii). Если HxHecz #=#*, т°. действуя подгруппами,
стоящими в обеих частях этого соотношения, на начало ко-
координат, мы получаем, что hx-'ioC^o, поэтому hx e На.
Элементы iel и |<= S называют инцидентными, если
их классы смежности в G пересекаются. Положим
jc —{?еЗ: х и \ инцидентны},
| = {jeeX: х и | инцидентны}.
Используя обозначение А8 = gAg-*, где g<= G, AczG, сфор-
сформулируем следующую лемму.
Лемма 1.1. Пусть g e G, х — gHx, I = gHz- Тогда
a) множество х есть орбита группы {Нх)е, которая сов-
совпадает с факторпространством {Нх)е/{НХ П Н*)е.
b) множество I есть орбита группы (Ня)е и ? =
(Я )/(# ЯИ
Доказательство. По определению x = {yHs: yHsQgH
что можно переписать в виде
C) x
Это множество классов смежности является орбитой точки
gHs. в пространстве S под действием группы gHxg~l. Под-
Подгруппа, оставляющая неподвижной точку gHs, есть
(gHag~l)[]{gHxg~l). Это доказывает утверждение а). Утвер-
Утверждение Ь) доказывается аналогично.
Пусть *о = {Нх} и ?о = {#з}—начало координат соответ-
соответственно в пространствах X и S. Тогда по формуле C)
% — g ' Xq, 1 — g • 1о.
где точка • обозначает действие группы G на простран-
пространствах X и S.
Лемма 1.2. Отображения х-*-х и |->-| взаимно однозначны.
Доказательство. Предположим, что jci, ^el и Х[ = &¦
Пусть элементы gi, ^eC таковы, что xi = g\Hx, x2 =
— g2Hx. Тогда, в силу формулы C), grxo — g2-h. Следо-
Следовательно, полагая g — gl^g2> мь' имеем g-xo = xo. В частно-
частности, g-lo&xo, поэтому, учитывая, что х0 есть орбита точки
|о^3 группы Нх, мы имеем ?-|о = й;г?о Для некоторого
элемента hx<=Hx- Следовательно, fix1 g = hs <= Нв- Отсюда
вытекает, что /isp*o —*о и» стало быть,

$ I ДУАЛЬНОСТЬ В ОДНОРОДНЫХ ПРОСТРАНСТВАХ 65
— Пх-?,о, т. с. hzHx cr НХИЭ. По условию (ii) hv e//<, что
даст a'i = х2. Лемма доказана.
По этой лемме X и 2 являются однородными простран-
пространствами одной и той же группы G, при этом каждую точку
in S можно рассматривать как подмножество в А", а каждую
точку нз X — как подмножество в S. Мы говорим, что X
и 2 суть однородные пространства, дуальные друг к другу.
Эта терминология подсказана обычной дуальностью про-
пространств К'" и Р" в проективной геометрии.
Отображения х~*-х и |->-| удобно также описывать с по-
помощью следующего двойного расслоения:
G/(HKC\HS)
>/ X
X = G/tfx E=G/W=
где отображения р и л задаются формулами p(gHx Г) #s) =
= #//*, л(#//* [\Ur) — gHs- Тогда, в силу C),
(Г.) jf^ji^-1^)), | = р(я-'(?))-
Лемма 1.3. Множества xcS « | с: X замкнуты.
Доказательство. Если ра\ G-^G/Яз — естественное отобра-
отображение, то
W>e) ' B - (*„)) = (я: g//s ^ Нх • Ив} - G - ЯхЯа.
В частности, Pe{G — НхНг)—2—Хо. Отсюда, используя
\словпс (iii) и тот факт, что отображение ра открытое, мы
заключаем, что множество Хо замкнуто. С помощью сдвига
получаем, что замкнуто н множество х. Аналогично доказы-
нается замкнутость множества|.
Примеры, (i) Точки вне гиперплоскостей. Если в приведен-
приведенном выше представлении A) рассматривать О[п) как группу
изотропии начала координат, a Z2M(«—1) как группу изо-
изотропии некоторой гиперплоскости, проходящей через начало
координат, то абстрактное понятие инцидентности эквива-
эквивалентно наивному: точка хеК" инцидентна гиперплоскости
с. е Р" тогда и только тогда, когда х е ?.
С другой стороны, группу '/,2М(п— 1) мы можем рас-
рассматривать как группу нзотронии некоторой гиперплоскости
с,л, находящейся на расстоянии б от начала координат (что
сводится к другому вложению группы /,2М(п—1) в группу
М(п)). Тогда имеет место следующее обобщение.
Предложение 1.4. Точка jteR" u гиперплоскость ?ер" ин-
инцидентны тогда и только тогда, когда dist(;e, ?) — б.

(its гл. и. дуальность в Ннткгрллыюп геомртрИн
Доказательство. Пусть x = gllx, 1 = уНв, где Нх = О(п)
и //=— /.2М(п — 1). Тогда если gHx (]yll= Ф 0, то ghx—
— Т^н для некоторых элементов /i.v e//* и /г=е//г . Орбита
//s-0 состоит из дпух плоскостей ^ и ?^, параллельных
плоскости ?6 и находящихся от нес па расстоянии б. Соотно-
Соотношение g • 0 = y/'s • 0 сг у • (^6 U I") вместе с тем фактом, что
g и у — нзометрпн, показывает, что точка х находится от пло-
плоскости ylb = i на расстоянии б.
С другой стороны, если dist(x, g) = 8, то g ¦ 0 е у ¦
¦ (i^ U ?e') == Y^s • °-а ат0 означает, что gHx[\yHz=?0.
(ii) Единичные сферы. Пусть о0 — сфера единичного ра-
радиуса в пространстве Ы", проходящая через начало коорди-
координат. Обозначим через 2 множество всех единичных сфер
н R"; мы получим дуальные однородные пространства
F) R" = М (п)/О (п), 2 = М (л)/О* (п),
где О*(п)— множество всех вращений вокруг центра сферы
(т0. В этом случае точка х = #О(я) инцидентна сфере о =
= уО*(п) тогда н только тогда, когда х ^ а.
(iii) Комплексные многообразия флагов. Рассмотрим
«-мерное комплексное пространство С." и фиксируем набор
целых чисел ()<(/]< ... < d, < п. Флаг в С" типа
(d], ..., dr) есть набор подпространств LfaL>tCi ... czLrcz
cz С", где dim Li = iU A ^ i < г). Множество /•',,| ... ar всех
<|)лагои в С" типа (d\, .... t/r) наделено естественной струк-
структурой комплексного многообразия: общая линейная группа
GL(ti,<C) действует па нем транзнтнвно с комплексной груп-
группой изотропии.
Рассмотрим, в частности, многообразие F\2 флагов типа
A,2) в пространстве С4, комплексное проективное простран-
пространство F\ = Pi{C) (пространство комплексных прямых в С4)
и грассманово многообразие F2 == G2,4(С) комплексных дву-
двумерных подпространств в С4. На этих многообразиях Fn, F\
п ^2 транзнтнвно действует группа UD), и паше двойное
расслоение D) принимает вид
Г7D)Д/A)
При этом определенные выше отображения х-*-х и |-»-|
таковы:
Л. Отображение х-*-х као/сдой комплексной прямой сопо-
сопоставляет множество содержащих ее двумерных подпро-
подпространств в С4.

§2. ПРЕОБРАЗОВАНИЕ РАДОНА ДЛЯ ДВОЙНОГО РАССЛОЕНИЯ 67
В. Отображение |-+-| каждому двумерному комплекс-
комплексному подпространству в С.4 сопоставляет множество содер-
содержащихся в нем комплексных прямых.
Отображения А и В использовались Пенроузом. В статье
Уэллса [1979] они названы соответствиями Пенроуза; мы
отсылаем читателя к этой статье по поводу их применении
к некоторым дифференциальным уравнениям математической
физики.
§ 2. Преобразование Радона для двойного расслоения D)
Принимая во внимание предположение об унимодуляр-
ностн (i), фиксируем инвариантные меры dg, dhx, dhs и dh
соответственно на группах G, Hx, Hz п И = Нх()Нз- По
теореме о существовании инвариантных мер на однородных
пространствах существует единственная Ях-ннвариаптпаи
мера d\i — d(hx)n на множестве хо = Нх/Н, удовлетворяю-
удовлетворяющая условию
G) \ f {hK) dhx=\(\f (hxh)dh)) dn (hxH)
"x *<Л" '
для любой функции /еСс(//х). Аналогично можно опреде-
определить Яз-ннварнантпую меру dm на множестве |0 = Н3/Н.
Мы покажем сейчас, что с помощью сдвигов отсюда полу-
получаются согласованные шшарнантпые меры па каждом из
множеств х.
Лемма 2.1. На каждом из множеств х существует ненулевая
мера, совпадающая с d\i на х0. При этом если g-x{ = х2, то
меры на множествах х\ и x-z согласованы в том смысле, что
мера на х2 совпадает с мерой, перенесенной на Х\ под дей-
действием g.
Аналогичное утверждение справедливо для множеств |.
Доказательство. Пусть x = g-xo- Преобразуем меру d\i на хо
в меру на х с помощью гомоморфизма ?-vg--|. Это даст нам
(Ях)г-инвариаптную меру на множестве х, но, поскольку та-
такая мера определена лишь с точностью до постоянного мно-
множителя, мы должны еще доказать ее независимость от вы-
выбора g. Но если g/-x0 = g-xQ, то (g-xo)~~(g'-xQ)~. Следо-
Следовательно, по лемме 1.2 g-xo = g'-x0 и, стало быть, g^g'Hx-
Так как мера d\i Я*-инвариантна на хо, то лемма доказана.
Меры на множествах х и |, определенные в лемме 2.1, мы
будем обозначать соответственно d[i и dm. Введем также
обозначения dgHx и dgllR соответственно для G-инвариаит-
ных мер на пространствах X и S, нормированных условиями
3*.

68 ГЛ. П. ДУАЛЬНОСТЬ В ИНТЕГРАЛЬНОЙ ГЕОМЕТРИИ
(8) \F^dS^\(\F (8hx) dhx) dgux,
)
а к \нх )
(9) \ Ф (g) dg = \( \ Ф (ghs) dh-Л dgHB.
Положим также для простоты dx = dgHK и dl = dgHn. Опре-
Определим теперь преобразование Радона /->f и дуальное к нему
преобразование ф->-ф формулами
A0) Ul)=
4 *
где feCt(^), феСс(Е). Так как множество | замкнуто,
то ограничение /|| принадлежит пространству Сс(|). Следо-
Следовательно, интегралы в формулах A0) корректно определены.
Формулы A0) можно записать также в теоретико-групповых
обозначениях:
(И)
/№)= \ f(ghzHx)d(hz)H, q>(gHx)= J <?(ghxHz)d(hx)H.
lls/H Hx/H
Предложение 2.2. Пусть f<^Cc{X), ipeCc(S). Тогда функ-
функции f и ф непрерывны и
Доказательство. Непрерывность функции f (и ф) немедленно
следует из формул A1). Рассмотрим теперь двойное расслое-
расслоение D), где p{gH)= glix, n(gH) = gH=. Фиксируем G-ннва-
риантиую меру dgH на пространстве G/H таким образом,
чтобы для всех функций Fe CC{G)
A2) \Fig)dg=\ (\F{gh)dh\dgH.
G G/ll \H )
С помощью «цепного правила» для инвариантного интегри-
интегрирования получаем
A3) \ Q(gH)dgH^c J dgHx •$ Q{ghxH)d{hx)H,
G/H
где Q — произвольная функция из пространства CC{G/H),
а с — постоянная, не зависящая от Q. Комбинируя формулы

§ 2. ПРЕОБРАЗОВАНИЕ РАДОНА ДЛЯ ДВОЙНОГО РАССЛОЕНИЯ 69
A2) и A3), находим
A4) Jf(g)dg = c J dgHx J d(hx)H\F(ghxh)dh,
о ошх нх/н н
что, в силу соотношения G), равно
с \ dgHx \F(ghx)dhx.
отх нх
Сравнивая последнее выражение с формулой (8), мы полу-
получаем, что с = 1.
Рассмотрим теперь на пространстве G/H функцию Р =>
==(/°Р)(фоЛ)' Проинтегрируем ее по пространству G/H
двумя способами, соответствующими двум расслоениям D).
Используя формулу A3) и ее аналог для #=, получим в ре-
результате
A5) \ P(gH)dS[i~ \ dgHx \ P(ghxH)d{hx)H,
от а/нх нх/н
A6) J P(gH)dgH= J dgHs \ P(ghsH)d(hz)H,
от о/Яс
где, как н в теореме Фубини, абсолютная сходимость левой
части гарантирует абсолютную сходимость правой части
и наоборот. Но
и \ <?(ghxH3)d{hx)H=<v(gHx).
нх/н
Следовательно, правая часть соотношения A5) принимает
вид \ f (x) ф(х) dx. Поступая точно так же с соотношением
х
A6), мы докажем наше утверждение.
Последний результат показывает, как определить преоб-
преобразование Радона и дуальное к нему для мер и для обоб-
обобщенных функций (в случае, если G — группа Ли).
Определение. Пусть s — мера с компактным носителем на
пространстве X. Ее преобразование Радона есть функционал
s на пространстве CC(S), определяемый формулой
A7) 5(ф)=5(ф).
Аналогично, если а —мера с.компактным носителем, на про-
пространстве S, то функционал'о определяется формулой
A8) дШ = оф, /еСв(Я).

70 ГЛ. 11. ДУАЛЬНОСТЬ В ИНТЕГРАЛЬНОЙ ГЕОМЕТРИИ
Лемма 2.3. (i) Если s есть мера с компактным носителем на
пространстве X, то s — мера на пространстве S.
(И) Если s — ограниченная мера на X и множество Jco
имеет конечную меру, то функционал s, определенный фор-
формулой A7), есть ограниченная мера.
Доказательство, (i) Меру s можно записать в виде разности
s = s+ — s~ двух положительных мер, каждая из которых
имеет компактный носитель. Тогда s = s+ — s~ есть разность
двух положительных функционалов на СС(Е). Так как поло-
положительный функционал всегда является мерой, то s — мера.
(ii) Имеем sup | ф(д:)|^ sup |ф(^)|ц (jc0)- Следовательно, для
х l
некоторой постоянной К
\& (Ф) I = 1 s (ф)К К sup | ф |< /Сц (JEo) sup | Ф !,
откуда и следует ограниченность меры s.
Если G — группа Ли, то формулы A7) и A8) с f^2)(X)
и фе2)B) определяют преобразование Радона s-+s и ду-
дуальное к нему преобразование ст-хт для обобщенных функ-
функций s и а с компактным носителем. Рассмотрим пространства
2)(Х) и &(Х) ( = С°°{Х)) с их обычными топологиями
(Шварц [1966, гл. Ш]). Тогда дуальные к ним пространства
20'(X), &'{Х) состоят из обобщенных функций на X, соотв.
обобщенных функций на X с компактным носителем.
Предложение 2.4. Отобрао/сения /e2)(I)->fef(H), ipe
е® C)-> фе & [X) непрерывны. В частности,
а *=¦&'{&)=> 6 s= ЗУ (X).
Доказательство. Имеем
A9)
Пусть g пробегает локальное сечение группы G, проходящее
через единицу, над окрестностью элемента ?0 в пространстве
S. Если (^, .... tn) — координаты g, a {xit ..., xm) — коорди-
координаты. *е|о, то формулу A9) можно переписать в виде
F{th ...', tn)^]F(tu ..'., tn; x{, .... xm)dx{ ... dxm.
Теперь очевидно, что /e^(S) и отображение f-*-f непре-
непрерывно. Предложение доказано.
Результаты- гл. I о преобразовании Радона на простран-
пространстве R" мотивируют постановку следующих общих задач,

§ 2. ПРЕОБРАЗОВАНИЕ РАДОНА ДЛЯ ДВОЙНОГО РАССЛОЕНИЯ 71
A. Найти связь между пространствами функций на X и S
в терминах интегральных преобразований f-+-f и ф->ф.
В частности, найти соотношения меоюду носителями функций
fuf.
B. Установить прямую связь между функциями f и (f)
на X и функциями ср и (ф)~ на S.
C. Пусть G —группа Ли; обозначим через D(X) и D(S)
алгебры G-инвариантных дифференциальных операторов со-
соответственно на X и Е.
Существуют ли отобраокение ?>->•/) алгебры О(Х) в ал-
алгебру D(S) и отображение Е-*-ё алгебры D(S) в алгебру
D{X), такие что (Dj) ~— Of, (?<р) "= Ё ф?
Ответы па эти вопросы при X = К", S = Р" дают тео-
теоремы 2.4, 2.6, 2.10, 3.1, 3.3, лемма 2.1 и следствие 2.5 гл. I.
Хотя указанные задачи могут быть поставлены для общего
двойного расслоения D), нельзя ожидать их полного реше-
решения в такой общей постановке. Например, если f-*-f есть
преобразование Радона на сфере S2, определенное с по-
помощью интегрирования по геодезическим, то функция (/)"
с необходимостью является четной независимо от того, обла-
обладает или нет этим свойством функция f. В этом примере,
однако, условие (п) не выполняется.
В следующей главе мы подробно рассмотрим задачи А
и В в случае, когда X — двухточечно-однородное простран-
пространство, или, что эквивалентно, изотропное риманово многооб-
многообразие.
Примеры, (i) Пусть С обозначает группу 5LB, R) матриц
порядка 2 с детерминантом 1, а Г — модулярную группу
/1 п\
SLB,Z). Обозначим через N упнпотентную группуI _ .1,
где neR.H рассмотрим однородные пространства
B0) X = GIN, 3 = G/Г.
При естественном действии группы G на пространстве R2
группа N есть подгруппа изотропии вектора A,0), следова-
следовательно, X можно отождествить с R2 — @). В то же время
пространство 3, разумеется, трехмерно.
В теории чисел представляет интерес вопрос о разложе-
разложении пространства L2{G/V) на G-инвариантные неприводимые
подпространства. Опишем кратко решение этой задачи при
помощи преобразований /->/ и ф~>ф.
Как обычно, положим Г<х. = ГПЛ^. Преобразования A0)
принимают вид

72 ГЛ. II. ДУАЛЬНОСТЬ В ИНТЕГРАЛЬНОЙ ГХОМЕТРП11
Поскольку N/Гоо — циклическая группа, ф(^Л') совпадает
с постоянным членом в разложении Фурье функции пГх-*-
-*-q>(gnT). Нуль-пространство Ld{GjV) оператора ср->ф в
пространстве Z.2(G/T) называется пространством каспидаль-
ных форм. Согласно предложению 2.2, эти формы образуют
ортогональное дополнение к образу СС{Х) ".
Итак, мы имеем G-инвариантное разложение
B1)
где (черта обозначает замыкание)
B2) Z
и, как указано выше,
B3)
Как известно (см. Ссльберг [1962], Годеман [1966]),
представление группы G в пространстве Z,C(G/F) есть непре-
непрерывная прямая сумма неприводимых представлений группы
G главной серии, в то время как представление G в про-
пространстве f-d(G/V) есть дискретная прямая сумма неприводи-
неприводимых представлений, причем каждое из них встречается ко-
конечное число раз.
(П) Определение функции на пространстве R" через ее
интегралы по единичным сферам (Джон [1955]) можно рас-
рассматривать как решение первой части задачи В для двой-
двойного расслоения F).
§ 3. Интегралы по орбитам
Пусть, как и раньше, X = G/Hx есть однородное про-
пространство с началом 0 = {//*}. Для заданного элемента
Хо е X обозначим через GXo подгруппу группы G, оставляю-
оставляющую хо неподвижным, т. с. подгруппу изотропии группы G
в точке xq.
Определение. Орбита GXo • х некоторой точки iel в про-
пространстве X под действием подгруппы изотропии некоторой
точки д'о е X называется обобщенной сферой.
Примеры, (i) Если X = Rn, G = М(п), то обобщенные сферы
совпадают с обычными сферами.
(ii) Пусть X есть локально компактная группа L, a G —
прямое произведение групп LY^L, действующее на L справа
и слева, причем элемент (/If /2)e Z. X L индуцирует на L дей-
действие /->/1//г"'. Обозначим через AL диагональ группы

§ 3. ИНТЕГРАЛЫ ПО ОРБИТАМ 73
LXL. Если lo^L, то группа изотропии элемента /0 дается
формулой
а орбита элемента / — формулой
иначе говоря, эта орбита есть левый сдвиг на элемент /0 дву-
двустороннего класса смежности элемента /о"'/. Таким образом,
обобщенные сферы в группе L представляют собой левые
{правые) сдвиги ее двусторонних классов смежности.
Возвращаясь к общему случаю пространства X == G/Hx =
= G/Gq, предположим, что группа Go, а следовательно, каж-
каждая из групп Gxt, унимодуляриы. Но Сх0 • х = GxJ(GXu)x, по-
поэтому условие унимодуляриости обеспечивает существование
инвариантной меры на орбите GXa ¦ х, определенной с точ-
точностью до постоянного множителя. Теперь мы можем рас-
рассмотреть следующую общую задачу (в дополнение к зада-
задачам А, В и С).
D. Найти функцию f на пространстве X при помощи ее
интегралов по обобщенным сферам.
Замечания. В этой задаче существенно, как нормированы
инвариантные меры на разных орбитах.
a) Если группа Go компактна, то сформулированная выше
задача довольно тривиальна. Действительно, поскольку каж-
каждая орбита GXa ¦ х имеет конечную инвариантную меру, зна-
значение }{х0) равно пределу при х-+ха средних значений функ-
функции/(х) по орбитам GXi • х.
b) Предположим, что для каждой точки хоеХ суще-
существует открытое Gx -инвариантное множество Сх, а X, содер-
содержащее в своем замыкании точку х0 и такое, что для любой
точки х е Сх, ее группа изотропии {GXi)x компактна. Тогда
инвариантные меры на орбитах GXa • х (хц е X, х е Сх>)
можно согласованно нормировать следующим образом. Фик-
Фиксируем меру Хаара dg0 на группе GQ. Если xo = g-O, то
Gx<> = gGug~1, и с помощью сопряжения z-+gzg~l (геО0)
мы можем преобразовать меру dgo в меру dg на группе
Gx, Так как мера dgo двусторонне-инвариантна, то мера
dgXa не зависит от выбора элемента g, удовлетворяющего
условию xo = g-O, и также двусторонне-инвариаитна. По-
Поскольку группа {GXo)x компактна, на ней имеется единствен-
единственная мера Хаара dg^ х с полной массой 1. Тем самым меры
dgXa и dgXa x канонически определяют инвариантную меру ц
на орбите GXo • x — GxJ(Gx.)x- В силу сказанного, задачу D
можно сформулировать в более конкретной форме.

74 ГЛ. II. ДУАЛЬНОСТЬ В ИНТЕГРАЛЬНОП ГЕОМЕТРИИ
D'. Выразить функцию f(x0) через интегралы
\ f(p)dix(p), *eC,0.
Если пространство X есть изотропное лоренцево многооб*
разив, то сделанное выше предположение выполняется
(с множеством Сх„, состоящим нз всех «времениподобных»
лучей, выходящих нз точки х0), и в гл. IV мы найдем явное
решение задачи V для этого случая (теорема 4.1 гл. IV).
с) Если в приведенном выше примере (ii) L есть полу-
полупростая группа Ли, то решение задачи D является основным
шагом в доказательство формулы Планшереля для преобра-
преобразования Фурье на группе L (Гсльфанд — Граев [1955], Ха-
риш-Чандра [1957]).
БИБЛИОГРАФИЧЕСКИЕ ЗАМЕЧАНИЯ
Понятие инцидентности для пары однородных пространств восходит
к Чжэшо [1942]. Дуальность между пространствами
(i) G/Hx и G/Ha,
соответствия
(ii) *-»*, 1-+1
и преобразования Радона для двойного расслоения однородного простран-
пространства были введены в статье автора [1965 В], содержание которой состав-
составляет основу этой главы. Дальнейшее обобщение, связанное с заменой
условия однородности условиями совместимости рассматриваемых мер,
дано Гельфандом и Шапиро [1969].
Для случая G = UD), Нх = ?/A) X ^C) и Нв = U B)XU ^отобра-
^отображения (ii) превращаются в соответствия Пенроуза (Пенроуз [1967]); по-
подробнее они описаны в примере (iii) § 1.
Пример, в котором пространство X есть множество р-плоскостей в R",
и пространство 3 — множество ^-плоскостей, причем я = Р + <7+1, вме-
вместе с решением задач А, В и С подробно изучен в статье Хелгасона
[1965 А].

ГЛАВА III
ПРЕОБРАЗОВАНИЕ РАДОНА
НА ДВУХТОЧЕЧНО-ОДНОРОДНЫХ
ПРОСТРАНСТВАХ
Пусть X— полное риманово многообразие, х — некоторая
его точка и Я* —касательное пространство многообразия X
в точке х. Обозначим через Ехрх отображение пространства
Хх в многообразие X, задаваемое формулой Ехрх{и) = уиA),
где <->7«@~гс°Дсзичсская многообразия X с началом
в точке х — у„(Щ и касательным вектором и в этой точке.
Связное подмногообразие S риманова многообразия X
называется вполне геодезическим, если любая геодезическая
многообразия X, касающаяся подмногообразия S в некото-
некоторой точке, полностью лежит в S.
Вполне геодезическими подмногообразиями К" являются
плоскости в IR". Поэтому, обобщая преобразование Радона
на римаповы многообразия, естественно рассматривать инте-
интегрирование по вполне геодезическим подмногообразиям. Для
того чтобы иметь в своем распоряжении достаточно много
вполне геодезических подмногообразий, мы рассматриваем
в этой главе римановы многообразия X, которые двухточеч-
двухточечно-однородны в том смысле, что для любых двух пар точек
р, q и р', q' многообразия Ху удовлетворяющих соотношению
d{p,q)— d(p', q') (где d — расстояние), существует изомет-
рия g многообразия X, такая что g-p — p', g-q^=q'. Мы
начинаем с подкласса римановых многообразий, обладаю-
обладающих наиболее богатым запасом вполне геодезических под-
подмногообразий, а именно пространств постоянной кривизны.
§ 1. Пространства постоянной кривизны
Пусть X — односвязпое полное риманово многообразие
размерности п ^ 2 и постоянной кривизны в двумерных на-
направлениях.
Лемма 1.1. Пусть х&Х, V — подпространство касательного
пространства Хх. Тогда Expx(V) — вполне геодезическое под-
подмногообразие многообразия X.
Доказательство. Выберем какое-нибудь вложение многооб-
многообразия X в пространство Rn+I и предположим для простоты,

76 ГЛ. Ш. ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
что кривизна равна е ( = ±1). Рассмотрим квадратичную
форму
в. М-*?+ ... +*S + «S+I
и квадрику QE) задаваемую уравнением Ве(х)—е. Ортого-
Ортогональная группа О(Вц) транзитивно действует на Qe. Форма
В„ положительно определена на касательном пространстве
к"Х@) к квадрике Qe в точке х° = @, ..., 0, 1); ввиду тран-
транзитивности форма Ве индуцирует положительно определен-
определенную квадратичную форму в касательном пространстве любой
точки QE, тем самым превращая Q8 в риманово многообра-
многообразие, на котором группа О(Ве) действует как транзитивная
группа изометрий. Подгруппа изотропии в точке д* изо-
изоморфна О(п) и транзитивно действует на множестве двумер-
двумерных подпространств касательного пространства (Qe)x0. От-
Отсюда следует, что все кривизны в двумерных направлениях
в точке х° совпадают между собой, а именно равны е, по-
поэтому ввиду однородности квадрика Q8 имеет постоянную
кривизну е. Для того чтобы иметь дело со связными много-
многообразиями, заменим квадрику Q_i ее пересечением Qti с по-
полупространством {хп+1 > 0}. Тогда Q+i и Qli становятся
односвязными полными римановыми многообразиями постоян-
постоянной кривизны. Поскольку такие многообразия однозначно
определяются размерностью и кривизной, отсюда вытекает,
что можно отождествить многообразие X либо с квадрикой
Q+i, либо с квадрикой Qt\.
Геодезическая многообразия X из точки х° с касательным
вектором A, 0, ..., 0) в этой точке остается неподвижной
под действием изометрий (х\, х2 хп, хп+\)-+(х\, —хг, ...
..., —хп, хп+\). Следовательно, эта геодезическая является
пересечением многообразия X с двумерной плоскостью
{хг= ... = хп — 0} в IR"+'. Ввиду транзитивности О(п) все
геодезические многообразия X из точки х° совпадают с сече-
сечениями X двумерными плоскостями, проходящими через на-
начало координат. Ввиду транзитивности O(Qe) отсюда сле-
следует, что геодезические многообразия X совпадают с непус-
непустыми пересечениями многообразия X с двумерными плоско-
плоскостями, проходящими через начало координат.
Если V — подпространство Хх«, то многообразие Ехрх„(У)
есть, ввиду сказанного выше, пересечение многообразия X
с подпространством (Rn+1, порожденным V и х°. Поэтому мно-
многообразие Expx,(V) является квадрикой в пространстве V +
'-(- Ra:0, а его риманова структура, индуцированная многооб-
многообразием X, совпадает со структурой, индуцированной ограни-
ограничением fi8 на V + ^^°- Следовательно, как указано выше,
геодезические многообразия Ехрх„(У) являются сечениями

§ I ПРОСТРАНСТВА ПОСТОЯННОЙ КРИВИЗНЫ 77
этого многообразия двумерными плоскостями, лежащими
и подпространстве V-\-?ix° и проходящими через начало ко-
координат. Тем самым геодезические многообразия Ехрх„(У)
являются геодезическими многообразия X, и потому Вхрх (V)
есть вполне геодезическое подмногообразие в X. Ввиду одно-
однородности многообразия X это утверждение останется верным,
если мы заменим в нем точку л:0 произвольной точкой tel
Лемма доказана.
В соответствии с подходом, развитым и гл. II, рассмотрим
многообразие X как однородное пространство компоненты
единицы G группы O(Qe). Пусть Их — группа изотропии G
в точке х° = @, ..., О, 1). Тогда Нх можно отождествить со
специальной ортогональной группой SO(n). Пусть k — фик-
фиксированное целое число 1 ^Л^л —1, и |0 — фиксированное
вполне геодезическое подмногообразие многообразия X раз-
размерности k, проходящее через точку х°. Обозначим через Нг
подгруппу G, оставляющую инвариантным |о. Тогда
A) X = G/HX, 3 = G/HS,
где S — множество вполне геодезических /с-мерных подмно-
подмногообразий многообразия X. Так как х° е ?0> то ясно, что
абстрактное понятие инцидентности сводится к наивному,
иными словами, классы смежности x = gHx, | = уН* имеют
общую точку тогда и только тогда, когда х е ?.
А. Гиперболическое пространство. Рассмотрим сначала
пространства отрицательной кривизны, т. с. е = —1. Преоб-
Преобразование f-*-f задается теперь формулой
B) t®
где | — произвольное /с-мерное вполне геодезическое подмно-
подмногообразие пространства X (l^.k^n—1) с индуцирован-
индуцированной римаиовой структурой, dm — соответствующая мера. Из
нашего описания геодезических в пространстве X ясно, что
любые две точки в X можно соединить единственной геодези-
геодезической. Пусть d — функция расстояния на X. Обозначим для
простоты точку х° пространства X через о. Введем теперь
геодезические полярные координаты па пространстве X
в точке о; они задаются отображением
Exp0Y->(r,Qu ..., 9„_,),
где вектор Y пробегает касательное пространство Хо, г —|К|
(норма задается римановой структурой), a (Oi, ..., 0n-i) —
координаты единичного вектора У/|У|. В указанных

78 Г.Ч. III. ДиУХ'ЮЧиЧПООДМОРОДНЫЕ ПРОСТРАНСТВА
координатах риманова структура пространства X задастся
формой
C) ds2 = dri
n
где da2 есть риманова структура У] g//@|, ..., 0,,
'. /-¦-'
на единичной сфере в пространстве Хо. Площадь иоверхно-
г
ети Л(г) и объем V(r)—\ A{() dt сферы и пространстве X
о
радиуса г задаются тогда формулами
г
D) А (г) = Qn shn'lr, V (г) => пл \ sh" '/ dt,
о
так что V(r) растет как е("~|)Л. Это поясняет смысл условия
быстрого убывания в следующем результате, в котором
d(o,|) обозначает расстояние от точки о до многообразия |.
Теорема 1.2 (теорема о носителе). Предположим, что функ-
функция j'е С(Х) удовлетворяет следующим условиям:
(i) для любого целого m > 0 функция f(x)e"ld<-°-х) огра-
ограничена;
(п) существует число R^>0, для которого /(?) = 0 при
iR
Тогда f(x) = 0 при d{o, x) > R.
В пределе при /?->0 получаем
Следствие 1.3. Преобразование Радона /-*-/ взаимно одно-
однозначно на пространстве непрерывных функций на X, удовле-
удовлетворяющих условию «экспоненциального убывания» (i) в тео-
теореме 1.2.
Доказательство теоремы 1.2. Используя сглаживание вида
\4>(g)l(g~l ¦ x)dg (где феСГ(О), йц — мера Хаара па G),
а
мы можем (как и в теореме 2.6 гл. I) предполагать, что
/
Рассмотрим сначала случай, когда функция / в формуле
B) является радиальной. Пусть Р — точка подмногообразия
|, находящаяся иа минимальном расстоянии p = d(o, |), от
точки о, a Q — произвольная точка g. Положим
</ = d(o, Q), r^d{P,Q).
Так как подмногообразие | вполне геодезическое, то d(P,Q)
совпадает с расстоянием между точками Р и Q на подмного-
подмногообразии |. Рассмотрим теперь вполне геодезическую пло-

I. ПРОСТРАНСТВА ПОСТОЯННОЙ КРИВИЗНЫ 7!)
скость я, содержащую геодезические оР и oQ, существование
которой гарантируется леммой 1,1. Так как вполне геодези-
геодезическое подмногообразие содержит вместе с любыми двумя
точками соединяющую их геодезическую, то плоскость я со-
содержит геодезическую PQ. Пользуясь тем, что угол oPQ ра-
равен 90° (см., например, Хслгасон [1978, с. 05 русского перс-
вода]), мы выводим с помощью гиперболической тригоно-
тригонометрии (см., например, Коксстер [1957]), что
E) cli (J = ch р cli r.
Так как f — радиальная функция, то из формулы E) выте-
вытекает, что ограничение /|? постоянно па сферах подмногооб-
подмногообразия ? с центром в точке Р. Поскольку площадь этих сфер
равна S2k(sh г)"-', формула B) принимает инд
Оо
F) f(l) = l2*S f(Q)(shr)*-'rfr.
Функция f, будучи радиальной, инвариантна относительно
подгруппы изотропии Нхс G точки о. Но подгруппа Их
транзптивна не только на каждой сфере Sr(o) с центром и о,
но и (для любого фиксировапого k) на множестве /с-мерпых
вполне геодезических подмногообразий, касающихся Sr(o),
Следовательно, /(?) зависит только от расстояния d(o, ?).
Поэтому мы можем записать функции f и f в виде
где F и /" — некоторые функции одного переменного. Тогда
из формулы E) получим
оо
G) F(chp)=Qk\ F(chpchr)(shr)* dr.
о
Вводя обозначения t = cli p, s = chr, приведем эту формулу
к виду
(8)
Подставим сюда u = (/s)~' и затем положим v = /-'. Тогда
формула (8) примет вид
[)u~*}{v2-u'2)m-i du.

80 ГЛ III. ДВУХТОЧПЧНО-ОДНОРОДПЫП ПРОСТРЛПСТВЛ
Это — интегральное уравнение вида A9) гл. I, поэтому мы
пмесм следующий аналог формулы B0) гл. I:
(9) F{u-l)u-h = c
Но по условию (ii) теоремы ^(ch р) = 0, если р > R. Тем
самым JP(tH)=O, если 0 < v < (ch R)~]. Из формулы (9)
мы получаем тогда, что /7(«~1) = 0 при и <С (ch R)~]; это
означает, что /(а-)=0 при d{o, x)> R. Последнее доказы-
доказывает теорему для радиальных функций f.
Рассмотрим теперь произвольную функцию f^C°°(X),
удовлетворяющую условиям (i), (ii). Фиксируем х е X и рас-
рассмотрим интеграл
РЛУ)= \ f(gk-y)dk, y^X,
где g — элемент группы G, переводящий точку о в точку х,
a dk — нормированная мера Хаара на Н\. Ясно, что Fx(y)
есть среднее значение функции / по сфере с центром в точке .v,
проходящей через g-y. Функция Fx удовлетворяет условию
убывания (i) и является радиальной. Более того,
(Ю) Px(l)=
"х
Теперь нам понадобится следующая оценка:
A1) d(o, gk-l)^d(o,l)-d(o,g-o).
Для ее доказательства выберем на подмногообразии | точку
хо, ближайшую к точке k~lg~l-o. Тогда по неравенству тре-
треугольника
d(o, gk-l) = d(k~]g~] -о, l)>d{o, x0) — d(o, k~]g'l-o)^
>r/(o, l) — d{o, g- o).
Следовательно, из условия (ii) вытекает, что
Рх (|) = 0, если d (о, \)> d(о, х) + R.
Так как функция Fx радпальна, то нз первой части доказа-
доказательства теоремы получаем, что
A2) \
"х
когда
A3) dip,y)>d{p,g-o

$ I. ПРОСТРАНСТВА ПОСТОЯННОЙ КРИВИЗНЫ 81
По множество {gk-y: ie/f»} есть сфера Sd(-°- y)(g-o) с цент-
центром и точке g-o и радиусом d(o,y)\ кроме того, из неравен-
неравенства A3) следует включение
A-1) BR(o)<=:B'l{o'v)(g.o)
для соответствующих шаров. Обратно, рассматривая лежа-
лежащую в BR(o) часть геодезической, проходящей через точки о
и g-o, получим, что из соотношения A4) следует неравен-
неравенство A3). Поэтому теорема 1.2 будет доказана, если мы
установим следующую лемму.
Лемма 1.4. Пусть функция f^C(X) удовлетворяет усло-
условиям:
(i) для каждого целого пг > О функция f(x)emd(-0' x) огра-
ограничена;
(ii) существует такое число R>0, что \ /(s)da>(s) = 0 для
s
всякой сферы S, охватывающей шар BR(o).
Тогда J{x) — O при d{o, x) > R.
Доказательство. Эта лемма является точным аналогом
леммы 2.7 гл. I, в доказательстве которой, однако, использо-
использовалась структура векторного пространства на R". Тем не ме-
менее, применяя специальную модель гиперболического про-
пространства, мы сможем приспособить это доказательство
и к рассматриваемой ситуации. Как и ранее, можно предпо-
предполагать, что функция / является гладкой, т. е. f^C°°{X).
Рассмотрим единичный шар < х е R": Yjx}< 1 |> наде-
наделенный римановой структурой
A5) rfs* = p(*,, ..., xnf(dxl+ ..
где р(*„ ..., хп) = 2(\~х\- ... -х*ау1.
Хорошо известно, что это риманово многообразие имеет по-
постоянную кривизну —1, поэтому мы можем использовать его
в качестве модели пространства X. Указанная модель удобна
тем, что сферами в X являются обычные евклидовы сферы
внутри шара. Для сфер S с центром в точке 0 этот факт оче-
очевиден. В общем случае достаточно показать, что Г(Е) яв-
является евклидовой сферой для любой геодезической симмет-
симметрии Т относительно точки (которую можно взять на оси х\).
Единичный круг D на плоскости переменных х\, х2 есть
вполне геодезическое подмногообразие в X, поэтому он инва-
инвариантен относительно Т. Так как изометрии неевклидова
круга D порождаются комплексным сопряжением Xi4-u2->
->.V| — ix% и дробно-линейными преобразованиями, то они

82 ГЛ. III. ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
отображают евклидовы окружности снова в евклидовы
окружности. В частности, T(I,(]D)= T(I,HD есть евкли-
евклидова окружность. Но Т коммутирует с вращениями вокруг
оси Х\. Поэтому множество 7*B) инвариантно относительно
таких вращений и пересекает D по окружности; следова-
следовательно, оно является евклидовой сферой.
Сделав эти предварительные замечания, перейдем к до-
доказательству леммы 1.4. Пусть S = S'(у)— сфера в про-
пространстве X, охватывающая шар BR(o) и ограничивающая
шар В'(у). Представляя внешность Х — В'(у) в виде объеди-
объединения сфер в пространстве X с центром в точке у, из условия
(и) выводим,что
A6) \ f(x)dx= \f(x)dx;
Br{y) x
последняя величина остается постоянной при малых измене*
пнях г и у. Римапова мера dx задастся равенством
A7) dx = pndx0,
где dxo = dx\ ... dx,i — евклидов элемент объема. Пусть г0
и г/о обозначают соответственно евклидов радиус и евклидов
центр сферы Sr(у). Тогда Sr"{yQ) = Sr{у), ЯГо(</о) = Вг (у) (как
множества) и, согласно формулам A6), A7),
A8) J f{xo)p{xo)ndxQ = const
для малых изменений /о и уо\ поэтому, дифференцируя по го,
получим
A9)
sr» (г/о)
где d(Oo — евклидов элемент поверхности. Введем обозначе-
обозначение \*{х)~ f(x)p(x)n; тогда, согласно A8), \ f*(x0) dx0 =¦
вг» (уо)
= const, так что, дифференцируя по у0, получим
Вг» (о)
Применяя теорему о дивергенции B6) §2 гл. I к векторному
полю F (хо) = f * {уа + Хо) dh определенному в окрестности
Ви{р), преобразуем последнее уравнение к виду \ /" (у0 +

§ 1. ПРОСТРАНСТВА ПОСТОЯННОЙ КРИВИЗНЫ 83
+ s)Sid<o0(s) = 0, что в совокупности с формулой A9) дает
B0) J f(s)s,dao(s)«=0.
Евклидова и неевклидова римановы структуры на Sr'(y0) от-
отличаются множителем р2. Следовательно, с1ы = р(s)"—'
п уравнение B0) можно переписать в виде
B1)
Тем самым мы показали, что функция х-*¦ f(x)р(х)х-, удов-
удовлетворяет условиям теоремы. Многократно используя этот
прием, получим
B2) \ f(s)p(s)'!sh ...5,fcrf<o(s)=0.
В частности, это верно для у —о н г > /?. Тогда p(s) = const
и из формулы B2) следует, что / s= 0 вне BR(o) no теореме
Bt'iicpniTpacca о приближении. Тем самым теорема 1.2 до-
доказана.
Пусть теперь L обозначает оператор Лапласа — Бсль-
трами на пространстве X (см. его определение в § 1 гл. IV).
Ввиду формулы C) для римаповой структуры на X опера-
оператор L задается равенством
B3) L=^r + («-l)cthr|r + (shr)-2Ls,
где Ls — оператор Лапласа — Бельтрами на единичной сфере
в пространстве Хо. Рассмотрим также для каждого г ^ 0
оператор среднего значения Мг, определяемый формулой
(M7)W = ~ \ f(s)d<o(s).
Sr (x)
Как мы видели ранее, его можно записать также в виде
B4) (M7)(ff-o)-= \ f(gk-y)dk,
где g —произвольный элемент С, а у — точка X, для которой
r = d(o,y). Если / — аналитическая функция, то, разлагая
ее в ряд Тейлора, из соотношения B4) можно вывести, что
оператор Мг есть некоторый степенной ряд по L (см. Хелга-
сон [1959, с. 270—272]). В частности, имеем соотношение
коммутации
B5) MrL

84 ГЛ. Ш. ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
Это в свою очередь приводит к «уравнению Дарбу»
B6) L
для функции F(x, у) = (Md@' y)f) (х). Действительно, поль-
пользуясь B4) и B5), имеем, при условии что g-o = x, r =
=*d(o,y),
Lx {F (х, у)) = (LMrf) (x) = (MrLf) (x) =
J (Lf) (gk ¦ y) dk = J Ly (I (gk • y)) dk;
"X "X
последнее равенство вытекает из инвариантности лапласиана
относительно изометрии gk. Но последнее выражение совпа-
совпадает с Lu{F{x,y)).
Замечание. При помощи аналога леммы 2.13 из гл. IV, кото-
который справедлив и в рассматриваемой здесь ситуации, можно
дать другое доказательство формул B5) и B6).
Для фиксированного целого числа k A ^ к ^ п— 1) обо-
обозначим через S многообразие всех fe-мсрных вполне геодези-
геодезических подмногообразий пространства X. Если <р — непре-
непрерывная функция на S, то обозначим через ф функцию точек
х е X, задаваемую формулой
где ц — единственная мера на (компактном) пространстве
подмногообразий ?eS, проходящих через точку х, инвари-
инвариантная относительно всех вращений вокруг х и имеющая
полную массу 1.
Теорема 1.5 (формула обращения). Для четного k обозначим
через Qk полином
Qk(«) = [г + (* - 1)(л - *) ][г + (* - 3)(л - * + 2I ...
... [г + 1 • (п - 2I
степени k/2. Тогда формула обращения для k-мерного преоб-
преобразования Радона на пространстве X имеет вид
где с — константа
с = Vinl2) (- 4л)Л/2
Эта формула сохраняется и для функций f, быстро убываю-
убывающих в смысле условия (i) теоремы 4.2.

§ 1. пространства постоянной кривизны 85
Доказательство. Фиксируем подмногообразие ? е S, прохо-
проходящее через начало координат ое! Для х^Х фиксируем
элемент geC, такой что g-o — x. Когда k пробегает под-
подгруппу Нх, gk-\ пробегает множество вполне геодезических
подмногообразий пространства X, проходящих через точку х,
и ф(# • о)= \ y{gk • l)dk. Следовательно,
к
\(\ у) dm (у)\ dk = \ (М7) (g • о) dm (у),
)\ dk = \ (М
) i
где г — d(o,y). Но, поскольку ?— вполне геодезическое под-
подмногообразие X, оно также имеет постоянную кривизну —1
и расстояния между двумя точками ? в метрике ? и в мет-
метрике X совпадают. Таким образом,
оо
B8) (!Г (х) = О* J (Af7) (х) (sh r)*-1 dr.
Применим к обеим частям равенства оператор L и восполь-
воспользуемся представлением B3). Тогда
00
B9) (L (!Г) (х) = QA J (sh г)* Lr (Mrf) (x) dr,
где Lr — «радиальная часть» д2/дг2 -\-(п— 1)cth r-д/дг лап-
лапласиана L. Положив теперь F(r)= (Mrf) (x), получим сле-
следующий результат.
Лемма 1.6. Пусть т —целое число, 0 < т < п = dimX.
Тогда
оо — оо
LrFdr = {m+l-n) mj shmr-F(r)dr +
L о
оо -•
+ (m-l)J shm~2 r ¦ F (r) dr .
о J
оо
— 1, то член (ш — 1)\ shmr • F(r)dr нужно заме-
u
т
нить на F@).
Доказательство проводится повторным интегрированием
по частям.
Из этой леммы и уравнения Дарбу B6), записанного
в виде
C0) Lx{M'f(x))~Lr(M'f(x)),

86 ГЛ. III. ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
ВЫВОДИМ, ЧТО
оо
[Lx + (п - от - 1) от] \ sh"V • (М7) (*) rfr =
ОО
= — (п — т — 1) (от - 1) J shm~V • (М7) (*) dr.
Применяя несколько раз это соотношение к формуле B9),
получим теорему 1.5.
В. Сферы и эллиптические пространства. Пусть теперь X
обозначает единичную сферу S"@)c: R"+\ a H—множество
^-мерных вполне геодезических подмногообразий в X. Все
элементы |еЗ являются fe-сфсрами. Мы хотим найти обра-
обращение преобразования Радона
f<=C*(X),
где dm — мера на сфере g, задаваемая рнмаповон структурой
на 1, индуцированной римаповой структурой пространства X.
В отличие от гиперболического пространства, каждая геоде-
геодезическая пространства X, проходящая через точку х, содер-
содержит также диаметрально противоположную (антнподальную)
точку Ах. Поэтому / —(fo/l)~ и паша формула обращения,
должна отражать этот факт. Хотя наш результат формули-
формулируется для сферы, в действительности он относится к эллип-
эллиптическому пространству, т. с. к сфере с отождествленными
диаметрально противоположными точками. Функции на этом
пространстве допускают естественное отождествление с чет-
четными функциями на сфере.
Пусть снова ф(л:)= \ ф(|)йц(|) обозначает среднее ис-
прерывной функции па пространстве Н по множеству сфер %,
проходящих через точку х.
Теорема 1.7. Пусть k — целое число, 1 ^ k < п = dim X.
(i) Ядро отобрао/сения f->f (/еС°°(Л')) состоит из не-
нечетных функций (т. е. функций f, для которых f + f°A = 0).
(ii) Пусть k — четное число и Рк —полином
- (k-3)(n-k + 2)] ...
степени k/2. Тогда обращение k-мерного преобразования Ра-
Радона на X задается формулой

5 I. ПРОСТРАНСТВА ПОСТОЯННОЙ КРИВИЗНЫ 87
где с — константа, даваемая формулой B7).
Доказательство. Докажем сначала утверждение (и) таким
>ке образом, как и в некомпактном случае. Риманова струк-
структура из формулы C) заменяется теперь рнмановой струк-
структурой
ds2 — dr2 + sin2r ¦ do2;
формула B3) для оператора Лапласа — Бельтрами заме-
заменяется формулой
C1) ? =^ +('г-^
л
и (/Г (*)-QA $ (М7)(*) sin*''г ¦<//-.
о
Для фиксированного х положим F(r) = (M'f) (л). Аналог
леммы 1.G принимает теперь следующий вид.
Лемма 1.8. Пусть ш — целое число, 0 < m < н = dim Я.
Тогда
л Г л
J sin г • L,F dr = {n-m - 1) m J sin r-F{r)dr-
u L о
~-(m- 1)J sinmr-F(r)dr\-
0 J
n
При m= 1 член (in — 1) \ sinm~2r • F{r)dr нужно заменить
о
Так как по-прежнему справедливо равенство C0), то из
-лой леммы вытекает, что
я
[1.х - m (п - m - 1)] J sinm r (Mr/) W rfr =»
о
Мскомая формула обращения доказывается последователь-
последовательным применением этого соотношения с учетом того, что
0) F() f f(A)
) f
В случае четного к утверждение (i) вытекает из (ii).
Предположим далее, что k = n—-I, n четно. Для каждой
сферы | имеются в точности две точки, х и Ах, находящиеся

88 ГЛ. ГП. ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
на максимальном расстоянии, равном я/2, от ?. Положим
Цх) = Т(Ах) = f(l). Тогда
C2) f(x) = Qa(M«*f)(x).
Напомним теперь некоторые хорошо известные факты
о сферических гармониках. Пространство L2(X) можно пред-
представить в виде
C3) A2(X) = ?^S,
о
где пространство Ж$ состоит из ограничений па X однород-
однородных гармонических полиномов степени s на пространстве
Rn+1.
(a) Lhs = —s{s -f n—\)hs (ft* <= 5#s) для любого s ^ 0.
Это вытекает непосредственно из разложения
г — d* _L п д л. ' г
лапласиана Ln+\ в пространстве Rn+r (см. B3)). Таким об-
образом, Ms суть в точности собственные подпространства
оператора L.
(b) Каждое пространство Ж$ содержит функцию {Ф0),
инвариантную относительно группы К вращений вокруг вер-
вертикальной оси (ось Xn+i в Rn+I). Указанная функция ф4. от-
отлична от нуля в северном полюсе о и однозначно определена
условием ips(o)= 1. В этом легко убедиться, так как из
представления C1) видно, что cps удовлетворяет обыкновен-
обыкновенному дифференциальному уравнению
*? ^ <р»=0.
Отсюда вытекает, что пространство Ж5 неприводимо отно-'
сительно ортогональной группы О(п-\- 1).
(с) Так как оператор среднего значения Mnli коммути-
коммутируете действием группы 0{п-\-\), то на неприводимом про-
пространстве 36S он действует как умножение на число cs- Сле-
Следовательно, Mnl2(fs = csq>s, ф«(о) = 1, откуда
C4) с,=*ф,(я/2).
Лемма 1.9. Число ф5(я/2) равно нулю тогда и только тогда,
когда s нечетно.
Доказательство. Пусть Hs есть /(-инвариантный однородный
гармонический полином, ограничение которого на X совпа-
совпадает с фз. Тогда Hs является полиномом по х'\ + • • • +¦*? и
х ,v поэтому, если степень s нечетна, каждый моном со-

§ 2 КОМПАКТНЫЕ ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА Я9
держит jcn+i, откуда ф5(л/2)= tfs(l, 0, ..., 0)=0. При чет-
четном s, скажем s = 2d, имеем
Пользуясь тем, что Ln+1 = Ln -f d2/d*;i+i> и формулой C1)
гл. I, получим из уравнения Ln+\HS = 0 рекуррентную фор-
формулу
at Brf — 2/) Brf — 2/ + я — 2) + а,+, B/ + 2) B/ + 1) = О
@^i<d). Следовательно, число Hs{\, О, ..., 0), равное
аа, отлично от нуля, что и требовалось доказать.
Далее, каждая функция /еС°°(Х) допускает разложение
оо
в равномерно сходящийся ряд f=^hs (где hs^a/6s) и по
о
оо
формуле C2) f = Я„ ? сЛ- Если f = 0, то по лемме 1.9 по-
о
лучаем, что hs — 0 для четных s, поэтому f — нечетная функ-
функция. Обратно, если f нечетна, то / = 0. Тем самым тео-
теорема 1.7 доказана в случае k = п— 1, п четно.
Если к нечетно, 0 < k < п—1, то приведенное доказа-
доказательство показывает, что из обращения в нуль функции /(?)
для всех |sS вытекает обращение в нуль интегралов от
функции f по всем (fe+ 1)-мерным сферам радиуса 1 с цент-
центром п 0. Так как k -f 1 четно и k -f I < п, то из утверждения
(П) следует, что f + f°A =0, и теорема доказана.
§ 2. Компактные двухточечно-однородные пространства.
Приложения
Распространим теперь формулу обращения из теоремы 1.7
па компактные двухточечно-однородные пространства X раз-
размерности п > 1. Согласно классификации Вана [1952], по-
последние пространства являются одновременно компактными
симметрическими пространствами ранга один (более прямое
доказательство см. у Мацумото [1971]), поэтому их геомет-
геометрию можно описать вполне явным образом. Здесь мы ис-
используем некоторые геометрические и теоретико-групповые
свойства этих пространств (свойства (i) — (vii) ниже), за до-
доказательствами которых отсылаем к работам Хелгасона
([1959, с. 278], [1965А, § 5—6] или [1978, гл. VII, § 10]).
Пусть U обозначает группу 1(Х) изометрий пространства
X. Фиксируем начало оеХ к обозначим через К подгруппу
изотропии Uо. Пусть f и и— алгебры Ли групп К и U соот-
соответственно. Тогда алгебра и полупроста. Пусть р — ортого-

90 ГЛ. HI. ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
нальное дополнение алгебры ! в и относительно формы Кил-
линга В па и. Умножая функцию расстояния в X па постоян-
пьп"[ множитель, можно считать, что дифференциал отобра-
жс[гия и-*-и-о группы U на пространство X задаст изомет-
изометрическое отображение алгебры у (с метрикой —В) на каса-
касательное пространство Хо- Этой канонической метрикой на X
мы и будем пользоваться.
Пусть L — диаметр пространства X, т. с. максимальное
расстояние между двумя его точками. Для х&Х обозначим
через Лх множество точек X, находящихся на расстоянии L
от х. Ввиду двухточечной однородности, подгруппа изотро-
изотропии Ux транзнтивно действует па Ах; тем самым Ах является
подмногообразием в X. Его называют антиподальным много-
многообразием точки х.
(i) Каждое Ах есть вполне геодезическое подмногообразие
пространства X. Оно является двухточечно-однородным про-
пространством относительно римановой структуры, индуцирован-
индуцированной римановой структурой пространства X.
(И) Пусть S—множество всех антиподальных многооб-
многообразий пространства X; так как группа U транзитивно дей-
действует на S, то множество S имеет естественную структуру
многообразия. Отобраокение /: лс->/1* является диффеомор-
диффеоморфизмом; кроме того, хеЛг тогда и только тогда, когда
у<=Ах.
(iii) Все геодезические пространства X имеют период 2L.
Для х е X отображение Ехрх: Хх-+Х задает диффеоморфизм
шара BL(o) на открытое множество X — Ах.
Фиксируем вектор Яер длины L (т. е. Z.2 = — В(Н, Я)).
Для Zeip обозначим через Тг линейное преобразование У->
~>[Z, [Z, У] ] алгебры р, где [,] есть скобка Ли в и. Для
упрощения будем писать далее Ехр вместо Ехр0. Точка
У ер называется сопряженной к точке о, если дифференциал
dExp вырождается в точке У.
Прямая a = RH является максимальным абслевым под-
подпространством алгебры р. Собственные значения оператора
Тц таковы: 0, а (ЯJ н, возможно, (а(//)/2J, где ±а (н, воз-
возможно, ±а/2) являются корнями алгебры и относительно а.
Пусть
C5) P^e + Pe + J^
есть разложение алгебры р и сумму- собственных подпро-
подпространств; размерности q = dim(pa), p = (lim(pa/2) назы-
называются крагностямн а и a/2 соответственно.
(iv) Предположим, что точка tfep сопряжена точке о.
Тогда множество Ехр (а + К>а). наделенное римановой струп-

? 2. КОМПАКТНЫЕ ДВУХТОЧГЧПО-ОДНОРОДНЫЕ ПРОСТРАНСТВА 91
тщюй, индуцированной из X, есть вполне геодезическая
сфера в X с кривизной n2/L2, а точки о и Ехр Н этой сферы
антиподальны. Более того, Аехрн = Ехр(уа/2).
(v) Если точка Н не является сопряженной к точке о, то
= 0 и А Ехр н = Ехр ра.'
(vi) Дифференциал отображения Ехр в точке У задается
ор
формулой d?x/?y==oh:(cxpr)° ? Г*/Bй+1)!, где т(и) для
м <= ?/ есть изометрия х->и-х.
(vii) По аналогии с представлением B3) оператор Лап-
Лапласа — Бельтрами L на пространстве X задается выражением
где Lsr — оператор Лапласа — Бельтрами на Sr(o), A(r) —
площадь поверхности Sr(o).
Лемма 2.1. Площадь А(г) (О <С г <С L) равна
А (г) = пп%~" BЛ)~* sin" (Яг) sin" Bкг),
где р и q — введенные выше кратности, a % — \a{H)\/2L.
Доказательство. Ввиду свойств (iii) и (vi) площадь поверх-
поверхности Sr{o) задается формулой
/(г)- \
\Y\-r
где dixir — элемент площади поверхности на сфере |У| = г
н алгебре р. Благодаря двухточечной однородности, подын-
подынтегральная функция зависит только от г, поэтому мы можем
вычислить ее для У= li, — (r/L)H. Так как ненулевыми соб-
собственными значениями оператора Тнг являются а(НгJ
(с кратностью q) и (а(Нг)/2J (с кратностью р), то лемма
доказывается тривиальной выкладкой.
Вернемся вновь к проблемам А, В и С из § 2 гл. II для
однородных пространств X н Н, на которых транзнтивно
действует одна и та же группа U. Фиксируем подмногообра-
подмногообразие 5„ё2, проходящее через начало osl Еслн?0 = Л0-,
то это подмногообразие инвариантно относительно элемента
ие(/ в том и только в том случае, когда он лежит в под-
подгруппе изотропии К'' = U0'. Тем самым мы получаем отожде-
отождествления X=U/K, a = U/K', и элементы х^Х и |eS
инцидентны тогда н только тогда, когда х е |.
Выберем теперь на пространстве S риманову структуру
таким образом, чтобы диффеоморфизм у: х-*-Ах из свойства

92 ГЛ. Ill- ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
(ii) был изометрией. Пусть L и Л — лапласианы соответ-
соответственно на X и Е. Определяя множества х и ? так же, как
в § 1 гл. II, получим i — Z, x = {j(y): y<=j(x)}; первое со-
соотношение вытекает из приведенного выше описания инци-
инцидентности, а второе является следствием эквивалентности:
хе-4, -ф=>- у е Ах, отмеченной в свойстве (ii).
На множествах к и ? введем соответственно меры d|*
и dm, индуцированные римановыми структурами пространств
S и X. Преобразование Радона и дуальное к нему преобра-
преобразование задаются при этом формулами
f Ш = \f (*) dm (х), ф (х) =
5
5
Но
ф (*) = J ф (?) ф Ш = J Ф (/ (f/)) djx (/ (y))= J (Ф о /) (//) dm (у),
X »S/(X) /A/1
поэтому
C6) ф = (ф = /)~о/.
Учитывая эту связь между преобразованиями /->•/ и ф->-ф,
достаточно рассмотреть лишь одно из них. Пусть D(X) —
алгебра дифференциальных операторов на пространстве X,
инвариантных относительно группы U. Можно показать, что
D(X) порождается лапласианом L. Аналогично, алгебра
D(H) порождается лапласианом Л.
Теорема 2.2. (i) Отображение /-*•/ является линейным вза-
взаимно однозначным отображением пространства С°°(Х) на
пространство С°°(Е), причем Щ) = Af.
(ii) Для всех компактных двухточечно-однородных про-
пространств X, за исключением четномерных эллиптических про-
пространств, имеет мести формула
f = P(L)((fr), feC"(X),
где Р — не зависящий от функции f полином, явно выписан-
выписанный ниже в формулах D4) — E0). Во всех случаях степень
Р равна половине размерности антиподального многообразия.
Доказательство. Докажем сначала утверждение (ii). Пусть
dk — мера Хаара на группе К, такая что \ dk = 1 и Qx —
к
полная мера антиподального многообразия в пространстве X.
Тогда ц(б) = m{Ao) = Qx и для ие[) имеем
ф(и • о) = QЛ <р(«*¦&,)</*.

§ 2. КОМПАКТНЫЕ ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА 93
Следовательно,
(/Г (и • o) = Qjr 5 П /(м/г'у) dm{y))dk в
где г — расстояние d(o,y) в пространстве X между точками
о н у. Если d(o,y)<. L, то в X существует единственная гео-
геодезическая длины d(o,y), соединяющая точки о и у, а так
как подмногообразие \0 вполне геодезическое, то d(o,y) сов-
совпадает с расстоянием между о и у на подмногообразии |0.
Поэтому, используя в последнем интеграле геодезические по-
полярные координаты на |0, получаем
L
C7) (fr(x) = Qx
где Л\{г) есть площадь сферы радиуса г на подмногообразии
\о- По лемме 2.1 имеем
C8) /l,(r) = C1sinP'(A,1r)sin1"BV)>
где С\ и A-i — константы, а ри q\ — кратности для антипо-
далыюго многообразия. Для доказательства (ii) на основе
формулы C7) нам понадобится следующий полный список
компактных симметрических пространств ранга один и соот-
соответствующих им антиподальных многообразий:
X I А,
Сферы S" (л=1, 2, ...)
Вещественные проективные пространства Р" (R) (« = 2,3,...)
Комплексные проективные пространства Р" (С) (п =* 4, 6, ,.,)
Кватернионные проективные пространства Р" (И) (п = 8, 12, ...)
Плоскость Кэли Р1в (Са)
Точка
ря-i (R)
Р"(С)
РГ.,н,
Верхние индексы обозначают здесь вещественные размер-
размерности соответствующих пространств. Заметим, что для низ-
низших размерностей
Р1 (R) = S1, Р2 (С) = S2, Р4 (Н) = S4.
Для сфер S" утверждение (ii) тривиально, а случай про-
пространств X = P"(R) уже рассмотрен в теореме 1.7. В осталь-
остальных случаях как а, так и а/2 являются корнями, поэтому,
согласно свойству (v), точка Н сопряжена точке о и, следо-
следовательно, справедливы утверждения из свойства (iv). Так
как замкнутая геодезическая в Ао является замкнутой гео-
геодезической пространства X, то L= диаметр Х=диа-

94 ГЛ. III. ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
метр Ах = расстояние от точки о до ближайшей сопряженной
точки в Хо — наименьшее число М, для которого lim Л (/¦) = 0.
Кратности р п q для симметрических пространств ранга
один вычислены Картаном [1927] (см. также Араки [1962],
Хелгасон [1978, с. 532]). Мы имеем следующий список:
Л (г) = у QnX""+I sin" (kr) sin BXr),
Л! (г) = i Qn_2X~n+3sinII~4 (Яг) sin BЛг);
p=rt-4, <7 = 3, k = n/2L,
Л(г) = ~Й„Я~"+1 sin" (Яг) sin3 BЯг),
Л (r) = (yO QI6X~15 sin8 (Яг) sin7 BЛг),
Во всех случаях мы действительно получаем
C9) Их=^т{Л0)^
Итак, площади Л{г) и А\(г) во всех случаях выражаются
через п и L. По диаметр L можно выразить также через п.
Действительно, метрика Кнллпнга обладает следующим
свойством: В{Н, //) = У1р(ЯJ, где суммирование ведется
по всем корням р. Следовательно,
_ L2 = - | Н |2 =-2р (а (Я)/2J + 2<7 (а (Я)J.
Но по свойству, (iii) Я есть.первая сопряженная точка на
луче R^tf, поэтому |а(//)| =п (см. Хелгасон [1978, с. 280
русского перевода]). Тем самым мы получаем формулу
D0) . ¦ , • L2^pn2l2 + 2qn\ ....
Лемма 2.3.. Диаметры L проективных пространств РЛ(С),
Р"(Н), Р16(.С.а) в метрике Киллинга соответственно равны
"Ч 1/2 /

§ 2. Компактный двухточпчно-однороДные пространства W>
Как н d случае пространств постоянной кривизны (см.
B5)), справедливо свомство коммутативности
D1) MrL
из которого следует (см. B6)), что
D2) М(М7)М) = М
где, согласно спопству (vii) и лемме 2.1,
Lr=~ + l{pctg (Яг) + 2qctg BЯг)} ±, 0 < r < L.
Применим теперь этот лапласиан к обеим частям равенства
(.47) и воспользуемся формулой D2) для упрощения правой
части. Мы придем к окончательному результату, многократно
используя следующие три леммы.
Лемма 2.4. Пусть Х — Рп(С), f&C°°(X). Если т —четное
целое число, 0 < m ^ п —4, то
i
[Lx -W(n-m- 2) (m + 2)} J sin'" (Ar) sin Blr) [Mrf] (*) dr =»
о
L
= - Я2 (я — tn — 2) m j sinm~2 (Яг) sin BЯг) [Mr/] (*) dr.
о
m = 0 правую часть следует заменить на —2%(п —
Лемма 2.5. Пусть Х= Р"(Н), feC°°(X) и m — четное целое
число, О < m ^ п — 8. Тогда
i
[Ц - Я2 (и - m - 4) (in -f 6)] \ sinm (Яг) sin3 BЯг) [Mrf] (x) dr =*
(Г
L
- - Я2 (п - m - 4) (m + 2) J sin-2 (Яг) sin3 BЯг) [Мг/] (лг) dr.
0
Кроме того,
\(I.X - 6Я2 (n - 4)) (L, - 4Я2 (n — 2))] \ sin3 BЯг) [Mrf] (x) dr =
\0J /
*=16Л3(п-2)(л-4)/(л;).

flfi П III. ДПУХТОЧПЧПО-ОДПОРОДПЫЕ ПРОСТРАНСТВА
Лемма 2.6. Пусть * = Р16(С.а), fe=C*{X) и т —целое
число, т > 1. Тогда
i
[Lx~4X2(\l —m)m]^ smmBXr)[Mrf](x)dr =
о
L
= --32Я2(т- 1) J sin'"-2BAr)co
0
+ 4Я2(т - 1) (щ - 7) J sin-2 BЯ.г) [АГ/] (*) </г,
и
- 4Я2(т + 1) A0 - m)] J sinm BЯг) cos2 (Xr) [Mr{] (x) rfr =
о
= 4Я2 (Зт - 5) J sinmB^r) [Mrf] (.v)
о
I
+ 4Я2 (т - 1) (т - 15) J sin™-2 BЯг) cos2 (Яг) [Mr[] (х) dr.
о
Кроме того,
D3) (Lx - 72Я2) jj sin BЯг) cos2 (Яг) [Mrf] (x) dr =
и
= - 8Я2 jj sin BЯг) [МГЛ (х) dr - 28Я/ (.t).
о
Эти леммы доказываются путем длинных вычислений.
Так как во всех случаях это делается сходными методами,
проверим только последнюю формулу D3). Имеем
Lr=d2/dr + X{8 ctg (Яг) + 14 ctg BЯг)} д/дг.
Поэтому, положив F(r) = (Mrf) (x), no формуле D2) получим
i i
Lx J sin BЯг) cos2 (Яг) [Mrf] (x) dr = J [sin BXr) cos2 (Яг) F" (r) +
о и
+ D4Я cos4 (Яг) - 14Я cos2 (Xr)) F' (r)\ dr =
L
= J [36Я cos4 (Xr) - 8Я cos2 (Яг)] F' (r) dr =
0
L
«= - 28XF @) - Я2 J F (r) [sin BЯг) (8 - 72 cos2 (Xr))) dr,
о
что и дает формулу D3).

§ 2. КОМПАКТНЫЕ ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА 97
Теперь мы можем доказать утверждение (ii) теоремы 2.2.
Рассмотрим сначала случай X — Р16(С.а). Имеем
(f)" (х) = Q8QX $ (Mrf) (х) sin7 Bkr) dr.
о
L
Здесь Z.2= 18я2, ux = i\ \ sin7BXr)dr, X = n/2L. Взяв m=7
о
в лемме 2.6, получим
i
(Lx - 112Л2) J (M7) (*) sin7 BЯг) rfr =
б
L
= ~ 192Я2 J (M7) (л) sin5 Bkr) cos2 (Xr) rfr.
о
Положив т = 5, найдем, что
(Z.* - 120Л2) (Lx ~ 112Я2) J (M7) (*) sin7 BЛг) dr =
о
= (- 192Л2) D0Л2) Г J (M7) (х) sin5 BЛг) dr -
Lo
L 1
- 4 \ (Mrf) (x) sin3 BЯг) cos2 (Яг) dr
о J
Снова взяв т = 5, получим
П
Г L
= (- 192Я2)D0Я2) (- 128Л2) $
L
0
L -1
-4{LX- 120Я2) J (M7) (x) sin3 BЯг) cos2 (Яг) rfr •
a J
4 3m. i

98 ГЛ. Hi. ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
Взяв т = 3, найдем, что последний член равен
- 4 {Lx — 112Я2 - 8Я2) J (M7) (*) sin3 Bkr) cos2 (Яг) dr =
о
i
= - 64Я2 J (М7) (ж) sin3 BЯг) dr +
о
+ 384Я2 j (M7) W sin BЯг) cos2 (Яг) rfr +
о
L
(Mrf) (x) sirt3B^r) cos2 (Яг) dr.
о
.Следовательно,
(Lx - 120X2J(L^ - П2Я2) J (М7)(л;) sin7
о
= 192 • 40 ¦ 96/L6 J(M7) (at) sin3 BЯг) cos2 (Яг) dr +
: ' r ."o ¦ ' ¦ • • .
/. L
+ \ (Mrf) (x) sin3 BЯг) dr - 4 J (Af'f) (x) sin BЯг) cos2 (Яг) dr.
0 ' 0
Применим наконец оператор (Lx—112Я2) к обеим частям
.последнего равенства. Взяв т = 3 в лемме 2.6, получим
L
{Lx - 112А.2) \ (М7) (х) sin3 BЯг) cos2 (Яг) dr —
oJ
t
= 16Я2 ^ (М7) (*) sin3 BЯг) dr —
о
~ 96Я2 J (M7) (х) sin BЯг) cos2 (Яг) dr,
112Я2) \ (Mrf) (x) sin3 BЯг) dr
- 16Я2 J (M7

2. КОМПАКТНЫЕ ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
L
— 64Л2 J (Mrf) (х) sin BЛг) cos2 (Лг) dr -
о
-32А2
о
- 4 (Lx - 112Л2) J(M7) (.t) sin BЛг) cos2 (Ar)dr
= 160Л2 J (/И7) (,v) sin BЛг) cos2 (Лг) dr +
0
I
+ 32Л2 \ (M'f) (x) sin BЛг) rfr + 112Я,/ (л;
oJ
К счастью, все члены, за исключением последнего, пропа-
пропадают, п мы получаем
(Lx - 112Л2)- (Lx — 120Я2J J (M7)W sin7BKr)dr =
о
= 192-40-96- 112 • Я,7/(х).
Если подставить теперь значение А~2 = 72, то получим
192 ¦ 40 • 96 •
« ^ (f sin7 s dsJ 2s • .Г4 • 5 • 7/ (x) = -5^1 /(x).
Тем самым мы доказали, что для X = Р!6(Са)
где
D4)
Для АГ=Р"(С) получаем аналогичным образом из лем
мы 2.4 формулу

100 гл- "I. ДВУХТОЧПЧИО-ОДНОРОДПЫЕ ПРОСТРАНСТВА
где, учитывая, что к~2 — 2 (л + 2),
D5) P(L)^[ 2(n + 2))( 2(n + 2)J
1 " ' V^ 2 (я + 2) ) '
D6) '"/2
Для Х= РЯ(Н) из леммы 2.5 получаем формулу
f*=P(L){(f)~), ffB(T(X),
где, в силу того, что Л = 2 (л + 8),
2 (n + 8) J • • "
D8) 4
Вычислим наконец P{L) в случае Х=Р"AК.), Заметим,
что теперь метрика пространства X нормируется не условием
равенства кривизны +1, как в теореме 1.7, а с помощью
формы Киллиига группы изометрий U = I(X), Вместо функ-
функций на РЯ(К) мы будем рассматривать четные функции / на
сфере S" и определять /(|) как интеграл от / по вполне
геодезической (п — 1)-сфере S. Для того чтобы сохранить
равенство C6), определим ф (х) как интеграл по (п — 1)-
сфере (единичных нормалей к гиперплоскостям, проходящим
через точку х).
Метрика Киллинга на сфере S" получается умножением
обычной рнмановой структуры (с кривизной +1) на 2л
(см, Хелгасон [1961]). Новый лапласиан равен поэтому лап-
лапласиану из теоремы 1.7, умноженному на 1/2л. Следова-
Следовательно, по теореме 1.7 с k — n—1 и нечетным п получим
/>('-) «f Г)«/,
где
D9, ,(ц_
с некоторой константой с. Для нахождения с применим по-
лучеппую формулу к функции /га 1. Так как fs=(>riB/i)(""'I)/2,
(ff ^Bи)"', то
E0) c-(

§ 2. КОМПАКТНЫЕ ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА Ю1
Это завершает доказательство утверждения (ii) теоремы 2.2.
Ипъективность отображения /-»-/ для всех случаев, кроме
Х= Р"A^) при четном п, вытекает из утверждения (ii). Но
в этом исключительном случае инъектпвность следует из
теоремы 1.7.
Для доказательства сюръектнвности воспользуемся снова
тем, что оператор среднего значения Мг коммутирует с лап-
лапласианом (см. D1)). Имеем
E1) f (/(*)) = с (МЧИ*),
где с — константа. Поэтому, в силу формулы C6),
так что
E2) (fr = c2MLMLf.
Следовательно, если X не является четномерным веществен-
вещественным проективным пространством, то функция f с точностью
до постоянного множителя совпадает с M'-P(L)MLf, что до-
доказывает ввиду формулы E1) сюръектшиюсть отображения
/—>-/. В случае X— P"(JR) с четным п воспользуемся теоре-
теоремой 1.7. Если бы отображение f-*-f не было сюръектнвным,
то но формуле E1) существовала бы ненулевая обобщенная
функция Т на X, для которой
E3)
Выберем в качестве f собственную функцию оператора L.
Тогда, как уже отмечалось ранее, / будет собственной функ-
функцией оператора ML, отвечающей ввиду инъективности нену-
ненулевому собственному значению. Тогда формула E3) приво-
приводит к противоречию: Т — 0.
Осталось доказать, что (Ц) ~= Л/. Воспользуемся для
этого формулами C6), D1) и E1). По определению опера-
оператора Л имеем
) = Мф°/)(*), х^Х, <peC°°(S).
Следовательно,
(Л/) (/ (х)) = (L (/ о /)) (x)=cL (МЧ) (х) =cML (Lf) {x) = {Lf)~ (/ (х)).
Этим заканчивается доказательство теоремы 2.2.
Следствие 2.7. Пусть X — компактное двухточечно-однород-
двухточечно-однородное пространство и функция f удовлетворяет соотношениям
\ f (x) ds (х) = 0 для всех (замкнутых) геодезических у про-
v
странства X (ds — элемент длины дуги). Тогда

102 ГЛ. ИГ. ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
(i) если X —сфера, то функция f нечетна;
(И) если X не является сферой, то f sa 0.
Взяв свертку / с подходящей функцией, можно считать,
что f — гладкая функция. Утверждение (i) содержится в тео-
теореме 1.7. Для доказательства (П) воспользуемся классифи-
классификацией. В случае X— Р18(Са) антиподальные многообразия
являются вполне геодезическими сферами, поэтому из утвер-
утверждения (i) следует, что / = 0, откуда по теореме 2.2 f з= 0.
В остальных случаях Х=Р"(С) (п = 4, 6, ...) и X =
= 1"!(Н) (п = 8, 12, ...) утверждение (п) доказывается
аналогичным образом но индукции, поскольку начальные
антиподальные многообразия Р2(С) и Р'(Н) являются
нполне геодезическими сферами.
Следствие 2.8. Пусть В — ограниченное открытое подмноже-
подмножество 'г'"+|, симметричное и звездное относительно начала 0,
ограниченное некоторой гиперповерхностью. Предположим,
что для фиксированного k (I <; k ^ n)
E4) площадь {В f] Р) = const
для всех (k + 1) -плоскостей Р, проходящих через 0. Тогда
В — шар.
Действительно, нз теоремы 1.7 мы знаем, что четная
функция f на сфере X = S", преобразование Радона которой
}($"Г\Р) не зависит от Р, постоянна. Применим это утвер-
утверждение к функции
где ()@) — расстояние от начала координат до любой из двух
точек пересечения границы В с прямой, соединяющей точки
0 и 0 (вспомним, что множество В симметрично относи-
относительно 0). Если 0 = @|, ..., 0ft) пробегает ft-сфсру finf\P,
то точка х = Or @ ^ г < р(8)) пробегает множество В f) P и
Р(9)
площадь (В(]Р)= U rfw(9) ^ rk dr.
Отсюда следует, что площадь {В (] Р) с точностью до по-
постоянного множителя совпадает с f(onC\P), поэтому ввиду
условия E4) функция / постоянна. Это доказывает следствие.
§ 3. Некомпактные двухточечно-однородные пространства
Теорема 2.2 имеет аналог для некомпактных двухточечно-
однородных пространств, который мы сейчас опишем. Из
классификации Титса [1955, с. 183] однородных многообра-

§ 3. НЕКОМПАКТНЫЕ ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА ЮН
зим L/H, для которых группа L транзитивно действует на
касательных пространствах к многообразию L/H, известно
и принципе, как устроены некомпактные двухточечно-одно-
двухточечно-однородные пространства. Как и в компактном случае, эти про-
пространства оказываются симметрическими. Прямое доказа-
доказательство указанного факта было дано Нагано [1959] и Хел-
гасоном [1959]. Из теории симметрических пространств вы-
вытекает, что некомпактные двухточечно-однородные простран-
пространства исчерпываются евклидовыми пространствами и неком-
некомпактными пространствами вида X—G/K, где G — связная
ио.чупростая группа Ли вещественного ранга 1 с конечным
центром, а К— се максимальная компактная подгруппа.
Пусть й = f + Р — разложение алгебры Ли группы G
и прямую сумму алгебры Ли f группы К и ее ортогонального
дополнения р (относительно формы Киллинга алгебры д).
Фиксируем одномерное подпространство а в алгебре у и рас-
рассмотрим разложение
E5) Р =
алгебры р в прямую сумму собственных подпространств опе-
оператора Тн (по аналогии с формулой C5)). Пусть |0 обозна-
обозначает вполне геодезическое подмногообразие Exp(fa/2); если
ра/2 = 0, то положим 1о = Ехр(уа). Согласно классификации
симметрических пространств (с учетом дуальности), мы
имеем следующий полный список пространств G/K (верхний
индекс обозначает вещественную размерность соответствую-
соответствующих пространств):
¦ ¦ х I Ь
ПН"-4AН
И8 (Р)
Вещественные гиперболические пространства И™ (R) (п = 2,3, ...)
Комплексные гиперболические пространства Ш"<С) (п = 4, 6, ...)
Кпатерниоииые гиперболические пространства И" (Н) (я=8, 12, ...)
Гиперболическая плоскость Кэли Н|0(Са)
Заметим, что в низших размерностях
H!(R)—R, H2(C)=H2(R), H4(H) = H4(R).
Пусть S обозначает множество подмногообразий вида g-g0
пространства X, где g пробегает группу G; множество S на-
наделяется канонической д| 1)ференцируемой структурой одно-
однородного пространства. Каждое подмногообразие |е2 имеет
меру пг, индуцированную римановой структурой простран-
пространства X, н преобразование Радона на X задается формуло"г

104 ГЛ III. ДВУХТОЧЕЧНО-ОДНОРОДНЫЕ ПРОСТРАНСТВА
Дуальное преобразование ф->ф определяется формулой
где ц есть инвариантное среднее на множестве многообразий
I, проходящих через точку х. Пусть L обозначает оператор
Лапласа — Бельтрами на пространстве X, риманова струк-
структура которого задастся формой Кнллннга алгебры д.
Теорема 3.1. Преобразование Радона f~*-f является взаимно
однозначным отображением пространства С?(Х) в С~B),
и для всех пространств X, кроме X = H"(R) с четным п,
справедлива формула обращения
где полином Q задается следующими выражениями:
X— H"(R), n нечетно:
2(/г-2)
Константы у получаются из констант с в формулах D4),
D6), D8) и E0) умножением на число Qx из формулы C9).
Мы опускаем доказательство, поскольку оно совершенно
аналогично доказательству теоремы 2.2. Замена констант
с константами у объясняется разницей в нормировке дуаль-
дуального преобразования Радона в компактном и некомпактном
случаях.
§ 4. Лучевое преобразование на симметрическом пространстве
Пусть X — полное риманово многообразие размерности
>1, в котором любые две точки можно соединить единствен-
единственной геодезической. Лучевое преобразование на X сопостав-

§ 4. ЛУЧНПОЕ ПРЕОБРАЗОВАНИЕ 103
ляет произвольной непрерывной функции / на пространстве X
интегралы
E6)
где у — произвольная полная геодезическая на X, ds — эле-
элемент длины дуги. По аналогии с задачей лучевого восстанов-
восстановления в IR" (§ 7 гл. I) можно рассмотреть задачу обращения
лучевого преобразования /->-*'. Пусть d обозначает расстоя-
расстояние на пространстве X н о — некоторая фиксированная
точка X. Определим следующие два подпространства про-
пространства С(Х):
= {f(=C (X): sup d (о, x)k | / (х) |< оо для любого k > 0},
^xm(x)\<oO для любого /е>0}.
X
В силу неравенства треугольника, эти пространства не зави-
зависит от выбора точки о. Мы будем называть F(X) простран-
пространством непрерывных быстро [/бывающих функций, а &~(Х)^
пространством непрерывных экспоненциально убывающих
функций. Докажем теперь аналог теорем о носителе (тео-
(теорема 2.6 гл. I; теорема 1.2 гл. III) для лучевого преобразо-
преобразования иа некомпактном симметрическом пространстве. Этот
общий результат является, как мы увидим, прямым след-
следствием результатов, полученных выше для евклидова и ги-
гиперболического случаев.
Следствие 4.1. Пусть X — некомпактное симметрическое про-
пространство, В — произвольный шар в X.
(i) Если функция f^&~(X) удовлетворяет соотношениям
E7) f(Y) = O, когда у(]В = 0,
то
E8) /(*)«= 0 при хфВ.
В частности, лучевое преобразование взаимно однозначно на
пространстве &~(Х).
(и) Если ранг X больше 1, то утверждение (i) остается
верным после замены пространства SF{X) пространством
F(X).
Доказательство. Пусть о — центр шара В, г —его радиус
н у — произвольная геодезическая пространства X, проходя-
проходящая через о.
Предположим сначала, что ранг X больше 1. По стан-
стандартной теореме сопряженности для симметрических про-
пространств геодезическая у лежит в двумерном плоском вполне
геодезическом подмногообразии пространства X. Пользуясь

106 ГЛ. III. ДВУХТОЧКЧНО-ОДНОРОДЯЫЕ ПРОСТРАНСТВА
теоремой 2.6 гл. I, для этой евклидовой плоскости получим,
что f(x) = O при х е у, d(o, х) > г. Так как геодезическая у
произвольна, отсюда вытекает соотношение E8).
Пусть, далее, ранг X равен 1. Отождествим алгебру у с ка-
касательным пространством Хо и обозначим через а касатель-
касательную прямую к геодезической у. Мы можем тогда рассмот-
рассмотреть разложение E5) в прямую сумму собственных подпро-
подпространств. Если Ь — прямая в ра, проходящая через начало, то
S — Ехр(й -\-Ъ) есть вполне геодезическое подмногообразие
пространстна X (см. свойство (iv) в начале § 2). Будучи
двумерным и иеплоекпм, оно обязательно является гипербо-
гиперболическим пространством. Поэтому из теоремы 1.2 вытекает,
что /(*) —0 Для x^V, d(o, х)> г. Отсюда ввиду произволь-
произвольности геодезической у снова следует соотношение E8).
БИБЛИОГРАФИЧЕСКИЕ ЗАМЕЧАНИЯ
Функ [1916] показал, что функция f на дпумерной сфере, симметрич-
симметричная относительно центра, определяется снопми интегралами по большим
кругам. Радой [1917| рассмотрел эту задачу и аналогичную задачу об
определении функции на неевклидовой плоскости по ее интегралам вдоль
всевозможных геодезических; он указал также соотпетстпующие формулы
обращения.
Преобразование Радона на гиперболических и эллиптических простран-
пространствах, отвечающее вполне геодезическим подмногообразиям, было опре-
определено Хелгасоном [1959]; в этой работе были доказаны формулы обра-
обращения из теорем 1.5 и 1.7. Их обобщение даио Ссмяиистым [1961], Дру-
Другое определение с соответствующими формулами обращения приводится
в работе Гсльфанда -- Граеиа — Виленкина [1902].
Теорема о носителе (теорема 1.2) доказана автором [1964 А, 1980 А],
а ее следствие (следствие 4.1) отмечено в [1980В]. Теория преобразования
Радона д.чя антнподальиых многообразии в компактных двухточечно-
однородных пространствах (теорема 2.2) заимстповапа из работы Хелга-
соиа [19G5A]. Мишель [1972, 1973] использовал теорему 2.2 для выпода
некоторых снопстп мифнпитезнмалыюй жесткости канонических метрик
на вещественных и комплексных проективных простраистпах. См. также
ГнПемин [19761 и Бессс [1978].

ГЛАВА IV
ИНТЕГРАЛЫ ПО ОРБИТАМ И ВОЛНОВОЙ ОПЕРАТОР
В ИЗОТРОПНЫХ ЛОРЕНЦЕВЫХ ПРОСТРАНСТВАХ
В § 3 гл. II мы обсуждали задачу определения функции
па однородном пространстве через се интегралы по обобщен-
обобщенным сферам. Теперь мы решим эту задачу для изотропных
лоренцсвых пространств (теорема 4.1 ниже). Как вскоре бу-
будет объяснено, эти пространства являются лоренцсвыми ана-
аналогами двухточечно-однородных пространств, рассмотрен-
рассмотренных в гл. III.
§ 1. Изотропные пространства
Пусть X — многообразие. Псевдоримановой структурой
с сигнатурой (р, q) называется гладкое отображение y-*-gy,
''Д° gu — симметрическая невырожденная билинейная форма
на XijY,Xy сигнатуры (p,q). Последнее означает, что в под-
р+ч
ходящем базисе Y\ Yp+q пространства Ху для Y —Y,
имеем
При q — 0 мы говорим о римановой структуре, а при р =* 1 —
о лоренцевой структуре. Связные многообразия X со
структурами указанного вида называются псевдоримаио-
Н1ЛМН (соответственно римановыми, лореицевыми) многооб-
многообразиями.
На многообразии X с псевдоримановой структурой g
имеется дифференциальный оператор, представляющий осо-
особый интерес, а именно так называемый оператор Лапласа —
Ьельтрами. Пусть (хь ..., xp+q)— координатная система на
открытом подмножестве U пространства X. Определим функ-
ни!1 ёч, ёц и g на множестве U формулами
g Wdxi, д/дх,), Е gtig

108 ГЛ. IV. ИНТЕГРАЛЫ ПО ОРБИТАМ
Оператор Лапласа — Бельтрами L на множестве U опреде-
определяется формулой
для функций feC°°(X). Хорошо известно, что это выраже-
выражение инвариантно относительно координатных преобразова-
преобразований, поэтому L — дифференциальный оператор па простран-
пространстве X.
Изометрией псевдориманова многообразия X называется
диффеоморфизм, сохраняющим структуру ц. Легко доказать
(см., например, Хелгасон [1959, с. 245]), что оператор L
инвариантен относительно изометрпп ф пространства X,
иначе говоря, Л(/°<р) = (Lf) »ф для любой функции /е
еС°°(Х). Пусть 1(Х) обозначает группу всех изомстрий про-
пространства X. Для jel обозначим через 1(Х)У подгруппу
1{Х), состоящую из преобразований, оставляющих на месте
точку у (подгруппа изотропии в точке у), п через IIу —
группу линейных преобразований касательного пространства
Ху, индуцированных действием подгруппы 1{Х)У. Дли аек
обозначим через Srt(«/) «сферу»
A) 2«(?) = {Ze^:g,(Z1Z) = a1Z^0}.
Определение. Псевдориманово многообразие X называется
изотропным, если для любого aeR и любого у^Х группа
Ну транзитивно действует на сфере 2и(г/).
Предложение 1.1. Изотропное псевдориманово многообразие
X однородно; иначе говоря, группа 1(Х) транзитивно дей-
действует на многообразии X.
Доказательство. Псевдориманова структура на X задает аф-
аффинную связность, которая сохраняется при изометриях
(pe/(j[), Любые две точки у и z пространства X можно
соединить кривой, состоящей из конечного числа геодезиче-
геодезических сегментов yi (l^i'^p). Пусть ср; — изометрия, остав-
оставляющая неподвижной середину сегмента y< " меняющая на-
направления касательных векторов к кривой yt в этой точке
на противоположные. Произведение ц>р ... ф| переводит точку
у в точку z, откуда следует однородность пространства X.
А. Римановы изотропные многообразия
Следующий простой результат показывает, что изотроп-
изотропные пространства являются естественным обобщением про-
пространств, рассмотренных в предыдущей главе.

% 1. ИЗОТРОПНЫЕ ПРОСТРАНСТВА 109
Предложение 1.2. Риманово многообразие X изотропно тогда
и только тогда, когда оно двухточечно-однородно.
Доказательство. Если пространство X двухточечно-одно-
двухточечно-однородно, то подгруппа изотропии 1(Х)У в любой точке уе!
трлнзптпвиа на каждой сфере Sr(y) пространства X с цент-
центром п ;/, так что X, очевидно, изотропно. С другой стороны,
если пространство X изотропно, то оно однородно (предло-
(предложение 1.1) п, следовательно, полно. В этом случае стандарт-
стандартные соображения из рпмановон геометрии показывают, что
любые две точки X можно соединить геодезической. Из изо-
изотропности X вытекает тогда, что для любых у е X, г > О
группа 1{Х)У транзитивна на сфере Sr(y), откуда следует
диухточечиая однородность.
В. Общие псевдоримановы изотропные многообразия
Пусть X — многообразие с псевдоримановой структурой g
и тензором кривизны R. Пусть у е X и 5 — двумерное под-
подпространство Хи, на котором невырожденна форма gy. Кри-
Кривизна пространства X вдоль сечения 5 определяется фор-
формулой
Л к ' еи (У, Y) gy (z. Z) - аи (У, zy '
Знаменатель в действительности не обращается в нуль, и все
выражение не зависит от выбора векторов У и Z, порождаю-
порождающих подпространство S.
Построим теперь изотропные псевдоримановы многообра-
многообразия с сигнатурой (р, q) и постоянной кривизной. Рассмотрим
пространство Rp+i+1 с плоской псевдоримановой структурой
Д .(У) = »?+...+ //~ - >4+1 - ... - !,l+q + eyl+q+l (e - ± I).
Пусть Q,. обозначает квадрику в Rp+'?+1, задаваемую уравне-
уравнением B,,(Y) = e. Ортогональная группа О(Ве) ( = О(р, q-\-\)
м.чн О(р +1,?)) трамзитивпо действует на Qe; подгруппа
изотропии в точке о = @, ..., 0, 1) отождествляется с груп-
группой О(р, q).
Теорема 1.3. (i) Сужение структуры Ве на касательные про-
пространства к квадрике Qe задает псевдориманову структуру ge
на Q,, с сигнатурой (р, q).
(ii) Имеет место диффеоморфизм
B) Q^^O(p, q+\)/O(p, q),
ii псевдориманова структура g-\ на Q_i имеет постоянную
кршшзну —1.
(Hi) Имеет место диффеоморфизм
C) Q+l&O(p+],q)/O(p,q),

110 ГЛ. [V. ИНТЕГРАЛЫ ПО ОРБИТАМ
и псевдориманова структура g+\ на Q+1 имеет постоянную
кривизну -f-1.
(iv) Плоское пространство Rp+" с квадратичной формой
р р+ч
J?oOO=Zy?- Z У) и пространства O(p,q+l)/O(p,q),
O(p-\-l, q)/O{p,q)) изотропны, и (с точностью до постоян-
постоянного множителя в псевдоримановой структуре g) исчерпы-
исчерпывают класс псевдоримановых многообразий постоянной кри-
кривизны и сигнатуры (р, q) с точностью до локальной изо-
метрии.
Доказательство. Пусть So обозначает линейное преобразо-
преобразование
U/b •••> Ур + q' yp+q+\)~>\ УU •••> Ур + ч
Тогда a: g-+-sogso есть инволютивный автоморфизм группы
О(р, ?+•). дифференциал которого da имеет неподвижное
множество о(р, q) (алгебра Ли группы О(р, q)). Собственное
подиросхрапство ш дифференциала da, отвечающее собствен-
собственному значению —1, порождается векторами
D) К, = ?
E) Yi^E
где Ец обозначает квадратную матрицу, у которой на пере-
пересечении /-й строки и /-го столбца стоит 1, а в остальных
местах 0.
Отображение \|i: gO(p, q)-*-g-o имеет дифференциал dty,
который биективно отображает подпространство m на каса-
касательную плоскость yp+q+\ = 1 к квадрике Q_( в точке о,
¦и dty{X)— Х-о (Хеш). Таким образом,
Следовательно, B-i (dty(Yн)) равно 1 при 1 г^ 6 :g; p н —1
при p + lz^k^p + q, что доказывает (i). Далее, ввиду
симметричности пространства B), его тензор кривизны удов-
удовлетворяет равенству R0(X, Y) (Z) = — [ [X, Y], Z], где [,]
есть скобка Ли. Простое вычисление показывает, что
откуда следует утверждение (и). Утверждение (iii) доказы-
доказывается аналогичным образом. Переходя к доказательству
(iv), проверим сначала, что перечисленные пространства изо-
изотропны. Так как изотропное действие группы О(р, q + 1)о —
= O(p,q) на пространстве m совпадает с обычным дей-
действием группы O(p,q) на пространстве Rp+«, то достаточно

§ 1. ИЗОТРОПНЫЕ ПРОСТРАНСТВА |Ц
проверить, что пространство IRp+l? с квадратичной формой go
изотропно. Но мы знаем, что группа O(p,q) транзитивно
действует на квадриках {ge = -\-\} и {g,, = — 1), поэтому
остается показать, что группа O(p,q) действует траизитивно
па конусах {К^О: ge(Y)~0}. С помощью вращения в про-
пространствах Чр и R' задача сводится к случаю p — q=\.
Но в этом случае наше утверждение очевидно. Единствен-
Единственность в утверждении (iv) вытекает из общего результата,
состоящего в том, что симметрическое пространство опреде-
определяется локально своей псевдоримановой структурой и тен-
тензором кривизны в точке (см., например, Хслгасои [1978,
с. 188 русского перевода]). Этим доказательство завер-
завершается.
Пространства B) и C) являются псевдоримановыми
аналогами пространств О(р, \)/О(р), О(р + 1)/О(р) из § 1
гл. III. Другие двухточечно-однородные пространства, пере-
перечисленные в § 2 и 3 гл. III, также имеют свои псевдорима-
поны аналоги (знаконеопределенные эллиптические и гипер-
гиперболические пространства над С, Н и Са). Как доказано
Вольфом ([1967, с. 384]), любое неплоское изотропное псев-
лориманово многообразие локально нзометрично одной из
утих моделей.
Ниже нам понадобится лемма о связности групп O(p,q).
Пусть /,,,, обозначает диагональную матрицу (rf,7) с du = 1
A ^ i ^ р) и d\\ = — 1 (р + 1 ^ / ^ Р + <7)-. тогда матрица
g принадлежит группе O(p,q) в том и только том случае,
когда
F) We*='„.,. ;
где 'g —транспонированная матрица. Для i/ e К^ положим
УТ = (У\, ¦¦¦- Ур, 0. •••• 0). ys — @, ••¦> 0, ур+1, ..., yp+q)
и для g^O(p, q) обозначим через gT и gs матрицы
Если яь •••. gp+n — вектор-столбцы матрицы g, то соотноше-
соотношение F) означает, что соответствующие скалярные произве-
произведения удовлетворяют равенствам
g]

112
ГЛ. IV, ИНТЕГРАЛЫ ПО ОРБИТАМ
Лемма 1.4. Для любого g<~O(p,q) справедливы неравенства
Idetter)l>l. Idet(?s)|>l.
Связные компоненты O(p,q) задаются неравенствами:
G) detgj-^1, dctgs^\ (компонента единицы);
(8) detffr<_l, detffs>l;
(9) detgr>l, detj?s<-l;
A0) detgr<-l, detgs<-l.
Следовательно, группа O(p,q) имеет четыре компоненты
при p^l, q ^ 1 ы две компоненты, если р или q равны
нулю.
Доказательство. Рассмотрим определитель Грама
det
gj-gj si-si
Si ¦ g{
si ¦ g
т -i
p
который равен (detgrJ. Используя приведенные выше соот-
соотношения, его можно также записать в виде определителя
1+,
det
•«f
sl-gf
S .
>р —
который равен 1 плюс сумма определителей Грама низшего
порядка, каждый из которых по-прежнему положителен. По-
Поэтому (dct grJ:2s 1 и аналогично (dctgsJ^l. Предполагая
теперь, что /7^1, q"^\, рассмотрим разбиение группы
O(p,q) на четыре части G), (8), (9), A0). Каждая из них
непуста, поскольку, например, (8) получается из G) умно-
умножением на матрицу /lrP+G_i, и т. д. С другой стороны, так
как функции g-^detgT, g-*-detgs непрерывны на O(p,q),
то четыре указанные части принадлежат разным связным
компонентам группы O(p,q). Но, согласно Шсвалле ([1946,
с. 291 русского перевода]), группа O(p,q) гомеоморфна про-
произведению группы О(р, q)[\U(p-\- q) и евклидова простран-
пространства. Так как группа 0{р, q)(] U(p + q)— О(р, q)(] O(p + q)
гомеоморфна О(р)У. О(q), остается заметить, что группа
О(п) имеет две компоненты,

§ I. ИЗОТРОПНЫЙ ПРОСТРАНСТВА 113
С. Лоренцевы изотропные многообразия
Лорсицсвы изотропные многообразия образуют более
узким класс, чем можно было бы предполагать, исходя из
рпманова случая. Действительно, известна теорема Лпхпе-
ровпча и Уокера [1945], согласно которой гармоническое
лоренцено многообразие имеет постоянную кривизну. Так как
изотропное лорепцеио многообразие гармонично, то пз тео-
теоремы 1.3 вытекает следующая
Теорема 1.5. Пусть X — лоренцево изотропное многообразие
(сигнатуры (l,q), ц ^ 1). Тогда X имеет постоянную кри-
кривизн)/, поэтому (после умножения лоренцевой структуры на
положительную константу) пространство X локально изо-
метрично одному из следующих пространств:
R +" (плоское, сигнатуры A, q)),
Q_,=OA, «7
+ q)IO(\,q): tj\-y\- ... _ ,/! + , + ,^+2=r 1,
лоренцева структура которых индуцируется формой у'- — у'\ —
- • ¦ ¦ + y'Ur
§ 2. Интегралы по орбитам
Интегралы по орбитам на лоренцсвых изотропных много-
многообразиях являются аналогами оператора сферического усред-
усреднения Мг, рассмотренного в § 1 гл. I и § 1 гл. III. Начнем
с предварительных геометрических результатов.
Для многообразий X с лорепцевон структурой g мы поль-
пользуемся следующей общепринятой терминологией. Конус
в точке у^Х называется изотропным (или световым) кону-
конусом в пространстве XtJ с вершиной у. Ненулевой вектор
УеА, называется времсниподобыым, изотропным или про-
странственноподобным, если число gy(Y, Y) соответственно
положительно, равно нулю или отрицательно. Аналогичные
названия применяются к геодезической в соответствии с ти-
типом ее касательного вектора.
Геодезическими в пространстве RI+<7 являются прямые;
геодезические в пространствах Q_i и Q+\ могут быть найдены
методом § 1 гл. III.
Предложение 2.1. Геодезические лоренцевых квадрик Q_i
и Q+i обладают следующими свойствами:
(\) они совпадают с непустыми пересечениями указанных
квадрик с двумерными плоскостями в Rz+", проходящими
через начало координат;
1/25 Зак. 568

U4 1"J1. IV. ИНТЕГРАЛЫ ПО OPBMTAM
(ii) на квадрике Q_i пространетвенноподобные геодези-
геодезические замкнуты, на квадрике Q+i времениподобные геодези-
геодезические замкнуты;
(Hi) изотропными геодезическими являются некоторые
прямые в R2+'.
Доказательство. Утверждение (i) вытекает из рассуждений
§ 1 гл. III, основанных на симметрии. Для доказательства
(ii) рассмотрим пересечение квадрики Q_i с двумерной пло-
плоскостью {у\ = у4 = . • • = Уя+2 = 0}. Оно совпадает с окруж-
окружностью {г/2 = cos t, г/з — sin t}, касательный вектор @, —sin t,
cost, О, .... 0) которой является, очевидно, пространственно-
подобным. Так как группа 0A, q -}- 1) траизитивно действует
на множестве прострапственпоподобиых геодезических, то
отсюда следует первое утверждение из (ii). Для квадрики
•Q+i достаточно рассмотреть ее пересечение с двумерной пло-
плоскостью (г/2 = -•• = уч+\ — 0}. Для доказательства (iii) за-
заметим, что двумерная плоскость R A, 0, ..., 0, 1) + R @, 1, ...
..., 0) пересекает квадрику Q_i по паре прямых {у\ = t,
{/2 = ±1, уг= ¦¦¦ = t/q+i = 0, г/?+2 = /}, которые, очевидно,
изотропны. Из транзитивности группы 0A, ^+0 на мно-
множестве изотропных геодезических следует тогда, что все изо-
изотропные геодезические являются прямыми. Рассуждения для
квадрики Q+i аналогичны.
Лемма 2.2. Квадрики Q_i и Q+i (q^ 1) связны.
Доказательство. Пользуясь связностью ^-ссреры, мы можем
непрерывно передвинуть точку (yt, ..., yq+2) по квадрике QTf
в точку (#,, {у\+ ... +yl+iyr2, 0, ..., О, yq+2), поэтому
aianie утверждение вытекает пз того, что гиперболоиды
У\ — 1Л ^ У\ = ^ 1 связны.
Лемма 2.3. Связные компоненты единицы групп ^
и 0B, q) транзитивно действуют соответственно на квадри-
квадриках Q-i и Q+1, и подгруппы изотропии связны.
Доказательство. -Первое вытекает из общего результата
(см., например, Хелгасон [1978, с. 132 русского перевода)),
согласно которому связная компонента единицы сспарабель-
пой группы Ли траизитивно действует на связном многооб-
многообразии, если это верно для самой группы. Для доказательства
второго утверждения воспользуемся описанием G) компо-
компоненты единицы. Из пего немедленно следует, что
О0A.<7+1)ЛОA, q) = O0{l,q),
ОоB, <7)ПОA, q) = Oo(l,q),

§ 2. ИНТЕГРАЛЫ ПО ОРБИТАМ | |5
где индекс 0 означает, что берется компонента единицы со-
соответствующей группы. Тем самым
Q-. = Oo(l. <7+0/О0A,<7), Q+I = O0B
что и доказывает лемму.
Запишем теперь пространства из теоремы 1.5 в виде X =
= G/H, где H = Oa(\,q), a G есть одна из групп: G0 —
= Rl+4'Oo(l,q) (полупрямос произведение), G~—OqA, ^+1)
или G+ = OoB, </). Пусть о обозначает класс {//} в про-
пространстве X, т. е.
о = @, .... 0), если * = R1+«,
о = @, ..., 0, 1), если X = Q_i или Q+1.
В случае, когда -Y = Q_| или X = Q+\. касательное простран-
пространство Хо совпадает с гиперплоскостью {у\, ..., уч+\, 1} в !К!2+".
Времсниподобныс векторы в точке о заполняют внутрсн-
о о
пость Со конуса Со- Множество Со состоит из двух компо-
компонент. Компонента, содержащая временпподобнын вектор
о„ = (-1, 0 0), (-1, 0, .... 0, 1), (-1, 0, .... 0, 1)
и случаях соответственно X — G°/H, G~/H, G+/H, назы-
называется конусом прошлого в пространстве Хо. Она обозна-
обозначается Do. Компонента гиперболоида go(Y, Y)=r2, лежащая
» Do< обозначается Sr(o). Для любой другой точки у про-
пространства X определим множества Си, Dy, Sr(y)cz Хи, пола-
полагая Cy = g-C0, Dy = g-Do, S'(y) = g-S'(o), где geG вы-
выбрано так, что g-o — y. Это определение корректно, по-
поскольку из связности подгруппы Н следует, что h-DoczDo
для АеЯ. Определим также
Br(y) = {Y^Dy: 0<gy(Y, Y)< r2}.
Обозначим через Ехр экспоненциальное отображение про-
пространства Ху в многообразие X, переводящее лучи из точки 0
и геодезические, проходящие через точку у, и положим
Dy = ExpDy, Cy — ExpCy,
Sr (у) = Ехр Sr (у), Вг (//) = Ехр Бг (у).
Множества Су и D;/ также называются соответственно свето-
световым конусом п конусом прошлого пространства X с верши-
вершиной в точке у. Для пространства X = Q+\ мы всегда предпо-
предполагаем, что г < я, чтобы отображение Ехр было взаимно
однозначным на множестве Вг(у) в соответствии с предло-
предложением 2.1 (и).
'/25*

llfi ГЛ. IV. ИНТЕГРАЛЫ ПО ОРБИТАМ
Лемма 2.4. Пусть g — лоренцсва структура на многообразии
X = G/H. Тогда структура —g индуцирует на каждой мно-
множестве 5Г(у) риманову структуру постоянной отрицательной
кривизны (q > 1).
Доказательство. Так как многообразие X изотропно, го
группа H = Oo{\,q) действует транзитную на множестве
S'(о). Подгруппа, оставляющая неподвижной геодезическую
из точки о с касательным вектором ио, совпадает с O»(q).
Отсюда вытекает утверждение леммы.
Лемма 2.5. Времениподобные геодезические, проходящие че-
через точку у, пересекают Sr{y) под прямым углом.
Доказательство. Ввиду инвариантности достаточно доказать
утверждение для точки у — о и геодезической, имеющем
в этой точке касательный вектор vo. В указанном случае
утверждение очевидно.
Пусть %(g)— сдвиг xH-^gxH на пространстве G/H, a TY
с Fem — линейное преобразование Z-*-\Y, \Y,Z}\ простран-
пространства m в себя. Как обычно, m отождествляется с касатель-
касательным пространством (G/H)o-
Лемма 2.6. Дифференциал экспоненциального отображения
Exp: m-> G/H имеет вид
d Ехру = dx (cxpY) о J Bnll}l (Y е= ги).
и
Доказательство см. в книге Хслгасона ([1978, с. 203 рус-
русского перевода]).
Лемма 2.7. Для времсниподобных векторов Y определитель
оо
линейного преобразования Лу= J1 Ту/Bп -\- 1)! задается фор-
о
пулами
X = Q-i,
Доказательство. Рассмотрим случаи пространства Q_[. Так
как det (Лу) инвариантен относительно подгруппы //, доста-
достаточно доказать утверждение для векторов вида Y = cY[, где
сек', а вектор Y\ задастся формулой D). Имеем с2 ==
= g(Y,Y) и 7Y,(У/) = Y/ B</'<v+0 Следовательно, опе-
оператор TY имеет собственные значения 0 и g(Y, Y), причем
второе из них «/-кратно, Отсюда вытекает доказываемая фор-

§ 2. ИНТЕГРАЛЫ ПО ОРБИТАМ 117
мула для определителя. Случай пространства Q+i рассмат-
рассматривается аналогично.
Из этой леммы и описания геодезических, данного в пред-
предложении 2.1, можно вывести теперь следующее
Предложение 2.8. (i) Отображение Exp: m->Q_i является
диффеоморфизмом конуса прошлого Do на Do.
(ii) Отображение Пхр: m->-Q+i является диффеоморфиз-
диффеоморфизмом множества Вп(о) на Вл(о).
Пусть dh обозначает двусторонпе инвариантную меру па
упимодулярпой группе //. Пусть, далее, «е С (^). У^Х
и г > 0. Выберем элемент g^G так, чтобы g-o — y. Пусть,
кроме того, x^Sr(o). Рассмотрим интеграл \u(gh-x)dh.
н
Так как подгруппа Kczfi, оставляющая неподвижной точку
х, компактна, то, как легко видеть, и множество
С а, х = {h ^ Н'- gh ¦ * <= supp (и)}
компактно; поэтому указанный интеграл сходится. В силу
двусторонней инвариантности меры dh, он не зависит от вы-
выбора элемента g (удовлетворяющего равенству g-o — y)
и точки xeSr(o). По аналогии с рпмаповым случаем (§ 1
гл. III) мы можем поэтому определить оператор Мг (инте-
(интеграл по орбите) формулой
A1) (M
Когда элементы g и х пробегают достаточно малые компакт-
компактные окрестности, множества Ся>х содержатся в фиксирован-
фиксированном компактном подмножестве //, так что (Мги) (у) гладко
зависит как от г, так и от у. Из формулы (II) ясно также,
что оператор Мг инвариантен относительно действия группы
G: если т(/) обозначает преобразование nil-*¦ 1пН простран-
пространства G/II на себя, порожденное элементом /eG, то
Мг (и о т (/)) = (Мги) о т (/).
Пусть dk — нормированная мера Хаара на подгруппе К-
Тогда по стандартным формулам инвариантного интегриро-
интегрирования
jj и (Л • -v) dh = \ dh ^u (hk -x)dk= \ ы (Л ¦ х) dh,
II ll/K К Н/К
где dh — инвариантная относительно группы И мера па про-
пространстве Н/К. По тогда, обозначая через dcor элемент
объема па многообразии Sr(o) (см. лемму 2.4), получим

118 ГЛ. (V. ИНТЕГРАЛЫ ПО ОРБИТАМ
ввиду единственности //-инвариантной меры на пространстве
Н/К « Sr(o), что
A2) ^u{h-x)dh=-~ \ u(z)dur(z),
где А (г)— положительное число. Так как элемент g задает
изометрию пространства X, то из формулы A2) следует, что
J u(z)d<br(z).
Теперь мы должны вычислить функцию А (г).
Лемма 2.9. Для подходящей (фиксированной) нормировки
меры Хаара dh на группе И имеем
A(r) = rq, (shr)', (sin/-L
соответственно для пространства Rl+Q, OA, q -f- I)/ОA, q),
OB,q)/O(\,q).
Доказательство. Приведенные выше соотношения показы-
показывают, что dh = A(r)-ldurdk. Отображение Exp: Do^-Do со-
сохраняет длину на геодезических, проходящих через о, п ото-
отображает многообразие Sr(о) па Sr(o). Поэтому если ze
eS'(o) и Z есть вектор с началом в п концом в точке z
п пространстве Хо, то отношение элемента объема многооб-
многообразия Sr(o) к элементу объема многообразия Sr(o) в точке z
равно dot(dExpz). По леммам 2.6 и 2.7 это выражение в трех
рассматриваемых случаях равно соответственно
1, (sh r/rL, (sm г/г)".
Но элемент объема duY на Sr(о) равен rqd(ul. Следовательно,
в трех указанных случаях мы имеем
dhdrfdk d^dk dtidk
Но меру dh можно (раз и навсегда) нормировать условием
dh = dis^dk. При такой нормировке справедливы наши фор-
формулы для функции Л(г).
Пусть П обозначает волновой оператор на пространстве
X = G/H, т. с. оператор Лапласа — Бсльтрами для лорепце-
вой структуры g.
Лемма 2.10. Пусть у^Х. Волновой оператор О на конусе
прошлого Dy может быть записан в виде
п = д'2 у ' dA 0 ,
ы дг* "т" Л (г) dr dr sr (у)'

§ 2. ИНТЕГРАЛЫ ПО ОРБИТАМ 119
где L-^r —оператор Лапласа — Бельтрами на многообра-
многообразии Sr(y).
Доказательство. Можно взять у = о. Если (Oi, ..., G,)—ко-
G,)—координаты па «сфере» S[(o) в плоском пространстве Хо, то
(г()ь ..., rOq)—координаты на Sr(o). Лорснцсна структура
па конусе Do задастся поэтому формой dr2— r2d02, где d№ —
рпмапова структура па S'(o). Так как оператор AY из
леммы 2.7 задается диагональной матрицей с собственными
значениями 1 и r~*A(r)[/q (второе — кратности q), то по
ломме 2.6 образ S'(о) = Exp(Sr(o)) многообразия Sr(o)
имеет риманоиу структуру r2d02, sh2r-d02, sin2r-d92 соответ-
соответственно в случае пространств Rl+", Q-i, Q+i- Используя орто-
ортогональность, доказанную в лемме 2.5, получим, что лорсп-
цена структура на Do в трех указанных случаях задается
формами
dr2-r2dtf, dr2- sh2r ¦ dQ\ dr2- sin2г • dQ2.
Отсюда немедленно следует утверждение леммы.
Оператор Мг является, конечно, лорепцевым аналогом
оператора сферического среднего для изотропных риманопых
многообразий. Мы докажем сейчас, что, как и в римановом
случае (см. формулу D1) гл. III), оператор Мг коммутирует
с волновым оператором П.
Теорема 2.11. Для любого из изотропных лоренцевых про-
пространств X = G'/H, G+/H или G°/H волновой оператор ?
коммутирует с оператором интегрирования по орбитам Мг:
? Mru = MrDu при и 6Е СГ {X)
(а случае X = G+/H мм предполагаем, что г <я).
Для данной функции и па пространстве G/II определим
функцию п на группе G, полагая п{g)= u(g-o).
Лемма 2.12. Существует дифференциальный оператор ? на
группе G, инвариантный относительно всех левых и правых
сдвигов и такой, что
= (? и)" при и <ее С? (X).
Доказательство. Рассмотрим сначала пространство X =
= G~/H. Билинейная форма/С (К, Z) = -^Tr(YZ) па алгебре
Ли оA,«7+1) группы G~ невырожденна; в действительности
форма К нсвырождениа на комплсксификацнп v(q-\-2, С)

120 ГЛ. IV. HIITl-ГРАЛЫ ПО ОРБИТАМ
этой алгебры, состоящей из всех комплексных кососнмметри-
ческих матриц порядка q-\-2. Простое вычисление показы-
показывает, что и обозначениях D), E)
/С(У„ У,)=1, K{Y,,Y,)=*-l B</<<7+l).
В силу симметричности и невырожденности формы К, на
группе G~ существует единственная леиоппварпантпая нссв-
дорнмапона структура К, такая что Rc = К. Более того,
форма R н правопиварпантпа. поскольку К инвариантна от-
относительно сопряжения Y—>-gYg-] алгебры оA,</+ 1). Пусть
П—соответствующий оператор Лапласа — Бсльтрами на
ipyinic G~. Тогда оператор П инвариантен относительно всех
левых и правых сдвигов на группе G~. Пусть и е С? {X). Так
как функция Ой инвариантна относительно всех правых
сдвигов из подгруппы Н, то существует единственная функ-
функция yeC^(X), такая что П/7 = v. Отображение u-*-v яв-
является дифференциальным оператором, который в точке о
должен совпадать с оператором П, т. с. Otl(e) — Пи (о). По-
Поскольку, кроме того, оба оператора ? п u-+-v инвариантны
относительно действия группы G~ па пространстве X, они
совпадают. Это доказывает, что Ой — (?«)".
Случаи пространства X = G+/H рассматривается анало-
аналогичным образом. В случае плоского пространства X=GU/H
пусть Y, — @, ..., 1, ..., 0) есть /-и координатный вектор
в пространстве R]+4. Тогда П — Уу — Y1,— ... — К;;+|. Так
как пространство IR'+« естественным образом вложено в ал-
алгебру Ли группы G0, мы можем продолжить вектор У/ до
лсвоинварпантиого векторного поля ?; па группе G0. Тогда
оператор П = Y\ — Y">— ... —Y~q+\ является лево- и право-
ппварнаптпым дифференциальным оператором на группе G0,
откуда вновь получаем, что Ой = (Ои) ' . Этим закапчивается
доказательство леммы.
Теперь мы можем доказать теорему 2.11. Для g^G обо-
обозначим через L(g) и R(g) соответственно левый и правый
сдвиги /-»¦?/ и /-»-/? на группе G. Если l-o~x, x^Sr(o)
(г > 0) п g-o = у, то, согласно определению A1),
(Mru)Uf)= \u(ghl)dh.
Если элементы g и / изменяются в достаточно малых ком-
компактных окрестностях, то, как указывалось выше, область
интегрирования содержится внутри фиксированного компакт-
компактного подмножества подгруппы II. Докажем следующий ре-
результат.

3. 0П0П1Щ.1 lIH.Ir ПОТР.ПЦПЛЛЫ 1'ПСГ.Л 121
Лемма 2.13. Имеет место соотношение
? iП й(ghl)dh\ = J (Пй)(ghl)dh = Dg(\ й(ghl)dh\,
где нижний индекс обозначает переменную, на которую дей-
действует дифференциальный оператор П.
Доказательство. Первое равенство вытекает из лсвоннвари-
антности оператора П. Действительно, интеграл слева равен
\ (п о L (gh)) (/) dh, поэтому
п
Ui(\u (ghl) dh\=\[D(u*L (gh))] (I) dh =
\H ) П \
= \ [(D й) о L (gh)] (t) dh = J (a n) (ghl) dh.
н и
Второе равенство аналогичным образом следует из правоин-
«ариантности оператора П. Лемма доказана.
Остается заметить, что второе равенство в лемме 2.13
в точности совпадает с соотношением перестановочности
и теореме 2.11, что завершает доказательство теоремы.
Лемма 2.13 влечет за собой также следующим аналог
уравнения Дарбу из леммы 3.2 гл. 1.
Следствие 2.14. Пусть и^С7(Х). Положим
U (у, z) = (Mru)(y), если z<==Sr(o).
Тогда ПИ(и{у,г))^Пг(и(у,г)).
Замечание 2.15. Решения уравнения Лапласа Lu = 0 в про-
пространстве R" характеризуются теоремой о сферическом сред-
среднем: Мги = и (для всех г). Эквивалентная формулировка:
Мги не зависит от г. В этой последней форме теорема о сфе-
сферическом среднем выполняется и для решений волнового
уравнения Пн = 0 в изотропном лоренцевом многообразии —
если функция и удовлетворяет уравнению Пи = 0 и доста-
достаточно мала на бесконечности, то (Мги) (о) не зависит от г.
Точную формулировку и доказательство этого утверждения
см. и статье Хелгасона [1959, с. 289].
§ 3. Обобщенные потенциалы Рисса
В этом параграфе мы частично обобщаем теорию потен-
потенциалов Рисса (§ 8 гл. I) на изотропные лоренцсвы многооб-
многообразия.
Рассмотрим сначала случай пространства
6 Зак. 56S

122 ГЛ. IV. ИПТПГРЛЛЫ ПО ОРБИТАМ
размерности п. Пусть f^C™(X) и i/ e I Для z = ExpyY
(УеЬу) положим гуг ^ g{Y,YY12 и рассмотрим интеграл
A3) (/_/) (,/)=
где dz— элемент объема на X, а
A4) Я„ (Я) = я("-2)/22^'г (V2) Г ((А, + 2 - п)/2).
Интеграл сходится при RftX^n. Преобразуем интеграл A3)
в интеграл по D,, с помощью диффеоморфизма Ехр { = Ехру).
Так как dz = drd(br = dr (sh r/r)n-]dar и rfrrfcor совпадает
с элементом объема dZ на Dy, то мы получаем
=777W \
где г = g(Z, Z)]/2. Правую часть можно записать в виде
где функция h(Z,X) вместе со всеми своими частными про-
производными по первому аргументу голоморфна по X и имеет
компактный носитель по первому аргументу. К интегралам
вида A5) применим метод Рисса ([1949, гл. III]). В част-
частности, мы получаем, что функция X->(fl-f)(y), которая по
определению голоморфна при ReX>n, допускает голоморф-
голоморфное продолжение на всю плоскость X и се значение при X = О
равно h@,0)= f(y). (В работе Рисса функция h(Z,X) не
зависит от X, но его метод применим и в рассматриваемой
ситуации.) Обозначая голоморфное продолжение функции
A3) через (lK-f)(y), мы тем самым получаем, что
A6) /-/ = /.
Мы хотим продифференцировать интеграл A3) по у. Для
этого перепишем его в виде \f(z)K(y, z)dz, где F — ограни-
ограниченная область, строго содержащая пересечение носителя /
с замыканием множества D,,. Ядро K(y,z) но определению
равно shx-nruz при геб, и 0 в противном случае. Если Re X
достаточно велико, ядро K{y,z) дважды непрерывно диффе-
дифференцируемо по у, поэтому для таких X функция /-./ принад-
принадлежит классу С2 и
A7) (? /*_/)A/)=_1_ \ f{z) ПиЫ" "rjdz.

3. ОБОГ.ЩЕШП.Ш ПОТППЦИАЛЫ РПССА [23
Более того, для данного meZ+ можно найти такое число k,
что /^.feCmпри ReX~>k (для пссх /). Применяя лемму 2.Ю
н соотношение A/Л (r))dA/dr = {п — l)cth r,
получаем
= (Х-п)(Х- \)shK-nr!/z + (X - п) (X - 2)shx-n-2ruz.
Кроме того, имеем Нп(К) = (К — 2) (X — п)Нп{Х — 2). Под-
Подставляя эти соотношения в формулу A7), находим, что
П/-/ = (^-/г)(А- l)ll-f + IKr2f.
Считая ио-прежнему число Re к большим, воспользуемся
формулой Грина и выразим интеграл
A8) J [/(г) nz(shK-nryz)-shK-nry,(af)(z)]dz
через поверхностный интеграл по подмножеству в Су (на
котором функция shl-nruz и ее первые производные обра-
обращаются в нуль) и интеграл по какой-нибудь поверхности, ле-
лежащей внутри By (па которой функция / н ее производные
обращаются в нуль). Следовательно, выражение A8) равно
нулю, и тем самым для ReX>k, где k — некоторое число,
не зависящее от /, мы доказали соотношения
A9) ?(/*-/) = /*-(?/),
B0) t (nf) = (X-n)(X-\) Ix-f + t~2f.
Так как обе части соотношения B0) голоморфны по X, то
оно справедливо для всех 1 G ,С, Покажем, что при любом
^еС функция /^/<=С°°(Х) и справедливо равенство A9).
Для этого заметим, применяя последовательно соотношение
B0), что при любом р е '/,+
B1) /-/ = /-+2p(Q,(D)f).
где QP — некоторый полином степени р. Выбирая р доста-
достаточно большим и принимая во внимание замечание, следую-
следующее за формулой A7), получим отсюда, что /^feC°°(A').
Далее, из равенства A9) следует, что при R
Используя вновь соотношение B1), видим отсюда, что ра-
равенство A9) справедливо при всех X.
Положив в B0) X = 0, получим
B2) /:2/ = П/-п/.
6*

124 ГЛ. IV. ИНТЕГРАЛЫ ПО ОРБИТАМ
Замечание. В работе Рисса [1949, с. 190] определяются ана-
аналоги /а потенциалов из § 8 гл. I для произвольного аналити-
аналитического лоренцева многообразия. Эти потенциалы /а отли-
отличаются, однако, от введенных нами потенциалов l\ и, в част-
частности, удовлетворяют уравнению I~2f = ?/ вместо уравне-
уравнения B2).
Рассмотрим далее случай X = Q+\ = G+/H = О0B, п —
— 1)/О0A,п—1) и положим по определению для f^C™(X)
B3) (
Функция Нп(к) задастся снова формулой A4), a dz—эле-
dz—элемент объема. Для того чтобы избежать трудностей, связан-
связанных с тем, что функция г—>- sin rtfZ обращается в нуль на мно-
множестве 5я(у), предположим, что носитель функции f не пе-
пересекается с 5я(о). Тогда носитель / не пересекается с 5я(у)
ни для какого у из некоторой окрестности точки о в X. Те-
Теперь мы можем доказать, как и прежде, что
B4) (
B5) (n
B6) (l\ О f) (!/) = -(К-п)(к-\) {lK+f) (У) + (Д-'f) (У)
для всех Хе.С. В частности,
B7) Il2f=Df + nf.
Рассмотрим, наконец, плоский случай
X = R" = G°/H = R" • О„A, п— 1)/О„A, я —I)
и положим по определению
= -f~ \f(z)r%ndz.
Ъу
Эти потенциалы были определены Риссом [1949, с. 31], ко-
который доказал, что
B8) /о/ = f, ? /о/ = /о П f = /оf.
§ 4. Нахождение функции по ее интегралам вдоль
лоренцевых сфер
Функция на римаиовом многообразии определяется через
свои сферические средние по простой формуле: f = lim Mrf.
/¦->О
Мы решим сейчас аналогичную задачу для четномерных изо-

§ 4. НАХОЖДЕНИЕ ФУНКЦИИ ПО ПК 1ПП7;Г1'АЛЛМ 125
тропных лоренцсвых многообразий и выразим функцию f че-
через ее интегралы по орбитам Mrf. Так как сферы 5г{у) не
стягиваются в точку при г-*-0, соответствующая формула
(см. теорему 4.1) будет иметь совершенно другой вид.
Для решения этой задачи воспользуемся геометрическим
описанием волнового оператора П, данным в § 2, в особен-
особенности его перестановочностью с интегралом по орбитам Мг,
в сочетании с результатами об обобщенных потенциалах
Рисса, установленными в § 3.
Рассмотрим сначала отрицательно искривленное про-
пространство X = G~/H. Пусть п = dim X и п четно. Для
f ^ СТ (X) положим F(r) = (Mrf) ((/). Учитывая, что элемент
объема dz на Д„ задается как dz = drdar, из равенства A2)
и леммы 2.9 получим
B9) (/*_ f) (,/) = -jf+щ- J sh^-1 г ¦ Г (г) dr.
о
Пусть Vi, ..., Y,, — базис пространства Хц, в котором
лоренцсва структура имеет вид
8У{У)У\У\ ¦• Уп, Y Zuif
Введем геодезические полярные координаты 0, б„_2 на
единичной сфере в R"-1 и положим
j/, = —rcliC @<$ < оо, 0 <г < оо;,
i/2 = r shC cos Ol
(/„ = r she sin 0| ••• sinOn_2-
Тогда (r, ?;, Oi, ..., 9»-2) являются координатами на конусе
прошлого Dy и элемент объема па S'(y) задается формулой
где da"-2 — элемент объема на единичной сфере в К!"-'. От-
Отсюда следует, что
поэтому
C0) F(г) = \\ (I о Ехр)(г, ?, в„ .. ., 0„_2) sh«-Ч • d? • d<s>n~\
где
(г, 5, 8„ .... 0„.2) =
= (— rchg, rsh^cose,, ..., г she sin в! ••• sinOn_2).

156 ГЛ. IV. ИНТЕГРАЛЫ ПО ОРБИТАМ
Выберем теперь число А так, чтобы функция foExp обра-
обращалась в нуль вне сферы (/2 + ... + \)'п = А'2 пространства
Ху. Тогда область изменения % в интеграле C0) будет содер-
содержаться в интервале @, ?0), где r2ch2?o + r2sh2?o = Л2. Под-
Подставляя t = rsh% в интеграл, мы видим, что интеграл C0)
ведет себя при малых г как
где функция ф ограничена. Поэтому при п > 2 существует
предел
C1) a = limsh"-2r ¦ F (г) (я > 2).
г-*0
Аналогично, при п = 2 получаем, что существует предел
C2) b = llm(shr)F'(r) (я =2).
0
(
г->0
Рассмотрим сначала случаи п>2. Формулу B9) можно
переписать в виде
А
(/XJ)(У) = т^щ J sh»-2r-F(r)sh^-«+' г • dr,
(i
где F(y4)=0. Вычислим теперь обе части при % = п — 2.
Так как функция Нп(%) имеет простой полюс при % = п — 2,
то интеграл имеет в этой точке не более чем простой полюс
с вычетом, равным
А
lim (К — п + 2) [ sh*-2r • F (r) sh*-»+' r • dr.
Мы можем считать здесь, что % вещественно и % > п — 2.
Это удобно, ибо, согласно условию C1), интеграл тогда аб-
абсолютно сходится и нам не придется рассматривать его как
неявно заданное голоморфное продолжение. Разобьем инте-
интеграл на две части:
А
(X - п + 2) J (sh«-2 r-F(r)-a) sh^-»+I r ¦ dr +
о
А
+ о(Й. - ft + 2) J shx-n+' r ¦ dr.

5 4. НАХОЖДЕНИЕ ФУНКЦИИ ПО ЕЕ ИНТЕГРАЛАМ 127
Во втором члене воспользуемся соотношением
А ъ\\А
lim |i \ sh1* г • dr = lim ц \ /•*-' A + /2)~" dt = 1,
и_^0-т" ¦ LL —> 0 -f- **
О О
которое вытекает из формулы G5) гл. I. Рассмотрим первый
член. Для любого е > 0 найдется такое б > 0, что
\shn'2r ¦ F(r) — a\<e при 0 < г < б.
Если N — max\shn-2r-F(r) |, то при л — 2 < Я < п — 1 по-
получим оценки
(А, — л + 2) J (sh"r-F(r) — a)sh^"+Ir ¦ dr К
б
< (А. - n + 2) (W + | а |) (Л - fl) (sh в)*-»+>,
й
(Я — л + 2) \ (sh" r • F(r)~a) sh^"+1 r • rf
о
(Я — л + 2)
Взяв число Я — (л — 2) достаточно малым, найдем, что пра-
правые части обоих неравенств не превосходят 2е. Тем самым
мы доказали, что
оо
lim (Я— п + 2)[ sir4 г ¦ F (r) dr = lim shn'2 r • F{r).
(л-2) J r-+0
Принимая во внимание выражение для функции #„(Я), по-
получаем для интеграла B9):
C3) /Г2/ = Dnf -^ r((Bl2V2) lim sh-2 rAf7.
С другой стороны, применяя последовательно формулу B0),
получим для функции и^С™(Х)
lT2(Q(D)u)=u,
где (?(?) = (?+(я-3J) (?+(«-5) 4) ... (П + \ („ _ 2)).
Объединяя эту формулу с формулой C3) и пользуясь пере-
перестановочностью: ПМГ — МГО, получим
C4) и = Dл)'2 -">/* г ((я Х_ 2)/2) lim sh"-* r • Q (?) М'и.

128 ГЛ. IV. ИНТЕГРАЛЫ ПО ОРБИТАМ
Ввиду леммы 2.10 и следствия 2.14 мы можем заменить
здесь shr на г, а оператор ? на оператор П, == d2/dr2 +
+ (n~ \)dhrd/dr.
В случае п = 2 по формуле B9) имеем
оо
C5) (Hf)(y) = -n~^\ shr-F(r)dr.
Этот интеграл, вклад в который на самом деле дает лишь
интервал от 0 до А, абсолютно сходится, поскольку, как по-
показывает наша оценка функции C0) (для п — 2), функция
rF(r) ограничена вблизи г = 0. Но, пользуясь формулами
B0), C5), леммой 2.10, теоремой 2.11 и следствием 2.14, мы
получаем, что для неСГ(^0
оо
и = /i G и — у [ sh rMr uudr —
о
оо оо
= 4"$ shr QMrudr = y
==\ Т" ( sh г-т-ЛГ н ) dr = — Tr'i
d(Mru)
/._>n rfr
Это соотношение заменяет C4) в случае п — 2.
Случаи пространств G+/H и G°/# рассматриваются ана-
аналогично. Тем самым мы доказали следующий основной ре-
результат этой главы.
Теорема 4.1. Пусть X — одно из изотропных лоренцевых мно-
многообразий G-/H, G°/H, G+/H. Пусть к обозначает кривизну
X (к = —1, 0, +1). Предположим, что размерность п =
= dim X четна. Положим
Q(?) = (? -*(гс-3J)(П -х(п—5L) ... (Q-к- 1 -(п-2)).
Тогда для функции не С?(Х) справедлива формула
I ' ^ п-2.
Здесь О — оператор Лапласа —Бельтрами, а Пг-его ра-
., _ д2 . 1 AЛ d
аиальная составляющая Dr =-jt + л ( ) ~2~ Иг'

БИБЛИОГРАФИЧЕСКИЕ ЗАМЕЧАНИЯ 129
БИБЛИОГРАФИЧЕСКИЕ ЗАМЕЧАНИЯ
§ 1. Описание пространств постоянной кривнзсы (теоремы 1.3 и 1.5) дано
автором в [1959], [1961]. Доказательство леммы 1.4 о связных компонен-
компонентах заимствовано у Берпера [1955]. Дальнейшие сведения об изотропных
многообразиях (данное нами определение не единственно возможное)
см. в работах Титса [1955, с. 183] и Вольфа [1967].
§ 2—4. Этот материал основан на гл. IV работы Хелгасопа [1959]. Пред-
Представляет значительный интерес задача распространения теоремы 4.1 на
аффинные симметрические пространства G/H (группа О полупроста). Как
объяснялось при обсуждении проблемы D в § 3 гл. II, решение этой за-
задачи будет включать в себя представление функции па группе G через
ее интегралы по смежным классам п их сдвигам.

ЛИТЕРАТУРА
Амемия, Андо (Amemiya I., Ando T.)
[1965] Convergence of random products of contractions in Hilbert
space. — Ada Sci. Math. (Szeged), 26 A965), 230—244.
Араки (Araki S. I.)
[1962] On root systems and an infinitesimal classification of irreducible
symmetric spaces. — /. Math. Osaka City Univ., 13 A962),
1—34.
Бёрнер (Boerncr H.)
[1955] Darstellungen von Gruppen. — Heidelberg: Springer-Verlag, 1955.
Бессе (Besse A.)
[1978] Manifolds all of whose geodesies are closed. — Ergebnisse der
Mathematik, vol. 93.— New York: Springer, 1978. [Имеется
перевод: Бессе А. Многообразия с замкнутыми геодезически-
геодезическими. — М.: Мир, 1981.]
Боровиков В. А.
[1959] Фундаментальные решения линейных уравнении в частных про-
производных с постоянными коэффициентами.—-Тр. Моск. матем.
об-ва, 8 A959), 199—257.
Брейсуэлл, Риддл (Bracewell R. N., Riddle А. С.)
[1967] Inversion of fan beam scans in radio astronomy. — Astro Phys.
J., 150 A967), 427—434.
Ban (Wang H. C.)
[1952] Two-point homogeneous spaces.— Ими. of Math., 55 A952),
177—191.
Вейс (Weiss B.)
[1967] Measures that vanish on half spaces. — Proc. Amer Math. Soc,
A967), 123—126.
Вольф (Wolf J. A.)
[1967] Spaces of constant curvature. — New York: McGraw-Hill, 1967.
[Имеется перевод: Вольф Дж. Пространства постоянной кри-
кривизны.—М.: Паука, 1981.]
Гальперин (Halperin I.)
[1962] The product of projection operators. — Ada Sci. Math. (Szeged),
23 A962), 96—99.
Гельфапд И. М., Граев М. И.
[1955] Аналог формулы Плашпереля для классических групп.—Тр.
Моск. матем. об-ва, 4 A955), 375—404.
[1968] Комплексы прямых в пространстве С". — Функц. анализ и его
приложения, 2 A968), 30—52.
Гельфапд И. М., Граев М. И., Вплспкпи II. Я.
[1962] Интегральная геометрия и связанные с пен вопросы теории
представлении. — М.: Фнзматгиз, 1962.
Гельфапд И. М., Шапиро 3. Я.
[1955] Однородные функции и их приложения. — Успехи матем. наук,
10 A955), 3—70.
[1969] Дифференциальные формы и интегральная геометрия. — Функц.
анализ и его приложения, 3 A969), 24—40.
Гельфанд И. М., Шилов Г. П.
[1958] Обобщенные функции и действия над ними. Вып. 1. — М.: Физ-
матгиз, 1958.

ЛИТЕРАТУРА 131
Герглотц (Hcrsilolz G.)
[19311 Nolcs of lectures on «Mechanik der Kontinua». — Gotlingen, 1931.
ГнЛемип (Giiillcinin V.)
[1976] Radon transform on Zoll surfaces. — Advan. Math., 22 A976),
85—119.
Годеман (Godement R.)
11966] The decomposition of L2(G/r) for Г = SLB, Z). —Proc. Symp.
Pure Math. (Amer. Math Soc), 9 A9GG), 211—224.
Гордннг (Harding L.)
[1961] Transformation de Fourier des distributions homogenes. — Bull.
Soc. Math. France, 89 A961), 381-428.
Джон (John F.)
[1934] Bestiinmung cincr Funktion aus ihren lntegralcn iiher Rewisse
Mannigfaltigkeiten. — Math. Ann.. 109 A934), 488-520.
[1935] Abliiingigkeil zwischen den Fliiclienintcgralcn einer stetiRcn
Funktion. — Math. Ann., Ill A935), 541-559.
[1938] The. iiltrahyperbolic differential equation with 4 independent va-
variables. — Duke Math. ]., 4 A038), 300-322.
[1955] Plane waves and spherical means applied lo partial differential
equations — New York: lnterscience, 1955. [Имеется перевод:
Йоп Ф. Плоские волны и сферические средине п применении к
дифференциальным уравнениям с частным» производными.—
М.: ИЛ, 1958.]
Картап (Cartan Б.)
[1927] Snr certaines formes riemanniennes remarquables des geometries
a gronpe fondamenlal simple. — Ann. Sci. Ecole Norm. Super.,
44 A927), 345-467.
Коксстер (Coxeter M. S. M.)
[19571 Non-F.nclidcan geometry.—Toronto: Univ. of Toronto Press, 1957.
Кормак (Cormack А. М.)
[1963], [1964] Representation of a function by its line integrals, with
some radiological application. 1, 11. — /. Appl. Physics, 34 A963),
2722—2727; 35 A964), 2908—2912.
Куинто (Quinto E. T.)
[1980] The dependence of the generalized Radon transform on defining
measures. — Trans. Amer. Math. Snc, 257 A980), 331—346.
Курант, Лаке (Conrant R., Lax Л.)
[1955] Remarks on Canchy's problem for hyperbolic partial differential
equations with constant coefficients in several independent varia-
variables.— Comm Pure Appl. Math., 8 A955), 497—502.
Лаке, Филлипс (Lax P. D., Phillips R. S.)
[1967] Scattering theory. — New York: Academic Press, 1967. [Имеется
перевод: Лаке П., Филлипс Р. Теория рассеяния. — М.: Мир,
1971.1
[1979] Translation representations for the solution of the non-Euclidean
wave equation. — Comm. Pure Appl. Math., 32 A979), 617—
667.
Лихпероиич, Уокер (Lichnerowicz A.. Walker A. G.)
[1945] Sur les espnees Riemnnnicns hnrmoniques de type hyiierbolique
normal. — С R. Acail. Sri. Paris, 221 A945),'396-397.
Людвиг (Ludwig D.)
[1966| The Radon transform on Euclidean space. — Comm. Pure Appl.
Math., 23 A966), 49—81.
Мацумото (Matsuinoto H.)
[1971] Quclqucs remarques sur Its espaces Ricmaniiiens isotropes.—
С R. Acad. Sci Paris, 272 A971), 316—319.
Мишель (Michel L.)
[1972] Sur certains tensciirs symetriqucs des espaces projectifs reels.—
J. Math, pures et appl., 51 A972), 275—293.

132 Л1ПТРЛТУРА
[1973] Problemes d'analyse geometrique lies a la conjecture de Blasch-
ke. — Bull. Soc. Math. France, 101 A973). 17—69.
Нагако (Nagano T.)
[1959] Homogeneous sphere bundles and the isotropic Riemannian ma-
manifolds. — Nagoya Math. J., 15 A95У), 29—55.
Пепроуз (Penrose R.)
[1967] Twistor algebra. — J. Math. Phys., 8 A967), 345—360.
Радон (Radon J.)
[1917] Ober die Bcstimmung von Funktionen (lurch ihre Integralwerte
liings gewisscr Manuigfaltigkeiten. — Bcr. Vrrli. Siichs. Лка<1.
Wiss. Leipzig, Math. — Nat. Kl., 69 A917), 262—277. [Приложе-
[Приложение к настоящеП книге.]
Puce (Riesz M.)
[1949] l.'integrale de Riemami-Liouville et le probleme de Cauchy.—
Ada Math., 81 A949), 1-—223.
Саптало (Santalo I..)
[1976] Integral geometry and geometric probability. — Reading: Arldi-
son Wesley. 1976.
Сельберг (Selberg Л.)
[1962] Discontinuous groups and harmonic analysis.— Proc. Inlcrn.
Congr. Math. Slockholm A962), 117--18').
Семянистый В. И.
[1960] О некоторых интегральных преобразованиях в евклидовом про-
пространстве.—Докл. АН СССР, 134 (I960), 536—539.
[1961] Однородные функции и некоторые задачи интегральной гео-
геометрии в пространствах постоянной кривизны. — Докл. АН
СССР. 136 A961), 288-291.
Смит, Солмоп (Smith К. Т., Solmon D. С.)
[1975] Lower-dimensional intcgrability of L2 functions. — /. Math. Anal.
Appl., 51 A975), 539—549.
Смит, Солмоп, Вагнер (Smith К. Т., Solmon D. С, Wagner S. L.)
[1977] Practical and mathematical aspects of the problem of recon-
reconstructing objects from radiographs. — Bull. Amer. Math. Soc. 83
A977),. 1227—1270.
Солмоп (Solmon D, C.)
[1976] The X-ray transform. — /. Math. Anal. Appl., 56 A976) 61—83.
Тите (Tits J.)
[1955] Sur certains classes d'espaces homogenes de groupes de Lie —
Acad. Roy. Belg. Cl. Sci. Mem. Coll., 29 A955), No. 3.
Трев (Treves F.)
[1963] Equations aux dcrivees partielles inliomogenes a coefficients
constants dependent de parainetres. — Ann. Inst. Fourier, Gre-
Grenoble, 13 A963), 123—138.
[1967] Topological vector spaces, distributions and kernels. — New York:
Academic Press, 1967.
Уиттекер, Ватсои (Whittaker E. Т., Watson G. N.)
[1927] A course of modern analysis. — Cambridge: Cambridge Univ.
Press, 1927. [Имеется перевод: Уиттекер Э. Т., Ватсоп Дж. Н.
Курс современного анализа. Основные операции анализа. — М.:
Физматгиз, 1962, 1963.]
Уэллс (Wells R. О., Jr.)
[1979] Complex manifolds and mathematical physics. — Bull. Amer.
Math. Soc, 1 A979), 296—336. [Имеется перевод в сб. Тнисто-
ры и калибровочные поля. — М.: Мир, 1983.]
Фленстед-Иенсен (Flensted-Jensen M.)
[1977] Spherical functions on a simply connected s-imisimple Lie group,
U. — Math. Ann., 228 A977), 65—92.
Фуледе (Fuglede B.)
[1958] An integral formula.— Math. Seand., 6 A958), 207—212.

ЛИТЕРАТУРА 133
Фуик (Funk P,)
[1916) ПЬег cine geometrische Anwendung der Abelschen Integralglei-
chung. — Math. Ann., 77 A916), 129—135.
Хариш-Чандра (Harish-Chandra)
[1957] A formula for semisimple Lie groups. — Amer. J. Math., 79
A957), 733—760.
Хелгасон (Ilelgason S.)
[1959] Differential operators on homogeneous spaces. — Ada Math.,
102 A959), 239—299.
[1961] Some remarks on the exponential mapping for an affine con-
connection. — Math. Scand., 9 A961), 129—146.
[1963] Duality and Radon transfon'n for symmetric spaces. — Amcr.
J. Math., 85 A963), 667—692.
[1964Л] Л duality in integral geometry; some generalizations of the
Radon transform. — Bull. Amcr. Math. Soc. 70 A9G4), 435—
446.
[1964B] Fundamental solutions of invariant differential operators on
symmetric spaces. — Amer. J. Math., 86 A964), 505—G01.
[1965Л] The Radon transform on Euclidean spaces, compact two-point
homogeneous spaces and Grassmann manifolds. — Ada Math.,
113 A965), 153—180.
[19G5B] Л duality in integral geometry on symmetric spaces. Proc.
(J. S. — Jnpnn Seminar in Differential Geometry, Kyoto, 1965.—
Tokyo: Nippon Hyoransha, 1966, 37—56.
[1973] The surjectivity of invariant differential operators on sym-
symmetric spaces. \. — Ann. of Math., 98 A973), 451—479.
[1978] Differential geometry, Lie groups and symmetric spaces.— New
York: Academic Press, 1978. [Имеется перевод более раннего
издания: Хелгасои С. Дифференциальная геометрия и сим-
симметрические пространства. — М.: Мир, 1964.]
[1980Л] Support of Radon transforms. -- Advan. Math. 38 A980), 91 —
100.
[1980B] The X-ray transform on a symmetric space. Proc. Conf. Diff.
Geom and Global Analysis, Berlin, 1979, Lect. Notes Math.—
New York: Springer, 1980.
Хёрмаидср (Hormander L.)
[1963] Linear differential operators. — New York: Springer, 1963. [Име-
[Имеется перевод: Хермандер Л. Линейные дифференциальные
операторы с частными производными. — М.: Мир, 1965.]
Хэмейкер, Солмон (Hamaker С, Sohnon D. С.)
[1978] The angles between the null spaces of X-rays. — /. Math. Anal.
Appl, 62 A978), 1—23.
Чжэпь (Chern S. S.)
[1942] On integral geometry in Klein spaces. — Ann. o/ Math., 43
A942), 178—189.
Шварц (Schwartz L.)
[1966] Thcorie des distributions. — Paris: Hermann, 1966.
Шевалле (Chevalley C.)
[1946] Theory of Lie groups, vol. I. — Princeton, New Jersey. Prince-
Princeton Univ. Press, 1946. [Имеется перевод: Шевалле К. Теория
групп Ли, т. I. —M.: ИЛ, 1948.]
Шепп, Крускал (Shepp L. A., Kruskal J. В.)
[1978] Computerized tomography: the new medical X-ray technology.—
Amer. Math. Monthly A978), 420—438.

ПРИЛОЖЕНИЕ ')
Об определении функций по их интегралам
вдоль некоторых многообразий
Иоганн Радон
Когда интегрируют функцию двух переменных х, у, т. е.
функцию f(P) точки па плоскости, удовлетворяющую неко-
некоторым условиям регулярности, вдоль произвольной прямой g,
значения интеграла F(g) определяют функцию прямой.
В § А предлагаемом работы решена задача обращения этого
линейного функционального преобразования, т. с. получен
ответ на следующий вопрос: можно ли любую функцию пря-
прямой, удовлетворяющую подходящим условиям регулярности,
представить таким образом, и если да, то определяется ли
тогда функция f по функции F однозначно и как ее найти?
В § В мы переходим к решению в некотором смысле
дуальной задачи определения функции F(g) no ее средним
значениям f (P).
Наконец, в § С коротко обсуждаются некоторые обобще-
обобщения, касающиеся, в частности, рассмотрения неевклидовых
многообразий и более общих пространств.
Изучение этих задач, представляющих самостоятельный
интерес, приобретает особое значение благодаря многочис-
многочисленным связям этой тематики с теорией логарифмических
и ньютоновых потенциалов, отмеченным в соответствующих
разделах статьи.
А. Нахождение функции точки на плоскости
по значениям ее интегралов вдоль прямых
1. Пусть j(x,y) — некоторая вещественная функция, опре-
определенная во всех вещественных точках Р = \х, у\ и удовле-
удовлетворяющая следующим условиям регулярности:
а0 ДА'. У) непрерывна.
Ь|) Двойной интеграл \\ | f(x, у) \/л/х- + y-dxdy, взятый
по всей плоскости, сходится.
') J. Radon. Ober die Bcsiiinmiinp; von Funldioncii durch Hire luteqral-
wertc langs gewisser Mannifjfaltigkeilen. — Bur. Verh. Sachs. Akad. Wiss.
Leipzig, Math.— Nat. Kl., 69 A917), 262—277.

И. РАДОН. ОБ ОПРПДНЛЕШШ ФУПКЦНП 135
Положим для произвольном точки Р = [х,у\ и любого
y + rs\nq>)d<?.
Тогда для каждой точки Р выполняется условие lim fP(r) = O.
r-юо
Справедливы следующие предложения.
Предложение I. Интеграл от f no прямой g, задаваемой
уравнением х cos ф -f- у sin tp = р:
(D
F (р, 4>)—F (— Р, Ф+я)= \ f (р cos ф—s sin ф, р sin Ф+s cos ф) ds
существует «в обобщенном смысле»; это означает, что мно-
множество, образованное точками касания прямых, касательных
к произвольной окружности, вдоль которых интеграл F не
существует, имеет линейную меру нуль на этой окружности.
Предложение II. Определим среднее значение функции
F(p,i[>), полученное усреднением по касательным к окружно-
окружности радиуса q с центром в точке Р = [х, у]:
In
1 р
(II) FP (<7) = -^ \| F (х cos ф + .'/ sin Ф + q, cp) dq>.
а
Этот интеграл абсолютно сходится для всех Р и q.
Предложение III. Значение функции f однозначно опре-
определяется функцией F и может быть вычислено следующим
образом:
(Ш)
При этом интеграл понимается в смысле Стилтьеса и мо-
может быть определен также формулой
Переходя к доказательству, заметим прежде всего, что
условия ai — С) инвариантны относительно движений плоско-
плоскости. Поэтому мы всегда можем рассматривать вместо произ-
произвольной точки плоскости точку [0,0].

136 ПРИЛОЖЕНИЕ
Известно, что двойной интеграл
J J л/х2 + !/' —
абсолютно сходится. С помощью замены х = q cos ф — s sin cp,
у = (;sin ф + s cos ф этот интеграл приводится к виду
2л оо
\ с/ф \ / {q cos ф — s sin ф, q sin ф + s cos ф) ds =
2л
= \ d<$ \ / (q cos ф — s sin ф, q sin ф + s cos ф) ds,
о
так что его значение равно
2я оо 2л
** Р 1 Р
\ с/ф \ f(q'cosq>—s sin ф, <? sin ф+s созф)(/5=-2-\ ^7(G>
О -оо О
По известным свойствам абсолютно сходящихся двойных
интегралов отсюда вытекают утверждения предложений I и II.
Чтобы прийти к формуле (III), можно рассуждать сле-
следующим образом. Вводя полярные координаты в интеграле
A), преобразуем его к виду
оо 2л
} r dr ^ —гшр^цт_ф_ ^
q О *Г q
что можно переписать с помощью функции средних значе-
значений из условия Ci как 2л \ г Сравнивая последнее
J л/ г2 — а1
ч
выражение с интегралом (I), получим
B)
Ч
Вводя в этом интегральном уравнении первого рода пе-
переменные г2 = v, q2 = и, можно решить его известным мето-
методом Абеля, получив тем самым формулу (III) для fo@) =
f@0)
f(,)
Однако прийти к этому результату без дальнейших усло-
условий на /, по-видимому, трудно, поэтому мы предпочитаем
указанному пути прямую проверку.

И. РАДОН. ОБ ОПРЕДЕЛЕНИИ ФУНКЦИИ
137
Для доказательства совпадения выражений (III) и
покажем прежде всего, что lim —-
<j-»oo q
имеем
¦2<7
0. Из формулы B)
F» (q)
Г fo(r)rdr , _2_ Г fo(r)rdr
f о (г) г dr
3 2J
{q<t<2q).
Последнее выражение стремится к нулю при q-*-oo ввиду
УСЛОВИЙ Ь| И С|.
Перепишем теперь правую часть (ИГ), используя фор-
формулу B), в виде
JL Km Г1 [ r'fo ^ dr - Г il Г jhi!) Аг Л
Меняя порядок интегрирования во втором интеграле, мы
можем проинтегрировать по q (доказав попутно, что двойной
интеграл абсолютно сходится и перемена порядка интегриро-
интегрирования законна) и получить для выписанного выше выраже-
°° ?
иия значение — Iime\ —° г , которое, как нетрудно по-
е
казать, на самом деле совпадает с fo(O) = f @, 0).
2. Пусть ^(/э, ф) = F(—p, ф + л)— функция прямой, удов-
удовлетворяющая следующим условиям регулярности:
а2) Функция F и ее производные Fp, Fpp, Fppp, F<q, /7рф, Fpp.p
непрерывны для всех [р, ф].
Ь2) Функции F, /\p, pfp, р/^рф, pfpp равномерно по ф
стремятся к пулю при р-»-оо.
Fpppp\npdp,
с2) Интегралы ^ Fpp[npdp,
оо
\ FРРч>р\ър dp сходятся абсолютно и равномерно по ф.
о
Тогда справедливо
Предложение IV. Функция f(P), построенная по форму-
формулам (III) или (ПГ)> удовлетворяет условиям а\, Ь\, с\, а ее
интегралы по прямым совпадают с заданной функцией
F(p,y). Ввиду предложения III такая функция единственна.

138 ПРИЛОЖЕНИЕ
Вводя в формуле (III) полярные координаты, получим
оо '2л
/<р cos ф, р sin ф) = — -^r J -^- J Fp (p cos со + р, со + Ф) Л» =
о и
оо 2л
= 2^" S ln P dp \ Fpp (р cos и
о о
При этом мы воспользовались тем, что
2л 2л
\ Fp (p cos со + р, со + Ф) dco == ( FD (p cos со, со -f oj)) dco +
и
2л р
d® jj Fpp (p cos со 4-1, со 4-
0 О
где первый интеграл в правой части равен нулю, поскольку
F(p, <p)=F(—р.ф + л). Поэтому произведение написанного
интеграла и \пр стремится к нулю при р->-0. Пользуясь
снова указанным свойством функции F, получим далее
C)
/ (р cos ^
л
~^d(
0
оо
— оо
1?Iп|/? —р COS CD |rfp.
Так как условия аг — сг инвариантны относительно дви-
движений, то достаточно показать, что
D)
Положим
F {р, ф) = F (р, я/2) + cos Ф • G (/), Ф).
Легко получить отсюда условия регулярности для функ-
функции G. Разобьем теперь, следуя этому разложению, функцию
/((), 0) па две части /|(р) и /г(р), которые рассматриваются
по отдельности. Так как
\ In | р — р cos со | rfco = ;

И. РАДОН. ОБ ОПРЕДЕЛЕНИИ ФУНКЦИЙ
139
ТО
О -оо
IPI
Это выражение абсолютно интегрируемо по р в пределах
от —оо до +°°' в чем можно убедиться, меняя порядок инте-
интегрирования в полученном двойном интеграле. После этого
будем иметь:
|р|
Что касается функции /г(р)> то мы покажем, что она тоже
абсолютно интегрируема и интеграл от —оо до 4-°° равен
нулю.
Действительно, мы можем записать /г(р) в следующем
виде:
П оо
h (Р) = 2^2" \ da \ Gpp (Р> иIп I Р — Р cos и | cos со dco =
р—р cos w
р cos to
, рр cos2 й) 1 ,
cos со + , , .,—=— ар,
1+Р COS2O)J ^'
где добавленные члены дают при интегрировании пуль. Инте-
Интегрируя последнее выражение по р, получим абсолютно схо-
сходящийся тронной интеграл. Действительно,
cos со • In
р — р cos со
р cos со
1 + p2 cos2 со
In
1 —
1 + ,
dx — X (р)
lira
= 2-

МО ПРИЛОЖЕНИИ
Интегрирование по р дает \ /2(р)^Р = 0, что доказывает
— оо
равенство D).
Остается еще показать, что функция f удовлетворяет
УСЛОВИЯМ с1| — С|.
Непрерывность следует из представления C) ввиду усло-
условий а2 — с2. Условие Ь| также выполняется, поскольку функ-
функция
оо
^ I /(р cos-ф, р sint)|rfp,
как легко видеть, интегрируема по tf).
Для доказательства С| запишем функцию fo(p) в виде
In! р - р cos со | Jp =
pp ^Fp (p, +) In lfi-f в (р, Ц,) In If1],
ipi 1
откуда вытекает справедливость q. Тем самым предложе-
предложение IV доказано.
В. Нахождение функции прямой по ее средним значениям
в точках
3. Пусть F(p, ф)= F(—p, Ф + я) — функция прямой, удов-
удовлетворяющая следующим условиям регулярности:
а3) Функции F, Fv, Fp непрерывны и \F(I/\<.M для
всех р, ф.
Ь3) Функция Fp-Inl^l равномерно по ф стремится к нулю
при р-*- со.
оо
с3) Интеграл \ \Fp\\n\p\dp сходится равномерно по ф.
— оо
Эти условия снова инвариантны относительно движений.

И. РЛДО11. ОГ> ОПРЕДЕЛЕНИИ ФУИКШШ Ml
Определим среднее значение функции F(p,(() в точке
Р = [х, у\ формулой
+ Л/.!
E) f(x,y)=-^ jj f (л; cos ф Ч-//sin ф, ф)<Лр.
-Я/2
Тогда справедливо
Предложение V. Функция F однозначно определяется
функцией f no формуле
(V) F(Ol.5.) = _JL Jit \fxix.y)dy.
- 00 — ОО
где интеграл по х понимается в смысле главного значения
по Коши, а значение функции F на любой другой прямой
может быть найдено из приведенной формулы применением
соответствующего движения плоскости.
Для доказательства предложения заметим сначала, что
В я/2 В
F) \ fx(x, y)dy = ^ jj dy jj Fp(x cosy + у sin у, cp) cos у dy,
-А -я/2 -A
где Л и В — положительные постоянные.
Положим теперь, подобно тому, как это делалось ранее:
F (р, ф) = F (р, 0) + sin q>G (p, ф),
где функция G(p,(f) остается ограниченной на области ин-
интегрирования и имеет предел, равный нулю, при р-уоо. Из
равенства
в
\ Gp (x cos ф + У sin ф, ф) cos ф sin <pdy —
—А
= \G (x cos Ф + В sin ф, ф) — G (x cos ф — Л sin ф, ф)] cos ф
следует, что подстановка второго слагаемого в формулу F)
дает нуль в пределе при Л->-оо, В->-оо. Остается рассмот-
рассмотреть первое слагаемое. Подстановка этого слагаемого в ин-
интеграл F) с интегрированием по ф вдоль любого интервала,
не содержащего точки ф = 0, равным образом дает нуль
в пределе при Л->-оо, В-*оо, что доказывается так же, как
и выше. Осталось рассмотреть
е в
lim— \d(p \ Fp (x cos ф + у sin ф, 0) cos ф dy, 0<e<-^-.
Л-Юо л J J *
Я^.00 -* -А

142 ПРИЛОЖЕНИЕ
Мы можем записать этот интеграл в виде
е хсозц'+fl sinqi
If Г
— \dq> \ Fp{p, 0) cigq>dp
-е хсозф-Л sln<p
и, поменяв порядок интегрирования, после некоторых вычис-
вычислений получить для достаточно больших чисел А и В выра-
выражение
Хсозе+В sin e
In -. —, * Sl" е ==— • Fp (p, 0) dp +
хсоз е+Л sin p
, 1 Г , (Л2 + jc2) sin 8 г , ., ,
+ — \ 1пт-—5—, , - Fp(p, 0)dp.
я J „ Лр — х -уМ- + ^ — Р2
хсоз е-Л sin e '
Достаточно вычислить предельное значение второго инте-
интеграла при A -v оо. Запишем его в виде
— In (Л sin e) [F (x cos е + Л sin е, 0) — F (x cos е — A sin e, 0)] +
х cos е + Л sin p.
, 1
хсоз е-Л sin t
хcos е+Л sine
xcos a-A sin e
Так как логарифм в последнем интеграле равномерно
стремится к нулю при А-уоо, то предельное значение всего
выражения равно
оо
-™ \ Fp(pt0)]n\p-x\dp,
— со
откуда получаем для предельного значения формулы F)
Fp(P,0)\n\p-x\dp.
Отметим здесь, что последнее выражение совпадает с гра-
граничным значением мнимой части некоторой аналитической
функции, регулярной в верхней полуплоскости, причем гра-
граничное значение вещественной части этой функции равно
2/'@)

И. РЛЛ011. ОБ ОПРПДПЛРННН ФУНКЦИИ
Правая часть формулы (V) записывается теперь в виде
где двойной интеграл абсолютно сходится и, ввиду равенства
р — х
Р + х
dx
и
совпадает с левой частью формулы (V).
4. Пусть теперь / — функция точки, удовлетворяющая сле-
следующим условиям регулярности:
а4) Функция f непрерывна вместе со своими производными
до второго порядка включительно.
b4) Выражения j(x,y), V-^M7//~2\n(x2 + y2)fx(x, у),
л/х'+ у-\п(х2-\-y'2)fu(x, //) имеют пулевые предельные зна-
значения при х2 + У2-v °°-
с*) Интегралы
DJ- lnJxl
— оо —со —со — оо
где D\f обозначает какую-либо производную / первого по-
порядка, a D2f — второго порядка, абсолютно сходятся
Эти условия снова инвариантны относительно движений.
Справедливо
Предложение VI. Функция прямой, построенная по функ-
функции J в соответствии с формулой (V), имеет среднее значе-
значение f(x,y).
Достаточно провести доказательство для точки нуль. Для
произвольной прямой, проходящей через эту точку, из фор-
формулы (V) после интегрирования по частям получаем
с» оо
Z7 @, ф) =-7j^-
— оо — оо
+ fyg sin2 ф] In | х cos ф + у sin ф | dx dy,
или, вводя полярные координаты ц, i|i:
о
sin (ср — i|Q cos ((р — т|)) Д2[ sin2 (ф —
1 Op p ch|i pJ J

144 ПРИЛОЖЕНИЕ
Для того чтобы получить среднее значение в точке [0,0],
нужно выполнить в двойном интеграле интегрирование по ^
от 0 до 2л и затем результат поделить на 2я. Член, содер-
содержащий d2f/d\p2, как можно убедиться, исчезает при интегри-
интегрировании по г[з, остается лишь
2ц оо
что на самом деле совпадает с f @, 0).
Для доказательства однозначной определенности функ-
функции F необходимо проверить выполнение условий а3—сз, что
требует дальнейших предположений о функции /.
5. Здесь уместно сделать следующее замечание, которым
я обязан, как и самой постановкой проблемы В, В. Бляшке.
Обе обсуждаемые в этом работе задачи находятся п тесной
взаимосвязи с теорией ньютоновых потенциалов. Именно,
рассмотрим переход от функции точки f к ее прямолиней-
прямолинейному усреднению F как некоторое линейное функциональное
преобразование
F = RI
а переход от некоторой функции прямой F к ее точечному
усреднению v как преобразование
v = BF.
Мы можем рассмотреть, очевидно, и сквозное преобразова-
преобразование И = BR, определяемое формулой
Нетрудно убедиться в том, что Hj есть не что иное, как
1 , _
ньютонов потенциал на плоскости с плотностью —[. По-
Поэтому, пользуясь замечанием Г. Герглотца, мы можем найти
обращение преобразования Н, которое задается формулой
—оо - со
где Vp аналогично рассмотренному ранее среднему значению
в точке, а Л — оператор Лапласа.
Это наводит на мысль, что построенные прямым путем
в п. 1—3 обращение R н преобразование Н связаны формулой
или В ¦'= /?//

И. РЛД011. OR ОПРПДПЛГ-ШШ ФУНКЦИИ 145
В действительности нужно сначала преобразовать к указан-
указанному виду формулу обращения (IVI), но строгая реализа-
реализация этой идеи кажется мне более трудной, чем прямая про-
проверка, к тому же она невозможна в рассматриваемых ниже
неевклидовых ситуациях.
Заметим, наконец, что указанные в начале § А и В усло-
условия регулярности, вообще говоря, нельзя ослабить, в чем
можно убедиться с помощью несложных примеров.
С. Обобщения
6. Далеко идущее обобщение задачи, рассмотренной в § Л,
может быть сформулировано примерно следующим образом.
Пусть задана поверхность S, на которой каким-либо образом
определен дифференциал длины дуги ds и, кроме того, за-
задано двухпараметрическое семейство кривых С. Требуется
найти функцию точки поверхности по ее интегралам \ f ds
вдоль кривых С.
Одни частный случай мы получим, если возьмем в каче-
качестве 5 неевклидову плоскость с элементом длины дуги ds
п прямыми в качестве кривых С. В эллиптическом случае
можно воспользоваться сферической геометрией; при этом
пара диаметрально противоположных точек сферы рассмат-
рассматривается известным образом как точка эллиптической пло-
плоскости. В этом случае получаем следующую задачу: найти
четную (т. е. принимающую одинаковые значения в диамет-
диаметрально противоположных точках) функцию на сфере по ее
интегралам вдоль больших кругов. Эта задача была впервые
рассмотрена Мннковским2) и решена им в принципе с по-
помощью разложения по сферическим функциям. Позднее
П. Функ воспроизвел решение Минковского и показал, как
получить решение этой задачи с помощью интегрального
уравнения Абеля3). Этот метод использовался и мною при
решении задачи А. Решение Функа совершенно аналогично
формуле (III); отличие лишь в том, что в знаменателе по-
появится синус радиуса сферы и к интегралу придется доба-
пить значение F в полюсе сферы относительно соответствую-
соответствующего большого круга, деленное на я. В случае гипербо-
гиперболической плоскости поставленная задача также допускает
') Имеется в виду формула обращения, о которой идет речь в предло-
предложении IV, получаемая композицией формул (II) и (III) (или (ИГ)).—
Прим. перев.
2) Gc-s. Abli., Bel. 11, S. 277f.
3) Math. Ann., Bd. 74, S. 283--288.

14E ПРИЛОЖЕНИЕ
решение, аналогичное (III):
"" dFp(g)
Sin с/
н
(мы принимаем здесь кривизну равной —I), что вполне соот-
соответствует выражению (III), полученному в п. I.
В обоих случаях можно также поставить вопрос, анало-
аналогичный задаче В. В эллиптической геометрии нииду абсолют-
абсолютной полярности ничего нового не получается; в гиперболи-
гиперболическом случае решения, аналогичного (V), по-видимому, пс
существует.
Другой частный случай поставленной выше общей проб-
проблемы мы получим, если и качестве кривых С (в евклидовой
или неевклидовой геометрии) возьмем окружности постоян-
постоянного радиуса. В случае сферы мы можем применить вновь
рассуждение Мннковского со сферическим и функциями и и
известной степени решить задачу. Интересно, что и этом слу-
случае теряется единственность решения; именно, для некоторых
радиусов (), определяемых пулями полиномов Лежапдра чет-
четного порядка, существуют четные функции па сфере, которые
дают пуль при интегрировании вдоль любой окружности сфе-
сферического радиуса р, по сами пс равны тождественно пулю.
В евклидовом случае вместо рядов по сферическим функ-
функциям нужно использовать интегральную теорему для функ-
функций Бесселя; при этом всегда существуют функции, дающие
пуль при интегрировании вдоль любой окружности фиксиро-
фиксированного радиуса п не равные тождественно нулю. Если ра-
радиус равен 1, таким свойством обладают функции (в поляр-
полярных координатах р, ср)
Jn(xvp)cosnq>, Jn(xvp) sin nq>
и их линейные комбинации, где ,vv — какой-либо нуль функ-
функции /(>.
В гиперболическом случае вместо функции Бесселя нужно
использовать так называемые конические функции, для ко-
которых имеется соответствующая интегральная теорема Вен-
ля'). Заключение о единственности такое же, как в евкли-
евклидовом случае.
7. В другом направлении задачи А и В обобщаются при
переходе к более общим пространствам. Для евклидова про-
пространства Rn мы можем попытаться определить функцию
точки f(P) = f(xi, л'2) ..., х„) по ее интегралам F(ay, ...
..., а,,, р) по всем гиперплоскостям <x,.v, + ... + ппх = р
(а\ + ... +<^=П- По аналогии с рассуждением, прове-
') Gott. N;n.hr , 1910, S. 451.

И. РЛДОН. ОБ ОПРЕДЕЛЕНИИ ФУНКЦИП 147
денным в п. 1, определим среднее значение Fo(q) функции F
по касательным гиперплоскостям к сфере с центром в точке
[О, 0, ..., 0] и радиусом q. Оно задается (п—1)-кратпым
интегралом
2л"/2
где da> — элемент площади поверхности, ?1п— „ — пло-
площадь поверхности гс-мерноп сферы aj + ... + a~ = I.
Функцию Fo можно записать в виде n-кратного интеграла
от /, а именно в виде
G) /7{?):==i|=i
X , 2+ ауя-зд/а rf*i • • • d*«-
или (с помощью многократно использованного нами обозна-
обозначения среднего значения) в виде
Эта формула аналогична формуле A), и с ее помощью
можно вывести аналогичные утверждения. Подстановка г2 =
= v, q2 = и приводит к интегральному уравнению
оо
Ф (н) = -^5р- J ф (о) (и - tiyw'2 dv.
и
Если п четно, то, дифференцируя это уравнение (п/2—1)
раз по и, как в формуле B), получим из пего, что
ф@) = /@, 0, ..., 0).
Таким образом, для получения функции f из заданной функ-
функции F необходимо выполнить операции дифференцирования
и одно интегрирование. Для нечетного п это интегрирование
пропадает, но по-прежнему остаются (п—1)/2 операции
дифференцирования:
?i
О„-,((п-3)/2)!
ф((п-3)/2)
l
Особенно просто выглядит трехмерный случай; его можно
исследовать также с помощью метода, аналогичного изложен-
изложенному в п. 5, Он приводит к весьма элегантному результату.

148 ПРИЛОЖЕНИЕ
А именно, из формулы G) вытекает, что среднее F в точке
<7 = 0 имеет вид
что соответствует ньютонову потенциалу трехмерного про-
пространства с плотностью -x-f. Поэтому f(x, у, z)=—г— \F,
где F — среднее значение F.
В этом случае мы можем дать ответ п на вопрос, анало-
аналогичный задаче В. Используя метод, приведенный в п. 5, для
функции F на плоскости с заданным средним значением
в точках, получим
где do — элемент площади на плоскости Е, А —оператор
Лапласа в трехмерном пространстве и интегрирование ве-
ведется по всей плоскости Е.

Предметный указатель
Аитиподальное многообразие 90
Быстро убывающие функции 15, 105
Волновое уравнение 43
Волновой оператор 118
Вполне геодезическое подмногообра-
подмногообразие 75
Времсииподобпая геодезическая 113
Врсмениподобпый вектор 113
Вычет 54
Гильберта преобразование 30
Гиперболическое пространство 77
Главное значение по Коши 30, 31
Г рама определитель 112
Гюйгенса принцип 46
Дарбу уравнение 27, 61, 84
Двойное расслоение 65
Двухточечно-однородные многообра-
многообразия 75
Дифференциальное уравнение в
частных производных 43
Дуальное преобразование 13
Дуальные однородные пространства
65
Изометрия 108
Изотропная геодезическая 113
Изотропное многообразие 108
Изотропный вектор 113
— конус см. Световой конус
Инвариантные дифференциальные
операторы 71
Интеграл по орбите 73, 117
Инцидентные элементы 64
Каспидальные формы 72
Конус прошлого 115
Коши задача 44
Кратности 90
Лапласа — Бельтрами оператор 108
Лорснцева структура 107
Лорепцсво многообразие 107
Лучевое восстановление 47
-- преобразование 39, 104—105
Многообразия флагов 66
Модулярная группа 71
Обобщенная сфера 72
— функция 51, 52
Пснроуза соответствия 67
Планшерсля формула 32
Плоская волна 12
— — в направлении а> 43
Приближенное восстановление 48—
49
Пространственноподобная геодезиче-
геодезическая 113
Прострапствсшюподобный вектор
113
Псевдорнмапова структура 107
Псевдорнмапово многообразие 107
Радиальная функция 22, 79
Радона преобразование 13
— — d-мериое 39
— — для двойного расслоения 67,
74
— — — мер G9
— обобщенных функции 70
Рентгенограмма 47
Рчсса потенциал 58
— — обобщенный 121
Свертка 15, 36, 53
Световой конус 113, 115
Свойство (S) 50
Сжимающий оператор 49
Сопряженная точка 90
Среднее значение 19, 83, 117
Теорема о носителе 21, 78
среднем 121
Формула обращения 27, 29, 30, 38,
40, 84, 86, 89, 104
Фурье преобразование 14
Экспоненциально убывающие функ-
функции 105
Эллиптическое пространство 86

ОГЛАВЛЕНИЕ
Предисловие к русскому изданию 5
Предисловие 8
Принятые обозначения 10
ГЛАВА I. Преобразование Радона в R" VI
§ 1. Введение 12
§ 2. Преобразование Радона в пространствах С™ (W) и 9"(U").
Теорема о носителе 13
§ 3. Формулы обращения 27
§ 4. Формула Планшереля 31
§ 5. Преобразование Радона обобщенных функции ...... 33
§ б. Интегрирование но d-мерным плоскостям. Лучевые преобра-
преобразования 39
§ 7. Приложения 43
§ 8. Добавление. Обобщенные функции и потенциалы Рисса . . 51
Библиографические замечания 60
ГЛАВА п. Дуальность в интегральной геометрии. Обобщенные преоб-
преобразования Радона н интегралы по орбитам 63
§ 1. Дуальность в однородных пространствах ..... ... 63
§ 2. Преобразование Радона для двойного расслоения D) ... 67
§ 3. Интегралы по орбитам 72
Библиографические замечания 74
глава in. Преобразование Радона на двухточечно-однородных про-
пространствах 75
§ 1. Пространства постоянном кривизны 75
§ 2. Компактные двухточечно-однородные пространства. Прило-
Приложения 89
§ 3. Некомпактные цвухточечно-одпородпые пространства . . . 102
§ 4. Лучевое преобразование на симметрическом пространстве . . 104
Библиографические замечания 106
ГЛАВА IV. Интегралы по орбитам и волновой оператор в изотропных
лоренневых пространствах 107
§ 1. Изотропные пространства 107
§ 2. Интегралы по орбитам ИЗ
§ 3. Обобщенные потенциалы Рпсса . . 121
§ 4. Нахождение функции по ее интегралам вдоль лоренцевых
сфер 124
Библиографические замечания 129
Литература 130
ПРИЛОЖЕНИЕ. Об определении функций по их интегралам вдоль неко-
некоторых многообразий. И. Радон 134
A. Нахождение функции точки на плоскости по значениям ее ин-
интегралов вдоль прямых 134
B. Нахождение функции прямой по ее средним значениям в точках 140
C. Обобщения 145
Предметный указатель 149

УВЛЖЛЕМЫП ЧИТЛТПЛЫ
Ваши замечания о содержании книги, ее офор-
оформлении, качестве перепода н другие просим присы-
присылать по адресу: 120820, Мопсва, И-ПО, ГСП,
1-й Рижский пер., д. 2, издательство «Мир».