Ф. КЛАРК ОПТИМИЗАЦИЯ И НЕГЛАДКИЙ АНАЛИЗ

Tags: математическая кибернетика математика
ISBN: 5-02-013781-2
Similar
Выпуклая оптимизация: Учебное пособие
Субдифференциальное исчисление: теория и приложения
Обобщенные решения уравнений в частных производных первого порядка. Перспективы динамической оптимизации
Основы негладкого анализа и квазидифференциальпое исчисление
Text
                    Ф. КЛАРК
ОПТИМИЗАЦИЯ
И НЕГЛАДКИЙ
АНАЛИЗ
Перевод с английского
Ю. С. ЛЕДЯЕВА
Под редакцией
В. И. БЛАГОДАТСКИХ
МОСКВА «НАУКА»
ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
198S

ББК 22.18
К47 Frank H. Clarke
УДК 519.7
Optimization
and Nonsmooth Analysis
A Wiley — Intercience Publication
John Wiley & Sons
New York • Chichester • Brisbane •
Toronto • Singapore
1983
Кларк Ф. Оптимизация и негладкий анализ: Пер. с англ./Под ред.
В. И. Благодатских.—-М.: Наука. Гл. ред. физ.-мат. лит., 1988.—280 с—
ISBN 5-02-013781-2.
Изложены современные направления прикладной математики, имеющие
широкие приложения в экономике и в кибернетике.
Для специалистов в области прикладной математики и кибернетики.
Ил. 10. Библиогр. 229 назв.
Научное издание
КЛАРК Фрэнк
ОПТИМИЗАЦИЯ И НЕГЛАДКИЙ АНАЛИЗ
Редактор £. Ю. Ходан
Художественный редактор Г. М. Коровина
Технический редактор В. Н. Кондакова
Корректоры: Л. Я. Назарова, Я. #. Кришталь
ИБ № 32256
Сдано в набор 03.02.88. Подписано к печати 09.08.88. Формат 60X90/ie. Бумага тип. JSfe I.
Гарнитура литературная. Печать высокая. Усл. печ. л. 17,5. Усл. кр.-отт. 17,5. Уч.-изд. л. 18,83.
Тираж 6400 экз. Заказ № 4464. Цена 2 р. 40 к.
Ордена Трудового Красного Знамени издательство «Наука»
Главная редакция физико-математической литературы
117071 Москва В-71, Ленинский проспект, 15
Вторая типография издательства «Наука», 121099 Москва, Шубинский пер., 6
1702070000—165 © 1983 by John Wiley * Sons, Inc.
К 26-88 (g) Перевод на русский язьк.
U53(02)-88 Издательство «Наука».
Главная редакция
ТСПХТ К ПО H1Q7Q1 О физико-математической
JLOJjiN u-U^-UlO/Ol-Z литературы, перевод на
русский язык, предисловие
редактора перевода, 1988

ОГЛАВЛЕНИЕ
Предисловие редактора 5
Благодарности 6
Предисловие 7
Глава 1. Введение 9
§ 1.1. Примеры в теории негладкого анализа и оптимизации . . 10
§ 1.2. Обобщенные градиенты 17
§ 1.3. Три парадигмы для динамической оптимизации .... 21
§ 1.4. Теория оптимального управления и вариационное исчисление 26
Глава 2. Обобщенные градиенты 31
§ 2.1. Определение и основные свойства 32
§ 2.2. Градиенты, субдифференциалы и обобщенные градиенты . . 36
§ 2.3. Основы исчисления обобщенных градиентов 43
§ 2.4. Геометрические аспекты теории обобщенных градиентов . . 54
§ 2.5. Случай конечномерного пространства X 63
§ 2.6. Обобщенные якобианы 69
§ 2.7. Обобщенные градиенты интегральных функционалов ... 74
§ 2.8. Поточечный максимум 83
§ 2.9. Дальнейшие обобщения 91
Глава 3. Дифференциальные включения 104
§ 3.1. Многозначные отображения и траектории 105
§ 3.2. Задача управления 113
§ 3.3. Задача о разработке полезных ископаемых 123
§ 3 4. Возмущение задач с ограничениями на концы траекторий . . 133
§ 3.5. Нормальность и управляемость 138
§ 3.6. Задачи с нефиксированным рременем 141
§ 3.7. Достаточные условия: уравнение Гамильтона — Якоби . . 144
Глава 4. Вариационное исчисление 153
§ 4.1. Обобщенная задача Больца 153
§ 4.2. Необходимые условия 156
§ 4.3. Достаточные условия 163
§ 4.4. Конечные лагранжианы 166
§ 4.5. Правило множителей Лагранжа в случае ограничений типа
неравенства 172
§ 4.6. Кратные интегралы 181
Глава 5. Оптимальное управление 184
§ 5.1. Управляемость 185
§ 5.2. Принцип максимума 194
§ 5.3. Пример: линейный регулятор с диодом 197
3

§ 5.4. Достаточные условия и существование 201
§ 5.5. Обобщенная задача управления 205
Глава 6. Математическое программирование 209
§ 6.1. Правило множителей Лагранжа 209
§ 6.2. Дополнительное правило множителей 212
§ 6.3. Условия невырожденности ограничений и чувствительность . 216
§ 6.4. Устойчивость 219
§ 6.5. Функция оптимального значения 221
§ 6.6. Разрешимость и сюръективность 228
Глава 7. Некоторые задачи анализа 232
§ 7.1. Теоремы об обратных и неявных функциях 232
§ 7.2. Теорема Ауманна 236
§ 7.3. Множества, представляющие собой надграфики липшицевых
функций 241
§ 7.4. Зависимость решения дифференциального уравнения от
начального значения 242
§ 7.5. Теорема Экланда 245
§ 7.6. Сжимающие по направлению отображения и неподвижные точки 248
§ 7.7. Уравнения Гамильтона и краевые задачи 250
§ 7.8. Периодические траектории заданного периода 258
Библиографический комментарий 263
Список литературы 268
Алфавитный указатель 278

ПРЕДИСЛОВИЕ РЕДАКТОРА
Книга известного канадского математика Фрэнка Кларка
посвящена негладкому анализу и задачам оптимизации. Негладкий
анализ имеет дело с функциями, которые являются недифференци-
руемыми в обычном смысле, и уходит корнями в выпуклый анализ.
Именно для выпуклых функций было впервые введено понятие
обобщенного градиента, или субградиента, и рассматривался
субдифференциал как множество всех субградиентов. Эти понятия
сыграли фундаментальную роль во многих задачах оптимизации,
в которых используются выпуклые функции.
В работах Ф. Кларка понятие градиента и субдифференциала
введено уже для произвольных локально липшицевых функций.
В этой книге приводится стройная теория такого
субдифференциального исчисления. Эта теория зародилась и получила развитие в
течение двух последних десятилетий. Но, несмотря на свою
молодость, эта теория находит многочисленные применения всюду, где
встречаются негладкие функции. Особенно интересные применения
получены в задачах оптимизации. Здесь Ф. Кларку принадлежит
ряд красивых идей и результатов. В частности, ему удалось
получить необходимые условия оптимальности в форме принципа
максимума для объектов, поведение которых описывается негладкой
управляемой системой или негладким дифференциальным
включением. Эти результаты также вошли в данную книгу.
В последние годы появилось много различных обобщений
субдифференциала Кларка. Многие из них оказываются более
подходящими в каждой конкретной негладкой задаче. Но, к сожалению,
для них не удается пока построить такую полную теорию как у
Ф. Кларка. Мне кажется, эта книга найдет многочисленных
читателей и будет полезна всем, кто сталкивается в своих
исследованиях с негладкими функциями.
В. Благодатских

БЛАГОДАРНОСТИ
Работа над книгой учит скромности, поскольку автор осознает,
наряду с другими вещами, насколько он зависит от других людей.
Эта книга не могла бы появиться без столь ценимой мною
поддержки Фондом Киллама, который предоставил мне двухгодичную
исследовательскую стипендию. Я хотел бы также выразить
признательность Канадскому Совету по естественным наукам и
техническим разработкам за продолжающуюся поддержку. Я хотел бы
поблагодарить моих коллег как по Университету Британской
Колумбии, так и по научным интересам, которые сознательно или нет
стимулировали мою работу в течение нескольких лет, а также
Канадское математическое общество за выбор моей книги для своей
новой серии. Первое место в перечне персональных благодарностях
принадлежит Терри Рокафеллару, который ответствен за
пробуждение моего интереса прежде всего к теории оптимизации. Я также
признателен следующим коллегам, каждый из которых повлиял на
содержание этой книги: Жан-Пьеру Обэну, Люсьену Полаку, Ма-
сако Дарроу, ИваруЭкланду, Родриго Рестрепо, Ричарду Винтеру,
Вере Зейдан. Выражаю свою благодарность Гасу Гассману и
Филипу Лоуэну за тщательное чтение рукописи книги, всем
сотрудникам математического отделения Университета Британской
Колумбии за их помощь и хорошее отношение и добрым людям в
издательстве «John Wiley & Sons».
Ф. К.

Моей матери
ПРЕДИСЛОВИЕ
«...Во всем, что происходит во Вселенной, проявляется действие
некоторого правила максимума или минимума»,—было сказано
Эйлером в восемнадцатом веке. Такое утверждение может
показаться преувеличением, однако, несомненно, что достижения
человечества обычно связывают со стремлением к оптимуму. Это
суждение может послужить объяснением существования длительного
симбиоза между математическими теориями оптимизации и
приложениями математики, даже когда менялись со временем постановки
изучаемых задач («парадигмы»).
Происхождение аналитической теории оптимизации связано с
классическим вариационным исчислением, а ее развитие шло
параллельно с развитием математического анализа. Возможно, по
этой причине теория оптимизации очень медленно освобождалась
от сильных предположений о гладкости (т. е. дифференцируемо-
сти), которые были сделаны при ее создании. Попытки ослабить
эти требования гладкости обусловливались скорее практическими,
например инженерными, а не математическими потребностями.
В этой книге будет развита общая теория негладкого анализа и
геометрии, методы которой можно с успехом применять для широкого
круга задач, встречающихся в теории и практике оптимизации. Это
позволяет не только получать новые результаты, но и приводит к
значительным обобщениям уже известных результатов. Тем самым
излагаемый здесь подход представляет интерес даже для
традиционных гладких задач в вариационном исчислении, в оптимальном
управлении или в математическом программировании.
Предполагается, что эта книга будет полезна для нескольких
категорий читателей. Была предпринята попытка выделить
основные темы теории оптимизации и представить в достаточной
общности результаты, относящиеся к этим темам. Поэтому, хотя книга
и не носит энциклопедического характера, она может служить
справочником для всех интересующихся различными вопросами
оптимизации. Автор стремился сделать результаты книги
доступными и для неспециалистов в данной области. Так, в первой главе
в доступной форме дается обзор содержания книги. Здесь и всюду

далее читатель найдет примеры, взятые из экономики, техники,
математической физики, других разделов анализа.
Читатель, который желает не только ознакомиться с основными
результатами книги, но также и проследить доказательства, должен
иметь знания математического и функционального анализа на
уровне студентов старших курсов университета. Книга может
послужить основой для подготовки углубленного курса теории
оптимизации. И наконец, эта книга предназначена для специалистов,
которые, как мы надеемся, ознакомятся в ней с полезными для
себя методами негладкого анализа и оптимизации.
Ванкувер, Британская Колумбия
Март 1983
Фрэнк Кларк

Глава 1
ВВЕДЕНИЕ
Будучи подростком, я ненавидел жизнь
и постоянно находился на грани
самоубийства, от которого меня удержало
стремление з»1ать больше математики.
Бертран Рассел. «Обретение счастья»
Подобно тому как в математике термин «нелинейный» означает
«не обязательно линейный», термин «негладкий» в этой книге
относится к ситуациям, в которых не обязательно предполагается
гладкость (т. е. дифференцируемость) рассматриваемых функций. Одна
из целей этой книги состоит в демонстрации того обстоятельства,
что очень многие результаты теории оптимизации и
математического анализа, которые были получены при традиционных
предположениях о гладкости, можно получить и в общей негладкой
постановке; другая цель заключается в показе достоинств такого
подхода.
Содержание этой книги призвано подтвердить следующие
положения.
1. В математике и теории оптимизации часто приходится
встречаться с негладкими ситуациями. Необходимость уметь работать
с ними приводит к изучению дифференциальных свойств недиффе-
ренцируемых функций.
2. В рамках современной теории негладкого анализа имеются
методы, которые хорошо подходят для этой цели.
3. Важность и полезность методов негладкого анализа не
ограничивается только негладкими ситуациями.
Эта глава начинается неформальным обзором теории
негладкого анализа и некоторых ее приложений. Последние параграфы
посвящены изложению результатов в области динамической
оптимизации (т. е. вариационного исчисления и оптимального
управления) — основной теме этой книги.
9

§ 1.1. Примеры в теории негладкого анализа и оптимизации
Для удобства изложения разобьем примеры на пять категорий.
1.1.1. Существующие математические
конструкции. Первый пример этой категории знаком каждому, кто
готовил отчет о лабораторной работе по физике или химии.
Предполагается, что множество измеренных данных задано на плоскости
(*, у) в виде набора точек (х0, */о), (хи *Л), .., (xN% yN).
Рассматривается задача нахождения прямой, которая наилучшим образом
соответствует этим данным. Предполагая, что все точки не лежат
на одной прямой (иначе это вызвало бы подозрение у любого
преподавателя) и выбор прямой произволен, следует определить
понятие «наилучшим образом».
Определим для данной прямой у=тх+Ь величину ошибки е{
для 1-й точки (xi9 у{): е{=\тх{+Ь—у{\.
Согласно наиболее распространенному определению
«наилучшей» прямой, выбор т и Ь осуществляется таким образом, чтобы
минимизировать общую квадратичную ошибку
или, что
эквивалентно, 2 *?
1=0
На первый взгляд не менее естественным представляется и тре-
N
бование минимизации общей ошибки 2 *'• Несомненно, что полу-
(=0
чающиеся решения отличаются друг от друга. На рис. 1.1,
например, штриховая линия представляет решение для метода
наименьшей общей ошибки, а сплошная линия представляет решение,
полученное методом наи-
/ меньшей общей квадра-
S тичной ошибки. Отметим,
что первое решение
игнорирует аномальную пару
данных, которая, по-ви-
ди мому, соответствует
большой ошибке
измерения. Решение,
полученное методом наименьших
квадратов, наоборот,
существенно определяется
этой парой. Можно
выбрать первый или второй
способ решения: укажем
только, что 2ft есть не-
1=0
дифференцируемая
функция переменных т и Ь.
SO
Рис. 1.1. Две прямые, соответствующие
шести измеренным точкам (обозначены
кружочками)
10

Таким образом, обычные методы минимизации дифференцируемых
функций неприменимы для этой функции и следует найти другие
методы. Одна из причин популярности метода наименьших
квадратов состоит в том, что он приводит к минимизации гладкой
функции тип.
Обе минимизируемые выше функции в действительности
являются частными случаями L2- и /Лнорм. Дифференцируемость (или
недифференцируемость) норм и других классов функций была и
остается центральной проблемой функционального анализа. Один
из первых результатов в этой области принадлежит Банаху,
который указал непрерывные функции jt, определенные на [0, 1], для
которых sup-норма
И: = тах|дг(/)|
дифференцируема (вывод этого результата приводится в § 2.8).
Интересный пример недифференцируемой функции
представляет собой функция расстояния dc> определенная для непустого
замкнутого множества. Эта функция определяется следующим образом:
dc(x): = т'т{\х—е\: сеС},
где | • | обозначает евклидову норму. (Как следствие результатов
§ 2.5 имеем, что в случае выпуклости множества С функция dc не-
дифференцируема в любой точке его границы.) Функция
расстояния использовалась в геометрической теории банаховых
пространств; в этой книге она также будет использована в качестве
моста, соединяющего аналитические и геометрические аспекты
развитой теории.
В качестве иллюстрации рассмотрим естественную попытку
определить касательный вектор к множеству С в точке лсеС как
вектор vt удовлетворяющий равенству d'c(x\ и)=0, где обозначение
относится к обычной односторонней производной по направлению.
Поскольку такие производные по направлению существуют не
всегда (если не наложены дополнительные предположения о гладкости
или выпуклости), этот подход возможен только тогда (см. § 2.4),
когда имеется соответствующее исчисление для негладких функций.
В качестве последнего примера данной категории рассмотрим
задачу Коши
j-x(t) = f(ttx(t))9 дг(0) = и.
Хорошо известно, что естественным предположением при изучении
вопросов существования и единственности решения этой задачи
является требование выполнения условия Липшица по переменной
х для функции /.
Было бы желательно при этом предположении изучить близкий
к указанным вопрос о зависимости решения от начального
значения. Однако классическая теория использует понятие уравнения
в вариациях, которое определяется в терминах производных /, что
ограничивает анализ случаем гладких функций /. В § 7.4
приводится обобщение теории на случай липшицевых функций /.
11

1.1.2. Направленные явления. Рассмотрим эластичную
ленту с закрепленным верхним концом, к нижнему концу которой
прикреплен груз единичной массы. Когда лента растягивается
вниз на длину х, она действует на груз с направленной вверх
возвращающей силой, пропорциональной х (закон Гука). Когда лента
не растянута, возвращающая сила отсутствует (этим лента
отличается от пружины, для которой в случае сжатия возникает
возвращающая сила). Если груз движется вертикально и x(t) измеряет
(положительную или отрицательную) величину, на которую
расстояние от груза до верхнего конца ленты отличается от длины
нерастянутой ленты, то второй закон Ньютона дает уравнение
где
г, v (g—kx, если *^0,
[g, если х^О
(g — ускорение силы тяжести, k — постоянная Гука; трением и
весом ленты пренебрегаем). Заметим, что функция / является
непрерывной, но недифференцируемой в Л'=0. В качестве другого
примера рассмотрим плоскую панель солнечной батареи в космосе.
Источник
тока
_ Конденсатор
Рис. 1.2. Угол паде- ^ис- 1-3. Электрическая цепь
ния лучей на панель
солнечной батареи
В случае когда солнечные лучи освещают ее поверхность, выраба
тываемая энергия пропорциональна cos а, где а есть положитель
ный угол падения (рис. 1.2). Когда к Солнцу повернута обратная
сторона батареи (т. е. а превышает л/2), энергия не
вырабатывается. Отсюда следует, что вырабатываемая энергия
пропорциональна/(а), где
f jcos а, если а ^ л/2,
1о, если а^л/2.
Эта функция также недифференцируема.
12

В качестве последнего примера этой категории рассмотрим
электрическую цепь (рис. 1.3), состоящую из диода, конденсатора
и источника тока. Диод представляет собой резистор, чье
сопротивление зависит от направления тока. Если / — величина тока, а V —
величина напряжения на диоде, то имеет место следующий
нелинейный вариант закона Ома:
I=[V,R+> если V>0>
[V/R_9 если V^O,
где R+ и /?_ — есть различные положительные постоянные. Если х —
величина напряжения на конденсаторе, применение закона
Кирхгофа дает
dx ( а(и — х)у если х^и,
dt \—Р(* —ы)э если дг^и,
где и — напряжение источника. В § 5.3 будет поставлена и решена
задача оптимального управления с аналогичным негладким
уравнением динамики.
1.1.3. Целевые функции. Приведем пример из инженерной
практики, когда в процессе конструирования механической
системы возникает потребность в минимизации наибольшего
собственного числа некоторой матрицы Л, определяемой этой системой.
В этом примере следует выбрать вектор параметров х так, чтобы
минимизировать целевую функцию
f{x):=W(x)).
где Х(А) есть наибольшее собственное число матрицы А.
Даже если матрица А(х) зависит от х гладким образом, то
функция f(x), вообще говоря, недифференцируема. Этот пример
будет подробно рассмотрен в § 2.8 (пример 2.8.7).
В качестве второго примера берется модель процесса
изготовления электронных схем с некоторыми допусками. Рассмотрим зя-
дачу минимизации погрешности изготовления этих схем. Именно:
предполагается, что, когда задано состояние х, процесс производит
состояние х+х с некоторым т из множества допусков Т; пусть
величина Q(x+x) оценивает получающуюся при этом погрешность
изготовления. Поскольку заранее т не известно, величина
наибольшей погрешности равна
/(*): = max0(jc + T).
тег
Следует минимизировать функцию / на некотором множестве
допустимых значений х. Целевая функция f такого вида, которая
вообще говоря, не является дифференцируемой, изучается в § 2.8.
В этих двух примерах задач минимизации на выбор значений х
не были наложены ограничения. В большинстве же случаев такие
ограничения имеются, причем они сами могут зависеть от
некоторых параметров. Например, рассмотрим задачу минимизации
13

функции f(x) со следующими ограничениями на х:
g(x)+p^0, h(x)+q=0, х(=С9 (1)
где С — заданное замкнутое множество в евклидовом пространстве
Ar, g: X-*Rnt h: X-+Rm — заданные функции. Здесь р и ?
—фиксированные векторы из Rn и Rm соответственно. Минимальное значение
целевой функции в этой стандартной задаче математического
программирования, которое, очевидно, зависит от р и q, обозначим
через К(р, q). Функция V(p, q), называемая функцией оптимального
значения, представляет значительный интерес как с теоретической,
так и с вычислительной точки зрения. Функция V не только недиф-
ференцируема в общем случае, но даже может и не быть конечной
для всех (р, q). Например, если интерес представляют значения
р=0, <7=0, а значение V(09 0) конечно, то во многих случаях
можно было бы найти произвольно малые значения р и q> для которых
множество значений х, удовлетворяющих (1), пусто.
В этом случае в соответствии с соглашением о том, что точная
нижняя грань пустого множества равна +оо, V(p, q)
предписывается значение +оо. Дифференциальные свойства функции V будут
изучены в гл. 6.
1.1.4. Пороговые явления. Существуют многочисленны*
экономические и инженерные ситуации, изменения в которых связа^
ны с прохождением некоторых пороговых значений.
Обычным примером такого вида является плотина
водохранилища, уровень воды в котором колеблется со временем (например,
из-за приливов или других причин). Если h(t) —уровень воды в
водохранилище в момент t и йо — высота плотины, то количество
воды, переливающейся через плотину, пропорционально f(t), где
/(0: = тах{Л(/)—Л0, 0}.
Очевидно, что в общем случае f — недифференцируемая функция,
даже если функция h(t) дифференцируема.
Обратимся теперь к одному из многочисленных экономических
примеров. Пусть q(p) —функция спроса на продукцию фирмы. Это
означает, что величина спроса равна q(p) (в некоторых единицах)
при цене р на единицу продукции.
Пусть Q — наибольший объем продукции, который может быть
произведен фирмой. Тогда объем продукции, который фирма
сможет продать при цене р, равен
min{<7(p), Q},
так что в действительности фирма с ограниченным выпуском
продукции имеет негладкую функцию спроса.
Один из законов роста в классической теории экономического
роста известен под названием закона пропорционального роста. Он
относится к ситуациям, в которых средства производства могут
быть использованы только в определенных соотношениях (грубо
говоря, один рабочий —одна лопата). Если, например, L и К —
14

измеренные в некоторых единицах количества двух видов средств
производства, которые должны быть использованы в равном
соотношении, то реальное количество средств производства, которое
доступно для использования в процессе производства, равно
min{L, /С}. Большинство динамических задач в теории добычи
ресурсов и теории экономического роста рассматриваются с
использованием непрерывных моделей, в которых ни время, ни
переменные не являются дискретными и которые содержат некоторый
производственный закон. Если используется закон постоянных
пропорций, то получаем задачу оптимального управления, которая имеет
негладкую динамику. В § 3.3 рассматривается и решается такая
задача из теории добычи невозобновляемых ресурсов.
1.1.5. Математические методы. Имеются
математические методы, которые, по существу, включают в себя негладкость
и которые могут оказаться весьма полезными даже в гладких
ситуациях. В книге подробно рассматриваются три таких метода.
Первый метод называется методом точного штрафа. Для начала
рассмотрим весьма тривиальную задачу минимизации функции
f (х) =х на действительной прямой при ограничении х=0.
Минимальное значение, равное 0, достигается в единственной
точке х, удовлетворяющей ограничению (т. е. х=0). Метод точного
штрафа сводит задачи с ограничениями к задачам без ограничений,
добавляя к исходной целевой функции член, который «штрафует»
за нарушение ограничений. Например, можно проверить, что
функция jc+2|jc| достигает на действительной оси минимума в
единственной точке jc=0, которая и является решением исходной задачи
с ограничениями. Отметим, что штрафной член 2\х\ есть негладкая
функция. И это обстоятельство не просто обусловлено сделанным
выбором — никакая гладкая штрафная функция (т. е.
неотрицательная функция, обращающаяся в 0 при х=0) не приводит к задаче
без ограничений, в которой минимум достигался бы в точке 0.
Например, функция x+kx* не достигает минимума в 0, как бы ни было
велико k.
Этот простой пример показывает существенную связь метода
точного штрафа с негладкостью. Метод точного штрафа будет
использован в гл. 3 для замены ограничения вида x^F(x), где х —
ъ
функция на [a, ft], штрафным членом f р(#, x)dty где р(лг, v) есть
а
евклидово расстояние от v до F(x).
Это напоминает приведенную ранее функцию расстояния.
И действительно, функция расстояния часто возникает в связи с
методом точного штрафа (см. предложение 2.4.3).
Второй метод связан с классическим вариационным принципом.
Он состоит в получении некоторого желаемого результата
посредством конструирования функционала F и нахождения точки и,
доставляющий минимум F. Использование условия стационарности
F'(u)=0 и дает требуемый результат. Первоначально этот метод
применялся в вариационном исчислении, чем и объясняется его
15

название. (Хорошо известным примером является принцип
Дирихле, с помощью которого задача нахождения решения уравнения
Лапласа сводится к задаче минимизации функционала
(ul+ul) dxdy.) Понятно, что область применения метода
становится обширнее, если рассматриваются функционалы более общего
вида. В частности, как будет показано далее, полезно
рассматривать негладкие функционалы.
Пусть, например, применяя вариационный метод или
каким-нибудь другим способом, мы придем к рассмотрению функционала F,
который не достигает своей точной нижней грани. (Это скорее всего
может произойти в бесконечномерном, нежели конечномерном
пространстве). Далее, предполагаем, что точка и «почти» доставляет
минимум F. Изложенная в гл. 7 теорема Экланда дает некоторую
полезную информацию в этом случае. Грубо говоря, она
утверждает, что существует функционал F, являющийся небольшим
возмущением функционала F, который достигает минимума в точке и,
лежащей вблизи и. Возмущенный функционал F имеет вид F(v) =
=F(v)+k\\v—v\\ для некоторой положительной постоянной k (II-II—
норма в рассматриваемом пространстве), так что теорема приводит
к рассмотрению негладких функционалов.
Последний пример того, как появляется негладкость при
использовании новых математических методов, дает предложенный
автором двойственный принцип наименьшего действия, который
коротко описывается ниже. (Этот принцип используется в § 7.7 и § 7.8.)
Принцип наименьшего действия Гамильтона в классической
механике равносилен утверждению, что физическая система
эволюционирует таким образом, чтобы минимизировать (или, более
точно, доставить стационарную точку) действие, которое является
вариационным функционалом вида
^{(р/х)-Н(х,р)}Ж (2)
Этот принцип приводит к фундаментальным уравнениям
Гамильтона классической механики — р VXH, х = VPH.
Однако существенный недостаток функционала (2) заключается
в том, что у него может и не существовать локальный минимум или
максимум. Это ограничивает его использование, например, в
качественной теории существования решений уравнений Гамильтона.
Рассмотрим сопряженную к Я в смысле выпуклого анализа
функцию G:
G (и,v): = sup {'и, х) + (v, р) — Н(дг, /?)}, (3)
определим двойственное действие как функционал
${(P,xV+Gi-p,i))dt. (4)
И функция G, и функционал (4), вообще говоря, являются
негладкими функционалами. В гл. 4 будут получены условия
стационарности для таких функционалов. Оказывается, что в случае выпук-
16

лости функции Н эти условия почти совпадают с уравнениями
Гамильтона (более точно, если пара (лг, р) удовлетворяет обобщенным
условиям стационарности для функционала (4), то для некоторых
постоянных векторов а и Ь, х+а и р+b удовлетворяют уравнениям
Гамильтона.
Можно показать, что для некоторых классов гамильтонианов//
двойственное действие (4), в отличие от классического действия
(2), достигает минимума. Это означает, что двойственное действие,
которое представляет собой негладкий и невыпуклый функционал,
является полезным инструментом при изучении классических га-
мильтоновых систем, в частности, в теории периодических решений
таких систем.
§ 1.2. Обобщенные градиенты
Обобщенный градиент является обобщением понятия
производной функции. Его можно определить, как будет показано в гл. 2,
для весьма широкого класса функций.
Здесь же приводится лишь сводка основных определений н
свойств обобщенного градиента, полезная для тех, кто интересуется
только результатами последующих глав. Начнем с простейшего
случая локально липшицевой скалярной функции, определенной на
/i-мерном евклидовом пространстве Rn.
Пусть заданы функция /: Rn-^R и точка х из Rn. Говорят, что f
есть липшицевая в окрестности х функция, если существуют такие
постоянная К и положительное число е, что
\f(x")-f(x')\^K\x"-x'\
для всех х'у х" из х+гВ.
(Здесь В обозначает открытый шар в Rn радиуса 1 с центром
в 0, так что х+гВ есть открытый шар радиуса е с центром в 0.)
В этом случае также говорят, что функция / удовлетворяет
условию Липшица с постоянной /С.
Приступим к рассмотрению дифференциальных свойств
функции /. Укажем в первую очередь, что функция / необязательно
дифференцируема в точке х, поскольку нетрудно привести пример
липшицевой в окрестности х функции /, у которой не существуют в г
даже производные по направлению.
Поэтому определим обобщенную производную функции / в точке
х по направлению v
/°(*;i>):=limsup /<* + *■>-'« . (1)
Приведенное в правой части (1) отношение в силу условия
Липшица для всех достаточно близких к х векторов у и достаточно
малых % ограничено сверху величиной K\v\. Поэтому величина
f°(x; v) конечна.
Можно было бы придумать и другие выражения для
определения обобщенной производной по направлению. Однако полезность
1?

приведенного определения /° заключается в том, что f°(x; v) есть
положительно однородная и субаддитивная функция v.
Это обстоятельство позволяет определить обобщенный градиент
f(x) функции / в точке х как следующее множество:
d/(*):«fteR": f°(x; t/)5*<£, v> для всех ageR»}. (2)
Используя свойства функции /°, можно показать, что df(x) есть
непустой выпуклый компакт в Rn. Для любого v
Их; »)-тах{«, v>: tedf(x)}9 (3)
так что задание функции f°(x; v) эквивалентно заданию множества
В случае гладкости (т. е. непрерывной дифференцируемости)
функции f(x) обобщенный градиент df(x) сводится к множеству
{V/(jc)}, состоящему из единственного вектора V/(jc), а в случае
выпуклости / обобщенный градиент df(x) совпадает с
рассматриваемым в выпуклом анализе субдифференциалом, т. е. множеством
векторов £eRn, удовлетворяющих неравенству f(x+u)—f(x)^
^<w, £> для всех aeRn.
Вычисление df(x) из его определения может оказаться трудной
задачей. На самом деле следует избегать этого подобно тому, как
в классическом дифференциальном исчислении редко вычисляют
производные, используя их определение. Вместо этого обращаются
к теории, в которой вычислены обобщенные градиенты
определенных классов функций и даются правила, устанавливающие связи
обобщенных градиентов некоторой составной функции (например,
суммы, сложной функции) с обобщенными градиентами ее более
простых составляющих. Такое исчисление для обобщенных
градиентов детально разработано в гл. 2.
Как будет показано, существует несколько эквивалентных
способов определения обобщенного градиента. Один из таких способов
основан на теореме Радемахера, утверждающей, что локально
липшицевая функция дифференцируема почти всюду (в смысле
меры Лебега).
Пусть Q/ есть множество точек из х+еВ, в которых функция f
недифференцируема, и пусть 5 есть любое множество меры нуль.
В § 2.5 приводится следующее представление обобщенного
градиента:
а/ (х) = со Him V/ (Xi): xt -* х, xt ф 5, xt ф Qf}. (4)
Другими словами, df (х) можно определить как выпуклую оболочку
всех точек вида limV/(x,), где {*,} есть произвольная
последовательность, сходящаяся к ху члены которой не принадлежат S(JQ/.
Нормали и касательные. Пусть в Rn задано непустое замкнутое
множество С. Множество С определяет функцию расстояния
dc(x)=mm{\x—с\: сеС},
которая является липшицевой и негладкой.
18

Введенное ранее понятие обобщенной производной по
направлению позволяет дать определение касательного вектора, которое
не требует ни выпуклости, ни гладкости множства С. Касательный
конус Тс(х) к множеству С в точке х определяется следующим
образом:
Tc(x):={v€ERn:d°c(x;v)=0}. (5)
Можно показать, что это условие действительно определяет
замкнутый выпуклый конус.
Если касательный конус определен, то было бы естественно
определить нормальный конус как конус, сопряженный к
касательному.
Поэтому нормальный конус Nc(x) к множеству в точке х^С
определяется следующим образом:
Nc(x): = {t: <£, 1>><0 для всех v<=Tc(x)}.
(6)
Отсюда следует, что Nc(x) есть замкнутый выпуклый конус,
порожденный множеством ddc(x).
Возникает естественный вопрос о возможности определения
конусов Тс(х) и Nc(x) без использования функции расстояния. В §2.4
будет показано, что вектор v содержится в Тс(х) тогда, и только
тогда, когда
для любой последовательности Xi ее С, сходящейся
к х, и для любой последовательности tc е (0, оо),
сходящейся к 0, существует последовательность и,,
сходящаяся к v такая, что Xi + /a-G С для всех /.
(7)
Непосредственное определение Nc(x) использует понятие
перпендикуляра. Ненулевой вектор v называется перпендикуляром к
множеству С в точке х (что обозначается vJlC в х), если v=x'—ху
где для х' единственной ближайшей точкой из С является х.
(Или, что эквивалентно, v=x'—х,
причем существует замкнутый шар с
центром в х\ который пересекается с С
только в точке jc, рис. 1.4). Будет показано, что
Nc{x) = coknm —: Х>0,
I KI
vt J_С в */,Xi-+x,Vi-+ Ol, (8)
где черта сверху обозначает замыкание.
Из этого определения становится ясно,
как получаются нормальные конусы,
изображенные на рис. 1.5; при этом
касательные конусы находятся из
соотношений двойственности.
Рис. 1.4. Вектор *' — ху
перпендикулярный к
множеству С в точке х

Эквивалентность определений. Теперь в нашем распоряжении
имеются два аналитических понятия для функций (/° и df) и два
геометрических понятия для множеств (Тс и Nc). Каждая из этих
пар является двойственной: /° и df связаны друг с другом
уравнением (3), а Тс и Nc связаны соотношением двойственности. Более
того, оказывается, что эти аналитические и геометрические понятия
могут быть увязаны друг с другом, что представляется весьма
важным с точки зрения их использования.
Ключевым моментом такой взаимосвязи является понятие над-
графика функции /, обозначаемого epi/ и определяемого как
множество
epi/={(jc, r)e=RnXR: f(x)^r}
(т. е. множество точек, лежащих над или на графике /). В гл. 2
будут доказаны следующие формулы:
ПрЖ/W)=epi/°(*; •), (9)
df(x) = &: (С. -1)еЛГ.рЖ /(*))>. (Ю)
(Последнее соотношение напоминает известный результат из
математического анализа, состоящий в том, что вектор [/'(*)> —1] есть
нормаль к графику функции / в точке (*, /(*)).)
Рис. 1.5. Пять нормальных конусов (обозначены стрелкой) и пять касательных
конусов (обозначены двойной стрелкой) к множеству
Из этих формул следует, что понятия Гс, Nc, df и /°
взаимосвязаны и что, определив одно из них посредством соотношений (7),
(8), (4) или (1) соответственно, можно из него определить и все
остальные.
До сих пор рассматривались только локально липшицевые
функции. Этот класс функции представляется весьма полезным и не
только потому, что для него можно построить удовлетворительную
теорию. Будет показано, что свойство локальной липшицевости —
это естественное и легко проверяемое свойство широкого класса
функций, встречающихся во многих приложениях. В частности,
этим свойством обладают гладкие или выпуклые функции. Кроме
того, важно отметить, что класс локально липшицевых функций
замкнут относительно основных операций (суммирование,
суперпозиция функций и т. д.).
Тем не менее имеются разумные соображения для развития
теории для нелипшицевых функций, что и будет сделано в гл. 2. Здесь
20

же следует только указать, что основным моментом в таком
обобщении df является соотношение (10). Отметим, что если / не есть
липшицевая в окрестности х функция, то множество df(x) может
и не быть компактом; более того, df(x) может быть пусто.
Если рассматривать заштрихованное множество на рис. 1.5 как
надграфик некоторой функции /, то, используя соотношение (10),
находим, что для значения х, соответствующего точке Л, df(x) =
= {—1} и функция / дифференцируема в точке х. Функция f
удовлетворяет условию Липшица в окрестностях точек,
соответствующих точкам В и С, причем в этих точках <Э/=[0, 1] и df=
= , 1 . В точке, соответствующей Д функция разрывна и
df=[—1, +оо). В точке, соответствующей Е, df пусто, а в точке,
соответствующей F, обобщенный градиент совпадает с
действительной прямой.
Изложенные в этом параграфе результаты будут развиты в гл. 2
в следующих двух направлениях: будут рассмотрены
вектор-функции и будут рассмотрены функции, определенные на банаховом
(возможно, бесконечномерном) пространстве.
§ 1.3. Три парадигмы для динамической оптимизации
В последующих главах будут изучаться три различные, хотя и
тесно связанные постановки задач оптимального управления и
вариационного исчисления. Приступим к их описанию и обсуждению
их происхождения и сравнительных достоинств.
Задача Больца Рв. Скоро будет отмечаться трехсотлетний
юбилей создания вариационного исчисления. Вариационное исчисление
представляет собой красивую и содержательную теорию, внутри
которой зародились несколько современных направлений
математики и достижения которой связаны со многими известными в
истории математики именами.
Основная задача вариационного исчисления формулируется
следующим образом: на некотором множестве функций х,
отображающих отрезок [а, Ь] в Rn, найти минимум интегрального
функционала
^L(x(t),i(t))dt. (1)
а
При развитии теории вариационного исчисления одно из основных
предположений (которое наряду с другими будет обсуждаться в
следующем параграфе) состояло в том, что функция L полагалась
гладкой (требовалось существование непрерывных частных
производных до четвертого порядка включительно).
В широко известной постановке задачи (задача с
фиксированными концами) предполагается, что допустимые функции х должны
удовлетворять условиям х(а)=х0 и x(b)=xlf где х0 и xt заданы.
21

Другой классической задачей вариационного исчисления является
задача Больца, в которой минимизируемый функционал задается
выражением
l(x{a)9x(b)) + $L(x(f)9i(f))dt. (2)
а
Назовем кривой абсолютно непрерывную функцию,
отображающую [а, Ь] в R". В качестве первой парадигмы рассмотрим задачу
минимизации функционала (2) на множестве кривых. Обозначим
ее как задачу Рв.
Однако рассматриваемая здесь постановка задачи Рв является
намного более общей, чем классическая постановка задачи Больца,
поскольку полагается, что функции / и L могут принимать значения
+оо. Например, определим / следующим образом:
l+oo в противном случае.
Тогда минимизация функционала (2) эквивалентна минимизации
функционала (1) при ограничениях х(а) =х09 x(b) =х1. Таким
образом, задача с фиксированными концами есть частный случай
задачи Рв. Подобным же образом можно определить функцию L с тем,
чтобы учесть и такие ограничения на кривые, как, скажем,
*(*(0,*(0)<0, a^t^b.
Хотя приведенное выше обобщение задачи Больца выводит нас
за рамки классического вариационного исчисления, будет
показано, что использование формальных аналогий с классической
теорией представляет значительную ценность при построении
обобщенной теории. Но сначала определим вторую парадигму.
Задача оптимального управления Рс. Задача оптимального
управления, постановки которой, как полагают, появились в
технической литературе в сороковые и пятидесятые годы, формулируется
следующим образом.
Пусть термин управление относится к любой функции из
некоторого заданного класса функций и(-), отображающих отрезок
[а, Ь] в данное множество UczRm. С каждым управлением и
связывается некоторая кривая х (называемая траекторией), которая
является решением следующего дифференциального уравнения:
*(0 = ФИ0,и(0), *(а) = х0, (3)
где функция ф задана, а начальная точка х0 произвольно
выбирается из заданного множества С0. Задача Рс состоит в нахождении
управления и и точки х0 (следовательно, и траектории х),
доставляющих минимум функционалу
f(x(b))+lF(x(f),u(f))dt (4)
а
22

и таких, что х(Ь) содержится в заданном множестве С4. (В гл. 5
будет рассматриваться случай, когда £/, F и <р зависят от времени t
и присутствуют фазовые ограничения вида g(ty x(t))^.0, но в
настоящей главе для простоты изложения эти детали опускается.)
Модели многих физических систем описываются с помощью
дифференциальных уравнений, содержащих параметры, значения
которых изменяются с течением времени в пределах заданных
диапазонов. Такие модели в точности соответствуют постановке (3),
что, в частности, объясняет широкое использование задачи опти*
мального управления.
С формально математической точки зрения задачи
классического вариационного исчисления являются частными случаями задач
оптимального управления. Например, задача минимизации
функционала (1) с фиксированными концами х(а) =х0, x(b) =xi9
очевидно, является частным случаем задачи Рс, для которой
<р(х, и)=иу U=Rn, F=L9 С0={*о}, Ct ={*.}, /s=0.
И, наоборот, многие (хотя и не все) задачи оптимального
управления могут быть сформулированы как обычные задачи
вариационного исчисления с рассматриваемыми в классической теории
ограничениями типа равенства и неравенства.
На первый взгляд кажется, что теория оптимального
управления представляет собой современное изложение вариационного
исчисления. Однако эта точка зрения не отражает действительного
положения дел и переоценивает значение формальных
математических связей этих двух теорий. Имеется существенное различие в
постановках задач оптимального управления и вариационного
исчисления. Мы полагаем, что в общем методологии и области
применения этих двух дисциплин различны. Мы согласны с Янгом
1227] в том, что в значительной степени этот факт объясняется
тем обстоятельством, что принимаемые в классическом
вариационном исчислении предположения о гладкости не являются
приемлемыми для теории оптимального управления. Кстати, мы
утверждаем, что в установлении связи между двумя теориями именно
недифференцируемость играет фундаментальную роль.
И, наконец, приведем третью из основных постановок задач.
Задача для дифференциального включения PD. Многозначным
отображением из Rn в Rn называется отображение, которое
каждому xeRn ставит в соответствие множество F(x)czRn. Пусть заданы
многозначное отображение F, два множества С0 и d в Rn и
функция f, определенная на Rn. Задача PD состоит в нахождении
минимума функционала f(x(b)) на множестве всех кривых,
удовлетворяющих ограничениям
(5)
*(а)е=С„, x(b)ezCt.
23

(Включение (5) будет называться дифференциальным
включением.) В отличие от задач Рв и Рс задача PD появилась сравнительно
недавно. В некотором смысле она противоположна задаче Рв, в
которой снимаются все явно заданные ограничения посредством их
включения в целевой функционал, который может принимать
значения +оо. С другой стороны, в задаче PD целевой функционал явно
зависит только от правого конца кривой х(Ь). С этой точки зрения
задача оптимального управления Рс представляет собой гибрид
задач Рв и PD.
Эквивалентность. Некоторые взаимосвязи задач Рв, Рс и PD
хорошо известны.
Например, пусть задана задача Рс, попытаемся сформулировать
ее в виде задачи PD.
С самого начала можно полагать, что функция F в задаче Рс
тождественно равна нулю, поскольку, обозначив через х точку
(х°, x)^RxRn и определив
Ф (х, и) -[F (х, и), Ф (дг, и)], / (х) = f (х) + х\
Co={0}xCo, €i = RxCu
исходную задачу Рс сводим к эквивалентной задаче минимизации
функционала f(x(b)) на множестве кривых х и управлений i/,
удовлетворяющих
х (0 = Ф(х(/), и(0), *(а)<=С0, х(6)еСх.
Эта задача типа Рс, в которой функция F тождественно равна
нулю. Полагая, что F=0 в задаче Рс, сформулируем следующую
задачу PD, для которой /, С0 и Ct остаются прежними, а
многозначное отображение F определяется следующим образом: jF(x): =
: = ф(х, U). При весьма умеренных предположениях о ф, как
известно, кривая х удовлетворяет включению x^F(x) тогда, и только
тогда, когда существует такое управление и, что х=ф(х, и). (Этот
факт известен как лемма Филиппова.) Таким образом, получаем,
что исходная задача Рс эквивалентна приведенному частному
случаю задачи PD в том смысле, что кривая х есть решение последней
задачи тогда, и только тогда, когда существует управление и,
которое вместе с х есть решение исходной задачи.
В свою очередь, как легко видеть, любая задача PD может
рассматриваться как частный случай задачи Рв. Следует только
соответствующим образом определить функции / и L:
1+оо в противном случае,
l+oo в противном случае.
Все приведенные выше соотношения между задачами можно
условно записать в виде
PcaPDczPB. (6)
24

Соотношение PcczPB можно получить непосредственно, минуя
сведение задачи Рс к случаю FsO: следует / определить, как это
сделано выше, а
L(s, vy--=inf{F(s, и): u^U, t/=<p(s, и)}. (7)
(Напомним о соглашении, что точная нижняя грань пустого
множества равна +оо.)
До сих пор не учитывалось одно важное обстоятельство, а
именно предположения, при которых рассматривается каждая из задач.
Например, функция L, определяемая (7), может принимать
значения +оо и не быть непрерывной даже в тех точках, в которых она
конечна. Поэтому сведение задачи Рс к задаче РВу использующее
соотношение (7), может оказаться бесполезным, если неизвестно,
как работать с подобными функциями. Таким образом,
практическая ценность подобных редукций определяется принятыми
предположениями, которые в свою очередь зависят от круга
рассматриваемых вопросов (например, существование оптимальных решений,
необходимые условия и т. д.). Но в общем и целом соотношения (6)
точно отражают существующую иерархию задач. Пример
формального сведения задачи, которое, вообще говоря, несовместимо с
принятыми в этой книге предположениями, дает сведение задачи Рв
к задаче Рс> в которой
ф(х, и)=иу £/=Rn, F(x, u)=L(x, и).
(Здесь не рассматриваются ограничения на концы траекторий.)
Зачем рассматривать три постановки задачи, если любые две
из них сводятся к третьей? Одна из причин состоит в том, что,
используя различные постановки задачи и пренебрегая порой
установившейся традицией, можно получить результаты, которые больше
соответствуют существу задачи. Многие прикладные задачи
формулируются, как задачи одного из определенных выше типов. Будет
показано, что методы, соответствующие одной из постановок
задачи, могут дать более полную информацию, чем методы,
соответствующие другим постановкам.
Каждая из приведенных выше парадигм имеет свои особые
достоинства. Задача Рв по своей постановке позволяет использовать
аналогии с классическим вариационным исчислением. В ее рамках
можно добиться унификации классического вариационого
исчисления и теории оптимального управления. В самом деле, применение
для задачи Рв негладких аналогов методов классического
вариационного исчисления оказывается мощным методом теории
оптимального управления. Недостаток задачи Рв заключается в
необходимости использования технически сложных конструкций для изучения
в полной общности получающихся интегрантов L.
Постановка задачи оптимального управления Рс оказалась
весьма естественной и полезной при рассмотрении широкого круга
прикладных задач. Эта единственная из трех постановок, для которой
можно избежать рассмотрения недифференцируемых
функционалов, если использовать некоторые предположения о гладкости.
25

Однако, как будет показано в § 1.4 и 5.3, в некоторых случаях
можно использовать другие постановки задачи.
Основное преимущество задачи PD состоит в простоте ее
структуры. По этой причине большая часть результатов для задач Рв
и Рс получается как следствие развитой в гл. 3 теории для задачи
PD. Постановка задачи PDj будучи сравнительно новой, редко
использовалась в прикладных моделях. Но мы убеждены, что для
некоторых прикладных задач эта постановка является наиболее
естественной; см. пример, рассматриваемый в § 3.3.
Теперь приступим к обсуждению основных вопросов,
возникающих при рассмотрении вариационных задач и задач оптимального
управления, а также известные результаты в этой области. Затем
будут описаны результаты трех глав этой книги, посвященных
динамической оптимизации.
§ 1.4. Теория оптимального управления
и вариационное исчисление
При рассмотрении любой оптимизационной задачи возникают
три основных вопроса: (1) существует ли решение задачи?
(существование); (2) как найти решение? (необходимые условия); (3) как
проверить, что получено именно решение задачи? (достаточные
условия).
Конечно, существуют и другие вопросы, которые определяются
спецификой задачи (например, такие, как рассматриваемые в книге
вопросы чувствительности и управляемости). Однако в этом
параграфе будут обсуждаться только три перечисленные выше темы.
Начнем с необходимых условий.
Необходимые условия в вариационном исчислении. Рассмотрим
простейшую задачу вариационного исчисления, которая состоит в
нахождении минимума функционала
$L(x(t),x(f))dt (1)
а
на множестве кривых х, которые принимают заданные значения в
а и Ь, где функция (s, v)-*L(s, v), называемая лагранжианом,
задана. Если L — достаточно гладкая функция, то любое
(локальное) решение этой задачи удовлетворяет уравнению Эйлера — Лаг-
ранжа
± {VVL (х (0, х (/))} = VSL (х (/), 'х (0). (2)
at
Другое условие, которому должно удовлетворять решение
задачи х, известно как условие Вейерштрасса. Оно состоит в том, что
для каждого / и всех w выполняется неравенство
L (х (/), х (/) + w) — L (х (/), х (/)) ^ (ш, VVL (х (0, х (/))> Для всех w. (3)
26

Другое важное необходимое условие, известное как условие Якоби,
формулируется в § 4.3.
В классической механике важную роль играет функция
Гамильтона Я. Эта функция, называемая часто гамильтонианом,
получается из лагранжиана L посредством преобразования Лежандра
следующим образом. Предполагается, что уравнение p = VvL(x, v)
определяет (по меньшей мере локально) v как гладкую функцию
(л% р). Тогда
Н{х, /?)=</?, v(x, p)>—L(xt v(x, р)). (4)
Отсюда следует, что если кривая х удовлетворяет уравнению
Эйлера —Лагранжа (2), то функция p(t)=VvL(x{t)/x(t))
удовлетворяет системе уравнений
- р (/) = ЧХН (х (/), р (0), * (0 = V/ (х (/), р (/)), (5)
т. е. известной системе уравнений Гамильтона.
Чтобы облегчить сравнение приводимых далее результатов,
определим псевдогамильтониан Яр:
#р(х, Р, *): = </>, »>—L(x, v). (6)
Читатель может проверить, что уравнение Эйлера — Лагранжа
(2) и условие Вейерштрасса (3) записываются в терминах функции
Яр следующим образом:
— p = VxHp(x,p/x), x = V*p (*,/?,*), (7)
НР (х, р, х) = max Яр (х, р, v).
V
Можно предположить теперь, что в задаче имеются
дополнительные ограничения, например, вида g(x9 лс)^0. Используя
аналогию с методом множителей Лагранжа, можно предположить, что
решение такой задачи удовлетворяет приведенным выше
необходимым условиям, в которых лагранжиан L заменяется функцией
L + {X, g) (см. § 4.5). Доказательство такого правила множителей
во всей его полноте и было последней значительной проблемой
классической школы вариационного исчисления, нашедшей свое
разрешение в работах Блисса [31] и Макшейна [146] (см. в [112]
исчерпывающее изложение такого подхода).
Однако доказанный Понтрягиным и его сотрудниками принцип
максимума (см. [163]) отодвинул в сторону этот классический
подход. Приступим теперь к изложению принципа максимума.
Необходимые условия для задач Рс, PD и Рв. Пусть
рассматриваемые кривые х удовлетворяют уравнению
*(0 = фИ0,"(0), (8)
где значения функции u(t) содержатся в множестве U. Тогда
лагранжиан L(x, х) можно представить в виде F(x, и)у поэтому и
основную задачу минимизации функционала (1) с ограничениями
27

вида (8) можно представить как задачу оптимального управления
РСу которая была сформулирована в предыдущем параграфе.
Если в определении (6) псевдогамильтониана Яр учесть
уравнение (8), заменив и, играющее роль ху на выражение ср(х, и), то
получим Яр как функцию (х, р, и)
Яр(х, /?, и)=<р, ф(*, и)}—F(x, и). (9)
Принцип максимума состоит в утверждении, что классические
необходимые условия (7) оптимальности х, продолжают оставаться
справедливыми и в этом случае.
Будет показано, что существуют два подхода к получению
необходимых условий для задач с ограничениями: правило множителей
Лагранжа (в котором используется лагранжиан) и принцип
максимума (в котором используется псевдогамильтониан, а тем самым,
опять-таки лагранжиан). Очевидно, что ни один из этих подходов
не является прямым продолжением гамильтоновой теории. Что же
в действительности является настоящим гамильтонианом для
задачи с ограничениями? Для ответа на этот вопрос напомним
обобщение преобразования Лежандра, предложенное Фенхелем.
Применяя его к лагранжиану L, получаем гамильтониан Я:
H(x,p) = sup{(p,v) — L(x,v)}. (Ю)
v
Преимущество такого определения преобразования по
сравнению с классическим (см. уравнение (4)) состоит в том, что Я
определяется без использования производных функции L. В
предыдущем параграфе было показано, что проблема управления Рс
эквивалентна минимизации функционала JL(xy x)dty где L имеет вид
L(5, i;) = inf{F(s, и): u^Uy a = <p(s, и)}. (11)
Если подставить это выражение для L в (10), то получаем
Я (хч р) = sup {</>, Ф (х, и)) - F (х, и)}. (12)
Это и есть настоящий гамильтониан для Рс\ отметим, что в
соответствии с уравнением (9) Я (*,/?) = sup #р (*,/?, и).
Возникает вопрос о причинах, по которым ранее не
рассматривали настоящий гамильтониан. Причина же состоит в том, что в
общем случае настоящий гамильтониан не дифференцируем, тогда
как степень гладкости псевдогамильтониана Яр совпадает со
степенью гладкости данных задачи, т. е. функций, фигурирующих в
постановке задачи.
Трудностей, связанных с недифференцируемостью, не
возникает, если воспользоваться методами негладкого анализа (см. § 1.2).
Будет показано, что если кривая х есть решение задачи
оптимального управления, то существует кривая р такая, что
\-p(t)\(=dH(x(t)9p(f)\ (13)
28

в случае гладкости Н (13) сводится к классической системе (5).
Обсуждение вопросов существования решений и достаточных
условий подтверждает, что использование гамильтониана Н
существенно обобщает гамильтонов подход в вариационном исчислении.
В более общей задаче Рв гамильтониан Н определяется просто
как функция, задаваемая уравнением (10); он будет играть важную
роль в гл. 4. Как отмечалось ранее, задача для дифференциального
включения PD экивалентна задаче Рв, для которой
0, oeF(4
+ <х> з противном случае.
Если подставить этот лагранжиан в (10), получим функцию
Н(х9 p)=sup{</7, v): v^F(x)}, которая и определяет существо
результатов гл. 3.
Таким образом, для всех трех основных задач Яс, Pd и Рв
выполняются необходимые условия вида (13), при этом следует
только соответствующим образом определить гамильтониан. (В этом
параграфе опущена та часть необходимых условий, которая
относится к ограничениям на концы траекторий.) Указанный выше
подход отличен от подхода, связанного с принципом максимума:
получающиеся необходимые условия неэквивалентны. Рассмотренная в
§ 5.3 задача показывает, что в некоторых случаях (13) дает более
полную информацию, чем принцип максимума; впрочем, возможна
и обратная ситуация.
Существование решения и достаточные условия. Классическая
теорема Тонелли о существовании решения в задачах
вариационного исчисления формулирует два основных условия существования
решения задачи минимизации функционала (1). Первое условие
состоит в требовании выпуклости функции v-+L(sy v) для каждого
5, а второе — в некотором условии роста функции L, которое в
простейшем случае имеет вид
L(s, 1/)>а+р|у|2 для любых s, v (р>0). (14)
Когда L есть выпуклая функция v, то лагранжиан L и
гамильтониан Н (см. (10)) являются взаимно сопряженными функциями,
получаемыми друг из друга посредством преобразования Фенхеля.
Поэтому условия роста на L могут быть сформулированы и в
терминах функции Н. Например, условие (14) эквивалентно условию
D2
^(s.P)<T""a для всех S*P-
4р
В § 4.1 приводится принадлежащее Рокафеллару [185]
обобщение в терминах гамильтониана классической теории
существования решений для обобщенной задачи Больца Рв. Поскольку задача
Рс есть частный случай задачи РВу этот результат также применим
и к задаче оптимального управления (см. § 5.4).
Теперь мы обратимся к теме достаточных условий
оптимальности. В вариационном исчислении существуют четыре основных ме-
L(x9v) =
29

тода доказательства того, что данная кривая есть решение задачи.
Перечислим вкратце эти методы, имея в виду их возможное
обобщение для задач с ограничениями.
1. Исключение. Этот метод применим для любой задачи
оптимизации и состоит в том, что, доказав существование решения,
применяют необходимые условия для исключения других возможных
кандидатов в решения. Отметим, что при этом важно иметь
соответствующие теоремы существования и необходимые условия,
характеризующие оптимальное решение.
2. Выпуклость. Для любой оптимизационной задачи существует
свой вариант того общего правила, что для «выпуклых задач»
необходимые условия оптимальности являются одновременно и
достаточными. Нетрудно доказать, например, что если L(s, v) есть
выпуклая функция (s, v)9 то любое допустимое решение х
уравнения Эйлера — Лагранжа (2) является решением исходной задачи.
(Этот простой и полезный факт был неизвестен в классическом
вариационном исчислении). Что касается задачи Рв, то для нее
можно использовать тот факт, что выпуклость L эквивалентна
выпуклости гамильтониана H(s, р) по 5 (по р он всегда выпукл), для
того чтобы сформулировать достаточные условия оптимальности в
терминах гамильтониана (см. § 4.3). Этот подход может быть
обобщен для получения достаточных условий оптимальности в задачах
оптимального управления (см. § 5.4).
3. Сопряженные точки и поля. Существует красивый раздел
вариационного исчисления, который связывает вместе некоторые
семейства решений уравнения Эйлера — Лагранжа (поля), нули
решений некоторых линейных уравнений второго порядка
(сопряженные точки) и решения некоторого уравнения в частных производных
(уравнение Гамильтона — Якоби) для получения достаточных
условий оптимальности. Однако обобщить эту теорию на случай задач
с ограничениями удалось лишь частично (например, для задачи Рс
см. метод геодезических покрытий [227], основывающийся на
полях). Зейдан использовала гамильтонов подход и классическую
технику канонических преобразований, чтобы получить
достаточные условия для задачи Рв в терминах сопряженных точек (см.
§4.3).
4. Методы Гамильтона —Якоби. Классическим уравнением
Гамильтона — Якоби является следующее уравнение в частных
производных для функции: Wt(t, х)+Н(х, Wx(t, х))=0. Как давно
известно в классической теории, это уравнение тесно связано
с оптимальностью. Дискретизация этого уравнения приводит
к полезному численному методу известному как динамическое
программирование. Для нас это уравнение представляет интерес с
точки зрения его использования для получения достаточных условий
оптимальности. Для задачи PD, используя обобщенные градиенты
и гамильтониан, можно получить обобщенное уравнение
Гамильтона — Якоби (см. § 3.7). Оказывается, что существование решения
обобщенного уравнения Гамильтона — Якоби является как
необходимым, так и достаточным условием оптимальности.
30

Глава 2
ОБОБЩЕННЫЕ ГРАДИЕНТЫ
То, что сейчас доказано, когда-то был'*
только в воображении.
Уильям Блейк. «Брак Небес и Преисподней»
Я потерял свое недоверие к обобщениям.
Торнтон Уайлдер. «Теофил Норт»
Изложенные в этой главе понятия и методы будут
использоваться на протяжении всей книги. Здесь для локально липшицевых
функций, определенных на банаховом пространстве, подробно
разрабатывается теория обобщенных градиентов. Приводится также
соответствующая геометрическая теория касательных и
нормальных конусов, исследуются связи этих понятий с их аналогами в
гладком и выпуклом анализе. В конце главы подробно разбирается
случай конечномерных пространств и вычисляются обобщенные
градиенты некоторых важных типов функционалов. Приводятся
примеры и делается обобщение теории на случай нелипшицевых и
векторных функций.
Следует заранее уведомить, рискуя потерять некоторых
читателей для одной из самых любимых автором глав, что читателю,
интересующемуся только формулировками некоторых результатов
последующих глав, достаточно прочесть для этой цели введение в
обобщенные градиенты из гл. 1.
Желающие подробно проследить доказательства в этой и
последующих главах должны знать основные факты функционального
анализа. В частности, предполагается, что читателю известны
некоторые стандартные конструкции и результаты теории банаховых
пространств.
Если предполагать, что рассматриваемое банахово пространство
является конечномерным, то многие доказательства существенно
упростятся.
31

§2.1. Определение и основные свойства
Всюду далее X обозначает банахово пространство, элементы ко-
того х называются векторами или точками. Норма х обозначается
||*|||, открытый шар единичного радиуса с центром в 0 обозначается
В, замкнутый шар —В (шар В будет называться единичным
шаром).
Условие Липшица. Пусть YczX. Говорят, что функция /: Y-+R
удовлетворяет условию Липшица с постоянной К (на У), если для
всех у, у' из У
\Ну)-Ну')\<К\\у-у% (1)
Функция / называется липшицевой (с постоянной К) в окрестности
х (или вблизи jc), если для некоторого е>0 f удовлетворяет
условию Липшица (с постоянной К) на множестве х+гВ (т. е. внутри
е-окрестности х).
Для функций действительной переменной условие Липшица
является требованием «не слишком быстрого» роста или убывания
графика f. Легко видеть, что функция, обладающая этим свойством
в окрестности точки, не обязательно дифференцируема в ней и даже
не обязательно имеет классические производные по направлениям.
Обобщенная производная по направлению. Пусть / — липшице-
вая функция в окрестности заданной точки лг, a v — произвольный
вектор из X. Обобщенная производная функции / по направлению
v в точке х, обозначаемая f°(x\ v), определяется так:
r{x;v) = \imsupf(y + t0)-f{y),
где у — вектор из X, a t — положительное число. Заметим, что это
определение заведомо не предполагает существования никакого
предела (поскольку оно содержит только верхний предел). Кроме
того (с учетом поведения / вблизи х), оно отличается от
традиционных определений производной по направлению тем, что базовая
точка у в отношении приращений меняется. Полезность
рассмотрения /° определяется следующими ее свойствами.
2.1.1. Предложение. Пусть / — липшицевая функция с
постоянной К в окрестности х. Тогда:
a) функция v~+f°(x; v) конечна, положительно однородна, суб-
аддитивна на X и удовлетворяет неравенству
\Г(*\*)ЫШ\;
b) f°(x; v) полунепрерывна сверху как функция (х, у), а как
функция только v удовлетворяет условию Липшица с постоянной
К на X;
c) /•(*; _*)-(-/)•(*; о).
Доказательство. Ввиду условия Липшица абсолютная
величина отношения приращений в определении f°(x; v) ограничена
сверху /С|| v||, если у достаточно близко к х9 a t достаточно близко к
32

0. Отсюда следует, что и \f°(x\ v) | имеет ту же оценку сверху. Тог
факт, что f°(x\ Xv)=Xf°(x\ v) для А,>0, очевиден, так что
обратимся к проверке субаддитивности. Заметив, что все верхние пределы
ниже берутся при у-*х и t\0, вычислим
r(x;v + w) = hmsupfiy + tv + ttw)--f{y) <
^Ншsup r(y+to+m-ru>+w + limsupнм+т-т
(так как верхний предел суммы меньше суммы верхних пределов).
Первый верхний предел в последнем выражении есть не что иное,
как f°(x; v), поскольку y+tv, по существу, представляет собой
переменную, сходящуюся к х. Отсюда получаем
/"(*; v + w)<^f°(x; v)+f°(x; ш),
что и доказывает а).
Пусть теперь {*<} и {»<} — произвольные последовательности,
сходящиеся к х и v соответственно. Для каждого i по определению
верхнего предела существуют у^Х и /*>0 такие, что
ИУг-*«11 + /<<1Л\
r(xAn)-±<,{'i + w-fw =
= / (Ус + Щ -/ (Ус) / (У/ + *Л) - f (Ус + *Р)
U h
Отметим, что последний член ограничен по модулю числом
K\\v4—v|| (вследствие липшицевости /). Переходя к верхним
пределам при t-^oo, получаем
lim sup/•(*,; Vi)^f°(x\ v),
что и устанавливает полунепрерывность сверху.
И наконец, для любых v и w из X имеем
f(y+tv)-f(y)<^f(y+tw)-f(y)+K\\v-w\\t
для у вблизи х, t вблизи 0. Деление на t и переход к верхним
пределам при у-+х, t\0 дает неравенство
Н*; *ХИ*; w)+K\\v-w\\.
В этом неравенстве можно v и w поменять местами, откуда и
следует Ь).
Для доказательства с) вычисляем (и:=х'—tv):
_ liJsup (~/)(" + ^)-(-/)(») = (_ Ло {х. v)f
U-+X t
что и требовалось.
2 Ф. Хларк 33

Обобщенный градиент. Теорема Хана —Банаха утверждает,
что любой положительно однородный и субаддитивный
функционал на X ограничивает сверху некоторый линейный функционал на
X. Поэтому при выполнении условий предложения 2.1.1
существует по меньшей мере один линейный функционал £:^-^R такой, что
для любых ueX имеет место f°(x; v)^£(v). Отсюда же следует,
что функционал £ ограничен и поэтому принадлежит
сопряженному пространству X* непрерывных линейных функционалов на X,
для которых принято использовать обозначение (£, v) вместо £(i>)«
Этот факт приводит к следующему определению.
Обобщенный градиент функции / в точке х, обозначаемый
df(x), есть множество всех линейных непрерывных функционалов
£еХ* таких, что
/°(х; v)^<X, v} для всех t;eX
Пусть ||£И* — норма функционала £еХ*:
||£IU:=sup{<£, v): v<=X, \\v\\^l}9
и 5* обозначает открытый единичный шар в X*. Описание основных
свойств обобщенного градиента содержится в следующем
предложении.
2.1.2. Предложение. Пусть f — липшицевая функция с
постоянной К в окрестности х. Тогда:
a) df (х) — непустое выпуклое слабо* компактное множество в
X* и HglU^/C для каждого £ед/(дс);
b) для каждого v^X выполняется
/•(*; v)=max{<£,v):ZeEdf(x)}.
Доказательство. Утверждение а) непосредственно
следует из наших предыдущих замечаний и предложения 2.1.1. (Слабая*
компактность следует из теоремы Алаоглу.) Утверждение Ь) есть
простая переформулировка того факта, что df(x) по определению
является слабо* замкнутым выпуклым множеством с опорной
функцией f°(x\ •) (см. § 1.2 и ниже). Чтобы доказать это
непосредственно, предположим, что для некоторого v число f°{x\ v) превышает
данный максимум (f°(x\ v) не может быть меньше этого
максимума по определению df(x)). В соответствии с теоремой Хана —
Банаха существует линейный функционал £, мажорируемый функцией
f°(x; •) и совпадающий с ней в точке v. Отсюда следует, что £
принадлежит df(x), следовательно, f°(x\ и)><£, v)=f°(x\ v). Это
противоречие доказывает Ь).
2.1.3. Пример (функция абсолютного значения). Как и в
традиционном математическом анализе, одна из наших целей состоит
в том, чтобы как можно реже использовать определение для
вычисления обобщенных градиентов на практике. Однако для
иллюстрации вычислим обобщенный градиент функции абсолютного
значения действительной переменной. В этом случае X=R и f(x) =
= \х\ (f есть липшицевая функция в соответствии с неравенством
34

треугольника). Если х строго положительно, то
так что df(x) —множество чисел £, удовлетворяющих v^t,v для
всех у, состоит из одного числа: {1}. Аналогично д}(х) = {— 1},
если х<0. Рассмотрим случай х=0. Имеем
/•(О; *)-(*• "
<0,
так что /°(0; v)=]v\. Таким образом, (3/(0) состоит из чисел £,
удовлетворяющих неравенству \v\^t,v для всех v, т. е. д/(0) =
= [-1,П.
Опорные функции. Из предложения 2.1.2 видно, что знание
множества df(x) равносильно знанию функции f°(x; •), т. е.
каждый объект определяется посредством другого. Это обстоятельство
есть проявление общего факта: замкнутые выпуклые множества
характеризуются своими опорными функциями. Напомним, что
опорной функцией непустого множества С в X называется функция
ас (£): = sup{<Б, ху. хе=С).
Если 2— множество в X*, то его опорная функция определена на
X**. Если рассматривать X как подмножество X**, то для х^Х
Gx(*)=sup{<£, *>: £е=2}.
Следующие факты хорошо известны (см. [124]).
2.1.4. Предложение. Пусть С, D — непустые замкнутые
множества в X, а 2, А — непустые слабо* замкнутые выпуклые
множества X*. Тогда:
a) CczD тогда и только тогда, когда ос(5)^(ь(£) для всех
b) 2с:Д тогда и только тогда, когда Os(jc)s^aA(jc) для всех
хеХ.
c) 2 — слабо* компактно тогда и только тогда, когда о2 (•) —
конечная функция на Х\
d) данная функция о: X-^R\J{ + cxt} положительно однородна,
субаддитивна, полунепрерывна снизу (слабо или сильно) и
тождественно не равна +оо тогда и только тогда, когда существует
такое непустое слабо* замкнутое выпуклое множество 2 в X*, что
o=Oz. Любое такое 2 единственно.
Многозначное отображение Г: X-+Y есть отображение из X в
множество всевозможных подмножеств У. Его графиком является
множество
Grr: = {(*, у): *е=Х, уеТ(х)}.
Многозначное отображение Г называется замкнутым, если
множество GrT замкнуто в XxY (относительно данной топологии).
2* 35

Когда X и У— банаховы пространства, назовем Г
полунепрерывным сверху в точке х9 если для любого е>0 существует 6>0 такое,
что
T(x')czT(x)+eBy для всех х'е=х+6Вх.
По-прежнему предполагается, что / — липшицевая функция в
окрестности х. Первое из утверждений, приведенных ниже,
напоминает, что f°(x; •) есть опорная функция множества df(x).
2.1.5. Предложение. Справедливы следующие утверждения.
a) £ед/(х) тогда и только тогда, когда f°(x\ i>)^<£, v) для
всех v^X.
b) Пусть {х{} и {£,} — последовательности в X и X* такие, что
£,ed/(xt). Предположим, что х{ сходится к х, at, является
предельной точкой {£<} в слабой* топологии. Тогда £ед/(л) (т. е.
многозначное отображение df(x) слабо* замкнуто).
c)df(x)=r\ U df(y).
d) Если X конечномерно, то df полунепрерывно сверху в х.
Доказательство. Утверждение а) есть очевидное
следствие предложений 2.1.2 и 2.1.4. Для доказательства Ь) зафиксируем
произвольное i/g1 Существует подпоследовательность числовой
последовательности (£<, v), которая сходится к ч£, v) (мы ее
обозначаем как исходную последовательность). Имеем f°(xt; v)^
^(£f, v) по свойству а), откуда из полунепрерывности сверху
функции /° (см. предложение 2.1.1, Ь)) вытекает, что /°(х; v)^
^<£> 0>- Согласно а) в силу произвольности v элемент £
содержится в df(x).
Пункт с) предложения является очевидным следствием Ь) так,
что обратимся к утверждению d). Если отображение df не
является полунепрерывным сверху в х, то найдутся последовательность
хи сходящаяся к ху и последовательность £«, сходящаяся к £, такие,
что £<ed/(x<), t&df(x). Это противоречит утверждению с).
§ 2.2. Градиенты, субдифференциалы
и обобщенные градиенты
Основной результат этого параграфа состоит в том, что
обобщенный градиент df совпадает с градиентом / для функции из
класса С1 непрерывно дифференцируемых функций или с
субдифференциалом / выпуклого анализа, если / — выпуклая функция.
Прежде чем приступить к изучению обобщенных градиентов,
напомним некоторую терминологию.
Классические производные. Пусть F отображает X в другое
банахово пространство У. Обычная производная F по направлению
v в точке х определяется как
с/ ч I- F(x + to)—F(x)
F(х; v): = hm —v ^ -?- ,
если этот предел существует. Говорят, что F имеет производную
36

Гато DF(x), являющуюся элементом пространства &(Х, У)
непрерывных линейных операторов из X в У, если для каждого v^X
существует производная F(x\ и), равная {DF(x)9 v). Заметим, что
это равносильно требованию сходимости для каждого v отношения
приращений, причем
lim ffr + ftO-^fr) = {DF(x)f0)f
/jo /
где сходимость равномерна относительно v из любого конечного
множества (последнее выполняется автоматически). Если слово
«конечный» в последнем предложении заменить на «компактный»,
то производная называется производной Адамара, если заменить
на «ограниченный», получаем производную Фреше. Вообще
говоря, эти требования являются все более ограничительными. В
случае X=Rn дифференцируемость по Адамару и Фреше совпадают.
Если F есть липшицевое отображение в окрестности* (т. е. для
некоторой постоянной К имеем \\F(x')—F(x")\\r^K\\x'—x"\\x для
любых х\ х" из окрестности х), то понятия дифференцируемости по
Адамару и Гато совпадают.
Строгая дифференцируемость. Наиболее естественным поняти*
ем дифференцируемости, связанным с излагаемой в этой главе
теорией, является понятие строгой дифференцируемости. Говорят, что
F имеет строгую производную D8F(x) в точке х, являющуюся
элементом SB (X, У), если для любого v существует предел
\mFix' + iv)-F{x,)=(DsF(x),vX
Х'-*Х t
где сходимость является равномерной относительно v на любом
компактном множестве. (Это последнее условие выполняется
автоматически, если F — липшицевое отображение в окрестности х.)
Заметим, что строгая производная определена по Адамару.
2.2.1. Предложение. Пусть F — отображение из
окрестности х в У и пусть I — элемент & (X, У). Следующие утверждения
эквивалентны:
a) F строго дифференцируемо в х и D8F(x) =£;
b) F липшицево в окрестности х и для любого v^X
ymF(*' + tv)-FW={M
Х'-*Х t
Доказательство. Пусть выполняется а), тогда равенство в
Ь), очевидно, имеет место; осталось проверить, что F —
липшицевое отображение вблизи х. Если это не так, то существуют
последовательности {Xi}, и {*/}, сходящиеся к х, такие, что хи х{ лежат
вх+(1/0Ви
\\F(xn-F/(xi)\\Y>i\\x/-xi\\x.
Определим tt и vt следующим образом: х/=х{+ Uvu ||^||=г1/2.
Очевидно, что /г->0.
37

Пусть V состоит из всех точек последовательности {v4} и точки
0. Заметим, что V— компакт, так что по определению D,F(x) для
любого е>0 найдется такой номер л8, что для всех i^ne и всех
О.
Но это невозможно, поскольку, когда v=vu член [F(Xi+tiV) —
—F(Xi)]/ti имеет по построению норму, превышающую t1/2. Таким
образом, Ь) доказано.
Пусть выполняется Ь). Зададим произвольное компактное
множество V в X и положительное число е. В соответствии с Ь) для
каждого v^V существует такое число 8(v) >0, что
\\F(x' + tv)-F(x') ^
t
<е
(1)
для всех х'^х+ЬВ и /е(0, б). Так как норма
F (х' + tv')—F (*') F (х' + tv)—F (*')
/ t
ограничена сверху величиной K\\v—v'\\ (где К—постоянная
Липшица для F, а точки (*', t) достаточно близки к (х, 0)), получаем
из (1), переопределив подходящим образом 8(v)=8, что
F(x' + tv')-F(x') _ ^ v, ^
<2е
(2)
для всех х'^х+6Ву v'^v+6B и /е(0, б). Существует конечное
подпокрытие V покрытия вида {v+б(v)В: v^V}, определяемое
векторами vu ..., vn. Если положить б'= m,in 6(pt), отсюда следу-
ет, что (1) выполняется (с 2е вместо е) для любых х'^х+Ь'В,
v^V и /е(0, б7). Таким образом, £ есть строгая производная F.
Назовем отображение F непрерывно дифференцируемым (по
Гато) в точке х, если в некоторой окрестности х существует
производная по Гато DF, которая непрерывна в х как отображение из X
в &(Х, У) (в топологии операторной нормы).
Следствие. Если отображение F непрерывно
дифференцируемо в х, то F строго дифференцируемо в х и, следовательно, есть
липшицевое отображение в окрестности х.
Доказательство. Для доказательства того, что DF(x)
является строгой производной, достаточно в соответствии с
предложением доказать равенство в Ь) для каждого vt поскольку из
теоремы о среднем значении для вектор-функций [145] следует лип-
шицевость F в окрестности х. А для этого достаточно показать, что
для любой тройки последовательностей {*,}, {и<}, {/<} (с /<>0),
сходящихся соответственно к jc, и, 0, имеем
lim sup
*-*хце||у»^
.«[
F(xt + tpd-F(xt)
(DF(x),Vl)
]>=
0.
38

По теореме о среднем значении существует вектор х*,
лежащий на отрезке с концами в х{ и Xi+Uv, такой, что последнее вы-
ражение равно
{Q9DF(x:)vi)-{Q9DF(x)vi) = (ei[DF(X:)-DF(x)]vi).
Это выражение стремится к 0 равномерно по 6 при /->оо
вследствие непрерывности DF.
Теперь можно рассмотреть соотношения между определенным»
выше производными и обобщенным градиентом.
2.2.2. Предложение. Пусть f — липшицевая функция в
окрестности х, имеющая производную Df(x) по Гато (или по Адамару,
или строгую, или по Фреше). Тогда Df(x)^df(x).
Доказательство. По предположению /'(*,; v) существует
для каждого v и равна {DF(x), v). Из определения обобщенной
производной имеем Г^/°, так что f°(x\ v)^(Df(x), v} для всех
иеХ Искомое заключение следует теперь из предложения
2.1.5, а).
2.2.3. Пример. То, что df(x) может содержать точки,
отличные от Df(x), иллюстрируется известным примером: /(*): =
=x2sin (1/*), хфОу f(x): = Q, л=0. Эта функция удовлетворяет
условию Липшица вблизи 0; нетрудно показать, что /°(0, и) = |и|.
Отсюда следует, что д/(0) равно [—1, 1] множеству, содержащему
обычную (нестрогую) производную.
2.2.4. Предложение. Если функция f строго
дифференцируема в х, то f удовлетворяет условию Липшица вблизи х и df(x) =
= {D,f(x)}. И, наоборот, если f — липшицевая функция вблизи х
и df(x) = {l}, то f строго дифференцируема в х и /),/(*)=£.
Доказательство. Пусть D,f(х) существует (тогда / липши-
цева в окрестности х вследствие предложения 2.2.1). Из
определения f° следует, что f°(x; v)={Daf(x), v) для всех v, а это и
означает согласно предложению 2.1.5,а), что df(x) = {D8f(x)}. Для
доказательства обратного утверждения достаточно показать, что
условие предложения 2.2.1, Ь) выполняется для любого v из X.
Сначала покажем, что f°(x; у)=<£, и> для каждого v. (Укажем, что
f°(x\ и)^<£> 0> по предложению 2.1.2, с).) По теореме
Хана-Банаха существует функционал £'еХ\ мажорируемый f°(x; •) и
равный f°(x\ •) в точке v. Отсюда следует, что £'ед/(*), и мы имеем
f°(x\ i>) =<£;', !>»'<£, t>>. Если <£, t/> меньше, чем f°(xy у), то ? и
£' — различные элементы df(x)9 что противоречит предположению.
Следовательно, f°(x; v) = <£, и> для всех v. Тогда
„mlnf /C + W-W =-iims„p /cwc + »> =
*'->* t x'-*x t
x'-+x t
4° =ao>=/o(x:o) = limsupIi£l±MllI(£l.
x'-*x t
/jo
39

Тем самым доказано предельное соотношение в предложении
2.2.1, Ь), что и завершает доказательство.
Следствие. Если f — липшицевая вблизи х функция и про-
странство X конечномерно, то df(x') состоит из единственного эле-
мента для любого х'^х+гВ тогда, и только тогда, когда f
непрерывно дифференцируема на х+еВ.
Для доказательства обратимся к следствию предложения 2.2.1
и предложению 2.1.5, d) и заметим, что для однозначного
отображения понятия непрерывности и полунепрерывности сверху
совпадают.
2.2.5. Пример (неопределенный интеграл). Пусть функция
<р: [0, l]->-R содержится в L°°[0, 1]; определим (липшицевую)
X
функцию f: [О, 1]->R, положив f(x) = [y(t)dt. Вычислим df(x).
о
Известно, что f(x) дифференцируема для почти всех х, причем
f'(x)=<p(x)\ для любого такого х по предложению 2.2.2 ф(*)е
^df(x). Отсюда и из полунепрерывности сверху df (см.
предложение 2.1.5) следует, что множество существенных предельных точек
функции ф в х (т.е. множество точек П {lim Ф (*,•): limxi = x,
Х/$:#},где пересечение берется по всем множествам N меры нуль)
содержится в df(x).
Пусть <р+(х) и ф"(*) обозначают существенную точную
верхнюю грань и существенную точную нижнюю грань функции фвх.
Из предыдущих замечаний и выпуклости df(x) получаем, что df(x)
содержит интервал [ф~ (*), <р+(х) ]. Из равенства
y+t
f(y + t)-f(y)=$4>(s)ds
У
заключаем, что f°(x\ 1) ограничено сверху значением ф+(*). Любой
элемент £ед/(х) удовлетворяет f°(x; 1)^Ь£ (по предложению
2.1.5,а)), так что £^<Р+М- Аналогично £5*ф~(*). Мы приходим
к выводу, что
3/(*)-fo-(*).<P+(*>].
Выпуклые функции. Пусть U — открытое выпуклое множество
в X. Напомним, что функция /: t/-*R называется выпуклой (на £/),
если для любых и, и' из U и А,е[0, 1 ]
f(ku+(l-X)u')^Kf(u) + (l-K)f(u').
Покажем, что выпуклые функции удовлетворяют условию
Липшица за исключением некоторых патологических случаев.
2.2.6. Предложение. Пусть выпуклая на U функция f
ограничена в окрестности некоторой точки из U. Тогда для любой
точки x^U функция f липшицева вблизи х.
Доказательство (см. [168]). Сначала докажем, что /
ограничена на окрестности точки х. Без ограничения общности можно
предположить, что / ограничена сверху числом М на множестве
40

sBczU. Выбираем р>1 так, чтобы y^U, где у=рх. Если Л=1/р,
то множество
V={v: v=(l—X)x'+Xy, x'ezeB)
есть окрестность точки х=\у радиуса (1-Я)е. Для любого v^V
имеем
f(v) < (1-Я)/(д/) +Xf(y) ^M+Xf(y),
так что / ограничена сверху на окрестности х. Для любой точки г
из *+(1—Х)гВ найдется там же другая точка г' такая, что х=
= (z+z')/2; следовательно,
Отсюда вытекает, что
f(z)>2f(x)-f(*')>2f(x)-M-Xf(y),
так что / ограничена снизу в окрестности х, т. е. / — ограниченная
в окрестности х функция.
Пусть N — оценка сверху |/| на множестве Х+26В, где 6>0.
Для разных хи х2 из х+ЬВ положим Хз=хг+{8/а,)(хг—х1), где
сс= ||jc2—*t||, и заметим, что хл^х+26В. Точку хг можно
представить в виде
а + 8 а + 6
поэтому из выпуклости / получаем
Тогда
/W<rxr/(*i)+rx7/(*t).
а -г о а + о
ct-\- о о
и, учитывая, что |/| ^Af и <х= ||jcs—xjl, получаем
/to-/(*i)<^l*-*i|.
Так как можно поменять местами xt и х2, то заключаем, что / —
липшицевая в окрестности х функция. Выше было также доказано
Следствие. Пусть f — выпуклая функция и \f\^:N на
открытом выпуклом множестве U, содержащем ^-окрестность
множества V; тогда f удовлетворяет на V условию Липшица с постоянной
2N/6.
Напомним, что субдифференциалом выпуклой функции / в
точке х называется множество £еХ* таких, что
/(*')— /С*)^(С х'—х) для всех x'^U.
В выпуклом анализе субдифференциал функции / принято
обозначать df. Следующее предложение утверждает, что (к счастью) для
выпуклой функции df=df.
4L

2.2.7. Предложение. Если f — выпуклая на V и липшицевая
в окрестности х функция, то обобщенный градиент df(x) совпадает
с субдифференциалом f в х в смысле выпуклого анализа, a f° (х\ v)
совпадает с производной по направлению f'(x; v) для каждого v.
Доказательство. Из выпуклого анализа известно, что
J'(x; v) существует для каждого v и f'(x\ .) является опорной
функцией субдифференциала в х. Поэтому достаточно доказать,
что для любого v f°(x\ v)=f'(x; v). Можно записать f°(x; v) в
виде
Иш sup sup t<*+*»-rW ,
Ф Цх'-х||<в6о<*<е /
где б— любое фиксированное положительное число. Из
определения выпуклой функции нетрудно получить, что функция
t r f(*' + tv)-f(x')
t
не убывает, поэтому
го/ ч 1- /(jr'+eo)— f(x')
Г (х\ v) = hm sup 'v ^ '—'-*—!-.
е4 о |I*'-*ll<efi е
Используя условие Липшица, получаем для любого д/еебВ
f(x' + w)-f(x') f(x + e»)~f(x)
^2б/С,
так что
/•(*;v)^Hm f(* + ™)~fW + 26/С = /'(х;v) + 26/С.
8|0 8
В силу произвольности выбора б имеем f°(x; v)^f'{x\ v). Отсюда
и следует равенство.
2.2.8. Пример. Определим обобщенный градиент функции
/: Rn->R:
/(*ь ..., *n)=max{x,: i=l, ..., п}.
Укажем, что f как максимум линейных функций есть выпуклая
функция; вычислим f'(x, v). Пусть 1(х) обозначает множество
индексов i, для которых х{=1(х). Находим
/'(х;v): =hm max —- — hm max —
(поскольку для достаточно малых t индексы t, не лежащие в 1(х),
можно опустить)
= hm max = max Vi.
ПО *€=/(*) / IGI(X)
Так как /° и f совпадают (предложение 2.2.7), то df(x) состоит из
тех векторов £eRn, для которых при всех ueRn
max Vi^tp.
42

Отсюда следует, что df(x) состоит из всех таких векторов
(Сь .... W. что £,5*0, 2&=1> £,=0, если &1(х).
Закончим обсуждение, приведя критерий выпуклости в
терминах обобщенного градиента. Его доказательство, которое
использует теорему 2.3.7 о среднем значении, предоставляется читателю
в качестве упражнения.
2.2.9. Предложение. Если f — Липшицевая в окрестности
каждой точки открытого выпуклого множества UaX функция, то
f — выпуклая на 0 функция тогда и только тогда, когда df
монотонно на U, т. е. для всех х, x'^U, £ed/(jt), £'ed/(jt')
(х-х', t-t')^0.
§ 2.3. Основы исчисления обобщенных градиентов
В этом параграфе дается вывод формул, которые значительна
облегчают вычисление обобщенных градиентов df для функций fy
которые получены из простых функционалов с помощью операций
суперпозиции, взятия максимума, линейных комбинаций и т. д.
Предполагается, что задана липшицевая в окрестности точки х
функция /.
2.3.1. Предложение (умножение на число). Для любого-
числа s
d(sf)(x)=sdf(x). (1>
Доказательство. Очевидно, что функция sf тоже липши-
цева вблизи х. Если s неотрицательно, то (sf)°=sf° и отсюда
сразу следует, что d(sf) (x)=sdf(x). Теперь достаточно доказать
формулу для 5=—1. Элемент £ из X* содержится в д(—/) (х) тогда, и
только тогда, когда (—/)°(*, и)^<£, v) для всех v. По
предложению 2.1.1,с) это равносильно условию f°(x; —v)^<£, v) для всех
и, которое равносильно условию —£ед/(х) (по предложению
2.1.5,а)). Таким образом, включения £ed(—f)(x) и £е—df(x)
эквивалентны, что и требовалось доказать.
2.3.2. Предложение (локальные экстремумы). Если f
достигает локального минимума или максимума в х, то 0ед/(х).
Доказательство. Учитывая формулу д(—/)=—df,
достаточно доказать предложение, если х является локальным
минимумом. Но в этом случае очевидно, что f°(x\ v)^0. Таким образом,
£=0 содержится в df(x) (по предложению 2.1.5, а)).
Если ft (i=l, ..., п) —конечное семейство липшицевых
вблизи х функций, то, очевидно, их сумма /=2^< есть также
липшицевая в окрестности х функция.
2.3.3. Предложение (конечные суммы). Имеет место
включение
э(2/*)мс2*Л(*).
Доказательство. Укажем, что правая часть обозначает
слабо* компактное множество точек, представимых в виде суммы
4а

2 &, где ^i^dfiix). Достаточно доказать эту формулу для я=
=2; общий случай получается по индукции.
Значения опорных функций левой и правой части включения в
точке v равны соответственно
(fi + W(xiv) *ft(x;u) + jl(x;v)
(по предложению 2.1.2, Ь)). Поэтому в соответствии с
предложением 2.1.4, Ь) достаточно (на самом же деле это эквивалентно)
доказать общее неравенство
(fi + f2)°(x;v)^n(x;v) + ft(x;v).
Но оно следует непосредственно из определения.
Следствие 1. В предложении 2.3.3 имеет место равенство,
если все функции /,, за исключением, может быть, одной, строго
дифференцируемы в х.
Доказательство. Складывая все строго
дифференцируемые функции, получим одну строго дифференцируемую функцию,
так что достаточно доказать утверждение для случая двух
функций /j и /2, где /4 строго дифференцируема. В этом случае, как
нетрудно видеть, мы имеем
так что оба множества в формулировке утверждения имеют
одинаковые опорные функции, а значит, равны между собой.
Следствие 2. Для любых чисел s, имеем
и равенство имеет место, когда все функции /,, за исключением,
может быть, одной, строго дифференцируемы.
Для доказательства следует использовать предложение 2.3.1.
Регулярность. Во многих случаях формулы для обобщенных
градиентов записываются в виде включений, как, например, в
предложении 2.3.3. При некоторых дополнительных предположениях
эти включения превращаются в равенства. Например, в
предложении 2.3.3 имеет место равенство, если все функции непрерывно
дифференцируемы, поскольку тогда обобщенные градиенты являются,
по существу, производными, т. е. линейными операторами. Было
бы желательно указать менее ограничительные предположения,
которые, в частности, охватывали бы выпуклый (недифференцируе-
мый) случай. В этой связи полезно определить следующий класс
функций.
Определение 2.3.4. Говорят, что функция / регулярна в х,
если:
1) для каждого v существует обычная производная по
направлению /'(*; v);
44

2) для всех v f'(x; v)=f°(x; v).
Чтобы показать значение условия регулярности, приведем
следующее дополнение к предложению 2.3.3.
Следствие 3. Если каждая функция /< регулярна в х, то в
предложении 2.3.3 имеет место равенство. Равенство также имеет
место в следствии 2, если, кроме того, все st неотрицательны.
Доказательство. Поскольку, как будет показано ниже,
линейная комбинация регулярных функций с положительными
коэффициентами является регулярной, достаточно снова рассмотреть
случай п=2. Очевидно, что равенство множеств имеет место при
совпадении их опорных функций. Опорная функция левого
множества равна опорной функции правого множества
(/i + /2)0^^) = (/i + /2r^^) = /a^») + /;(x;i;) =
= /?(*; о) + /а° (*;*).
2.3.5. Замечание. Укажем, учитывая формулу d(—f)=—df,
что в предложении 2.3.3 также имеет место равенство, если
предположить, что функции —U регулярны в х для каждого и (В
дальнейшем формулировки таких двойственных результатов будут
часто опускаться.) Чтобы показать, что в общем случае включение
может быть строгим, выберем такую функцию /, что df(x) содержит
более чем один вектор, и положим /i=/ и /2=—f-
Приведем некоторые свойства регулярных функций.
2.3.6. Предложение. Пусть f — липшицевая в окрестности х
функция. Тогда:
a) если f строго дифференцируема в х, то f регулярна в х\
b) если f — выпуклая функция, то f регулярна в х\
c) конечная линейная комбинация (с неотрицательными
коэффициентами) функций, регулярных в х, является регулярной в х\
d) если существует производная по Гато Df(x) функции f,
регулярной в х, то df(x) = {Df(x)}.
Доказательство. Утверждение а) следует из предложений
2.1.5, а) и 2.2.4, так как f°(x; v) есть опорная функция df(x) =
= {D8f(x)} и имеется равенство (D9f(x), v)=f'(x; v). Для
доказательства b) обратимся к выпуклому анализу, в котором
утверждается, что f'{x\ v) существует и является опорной функцией
субдифференциала. Тогда по предложению 2.2.7 f'(x\ -)=f°(x\ •), что
и требуется. В случае утверждения с) можно рассмотреть случай
двух функций /i и /2. Поскольку функция sf регулярна, если
регулярна f и s^O, то достаточно доказать, что (/1+/2)/=(/1+/2)°,
когда /t и f2 регулярны (существование (fi+h)' очевидно). Имеем
{ft+ft)'=fi'+fi'=*fi+h>{fi + W (как и при доказательстве
предложения 2.3.3). Так как всегда выполняется противоположное
неравенство (/i+MeX/i+/i)'» то получаем с). Утверждение d)
непосредственно следует из предложения 2.1.5, а).
В § 2.7 при изучении интегральных функционалов утверждение
с) будет обобщено для случая бесконечных сумм функций.
Всюду далее для заданных точек х и у из X символ (х, у)
обозначает интервал, состоящий из всех точек вида tx+(l—t)y при
45

*е(0, 1), [х, у] обозначает отрезок, являющийся замыканием
интервала.
Теорема о среднем значении.
2.3.7. Теорема (Лебург). Пусть х, у —точки из X и f — лип-
шицевая на открытом множестве, содержащем отрезок [х, у],
функция. Тогда существует такая точка ue (х, у), что
f(y)-f(x)e{df(u),y-x>. (1)
Для доказательства понадобится специальное правило
дифференцирования сложной функции. Обозначим через хх точку
x+t(y—х).
Лемма. Функция g: [О, 1]-^R, где g(t)=f{xt), удовлетворяет
условию Липшица на (О, 1), причем
dg(t)c{df(xt)9y-x>. (2)
Доказательство. Тот факт, что g — липшицевая функция,
очевиден. Два замкнутых выпуклых множества, фигурирующих в
(2), есть отрезки в R, так что достаточно показать, что для v=
= ±1
max{dg(t)v}^max{{df(xt), y—x)v}.
Левая часть этого неравенства равна g°(t; v), или
iimsUp g(*+M-g(*) ,ltagup/fr+[,+to](»^)-;(H-.(^D)<
< lira sup/(y, + Xo(f/~Jf))~/(y,) = f*(xt; v{y—x)) = max (pf(xt), v (y—x)).
Теперь вернемся к доказательству теоремы. Рассмотрим
функцию 6 на [0, 1]:
Q(t)=f(xt)+t[f(x)-f(y)].
Отметим, что 9(0) =6(1) =/(*), так что существует точка te(0,1),
в которой непрерывная функция 8 достигает локального
максимума или минимума. Согласно предложению 2.3.2 0ед6(/). Можно
вычислить 59(0, используя предложения 2.3.1, 2.3.3 и лемму.
Получаем
0&inx)-fU,)] + {df(xt)9y-x>9
что и составляет утверждение теоремы (для u=xt).
2.3.8. Пример. Рассмотрим функцию
f(x)=^(t)dt
из примера 2.2.5. Используя теорему о среднем значении и
выражение для д/, получаем следующее: для любого е>0 найдутся
46

точки х, у из (0, 1) такие, что \х—у\ <е и
q>(*)-e<Jq>(0<«<q>(y)+SB.
О
Дифференцирование сложных функций. Рассмотрим важный
вопрос об оценке обобщенного градиента сложной функции вида
f=gohf где h: X-+Rn и g: Rn->-R— заданные функции. Компоненты
вектор-функции h обозначим Л, (t=l, ..., /i). Предполагается, что
для каждого i Л» — липшицевые функции вблизи х и g — липши-
цевая функция вблизи h(x)\ это означает, как обычно, что / — лип-
шицевая функция вблизи х. Если принять соглашение об
отождествлении пространств (Rn)* и Rn, то любой элемент а из dg можно
рассматривать как /г-мерный вектор a=(ai, ..., an). (Ниже во
всех суммах индексы меняются от 1 до п.)
2.3.9. Теорема. Справедливо включение
3/(дг)Ссо{2<%Ь: b&dhi(x)9a<=dg(h(x))}
(где со обозначает слабо* замкнутую выпуклую оболочку), для
которого равенство имеет место при выполнении любого из
следующих предположений:
1) g регулярна в Н(х), каждая функция h{ регулярна в х и
каждый элемент а из dg(h(x)) имеет неотрицательные компоненты
(причем отсюда следует, что f — регулярная в х функция);
2) g строго дифференцируема в Н(х) и /г= 1 (в этом случае
операцию со можно опустить);
3) g регулярна в h(x) и h строго дифференцируема в х
(причем отсюда следует, что 4 — регулярная в х функция и операцию
со можно опустить).
Доказательство. Множество S, выпуклая оболочка
которого фигурирует в формуле, слабо* компактно, и поэтому его
выпуклая оболочка имеет компактное замыкание. Причем если X
конечномерно, то выпуклая оболочка замкнута и операцию со
можно заменить на операцию со. Значение опорной функции (S или
coS), вычисленное в точке v^X, как легко видеть, равно
q0: -тах{2<%<&,*>: ЬеЭМ*).«ед*(Л(*))} • (3)
По предложению 2.1.4, Ь) достаточно доказать, что q0 оценивает
сверху /°(*0; v) для любого v. В свою очередь для этого
достаточно показать, что для каждого е>0 величина qt оценивает сверху
П*;")-е:
<7е = max {2 (к <&, v): & s dht (xc), a^dg (u)9
xfGx + eB,u^:h(x) + eB} ,
поскольку, как показано в приведенной ниже лемме, qt монотонно
сверху стремится к q0 при е|0.
47

Из определения f°(x; v) следует, что найдутся х', близкое к х,
и положительное /, близкое к 0, такие, что
r(x;v)^f{x'+iv)-f(x'} + e. (4)
Степень близости выбирается так, чтобы выполнялись включения
х'е=х+гВ9 x'+tv<=x+zB, h(x')ezh(x)+sB,
h(x'+tv)€=h(x)+eB.
По теореме 2.3.7 о среднем значении получаем
f(x' + tv)-f(x') = g(h(x' + W-g{h(x'))^
где a^dg(u) и и является точкой из отрезка [h(x'+tv), h(x')]
(поэтому u^h(x)+eB). Применив еще раз теорему о среднем
значении, последнее выражение представим в виде
где £<edft,(*,), х< — точка отрезка [x'+tv, х'] (поэтому х{^х+гВ).
С учетом этого представления из уравнения (4) получаем
откуда и заключаем, что f°(x; v) ^qt+s.
Следующая лемма восполняет недостающее звено в
доказательстве.
Лемма. Выполняется следующее равенство:
lim qe = q0.
Пусть задано произвольное 6>0 и К—общая постоянная
Липшица функций К, g в окрестности х. Покажем, что для всех
достаточно малых е>0 цг ограничено сверху числом q0+n8{\ + K\v\).
Отсюда будет следовать утверждение леммы, поскольку <7<>^<7е-
Выберем е>0 таким, чтобы функция g и функции ft* (для всех
/) удовлетворяли условию Липшица на множествах h(x)+eB и
х+гВ9 и для любых х^х+ъВ
ft? (ад ±о) < ft? (дг; ±v) + Ь/К.
Умножая обе части неравенства на |а<|, где а< — i-я компонента
вектора a^dg(u), u^h(x)+eB, получаем
Согласно предложению 2.1.5, d) можно выбрать такое малое е,
что dg{h(x)+eB) содержится в dg(h(x))+8B. Теперь проведем
вычисления:
<7е < max |2 max [а, (&, v) :
bedht(xt)9Xiex + EB\: a&dg(u),u&h(x) + BB}^
48

^ max |2Л?(*; aw) + 6 : аЕdg(u\ие= h(x) + еВ ]^
^max(2max[a,(^y>: &S0M*)]: а е д* (Л (дг)) + 6Я| +/18 ^
<(70 + п8/С|с;| + лб.
Лемма доказана.
После вывода общей формулы в теореме 2.3.9 обратимся к
дополнительным утверждениям, начиная с п. 1).
Рассмотрим величину q0, определяемую выражением (3). В
силу неотрицательности всех а» имеем
?0 = тах{2а*П1ах{(&,10: ^е*(х)}: ае^(АМ)) =
= max{2aX-(*;i>): a edg (Л (*))}=£'(h(x)\w) =
(где Wii = hl(x\v))
= lim *№<*> + **>-*(*(*» =
_lim fg (*(*+*«»)-*(*(*)) , g(h(x) + t»)-g(h(x + to))V
цо\ t f t J
(заметим, что второй член под знаком предела стремится к 0,
поскольку g — липшицевая вблизи h(x) функция, и w—[h(x+
+ tv)—h(x)]/t стремится к 0)
= lim ш№ + »»-*»М) =Г(г,v).
Итак, доказано неравенство q0^f'(x\ v)9 а ранее было получено
f°(x; v)^q0. Так как всегда /'(*; v)^f°(x; v), то получаем q0 =
=/'(*; v)=f°(x> v) (т. е. / — регулярная функция). Напомним, что
<7о является значением опорной функции в точке v выпуклого
множества, стоящего в правой части общей формулы в теореме 2.3.9,
a f°(x; v) — значение опорной функции df(x). Отсюда следует их
равенство, и утверждение для случая 1) доказано. Читатель может
проверить, что предыдущее доказательство применимо и для
случая 3). Осталось рассмотреть случай 2), в котором D9g(h(x)) есть
число ос. Можно полагать, что а^О, и, используя строгую диффе-
ренцируемость g в h(x), получим
,0/ ч 1- a[h(x' + tv)— h(x')]
По
= limsupg(/l^ + fa))^g(/lW)
x'-+x
По
Как и прежде, отсюда следует равенство в общей формуле в
теореме 2.3.7. В случаях 2) или 3) можно опустить операцию со, так
как dg(h(x)) или dhi(x) для всех i состоят из одной точки, а мяо-
49

жества, выпуклая оболочка которых берется в общей формуле,
являются выпуклыми (хотя в общем случае это не так) и
замкнутыми.
2.3.10. Теорема. Пусть F — отображение из X в банахово
пространство Y и g: Y-+R— функция, определенная на У.
Предполагаем, что F строго дифференцируемо в х, a g — липшицевая в
окрестности F(x) функция. Тогда f=goF — липшицевая в окрестности
х функция и
df(x)cndg(F(x)oDsF(x). (5)
Во включении (5) имеет место равенство, если g (или —g)
регулярна в F(x); при этом f (или —/) тоже регулярна в х.
Равенство также имеет место, если F отображает каждую окрестность х на
множество, которое плотно в окрестности F(x) (например, если
отображение DaF(x) сюръективно).
2.3.11. Замечание. Смысл включения (5) заключается в том,
что каждый элемент z^df(x) может быть представлен как
композиция отображений l^dg(F(x)) и D8F(x): <z, и> = <£;, DtF(x)(v))
для всех v^X. Если * обозначает сопряжение, то (5) можно
записать в эквивалентной форме:
df(x)a[DeF(x)Ydg(F(x)).
Доказательство. Тот факт, что / — липшицевая функция,
очевиден. Соотношение (5) для двух выпуклых слабо* компактных
множеств в терминах опорных функций эквивалентно следующему
неравенству, которое выполняется для всех v (обозначаем А =
=D.F(x)):
И*; t;)<max{<z, Av): zezdg(F(x))}=g°(F(x); Av). (6)
Его доказательство аналогично приведенному в теореме 2.3.9 и
поэтому опущено здесь.
Пусть теперь g — регулярная функция. (В случае
регулярности —g рассмотрим функцию —/ и воспользуемся тем, что д(—/) =
=—df.) Тогда последний член в (6) совпадает с
gf(F(x);Av) =
^Vm g(F(x) + tAv)-g(F(x))^Vm g(F(x+tv))-g(F(x)) ^
/jo t t\o t
(поскольку \F(x+tv)—F(x)—tAv]/t стремится к 0 при t-+0 и g —
липшицевая функция)
= lim/^+to)-/w=r(x;t))</.(jc;i>)
Показано, что f'(x\ v) существует и в (6) выполняется обратное
неравенство. Поэтому функция / регулярна, а в соотношениях (6)
и (5) имеют место равенства.
Наконец, предположим, что F отображает каждую окрестность
х на множество, всюду плотное в окрестности F(x). Это позволяег
50

представить последний член в (6) следующим образом:
f(F(x);Av) =
= Птзир^ + Мр)-^ =Hmsup iVW + ™>-tVW) =
y->F(x) t х'-*х t
= iimsUp£i£i£±Mzi£i£i£)) =fo{x.v)t
x'->x t
так как [F(x'+tv)—F(x')—tAv]/t стремится к нулю при х'-*~х и
t\0, a g— липшицевая функция.
Как и ранее, это обеспечивает выполнение обратного
неравенства в (6), откуда следует равенство в (5) (но не регулярность
функции /).
Следствие. Пусть g: Y-+R — липшицевая вблизи х функция,
пространство X непрерывно вкладывается в Y, плотно в Y и
содержит точку х. Тогда сужение f функции g на X удовлетворяет
условию Липшица вблизи х и df(x) =dg(x) в том смысле, что для
каждого элемента z^df(x) существует единственное его продолжение
на пространство Y, совпадающее с некоторым элементом dg(x).
Доказательство. Применяем теорему, полагая, что F—
отображение вложения из X в У.
Рассмотрим конечное семейство {/,} (/=1, ..., п) липшице-
вых в окрестности х функций. Нетрудно убедиться, что
/(;с0=тах{/1.(х0:/=1,...,/г}
— также липшицевая в окрестности х функция. Пусть для любого
х' множество I(x') состоит из всех таких индексов i9 что /,(*') =
=f(x') (т. е. индексов, для которых достигается максимум в
определении f).
2.3.12. Предложение (поточечный максимум). Имеет место
включение
df(x)ccQ{dft(x): *«=/(*)}.
Если функции fi регулярны в х для каждого i^I(x), то в
приведенном соотношении имеет место равенство и функция f регулярна в х.
Доказательство. Определим функцию g: Rn->R, положив
g(Uu ..., ип)=тах{щ: i=l, ..., /г},
и функцию ft: X->Rn, положив
AW = [/iW,/2W,...,/nW].
Заметим, что f=goh. Используем теорему 2.3.9 и выражение для
dg, полученное в примере 2.2.8. Функция g выпукла и поэтому
регулярна в h(x) (см. предложение 2.3.6). Дополнительные
утверждения в предложении следуют из теоремы 2.3.9,1). (Можно
предполагать, что /(л:) = {1, ..., я}, так как отбрасывание всех функций
fi(x)f для которых i(£I(x), не изменит значений / в некоторой
окрестности х\ операция замыкания здесь не нужна.)
51

2.3.13. Предложение (произведение). Пусть fu \2 — липши-
цевые вблизи х функции. Тогда fj2 — липшицевая вблизи х
функция и
д(Ш(х)^ШдШНЛх)дШ.
Если, кроме того, fi(x)^09 f2(x)^0 и обе функции fi9 f2 регулярны
в х, то произведение /,/2 регулярно в х и в приведенном
соотношении имеет место равенство.
Доказательство. Определим функции g: R2->-R, g(ul9 и2) =
=щи29 и A: X+R2, ВД = [/*(*), /,<*)].
Заметим, что fif2=goh. Теперь достаточно применить теорему
2.3.9; из ее п. 1) получаем утверждение о регулярности.
Аналогично этому доказывается следующее предложение.
2.3.14. Предложение (частное). Пусть fi9 fz — липшицевые
вблизи х функции, причем [2(х)Ф0. Тогда fjf2 — липшицевая
вблизи х функция и
д ( U ) (х) С- h {х) dfl (х) ~/г {х) dh (х)
V/Ji; fl(x)
Если, кроме того, /i(*)^0, /2(*)>0, и функции /4 и f2 регулярны в
х, то в приведенном соотношении имеет место равенство и fjf2
регулярна в х.
Частные обобщенные градиенты. Пусть X=XtxX29 где Хи Х2 —
банаховы пространства, и функция f(xi9 х2), определенная на X,
является липшицевой в окрестности (xi9 х2). Обозначим через
dtf(xi9 х2) (частный) обобщенный градиент функции /(•, хг) в ;с4
и через dj(xi9 х2) —обобщенный градиент f(xif •) в х2.
Обозначение /J (xi9 х2\ v) используется для обобщенной производной по
направлению v^Xl9 функции /(•, х2) в точке*!. В общем случае
множества df(xi9 х2) и dtf(xi9 х2) Xd2f(xi9 х2) не содержатся одно в
другом; примеры этого приводятся в § 2.5. Однако для регулярных
функций между этими двумя множествами существует взаимная
связь.
2.3.15. Предложение. Если f — регулярная в x=(xi9 х2)
функция, то
df(xi9 х2)ад^{хи х2) Xd2f(xi9 х2).
Доказательство. Пусть z=(zi9 z2) содержится в df(xi9 х2).
Достаточно показать, что zi^dif(xi9 х2)9 что в свою очередь
эквивалентно выполнению неравенства (zl9 v)^: fx(xuxt;v) для любых
og^. Но fi(xl9x%;v) совпадает с функцией f[ (xl9 х2; v) =f'(xi9 х2;
v9 0)=f°(xi9 х2\ v, 0), ограничивающей сверху <гь и> по
предложению 2.1.2, Ь).
Чтобы рассмотреть нерегулярный случай, определим проекцию
ttid/(jtfl9 х2) как множество
{2г<==Х1: для некоторого z2&Xl,(zl9z^edf (xl9x2)};
аналогично определяется n2df(xi9 х2).
52

2.3.16. Предложение. Имеет место включение
dif(xu x2)cutldf(xiy х2).
Доказательство. Зафиксируем х2, и пусть ft(х) =/(х,х2) —
ункция на Xt. Определим отображение F: Хг^Х^Х1у положив
(х) = (ху х2). Заметим, что D8F(x) определяется равенством
DtF(x)(v) = (v, 0). Так как ft=foF, то, применяя теорему 2.3.10
для х=хи получаем искомое включение.
Следствие. Имеет место включение
dj(xu х2) Xd2f(xu х2)си71{д!(хи х2) Xn2df(xu х2).
2.3.17. Пример. Докажем сделанное в § 1.1 утверждение (см.
рис. 1.1) относительно наилучшей //-аппроксимирующей прямой.
Именно: пусть имеется ЛН-1 точек: (0, 0), (1, 1), ..., (N—1, N—1)
и (N, 0). Напомним, что поставлена задача минимизации
следующей функции:
/(«.Р) = |аАГ + Р|+ S М + Р —'I-
Отметим, что функция /с*(а, Р) = |ас+р—k\ есть суперпозиция
функций g и F, где g(y) = \у\, F(a, 0) =ас+$—k. Функция F
строго дифференцируема и D8F(af р) = [с, 1]. В силу регулярности
функции g (g — выпуклая функция) из теоремы 2.3.10 следует,
что
№,1]>, ac + p-*>0,
^(а,Р)= {[—с,—1]}, ою + р —£<0,
1{Цс,1]: \Ц<1} ас + Р — k = 0.
Существует точка (a, р) минимума функции f и по предложению
2.3.2 Oed/^a, (J). С учетом предыдущих замечаний и предложения
2.3.3. это можно записать в виде
o=M#,i] + S ^Ч- W
Если это необходимое условие выполняется для прямой у=х (т. е.
для а=1, [5=0), тоЯ*=1 и \h\<:l (*=0, 1, ..., N— 1). Нетрудно
видеть, что, если Л^З, существуют числа {Я,*}, удовлетворяющие
уравнению (7). Условие 0е<Э/(1, 0) в силу выпуклости функции /
является достаточным для того, чтобы сделать вывод о том, что
прямая у=х является решением задачи.
Любая другая прямая, рассматриваемая в качестве решения
задачи, проходила бы самое большее через две из указанных точек.
Читатель может проверить, что в этом случае при W>4 уравнение
(7) не выполняется.
?
53

§ 2.4. Геометрические аспекты теории обобщенных градиентов
Пусть С —непустое подмножество X. Рассмотрим его функцию
расстояния, т. е. функцию dc: X-*R, определяемую следующим
образом:
dc(x)=inf{\\x—с\\: с<=С).
В случае замкнутости С (что заранее не предполагается) jceC
тогда, и только тогда, когда dc{x)=0. Функция dc в обычном
смысле заведомо не дифференцируема, однако (как будет сейчас
показано) она удовлетворяет глобальному условию Липшица.
Обобщенный градиент ddc функции расстояния будет использован
для того, чтобы ввести новые понятия касательного и нормального
векторов к произвольному множеству С. Впоследствии эти
касательные и нормальные векторы будут определены в
топологических терминах для того, чтобы показать, что они не зависят от
введенной нормы (или функции расстояния). Доказывается, что новые
понятия касательной и нормали, определенные здесь, сводятся к
известным понятиям в гладком или выпуклом случаях.
В заключение указывается, как эти геометрические понятия
приводят к расширенному определению обобщенного градиента df для
функции /, которая не только не локально липшицева, но и может
принимать значения ±оо.
2.4.1. Предложение. Функция dc удовлетворяет
следующему глобальному условию Липшица на X:
\dc(x)-dc(y)\^\\x-yl
Доказательство. Для любого е>0 найдем точку с^С
такую, что dc(y)^\\y—c\\—e. Имеем
dc(x)^\\x-c\\^\\x-y\\ + \\y-c\\^\\x-y\\ + dc(y)+E.
Поскольку выбор е произволен, а рассуждение можно повторить,
поменяв местами х и у9 то отсюда следует искомое неравенство.
Касательные. Теперь предполагаем, что х — точка С. Вектор
v^X называется касательной к С в х, если d°c(x; у)=0.
Множество всех касательных к С в х обозначается Тс(х). Естественно,
что в этом определении учитывается только локальная структура С
в окрестности х.
Непосредственно из предложения 2.1.1 следует, что Тс(х) —
замкнутый выпуклый конус в X (в частности, 0 всегда содержится
ьТс(х)).
Нормали. Определим нормальный конус к С в точке х как
двойственный конусу Тс(х):
Nc(x) = {Z<=X*: <£, 0><О для всех vt=Tc(x)}.
Можно дать другое определение Nc(x) в терминах обобщенного
градиента.
54

2.4.2. Предложение. Имеет место следующее представление:
Nc(x) = cl{{J\ddc(x)},
где cl обозначает слабое* замыкание.
Доказательство. Определение Тс(х) вместе с
предложением 2.1.2,Ь) означают, что v^Tc(x) тогда, и только тогда, когда
<и, £>^0 для любого t,^ddc(x). Отсюда следует, что конус,
двойственный к Тс(х), есть слабо* замкнутый выпуклый конус,
порожденный множеством ddc(x), что и требовалось доказать.
Функция расстояния фигурирует в последующих главах по
оптимизации в связи с ее использованием в методах точного штрафа.
Один из вариантов метода точного штрафа приводится ниже.
2.4.3. Предложение. Пусть f удовлетворяет условию Лип-
шица с постоянной К на множестве S. Предполагаем, что функция
f достигает минимума на множестве CczS в точке хеС. Тогда для
любого К^К функция g(y)=f(y)+Kdc(y) достигает минимума
на S в точке х. Если К>К и С замкнуто, то любая точка,
минимизирующая g на S, должна лежать в С.
Доказательство. Пусть первое утверждение неверно.
Тогда существуют точка y^S и е>0 такие, что f(y)+Kdc(y)<
</(*)—Яг. Пусть точка сеС удовлетворяет неравенству \\у—с\\^.
<:dc(y)+e. Тогда
f(c)^m + K\y-cl^f(y) + K(dc(y) + e)<f(x),
а это противоречит предположению, что х доставляет минимум /
на С. Пусть теперь К>К и у также минимизирует функцию g на
S. Тогда
f(y) + Kdc(y) = f(x)^f(y) + (K + 7()dc(y)l2
(согласно первому утверждению для функции g с постоянной
(K+R)/2), откуда получаем, что dc(y)=09 т. е. у содержится в С.
Следствие. Пусть f — липшицевая в окрестности х функция,
минимум которой на С достигается в х. Тогда 0^df(x)+Nc(x).
Доказательство. Рассмотрим окрестность S точки х% на
которой / удовлетворяет условию Липшица с постоянной /С. Можно
полагать, что CczS (поскольку С и Sf]C имеют совпадающие
нормальные конусы в х), так что согласно предложению х есть
локальный минимум f(y)+Kdc(y). Таким образом,
Oe=d(f+Kdc) {x)<=.df{x)+Kddc(x).
Утверждение леммы теперь следует из предложения 2.4.2.
Для выпуклого множества С хорошо известно следующее
определение нормального вектора: t>^X* называется нормалью к С в
точке х (в смысле векторного анализа), если <£, х—с>^0 для всех
С€=С.
2.4.4. Предложение. Если множество С выпукло, то Nc(x)
совпадает с конусом нормалей в смысле векторного анализа.
55

Доказательство. Пусть £ —нормаль к С в х в смысле
выпуклого анализа. Тогда точка с=х минимизирует /(с)=<£, х—с)
на С, так что по следствию предложения 2.4.3 (поскольку функция
/ непрерывно, или строго, дифференцируема) получаем
0=-t+Nc(x),
т. е.£<=ЛГс(х).
Для завершения доказательства достаточно в силу
предложения 2.4.2 доказать, что любой элемент \^ddc(x) является
нормалью к С в л: в смысле выпуклого анализа (так как множество
таких нормалей представляет собой слабо* замкнутый выпуклый
конус).
Лемма. Функция dc(>) выпукла.
Доказательство. Пусть заданы х, у из X и А,е(0, 1). Для
любого е>0 выберем сХ9 су из С такие, что
Ik*—x\\^dc(x)+e, \\cv—y\\^dc(y)+e,
и пусть сеС равно с=Ясж+ (1—Х)су. Тогда
dc(Xx+ (1— Х)у)^ \\с—Хх— (1-Х) у\\^
^Х\\с— х\\+ (1— X)\\cv—y\\^Xdc (х) + (l—X)dc(y)+e.
Поскольку е произвольно, то лемма доказана.
Вернемся к доказательству предложения. По предложению 2.2.7
£ является субградиентом функции dc в jc, т. е. для всех у^Х
dc (У) —dc (х) ^ <£, у—х).
Отсюда (£, с—х)^0 для всех с из С.
Следствие. Если С — выпуклое множество, то v^Tc(x)
тогда, и только тогда, когда dc (х; v) = dc (х\ v) =0.
Доказательство. Функция dc выпукла и, следовательно,
регулярна по предложению 2.3.6. Тогда dc и dc совпадают, что и
требовалось доказать.
Внутренняя характеризация Тс(х). Покажем, что определение
касательной, данное выше, в действительности не связано с нормой
(и тем самым с функцией расстояния, заданной в пространстве X).
Это позволяет в конкретных случаях выбирать функцию
расстояния с тем, чтобы облегчить вычисление касательных или нормалей.
2.4.5. Теорема. Вектор v^X есть касательная к множеству С
в точке х тогда, и только тогда, когда для любых
последовательностей: Xi^C, сходящейся к х, и /<е(0, оо), монотонно убывающей
к 0, существует последовательность v{^X, сходящаяся к v, такая,
что х{+^{^С для всех и
Доказательство. Предположим, что v^Tc(x) и заданы
последовательности х<-кк (х<еС), Ъ\0. Нужно найти
последовательность vit указанную в формулировке теоремы. По
предположению d!c (х; v)=0, поэтому
litn dc^ + ^-^) =ш^с±¥1_0 (1)
56

Выберем точки ct^C такие, что
WXi+tiV—dW^dclXi+tiV) +tji, (2)
и определим vi=(ci—xi)/ti. Тогда (1) и (2) означают, что \\v—Vi\\->
-*-0, т. е. Vi сходится к v. Кроме того, Xi+to=cfeC.
Теперь докажем обратное утверждение. Пусть v обладает
указанным свойством относительно последовательностей и выберем
последовательности yit сходящуюся к jc, и /,, монотонно
сходящуюся к 0, такие, что
„^0, + W-W,^^ (3)
Докажем, что эта величина неположительна; тогда по определению
v^Tc(x). Пусть с<еС удовлетворяют неравенству
\\с<—уЛ^(1с(у<)+ЪЦ. (4)
Отсюда следует, что с{ сходятся к х. Поэтому существует
последовательность vi9 сходящаяся к v, такая, что d+tiV^C. Но тогда из
липшицевости dc получаем (используя (4))
dc(yi+tiV) ^dcid+tiVt) + Wyt—aW+tiWv—ViW ^
^dM+tiiWv—ViW + lli).
Таким образом, предел (3) неположителен. Теорема доказана.
Следствие. Пусть X=XtxX*t где Хи Х2 — банаховы
пространства, (хи jc2)eCiXC2, где С{ и Сг являются подмножествами Хи
Х2 соответственно. Тогда
Тсгхс, (х) = ТСх (хг) х Тс, (*2), NClXC, (х) = NCl (xj X NCt (x2).
Доказательство. Первое равенство следует из характери-
зации касательного конуса, данной в теореме, а второе следует из
двойственности.
Регулярность множеств. Для того чтобы установить связь
между понятиями, определенными выше, и известными для гладкого
случая геометрическими концепциями, введем понятие
регулярности множества, играющее ту же роль, что и понятие регулярности
функции из § 2.3. Напомним, что контингентным конусом Кс(х) к
множеству С в х называется множество, состоящее из всех
векторов v^X таких, что для любого е>0 найдутся /е(0, е) и точка
w^v + eB, удовлетворяющие включению x+tw^C (т. е. х
обязательно содержится в с1С). Из теоремы 2.4.5 видно, что Тс(х)
всегда содержится в Кс(х). Однако последний конус может и не быть
выпуклым.
2.4.6. Определение. Множество С регулярно в х> если
Тс(х)=Кс(х).
Любое выпуклое множество регулярно в каждой своей точке
по следствию предложения 2.4.4. Второе следствие приведенной
ниже теоремы подтверждает тот факт, что Nc и Тс сводятся к
классическим понятиям в случае, когда С — «гладкое» множество.
57

2.4.7. Теорема. Пусть f — липшицевая в окрестности х функ-
цияиО&д((х).ЕслиС={уе=Х: f(y)^f(x)}, то
{veX:f(x;v)^0}cTe(x). (5)
Если f регулярна в х, то в (5) имеет место равенство и С регулярно
в х.
Доказательство. Заметим, что существует такой вектор
v&X, что f°(x; v)<0, поскольку f°(x\ •)—опорная функция
множества df(x), не содержащего 0. Если v принадлежит левой части
включения (5), то для любого е>0 f°(x; v + ev)<CO в силу
субаддитивности f°(x\ •) (см. предложение 2.1.1,а)). Следовательно,
достаточно доказать, что любой вектор и, для которого f°(x\ v)<0>
содержится в Тс (х).
Из определения f°(x\ v) следует, что существуют такие е и б>
>0, что для всех у, \\у—х\\<г и /<=(0, е)
f(y+tv)-f(y)^-M.
Пусть ^еС — некоторая последовательность, сходящаяся к х,
и /*е(0, оо)—некоторая последовательность, стремящаяся к 0.
По определению С имеем f(Xi)^zf(x), и для достаточно больших i
f(xi+tiv)^f{xi)—bti^{x)—bti.
Поэтому Xi+tiV для достаточно больших i содержится в С, т. е. по
теореме 2.4.5 v^Tc(x).
Теперь предполагаем, что / регулярна в х. Чтобы доказать, что
в (5) имеет место равенство, достаточно показать, что любой
элемент v^Kc(x) содержится в левой части включения (5).
Поскольку всегда Тс(х)сКс(х)9 то получаем совпадение всех трех
множеств.
Пусть v^Kc(x)\ тогда по определению
v . f dc(x + tv)
lim inf = 0.
t\o t
Для любого e>0 можно найти последовательность U\0 такую,
что для всех достаточно больших i
dc(X+tiV)<Eti.
Следовательно, найдутся такие точки х{ в С, что
\\x+Uv—х{\\^2ги
и f(x{)<:f(x). Отсюда получаем
f(x + tjV)-f(x) ^ f(xi)+2zKti-f(x)
где К — постояная Липшица для / в окрестности х. Переходя к
пределам и вспоминая, что е произвольно, приходим к искомому
неравенству f'(x; v)=f°(x; v)<0.
Следствие 1. Имеет место включение
Nc(x)(Z 1)Щ(х).
58

Если f регулярна в х, то в приведенном соотношении имеет место
равенство.
Доказательство. Конус, двойственный к левой части (5),
в точности совпадает со слабо* замкнутым выпуклым конусом,
порожденным df(x), т. е. правой частью приведенного выше
включения (которая уже замкнута, поскольку df(x) слабо* компактное
множество, не содержащее 0). Так как переход к двойственным
конусам меняет знак включения на обратный, то из (5) сразу
следует искомый результат.
Следствие 2. Пусть
С= {уеХ: U (у) <0, /2 (у) <0,..., fn (у) <0}
и точка х такова, что /<(*) =0 (i= 1, ..., п). Тогда, если каждая ft
строго дифференцируема в х и если D8f{(x) (i=l,..., п) положи-
тельно линейно независимы, множество С регулярно в х и
Nc(x)= J2 bPJ&x): h>0, i= 1, ...,
Доказательство. Определим
!(у)=тгх{и(у): i=l9...,n].
Тогда по предложениям 2.3.6, а) и 2.3.12 / — липшицевая в
окрестности х и регулярная в х функция. Имеем С={у: /(у)<0} и f(x)=0,
так что С регулярно в х и в формуле следствия 1 имеет место
равенство. По предложению 2.3.12 df(x) является выпуклой
оболочкой п точек D8fi(x), что и приводит к искомой формуле для Nc(x).
Гиперкасательные. Вектор v^X называется гиперкасательной
к множеству С в точке jceC, если для некоторого е>0
y+tw^C для всех у^(х+гВ)[)С, w^v + гВ, *е(0, е).
Очевидно, что любая гиперкасательная к С в х содержится в
Тс(х). Однако возможны ситуации, когда гиперкасательные
вообще не существуют.
2.4.8. Теорема (Рокафеллар). Пусть существует хотя бы одна
гиперкасательная к С в х. Тогда множество всех гиперкасательных
совпадает с Тс {х).
Доказательство [192]. Обозначим через К множество
всех гиперкасательных векторов. Легко видеть, что К — открытое
множество, содержащее все произведения своих элементов на
положительные числа, и КаТс(х). Поэтому достаточно показать, что
int Тс(х)аК. Это включение имеет место, если
К+Тс(х)сК. (6)
Действительно, если выполняется (6) и v^mtTc(x)t то для
любого ше/С существует А,>0 такое, что v—Xwt=int Тс(х). Поскольку
Хше/С и kw+(v—iw)=v, из (6) получаем i>e/C. Докажем
включение (6).
59

Пусть v^K и v2^Tc(x). Чтобы доказать (6), нужно проверить,
что vt+v2^K, т. е. что существует такое е>0, что для всех *е(0, е)
Cr)(x+eB)+t(vi+v2+eB)aC. (7)
Так как v^K, существует такое 8i>0, что для всех /е(0, е4)
СП (*+8iB)+/(1^+8^)01 С. (8)
Поскольку у2еГс(х), из теоремы 2.4.5 следует существование
такого е2, что для всех /е (0, е2)
СП(*+в,В)+/0,с:С+/(в1/2)Д. (9)
Пусть e<min{e2, 8i/2, ei/(l+ei + llt>ili}; покажем, что для такого 8
выполняется (7). Выберем произвольный элемент v из левой
части (7). Тогда v=y+t(vi + v2+eu), где y^Cf)(x+eB) и иеВ.
Учитывая, что е<е2, из (9) получаем y+tv2—telw/2^C для некоторого
вектора w9 норма которого не превышает 1. Вектор y+t(v2—EiW/2)
содержится также в x+EiB:
|х—f/—^(у2—е4ш/2) l^e + edl^H + ei) <et.
Следовательно, y+t(v2—Е1ш/2)^СГ](х+г{В) и, принимая во
внимание (8), получаем
y+t(V2—EiWffl+lVi + tEiBczC. (10)
Если теперь записать v в виде
1>=#+/(02—егиу/2) +^1 + *(еи + е1ау/2)
и учесть, что |8a+e1o;/2|<e + 81/2<8i, то из (10) следует, что
0<=С.
Следствие. Пусть х^С и существует гиперкасательная к
С в х. Тогда многозначное отображение Nc замкнуто в х, г. е. если
li^Nc(Xi) и Er-Ч; (слабо*), Хс+х, то £<=ЛГс(х).
Доказательство. Рассмотрим любую гиперкасательную v
к С в х. Нетрудно получить, что v^Tc(y) для всех j/еС, близких
к х, поэтому <£, v)= lim <£,, у)<0. Поскольку множество int Тс(х),
как доказано в теореме, состоит из гиперкасательных, то для всех
ueint Т(х)
Но Тс(х) является выпуклым множеством с непустой
внутренностью; поэтому Тс(х) совпадает с замыканием своей
внутренности. Отсюда <£, и)<0 для всех иеГс(^), т. е. £eJVc(jt).
Надграфики и нелипшицевые функции. Как было показано,
функция расстояния dc служит своеобразным звеном,
соединяющим аналитическую теорию обобщенных градиентов и
геометрическую теорию этого параграфа. Другую взаимосвязь можно
установить, используя понятие надграфика. Надграфиком функции
/: X-^R называется следующее подмножество XxR:
epi/:={(*,r)e=*XR: f(x)<r].
60

Очевидно, что epi / содержит всю информацию о функции /.
Приведенная ниже теорема подтверждает, что понятия касательной и
обобщенной производной по направлению тесно связаны. (Заметим,
что учитывается только локальная структура epi / в окрестности
точки (х,/(*)•)
2.4.9. Теорема. Пусть /— липшицевая в окрестности х
функция. Тогда:
a) надграфик функции f°(x; •) совпадает с TevU(x,f(x))y т. е.
(v, г)еГер, f(x, f)x)) тогда и только тогда, когда r^f°(x; v);
b) / регулярна в х тогда и только тогда, когда epi / регулярно в
Доказательство. Предположим, что (и, г)гГеР1/(х, /(*)).
Выберем такие последовательности ус+х, МО, что
1Im'ft + W-W _/.(,; 0). (П)
Очевидно, что последовательность (у{, f(у{)), содержащаяся в epi/,
сходится к (х, /(*)). Поэтому по теореме 2.4.5 существует
последовательность (у,,г<), сходящаяся к (i>,г), для которой (*/<,/(#*)) +
+ti(vu r<)eepi/. Таким образом, fiyd+tfi^fiyi+UVi). Это можно
переписать в виде
ftet + tPt)-H»t) ^
% <Г|-
Переходя к пределу и используя (11), получаем f°(x; v)^.r, т. е.
(и, г)eepi /°(х; •)• Теперь достаточно показать, что для любого v
и любого 6^0 точка (и, /°(х; t;)+6) лежит в Tevlf(x, /(*)). Пусть
(xf, rt) —произвольная последовательность, сходящаяся к (лс, /(*)),
Найдем такую последовательность (yt, s<), сходящуюся к
;)+в), что (хи /*<)+/< (и*, s^ содержится в epi/ для
каждого i, т. е.
г«+*А>/(*«+'л). (12)
Определим v{=v и
S; = maxj/°(A:; у) + б,—-
Заметим, что Sr+f°(x, v) + 6, так как
и tAO. На
'*
lim sup — — < /° (х; v).
Для завершения доказательства утверждения а) остается
проверить (12). Имеем
г«+*А>г,+ [/(^+/,0)— /(*,) ]
и г^1(хА) (ибо (хь r<)eepi/), т. е. доказано (12).
Обратимся теперь к утверждению Ь). Пусть / — регулярная в х
функция. Определим функцию g: XXR-+R:
g(x\r)=f(x')-r,
61

и заметим, что g регулярна в (jc, f(x)) и epif совпадает с
множеством {(*', г): g(x', г)<0}. Очевидно, что 0&dg(x, f(x))=df(x)X
Х{—1}, поэтому из теоремы 2.4.7 следует регулярность epif в
Чтобы завершить доказательство, понадобится следующий
результат. Пусть /+ обозначает производную Дини
f+ (х; v) = hm inf 'y ^ l—*-^- .
t\o t
Лемма. Имеет место следующее равенство:
Kepu(xJ(x)) = epifl(x; •).
Опущенное здесь доказательство следует схеме доказательства
п. а) в теореме 2.4.9.
Теперь предполагаем, что epif регулярно в (х, f(x)). Тогда,
принимая во внимание лемму и п. а) теоремы, получаем
epi/+(x; .) = epi/°(x; .),
что и означает равенство f'(x; v)=f°(x; v) для всех v. Отсюда
следует, что f'(x; v) существует и совпадает с f°(x; v)9 т. е. / —
регулярная в х функция.
Следствие. Элемент %^Х* содержится в df(x) тогда, и толь-
ко тогда, когда (£, — 1) содержится в NevU(x, f(x)).
Доказательство. Известно, что i^df(x) тогда, и только
тогда, когда для любого v r(x\v)>(%yv) или, что равносильно,
если для любых r^f°(x; v)
«С.-1),(0,г)><О.
Согласно теореме это условие эквивалентно тому, что последнее
неравенство выполняется для всех элементов (у, r)^Tepl f(x, /(*)),
т.е. (С,-1)еАГ.р| ,(*,/(*)).
Обобщенное определение. Приведенное выше следствие
(которое в случае гладкой функции /: R->R означает, что вектор
(/'(*)»—О совпадает с нормалью к графику функции) порождает
желание определить для любой функции /, локально липшицевой
или нет, д)(х) как множество всех таких точек £, что (£, —1)е
^#еР1/(*, f(x)). (При этом следствие гарантировало бы, что новое
определение совпадает с прежним для липшицевых функций.)
Тогда стало бы возможным определить df(x) для функций,
принимающих значения из R(J{±°o}, предполагая только, что f конечна
в х. Подобным же образом на случай таких функций можно было
бы перенести и понятие регулярности. Перейдем к выполнению этой
программы.
2.4.10. Определение. Пусть функция /: X->R(J{±°°}
принимает конечное значение в точке х. Множество df(x)
определяется как множество всех таких £б=Х*, для которых (£, —1)е
&Ntpif(xy f(x)). Говорят, что f регулярна в х, если epif регулярно
в (*, f(x)).
62

Из определения следует, что df(x) — слабо* замкнутое
подмножество X*, которое может быть пустым (но, конечно, не в случае
локально липшицевой функции /) и не быть компактным.
Оказывается, что df(x) всегда непусто, если х — точка локального
минимума функции /.
2.4.11. Предложение. Пусть функция f: X-+R\J{±oo}
конечна в х и для всех х' из окрестности х f(x')>f(x). Тогда 0^df(x).
Доказательство. Следует показать, что вектор (0, — 1)е
^ЛГвР1/(*, / (х)), а это эквивалентно тому, что < (0,-1), (и,г)><0для
всех (v9r)^T9vU(x9f(x)) или, другими словами, что г>0 для всех
таких (и, г). Но для любой пары (и, r)erepi(x, f(x)) и любой
последовательности ti\0 найдется последовательность (vitri)->(v, г)
такая, что (*, f(x)) +U(vu r,)eepi f. Тогда f{x)+tiri>f(x+tivi)>
>f(x) для всех достаточно больших i, так что Ъг{>0. Отсюда
следует, что lim г( = г ^ 0.
i
Индикаторные функции. Индикаторной функцией множества
СаХ называется функция if: X-*R(J{±c©}:
. , ч f 0, XEC,
I+ oof x&C.
Приведем еще одно подтверждение связи между введенными
аналитическими и геометрическими понятиями.
2.4.12. Предложение. Пусть х содержится в С. Тогда
dic(x)=Nc(x)
и функция -фс регулярна в х тогда, и только тогда, когда множество
С регулярно в х.
Доказательство. По определению включение £€дфс(*)
эквивалентно включению (£, —1) eNepi *с (*, 0). Очевидно, что
epi\t>c=Cx [0, оо), так что по следствию теоремы 2.4.5 последнее
включение эквивалентно
t<=Nc(x), —l6=tfie.->(0).
Второе из этих включений выполняется всегда (предложение 2.4.4),
поэтому равенство доказано. Утверждение о регулярности легко
выводится из определения.
§ 2.5. Случай конечномерного пространства X
В этом параграфе будут изучены дополнительные свойства,
которыми обладают обобщенные градиенты, нормали и касательные
в случае X=Rn. В этом случае, как обычно, пространство X*
отождествляется с X, поэтому можно считать, что df(x) есть
подмножество Rn. Наиболее важный результат содержится в теореме 2.5.1
о представлении df(x). Он существенно облегчает вычисление df
в конечномерных пространствах. Напомним теорему Радемахера,
которая утверждает, что функция, удовлетворяющая условию Лип-
63

шица на открытом подмножестве Rn, дифференцируема почти
всюду (п. в.) (в смысле меры Лебега) на этом множестве. Обозначим
множество точек, в которых заданная функция / не
дифференцируема, через Q/.
2.5.1. Теорема. Пусть f — липшицевая в окрестности х
функция и S — произвольное множество лебеговой меры О в Rn. Тогда
df(x)=co{limVf(Xi): Xr+x, x&S, x{g=Qf}. (1)
(Смысл равенства (1) состоит в следующем: рассмотрим
произвольную последовательность хи сходящуюся к ху не содержащуюся
в 5 и в множестве точек недифференцируемости функции / и та*
кую, что последовательность V/(jct) сходится; тогда выпуклая
оболочка всех таких пределов и есть df(x).)
Доказательство. Во-первых, отметим, что существует
«много» последовательностей хи сходящихся к х и не
принадлежащих множеству S|JQ/, поскольку последнее имеет меру 0 в
окрестности х. Далее, поскольку df локально ограничено в окрестности х
(предложение 2.1.2) и V/<(x)ed/(jtt) для каждого i (предложение
2.2.2), по теореме Больцано — Вейерштрасса для
последовательности {Vf(Xi)} найдется сходящая подпоследовательность. Предел
любой такой последовательности должен содержаться в df{x) по
свойству замкнутости многозначного отображения д/, доказанному
в предложении 2.1.5, Ь). Отсюда следует, что множество
{limV/(*..): xc-»xt x&S\JQ,}
содержится в df(x), непусто, ограничено, замкнуто и, значит,
компактно. В силу выпуклости df(x) получаем, что левая часть
соотношения (1) содержит правую. Выпуклая оболочка компактного
множества в Rn есть компакт, поэтому для завершения
доказательства нужно только доказать, что опорная функция левой части (1)
(т. е. }0(х{)) не больше опорной функции правой части.
Лемма. Для любых v¥=Q из Rn и е>0 имеем
f°(x;v)—e<\imsup{Vf(y)v: у-+х, y&SlJQj}.
Доказательство. Обозначим через а правую часть
неравенства. По определению существует такое 6>0, что условия
*/€=*+8S, y&S\JQ<
означают, что Vf(y)v<a+e. Выберем б таким малым, чтобы
множество S(JQ/ имело нулевую меру в х+бВ. Теперь рассмотрим
линейный интервал Lj=*{y+tv: 0</<6/2|i>[). Из теоремы Фубини с
учетом нулевой меры множества (S(J^/)M(*+8£) получаем, что
для почти всех у^Х+(6/2)В лебегова мера множества точек
пересечения интервала Lv с множеством S\JQf (т. е. множества точек
/е(0, 6/2|г|), для которых y+tv^S{JQf) равна нулю. Пусть у —
произвольная точка из х+ (6/2)5, обладающая таким свойством,
и пусть /€= (0, 6/21 v |). Тогда
f(y + tv)-f(y) = ^f(y + sv).vds.
о
64

поскольку Df существует почти всюду на L„. Так как \y+sv—х\ <б
для 0,<5</, отсюда видно, что Vf(y+sv) -а^Га+е, а значит,
f (У+ tv)-Hy)<t (* + *).
Это справедливо для всех (/е=дс+(6/2)В, за исключением
некоторого множества нулевой меры, и для всех /е(0, 6/2\v\).
Используя непрерывность /, получаем, что неравенство справедливо для
всех у из указанного множества и всех /е(0, 6/2|t;|), поэтому
/•(х;и)<а+е,
что и требовалось доказать.
Следствие. Имеет место равенство
fO(x;v) = limsup{Vf(y)v: */6£S(J^}.
у-+х
2.5.2. Пример. Применим теорему для того, чтобы вычислить
5/(0, 0), где /: R2->R задается выражением
f(x, у) =max{min[*, — у], у—х}.
Определим
Ci={(x, у): у^2х и у^—х}9
Сг={(х,у): у^х/2 и у>—х}9
С,= {(*, у): у^2х и у^х/2}.
Тогда C1UC2(JCS=R2 и
( х, (х,йеСь
/(*,*,)= _Л (x,y)sClt
U—*, (*ty)eCa.
Заметим, что границы множеств С4, С2, С3 образуют множество S
нулевой меры и если (*, y)&S, то / дифференцируема, причем
Vf(x>y) совпадает с одним из трех векторов (1,0), (0,—1) или
(—1,1). Из теоремы 2.5.1 следует, что дДО, 0) является выпуклой
оболочкой этих трех векторов.
Очевидно, что /(0, j/)=max{0, у}, поэтому д„/(0, 0) совпадает с
отрезком [0, 1]. Аналогично д*/(0, 0) совпадает с отрезком
[—1,0]. Таким образом, в этом примере
<У(0, 0)Х<У(0, 0)<£<Э/(0, 0)<£dj(0, 0)XdJ(09 0).
Из предложения 2.3.15 видно, что если / регулярна, то для двух
последних членов этого выражения имеет место включение.
Приведем еще один подобный результат.
2.5.3. Предложение. Пусть f: RnxR*l->R — липшицевая на
выпуклой окрестности UxV тонки х=(а, (J) функция и для
каждого о! вблизи а функция /(а', •) выпукла на V. Тогда если (г, w)
содержится в df(x), то w содержится в d2f(a, ji).
Доказательство. Ввиду теоремы 2.5.1 достаточно
доказать это утверждение для точек (г, w) вида lim V/(x<), где х{=
^(а*» ft)~**» XitfiQf, так как оно будет выполняться для выпуклых
3 Ф. Кларк 65

комбинаций этих точек и, значит, для df(x). Пусть V/(*,) = (z,, а\);
тогда по предложению 2.2.2 о^д2/(а*, р<), так что по
предложению 2.2.7 Wi есть субградиент выпуклой функции /(а*, •) на V.
Таким образом, для всех достаточно малых t;eRn и всех больших i
f(ai^i+v)—f(ai^i)>v-wi.
Переходя к пределу, получаем
f{a,$ + v) — /(a, $)^v-w.
Это означает, что fl(a>$;v)>v-w для всех v, т. е. доед2/(а, (J).
Функция евклидова расстояния. Пусть С — произвольное
непустое подмножество Rn. Можно использовать теорему 2.5.1 также
для того, чтобы охарактеризовать обобщенный градиент функции
расстояния dc, соответствующей обычной евклидовой норме в Rn,
dc(x)=inl{\x—с\: п=С},
(п у/л
где \х—с|= |2 Iх'-с*\2\ • (Символ |-| используется для
обозначения этой нормы в Rn.) Напомним, что в предложении 2.4.1
было показано, что dc—липшицевая функция с постоянной 1.
2.5.4. Предложение. Пусть для точки х существует Vdc{x)9
отличный от нуля. Тогда лг^ЁсТ С, найдется единственная
ближайшая к х точка c0ecl С и Vdc(x) = (x—с0)/\х—с0\.
Доказательство. Если х лежит в С, то для любого ueRn
17л / ч I- dc(x + tv)-dc(x) dc(x + tv)
v-Vdc(x) = hm—- - = hm — >0,
t\o t tio t
следовательно, Vtfc(*)=0, что противоречит предположению. Итак,
*§Ёс1 С и существует по крайней мере одна ближайшая к х точка
c0ecl С (т. е. такая точка c0^cl С, что dc(x0) = \x—с0|). Покажем,
что Vcd(x) = (х—с0)/|х—с0\, откуда будет следовать единственность
ближайшей точки с0.
Для *е(0,1) ближайшей к x+t(c0—х) точкой из cl С
по-прежнему остается с0\ следовательно,
dc(x+t{c0—x)) = (l—t)\x—c0\.
Вычитая dc(x) = \x—с0| из обеих частей равенства, разделив на t и
переходя к пределу при /|0, получаем
dc (*; с0—х) = Vdc (х) (с0—х) =— | с0—х \.
Теперь, поскольку dc удовлетворяет условию Липшица с
постоянной 1, то |Vdc(*)|<l> так что последнее уравнение означает, что
V€d(x) = (x—с0)/\х—с0|. (Именно здесь используется специфика
евклидовой нормы | • |.) Предложение доказано.
Назовем ненулевой вектор v перпендикуляром к множеству С
в точке л:ес1 С (символически v±C в х), если v=x'—х, где xf имеет
единственную ближайшую точку х из cl С. Следующее свойство
перпендикуляров окажется полезным.
66

2.5.5. Предложение. Пусть v — перпендикуляр к С в х. Тог-
да для всех cecl С
(v,c—x)<\x—c\2/2.
Доказательство. По определению для всех cecl С
\х'-с\^\х?-х1
где v=x*—х. Это эквивалентно
<*'—с, х'—с)>(х'—ху х'—х).
Чтобы получить искомое неравенство, достаточно заменить х'—с на
v+ (х—с), a jt7—х на v и привести подобные члены.
2.5.6. Теорема. Пусть х содержится в cl С. Тогда ddc(x) рае-
но выпуклой оболочке объединения нулевого вектора и множества
v- \
v= lim --*-: Vc±_C в Xi-+x, ty-*Ol .
Kl J
Доказательство. Если градиент функции dc существует,
то он равен или 0 или единичному вектору, описанному в
предложении 2.5.4 (т. е. нормированному перпендикуляру). Из теоремы 2.5.1
непосредственно вытекает, что ddc(x) содержится в указанном
выше множестве. Чтобы доказать обратное включение, покажем,
во-первых, что 0^ddc(x). Это следует из предложения 2.3.2,
поскольку dc достигает (глобального) минимума в х. Наконец, нужно
показать, что любой вектор v = lim и</|&<|, описанный выше, со-
i
держится в ddc(x). Пусть и<=*л—х{ по определению
перпендикуляра. По теореме о среднем значении
dc (Уд — dc (xi) е (ddc (х*)9 ус — xt)
для некоторой точки х] из (хи ух). Но dc(*<)=0 и dc (у г) = | ух—х{ |,
так что
\ \Vt — *t\/
Так как |ddc|<l, то отсюда Vi/\Vi\^ddc(x*). Переходя к пределу
и учитывая, что **->-*, по предложению 2.1.5 получаем v^ddc(x).
Следствие 1. Если х лежит на границе cl С, то ddc(х)
содержит ненулевой вектор.
Доказательство. Если х лежит на границе cl С, то для
любого е>0 множество точек из е-окрестности х> не
принадлежащих cl С, имеет положительную меру. Следовательно, любое такое
множество содержит точки у, в которых существует градиент
Vcd(y), равный v/\v\ для некоторого перпендикуляра v. Устремив
у к х (т. е. полагая е|0), получим последовательность единичных
векторов, для которой любая предельная точка содержится в ddc(x).
Следствие 2. Если х лежит на границе cl С, то Nc(х)
содержит ненулевой вектор.
з* 67

Для доказательства следует использовать предложение 2.4.2 и
следствие 1.
Характеризация нормалей. Приведенная ниже характеризация
векторов, нормальных к множеству из Rn, полезна при проведении
конкретных вычислений, она является геометрическим аналогом
теоремы 2.5.1.
2.5.7. Предложение. Пусть х содержится в cl С. Тогда Nc(x)
есть замкнутое выпуклое множество, порожденное нулем и
множеством
vi )
t; = lim-—- : ^_LC в Xi->x, Vi-+0\.
КI J
Предложение 2.4.2 утверждает, что Nc(x) —замкнутый
выпуклый конус, порождаемый ddc(x). Результат следует из
теоремы 2.5.6.
Внутренность касательного конуса.
2.5.7. Теорема. Если х содержится в замкнутом множестве
Cc=Rn, то ueint Тс(х) тогда и только тогда, когда существует та-
кое е>0, что
dc(y+tw)^dc(y) для всех у^х+гВ, w^v+eB, /е[0, е). (2)
Доказательство. Предположим сначала, что v
удовлетворяет (2) для некоторого е>0. Покажем, что любое шеу + еВ
содержится в Тс(х) (следовательно, ueint Тс(х)). Для этого
используем представление Тс(х), данное теоремой 2.4.5. Пусть х{ —
последовательность точек из С, сходящаяся к х, /,|0 при i-*~oo. Тогда
согласно (2) dc{Xi+t{w)<0 для всех достаточно больших /, т. е.
Xt+ttweC для таких L Тем самым доказано, что w^Tc(x).
Чтобы доказать необходимость условия (2), зафиксируем v из
int Тс (х). Отсюда следует, что v-z<0 для каждого ненулевого
z^Nc(x)> ибо если v*z=0, то любая окрестность v содержит точки
wy для которых z-w>09 что противоречит условию Тс(х) 2^0.
Итак, можно полагать, что найдется такое &>0, что и-2<—k\z\
для всех z^Nc(x). С учетом предложения 2.4.2 это условие можно
записать в виде
v-z<— k\z\ для всех z^ddc(x). (3)
Напомним, что если для точки у существует ненулевой градиент
Vdc(y), то по предложению 2.5.4 он является единичным вектором
и ddc(x) состоит из всевозможных пределов таких градиентов при
у-+х (каждый такой предел является единичным вектором). В
свете этого замечания из (3) следует, что для некоторого 6>0
v-Vdc(y)^:0 для всех у^х+8В, (4)
если только градиент Vcd(y) существует и отличен от нуля.
Впрочем, неравенство также справедливо, если Vdc(t/)=0.
Теперь выберем такое е>0, что y+tw содержится в х+8В
всякий раз, когда у^х+гВ, адеин-еЯ, /е(0, г).
68

Зафиксируем любое такое w и заметим, что по теореме Фубини
для почти всех у^х+гВ множество *е(0, е), для которых функция
dc недифференцируема в точке y+twy имеет меру 0 (поскольку
множество точек недифференцируемости dc имеет меру 0 в R").
Для любых таких у и любых te (0, е)
dc(y + tw) = dc(y)+ ^ Vdc(y + sw) - wds.
о
Согласно (4) подынтегральное выражение неположительно,
поэтому dc(y+(w)<dc(y) для почти всех у^х+гВ. Функция dc
непрерывна, значит, (2) выполняется для всех у^х+еВ.
Следствие 1 (Рокафеллар). Когда С является замкнутым
подмножеством Rn, множество гиперкасательных к С в х совпадает
с int Тс(х).
Получаем из теоремы, что v есть гиперкасательная, если
v^intTc(x) и j/gCb (2).
Обратное утверждение следует из теоремы 2.4.8.
Следствие 2 (Рокафеллар). Пусть С — замкнутое
подмножество R", содержащее х> и int Тс (х) ¥*0. Тогда многозначное ото-
бражение Nc замкнуто в х, т. е. Хс+х, %{^Ыс(х{), £»—Ч; означает,
что l^Nc(x).
Для доказательства применяем следствие 1 и следствие
теоремы 2.4.8.
§ 2.6. Обобщенные якобианы
Рассмотрим теперь вектор-функции F: Rn-*Rm, которые
записываются в виде Р(х) = [1*(х),р(х),... ,fm(x)]. Предполагается, что
каждая из функций /' (а значит, и F) удовлетворяет условию
Липшица в окрестности данной точки х. Как и прежде, теорема Руде-
махера утверждает, что F дифференцируема (т. е. каждая /'
дифференцируема) почти всюду (п. в.) в окрестности точки jc, на
которой F — липшицевая функция. Будем по-прежнему обозначать
множество точек, в которых F недифференцируема, через QF.
Обозначим через JF(y) обычную тхя-матрицу Якоби вектор-функции
/\ если в точке у существуют все необходимые частные
производные.
2.6.1. Определение. Обобщенным якобианом
вектор-функции F в х, обозначаемым dF(x), называется выпуклая оболочка
всех тХл-матриц Z, получаемых как пределы последовательностей
вида JF(Xi), где Хс+х, x{^EQf:
dF(х) =co{lim JF(Xi): Xr+xy jcf^QF}.
Конечно же, не существует проблем с нахождением выпуклой
комбинации в пространстве RmXn матриц размера тХп. Мы
снабдим это пространство нормой
l£l J
69

где т{ есть i-я строка матрицы М. Открытый единичный шар в RwXn
обозначим Втхп- Перечислим некоторые свойства dF.
2.6.2. Предложение. Справедливы следующие утверждения:
a) dF — непустое выпуклое компактное множество в RmXn;
b) многозначное отображение dF замкнуто в х, т. е. если х{-+х,
ZiEEdFiXi), Zr+Z, то Ze=dF(x);
c) dF полунепрерывно сверху в х: для любого е>0 найдется
такое 6>0, что для всех у^х+8В
dF(y)czdF(x)+eBmXn;
d) если каждая компонента /' удовлетворяет условию Липшица
с постоянной Ki в окрестности х, то F удовлетворяет условию
Липшица с постоянной /С= | (/Ci, Кг,..., Km) | в окрестности х и dF(x) cz
CZKBmXn'i
e) dF(x)czdfi(x) Xdf2(x) X.. .Хд/т(Л')» где последнее выражение
обозначает множество всех матриц, i-я строка которой принадлежит
df*(x) для каждого i; если т=1, то dF(x)=dfl(x) (г. е. обобщенный
градиент и обобщенный якобиан совпадают).
2.6.3. Замечание. Теперь следует напомнить, что в
действительности df(x) не есть подмножество Rn, как это полагалось до
сих пор в случае /: Rn->R. Чтобы быть согласованным с
обобщенным якобианом, обобщенный градиент df должен состоять из 1Хя-
матриц (т. е. вектор-строк). С другой стороны, традиционное
соглашение о том, что линейные отображения из Rn в Rm вида F(x)=Ax
задаются матричным умножением /лХя-матрицы, стоящей слева,
заставляет смотреть на Rw как на пространство nxl-матриц (т. е.
вектор-столбцов), при этом dF(x) = {A]. Это различие
несущественно при т=1, но следует его учитывать, например, при получении
некоторых правил дифференцирования сложных функций.
Доказательство. Утверждения а) и d) достаточно
очевидны, причем доказательство а) аналогично первой половине
доказательства теоремы 2.5.1. Также очевидно, что утверждение Ь)
следует из с). Для того чтобы доказать с), предположим противное:
для данного е не существует соответствующего 6. Тогда (поскольку
правая часть есть выпуклое множество) для каждого натурального
i найдется такой элемент /F({/f), что у^х+ (l/i)B и JF(yt)^
t£dF(x) -feflmxn. В силу локальной ограниченности dF можно
предположить, что JF(yi) сходится к элементу Z. По определению Ze
^dF(x), что и приводит к противоречию.
Утверждение е) есть прямое следствие определения dF и
теоремы 2.5.1.
При сравнении формулировки теоремы 2.5.1 и определения
обобщенного якобиана возникает естественный вопрос о значении
множества S, фигурирующего в формулировке теоремы 2.5.1.
Действительно, хотя, как доказывается в теореме 2.5.1, обобщенный
градиент «не зависит» от множеств нулевой меры, не известно, верно
ли это для обобщенного якобиана (при т>1). Можно
предположить (хотя мы сомневаемся в этом), что, дополнив определение
обобщенного якобиана условием, что точки х{ должны лежать вне
70

множества нулевой меры S, мы получим другой обобщенный
якобиан d8F. Вопрос о независимости обобщенного якобиана от
множества S еще не решен *).
В большинстве приложений рассматриваются только образы
векторов при линейных отображениях, задаваемых матрицами из
обобщенного якобиана. Ниже доказывается, что с этой точки
зрения упомянутая неясность зависимости обобщенного якобиана от
S несущественна.
2.6.4. Предложение. Для любых ueR", oigR"1
dF (х) v=d8F (х) v, dF (х) *w=d8F (x) *w,
где множество dF(x)* состоит из всех транспонированных матриц
Z\aZ€=dF(x)
Доказательство. Докажем первое равенство, второе
доказывается аналогично. Поскольку оба рассматриваемых множества
выпуклы и компактны и dF содержит d8Fy достаточно показать, что
для любой точки MeRw значение а4 опорной функции множества
dF(x)v, вычисленное в и, не превосходит соответствующего
значения а2 для d8F(x)v. Имеем
o1=limsup{<u,/F(t/)t;>: y-+x,y&QF} =
=lim sup {(JF(yYu, i>>: y-+x, y&QF}.
Определим функцию g(y)=u-F(y). Напомним, что согласно
замечанию 2.6.3 градиент Vg, если он существует, является вектор-
строкой. Для уф£1г имеем Vg(y)*=JF(y)*u, так что
ai^\imsup{Vg(y)v: у-+х, yqEQF}=g°(x; 0)1=
(по следствию теоремы 2.5.1)
=limsup{Vg(y)v: y-+xyy&S\JQF} =
=limsup{<H,/F(f/)i;>: y^x,y<£S{JQF},
что в точности совпадает с о2.
Следующее утверждение является обобщением теоремы о
среднем значении для вектор-функций. Заметим, что вследствие
предложения 2.6.4 правая часть приведенного ниже включения не
зависит от множеств нулевой меры при вычислении dF.
2.6.5. Предложение. Пусть F — липигицевая на открытом
выпуклом множестве UaU" вектор-функция, ахи у —
произвольные точки из U. Тогда F(y)—F(x)^codF([x9 у])(у—х).
(Выше правая часть обозначает выпуклую оболочку всех точек
вида Z(y—х), где Z^dF(u) для некоторого ие[*,у].) Поскольку
[соdF(\х9уу]) (у—x)=co[dF([x,y])(y—х)], то правая часть
приведенного в предположении включения определена однозначно.
Доказательство. Зафиксируем х\ теперь достаточно
доказать включение для точек у, для которых пересечение отрезка [*, у]
с множеством QP имеет нулевую лебегову меру размерности 1.
Ранее было показано, что почти все у удовлетворяют этому условию,
*) Варга показал, что обобщенный якобиан не зависит от множества S: см.:
J. Math. Anal. Appl., 81 (1981), 545—560.
71

поэтому случай произвольного у доказывается при помощи
соответствующего предельного перехода с использованием
непрерывности F и полунепрерывности сверху dF.
Для указанных у можно выписать следующее равенство:
F(y)-F(x)= $JF(x + t(y-x))(y-x)dt,
о
откуда прямо следует, что F(y)—F(x) представляется в виде
(непрерывной) выпуклой комбинации точек из dF([x,y])(y—х).
2.6.6. Теорема (правило дифференцирования сложной
функции) . Пусть f=g<>F, где F: Rn-^RW — липшицевая вблизи х функция,
a g: Rm->R— липшицевая вблизи F(x) функция. Тогда f тоже
удовлетворяет условию Липшица вблизи х и
df(x)czco{dg(F{x))dF(x)}. (1)
Если, кроме того, g строго дифференцируема в F(x), то в (1)
имеет место равенство (при этом, операция со становится лишней).
Доказательство. Легко проверяется, что функция /
удовлетворяет условию Липшица в окрестности х.
Правая часть (1) обозначает выпуклую оболочку всех вектор-
строк вида £Z, где £edg(f (х)) и Z^dF(x). (Напомним, что £ —
lXm-вектор-строка, Z— матрица.) Покажем, что для любого yeRn
найдется такой элемент £„Z0, что (t>0Z0)v>f°(x; v). Отсюда будет
следовать включение (1), так как /0(дс; v) —опорная функция df(x).
(Заметим, что правая часть (1)—замкнутое множество.)
Пусть у лежит в окрестности х\ тогда по теореме 2.3.7 о среднем
значении выражение вида [f(y+tv)—f(y)]/t можно записать как
t>(F(y+tv)—F(y))/ty где t,^dg(u) для некоторого и из отрезка
lF{y),F(y+tv)].
В свою очередь согласно предложению 2.6.5 (F(y + tv)—F(y))/t
равно элементу w^codF([y,y+tv])v, так что существует элемент
Z^dF([y, y + tv]), для которого £o;<;£(Z0). Учитывая все это,
получаем, что
^±JELzM<(CZ)if. (2)
Теперь выберем последовательности уг+х, /,|0» Для которых
левая часть неравенства (2) сходится к f(x\ v). При этом щ сходится
к F(x), а отрезок [уи yi+Uv] сходится к х. Переходя, если это
необходимо, к подпоследовательностям, можно считать, что £,—Ч;0 и
Zr-^Zo, причем по предложению 2.6.2 t)0^dg(F(x)) и Z0^dF(x).
Отсюда и из (2) получаем
f*(x\v)<t0Zov,
что и требовалось доказать.
Теперь предположим, что g строго дифференцируема в F(x) и
пусть D8g(F(x))=t>. Докажем следующий вспомогательный
результат.
72

Лемма. Для любого е>0 такого, что функция F
удовлетворяет условию Липшица на х+гВу найдется такое 6>0, что для всех
y££Qf\JQF9 у^х+8В имеет место включение
Vf(y)eEtdF(y)+EB.
Доказательство. Выберем такое малое бе(0, е), что для
всех t/ejc+бВ функции Fug удовлетворяют условию Липшица
соответственно в окрестностях у и F(y) и при этом dg(F(y))cz.£ +
+ (е/К)В, где К — постоянная Липшица функции F на х+еВ. Это
можно сделать, так как dg(F(x)) = {t}. Покажем, что V/(y)e
^dg(F(y))JF(y)9 если t/ex+бВ, y&Qf\JQF. В самом деле, для
любого вектора v
Vf(y)v = lm ш<ГЬ + »»-1(Г<Л) -цш6, i'Cr+W-FW
t\Q t t\0 t
где £f€dg(ftt) и UtS[F(jf), F(f+fo)] по теореме о среднем
значении.
Отсюда, выбирая сходящуюся подпоследовательность £,,
вследствие дифференцируемости fey получаем, что
Поскольку v — произвольный вектор, a dg(F(y))JF(y) —выпуклое
множество, то отсюда следует искомое включение.
Теперь для любого у^х+ЬВ, y^EQf\JQF имеем
^f(y)^dg(F(y))JF(y)(z{l + j>jJF(y)cztJF(y) + tB.
Лемма доказана.
Рассмотрим теперь величину
<7=max £dF(x)v,
где v — произвольный вектор из Rn. По определению, учитывая
лемму, имеем
<7=limsup{IJF(у)v: y-+xyy<£QF}>
>lim sup{IJF(y)v: y-+x, y^EQf[JQF} =
=lim sup {Vf(y)v: y->x, y&Qfl)Qp}.
Последний член согласно следствию теоремы 2.5.1 равен f°(x\v).
Таким образом, опорные функции множеств в (1), а значит, и сами
множества совпадают.
Следствие. Пусть F: Rn->RW — липшицевая вблизи х
функция, a G: RW-*R* — липшицевая вблизи F(x) функция. Тогда для
любого i>eRn выполняется включение
d(GoF) (x)vczco{dG(F(x))dF(x)v).
Если G непрерывно дифференцируема вблизи F(x), то вместо
включения имеет место равенство, при этом операция со становится
лишней.
73

Доказательство. Пусть а — произвольный вектор из R\
Тогда
a d(GoF) (x)v=d(a*[GoF]) (x)va
(применяя теорему с F=GoF, g(y)=ay)
ссо {д (aG) (F (x)) dF (x) v} =
(применяя теорему с F=F, g=a*G)
=со {adG (F (x)) dF (x) v) =cc*co {dG(F(x))F (x) v).
Вследствие произвольности a получаем искомое включение.
Если функция G непрерывно дифференцируема, то, как следует
из определения, d(GoF)(x)zDDG(F(x))dF(x)9 поскольку QGoPaQF.
Поэтому в приведенном соотношении имеет место равенство.
§ 2.7. Обобщенные градиенты интегральных функционалов
В § 2.3 изучались обобщенные градиенты конечных сумм
функций. В этом параграфе подобное же исследование проводится для
интегралов вида J ft(x)\i(dt), определенных на измеримом
пространстве (Г, #~, \i) с положительной мерой ц. Предполагается, что
U — открытое множество в банаховом пространстве X и задано
семейство функций /,: £/->R.
2.7.1. Предположения. Выполняются следующие условия:
1) для каждого x^U отображение t-+ft (х) измеримо;
2) для некоторого к(-)^0(Ту R), где Ll(T, R) —пространство
интегрируемых функций к: Г-^R, для всех х, у из U и t^T имеем
\Ш-Ш\<НП\\х-у\\.
Рассмотрим следующий интегральный функционал /,
определенный на X в точках, для которых существует интеграл
Выясним, при каких условиях справедлива формула
df(x)=dlft(x)li(df)(zUft(x)ii(dt)f (1)
т т
где dft обозначает обобщенный градиент локально липшицевой
функции ft(*). Формула (1) интерпретируется так: для каждого
t>^df (х) найдется отображение /-*£, из Гв Х\ удовлетворяющее
включению
t,t^dft(x) для почти всех /еГ относительно ц,,
такое, что для любых v^X функция /-><£«, v) содержится в Ь1(Т, R)
и выполняется соотношение
a*>-J<fr.*>i*(d).
74

Таким образом, каждый элемент £ из левой части (1) есть элемент
X*, для которого £(•) = J <Е<, ->|i(<ft), где t-^t представляет со-
т
бой измеримый селектор многозначного отображения t-+dtf(x).
Следующая теорема верна, если выполняется одно из
перечисленных ниже условий:
a) Т счетно;
b) X сепарабельно;
c) Т — сепарабельное метрическое пространство, \i —
регулярная мера и многозначное отображение t-+dft{y) полунепрерывно
сверху в слабой* топологии для каждого y^U.
2.7.2. Теорема. Пусть функционал f определен в некоторой
точке х^ U. Тогда f определен и удовлетворяет условию Липшица
на U. Если выполняется одно из условий а), Ь) или с), то имеет
место включение (1). Если, кроме того, функция ft(-) регулярна
в х для каждого t^T, то функционал f регулярен в х и в (1) имеет
место равенство.
Первое доказательство. Пусть у — произвольная точка
из U. По предположению функция f-*/t (у) измерима и в
соответствии с предложением 2.7.1, 2)
f(y)-f(x)\<Uft(y)-ft(x)\ii(df)^lk(t)\y-x\ii(df)=Ky-xl
т т
где /С= J k(t)[i(dt). Заключаем отсюда, что функционал /
определен и удовлетворяет условию Липшица на U. Пусть теперь £ед/(х)
и v — произвольный вектор в X. Тогда по определению
/°(x;i>)=hmsup \i(dt).
it* г К
Предположения 2.7.1 позволяют воспользоваться леммой Фату,
перенести lim sup под знак интеграла и получить неравенства
J ft (г. v) ц (dl) > /• (r, v) > <£, v), (2)
т
где второе неравенство следует из определения df(x). Определим
функции ft и /:
lt(v) = ft(x;v), />) = J/,(i0fi(dO.
f
Тогда по предложению 2.1.1, а) каждая из функций /,(•) выпукла
и, таким образом, выпукла функция/(-)- Заметим, что /<(0) ==f(0) ==
=0; поэтому (2) можно записать в виде
hv)-l(0)>a,v\
и это неравенство справедливо для всех v. Другими словами, £
содержится в субдифференциале df(0) интегрального функционала
75

f(v)= j ft (v)\i(dt). Субдифференциалы таких выпуклых функцио-
т
налов изучались, например, в статье Иоффе и Левина [130]. Чтобы
применить их результат, который состоит в том, что формула (1)
справедлива в выпуклом случае, следует проверить измеримость
функции t-+ft(v) при любом v для каждого из упомянутых условий
а), Ь) или с). Мы осуществим такую проверку в приведенной ниже
лемме, а сейчас покажем, как из справедливости формулы (1) для
выпуклого случая следует искомый результат.
Поскольку согласно [130] (см. с. 8 при выполнении условий а),
Ь) и с. 13 при выполнении условия с)) формула (1) верна для /
(где роль х играет 0), то существует такое отображение £-►£«, что
£f€d/t(0) для |ы-почти всех /еГ и для всех v^X
г
Однако по построению dft(0)=dft(x); отсюда и следует
включение (1).
Второе доказательство. То, что можно свести доказательство к
рассмотрению выпуклого случая, представляет собой весьма полезную
особенность обобщенных градиентов. Было бы, однако, желательно привести
доказательство (1), не используя такую возможность. Здесь излагается вариант
продолжения доказательства теоремы после получения неравенства (2). Если Z
обозначает множество всех измеримых отображений /->£«, где gte^/t(jc) для
[i-почти всех tef, то по теореме об измеримом селекторе имеем
f ft (*; v) \i (dt) = j max <dft (jc), v> ц (dt) = max J <£„ v> ц (dt).
T T z T
Отсюда и из (2) заключаем, что
minmax
ix=X Z
Я<£,, 0>И^--<£.*>! = о.
Затем, применяя вариант теоремы о минимаксе, предложенный Обэном [6],
получаем существование такого элемента {£*} из Z, что
mm
vex
[in {j <£,, v> [i (dt) - <£, v>\ = 0.
Это означает, что для каждого v выражение в скобках равно нулю, т. е. что
функционал £ представим в искомом виде.
Продолжение первого доказательства.
Рассмотрим вопрос об измеримости многозначного отображения t-*~ft(v).
Лемма. В каждом из случаев а), Ь) или с) отображение
*""*■?! (tO^f/C*» у) измеримо для любого v.
Д оказ ател ьствх).В случае а) это выполняется
автоматически, так что рассмотрим случай Ь). Поскольку функция ft(-)
непрерывна, то можно представить /£ (jc; v) как верхний предел счетной
последовательности функций
ft (у + Щ -/, (у) да.
к
76

где Л JO, принимая рациональные значения и у-+х, принимая
значения из счетного всюду плотного в X множества {хД. Но по
предположению функция (3) является измеримой, поэтому /?(*; v) как
верхний предел последовательности измеримых функций есть
измеримая функция /.
Завершая доказательство леммы, рассмотрим случай с). На
помним, что
/?(*;») = max «С, с»: Се ЗАМ}.
Поскольку многозначное отображение t-+dtf(x) полунепрерывно
сверху и слабо* компактно для каждого t, то отсюда, как обычно,
следует, что ft(x\ v) полунепрерывна сверху как функция / и,
следовательно, измерима. Лемма доказана.
Докажем утверждение теоремы о регулярности функционала
f(x). В случае если ft регулярна в х для каждого /, существование
производной /'(*; v) для всех v^X и равенство
f'(x;v)=\f't(x;v)VL(dt) (4)
Т
следуют из теоремы Лебега о предельном переходе. Левая часть (4)
ограничена сверху величиной /°(*; и), а правая часть совпадает с
интегралом [ft(x; v)\i(dt), который согласно (2) не меньше, чем
/°(jc; v). Отсюда заключаем, что /'(*; v) совпадает с f°(x; v), т. е.
функция / регулярна.
И, наконец, пусть элемент £= С (£,, -)[i(dt) содержится в пра-
т
вой части включения (1). Тогда, поскольку £,ед/,(*) для jx-п. в.
/еГ, имеем
т т
а это и означает, что £ед/(х). Теорема доказана.
В приложениях часто встречаются интегральные функционалы,
для которых X — некоторое пространство функций, определенных
на Г, и ft(x)=g(t,x(t)). В случае, когда отображение x-+x(t)
непрерывно (например, если Х=С[0, 1]), можно применять
теорему 2.7.2. Однако встречаются важные задачи, в которых
отсутствует такая непрерывность (например, X есть пространство Lp).
Сейчас будет рассмотрен такой случай для р=оо, а затем и для
1^р<оо.
Интегралы на подпространствах L°°. Пусть теперь (Г, <F, jx) —
измеримое пространство с о-конечной положительной мерой и У —
сепарабельное банахово пространство. Пространство L°°(TyY)
состоит из всех измеримых существенно ограниченных функций
х: T-+Y с нормой ||аг||=ess sup||x(T)||y. Пусть заданы замкнутое
77

подпространство XczL°°(Tt Y) и семейство функций ft: У-^R (t^T).
Функционал / на X определяется формулой
/(дг)=СЛ(*(0)|1(Л).
Пусть функционал / определен и имеет конечное значение в
точке х. Охарактеризуем обобщенный градиент dj(x). С этой целью
будем предполагать, что существует е>0 и функция £(•) из
Ll(T,R) такие, что для всех уи у2 из x(t) +гВ¥
\ft(yi)-ft(y2)\<k(t)\\yi-y2\\y.
Предполагаем также, что функция t-+ft(y) измерима для каждого
2.7.3. Теорема. При сделанных выше предположениях
функционал f(x) удовлетворяет условию Липшица в окрестности х и
df(x)CZ^dft(x(t))ii(dt). (5)
т
Если, кроме того, функция ft регулярна в x(t) для каждого t, то
функционал f регулярен в х и в (5) имеет место равенство.
Доказательство. Заметим, что правая часть соотношения
(5) интерпретируется так же, как и правая часть (1) в теореме 2.7.2.
То есть она состоит из функционалов £(•) = J (£<, -)\i(dt) таких,
т
что %t^dft(x(t))c:Y* для ji-n. в. /еГ и для любого v^X интеграл
J <£<> v)\i(dt) существует и равен <£, и).
т
Нетрудно доказать, как это сделано в теореме 2.7.2, что /
удовлетворяет условию Липшица вблизи х. Для доказательства
включения (5) зафиксируем £ед/(*) и выберем произвольный элемент
v из X.
Пусть /,(•) обозначает функцию /? (*(/);•)• Измеримость
отображения t-+ft для любого вектора уеУ доказывается подобно
тому, как это было сделано в лемме из теоремы 2.7.2 в случае
выполнения условия Ь). Очевидно, что /,(•) —непрерывная функция;
поэтому отображение t-+ft(v(t)) измеримо.
Повторяя рассуждения, приведенные в доказательстве теоремы
2.7.2, получаем
f fi(xWM№W>P{xiv)&&v\ (6)
г
Это неравенство можно рассматривать как условие того, что £
содержится в субдифференциале, вычисленном в 0, следующего
выпуклого интегрального функционала на X:
Hv) = $ft(v(f))ti(dt).
т
78

Для него выполнены условия работы [130]; поэтому, как и в
теореме 2.7.2, выполнение включения (5) для / и ft в 0 обеспечивает
выполнение (5) для / и ft.
Отметим, что возможно другое доказательство (5) без
обращения к выпуклому анализу, аналогичное тому, что было кратко
описано при доказательстве теоремы 2.7.2.
Регулярность. Теперь предположим, что для каждого t функция
ft регулярна в x(t). Зафиксируем произвольный элемент v(-) из X
и определим
e = liminf /fr + *»-/w .
Используя лемму Фату, получаем из (6)
r(x;v)^Q>^fi(x(f);v(f))ii(dt)= [fi(x(f);v(Q)p(dt)>P(x;v).
т т
Следовательно, все выражения в этой цепочке неравенств равны
и / — регулярный в х функционал.
И, в заключение, если £ = ^ (£<, -)i*(dt) принадлежит правой
г
части включения (5), то, согласно предыдущим вычислениям,
<^v) = ^(^v(f))ii(dt)^^(x(t);v(t))ii(df) =
= $f't(x(t);v(f))n(dt) = f'(x;v).
А это означает, что £ед/(дг).
2.7.4. Пример. Обычно рассматриваемые в вариационном
исчислении функционалы имеют следующий вид:
J(y)=$L(t,y(t),y(t))dt,
а
где у: [a, &]-*Rn — абсолютно непрерывная функция. Вычислим dj
с помощью теоремы 2.7.3 полагая, что (Г, <Г, \1) = [а, b] с мерой
Лебега, y,= R*xRn, *={(s, v)s=L~{Ty У): s(t)=c+ ^v(i)d% для не-
a
которого ceRn},/4(5, v)=L(t, s, v).
Заметим, что /(s, v)=J(s) для любого элемента (s, v) из X.
Пусть (s, v) —заданный элемент из X (так что v=(d/dt)s); будем
предполагать, что функция L, называемая интегрантом, измерима
по / и для некоторых е>0 и функции &(•) из /,'([а, b], R)
IL(ty su v,)—L(/, s2, v2) |<k(t) | (Si—s^ vt—v2) |
для всех (suVi) из (s(t)yv(t))+eB (i=l,2). Очевидно, что
предположения теоремы 2.7.3 выполняются; поэтому если £edf(s, v)%to
79

существуют такие измеримые функции (q(t),p(t)), что
(7(0,Р(0)е=д1(/Д(0.Ь(0)п.в.
(где 6L — обобщенный градиент по (s, v)) и для любой пары
(s(.),»(-))eX
a,(s,«)> = jW(0-s(0 + /'(0^(0}^.
а
В частности, если £ = 0 (как в случае, когда s — локальный
минимум функционала /), то отсюда следует, что функция р(-)
абсолютно непрерывна и q(t)=p(t) п. в.
В этом случае имеем, что
(p9p)&dL(t,s,s) п. в.,
откуда и вытекает при непрерывной дифференцируемости L
классическое уравнение Эйлера — Лагранжа
-£-Lv (/, s, s) = Ls(t,s,s) п. в.
at
Интегральные функционалы на Lp. Будем теперь предполагать
что (T,&~,[i)—измеримое пространство с положительной полной
мерой, ц(Г)<оо и Y—сепарабельное банахово пространство.
Пусть X— замкнутое подпространство пространства LP(T,Y),
состоящего из функций х: T-+Y с интегрируемой р-й степенью нормы
||х (0|у- Функционал f на X определяется формулой
f(x) = lft{x(t))\i{dt),
т
где /,: K-*R (t^T)—заданное семейство функций. Будем по-
прежнему предполагать, что для каждого y^Y функция t-+ft(y)
измерима и что в точке х функционал / определен и имеет конечное
значение. Охарактеризуем df (х) при одном из двух
дополнительных предположений. Обозначим через q решение уравнения \/р+
+1/*7= 1 (9==0°» если р= 1).
Условие А. Существует такая функция lk(-)^Lq(T, R), что
для всех t^T
\ft(yi)—ft(y2)\<k(t)\\y—y2\\Y для всех yiyy2 из У.
Условие В. Для каждого t^T функция ft(-) удовлетворяет
условию Липшица с некоторой постоянной и существует такая
постоянная с, что для любых /gjT, y^Y из включения i^dtf(y)
следует, что
2.7.5. Теорема. При выполнении сформулированных выше
предположений и одного из условий А или В функционал f удов-
80

летворяет условию Липшица на любом ограниченном подмножестве
X и
df(x)(Z$dft(x(t))ii(dt). (7)
Если, кроме того, для каждого t^T функция ft регулярна в X(t)>
то f регулярен в х и в (7) имеет место равенство.
2.7.6. Замечание. Интерпретация включения (7) аналогична
интерпретации соотношений (1) и (5) теорем 2.7.2 и 2.7.3. Если
X=LP(T, У), то любой элемент £ed/(x) принадлежит пространству
L*(7\ Г)=Х*.
Доказательство. Если выполняется условие А, то,
используя неравенство Гёльдера, непосредственно получаем, что функция
f определена и удовлетворяет условию Липшица на X:
г
где *= 11*11,.
Докажем теперь, что при выполнении условия В функция f
удовлетворяет условию Липшица на любом ограниченном
подмножестве X. Пусть задано произвольное m>IUIL и и — произвольный
элемент X, для которого ||u||p^m. По теореме о среднем значении
ft(u(t))-ft(x(t))=<Zt,u(t)-x(t)y, (8)
где £,ед/,(дг*) и х* лежит в интервале (u(t)t x(t)). Из условия В
следует, что
Обозначим правую часть этого соотношения через 6(/) и заметим,
что Q(-)^Lq(T> R). Из равенства (8) и определения 0(/) получаем,
используя неравенство Гёльдера, что
$\ft(um-f<(x(t))\»№<^(t)lu(t)-x{t)lw(dt)^lQUu-xl.
т т
Нетрудно видеть, что ||6||9 ограничено сверху числом /С, которое
зависит только от с и m (но не от и). Отсюда следует не только
конечность значения f(u), но и неравенство
\f(u)-f(x)\^K\\u-x\\P=K\\u-x\\x.
Повторяя приведенное рассуждение с х, замененным на
произвольное v, удовлетворяющее ||i>||P</n, получаем, что для /
выполняется условие Липшица на любом ограниченном подмножестве X,
Для вывода (7) обратимся к доказательству теоремы 2.7.2, в
81

первой части которого было показано, что для любого v(-)^X и
£^df(x) имеем
lti(x{bv(t»ti(dt)&P(r,v)&(t9v). (9)
т
Если выполняется условие А, то доказательство неравенства (9)
следует схеме доказательства теоремы 2.7.2. Если выполняется
условие В, то для получения (9) следует вместо леммы Фату
воспользоваться соотношением (8), в котором u=x+kv. Снова определим
ft(v)=f°t(x(t)\ v)\ тогда из (9) заключаем, что £ содержится в
субдифференциале выпуклого функционала f(v)= \ft(v(t))X
т
Xii(dt), вычисленном в 0. Это остается справедливым и в том
случае, когда элементы v(-) принадлежат XC\L-(T9Y)—замкнутому
подпространству L°°(Ty У). Следовательно, если для f выполняются
условия теоремы 2.7.3, то из этой теоремы будет следовать
представление £(.)=Г <£„ -)ii(dt), где £,ед/,(0)==д, (*(/)), а значит,
т
и включение (7).
Лемма. Предположения теоремы 2.7.3 выполняются в случае
^=0 и ft=ft.
Доказательство измеримости отображения t-+ft(v) проводится
аналогично тому, как это было сделано в лемме из доказательства
теоремы 2.7.2 в случае выполнения условия Ь). Очевидно, что
значение /(0) = {ft(0)\i(dt) определено, поэтому остается проверить
условие Липшица. Множество dft(x(l)) содержится в шаре, радиус
которого r(t) — интегрируемая функция при выполнении условия А
здесь r(t)=k(t) (в силу предложения 2.1.2, а)); при выполнении
условия В r=c{l + \\x(t)^y'1}. Таким образом, /,(•) как опорная
функция dft(x(t)) удовлетворяет глобальному условию Липшица
с постоянной r(t) и лемма доказана.
Осталось рассмотреть последнее утверждение теоремы,
предполагая, что /,(•) регулярна в точке x(t) для каждого /еГ Для
любого элемента v(-)^X имеем
liminf fl' + W-fM ^ f f; {х(0; v(0)ц{dt) =
/?(*<О;0(ОЫЯ)>Н*;»).
XI© A, J
1
Отсюда следует, что производная f'(x; v) существует и ее значение
равно /°(х; v), т. е. f — регулярный в х функционал.
Для любого £ из правой части (7) получаем
(C^>=J<£/,t;(0)|i(dO<j/^^(0^(0)fi(dO = /0(^^
f т
Поэтому £ед/(х) и в (7) имеет место равенство.
$2

§ 2.8. Поточечный максимум
Общая формула. В последующих главах важную роль будут
играть функционалы, представимые в виде поточечного максимума
некоторого семейства функций. Подобные функционалы для
конечного семейства функций изучались в предложении 2.3.12. В этом
параграфе рассматривается значительно более сложный случай
бесконечного семейства функций.
Пусть семейство функций /,, определенных на Ху
параметризуется посредством параметра t^T, где Т — топологическое
пространство. Будем предполагать, что для некоторой точки х^Х
каждая функция ft(x) удовлетворяет условию Липшица в
окрестности х.
Определим новый вид частного обобщенного градиента,
который, в отличие от ранее определенного, учитывает и изменение
параметров.
Обозначим через dmft(x) множество
£ — слабо* предельная точка {&}}
(со обозначает слабо* замкнутую выпуклую оболочку).
2.8.1. Определение. Говорят, что многозначное отображение
(т, y)-+dxf(y) (слабо*) замкнуто в (/, х)9 если dmft(x)=dft(x).
(Заметим, что это условие заведомо выполняется, если точка /
является изолированной точкой Т (см. предложение 2.1.5, Ь).)
Сделаем следующие предположения:
1) Т — секвенциально компактное пространство;
2) в некоторой окрестности U точки х отображение t-+f1 (у)
полунепрерывно сверху для каждого ye U\
3) для любых /еГ функция ft удовлетворяет условию Липшица
с постоянной К на V и {/<(*)•' teT} —ограниченное множество.
Определим функцию /: Х-^R следующим образом:
f(y)-max{ft(y): teT).
Из сделанных предположений следует, что функция f определена
и принимает конечные значения на U, причем на Т всегда
достигается максимум, определяющий /. Легко увидеть, что / — липши-
цевая функция с постоянной /С, поскольку таковой является
каждая функция ft.
Обозначим через М(у) множество {/еГ: /<(*/) =/(#)}, которое,
очевидно, непусто и замкнуто для каждого y^U. И, наконец, для
любого подмножества S из Т множества вероятностных мер
Радона, сосредоточенных на S, обозначим P[S].
2.8.2. Теорема. Пусть наряду с приведенными выше
предложениями 1) — 3) выполняется одно из следующих условий:
4) X — сепарабельное пространство;
4') Т — метризуемое пространство (что, в частности,
справедливо, если Т сепарабельно).
83

Тогда имеем
a/(x)cifd[r]//W|A(dO: |iSP[Af(x)]|. (1)
Если, кроме того, многозначное отображение (т, y)-+dfx(y)
замкнуто в (t, х) для каждого t^M(x) и ft регулярна в х для
каждого t^M(x), то f регулярна в х и в (1) имеет место равенство
(с dlT]ft(x)=dft(x)).
2.8.3. Замечание. Правая часть (1) интерпретируется так
же, как и правая часть соотношения (1) в теореме 2.7.2. Именно:
элемент £ этого множества есть элемент Х*у которому
соответствуют отображение f-*tied[T]M*) и элемент \х^Р[М(х)] такие, что
для любого v^X функция t-^dt, и> ^-интегрируема и
т
Прежде чем приступить к доказательству теоремы, рассмотрим
два ее важных специальных случая.
Следствие 1. Пусть выполняются основные
предположения 1) —3), одно из условий 4) или 4') и известно, что U —
выпуклое множество, а функция ft(x) непрерывна как функция t и
выпукла как функция х. Тогда f(x) —выпуклая на U функция и
для каждого x^U
df(x)=Hdft(x)li(dt): |4е/>[М(дг)Я
-а
Доказательство. Поточечный максимум выпуклых
функций есть выпуклая функция. Поскольку выпуклые функции
регулярны (предложение 2.3.6), то, установив, что многозначное
отображение (/, x)>-+dft(x) замкнуто, получаем из теоремы искомое
равенство. Пусть 5.G^t)» где Хс+х, tr^t и £ — предельная
точка множества {£<}. Следует показать, что £ед/,(х). Имеем для
достаточно малого произвольного v
М*+ »)-М*> ><&.»>•
Из условия 3) получаем,что
fti(x + v)-fti(x)^a^}-2K\\xi-xl
Существует сходящаяся подпоследовательность {£/} для {£;,}
такая, что lim<£/, у>=<£, v}. Переходя к пределу для этой
подпоследовательности, получаем
ft(x+v)-ft(x)^(Z, v>.
Это означает, что t,^dft(x).
Следствие 2. Пусть выполняются основные предположения
1)—3), одно из условий 4) или 4') и известно, что каждая
функция ft строго дифференцируема на U и ее строгая производная
84

D8ft(x) непрерывна как функция (t, х). Тогда для каждого x^U
функция f регулярна в х и
df(x)=HDsft(x)ii{dt): |iSP[Af(x)]|.
Доказательство. Поскольку по предложению 2.2.4
dtf(x) = {D9ft(x)}, то это следствие непосредственно вытекает из
теоремы.
2.8.4. Пример (норма С [О, 1]). Применим следствие 1,
чтобы получить следующий принадлежащий Банаху результат.
Пусть X — пространство непрерывных функций ху
отображающих отрезок [а, Ь] в Rn, с нормой
H|=max|x(0|.
Выясним, в каких точках х^Х эта норма дифференцируема.
Обратимся к следствию 1, полагая, что Т=[а, b]9 ft(x)=*
= |*(0|. Поскольку /(х) = 1М1 — выпуклая функция, по предложен
нию 2.3.6 / регулярна и, следовательно, дифференцируема тогда,
и только тогда, когда множество df(x) состоит из единственного
элемента. Согласно следствию 1 это возможно только тогда, когда
М(х) состоит из одной точки. Тем самым доказано, что ||х||
дифференцируемо в тех х, для которых существует единственное fe
^[я, Ь], доставляющее максимум \x(t) |.
Доказательство теоремы 2.8.2.
Этап 1. Определим функцию g: UXX-+R следующим
образом:
g(x; aHmax{<£, </>: £ед1Г,М*). teM(x)}. (2)
Использование обозначения max в (2) оправдано тем, что
d[T)ft— слабый* компакт (согласно предположению 3) и М(х) —
замкнутое множество. Докажем, что для любого t/eX имеет место
следующая
Лемма. Справедливо неравенство f°(x; v) ^g(x; v).
Доказательство. Пусть уг+х и Л,|0 — такие
последовательности, что последовательность
сходится к /°(jc; v). Выберем произвольное t^Mtyi+Xtv). Тогда
ГиЪ + Ь0-ГиЪ)
А* < : • (3)
По теореме о среднем значении правую часть неравенства (3)
можно представить в виде <£<»&•>, где tc^dft((y*) для некоторого
Без ограничения общности можно полагать, что tr+teT и
lim<£<, а> = <£, v}, где £ — слабо* предельная точка {£<} (в против-
85

ном случае следует перейти к сходящейся подпоследовательности).
Заметим, что при этом iji сходится к х так, что по определению
£edmf, (лс). Отсюда с учетом (3) получаем, что
Осталось доказать, что t^M(x), поскольку тогда <£, v}^.g(x\ v)
по определению. Имеем для любого те Г
fuiyt + W^fxiyi + Щ
(так как /<€Af(jfc+A><i>)); поэтому в соответствии с
предположением 3)
ftt(x)>fx(x)-2K\yi + ko-xl
Переходя к пределу, получаем согласно предположению 2), что
Поскольку т — произвольная точка Г, то t^M(x).
Этап 2. Пусть теперь £ed/(jt). Из леммы следует, что для
любого v^X
*(*;*) >«,»>• (4)
Так как g(x; 0)=0, то это означает, что £ содержится в
субдифференциале выпуклой функции g(x; •)> вычисленном в 0.
Описание такого субдифференциала можно найти, например, в [130]
(с. 33, если выполняется условие 4), с. 34, если выполняется
условие 4'). Используя эти результаты, получаем, что £ можно
представить в виде J <£<, -}\i(dt) для некоторого \i^P[M(x)] и изме-
т
римого отображения /-*£«, принимающего значения из d[T]ft(x)
для \i — п. в. t^T. Тем самым доказано включение (1).
Можно и не пользоваться этими результатами выпуклого
анализа. Прежде чем продолжить доказательство теоремы, укажем
схему иного способа доказательства включения (1). Обозначим
через Z правую часть включения (1). Заметим, что Z является
слабо* замкнутой выпуклой оболочкой всех точек из d[T]ft(x) для
t&M (х). Тогда из (4) и леммы следует, что
min max {(w, v) — (£, v)} = 0.
Использование принадлежащего Обэну варианта теоремы о мини-
максе [6] позволяет доказать существование такой точки tt)GZ,
что для всех v^X
Отсюда следует, что £=о>, тем самым опять доказано включение
(1).
Этап 3. Теперь полагаем, что выполняются дополнительные
предположения. Пусть
а = hm inf ——■—-—'-±-!—.
86

Чтобы доказать регулярность функции f в х, достаточно показать,
что f°(x; v)^.a. Выберем произвольное t^M(x); тогда
/ (х + ко) — / (х) ft (*+**) 4t (*)
к ^ I
и, переходя к нижнему пределу в каждой части неравенства,
получаем, что а^ // (x;v)=ft(x;v). Последнее равенство следует из
регулярности ft в л;. Доказано, что
а>max{/?(х;v): t&M(х)}. (5)
По определению 2.8.1 при сделанных дополнительных
предположениях dmft(x)=dtf(x); поэтому определенная выше функция
g(x; v) равна {<£, t;>: J^dft(x)9 t^M(x)}, что в точности
совпадает с правой частью (5). Доказанная на этапе 1 лемма и
неравенство (5), таким образом, устанавливают справедливость
неравенства f°(x\ v)^a, которое, как указывалось, и означает, что f
регулярна в х.
Докажем, что в (1) имеет место равенство. Пусть £= Г <£,, ->Х
т
X\i(dt) —произвольный элемент из правой части (1). Тогда для
любого v^X, используя последовательно лемму Фату, условие
/*(*)=/(*) при t^M(x), сосредоточенность \i^P[M(x)] на М(х)
и регулярность /, получаем
<C,»>=J(&,t;>(i(d/)<J/?(^f)fi(^) = J/;(^f)j*(dO=
т т т
f/,(x + Ml*№)--C/,Ml*WO
= lim ■* * <
Г/(*+адм*о-С/(*)|1(Я)
^ lim sup * * =
Цо к
= lim sup /(* + **>-/(*> = р (Х; v) = /о (х; ^
Итак, показано, что <£, v}^f°(x9 и), а это и означает, что £ед/(х).
Теорема доказана.
Если функция ft удовлетворяет условию Липшица также и по
/, то, как показал Ириарт-Уррути, существуют оценки другого типа
для df. Приведем обобщение этого результата в случае
бесконечномерного пространства X, которое получено с помощью теоремы
2.8.2.
Будем писать <р(/, х) вместо ft(x) и сделаем единственное
предположение, которое включает в себя предположения 1)—3) и 4'):
5) Т — компактное множество в конечномерном банаховом
пространстве Y и для некоторого е>0 для всех tu U из Г+е5У и всех
xiy хг из U
|ф(*|, *i)-<P('2, *.)| <tf(IUt—*illr + ||xt—JC,||x).
37

Как обычно, dT обозначает функцию расстояния до
множества Т.
Следствие 3. Если z содержится в df(x), то (О, z)
содержится в множестве
Го {дер (/, х) - kddT (t) X {0}: /<= М (*)}, (6)
где К — произвольное число, большее К.
Доказательство. Чтобы можно было использовать
теорему 2.8.2, введем следующие обозначения:
Т = Т + гВу, U = eByxUc:YxX,
ft(y,x) = 4(t + yyx)-KdT{t + y\ / (у, *) = max {/,(</,*): /ЕГ}.
Отображение (t, у, x)-+dft(y, х) замкнуто, поскольку таковыми
являются dtp и ddT\ поэтому по определению 2.8.1 d{f^U и dj
совпадают. Все основные предположения теоремы выполнены,
Отсюда заключаем, что д/(0, х) содержится в множестве
ЕБ{д<р(/,х)-Шт(0X{0}: /GM(0,*)}; (7)
dft(0, х) было заменено на содержащее его (по предложению 2.3)
множество d(p(t, x)—KddT(t) X {0}.^
Лемма. Для всех у, х из U М(у, х)=М(х)—у и }(у, *)=/(*).
Доказательство. Заметим, что второе утверждение
очевидным образом следует из первого. Если лемма доказана, то
получаем равенство д/(0, *) = {0}Хд/(х), что с учетом совпадения
множеств (6) и (7) доказывает следствие 3. Чтобы доказать
первое утверждение леммы, заметим, что t^M(y, х) тогда и только
тогда, когда т=/+у доставляет максимум функции <р(-,х)— RdT(-)
на множестве Т+у. Согласно предложению 2.4.3 (с S=r+y, С=Г)
это эквивалентно утверждению, что т лежит в Г и доставляет
максимум ф(-, х) на Г, т. е. %^М(х).
2.8.5. Замечание. Если Т — такое же множество в
конечномерном пространстве У, как и в следствии 3, и многозначное
отображение М(х) допускает существование локально ограниченного
селектора пг(х), можно в предыдущем результате заменить
множество М(х) на множество М(х), состоящее из всех предельных
точек т(у) при у, стремящемся к х. (Это наблюдение также
принадлежит Ириарт-Уррути.) Чтобы продемонстрировать это,
достаточно применить теорему к задаче, в которой Т заменено на
(M(x)+eBY)f)T. Для произвольно малых е>0 при этом функция
/ не изменится в достаточно малой окрестности х.
Случай X=R\ В случае X=Rn можно использовать
представление для д/, даваемое теоремой 2.5.1, с тем, чтобы получить
результаты, подобные теореме 2.8.2, при более слабых
предположениях о структуре задачи.
88

Теперь предполагается, что Т — некоторое абстрактное
множество. Определим
f(*)-sup{ff(*):/erif
не предполагая далее, что sup достигается на Г. Потребуем
выполнения только предположения 3), а именно
1М*|)-М**)1<*11*1-**11
для всех t^T и хи x2^U. Полагая, что / принимает конечное
значение в некоторой точке /У, нетрудно заключить, что функция f
принимает конечные значения и удовлетворяет условию Липшица
на£/.
2.8.6. Теорема. Пусть х — произвольная точка U, SczU —
произвольное множество нулевой меры. Тогда df(x) содержится в
множестве
C = Eo{lim Vfti(xt): xt-+xtxt&S,tteETJti(x)-+f(x)}.
Доказательство. По определению С представляет собой
выпуклую оболочку всех точек z вида lim V/, (jc,) , где Xi^S, суще*
ствует Vft{ (х{), xr+х и U является максимизирующей
последовательностью из Т для ft(x). Как легко видеть, С непусто и
компактно. Определим для любого ueRn значение опорной функции
множества С:
m=max{<t, v}: £<=С}.
Достаточно показать, что для любого е>0
f°(x; v)^m+e, (8)
поскольку f°(x; •) —опорная функция df(x). При этом можно
полагать, что М = 1.
Из определения С следует существование такого бе (0, 1), что
для всех у^х+28В и /еГ, удовлетворяющих следующим
условиям: y^S, существует градиент V,f(y) и ft(x)>f(x)— б;
выполняется неравенство
Vft(y)v^m+z. (9)
Пусть А, — произвольное число из (0, б), / — произвольная
точка из Г, удовлетворяющая неравенству ft(x)^f(x)—$. Обозначим
через Q множество точек U, в которых ft недифференцируема.
Выберем точку у^х+ЪВ, для которой множество точек пересечения
отрезка [у, y+tiv] с множеством Q[jS имеет нулевую меру
размерности 1. (Заметим, что почти все у^х+6В обладают таким
свойством, так как S\JQ имеет нулевую меру.) С помощью (9)
получаем
я,
ft(y + bv)-ft(y) = $Vft(y + w).vdT^X(m+e). (10)
о
Поскольку ft — непрерывная функция, то это неравенство
выполняется в действительности для всех у^х+ЬВ.

Возьмем такое число re (0, 6), что г2+4г/С<6.
Лемма. Для всех у^х+rB и Яе (0, г)
f(y+Xv)-f(y)<Hrn+e)+k2.
Очевидно, что из этой леммы следует (8), что и доказывает
теорему.
Чтобы доказать лемму, зафиксируем любые указанные выше у
и Я и выберем такое /еГ, что ft(y+hv)^f(y+Xv)-X2. Тогда
ft(x)^ft(y+Xv)-K\\x-y-Xv\\^f(y+Xv)-X2-K\\x^y-Xv\\^
> f 00 -x2-2K\\x-y-Xv\\ ^f(x) — r2-4r/(> / (х) -6,
откуда следует, что можно воспользоваться (10) для этих t и X.
Поэтому
f(y+bv)-f(y)^ft(y+Xv)-ft(y)+X2^X(m+e)+X\
что и доказывает лемму.
2.8.7. Пример (наибольшее собственное значение). Пусть
А(х) —функция переменной х из Rn, значения которой - лХп-
матрицы.
В технических приложениях часто встречается следующая
функция, которая в общем случае не является дифференцируемой:
/(х)=наибольшее собственное значение А (х).
Будем предполагать, что Л(-) —непрерывно дифференцируемая
функция и для каждого ху А(х) — положительно определенная
симметричная матрица. Вычислим df(x), но предварительно введем
новые обозначения.
Для каждого х существует такая унитарная матрица £/, что
U*A(x)U=D,
где D — диагональная матрица, на главной диагонали которой
стоят собственные числа Хи ..., К матрицы А(х). Предполагаем
без ограничения общности, что Х^ ... ^Хп для
рассматриваемого х. Для натурального 1^/^/г множество Sj состоит из всех
единичных векторов «;eRn, у которых все компоненты, начиная с /+
+ 1-й, равны нулю. (Например, St состоит из двух векторов вида
[±1, 0, ..., 0].) И, наконец, пусть г — кратность собственного
числа Я|, А/(х) обозначает дифференцированную по х{ матрицу А{х).
2.8.8. Предложение. Функция f есть липшицевая функция,
регулярная в х, причем
df(х) = со{[(lTA[Uw9w\...,(LTA'mUw,w)]: w^Sr).
Функция f дифференцируема в x, если кратность Xi равна 1; в
этом случае
— f (х) = элементу (1,1) матрицы U* At (х) О.
dxi
90

Доказательство. Из представления
f(x)=max{(A(x)w, i>>: w, v^B}, (11)
где В— единичный шар в Rn, и теоремы 2.8.2 получаем, что
функция / локально липшицева и регулярна в *. Согласно следствию 2
df(x) = cof±(A(x)w,vy>: (w,v)<eM(x)} =
= со {[(Л! (х) »,*>,..., (Ат (х) w, v)]: (w, v) e M (x)}, (12)
где M(x) —множество пар векторов (w, v), на которых
достигается максимум в (11). Пусть (/ — ранее определенная унитарная
матрица. Поскольку UB=B, имеем
f(x) =тах{<Л (х) Uw, Uv}: w, vt=B) = _
=max{(<U*A(x)Uw, v}: w, £&5>=max{<Du;, г?>: w, v^B}.
Нетрудно проверить, что векторы (w, г?), на которых достигается
последний максимум, имеют вид (w, w), где w^Sr. Отсюда
следует, что элементы (w, v)^M(x) имеют вид (Uw, Uw), где w^Sr. Их
подстановка в (12) дает указанную в предложении формулу.
Последнее утверждение является прямым следствием этой
формулы.
§ 2.9. Дальнейшие обобщения
В § 2.4 для функции, принимающей значения из R(J{±oo}, был
определен обобщенный градиент df(x). Однако за редким
исключением это определение применимо только к локально липшице-
вым функциям. Возникает естественный вопрос о возможности
создания обобщенного дифференциального исчисления для более
широких классов функций. Благодаря работам Рокафеллара,
Ириарт-Уррути и Обэна в этом направлении имеется
существенный прогресс.
Разработка этой теории, связанная с преодолением
значительных технических трудностей, не привела к получению
принципиально новых результатов. Основное достижение Рокафеллара
состояло в подходящем уточнении понятия обобщенной производной
по направлению /°, что дало возможность выделить класс
функций со значениями в R(J{±oo} (так называемых липшицевых по
направлению функций).Такой класс достаточно обширен для того,
чтобы его можно было использовать в приложениях, и допускает
полезное обобщение исчисления, развитого для липшицевых
функций. Эти результаты были получены в более общем случае
локально выпуклых пространств с использованием новых понятий
предельного перехода. Здесь же изложение ограничено случаем
банахова пространства X. Результаты и доказательства,
приведенные в этом параграфе, принадлежат Рокафеллару.
В первую очередь следует определить /° для нелипшицевой
функции f. Учитывая теорему 2.4.9, можно было бы ожидать, что
/9 определяется так, чтобы надграфик /°(*; •) совпадал с множе-
91

ством repl/(jc, f(x)) (предполагая, что последнее множество есть
надграфик). Но как непосредственно охарактеризовать /°? В
приведенном ниже ответе на этот вопрос используются некоторые
дополнительные обозначения для предельных переходов. Согласно
Рокафеллару [190] символ
(y,a)\fx
означает, что (уу a)eepi/, у-кк, a-+f(x).
2.9.1. Теорема (Рокафеллар). Пусть функция f: X-^R(J{°°}
принимает конечное значение в х. Тогда касательный конус
TeVif(Xy f(x)) совпадает с надграфиком функции f°(xy •): Х-+-
->-RU{±°°}> определенной следующим образом:
№i/) = limlimsup inf /(У + ^)-а ^
ejo (y,a)lfx weu+eB t
По
Доказательство. Следует показать, что пара (vy г)е
eXxR содержится в Tevu(x> /(*)) тогда и только тогда, когда
f°(x;v)^r.
Необходимость. Пусть (vy г)еГер|/(;с, f(x)) и е>0 —
произвольное число. Достаточно показать, что
Hmsup inf /<» + »>-« <г. (1)
(y&Ufx w^v+гВ t
По
Пусть (yiy ad\fX и U\0. Поскольку (v, г)£Гер1 f(x, f(x))y то по
теореме 2.4.5 существует последовательность {vu г<), сходящаяся к
(v, г), такая, что (уи af) +ti(vi9 rt)eepi /, т. е.
ak+tir^fiyi+tiVi).
Следовательно, для достаточно больших I
. g ftei + W — *t^t(yt + tpi)—at^
inf ^ ^ г,-,
откуда и выводится (1).
Достаточность. Предположим, что f°(x; v)^ry и пусть
(У<у а») — произвольная последовательность из epi /, сходящаяся к
(х, f(x))y а ti — произвольная последовательность, монотонно
стремящаяся к нулю. Чтобы доказать, что (vy г)еГер1/(х, /(*)),
достаточно найти такую последовательность (viy /\), сходящуюся к
(у, г), что для бесконечного числа значений i
(Уи 0Li) + ti(viy r,)c=epi/,
или, что то же самое,
di+tir^fiyi+tiVt) (2)
(в соответствии с приведенным в теореме 2.4.5 эквивалентным
определением касательного конуса). Так как /°(дс; v)^r, то для
каждого натурального п имеется такое еп<1/я, что
Hmsup inf /<* + *»>-« <r + -L.
(y,<z)lfx w^v+enB t П
t\o
92

Следовательно, поскольку (yi9 а<) \fx, найдется такой индекс /=
=i(n)>n, что
inf ^ г + —,
а значит, и точка v^v + znB такая, что
fbi + W—i +±9 (3)
и п
Определим для индексов из подпоследовательности t'(l), i(2),...
rt = max г, - . (4)
Заметим, что неравенство (2) выполняется, и остается проверить,
что г{ сходится к г. Но это следует из (3) и (4), т. е. теорема
доказана.
Нетрудно увидеть, что если функция / полунепрерывна снизу в
х, то /°(х; v) равно более простому выражению
Hmlimsup inf -MMzM.,
По
где y\fx означает, что у и f(y) сходятся соответственно к х и f(x).
Заметим также, что во всех случаях предел при е|0
эквивалентен взятию точной верхней грани по е>0.
Как следствие теоремы получаем, что /°(лг; •) играет ту же
роль в определении множества df(x), что и в случае липшицевых
функций.
Следствие. Имеем, что df(x)=0 тогда, и только тогда»
когда /°(jc; 0) =—оо. В противном случае имеем, что
df(x) = {le=X*: f°(x; v)^<X>, v} для всех ve=X},
№ ")=sup{<£, vy.l<=df(x)}.
Доказательство. По определению t>^df(х) тогда, и
только тогда, когда <(£, —1), (у, г)>^0 для всех (v, г)е
еГвр1/(^, /(^))=epi/°(jc; •), или, что то же самое, £ед/(х) тогда,
и только тогда, когда <£, v)^r для всех таких v^X и reR, что
r^f°(x; v). Если для некоторого v f°(x\ v)=—оо, то не существует
такого £, т. е. df(x)=0. С другой стороны, для всех v и К>0
выполняется равенство /°(лс; kv)=Xf°(x; v), поскольку по теореме
еР*/(*; •) —конус (принимаем соглашение, что Л(—оо)=—оо).
Таким образом, f°(x\ •) принимает значение —оо в какой-либо точке
v тогда, и только тогда, когда /°(л:; 0)=—оо. Отсюда следует
первое утверждение.
Теперь, полагая, что f°(x; •)>—оо, заключаем из
вышесказанного, что £ед/(л:) тогда, и только тогда, когда <£, v}^zf°(x; v)
для всех v. А это и есть второе утверждение, которое эквивалент-
93

но по предложению 2.1.4 третьему утверждению о том, что f°(x\ •) —
опорная функция множества df{x).
Ввиду справедливости теоремы 2.4.9 данное выше определение
для f° должно в случае локально липшицевой функции / сводиться
к определению, рассмотренному в предыдущих параграфах.
Нетрудно доказать этот факт, но, следуя Рокафеллару, полезно
рассмотреть некоторый более общий класс функций, для которых это
выполняется.
2.9.2. Определение. Функция / называется липшицевой по
направлению v^X в точке х, если \f(x)\ <+°° и величина
га. / \ 1 • f (У + Щ — а
/+(*;и): = limsup J-2-L—l
не равна +oo. Говорят, что / — липшицевая по направлению в
точке х функция, если она липшицевая по направлению v в х хотя бы
для одного V^X.
Укажем на связь этого определения с одним геометрическим
понятием, введенным в § 2.4.
2.9.3. Предложение. Функция f липшицева в х по на-
правлению v тогда, и только тогда, когда для некоторого peR
(у, р) есть гиперкасательная к epi / в точке (х, f(x)).
Доказательство. Пусть первоначально (х, v) —
гиперкасательная к epi f в (х, /(*)). Тогда для некоторого е>0 по
определению при всех *е(0, е)
Их, Hx))+eB)r\C+t[(v, р)+еЯ]с=С, (5)
•де S=Bxxr и C=epi/. Следовательно, для любых (у, а)ЕС,
олизких к (х, /(*)), и до, близкого к v, (у, a)+t(w, р)еС, а это
означает, что
a+t$^f(y+tw).
Отсюда следует, что величина f+(x; v) в определении 2.9.2
ограничена сверху числом р, т. е. / — липшицевая по направлению v в
точке х функция.
Теперь предполагаем, что f — указанная выше функция, и пусть
Р — произвольное число, превосходящее /+ (х\ v). Тогда для всех
(у, ajeepi/, близких к (х, f(x)), и всех (t, w), близких к (0, v),
где />0, имеем
f(y+tw)—a ^g
t Р'
Отсюда следует (5) для некоторого е>0, т. е. (и, р) —
гиперкасательная к epi / в (jc, / (х)).
Кроме того, выше было доказано такое
Следствие. Если /+ (х\ v) < + оо, то
f+(x; u)=inf{p: (v, р) -гиперкасательная к epif в (х, f(x))}.
Выделим некоторые классы функций, липшицевых по
направлению.
94

2.9.4. Теорема. Пусть f принимает значения из RU{±°°} и
f(x) —конечное число, f — липшицевая по направлению к точке х
функция, если выполняется одно из следующих условий:
1) / — липшицевая вблизи х функция;
2) /=фс, где существует гиперкасательная к С в х\
3) f — выпуклая и ограниченная в окрестности некоторой точки
(не обязательно х) функция;
4) / — неубывающая функция по отношению к частному
упорядочиванию, индуцированному выпуклым замкнутым конусом К с
непустой внутренностью;
5) X=Rn, / полунепрерывна снизу в окрестности х, множество
df(x) непусто и не содержит прямой линии.
Доказательство. Утверждение 1) очевидно, а 2)
непосредственно следует из предложения 2.9.3. Для доказательства 3)
достаточно показать, что в точке (х, f(x)) существует
гиперкасательная к C=epi /.
Если функция / ограничена сверху числом р—1 на окрестности
точки x+Xv для некоторого Х>0, то для (и, а), где а=(р—f(x))/Xt
выполнено включение (*, f(x))+X(v, a)eintC. Осталось
воспользоваться следующей леммой.
Лемма. Если множество С выпукло и содержит наряду с х
окрестность точки x+Xv для некоторых вектора v и числа Я>0,
то v — гиперкасательная к С в х.
Чтобы доказать это, предположим, что x+Xv+vBczC для е>0.
Выберем такое «6>0, что (х+бВ) +X(v-\-6B)aC. Тогда для любых
/е(0, X), у&х+бВ, w^v+ЪВ имеем
y + tw=(l-^y + j-(y+ki>).
Если, кроме того, ysC, то это выражение содержится в множестве
С вследствие его выпуклости. Доказано, что (х+8В)Г)С+
+ t(v+6B)czC9 *е(0, X), а это и означает, что v —
гиперкасательная kCbjc.
Докажем теперь утверждение 4). Условие состоит в том, что
/(*i)^/(*2) Для любых х^кх2 (т. е. таких, что х2—х^К).
Предположим, что для некоторого e>0 — v+eBczK. Тогда для всех
точек w таких, что -ШЕ-и+еВ, и для всех /^0 имеем
включение —/ше/С. Это означает, что y+tw^Ky для всех у; поэтому
f(y + tw)-f(y) ^Q
t ^
для у вблизи х, w вблизи v. Отсюда следует, что величина f+(x; v)
ограничена сверху, т. е. / — липшицевая по направлению v в х
функция.
Докажем, наконец, утверждение 5). Ввиду следствия теоремы
2.9.1 условие того, что df(x) не содержит одномерного линейного
многообразия, эквивалентно тому, что множество D= {v: f°(x; v)<.
<oo} не содержится ни в каком подпространстве, размерность
которого меньше п. Другими словами, D имеет непустую внутреи-
95

ность. Предположим, что v&ntD. Поскольку X конечномерно и
/°(jc; •) —выпуклая функция, то f°(x; •) локально ограничена на
int D. Отсюда следует, что
(р, p)eintepi/0(*; • )=int Гвр1 f(x9 f(x)) для некоторого peR.
Но если A==Rn, существование гиперкасательных к замкнутому
множеству в точке эквивалентно непустоте внутренности
касательного конуса в точке (следствие 1 теоремы 2.5.8). Отсюда и из
предложения 2.9.3 следует, что / — липшицевая по направлению в точ*
ке х функция. (Заметим, что в 5) можно ослабить условие нижней
полунепрерывности условием локальной замкнутости epi / в окре-
стности (дс, /(*).)
Обозначим через Df(x) множество таких векторов v, для
которых / — липшицевая по направлению v в точке х функция.
2.9.5. Теорема. Пусть \f(x) | <оо и Df(x)¥=0. Тогда
Df(x)=mt{v:f°(x; у)<оо}.
Более того, f°(x] •) непрерывна в каждой точке v^Df(x) и
совпадает на Df(x) со значением f+(х; •)•
Доказательство. Эта теорема выводится как следствие
теоремы 2.4.8 для C=epi /. Пусть К обозначает множество всех
гиперкасательных к С в (х, /(*)); К^0 по предположению. Тогда
по теореме 2.9.3 Df(x)=nxK, где ПхК — проекция К на Ху и /С=
=int7,c(x, f(x)) по теореме 2.4.8. Поэтому, чтобы доказать первое
утверждение теоремы, достаточно установить равенство
nxintTc(xy f(x))=int{v: /°(x; t;)i<oo}, (6)
что сейчас и будет сделано.
Если v содержится в левой части (6), то (и, p)&nt Тс(х, f(x))
для некоторого р. Тогда по теореме 2.9.1 (v, p)eintepi/°(лг; •).
Следовательно, /°(л;; w)<oo для всех w, близких к у, и v
содержится в правой части (6).
Если v принадлежит правой части (6), то для некоторых е>0
и peR f°(x\ до)<р— 1 для всех w^v+eB. Отсюда следует, что
(wy а) содержится в epi/°(x; -)=Тс(х, f(x)) для всех (до, а),
близких к (и, р). Поэтому (и, p)eint Тс(х, /(*)), так что ug
*=7ixintTc(x,f(x)).
Выпуклая функция /°(*; •) всегда непрерывна на внутренности
множества {v: f°(x\ и)<оо}, если она ограничена сверху на
окрестности какой-либо точки из этого множества. Но это
выполняется, поскольку D/(jt)¥=0.
И наконец, проверим соотношения
H*;*) = inf{P: (с/, Р)еГс(*,/(*))},
/*(x;i;)=inf{P: (M)etf},
где v^Df(x)=nxK. Первое равенство следует из того факта, что
Тс(х, /(*))=epi/°(*; •) и f°(x; и)<оо; второе есть следствие
предложения 2.9. 3. Поскольку, как было показано, /C=int Тс(х, f(x))
96

(теорема 2.4.8), то отсюда следует искомое равенство f+(x; 1;) =
Принимая во внимание следствие 1 теоремы 2.5.8, можно
модифицировать приведенное выше доказательство с тем, чтобы
получить
Следствие. Пусть пространство X конечномерно и
предположим, что epi/ локально замкнуто вблизи (х, f(x)). Тогда име-
ем что
Df(x)=int{v: f(x;v)<oo};
поэтому f — липшицевая по направлению в точке х функция тогда,
и только тогда, когда множество {v: f°(x; и)<оо} имеет непустую
внутренность.
Асимптотический обобщенный градиент. Удобной мерой того,
насколько данная функция f не удовлетворяет условию Липшица
в окрестности точки х, в которой / принимает конечное значение,
служит асимптотический обобщенный градиент f в х. Он
обозначается d°°f(x) и определяется как множество
&<=F:&0)ezN9vlf(x,f(x))}
(сравните с определением 2.4.10). Заметим, что д°7 всегда
содержит 0. Первые два утверждения, приведенные ниже, вытекают из
определения и теории рецессивных конусов (см. [190], с. 350),
третье выводится из следствия 2 теоремы 2.5.6.
2.9.6. Предложение. d°°f представляет собой замкнутый
выпуклый конус. Если df(x) непусто, то
N&fix, /(*))= U ЦдП*), - 1] U Р-/(дг), 0],
и в этом случае 0*f .(*)«!{()} тогда, когда множество df(x)
ограничено. Если X — конечномерное пространство и надграфик epif
локально замкнут вблизи (х, f(x)) (например, f
полунепрерывная снизу в х функция), то df(x)[J(dmf(x) \{0}) Ф0.
Конечно, если / удовлетворяет условию Липшица вблизи xf то
df(x) непусто и ограничено; при этом д°7(х) = {0}. Для обширного
класса функций верно и обратное утверждение.
2.9.7. Предложение. Пусть X — конечномерное
пространство, \f(x)\ <оо и надграфик epi f локально замкнут вблизи
(x,f(x)).
Тогда эквивалентны следующие утверждения:
a) df(x) непусто и ограничено;
b) f удовлетворяет условию Липшица вблизи х;
c) д-/(*)-{0).
Доказательство. Покажем, что из а) следует Ь), из Ь)
следует с), а из с) — а). Если выполняется а), то по теореме 2.9.4
функция / липшицева в х по направлению. Тогда из следствия
теоремы 2.9.1 и теоремы 2.9.5 вытекает, что величина f+(x; 0)
ограничена. А это, как легко видеть, и означает Ь). Ранее было указано,
4 Ф. Кларк
97

что из b) следует а); аналогично в соответствии с предложением
2.9.6 заключаем, что а) следует из с).
Сумма двух функций. Докажем теперь довольно общую
формулу для обобщенного градиента суммы двух функций. Напомним,
что понятие регулярности в обобщенном смысле приводится в
определении 2.4.10.
2.9.8. Теорема (Рокафеллар). Пусть значения ft и f2 в х
конечны и /2 — липшицевая по направлению в точке х функция.
Предполагается, что
{v: /?(*;i;)< оо} flinty /J(x; v)< oo}=£ 0. (7)
Тогда
3(/l+fl)Wcd/!w+a/lw, (8)
где множество в правой части включения слабо* замкнуто. Если]
кроме того, /4 и f2 регулярны в ху то в (8) имеет место равенство,
и если dfi(x) и df2(x) непустые множества, то ft+/2 регулярна в х.
Доказательство. Как и при доказательстве предложения
2.3.3 для локально липшицевых функций, начнем с доказательства
следующей леммы.
Лемма. Для любого вектора v^X справедливо неравенство
(fi + f2)°(x;v)<n(x;v) + n(x',v).
Пусть /v=/i+/2, li(v)=fi (х\ v) для й=0, 1, 2. Требуется
доказать, что
U(v)^h(v)+U(v)9 (9)
где принимается соглашение, что оо—оо=оо. Рассмотрим случай,
когда v содержится в левой части (7).
Пусть р>/2(и)= /2 (*; v). По теореме 2.9.5 имеем, что fl(x; v) =
= /i (х; v) <р. Поэтому для некоторого 6>0
(Ы0+<ю)-а,)/*<р (Ю)
для любых *€= (0, 6), уе=х+6В, w<=v+bB, а2^/2(#)> |а2-/(у)|<
<<б. Напомним, что по определению
/eG,) = limlimsup inf fo(y + tw)-a >
eJ,o (y,a)lfx w&+eB t
Это разностное отношение можно представить в виде
h(y + tw)— аг . f2(y + tw)— peg ,jj.
где at+a2=a и верхний предел берется при t\0, у-+х, а*>/<(х),
причем а^/<(у). Учитывая (10), получаем из (11)
t&Xlimlimsup inf 1^у + ^-«1+£) =
г\о (y,a)ifx w^v+гВ I t J
= /Z(*;*) + P-/i(*) + p.
98

Поскольку это справедливо для произвольного P>/2(t>)> то
выполняется неравенство (9). Осталось проверить (9) для других
значений v. Если /i(i>i)=oo или /2(р)=оо, то неравенство (9)
очевидно. Пусть иеОЛОг, где D{={w: /i(w)<oo} (t=l, 2) —
выпуклые множества. Согласно (7) найдется точка veDjDint D2\ причем
из выпуклости этого множества следует, что ve: =(1— е)а+ег>е
eDjflintDa для всех ее(0, 1). Но для таких ve справедливо
неравенство
Поскольку функции U выпуклы и полунепрерывны снизу (в
слабой* топологии), то Urn/* (и,) »/<(&)» откуда и следует, что (9) вы-
е jo
полняется для всех v. Лемма доказана.
Теперь докажем включение (8). Если /4(0)=—оо или /2(0) =
=—оо, то из леммы получаем, что /0(0)=—оо. Тогда согласно
следствию теоремы 2.9.1 обе части включения (8) являются пустыми
множествами. Поэтому предположим, что /i(0) =/2(0) =0
(единственная оставшаяся вследствие сублинейности U возможность).
Тогда имеем
dfo(x) = {z: Uip) ^<z, v} для всех v]а
c={z: (/i+/2) И^<г, v} для всех v}=d(li+l2) (0), (12)
где последнее равенство выполняется, поскольку /t+/2 — выпуклая
функция, равная 0 при t>=0. Условие (7) есть известное из
выпуклого анализа условие, обеспечивающее выполнение
следующего равенства:
д(11 + 12){0)=дЦ0)+дШ (=дШ+дШ).
Отсюда и (12) получаем (8). Как субдифференциал выпуклой
функции /i+/2 в 0 множество dfi(x)+df2(x) слабо* замкнуто.
В заключение докажем утверждение относительно равенства в
(8). Если /t(0)=—оо или /2(0)=—оо, то /0(0)=—оо, и, как
указывалось, обе части (8) пусты, а значит, равны. Поэтому
рассмотрим оставшиеся возможности, учитывая, что из регулярности ft и
/2 в х следует, что для любого v
lt(p) = hmmf —» i==l> *•
X0-*V t
Переходя к нижним пределам в выражении
fl(x + tw)-f1(x) . h(x + tw)-f2(x) f0(x+tw)-f0(x)
t ~r t t
получаем (из того, что слагаемые стремятся соответственно к
kip), U(v)>—оо) следующее неравенство:
'i (v) + h (о) <Hm inf [/0 (х + tw) - ft (x)]/t < /0 (v). (13)
4* 99

С учетом леммы имеем
lt(v)+l2(v)=l0(v) для всех v.
Это позволяет доказать обратное включение в (12), а значит, и в
(8), т. е. в (8) имеет место равенство. Теперь можно рассматривать
l0(v) как опорную функцию df0(x); поэтому lo(v)=f!(x; v) и из
(13) следует регулярность /0 в х.
Следствие 1. Предположим, что функция ft принимает
конечное значение в х и /2 — липшицевая функция вблизи х. Тогда
d(fi+fz)(x)czdfl(x)+dfz(x)f и в этом включении имеет место ра*
венство, если /4 и /2 регулярны в х.
Для доказательства применяем теорему 2.9.8, поскольку
множество в (7) содержит 0.
Следствие 2. Пусть Ct и Сг — подмножества X и х^Сх{\Сг.
Предположим, что
ТсЛх)ПЫТсЛ*)Ф0
и существует хотя бы одна гиперкасательная v к С2 в точке х.
Тогда
ТС1псЛх)=)7сЛх)Г1ТсЛх). 04
Nc,ncAx)CZNcAx) + Nc9(x), (16)
где множество в правой части (15) слабо* замкнуто. В (14) и (15)
имеют место равенства, если Ct и С» регулярны в х; в этом случае
CiDCz тоже регулярно в х.
Доказательство. Применяем теорему для случая /i=t|>ct
и /!=■♦<:■. Существование указанной выше гиперкасательной v
согласно предложению 2.9.3 эквивалентно тому, что /2 —
липшицевая по направлению в х функция.
Следствие 3. Пусть X=R*. Тогда предположение теоремы
2.9.8 о том, что ft — липшицевая по направлению функция, можно
заменить на предположение о полунепрерывности снизу fx в
окрестности х. Аналогично условие существования гиперкасательной v
в следствии 2 можно заменить на условие локальной замкнутости
С2 в окрестности х.
Для доказательства в первом случае воспользуемся
следствием теоремы 2.9.5, во втором обращаемся к теореме 2.5.8.
Суперпозиции с дифференцируемым отображением.
Следующая теорема, принадлежащая Рокафеллару, является
обобщением теоремы 2.3.10.
2.9.9. Теорема. Пусть f=g<>F, где F — строго
дифференцируемое отображение из X в другое банахово пространство Y и g: У-*-
^►RU{±°°}- Предполагается, что функция g принимает конечное
значение в F(x) и липшицевая по направлению в точке F(x)9 при-
чем
(lmD.F(x))r)int{v: g°(F(x); v).<oo}ф0.
Тогда справедливо включение
df(x)<=D.F(Xyodg(F(x)), (16)
100

в котором имеет место равенство, если g регулярна в F(x). (Здесь
Im А — образ линейного отображения А).
Доказательство. Пусть y*=F(x) и определим на XxY
функцию
i+oo, y'^F(x').
Заметим, что A=/»+f», где ft — индикаторная функция графика
отображения F, a f»(x', y')=*g(y'). Обозначим D.F(x) через А.
Лемма. Справедливо равенство
«.о/ ч (f°(x;v), w=*A(v),
{ +oo, хафА{р).
Доказательство. Чтобы доказать эту лемму, напомним,
что по определению для ht(x, у; v, w) имеется представление
Ню limsup inf *(*' + *', У+ *»')-« t
е-*о (x'ty,a)lh{x,y) (о',ш')е(о,»)+еВ t
где неявно предполагаемое условие a^h(x\ у') эквивалентно
соотношениям a^f(x') и y'=F(x') и где
h{x' + tv'fy' + tw') = {
(/(*' + */), w'= F(*' + t«)-F(*') 9
+ 00, *ф F(x> + tv>)-F(x>)
Поскольку F строго дифференцируемо в х9 то
Ню J^±^LzL^=A(v)
вследствие предложения 2.2.1. Отсюда следует, что величина
Л°(*, У\ v9 w) равна +оо, если тФА{о)\ в противном случае она
равна
lira limsup inf /(*' + **>-* =fo(X;v),
e-x» (x',a)i/jc o'et>+eB <
как и утверждалось в лемме.
Теперь вычислим множество дп(х, у)
дп(х, y)=\{(t, <р): h°(x, у; v, а»)Х£, о>+<ф, а»> для всех о, ш}>=
'=;{(£. ф): f(x; v)Xt, о>+<ф, Л(о)> для всех у} =
-{(С ф): № o)Xt+A*(q>), »> для всех о}-
={(£,<р):£+Л*(ф)<=д/(*)},
и, следовательно,
а/W-ft: (£,0)<=dA(*,j,)}. (17)
101

Теперь применим теорему 2.9.8 для указанного выше
представления h^fi+fz. Строгая дифференцируемость F означает, что для
множества G=graphF
То(х, у)=Ко(х, */)=graph А.
Таким образом, функция ft регулярна в (х, у) и
го, ч (0, w = A[v\
loo, и)фА(р),
dfi(*,У) = NG(x,y) = поляра (graphД) = {(£, ф): £ = -,4»}. (18)
Очевидно, что /2 — липшицевая по направлению функция, как и g;
при этом
fi(x9y;v,w)=g°(y;w)t
д?Ах,У) = {(0,Ч>)'. <PS^G/)}. (19)
Множество
{(»• w): /i°(*, У> v, w)< °°} П int{(v, w): ft(х, у\ v,w)<oo} =
= {(v, Л (v)): A (v) s int {о;: g° (у; w)< оо}}
непусто по предположению. Условия теоремы 2.9.8 выполнены,
поэтому
dh (х, у) adft (*, у) +df2 (х, у),
откуда с учетом (17) — (19) получаем включение (16).
Утверждение о равенстве в (16) также непосредственно вытекает из
теоремы 2.9.8.
Следствие 1. Пусть xeC:=F-1(Q), где QczY и F —
строго дифференцируемое в х отображение. Предполагается, что
существует гиперкасательная к Q в F(x) и выполнено условие
(ImD.F(jc))nintrQ(F(x))¥=0.
Тогда справедливы соотношения
Tc(x)Z)DsF(xr*[TQ(F(x))l
Nc(x)(ZDsF(xyoNQ(F(x)),
в которых имеют место равенства, если Q регулярно в F(x).
Для доказательства применяем теорему 2.9.9 к g=^c-
Следствие 2. Пусть У=КП. Тогда предположение теоремы
2.9.9 о том, что g — липшицевая по направлению функция, можно
заменить условием полунепрерывности снизу функции g в
окрестности F(x). Условие существования гиперкасательной в следствии 1
можно заменить на условие замкнутости Q в окрестности F{x).
Для доказательства в первом случае воспользуемся следствием
теоремы 2.9.5, во втором обращаемся к следствию 1 теоремы 2.5.8.
Множества, задаваемые посредством неравенств.
2.9.10. Теорема. Пусть С={х': f(x')^0} и /(*)=0.
Предполагается, что f — липшицевая по направлению в х функция, 0^
<£df(x)¥>0 и пусть D={v: f°(x; и)<оо}.
102

Тогда существует гиперкасательная к С в х, причем
TcW=>{v: Г(х; у)<0}, (20)
intrc(jc)=>{i>eintD: f°(x; у)<О}Ф0, (21)
адсиадиш (22)
где множество в правой части (22) слабо* замкнуто. Если, кроме
того, функция f регулярна в х, то в каждом из включений (20) —
(22) имеет место равенство и множество С регулярно в х.
Доказательство. Этот результат выводится из следствия 2
теоремы 2.9.8, если определить множества Ct как {(z, ц,): \i=0},
С2 как epif и точку (лг, 0) (укажем, что СХ^^С^Сг). Имеем
5Tc^0)-{(zt|i):|i-0}, 7c,(x,0) = epi/°(x; •) (23)
и из соображений двойственности получаем, что
"(к <*. 0) = {(£, и): С - 0}, JVCi = /С, (24)
где /С — конус из формулировки предложения 2.9.6.
Из теоремы 2.9.5 следует, что функция /°(х; •) непрерывна на
int Д следовательно,
intepif (xi •) = {(*, Р): *S int Д /•(*; t/)<P} (25)
и это множество непусто. Поэтому согласно (23)
ТсЛ*, 0) П int7с,(*, 0) = {(у, 0): ое int Д № и) <0}.
Если бы последнее множество было пустым, то множество (25)
содержалось бы в полупространстве {(и, р): р^0} и это было бы
верно и для его замыкания, содержащего epi/°(jc; •)• Это
означало бы, что f°(x\ и)>0 для всех и, в противоречии с условием 0§£
фд{(х). Следовательно, условия следствия 2 теоремы 2.9.8
выполнены (гиперкасательная к С2 в (х, f(x)) существует, поскольку
/ липшицева по направлению в х). Поэтому утверждения теоремы
непосредственно вытекают из следствия 2 теоремы 2.9.8 с учетом
равенств (23)-(25).

Глава 3
ДИФФЕРЕНЦИАЛЬНЫЕ ВКЛЮЧЕНИЯ
В те времена гамильтонианы наряду с
эллиптическими функциями, были
повальным увлечением.
Л. Янг. «Лекции по вариационному
исчислению и оптимальному управлению»
Никто не желает читать еще чьи-либс
формулы.
Закон Финмана
Во многих задачах, возникающих и в теории оптимального
управления, и при изучении дифференциальных неравенств,
приходится иметь дело с классами функций, производные которых
удовлетворяют некоторым заданным условиям. Примеры таких задач,
имеющих фундаментальное значение, встречаются при изучении
свойств решений обыкновенного дифференциального уравнения
*(') = /(', *(0).
Как эту, так и многие другие задачи можно рассматривать в
рамках теории дифференциальных включений
iWsF(/fx(0),
где F — отображение, значениями которого являются множества.
Эта сравнительно недавно созданная и все еще разрабатываемая
теория обобщает на случай дифференциальных включений многие
результаты из теории дифференциальных уравнений по таким
вопросам, как существование решений, их устойчивость и
инвариантность. В этой же главе основное внимание уделяется задаче
динамической оптимизации, в которой дифференциальное включение
представляет собой одно из ограничений, т. е. задаче оптимального
управления для дифференциального включения. Центральное
место здесь занимает задача, описанная в § 1.3 и 1.4.
Однако в первую очередь следует изложить соответствующий
математический аппарат.
104

§ 3.1. Многозначные отображения и траектории
Многозначным отображением Г: Rm->Rn называется
отображение, которое каждому *eRm ставит в соответствие множество
r(*)cRm (быть может, пустое). Если S — подмножество Rw, то
говорят, что Г замкнуто (компактно, выпукло, непусто) на S, если
для каждого x^S множество Г(*) обладает указанным свойством.
Многозначное отображение Г: S->R* называется измеримым,
если для любого открытого множества С из Rn, множество
{jcgeS: Т{х)Г[СФ0)
измеримо по Лебегу. Можно получить эквивалентное определение,
если потребовать выполнения этого условия для каждого
замкнутого множества С.
3.1.1. Теорема об измеримом селекторе. Пусть
многозначное отображение Г измеримо, замкнуто и непусто на S.
Тогда существует измеримая функция у: S-+Rn такая, что у(х)&
еГ(*) для всех jceS. (Функция у называется селектором.)
Доказательство ([42]). Заметим, что для любого £eRn
функция s-w/i» (£) измерима на S (как обычно, dT{9) — функция
евклидова расстояния до множества T(s)), поскольку
{S€=S: rfr(„a)<a}={seS: Г($)Г)[£+а5]=0}.
Пусть теперь {£<} — счетное всюду плотное множество в R", и
определим функцию
То (*)-£«. где t=min{/: dr(.) (&)<!}•
Лемма. Функции s-*y0(s) и s-xfrwOM5)) измеримы.
Укажем, что у0 принимает не более, чем счетное число
значений, и для каждого i
{s: Vo (s) = Ь) = Г) {s: dm (£/) > 1} П {*: <*т <М ^ 1},
где пересечение берется по всем /=1, ...,/—1. Отсюда следует
измеримость *у0- Чтобы закончить доказательство, надо только
отметить, что
{s: dr{5)(y0(s))>a}=lj[{s: y0(s) = t,} f) {s: dm(£/)><*}],
где объединение берется по всем натуральным числам /.
Чтобы продолжить процесс построения селектора, определим
для каждого *=0, 1, 2,... функцию yi+i следующим образом: f<+1(s)
равняется & с наименьшим номером, удовлетворяющему
соотношениям
I С/ — Т/ (*) К j dr(s) (Vi (s)), dr{s) (£/) < j dm (yt (s)).
Как и в приведенной выше лемме, получаем, что каждая функция
yt измерима. Более того, получаем неравенства
*W<T/«<*))< (j)'*W <*<*)).<(■§■)'
105

вместе с соотношением |^+1(s)—y,(s) | ^(2/3)<+1. Отсюда следует,
что (т<(5)} есть последовательность Коши, сходящаяся к t(s) для
каждого s, и т есть измеримый селектор для отображения Г.
Доказательство следующего результата предоставляется
читателю в качестве упражнения.
3.1.2. Предложение. Пусть многозначное отображение Г
замкнуто и измеримо, а функция g: RmxRn-^R такова, что:
a) для каждого x^S функция y-*g{x, у) непрерывна;
b) для каждого y^Rn функция x-*g(x, у) измерима на S.
Тогда многозначное отображение
G(x) = {ye=T(x):g(x,y)=0}
измеримо и замкнуто на S.
Теорема Ауманна. Рассмотрим случай, когда множество S
совпадает с отрезком [а, Ь] в R. Будем говорить, что многозначное
отображение Г интегрально ограничено, если существует
интегрируемая функция ф(/) такая, что для любых fe[a, b] для всех
^еГ(0 справедливо М^ф(0- Далее, со Г обозначает
многозначное отображение, значение которого для каждого t совпадает с
выпуклой оболочкой Г(/). Интегралом от Г на отрезке [a, Ь]
является множество
[Г:= | f y(f)dt: у(-) — измеримый селектор для Г| .
В гл. 7, § 7.2 будут использованы результаты гл. 2 для того,
чтобы доказать следующий результат.
3.1.3. Теорема (Ауманн [14]). Если Г измеримо, замкнуто,
непусто и интегрально ограничено на [а, Ь]9 то
$r=Jcor.
Липшицевые многозначные отображения и трубки. Говорят,
что многозначное отображение Г удовлетворяет условию
Липшица (или Г — липшицевое отображение) с постоянной &, если для
всех хи х2 из S и любого ^еГ^) найдется такой элемент ^е
€=Т(х2), что
lTi-1fil<*l*i-*»li
где | • | обозначает обычную евклидову норму. (Конечно, если Г —
функция, то это определение сводится к определению из § 2.1.)
На протяжении всей главы мы будем рассматривать
многозначное отображение F(t, х) из RxR* в Rn, у которого значения
(t, х) аргумента лежат в заданном подмножестве QcrRXR". О
поведении F(t, х) по t и по х будут сделаны разные предположения.
Удобно полагать, что F(t, х)=& всякий раз, когда (*, х) не лежит
в области определения Я.
106

Пусть S и Й, определяются таким образом:
S = {/: (/,х)ЕЙ для некоторого х^ R"},
Qt = {x: (/,х)ЕЙ}.
Множество Й называется трубкой, если множество S есть
интервал (обозначим его [а, Ь]) и существуют такие непрерывная
функция w(t) и непрерывная положительная функция e(t) на [а,
Ь], что Й,=ад(/)+е(0# для te[a, ft]. Такую трубку назовем
трубкой на [а, Ь]. Если х —заданная непрерывная функция на [a, ft],
то е-трубкой вокруг х, обозначаемой Т(х; е), называется трубка
на [а, й], представимая в виде
Q={(t, х'): a^t^b, x'e=x(t)+eB}.
О функции х, определенной на [a, Ь]9 для которой (/, x(t))
лежит в й при всех fe[a, 6], говорят, что она лежит в й. Трубка
Й обладает тем свойством, что для любой непрерывной функции
х, лежащей в й, множество Й содержит Т(х; г) для некоторого
е>0.
3.1.4, Определение. Пусть й — трубка на [a, Ь].
Многозначное отображение F называется измеримо липшицевым на й,
если:
1) для каждого JceRn многозначное отображение t-+F(t, х)
измеримо на [а, &];
2) существует интегрируемая функция k(t) на [а, 6] такая, что
для каждого t из [а, 6] многозначное отображение x-+F(t, х) есть
непустое и липшицевое отображение с постоянной k (t) на й*.
С многозначным отображением F связана функция р: ЙХ1*П-^
->-[0, +оо], определяемая следующим образом:
p(t,x,v) :=mi{\v-y\:yz=F(t,x)}
(в соответствии с обычным соглашением inf0= + oo). Если
F(ty х) замкнуто и непусто, то v^F(t, х) тогда, и только тогда,
когда р(/, х, v)=0.
Следующее утверждение выводится непосредственно из
определений (см. [48], предложение 1).
3.1.5. Предложение. Если F — измеримо липшицевое
отображение, то:
a) для каждого х и v из R* функция t-+p(t9 х, v) измерима;
b) для любых (t, Xi) и (t9 х2) из й и для любых vt и v2 из Rn
имеем
|p(f. хи t;4)-p(/, xly v2) | <£(/) \xi-x2\ + \vi-v%\.
Можно показать, что, если F замкнуто и непусто на й,
свойства а) и Ь) на самом деле эквивалентны условию измеримой лип-
шицевости. Отсюда можно получить, что многозначное
отображение t-+F(t, x(t)) измеримо (см. [48], лемма 3.8). Этот факт будет
использован позднее.
Кривые и траектории. Всюду далее будем полагать, что
интервал [a, Ь] и трубка й на [a, Ь] заданы. Термин кривая относится
107

к абсолютно непрерывной функции х: [a, fe]-^Rn. Другими
словами, кривая —это функция *(*)> дифференцируемая почти во всех
точках отрезка [а, Ь] и совпадающая с интегралом от ее
производной с точностью до постоянного вектора. (Этот класс функций
обычно используется при изучении дифференциальных уравнений.)
Определим норму
||*|| : -max{|jt(f)|: a^t^b].
Траекторией (для F или дифференциального включения F)
называется кривая х такая, что для почти всех fe[a, b] x(t)
содержится в F(t, x(t)). Будем использовать обозначение
x(t)eF(t9x(t)) п. в.
В приводимой ниже теореме предполагаем, что отображение F
измеримо липшицево на Q (см. определение 3.1.4) и полагаем
/С =ехр | f k(t)dt\. Если кривая х лежит в Q, определим величину
pF(x) = $p(t9x(f)9i(f))dt
а
(предложение 3.1.5 обеспечивает измеримость функции t-+p(t9 x(t)9
*(fi)), так что интеграл определен, хотя, возможно, и равен +оо).
3.1,6. Теорема. Если для кривой х е-трубка Т(х; е)
содержится в Q и pF(x) <е//С, то существует траектория у для F9
лежащая в Т(х; е) и удовлетворяющая соотношению у(а)=х(а)9
такая, что
\x-y\<:$\i(f)-y(t)\dt^KpP(x).
а
Доказательство. Из предложений 3.1.2 и 3.1.5 следует,
что многозначное отображение
t+{v&F(t9x(f): p(t9x(f)9i(t)) = \v-i(t)\)
измеримо и, следовательно, по теореме 3.1.1 для него существует
измеримый селектор v0(-). Пусть xl(t)—x(a) + С v0(x)dx. Легко
а
получить, что
ь
\x1 — x\^^\x1 — x\dt = pF(x)<Z
а
(поскольку /С^1), так что х^Т(х9 е). Теперь найдем такой
селектор Vi(t)<=F(t9 x(t)) п. в., что
К — *l|=P(',*l,*l) п. в.
108

Из предложения 3.1.5 получаем
P(t9x1$x1)^p(ttx9x) + k(t)\x1 — x\ + \x1 — x\^:
<9(t,xtk) + \k1-x\ + k(t)pF(x).
Отсюда следует, что функция иД-) интегрируема. Положим
xt(t)=x(a)+ f vt(x)dT. Тогда для почти всех te[a, b]
а
| х2-х\ | = | Vi-X, I =p (t, xlt xt) ^
Это неравенство означает, что
1*1<0-*1(0|<рИ«) f *«Л.
I/
a
Кроме того, х2 лежит в Т(х, е), поскольку
\Хш-х\<\хш-х1\ + \х1-х\<9р(х) ^kiijih + ^-xl^
а
<р,(х)5*(т)Л + рр(х)=»р,(х)Г1+|*(т)л1<
< Рр (дг) ехрЦЛ (т) rfxl = pF (х) К
Определим теперь
a a a
O'^sl, *••=/) и напомним простую формулу
<«.
>-£[j*w*]'.
St(f):
La
Продолжив построение последовательности xi9 получим на
каждом шаге
*,+1(/)E=F(/,x*(0)n.B.,
|iifi(0-*WK*(0|*(0-^W|.
По индукции отсюда следует:
1) |iM(0 —%(0|<Pf(x)*(0 _L^rjA(T)rfr"| , i=l,2,...;
2) |х^(0-х^0|<р^(х)1К*(т)л1 , f = 0, 1,2, ...
109

Для каждого i кривая х{ лежит в Т(х; г):
\xi(t)-x(f)\^pF(x) + pF(x)S1(b) + 9F(x)S2(b)+ ... =
-PFwfl+|ft(T)dT + -l-Jj*(T)A] + ^1|*(т)л| +...1 =
= pF(x)exp j Jk(x) dx\ = KpF(x) <e.
Из 1) видно, что {xt} является последовательностью Коши в
Ll[ay b] и сходится к функции v(-) в Ь*[ау Ь], причем некоторая
подпоследовательность сходится к v(-) почти всюду. Из 2)
следует, что {х{} сходится равномерно к непрерывной функции у (для
которой у(а)=х(а)). Отсюда получаем, что
v(t)eF(t9y(tpn.B.
Из соотношения *i+1(/)= х (а) + [ xt(x) dx выводим, что */(/) =
а
t
=х(а) + С v(x) dx, т. е. у является траекторией для F. Искомая
а
оценка для у очевидным образом следует из 1).
Обобщенные траектории. Обобщенной траекторией
называется кривая х, определенная на [a, Ь] и являющаяся траекторией
дифференциального включения со F, т. е.
х(0есоF(/,*(/)) п. в.
Теперь предполагаем, что F удовлетворяет предположениям
теоремы 3.1.6 и, кроме того, интегрально ограничено на Q (т. е.
существует такая суммируемая функция ср(-)> что для всех (t, jc)gQ,
v^F(t, х) выполняется |u|^<p(f)).
Следствие. Пусть у — произвольная обобщенная
траектория, лежащая в Q. Тогда для любого б>0 найдется траектория х
для F, для которой х(а) =f/(a) и \\х—t/li<6.
Доказательство. Предполагаем без ограничения общности,
что а=0, 6 = 1. Пусть К>0 таково, что Т(у; К) содержится в Q.
Пусть е=Л/2 и выберем а>0 из условия
a < minj—-—, , el
Затем выберем натуральное m такое, что для любого
интервала /из [0, 1], длина которого не превосходит 1/т, выполняется
неравенство
j
ф(0Л<-|-.
7
Обозначим полуинтервал [(/—l)/m, j/m) через /, (t = l, ..., m).
ПО

Поскольку F(t, y(t)) измеримо и интегрально ограничено, можно,
применяя теорему 3.1.3, доказать существование интегрируемых
функций fi таких, что /i(/)eF(/, y(t)) для почти всех /<=/, и
lfi(f)dt = $y{f)dt9 /=l,...,m.
Ч Ч
Пусть функция f совпадает с h на /Л; определим кривую х0
следующим образом:
x0(t)=y(0) + l f(T)dx.
о
Имеем для каждого fe/j для некоторого /
\x0(()-y(t)\ =
|[/(T)-^(T)]dT
i
|/(T)-y(T)|dx<S2V(T)dT<a.
Ч Ч
Отсюда следует, что ||лг0—у||<<х<е, поэтому Т(х0; е) содержится
в Q. Из того, что x0(t)^F(t, y(t)) п.в., получаем для почти всех t
P(t,x0(t)/x0(t))^k(t)\x0(t)-y(t)\^k(t);
отсюда
j.
Теорема 3.1.6 обеспечивает существование траектории х для F
такой, что *(0) =лг0(0) и \\х—х0\\^.Крр(х0). Тогда
a=a\l+K^k(t)dt\ <б.
Компактность множества траекторий. Доказываемый здесь
вспомогательный результат будет неоднократно использоваться в
дальнейшем. Пусть многозначное отображение Г определено на
трубке Q на [а, Ь]. Пусть Г интегрально ограничено функцией <р на
Q и является непустым, компактным и выпуклым отображением
на Q. Кроме того, отображение Г должно быть j?X^-измеримо
(см. §4.1). Далее предполагается существование замкнутого
многозначного отображения X из [а, 6] в Rn и положительной функции
г (/) таких, что:
1) для всех /е=[a, b] X(t) + e(/)Bc=Q,;
2) для всех /е[а, b]9 x^X{t)+z{t)B многозначное
отображение л^-^Г(/, х') полунепрерывно сверху в х (см. определение в
§ 2.1);
3) для любой внутренней точки (/, х) множества Q
многозначное отображение t'-*T(t\ х) измеримо.
111

3.1.7. Теорема. Пусть последовательность кривых {*,},
определенных на [а, Ь], удовлетворяет условиям:
1) x$(t)eX(t) для всех t^[a, b] и \Xi(t) | ^<р(0 для почти всех
te[a9b];
2) х,(/)еГ(*, хМ)+у,Ц)+пЦ) для teAh где {у,}9
{г,}—последовательности измеримых на [а, Ь] функций, равномерно
сходящихся к нулю, {А}} — последовательность измеримых подмножеств
[а, Ь] таких, что measAf-+(b—а) (теаэЛ обозначает лебегову
меру множества АсИ);
3) последовательность {х$(а)} ограничена.
Тогда существует подпоследовательность {*,}, сходящаяся
равномерно на [а, Ь] к траектории х для Г такой, что x(t)^X(t) для
ecext^[a, b].
Доказательство. Последовательность {xt} равномерно
ограничена и равностепенно непрерывна, поэтому из нее можно
извлечь подпоследовательность (для которой сохраняется прежнее
обозначение), равномерно сходящуюся к функции х.
Воспользуемся теперь критерием Данфорда — Петтиса, с тем чтобы получить
подпоследовательность &}, слабо сходящуюся в Ll[a, Ь] к
функции v. Из представления Xi(t)*=Xj(a)+ Cx/(x)dx получаем, что
а
t
x(t) =дг(а) + Су(т)^т,так что х—кривая и x=v п. в.
а
Теперь пусть Л(/, s, p)=max{<p, f>: ч&ГЦ, «)}. Зафиксируем
вектор peRn и измеримое множество Va[a, Ь]. Интегрируемость
функции t-+h{t, X){t), р) очевидна. Обозначив характеристическую
функцию множества Aj через &> имеем (поскольку
подынтегральное выражение неотрицательно на А})
0<limsup $ [Л(/,*/ + »,р)-<Л^> + |г/||рОЛ-
/-*» vftA.
= lim sup J [h (t, xh p) — <p, x/)] dt <
/-*» VC\Af
< ] lim sup %jh (/, дг/, p) dt + lim sup \ (— p, i/) dt <
V /"*» '-*°° V(]Af
^ [ h (/, x, p) dt + lim sup V (— p, xj) dt + lim sup \ (p, xrfdt <
v
В силу произвольности выбора Vотсюда следует, что h(t, x(t)9p)^
^<р, x(t)} п.в. Поскольку h непрерывна по р, то это неравенство
может быть получено для всех р и любых t, принадлежащих неко-
112

торому множеству полной меры. Отсюда следует (см.
предложение 2.1.4), что *(/)еГ(/, x(t)) п. в. Лемма доказана.
Следующий результат, доказательство которого требует более
широкого применения теории меры и который будет использован
в дальнейшем, получен Винтером и Паппасом ([214], лемма 4.5).
Его доказательство можно найти в указанной работе.
3.1.8. Предложение. Пусть многозначное отображение Г из
[a, b] XRn в R", значения которого есть выпуклые компакты,
лежащие в заданном ограниченном множестве, имеет замкнутый график.
Пусть последовательность положительных мер {v<} слабо*
сходится к v0, последовательность кривых {*<} сходится равномерно к
х и для каждого i существует измеримая функция уи
удовлетворяющая включению 4i(t) еГ(*, ь(t)) Vi-почти всюду.
Тогда существует измеримая функция у0, интегрируемая по мере
v0, удовлетворяющая включению ^0(t)^T(tt x(t)) vo-почти всюду
и такая, что некоторая подпоследовательность мер i<dv< слабо*
сходится к Tfodv0.
§ 3.2. Задача управления
Первая задача управления для дифференциального включения,
которая будет изучаться, формулируется следующим образом.
3.2.1. Задача. Минимизировать значение функционала f(x(b))
на множестве кривых дг, являющихся траекториями
дифференциального включения F и удовлетворяющих ограничениям на левый
конец траектории х(а)<=С0 и фазовым ограничениям вида
g(t,x(t))^0, a^t^b.
Выше через F обозначается многозначное отображение,
определенное на трубке Q на [а, Ь] (см. определение 3.1.4). (Обычно в
приложениях Q представляет собой трубку вокруг изучаемой
кривой.) Отметим, что ограничение jceF(/, х) означает, что х лежит
в Q. Множество С0 задано в пространстве Rn, функции /: Rn-*R
и g: Q->Rn также заданы. Кривая х называется допустимой, если
она удовлетворяет ограничениям задачи.
3.2.2. Основные предположения. Выполняются
следующие условия:
1) F — измеримо липшицевое, интегрально ограниченное,
замкнутое и выпуклое на трубке Q отображение;
2) / — липшицевая на Qb функция с постоянной /С/;
3) функция g полунепрерывна сверху и для каждого te[a, b]
функция g(t, •) удовлетворяет условию Липшица на Q, с
постоянной Kg, не зависящей от /.
3.2.3. Предложение (существование решений). Наряду с
выполнением основных предположений будем предполагать, что
С0—компакт и для почти каждого t множество {х: g(t, х)^0}
содержится в Qt. Тогда, если существует хотя бы одна допустимая
кривая, задача 3.2.1 имеет решение.
Доказательство. Пусть X(t) = {x: g(t, х)^.0}.
Непосредственное применение теоремы 3.1.7 показывает, что для любой ми-
113

нимизирующей последовательности {х$ существует
подпоследовательность, сходящаяся к решению.
Гамильтониан. Функция Я: QxRw~^R, называемая
гамильтонианом задачи 3.2.1, определяется следующим образом:
H(t, х, p)=max{<p, v}: v<=F(t, x)}.
Далее, k обозначает функцию Липшица, соответствующую F
<см. определение 3.1.4), а ф обозначает интегральную оценку
сверху на F. Обозначение дН относится к обобщенному градиенту Н
по отношению к переменным (х, р) при фиксированном /.
3.2.4. Предложение. Функция Н конечна на QxRn. Если
{t, х) eint Q и peRn, то:
a) t'-+H(t\ ху р) измеримая в окрестности t функция;
b) x'-+H(t, х', р') —липшицевая функция в окрестности х с
постоянной \p\k(t);
c) p'-+H(ty jc, р') —липшицевая функция в окрестности р с
постоянной ф (/);
d) если (a, (})ed#(/, ху р), то $&dpH(t, х) {так что H(t, х, р) =
= <Р» Р»; кроме того, dpH(t, х, p)czF(t, х)\
e) если (а, $)^dH(t, х, р), то для любого неотрицательного
числа X (Ла, $)^dH(t9 х, Кр); любая точка (О, р), где $^F(ty х),
лежит edH(t, х, 0).
Доказательство пп. а)—с) оставляется читателю в качестве
упражнения; рассмотрим утверждение d). Первая его половина
следует из предложения 2.5.3, тогда как вторая является прямым
следствием теоремы 2.8.2. Для доказательства первой половины
утверждения е) ввиду теоремы 2.5.1 достаточно доказать, что если
(a, fl) =V#(jt, р), то (А,а, (J) =VH(x, Кр). Но это следует из
равенства Н(х,Хр) =ХН(х, р). Для второй половины утверждения е)
заметим, что
H°(t9x90;v9w)^
^limSup \H{t'x'kw)]=H(t9 х, w) >(Р, ю> = <(0, P), (v, w))9
bio L K J
так что искомый результат следует из предложения 2.1.5, а).
Гамильтоновы множители. Используем символ 3* g(t, х) для
обозначения множества
со {-у = lim ус: ус S dxg (tiy xt)9 U -* /, xt -+x,g (tif xt) > 0}.
t-юо
Заметим, что при выполнении условия 3.2.2, 3) множество 3* g(t9 х)
пусто, если g(t9 х) <0.
3.2.5. Определение. Множителем, соответствующим
допустимой кривой х, назовем упорядоченную пятерку [р, ^, \i> £, М»
где р — кривая, f — измеримая функция на [a, ft], ц—
неотрицательная мера Радона на [а, Ь]9 £ — вектор из Rn, Я —
неотрицательное число, удовлетворяющую соотношениям:
114

1) ledf(x(b));
2) носитель меры ja содержится в множестве
S : = {/€= [а, Ц: d>g(t, х(/))=*0>;
3) *t(t)^dxg(t, x(t)) |ы-почти всюду;
4) для почти всех /е[а, Ь]
Y^)]^dHUx(t\p(t)+ j y(s)ii(ds)y,
5) для некоторого г>0
p(a)<=rddc.(x(a)),
где dc#—функция евклидова расстояния до С0;
6) К + РФ)+ $ Y(s)|i(ds) = 0.
3.2.6. Теорема. Если кривая х есть решение задачи 3.2.1, то
существует множитель [р, f, ц, £, Я] для л: такой, что |Х| + ||ц|| = К
3.2.7. Замечания.
1. Если *—произвольная допустимая траектория, то для нее
всегда существует множитель [р, f, [х, £, Я] с р = 0, pi=0, К=0 (для
любых ^ и £). Это следует из того факта, что элемент (0, х) всегда
содержится в dH(t, х> 0), а 0 содержится в дйСш(х (а)). Условие
нормировки Я+Ы1 = 1, где ||ц|| обозначает норму меры ц, позволяет
избежать такой тривиальной ситуации.
2. Если g(t> x(t))<0 для всех / (т. е. фазовое ограничение
несущественно в х), то |л=0 и А,= 1, а условие 4) сводится к
включению (—р, *)ed#(/, ху р), обобщающему классическую гамиль-
тонову систему уравнений. Если, кроме того, /—гладкая функция,
то «условия трансверсальности» 5) и 6) могут быть записаны в
более знакомой форме
p(a)<=NCo(x(a)), p(b)=-Vf(x(b)),
где NCo обозначает (обобщенный) нормальный конус к С0 (см. § 1.2
и 2.4).
3. Множество S из условия 2) содержится в множестве
{t: g(t, x{t))=0}. Отметим, что существенны только значения ^
на S. Если 0Е:д%g(tу x(t)) для некоторого ty то можно получить
множитель, определив \i как единичную меру, сосредоточенную на
{/}, положив р=0, Я=0, f(/)=0 и выбрав любое %^df(x(b)).
Таким образом, теорема дает полезную информацию, если только
0&dxg(t, x(t)). Случай, когда фазовые ограничения заданы в
виде x(t)^X(t)y сводится к рассматриваемому, если положить
g(t, x)=dXit)(x).
Хотя всегда 0^dxg(ty х), для широкого класса множеств X(t)
(в частности, когда X(t) —выпуклое тело) 0^ d;g(/, х).
115

4. Случай нескольких ограничений ga(t9 x)f аеЛ, сводится к
случаю одного ограничения вида g(t, jc): = supgi (t, х). Если огра-
ничение 8(/, х)^0 должно выполняться только для t из
замкнутого множества Са[а, Ь], то можно положить g(t, х) =8(/, х) для
ieC, а для остальных t положить функцию g(t, х) равной
достаточно большому отрицательному числу.
Доказательство теоремы 3.2.6. Этап 1. Пусть Qe
обозначает замыкание трубки Т(х; 6/2), где 6>0, и Т(х; б)
содержится в Q. Для любого а>0 определим новое многозначное
отображение Fa(ty х') =F(f, xf) +аЕ. Впоследствии будет совершен
предельный переход при о->0. Отметим, что Fa имеет все те свойства,
которыми обладает F. Определим также функционалы на
множестве кривых:
G(y):= max £(/,*/(/)),
Фс (у): = max {G (у), f (у (b)) - f (x (b)) + e2>,
тле e — произвольное положительное число. И, наконец, Аа
обозначает множество всех кривых (/, удовлетворяющих соотношениям
У(а)&С0, y^Fa(t,y)n.B.
Нетрудно заключить из теоремы 3.1.7, что метрика Д,
определенная равенством
b(y,z):=$\y(t)-*(t)\dt + \y(a)-z{a)l
а
превращает Аа в полное метрическое пространство. Заметим, что х
остается оптимальной траекторией, если заменить С0 на С0Г)(х+В),
и эта замена не приводит к изменению множителей. Таким
образом, без ограничения общности можно предполагать, что Св
компактно.
Лемма 1. Если задано е>0, то для всех достаточно малых
<х>0 и для любых у^Аа имеет место уа(у) >0.
Доказательство. Если это не так, то существуют такие
последовательности ог^О и yteAU9 что q>e(j/<) ^0.
Используя теорему 3.1.7, можно предположить, что у4 сходится
тс элементу у из Л0. Получаем, что q>e(#)^0, так что у
удовлетворяет фазовому ограничению G(t/)^0, а также неравенству
f(y(b)Xf(x(b))-B*.
Это противоречит тому, что х есть решение задачи 3.2.1. Лемма
доказана.
Этап 2. Выберем <х<е, удовлетворяющее утверждению
леммы 1, и заметим, что <р, (х) =е*. Из леммы 1 следует, что
<Pe(*)^infq>e + e*.
Аа
116

Следовательно, по теореме 7.5.1 существует элемент геЛа,
минимизирующий функционал ф.(у)+еД(|/, г) на множестве кривых у
из Аа и такой, что
Д(*, z)<8, Фе0г)^е2.
Для достаточно малых е это означает, что г лежит в трубке
Т(х; 6/4); далее выбираем е только таким. Пусть ра определяется
Fa точно так же, как р определяется многозначным отображением
F (см. предложение 3.1.5). Постоянные Kh Kg определены в
предположениях 3.2.2, а К определяется в теореме 3.1.6.
Л е м ма 2. Для некоторого т|>0 кривая z минимизирует
функционал
а
на множестве всех кривых у, удовлетворяющих неравенству
\\y—z\\<r\, где
/d = max {К,,/С,} [Kin (К)+1], *,= ll,'/1^' »
/C, = /Cmax{/Cf,/G*}, К€ = {Ь—а+1)К.
Предположим, что утверждение леммы неверно. Тогда
существует последовательность кривых уи сходящаяся равномерно к г>
для которых значение функционала в лемме меньше, чем его зна-
ь
чение для «.Отсюда следует, что f pa(tf yt, yt) dt<e/K при достаточ-
а
но малом е. Пусть с,еС0 таковы, что rfceG/<(fl)) = \УЛа)—с<\- Теперь
определим кривую $г<(08У<(')+с<—У<(а). Тогда с помощью
предложения 3.1.5 получаем оценку
ь . ь
а а
Применяя теорему 3.1.6 (в случае, когда х=у{ и F=Fa) для
достаточно больших i, находим траектории z, включения Fa такие,
чтог<(а)=уЛа)=с,е=Со и
ft . *
jift-»H<irjftI(/fsi,«;)*.
а а
Отсюда следует, что
ь
<*
<fc.(№ (a)) In (К) + J pa (/, № ft) Я| + dc. (ft (a)).
117

Теперь получаем с учетом определении уи что
<Ре(г<) + еД(г,, z) sg
< <Ре (Уд + е Д (#, г) + [max {К,, Ке) + г + е(Ь- а)] || г,- - у, | «£
< Фе (у*) + еД (у,, г) + [/С, + гК2) dc, (yt (а)) +
+ [К9 + е/С4] J рв (*, */,, у,) dt < Фе (г).
а
Это означает, что на элементе z{ из Аа функционал <ре(-) +
,+ еД(-, z) достигает меньшего значения, чем на z, что
противоречит оптимальности z. Лемма доказана.
Этап 3. Перейдем к вычислению обобщенных градиентов всех
четырех функционалов, фигурирующих в утверждении леммы 2.
Для любой кривой у определим
fi(y) = 4>e(z + y\ /i(y) = eA(z + &*)»
/з (У) = (Кг + гК2) dCo (z (а) + у (а)),
М0) = (*з + е*4)$р«(/,г + *Л z + y)dt.
а
Утверждение леммы состоит в том, что кривая t/=0 доставляет
минимум функционалу /1+/2+/3+/4 на множестве кривых у> для
которых НуIIоо+ \у(й) | достаточно мало. Все четыре функционала
удовлетворяют условию Липшица относительно этой нормы в
окрестности 0, так что условие стационарности
Oedtft+Z.+f.+MfO)
означает справедливость включения
Ое=<ЭМО)+дЫО)+<ЭЫО)+<ЭЫО). (1)
Если А — липшицевая функция на Rn, то любой элемент £
обобщенного градиента отображения y-+h(y(a)) для кривой у0
представляется элементом £0^дА(у0(а)), так что £(#)=<£<>, у (а)} для
всех у (это следует из теоремы 2.3.10). Поэтому любой элемент J;
из д/3(0) имеет вид £(#)=<£, t/(a)>, где £o^d(/Ci + e/C2)dCo(z(a)).
Обращаясь к примеру 2.7.4, получаем, что для любого £ед/4(0)
найдется функция (q, s), удовлетворяющая включению
(<7, s)(t)e=d(Ks+eKb)pa(tt z, z) п.в.
такая, что для всех у
а
Аналогично любому^ элементу £ед/2(0) соответствует функция г,
для которой r(t)^eB, и точка г0^гВ такие, что
m = {ru9y(a)) + l{r,y)dt.
а
118

Осталось рассмотреть fiu Если £— элемент обобщенного градиента
отображения y-+f(z(b)+y(b)) для кривой у=0, то как
указывалось выше, £(У)=<£Ь у(Ь)} для некоторого £,ed/(z(ft)). Если £ —
элемент dG(z) и если (?(г)>0, то по теореме 2.8.2 Е;
представляется в виде
т= J <т(о.у(о>1*(Л).
где ji — вероятностная мера Радона на [а, 6] и Tf(0e=d$g(/, z(/))
для pi-почти всех /е[а, Ь] (функция «у называется \1-селектором из
Далее, если G(2)<<pe(2)=/1(0), то <р.(у) =f(y(b)) — f(x(b))+s*
для всех у из окрестности г, так что дД (0) представляется
указанными выше £4. В противном случае выполняется G(z)^<pe(z)>0
(см. лемму 1), так что по теореме 2.8.2 любой элемент £e/i(0)
представим в виде
С(0~ЧЬ.У(&)> + (1-*) I <Т.У>1*(Л).
где О^Я.^1; d, Т» М- были описаны выше. Полученные
представления позволяют записать (1) в виде следующей леммы.
Лемма 3. Существует вероятностная мера ц, ^.-селектор
7(0 дляд%g(t, z(t)), скаляр А,е[0, 1], элементы £0 и £4 из (/С4 +
+ e/Cs)cWce(z(a)) и df(z(b)) соответственно, селектор (qy s) для
(Кг + еКк)драу, z, г), селектор г для гВ и точка г0^гВ такие, что
для любой кривой у с ограниченной производной
[«Л
+ §{(q + r,y) + (s, y)]dt=0.
a
Для получения следствий этого знакомого по вариационному
исчислению соотношения имеется классическая лемма Дюбуа —
Реймона. Проводя стандартные рассуждения (см. [112], с. 50),
получим из этой леммы, что
s(0 = £o + ro+ {(4 + r)dx + (l-X) J т(т)|1(Л),
a [a,t]
s(b) = -Ki.
Определим кривую p:
p(t) = U + r0 + l(<l + r)dT.
a
119

Кривая р удовлетворяет соотношениям
Гр —г,р + (1—X) $ ydVL]<=z(K9 + tKJdp*(t9z92)n.B.9 (2)
L [a,t] J
р{а)^{К,+гКг)дйсЛг{а))+гВу (3)
p(ft) + (l-X) J уйре-ЩШ- (4)
Этап 4. Теперь введем в рассмотрение гамильтониан #.
Лемма 4. Яз соотношений (q9 p)^dKp*(t9 у, v) и ра(/, у, v) =
=0 следует, что (—q9 v) ^dH(t9 у9 р) +аВ.
При доказательстве леммы опустим символ /, значение
которого считается фиксированным. Заметим, что На(у, р)=Н(у, р) +
+а|р|, так что достаточно доказать включение
(—q9 v)€=dHa(y, р).
Если в точке (у'9 v')t где v'^Fab/), существует градиент
^рЛу7, v')9 то он равен 0, поскольку функция рв достигает
минимума в этой точке. Учитывая теорему 2.5.1, отсюда получаем, что
(q9 р) можно представить в виде2 kiiQu A)t где Я,—
положительные числа, сумма которых б не превосходит 1. Каждый вектор
(Q*, Р{) есть lim/(Vpa(#j, vt)—предел для некоторой
последовательности (yj9 Vj)-+(y, v)9 где vfi£Fm(ys). Для таких точек (yh v,)
по предложению 2.5.4 Vvpa(yJy v5) есть единственный вектор
единичной длины, перпендикулярный к Fa(yi) в ближайшей к v, точке
из Fa(yi). Отсюда следует, что каждый вектор Р{ равен одному и
тому же вектору Р длины /С, который порождает нормальный
конус NFa(y) (v). Отметим, что р=бР, и можно предполагать, что 6>0
(в противном случае р=<7=0 и утверждение леммы следует из
предложения 3.2.4, е).
Убедимся, что для доказательства леммы достаточно показать,
что каждая пара (Qiy А) = (Q<, Р) удовлетворяет включению
(-Qi9v)edH.(y9P).
В самом деле, если это выполняется, то получаем (поскольку
W6>0,2W6=1)
(-ffi.v}edH*{y9P).
Отсюда по предложению 3.2.4, е)
а это и есть доказываемое включение.
Теперь доказательство леммы свелось к проверке включения
(—Qu v)^dHa(y9 Р)9 где элемент (Qi9 />)=lim/CVpe(t/j, vt) описан
выше.
120

Очевидно, достаточно показать, что для любой точки вида
(?, j5)=/(Vpa(y, г?), где v&Fa{y)y точка (—g, v) содержится в
дНа(у, р) + [0, р«(у, v)B]. Это в свою очередь следует из
неравенства
#£(£,/>;а,ау)5*(— q,v)(uyw) — \w\p*Q, v)9 (5)
где (и, w) —произвольный элемент RnXRn. Укажем на следующие
два факта:
a) #«(s, г) =sup{r-[l—/Cpa(5, р): peRn} всякий раз, когда |v\ ^
^/С (это следствие предложения 2.4.3);
b) Ha(s, t;)=r.p—/Сра(5, р), если r=/CVppa(5, р) (это следует
из а), поскольку sup достигается в точке (J).
Для любого К>0 определим Kx=\p+Xw\. Заметим, используя
а) и Ь), что
На(у + Ьи, р+Щ — На(у, р)>
^(р + Щ-V — /Слра(£ + Ь, У)— р-У+/Сра(у, V) =
= hv.v—[Kp*G+ht,v) — Kpa(y,v)] + (K — K>)p*
Разделим это выражение на X и, используя неравенство К—Кх^
^—%\v\ (поскольку |р| = /С), получим (5). Тем самым лемма 4
доказана.
Воспользуемся этой леммой для того, чтобы переписать (2) в
виде
(- р, i) S дН (t9 z, р + (1 - X) J £dfi) + 2efi, (6)
где были использованы оценки \r\ ^е, а<е.
Теперь следует вспомнить, что е>0— произвольный
достаточно малый параметр. Заключительный этап доказательства состоит
в предельном переходе в соотношениях (3), (4) и (6) для
соответствующих подпоследовательностей. Заметим, что р, f, (i, Я, z
зависят от е, а Ки /С2, К*, /С4 не зависят. Кроме того, z равномерно
стремится к х при е-й) (так как Д(*, z)^e). Выбираем
последовательность из чисел е, сходящуюся к 0 так, чтобы Я-*Я0е[0, 1].
Можно показать, применяя теорему Радона — Никодима, что
найдется подпоследовательность векторных мер т) вида dr\ =
«=(1—A,)fd(i, слабо* сходящаяся к мере т)0 вида rfT)0=iforf|jio, где
неотрицательная мера Цо есть слабый* предел подпоследовательности
(1—Я)|А, а fo есть jio-измеримый селектор отображения дх g(t,x(t))
(следовательно, Я0+||(Ао11,==0. Упомянутый сейчас результат
следует из предложения 3.1.8, поскольку отображение d>g равномерно
ограничено, компактно, выпукло и имеет замкнутый график.
Отсюда же вытекает, что носитель меры ц,0 содержится в множестве
S из п. 2 определения 3.2.5. Если это множество пусто, то А,= 1 для
малых е, так что ц0 в действительности «отсутствует» в множителе.
121

Теперь определим многозначное отображение Г и измеримую
функцию уш следующим образом:
Г(/,дг,р) = {(-1>,1|): (а,1>)еа//(/,*,р+ j* Yo^o)},
y%(t) = (\ — Хе) J v^— J YodfV
[e.O [a.0
Отметим, что для каждого е
(2е, Ре)е Г (*, Z8, ре +&) + 2еВ
и ye(t) сходится к 0 при е->0 tez[a, b]. Воспользуемся теоремой
3.1.7 для того, чтобы указать на существование некоторой
подпоследовательности (ге, Р«), равномерно сходящейся к (х, р). Тем
самым доказано существование множителя в смысле определения
3.2.5, что и завершает доказательство теоремы.
С учетом приведенного соотношения (3) получаем, что выше
было также доказано
Следствие 1. Множитель [р, f> fi, £, Л], существование
которого утверждается в теореме, удовлетворяет включению 5)
определения 3.2.5 для любого г>Ки где
tfii-maxtf,, Кв}[КЩК) + 1].
Приведенное доказательство теоремы с очевидными
изменениями можно использовать и в случае минимизируемого функционала
вида f(x(a), x(b)), зависящего от х(а) и х(Ь). Его можно также
модифицировать для рассмотрения задачи, в которой х доставляет
минимум функционалу
m*x{f(y(b))-f(x(b))y G(y)}
(это более слабое предположение, чем предположение, что х
доставляет минимум функционалу f(y(b)) при ограничении G(y)^Z
<0).
Единственное возникающее при этом отличие в доказательстве
заключается в лемме 1, где можно только утверждать, что <ре(*/)^
^0. Поэтому при вычислении д<ре в дальнейшем могут появиться
члены, определяемые dG(z), даже когда G(z)=0. Так что вместо
дх g(t> х) возникает следующее (вообще говоря, большее)
множество:
dxg(t9 х) = со {limZn bGdjcgikxt), (ti9xt)-+(tf х)}.
Таким образом, получаем
Следствие 2. Пусть х доставляет минимум функционалу
max{f(y(a), у(Ь))-Цх(а), х(Ь))9 G(y)}
на траекториях у включения F, для которых у(а)^С0. Тогда су-
ществует такой элемент [р, f, pi, £, А,], где Я+||(г11'=1» что все
пункты определения 3.2.5 выполняются со следующими изменениями:
d^g заменяется на dxg, включение в 1) заменяется на включение
£ед/(х(а), х(Ь)), где £=(5ь £2); в 6) g заменяется на £1э включе-
122

ние в 5) заменяется включением
р(а)е=К* +г ddc.(x (<*))•
3.2.8. Замечание. Как будет показано в § 3.6, когда Fug
не зависят явно от t, можно добавить к приведенным условиям и
условие постоянства гамильтониана H(x(t), p(t)+ ] t(s)\i{ds))
[a,t]
на [a, b].
§ 3.3. Задача о разработке полезных ископаемых
Экономическая теория процесса добычи полезных ископаемых
восходит к классической работе [125]. Динамика модели,
рассмотренной в этой статье, очень проста: если y(t) измеряет уровень
запасов невозобновляемых полезных ископаемых в момент /, то
t/=—q, где скорость добычи q есть управляющая переменная. По
мере усложнения моделей для более полного описания процесса
добычи при анализе оптимальных режимов добычи все чаще
использовалась теория оптимального управления. В этом параграфе
рассматривается модель, по-новому описывающая определенные
экономические особенности процесса добычи. Тогда как
экономическая сторона модели представляется достаточно естественной,
получаемая математическая задача не поддается изучению
традиционными методами. Эта задача будет решена с использованием
результатов предыдущего параграфа с тем, чтобы показать
некоторые особенности применения теории к конкретным задачам.
Задача. В рассматриваемой модели процесс добычи требует
привлечения капитала (оборудования) z и труда (рабочей силы)
v в равных количествах (в нормированных единицах)—принцип
«один человек — одна лопата». Это можно описать уравнением
y = — min(ztv)r(y\ (1)
где множитель г (у) отражает тот факт, что для определенного
уровня усилий (т. е. z и v), скорость добычи зависит от уровня
оставшихся запасов у. Далее, предполагается, что часть труда w
может быть использована для изготовления оборудования
(капитальные вложения):
z=yw. (2)
Общее количество рабочей силы L(t) определяет, следовательно,
ограничение
(и, w)eU(t)9 (3)
где множество U задается соотношениями
Oz^v, 0^a>, v + w^L(t).
На языке теории оптимального управления, v и w — управляющие
переменные, у, z — фазовые переменные, полностью определяемые
123

уравнениями (1) и (2) и начальными условиями
у(0)=Уо>0, г(0)=2о>0. (4)
Предполагается, что владельцы запасов полезных ископаемых
действуют на конкурентном рынке и заинтересованы в
максимизации следующей величины чистого дохода (с учетом
дисконтирования)
Т [Т
f егы {щ — av —Рад} dt = f егы {я min (z, v) г (у) — av — рад} dt, (5)
о о
где Т—период планирования, б — коэффициент дисконтирования,
я — цена полезных ископаемых, а и р — стоимость рабочей силы
при добыче и при капитальных вложениях соответственно.
Центральная задача планирования состоит в разделении
трудовых ресурсов между процессом добычи v и капитальными
вложениями w (т. е. производством оборудования). Заметим, что в этой
модели не рассматриваются альтернативные возможности
использования капитала. Пусть начальный капитал z0 очень велик
(>L(/)). Тогда бессмысленно увеличивать z так, что динамика
(1), (2) сводится к классическому уравнению у=—q (с той лишь
разницей, что имеется переменный множитель г(у\). Таким
образом, представленная модель предназначена для изучения процесса
образования капитала.
В работах [40] и [47] (в контексте возобновляемых ресурсов)
при рассмотрении вопроса о капиталовложениях допускалось
скачкообразное изменение z. Для простоты предполагалось, что
увеличение капитала является результатом некоторого решения, которое
никак не сводится к входным (или управляющим) переменным,
определяющим текущую продукцию.
Вопрос о капиталовложениях (инвестициях) рассмотрен в
некоторых современных моделях добычи полезных ископаемых (см.,
например, [79] и приведенную там библиографию). В них
вводятся производственные функции вида
g=G(z, ?, U 0, (6)
где как и прежде, z — капитал, L — труд, / — время и q— скорость
добычи, a g — величина выходного продукта, которую можно
использовать для производства z. Обычно недооценивают значение
трудовых ресурсов (например, исключают L), и центральным
вопросом становится определение скорости добычи q и инвестиционной
части продукции, используемой для приращения капитала и
позволяющей максимизировать некоторый критерий социального
благосостояния.
Использование таких производственных функций предполагает
некоторые допущения о взаимозаменяемости и независимости
входных переменных. Первое из них относится к тому факту, что
уменьшение величины одной из входных переменных (например, z)
может быть компенсировано увеличением другой (например, q). (Это
124

следствие обычных предположений, что G — гладкая функция, a Gz
и Gq положительны.) Под независимостью понимается, что q>
например, может быть выбрано независимо от z, т. е. возможности
добычи не зависят от количества капитала. Другими словами, как и
в модели Хотеллинга [125], процесс добычи описывается
упрощенно.
В изучаемой здесь модели эти допущения не делаются, и
основное внимание обращено на ситуации, когда входные переменные
требуются в определенных пропорциях, а выпуск продукции
ограничен текущим уровнем капитала z и соответствующей долей
трудовых ресурсов. Отметим, что уравнение (6) подробнее описывает
процесс производства, привнося в рассмотрение дополнительные
переменные, но при этом предполагается, что q есть независимая
входная переменная. Изучаемая здесь модель, наоборот,
определяет q как функцию других входных переменных, точнее описывая
механизм процесса добычи.
Пуу [165] рассмотрел похожую модель, в которой существует
только один вход (капитал) и в которой выпуск продукции и
формирование капитала не зависят друг от друга. Таким образом,
поднимаемые здесь вопросы затрагивались только косвенно. Однако
выводы [165] согласуются с приведенными ниже.
Хотя задача максимизации чистого дохода (5) при заданной
динамике (1), (2), ограничениях на управления (3), начальных
условиях (4) и, конечно, условии у^О имеет стандартный вид, для
ее изучения нельзя использовать обычные методы. Это
обусловлено недифференцируемостью функции min(u, z), что не позволяет
даже записать обычные уравнения принципа максимума (см.,
например, гл. 1). Любое описание производства с фиксированными
пропорциями обязательно включает такие функции в модель, что
и объясняет то обстоятельство, что такое естественное с
экономической точки зрения описание не привлекало внимания.
Однако, как будет показано, эту задачу легко
переформулировать в виде задачи 3.2.1.
Предполагается, что г и L — непрерывно дифференцируемые и
неубывающие функции. Кроме того, делается довольно слабое
предположение о том, что для некоторого г>0 г(у)^гу. Это
обеспечивает положительность решения у уравнения (1) и избавляет от
необходимости рассматривать неявное ограничение f/^0.
Переформулировка задачи. Основной шаг в
переформулировании предыдущей задачи с тем, чтобы придать ей вид задачи 3.2.1,
состоит во «включении» интегрального целевого функционала в
многозначное отображение F. Положим /2=3 и [а, Ь] = [0, Г], х
обозначает точку (уу z, s) в R3. Определим
f{y,z, s)=s, С0={(*/0, z0, 0)}.
Теперь выберем такое большое М, чтобы для всех соответствующих
величин у, z, vf w, t выполнялось e~6t[av+$w—nmax(i/, z)r(y)]<:
'<Af.
125

Определим
F (/, х) = F (/, у, г, s) = {[min (v, z) r (*/), W 9]: (a, w)eU (/),
e~5/ [ay -+- Pa> — я min (y, z) r (y)] ^ 0 ^ Щ
и оставим читателю проверку выполнения предположений 3.2.2 для
/, С0, F. (Заметим, что фазовые ограничения несущественны,
поскольку существует априорная положительная оценка снизу для
допустимых кривых г/, тогда как z обязательно не убывает.)
Рассмотрим кривую (yt z, s). Вследствие теоремы об
измеримом селекторе {у, z) удовлетворяет уравнениям (1), (2)_, (4) для
некоторых измеримых (v, w)9 принимающих значения в U и таких,
что
M^s(t)^ С егы \ш) + $w — я min (v, z) ry] dx,
о
тогда и только тогда, когда (у, г, s) являются траекториями
включения F, выходящими из С0. Отсюда следует, что задача о добыче
и этот вариант задачи 3.2.1 эквивалентны (т. е. оптимальные
кривые совпадают).
Гамильтониан. Будем использовать теорему 3.2.6, в которой
основную роль играет гамильтониан (см. предложение 3.2.4). Если
отождествить р из предложения 3.2.4 с (рь р2, ps)eR3, то из га-
мильтонова включения в п. 3) определения 3.2.5 получим, что р8=0
(поскольку F, а значит, и Я не зависит от s). Укажем, что из
несущественности фазовых ограничений следует, что у=0 и ц=0 для
множителя, так что Х = 1. Условие 6) определения 3.2.5 дает р3(Г) =
=—1 (поскольку £ = [0, 0, 1]) наряду с р4(Г) =р2(Г)=0. Отсюда
следует, что р, тождественно равно —1. Определим функцию
h(t, у, z, р, q):=H(t, у, z, s, р, q, —1).
Тогда из предложения 3.2.4 е) получаем, что гамильтоново
включение сводится к включению (полагаем pi=p, Рг=Я)
(— Р> —Я, У> z)Gdh(tt у, г, р, q) п. в. (7)
Таким образом, следует изучить решения этого
дифференциального включения с краевыми условиями f/(0)=#0, 2(6) =z0,
p(T)=q(T) =0. В первую очередь следует вычислить функцию Л,
которая есть максимум по (v, w) на множестве U(t) выражения
—pmin(t;, z)r+4qw+e-6t {я min (a, z)r—av—$w}
(где r=r(y)). Заметим, что это выражение кусочно линейно по
(и, w), так что максимум может достигаться только в крайних
точках U или в «углах» (точках недифференцируемости) функции.
Это следующие точки: (0, 0), (L, 0), (0, L) и (когда z^L(t))
(z,0), (z,L—z).
Обозначим
Ф= (ne-6t—p)r—ae~6t, q>=w—$e~6t-
126

Если z^Ly то для перечисленных выше точек выражение
принимает значения 0, cpz+a(2—L)e-*\ tpL, q>2, фZ+t|?(L—z) и ft
совпадает с наибольшим из этих значений (отметим, что четвертое
значение больше второго, так что второе значение можно не
учитывать). Если z>L, то ft совпадает с наибольшим из чисел 0, <pL, ^L.
Тем самым доказано
3.3.1. Предложение. Справедливо равенство
Л=тах{0, <pmin(z, L), ifL, tpL+((p—г|))пип(;г, L)}.
Решения гамильтонова включения. Предложение 3.3.1 приводит
к рассмотрению четырех случаев, определяемых
соответствующими значениями <р и ф (рис. 3.1).
Случай А. Выполняются соотношения <р<0, г|)<0: ft = 0. Здесь
обобщенный градиент dh совпадает с градиентом ft так„
что
ал=(о,о,о,о).
Следовательно, (7) дает
(~P,-i У, г) =(0,0, 0,0), (8а)
и, кроме того, получаем
Ф = — б (яг — а)<г*\ ф = бре-б/.
(9а)
Случай В. Выполняются
соотношения г|?>0, \|)>ф: ft=t|)L
(—Л— Я, У, *) = (0,0f0, yL),
(8b)
Ф = — 6(лг — a)*r6', фг=брИ'.
(9Ь)
Случай С. Выполняются соотношения ф>ф>0: А=ф+
+ (ф—г|?) min (2, L). Если z<L, то
Рис. 3.1. Четыре области
определения гамильтониана
Ф = — б(яг — a)e-w, \|? = y(^ —ф) + бре~б/.
Случай D. Выполняются соотношения ^<0, ф>0:
=фпип(2, L). Если 2<L, то
(_,,_^^2) = (£li±^V,(p,_2r,o),
<р = — 6(яг — а)е-5', ^ = — 79 + ^^'.
Граничные точки. Обозначим через АВ границу между
открытыми областями А и В, т. е. АВ это множество <р<0, г|з=0. Анало-
127
(8с)
(9с)
Л =
(8d)
(9d)

гичные обозначения используем для других границ. Когда (<р, tp)
лежит на одной из этих границ, dh содержит более чем одну точку.
Фактически dh есть выпуклое множество, определяемое
значениями dh в прилегающих областях А, В, С или D в точках, бесконечно
близких к рассматриваемой. Например, пусть ф<0, tp=0, т. е.
(<р, tp) лежит в А В. В близлежащих точках из A dh совпадает с
правой частью уравнения (8а), а в близлежащих точках В dh
совпадает с правой частью уравнения (8Ь). Таким образом, в
рассматриваемой точке дй={(0, 0, 0, s): O^s^fL}.
Анализ на фазовой плоскости. Далее следует проанализировать
поведение решений системы дифференциальных уравнений. Может
оказаться, что для некоторых задач такой анализ слишком
затруднителен. Тем не менее в таких случаях, комбинируя информацию,
полученную из необходимых условий методом проб и ошибок,
можно надеяться получить гипотетический вид решения, а затем
приступить к строгой проверке этой гипотезы. (Так было сделано
в работе [47].) Начнем с простого наблюдения.
3.3.2. Предложение. Если в некоторый момент t nr(y(t))—
—а<0, то в последующие моменты времени оптимальный режим
состоит в прекращении do6bmu и инвестиций (а(т)=до(т)=0 dля
т>0.
Доказательство. Достаточно заметить, что выражение
e-6x(nmin{v, z}r(y)—av—$w)
принимает неположительные значения при т^/ и равно 0, если
Для того чтобы избежать тривиального случая, когда «ничего
не происходит», будем далее предполагать, что лг(у0)—<х>0.
Можно также полагать, что если пг(у)—а обращается в 0, то
v = w=0 для всех более поздних моментов времени.
3.3.3. Предложение. В момент t=T (<р, tp) лежит либо в D,
либо в AD. Точка (<р, tp) не nonadaeT в А, В, АВ или ВС на отрезке
[0, Т].
Доказательство. Условие p(T)=q(T)=0 означает в
терминах ф и tp, что
<p(T) = (nr(y(T))-a)e-"9 $(Т)=-$е-<т. (10)
Вследствие предыдущего предложения ф(Г)^0 и ^(Г),<0, так что
в момент Т (ф, tp) лежит в D или AD. Предположим, что для
некоторого t (ф, tp) лежит в В; тогда в окрестности t можно
использовать уравнение (9Ь), так что ф^О, tp>0. Но отсюда следует, что
(ф, tp) остается в В в противоречии с условием, что (ф, tp) попадает
на D или AD. Из тех же соображений (ф, tp) не может попасть в Л,
АВ или ВС. Этот результат имеет интересное
Следствие. Вдоль оптимальной траектории z(t)\<,L(t).
Доказательство. Заметим, что по предположению z(0),<
<L(0), так что по непрерывности z(t)<iL(t) хотя бы в
окрестности нуля. Для любого такого t имеют место или уравнение (8с),
128

или (8d) (или их выпуклая комбинация), так что в любом случае
i^1f(L—z). Если обозначить 0(0 =L(/)—z(t), то последнее
неравенство означает 0=— f0 + e, где е(0 —неотрицательная функция.
Решение этого уравнения имеет вид
0 (/) = 0ое-* + <r* \ г (s) evsds,
о
где 0о=0(О) >0; отсюда следует, что 0(/) >0 для всех t
Интервалы времени, в течение которых (ф, tp) лежит на
границе, соответствуют известным в теории оптимального управления
сингулярным интервалам. Как будет видно, это может случиться
на AD. Сейчас проверим случай CD. Назовем с постоянным
значением функции г(-), если для всех у внутри некоторого
интервала г(у)=с. Функция /•(•) неубывающая, и поэтому множество
постоянных значений с, не более чем счетно. Всюду далее
предполагаем, что (а+бр/^)/я не есть постоянное значение. Это
предположение излишне, если г — строго возрастающая функция.
3.3.4. Предложение. Не существует интервала времени, в
течение которого (<р, -ф) лежит в CD.
Доказательство. Предположим противное. Тогда ф=0
означает, что <7Y = fJe~er, и, дифференцируя, получаем —<7=ЭД£~в7т-
Из уравнений (8с) и (8d) выводим существование Яе[0, 1]
такого, что
—<7=tap+ (1—Л) (<р—ф) =ф.
Таким образом, 6^e~e* = ТФ и» дифференцируя, получаем ^ц> =
= — 82(te~e*. Подставляя это в <р=— 6(яг—а)е-*\ получаем г(у) =
= (а+бр/?)/я. Но t/= — zr, так что (а+бр/^/я есть постоянное
значение /-(•)> что противоречит предположению.
3.3.5. Замечание. Общая граница ABCD, как будет видно,
тоже может быть исключена из рассмотрения.
Обращение времени. Чтобы завершить анализ задачи,
воспользуемся обычным в теории оптимального управления приемом.
Сделаем замену времени посредством преобразования s = T—t,
обозначим <p(s) =y(T—s) и так далее. Для удобства определим
k{s) = (nr9—<х)ев(-т\ 0^s<r
где rt=r(y(T—s))—r(y(t)). Заметим, что k^O и функция s-w,
неубывающая. Тогда функции с обратным временем ср, ф
удовлетворяют в D условиям
<p(s) = 8£(s), Old)
tj> (s) = yp (s) — Ь$еЫ*-т\ (12d)
а в С —условиям
ф(5) = 6*(5), (ПС)
ф (s) = у (<р (s) — \|5 (s)) — 6ре*<*-г>. (12с)
5 Ф. Кларк
129

Если (ф, г|з) лежит в AD на некотором интервале времени, то в силу
уравнений (9а) и (9Ь) на этом интервале
ф(5) = 6/ф) = 0, (13)
$(s) = — бре*<^> (14)
и также 2=0.
Теперь условия трансверсальности (10) стали начальными
условиями в s=0
<р(0)-*(0), t|>(0)=-jte-*r. (15)
Отсюда следует, что для всех s
9(s) = £(0)+6f k(x)dx. (16)
о
Начало кривой (ф, \|>) лежит в AD, если £(0)=0, или в D, если
k>0. В первом случае кривая (ф, ^) должна в некоторый момент
попасть в Д поскольку в противном случае уравнение (13)
означало бы, что k(T)=nr(y(0))—<х=0, а это противоречит
предположению. Если такой переход из AD в D произошел (скажем, в
момент 5=50^0), то k^O означает, что после этого ф^О, так что
кривая (ф, \|?) остается в D и С (не задерживаясь на CD, см.
предложение 3.3.4). Предположим, что существует переход из D в С
(в момент s=s1>s0). Тогда докажем
Предложение 3.3.6. Кривая (ф, tf), попав в С, остается там.
Доказательство. Имеем it(sj)=0; ^(s) задается
уравнением (12с) для s>Sl (Напомним, что ф определяется уравнением
(16).) Решение этого линейного дифференциального уравнения
дает
S
i|>(s) = e-wJtffc(T)dTf
St
где g(x) =Ч[ф(т)—6{te6(x-r). Теперь надо только показать, что g(s) ^
^0 для s^Sj, что мы и сделаем.
Заметим, что^ (si)=g(si)'^0 (поскольку ф<0 для s<s1 и
•ф>0 для s>5i); поэтому достаточно доказать, что ^(5)^0 для
s^st. Имеем
ё' (s) =« ft* (s) — вр^с-г)} = бев(-Т) ft (яг.—а) —Щ.
Так как последнее выражение в скобках возрастает по s, то
достаточно показать, что оно неотрицательно в s=slf т. е. f*(si)^
> G$e6is*-TK Теперь g(st)^0 эквивалентно -уф (si) ^ 8fie6is*-T\ так что
фактически надо доказать, что &(Si)^<p(£).
Для доказательства этого заметим, что для se(0, s4) имеем
ф($Х$(яг—а)еб('"Т), где r=r(y(t)) при t=T—st. Интегрируя это
130

неравенство, получаем
4>(SiX<P(0) + («r — a)er*>T(e*5*— 1) =
= k (0) + k (st) - (jif— a) e-ftr = k (Sl) + е-57я (r0 — f)< ft (%).
Предложение доказано.
Теперь имеется вся необходимая информация для того, чтобы
охарактеризовать оптимальный режим добычи, который согласно
предложению 3.2.3 существует.
Возвращаясь к времени t, заключаем следующее: оптимальная
производственная политика состоит (в общем случае) из трех
этапов, определяемых двумя моментами переключения /0 и ti в [0, Г]
{U = T—su ti^T—So). На [0, t0] применяем v=z(t), w=L(t)—z(t).
(Это следует из (8с), поскольку (ср, tp) лежит в С в этот период.)
Аналогично находим, что на [/0, tt) следует применять v=z(t)y a/=
=0, тогда как на {tu Т] v = w=0. Момент времени «закрытия
предприятия» ti характеризуется весьма просто — как момент £е[0, Г],
для которого nr(y{t))—а обращается в 0. Заметим, однако, что
у(-) зависит от z(-) и, следовательно, от t0. Моменты tQ и tt (или,
эквивалентно, s0 и st) полностью определяются
дифференциальными уравнениями и краевыми условиями для ф и ф, которые были
изучены. Эта довольно сложная связь определяется двухточечной
краевой задачей, в которой у, z, <р, if есть решение
дифференциальных уравнений с краевыми условиями для уу z в 0 и ф, ф в Г.
В некоторых случаях первый (или третий) этап полученного
решения может отсутствовать. Приведем простой критерий того,
что не требуется капитальных вложений (инвестиций), т. е. t0=0.
3.3.7. Предложение. Если ч(лг(у0)—a)^£(J, то w=0 на
[0, Г].
Доказательство. Это утверждение эквивалентно тому, что
функция ф(я) остается отрицательной (т. е. не существует
момента slf в который (ф, if) переходит из D в С).
Имеем
яг(у(0)— «<ЯГ(Уо)—«<-бр/Тэ
что означает ft(s)^6fte6(e"*r)/Y- Из уравнения (16) получаем
ФМ<*(0)+ »^-'>.
Подставляя эту оценку в (12), выводим
${s)^yk(0) — 6$<r*T = er*T{y(7ir(y0) — a) — 60)^0.
Таким образом, -ф не возрастает и (ф, tj?) не попадает в С.
3.3.8. Замечание. Оба неравенства яг—<х>0 и $>ч(пг—a)/S,
которые предполагались выполненными в процессе анализа,
имеют естественную интерпретацию в терминах предельных значений.
Предельный чистый доход, соответствующий приращению труда
(при подходящем капитале), равен —ndy—adv=nrdv—adv =
«= (яг—a)dvt и, следовательно, яг—а должно быть положительным,
чтобы имел место выпуск продукции. С другой стороны, предполо-
5* 131

жим, что все оборудование (капитал) используется (0=2). Прирост
труда, приложенного к изготовлению оборудования, обеспечивает
приращение dz=^dw производства оборудования по цене $dw и
пропорциональное приращение dv = ^dw труда, используемого для
добычи. При этом приращение мгновенного дохода равно d/?(/) =
= (яг—a)dv=(tnr—a)dwy и, когда у достаточно велико,
приращение чистой прибыли с учетом дисконтирования приблизительно
оценивается величиной
во
dPV = Г е~ы dR (0 dt — р dw = |т(я/"~ю) — р} dw.
О
Капитальные вложения могут быть оптимальными, только если эта
величина положительна.
Выводы. Задача о добыче полезных ископаемых была решена
в случае, когда период Т конечен, а коэффициент добычи г (у) —
неубывающая функция, удовлетворяющая г(у)^пу (так что
добыча становится более трудной с истощением запасов и полное
истощение ресурсов невозможно). Основные выводы в этом случае
приведены ниже.
1. Следует иметь пг(у0)—а>0 для того, чтобы осуществлялось
производство. Прекращение его (т. е. v = w = 0) осуществляется
после того, как яг (у)—а станет равным 0.
2. В оптимальном режиме процесс производства никогда не
сводится полностью к выпуску оборудования: z(t)<L(t) всех
моментов времени.
3. До момента прекращения производства весь капитал
постоянно используется (машины никогда не простаивают) v(t)=z(t).
Таким образом, добыча всегда имеет приоритет над производством
оборудования. Это можно объяснить тем, что при фиксированных
пропорциях неиспользованное оборудование приносит убытки, что
неоптимально. При замещаемости между v и z каждая машина
продолжает вносить вклад в производство, даже если
производительный труд уменьшился. Так что может оказаться более выгодным
уменьшить текущий выпуск продукции с тем, чтобы произвести
оборудование. Например, если производство описывается
уравнением Кобба — Дугласа y=—(vz)i/29 можно показать, что для
достаточно больших периодов Т можно жертвовать вначале выпуском
продукции для создания основных фондов.
4. Если лг(уо)—а>0, то всегда существует период неполной
занятости (u=z<I, 10=0), за которым, возможно, последует
прекращение производства.
5. Периоду, упомянутому в п. 4, может предшествовать период,
в котором v=2, w = L(t)—z. Достаточное (но не необходимое)
условие для того, чтобы этого не произошло, есть $^ч(лг(у0)—а)/
/б. Как говорилось выше, это неравенство легко
интерпретировалось как условие того, что предельная стоимость привлечения тру-
132

довых ресурсов для производства оборудования превышает долго
срочный доход, получаемый на этом оборудовании.
6. Оптимальный режим добычи состоит, вообще говоря, из трех
различных фаз, в которых (i\ w) равно соответственно (z, L—z),
(г, 0), (0, 0). Первая и/или третья фазы могут отсутствовать; это
обстоятельство и моменты переключения полностью определяются
некоторыми дифференциальными уравнениями и краевыми
условиями.
§ 3.4. Возмущение задач с ограничениями
на концы траекторий
Здесь рассматриваются задачи, в которых оба конца
траектории х(а), х(Ь) удовлетворяют некоторым ограничениям.
Фактически рассматривается семейство таких задач, параметризованное
посредством вектора weRw. Пусть d—заданное множество из R.
3.4.1. Задача />£. Минимизировать значение функционала
f(x(b)) на множестве траекторий х включения F,
удовлетворяющих соотношениям
*(а)е=С0, *(&)<=Ci + H.
Предполагается, что d замкнуто и выполняются
предположения 3.2.2. Задача Р% обозначается также PD (см. § 1.3 и 1.4).
Функция значения V: Rn-^R(J{±oo} определяется следующим
образом: для каждого weRn V(u) равно минимальному значению
функционала в задаче Р*о- (Напомним, что точная нижняя грань
пустого множества полагается равной +оо.) В этом параграфе
изучается обобщенный градиент dV функции значения. Введем
предварительно некоторые обозначения.
Слабая нормальность. Обозначим через У множество решений
задачи PD. Говорят, что задача PD является слабо нормальной, если
для любого jcgK для всех г>0 единственным множителем [р, ^> ц,
£, Я] (см. определение 3.2.5), удовлетворяющим условию Я=0 и,
следовательно, условию р(6) + \ "i(s)\i(ds)=0y является множи-
тель, в котором мера ц тождественно равна 0. Нетрудно видеть,
что задача PD слабо нормальна, если любой множитель,
удовлетворяющий условиям 3.2.5 и существование которого для задачи
со свободным концом утверждается в теореме 3.2.6, существенно
зависит от /, т. е. для него КфО. Это всегда выполняется, если
фазовое ограничение несущественно вдоль решений.
3.4.2. Предложение. Если для любого х из У для всех /е
^[а> b] g(t, x(t))<0, то задача PD слабо нормальна.
Доказательство. Из п. 2) определения 3.2.5 следует, что
для любого множителя в этой ситуации ц=0, так что К>0.
Распространим определение множителя, данное в определении
3.2.5, на случай задач, в которых множество d не совпадает с R*.
133

Множества множителей. Пусть х—допустимая кривая задачи
PD. Для заданного г>0 множество множителей индекса X,
соответствующее х и обозначаемое М* (#), состоит из всех
упорядоченных пятерок [р, f, (1, £, Я], где р, «у, Ц, 5 и Л, удовлетворяют пп. 1) —
4) определения 3.2.5, а также двум следующим условиям (Е
обозначает величинуХ^+р(Ь) + \ Y(s)Р(<&)):
[lb]
p(a)er{\(K E)\ + \\ii\\}ddCo(x(a))t (1)
-£er{|(Xf E)\+\\ii\\}ddCl(x(b)). (2)
Читатель может проверить, что в случае G = Rn задача PD
сводится к задаче 3.2.1, а множитель [р, -у, \iy £, Я] содержится в
М) (х) тогда, и только тогда, когда [р, ^, Ц, £> Я] есть множитель
в смысле определения 3.2.5 (г в 3.2.5 заменяется на r(A,+ ll(i||). Так
как O^ddc(u), когда иеС (по теореме 2.5.6), то отсюда следует,
что множество м£ (и) увеличивается с ростом г.
Сейчас можно сформулировать основной результат этого
параграфа. Напомним, что d°°V обозначает асимптотический
обобщенный градиент, определенный в §2.9. Обозначение M)(Y)
относится к множеству (J Мгф (х), и если [р, -у, ц, £, X] —множитель, то
Е[Р> Y» Ц, £> М» как и раньше, обозначает вектор Л£+р(&) +
Отметим, что E[Xfr (У)] есть конус в Rn, содержащий 0,
поскольку для любого а^О [ар, ^, ац, 5, 0] является множителем
всякий раз, когда им является [р, f, |х, £, 0].
Конус называется острым, если невозможно представить 0 в
виде конечной суммы ненулевых элементов конуса. Определим
7 = max {Kg, 2 (Kf +\)}[К In (К) + 1],
где /С, Kf, Kg были определены в 3.1.6 и 3.2.2.
3.4.3. Теорема. Пусть функция V конечна в 0 и выполнены
предположения предложения 3.2.3. Тогда множество Y решений
задачи PD непусто и функция V полунепрерывна снизу. Если
задача слабо нормальна, то для любого г>г
dV(0) =w{E[Mlr(Y)) П dV(0) + E[H*r(Y)] П ЗТ(0)}.
Если E[M°r(Y) ] —острый конус, то операция замыкания
становится излишней и
d~V(0) = со {Е [М°г (У)] П d"V(0)}.
Прежде чем обратиться к доказательству теоремы, приведем ее
важное следствие. В нем автоматически выполняется
дополнительное предположение, если Ct<=Rn и фазовое ограничение
несущественно (как в предложении 3.4.2).
134

Следствие 1. Если для каждого достаточно большого г для
любого множителя [/?, у, ц, £, 0} из M°r(Y) выполняется р=0, ц=0
и V(0) конечно, то V — конечная и липшицевая функция в
окрестности 0.
Доказательство. Из предположения следует, что задача
слабо нормальна и £[/И?(У)] ={0}. Тогда по теореме <Э°°У(0)
сводится к {0}, а это по предложению 2.9.7 означает, что К
—липшицевая в окрестности 0 функция.
Приведенное ниже следствие теоремы переносит необходимые
условия теоремы 3.2.6 на случай более общей задачи PD. Позднее
оно будет получено как одно из утверждений теоремы 3.5.2.
Следствие 2. Если x^Y и г>г, то существует множитель
[Р> Т> И> ЕД] ™М) (х) такой, чтоК-г\\[х\\ + \\р\\>0.
Доказательство теоремы 3.4.3. Этап 1. Если V(0)
конечно, то для PD существуют допустимые кривые; отсюда
следует, как и в предложении 3.2.3, что У непусто. Убедимся в
полунепрерывности снизу V. Пусть Ur+u; надо показать, что V(u)
ограничено сверху величиной liminf У(щ), которую можно полагать
I—»00
меньшей + оо. Пусть х{—решение Pd (xt существует по тем же
соображениям, что указаны выше). Не ограничивая общности,
можно предполагать, что существует lim У(щ).
i—*х>
Используем теорему 3.1.7, чтобы найти подпоследовательность
последовательности {*,} (для которой сохраним обозначение *,),
сходящуюся равномерно к х — допустимой кривой Ро- Тогда
V (ci)< / (х (Ь)) = lim / (х, (Ь)) = lim inf / (xt (b))9
что и требовалось.
Этап 2. Поскольку дV и d°°V определялись с помощью
нормального конуса к надграфику V, утверждения теоремы являются
в конечном счете утверждениями об этом конусе. Из теории
выпуклых конусов следует (см. более общий результат в [195]), что
искомые соотношения получаются из следующей леммы.
Лемма 1. Справедливо равенство
tfep,v(0, V(0))-5o{AMJtf,}f
где
Nx: = {а(£,-1): а>0, ЕеЕ[Мг,<У)] Г) W (0)}.
#,:={(£, 0): Е^Е[Л^(Г)]Г\д°°У(0)}.
Доказательство. Из определений dV и dV~
непосредственно следует, что #вр1у(0, V(0)) содержит co(Nt\jNt). Чтобы
доказать обратное включение, достаточно в соответствии с
предложением 2.5.7 доказать, что предел вида (v0, —ft)=lim(i;b
—ft)/|(t><, — ft)| содержится в Ni(JN2, где (vu ft) есть
перпендикуляр к V в точке {щ, at) и где (vu — ft)-*0, {uit o,)-*(0, V(0)).
135

Этап 3. Сейчас будет доказан результат, использование
которого позволит завершить доказательство теоремы.
Лемма 2. Пусть (и, —р)—перпендикуляр к epi V в (и, а).
Тогда для любого г>г существуют решение х задачи РЧ> и пятерка
[р> Т> V> £> М с Я+|||х||в1, удовлетворяющие пп. 1), 2) и 4)
определения 3.2.5, а также соотношениями
y(l)<=ftg(t,x(t))\(v,-\b)\9 p(a)Gr\{v,-l)\ddc.(x(a))9
Щ + Р(Ь)+ S y(s)VL(ds)^-r\(v9-9)\ddCt(x(b)-u).
Доказательство. Обратимся к предложению 2.5.5, из
которого получаем, что для любой точки (и'9 а') в epi V имеем
<(*,-р), (и*-и, а'-а)>^±К-и|2 + ||а'-а|'. (3)
По предложению 3.2.3 существует кривая ху являющаяся
решением задачи Pq : /(*(&)) = У(и). Пусть c=x(b)—и и заметим, что
если с7—произвольная точка Си а х'— произвольная кривая, то
x'(b)^Ci+ (x'(b)—с'). Это означает, что если xf является также
и траекторией, выходящей из С0 и удовлетворяющей фазовым
ограничениям, то точка (х'(Ь) — с', f{x'(b))+a—f(x(b)) лежит в epi V.
Если подставить эту точку вместо («', а') в (3), х(Ь)—с вместо и,
то получаем
W{*4b))-f(x(b))]-(vfx'(b)-x(b)-c' + c} +
+ ±\f(x'№-f(x(b))\* + ±\x'(b)-c'-x(b) + c\*>Q. (4)
Здесь равенство имеет место, если х'=х, с'=с. Следующие
определения позволяют понять, как использовать теорему 3.2.6
применительно к решению (лс, с) некоторой задачи минимизации.
Положим
F(tfx',c') = F(tfx')x{0),
Ц) = С0ХС1,
g(t,x\c') = g(t,x')\(v9-$)l
а в качестве f(x/(b)9 с') возьмем левую часть неравенства (4).
Тогда кривая (х, с) есть решение задачи 3.2.1 с такими данными.
Для того чтобы (*', с') выбиралось из окрестности (jc, с), можно
вместо g использовать функцию
g{t, х', c')=max{g(f, jc', с'), г\с'-с\-г\ e|x'-jc(/) |-е2},
где б >0 — произвольно малое число. Это не влияет на множители
в (xt с), но для малых е обеспечивает выполнение условия
Липшица для функций f и g на соответствующем множестве с
постоянными Kj : = 2(/(/+1) | (vt—(J) | и /С-: = /(*| (v, —р) | соответственно.
136

Применяя следствие 1 теоремы 3.2.6 к описанной выше задаче
для любого г'>г\ (и, —р) |, получаем множитель [ (р, q)t ^, ц, £, А,],
удовлетворяющий К + 11 цII = 1, пп. 1)—4) определения 3.2.5, а также
соотношениям
p(a)€=/^dc(*(a)), ^=0, <7(a)er'ddc,(c),
* {[- ». "] + К, 0]} + [р(ft), q Ф)] + Г J у (s) |i №), О] = [0, 0].
Отсюда следует, что q(a) =q(b) и
*К + />(&) + $ V (s) И (&) = be -r'ddcAc).
[а,Ь]
Достаточно положить r'=r|(i;,—р)|, чтобы получить искомый
результат. Лемма 2 доказана. Вернемся к доказательству
леммы 1.
Этап 4. Теперь предполагаем, что (vu —р<) есть
последовательность перпендикуляров, определенная в конце этапа 2. Пусть
xt— решение задачи/5^1, а [pt, f{, ць £,, Я<] — множитель,
существование которых утверждалось в лемме 2. По теореме 3.1.7
найдется подпоследовательность {*<}, сходящаяся к кривой из х
(сохраним обозначения {*<} для этой подпоследовательности).
Разделив соотношения в утверждении леммы 2 на | (viy —j}<) | и
заменив ^ на т*=ЧГ</| (»«. —W I» Р< на Pi=Pil\ (уь —Р<) I» применим
теорему 3.1.7 наряду с предложением 3.1.8. Получим существование
пятерки [р, f, £, £, Mt удовлетворяющей равенству A,+ ll|i|| = l,
пп. 1)—6) определения 3.2.5, а также
MW +Р Ф)+ $ Y (s) ? (Л) = Ч s - rddCi (х (&)).
Следует отметить, что X не равно 0, в противном случае
нарушалось бы условие слабой нормальности задачи PD.
Пусть теперь р0=И=0. Определим p=j5/(A,(J0), n = ii/(A,(Jo) и
заметим, что для пятерки [р, f, ц, £, 1] имеем E=v0/$0y следорательно,
1<..£)1+и-|(..е)|+""=г+^Ч(1 + ¥}=ж-
поскольку | (у0, р0)| = 1. Отсюда следует, что [р, -у, |х, ^, 1]
содержится в М) (v)y а и0/Ро содержится в Е[М\ (У)]. Напомним, что па
построению (и0, —р0)еЛгер1 v(0, V(0)), так что (у0/?о, —1)е
f=^ePiv(0, V0) и по определению v0l$0^dV(0). Поскольку
(v*t —р0) = ро(^о/Ро, —О, то, как и требовалось, (v0y — p0)€JVle
Случай |*о=0 рассматривается аналогично; в этом случае
получаем, что (vQ, 0)eN2. Это завершает доказательство леммы 1 к
теоремы.
137

§ 3.5. Нормальность и управляемость
В этом параграфе сохраняется терминология § 3.4 и
предполагается, что выполнены условия 3.2.2, а d—замкнутое множество.
Следующее свойство имеет основополагающее значение.
3.5.1. Определение. Кривая х называется нормальной, если
при всех г>0 для любого множителя [р, ^, ji, £, 0] из М? (jc) р и \х
тождественно равны нулю. Задача PD называется нормальной, если
при всех г>0 для любого множителя из М°г (У) р и \i
тождественно равны нулю.
Отсюда следует, что задача PD слабо нормальна, если она
нормальна. Заметим, что понятие нормальности не связано с
постановкой оптимизационной задачи; в самом деле, в его определении не
фигурирует целевая функция / задачи PD.
Как будет видно, понятие нормальности играет важную роль
при изучении вопросов управляемости и достаточных условий
оптимальности. Однако первоначально будут получены необходимые
условия для задачи PD (см. задачу 3.4.1).
3.5.2. Теорема. Пусть х — решение задачи PD. Тогда для
достаточно больших г существует множитель [р, -у, ц, £, X] изМ) (х)
такой, что llpli + ll[i||+A,>0. Если задача PD нормальна, то это
выполняется при Л, = 1 и (при дополнительном предположении из
предложения 3.2.3) имеет место включение
Z + p(b) + ? y(s)ii(ds)ezdV(Q).
Доказательство. Начнем доказательство первого
утверждения, сделав дополнительное предположение, что х есть
единственное решение PDt т. е. Y={x).
Очевидно, что можно так переопределить множество С0 и
функцию g, что множители для кривой х не изменятся, а
предположения предложения 3.2.3 будут выполнены. Если PD не есть слабо
нормальная задача, то доказываемое утверждение тривиально.
Если задача PD слабо нормальна, то из теоремы 3.4.3 и
предложения 2.9.6 следует, что для больших г
Е[М\(х)\ U [Е[М°г(х)]\{О}]Ф0.
Отсюда вытекает доказываемое утверждение. Очевидно, что
если кривая х нормальна, то ХФ0\ используя процедуру
перенормировки, получим такой множитель, что А,= 1.
Чтобы рассмотреть общий случай, в котором х есть
неединственное решение задачи PD, определим модифицированную задачу, для
которой х — единственное решение. Пусть (у, yQ) обозначает точку
в RnXR; рассмотрим задачу PD, для которой
F(t,y,y<l)=F(t,y)X{\y-x(t)\%
Co=C(,X{0}, C, = CtXR,
f(y.у») =!(у) +у*, g(t, у, у,) =g(t,у).
138

Задача PD имеет единственное решение (х, 0), т. е. Т={(х, 0)}.
Применяя теорему к задаче PD и кривой (х, 0), окончательно
доказываем первое утверждение теоремы.
Теперь вернемся к случаю, когда задача PD является
нормальной. Из следствия 1 теоремы 3.4.3 следует, что V — липшицевая в
окрестности 0 функция. Рассмотрим задачу Р минимизации
функционала
?(У(Ь),с): =f(y(b))-V(y(b)-c)
на множестве допустимых траекторий у включения F и точек с>
удовлетворяющих условиям i/(a)eC0, ceCt. Целевая функция J
неотрицательна для всех таких у и с по определению V и /=0, если
у=х, с=х(Ь). Следовательно, (х, х(Ь)) решает задачу Р9 которую
можно рассматривать как частный случай задачи 3.2.1, если
положить C0 = C0XCU F(t, у, c)=F(t, у)Х{0}. (Заметим, что /
является, как и требуется, липшицевой функцией в окрестности (x(b)t
x(b).) Применяем теорему 3.2.6 и получаем доказываемое
включение после подходящей перестановки членов.
Далее, по-прежнему рассматривается допустимая для задачи PD
кривая х.
3.5.3. Теорема. Пусть кривая х нормальна. Тогда существуют
постоянные М и е>0 такие, что для всех и и v из гВ найдется
траектория у включения F, удовлетворяющая фазовому ограничению
g(t, y(t)) ^0, условиям
у (а) (=С0+ и, y(b) e=Ci+ v
и неравенству
jV(0-J/(0|d/^M|(a,i,)|.
а
Доказательство. Сформулируем задачу, где вместо Rn в
качестве пространства состояний рассматривается пространство
RXRnXRn, точки которого обозначаются (у0, у, г). Вместо отрезка
[a, Ь] рассматривается отрезок [а—1, Ь]. Без ограничения
общности можно полагать, что функция g ограничена снизу на Q числом
—1. Определим
С0 = {(0,0,0)}, C1 = Rx{(c1-c0, с0): c0GC0, c^Q,
f(t у и z)=[{[\w-x(a)l0,w]: w<=NB), t<a,
V'*0'*' \{\x(t)-y-z\)xF(t,y + z)x{Q}, t>a%
где N таково, что CQczNB. Нетрудно проверить, что если (у0, у, z) —
допустимая кривая для получившегося варианта PD задачи PD, то
получаем допустимую для задачи PD кривую х\ положив x'(t) =
139

**y(t) +г(а) при t^a. Причем х'(а) =z(a), тогда как
Т(Уо(Ь),У(Ь),г(Ь))= J |i-x(a)|tf + j|x-*'|d/.
а-1 а
Отсюда следует, что кривая £:
~(t) = №,0At-*+l)x№ a-l^t<a,
\{0,x(t)-x(a)9x(a)]9 *</<&,
есть единственное решение задачи PD.
Следующий шаг состоит в проверке нормальности задачи PDt
т. е. того, что кривая х нормальна. Пусть [ (р0, Р, q), (к<ь Т» b)> И-> £>
0]—множитель индекса 0 для х (для произвольного г>0);
покажем, что (р0, р, ?) и И равны тождественно нулю.
Заметим, что Tf0 = 0 и Tfi = lf2. Гамильтониан есть
= (max{p0\w — x(a)\+(q,w): |ш|<ЛГ}, если /<а,
\po\x(t) — y — z\ + H{t,y + z,p\ если /^а.
Гамильтоново включение (см. определение 3.2.5) гарантирует
постоянство Ро, тогда как условие трансверсальности (2) из §3.4
дает Ро(&)=0; отсюда следует, что р0 — тождественно равно нулю.
Условие
x{a)^djl{t, х, 0, р, q), a—l<t<at
означает, что q = 0 на (а—1, а), поскольку *(a)eint (NB).
Гамильтоново включение также дает равенство p=q для t>a\ отсюда
p(t)=q(t)+p(a) для t>a.
С помощью теоремы 2.5.6 можно показать, что любой элемент
(s0, su s2)^dd%(0, x(b)—x(a), x(a)) таков, что s0 = 0, ste
^ddCl(x(b))t s2^ddCo(x(a)) +{sj. Следовательно, условия
трансверсальности приводят к соотношениям
р(Ъ)+ $ т («)!*(&) 6=-rftM'W). p(a)^rddc.(x(a)).
[а.Ь]
Отсюда следует, что [р, if» Ц, 5» 0] содержится в М* (х). Поскольку
кривая х нормальна, то p=0=ji, поэтому также q=0. Таким
образом, заключаем, что задача PD нормальна. Переопределив, если
необходимо, |# (что не вызовет изменение множителей для кривой я),
можно добиться выполнения условий предложения 3.2.3.
Теперь воспользуемся следствием 1 теоремы 3.4.3 с тем, чтобы
получить существование такой постоянной Я, что для любой точки
(w, и) из окрестности 0 найдется допустимая кривая (у0, у, г)
такая, что
Г(уо(Ь),у(Ь),ЦЬ))<Щ(«>,»)\,
ШЬ)9 д(Ь)9 !&)]&&+(0,w9 и).
140

Отсюда следует, что для некоторой точки (с0, cJeCoXCt имеем
z(b)=c0+u, y{b)^ci—c0+w. Кривая y(t)=y(t)+z(a) (для t>a)
является допустимой траекторией включения F и удовлетворяет
соотношениям y(a)=cQ + u, y(b)^ct + (w + u). Выбор w = v—и дает
искомые краевые условия и неравенство
$\y-x\dt<tt\{w9u)\=^v-u9u)\<M\(u9v)\9
а
где М = 2М.
Множество достижимости. Множество достижимости (из С0)
обозначаемое 52(С„) определяется как множество всех точек х(Ь),
где х — траектория включения F, исходящая из С0 и
удовлетворяющая фазовому ограничению g(t9 x(t))^0. В соответствии с
теоремой 3.1.7 множество 52 (С0) замкнуто.
3.5.4. Теорема. Пусть х — как и выше, допустимая
траектория. Тогда если х(Ь) лежит на границе 91 (С„), то существует трои-
*а [Р> Т» mJ> удовлетворяющая пп. 2)—4) определения 3.2.5, причем
\\р\\ + II м-II >0, и также включениям
p(a)z=NCo(x(a)),p(b)+ $ v(s)|i(*)e Няы(хф)).
Доказательство опускается. Его основные идеи совпадают с
идеями доказательства теоремы 5.1.2; см. замечание 5.1.3.
§ 3.6. Задачи с нефиксированным временем
До этого параграфа интервал времени [а, Ь] был строго
фиксирован. Здесь же рассматривается задача, в которой он является
переменной величиной. Именно: пусть кривые у, определенные на
интервалах [а, Т] (Т зависит от у), удовлетворяют обычным
динамическим фазовым ограничениям
y(t)^F(t,y(t)) п.в., а<*<7\
*('.У(0)<0, а<*<7\
Включение у(а)^С0 сохраняется как начальное ограничение,
кроме того, имеется терминальное ограничение вида (7\ y(7))eS,
где S — заданное подмножество RXRn. (Ранее изучался случай
S = {b}XCt.) Рассматривается задача минимизации f(T, у(Т)) на
этом заданном классе кривых (заметим, что функция / теперь явно
зависит от Т).
Полагаем, что выполнены предположения 3.2.2 за тем
исключением, что теперь трубка Q определена на большем интервале [а, Ь+]
для некоторого b+>b. Кроме того, предполагается липшицевое
поведение отображений F, /, g относительно обоих аргументов (t, х).
Таким образом, постоянная k заменяет функцию £(•) определения
3.1.4 и служит постоянной Липшица многозначного отображения
141

(t, x)-+F(t9 x) на Q. Аналогично Kf и K8 служат постоянными
Липшица функций / и g на Й относительно (/, х).
3.6.1. Теорема. Пусть кривая х есть решение
вышеприведенной задачи и [а, Ь] —отрезок определения х. Тогда для достаточно
большого г существует число Я, равно О или 1, кривая р,
неотрицательная мера Радона ц, \х-измеримая функция (fo> 7) и элемент £е
e=d/(ft, *(6)) та^в, ^го \\р\\ + |||i|| +Х>0 и
О (fo> т)(0^^(<, jc(/)) для \1-почти всех /е[а, 6] и яоси-
тель меры р содержится в множестве {/е[а, b]: d>g(t, х)Ф0},
2)(K-p,i)<=dH(t,xtp+ $y(s)vL(ds)) п.в.,
где дН обозначает обобщенный градиент H(tt ху р) по (ty х, р),
кривая h (•) определяется равенством
h(f) = H(t,x(t),p(t) + $ y(s)ii(ds)) п. в.,
3) p(a)e=nWCo(x(a)),
4) [- а (6), р (&)] + J (т., у) (s) ц (*) + К е - rufe (6, * (&)).
Случай, когда g и F не зависят явно от /, будет называться
автономным.
Следствие. Пусть кривая х, определенная на [a, ft], есть
решение задачи в автономном случае. Тогда для достаточно больших
г существует число Я, равное 0 или 1, кривая р, неотрицательная
мера Радона ц,, ^-измеримая функция «у и элемент £ed/(ft, *(&))
такие, что ||pll + |||i|| + X>0 и
1) 4(t)^d>g(x(t)) для [i-почти всех /е[а, ft]
и носитель меры \i содержится в множестве {/е[а, ft]: d>g(x(t)^=
Ф0}>
2) а)(— р, х)^дН(х,р+ \ у dp) п. в.,
\ [a,t] /
b) существует постоянная h такая, что
H(x(t),p(t)+ [ ydA=hn. е.,
v [It] I
3) p(a)€=rddCo(x(a)),
4) \-h,p(b)+ j T(s)|i№)l+Xts-rAb(6fx(6)J.
Очевидно, что следствие является только специальным
(автономным) случаем теоремы. Однако последняя может быть легко
получена из следствия путем сведения неавтономной задачи к
автономной методом введения дополнительной фазовой координаты х0
вместо tt производная которой равна 1, а начальное значение — а.
(Конечно, следует переопределить F и т. д.)
142

Эти детали оставляются читателю, а ниже будет доказано
следствие теоремы 3.6.1.
Доказательство следствия. Введем специальное
преобразование с тем, чтобы свести эту задачу с нефиксированным
временем к задаче с фиксированным временем, что позволит
использовать полученные ранее результаты. Рассмотрим (я-Ы) -мерные
кривые ((/о, у), определенные на [а, &], являющиеся траекториями
включения F:
^(Уо, У) ={(«>*): |"|^а, vez(l + u)F(y)},
где ае(0, 1) —заданное число. Определим:
Со={&}ХС0, Ct = S, g(y*,y)=g(y), Г(Уо,У)Ч(Уо,У).
Заметим, что (&, х) —допустимая кривая для соответствующей
задачи Р, которая имеет вид задачи PD из предыдущих
параграфов.
Лемма. Кривая (ft, х) есть локальное решение задачи Р.
Чтобы доказать это, предположим, что существует допустимая
кривая (у0f у) для задачи Р в окрестности (6, х) такая, что f(y0(b)t
y(b))<f(bf x(b)). Получим противоречие, построив траекторию z
на интервале [а, Г], которая для исходной задачи удовлетворяет
ограничениям и доставляет функционалу меньшее значение, чем
траектория х.
Для каждого /е[а, у0(Ь)] единственное i(t)^[ay b]
определяется из уравнения
г+УоЫ— b = t,
так как функция т-*т+у0(т)—b строго монотонна со значением а
в а и уо(Ь) в Ь. Функция %(t) удовлетворяет условию Липшица по
теореме 7.1.1 об обратной функции так, что соотношение
*(')-У(т(0)
определяет z как кривую на [а, Г], где Т=у0(Ь). Легко вычислить,
ято —-z(t) =t/(T)/(l + t/ofx)), откуда следует, что z есть траектория
at
включения Т7, допустимая для задачи с нефиксированным временем.
Имеем f(T9 z(T)))=f(y0(b), y(b))<f(bf x(b)). Получили
противоречие, которое доказывает лемму.
Следующий шаг в доказательстве состоит в применении
необходимых условий теоремы 3.5.2 к решению (6, х) задачи Р.
Получаем, что существуют кривая (р0, р), мера ц, селектор f для d>g>
число А,, элемент £ed/(6, х(Ь)) такие, что
(—Р9,—Р,0,х)(=дн(ь,х,р0,р+ f yd\i) п. в.,
<E0,E1): = \p09p(b)+ J ydli]+K^-r{\(KE09E1)\ +
+ M)dds(b,x(b)),
143

Ро(а)е=г{\ (К £,, £,) \ + Ы)дёС9(х(а))9
р(а)е=г{|Л, £0, £t) | + 0|ill}AM*(e)).
II (Ро, р) II + ll|ill +Я= 1 (по нормировке).
Здесь й обозначает гамильтониан для включения F. Легко
вычислить
В(Уо, У, Ро, р) =тах{p0u+pv: |w|<a, v(=(l + u)F(y)}=
=max{p0u+(l + u)H(y,p): \u\^a)=H(y, p)+a\p0+H(y9 p) |.
Так как Я не зависит от г/0, то имеем р0=0, т. е. р0 есть
постоянная. Это означает, что для некоторой постоянной о
(—р, x)ed#(*,p+ J ifrf|i)+aaB п. в. (1)
\ [a,t] J
Для почти всех t имеем
\ [a,t] / \ [a,*] / \ [a,/] /
^Hlx,p+ $ Y^)+a|p0 + tf(*,p + Jhfrf|i)| =
= H (b,x, p0, p + J vdfi) .
Отсюда получаем, что для почти всех /
nUp+ S Тф)=-р0=: Л. (2)
V [a,t] J
Очевидно, справедливы все утверждения следствия, за
исключением включения (1), в правой части которого присутствует член
аоВ. Если теперь повторить вышеуказанную процедуру для
последовательности а, стремящейся к 0, то получим последовательности
кривых, мер и постоянных, зависящих от а (за исключением г и о).
Непосредственное применение знакомой (по этапу 4
доказательства теоремы 3.2.6) техники извлечения сходящихся
подпоследовательностей окончательно доказывает следствие. (Следует отметить,
что если р, \i и К обращаются в 0, то согласно (2) Л, а значит, и р0
тоже обращаются в 0 в противоречии с определением р, у, Я, Л, р0.)
§ 3.7. Достаточные условия: уравнение Гамильтона — Якоб и
Здесь содержится первое обращение к важной теме достаточных
условий, т. е. условий, которые гарантируют, что данная
допустимая кривая (которая может быть найдена с помощью необходимых
условий из предыдущих параграфов) действительно является
решением задачи. Рассматривается метод, называемый здесь
проверочным методом Гамильтона — Якоби, происхождение которого
восходит к классическому вариационному исчислению.
144

Будем рассматривать задачу PD (см. § 3.4) при дополнительном
условии, что фазовые ограничения g(t, x(t))^0 несущественны
для локального решения х (т. е. g(t, x(t))<0). Приведем здесь
предположения, которые более ограничительны, чем
предположения 3.2.2.
3.7.1. Предположения.
1) Отображение F замкнуто, выпукло и ограничено на трубке Й.
2) Многозначное отображение (/, jc)->F(/, х) удовлетворяет
условию Липшица с постоянной k на Q.
3) / — липшицевая на Qb с постоянной Kf функция.
4) Множество С0 состоит из единственной точки х0.
Допустимая кривая х для этой задачи есть траектория
включения F на [а, Ь] (х обязательно лежит в Q), удовлетворяющая
х(а)=х0 и х(Ь)^С{. Назовем х локальным решением задачи PDy
если для некоторого е>0 и любой другой допустимой кривой у,
лежащей в Т(х; е), имеет место f(y(b))^f(x(b)).
Классическим уравнением Гамильтона — Якоби называют
следующее уравнение в частных производных для функции W(t, х):
Wt(t9x)-H(t9x9-We(t9x))~0;
его связь с нашей задачей (для которой гамильтониан Н был
определен в § 3.2) проявляется в свете следующего предложения.
3.7.2. Предложения. Пусть W — гладкая функция,
определенная на г-трубке Т(х\ е) вокруг допустимой кривой х, и W
удовлетворяет уравнению Гамильтона — Якоби и следующим краевым
условиям:
a) W(b9u)=f(u) дляиеЕСЛ(х(Ь)+еВ),
b) W(a9x0)^f(x(b)).
Тогда х есть локальное решение задачи PD.
Доказательство. Пусть у — произвольная допустимая
траектория, лежащая в Т(х, г). Тогда имеем
ь
f{y(b)) = W(b,y(b))^W(a,y(a)) + ^{W(t,y(f))}dt^
а
Ь
= W (а, х0) + j {Wt (t, у) + (Wx (t, у), у)} dt&f(x (b)) +
a
+ J {Wt (t, y)-H (t, y, - Wx (t, y))) dt = f{x (b)),
a
так как y^F(t9 у) п. в. Утверждение доказано.
Насколько этот метод применим на практике? Можно ли всегда
найти функцию W с тем, чтобы проверить оптимальность
локального решения? Здесь приведен пример, показывающий, что ответ на
этот вопрос отрицателен.
14S

3.7.3. Пример. Пусть л=2, [а, Ь] = [О, 1] и через (х, у)
обозначим точку в R2. Определим
F(t,x,y)={(0,xu): -1<«<1},
АГо=(0,0), Cx = Rx9f(x9y)=y.
Заметим, что кривая (0, 0) есть оптимальная кривая для этого
варианта задачи PD. Функция из предложения 3.7.2, если она
существует, удовлетворяет условиям
Щ0, 0,0)^0, W(l9x9y)=y9 (1)
Wt(t,x9y)-\xWw(t9x9y)\-0, (2)
где уравнение (2) выполняется на е-трубке вокруг кривой (0, 0).
Поскольку Wt^z0, получаем из (1), чтр
W(t9 0, 0) =0. (3)
Кроме того, из (1) имеем №у(1,0,0) = 1, так что для некоторого бе
<ЕЕ(0,е)
Wv(t,x, 0)^1/2, 1—6<f<l, |*|<б.
Сравнивая это неравенство с уравнением (2), выводим
Wt(t,x90)^\x\l29 1—б<*<1, И<6.
Полагая т=1—б, отсюда получаем
W(t,x,0)^W(T,x,0) + {t-^x\ т<*<1, |*|<б. (4)
Пусть fe(r, 1) и рассмотрим величину q=Wx(tt 0, 0). Имеем,
используя (3) и (4),
0 = цтУ('.*.О)-У(*.О,О)] ^КтУ(т.*.0) + (/-т)|*1/2 =
xlo х xjo X
= Г,(т,0,0)+^р.
Аналогично
уЦш Г(/,-лг,0)-Г(Л0.0) <yjt(tt0t0)_LlT>
xjo —* 2
Это противоречие показывает, что такой функции № не существует.
Обобщенное уравнение Гамильтона — Якоби. Пусть Q'—
трубка на [а, Ь] и пусть W — функция, определенная на Q'. Функция W
называется решением (на Q') обобщенного уравнения
Гамильтона— Я коби, если:
1) W — липшицевая на Q' функция;
2) для каждого (/, Jt)eQ' при a<t<b
min{a—#(/, jc, — (J): (a, p)€=d№(/, *)} = 0.
^Заметим, что <3tt?(f, x) определен для таких (t, x).)
Нетрудно увидеть, что 2) сводится к классическому уравнению,
«ели W — функция из С1. Следующее утверждение показывает, что
146

обобщенное уравнение обладает тем же основным свойством,
указанном в предложении 3.7.2.
3.7.4. Предложение. Предложение 3.7.2 справедливо, если.
W — только липшицевая функция, а уравнение Гамильтона — Яко-
би понимается в обобщенном смысле.
Доказательство повторяет доказательство предложения 3.7.2 с
учетом следующего результата.
Лемма. Для любой траектории у включения F функция 0(0 =
= W(t, y(t)) абсолютно непрерывна и 6(/) ^0 п. в.
Для доказательства заметим, что 8(0 есть суперпозиция двух
липшицевых функций и, таким образом, сама есть липшицевая
(и абсолютно непрерывная) функция. По теореме 2.6.6 имеем
в(0есо{а+<р.6>: (a9ftedW(t9y(t))9 l^dy(t)}
и достаточно показать, что каждый член вида а+<р, £;>
неотрицателен. Но если у — траектория, то из теоремы 2.5.1 следует, что £е
^F(t, y(t)). Следовательно,
<*+<Р, £>=«-<-£, 5»а-Я<*. y(t), -Р)>0,
что завершает доказательство леммы.
После такого обобщения метод может быть применен к примеру
3.7.3. Читатель может проверить, что в этом случае W(t, ху у) =
—y+(t—01*1- Возможно ли применение обобщенного метода ва
всех случаях? Ответ и на этот вопрос отрицателен, как показывает
3.7.5. Пример. Пусть л=2, [а, 6] = [0, 1], х0=(0, 0), С4 =
= {1}Х/?, /(*, у) = r/, F(t, х, у) совпадает с замкнутым шаром
единичного радиуса в R2. Заметим, что единственной допустимой (а
значит, и оптимальной) кривой является кривая (дс, у) (t) = (t, OK
Функция W должна удовлетворять условиям
Щ0, 0,0)^0, W(l9l9y)=y,
(5)
а—I (Р> Т) I >° Для всех (<*> Р» l)*=dW(ty ху у)9
где последнее соотношение выполняется для (/, ху у) в е-трубке
вокруг кривой (/, 0). Пусть теперь (х\ у') —любая траектория,
выходящая из (0, 0) и лежащая в е-трубке вокруг (t, 0). Тогда па
теореме о среднем значении для обобщенных градиентов
существует fe(0, 1) такое, что
И7(1,^(1),^(1))^^(1,^(1),1/Ч1))-
-W(09090)e[l9x'(l)9y'(l)]dW(i9Txf(il)9lj/(l)U
где И7(1, Jt'U)> у'(\)) неотрицательно в соответствии с (5). Если
К — постоянная Липшица для W, получаем
y/(l)-Wr(lflf»/(l))>V(lt^(l),/(l))-K|l-x/(l)|>
>-/С|1_д/(1)|
ввиду предыдущего замечания
147

Подставляя x'(t)=st, y'(t) =—/(1—s2)i/2, получаем из
предыдущего неравенства {для любого s<l)
что противоречит произвольной близости 5 к 1 и тем самым
доказывает факт отсутствия липшицевой проверочной функции W.
Поскольку указанный метод проверки оптимальности не всегда
применим, как показывают примеры, то следует выделить «разумные»
случаи, для которых его можно использовать. Под термином
«разумный» понимаются задачи, в которых необходимые условия
оптимальности невырожденны (включают целевую функцию /), или,
другими словами, задачи, которые нормальны в смысле
определения 3.5.1.
Для рассматриваемой здесь задачи любая кривая, для которой
х(Ь) лежит во внутренности Сь является нормальной. Отсюда
следует, что задача из примера 3.7.3 нормальна. Нетрудно показать,
что в задаче из примера 3.7.5 p(t) ss (1, 0) есть нетривиальный
множитель индекса 0, соответствующий оптимальной кривой (t, 0),
следовательно, эта кривая не является нормальной.
3.7.6. Теорема. Для того чтобы допустимая кривая х была
локальным решением задачи PD, достаточно, а в случае если все
локальные решения задачи PD нормальны, то и необходимо, чтобы на
некоторой трубке положительного радиуса г вокруг х существовало
решение W обобщенного уравнения Гамильтона — Якоби,
удовлетворяющее краевым условиям
W(a,x0)=f(x(b)), W(b9y)-f(y), у&СЛ(х(Ь)+гВ).
Доказательство. Достаточность уже была доказана в
предложении 3.7.4. Пусть М и б — положительные числа и для любых
(т, «)er(jc; б) сформулируем задачу Рхи минимизации
функционала
Л(0: =f(y(b)) + MdCt(y(b)) + M$max{\y(t)-x(f)\-6t0}dt
«а множестве траекторий у включения F, удовлетворяющих #(т) —
= ы и |y(t)—x(t) | ^8о для T^f^ft, где е0>0 таково, что Т(х; 2е0)
содержится в Q. Обозначим через W(t, и) минимальное значение
функционала в задаче Рхи.
Лемма 1. Пусть задано ее (0, е0). Тогда для любого
достаточно большого М существует бе(0, г) такое, что:
1) для всех (т, и)^Т(х; б) задача Рхи имеет решение у,
удовлетворяющее неравенству \x(t)—y(t) | <е для n^t^b, и все решения
Рхи удовлетворяют этому неравенству,
2) W есть липшицевая на Т(х, б) функция, удовлетворяющая
обобщенному уравнению Гамильтона — Якоби на Т(х; б);
3) W(b,y)=f(y) длявсеху<=СГ[(Ф)+ЬВ).
Доказательство этой леммы не использует оптимальности х.
Заметим, что отсутствует только одно краевое условие для того, чтобы
J 48

эта функция W была проверочной функцией, существование
которой доказывается.
Выберем такое малое б, чтобы для любой точки (т, м)еГ(х; б)
существовала траектория у на [т, 6], лежащая в Т(х\ е0). Это
можно сделать (причем с б<е0{1 + /С(1п/С)}""1), если применить теорему
3.1.6 на отрезке [т, Ь] при х'(-):=*(-) + {и—х(т)) и е'=е0. По
предложению 3.2.3 существует решение у задачи Рхи\ мы покажем,
ято \y(t)—x(t) | <е для т^/^&, если М велико, а б мало
(независимо от (т, и)^Т(х; б)).
Существует т0е(а, Ь) такое, что для любого т^т0 и любой
кривой у на [т, Ь], для которой (т, у(ч))^Т(х; е/2), автоматически
выполняется \y(t)—x(t) | <е, т^^й; достаточно выбрать б<е/2
для таких т. Существует положительное ^ такое, что для любого
те [а, то] и любой кривой у включения /\ для которой max \у(т) —
—*(t) |^е, имеем
ь
Jmax{|y(/)-*(/)|—|,o}<tf^v-
X
Предположим, что для таких т решение у задачи Рти
удовлетворяет предыдущему неравенству. Тогда, поскольку б<е/2, имеем
Ш>Пу(Ь))+мъ (6)
Рассмотрим кривую х'(т;):=х(т)+и—дс(т), т^^б. Из теоремы
3.1.6 следует (так как ргОО^^б Для некоторой постоянной ct),
что если \и—х(т) | достаточно мало (т. е. если б достаточно мало),
то существует траектория у' включения F такая, что у'{т) =и и
max | у'(/) — *'(/) К'««.
где сг — определенная постоянная. Тогда \y'(t)—x(t) | ^(с2+1)б и
Jr(y'Xf(y'(b))+M(c2+l)f>+M(b-T)cA (7)
Для достаточно малого б траектория у' удовлетворяет \y'(t)—
—У(01^во, так что из оптимальности у получаем, что Jx(y)^
^/т (*/')• Это совместно с (6) и (7) дает
f(y(b))+Mt^f(^(b))+M[ct(l + b-T) + l]6.
Так как / равномерно ограничена на Q6, скажем, числом N, то
это неравенство оказывается неверным, если выбрать большое М>
>2Nf*{9 а затем достаточно малое 6. Тем самым доказано
утверждение 1) леммы, утверждение 3) непосредственно следует из
определения, так что осталось доказать утверждение 2).
Из леммы 2 к теореме 3.2.6 следует, что для некоторого с>0 и
для всех (т, и)^Т(х; б) величина №(т, и) совпадает с
минимальным значением функционала
ь
Jx(y) + clp(t,y,y)dt
149

У (Т)= /А '^/
на множестве кривых #, удовлетворяющих у(т)=и9 \x(t)—u(t) | <
<е.
Используем это представление функции W для доказательства
ее липшицевости. Достаточно сфокусировать внимание на любом
множестве вида [Г,, T2]xS, содержащемся в Т(х, б). Далее будет
показано, что W является липшицевой отдельно по т и по и на
таком множестве.
Пусть заданы т, т' из [7lf Т2] и weS; предположим, что т<т'.
Пусть */— решение Рхи и определим новую кривую у' на [т', &] как
сужение кривой у. Тогда
^(T,,«)^/(t/'(b))+WdCl(l//(b)) +
+ М5тах{|х(/)-1/Ч/)|-б,0}^ + с|р(/,^^)^^^(т,и). (в)
X' X'
Снова пусть у — решение /V„; определим у' на [т, Ь], положив
Тогда
X' X'
1^(т, и)<?(т» + ,И jmax{|jc(0 — м| — 6,0}d/ + c$ р(/,и, 0)d/<
X X
<W(t\i0 + £|t-t'1 (9)
для подходящей постоянной с. Из неравенства (8) и (9) следует,
что W(>y и) —липшицевая на [Г1э Т2] функция. Обратимся теперь
к переменной и.
Пусть weS и у — решение Рхч. Выберем любое и, достаточно
близкое к и так, чтобы кривая
y'(t):=y(t)-u+v
лежала в Т(х\ е). Тогда
ь
W(*,v)^JT(y') + c$p(tty\y')dt^c3\u-v\ + W(x,u)
X
для некоторой постоянной с*. Следовательно,
Hms ^(х,Р)-Г(Т,И)}<
Поточечные условия такого типа (с одной и той же постоянной),
как известно, означают, что Щт, •) —липшицевая на S (с
постоянной с3) функция.
Теперь докажем второе утверждение п. 2). Сначала покажем,
что а—H(t, и, —£) неотрицательно всякий раз, когда существует
градиент УЩт, и), равный (а, (1).
Это будет следовать из неравенства
<*+<Р> ^>^0 для всех v^F(t, и),
150

к доказательству которого приступаем. Для любого ц>0
определим кривую у' на [т—rj, Ь] следующим образом:
W), t^t^b,
где у — решение Ртм-. Для малых ц имеем (/, y'(t))^T(x\ е) для
т—л^^т> так чт0
т
Г(т — ч,и —Л»)^^(т,и) + с С p(t,y',v)dt.
Т-Т1
Перенося все члены с W влево, разделив на ц и устремив ц к
+ 0, получаем
—а—<р, с>^ср(т, и, у) =0,
что и требовалось.
Теперь из теоремы 2.5.1 и выпуклости функции #(т, и, •)
имеем, что для любого (a, (J)ed№(x, и) а—#(т, и, —р)^0. Чтобы
закончить доказательство, надо только показать, что для каждой
точки (т, и) из внутренности Т{х\ б) найдется элемент (а, [1)е
^dW(x, и) такой, что а—#(т, и, —fJ)=0. Пусть у — решение Рхи.
Для всех достаточно малых tj>0 ограничение кривой у на [т, т+л)
остается в Т(х, б) и является локальным решением для задачи
минимизации функционала W(T9 у'(Т)) со свободными концами и
нефиксированным временем на множестве кривых у\ определенных
на [т, Т], которые являются траекториями включения F такими,
что у'(т) =и и \x(t)—y'(t) I <б. Функция W удовлетворяет условию
Липшица в окрестности (т+т], у(т + ц)), так что можно
применить теорему 3.6.1, чтобы получить (из 2) и 4) с Х= 1), что для
некоторых элементов (а„, р„)ед№(т+т1, у(ч+ц)) имеем
ал-Я(т+л, у(х+г\), —Рл) =0.
Для некоторой последовательности ть существует
последовательность (Оц,, Ац,), сходящаяся к (а, р)еа№(т, и) с желаемым
свойством. Лемма 1 доказана.
Для функции W не выполнено только одно краевое условие
W(a, x0)=f(x(b)). Следующий результат позволяет завершить
доказательство теоремы. (Именно здесь используются оптимальность
и нормальность кривой х,)
Лемма 2. Существуют е, М и б, удовлетворяющие условиям
леммы 1, такие, что х есть решение задачи Р^.
Доказательство. Рассмотрим вариант Р задачи PD с
?(t,y,y0) = F(t,y)x{Mmax[\y-x(t)\-b,0]},
f(y, Уо) =f(y) +f/o, g(t, у, Уо) = \y—x(t) |—е0,
Co = {*o}X{0}, C1 = C1XR.
Пусть V(u) — минимальное значение функционала в этой
задаче, когда Ct заменено на С4 + м. В лемме 1 было показано, что для
151

любого е>0 существуют М и б такие, что все решения Р лежат в
Т(х\ г). Если Гдостаточно мало, то V(0) =/(*(&)), поскольку х есть
локальное решение PD.
Докажем теперь, что V — липшицевая в окрестности 0 функция.
Пусть (р, q) — множитель индекса 0, соответствующий решению
(У у У о) задачи Р. Получаем, что у0=0, а у является локальным
решением PD (f{y(b)) =f{x(b)). Определение множителя в этом
случае дает
(-p9y)edH(tty9p) + (SiqBx{0))9 ? = 0, q(b) = 0.
Тем самым показано, что р есть множитель для у индекса 0. Па
предположению о нормальности р=0. Отсюда следует, что задача
Р нормальна, а это означает липшицевость функции V с
постоянной, скажем, k в окрестности гВ точки 0 (следствие 1 теоремы 3.4.3)
для некоторого г>0.
Теперь выберем e<r, М>тах{М, &}, б<6, удовлетворяющие
условиям леммы 1. Докажем, что х есть решение получившейся
задачи Рахо- В самом деле, пусть у — произвольное решение PaXQ.
Тогда по лемме 1 у лежит в Т(х\ е), следовательно,
dc,(y(b))^\y(b)-x(b)\<t<r.
Отсюда следует, что для некоторой точки и^гВ имеем t/(ft)Gd + M
и dCl(y(b)) = |u|. Вычислим:
Ja{y)=f(y(b)) + MdCl(y(b)) + M\ imx{\x-y\-6,0}dt^
а
>f(y(b)) + M\u\ + M^max{\x + y\-Z,0)dt>
а
Отсюда получаем, что х есть решение Ро*о- Лемма и теорема
доказаны.
Отметим, что в доказательстве теоремы требование
нормальности всех локальных решений может быть заменено требованием
нормальности и единственности х как локального решения.

Глава 4
ВАРИАЦИОННОЕ ИСЧИСЛЕНИЕ
Мы должны приветствовать будущее,
помня, что скоро оно станет прошлым, и
мы должны с уважением относиться к
прошлым достижениям, помня, что в какой-то
момент они представляли предел
человеческих возможностей.
Джордж Сантаяна
Здесь изучается обобщенная задача Больца — вторая из
рассматриваемых в этой книге постановок задач динамической
оптимизации. Хотя при этом используются современные методы, ход
наших рассуждений определялся обширной предысторией
исследования этой задачи. Читатель, осведомленный по § 1.3 и 1.4 о
предшествующих достижениях, будет способен лучше оценить настоящие
результаты.
§ 4.1. Обобщенная задача Больца
Рассмотрим задачу минимизации функционала
J (у): = l(y (а), уф)) + j L(/, у (t),y(t))dt
а
на множестве всех кривых (т. е. абсолютно непрерывных функций
у: [a, 6]->Rn). Постановка этой задачи, называемой задачей РВ9
совпадает с традиционной постановкой задачи Больца в
вариационном исчислении. Существенное же отличие от традиционной
постановки заключается в том, что функции / и L принимают значения
из расширенной прямой RU{+°°}-
Многие на первый взгляд совершенно разные задачи
динамической оптимизации могут быть сведены к задаче Рв.
Рассмотрим, например, постановку 3.4.1 задачи PD. Если определить / и L
153

следующим образом:
l(yo,yi):^c0(yo)+^cl(yi)+f(yi)9
L (/, s, v): = (°' еСЛИ V S F (/' 5)' *(/' S) ^ °*
[+ oo, в противном случае,
где урс обозначает индикаторную функцию множества С, то
получившаяся задача эквивалентна задаче PD.
К задаче Рв можно свести и другие типы задач с
ограничениями, в частности, задачу оптимального управления,
рассматриваемую в следующей главе. Возможность такого сведения во многом
определяется свойствами измеримых многозначных отображений и
существованием измеримых селекторов для них. Краткий обзор
необходимых в этой связи сведений приводится ниже.
&X^-измеримость. Чтобы задача Рв была хорошо определена,
было бы желательно в первую очередь обеспечить для любой
кривой у измеримость (по Лебегу) сложной функции t-*L(t,y(t),y(t)).
В вариационном исчислении это следует из обычного
предположения о непрерывности функции L. В рассматриваемой здесь
обобщенной постановке подходящим (слабейшим) предположением,
обеспечивающим выполнение желаемого свойства, является
предположение об измеримости функции L относительно а-алгебры j?X
X3S. Эта а-алгебра, состоящая из подмножеств [a, 6]XR2n,
порождается множествами вида MxNf где М — измеримое по Лебегу
подмножество [а, Ь]9 N — борелевское множество в R2n. Ha практике,
когда задача Рв получается сведением из некоторой исходной
задачи, при довольно умеренных предположениях об исходной задаче
функция L обладает указанным свойством измеримости. Несколько
общих результатов в этом направлении были получены Рокафелла-
ром в [185].
Сформулированное выше понятие измеримости возникает также
при изучении вопроса о существовании измеримых селекторов
(а именно для многозначных отображений, значения которых не
есть замкнутые множества). В этой связи полезен следующий
результат Ауманна (см. также соответствующие результаты в [215]).
4.1.1. Теорема. Пусть многозначное отображение Г
отображает измеримое множество SczRm в множество непустых
подмножеств R" и график Г (т. е. множество {(s, у): s^S, ^r(s)}) есть
9?Х9&~измеримое множество. Тогда для Г существует измеримый
селектор.
(В формулировке теоремы о-алгебра SX9S порождается
произведениями лебеговых множеств из Rm и борелевских множеств из
Rn.)
Приведенный результат можно рассматривать как обобщение
теоремы 3.1.1, поскольку в случае замкнутости отображения Г его
измеримость означает, что график Г есть 2? X.^-измеримое
множество. Всюду далее будем полагать, что если для кривой у
интеграл в функционале Больца / не существует или равен —оо, то
154

j(y) = +00. Во всех других случаях значение функционала /
(возможно, равное +оо) определяется однозначно.
4.1.2. Основные предположения. На протяжении всей
главы предполагается, что выполняются следующие
предположения:
1) функция L ^Х^-измерима;
2) функция / полунепрерывна снизу;
3) функция L(t, • , •) полунепрерывна снизу для каждого /е
Отсюда следует, что многозначное отображение
F{t,x)=epiL{t,x, •)
измеримо по L Этот факт будет впоследствии использован.
Гамильтониан. Гамильтониан Н определяется на [a, b] XRnXRn
-следующим образом:
#(/, s, р) =sup «р, v}—L(t, s, v): v<=Rn}.
Основное содержание этой главы посвящено анализу задачи Рв
•с использованием гамильтониана. Это возможно только тогда,
когда знание функции Н равносильно знанию функции L. Условие,
гарантирующее такую эквивалентность, называется условием
выпуклости (для L) и состоит в выпуклости функции L(t, s, •) для любых
(/, s). В случае его выполнения, теория двойственности выпуклого
анализа обеспечивает справедливость формулы
L(t, s, v) =sup {<р, v>—#(/, 5, р): /?e=Rn}.
Со времен Тонелли хорошо известно, что условие выпуклости
играет решающую роль в полунепрерывности снизу функционала
Больца, а значит, и в теории существования решении задачи Рв-
Вопрос о существовании решений этой задачи в терминах
гамильтониана изучался Рокафелларом в [185]. Следующая теорема взята
из этой его работы.
4.1.3. Теорема. Пусть L удовлетворяет условию выпуклости и
основным предположениям, а I и Н удовлетворяют следующим
условиям роста:
H(t,x9p)^li(t,p) + \x\(o(t) + p(t)\p\),
где o(t), р(0 и ц(*, р) конечны и суммируемы как функции t (а и
р неотрицательны), а функции /0, U ограничены снизу на каждом
ограниченном множестве, причем
limine => + оо, Hminf^> — 00.
|s|-*» М М-*» \S\
Тогда, если функционал Больца принимает конечное значение
хотя бы для одной кривой у, существует решение задачи Рв.
155

§ 4.2. Необходимые условия
В этом параграфе будут получены необходимые условия,
которые характеризуют кривую х, являющуюся решением задачи Рв~
Для формулировки первого результата понадобится условие
некоторой регулярности ограничений. Чтобы описать это условие,
обозначим через V0(s) точную нижнюю грань значений функционала
для возмущенной задачи Рв, в которой функция / заменена на ее
возмущение /в0 вида
/80(и, v): = l(u+s, v).
Аналогично Vi(s) есть точная нижняя грань значений
функционала в задаче Рв, в которой / заменено на
/о.(н, и): = /(ы, v+s).
Будем говорить, что задача Рв устойчива, если для /=0 или /= 1
lim inf ———-^— > — oo.
s-*> \s\
Заметим, что задача PBj очевидно, устойчива, если I — Липшице-
вая функция по одной из своих переменных, в частности, если
задача Рв есть задача со свободным концом (т. е. задача, в которой I
зависит только от у (а)).
Для заданной кривой х будем говорить, что Н удовлетворяет
строгому условию Липшица в окрестности *, если существуют
такие е>0 и суммируемая функция £(•) на [а, Ь]> что для всех p^R\
любых (/, у{) и (/, уг) в трубке Т(х; е) имеем
\H(t, уи p)-H{t9 у19 р) | <*(*){1+ |Р|>|*1-У.|.
4.2.1. Замечание. Это условие неявно предполагает, что Н
принимает конечные значения в окрестности х. Отсюда следует, что
для любого y^x(t) +гВ найдется v такое, что L(t, y,v)<+ оо. Тем
самым явно заданные фазовые ограничения вида g(x(t))^0
исключаются из рассмотрения при этом предположении.
4.2.2. Теорема. Пусть L удовлетворяет условию выпуклости и
основным предположениям. Предположим также, что х — решение
задачи Рв, задача Рв устойчива и Н удовлетворяет строгому
условию Липшица в окрестности х. Тогда существует кривая р такая,
что
\-'p{t)}<=dH(t,xtp)n.e.,
Если L (или H) не зависит явно от t, то H(x(t), p(t))
тождественно равна постоянной, a x(t) —существенно ограниченная
функция.
Доказательство. Этап 1. Переформулируем исходную
задачу с тем, чтобы можно было применить результаты гл. 3.
156

Будем использовать черту сверху (например, */), чтобы
обозначить точки у— (yi9 у2, Уз, Ук)у принадлежащие RnXRnXRxR.
Определим
С0: = {у: Уь>1(Уи у2),Уз = 0}, С,: = {у: у^у*},
Fi(t,y)- ={v: v2 = 0, v4 = 09 (vu »3)e [epiL(/, yl9 •)] П
r\[e(t)+ik(t)B]}p
где
e: = (i(t),L(tfx(t)/x(t)\ f(y): =y3 + y*.
Нетрудно проверить, что для любого натурального / кривая
* (0 = U (0, х (ft), (L (s, *, x)ds, I(х (a), x(b)))
есть решение задачи минимизации f(y(b)) на множестве кривых у„
удовлетворяющих включениям y(b)^Ct и
iT(a)eC0, (1)
y^Fi(t,y) п. в. (2)
Лемма 1. Существуют такие положительные числа Миг, что
для каждого i кривая х минимизирует f(y(b))+MdCl(y(b)) на
множестве всех кривых у, лежащих в Т(х, е) и удовлетворяющих
ограничениям (1) и (2).
По предположению об устойчивости существуют числа Мх>0 к
8i>0 такие, что для у=0 или /=1
V^+M^sl^VtiO)
для любого seet5. Положим е = е,/2, М=y2Afj. Если предположить,,
что утверждение леммы неверно, то существует кривая у,
удовлетворяющая условиям леммы, такая, что
f(y(b))+MdCl(9(b))<f(x(b)) = V:(0). (3>
Пусть й — ближайшая к у (Ь) точка из Сх. Тогда
*,(F(ft))4(M*)-^M*)-«)l^
причем 2u=yt(b)+ y2(b).
Будем полагать, что /=1. Тогда, используя приведенные выше
соотношения, а также обозначения y:=yt и s:=y2(b)—t/i(6),
можно вместо (3) записать следующее:
ъ
l(y(a\y(b) + s) + ^L(t,y,y)dt + ^ys\<VAO).
а
Но тогда
V^+M^slKV.iO)
15?

и |s|<e,, что противоречит предположению об устойчивости
задачи Рв. Случай /=0 рассматривается аналогично. Лемма 1
доказана.
Этап 2. Применим необходимые условия гл. 3 к задаче,
сформулированной в утверждении леммы 1. Все условия
предположений 3.2.2 выполняются для этой задачи очевидным образом, за
исключением свойства липшицевости отображения F{ в окрестности
кривой х. Проверим наличие и этого свойства F{.
Лемма 2. F{ есть измеримо липшицевое отображение в окрест-
ности х с функцией Липшица \Qk(t) для каждого L
Пусть F(t,y) обозначает epiL (*,*/<, •)• Покажем, что F(t, •)
удовлетворяет условию Липшица с постоянной 2k(t) на множестве
x(t) +гВ. Пусть slf s2 лежат в x(t) +гВ и задан вектор w^F(t, s4);
для доказательства достаточно найти w2^F(t, s2),
удовлетворяющий неравенству | wt—w2 \ ^2k (t) \ s2—st |.
Если не существует такого ш2, то найдется единичный вектор
[р, q] (peRn, q— скаляр) и положительное б такие, что для
любых w2^F(t9 s2)
[р, q] • К—w2) ^2k(t) !st-s2| +6. (4)
(Здесь a-b обозначает скалярное произведение векторов.)
Поскольку F(t, s2) —надграфик, то q^O. Предположим, что q<0, так как
Wt=[vl9 rt] для некоторого rt^L(t9 sly vt) из (4) следует, что для
всех t;2eRn
P'vx-L(tf sb Vl)^ p.*2-I(/, s2, t;8)+(2/g|Sl7Sf' + 6)> (5>
\Q\
где p=p/\q\. Поскольку |ф| + |р|<2, то 2/\q\ не меньше, чем 1 +
+ | j5|, и, следовательно, из (5) получаем противоречие:
#(/, si9 р) >#(/, s2, р) +k(l + \р\) \st-sz\.
Осталось рассмотреть случай <7=0. Так как L(t9 s2, v2)^
^ —H(t9 s29 0) для всех t/2, то можно выбрать А,е(0, 1) такое, что
lL{t9 s2, v2)>— б/З для всех v2 и %L{t9 sl9 t;t) <б/3. Тогда для всех
vt из (4)
p-v1 — XL(t,suv1)^p.v2 — bL{t,s29Vt) + 2k\s1 — s2\+±f
з
откуда
"('■ **• i )-"('■ * г) >^r^+£>* (i+м) к-^.1.
а это снова противоречит свойству строгой липшицевости Я.
Доказав таким образом свойство липшицевости F, обратимся к
отображению Ft.
Пусть v=л:(/), } = L(t, х9 х). Заметим, что
fF(/, s)-(S, 0] П ik(t)B = (F(t, s) П [(S, г) + tt(09])—(S9 P) =
= {("ъ *8): fa. 0, у3, 0) S Л (/, J)} - (у, ;>.
158

Чтобы закончить доказательство леммы 2, достаточно показать, что
для некоторого 6>0 и почти всех t
G(s): ={F(t,x(t) + s)-(d,~r)}riik(t)B
есть липшицевое на 65 с константой I0k(t) многозначное
отображение. Это следует из следующего приведенного ниже результата.
Лемма 3. Пусть Г — замкнутое, выпуклое, непустое и
липшицевое на 65 с постоянной М многозначное отображение.
Предположим, что T(s){VB непусто для некоторого г>2М6 при всех se65.
Тогда Г(5): = Г(5)ПЗгБ удовлетворяет условию Липшица на 65 с
постоянной ЬМ.
Пусть заданы х, у, лежащие в 65, и v^T(x). Для
доказательства леммы достаточно найти w^T(y) такой, что | и—ш| ^5М\х—у\.
Первоначально предполагаем, что \v\ ограничено сверху
положительным числом N=3r—М\х—у\. Тогда из липшицевости Г следует
существование такого доеГ(#), что \w—t;|^Af|jt—у\. Тогда
\w\^M\x—y\ + \v\^3r,
т. е. w принадлежит Г (у) и удовлетворяет нашим требованиям.
Пусть теперь \v\ >N, £еГ(х)Пг5 и положим
*:=[7Г^. ф:-Хо + (1-Я)С.
Заметим, что Ле(0, 1), так что ф содержится в выпуклом
множестве Т(х). Получаем с учетом того, что N—r^r,
^-v\<{l^X)\v-l\^^±^{\v\-N}^
<]£ji\v\-3r + M\x-y\}<4M\x-y\.
Вследствие липшицевости Г существует такой юеГ(у), что
\w—ф| ограничено сверху М\х—у\. Нетрудно проверить, что
M<|q>|+Af|x—y\^N+M\x—у\^3г,
т. е. w^F(y). И наконец,
\w—v\^M\x—у\+4М\х—у\=5М\х—у\.
Лемма 3 доказана.
Нетрудно завершить доказательство леммы 2, применяя
предыдущую лемму к многозначному отображению G с M: = 2k(t)r
r:=ik(t)/3 и любым положетельным 6, меньшим, чем е и //12.
Теперь, применяя теорему 3.2.6 для задачи, сформулированной
в утверждении леммы 1, доказываем существование кривой рх
такой, что
(- pi, х, L) е dhi (t, xf ph -1) п. в., (6)
(Pi(a)9-Pi(b))edl(x(a)9x(b))9 (7)
\Ma)\<r9 (8)
159

где L обозначает L(f, х, х), й<(/, х, •, •) есть опорная функция /\(/,
х), а г есть постоянная, не зависящая от / (см. следствие 1 теоремы
3.2.6). (Отметим, что условия типа включения (6) иногда для
удобства будут писаться в виде строки.
Лемма 4. Имеем
(— р{, ki) s dHt (/, x, р£) п. в., (9)
где Н{ дается выражением
Hi(t,y,p) = m3x{p-v-L(t,y,v): (v9L(t9y9v))e& L) + ik(t)B}.
Для доказательства воспользуемся тем, что если
Му,р,?)-М*,у,р,?)
и функция fz определяется по формуле
Му.рНМ'.у.л—О.
то для <7<0
/i(y,P.fl) = l^|/i(if.-^j-).
Отсюда следует, что всякий раз, когда существует V/b причем
имеем
-klV.ff.Jf). »-v.(*^).
Из теоремы 2.5.1 тогда следует, что для любого элемента (а, р,
Ч) из dft(yt Р, — 1) имеет место (a, $)^dfz(y, р). Показано, что (9)
вытекает из (6), а это и есть утверждение леммы 4.
Лемма 5. Существует постоянная М0 такая, что для всех i и
ecext&[a, b]
|p«(OI<Af..
Из предложения 3.2.4, б) и (6) следует
|р<|<ЮЛ(0|(р,.-1)|.
Отсюда, используя (8), получаем требуемое утверждение.
Этап 3.
Лемма 6. Для почти всех t найдется N(t) такое, что для всех
i>N(t) в окрестности (x(t), р,(/)) имеет место равенство
Я,(/, •,•)-#(*,-,■).
Пусть t таково, что выполняется (9). Значениями
полунепрерывного сверху отображения
(y,P)-+dpH(t,y,p)
являются компакты, так что образ компакта при этом
отображении тоже есть компакт. Заметим, что в соответствии с
предложением 2.5.3 x(t)^dpH(t, x(t), pi{t)). Отсюда и из леммы 5 следует, что
160

для некоторой, постоянной с, зависящей, вообще говоря, от t9
получаем
dPH(t,y,p)czi(t)+cB
для любых (у9 р) в окрестности (x(t)9 р<(0)«
Для всех v^dpH(t9 у% р) имеем из определения субградиента
<p9v)-L(t9y9v)-H(t9y9p).
Поскольку H(t9 •, •)—непрерывная функция, получаем, что для
(Уу Р), достаточно близких к (x(t)9 Pi{t))9 и для указанных v
\L(t9y9v)-L(t9x,k)\^\(p9v)-(pi9k)\ +
+ \H{t9y9p)-H(t9x9pi)\<\{p-pi9xy\ + \{p9v-i)\+l^
^M0{2\i(f)\ + c) + l=: cx.
Если выберем i>c+ci9 то получим, что H(t9 •, •) и #<(/, •, •)
совпадают в окрестности (х9 pi) (поскольку всегда Н^Н). Лемма
доказана.
Можно предположить, что в лемме 6 функция #(•) есть
измеримая функция. Определим Л<={/: N(t)^i}\ из леммы 6 следует,
что
(— pi9 х) е дН (t, х9 pi) для п. в. /G4
При i-*oo measA{-+(b—а), кривые р{ таковы, что
последовательность \р{\ равномерно интегрально ограничена на [a, b]9 а
последовательность |р<(д)| ограничена. Тем самым оправдано применение
теоремы 3.1.7, и ввиду (7) заключаем, что доказываемая теорема
верна.
Теперь если L (а значит, и Н) не зависит от /, то из гамильто-
нова включения, очевидно, следует ограниченность ||лг||оо, поскольку
Н удовлетворяет условию Липшица на компактных подмножествах
в RnXRn. Соотношение <р, х}—L(x9 х)=Н(х9 р) тогда означает,
что L(x(t)9 x(t)) —также существенно ограниченная функция.
Используя это, можно повторно провести доказательство с
модифицированным многозначным отображением
^(у):={(*>1,0, 0„О): (vu v3)<=epiL(yu -)П/Л}.
Доказательство повторяет предыдущее, но из-за независимости
F{ от / можно сразу после леммы 2 применить следствие теоремы
3.6.1 (а не теорему 3.2.6). Тем самым получаем еще и
дополнительное утверждение о постоянстве Hi(x(t)9 Pi(t)). По завершении
доказательства получаем, что функция H(x(t)9 p(t)) постоянна на
[а, Ь].
4.2.3. 3 а меча ни е. Можно доказать вариант теоремы без
предположения о выполнении условия выпуклости. Следует
непосредственно постулировать наряду с устойчивостью задачи, что
надграфик epi L(yif •) функции L(yi9 •) есть липшицевое
отображение, а значения функции Н конечны. Доказательство проводится по
6 Ф. Клар» 161

приведенной выше схеме с тем исключением, что предварительно
задачу следует свести к обобщенной задаче, в которой L
заменяется на функцию L такую, что для всех (/, у) L(t, у, •) есть
наибольшая выпуклая функция, ограниченная сверху L(t, у, •).
Кривая х есть также решение «релаксированной» задачи с тем же
значением функционала (подробности см. в [58]).
Об условии устойчивости. Имеется несколько случаев, когда
условия устойчивости; теоремы 4.2.2 выполняются автоматически,
В частности, это имеет место, когда / есть липшицевая функция по
одной из переменных. Сюда относится и задача со свободным
правым концом (т. е. задача, в которой / не зависит от х(Ь)). Другим
примером является случай липшицевой функции L; он будет
рассмотрен ниже. Еще один пример:
L (/, s, v) = ^Fit,S) (v)91 (s0, sx) = \|?Co (s0) + l|5Cl (Sx) + / (Si).
Эта задача Больца Рв сводится к задаче PD для
дифференциального включения гл. 3 (см. задачу 3.4.1) и, если PD — нормальная
задача, то при определенных условиях по теореме 3.4.3, следствие 1,
она устойчива.
Другой результат подобного рода содержится в следующем
утверждении.
4.2.4. Предложение. Пусть I и L имеют вид
L{t9s9 v)=f(t9s9v)+yv{v),
l{s09si)=^T(s09sl)9
где f — локально липшицевая функция, V и Т — компактные вы-
пуклые множества в Rn, RnX Rn соответственно. Предположим, что
0€=int((&—a)V—Д),
где A = {Sj—s0: {s09 Si)^T]. Тогда задача Рв устойчива и Н
удовлетворяет строгому условию Липшица.
Доказательство. Любая допустимая кривая х равномерно
ограничена постоянной М9 поскольку х{а) их ограничены. Для
точек yi9 уг из x(t) +В имеем
H(t, yi9 p)—H(t9 у29 р) s^sup {/(/, у29 v)—f{t9 yi9 v): i/gV}<
где К — постоянная Липшица для функции / на соответствующем
ограниченном множестве. Отсюда следует искомое свойство
Липшица для Н.
Докажем свойство устойчивости задачи РВу воспользовавшись
общим результатом об устойчивости в математическом
программировании (см. теорему 6.3.2, следствие 1). Пусть X — банахово
пространство кривых, определенных на [a, ft], с нормой
\x\-- = \x(a)\ + $\i\dt.
162

Определим отображения f: X-*-R, A: X-»-R2n:
Т(х) = J / (/, х, к) dt, А (х) = [дг (а), х (Ь)],
а
и множество S:
S: = {x<=X: x(t)ezVn.B.t |Л(*)|^2г},
где г — такое число, что гВ содержит Т. Нетрудно показать, что f —
липшицевая на S функция, А — непрерывное линейное отображение
на Ху S — замкнутое, ограниченное выпуклое множество.
Лемма. Справедливо включение
0eint(i4S—Т).
Покажем, что для каждого (о1э о2) в окрестности (0, 0)eRnxRn
найдется элемент jcgS такой, что для некоторого элемента (su s2) е
еГ имеем
Oi=x(a)—Su o2=x(b)—s2. (10)
Известно, что для достаточно малых (оь а2) существуют v^V
и (St, s2)er такие, что
о2—at = (b—a) v + Si—s2.
Чтобы получить уравнение (10), достаточно определить кривую
х(-) следующим образом:
*(*) =Si + ai+ (t—a)v.
Из теоремы 6.3.2, следствия 1, следует, что
W(ouc2):^mf{f(x): *e=S, (x(a)t x(b))e=T+ (alt o2)}
есть липшицевая в окрестности (0, 0) функция. Это означает, что
V0 и Vi есть липшицевые в окрестности 0 функции, т. е. задача Рв
устойчива.
§ 4.3. Достаточные условия
Как правило, для выпуклых задач необходимые условия
оптимальности являются и достаточными условиями. Например, для
задачи Рв выполнение необходимых условий из теоремы 4.2.2
гарантирует оптимальность кривой х в случае выпуклости функций / и
L(tt •, •) для каждого L Последнее свойство эквивалентно тому, что
H(tyyyp) вогнута по у (и выпукла по р, что всегда имеет место).
Строгая формулировка этого утверждения будет приведена ниже.
В классическом вариационном исчислении достаточные условия
формулируются в терминах сопряженных точек решений
некоторого дифференциального уравнения второго порядка. В работах [228,
229] Зейдан показала, что для задачи Рв оба упомянутых
подхода могут быть рассмотрены в рамках одного и того же метода
(который включает в себя и метод Гамильтона — Якоби,
рассмотренный в гл. 3). Ниже излагается только часть ее результатов.
Полагаем, что выполнены основные предположения 4.1.2.
6* 163

4.3.1. Теорема. Пусть кривые х и р, определенные на [a, Ь]9
удовлетворяют следующим условиям:
L(t9 х9 x+v)— L(t9 jc, x)^<p, v} для всех ugR" п. е.; (1)
найдется е>0 такое, что для всех уееВ, /го«*ги всех t^[a, b]
H(t9x(t) + y9p(t)-Q(f)y)-H(t9x(t)9p(f))^
^-(PW + Q(t)xW,y) + ^(y,Q(t),y>> (2)
для всех и, v из гВ
l(x(a) + u9x(b) + v)-l(x(a)9x(b))^
>-(p(b)9v) + (p(a)9u)-±(u9Q(a)u>+±(v9Q(b)v)9 (3)
где Q(«) —липшицевая функция, определенная на [а, 6], значения-
ми которой являются симметричные пХп-матрицы.
Тогда кривая х есть локальное {относительно трубки Т(х; г))
решение задачи Рв.
4.3.2. Замечание. Когда QsO, условия (1) —(3) теоремы
означают, что имеют место гамильтоново включение и условия
трансверсальности теоремы 4.2.2. С этой точки зрения их можно
рассматривать как локальное усиление необходимых условий.
Доказательство. Неявно предполагается, что х лежит в
Q и доставляет конечное значение функционалу Больца. Функция
W определяется следующим образом:
W(t9y): =-±(y-x(t),Q(t)(y-x(m + (p(t),y).
Тогда для почти всех /е[а, 6], всех y^x(t) +гВ имеем из
неравенства (2)
Wt(t, y)+H(t9 У, Wy(t, y))^Wt(t, x(t))+H(t, x(t)9 Wv(t9 x(t))).
Обозначим, как и в замечании 4.2.3, через L(t9 у, •) выпуклую
оболочку функции L(t9 у9 •). Условие (1) означает, что почти
всюду L(t, х9 х) =L(f, х, х).
Теперь пусть у(-)—любая кривая, лежащая в е-трубке
относительно х, для которой l(y(a), у(Ь)) конечно. Тогда
L(t, У, y)-L(t, х, i)^L(t, yf y)-L(t9 x9 x) =
= sup {(yt q)-H (t9 y9 q)} - {p9 x) + H (>, x9 p) ^
я
> <У, Wy V, У))-Н (t, y, Wy {t, y)) - </>, x) + H (t, x, Wy (t, x)) ^
S* Wt (t, y) + (y, Wy (t, y)) - Wt (t, x) - (Pt i) =
= ±W(t,y(t))—±W(t,x(i)).
164

Вспоминая определение функционала Больца /, из приведенных
выше соотношений получаем
J(y)-J(x)>l(y(a),y(b))-l(x(a)9x(b)) +
+ W(b, y(b))-W(a9 y(a))-W(b, x(b)) + W(a, x(a)).
Согласно (3) правая сторона этого неравенства неотрицательна.
Отсюда следует, что х есть локальное решение Рв в трубке Т(х, г).
Приведем ранее обещанный результат для «выпуклого» случая.
Следствие. Пусть L удовлетворяет условию выпуклости и
существует кривая р, удовлетворяющая включениям
Г-^м1еая(/,х(/),р(0) п.в.;
\ р{*]<=Щх(а),х(Ь))9
где I — выпуклая функция и где для каждого t функция у->-
-+H(t, у, p(t)) вогнута. Тогда х есть решение задачи Рв.
Для доказательства использовать теорему 4.3.1 в случае
е= + оо, Q(0=0.
Сопряженные точки. Классическая теорема Якоби в
вариационном исчислении утверждает, что когда L принадлежит классу С9
(не будем здесь перечислять все технические предположения и
считаем, что /=0), экстремаль х (т. е. кривая х, которая вместе с
некоторой кривой р, удовлетворяет уравнениям Гамильтона) есть
локальное решение, если не существует точки ев (а, Ь]9 сопряженной
к а.
Точка с называется сопряженной к точке а, если существует
нетривиальное решение следующей краевой задачи:
— {LxJi + Lvxh) — Lxvh — Lxxh = О,
at
ft(a)=ft(c)=0
(где все производные функции L вычисляются в точках (t9 x(t),
x(t)). Условие несуществования такой точки с называется
«строгим условием Якоби». Используя теорию краевых задач, можно
условие Якоби выразить в терминах гамильтониана следующим
образом:
существует функция Q (t), значениями которой являются
симметричные матрицы, такая, что на [a, Ь] выполняется неравенство
Q - QHPPQ + HXPQ + QHPX - Нхх > 0, (4)
где производные Н вычисляются в точке (t9 x(t), p(t)), символ
Af>0 обозначает положительную определенность матрицы М).
Теперь условие (2) теоремы 4.3.1 выполняется для каждого /,если
функция
в(§г): =|a Qy)-(p+Qx,y)-H{t,x(t)+y,p(t)-Qy)
достигает локального минимума при #=0.
165

Можно гарантировать выполнение этого условия, если
потребовать, чтобы 6уу(0)>0, а это в точности совпадает с (4). Равенство
еу(0)=0 есть следствие уравнений Гамильтона). Таким образом,
теорема 4.3.1 связана с классической теорией; этот и другие
результаты читатель может найти в упомянутых работах [228, 229].
§ 4.4. Конечные лагранжианы
Здесь будет представлен один из вариантов сформулированных
в терминах гамильтониана необходимых условий, которые могут
быть получены при более сильных предположениях о лагранжиане
L{t,y,v).
В этом параграфе для простоты изложения рассматривается
автономная задача (т. е. задача, в которой L не зависит явно от*).
Сделанные здесь предположения будут означать, что L есть
локально липшицевая (а, значит, и конечная) функция (у, v).
Именно, потребуем, чтобы рост L по (уу v) не превосходил
экспоненциального в следующем смысле: существуют постоянные k0, kt и с0
такие, что для всех у и v из Rn
\дЦу9 v) | <*.|I(y, v) | +*t| (у, v) | +с0.
Кроме того, предполагается, что для каждого y^Rn
lim -ii£^L= + oo.
|u|-»+oo I V |
Как нетрудно видеть, это означает, что и гамильтониан есть
конечная функция. Поскольку здесь в отличие от теоремы 4.2.2
предположения формулируются непосредственно в терминах L, то нет
нужды предполагать, что L есть выпуклая функция и.
Будем полагать, что / имеет вид
I (s0, Si) = / (*i) + Фс0 (se) + *Ct (Sl),
где / — локально липшицевая функция, С0, С4 — замкнутые
множества.
4.4.1. Теорема. Пусть при сделанных выше предположенияхх
есть решение задачи Рв. Тогда х — существенно ограниченная
функция, Н — липшицевая на ограниченных множествах функция
и существует такая кривая р, что
Г"^(/)1еая(х(/),р(0) п.в.,
L *wJ
р (а) е Nc. (х (а)), -р(Ь)е df (х (Ь)) + NCt (х (Ь))у
причем функция H{x{t)y p(t)) тождественно равна постоянной.
Доказательство. Подготовительные леммы.
Приведем некоторые результаты технического характера.
Лемма 1. Если f : Rm->R удовлетворяет для всех х неравенству
\df(x)\^k0\f(x)\+ki\x\+c0t
166

то для. любых х и y^x+iB
\ny)-f(x)\<atlk9\f(x)\+c.+klmax{\xl \у\}]\у-х\,
где а( = (е№—\)/(k0i). (Здесь i есть произвольное
положительное число.)
Чтобы доказать лемму, определим g(t) = \f(x+tv)—/(х)|,где
v=y—х. Тогда из условия леммы следует, что почти всюду
\g'(t) \<\v\ {k0g(t) +k0\f(x) | + c0+k{ max{|*|, \y\}} п. в.
Интегрирование приводит к неравенству
g(i)^[i/(x)i+^-+fe1max{|;ny|}][^N-i].
Имеем ^••у| — 1 <<Xik0 \ v | для | v | </, так что из предыдущего
неравенства получаем требуемый результат.
Лемма 2. Для каждого натурального i существует такая
интегрируемая функция *,(•)» что для> любых (уи Ui), (у2, v2) из (x(t),
x(t))+iB
\L(yu Vl)—L(y29 »,) |<ft|(/) | (Ух—Уг> V—V2)\.
Если обозначить через L(t) функцию L(x(t), x(t))y а через
P(0 величину \x(t), x(t)\, то, применяя лемму 1, получаем
\Цуи vi)—L(t)\^oi[k.\L{t) | +Co + *1(i + p(0) К
откуда
\ЦУи »i)|^(teA+l)|L(0|+^cf+fti(/+p(0)] = *(0.
Заметим, чтоЖ,(-) есть интегрируемая функция, поскольку L(-)
интегрируема по предположению. Применяя снова лемму 1 (для
2t), получаем из этой оценки
\L(y2yv2) — L(yi9 и,)1<
<а«[*0МО+со+М*+Р(0)]| (У*—У*> v*—Vi) I»
что и совпадает с утверждением леммы, причем
Лемма 3. Функция Н(у, р) удовлетворяет условию Липшица
на ограниченных подмножествах R" X Rn.
Достаточно показать, что Н удовлетворяет условию Липшица в
окрестности любой точки (дг0, р0). Выберем произвольное Af>3|p0|
и пусть е>0 таково, что 8е£0<1> 8гк{<М и [ехр(*0е)—1]/(&0е)<
<2. По предположению существует постоянная с такая, что для
всех ueRn
L(x0iv)^c+M\v\. (1)
Пусть у есть произвольная точка из х0+гВ9 тогда по лемме 1
Цу, v)^L(x0y v)—2[k0\L{x0y v)\+c0+ki(\v\ + \x0l+e)]e. (2)
167

Из (1) следует, что \L(x0, v)\ ограничено сверху величиной
L(x0, v)+2\c\. Подставляя эту оценку в (2), получаем
L(y,v)^(l-2ek0)L(x0fv)-2E(2\c\k0 + c0 + k1\x0\ + kle)-
-2ek1\v\^^\v\ + cu (3)
где с4 — некоторая подходящая постоянная, не зависящая от у и v.
Если р таково, что 3|р| ^Л1, то
(p90y>-L(yf0)^H(y,p) = sup{(p,v)-L(y, v)y
v
Если v таково, что
<p,i;>-L(t/, v)^H(y9p)-l,
то для подходящей постоянной с2, не зависящей от у, v или р, имеем
L(y,v)^c2 + Y\v\>
что в сочетании с (3) дает неравенство Ы^6(са—Ci)/Af: = cs.
Получаем, что для любых у^х0-\-еВ и ре(Л1/3)В
Н (у, p)=max{<p, v) —L(y, v): v<=c*B}.
Поскольку L — липшицевая на ограниченных множествах
функция, то из этого представления следует очевидным образом, что
Н — липшицевая функция на рассматриваемом множестве.
В процессе доказательства была также доказана
Лемма 4. Для любого ограниченного множества Y в Rn, для
любого Af>0 существует такая постоянная с, что для всех y^Y и
v(=Rn
c+M\v\^L(y, v)^\L(y, v)\^L(y9 v)+2\c\.
Доказательство теоремы 4.1.1. Этап 1. Будем для
простоты рассматривать случай /=0, поскольку в общем случае
доказательство существенно не изменяется.
Утверждается, что для некоторых е и г>0 кривая х доставляет
минимум функционалу
rdcAy(b))+^L(y9y)dt
а
на множестве всех кривых у из Г(лс; е), удовлетворяющих
включению у(а)^С0. Пусть это не так; тогда существует
последовательность кривых Хи сходящихся равномерно к дс, таких, что ^(а)еС0и
ь ь
idct(х((b)) + J L(*,, xc)dt<$L(x, k) dt. (4)
a a
Из сходимости x{ к x и условия x(b)^Ci получаем, что
dCl(Xi(b)) стремится к 0. Пусть c^Ci таково, что )*<(&)—с<| =
=dCl(Xi(b))\ положим yi(t):=xi(t)—(t—a)(xi{b)—ci)l{b—a).
168

Если эту оценку скомбинировать с неравенствами L(xu х{)^
b
Заметим, что \у{—х{\ и \у{—х{\ ограничены сверху величиной
adCl(x<(b))> где а=max {1, 1/(6—а)}.
Используя леммы 1 и 4, можно заключить, что для всех
достаточно больших i L(yu у{) ограничено сверху величиной
<Li + a1[k^l + c0 + 2k0\c\ +^(3 + 1x1+\ki\)]2adCl(Xi(b))f
где Li обозначает L (х{, xt)
Если эту оценку ском
^с+М\х\ и (из неравенства (4))§ L(Xi9Xi)dt< С L(xy x)dt, то по
а а
Ь
лучаем, что \L{yi% ус) dt оценивается сверху величиной
а
§L(Xi,x()dt + 2а1аГ(*0 + A) §L(x,x)dt + pj<M*(ft)),
где p:=(2fe0|c|+c,,+fe,(3+IMI)— с/М)(Ь—а), которая для боль-
ь
ших i строго меньше С L (ху х) dt. Это противоречит оптимальности
а
jc, поскольку t/<(fe)eCi. Тем самым лемма доказана.
Этап 2. Предполагается использование далее теоремы 4.2.2;
докажем, что в задаче, сформулированной на этапе 1, можно
заменить функцию L ее выпуклой по v оболочкой, причем кривая х
останется решением этой задачи.
Определим многозначное отображение Fi9 полагая F<(/, у)
равным
epiL(y, -)П {(*,<*): |t;-x(0|<i\ М^МО},
где у=[у, #ol> а d(t) —интегрируемая функция, удовлетворяющая
неравенству
\L(y,v)\ + l^Ci(t)
для всех y^x(t)+eB и vex(t),+iB (существование Ci(t) следует
из леммы 2). Заметим, что кривая x(t):*=[x(t)9 $L(x, (x)dx] решает
a
задачу минимизации функционала
rdCl(y(b))+yo(b)
на множестве кривых у=[#, у9], которые лежат в окрестности хп
являются траекториями дифференциального включения Fu
удовлетворяя соотношению y(a)eC0X{0}. Поскольку Ft
удовлетворяет условию Липшица с интегрируемой функцией Липшица и
интегрально ограничено, то из следствия теоремы 3.1.6 следует, что х
169

также является решением этой задачи с тем же значением
минимума, если F{ заменить на со F{. Возвращаясь с исходной форме
задачи, заключаем, что для большого i кривая х есть решение (на
Т(х; г)) задачи минимизации
rdcAy(b))+ JM',4M/M' (5)
а
на множестве кривых у, удовлетворяющих */(а)еС0. Здесь L<(/,
у, •) есть выпуклая оболочка L(y% *)+^хив(#) (т- е- наибольшая
выпуклая функция, ограниченная сверху функцией L(y, •) на
x+iB). Имеем равенство L<(f, х, x)=L(x, х) п. в. Если L —
выпуклая оболочка по v функции L (т. е. для каждого у L(y,-)
—наибольшая выпуклая функция, ограниченная сверху L(y, •), то
предыдущее равенство означает, что L(x, х) =L(*, х) п. в.
Этап 3. Заметим, что L<(/, t/, v) =+оо, если \v—x(t)\>i,
и соответствующий Lt гамильтониан #< может быть записан в
таком виде:
Hi(t,y,p) = mzx{(p,v) — L(y, v): \v—x(t)\^i).
По лемме 2 Н{ удовлетворяет строгому условию Липшица.
Используем теорему 4.2.2, чтобы для задачи минимизации (5)
получить существование кривой ри удовлетворящей
(— pi, х) сЕ дНс (/, х, р() п. в., (6)
pi(a)&Ne9(x(b))t-pi(b)erddcl(x(b))<=ffcl(x(b)). (7)
Этап 4. С учетом предложения 2.5.3 из (6) следует, что х
содержится в dpHt(t9 х, Pi), а это в свою очередь означает, что
вогнутая функция
v-+<Pu v}—Li(t9 х, v)
достигает максимума при v=x.
Поскольку L,(f, -,-)^£('» •) (равенство достигается в (х, л:)),
отсюда следует, что вогнутая функция
v-*<Pu v}—L(x, v)
достигает максимума на x(t)+iB при v=x. Для вогнутой функции
локальный и глобальный максимумы совпадают, так что
</>, i>—Х(дг, i) = <p,,i> —Z(x, *)>-£(*, 0)^-L(*,0).
Пусть М >2||р<||; воспользуемся леммой 4 для того, чтобы
доказать существование такой постоянной с, что для всех t;eRn
L(xy v)^c+M\v\.
Тогда
^^>\Pt\\i\><JH9iy>L(x9i)-L{x^
170

Отсюда нетрудно получить, что х существенно ограничена, как
и утверждалось в теореме.
Доказав этот факт, теперь можно повторить этапы 2 и 3
доказательства для несколько измененного многозначного
отображения F{:
Ft(y): = epiL(y, -)П{(*, а) : \v\^t, |cc|<cj.
Все остальное повторяется без изменений с тем, чтобы получить
существование кривой р< такой, что
(—Рь х) е дЩ (*, Pi) п. в. (8)
Pi(a)^NCQ(x(b)),-pdb)ezrddCl(x(b))czNCl(x(b)). (9)
Поскольку теперь F{ не зависит от /, то из следствия теоремы
3.6.1 выводим, что
#<(*(*). Р«(0)econst. (10)
Этап 5. Из условия (8) получаем, что Pi^dvL(x, х) п.в.
Отметим, что для всех ueRn
L(x, х + v) — L(x, x)^L(x/x + v) — L(x, x) ><р*, v).
Отсюда следует, что Ll(xf x\ v) ограничивает <p<, v} сверху для
каждого v, а значит, p{ содержится в dvL(x, х). Таким образом,
\p<\^k0(\L(xJ)\ + kx\(xJ)\ + c0),
и поскольку L ограничено на ограниченных множествах, то
заключаем, что ||р|| ограничено сверху некоторым числом М.
Пусть Д обозначает величину
sup{diamdp#(t/, р) : |у|<||*||, |р|^А!},
где diam обозначает диаметр (по лемме 3 А конечно).
Утверждается, что при 1>Ы + Д+1 для каждого / найдется окрестность (x(t),
pi(t))y в которой Н{ и Н совпадают. Очевидно, что в силу
соотношений (8) — (10) отсюда следует утверждение теоремы.
Как нетрудно видеть, многозначное отображение {у, р)->-
-*дрН(у, р) полунепрерывно сверху, так что для каждого /
имеется окрестность S точки (*(/), р<(0) такая, что для (у, р) из S
дрН(у, р)сдрН(х, р{)+В.
Поскольку х^дрН(х, р<), то имеем
дрН(х,р)ах + ЬВ;
тем самым для (у, p)eS
dPH(y,p)cli + (b + l)B.
Таким образом, для (t/, p)eS точка v, для которой <р, v} —
— L(y, v)=H(y, v)y содержится в iB (для (>||i||-f-A+l), что и
означает, что Н(у, р) = #,(#, р).
171

4.4.2. Замечание. Как явствует из доказательства, можно
полагать, что все предположения о L(y,v) выполняются только для
всех у из некоторой окрестности множества {*(/): a<t^b] и для
всех v.
Необходимые условия в лагранжевой форме. Если L не
удовлетворяет условию роста, которое обеспечивает конечность значений
Я, то удобно выражать необходимые условия в терминах самого
лагранжиана.
В качестве примера и для того, чтобы было легче сравнить
полученные результаты с классическими необходимыми условиями,
рассмотрим следующую теорему.
4.4.3. Теорема. Пусть х есть решение задачи Рв,
х—существенно ограниченная функция, a L(s9 v)—локально липшицевая
функция, не зависящая от t. Тогда найдется такая кривая р, что
(ниже вместо L(x(t), x(t)) пишется L(t))
P(0easL(0, pQedjL® п.в., (И)
L(t)-(p(t),x(t)) = const п. в., (12)
L(x(t),x(t) + v)-2zL(x(f)/x(f))+(p{f),v) для всех v п. в., (13)
[ij!2]edr(x(e),x(6))e (14)
Те, кто знаком с необходимыми условиями первого порядка
классического вариационного исчисления, легко узнают в (11)
аналог уравнения Эйлера (d/d/)V„L=V.L. Первое условие Эрдмана
соответствует непрерывности р, а второе — уравнению (12).
Необходимое условие Вейерштрасса содержится в (13), тогда как (14)
соответствует условию трансверсальности. Эта теорема получается
как специальный случай принципа максимума, сформулированного
в теореме 5.2.1 (см. [66]).
Более общие результаты в этом направлении для лагранжиана
JL, принимающего и бесконечные значения, имеются в работе
Кларка [53].
§ 4.5. Правило множителей Лагранжа в случае ограничений
типа неравенства
По самой постановке задачи Рв при подходящем выборе
функций I и L ограничения на траекторию заданы только неявно. В
первой же половине этого века в период активного развития
вариационного исчисления основной упор был сделан на получение
необходимых условий для задач с явно заданными ограничениями.
В настоящем параграфе представлены некоторые результаты в
этом направлении, при получении которых, как и ранее,
существенно используются теоремы из гл. 3.
172

Задача Майера. Рассматривается следующая задача Майера:
найти минимум функционала f(x(l)), определенного на множестве
кривых х: [О, l]->-Rn, удовлетворяющих краевым условиям
*(0)€=Со, x(l)eCt
и ограничению типа неравенства
ф(*(0.*(0Х0 п. в.,
где ф есть отображение RnXRn в R.
Предполагается, что С0, С4 — замкнутые множества, а / и <р —
локально липшицевые функции.
Говорят, что кривая х доставляет слабый локальный минимум,
если для некоторого е>0 х есть решение задачи Майера на
множестве кривых таких у, что \x(t)—y(t)[<B, ]x(t)—y(t)\l<.s п. в.
Кривая х называется кусочно гладкой, если существует такое
разбиение 0=/0</i<.. .</А=1 отрезка [0,1], что производная
x(t) существует и непрерывна на интервале (/«_ь t{) (i=l,..., k),
и, кроме того, существуют конечные пределы x(t) как в f<_t
(справа), так и в U (слева). Эти пределы обозначаются соответственно
x(tt-i) и х (ft). Точка недифференцируемости функции х
называется угловой.
Будем говорить, что кривая х удовлетворяет условию
регулярности, если для любого t такого, что q>(x(t), jc(/)) =0, и любого
элемента (£1э £2) из dy(x(t), x(t)) имеем %2Ф0. Если t—угловая точка
для х, то это условие должно выполняться в точках (x(t), x(t+)) и
(x(t),x(t-)).
4.5.1. Теорема. Пусть кусочно гладкая кривая х доставляет
слабый локальный минимум в задаче Майера и удовлетворяет
условию регулярности. Тогда существуют кривая р, измеримая
функция X: [0,1]-^R и число Я0, равное 0 или 1, такие, что:
1) [^2]еХ(/)аФ(х(0,^(0) п.вл
2) X{t) <0 п. e.,X(t) = 0, если q>(x(t), x(t))\<0;
3) p(0)e=NCo(x(0));
4) -p(l)<==x0df(x(l))+NCl(x(l));
5) \\р(-)\\+К.Ф0.
4.5.2. Замечание. Случай нескольких скалярных
ограничений вида <р<(х, лг)^0 сводится к рассмотрению одного ограничения,
если положить <p=supcp<. В классическом вариационном
исчислении при рассмотрении ограничений типа неравенств использовался
метод Валентайна «нежестких переменных» для сведения к
задаче с ограничениями типа равенства. Классическое условие
регулярности в такой постановке для гладкой задачи состоит в требовании
линейной независимости векторов {0-х%(х, х)} (т. е. заведомо
предполагается, что число ограничений не превосходит п).
Ш

Если же для задачи с г ограничениями ф<^0 (/=1,..., г)
положить ф== max ф,-, то приведенное выше условие регулярности в
случае гладкости функций ф, состоит в силу следствия
предложения 2.3.12 в требовании положительной линейной независимости
векторов {Dxqi(x, х)} (т. е. в требовании неравенства нулю любой
нетривиальной линейной комбинации этих векторов с
неотрицательными коэффициентами).
Приведем точную формулировку.
Следствие 1. Пусть кусочно гладкая кривая х доставляет
слабый локальный минимум функционалу f(y(l)) на множестве
кривых у, удовлетворяющих включениям j/(0)gC0, у(1)^С{ и
ограничениям (pi(y,у)<0 п. е. (*=1,...,г). Предполагается, что для
всех t и всех (£ь £2) из множества
со {дф/ (х (/), x(t)): i таково, что Ф* (*(/), *(/)) = 0}
имеем £2=#=0.
Тогда существуют кривая р, измеримые функции Л» и число Х0,
равное О или 1, такие, что выполняются условия 3), 4), 5)
теоремы и
г) [jjjj]^ SM0%(*(0,i(0) п. в.,
2') %i ^ О, U (0 = 0, если ф, (х (0, |£ (t)) < 0.
Доказательство теоремы. Обозначим q>(x(t), x(t)) и
dy(x(t), x(t)) через ф(/)идф(/) соответственно. В случае когда t
есть угловая точка, ф(/) обозначает, как это будет ясно из контекста
или q>(x(t), x(t+)), или q>(x(t), x(t~)).
Лемма 1. Существует такая постоянная М, что для любых
/€=[0, 1], (s, v)<=(x(t),x(t))+B ut<=d<p(s, v) имеем \t\^M.
Это утверждение следует из предположения о липшицевости
функции ф на ограниченном множестве.
Лемма 2. Существуют такие положительные числа б4 и 62, что
для всех /е[0, 1] таких, что q>(x(t), x(t))>—6i9 всех (s, у)е
<=(jt(0,*(0)+fiifi и (a,$)^dq>(s,v) имеем \$\>62.
Пусть утверждение леммы неверно; тогда найдутся
последовательности te=[0, 1], (su i><) €=(*(/<), x(ti)) + (\li)B и (afo £<)€=
^d(f>(su Vi) (t=l, 2, ...) такие, что ф(*(*,), *(*<))>—(1/0 и
|f)t| <l/«. Можно полагать (переходя в случае необходимости к
подпоследовательностям), что tr+t, (s{, Vi)-*~(s, v), (a{, (J<)-4a, 0)
при i-^oo для некоторых <e[0, 1], (s, v) и (a, 0) из R2n. Очевидно,
что (s, v) = (x(t), x(t)) и q>(s, v)=0. Кроме того, из
полунепрерывности сверху обобщенного градиента получаем, что (а, 0)едф(/).
Но это противоречит условию регулярности. (Случай, когда t есть
угловая точка, рассматривается аналогичным образом с очевидным
изменением этого доказательства.)
174

Пусть теперь задано произвольное натуральное число /С;
выберем гк>0 таким образом, чтобы из неравенства
| ($,*)-(* (0, *(0)|<е*
следовало
Фв10<ф(*(О,жЮ) + -1-§
Такой выбор возможен в силу равномерной непрерывности <р
на ограниченном множестве.
Можно полагать, что гк<И1К и гк не превосходит числа,
которое фигурирует в определении слабого локального минимума.
Зададим множество
Лк(0 = {С: СеаФ(5,1;),|(5,и)-(л:(0,х(0)|<^},
а для t таких, что ф(0 >—1//С, положим
GK(t):=AK(ty;={r. v£^0 для всех %<=AK(t)}.
Для t таких, что q>(t)<—l/K, положим
G*(0: = R2n.
Пусть /C>l/6i, тогда, используя леммы 1 и 2, нетрудно
проверить справедливость следующей леммы.
Лемма 3. Существует постоянная N>1 такая, что для
каждого t выпуклый конус GK(t) удовлетворяет следующему условию:
для любого seRn найдется вектор v^Rn такой, что \v\^.N\s\ и
(s9v)eGK(t).
Определим теперь многозначное отображение FK из [0, l]XRn
в Rn:
FK(t,s) = {v: M<-J-f (M)SO^(/)j.
Можно проверить, что для |s|<eK/(2N) многозначное
отображение FK(ty s) непусто, выпукло, компактно, интегрально ограничено
и измеримо липшицево с постоянной Липшица N.
Л е м м а 4. Кривая z(t)=0 минимизирует
f(x(l)+z(l))
на множестве всех кривых г, удовлетворяющих неравенству
\z(t)\ <eK/(2N), и ограничениям
г(0)е=Со-*(0),
*(1)еСг-х(1), (1)
Ht)<=FK(t,z(t)) п. в.
Пусть задана такая кривая z. Достаточно доказать неравенство
9(x + z,i + i)<0 п. в., (2)
175

поскольку из оптимальности х для исходной задачи не множестве
кривых, содержащем x+z, следует
/(*(1))</(*0):+*(1)>.
Для доказательства (2) рассмотрим сначала t такое, что
<р(*) <—1/К. Тогда (2) следует из выбора е*, поскольку
|(z(0,z(Q|<e«.
Рассмотрим теперь t такое, что <р(/) >—1/К. Имеем
V(x(f)+z(t),i(t) + k(f)) = <p(f) + $Dg(k)dX, (3)
О
где липшицевая функция g определена следующим образом:
г(Ь)=ф(*(о+мо,*(о+ад,
и Dg(k) существует почти всюду. Достаточно показать, что Dg(x)
неположительно на [0, 1], так как тогда из (3) получаем
<p(x(t)+z(f),x(t)+'z(f))^<p(f)^0.
Определим множество
S = dy(x(t) + te(f)/x(t) + te(t))(z(f)Mt)).
Согласно предложению 2.1.2, b) max {о: a^S} является
верхним пределом выражения
Ф (*+ Кг + h + 6г, х + Кг + Ы +бг) — ф (х + Кг + h, x + Xz + h')
б
где huh' сходятся к 0 в Rn, а б стремится к +0. По определению
Dg(k) равно
1 im ^(х + Кг + бг/х + }^ + 6г)—ч>(х + Кг,х + Кг)
6\о б
следовательно,
Dg(X)^max{o: aeS}<0.
Лемма доказана.
Применим теперь теорему 3.4.2 к задаче, сформулированной в
лемме 4.
Если определить функцию Н: [0, l]XRnXRn-*R:
#(/, 5, p)=max{pv: v^FK(t9 s)}9
то из теоремы 3.5.2 следует, что существуют кривая рк и число \к,
равное 0 или 1, такие, что:
a) (—Ря,0)€=д//(/,0,ря) п. в.;
b) рк(0) есть перпендикуляр к С0—х(0) в 0;
c) для некоторого вектора £* вектор — р*(1) — Кк£,к есть
перпендикуляр к С4—х(1) в 0;
d) \\Рк\\+ХкФ0.
176

Лемма 5. Для почти всех t и всех (s, v)^GK(t)
PkS + Pkv<0. (4)
Достаточно это показать для малых |и|, поскольку GK(t) —
конус. Пусть в / выполнено условие а). Тогда можно предположить,
что v^FK(t, s) и, следовательно,
H(t,s,pK)>pKv. (5)
Нетрудно проверить, что функция #(/, х> р) вогнута по х.
Вместе с включением а) это означает, что — рк принадлежит
супердифференциалу в 0 вогнутой функции x-+H(t, х, рк). Отсюда получаем
H(t,s,pK)-H(t,0,PKX-PKS. (6)
Из а) следует, что Оедр//(/, 0, рк), так что
H(t,0,pK)=0. (7)
Условие (4) есть следствие соотношений (5) — (7). Лемма
доказана.
Заметим для использования в дальнейшем, что из леммы 5 и
определения GK(t) следует, что
Рк (0 = 0, рк (0 =0, когда ф (0 < -1//С. (8)
Рассмотрим, что получится, если устремить К к бесконечности.
Переходя, если необходимо, к подпоследовательностям, можно
считать, что все Хк равны либо 0, либо 1, а £;* сходятся к вектору £.
Из легко проверяемого факта липшицевости функции x-+H(t, х,р)
с постоянной N\p\ и условия а) получаем, что
Ы<ЛГ|р«1 п. в., (9)
где постоянная N не зависит от /С (Поскольку значения GK только
возрастают с ростом К, то N может только уменьшаться с ростом
К.)
Лемма 6. Существует кривая р и число Ко, равное 0 или 1,
удовлетворяющие условиям 3) —5), а также для почти всех t
соотношениям
ps + pv^0 для всех (s,v)еЗф(0* п-*•> (Ю)
р = 0, р = 0, когда ф(/)<0, (11)
где <Эф(/)*={(5, v): (s, v)^t>^:0для ecext,^d(p(t)}.
Случай 1. (Все Кк равны 0.) Нормируя, если это необходимо,
функцию рк, можно полагать, что ||рх|| = 1 и выполняются условия
(8), (9) и Ь), с) при Хк=0. Ввиду (9) из теоремы Данфорда —
Петтиса следует, что для {рк} существует подпоследовательность,
слабо сходящаяся в L1 к некоторой функции р. Это означает, что
для подходящих подпоследовательностей р есть производная
функции р, к которой эти подпоследовательности из {рк} сходятся рав-
177

номерно. Поскольку р удовлетворяет (9) и ||р|| = 1, то выполняются
условие 5) с Х0 = 0 и условия 3), 4). Соотношение (11)
непосредственно следует из (8). Чтобы доказать (10), заметим, что из
полунепрерывности дер следует, что GK(t)> монотонно возрастая,
стремится к д<р*(*) для любого t такого, что ф(0=0. Окончательно
утверждение следует из того, что слабая сходимость сохраняет
линейные неравенства вида (4).
Случай 2. (Все Хк равны 1 и \\рк\\ —ограниченная
последовательность.) Тогда доказательство не меняется, только отпадает
необходимость перенормировки рк. Условия 4), 5) выполняются с
Я0=1.
Случай 3. (Все Кк равны 1 и последовательность ||pKll
неограниченна— можно полагать, что она стремится к +оо.)
Перенормируем кривые рк> поделив pK(t) на норму ||рк||, которая отлична от
0 для больших /С. Доказательство далее проводится аналогично
случаю I. Условия 4), 5) выполняются с Х0=0. Лемма доказана.
Для завершения доказательства теоремы достаточно получить
1) и 2) из (10) и (11). Соотношение (10) означает, что (р, р)
содержится в множестве (<Эср (0*)*> которое является замкнутым
выпуклым конусом, порождаемым dq>(t). Для него в каждой точке t
такой, что ф(/) =0, имеется представление
(<*Р(/Г)•-№: Х>0,6еЛр(0>,
поскольку d(f(t)—компактное выпуклое множество, не
содержащее 0. Используя теорему об измеримом селекторе, получаем
соотношение 1) в случае ф(*) =0, а в случае <p(t) <0 можно просто
положить К=0.
4.5.3. Замечание. Задача Майера в случае функции ф, явно
зависящей от t, может быть рассмотрена аналогичным образом при
следующих дополнительных предположениях:
(1) ф(£, xrv) есть измеримая функция t для каждой пары (лс, v)\
(2) дф(/, х, v) есть полунепрерывное сверху многозначное
отображение (здесь д<р обозначает обобщенный градиент ф по (лс,
v)). Оба эти условия автоматически выполняются, когда ф не
зависит от t. В случае зависимости ф от t условие (1) требуется для
измеримости по t многозначного отображения FKy появляющегося
в доказательстве, а условие (2) применяется при доказательстве
лемм 2 и 6.
4.5.4. Пример. Задача Дидоны. В распоряжении
царевны имеется веревка заданной длины, которой следует ограничить
участок побережья, причем береговая линия представляется
линией х=0 на плоскости t—х (рис. 4.1). При этом желательно найти
такую кривую длины I, лежащую в полуплоскости jc^O,
соединяющую точки (0, 0) и (1,0), что площадь между кривой и осью t
максимальна.
Теперь вместо описанной традиционной постановки задачи
Дидоны, будем полагать, что для некоторого а>0 земля в области
х>а худшего качества и ее стоимость составляет только половину
стоимости земли в области х^а.
178

Xjk
х=а
Дуга окружности
радиуса 2Л2
Дуеа окружности
радиуса Я2
(0,0)
Рис. 4.1. Решение задачи Дидоны
Доход с огороженного участка, ограниченного кривой x(t),
равен
$8W)dt9
(12)
где
g(x)= \ * *
■ а.
Следует максимизировать значение интеграла (12) при наличии
ограничений
х(0)=0, х(1)-0, (13)
J(l + x2)1/2d/ = L. (14)
о
Отметим, что g есть липшицевая и недифференцируемая
функция. Сведем эту задачу к рассмотренной в этом параграфе
постановке. Рассмотрим две дополнительные переменные у, г,
ограничения
и функцию
<Pi (х, У, г, х, у, г) = — у—g (*)< О,
Ф* (х, У, г,х,у,'г) = -г + (1 + i2)1/s < О,
*<0)-0, у(0)=0, z(0)-0, х(1)-0, 2(1) =1,
/(*(!), y(l.),z(l))-yd)'
(15)
(16)
(17)
(18)
17а

Нетрудно видеть, что задача минимизации (18) при
ограничениях (15) —(17) эквивалентна задаче Дидоны. Равенство (14) было
заменено неравенством
j(l + i2)1/2d/<L,
о
что в этой постановке не влияет на решение задачи. Кроме того, из
существа задачи следует, что ограничения (15) и (16) будут
существенными в каждый момент времени, т. е. для оптимальной
кривой в (15), (16) имеют место равенства для каждого t
Прежде чем применить следствие 1, заметим, что здесь вектор
х заменяется на вектор (х, у, z), л=3 и г=2. Множества С0 и Ci
имеют соответственно вид {(0, 0, 0)} и {0}XRX{£}- Все
рассматриваемые функции липшицевы, как и требуется, а для множеств
д<р4 и дср2, очевидно, имеем
d<Pi(x,y,z,'x,y,z) = {&,0,0,0,-1,0): -£edg(x)},
Поэтому для любого кусочно гладкого решения, обозначаемого (дс,
у,г), можно использовать следствие 1. Из него получаем
существование неотрицательных функций Я4 и А,2 таких, что функция p(t) =
= [А,2*/(1+*2)1/2э— ^i> —кг] абсолютно непрерывна и удовлетворяет
включению
р (t)<={-bi(t)dg(x)}x{0}x{0). (19)
Отсюда следует, что Xt и Я2 тождественно равны постоянным. Из
условия 4) теоремы получаем
At—Ло = vJ.
Если Л0=0, то тогда Xi=0 и из п. 5) теоремы вытекает, что Я2>0.
Но тогда (19) означает, что производная х знакопостоянна, а это
невозможно за исключением вырожденного случая L=0.
Таким образом, можно полагать, что Я,0= l=Xt. Теперь, если
А* = 0, то из (19) следует включение 0^dg(x), что неверно. Итак,
А*>0. Окончательно делаем следующие выводы: х есть
непрерывная функция и удовлетворяет уравнению
d [ * 1 Г—UK *<<*, (20)
<" Ul+*f*} 1-1/(2*,), х>*. К
Отметим, что x(t) не равно а ни на каком интервале, поскольку
В каждом из случаев уравнения (20) решения хорошо известны,
поскольку каждое из этих уравнений возникает в классической
постановке задачи Дидоны. Нетрудно найти, что х описывает дугу
круга радиуса Я* при x(t)<a9 и дугу круга радиуса 2Кг при x(t)>
180

>сс. Условие сопряжения этих дуг с общей касательной (в x(t) =а)
для каждого Л2 обеспечивает существование единственной такой
конфигурации (см. рис. 4.1).
Следовательно, оптимальная кривая х однозначно определяется
значением Х2; %г находится из условия, что длина х равна L. После
того как выше была описана структура решения х, легко найти
неявное уравнение для А*, а также другие параметры решения. Эти
соотношения могут быть использованы для явного вычисления х.
Полезно проанализировать характер информации, полученной с
помощью нового правила множителей. Основываясь на известном
классическом решении, можно было ожидать, что решение этой
задачи представляет собой набор круговых дуг по обе стороны
линии х=а. Учитывая правило множителей, исключаем
возможность, что x(t) лежит на линии х=а для отрезка времени
ненулевой длины, и получаем существенную информацию о том, что
радиусы верхней и двух нижних дуг относятся как 2 к 1 и все три
дуги гладко соединены. Тем самым эта информация имеет по
существу глобальный характер.
§ 4.6. Кратные интегралы
Пусть заданы область Q в Rm и функция L: RXRm~*R.
Важнейшей задачей вариационного исчисления является задача
минимизации функционала
L(*(g>),Vx(<d))Ao (1)
на некотором классе X функций *(•), определенных на Q.
Специальные примеры такой задачи (некоторые из них включают
недифференцируемость) имеются в [89] (см. также [151]). Ниже будут
получены необходимые условия первого порядка для этой задачи
при следующих предположениях:
1) L удовлетворяет условию роста § 4.4, а именно
\dL(y9 v)\^k0\L(y, o)|+*t| (у, v)\+c0;
2) X есть подмножество Соболевского пространства Н{(0),
которое замкнуто относительно сложения с элементами CJ° (Q) —
множеством бесконечно дифференцируемых функций с
компактными носителями в Q, т. е. *+ф содержится в X для каждого х из X
и ф из CJ°.
Важность предположения 2) заключается в том, что
функционал (1) минимизируется на подклассе функций х из Н\ (Q),
имеющих заданные значения на границе Q. Ниже div обозначает
дивергенцию. Слабым решением называется решение х
рассматриваемой задачи при^ дополнительном ограничении вида |х(оо) —
—х(а>) | +1 V*(©)— Vx(co) |i<e для некоторого е>0.
181

4.6.1. Теорема. Пусть х— слабое решение рассматриваемой
задачи. Тогда существует функция р: Q->-Rm такая, что каждая
компонента р принадлежит L^Q), div р принадлежит Ll(Q) и
(div р (о), р (а))) е dL (х ((о), V* (со)) п. в. в Q.
Доказательство. Пусть множество А состоит из всех
измеримых функций (ф, £), определенных на й и таких, что почти
всюду на Q
(Ф (со), С (со)) е 5L (jc (со), Vx (со)) п. в. в Q.
Из леммы 2, приведенной в доказательстве теоремы 4.4.1, следует,
что множество <9L(jt (со), Vx(co)) ограничено сверху интегрируемой
функцией &(со), так что А есть подмножество L1(fi)m+1. Поскольку
А — выпуклое и замкнутое в сильной топологии L1(Q)w+i
множество, то А также слабо замкнуто. Критерий Данфорда — Петтиса
обеспечивает слабую компактность Л, а теорема об измеримости
селектора обеспечивает его непустоту. Таким образом,
справедлива
Лемма 1. А — непустое выпуклое слабо компактное
подмножество L1(Q)W+1.
Пусть теперь С обозначает определенное выше выпуклое
множество CJ°(Q) и определим /: ЛХС-^R следующим образом (а=
-<Ф.Е)):
/ (а, с) : = J {Ф (со) с (со) + <£ (со), Vc (со))} dco.
Q
Заметим, что функционал / хорошо определен, поскольку ф и £
интегрируемы. Очевидно, что для каждого с
/(-,с)—непрерывный на Л в слабой топологии функционал.
Лемма 2. Справедливо равенство
inf sup f(a9c) — 0.
Поскольку /(•, 0) тождественно равен 0, достаточно показать,
что для любого с^С неотрицательна величина
sup f(a,с). (2)
а&А
Докажем этот факт. Из теоремы об измеримом селекторе
следует, что величина (2) равна
J sup {фс (со) + <£, Vc (со)) : (Ф, Q е dL (J, v£)} dco >
^flimsup Lt+Wt + W-LQc^) d(o>
182

что в свою очередь (по теореме Фату) оценивает сверху величину
lim sup — | f L (x + te, Vjc + JiVc) dco — Г L (x, V*) dco
Iq q
Но последнее выражение неотрицательно, поскольку значение
функционала (1) не превышает его значения для х:=х+Хс при
малых А,. Это и завершает доказательство леммы.
Теперь можно применить принадлежащий Обэну вариант
теоремы о минимаксе [6], из которого следует существование
элемента а=(ф, £) из А такого, что для всех сеС
§{<PC + a,Vc)}du^0. (3)
Q
Поскольку С=—С, то для всех с в (3) имеет место равенство.
Тогда по определению cp=div2;.
•

Глава 5
ОПТИМАЛЬНОЕ УПРАВЛЕНИЕ
Традиция есть забвение начал.
Эдмунд Гуссерль. «Происхождение
геометрии»
Все, что я скажу тебе три раза,—правда.
Льюис Кэрролл. «Охота на снарка»
В настоящее время в приложениях теории динамической
оптимизации наиболее часто используется третья из приведенных
парадигм— постановка задачи оптимального управления в
стандартной, или понтрягинской форме. Эта постановка оказалась наиболее
естественной при моделировании разнообразных физических,
технических и экономических процессов.
В основном современная теория оптимального управления
развивалась в контексте такой постановки, причем большая часть ее
результатов формулировалась в терминах (псевдо-)
гамильтониана. В этом заключается их отличие от того, что можно получить,
используя методы гл. 3 и 4 для соответствующей переформулировки
данной задачи.
Достоинством излагаемого в этой главе подхода является то, что
для гладкой задачи (т. е. задачи, в которой все заданные функции
дифференцируемы), результаты выражаются полностью в
терминах производных и решений обыкновенных дифференциальных
уравнений, подобно тому, как формулируется наиболее известный
в теории управления набор необходимых условий, называемый
принципом максимума Понтрягина. Содержание этой главы будет
понятнее читателю, если он ознакомится с содержанием § 1.3 и 1.4.
В этой главе приводятся общие результаты по проблемам
существования оптимальных траекторий, по необходимым и
достаточным условиям оптимальности, по проблемам управляемости и
чувствительности в рамках традиционной постановки задачи.
Указывается на тесную связь рассматриваемых здесь задач с содержа-
184

нием предыдущих глав, а которых развиты методы, составляющие
основу для получения результатов этой главы. Будут
продемонстрированы преимущества, вытекающие из изучения одной и той же
задачи в различных ее постановках.
§ 5.1. Управляемость
Динамика. Рассматривается фиксированный отрезок [a, 6]czR.
Пусть задано многозначное отображение U отрезка [а, Ь] в
множество непустых подмножеств Rm. Управлением называется
измеримый селектор и(-) отображения U\ т. е. измеримая функция и,
удовлетворяющая включению
u{t)<=U(t) п. в.
Пусть задана функция ср: [a, 6]XRftXRw-*Rn. Кривая х,
которая определена на (а, Ь] и удовлетворяет уравнению
i(/) = q>(/,jt(0,u(0) п. в.,
называется траекторией, соответствующей управлению и. На
траектории накладывается следующее фазовое ограничение g(t, x(t))^.
^0 для всех /е[а, Ь]. Кроме того, будут рассматриваться только
траектории, лежащие в заданной трубке Q (см. § 3.1).
Траектории х, которые лежат в Q и удовлетворяют фазовому
ограничению, называются допустимыми.
5.1.1. Основные предположения. Предполагается,, что
выполнены следующие условия (сравнить с предположениями
3.2.2):
1) для каждого xeRn функция <р(«, jc, •) i^X^-измерима;
существует ^Х^-измеримая вещественнозначная функция k,
определенная на Gr(U) и такая, что для всех (t, и) из Gr(U) функция
ф(*> ** У) удовлетворяет условию Липшица на Q, с постоянной
k(t9u);
2) множество Gr(U) ^Х^-измеримо (см. § 4.1);
3) функция g полунепрерывна сверху на Q и для всех /е[а, Ь]
функция g(t, •) удовлетворяет условию Липшица на Q, с
постоянной К8, не зависящей от /.
Множество достижимости. Пусть С — некоторое множество в
Rn. Множество достижимости из С, обозначаемое Я[С], состоит из
всех точек х(Ь), где х — допустимая траектория, удовлетворяющая
некоторому управлению и и начальному условию х(а)^С.
Ниже приводятся необходимые условия того, что х —
«граничная» траектория. Основная трудность в получении этого результата
состоит в том, что множество достижимости может быть
незамкнутым или невыпуклым. Предполагаем, что С — замкнутое
множество. (Напомним, что множество d*g было определено при
формулировании следствия 2 теоремы 3.2.6.)
5.1.2. Теорема. Пусть допустимая траектория х,
соответствующая управлению и, удовлетворяет условию дс(а)еС. Предполо-
185

жим, что функция t->k(t, u(t)) интегрируема, а функция 0: К*-*!^
удовлетворяет условию Липшица вблизи х(Ь). Тогда если Q(x(b))
лежит на границе множества 9(52[С]), то существуют кривая р,
неотрицательная мера Радона \i9 измеримая функция у и вектор
yeRd такие, что:
1) -р(/)еал)(<,х(о,и(ОГГр(0+ ? ?<*)И*)1 п. в.
(где * обозначает транспонирование);
2) max//p(0+ j y(s)li(ds)^(tJx(t),w)y' w&U(t)\=/p(f)+
+ { y№(ds)M**x®MQ)\n. в.;
3) *\(t)^dxg(t, x(t)) для \1-почти всех t и fiepa \i сосредоточена
на множестве {l^[a, b]: g(t9 x(t)) = 0};
4) p(a)t=Nc(x(a))9
5) P(6)+ С ^(s)li(ds)^dQ(x(b)yv;
6) |||i||+|»|-l.
Доказательство. Вначале полагаем, что выполняются
следующие промежуточные условия, отказ от которых и составит
заключительный этап доказательства.
Промежуточные условия.
1) Для каждого t U(t) состоит из конечного числа точек.
2) Существует интегрируемая функция с(-) такая, что для
почти; всех t9 всех w^U(t)
\<p(t9x(t)9w)\^c(t)9 k(t9 w)^c(t)9
где k(-9 •)—функция, существование которой постулируется в
предположениях 5.1.1.
Этап 1. Пусть i — произвольное натуральное число и точка
l^Q(x(b)) + (l/i2)B такова, что £^0(5?[С]) (точка £ существует,
поскольку Q(x(b))—граничная точка). Выберем такое е>0, что
трубка Т(х\ 2е) содержится в Q. Определим множество W как
множество всех пар (w9 z)9 где w — допустимое управление и z — точка
С, для которых существует решение у уравнения
y = 4>{t,y,w(t))9 y(a) = z,
лежащее в замкнутой е-трубке вокруг х и удовлетворяющее
*(/, у(0)<о.
Отметим, что W непусто, поскольку оно содержит (и, х(а)).
Также отметим, что функция
У-хр(*> y,w(t))
186

удовлетворяет условию Липшица с постоянной c(t), поэтому
кривая у (если она существует) определяется единственным образом.
Определим функцию F: W-+R:
F(w,z) = \t-B(y{b))l
где кривая у соответствует элементу (до, z) из W.
Введем на W метрику Д, полагая
А((доь z,), (w2y z2))=meas{t: МО^МОЖ2!—ZA-
Лемма 1. А — метрика на W, относительно которой W —
полное метрическое пространство, а F — непрерывный функционал.
Если кривые у; и у0 соответствуют элементам (wjy Zj) и (w0, z0)>
причем (wjy Zj) сходится к (w0, z0) в W, то lit/,—y„ll сходится к 0.
Доказательство. Оставим читателю доказательство того,
что А — метрика, в качестве упражнения. Покажем, что для
последовательности Коши (wh Zj) из W существует предел (до0, z0).
Достаточно доказать существование такого предела для некоторой
подпоследовательности исходной последовательности, поэтому
можно предположить без ограничения общности (изменяя в случае
необходимости индексы), что
A((Wj,Zj)t (wj+uZj+i))^2-K
Определим
Имеем, что Ej+iczEj и
meas£/<2 2~* = 2W.
Определим w0> полагая
w0(t)=wk(t) для t&Ek.
Очевидно, что функция w0 определена почти всюду и является
управлением. Кроме того имеем, что |z— z:+1| <2~j, поэтому в силу
полноты Rn и замкнутости С последовательность z} сходится к
Zo&C. Чтобы доказать, что (w0, z0)^W, следует проверить, что
соответствующая элементу (w0, z0) траектория у0 лежит в замыкайии
е-трубки вокруг х и удовлетворяет фазовому ограничению.
Для этого определим многозначное отображение Г(/, у): =
= {ф(*> У у w>o(t)}, и пусть у— траектория, соответствующая (wjt г,).
Если А5= {t: Wj(t)=w0(t)}, то тогда
#/(/)€= Г (/,*/,(/)) для /<=Л/,
причем meas A}-+(b—а). Из теоремы 3.1.7 следует существование
искомой траектории у0, соответствующей (w0>z0).
Относительно двух других утверждений леммы 1 очевидно, что
достаточно доказать последнее из них. Пусть Г—определенное выше
отображение, а р — соответствующая ему функция (см. § 3.1).
Заметим, что р(/, (/,(/), t/j(t)) =0 при t<=Aj, тогда как р(/, yh t/j)
ограничено сверху величиной 2с(/)(1+е) для всех t в силу промежу-
187

точных условий. Поскольку теаь(А))-+(Ь—а), то отсюда следует,
что для произвольного 6>.0 и всех достаточно больших / имеем
pr(i/j)<£. Используя теорему 3.1.6, получаем, что существуют
такие траектории у, дифференциального включения Г, что &(а) =
=yj(a)=2i и \Hi\t)—&(01<#б- Имеет место следующее
неравенство:
1^о(0-Й(01 = 1ф(^1/о^о)-Ф(^^^о)1<^(0||/о(0-У/(0|.
Отсюда и из равенства \у0(а)— &(а) | = \у0(а)— г^ = \z0—z,|f
используя неравенство Гронуолла, выводим, что
ь \
|yo(0-y/(OKUo-^/|exp|fc(T)dT
#
= : c1\z0 — zf\
Таким образом, для всех достаточно больших /
что означает сходимость у; к у0 и доказывает лемму 1.
Заметим, что F(u, x(a))<i~2; поскольку функционал F
неотрицателен, то отсюда следует, что
F(u,x(a))<iniF+r2.
w
Согласно лемме 1 оправдано применение теоремы 7.5.1, из которой
следует существование такого элемента (до, z)e№, что
дК^МмИКг1, (О
и элемент (до; г) доставляет минимум функционала
F(w,z) + r1b((w,z),(wJ))
на множестве W. Пусть траектория у соответствует (до, г). Тогда
последнее утверждение можно сформулировать следующим
образом.
Лемма 2. Пусть (до, у), где траектория у соответствует
управлению до, есть произвольная пара, удовлетворяющая на [а, Ь]
ограничениям
у(а)<=С, g(t9y(t))^0, \y(t)-x(t)\^e.
Тогда
IS-eG/WH + ^measf/: w^w) + Г*\у(а) _z|>|£-9(y>))|.
Этап 2. Теперь следует свести полученную задачу к такой
задаче, в которой можно применить необходимые условия теоремы
3.2.6. С этой целью следует тщательно провести некоторые
вычисления. Рассмотрим вектор Y=[y\ у2, у*] из RmXRXRn, последняя
компонента которого и есть ранее рассмотренный вектор у.
Определим многозначное отображение
F(t,V>- ={[Т^г0С/И,ф(/,^а;)]: о>е(/<0},
188

где %t(w) = l, если w = w(t)9 и 0 в противном случае. Множество С0
определяется следующим образом:
С0: = {[У\У\У3]: У3^С}.
Заметим, что траектория У= [у\ уг, у3] дифференциального
включения F, начинающаяся на С0, имеет вид
к(о=к + Jt+m** P«+Jx.(«»)ds,y(ol, (2)
где (w, у) — пара состоящая из управления w и соответствующей
ему траектории у, у(а)^С. Определим функционалы /0, /i
fo(Y) = r*\y*-z\-rV,
Из леммы 2 следует, что траектория Y = [уг,у2, у8], определяемая
уравнением (2) при w=w> у=у, р4=0, р2=0 доставляет минимум
функционалу
ЫУ(*))+/.(У(а))
на множестве траекторий включения F, начинающихся на
множестве Со и удовлетворяющих неравенствам
g(t,y4t))K0, (3)
llf(0-*(OI*£e. (4)
Пусть ?:=/,(У(Ь))+/,(У(а)) = U—6(^(&))!, для любой кривой У
определим функционал
G(Y): =raaxg(t,y*(t)).
t
Тогда получаем, что У(-) доставляет минимум функционалу
max {f, (У (6)) + /0 (Y (а)) - /, G (Y)} . (5)
на множестве траекторий включения F, для которых
Y(a)<=C0 (6)
и которые удовлетворяют ограничениям (3) и (4).
Для достаточно больших i из (1) следует, что произвольная
кривая у вблизи у автоматически удовлетворяет (4). Отсюда
заключаем, что траектория У есть сильный локальный минимум
(т. е. локальный минимум относительно sup-нормы У)
функционала (5) при ограничении (6) и, разумеется, при том условии, что
У есть траектория включения F. Поскольку любая траектория
включения со/5 может быть равномерно приближена
траекториями включения Р, имеющими те же начальные условия (см. след-

ствие теоремы 3.1.6), сказанное остается в силе, если заменить F
на coF.
Этап 3. Как видно, У есть сильный локальный минимум
функционала (5) на множестве траекторий включения coF,
удовлетворяющих (6). В этой ситуации можно использовать следствие 2
теоремы 3.2.6, поскольку все его предположения выполняются.
Заметим, что coF замкнуто, поскольку F(t, У) состоит из конечного
числа точек.
Обозначим через Р вектор вида [/?\ р\ р3] в соответствии с
предыдущими обозначениями. Для рассматриваемой задачи
гамильтониан й имеет вид
H(tyY,P): = max f^i2L +^ИрЧ(Р3,ф(^^))1
Непосредственный анализ гамильтонова включения в теореме 3.2.6
с помощью теоремы 2.8.6 приводит к заключению, что вектор
[—/73, 0] (рассматриваются только компоненты у3 и р2
обобщенного градиента дй) представимы почти всюду как выпуклые
комбинации точек вида Г Л* (ръ + С yd\i\, А , где
г = lim х/ (ov), А = lim D/p (/, yh wj)
и где Wj сходится к точке из U(t)y на которой достигается
максимум" в определении Я, а ys сходится к y(t). Поскольку
рассматриваемые выпуклые комбинации различных значений г должны быть
равны 0, то единственными подходящими последовательностями
{Wj} являются те, которые совпадают с w(t) для всех больших /.
Отсюда получаем (полагая р3=р)
-P<=dy<p(t,y,wy(p+ j* у dp]. (7)
Из условий трансверсальности теоремы 3.2.6 и свойств других
компонент гамильтонова включения следует, что р1 тождественно
равно 0, а р2— постоянная, не превосходящая по абсолютной величине
\Ц. Заключаем из упомянутого выше свойства w(t)9 что для почти
всех t
/р + f ydii, у\ ^ max i/p + J v dV> Ф ft У, w)\ w*=u (О). (8)
\ [a,t] / I \ [a,t] / )
Кроме того, существует такое неотрицательное число X, что
?(Ь)+ {у<Цк=-Хд1(у(Ь)),
[в.б]
где 1(у):= |С-е(у) |.
т

Заметим, что 6(i/(fc))¥=£, поскольку £<£8(02[С]) по
определению. Отсюда и из теоремы 2.6.6 получаем, что
р(6)+ С Yd|iSde(£(&))4 (9)
[а,Ь]
где —v=k(Q(y(b))—l/\B(y{b))—l\. Поскольку М1+Я=1, то
ll|i||+|w| = l. (Ю)
Последнее условие касается С0
P(a)t=rddcAY(a)) + Xdf0(Y(a))9
а это означает, что
рМегдйсйш + пв. (П)
Теперь можно вспомнить, что все приведенные выше условия были
получены для всех достаточно больших *, так что основные
соотношения (7) — (11), величины и функции /?, -у, |if у, у, о;, А, (по не г)
в действительности зависят от /. Заметим, что при i-*oo мера
множества
стремится к 0 согласно (1), как и величина \у{а)—х(а) |. Из
леммы 1 следует, что у равномерно сходится к х. Конечно же,
переходя, если необходимо, к подпоследовательности, можно полагать,
что Vi сходится к вектору ueRd. Используя теорему 3.1.7 и
предложение 3.1.8 аналогично тому, как это делается на этапе 4
доказательства теоремы 3.2.6, можно выбрать такие сходящиеся
подпоследовательности, что для их пределов выполняются условия
(7) — (10) при у=ху w=u, а также включение
p(a)<=rddc(x(a)). (12)
Отсюда следует утверждение теоремы.
Этап 4. Теперь осталось избавиться от промежуточных
условий. Начнем с того, что докажем справедливость теоремы при
отсутствии первого из промежуточных условий (полагая пока, что
второе условие выполняется). Следует отметить, что из
приведенных результатов следует существование априорной оценки сверху
М на функцию \p(t) + С yd\i I, не зависящей от U.
la.t] I
Пусть Sj есть возрастающая последовательность конечных
множеств из шара MB такая, что Sj+j~lBz^MB. Для каждого
элемента s^Sj выбираем элемент w8^U(t) такой, что
HU *(*), s)^(s, <р(/, x(t), w.))+j-\
где
HU У> s): = sup«s, <р(/, у, w)): we=U(t)}.
191

По теореме 4.1.1 о существовании измеримого селектора можно
выбрать w9 как измеримую функцию t. Пусть ^(/) = {ш,(/):
5е5,}и{н(0}- Очевидно, что все предположения теоремы,
включая промежуточные условия 1) и 2), выполняются, если U заменить
на Uj. Затем, применяя уже доказанный результат, получаем
существование р, 'f, ц,, и, зависящих от / и таких, что для U=Uj они
удовлетворяют утверждению теоремы, в частности,
/р+ {ydii,x\ = hf(t9x,p+ {уdp) п. в.,
\ [А] / v ко i
где
М'. У» s)=max{<s, ф(/, у, w)): ws=Ui(t)}.
Пусть s такой элемент из S,, что
p + J Y^es + r1^,
[a,t)
и заметим, что c(t)—постоянная Липшица для h(t9 x(t), •) и
h}(t, x(t), •)• Итак, имеем
hi fttx9p + j ydii\ >hi(t9x9s)-r1c((i>
^ <s,' Ф (/, x, ws)) - Ггс (t) ^ h (/, xy s) - Г1 - Гс(t) >
>hlt9x9p+ J ydv\-2r1c{t)-r1.
Отсюда следует, что
\/p+\yd^9x\-h[t9x9p+ fTrf|iM>r[2c(0+l]. (13)
|\ lit) / \ dt) )\
Поскольку из п. 5) теоремы вытекает априорная оценка на р(&),
непосредственное применение теоремы 3.1.7, как и ранее, приводит
к существованию р, f, \i, vy удовлетворяющих в пределе при }-*~оо
искомым условиям; при этом п. 2) теоремы следует из (13).
И наконец, осталось избавиться от второго промежуточного
условия. Для произвольного натурального / положим
Uf(t)={wezU{t): k(t,w)^k{t,u(t)) + j,\y(t,x(t),w)\^
Заметим, что t/j(«) —возрастающая последовательность
многозначных отображений и что любой элемент U(t) содержится в
Uj(t) для достаточно большого /.
Если заменить U на £/,, то все условия теоремы выполнены,
включая второе промежуточное условие. Поэтому можно
использовать доказанный выше вариант теоремы с тем, чтобы получить
существование р, f, \i и v, зависящих от / и удовлетворяющих
утверждению теоремы для U=Uh в частности, для почти всех t и всех
192

w<=U,(t)
'p + J ydp,'x\^/p + j ydp,<p(t,x,w)\ п. в. (14)
<'
/ \ \л /
W) ' N W)
Как и раньше, применяется теорема 3.1.7, из которой следует
существование р, f, р, и и, удовлетворяющих пп. 1), 3)—6)
теоремы. Любое w из {/(f) содержится в U}(t) для больших /. Отсюда
и из (14) следует п. 2) теоремы.
5.1.3. Замечание. Если множество 8(52[С]) замкнуто, можно
использовать это доказательство, привлекая понятие
перпендикуляра, для того, чтобы показать, что вектор v нормален к 9{Я[С])
в точке 6(х, Ь).
О-управляемость. Рассмотрим автономный случай (т. е. случай,
когда функции ср, g и U не зависят от /)• Для упрощения будем
далее полагать, что 0е£/, ср(0, 0)=0 и g(0) отрицательно.
Отсюда следует, что кривая *=0 является допустимой траекторией,
соответствующей управлению и=0, и фазовое ограничение
несущественно вдоль х.
Множество 31-управляемости состоит из всех точек а таких, что
для некоторого Г>0, управления w на [О, Т] и соответствующей
траектории у имеем t/(0)=a, у(Т)=0. Таким образом, 31 есть
множество всех точек, из которых можно попасть в начало за
конечное время вдоль траекторий управляемой системы. Заметим, что
OeSfc. В приложениях часто представляет интерес такой вопрос:
содержит ли 31 окрестность 0. Можно использовать теорему 5.1.2
для получения условий, обеспечивающих наличие такого
свойства 31. Например, пусть функция ср измерима по Борелю и строго
дифференцируема как функция х, A=Dxq>(0, 0). Пусть U — боре-
левское множество в Rn.
5.1.4. П р е д л о ж е н и е. Пусть для некоторого 7>0
Oe=intco{eA'cp(0, w): weU, O^t^T},
тогда OeintSi.
Доказательство. Если O^Eint31, то тогда точка 0
принадлежит границе множества достижимости 52[ {0} ] управляемой
системы y=—(f(y9 w), причем [a, 6] = [0, 7]. Заметим, что это
множество содержится в 31. Все условия теоремы 5.1.2, где 8 —
тождественное преобразование, лг=0, и=0, выполнены, поэтому
существует кривая р, нигде не обращающаяся в 0 и такая, что
— р = — А*р п. в.,
min{(p(0,<p(0,a/)>: w^U} = 0, O^t^T п. в.
Отсюда следует, что p(t) = eA*iannn некоторого ненулевого
вектора а и что для всех /е[0, Т] и w^U имеем
(а, е^ц> (0, ш)> = <е*'а, ср (0, а/)> > 0,
что противоречит условиям предложения.
l/t7 Ф. Кларк
193

Ниже приведен вариант одного классического в теории
управления результата.
Следствие. В дополнение к условиям предложения
полагаем, что <р(0, •) —дифференцируемая функция в 0 и Oeint U. Пусть
B=Dtt<p(0, 0). Тогда если ранг пХппг-матрицы
[В АВ А2В...Ап-1В]
равен п, то OeintSt.
Доказательство. Покажем, что выполняется условие
предположения 5.1.4. Если это не так, то существует ненулевой вектор
v такой, что
{v, еЛ'<р(0, w))^0 для /€=[0, Г], weU.
Следовательно, функция w-*~(v, eA'<p(0, w)) достигает локального
максимума в ш=0, т, е. v*eAtB = 0. Дифференцируя это тождество
при f=0 i раз, получаем, что Л4'В=0. Отсюда следует, что
вектор v ортогонален каждому столбцу определенной выше матрицы,
а это противоречит тому, что она имеет максимальный ранг.
§ 5.2. Принцип максимума
Теперь мы рассмотрим наиболее распространенную постановку
задачи оптимального управления и приведем обобщение широко
известных необходимых условий, носящих название принципа
максимума Понтрягина.
Задача оптимального управления Рс. Пусть для управляемой
системы, описанной в предыдущем параграфе, заданы динамика,
фазовое ограничение и ограничения на управления. Зафиксируем
функции /: Rn->R и F: [a, &]xRnXRm->R, тогда задача Рс состоит
в минимизации функционала
f(x(b)) + ^F(t,x(t),u(t))dt
а
на множестве управлений и соответствующих допустимых
траекторий, удовлетворяющих условиям:
jt(a)e=Co, x(6)ed.
Предположения 5.1.1 остаются в силе. Кроме того,
предполагается, что Св и Ci — замкнутые множества, / — локально липшице-
вая функция, а F удовлетворяет тому же условию, что и <р (т. е.
п. 1) предположений 5.1.1).
Понтрягинский (или псевдо-) гамильтониан НР: [a, 6]XRnX
XRnXRmXR-^R определяется таким образом:
HP(t, х9 р, и, 1): = <р, <p(f, х9 u)y—hF(t, х, и).
(Если фазовое ограничение несущественно вдоль оптимального
решения х (т. е. g(t9 x(t))<0 для всех t), то формулировка
приведенной ниже теоремы упрощается, поскольку при этом исключает-
194

ся всякое упоминание о мере \i и соответствующих интегралах. Это
может оказаться полезным упрощением при первом чтении.)
5.2.1. Теорема (принцип максимума). Пусть (х,
и)—решение задачи Рс и предполагаем, что функция t-+k(t9 u(t)) {см.п. 1)
условий 5.1.1) интегрируема. Тогда существуют число А,, равное О
или 1, кривая р, измеримая функция у и неотрицательная мера \i
на [а, Ь] такие, что:
1) р удовлетворяет сопряженному уравнению
-p(t)tEdxHP(t,x(t),p(t)+ J y(s)\i(ds)9u(t)9X) п.в;
2) НР достигает максимума по и в u(t):
maxlHP(t,x(t)9p(t)+ $ y(s)vL(ds),w9X): w^U(t)\ =
= HP(t,x(t)9p(t)+ $у№((Ь),и®9Х) п.в;
\ [a,t) J
3) f (0^dxg(f, x(t)) для \1-почти всех t и мера \i
сосредоточена на множестве
{**('. *(0)=0);
4) для некоторого t,^df(x(b)) выполняются следующие
условия трансверсальности:
p(a)ZENc.(x(a))9 -Ц-рф)- $ y{s)vL(ds)eNCl(x(b));
5) 11р|| + 11|х||+Я>0.
5.2.2. Замечание. Можно обеспечить измеримость k и
интегрируемость k(t9 u(t)) делая другие, возможно более знакомые,
предположения. Например, эти условия выполнены, если функции
Ф и F имеют непрерывные по совокупности переменных
производные <рж и Fx и функция и(-) существенно ограничена. Это
стандартные условия для гладких вариантов принципа максимума. Вторым
условием является условие роста (см. § 4.4)
|<Э*фК*М+с, |d.FKfc|F|+c.
Принцип максимума не применяется в тех случаях, когда
множество значений управляющего параметра U явно зависит от
фазового вектора: [/=£/(*, х). Такие задачи могут быть
сформулированы как оптимизационные задачи для дифференциальных
включений (см. лемму Филиппова в § 5.5).
Доказательство. Приведенное утверждение получается
непосредственно из теоремы 5.1.2. Пусть s=[s0, Si> s2] обозначает
точки в RXRwXRn,
C={s: s0=0, Si^Co, s2^Ci}9
<p(f, s> w) = [F(t, sb w)9 <p(t9 si9 w)y OJ,
g(t9s)=g(tys)9
Q(s) = [s0+f(si)is2—sl].
7* 195

Используя обозначения теоремы 5.1.2, можно утверждать, что
допустимая траектория x(t) = К^(т, *t tt)dt, x(t), x(b)\ такова, что
Q(x(b)) лежит на границе 9 (52 [С]). Если это не так, то найдется
такая допустимая траектория у9 соответствующая управлению и,
что для некоторого е>0 y0(b)+f(yi(b))=x0(b)+f(xl(b))—е и
*/i(^)=t/2(&). Отсюда следует, что кривая y=yt есть допустимая
траектория в задаче Рс, причем значение функционала на у
меньше xq(b)+f(Xi(b))9 что противоречит оптимальности х.
Следовательно, можно применить теорему 5.1.2 для
поставленной выше задачи. Выписывая для нее утверждения теоремы,
получаем принцип максимума.
Варианты принципа максимума. При некоторых
дополнительных предположениях для задачи Рс можно получить кроме
утверждений, приведенных в теореме 5.2.1, и некоторые другие.
Примечательные примеры в этом смысле представляют случаи, когда:
1) данные задачи зависят от t более регулярным образом, чем
просто измеримым, 2) отрезок [а, Ь] не фиксирован. Предложенный в
§ 3.6 метод преобразования для задачи с дифференциальным
включением и нефиксированным временем непосредственно
переносится для задачи управления, что позволяет прямо из теоремы
5.2.1 получить подходящие варианты принципа максимума для
указанных выше задач.
Для иллюстрации сформулируем результат для автономной
задачи, в которой а фиксировано, а величина Ь должна
удовлетворять ограничению (&, x(b))^S9 где S — заданное замкнутое
множество в RXRn. Ранее рассматривался случай, когда S={b}xCi).
Далее, функции ср, F, g и U не зависят явным образом от L
Рассмотрим задачу минимизации функционала
а
на множестве управлений и и соответствующих траекторий,
определенных на отрезке [а, &1] и удовлетворяющих ограничениям
g(x(t)^0 (0<«Ь4), *(а)е=С0, (b\ x(bl))eS. Пусть (*, и)—
решение этой задачи, где х и и определены на отрезке [а, Ь].
Полагаем, что выполняются условия теоремы 5.2.1 и, кроме того,
функция f удовлетворяет условию Липшица по переменной Ьх.
5.2.3. Теорема. Существуют р, f, \л и число %у равное О или 1,
удовлетворяющие пп. 1)—3) и 5) теоремы 5.2.1 наряду со следую-
щими условиями:
1) существует такая постоянная h, что
Нр (*(/), p(t) + f У dp, u(f), Х) =h п. в.,
2) \К-р(Ь)- f у(8)р№]&Щ(Ь9х(Ь)) + Ыз(Ь,х(Ь)),
L [аЛ J
196

3) p(a)<=NCo(x(a)).
5.2.4. Замечание. В случае если S=[a, oo)xCi я / не
зависит от Ь\ то из перечисленных условий следует, что постоянная h
равна 0.
§ 5.3. Пример: линейный регулятор с диодом
Специальный случай задачи оптимального управления,
известный как линейный регулятор, нашел широкое применение в
инженерной практике. В этой задаче динамика описывается линейным
уравнением х=Ах+Ви, что позволяет ее использовать при
моделировании разнообразных механических, электрических и других
явлений. Следует найти управление и, которое переводит систему
из начального состояния х0 в момент *=0 в конечное состояние хт
за время Т и при этом минимизирует стоимость такого перехода.
Стоимость измеряется положительно определенным функционалом
г
f (Qu, u)dt. Как видно, линейный регулятор есть частный случай
о
задачи Рс с гладкими данными. Принцип максимума
(теорема 5.2.1) позволяет довольно легко найти единственное решение.
Однако многие простые модели имеют не только нелинейную,
но и негладкую динамику, как, например, модель добычи полезных
ископаемых из § 3.3. Другой пример, близкий к традиционной
задаче о линейном регуляторе, возникает при рассмотрении простой
электрической схемы, состоящей из диода, конденсатора и
источника напряжения (см. рис. 1.3). Как показано в 1143],
управляемое дифференциальное уравнение для этой схемы с приложенным
напряжением и имеет вид
х = [ а^и~х^ х^и> (1)
I —Р(дс —w), х^иу
где а, £ — положительные постоянные (причем а>£), а х —
напряжение на конденсаторе. Следует выбрать «(•) на отрезке [0, Г]
т
так, чтобы минимизировать — I u(t)2dt и обеспечить выполнение
о
заданных краевых условий х(0)=х0у х(Т)=хт.
Будет показано, что эту негладкую задачу можно
рассматривать как частный случай задачи управления Рс § 5.2 или как
частный случай задачи Больца Рв § 4.1.
Последняя формулировка этого примера оказывается более
информативной, что и иллюстрирует полезность применения
различных подходов к одной и той же задаче.
Формулировка примера как задачи Рв* Разрешая уравнение
(1) относительно х/, нетрудно показать, что исходную задачу мож-
7* Ф. Кларк
197

но рассматривать как задачу Больца, если определить
(лг+в/а)»
L(x,v) = \
2
(*+р/Р)*
=о,
у<о,
/(s0,Si)=( °* So_*0, Sl~*T'
l+oo в противном случае.
Как легко видеть, основные предположения 4.1.2 выполнены.
Заметим, что при jc>0 функция L(x, •) —невыпукла.
Приступим к вычислению гамильтониана
Н (х, р) = max {pv—L (х, v)}.
(2)
Значения v, для которых достигается максимум в (2),
удовлетворяют условию p<=dvL(x, v). Используя теорему 2.5.1, получаем
dvL(x, v) =
I Ux: 1</^Д, у = 0.
Отсюда следует, что такие v удовлетворяют условиям и=а (ар—дг),
когда ар>х; у = р(рр—*), когда 0р<*; и=0, когда дсе[рр, apl-
Теперь вычислим Н
• а + Р
Р.
Я(х, р) = ар (SE-- ,). если *<min(«p, 0) или 0<х,
Н(х,р) = — -у. если ар<лгг^рр<0,
*(«.«-*(*-*) в» -ах других случаях.
Все перечисленные выше области обозначаются соответственно
Л, В и С (рис. 5.1, а).
Формулировка примера как задачи Рс. Уравнение динамики (1)
можно записать в виде jt=cp(jt, и), где ф(х, м)=тах{а(и—х)г
$(и—х)}. Множество U значений управляющего параметра
совпадает с множеством вещественных чисел и полагаем, что F(tfx9u) =
= ы2/2, /=0. Псевдогамильтониан НР имеет вид
Нр (/, х, р, и Д) = р max {а (и — х), р (а — л:)} — Я —„
198

Pk
x-(p/2)p/ I
" I
Рис. 5.1. a — Три области определения гамильтониана; б — оптимальные
траектории на фазовой плоскости
7** 199

В задаче отсутствуют фазовые ограничения, так что можно
просто полагать g=—1. Чтобы рассмотреть локальные решения ху
можно было бы определить
g(t,s) = \s-x(t)\-e.
В любом случае функция g и мера jlx не фигурируют в
необходимых условиях. И наконец, определим С0={х0) и Ci={xT}.
Необходимые условия. Пусть х есть решение, может быть
локальное, поставленной выше задачи. Используем необходимые
условия для нахождения х. Начнем с постановки задачи как
задачи Рв и воспользуемся теоремой 4.4.1 с тем, чтобы сделать вывод
о существовании кривой р, удовлетворяющей условиям (р, х)е
^дН(х, р) п. в., Н(х, р)=Л, где h — постоянная.
Функция Н такова, что внутри областей Л, В и С
дифференциальное включение сводится к обыкновенным дифференциальным
уравнениям, решения которых лежат на линиях уровня Я. (На
рис. 5.1, б изображены некоторые такие направленные линии
уровня.) Покажем, что траектории (лс, р) гамильтонова включения при
переходе из одной области в другую не «задерживаются» на
границе. Простое вычисление показывает, что (0, 0)фдН(х, р) для
любых (х, р) на границах областей за единственным исключением:
(О, 0)ед//(0, 0). Множество уровня #=0 состоит из трех частей:
а) /?=0, Ь) рр=2х<0, с) ар=2л:>0.
На множестве вида а) имеем х=—ах, или х=—$х следовательно,
|*| ^й|*| для некоторой постоянной к. Аналогичные оценки
имеются в случаях Ь) и с). Отсюда следует, что если решение (х, р)
включения в какой-то момент времени попало в (0, 0), то x(f)=0.
Исключая, таким образом, тривиальный случай, х0=хт=0, можем
считать, что (x(t), p(t)) попадает на границы областей Л, В или С
только конечное число раз.
Приведем сейчас качественно точный вид оптимальных
траекторий х во всех случаях. Например, в случае jct<jc0<0 решение
состоит из трех сегментов: в области Л х=а(ар—Jt)>0, p=ap<0,
затем в области В х=0, р=х<0 и, наконец, в области С х=
= fj({}p—х)<0, р=(}[}<0. (Очевидно, что некоторые из
приведенных сегментов могут отсутствовать в некоторых случаях.)
Вид (*, р) полностью определяется значением р(0), поскольку
лг(0) =лг0 задано. Значение р(0) выбирается так, чтобы х(Т)=хт,
что приводит к краевой двухточечной задаче.
Теперь приведем необходимые условия, получаемые с помощью
принципа максимума. То обстоятельство, что и доставляет
максимум функции w-+HP{x, р, ад, X) на [/, означает, что Я=1, ибо в
противном случае функция р тождественно равна нулю вместе с Л,
что противоречит условию нормировки. Таким образом, и
максимизирует функцию
ртах{а(ад — х\ $(w — х)} —
200

Нетрудно проверить, что как функция (*, р) такое
максимизирующее и задается соотношениями
и=ар внутри Л,
и=$р внутри В,
и=х внутри С.
Сопряженное уравнение из п. 1) теоремы 5.2.1 в этом случае
имеет вид
— pe-pd, max {а (и — х)9 Р(а — х)},
поэтому в области В
р = ар9 а>0,
Р = РР, "<*,
ре[ар,рр], и = х.
Итак, принцип максимума утверждает, что ре lap, рр] внутри
В (в отличие от уравнения р=х, полученного из анализа
задачи Рв). Таким образом, его применение не позволяет однозначно
определить р (а значит, и х).
Выше были указаны траектории, которые удовлетворяют
необходимым условиям. В следующем параграфе излагаются
достаточные условия, которые будут использованы для того, чтобы
показать, что эти траектории действительно оптимальны.
Итак, мы еще раз убедились, что полезно иметь несколько
методов решения. При гамильтониановом подходе, изложенном в
гл. 3 и 4, сначала максимизируют с тем, чтобы получить Я, а
затем Н «дифференцируют», чтобы получить гамильтоново
включение, тогда как в принципе максимума эти операции совершаются
в обратном порядке. Эти два в чем-то близких подхода отличаются
друг от друга и ни один из них не представляется универсальным
для всех случаев. В § 5.5 будет показано, что для «гладких
обобщенных» задач оптимального управления эти два подхода
эквивалентны.
§ 5.4. Достаточные условия и существование
Для получения достаточных условий оптимальности в задаче
управления Рс можно вначале эту задачу переформулировать как
задачу Больца, а затем использовать результат Зейдан,
доказанный в § 4.3. Существует несколько способов формулировки задачи
Рс в виде задачи Рв. Приведем один из них. Пусть
Lit х v) = linilFV>x>u): <Kt.x,u) = v9uGU(t))f g(t9
l+oo, g(t9x)>09
*)<0f
14-oo в противном случае.
201

(Заметим, что точная нижняя грань пустого множества
полагается равной +оо.) Естественно было бы ожидать, что кривая х есть
решение задачи Рв тогда, и только тогда, когда для некоторого
управления и пара (х, и) есть решение задачи Рс.
В следующей теореме об эквивалентности, получаемой на
основе результатов работы [185], при довольно слабых
предположениях утверждается также, что L удовлетворяет основным
предположениям гл. 4. (Доказательство теоремы, основанное на
использовании теоремы об измеримом селекторе, опущено.)
5.4.1. Теорема (эквивалентность). Пусть для задачи Рс вы-
полняются следующие условия:
1) функция F(xt и) &ХЯП-измерима и полунепрерывна снизу;
2) функция <р(/, ху и) измерима по t и непрерывна по (х, и);
3) отображение U(-) замкнутозначно и его график
&XЯП-измерим;
4) функция g(t, х) 9?ХЗВ~измерима и полунепрерывна снизу
по х;
5) множества С0 и С{ замкнуты; функция f полунепрерывна
снизу;
6) для любого t и любого ограниченного множества Sc:RnXRn
следующее множество ограничено
{u^U(t): для некоторого (х, a)eS, v=y(t, х, и)}.
Тогда функции I и L соответствующей задачи Больца Рв
удовлетворяют основным предположениям АЛ.2 и кривая х есть решение
задачи Рв тогда, и только тогда, когда найдется такое управление
и, соответствующее траектории х, что пара (х, и) есть решение
задачи Рс.
5.4.2. Теорема (достаточные условия). Пусть для задачи Рс
выполняются предположения теоремы 5.4.1 и пара (х, и) состоит
из допустимой траектории х и соответствующего управления и. По-
лагаем, что существует кривая р, липшицевая функция Q,
значения которой есть симметричные пХп-матрицы, и положительное
г такие, что:
1) для почти всех t, всех у^{у: g(t, x(t)+y)^0}f)eB ti для
всех w^U(t)
HP<t,x(t) + y, p(t)-Q(t)y,w, l)^HP(t,x(t),p(t),u(t), 1)-
- О (t) + Q (0 i (0, У) + \ Of. Q (0, У)1
2) для всех a, fl из eB таких, что *(a)+aeC0 и x(b) + $^Cu
имеем
<p(a), a>- <p(ft), P> - j<a, Q(a)a> +|<P, Q(6)P> <
<Пх(Ь) + Р)-Пх{Ь)).
Тогда (дг, и) есть локальное решение задачи Рс относительно
трубки Т(х; г).
Доказательство. Проверим выполнение предположений
теоремы 4.3.1 для указанной задачи Больца. Приведенное выше
202

условие 1) дает, что для всех w^U(t)
F (/, х, w) ^ </>, Ф (/, *, w) - к) + F (t9 х% и). (1)
Учитывая определение L, отсюда получаем условие 1)
теоремы 4.3.1. Условие 2) теоремы 4.3.1 следует из того, что H(t> у, р)
совпадает с тах{#р(/, у, р, w, 1): w^U(t)}, а выполнение
условия 3) очевидно. Отсюда заключаем, что кривая х есть локальное
решение задачи Рв относительно трубки Т(х; е).
Теорема 5.4.1 утверждает, что существует управление и для
траектории х такое, что пара (*, й) является решением задачи Рс.
При этом можно полагать, что й = и, поскольку согласно (1)
L(t, х, x)=F(tyxy и).
Приведем обобщение хорошо известного результата Мангаса-
риана [139].
Следствие. Пусть для задачи Рс выполняются
предположения теоремы 5.4.1, множества С0 и С{—выпуклы, значения
отображения U(-) есть выпуклые множества, функция f выпукла, а
функции ф и F дифференцируемы по х. Предполагается, что для
допустимой пары (х, и) в задаче Рс найдется кривая р такая, что:
1) для почти всех t функция w-+HP(t, x(t), p{t), w, 1)
достигает максимума на U(t) при w=u(t)\
2) - p(t) = VxHP(t, x{t\ p(t)9 ii(Of 1) п. в.;
3) p(a)e=NMa)),-p(b)<=NCl(x(b))+df(x(b));
4) для каждого t функция (у, до)->#р(£, у, p(t), w> 1)— tyu(t)(w)
вогнута.
Тогда (jc, и) — решение задачи Рс.
Доказательство. Супер дифференциал в точке (x(t), u(t))
вогнутой функции в 4) содержит (—p(t)> 0). Выписывая
определяющее неравенство для этого суперградиента, получаем условие
1) теоремы 5.4.2 (при Q=0). Условие 2) этой теоремы
выполняется очевидным образом, и ее применение приводит к искомому
результату (здесь полагаем, что е =+оо). Это следствие
представляется привлекательным, поскольку его предположения весьма
близки к необходимым условиям оптимальности в форме принципа
максимума (при дополнительном условии вогнутости). Однако его
не всегда можно использовать в задачах, в которых отсутствует
дифференцируемость по х. Например, для таких задач условие 2)
не может быть заменено на включение р^дхНР.
Для иллюстрации применения теоремы рассмотрим задачу §5.3,
в которой, как оказывается, нельзя использовать следствие
теоремы.
5.4.3. Пример. Рассмотрим задачу из § 5.3. Напомним, что
была найдена единственная пара (л:, и)у удовлетворяющая
необходимым условиям, и что для соответствующей кривой р,
являющейся решением гамильтонова включения, имеем (см. рис. 5.1, а):
и=ар в Л, и=$р в С и и=х в В. Очевидно, что выполняется
условие 2) теоремы 5.4.2 для Q=0. Проверим выполнение условия 1)
теоремы 5.4.2 для Q=0 и е = + оо. Для этого достаточно доказать
203

неравенство
pmax{a{w — x — y),fl(w — x — y)}—-Y^H(x,p) — py (2)
для всех у и w.
В области А достаточно доказать
pvm{a(w-x-y)9^[w-x-y)}-^<ap^f-x-y"j9 (3)
поскольку здесь р=ар, Н(х, р)=ар(ар/2—х). Рассмотрим
случай w^x+y и положим, что w=x+y+6 для некоторого 6^0.
Тогда, если предположить, что x+y=zy неравенство (3)
эквивалентно неравенству
z2+26z+62+ap(ap—22—26) ^0.
Минимум этого выражения по z достигается при z=ap—б и
равен 0. Это доказывает (3) в случае w^x+y, оставшийся случай
рассматривается аналогично.
Доказательство неравенства (2) в областях В и С вызывает не
больше трудностей, чем проведенное доказательство для
области А.
Поэтому все условия теоремы 5.4.2 выполнены и отсюда
следует, что (jc, и) представляет собой глобальное решение исходной
задачи.
Можно показать, что при предположениях следствия теоремы
5.4.2 функция t/->#(y, p{t)) должна быть вогнута. Однако, как
показывает анализ точек (у, р), лежащих на общей границе областей
Л и С, гамильтониан Н не есть вогнутая функция у.
Существование. Исходная мотивация для постановки задачи
управления в форме задачи Больца заключалась в получении
общих теорем существования. Приведем прямое следствие теоремы
существования 4.1.3 и теоремы об эквивалентности 5.4.1.
(Заметим, что множество в п. 1) ниже совпадает с epiL(/, х> •)•)
5.4.4. Теорема (существование). Пусть задача Рс
удовлетворяет предположениям теоремы 5.4.1 и, кроме того, условиям:
1) для всех tux, удовлетворяющих g(t, х)^0, следующее
множество выпукло
{[<р(/, х, и), F(t, ху и) +6]: ueU(t)9 6^0};
2) существуют конечные и интегрируемые по t функции o(t)9
р(/) и \i(t9 р) {причем а и р — неотрицательные) такие, что для
всех (t9 х)9 удовлетворяющих g(t9 *)^0, для всех w^U(t)9 и для
всех р
HP{t9 х9 р, w9 1)<ц(/, р) + \х\ (а(0 +р(0 |р|);
3) множество Со компактно, функция f(s) ограничена снизу на
Ct некоторой функцией вида с—М\s\.
Тогда если существует хотя бы одна допустимая пара (х, и)
для задачи Рс, на которой функционал принимает конечное
значение, то существует решение задачи Рс.
204

§ 5.5. Обобщенная задача управления
Задача Майера. В этом параграфе рассматривается
автономная задача Майера, являющаяся частным случаем задачи Рс из
§ 5.2, в которой F=0, а функции <р, g и U не зависят явным
образом от t. Итак, задача Майера, обозначаемая Рм, состоит в
нахождении минимума функционала f(x(b)) на множестве пар (*, и)
траекторий и соответствующих управлений, удовлетворяющих
соотношениям
х(О = Ф(х(0, "(0), u(f)etU п. в.,
g(x(t))^0, х(а)е=С0, х(6)еС..
В этом параграфе некоторые результаты об управляемости и
чувствительности гл. 3 интерпретируются в терминах задачи (или,
более точно, в терминах приведенного ниже ее «обобщения»).
Приведем некоторые упрощающие предположения, чтобы прояснить
взаимосвязь этих результатов. Будем полагать, что множества [/,
С0 и {х: g(x)^:0} компактны, a Ct замкнуто, функции fug
локально липшицевы. Предполагается, что функция ф и ее
производная Ужф(«, • ) непрерывны.
Обобщенная задача. Пусть многозначное отображение F
определяется равенством F(x)=fp(x, U). Из теоремы об измеримом
селекторе выводим, что х есть решение получившейся задачи PD
(см. задачу 3.4.1) тогда и только тогда, когда (х, и) есть решение
задачи Рм для некоторого управления ы. (Этот результат известен
как лемма Филиппова.)
Легко проверить, что F, /, g и С0 удовлетворяют на любой
достаточно большой трубке Q основным предположениям 3.2.2
главы 3 за одним исключением. Оно состоит в том, что значения
отображения F не обязательно выпуклы. Условие выпуклости
значений F известно в теории существования решений, заметим, что в
данном случае оно совпадает с условием 1) теоремы 5.4.4. Как
видно из следствия теоремы 3.1.6, траектории включения со/7 могут
быть равномерно аппроксимированы с произвольной точностью
траекториями включения /\ а из теоремы 3.1.7 следует, что
множество траектории включения coF секвенциально компактно.
Поэтому в качестве замыкания исходной задачи разумно рассмотреть
задачу, в которой F заменяется на coF.
Можно сформулировать соответствующую задачу с функцией
Ф и множеством £7, в которой ф(*, £7)=соф(*, U) для каждого х.
(Новая задача есть обобщение исходной задачи.) Полезный способ
конструктивного построения ф и П заключается в определении
множества V как множества всевозможных элементов й=(Я0, Ki9 ..►
2/1
..., Х2Я, и0у ии ..., н2п), где >w^0, 2 *•<= 1 и Ui^U. Положим
~ ~ 2П
ф(х, to—2) м> (*»"<)
/=0
20S

и заметим, что ф(х, С)=соф(л;, U) согласно теореме Каратеодо-
ри. Заметим также, что все предположения относительно ф, U
выполняются и для ф, U. Хотя при этом множество значений
управляющего параметра лежит в пространстве большей размерности
Rm, m= (2/1+1) (m-fl), фазовый вектор х по-прежнему лежит
в Rn.
Обобщенная задача, обозначаемая Рм, представляет собой
задачу Рм, в которой ф и U заменены соответственно на ф и П.
Заметим, что каждая траектория задачи Рм является и траекторией
обобщенной задачи Рм. Тем не менее вследствие указанных выше
аппроксимационных результатов часто, хотя не всегда, решение х
задачи Рм представляет собой и решение задачи Рм. Если
фазовое ограничение несущественно, то это так, когда задача Рм
устойчива (см. § 4.2), в частности, когда х(Ь) лежит внутри Сх
(т. е. ограничение на правый конец траектории несущественно).
В общем случае, обобщенная задача Рм представляет собой
единственную задачу, для которой может быть доказана теорема
существования оптимального решения. По этой причине многие
считают ее единственной задачей, которую разумно рассматривать
на практике. Поскольку множество достижимости для обобщенной
задачи является замыканием множества достижимости для
исходной задачи, то приближенные численные алгоритмы сходятся к
обобщенному значению задачи. И в заключение заметим, что если
minPAf<minP3f, то, допуская произвольно малые нарушения
фазового ограничения и ограничения х(Ь)^Си можно найти «почти
допустимую» траекторию х исходной задачи, для которой
значение функционала платы строго меньше, чем minPM. Таким
образом, из практических соображений обобщенная задача
представляется более подходящей, чем исходная. Подбирая аналогию в
теории дифференциальных уравнений, укажем на тезис, согласно
которому только устойчивые положения равновесия имеют
физический смысл.
Нормальность. Напомним, что в § 3.4 было определено
множество множителей Мг(х), соответствующих произвольной
допустимой траектории х для задачи PD. Определение этих множителей
содержало и гамильтоново включение для гамильтониана Я,
введенного в § 3.2.
Траектория называлась нормальной, если множество
анормальных множителей М?(х) состоит из одного только тривиального
множителя (ц=0, р=0). Выше уже указывалось, что задача Рм
и соответствующая ей задача PD эквивалентны и имеют одну и
ту же функцию оптимального значения V.
Хотя вследствие этого для задачи Рм можно использовать
результаты гл. 3, далее в этом параграфе устанавливаются
подобные связи с множителями, определенными в терминах принципа
максимума (т. е. в определение которых используется
псевдогамильтониан ЯР, введенный в § 5.2). (Однако формулировка в тер-
206

минах гамильтониана представляется более естественной,
поскольку для задач Рм и Рм гамильтониан Н{ху р) один и тот же,
тогда как условия принципа максимума для этих двух задач
различаются.)
Псевдонормальность. Для рассматриваемой задачи управления
Рс допустимая траектория х называется псевдонормальной, если
для любого управления и, соответствующего х, не существует
Р, Т> \*> удовлетворяющих условиям принципа максимума (т. е.
условиям 1)—5) теоремы 5.2.1) при Х=0 (т. е. кривая х псевдо-
нормальна, когда не существует нетривиального анормального
множителя для (х, и), где и — управление, соответствующее х).
5.5.1. Теорема (управляемость в окрестности
псевдонормальной траектории). Пусть х — допустимая и псевдонормальная
траектория для задачи Рм. Тогда найдутся постоянные пг и е>0
такие, что для любых а и $ из еВ найдется пара
траектория/управление (у, v), которая соответствует динамике (<р, D) и удовлетворяет
фазовому ограничению g(y(t))^0, условиям j/(o)eC0+a, У(Ь)^
eCj + j} и неравенству
l\x(t)-y(t)\dt^m\(*,fi)\.
а
Доказательство. Пусть PD есть задача для
дифференциального включения 3.4.1, порождаемая задачей Рм- Следует
только показать, что х есть нормальная кривая для задачи PD и затем
использовать теорему 3.5.3.
Пусть [р, y> ц, £, 0] содержится в М? (jc), покажем, что р и \i
равны нулю. Но это следует из предположений теоремы, если р,
7, [i удовлетворяют (для ср, V и некоторого и) условиям 1)—4)
теоремы 5.2.1 (при Я=0), поскольку тогда 5) не выполняется.
Заметим, что условия 3) и 4) очевидны, поэтому сосредоточим
внимание на условиях 1) и 2).
В соответствии со следствием 2 теоремы 2.8.2 из условия 4)
определения 3.2.5 следует, что
(— Р, х) = 2 h [ V*<P (х, utY <7, Ф (х, щ)1
где q = p-\- \ id\i, каждое щ удовлетворяет равенству
{а л
(qf ф(л:, щ))=Н(х, q). Отсюда заключаем, что обобщенное
управление й=(А,0, Яь ..., Хгп, Ио, ..., и2п) удовлетворяет соотношениям
—p=Vxqp(jc, u)*q, (q> ф(*, £)> = #(*, q), поэтому условия 1) и 2)
теоремы 5.2.1 выполнены. Теорема доказана.
Функция оптимального значения. Как и в гл. 3, Y обозначает
множество решений х задачи PD (в рассматриваемой здесь
постановке, х есть решение задачи Рм для некоторого управления й),
207

а V обозначает функцию оптимального значения (т. е. У(р) есть
оптимальное значение функционала для задачи Рм, в которой
ограничение x(b)^Ci заменено на ограничение ;t(&)eCi + p).
Поскольку по предположению существует хотя бы одна допустимая
пара (jc, й) для задачи Рм, то множество У непусто по
предложению 3.2.3.
5.5.2. Теорема (функция оптимального значения).
Предположим, что каждая кривая х из Y псевдонормальна. Тогда
функция V удовлетворяет условию Липшица вблизи О и
dV(0)(Zcok + p(b)+ $ тЮ!*(&)), (1)
где выпуклая оболочка берется на множестве всех р, у, Ц, Б»
удовлетворяющих условиям принципа максимума (т. е. условиям
1)—4) теоремы 5.2.1 при К=\) для некоторого решения (х, й)
задачи Рм.
Доказательство. При доказательстве предыдущей
теоремы было показано, что (в обозначениях § 3.4) множество
E[Ml,(Y)] содержится в правой части включения (1). Поскольку
также имеем, что Е[М°Г (У)] = {0}, то утверждение теоремы
следует из теоремы 3.4.3.
Уравнение Гамильтона — Якоби. Кривая х называется
локальным решением задачи Рм, если она является решением задачи Рх>
относительно трубки Т(х\ е) для некоторого е>0. Теперь
предполагаем, что все локальные решения х задачи Рм таковы, что
фазовое ограничение несущественно (т. е. g{x(t))<0) и множество
С0 состоит из одной точки х0. Для рассматриваемой задачи
гамильтониан Н имеет вид Н(х, p)=max{(p, ср(*, и)): u^U). С учетом
этого обобщенное уравнение Гамильтона — Якоби § 3.7 для лип-
шицевой функции W(ty х) принимает вид
min{a+<p, (f(xf и)): ugeU, (a, p)ed№(/, x)}=0.
Приведем прямое следствие теоремы 3.7.6.
5.5.3. Теорема. Пусть все локальные решения задачи Рм
псевдонормальны. Тогда допустимая кривая х является локальным
решением задачи Рм тогда, и только тогда, когда найдется трубка
Т(ху е) радиуса г вокруг кривой х, на которой определено липши-
цевое решение W уравнения Гамильтона — Якоби,
удовлетворяющее краевым условиям
W(a9x0)=f(x(b))t W(b,y)=f(y) дляуе=СЛ{х(Ь)+еВ}.
Как указывалось в § 3.7, этот результат можно рассматривать
как подтверждение того, что для всех «разумных» задач
уравнение Гамильтона — Якоби является одновременно и необходимым,
и достаточным условием оптимальности.

Глава 6
МАТЕМАТИЧЕСКОЕ ПРОГРАММИРОВАНИЕ
Но ему не позволили кончить на этом,
поскольку в университетах никто никогда
не удовлетворен полностью чьим-либо
определением.
Робертсон Девис. «Мятежные ангелы»
В этой главе рассматривается задача оптимизации общего
вида, возникающая в математическом программировании.
Содержание главы существенно связано с понятием множителя,
определяемого в терминах функции Лагранжа задачи.
Здесь будут описаны интересные взаимосвязи множителей и
необходимых условий, функций оптимального значения,
устойчивости и чувствительности задачи, поведения допустимых точек при
возмущении.
Изложение начинается с обобщения хорошо знакомого и
весьма полезного метода, известного как правило множителей
Лагранжа. Как это часто было и раньше, основная идея, по-видимому,
восходит к Эйлеру.
§ 6.1. Правило множителей Лагранжа
Постановка задачи. Пусть X—банахово пространство. Общая
задача математического программирования, обозначаемая Р,
состоит в минимизации заданной на X функции f(x) при наличии
следующих ограничений на вектор х:
1) ограничения типа неравенства: gi(x)^0 (i=l, ..., п), где
gi—действительнозначные функции на Х\
2) ограничения типа равенства: /i;(jc)=0 (/=1, ..., /л), где
hj— действительнозначные функции на X;
3) ограничение общего типа х^С, где С — заданное
множество в X.
209

Формально ограничения типа 1) и 2) можно записать в виде
ограничения типа 3), определив С подходящим образом, но для
нас интерес представляет рассмотрение ограничений 1) и 2),
заданных в явном виде.
Основные предположения. Далее, предполагается, что С —
замкнутое множество и что каждая из функций /, gif h}
удовлетворяет условию Липшица в окрестности любой точки из С. (Как
видно из гл. 2, это предположение следует из более привычных
предположений о выпуклости или дифференцируемости.)
Функции Лагранжа. Пусть g= [gu ..., gn] и h= [hu ..., hm] —
функции, отображающие X в Rn и Rm соответственно. Вообще
говоря, п^\ и m^l, но можно считать, что т или п равно нулю,
чтобы выделить случай, когда отсутствуют явно заданные
ограничения типа равенства или неравенства. В этих случаях, как будет
следовать из контекста, можно просто опустить все, относящееся
к таким ограничениям.
Функцией Лагранжа называется функция L(x, А,, г, s, ft): IX
XRXRwXRmXR-*R, заданная выражением
L(x, X, г, s, k):=Xf(x) + (r, g(x)) + {s, h(x)) + k\ (A,, r, s) \dc(x)9
где dc обозначает, как обычно, функцию расстояния до множества
С (см. § 2.4). В случае, когда С=ХУ лагранжиан принимает
знакомый по классической теории вид (поскольку расстояние dc
тождественно равно нулю).
6.1.1. Теорема (правило множителей Лагранжа). Пусть х —
решение задачи Р. Тогда для каждого достаточно большого k
найдутся Х^О, г^О и 5, не обращающиеся в О одновременно, такие,
что <г, g(x)) = 0 и 0^dxL(x, А,, г, s, k).
6.1.2. Замечания.
1. Как будет видно из доказательства, утверждение теоремы
верно для любого k>k, где k — постоянная Липшица для
функции [/> £» Л] в окрестности вектора х.
2. Обозначение г^О означает, что каждая компонента г<
вектора г неотрицательна. Условие (г, g(jt)) = 0, называемое
условием «дополняющей нежесткости», эквивалентно тому, что г<=0,
если gi(x)<0 (т. е. л=0, если ограничение gi(x)^0 локально
несущественно).
3. Утверждение теоремы справедливо и для случая, когда х
есть локальный минимум, поскольку оно не изменится, если
заменить С на СГ\{х+гВ} для произвольного е>0.
4. Из условия стационарности OedxL следует условие
Ое*а/(х)+ S^ft W +IiSidhi(x)+k\(K r9s)\ddc(x)
i /
(так же, как и условие, в котором последний член заменен на
Nc(x)). Это условие, вообще говоря, слабее, чем условие стационар-
210

ности в терминах функции Лагранжа (см. предложение 2.3.3), хотя
в гладком или выпуклом случае они эквивалентны.
5. Определенный выше вектор (X, г 5) называется множителем.
Заметим, что если вектор (А,, г, s) есть множитель (т. е.
удовлетворяет утверждению теоремы для некоторого &)> то для любого />0
вектор (ti, tr, ts) также есть множитель. Таким образом, в
утверждение теоремы можно полагать, что | (А,, г, s) | = 1.
Доказательство теоремы 6.1.1. Определим множества
Т= {t= (Я, г, s) e=R1+"+m: Я>0, г^О, | (X, г, s) | = 1}
и для произвольного е>0 опоеделим функцию F: X-+R
F(y) = max{(K г, s). (f(y)-f(x) + е, g(y), h (у))},
т
Заметим, что F есть липшицевая в окрестности х функция и
F(x)=e. Утверждается, что функция F положительна на С.
Действительно, если F(y)^0 для некоторого уеС, то тогда gi(y)^Oy
hj(y)=0 (т. е. у есть допустимая точка для задачи Р) и f(y)^
^f(x)—£, что противоречит определению х.
Следовательно, х удовлетворяет неравенству
F(x)^infF + e
с
и по теореме 7.5.1 найдется точка и^х+УгВ такая, что для всех
F(y)+yl\\y-u\\^F(u).
Если k — постоянная Липшица, упомянутая в п. 1 замечания
6.1.2, то, как легко видеть, при достаточно малом е>0
произвольное k>k есть постоянная Липшица, функции F(y) +Уг\\у—и\\ в
некоторой окрестности точки у=и.
По предложению 2.4.3 точка и доставляет минимум в некоторой
окрестности и функции
y^F(y)+Yl\y-u\\ + kdc(y) =
= max {/,(#, Я, г, s, k)-Kf(x) + ek) + Yi\y-ul=G(y)+Yi\y-ul
т
где G(y) обозначает первое слагаемое из предыдущего
выражения. Отсюда, для достаточно малого е имеем
0e=dG(u)+y7B.. (1)
Оценим dG, используя теорему 2.8.2. Прежде всего следует
доказать, что отображение
(t,y)-+dxL(y,tyk) (2)
замкнуто в смысле определения 2.8.1. Чтобы показать это,
заметим, что для любых Л, /2 из Т функция
y-+L(y, tif k)-L(y, t29 k) = (U-U) • (/, g9 h) (y)
211

удовлетворяет условию Липшица с постоянной k\ti—12\ в
окрестности л:, поэтому
дхЦу, tu k)cdxL(y, /2, k)+k\U—U\E.
согласно предложениям 2.3.3 и 2.1.2, а). С учетом свойства
замкнутости 2.1.5, Ь) обобщенного градиента отсюда следует, как и
утверждалось, замкнутость отображения (2).
Поскольку величина F(u) положительна, то существует
единственный вектор tu^T, на котором достигается максимум,
определяющий F(u) (а значит, и G(u)). Применяя теперь теорему 2.8.2,
получаем из (1), что
Oe=dxL(u4 tu, А)+Уё£«. (3)
Заметим, что если £<(к)^0, тогда в векторе tu имеем г,=0.
Если проделать приведенные выше выкладки для некоторой
последовательности е„ сходящейся к нулю, то тогда
соответствующая последовательность щ сходится к л;, а некоторая
подпоследовательность {tu£ сходится к элементу Т. Тогда утверждение
теоремы следует из включения (3) с учетом замкнутости
отображения (2).
Оптимальность по Парето. В некоторых задачах
математического программирования возникают несколько целевых функций
/lf ..., /р. Пусть /= [/,, ..., /J — вектор-функция и рассмотрим
задачу «оптимизации» f на множестве точек х, удовлетворяющих
тем же ограничениям, что и в приведенной ранее задаче А
Допустимая точка х (т. е. точка л*, удовлетворяющая ограничениям
задач Р, называется (слабо) оптимальной по Парето для этой
многокритериальной задачи, если не существует допустимой точки у,
для которой fa(у) </«(*) (сс= 1,..,. р).
Определим обобщенную функцию Лагранжа L, интерпретируя
X как вектор из Rp:
L(x, К г, s, fc): = U, f(x)) + {r, g{x)) + (s, h(x)) + k\(Ky г, s)\dc(x).
6.1.3. Теорема. Пусть х — оптимальное по Парето решение
многокритериальной задачи. Тогда выполняется утверждение
теоремы 6.1.1.
Доказательство. Метод, используемый для
доказательства теоремы 6.1.1, применяется здесь без изменений. Необходимо
только интерпретировать е, встречающееся в определении F как
вектор вида [е, ..., е] из Rp.
§ 6.2. Дополнительное правило множителей
Здесь излагается правило множителей, которое отлично от
правила множителей, содержащегося в теореме 6.1.1, и представляет
некоторый интерес с точки зрения вычислительных методов. В этом
параграфе предполагается, что X есть конечномерное
пространством. Введем предварительно следующее понятие.
•512

Относительный обобщенный градиент. Пусть 5 —
подмножество X. Назовем S — относительным обобщенным градиентом
функции f в точке х, обозначая его d\8f(x), следующее множество:
d\8f(x):={%: £ есть предельная точка последовательности £<
такой, что 1^д!(у{), y^S, ус+х}.
Перечисленные ниже свойства d\8f достаточно очевидны.
6.2.1. Предложение. Пусть f удовлетворяет условию
Липшица вблизи х. Тогда:
a) d\8f(x) —замкнутое подмножество df(x);
b) d\af(x)=df(x)9 если x^'mtS; d\8f(x)=0, если (х+гВ)[)
C]S=0 для некоторого е>0; d\8f(x) непусто, если Jcecl(S);
c) отображение d\8f (х) полунепрерывно сверху в х.
Определим множества G< (i=l, ..., я), Н$ (/=1, ..., пг) и
А полагая
Gi = {x': gi{x')>Q},
#/ = {*': */(*')#<>},
D={x': dc(x')>0}.
Предполагается, как и раньше, что выполнены основные
предположения § 6.1.
6.2.2. Теорема. Пусть х — решение задачи Р. Тогда Ое
€5co{d/(*)f d\Qigdx), ±d\H,h,(x)9 d\Ddc(x)}.
6.2.3. Замечания.
1. Заметим, что некоторые из множеств, фигурирующих в
утверждении теоремы, могут быть пусты. Например, d\Qigi(x)
пусто, если функция g{ неположительна в некоторой окрестности
точки х. Это обстоятельство позволяет исключить несущественные
ограничения в необходимых условиях. В случае когда
gt—гладкая функция и множество d\atgi{x) непусто, d\Gigc(x) =
= {Dg<(x)}.
Легко видеть отсюда, что теорема охватывает классическое
правило множителей Лагранжа для гладкой задачи (в отсутствие
ограничений общего типа).
2. Идея о том, что существует правило множителей в терминах
относительных обобщенных градиентов для множеств
недопустимых точек, принадлежит Е. Полаку. Такое правило полезно для
разработки вычислительных методов недифференцируемой
оптимизации. Возможны, конечно, и другие уточнения правила
множителей. Пусть, например, х доставляет минимум гладкой функции /
на множестве С. Тогда х также доставляет минимум / на любом
подмножестве С, содержащем х, поэтому
-V/(jt)<=n{#*(*): *e=ScC}.
3. Можно всегда задать ограничение /ij=0 в виде двух
неравенств /ij^O, —/ij^O. Аналогично условие jcgC можно записать
в виде dc(x)^0. Но в общем случае это приводит к задаче, в
которой необходимые условия выполняются тривиальным образом
213

для любой допустимой точки (поскольку, например, всегда
O^ddc(x), если хеС, поэтому утверждение теоремы 6.1.1
выполняется автоматически, если одно из ограничений типа неравенства
имеет вид dc(x)^.0). Утверждение же теоремы 6.2.2, однако,
остается нетривиальным даже в этом случае.
Доказательство теоремы 6.2.2. Как указывалось в п.3
замечаний 6.2.3, достаточно доказать теорему только для случая
ограничений типа неравенства. При это*м искомое утверждение
имеет вид
Оесо{<Э/(х), dlftfcW, ..., d\Gngn(x)}. (1)
Чтобы получить (1), зафиксируем произвольное е>0 и рассмотрим
функцию F
F(y):=max {/(*/)—/(*)+е, gt(y), ..., £«(#)}•
Поскольку х есть решение задачи Р на множестве С:=х-{-6В9
то функция F положительна на С. Так как F(x)=e, то мы имеем
F(*X inff+e,
с
поэтому по теореме 7.5.1 найдется точка и^х+УгВ такая, что и
доставляет минимум на множестве С функции
y+F{y)+1*\\y-ul
Получаем для е<62, что 0^дР(и)+УгВ. Отсюда с учетом
теоремы 2.8.2 следует (напомним, что F(u) >0)
co{d/(a), d I* ft (и). ...,д\рлдя(и)} П У^Ъф®.
Получим такие соотношения для последовательности е^,
сходящейся к 0, и последовательности щу сходящейся к х. Тогда искомое
включение (1) следует из свойства полунепрерывности сверху,
сформулированного в предложении 6.2.1, с).
Направления спуска. Доказательство теоремы 6.2.2 связано с
одним алгоритмическим подходом к решению задач
математического программирования. Предвосхищая некоторые обозначения,
используемые в последующих параграфах, обозначим через V{0)
минимальное значение целевой функции f в задаче Р и
рассмотрим функцию
F(jc):=max {f(x)-V(0)9 gl(x)9..., gn(x)}.
Напомним, что при доказательстве теоремы 6.2.2 было показано,
что вследствие использования относительных обобщенных
градиентов, можно полагать, что имеются только ограничения типа
неравенства g<^0. Укажем что функция F неотрицательна по
построению и точка х есть решение задачи Р тогда и только тогда, когда
F(x)=0. Таким образом, решение задачи Р эквивалентно
нахождению нуля функции F. Однако заметим, что величина У(0) неиз-
214

вестна до того, как решена задача Р. Тем не менее, как показано
ниже, можно найти направления убывания функции F, используя
dF(x).
Предположим, что 0 не содержится в множестве
Г(х): = co{df(x),d\Gtgl(x), ...,d\Gngn(x)}.
Тогда по теореме 6.2.2 х не является решением задачи Р,
следовательно, F(x)>0. Теперь следовало бы найти ненулевой вектор v
такой, что для некоторого Г>0
F(x+tv)<F(x) при0</<7\
Такой вектор v называется направлением спуска, поскольку сдвиг в
направлении v уменьшает значение F, являющееся как мерой
отклонения значения целевой функции от минимального значения,
так и мерой нарушения ограничений.
6.2.4. Предложение. Пусть вектор у^Г(х) имеет
наименьшую норму, тогда вектор v=—у— направление спуска.
Доказательство. По предположению v^O. Заметим, что
вектор y существует и единственен, поскольку множество Г(аг)
замкнуто и выпукло. Тогда в соответствии с предложением 2.5.5
вектор v перпендикулярен Г(х) в у, поэтому v содержится в
множестве #Г(*)(т)> которое совпадает с нормальным конусом в смысле
выпуклого анализа (см. предложение 2.4.4). Получаем, что
<v> т'>«0. y>=—|а2| Для всех у'еГ(дс).
Пусть t — положительное число. По теореме о среднем значении
F{x+tv)-F(x)e0F(xr)9to>9
где jc* лежит между х и x+tv.
Если х* таков, что F(x*)>0 (а это имеет место для всех
достаточно малых t> поскольку F(x)>0 и F — непрерывная функция),
то
dF(jf)cr{jf).
В свою очередь, поскольку отображение Г полунепрерывно сверху,
то для всех лс*, достаточно близких к *, имеем
Г(дОсГ(х) + Шя.
При этих условиях отсюда следует, что <£, и><—\v\2/2 для
всех £ из F(x*), что в сочетании с предыдущими соотношениями
влечет неравенство
F(x + tv) — F(x)^ — t^-
для всех / достаточно малых t и доказывает требуемое свойство v.
Если задан подходящий метод для определения длины шага в
направлении спуска, то получаем основу для построения
численного алгоритма решения задачи Р. Заметим, что в общем случае
215

алгоритм позволяет находить точки х9 для которых ОеГ(*), так,
что реально вычисляются «точки стационарности» в задаче Р. Это
общая черта многих численных алгоритмов. Как подчеркивал
Е. Полак, разработка практических алгоритмов требует
значительных усилий. Для приближенного вычисления множества Г(х) и
вектора у часто требуется наложение более сильных условий на
задачу или использование некоторой специальной структуры
рассматриваемых функций. В частности, при разработке практических
алгоритмов большое значение имеет вывод формул для вычисления
обобщенного градиента, аналогичных формулам из
предложения 2.3.12 или примера 2.8.7.
§ 6.3. Условия невырожденности ограничений и чувствительность
Можно полагать, что необходимые условия, даваемые
теоремой 6.1.1, вырождаются, когда множитель, соответствующий
функции / и обозначаемый Х> обращается в нуль, поскольку
минимизируемая функция не фигурирует в этих условиях. Были предложены
разнообразные условия, при выполнении которых можно
утверждать, что правило множителей выполняется в нормальной форме
(т. е. с Я=1). Эти условия, называемые условиями
невырожденности ограничений, и их роль для изучения проблемы
чувствительности задач математического программирования и рассматриваются
в настоящем параграфе.
Множество множителей. Пусть х — допустимая точка в задаче Р
(т. е. удовлетворяет всем ограничениям), а X и k —
неотрицательные числа. Определим множество множителей индекса X М* (х),
соответствующее ху как множество всех векторов (г, s)eRnXRm>
удовлетворяющих вместе с X утверждению теоремы 6.1.1, т. е.
векторов (г, s) таких, что
0<=dxL(x,X,r,s,k), r>0, <r,g(*)> = 0.
Заметим, что, если элемент (Я, г, s, к) удовлетворяет этим
условиям и Я>0, то им удовлетворяет и элемент (1, г/X, s/X, k/X).
Следовательно, имеются две существенно разные ситуации:
Х=0 и Х=1. Теорему 6.1.1 можно теперь сформулировать в
следующем виде: если х есть решение задачи Р, то для достаточно
большого &
M\(x)[J[Mok(x)\{O}]=£0.
Отметим, что множество анормальных множителей М\(х)
всегда содержит 0.
Условия невырожденности ограничений бывают двух типов: во-
первых, это предположения относительно структуры ограничений,
которые гарантируют, что множество анормальных множителей
состоит только из 0, и, во-вторых, это предположения, которые
обеспечивают непустоту множества М\ (причем Ml может и не
сводиться к {0}). Основными примерами предположений первого типа яв-
216

ляются так называемые условия Мангасариана — Фромовица,
условия Слейтера и их обобщения, которые изучаются в этом
параграфе. Ко второму типу относятся условия невырожденности
ограничений, которые называются условием устойчивости задачи и
будут изучены в следующем параграфе. Оказывается, что условие
устойчивости можно назвать слабейшим из перечисленных условий,
поскольку оно выполняется при выполнении любого из них.
Условие Мангасариана — Фромовица в традиционной
постановке, когда каждая из функций gu Л, непрерывно дифференцируема и
С=Х, состоит в том, что векторы УЛДх) (/=1, ..., гп) линейно
независимы и найдется такой вектор v, что
<VAi(x), i>>=0f /=1,...,т,
<Vg»(х), у>.<0, если gi(x) = 0, t= 1,..., п.
Предположим, что выполняется это условие и найдется ненулевой
вектор (г, s), содержащийся в Ml (х). Тогда, поскольку
обобщенный градиент сводится к производной, имеем
i i
Поскольку векторы Vhj(x) линейно независимы, то хотя бы одно
Л=?М). Из условий г^О, </\ g(*)> = 0 и g(x)^.0 (напомним, что х —
допустимая точка) получаем, что /\>0, £<(*) =0 для каждого i
такого, что пФО. Учитывая это, умножим скалярно обе части
приведенного выше уравнения на v, получающееся противоречие
приводит к заключению, что Ml = {0}.
Условия Слейтера. Предположим, что в задаче Р отсутствуют
ограничения типа равенства (т=0), функции gt выпуклы и С есть
выпуклое множество. В такой постановке условие Слейтера состоит
в предположении, что найдется такая точка дсеС, что gi(x)<.0
(t=l, ..., п) (х называется строго допустимой точкой).
6.3.1. Предложение. Если в описанной выше задаче
выполняется условие Слейтера, то Aft(x) = {0}.
Доказательство. Предположим, что Ml (х) содержит
ненулевой элемент г. Тогда имеем
0е=д{(г^(х)>+к\г\с1с(х)}.
Поскольку функция f/-Kr, g(y)}+k\r\dc(y) выпукла (см. лемму
из предложения 2.4.4), то она достигает минимума в х. Так как
точка х допустима и <г, #(х)> = 0, то этот минимум равен 0. Но
рассматриваемая функция в точке х принимает отрицательное
значение, что и приводит к противоречию.
Далее будет видно, что условия, подобные приведенным выше,
не только гарантируют отсутствие нетривиальных анормальных
множителей. Они также имеют определенное значение для
8 Ф. Кларк
217

изучения чувствительности задачи оптимизации по отношению к
возмущению ограничений.
Предварительно приведем простое доказательство следующего
результата, принадлежащего Робинсону [169] и Урсеску [210].
6.3.2. Теорема. Пусть U — банахово пространство, Г —
многозначное отображение из V в множество подмножеств X.
Предположим, что для некоторых положительных Миг
МВх=>Т(и)Ф0 для всех u^2eBv,
и график отображения Г есть выпуклое множество. Тогда для всех
и, и' из еВиу для любого у^Г(и) найдется такой вектор -у'^ГЧы'),
что \\у-у'\\х<^К\\и-и'\\и9 где К=4М/г.
Доказательство. Следует доказать, что (в терминах гл. 3)
отображение Г удовлетворяет условию Липшица с постоянной /С.
Зафиксируем упомянутые в теореме векторы и н у н определим на
U функцию /(a') =inf {Hy'-yII: т'е=Г(и')}.
Достаточно доказать следующую оценку:
f(u') < (4М/г) \\и'—и\\и, если и€=еЯ.
Но прежде покажем, что / есть конечная и выпуклая на 2zBv
функция. Но это следует из приводимой ниже леммы, поскольку можно
написать, что f(u') = inf {\\yf—у\\+у0(и', у')}, где ^G — индикатор-
v
ная функция выпуклого множества G: = graphl\
Лемма. Пусть <р: UxX->R[J{ + oo}—выпуклая функция;
определим f(u') =inf <р(и', х). Если функция f конечна на выпуклом
х
множестве S, то f есть выпуклая на S функция.
Пусть щ и и2 принадлежат S, а хи хг удовлетворяют
неравенствам <р(ы,, х{)<.1(щ)-{-$ для произвольного положительного числа 6.
Тогда для любого Яе№, 1]
/(*М-(1—А,) tt,X<p(XM- (1-Я) u2yUi+ О—Л)*2)^
<Лдр(||,эх1) + (1-Л)ф(и1эх1)^Л/(^) + (1-Я)/(м1)+в.
Поскольку 5 выбиралось произвольно, то отсюда следует, что / есть
выпуклая функция.
Возвращаясь к доказательству теоремы, заметим, что / есть
выпуклая функция на 2eBVj ограниченная сверху величиной 2М на
е-окрестности гВи. Из следствия предложения 2.2.6 заключаем, что
f удовлетворяет условию Липшица с постоянной К—AMI г на гВи.
С учетом того, что f (и) = 0, отсюда следует искомая оценка f(u')^
<К\\иГ-иЦ„.
Теперь используя теорему, получим некоторые результаты по
устойчивости параметрических задач оптимизации. Начнем с
результата, принадлежащего Обэну и Кларку [12].
Следствие 1. Пусть S и Т— выпуклые множества в банаховых
пространствах X и Y, А — линейное отображение из S в У. Пусть f
есть липшицевая функция, определенная на S, где множество S
ограничено, функция оптимального значения V: У-^Ки{+°°}
218

определяется выражением
V(y)=ini{f(x): xt=S,Ax<=T+y}.
Если О есть внутренняя точка множества AS—Т, то функция V
удовлетворяет условию Липшица в окрестности О.
Доказательство. Определим многозначное отображение
r(y):={xc=S: Ахе=Т+у}.
Тогда Г ограничено и непусто для у, близких к 0, нетрудно
проверить, что множество graph Г выпукло. Тогда из теоремы следует,
что многозначное отображение Г удовлетворяет условию Липшица
в окрестности 0, а это, очевидно, влечет за собой свойство липши-
цевости функции V в окрестности 0.
Рассмотрим теперь частный случай задачи Р, описанной в
предложении 6.3.1. Пусть для peRn величина V(p) обозначает
минимум целевой функции в задаче Р, в которой ограничения £«(х)^0
заменены ограничениями вида £<(*)+Р<^0. Здесь V — частный
пример функции оптимального значения, рассматриваемой в
следующем параграфе.
Следствие 2. Пусть выполняются условия предложения 6.3.1,
множество С ограничено и функция f удовлетворяет условию
Липшица на С. Тогда из условия Слейтера (т. е. существования
допустимой точки), следует, что V есть липшицевая в окрестности 0.
Доказательство. Используем теорему, чтобы показать, что
многозначное отображение
Г(р):={*€=С: g(x)+p^0}
удовлетворяет условию Липшица в окрестности 0. Отсюда следует,
что V тоже удовлетворяет условию Липшица в окрестности 0.
Далее в § 6.5 будет показано, что для случая конечномерного
пространства X условие того, что Ml(x) = {0} для каждого
оптимального решения х гарантирует липшицевость функции
оптимального значения. Таким образом, любые условия невырожденности
ограничений, которые исключают существование нетривиальных
анормальных множителей подобно условиям Слейтера или Манга-
сариана — Фромовица), также обеспечивают устойчивость задачи
по отношению к возмущению ограничений.
Рассматриваемые ниже условия невырожденности ограничений
не обладают этим свойством.
§ 6.4. Устойчивость
Будет по-прежнему рассматриваться задача Р из § 6.1,
погруженная в параметрическое семейство задач Р(р, q)
математического программирования. Пусть pe=Rn, q<=Rm, задача Р(р, q) есть
задача минимизации функции f(x) на множестве точек х*=С9
которые удовлетворяют ограничениям g(*)+p<0, h(x)+q=0. (Если
aeRn, то обозначение v<0 означает, что каждая компонента
вектора v неположительна.)
8* 219

6.4.1. Определение. Пусть х есть решение задачи Р.
Задача Р устойчива в х, если существуют такие положительные е и М9
что для всех (р, q) из гВ и для всех х'^х+еВ, являющихся
допустимыми точками в задаче Р(р, q)
f(x')-f(*)+M\(p,q)\^0.
Функция оптимального значения (или просто функция значения)
V: Rn->Rm-^RU{ + °°} определяется следующим образом: V(p, q)
совпадает с минимальным значением целевой функции / в задаче
Р(р> Я)- Укажем, что если множества допустимых точек в задаче
Р(р, q) пусто, то значение V(p, q) полагается равным +оо.
6.4.2. Предложение. Пусть значение V(0, 0) конечно и
liminf У(Р'Я)-У(0^)>_оо
(Р.яУМо.0) \{р,Я)\
(в частности, это выполняется, если V есть липшицевая вблизи 0
функция). Тогда для любого решения х задачи Р эта задача
устойчива в х.
Доказательство. Существуют е>0 и М>0 такие, что для
всех (р, q) из гВ
V(p,q)-V(0,0)^-M\(p9q)\.
Если х'^х+гВ и х' — допустимая точка в задаче Р(р, q), то f(x')^
^V(P> Ч)> ПРИ этом, конечно, У(0, 0) =/(*). Отсюда и следует
утверждение об устойчивости задачи Р в х.
По аналогии с § 4.2 задача Р называется устойчивой, если она
удовлетворяет условиям предложения 6.4.2. Ввиду следствия 1
теоремы 6.3.2 отсюда вытекает, что частный случай задачи Р,
рассматриваемый в предложении 6.3.1, представляет собой устойчивую
задачу при выполнении условия Слейтера. В следующем параграфе
будет показано, что для конечномерного пространства X отсутствие
нетривиальных анормальных множителей обеспечивает
выполнение условия Липшица для функции V и тем самым устойчивость
задачи Р (см. теорему 6.5.2 следствие 1). Будет также доказан
локальный вариант этого утверждения: если Af*(jt) = {0}, то
задача Р устойчива в х.
Понятие устойчивости непосредственно связано с численным
методом, известным как метод точных штрафных функций.
6.4.3. Предложение. Пусть х есть решение задачи Р,
которая устойчива в х. Тогда для некоторого М>0 точка х есть точка
локального минимума на С функции
У-+!(У)+Мтах{&(у), |Л,(у)|,0: 1</^п, 1^/^т}.
Доказательство. Если утверждение неверно, то для
любого натурального k существует такая точка xh^Cf)(x+ (1/k)В), что
/(**)+* max {#,(**), |ЙД*Л) |,0}</(*).
В приведенном соотношении значение максимума обязательно
строго больше нуля. Очевидно, что max {gi(xk)9 0}->0 для каждого i и
220

\hj(xk) |-^0 для каждого /. Определим векторы рк= (рЛ1, ..., ркп) и
Яь= (Яни • • •, Янт), положив phi=max {£,(**), 0} и </w= |М**) |.
Тогда имеем
max{|pj, |(7Л|}
что противоречит предположению об устойчивости задачи Р в х.
Таким образом, для некоторых Af>0 и 6>0 точка х доставляет
минимум на множестве СП (х-\-ЬВ), определенной в утверждении
функции.
Теперь укажем, что свойство устойчивости задачи оптимизации
можно отнести к условиям невырожденности ограничений.
Приведенный ниже результат является следствием теоремы 6.5.2.
6.4.4. Предложение. Пусть X — конечномерное
пространство, х есть решение задачи Р, которая устойчива в х. Тогда правило
множителей теоремы 6.1.1 выполняется с К= 1.
В заключение дадим точную формулировку утверждения о том,
что «почти все задачи устойчивы». Отметим, что этот результат
имеет место для задач без явно заданных ограничений типа
равенства. Неизвестно верен ли он и для задач с ограничениями такого
типа.
6.4.5. Предложение. Пусть в задаче Р имеются только
ограничения вида gi(x)^0 и общее ограничение *еС. Предполагается,
что функция V(p) принимает конечные значения в окрестности 0.
Тогда для почти всех р из окрестности 0 задача Р(р) устойчива.
Доказательство. По определению вблизи 0 функция V (р) =
= V(Pi, ..., р«) принимает конечные значения и не возрастает как
функция каждой компоненты р<. Такие функции диференцируемы
почти всюду в смысле меры Лебега (см. [216]). Очевидно, что
задача Р(р) устойчива, если функция V дифференцируема в р, откуда
и следует утверждение.
6.4.6. Замечание. Для общей задачи Р, в которой
присутствуют ограничения типа равенства, используя теорему 7.5.1, легко
получить, что задача Р(р, q) устойчива для всех (р, я) из плотного
подмножества произвольного открытого множества, на котором
функция V ограничена и полунепрерывна снизу.
§ 6.5. Функция оптимального значения
Если заранее не потребовать выполнения некоторых довольно
сильных предположений о задаче Р, то функция значения V (см.
§ 6.4) вообще говоря не является ни выпуклой, ни
дифференцируемой, ни даже конечной в окрестности (0, 0). Однако имеется
возможность получить полезные формулы для обобщенного
градиента V при следующих довольно умеренных предложениях:
6.5.1. Предположения. X — конечномерное пространство,
значение У(0, 0) конечно, существуют компактное подмножество
QczC и положительное число е0 такие, что для всех (р, q)^e0B,
221

удовлетворяющих неравенству V(p, q)<.V(Oy 0)+е0, задача
Р(р, q) имеет решение, которое содержится в Q.
Отметим, что в предположениях 6.5.1 не требуется, чтобы для
всех (р, q), лежащих вблизи (0, 0), множество допустимых точек в
задаче Р(р, q) было непусто (т. е. допускается, что V(py q)=+oo
для (р, q), произвольно близких к (0, 0)). Также не предполагается
полунепрерывность снизу функции V в окрестности (0, 0). Простое
условие роста, которое обеспечивает существование Q и е0, состоит
в следующем: для каждого reR множество {х^С: f(x)^r}
компактно.
Обозначим через 2 множество всех решений задачи Р, лежащих
в Q. Из основных предположений § 6.1 следует, что функция [/, g, ft]
удовлетворяет условию Липшица с некоторой постоянной k на
окрестности Q. Напомним, что множество называется острым, если
невозможно представить 0 в виде конечной суммы его ненулевых
элементов. Множества множителей М\ (х) были определены в § 6.3,
Mk (2) обозначает множество (J М\(х). В следующей теореме на-
ряду с dV фигурирует асимптотический обобщенный градиент d°°V,
определенный в § 2.9.
6.5.2. Теорема. При выполнении предположений 6.5.1 для
любого k>k
dV(0, 0) =га{Л*£(2) П dV(0, 0) +M°k(2) f| d°°V(0, 0)}.
Если Ml (2) — острое множество, то операция замыкания являет-
ся излишней и
д°У(0, 0) = со{М2(2) П ЗТ(0, 0)}.
Прежде, чем доказать теорему, получим некоторые ее следствия.
Следствие 1. При выполнении предположений теоремы имеем
dV (0, 0) cFo {Ml (2) + Ml (2)},
а°°У(0,0)СсоЛ12(2).
Если Ml (2) = {0}, то функция V удовлетворяет условию Липшица
в окрестности (0, 0) и dV(0, 0)c:co M\(L).
Доказательство. Приведенные включения вытекают из
теоремы, тогда как последнее утверждение следует из
предложения 2.9.7. В ходе доказательства теоремы будет показано, что
множество epi V локально замкнуто вблизи [0, 0, V(0, 0) ].
Следствие2 (дифференцируемость V). Если при выполнении
предположений теоремы 2= {х} и для этого х М% (х) = {0},М£ (х) =
= {(г, s)}> тогда функция V строго дифференцируема в (0,0) и
D8K(0,0) = (r,s).
Доказательство. Из следствия 1 получаем, что 51/(0, 0) =
= {(г> s)}- Искомое утверждение следует из предложения 2.2.4.
222

СледствиеЗ (существование нормальных множителей). Если
при выполнении предположений теоремы dV(0, О)Ф0 (в частности,
если задача Р устойчива), то существует такое решение х задачи Р,
лежащее в 2, чтоМ\ (x)f)dV(0, О)=И=0.
Доказательство. Из следствия 1 очевидным образом
вытекает первая половина утверждения. Докажем, что dV(0, О)Ф0,
если задача Р устойчива. Но если задача Р устойчива, то из
определения следует (поскольку, как будет показано при
доказательстве теоремы, V полунепрерывна снизу в (0, 0), что V°(09 0; 0, 0)(>^
>—оо. А это эквивалентно тому, что dV(0, О)Ф0 (см. следствие
теоремы 2.9.1).
Для того чтобы соотнести полученные здесь результаты с
результатами других авторов, определим верхние и нижние
производные Дини V+ и V+:
/JO /
1М0, 0; «, я)-Urn infV(<("'p))-^°'0) .
Приведенные ниже оценки даются в терминах множеств М\
и MJ,определенных в § 6.3. Эти оценки по-прежнему останутся
верными, хотя и менее точными, если заменить М\9 М\ на содержащие
их множества. Например, можно заменить М\ (х) на множество
множителей (г, s), удовлетворяющих
0едя{(19 r98).(f9g9h)(x))+Nc(x)9
гдег>0, <г,£(л:)> = 0.
Следствие 4 (оценки производных по направлению
функции V). Пусть выполнены предположения теоремы и Ml (х) ■» {0}
для всех д:е2. Тогда имеем
V+ (0,0; и, v) ^ inf sup (г, s) . (и9 v),
xes (г,5)^м\(х)
V+ (0, 0; u9v)> inf inf (r, s) • (u9 v).
XEI (r.s)eAlJ(jc)
ЕслиM\ (x) = {(r(x)9 s(x)} для каждого xeS, то существует
производная V(0, 0; и9 v) для любых (и9 v) и
V (0, 0; и, v) = inf {(г (х), s (х)) . (и, v)}.
Доказательство. Чтобы доказать первое неравенство,
зафиксирует любое jce2 и рассмотрим новую задачу Р, которая
получается из задачи Р заменой функции f(y) на f(y)=f(y) +
+ \у—х\2. Заметим, что задача Р удовлетворяет условиям теоремы
и соответствующее задаче Р множество 2 равно {х}. Поскольку
функции
y-+L(y, 1, г, 5, k)9 y-*L(y9 1, г, 5, k) + \y—х\г
223

имеют один и тот же обобщенный градиент в х, то М\(х) = И*(х)и
М% (х) = Ml (х). Применяя следствие 1 для задачи Р, получаем
F+ (0, 0; и, v) < Р° (0, 0; и, v) < sup {(г, s) • (а, о): (г, s) s Af J (*)}.
Так как всегда V^V и Г(0, 0) = У(0, 0)=/(х), то из определения
следует, что У+(0, 0; и, v)^.V+(0, 0; и, о). Отсюда получаем, что
V+ (0, 0; щ v) ^ sup {(г, s) (и, о): (г, s) е= Mj (х)}.
Поскольку хеЕ произвольно, то первое неравенство доказано.
Чтобы доказать второе неравенство, заметим, что согласно следствию 1
Цш sup У ((«.Ю-««..))-?<«.») к sup sup _ {и> v). (r> s)>
(а.РЬКо.о) / jtsS
так как левая часть равна по определению V°(0, 0; —и, —v). Теперь
можно записать —V+(0, 0; w, и) в виде
Если рассматривать f(a, w) как (а, р) из предыдущего
неравенства, то отсюда следует, что
— V+ (0, 0; и, v) ^ sup sup — (и, v) • (г, s),
Л1*(*)
а это и есть искомое неравенство.
В заключение укажем, что еслиМ* (х) ={(r(x), s(x))} для
каждого хе2, то оба неравенства влекут соотношение V+=V+> т. е.
производная V существует и равна V+= V+.
6.5.3. Замечание. Существуют и другие производные Дини,
для которых можно получить соответствующие оценки, например
левая верхняя производная Дини
V- (0, 0; и, v) - lim sup V(t(u.v))-Vi0.0)
/fo t
Но здесь эти детали опущены.
Локальная устойчивость. Теперь будет доказан приведенный в
§ 6.4 результат. Здесь не предполагается, что выполнены
предположения 6.5.1, хотя пространство X, по-прежнему, считается
конечномерным.
Следствие 5. Пусть х есть локальное решение задачи Р. Если
All (х) = {0}, где k>Ku К — постоянная Липшица функции [f, g, h]
в окрестности х, то задача Р устойчива в х.
Доказательство. Если задача Р неустойчива в х, то тогда
найдутся последовательности (/?<, ^,)-^(0, 0) и Хс+х такие, что х< —
224-

допустимая точка в задаче P(pi9 <7<) и
lim = — оо.
*-~> I (Рс> яд 1
Можно полагать, что /(*<)</(*) Для каждого /. Если это так, то
существует локально липшицевая неотрицательная функция в,
обращающая в 0 только в х такая, что
.. /(*,) +в (*,)-/<*)
lim ; ; = — ОО.
*-*» I (Pi* Яд I
Легко проверить, что в качестве функции в можно для любого
ае(0, 1) выбрать функцию
6(y)=amin {\у—х\\ max [/(*)— f(y), ds(y)]},
где £= {xifiLi. Рассмотрим задачу Р, полученную из задачи^ Р
заменой функции / на /=/+8 и множества С на С=СГ\(х+гВ), где
е>0 таково, что х есть решение задачи Р на множестве х+гВ.
Поскольку С есть компакт, то для задачи Р выполняются
предположения 6.5.1 и, очевидно, 2={*}. Выбирая величину е и параметр а
в определении в достаточно маленькими, можно добиться того,
чтобы постоянная Липшица R функции [/, g, h] на множестве х+еВ
была строго меньше k. Заметим, что Ml (х) = {0}, поэтому
используя следствие 1 получаем, что задача Р устойчива в х. Но для
больших i V(Pu Яд <f (*i)+Q(xi) и F(°> 0) =/(*). Следовательно,
f. V (Pt. Яд-V (0,0)
lim - ■ = — oo,
*-** I (pi9 Яд I
что противоречит устойчивости задачи P.
Некоторые авторы рассматривали казалось бы более общий
случай возмущенной задачи Р
Ра: m'm{f(x9a): g(x, а)<0, h(x, а) =0, (х, a)eD},
где а есть Л-мерный вектор параметров. Тогда функция
оптимального значения V есть функция a: V(a)=inf Ра. Рассмотренный здесь
случай соответствует этой схеме, если положить k=n+my а=
- (Р> Я) • /(*.«)-/ (х), g(x9a)-g (х) + р, h (х, а) -Л (х) +q,
D—CxRn+m. Рокафеллар заметил, что если /, g и h зависят от a
локально липшицевым образом, то в действительности задачу Ра
можно рассматривать как частный случай задачи Р(р, q). Это
объясняется тем, что функция V(а) является также функцией
оптимального значения для следующей задачи:
min {/(*,*/): g(x9y)^0,h(xty)=0,—y+a = 0, {xty)e=D}9
где (х9 t/)eAXR*. Эта задача принадлежит к классу уже
рассмотренных задач с некоторыми дополнительными линейными
ограничениями типа равенства. Таким образом, методы и результаты
этого параграфа можно применить и к возмущенной задаче Ра.
225

Доказательство теоремы 6.5.2.
Лемма 1. Пусть последовательность (pt, qt) сходится к (О, 0),
причем limsup V(р<, q{) ^ V(0, 0), и пусть x{^Q есть решение задачи
1-*0О
Р(Ри Qt)- Тогда некоторая подпоследовательность {х{} сходится к
элементу *е2.
Поскольку множество Q компактно, то существует
подпоследовательность, сходящаяся к элементу jceQ. Из условий g(*<)+p<^0,
h(*x) + е,=0, х{^С следует, что х есть допустимая точка в задаче Р.
Имеем, что f(x) ^ limsup/(jct) ^ V(0, 0), поэтому х есть решение за-
i—»оо
дачи Р, т. е. хе2.
Укажем, что было получено равенство /(jt)=lim sup/(*,) =
= V(0, 0), откуда следует полунепрерывность снизу функции V в
точке (0, 0). Подобным же образом получаем, что для некоторого
6>0 множество epi Vfl{l0, 0, У(0, 0)]+е2?} замкнуто.
Из определения dV и d°°V заключаем, что в конечном итоге
теорема представляет собой утверждение о нормальных конусах к
epi V. Определим
Nx: = {a(r,s,-l): a>0, (г, s)sA«i(S) П W(0, 0)},
Л'2: ={(r,s,0): (г, s)e=A*2(2) П d°°V(0, 0)}.
Чтобы доказать теорему, достаточно, как и на этапе 2
доказательства теоремы 3.4.3, установить справедливость леммы 2.
Л е м м а 2. Справедливо равенство
^ер1г(0,0,У(0,0))=7о{^и^2}.
По построению Nt\JNt содержится в конусе Neplv(0, 0, V(0, 0)),
поэтому достаточно показать, что каждый элемент последнего
принадлежит со {NilJNz}. С учетом теоремы 2.5.7 достаточно показать,
что любая точка (и0у v0, —р0) вида
("о, "о, — Ро) = Ит тг1-^—hr
содержится в Ni\JNl9 где (at, vu —pt) есть перпендикуляр к epi V в
точке (/?,, qu a.) и где (ии viy — р,)-М>, (/?,, qu a<)-^(0, 0, V(0, 0)).
Основной момент в доказательстве составляет следующая
Лемма 3. Пусть (иу v, —$)—перпендикуляр к epi V в (р, qy a),
где (р, q)^eQB и a<V(0, 0)+е0 (с>*. предположения 6.5.1). Гогс?а
и^0, р^0 и существует решение х задачи Р(р, (/), лежащее в Q и
такое, что u(g(x)+p)=0 и 0<=dxL(x, р, и, v, k).
Доказательство. Для любых точек уеС, векторов а^0
из Rn и те[0, оо) имеем по определению V
1-ё(У)-о, -А(У), f(y)+x]<=epi V.
226

Неравенство из предложения 2.5.5 здесь записывается таким
образом:
M{y) + fr + ug(y) + uo + vh(y) + up + vq-$a +
+ j{\p + g(y) + °\2 + \4 + h{y)\* + \*-f(y)-T\2)^0. (1)
Пусть xeQ есть решение задачи Р(р, q)> которое существует по
предположению 6.5.1. Тогда если y=xt r=a—f(x), а=—g(x)—p9
то в (1) имеет место равенство. (Заметим, что a—f(x)^Q,
поскольку включение (р, q, <x)eepiK означает, что a^V(p, q)=f(x),
—g(x)—Р^0> так как х — допустимая точка для задачи Р(р, q)).
Отсюда следует, что правые производные по направлению левой
части (1) (при у=х) по т и по а, вычисленные соответственно в
точках а—f(x) и —g(x)—р, неотрицательны. Отсюда заключаем,
что р^О, и^О. Если gi(x)+pi<.0 для некоторого t, тогда
производная по Gi в действительности обращается в 0 при а<=—gi{x)—pi
(поскольку здесь достигается локальный минимум). Получаем в
этом случае, что щ=0. Таким образом, u(g(x)+p) =0.
Теперь в неравенстве (1) положим т=«х—f(x), а=—g(x)—pf
47=—h(x)y и заметим, что для любого у^С имеем
N(y) + ug(y) + vh(y) + ±{\f(y)-f(x)\* + \g(y)-g(x)\* +
+ \h(y)-h(x)\*}^tf(x) + ug(x) + vh(x).
Укажем, что если у достаточно близко к х> то левая часть этого
неравенства удовлетворяет по у условию Липшица с постоянной
| (и, и, р) | k. Из предложения 2.4.3 вытекает, что х доставляет
локальный минимум функции
Р/(У) + "5Г(У) + t./i(у) + | (a, t;, Р) |*dc(i() -Ь y<I^^) —^<х)I2 +
+ \g(y)-g(x)\2 + \h(y)-h(x)\2}.
Эта функция представляется в виде суммы функции L(y, р, и, v, k)
и функции, чей обобщенный градиент при у=х равен {0}
(поскольку она удовлетворяет условию Липшица с произвольно малой
постоянной на достаточно малой окрестности х). Из
предложения 2.3.3 получаем, что
0<=dxL(x, р, и, v, k)
и лемма доказана.
Теперь можно завершить доказательство теоремы. Пусть
(и0, v0, —р0) есть элемент, описанный в лемме 2. Следует показать,
что (Иоэ v0, —PoJ^NtlJWj. По лемме 3 для каждого достаточно
большого i найдется решение хя задачи P(pit q{), лежащее в Q, такое,
что
<"ь g(*.)+Pt>=0, 0e=dxL(xu р„ ии vh k)y
причем и^О. Согласно лемме 1 можно полагать, что xt сходится
к элементу *е2.
Лемма 4. 0^dxL(x9 р0, и0, v0i k), и0^0, (и0, g(x)} = 0.
227

Последние два соотношения получаются из предыдущих при
предельном переходе. Пусть yi=\(uu vu —^Р<)|. Функция 6<,
задаваемая выражением
в/(У): =^(у, —, —, — ,k)-L(y,h,»o, v09k) =
\ Yf Yt* Y/ /
= {-i-(p,, и,, u,) - (p0, и0, *0)} • [/, g, h] (y)9
как легко показать, удовлетворяет условию Липшица с постоянной
kzi в окрестности х, где е,= | (fc, ыь vj/y*—((J0, w0, а0) |. Укажем, что
8г-й). Имеем из сказанного выше, что Oed*L (xit $Цуи и{/у{, vjyu k).
Записывая L(-, р0. и*, t^*) в виде L(«, fr/Yb и,/^, vjyu *)+8<(-) и
замечая, что dQi(x)czkBiB (по предложению 2.1.2, а)), имеем
0<=dxL(xu р0, и0, i;0, k)+kzJ5.
Теперь утверждение леммы следует из полунепрерывности свео-
ху обобщенного градиента (предложение 2.1.5, а)).
Поскольку (и0, 0о> —М представляет собой предел
нормированных перпендикуляров, то из теоремы 2.5.7 следует, что (uQy v0t — fio)
содержится в Nepiv(0> О, V(0, 0)). Таким образом, (и0у v0)^
<=d°°V(0, 0), если р0=0, и (и0/$0, vo/^o)^dV(0t 0), если (J0>0. Если
р0=0, то (и0, v0)^Ml(x) вследствие леммы 4, поэтому
(н0, v0, —fj0) = (и0, v0y 0)eN2. Если р0>0, то из леммы вытекает, что
(ио/ро, vJ$0)^Mlk(x), следовательно, (и0, v0, — р0) =ММ*о,
Vq/^оу -s)gJV!. В обоих случаях (и0, v0t —(*<>) ^AMJA^, что и
доказывает окончательно теорему.
§ 6.6. Разрешимость и сюръективность
Результаты предыдущего параграфа применимы и к задачам,
по-существу не имеющим отношение к оптимизации. Чтобы
проиллюстрировать сказанное, рассмотрим задачу о существовании
решений следующей системы, состоящей из неравенства, равенства и
общего ограничения:
g(V)+P<09 h(y)+q = 0, ysEC. (1)
По-прежнему предполагается, что X—конечномерное
пространство. Пусть х удовлетворяет ограничениям (1) для р=0, q=0 (т. е.
х — допустимая точка для задачи Р) и пусть k — постоянная
Липшица функции [g, h] в некоторой окрестности х. Напомним, что
множество Ml(x) состоит из векторов (г, s), удовлетворяющих
соотношениям
г^0, rg(x)=0, 0ezdx{rg+sh+k\(rts)\dc}(x),
т. е. необходимым условиям в анормальном случае.
6.6.1. Теорема. Пусть M°k(x) = {0} для некоторого k>k.
Тогда существуют такие постоянные m и е>0, что для любых (р, (/)е
^гВ найдется тонка у, удовлетворяющая ограничениям (1) и не-
228

равенству
\у—x\^m\(p,q)\.
Доказательство. Пусть f{y)=$\y—х\, где величина б>0
достаточно мала, так, чтобы значение k превосходило значение
постоянной Липшица функции [/, g, h] на множестве х+гВ.
Определим С—СГ\{х-\-ЬВ) и пусть Р обозначает задачу Р с указанными
функциями /, g, h и множеством С. Заметим, что 2= {х} и задача Р
удовлетворяет предложениям 6.5.1.
Поскольку функции dc и^с совпадают в окрестности х, то
отсюда следует, что Ml(Z)= М* (х) = {0}. Поэтому согласно
следствию 1 теоремы 6.5.2 функция V удовлетворяет условию Липшица
вблизи 0. Таким образом, для некоторого К и всех (р, q) вблизи 0
Г(р, q) -Г(р. ?)-Г(0, 0) < J(| (р, q) |.
Следовательно, существует допустимая точка у в задаче Р(р, q)
(а значит, у удовлетворяет ограничениям (1)) такая, что Ь\у—х\ ^
^К\ (р, q)\. Очевидно, что справедливо утверждение теоремы с
Приведенный ниже результат имеет отношение к приведенному
в гл. 7 доказательству теоремы об обратной функции для липшице-
вых функций.
Следствие. Пусть отображение F: Rn->Rn удовлетворяет
условию Липшица вблизи х и любая матрица из обобщенного
якобиана dF(x) невырождена. Тогда существует постоянная m и
окрестности Y и Q точек х и 0 соответственно такие, что для каждого q^Q
найдется точка y^Y, удовлетворяющая соотношениям
F(y)=F(x)—q, \у—x\^m\q\.
Доказательство. Применим теорему 6.6.1 для случая,
когда h(y)=F(y)—F(x), функция g тождественно равна —1 и С=Х.
Тот факт, что M°k (*) = {(}}, следует из того, что по теореме 2.6.6
dx{vh(x)} совпадает с v*dh(x) =v*dF(x).
Используя технику доказательства теоремы 6.5.2 можно
получить информацию о функции V> не используя свойств множителей.
Основную роль при этом играет следующее понятие
(предполагается, что рассматривается задача Р).
6.6.2. Определение. Пусть х^С, {J— действительное число,
и и v — векторы из Rn и Rw соответственно. Говорят, что элемент
(дс, р, и, v) обладает свойством штрафа, если р^О, | (р, и, и) 1 = 1
и для некоторого пг>0 функция
y-+tf(y)+ug(y)+vh(y) +
+m{\f(y)-f(x) \*+\g(y)-g(x) \>+\h(y)-h(x) |2}
достигает минимума на С при */=*.
Из доказательства теоремы 6.5.2 вытекает следующее
6.6.3. Предложение. При выполнении условий теоремы 6.5.2
NePiv(0, 0, V(0, 0)) содержится в замкнутом выпуклом конусе,
229

порожденном множеством
{О, \m[uiy Vi, — PJ: элементы (*,-, р,, щ, vi) обладают
свойством штрафа, ds (xt) -* 0}.
Следствие. Пусть при выполнении условий теоремы 6.5.2
существует такое е>0, что для любого элемента (х, р, и, и),
обладающего свойством штрафа при Jte2+e£, имеем р^е. Тогда
функция V удовлетворяет условию Липшица вблизи (О, 0).
Доказательство. Согласно предложению 2.9.7 достаточно
показать, что d°°V(0, 0) = {0}. Это эквивалентно тому, что не
существует векторов [w, v> 0] из N:=NepiV(0, 0, V(0, 0)), для которых
[и, и\ф[0, 0]. Очевидно, что указанное свойство будет следовать
из того условия, что для некоторого 6>0 каждый вектор
[и, г/, —р]е# удовлетворяет р^б| (и, v)\. По предположению это
условие справедливо для множества, фигурирующего в
утверждении предложения 6.6.3, это свойство наследуется и выпуклым
замкнутым конусом, порожденным этим множеством. Таким
образом, этим свойством обладает конус N, что и завершает
доказательство.
Используя предложение 6.6.3, можно при соответствующих
предположениях о гладкости задачи получить формулы для dV,
аналогичные приведенным в теореме 6.5.2, но с множителями,
учитывающими свойства производных второго порядка функций,
фигурирующих в постановке задачи. Приведем для иллюстрации следующий
результат о сюръективности.
6.6.4. Теорема. Пусть отображение F: Rn->-Rm дважды
непрерывно дифференцируемо в окрестности компактного множества С и
предложим, что для каждого у^С из условий:
1) DF(yyv=0;
m
2) 2 v*(w* Fi(y)w>>&z0 для каждого w такого, что DF(y)w = 0;
следует, что i>=0. Если х — произвольная точка из С такая, что
{t/eC: F(i/)=F(jc)}czint С, то F(C) содержит окрестность F(x).
Доказательство. (Укажем, что Ft обозначает/zXn-матри-
цу Гессе вторых производных f-й компоненты функции F.) Пусть
функция f тождественно равна 0, и положим h(y)=F(y)—F(x).
Заметим, что получившаяся задача Р (в которой отсутствуют
ограничения типа неравенства) удовлетворяет предположениям 6.5. L
причем 2=Cn/r"1(^(JC))- Покажем, что выполняются
предположения следствия предложения 6.6.3. В самом деле, пусть (у, р, v)
обладает свойством штрафа для некоторого у^С. При малом е>0
множество 2+еВ содержится внутри С, поэтому функция
6(*'): = <f, F(x')-F(x)>+m\F(x')-F(y) |2
достигает значения локального минимума при х'=у. Отсюда
следует, что V6(y) =0 и 8"(*/) — положительно определенная матрица.
Эти условия влекут выполнение условий 1) и 2), поэтому v = 0. По-
230

скольку | (р, у) | = 1, получаем, что Р=1. Следовательно, можно
использовать следствие предложения 6.6.3. Из него следует, что V(q)
конечно при q из окрестности 0, поэтому для любого qt близкого к О,
существует решение у^С уравнения F(y)=F(x)—q9 что и
утверждалось.
Обычное условие, обеспечивающее сюръективность, заключается
в невырожденности матрицы Якоби. Укажем, например, что если
матрица DF(x) не вырождена, то приведенная выше теорема
вытекает из следствия теоремы 6.6.1. Однако, как показано ниже,
возможно гарантировать сюръективность и в случае, когда DF(x) —
нулевая матрица при выполнении некоторых условий на
производные второго порядка.
Следствие. Пусть х — изолированный нуль (F(x)=0)
отображения F: Rn-*Rn, дважды непрерывно дифференцируемого
вблизи х. Предположим, что DF(y) есть невырожденная матрица для
всех у, близких к х и отличных от х, и что DF(x) =0. Если матрицы
Ft (х) линейно независимы и имеют след, равный 0, тогда
существует окрестность х, которую F отображает на окрестность 0.
Доказательство. Пусть С есть такая компактная
окрестность х, не содержащая других нулей /\ что на ее окрестности
отображение F дважды непрерывно дифференцируемо и матрица/)/7^)
невырождена для любого j/eC\{x}. Если вектор v удовлетворяет
условию 1) для некоторого уеС, отличного от jc, то v=0. Если v
удовлетворяет условию 2) для t/=x, тогда симметричная матрица
M^IiVifi (х) положительно определена на R. Поскольку она
имеет след, равный 0, то М есть нулевая матрица. Поскольку матрицы
F"(x) линейно независимы, то получаем, что t/=0. Условия
теоремы 6.6.4 выполняются, откуда и следует искомое утверждение.
6.6.5. Замечание. В качестве примера использования
предыдущего результата можно рассмотреть функцию F(x9 у) = [х2—у2,
2ху] в (0,0).

Глава 7
НЕКОТОРЫЕ ЗАДАЧИ АНАЛИЗА
Вы знаете мои методы, Ватсон.
Артур Конан Дойл. «Записки Шерлока
Холмса»
Вы достаточно долго радовали нас.
Джейн Остин. «Гордость и предубеждение»
В этой последней главе полученные ранее результаты будут
применяться для решения различных задач, не связанных
непосредственно с теорией оптимизации. В первых трех параграфах для
получения теорем об обратимых и неявных функциях, теоремы Ауман-
на и для изучения свойств эпилипшицевых множеств используются
аналитические и геометрические методы, развитые в гл. 2.
В следующем параграфе результаты гл. 3 применяются для
обобщения классической теории уравнения в вариациях. В § 5 и 6
излагается теорема Экланда и демонстрируется ее применение в
негладком анализе. В заключительных параграфах изучаются
краевые задачи, являющиеся традиционным объектом приложения
методов вариационного исчисления. Использование методов гл. 3,
4 совместно с приведенным здесь двойственным вариационным
принципом позволяет по-новому взглянуть на классическую
краевую задачу для гамильтоновых систем.
§ 7.1. Теоремы об обратных и неявных функциях
Классическая теорема об обратной функции дает условия, при
выполнении которых для функции класса С1 существует
(локально) обратная функция класса С1. В этом параграфе
формулируются условия, при выполнении которых для липшицевой (не
обязательно дифференцируемой) функции существует (локально)
обратная липшицевая функция.
232

Пусть отображение F: Rn-*Rn удовлетворяет условию
Липшица в окрестности точки х.
Будем говорить, что обобщенный якобиан dF(x0) (см. § 2.6)
имеет максимальный ранг, если каждая матрица М из dF(x0)
имеет максимальный ранг (т. е. М не вырождена).
7.1.1. Теорема (теорема об обратной функции). Если dF(x0)
имеет максимальный ранг, то существуют окрестности U и V
точек х0 и F(x0) соответственно и липшицевая функция G: V-*Rn
такие, что:
1) G(F(u))=u для всех u^U,
2) F(G(v))=v для всех vezV.
7.1.2. Замечание.
1. Если F^C\ то dF(x0) = {JF(x0)} и упомянутая выше
функция G также принадлежит классу С1. Таким образом, теорема 7.1.1
есть обобщение классической теоремы об обратной функции.
2. Как оказывается, недостаточно одного предположения о том,
что якобиан JF(x) имеет максимальный ранг в любой произвольно
близкой к х0 точке дг, где он существует.
В качестве примера можно рассмотреть отображение F(x) = \х\
при х0=0.
3. Простой пример, иллюстрирующий применение теоремы (при
п=2), дается отображением
F(x,y) = [\x\+y,2x+\y\].
Очевидно, что обобщенный якобиан
^(0,0) = {[* }]: -l<s<l,-l</<l}
имеет максимальный ранг.
Доказательство теоремы 7.1.1 состоит в доказательстве
последующих лемм.
Лемма 1. Существуют положительные числа гиб,
обладающие следующим свойством: для любого единичного вектора ueR"
найдется такой единичный вектор a/ERn, что для всех х^х0+гВ и
M<=dF(x)
<w,Mt;>S*«. (1)
Здесь, как и в § 2.6, ВпХп будет обозначать единичный шар в
пространстве матриц размера /*Хя, а векторы из Rn
рассматриваются как вектор-столбцы. Укажем на то, что упомянутый вектор w
зависит только от v, но не от х.
Пусть S обозначает единичную сферу в Rw. Подмножество
dF(x0)S из Rn компактно и не содержит 0, поскольку dF(x0) имеет
максимальный ранг. Следовательно, для некоторого б>0
расстояние от 0 до dF(x0)S равно 26. Для достаточно малого е расстояние
от 0 до QS не меньше б, где Q: = d^(jto)+eiBnXn. Поскольку
согласно предложению 2.6.2 dF(x) полунепрерывно сверху, то отсюда
233

следует, что для некоторого г>0
включение х^х0+гВ влечет dF(x)aQ. (2)
Можно полагать, что F удовлетворяет условию Липшица на х0+гВ.
Пусть теперь задан произвольный единичный вектор v.
Очевидно, что расстояние между 0 и выпуклым множеством Qv не
меньше б. По теореме об отделимости для выпуклых множеств
существует единичный вектор w такой, что <до, Qv}^6. Отсюда с
учетом (2) получаем выполнение неравенства (1).
Л ем м а 2. Еслихиу лежат вх0+гВ, то
\F(x)-F(y)\^6\x-y\.
(ввиду непрер!
Можно полагать, что хФу (ввиду непрерывности F) и х> (/€
zX0 + rB. Определим
\9-х\
так что y=x+Xv.
Пусть я есть гиперплоскость, перпендикулярная v и проходящая
через х. Множество Р всех точек х'^х0+гВу в которых не
существует DF(x'), имеет меру 0, поэтому по теореме Фубини для почти
всех х' из я луч
x*+tv, />0
пересекается с Р на множестве линейной меры нуль. Выберем
точку х\ обладающую этим свойством и достаточно близкую к х, так,
•чтобы x'+tvexo+rB для всех *е[0, X]. Тогда функция
t-+F(x'+tv)
удовлетворяет условию Липшица по t на [О, X] и имеет почти
всюду на этом интервале производную JF(x'+tv)v. Таким образом,
F(x' + Xv) — F{x')=\ JF(x' + tv)vdt.
о
Пусть вектор w соответствует v в смысле леммы 1. Получаем
w.[F(x' + Xv) — F(x')] = §w[JF(x' + tv)v]dt^ ^6d/ = 6X.
о о
Вспоминая определение А,, приходим к неравенству
\F(x'+%v)-F{x')\^b\x-yl
где точку х' можно выбрать произвольно близкой к jc. Поскольку
F непрерывное отображение, то отсюда следует лемма.
Л е м м а 3. F(x0+rB) содержит F(x0) + (г«/2)5.
Пусть у — произвольная точка ji3 F (х0) + (гб/2) В и пусть
минимум функции \у—^(Ol2 на х0+гВ достигается в х. Покажем, что
234

х^х0+гВ. В противном случае из леммы 2 и неравенства
треугольника следовало бы
lL>\y-F{x0)\>\F{x)-F(x0)\-\y-F{x)\>
>b\x-x0\-\y-F(x)\>
>-fir — | у — F(x0)\ (вследствие оптимальности х)>
2 2 *
что приводит к противоречию.
Таким образом, jc доставляет локальный минимум функции
\у—F(-) |2 и, следовательно,
Oed\v-F(x)\\
По теореме 2.6.6 это означает, что 0 содержится в множестве
2(у—F(x))*dF(x). Но по лемме 1 каждый элемент dF(x)
—невырожденная матрица, поэтому F(x) =у.
Чтобы завершить доказательство теоремы, положим V=*F(x0)-\-
+ (гб/2)5 и определим G на V следующим образом: G(v) равно
единственному х^х0+гВ такому, что F(x)=v. Выберем в
качестве U любую окрестность х0, удовлетворяющую F(U)aV. Теорема
доказана, поскольку из леммы 2 следует, что G — липшицевая
функция с постоянной.
7.1.3. Замечание. Теорема верна и в случае, когда dF(x)
вычисляется без учета точек заданного множества S нулевой меры
(т. е. если «ограниченный» якобиан dBF из предложения 2.6.4 имеет
максимальный ранг в х0).
Теорема о неявной функции. Пусть задано отображение Н:
RmXR*-*R\ и рассмотрим уравнение
где yeRm, zeR\ Следует найти решение z этого уравнения как
функцию у в окрестности точки (у, z)> которая удовлетворяет
этому равенству. Для случая липшицевой в окрестности {у, z)
функции Н здесь приводятся достаточные условия, обеспечивающие
разрешимость этой задачи.
Через пхдН(у, z) обозначается множество всех матриц М
размера ky^k таких, что для некоторой £Хл*-матрицы N kXik+m)-
матрица [N, М] содержится в дН(уУ z).
Следствие. Пусть пгдН(у9 z) имеет максимальный ранг.
Тогда существует окрестность Y точки у и такая липшицевая
функция £: Y-+R\ что t,(y)=zu для всех уеУ
tfQU(0))«O.
235

Доказательство. Пусть n=k+m9 и определим
отображение F: Rn-*Rn
F(y,z):-[y9H(y,z)l.
В точках дифференцируемости отображения F матрица Якоби
DF имеет вид
/ 0 1
DyH D2h\'
Отсюда следует, что обобщенный якобиан dF(y, z) имеет
максимальный ранг. Применяя теорему для отображения Z7, получаем
утверждение следствия. На самом же деле доказано существование
липшицевой функции £((/, и) такой, что для всех t/, близких к у,
и и, близких к 0, имеем
§ 7.2. Теорема Ауманна
В этом параграфе излагается простое вариационное
доказательство результата, который в том или ином виде составляет основу
многих качественных вопросов вариационного исчисления и
оптимального управления, особенно в теории существования
оптимальных и обобщенных решений, в теореме о числе переключений (он
также хорошо известен в связи с теоремой А. А. Ляпунова о
векторных мерах). Доказательство, основанное на результатах гл. 2,
имеет, как будет показано далее, конструктивный характер.
Пусть F есть многозначное отображение из интервала [a, ft] в
Rn, и предположим, что F измеримо, замкнуто, непусто и
интегрально ограничено (см. § 3.1). Под со F понимается многозначное
отображение, значение которого для /естьсоF(t) — выпуклая оболочка
множества F(t). Напомним, 4toCF обозначает множество точек
ь J
вида ^f(l)dt, где / — измеримый селектор отображения F (анало-
а
гично определяется { со/7). Теорема Ауманна состоит в следующем.
7.2.1. Теорема. Справедливо равенство
JF = $coF.
Доказательство. Этап 1. Достаточно показать, что любая
точка g, лежащая в f со F, также содержится в ff. Можно без
ограничения общности полагать, что £=0. Множество всех
измеримых селекторов отображения со/7 является непустым (по
теореме 3.1.1), выпуклым слабо компактным подмножеством L1. (Это
множество относительно слабо компактно по критерию Данфорда—
Петтиса ([84], теорема 4.21.2), сильно замкнуто, поскольку F
замкнуто, и, таким образом, слабо замкнуто, поскольку выпуклые
сильно замкнутые множества являются слабо замкнутыми.) Отсюда
236

следует, что f со F — выпуклое, компактное и непустое множество.
Его размерность К определяется как размерность наименьшего
линейного подпространства S из Rn, содержащего это множество.
Если /С=0, CcoF состоит из одной точки и должен совпадать с
С F, поэтому можно предположить, что К^ 1 и что теорема верна
для многозначных отображений G таких, что CcoG^/C— 1.
Э т а п 2. Теперь полагаем, что 0 не содержится в относительной
внутренности С со F (т. е. внутренности относительно
подпространства S). Тогда существует ненулевой вектор rfeS, нормальный к
С со F в точке 0:
d-w^0 для всех w€={coF. (1)
Определим функцию g: Rn-^R:
g (jc) : =sup I С x • / (/) dt: f (•) — селектор отображения со FI . (2)
Покажем, что в (2) можно «перенести» операцию взятия
максимума под интеграл. Для любого множества CczRn и любой точки
jceRn обозначим через о (С, jc) величину
sup {<jc, су. с^С}
(т. е. значение опорной функции множества С в точке jc). Отметим,
что <j(C, jc)=<t(coC, jc). Нетрудно видеть, что функция o(F(t), х)
измерима по t и непрерывна по jc. Как следствие этого факта и
предложения 3.1.2 получаем, что для данного jc многозначное
отображение М
M(t)-{f&coF(t): o(F(t)9x)-<f9x»
измеримо и, следовательно, по теореме 3.1.1 для него существует
измеримый селектор. Но для любого такого селектора достигается
sup в (2). Показано, что
g(x)=$o(F((),x)dt. (3)
а
Отсюда следует, что любой селектор /(•), доставляющий максимум
в (2), должен удовлетворять равенству
o(F(t)9x)=<f(t),x> п. в.
Поскольку Ое С coF, то g(-)^0. С другой стороны, условие (1)
влечет равенство g(d) = 0. Таким образом, минимум функции g
достигается при x=d и по теореме 2.8.2 из сказанного выше следует,
что существует селектор /<>(*) отображения со/7 такой, что
237

^/о(0 Лв0 и o(coF(t), d)=</0(0» d} п. в. Если определить новое
л
многозначное отображение F
F(t) = {f<=F(t): <f,d> = o(F(t),d)},
то F удовлетворяет тем же условиям, что и F (по предложению
3.1.2^ и Ое [со?, поскольку f0(t)^coF(t) п. в. Далее,
у ь \
/d, fcoF\=/d, J/0(0^O = 0 и поэтому dim J со /*< /С— 1.
По предположению индукции Ое f ?,а значит, и ОеС/7, поскольку
Этап 3. Осталось рассмотреть случай, когда 0 содержится в
относительной внутренности С coF,t. е. 6Bf]Scz fcoF для
некоторого б>0. Выберем произвольный вектор й{ФО и определим
gx (х): = max J f (dxt + x,f(t)}dt: f (x) — селектор для со F\ . (4)
Как и на этапе 2, нахождение gt(x) эквивалентно задаче
поточечной максимизации. Покажем, что достигается минимум функции gv
Пусть произвольный вектор jceRn представляется в виде s+c, где
seS, а с лежит в ортогональном дополнении S. Тогда
ftW = ft(s + ^ft(s) = maxUf $f(t)dt\ +
+ [(dxt,f(t))dt: / — селектор отображения coF|^6|s| + fc,
где б и к не зависят от х. Отсюда и следует, что достигается
минимум gl9 например, в xt. Обращаясь к теореме 2.8.2, получаем суще-
ъ
ствование селектора /0 отображения со F такого, что f /0 (/) dt = 0 и
а
W+Xu /o(/)> = a(/7(/),d1/+x1) п.в. (5)
Теперь определим
F.(0:-(feF(0: o(F(t)9 iW+xO-tf, dj+xtf. (6>
Тогда отображение Л удовлетворяет тем же условиям, что и Fr
причем Ое f со Fv
Теперь следует повторить приведенные выше рассуждения с
отображением Л вместо F. Если отображение F{ удовлетворяет уело-
238

виям этапа 2, то, поскольку \Fxci\F9 утверждение доказано.
Если это не так, то применяем повторно рассуждение этапа 3 с
вектором d29 который не зависит линейно от dt. Получаем новую
функцию g2, минимум которой достигается в хг, и новое многозначное
отображение FtCzFl9 состоящее из всех точек f^Fi9
удовлетворяющих
<d2t+x2y /> = a(F,(0, d2t+x2) п. в.,
причем OeC coF2.
Этот процесс повторяется до тех пор, пока можно
воспользоваться рассуждением этапа 2 (т. е. можно понизить размерность и
применить предположение индукции) или рассуждения этапа 3
повторяются п раз. В последнем случае имеем многозначное
отображение FndF такое, что Ое ^coFrt,n для почти всех t9 каждый
вектор f^Fn(t) удовлетворяет равенству (здесь Ft обозначает F)
<dit+xi9f)^o(Fi^i(t)9dit+xi)9 /= 1, .... /г. (7)
В матричных обозначениях это записывается в виде
(Dt+X)f=2(t), (8)
где мХп-матрица D обратима. Поскольку матрица Dt+X обратима
для всех /, не являющихся собственным значением —D~XX9 отсюда
следует, что для почти всех t множество Fn(t) состоит из одного
элемента. Следовательно, имеем
OS JcoFn = jFaCJ/7.
7.2.2. Замечание. Здесь теорема Ауманна рассматривается
в том виде, в каком она используется в теории оптимизации.
Однако эта теорема остается справедливой, если лебегову меру на
[а, Ь] заменить неатомической конечной положительной мерой |л,
определенной на Г. Тогда существует ограниченная измеримая
функция т: Г-^R такая, что для каждого U^T9 множество
{t^T: m(t)=m(t0)} имеет ц-меру 0. Приведенное выше
доказательство можно применить и в этом случае, только на этапе 3 член
dit в уравнении (4) заменяется на d,m(/).
Конструктивная процедура приближений. Если бы всегда было
возможно повторить процедуру этапа 3 п раз, то в таком случае
в ходе доказательства приходили бы к системе уравнений (8) и
тем самым к конструктивному построению измеримого селектора
/ включения F9 для которого 0= [f(f)dt. Трудность состоит,
однако, в том, что функционал gi может и не достигать своего
минимума, хотя он всегда ограничен снизу. Неизвестно, можно ли обойти
эту трудность при помощи соответствующего выбора векторов {d{}.
Единственное ограничение на такой выбор состоит в требовании
линейной независимости этих векторов.
239

Однако, как будет сейчас показано, существует конструктивная
процедура, приводящая к построению измеримого селектора /
включения F, для которого \f(f)dt приближает 0 с любой наперед
заданной точностью. Эта процедура сводится к п последовательным
минимизациям.
Пусть, как и ранее, {d{} есть множество п линейно независимых
векторов и определим функцию gt согласно (4).
Пусть Xi доставляет минимум функции gi(*)+e|j!r|, и в
соответствии с (6) определим многозначное отображение Ft.
Утверждается, что
eBnJcoFl960. (9)
Действительно, из определения х{ следует, что
*Bf)dgi(xi№09
где dgi — субдифференциал функции gim По теореме 2.8.2 это
означает, что найдется селектор /<>(•) отображения coF, удовлетворяю-
i ь I
щий (5) и такой, что
f f0(t)dt\ ^е. Отсюда получаем соотношение
(9), что в свою очередь влечет оценку для функции ga
ft(*»-eM+*, (Ю)
где g2 определяется согласно (4), при этом rft и F заменены на dz
и Ft соответственно. Очевидно, что £2(*)+2е|х| достигает
минимума в точке, которую обозначим х2. Продолжая эти рассуждения,
определим последовательность g< посредством rf< и F<_b полагая, что
функция £»•(*)+i'e|jt| достигает минимума в х{. С помощью d{ и х{
определяются такие новые многозначные отображения Fu что ieBf)
f] CcoFl=^0 и почти всюду для каждого /eF<(f)
<dit+xh f>-o(F#-i(/). АН-*).
Если D и X — матрицы размера пХп, у которых 1-е столбцы
совпадают соответственно с векторами d{ и хи а для вектора 2(/) 1-я
компонента совпадает с o(F<-1(/), dJ+Xi), то для почти всех t
любой вектор f^Fn(t) удовлетворяет уравнению (8). Отсюда следует,
что Fn(t) для почти всех t состоит из одного элемента и Fn(t)
определяет селектор отображения F, интеграл от которого лежит в
тВ. Таким образом, доказана
7.2.3. Теорема. Пусть Ое CcoF и задано е>0. Тогда
система уравнений
(Dt+X)f-l(t)9 <е[а, 6],
где X и 2(0 определены выше, однозначно определяет измеримый
селектор f (•) отображения F такой, что
I ь !
\U(t)dt\^m.
\а
240

§ 7.3. Множества, представляющие собой надграфики
липшицевых функций
Пусть С есть множество из Rn. Во многих случаях полезно иметь
условия того, что С можно представить (локально) как надграфик
липшицевой функции. Более точно, желательно иметь условие^
которое гарантировало бы для точки ^еС существование такого
обратимого линейного отображения A: Rn-*Rn~iXR, что для некоторой
окрестности U точки х имеем
С(Ц/=(/ПЛ-1(ер1ф),
функция ср: R^WR удовлетворяет условию Липшица вблизи £,
a geR7*-1 — компонента А(х). Если это выполняется, то
множество С называется эпилипшицевым вблизи точки х. Заметим, что в
этом случае часть границы С, лежащая в U, представляет собой
график ф и является «липшицевой поверхностью». Приведенное
ниже условие того, что С обладает этим свойством, так же как и
доказательство, принадлежит Рокафеллару [189].
7.3.1. Теорема. Замкнутое множество CczRn является
эпилипшицевым вблизи тонких, тогда, и только тогда, когда intrc(jc)^=
Доказательство. Прежде покажем, что касательные
конусы к надграфику липшицевой функции / имеют непустую
внутренность. Чтобы получить это из ранее доказанных результатов,
заметим, что функция / удовлетворяет условию Липшица по
направлению согласно теореме 2.9.4, и, значит, по предложению 2.9.3
существует в соответствующей точке и гиперкасательная к epi/.
Следовательно, по теореме 2.4.8 касательный конус к epi / имеет
непустую внутренность. Отсюда следует, что если С в окрестности
х совпадает с надграфиком липшицевой функции в указанном выше
смысле, то int Тс(х)Ф0. Докажем теперь обратное утверждение.
Если xeint С, то утверждение, что С есть эпилипшицевое
множество вблизи jc, тривиально. Поэтому предположим, что х есть
граничная точка С. Тогда Тс(х) не совпадает со всем
Rn (по следствию 2 теоремы 2.5.6). Пусть yeint Тс(х)9 t/^О, и пусть
Н — гиперповерхность проходящая через 0, ортогональная у.
Каждый вектор x'eRn представляется единственным образом в виде
l'+а'у, где £'е#, a'eR; определим отображение А: х'-*(1'9 а'),
которое является обратимым линейным отображением из Rn на
#XR. Пусть ft, а)=Л(дс). Поскольку t/eint Тс(х), то по теореме
2.5.8, следствие 1, у есть гиперкасательная к С в х, причем в ее
определении шар В можно заменить на произведение множества В'=
= Bf]H и интервала {ty\—l^f^l}. В терминах множества А (С)
это определение принимает следующий вид: для некоторых е>0,
S>0,Х>0 имеем
ft', *')+t(r\, Р)^А(С) (1)
для всех *е[0, X], ft', а')еЛ(С)Г)[(6, а)+6(В'Х[-1, 1])] и
<Ч,Р)€=[(0,1)+в(Я'Х[-1,1])].
241

Для всех Ъ'^Н определим
9(r)=inf{a/|a,^a~6, (Г, а')е=Л (С)}^а-8
(где полагаем, что inf 0= + оо). Поскольку С есть замкнутое
множество, то ф есть полунепрерывная снизу функция со значениями
в (—оо, +оо]. Положив в (1) (£', а') = (£, а), получаем, что
Ф(№т|)<а+/(1~е), когда цевеВ', /е[0Д].
Следовательно, существует такое 6'^б, что для всех %'^\+6'B'
выполняется ф(£') ^а+6, а значит, и
(Ь',<р(Ъ'))еА{С)П[(Ъ9а)+6(В'х[-19 1])].
Тогда из (1) следует (при Р=1)
<6'+Ч <{>(t')+t)e=A(C), когда *е[0, Я], г\<=еВ'.
Поэтому для всех £'е &+Ь'В) имеем
Ф(£'+<Л)<Ф(&')+*> когда/<= [ОД], л^еВ',
поэтому ф есть липшицевая функция в окрестности |. Более того,
согласно (1)
(t',<?(t')+t)e=A(C) для всех /е=[0, X].
Конечно, по определению ф имеем, что (£', ф(|,)+/)еЛ(С) для
f<0. Таким образом, существует окрестность точки (|, сс) =
= (1> ф(1))> в которой А (С) совпадает с надграфиком ф. Это
доказывает, что С есть эпилипшицевое вблизи х множество.
§ 7.4. Зависимость решения дифференциального уравнения
от начального значения
Важное место в теории дифференциальных уравнений занимает
теория уравнения в вариациях, которая описывает поведение
решений обыкновенного дифференциального уравнения в зависимости
от изменения начального состояния. Используя результаты гл. 3,
можно обобщить эту теорию на случай, когда правая часть
уравнения есть липшицевая функция состояния. Такое обобщение
представляется вполне естественным с точки зрения теории
существования и теории единственности решений уравнения.
Рассмотрим задачу Коши для дифференциального уравнения
*(') = /(',*(0) п. в., /е[М], х(а) = и, (1)
где / есть отображение из [a, fe]xRn в Rn, а решение х есть
абсолютно непрерывная функция на [а, Ь] (ранее в этой книге такие
функции назывались кривыми).
Пусть кривая х есть решение уравнения (1) для начального
значения и=й. Рассмотрим вопрос о существовании решений
уравнения (1) для значений и> близких к й, и о зависимости вектора
х(Ь) от таких значений и.
242

Предполагав гея, что вблизи х функция / измерима по / и
удовлетворяет условию Липшица по х. Более точно, / есть измеримо лип-
шицевая функция в смысле определения 3.1.4.
Один из результатов этого параграфа заключается в том, что
для всех и, близких к й, существует решение уравнения (1),
обозначаемое хи. Хорошо известно, что при выполнении условия
Липшица решение уравнения (1) единственно, поэтому можно
корректно определить в окрестности и отображение F: Rn-*R", F(u) =
=xu(b).
Линеаризацией уравнения (1) относительно х называется
дифференциальное включение
y(t)!Edf(t)y(t), (2)
где df{t) обозначает dj(t, x(t)) —обобщенный якобиан f по х (см.
§ 2.6). Определим множество Ф(£, т), состоящее из всех пХп-мат-
риц Y(t), где У(-) — матричное решение следующей задачи Коши:
Y(s) = M(s)Y(s), Y(t) = I (3)
для некоторого измеримого селектора М(•) из df(-) (/ обозначает
единичную /гХя-матрицу).
Резольвентой R называется многозначное отображение на
[в, b]x[ay Ь], значениями которого для (t, т) является полная
оболочка Ф(/, т) : R(t, т) состоит из всех матриц Af, удовлетворяющих
<р, Afo;>^max{<t;, Nw}: ЛГеФ(/, т)} для всех у, a/eRft.
Заметим, что R(t, т) содержит выпуклую оболочку соФ(/, т)
множества Ф(/, т). В общем случае R(t, т) может содержать матрицы,
которые не принадлежат соФ(/, т), хотя всегда для любых v и w
max<u, R(t9 т), ie;> = max<i>, соФ(/, г) а;> = тах<у, Ф(*, x)w}.
7.4.1. Теорема. Решение хи(-) уравнения (1) существует на
(а, Ь] для всех и, близких к й. Если F — отображение вида Р(и) =
=*„(&), то F удовлетворяет условию Липшица в окрестности й
и dF(u)c:R(b, а). Если обобщенный якобиан dj(t> x(t)) почти
всюду на [а, Ь] состоит из одного элемента, тогда R(by а) тоже состоит
из одного элемента и отображение F строго дифференцируемо в й,
причем DF(#) =/?(&, а).
Доказательство. Рассмотрим матричное
дифференциальное включение
P(s)e-dJ(syp(s)9
где * обозначает транспонирование, и пусть S(/, т) есть
резольвента этого включения. Тогда S(t, т) есть полная оболочка элементов
вида SM(ty т), где SM — фундаментальная матрица в классическом
смысле линейного матричного дифференциального уравнения
P(s) = — M*(s)P(s)
и где М(•) — измеримый селектор из д}(•). Из классической теории
известно, что SM(t, т)=#м(т, t)9 где &*—фундаментальная
243

матрица в классическом смысле линейного уравнения
Y(s) = M(s)Y(s).
Но R(t, т) представляет собой полную оболочку всех матриц
/?м(*, т), соответствующих всевозможным измеримым селекторам
М(•) отображения <?/(•)• Доказана следующая
Лемма 1. Справедливо равенство
S(t9x)=R(x9t)\
Сформулируем теперь задачу для дифференциального
включения PDy аналогичную задаче 3.4.1. Обозначим точки из RnXRn через
(х9 у) и для произвольного фиксированного вектора единичной
длины ueRn положим
F(t9x9y) = {[f(t9x)90]}9 f(x9y)=(v9 *>,
Сш = {(х9у): х=у9 \х-й\\^е}, Cx = Rn х {и},
8(*,х.У) = \х—х(1)\—г9
где / есть измеримо липшицевая на трубке Т(х; 2е) функция.
Заметим, что гамильтониан H(t, х9 у9 р9 q) (см. § 3.2) определяется
следующим образом:
H{t9x9y9p9 q) = <p,f(t9x)>.
Лемма 2. Поставленная выше задача PD нормальна.
Единственной допустимой траекторией в этой задаче является
кривая (x(t)9 й)9 поэтому следует проверить, что она нормальна в
смысле определения 3.5.1. Множителем индекса 0 для
рассматриваемой кривой является кривая р и постоянная q такие, что
-pedj{typ п. в., p(a) + q = 09 [р(b)9 q]е {0}XR". (4)
Поскольку кривая р удовлетворяет «линейному»
дифференциальному включению и обращается в 0 при /=6, отсюда легко
выводится, что функция р тождественно равна нулю. Тогда
постоянная q также равна 0, поэтому не существует нетривиального
анормального множителя.
Теперь можно воспользоваться следствием 1 теоремы 3.4.3,
которое утверждает, что функция оптимального значения V
рассматриваемой задачи удовлетворяет условию Липшица в окрестности
0. Заметим, что в этом случае
V{ul9u2) = (v,F(u + u2)\ (5)
поэтому отсюда следует, что хи(-) существует для всех и9 близких
к й. Поскольку v — произвольный единичный вектор, то отсюда
следует, что отображение F удовлетворяет условию Липшица
вблизи й.
Из самой теоремы 3.4.3 вытекает оценка
дУ(0,0)с=со{[1;,0]+[р(6), q]}9
где (р, q) есть множитель индекса 1.
244

В данном случае это означает, что р есть кривая,
удовлетворяющая дифференциальному включению (4) и q есть постоянная,
такие, что
p(a)+q=0, [v,0] + [p(b),q]<={0}xRn.
Отсюда, учитывая (5), получаем
d{vtF)(u)dco{-p(ay}9
где предполагается, что d<u, F} есть вектор-строка, а не вектор-
столбец (см. замечание 2.6.3). Кривая р удовлетворяет (4) и
условию p(b)=—v; выводим, используя теорему 3.1.1 об измеримом
выборе, что p(t) имеет вид —P(t)v9 где Р есть матричное решение
уравнения Р=—М*Р, Р(Ь)=1 для некоторого отображения M(-)t
принимающего значения из <?/(•)• Отсюда следует, что —р(а) =
=P(a)v принадлежит S(a, b)v.
Из леммы 1 и приведенного выше включения получаем, что
d(v,F)(U)CZv*R(b,a).
Левая часть этого включения совпадает по теореме 2.6.6 с
v*dF(u). Поэтому для любого M^dF(u) и любого вектора w^Rn
v*Mw^.maxv*R(b, a)w^maxv*Q>(b, a)w,
и, значит, по определение М содержится в R(b, а). Это доказывает
оценку для dF, приведенную в теореме. Последнее утверждение
теоремы следует из того, что, если df(t) почти всюду состоит только
из одного элемента, то и Ф(6, а) состоит из одного элемента. Тогда,
как легко доказать, и R(b, а), и dF(u) —одноэлементные
множества. Поэтому каждая компонента F{ отображения (и, значит, само
отображение F) строго дифференцируемы в й по предложению
2.2.4.
§ 7.5. Теорема Экланда
На первый взгляд мало что можно сказать о точках, в которых
«почти достигается» минимум функции. Например, заранее
неизвестно, близка ли производная функции к нулю в таких точках.
В этом параграфе излагается теорема Экланда [85], которая
содержит нетривиальное утверждение на этот счет. Оно, грубо
говоря, состоит в том, что существует точка, «близкая» к
упомянутым, которая действительно доставляет минимум несколько
возмущенного функционала.
Теорема Экланда включена в книгу по нескольким причинам.
Во-первых, она играет важную роль при доказательстве
необходимых условий в гл. 3, 5 и 6, а также имеет много других приложений
(см. [86]). Во-вторых, этот результат элементарен и его
доказательство использует только свойство полноты метрического
пространства. И наконец, теорема Экланда имеет прямое отношение к
негладкому анализу, поскольку упомянутый в ней возмущенный
функционал является недифференцируемым. В следующем пара-
245

графе теорема будет использована для доказательства простого
обобщения принципа снимающих отображений.
Пусть V есть полное метрическое пространство с метрикой Д, а
F: V-^RLK+oo} есть полунепрерывная снизу функция, которая
ограничена снизу.
7.5.1. Теорема. Если для некоторой точки u^V и е>0 имеет
место неравенство
F(u)^mlF+s,
то для любого Л>0 найдется такая точка иеК, что:
1) F(v)<F(u),
2) А (и, v)^k,
3) для всех шеК, w^v имеем
F(w) + (e/k)b{wtv)>F(v).
Доказательство. Как будет видно, при доказательстве
используется отношение частичного порядка, предложенное Бишопом
и Фелпсом [28]. Для произвольного а>0 определим отношение
частичного порядка ^а на VXR, полагая, что
(t^i, r1)<a(i;2, г2)
тогда, и только тогда, когда г2—rt+aA(vu v2) ^0.
Нетрудно убедиться, что это отношение рефлексивно и транзи-
тивно. Далее, легко проверить, что для каждого элемента (ulf г4)е
eVXR множество
{(v9 г): (©i.fiX.tor)}
замкнуто в VXR.
Лемма. Пусть S — замкнутое множество в VXR такое, что
для некоторого числа гп каждый элемент (и, r)^S удовлетворяет
г^пг. Тогда для каждого (vi9 rJ&S найдется элемент (г;, r)^Sy
удовлетворяющий соотношению (viy г4)^а(г;, г) и являющийся
максимальным в S для отношения порядка ^а.
Доказательство. Определим по индукции
последовательность (t/n, rn)^S9 начиная с (vu rt). Пусть (vn, гп) известно,
определим
Sn: = {(v, г)€=S: (vny гл)<«(о, г)}, (1)
mn: = inf{r: (i>, r)eS„ для некоторого v}.
(Очевидно, что mn^m.) Теперь определим (vn+lJ rn+i) как
произвольный элемент Sn, удовлетворяющий
гп — гя+1 > у (гп — ГПп). (2)
Множества Sn замкнуты и упорядочены по включению: Sn+tczSn
(ситуация изображена на рис. 7.1). Более того, из (2) вытекает
неравенство
|гя+1 —mrt+i|< у|гя —тя|<2"я|г1 —т|.
246

Следовательно, для любого (v, r)^Sn+i получаем из (1), что
|гЛ+1 — г|<|гя+1 — тл+1|<2"я|г1 — т|,
Д (f/m, v) < 1 гх — т |.
ос
Это означает, что диаметр Sn стремится к нулю при я-мю. Поэтому
в силу полноты метрического пространства VXR существует
единственная точка (г;, г), принадлежащая одновременно всем Sn,
{(5,7)}- n S-.
По определению, (ип, гя)^а(г?, г) для каждого я, в частности
и для л=1. Теперь предположим, что найдется такая точка (г, г)е
^S, что (v, r)^a(v9 г). В силу транзитивности отношения ^а>
V
Рис. 7.1. Доказательство теоремы Экланда
тогда получаем, что (у«, г»)^а(9, г), т. е. (г?, г)е Г) S„. Отсюда
следует, что (г?, f) совпадает с элементом (г;, г), который
действительно максимален.
Чтобы доказать теорему, положим S=epiV, а=еД, (vu г,) =
= (и, F(u)) и применим лемму. Получим максимальный элемент
(v, г) eS, удовлетворяющий
{u,F(u)Xa(v9r). (3)
Поскольку (i>, г) лежит в S, то имеем, что (и, r)^a(fl, F(v)), а это
вследствие максимальности означает, что r=F(v). Теперь из (3)
вытекает, что
F(v)—F{u)+aA(v, и)^0, (4)
откуда следует п. 1) утверждения теоремы. Максимальность
элемента (i>, F(v)) в S означает, что для любого элемента w^V,
отличного от vt для которого F(w)<+°°, соотношение (у, F(fl))^*
^a(w9 F(w)) не имеет места. Отсюда следует п. 3). И наконец,
поскольку F(w)^inff+8, то F(v)^F(u)— е. С учетом (4) отсюда
получаем п. 2) утверждения теоремы.
247

§ 7.6. Сжимающие по направлению отображения
и неподвижные точки
Пусть Т есть непрерывное отображение полного метрического
пространства V с метрикой Д в себя. Известный принцип
сжимающих отображений, принадлежащий Банаху, утверждает, что если
существует такое число ое (0, 1), что
Д(7х, Ту) ^аА(х, у) для всех х, y<=V, (1)
то существует единственная неподвижная точка х отображения Т
(т. е. точка х, удовлетворяющая равенству Тх=х). Такое
отображение Т называется сжимающим. Этот принцип имеет весьма
многочисленные и разнообразные применения.
В этом параграфе будет получена «поточечная» версия этого
результата. Можно представить себе различные ослабленные
условия типа условия (1). Например, пусть для каждого х^Х
существует некоторая окрестность N(x) точки х такая, что
Д(Гдс, Ту)^.ок(х, у) для всех y^N(x).
Обязательно ли существуют неподвижные точки такого
отображения Г? Отрицательный ответ на этот вопрос следует из того
факта, что любая функция Т удовлетворяет этому условию, если Д
есть дискретная метрика. Отсюда можно заключить, что любое
«поточечное» условие должно также по меньшей мере неявно
содержать предположение о метрической структуре V.
Открытым интервалом ]х, у[, определяемым точками х и у,
называется множество всех точек zeV, отличных от хЛ у и таких, что
Д(х, 2)+Д(г, #)=Д(х, у).
7.6.1. Определение. Отображение Т: V-+V называется
сжимающим по направлениям, если Т есть непрерывное отображение
и существует такое число ае(0, 1), что для произвольного t/EV,
для которого Tvфvy найдется точка w^]v, Tv[ такая, что
А (74;, Tw)^a^
Д (v, w)
7.6.2. Теорема. Каждое сжимающее по направлениям
отображение полного метрического пространства имеет неподвижную
точку.
7.6.3. Замечание. Метрическое пространство называется
выпуклым, если открытый интервал ]х9 у[ есть непустое множество
всякий раз, когда хФу. Для таких пространств теорема 7.6.2
включает в себе и принцип снимающих отображений Банаха. Однако
она может быть использована в тех случаях, когда последний
неприменим.
Рассмотрим случай, когда V совпадает с R2, в котором метрика
индуцированна нормой ||(*, #)И=|*| + |у|. Открытый интервал,
задаваемый двумя различными точками (хи t/4), (лг2, г/2), совпадает
248

с замкнутым прямоугольником, вершинами которого, лежащими на
одной диагонали, являются две указанные точки, за исключением
этих двух вершин. Открытый интервал сводится к обычному
линейному интервалу, если *4 и х2 или yt и уг совпадают. Определим Т
следующим образом:
Легко убедиться, что отображение Т не является сжимающим даже
в локальном смысле. Однако Т есть сжимающее отображение по
направлениям. В самом деле, пусть Т(х, у)Ф(ху у). Тогда, полагая
Т(х9 у) = (a, ft), получаем, что ЬФу (в противном случае также а=
=лг), так что открытый интервал содержит точки вида (х, г), где
z произвольно близко к у. Но для таких точек
ЫТ1х9х),Т(х,у)) _ 2
Д ((*,*), (х,у)) 3 *
так что можно воспользоваться теоремой. Укажем, что
неподвижными точками отображения Т являются все точки вида (х, Заг/2) ,
поэтому предположения теоремы не гарантирует существование
единственной неподвижной точки.
Доказательство теоремы 7.6.2. Пусть функция F:
K->R определяется следующим образом:
F(i>):-A(if, Tv).
Заметим, что функция F непрерывна и ограничена снизу. Идея
доказательства состоит в том, чтобы найти точку и, доставляющую
минимум функции F, и показать, что F(v)=0, т. е. что v является
искомой неподвижной точкой. Однако проблема состоит в том, что
вследствие отсутствия условия компактности, заранее неизвестно —
достигает ли функция F своего минимума. Именно здесь можно
воспользоваться теоремой Экланда. По теореме 7.5.1 существует
такая точка v> что для всех шеУ
A (w, Tw) + 1—2- Д (w, v) > Д (v, Tv) (2)
(здесь применяется теорема при е= (1— а)/2, Х=1).
Если v = Tv, то получаем утверждение теоремы. Пусть это не
так, тогда по предположению теоремы найдется точка тФо такая,
что
A (if, w)+A(w, 7Ч>)=Д(0, Tv) (3)
(т. е. ше]и, Tv[) и при этом
MTw,Tv)<n (4)
A (wt v)
9 Ф. Кларк
249

Используя соотношение (2) —(4) и неравенство треугольника,
получаем
0<оЛ(ау, v) — A(Tw, Tv)^aA(wy v) —A(Tw9w) +A(w, Tv) =
= (o—l)A(w,v) — A(Tw9w) + A(v,Tv)^-Z^A(w, v).
Поскольку о<1, отсюда следует, что w=v. Получившееся
противоречие доказывает теорему.
§ 7.7. Уравнения Гамильтона и краевые задачи
Эволюция практически любой физической системы описывается
в терминах некоторого вариационного принципа (т. е. принимается
аксиома, что законы эволюции системы совпадают с необходимыми
условиями оптимальности для подходящей задачи вариационного
исчисления). Типичный пример такого описания предоставляет
классическая механика, в которой из такого физического закона
как принцип наименьшего действия выводится, что законы
движения физической системы выражаются в терминах системы
уравнений Гамильтона
— р = VxH (X, р), х = \7РН {х, р).
И чем полнее понимание гамильтоновых систем (т. е. систем,
описываемых уравнениями Гамильтона), тем более полным будет
понимание соответствующих физических процессов.
По этой причине уравнения Гамильтона были и продолжают
оставаться объектом исследования для многих математиков.
Большинство результатов в этой области были инспирированы работами
Пуанкаре и Биркгофа. Вследствие своей нелинейности уравнения
Гамильтона нелегко поддаются изучению. Пуанкаре называл их
«неприступной крепостью» с одним только возможно слабым
местом: периодическими решениями. Есть надежда, что, комбинируя
информацию о критических точках, периодических решениях и о
глобальном поведении решений, в конце концов удастся
представить картину поведения гамильтоновых систем.
Как уже говорилось выше, классическое вариационное исчисле^
ние играло главную роль при изучении гамильтоновых систем
(а также других краевых задач).
В этом и следующем параграфах будет показано, что для
упомянутых задач можно использовать более современные
оптимизационные методы. Наряду с методами, развитыми в предыдущих
главах, будет использоваться новая «двойственная форма»
принципа наименьшего действия, предложенная автором [63].
Запишем систему уравнений Гамильтона в виде
250

где z=(x, р)9х— состояние, р— сопряженная переменная и где
/ — следующая /гХя-матрица:
(/ обозначает единичную пХм-матрицу). Заметим, что
сопряженная /* и обратная 7"1 матрицы совпадают с —/.
Далее будет показано, что решения г(-) приведенной выше га-
мильтоновой системы лежат на поверхности уровня функции Я, т. е.
//(*(*))-С.
Изучим вначале некоторые краевые задачи, в которых
определена постоянная с, называемая «энергией», поскольку часто
гамильтониан Н интерпретируется как энергия. В следующем
параграфе будут изучаться периодические траектории фиксированного
периода.
Выпуклые энергетические поверхности. Рассмотрим траектории
z гамильтоновой системы, лежащие на заданной энергетической
поверхности: H(z(t))=c. Пусть S есть поверхность {г: #(г)=с}.
Очевидно, что существует бесконечно много функций Я,
определяющих поверхность S (т. е. таких, что их поверхность с — уровня
совпадает с S. Будем рассматривать далее множества S, предполагая,
что S есть граница компактного выпуклого множества,
содержащего 0 как свою внутреннюю точку. Множество S будет называться
выпуклой энергетической поверхностью.
Одной из функций, задающих поверхность S, является ее
функция Минковского g8
g8(z) = min{A,|Ji>0, ze=XS}.
Очевидно, что S совпадает с множеством {z:g8(z) = l}.
Оставим в качестве упражнения проверку того, что g8 есть выпуклая
функция (более того функция g8 субаддитивна и положительно
однородна). Из предположений не следует, что функция g8
дифференцируема (как известно, это так, за исключением точки 0, в
случае, когда поверхность S гладкая, но здесь это не предполагается).
С функцией g8 связана следующая гамильтонова система
(включение) :
Jz(t)^dgs(z(t)). (1)
Прервем здесь изложение, с тем чтобы доказать, что решение z
этого включения лежит на поверхности уровня g8. Фактически
докажем несколько более общий результат.
7.7.1. Предложение. Если для почти всех /е[а, Ь] кривая
z удовлетворяет включению Jz^dH(z), где для каждого t
функция Н удовлетворяет условию Липшица вблизи z(t) и регулярна
в 2(0, то функция Н(г(0) постоянна на [а, Ь].
Доказательство. Функция B(t)=H(z(t)) удовлетворяет
локально условию Липшица на [а, Ь]. Поэтому достаточно
показать, что Q'(t)=0 для п. в. L Пусть / есть произвольная точка, для
9* 251

которой существуют в'(0» *(0 и Jz{t)<=dH(z(t)). Поскольку для
любого w^R2n(w, /ад>=0, то имеем с учетом предложения 2.1.2 и
регулярности функции Я в точке z(t)
О = </*(/), i (/)>< #°(z(/); z(t)) = H'(z(t); i(/)) =
_limH(z(t)+6i(t))-H(z(t)) _Hm H(z(t + b))-H(z(t)) _q'(^
6\o 6 6|o б
Таким образом, 6'(05*0. Покажем, что 6'(0=0> Для этого вы"
числим
у/А^Цд Я(г(/)-бг(Ц)-//(г(/)) =
б^о -б
= - Я' (г (/); - г (/)) = - Я° (г (/); - г (/)) ^ - (- г (/), fz (/)> = 0.
Отметим, что выпуклая функция g8 по предложению 2.3.6
регулярна, так что любое решение z включения (1) на некотором
интервале лежит на фиксированной поверхности уровня g8. Для
любой заданной точки s&S, как известно [10], существует (не
обязательно единственная) кривая г, определенная на (—оо, +оо),
удовлетворяющая включению (1) и равенству z(0)=s (поскольку dg8
есть полунепрерывное сверху, выпуклое и ограниченное на S
многозначное отображение). Итак, z(t) лежит на S для всех t. Кривая z
называется траекторией, проходящей через 5.
Геодезические. Кривая, лежащая на S, называется
геодезической на S, если существует ее параметризация в виде кривой z,
определенная на интервале [0, Г], где Г>0, которая удовлетворяет
на этом интервале гамильтонову включению (1). Заметим, что
геодезическая есть ориентированная кривая. Если ее соответствующая
параметризация z удовлетворяет равенствам z(0)=s, z(T) = s', то
говорят, что геодезическая связывает точки s и s'.
Понятие геодезической было введено посредством гамильтонова
потока, индуцированного на S посредством функции g8 и
включения (1). Однако геодезические действительно определяются только
поверхностью S, поскольку, как будет показано, любой подходящий
гамильтониан Я, задающий поверхность S, определяет те же самые
геодезические. «Подходящим» гамильтонианом оказывается
функция Я, которая удовлетворяет условию Липшица вблизи S,
регулярна в каждой точке S и удовлетворяет условиям coS=
= {z: H(z)^.l}, OqEdH(S). (Последнее условие обеспечивает
«невырожденность», оно выполняется и для g8, поскольку в противном
случае функция g6j будучи выпуклой, достигала бы своего
минимума в точке S.) Укажем, что gs удовлетворяет и остальным
предположениям.
7.7.2. Предложение. Все гамильтонианы Н, задающие по-
верхность S в указанном выше смысле, определяют одни и те же
геодезические на S.
252

Доказательство. Пусть данная кривая С на S есть
геодезическая относительно задания S как поверхности уровня функции
Н. Тогда для С существует ее параметризация, определенная на
[О, Т] такая, что Jz^dH(z) п. в. По теореме 2.4.7, следствие 1,
нормальный конус к выпуклому множеству coS в точке z(t) совпадает
с U KdH(z(t)) илис U ^8(г(/)).
Отсюда следует, что Jz(t) принадлежит X(t)dg8(z(t)) для
некоторого Я, ограниченного снизу от 0 (можно полагать, что X(t) —
измеримая функция). Если определить замену переменных
t
о
тогда кривая £(•), определенная на [О, Т], где Т= f K(s)ds, ра-
0
венством z(x) =z(/(t)), есть параметризация кривой С и
удовлетворяет включению
jjLz(T)^dgs(z(x)) п. в.
ах
Итак, кривая С есть геодезическая относительно задания S
посредством g6.
Аналогичные рассуждения показывают, что геодезические
относительно g8 являются и геодезическими относительно Я, откуда
следует предложение.
Симплектические матрицы. Матрица М размера 2яХ2я
называется симплектической, если
Л17М = /
(где знак * обозначает транспонирование). Отметим, что /, —/ и /
есть симплектические матрицы. Симплектические преобразования,
которые, как можно показать, образуют группу, играют важную
роль в классической механике, где «движение механической
системы можно рассматривать как непрерывно совершающееся
каноническое (т. е. симплектическое) преобразование» (см. [95], § 8.6).
Приведенное ниже утверждение можно рассматривать в
некотором смысле как обратное: любое (линейное) симплектическое
преобразование реализуется на некоторой орбите произвольной
выпуклой энергетической поверхности.
7.7.3. Теорема. Пусть S — выпуклая энергетическая поверх-
ность, а М — симплектическая матрица. Тогда для некоторой точки
s^S найдется геодезическая на S, соединяющая s и Ms.
Доказательство. В ходе доказательства, которое
основано на прямом вариационном принципе, искомое утверждение
получается путем нахождения решения z на S включения (1),
определенного на интервале [О, Т] (Г>0) и такого, что z(T)=Mz(0).
Введем поляру 2 множества S, которая определяется как единствен-
253

ное выпуклое множество 2, опорная функция которого совпадает
с g8, т. е. 2 есть выпуклое множество такое, что для каждого se
€=R2n
max{<s, о>: oe2}=gs(s).
Из предложения 2.1.4 следует, что 2 —выпуклое компактное
множество, причем 0 есть его внутренняя точка. Обозначим через
У множество абсолютно непрерывных функций у: [О, 1 ]-*R2n,
удовлетворяющих почти всюду включению /уе2 и определим
отображение Л: y->R2n:
А(у)-у(1)-Му(0).
И наконец, пусть Et есть собственное подпространство матрицы М
для собственного значения 1 (£1={0}, если 1 не есть собственное
значение), я и р есть ортогональные проекции на Е{ и Е^
соответственно (Е^ — ортогональное дополнение £,).
Лемма 1. Существуют такие положительные постоянные с и k,
что для каждого y^Y
\pW))\<c+k\A{y)\.
Доказательство. Существует такая постоянная ky что
I (/—M)v\ ^ \v\/k для каждого UGfj1, и такая постоянная Ь, что
|*/0)—У(0)|^6 для всех уеУ (поскольку 2 ограничено). Пусть
дана произвольная функция уеУ. Поскольку (/—Af)i/=(/—M)p(v)
для любого ueR2n, имеем
(1-М)р(у(0)) = (1-М)у(0)=у(0)-у(1)+А(у)
и поэтому
\р{у(0))ЫЬ(Ь+\А(у)\).
Полагая с=6А», получаем утверждение леммы.
Определим на У функционал /:
f{y) = ~\^Jy,y)dt.
О
Введем теперь параметризованное семейство Р(а) следующих
задач: минимизировать f(y) на множестве элементов j/еУ,
удовлетворяющих ограничениям |t/(0)|^c+fe и А(у)=а. Минимальное
значение f в задаче Р(а) обозначим через V(a).
Лемма 2. Минимальное значение V(a) задачи Р(а) конечно
и достигается для всех а вблизи 0: функция V(-) удовлетворяет
условию Липшица вблизи 0.
Доказательство. Поскольку 2 содержит окрестность 0, то
отсюда следует, что множество допустимых элементов для задачи
Р(а) непусто для малых а. Чтобы доказать существование
решения задачи Р(<х) для таких а, укажем, что задачу Я (а) можно
рассматривать как задачу Больца, для которой
L(t.y. y) = -j(Jy.y) + *zVy),
1(У*> yi)=$(c+k)B (Уо)+У{о)(У1—Му0—а).
254

Соответствующий гамильтониан для такой функции L имеет вид
Я (/, у, р) = sup {</>, у} + j(Jy, у}: Jy<=-L} =
=fv{(.°,Jp + \y)} = gs[jP + \y).
Поскольку функция ga удовлетворяет неравенству g8(q) ^K\q\
для всех qy отсюда следует, что гамильтониан Н удовлетворяет
условию роста в теореме 4.3.1, также как и функция /. Теорема
утверждает существование решения задачи Р(а) для всех а вблизи 0.
Тот факт, что V(-) есть липшицевая функция вблизи 1,
непосредственно вытекает из следствия 1 теоремы 6.3.2.
Лемма 3. Существует решение у задачи Р(0), не равное
тождественно постоянной, такое, что \у(0)\^с.
Доказательство. То, что решение у существует, следует
из предыдущей леммы. Если у тождественно равно постоянной, то
V(0)=0. Но этого быть не может, поскольку легко построить такой
элемент */еУ, что у(0)=у(1) = 0 и f(y)<0, а значит, для
достаточно малого е>0 функция гу есть допустимый элемент задачи
Р(г) и /(еу)<0. Заметим теперь, что всякий раз, когда Л(*/)=0
ни — произвольный вектор из £„ то А (у—и) =0 и
f(y-u) = f(y)+±§(Jy,u)dt = f(y)+±(J(M-r)y(0),uy =
= f(y) + j(y(0)Ai-MlJu>=f(y),
поскольку М — симплектическая матрица, а равенство Ми = и
тогда эквивалентно тому, что M*Ju = ]u. Таким образом, «вычитая»
вектор и^Еи можно добиться того, чтобы решение у удовлетворяло
равенству л((/(0))=0, и требуемый результат теперь следует из
леммы 1.
Из определения V получаем, что для любого j/еУ,
удовлетворяющего |у(0) | ^.c+k,
f(y)>V(A(y))9 (2)
причем равенство достигается для любого решения у задачи Я (а)
при любом а, в частности для у. Можно интерпретировать (2)
следующим^ образом: функция у есть сильный локальный минимум в
задаче минимизации функционала
-\l(Jy,y~)dt-V(ij{\)-Mym
О
на множестве кривых у, удовлетворяющих включение /i/eS.
(Вследствие леммы 3 ограничение |t/(0)|^:H-& несущественно
вблизи у.)
Теперь применим необходимые условия теоремы 4.2.2 к этой
задаче, которую можно рассматривать, как это делалось при доказа-
255

тельстве леммы 2 как задачу Больца, Отметим, однако, что теперь
/ есть липшицевая функция, что обеспечивает устойчивость задачи.
Получаем, что существует абсолютно непрерывная функция р,
удовлетворяющая соотношениям
(-р9у)&дН(у9р) п. в., (3)
(p(0),-p(l))<=dlQ(0)9y(l))9 (4)
где / есть функция
1(у,у')=-У{у'-мУ)
и где Н — вычисленный выше гамильтониан задачи:
fi(y,p)=gs(jp + j).
Соотношение (3) сводится к включению
Jy = — 2p{=dgs(jp + J^J п. в.
Отсюда следует, что функция Jp отличается от у/2 на
постоянный вектор, поэтому функция z: = Jp+y/2 не равна тождественно
постоянной (лемма 3). Укажем на соотношение
Jz(E: dgs(z) п. в., (5)
которое согласно предложению 7.7.1 означает, что gs(z(t))=h для
некоторой постоянной Л. Поскольку z не равна тождественно
постоянной, то Л>0.
Обратимся теперь к соотношению (4), которое можно
переписать в виде р(1)=г, р(0)=Л1*г, где г — некоторый элемент dV(0).
С учетом этого получаем, что
Ш (0) = MJp(0) + ±Л#(0) = MJM'p(l) + ±y(l) =
=Jp(D+jy{i) = Hi).
Произведем теперь замену времени с тем, чтобы z лежало на S, а
не на hS. Положим z(t)=z(th)/hf где 0^.t^l/h = :T. Тогда
g8(z(t)) = l, поскольку g8 есть положительно однородная функция
степени 1 и в силу (5) имеем
Jz€±dgs(z) п. в.,
поскольку 2=2и dg8 положительно однородно степени 0. Очевидно,
что для z(t) выполняется равенство z(T) =Mz(0), и получена
функция г, о которой говорилось в начале доказательства.
Некоторые следствия теоремы.
Следствие 1. Для любой выпуклой энергетической
поверхности S существует по крайней мере одна замкнутая геодезическая.
256

Очевидно, что утверждение следует из теоремы, если взять М =
=/. Этот общий результат о существовании получен в [166, 223].
Доказательство этого следствия, более простое в
рассматриваемом случае, но похожее в идейном плане дается в [63], где впервые
были использованы поляра, или двойственный вариационный
принцип.
Приведенное ниже следствие теоремы напоминает теорему Нё-
тер в вариационном исчислении, так как инвариантность системы
предполагает в этом случае инвариантность некоторых
экстремалей. Орбитой на S называется кривая, лежащая на S, которая
локально является геодезической (не требуется, чтобы орбита имела
конечную длину).
Следствие 2. Пусть симплектическая матрица М
удовлетворяет равенству MS = S. Тогда найдется такая орбита С, что МС=С.
Если М имеет конечный порядок (г. е. Л1*=1 для некоторого k)> то
существует замкнутая геодезическая, обладающая таким
свойством.
Доказательство. Сначала применим теорему и, как
упоминалось ранее, получим функцию z(t) на [О, Г],
удовлетворяющую включению (1) и равенству z(T)=Mz(0). Теперь заметим, что
г(-) можно продолжить на [Г, 2Т] как решение (1) следующим
образом. Пусть z(t)=Mz(t—Т) для Т<Ц^2Т9 тогда функция г
непрерывна в Г и
Jz(f)=JMz(t — Г) <=— JMJdgs(z(t — Т)) =
= - JMJM'dgs (Mz(t- Т)) = dgs (z (/)),
что и требуется. (Было использовано тождество M*dg(Mz)=dg(z),
которое получается дифференцированием g(Mz) =g(z).) Таким
образом, функцию z можно бесконечно продолжить вперед, а также
и в обратном времени, чтобы получить такую орбиту С, что AfC=C
Если М имеет конечный порядок, то за конечное число шагов будет
получен цикл; тогда С есть замкнутая геодезическая.
Теперь покажем, что предположение о симплектичности М
нельзя опустить из формулировки теоремы. Сделаем это, рассматривая
случай, в котором S есть сфера, для которой удобно выбрать
гамильтониан Н(х, р) = {£(х{)2+(р{)2}/2, гДе суммирование ведется
от 1 до п.
Легко найти решения этой гамильтоновой системы:
хс (t) = х[ cos / + х[ sin /, р* (0 = хи cos t — х[ sin /.
Отсюда следует, что равенство Mz(())=z(t) эквивалентно
Ми= {(cos t)I— (sin t) J) и, (6)
где / — единичная 2лх2я-матрица, и — вектор (х0у х{). Для того
чтобы пара (*, р) была ненулевой, должно существовать
нетривиальное решение и уравнения (6) при некотором f>0. Нетрудно
найти несимплектическую матрицу М, для которой это не
выполняется. Это показывает, что теорема неверна для произвольной
матрицы М. В качестве следствия теоремы и примера получаем
257

Следствие 3. Если М — симплектическая матрица, то
существуют числа а, 0 такие, что а2+р2= 1 и
det(M—а/—р/)=0.
Еще одним следствием теоремы является нижеследующий «анти-
подальный» результат, который можно также получить из
известного факта, что преобразование, задаваемое симплектической
матрицей сохраняет объем.
Следствие 4. Если М — симплектическая матрица, то любая
выпуклая энергетическая поверхность содержит точку, чей образ
при преобразовании М лежит на S.
§ 7.8. Периодические траектории заданного периода
В предыдущем параграфе искались некоторые траектории га-
мильтоновой системы на заданной энергетической поверхности #=
= с. Теперь будет рассматриваться вопрос существования
периодических траекторий данной системы, когда задана не энергия, а
период движения. Невозможно одновременно задать как энергию,
так и период движения поскольку нельзя заранее сказать какая
энергетическая поверхность будет содержать интересующую нас
траекторию.
Поэтому в этом случае теория имеет менее выраженный
геометрический характер, и важную роль в ней играют условия роста
гамильтониана. Тем не менее, основная идея состоит в использовании
двойственного вариационного принципа в сочетании с теорией
существования решений и необходимыми условиями, полученными
в гл. 4.
Траекторией z называется решение гамильтонова включения
Jz^dH(z) на некотором отрезке [О, Т]9 Г>0. Траектория z имеет
минимальный (или истинный) период Г, если z(T)=z(0) и z(t)=£
фг(0) для /е(0, Г). Как и в предыдущем параграфе, вектор z из
R2n соответствует паре векторов (х, р) из RnxRn.
7.8.1. Теорема. Пусть гамильтониан Н есть конечная
неотрицательная и выпуклая функция на R2n, причем #(0)=0. Пусть а>
>0, где
a: = hminf—^-,
|*|н*> | г I2
и для некоторых постоянных с и k
\дхН(х, р)\^с +k\p\ для всех (х, р).
Тогда для всех Г>я/а найдется траектория минимального
периода Т. (Укажем, что возможен случай, когда а = +оо.)
Доказательство. Пусть Т таково, как это указано в
теореме, и G есть выпуклая функция, сопряженная Я:
G(y,q): =sup{y-x + q.p — H(x,p)}.
х,р
258

Функция G выпукла по построению, но из условий теоремы не
следует, что функция G всюду конечна. Однако имеет место
следующая
Лемма 1. Функция G неотрицательна и обращается в 0 в
точке (О, 0). Существуют е>0 и Яе(0, 1) такие, что
G(y,q)^j^-\(y,q)\2 для всех |(у,?)|<е.
По определению G(y, q) не меньше величины —Я(0, 0)=0 и,
если (t/, *7) = (0, 0), то из неотрицательности Н следует, что G(0, 0)
не превосходит 0. Это доказывает первые два утверждения. Чтобы
доказать третье, заметим сначала, что неравенство а>л/Т
означает существование ц>0 и Хе(0, 1) таких, что
Н (*' р) > rt'(*'р>> '2 для всех ' **' р) I ^ л#
Это влечет для таких (*, р) и любых (у, q) выполнение неравенства
y-x + q-p — ^-|(х, p)\2>y-x + q-p— Н(х, р),
из которого следует соотношение
— I (У, Я) |2 ^ sup {ух + qp — H(x,p): \(х, р) | ^ х\}.
4я
Максимизируемое выражение в правой части неравенства
достигает своего максимума без ограничений в точке (xf p)^dG(y,q),
и его значение равно тогда G(y, q). Другими словами, правая часть
неравенства совпадает с G(yy q), если dG(y, q) содержится в шаре
х\В. Но, как известно, dG(0, 0) сводится к {(0, 0)}, поскольку это
множество совпадает с множеством точек, в которых Н достигает
своего минимума. Так как отображение dG полунепрерывно
сверху, то имеем dG(xt у)сицВ для всех (у, q), достаточно близких к
(0у 0). Лемма доказана.
Теперь сформулируем задачу Больца Рв (см. § 4.1) для кривых
(Уу q)y отображающих [0, 1] в RnxRn, и функций
I (*/,</, y,q): = G(-q/y) + T'q.y9
ЦУо> ?0, У U ^i)-=^{(0,0,0,0)}(f/0, ?о, У и ?i).
Отметим, что кривая (y(t), q(t)) = (0, 0) доставляет конечное
значение функционалу Больца. Вычислим гамильтониан Я,
соответствующий L. Если обозначить сопряженные переменные через
(р, г), то
H(y,q,p,r): =sup{p.y + r.ij — G(-qty)— Tq.y} =
У. я
= sup{- q- [Ty-r] + y- [p]-G(-q, y)} = H(Ty-r, p)
вследствие того, что H есть функция, сопряженная G.
259

Л е м м а 2. Н удовлетворяет условию роста теоремы 4.1.3.
Имеем
Й(у9 q9 Р, г) =Н(Ту-г, р) =#(0, р)+<£, Ту-г\
где £едх# (у*, р) для некоторой точки у* из отрезка [0, Ту—г] по
теореме о среднем значении
Я(у, q, р, r)^H(0, p) + {c+k\p\}\Ty-r\^
<Я(0, p) + \r\ {c+k\p\}+T\y\ {c+k\p\}.
Теперь видно, что Я удовлетворяет требуемому условию роста
(в котором \х совпадает с суммой первых двух членов в последнем
выражении, а о=Тс, р = ГЛ).
Из теоремы 4.1.3 следует, что существует решение (у0> q0)
задачи Рв. Теперь желательно использовать необходимые условия
теоремы 4.2.2. Очевидно, что Й удовлетворяет строгому условию
Липшица, поэтому единственное недостающее звено восполняется
следующей леммой.
Лемма 3. Рассматриваемая задача Рв устойчива.
Покажем, что функция Vu определенная в § 4.2, удовлетворяет
условию устойчивости для рассматриваемой задачи. Заметим, что
Vi(0) конечно, как указывалось выше. В принадлежащем Рокафел-
лару доказательстве теоремы 4.1.3 [185] в действительности
показано, что найдется такая положительная постоянная Af, что для
любой кривой (у, q), удовлетворяющей соотношениям
$L(y,q,y, ЙЛ<1М0) + 1, #(0) = <7(0) = 0, (1)
о
1
также выполняется неравенство f \(уу q)\dt^.M. Пусть теперь
о
(у, q) есть любая кривая, удовлетворяющая (1) и пусть у{\) =—siy
<7(l)=-s2. Кривая (*/', q')(t) = (y, q)(t) + t(sit s2) есть допустимая
кривая для рассматриваемой задачи и нетрудно получить, что
\L(y\ </', У\ q')dt^$L(y, </, У, q)dt + TM\(su s2)\.
о о
Заключаем, что
Vi (0) < \ L (у, ?, yf q) dt + ТМ | (slf s2) |,
о
что дает вследствие произвольности кривых (у, q)>
удовлетворяющих (1), оценку
А это означает, что Vi удовлетворяет условию устойчивости.
260

Применим теперь необходимые условия теоремы 4.2.2, с тем
чтобы доказать существование сопряженной кривой (р0, г0),
удовлетворяющей гамильтонову включению для й и для (у0, q0). Это
значит, что
[ту* J
ТдН(Ту0 — г0,Ро) п. в., r0=0, Tq0 = p0 п. В.
Последнее соотношение дает р0(0)=р0(1). Положим для 0^
Тогда отсюда следует, что (х> р) удовлетворяют на [0, Т]
включению
[-:]■
\дН(х, р) п. в.,
и имеем, что х(0) =х(Т), р(0)=р(Т). Осталось только проверить,
что Т есть минимальный период кривой (х, р) для того, чтобы
завершить доказательство теоремы. В этом поможет
Лемма 4. Минимальное значение задачи Рв отрицательно.
Достаточно построить допустимую кривую (у, q)> для которой
значение функционала Больца отрицательно. Пусть и есть
единичный вектор из Rn и определим у(0=PWcos (2я0—Pw> 9(0е
=—pwsin(2^0» где число р будет определено ниже. Подстановка
{уу q) в функционал дает
1 1
J L {у, ?, у, q) dt = f G (2я$и cos (2я/), — 2яРы sin (2я*)) dt —
о о
— frp22ncos2(2ji0<tf.
о
Последний член вычисляется и равен —Гяр2. Первый член
оценивается с помощью леммы 1. Если 0<2яр<е, то получаем
\ИМ,Ч, y,q)dt^^^^dt-Tn^ = {X-l)Tn^<0.
О о
Чтобы завершить доказательство теоремы, предположим, что
траектория (х, р) имеет период 77/ для некоторого натурального
/>1 и получим противоречие. Заметим, что в этом случае (y0j q0)
имеет период 1//. Определим (у\ q') на [0, 1]
'«H--(f). <»-±>(f\-
261

Кривая (у\ q') допустима для задачи Рв. Получаем, что
О о
1//
= J L (JL х (sT)9 jrPisT), к (sT), Р (sT)jjds =
о
1//
= ] \ L {ly°(s)> 1Ро (s)' ^°(s)> "г ^°(s))ds#
о
Поскольку аддитивной постоянной в переменной у можно
пренебречь, то это равно
1 1//
J W, й\ У\ k')dt=j J L(jy0(s)Jq0(s), y0(s), q0(s))ds.
о 0
Так как L не зависит от переменной q, то
1 1//
JL0/', </', у', flf')*-/1 J {G(-<7o(s), ^o(s)) + ^o(s)^o(s)}^-
о 0
-i(i-\)^G(-q0(s),y0(s))ds^
0
^ / J{C(- ?,(s), y0(s)) + Tq0(s)y0(s)} ds.
0
И наконец, поскольку #0, <7<> имеют период 1/&, а функция G
неотрицательна, то
S^(0#. Я\ У\ q')dt^jmm(PB)<mm(PB),
о
что в свою очередь меньше min (Рв), поскольку последнее число
отрицательно. Это означает, что кривая (*/', qr) доставляет меньшее
значение функционалу Больца, чем (y°t q°), что приводит к
противоречию.

БИБЛИОГРАФИЧЕСКИЙ КОММЕНТАРИИ
ГЛАВА 1
Большинство из ссылок в этой главе приводится в книге позже при
подробном изучении соответствующей темы.
§ 1. Первый пример (L1 и L2 нормы) был предложен Бартелсом и Конном
[22], пример с диодом приводится у Макламроша [143], где обсуждаются и
другие интересные модели. Две задачи из инженерной практики
рассматривались в работах Полака [160] и Полака и Варди [161].
§ 2. Излагаемые здесь концепции были разработаны Ф. Кларком [48] (см.
гл. 2).
§ 3—4. В качестве источников общего характера по вариационному
исчислению предлагаются книги Ахиезера [2], Блисса [32], Каратеодори [41],
Хестенса [112] и Янга [227]; по оптимальному управлению — книги Берковица
[26], Варги [218], Иоффе и Тихомирова [131], Понтрягина, Болтянского, Гам-
крелидзе и Мищенко [163].
ГЛАВА 2
«Я отворачиваюсь с отвращением и ужасом от этой жалкой язвы — функций,
яе имеющих производных» (Эрмит, Письмо к Стилтьесу).
Конечно же, несмотря на высказанное Эрмитом отвращение,
предпринимались неоднократные попытки аналитического изучения недифференцируемых
функций. Так, хорошо известны определения производных Дини и
аппроксимативных производных (см. [201]), обобщенных производных (распределений) и
субдифференциалов в выпуклом анализе (см. [177]).
Имеются и другие определения производных, например, см. обзоры
Брукнера и Леонарда [39], Авербуха и Смольянова [18].
Еще в 1892 г. Пеано предложил называть функцию дифференцируемой в х,
если существует предел
lim ,
у-*х,г->х У — Z
поскольку по его мнению это определение «намного лучше с физической точки
зрения подходит для определения производной, чем обычное». (В
действительности это определение совпадает с понятием строгой дифференцируемости из
§ 2.2, обобщением которого и служит понятие обобщенного градиента.)
Многие подходы к изучению некоторых классов недифференцируемых
функций мотивировались потребностями теории оптимизации (два наиболее
известных из них были развиты Нейштадтом [152] и Пшеничным [16]).
По нашему мнению понятие обобщенного градиента примечательно
общностью, конструктивностью своего определения, достаточно развитыми
исчислением и соответствующей геометрической теорией, широкой областью своего
применения.
§ 1—3. Обобщенная производная по направлению и обобщенный градиент,
класс регулярных функций и элементы их исчисления были введены Кларком в
263

[48, 49]; затем исчисление обобщенных градиентов было развито Кларком в
[54, 55, 68]. Теорема о среднем значении, теорема 2.3.7, принадлежит Лебургу
[134] (см. в [117] обзор теорем о среднем значении). Формула 2.3.10 появилась
в работе Обэна и Кларка [13]; формулы 2.3.13, 2.3.14 получены Ириарт-Уррути
в [114, 116], его правило дифференцирования сложной функции в сочетании
с более ранним подобным результатом Кларка [68] использовалось для того,
чтобы получить теорему 2.3.9. Многие результаты для исчисления обобщенных
градиентов можно найти в работах Обэна [7, 9] и Ириарт-Уррути [113—121]
(см. также в [204] обзор свойств регулярности).
§ 4. Обобщенные касательные и нормали впервые определены в работах
Кларка [48, 49]; подробности можно найти в статьях Обэна, Кларка [11],
Обэна [9] (который также рассматривает контингентные производные
(производные Булигана)), Рокафеллара [189], Корнэ [77] (см. также статьи Уоткинса
[2221 и Треймана [209]).
Функции расстояния уже использовались в литературе, например, см.
статью Редхеффера и Уолтерса [167]. Формула 2.4.7 и теория гиперкасательных
(«радиальных касательных» Ириарт-Уррути) принадлежат Рокафеллару [190].
§ 5. Открытым остается интересный вопрос о возможности перенесения на
случай бесконечномерных пространств определения 2.5.7 обобщенного
градиента. Формула в 2.5.1 была перенесена на случай сепарабельных банаховых
пространств Ириарт-Уррути и Тибо [122].
§ 6. Обобщенный якобиан был введен Кларком [48, 55]; обзор имеется
в статье [121]. Обобщения этого определения имеются в статьях Тибо [206],
Панагеоргид [157] и Мирица [148].
§ 7. Вариант основного результата впервые появился в работе Кларка [681;
другое доказательство, основанное на теореме о минимаксе, следует из [59J.
Некоторый вариант теоремы 2.7.5 имеется в статье Обэна и Кларка [13].
§ 8. Существует обширная литература по дифференциальным свойствам
функций типа max: см., например, работы Данкина [78], Пшеничного [164],
Хогана Г123], Демьянова и Малоземова [80]. Первый вариант теоремы 2.8.2
был приведен в [48, 49], теорема 2.8.6 взята из статьи Кларка [56]. См. в [113]
последующие результаты для функций типа max. Пример 2.8.7 был
мотивирован работой Полака и Варди [161].
§ 9. Обобщенный градиент для функций, принимающих значения из RU{±°°}
был определен в статьях Кларка [48,49], однако большая часть существующего
исчисления была развита для случая липшицевых функций. Результаты этого
параграфа принадлежат Рокафеллару [190, 192] (см. также [191, 193]),
некоторые результаты были параллельно получены Обэном [9], Ириарт-Уррути [114,
115, 120], Борвейном и Стройвасом [35].
Теория, развитая в этой главе, нашла многочисленные применения; на
многие из этих применений ссылки будут даны ниже. См. также работы Экланда
[86], Лебурга [135], Шу-Чунга [203] и Янина [132].
«Следует всегда обобщать»,— говорил Якоби. В соответствии с этим
афоризмом были развиты концепции, обобщающие понятие обобщенного градиента
см. работы Халкина [102, 104], Иоффе [129] и Варги [219, 220]. (Эти подходы
аналогичны по духу абстрактному неконструктивному подходу Л. Нейштадта
[152]). Б. Ш. Мордухович [149, 150] предложил и использовал
модифицированное определение обобщенного градиента. Рокафелларом был рассмотрен
случай локально выпуклых пространств [190, 192]. Библиография по негладкой
оптимизации содержится в [100].
ГЛАВА 3
§ 1. Сведения из теории многозначных отображений можно найти в [42,
176, 215].
Предложение 3.1.2 доказано в работе Кларка [48]; теорема 3.1.3 была
получена Ауманном [14]. Основные результаты этого параграфа можно найти
в [51]; доказательство теоремы 3.1.6 представляет собой переработанное
доказательство А. Ф. Филиппова [92]. Теорема 3.1.7 является достаточно
стандартным результатом, который доказывался многими авторами. Дифференциальные
включения изучались, например, в работах Антосевича и Челины [4], Обэна,
Челины и Нохеля [10], Филиппова [92], Хермса [109] и Роксина [200].
26*

§ 2. Некоторые оптимизационные задачи для дифференциальных включений
изучались в работах Берлиочи и Ласри [27], Благодатских [29], Болтянского
[33], Кларка [52, 57] и Федоренко [90]. Укажем, что в статье Кларка [52]
следует дополнительно предположить, что значения многозначного отображения
есть выпуклые множества (подобно тому, как это предполагается в этой главе)
или что терминальные ограничения задаются липшицевыми неравенствами).
Ранее задача рассматривалась в меньшей общности (например, без фазовых
ограничений); приведенное в параграфе определение множителя является
новым.
§ 3. Результаты этого параграфа взяты из совместной работы Кларка и
Дарроу [73h
§ 4, 5. Результаты этих параграфов являются новыми; имеются более
ранние близкие работы в теории оптимального управления и математическом
программировании (см. гл. 5 и 6).
§ 6. Метод сведения задачи с нефиксированным временем, используемый
здесь, заимствован из вариационного исчисления, для настоящих целей он
впервые применялся в [66].
§ 7. Достаточные условия в терминах модифицированного уравнения
Гамильтона— Якоби изучались учениками автора Хавелоком [107] и Оффином
[154]; о необходимости этих условий для нормальных задач впервые
сообщалось в работе Кларка [72]; см. дальнейшие результаты в [76]. Как
упоминалось, достаточные условия в такой форме есть давний и часто переоткрываемый
результат. Он известен в советской литературе как метод функций Кротова (см.
[126]). Примеры его применения имеются в [1, 47, 73].
ГЛАВА 4
Для автора побудительной причиной к изучению обобщенной задачи Боль-
ца послужили работы Рокафеллара {179, 181, 182, 183, 185, 187], в которых в
основном рассматривался выпуклый случай. Возможность общего подхода в
этом направлении была известна Янгу, который даже сумел указать
«подлинный» гамильтониан для задачи оптимального управления: т. е. функцию
H(xt p):=max{<p, <р(*, w)> — F(x, и): u^U} (см. [227]). Несмотря на свое
убеждение, что «в принципе важность гамильтонианов сравнима с важностью
комплексных чисел», Янг не сумел перейти Рубикон, а вместо этого обратился
к использованию псевдогамильтониана Понтрягина (заметив, что функция Н не-
дифференцируема). Негладкий анализ, таким образом, является мостом,
благодаря которому стал возможен дальнейший прогресс в этом направлении.
§ 1. Подробное изучение эквивалентности, измеримости и других вопросов
было проведено в перечисленных выше статьях Рокафеллара. Преобразование,
посредством которого Н определяется из L, представляет собой одной из
основных средств выпуклого анализа [172, 173, 177, 178, 184]. Существует обширная
литература по теории существования решений (см., например, работы Берко-
вица [24, 26], Чезари [43], Иоффе [127, 128] и Олеха [156]).
§ 2. Необходимые условия для общей невыпуклой и негладкой задачи Боль-
ца были получены Кларком [48, 50, 53, 58]; читатель отсылается к работе [53]
для ознакомления с необходимыми условиями в терминах лагранжиана (а не
гамильтониана), а также с результатами по обобщенным решениям. Условия
невырожденности ограничений в терминах устойчивости задачи были
предложены Кларком [48]. Представляется существенным иметь некоторые условия
невырожденности ограничений, поскольку для задачи Рв нельзя выписать
необходимые условия в анормальной форме (вследствие того, что ограничения
заданы неявно).
§ 3. В. Зейдан применяет метод канонических преобразований для
получения более сильных достаточных условий, чем приведенные здесь, читатель
отсылается к [228, 229] за подробностями.
§ 4. Применение условий роста, подобных введенным в этом параграфе
было предложено Ж.-М. Ласри.
§ 5. Правило множителей было окончательно доказано Макшейном [146];
результаты этого параграфа принадлежат Кларку [60].
§ 6. Этот результат имеется в работе Кларка [59]; см. также [5, 19—21].
265

ГЛАВА 5
Основные источники по теории оптимального управления были перечислены
в замечаниях к гл. 1.
§ 1. Управляемость представляет собой актуальную область исследований,
см., например, работы Брокетта [38], Хермана и Кренера [108], Хермса [ПО,
111].
§ 2. Основные трудности при доказательстве общего принципа максимума
проистекают из отсутствия предположений о гладкости и непрерывности данных
задачи, того факта, что множество траекторий незамкнуто (поскольку задача
не предполагается обобщенной) и общего вида ограничений на концы
траекторий. Самой простой задачей для изучения является задача со свободным
концом; случай, когда ограничения наконец траектории имеют вид 9(jc(6))^0
можно свести к этой задаче, если заметить, что кривая х доставляет минимум
функционалу max {f(y(b))—f(x(b))t Q(y(b))} на множестве допустимых
кривых (предполагается, что F=0). (См. в [66] подробное изложение метода,
который также позволяет изучать оптимумы по Парето.) В статье Дунна [83]
предвосхищалось использование линий уровня гамильтониана для анализа
оптимальных траекторий на фазовой плоскости. Одна из первых попыток изучения
негладких задач оптимального управления принадлежит Луенбергеру [138] (см.
также [224]). Систематический подход был развит Нейштадтом [ 152].
Стохастический принцип максимума содержится в работе Хауссмана [106].
§ 3. Применение необходимых условий из гл. 4 приводит к нахождению
экстремальной гамильтоновой пары (х, р), которая существует, несмотря на то,
что пара (ху /?), удовлетворяющая условиям принципа максимума, может и не
существовать. Это вытекает из того факта, что гамильтонианы исходной и
обобщенной задач (а только для последней гарантировано существование
решения) совпадают, хотя псевдогамильтонианы этих задач могут быть различны.
Другое следствие этого замечания состоит в том, что, если существует
единственная пара (jc, р), удовлетворяющая необходимым условиям в терминах
гамильтониана, и если х есть допустимая траектория для исходной задачи, то
тогда х есть решение как исходной, так и обобщенной задачи. Соответствующее
утверждение для принципа максимума неверно.
§ 4. Возможность применения методов вариационного исчисления в теории
оптимального управления и эквивалентность этих двух теорий для многих
задач хорошо известны: см. [227]. Смотри в примечаниях к § 1 гл. 4 литературу
по теории существования решения, а в примечаниях к § 7 гл. 3 литературу по
достаточным условиям (см. также [202]).
§ 5. Обобщенные задачи были введены и изучены Варгой [217, 218] (Ян-
гом [227] рассматривались обобщенные кривые в вариационном исчислении).
Другие результаты по чувствительности задач оптимального управления
можно найти в работах Голана [99] и Маурера [141, 142].
ГЛАВА 6
Обзор условий оптимальности для задач математического
программирования можно найти в статьях Мак-Кормика [144] и Рокафеллара [186]. См. таю
же [139].
§ 1. Выбор лагранжиана играет важную роль для определения
сравнительной точности получаемого правила множителей (см. обсуждение этого вопроса
в [195]). С этой точки зрения используемый в этом параграфе лагранжиан
является лучшим. В статьях Б. Ш. Мордуховича [149, 150] можно найти другие
правила множителей в терминах обобщенных градиентов, а в статьях Нгуена,
Стродиота и Миффлина [153], Стродиота и Нгуена [205] имеются другие
относящиеся к этой теме результаты. Многочисленные примеры и улучшения
некоторых аспектов этой теории были получены Ириарт-Уррути [114, 115, 118—
121].
§ 2. Изучались и вычислительные аспекты негладкой оптимизации (см. 225).
Методы, использующие обобщенные градиенты, приводятся в [16, 91, 94; 147,
159—161].
Ченей [44—46] получили достаточные условия оптимальности для
негладких задач.
266

§ 3, 4. С. Робинсон выявил связь между устойчивостью и условиями
невырожденности ограничений [169, 170]. Понятие устойчивости было введено
Кларком [48], некоторые результаты из этих параграфов имеются в [54].
§ 5. Существует обширная литература по проблеме чувствительности
задач математического программирования; один из ранних результатов в
современном изложении принадлежит Говэну [93]. Следует упомянуть также работы
[8, 12, 13, 17, 96—99, 113, 137, 142, 162]. В статье [195] имеется подробный
обзор других работ в этом направлении.
§ 6. Многие результаты в этой области получены С. Робинсоном [162—171];
см. также статью Борвейна [34] и ссылки к § 5.
ГЛАВА 7
§ 1. Первые теоремы об обратной и неявной функциях сравнимой степени
общности были, по-видимому, получены Варгой [219, 221] (см. также [103]).
Основной результат появился в статье Кларка [55]; тот факт, что теорема о
неявной функции следует из него, впервые отметил Ириарт-Уррути [114].
§ 2. Приведенное доказательство теоремы Ауманна [14] взято из статьи
Кларка [70].
§ 3. Этот результат взят из [189].
§ 4. Для гладкого случая наиболее общий результат, близкий к
доказанному, имеется в книге Хестенса [112].
§ 5. В статье Экланда [86] содержится обзор применений теоремы.
§ 6. Этот результат впервые появился в [61].
§ 7. Двойственный вариационный принцип, составляющий основу
содержания этого и последующего параграфов, был предложен Кларком [63]; см.
также [65, 69]. Основной результат этого параграфа был получен в [71]. Десолне-
Мули дал в [82] обзор последних результатов в теории периодических
решений систем уравнений Гамильтона.
Двойственный вариационный принцип затем использовался в работах [74,
75, 3, 36, 37, 87, 88]. Глобальное существование замкнутых орбит (следствие 1)
было доказано Рабиновицем [166] и Вейнстейном [223].
§ 8. Доказанный здесь результат отличен (хотя тесно связан с ним) от
основного результата работы [74], в которой делалось предположение о
существовании решения.

СПИСОК ЛИТЕРАТУРЫ
Adams R. A. and Frank H. Clarke (Адаме и Кларк)
1. (1979). Gross's logarithmic Sobolev inequality: A simple proof, Am. J.
Math. 101, 1265—1269.
Ахиезер H. И.
2. (1955). Лекции по вариационному исчислению. M.: Гостехиздат.
Ambrosetti A. and G. Mancini (Амбросетти А., Манчини Г.)
3. (1981). Solutions of minimal period for a class of convex Hamiltonian
systems, Math. Ann. 255, 405—421.
Antosiewicz H. A. and A. Cellina (Антосевич и Челлина)
4. (1975). Continuous selections and differential relations. J. Differ, Eq. 19,
386—398.
Arnautu V. (Арнауту)
5. (1980). Characterisation and approximation of optimal control of a class
of nonconvex distributed control problems, Mathematika 22, 189—205.
Aubin J. P. (Обэн)
6. (1978a). Applied Functional Analysis, Wiley Interscience. New York.
7. (1978b). Gradients generalises de Clarke, Ann. Sci. Math. Quebec 2, 197—
252.
8. (1980a). Further properties of Lagrange multipliers in nonsmooth
optimization, Appl. Math. Optimization 6, 79—90.
9. (1980b). Contingent derivatives of set-valued maps, Math. Research
Center, Univ. of Wisconsin, Madison, Tech. Rep. 2044.
Aubin J. P., A. Cellina and /. Nohel (Обэн, Челлина и Нохел)
10. (1977). Monotone trajectories of multivalued dynamical systems, Ann. Mat.
Рига Appl. 115 (IV), 99—117.
Aubin J. P. and Frank H. Clarke (Обэн и Кларк)
И. (1977а). Monotone invariant solutions to differential inclusions, J. London
Math. Soc. 16 (2), 357—366.
12. (1977b). Multiplicateurs de Lagrange en optimisation non-convexe et
applications, Co. R. Acad. Sci. Paris 285, 451—454.
13. (1979). Shadow prices and duality for a class of optimal control problems.
SIAM J. Control Optim. 17, 567—587.
Aumann R. /. (Ауманн)
14. (1965). Integrals of set-valued functions, J. Math. Anal. Appl. 12, 1—12.
15. (1967). Measurable utility and the measurable choice theorem, La
Decision, Actes Coll. Int. du CNRS, Aix-en-Provence, pp. 15—26.
Auslender А. (Ауслендер)
16. (1977). Minimisation sans contraintes de fonctions localement lipschitzi-
ennes, Co. R. Acad. Sci. Paris 284, 959—961.
17. (1978). Differential stability in non convex and non differentiable
programming, Mathematical Programming Study 10, P. Huard, Ed. North-
Holland, Amsterdam.
Авербух В. И., Смоляное О. Г.
18. (1968) Различные определения производной в линейных топологических
пространствах//УМН.— Т. 23.—С. 67—116.

Barbu V. (Барбу)
19. (1981). Necessary conditions for nonconvex distributed control problems
governed by elliptic variational inequalities, J. Math. Anal. Appl. 80,
566—597.
20. (1982a). Boundary control problems with nonlinear state equation, SI AM
J. Control Optim. 20, 125—143.
21. (1982b). Necessary conditions for multiple integral problems in the
calculus of variation, Math, Ann. 260, 175—289.
Bartels R. H. and A. R. Conn (Бартелс и Конн)
22. (1980). Linearly constrained discrete h problems, ACM Trans. Math.
Software 6, 594—608.
Bcrkovitz L. D. (Берковиц)
23. (1961). Variational methods in problems of control and programming, J.
Math. Anal. Appl. 3, 145—169.
24. (1974a). Lower semicontinuity of integral functionals, Trans. Am. Soc.
192. 51—57.
25. (1947b). Existence and lower closure theorems for abstract control
problems, SIAM J. Control Optim. 12, 27—42.
26. (1974c). Optimal Control Theory, Springer-Verlag, New York.
Berliocchi H. and J. M. Lasry (Берлиочи и Ласри)
27. (1973). Principle de Pontryagin pour des systemes regis par une equation
differentielle multivoque, Co. R. Acad. Sci. Paris 277, 1103—1105.
Bishop E. and R. R. Phelps (Бишоп и Фелпс)
28. (1963). The support functionals of a convex set, Proceedings of the
Symposium in Pure Mathematics, V. 7: Convexity; Amer. Math. Soc, 27—35.
Blagodatskih V. I. (Благодатских В. И.)
29. (1975). Time optimal control problems for differential inclusions in Ba-
nach Center Publ. 1, Warsaw.
30. (1976). К теории достаточных условий оптимальности//ДАН СССР.—
Т. 231, № 5.—С. 1041—1044.
Bliss G. А. (Блисс)
31. (1930). The problem of Lagrange in the calculus of variations, Anf. J.
Math. 52, 673—744.
32. (1946). Lectures on the Calculus of Variations, Univ. of Chicago Press. (Рус.
пер.: Блисс Г. Лекции по вариационному исчислению —М.: ИЛ, 1950.]
Болтянский В. Г.
33. (1973). Опорный принцип в задачах оптимального управления//Диффе-
ренц. уравнения.—Т. 9, № 8.—С. 1363—1370.
Borwein J. М. (Борвейн)
34. (1986). Stability and regular points in inequality systems, JOTA, 48, 9—59.
Borwein J. M. and H. M. Strdjwas (Борвейн и Стройвас)
35. (1984). Directionaly Lipschitzian mappings on Baire spaces, Canad.
J. Math., 34, 95—130.
Brezis H. (Брезис)
36. (1980). Periodic solutions of nonlinear vibrating strings, in Proc.
AMS Symp. on the Mathematical Heritage of Poincare, Bloomington
Ind.
Brezis H., J. Coron and L. Nirenberg (Брезис, Корон и Ниренберг)
37. (1980) Free virbations for a nonlinear wave equation and a theorem of
P. Rabinowitz, Commun. Pure Appl. Math. 33, 667—684.
Brockett R. W. (Брокетт)
38. (1976). Nonlinear systems and differential geometry, Proc. IEEE 64
61—72.
Bruckner A. M. and J. L. Leonard (Брукнер и Леонард)
39. (1966). Derivatives, Am. Math. Mon. 73, 24—56.
Campbell H. F. (Кэмпбелл)
40. (1980). The effect of capital intensity on the optimal rate of extraction
of a mineral deposit, Can J. Econ. 13, 349—355.
Caratheodory (Каратеодори)
41. (1965, 1967). Calculus of Variation and Partial Equations of the First
Order, vol. 1 and 2, R. B. Dean and J. J. Brandstatter, Transl. Holden-Day,
San Francisco.
269

Castaing С. and M. Valadier (Кастен и В а ладье)
42. (1977). Convex Analysis Measurable Multifunctions, Lecture Notes in
Mathematics, No. 580, Springer, Berlin.
Cesari L. (Чезари)
43. (1971). Closure, lower closure, and semicontinuity theorems in optimal
control, SIAM J. Control Optim. 9, 287—315.
Chaney R. W. (Ченей)
44. (1982a). Second-order sufficiency conditons for nondifferentiable
programming problems, SIAM J. Control Optim. 20, 20—33.
45. (1982b). On sufficient conditions in nonsmooth optimization, Math. Oper.
Res. 7, 463—475.
46. (1983). A general sufficiency theorem for nonsmooth nonlinear
programming Trans. Am. Math. Soc. 276, 235—246.
Clark C. W., Frank H., Clarke and G. R. Munro (Кларк, Ф. Кларк и Мунро)
47. (1979). The optimal exploitation of renewable resource stocks, Econometri-
ca 47, 25—47.
Clarke Frank H. (Кларк)
48. (1973). Necessary Conditions for Nonsmooth Problems in Optimal
Control and the Calculus of Variations, Ph. D. thesis, Univ. of Washington
49. (1975a). Generalized gradients and applications, Trans. Am. Math Soc.
205, 247—262.
50. (1975b). The Euler-Lagrange differential inclusion, J. Differ. Eq. 19,80—90.
51. (1975c). Admissible relaxation in variational and control problems. J. Math.
Anal. Appl. 51, 557—576.
52. (1976a). Necessary conditons for a general control problem, in Calculus
of Variations and Control Theory, D. Russel, Ed., Mathematics Research
Center, Pub. 36, Univ. of Wisconsian, Academic Press, pp. 259—278.
53. (1976b). The generalized problem of Bolza, SIAM J. Control. Optim. 14,
682—699.
54. (1976c). A new approach to Lagrange multipliers, Math. Oper. Res. 1,
165—174.
55. (1976d). On the inverse function theorem. Рас. J. Math. 64, 97—102.
56. (1976e). The maximum principle under minimal hypothes, SIAM J.
Control Optim. 14, 1078—1091.
57. (1976). Optimal solutions to differential inclusions, J. Optim. Theory Appl.
19. 469—478.
58. (1977a). Extremal arcs and extended Hamiltonian systems. Trans. Am.
Math. Soc. 231, 349—367.
59. (1977b). Multiple integrals of Lipschitz functions in the calculus of
variations Proc. Am. Math. Soc. 64, 260—264.
60. (1977c). Inequality constraints in the calculus of variations Can. J. Math.
3. 528—540.
6i. (1978a). Pointwise contraction criteria for the existence of fixed points,
Bull. Can. Math. Soc. 21, 7—11.
62. (1978b). Nonsmooth analysis and optimization, in Proc. Int. Cong, of
Mathematician (Helsinki).
63. (1978c). Solutions periodiques des equations hamiltoniennes, Co. R. Acad.
Sci Paris 287 951 952
64. (1979a). Optimal control and the true Hamiltonian, SIAM. Rev. 21, 157—
166
65. (1979b). A classical variational principle for periodic Hamiltonian
trajectories, Proc. Am. Math. Soc. 76, 186—188.
66. (1980a). The Erdmann condition and Hamiltonian inclusions in optimal
control and the calculus of variations, Can, J. Math. 32, 494—509.
67. (1980b). The dual action, optimal control and generalized gradients, in
Mathematical Control Theory, Proc. International Semester on Optimal
Control Theory, S. Banach Mathematical Research Center.
68. (1981a). Generalized gradients of Lipschitz functionals, Adv. Math. 40,
52—67. Appeared earlier as MRS Tech. Rep. 1687, Aug. 1976 (Madison,
Wisconcin).
69. (1981b). Periodic solutions of Hamiltonian inclusions, J. Differ. Eq. 40,
1-6.
270

70. (1981c). A variational proof of Aumann's Theorem, Appl. Math. Optim. 7,
373—378.
71. (1982a). On Hamiltonian flows and symplectic transformations, SIAM J.
Control Optim. 20, 355—359.
72. (1982b). The applicability of the Hamilton — Jacobi verification Technique,
in Proc. 10th IFIP Conf. (New York, 1981), System Modeling and
Optimization Ser., no 38, Springer-Verlag, New York, pp. 88—94.
Clarke Frank H. and Masako Darrough (Кларк и Дарро)
73. (1981). Resource extraction versus capital investment under fixed
proportions: a nondifferentiable control problem, IAMS Technical Report
No. 81—2, UBC.
Clarke Frank H. and I. Ekeland (Кларк и Экланд)
74. (1980). Hamiltonian trajectiories having prescribed minimal period, Com-
mun. Pure Appl. Math. 33, 103—116.
75. (1982). Nonlinear oscillations and boundary-value problems for
Hamiltonian systems, Arch. Ration. Mech. Anal. 78, 315—333.
Clarke Frank H. and Richard B. Winter (Кларк, и P. Винтер)
76. (1983). Local optimality conditions and Lipschitzian solutions to the Ha-
milton-Jacobi equation, SIAM J. Control Optim, 21, 856—870.
Cornet В. (Корне)
77. (1981). Theorie Mathematique des Mecanismes; Dynamiques d'Allocation
des Ressources, thesis, Universite de Paris IX. France.
Dans kin J. M. (Дэнскин)
78. (1967). The Theory of Max Min, Springer-Verlag. New York.
Dasgupta P. S. and G. M. Heal (Дасгупта и Хил)
79. (1979). Economic Theory and Exhaustible Resources, Cambridge Univ.
Press, England.
Демьянов В. Ф., Малоземов В. И.
80. (1971). К теории нелинейных минимаксных задач//УМН.— Т. 26. № 3.—
С. 53-104.
Демьянов В. Ф., Рубинов Л. М.
81. (1980). О квазидифференцируемых функционалах//ДАН СССР.—Т. 250,
№ 1.—С. 21—25.
Desolneux-Moulis N. (Десолно-Мули)
82. (1979). Orbites periodiques des systemes hamiltoniens autonomes, Semin,
Bourbaki 32, N. 552.
Dunn J. С. (Данн)
83. (1967). On the classification of singular and nonsingular extremals for
the Pontryagin maximum principle, J. Math. Anal. Appl. 17, 1—36.
Edwards R. E. (Эдварде)
84. (1965). Functional Analysis, Holt. New York. [Рус. пер.: Эдварде P.
Функциональный анализ. Теория и приложения.— М.: Мир, 1969.]
ЕRoland I. (Экланд)
85. (1974). On the variational principle. J. Math. Anal. Appl. 47. 324—353.
86. (1979). Nonconvex minimization problems, Bull. Am. Math. Soc. (N. S.)
1. 443—474.
87. (1976). Periodic Hamiltonian trajectories and a theorem of Rabinowitz,
J. Differ. Eq. 34, 523—534.
Ekeland I. and J. M. Lasry (Экланд и Ласри)
88. (1980). On the number of periodic trajectories for Hamiltonian flow on
a convex energy surface. Ann. Math. 112. 283—319.
Ekeland I. and R. Temam (Экланд и Темам)
89. (1976). Convex Analysis and Variational Problems, North-Holland,
Amsterdam. [Рус. пер.: Экланд И., Темам Р. Выпуклый анализ и
вариационные проблемы.—М.: Мир, 1979.]
Федоренко Р. П.
90. (1970). Принцип максимума для дифференциальных включений//
ЖВМ и МФ.—Т. 10, Ко 6.—С. 1385—1393.
Feuer А. (Феер)
91. (1974). Minimizing well-behaved functions, 12th Allerton Conf. on Circuit
and Systems Theory, University of Illinois, Allerton, III.
271

Fillipov A. F. (Филиппов)
92. (1967). Classical Solution of differential equations with multivalued right-
hand side, SIAM J. Control Optim. 5, 609—621.
Gauvin J. (Говэн)
93. (1979). Generalized gradient of a marginal function in mathematical
programming. Math. Oper. Res. 4. 458—463.
Goldstein А А. (Голдстейн)
94. (1977). Optimization of Lipschitz continuous functions, Math. Program. 13,
14—22.
Goldstein H. (Голдстейн)
95. (1950). Classical Mechanics, Addison-Wesley, Reading, Mass. Русский
перевод: Голдстейн Г. Классическая механика.— М.: Наука, 1975.
Gollan В. (Голан)
96. (1981). Higher order necessary conditions for an abstract optimization
problem. Mathematical Programming Study, 14, pp. 69—76.
97. (1981). Perturbation theory for abstrast optimization problems, J. Optim.
Theory Appl. 35,417—441.
98. (1984). On the marginal function in nonlinear programming, Math. Oper.
Res., 9, 208—221.
99. (to appear). On the optimal value functions of optimal control problems.
Gwinner J. (Гвиннер)
100. (1981). Bibliography on non-differentiable optimization and non-smooth
analysis, J. Сотр. Appl. Math. 7, 277—285.
Halkin H. (Халкин)
101. (1972). Extremal properties of biconvex contingent equations, in Ordinary
Differential Equations (NRL — MRC Conf.), Academic Press, New York.
102. (1976). Mathematical programming without differentiability, in Calculus
of Variations and Control Theory. D. L. Russel. Ed. Academic Press, New
York, pp. 279—288.
103. (1976). Interior mapping theorem with set-valued derivative, J. d'Anal.
Math. 30, 200—207.
104. (1978). Neccessary conditions for optimal control problems with differen-
tiable or nondifferentiable data, in Mathematical Control Theory (Proc.
Conf., Australian Nat. Univ., Canberra, 1977). Lecture Notes in
Mathematics, no. 680, Springer, Berlin, pp. 77—118.
Hartl R. F. and S. P. Sethi (Хартл и Сети)
105. (to appear). Sufficient conditions for the optimal control of a class of
systems with differential inclusions and applications.
Hausmann U. (Хауссман)
106. (1981). Some example of optimal stohastic control or: the stochastic
maximum principle at work, SIAM Rev. 23, 292—307.
Havelock D. (Хавелок)
107. (1977). A Generalization of the Hamilton—Jacobi Equation. M. Sc. thesis,
Univ. of British Columbia. Canada.
Hermann R. and A. J. Krener (Херман и Кренер)
108. (1979). Nonlinear controllability and observability, IEEE Trans. Autom.
Control AC-22, 728—740.
Hermes H. (Хермс)
109. (1970). The generalized differential equation x(=R(t, x), Adv. Math. 4,
149—169.
110. (1974). On necessary and sufficient conditons for local controllability
along a reference trajectory, in Geometric Methods in Systems Theory,
R. Brockett amd D. Mayne. Eds., Reidel Publishing Holland.
111. (1982). On local controllability, SIAM J. Control Optim. 20, 211—220.
Hestenes M. R. (Хестенс M.)
112. (1966). Calculus of Variations and Optimal Control Theory. John Wiley.
New York.
Hiriart-Urruty J. В. (Ириарт-Уррути)
113. (1978). Gradients generalises de fonctions marginales, SIAM J. Control
Optim. 16, 301—316.

114. (1979). Tangent cones, generalized gradients and mathematical
programming in Banach spaces, Math. Oper. Res. 4, 79—97.
115. (1979). Refinements of necessary optimality conditions in
nondifferentiable orogramming I, Appl. Math. Optim. 5, 63—82.
116. (1979). New concepts in nondifferentiable programming, Bull. Soc. Math.
France, Memoire 60, 57—85.
117. (1980). Mean value theorems in nonsmooth analysis, Numer. Funct. Anal.
Optim 2, 1—30.
118. (1981). Optimality conditions for discrete nonlinear norm-approximation
problems, in Optimization and Optimal control (Proc. Conf., Mathematics
Research Institute, Oberwolfach, 1980), Lecture Notes in Control and
Information Science, no 30, Springer, Berlin, pp. 29—41.
119. (1981). A better instight into the generalized gradient of the absolute
value of a function, Applic. Anal. 12, 239—249.
120. (1982). Refinements of necessary optimality conditions in nondifferentiable
programming II, Mathematical Programming Study, 19, 120—139.
121. (1982). Characterizations of the plenary hull of the generalized Jacobian
matrix, Mathematical Programming Study 17, 1—12.
Hiriart-Urruty J. B. and L. Thibault
122. (1980). Existence of characterisation de differentielles generalises, Co. R.
Acad. Paris 290, 1901—1904.
Hogan W. (Хоган В.)
123. (1973). Directional derivatives for extremal—value functions with
applications to the completely convex case, Oper. Res. 21, 188—209.
Hormander L. (Хёрмандер Л.)
124. (1954). Sur la fonction d'appui des ensembles convexes dans un espace
localement convexe, Ark. Math. 3, 181—186.
Hotelling H. (Хотеллинг)
125. (1931). The economics of exhaustible resources, J. Political Economy 39,
137—175.
Хруст алев M. M.
126. (1973). Необходимые и достаточные условия для задачи оптимального
управления//ДАН СССР.—Т. 211, № 1.—С. 59—62.
Ioffe A. D.
127. (1976). An existence theorem a general Bolza problem, SIAM J. Control
Optim. 14, 458—466.
128. (1977). On lower semicontinuity of integral functionals I, SIAM J.
Control Optim. 15, 521—538.
129. (1981). Nonsmooth analysis: differential calculus of nondifferentiable
mappings, Trans. Am. Math. Soc. 266, 1—56.
Иоффе А. Д., Левин В. Л.
130. (1972). Субдифференциал выпуклых функций//Труды ММО — Т. 26.—
С. 3—73.
Иоффе А. Д., Тихомиров В. Я.
131. (1974). Теория экстремальных задач.—М.: Наука, 1974.
Janin R. (Янин)
132. (1982). Sur les misapplications qui sont des gradients generalises, Co.
R. Acad. Sci. Paris 294, 115—117.
Krener A. J. (Кренер)
133. (1977). The high order maximal principle and its applications to singular
extremals. SIAM J. Control Optim. 15, 256—293.
Lebourg G. (Лебург)
134. (1975). Valeur moyenne pour gradient generalise. Co. R. Acad. Scic. Paris.
281, 795—797.
135. (1979). Generic differentiability of Lipcshitzian functions, Trans. Am. Math.
Soc. 256, 125—144.
Lee, E. B. and L. Markus (Ли и Маркус)
136. (1967). Foundations of Optimal Control Theory, John Wiley, New York.
[Pvc. пер.: Ли Э. Б., Маркус Л. Основы оптимального управления.—
М.: Наука, 1972.]
273

Lempio, F. and H. Maurer (Лемпио и May pep)
137. (1980). Differential stability in infinite — dimensional nonlinear
programming, Appl. Math. Optim. 6, 139—152.
Luenberger, D. G. (Луенбергер)
138. (1970). Control problems with kinks, IEEE Trans. AC-15, 570—575.
Mangasarian ,0. L. (Мангасариан)
139. (1966). Sufficient conditions for the optimal control of nonlinear systems,
SIAM J. Control Optim 4, 139—152.
140. (1969). Nonlinear Programmig, McGraw-Hill, New York.
Maurer, H. (Maypep)
141. (1979). Differential stability in optimal control problems, Appl. Math.
Optim. 5, 283—295.
142. (1979). First order sensitivity of the optimal value function in mahema-
tical programming and optimal control, in Proc. Symp. on Mathematical
Programming with Data Perturbations (Washington, D. C).
McClamroch, N. H. (Мак-Кламрох)
143. (1980). State Models of Dynamic Systems, Springer Verlag, New York.
McCormik and Garth P. (Мак-Кормик и Гарт)
144. (1975). Optimality criteria in nonlinear programming, in Proc. Symp. on
Applied Mathematics, Vol. 9, R. W. Cottle, Ed, AMS, SIAM.
McLeod, R. M. (Маклеод)
145. (1965). Mean value theorems for vector-valued functions. Proc, Edinburgh
Math. Soc. 14(2), 197—209.
McShane, E. J. (Макшейн)
146. (1939). On multipliers for Lagrange problems. Am. J. Math. 61, 809—819.
Mifflin, R. (Миффлин)
147. (1977). Semismooth and semiconvex functions in optimization, SIAM J.
Control Optim. 15, 959—972.
Mirica, Stefan (Мирица)
148. (1980). A note on the generalized differentiability of mappings, Nonlinear
Anal. 4, 567—575.
Мордухович Б. Ш.
149. (1980). Метрические аппроксимации и необходимые условия
оптимальности для общих классов негладких экстремальных задач//ДАН СССР.—
Т. 234, № 5 (1980).—С. 1072—1076.
150. (1981). Штрафные функции и необходимые условия экстремума в
негладких и невыпуклых задачах оптимизации//УМН.— Т. 36.—С. 215—216.
Money, Jr. С. В. (Морри)
151. (1966). Multiple Integrals in the Calculus of Variations, Springer-Verlag,
New York.
Neustadt, L. W. (Нейштадт)
152. (1976). Optimization, Princeton Univ. Press, Princeton, N. J.
Nguyen, V. Hien, /. /. Strodiot, and R. Mifflin (Нгуен, Стродиот и Миффлин)
153. (1980). On conditions to have bounded multipliers in locally Lipschitz
programming, Math. Program. 18, 100—106.
Offin, D. (Оффин)
154. (1979). A Hamilton-Jacobi Approach to the Differential Inclusion Problem,
M. Sc. thesis, Univ. of British Columbia, Canada.
Olech, С. (Олех)
155. (1966). Extremal solutions of a control system, J. Differ. Eq. 2, 74—101.
156. (1969). Existence theorems for optimal control problems with vectorvalued
cost functions, Trans. Am. Math. Soc. 136, 157—180.
Papageorgiou, N. S. (Папагеоргиу)
157. (to appear). Nonsmooth analysis on partially ordered vector spaces. Part
2: nonconvex case, Clarke's theory, Рас. J. Math.
Peano, G. (Пеано)
158. (1892). Sur la definition de la derivee, Mathesis 2(2), 12—14. Also Opere
Scelte, Vol. 1, Edizioni Crenonese, Rome, 1957, pp. 210—212.
Polak, E. (Полак)
159. (1982). An implementable algorithm for the optimal design, centering,
tolerancing, and tuning problem, J. Optim. Theory Appl. 37, 45—68.
274

Polak, E., D. Q. Mayne and Y. Wardi (Полак, Мейн и Варди)
160. (to appear). On the extension of constrained optimization algorithms from
differentiable to nondifferentiable problems, SIAM J. Control Optim.
Polak, E. and Y. Wardi (Полак и Варди)
161. (1982). A nondifferentiable optimization algorithm for the design of con
trol systems having singular value inequalities, Automatica, 18, 267—283.
Pomerol, J. С. (Помероль)
162. (1982). The Lagrange multiplier set and the generalized gradient set of
the marginal function of a differentiable program in a Banach space, J.
Optim. Theory Apl. 38, 307—317.
Понтрягин Л. С, Болтянский В. Г., Гамкрелидзе Р. В., Мищенко Е. Ф.
163. (1961). Математическая теория оптимальных процессов.— М.: Физматгиз.
Пшеничный Б. Н.
164. (1968). Необходимые условия экстремума.— М.: Наука.
Рии, Т. (Пуу)
165. (1977). On the profitability of exhausting natural resources, J. Environ.
Econ. Manage. 4, 185—199.
Rabinowitz, P. H. (Рабиновиц)
166. (1978). Periodic solutions of Hamiltonian systems, Commun. Pure Appl.
Math. 31, 157—184.
Redheffer, R. and W. Walter (Редхеффер и Уолтер)
167. (1974). A differential inequality for the distance function in normed linear
spaces, Math. Ann. 211, 299—314.
Roberts, A. W. and D. £. Varberg (Роберте и Варберг)
168. (1974). Another proof that convex functions are locally Lipschitz, Am.
Math. Mon. 81, 1014—1016.
Robinson, S. M. (Робинсон)
169. (1976a). Regularity and stability for convex multivalued functions, Math.
Oper. Res. 1, 130—145.
170. (1976b). Stability theory for systems of inequalities, part II:
Differentiable nonlinear systems, SIAM J. Numer. Anal. 13, 497—513.
171 (1982). Generalized equations and their solutions, part II: Applications
to nonlinear programming, Math. Program. Study 19, 200—221.
Rockafellar, R. Т. (Рокафеллар)
172. (1966). Characterization of the subdifferentials of convex functions, Рас.
J. Math. 17, 497—510.
173. (1967). Conjugates and Legendre transforms of conver functions, Can.
J. Math. 19, 200—205.
174. (1968). Integrals which are convex functionals, Рас. J. Math. 24, 525—540.
175. (1968). Duality in Nonlinear Progamming, in Mathematicis of the
Decision Sciences, Part 1, G. B. Dantzig and A. F. Veinott, Eds., Lectures
in Applied. Mathematics, vol. II, Amer. Math. Soc. pp. 401—422.
176. (1969). Measurable dependence of convex sets and functions on
parameters, J. Math. Anal. Appl. 28, 4—25.
177. (1970). Convex Analysis, Princeton Mathematics Ser.. vol. 28, Princeton
Univ. Press. [Рус. пер.: Рокафеллар P. Т. Выпуклый анализ.— М.: Мир,
1973.]
178. (1970). Conjugate convex functions in optimal control and the calculus
of variations, J. Math. Anal. Appl. 32, 174—222.
179. (1970). Generalized Hamiltonian equations for convex problems of
Lagrange, Рас. J. Math. 33, 411—428.
180. (1971). Integrals which are convex functionals II, Рас. J. Math. 39, 429—
469.
181. (1971). Existence and duality theorems for convex problems of Bolza,
Trans. Am. Math. Soc. 159, 1—40.
182. (1972). State constraints in convex problems of Bolza, SIAM J. Control
Optim. 10, 691—715.
183. (1973). Optimal arcs and the minimum value function in problems of
Lagrange, Trans. Am. Math. Soc. 180, 53—83.
184. (1974). Conjugate Duality and Optimization, Conference Board of
Mathematical Sciences Ser., no. 16, SIAM Publications.
275

385. (1975). Existence theorem for general control problems of Bolza and
Lagrange, Adv. in Math. 15, 312—333.
186 (1976). Lagrange multipliers in optimization, SIAM —AMS Proc, vol. 9,
R. W. Cottle and С. E. Lemke, Eds., pp. 145—168.
187. (1976). Dual problems of Lagrange for arcs of bounded variation, in
Calculus of Variations and Control Theory, D. L. Russel, Ed., Academic Press,
New York.
188. (1976). Integral functionals, normal integrands and measurable selections,
in Nonlinear Operators and the Calculus of Variations, L. Waelbroeck,
Ed., Lecture Notes in Mathematics, no. 543, Springer, Berlin, pp. 157—207.
189. (1979). Clarke's tangent cones and the boundaries of closed sets in Rn.
Nonlinear Anal. Theor. Meth. Appl. 3, 145—154.
190. (1979). Directionally Lipschitzian functions and subdifferential calculus,
Proc. London Math. Soc. 39, 331—355.
191. (1979). La Theorie des Sous-Gradients et Ses Applications a l'Optimisa-
tion: Fonctions Convexes et Non Convexes, Collection Chaire Aisenstadt,
Presses de l'Universite de Montreal, 130 pp.
192. (1980). Generalized directional derivatives and subgradients of noncon-
vex functions, Can. J. Math. 32, 157—180.
193. (1981). The Theory of Subgradients and Its Applications to Problems of
Optimization: Convex and Nonconvex Functions, Helderman Verlag, Berlin.
194. (1982). Proximal subgradients, marginal values, and augmented Lagran-
gians in nonconvex optimization, Math. Oper. Res. 6, 427—437.
195. 0982). Lagrange multipliers and subderivatives of optimal value
functions in nonlinear programming, Math. Program. Study 17, 28—66.
196. (1982). Favorable classes of Lipschitz continuous functions in subgradient
optimization, in Nondifferentiable Optimization, E. Nurminski, Ed, Perga-
mon Press, New York.
197. (1982). Augemented Lagrangians and marginal values in parametric
optimization problems, in Generalized Lagrangian Methods in Optimization,
A. Wierzbicki, Ed., Pergamon Press, New York.
198. (1983). Marginal values and second-order conditions for optimality, Math.
Program., 26, 245—286.
199 (to appear). Directional differentiability of the optimal value functions
in a nonlinear programming problem, Math. Program. Stud.
Roxin E. (Роксин)
200. (1965). On generalized dynamical systems defined by contengent
equations J. Differ. Eg 1, 188—205.
Saks S. (Сакс)
201. (1937, 1964). Theory of Integral, Monografie Matematyczne Ser., no 7;
2nd rev. ed., Dover Press, New York. Русский перевод: Сакс: Теория
интеграла. М.: ИЛ, 1949.
Seierstad, A., and К. Sydsaeter (Сейерштад и Сидсетер)
202. (1977). Sufficient conditions in control theory, Int. Econ. Rev. 18, 367—
391
Shu-Chung Shi (Шу-Чанг Ши)
203. (1980). Remargues sur le gradient generalise, Co. R. Acad. Sci. Paris.
291, 443—446.
Spingarn, J. E. (Спингарн)
204. (1981). Submonotone subdifferentials of Lipshitz functions, Trans. Am.
Math. Soc. 264, 77—89.
Strodiot J. J., and V. Hien Nguen (Стродиот и Нгуен)
205. (1979). Caracterisation des solutions optimales en programmation non
differentiable, Co. R. Acad. Sci. Paris 288, 1075—1078.
Thibault L. (Тибо)
206. (1979). Cones tangents et epi-differentiels de fonctions vectorielles. Trav.
Sem. Anal. Convexe 9(2), Exp. no. 13.
207. (1982). Subdifferentials of nonconvex vector valued functions, J. Math.
Anal. Appl. 86, 319—344.
208. (1982). On generalized differentials and subdifferentials of Lipschitz
vector-valued functions, Nonlinear Anal. Theor. Math. Appl. 6, 1037—1053.
276

Treiman, J. S. (Трейман)
209. (1983). Characterization of Clarke's tangent and normal cones in finite and
infinite dimensions, Nonlinear Anal., 7, 771—783.
Ursescu С. (Урсеску)
210. (1975). Multifunctions with closed convex graph. Cech. Math. J. 25, 438—
441.
Winter R. В. (Винтер)
211. (to appear). The equivalence of strong calmness and calmness in optimal
control theory. J. Math. Anal. Appl.
Vinter R. В., and R. M. Lewis (Винтер и Льюис)
212. (1978). A necessary and sufficient conditions for optimality of dynamic
programming type, making no a priori assumptions on the control, SI AM
J. Control Optim. 16, 571—583.
213. (1980). A verification theorem which provides a necessary and sufficient
condition for optimality, IEEE Trans. Autom. Control AC-25, 84—89.
Vinter R. В., and G. Papas (Винтер и Папас)
214. (1982). A maximum principle for non-smooth optimal control problems
with state constraints, J. Math. Anal. Appl. 89, 212—232.
Wagner D. H. (Вагнер)
215. (1977). Survey of measurable selection theorem, SI AM J. Control Optim.
15, 859—903.
Ward A. L. (Вард)
216. (1935). Differentiability of vector monotone functions, Proc. London Math.
Soc. 39(2), 339—362.
Warga, J. (Варга)
217. (1962). Relaxed variational problems, J. Math. Anal. Appl. 4, 111—128.
218. (1972). Optimal Control of Differential and Functional Equations.
Academic Press, New York. [Рус. пер.: Варга Дж. Оптимальное управление
дифференциальными и функциональными уравнениями.— М.: Наука,
1977.]
219. (1976). Derivative containers, inverse functions and controllability, in
Calculus of Variations and Control Theory, D. L. Russel, Ed. Academic Press,
New York, pp. 13—46.
220. (1978a). Controllability and a multiplier rule for nondifferentiable
optimization problems, SIAM J. Control Optim 16, 803—812.
221. (1978b). An implicit function theorem without differentiability, Proc. Am.
Math. Soc. 69, 65—69.
Watkins G. G. (Уоткинс)
222. (to appear). Clarke's tangent vectors as tangents to Lipschitz continuous
curves.
Weinstein А. (Вейнстейн)
223. (1978). Periodic orbits for convex Hamiltonian systems, Ann. Math. 108,
507—518.
Wierzbicki A. P. (Вержбицкий)
224. (1972). Maximum principle for semiconvex performance functionals, SIAM
J. Control Optim. 10, 444—459.
Wolfe P. and M. L. Balinski (Вольф и Балински)
225. Eds (1975) «Nondifferentiable Optimization» Mathematical Programming
Study 3, North-Holland, Amsterdam.
Yorke J. (Иорк)
226. (1971). Another proof of the Liapounov convexity theorem. SIAM J.
Control Optim. 9, 351—353.
Young L. С. (Янг)
227. (1969). Lectures on the Calculus of Variations and Optimal Control
Theory, Saunders, Philadelphia. [Рус. пер.: Л. Янг. Лекции по
вариационному управлению. М.: Мир. 1974.]
Zeidan V. (Зейдан)
228. (1982). Sufficient Conditions for Optimal Control and the Calculus of
Variations, Pn. D. Thesis, Univ. of Britsh Colombia, Canada.
229. (1983). Sufficient conditions for the generalized problem of Bolza, Trans.
Am. Math. Soc. 275, 561—586.

алфавитный указатель
Абсолютное значение 34
Антипода л ьность 258
Аппроксимирующая прямая 10 , 53
Банах С . 85 , 248
Банахово пространство 31
Биргоф Дж . 250
Бишоп Е . 246
Б лисе Г . 27
Вариационный принцип 15
, двойственный 257
Винтер Р . 113
Возмущение 16 , 133 , 139 , 207
Выпуклая функция 40
Выпуклая энергетическая поверхность 251
Гамильтониан 27 , 28
— в задаче Больца 155
— в задаче для дифференциального
включения 114
— в задаче управления 28
— для краевой задачи 251 , 258
— множители 114
— постоянство 123 , 156 , 196 , 251
Геодезическая 252 , 257
Гиперкасательные 59 , 94
Действие 16 . 250
— двойственное 16 , 250 , 258
Дифференциальное включение 23 . 104
гамильтоново 29 , 115 , 156 , 237
Дифференцирование сложной функции 47 ,
50 , 72 , 100
Дифференцируемость
— непрерывная 38
— строгая 37
Достаточные условия , 26 , 29
Достаточные условия , в задаче Больца 163
в задаче для дифференциального
включения 144
в задаче управления 201
Задача автономная 142 , 196
— Ьольца 21 . 153 , 201
— Дидоны 178
— Коши 11 , 242
— Майера 173 , 205
— для дифференциального включения 23 , 113
278
Задача математического
программирования 209
— минимизации кратного интеграла 181
— многокритериальная 212
— обобщенная 162 , 206
— о добыче полезных ископаемых 123
— о линейном регуляторе 197
— с нефиксированным временем 141 , 196
— управления 22 , 194
— эквивалентность 23 , 202
Зейдан В . 30 , 163 , 201
Измеримость 154
Измеримый селектор 105 , 154
Иоффе А . Д . 76
Ириарт - Уррути Ж . Б . 87 , 91
Касательная 11 , 19 , 54
— в выпуклом анализе 56
— к множеству уровня функции 58 , 102
— к пересечению множеств 100
— к произведению множеств 57
Конус касательный 19 , 54 , 56
— контингентный 57
— нормальный 19 . 54 . 55 , 68
Кратный интеграл 181
Кривая 22 , 107
— кусочно - гладкая 173
Критерий Данфорда — Петтиса 192 , 236
Лагранжиан 26
— , выпуклость 29 , 165
— , условие роста 166
Лебург Г . 46
Левин В . Л . 76
Лемма Дюбуа — Реймона 119
Линеаризация 243
Линейный регулятор 197
Макшейн Е . 27
Математическое программирование 209
Многозначное отображение 23 , 35 , 105
, график 35
замкнутое 35
измеримо липшицевое 107
измеримое 105
, интеграл 106 , 236
интегрально ограниченное 106
липшицевое 106
монотонное 43
полунепрерывное сверху 36
, селектор 105 , 154

Многозначное отображение соответствующая
функция расстояния 107
Множество достижимости 141 , 185
— регулярное 57 , 58 , 61
— эпилипшицевое 241
Множитель 114 , 134 , 216
Надграфик 20 , 60
— липшицевой функции 241
Направление спуска 214
Негладкий анализ 9
Необходимые условия 26 , 27
в задаче Больца 29 , 156 , 174
в задаче для дифференциального
включения 28 , 115 , 138
в задаче математического
программирования 210 , 213
в задаче минимизации кратного интег -
4 рала 182
в задаче с ограничениями типа
неравенств 173
в задаче управления 28 , 195
в терминах лагранжиана 172
Неподвижные точки 248
Норма 32 , 69
— в С 11 , 85
— евклидова 66
Нормаль 19 , 54 , 68
— в выпуклом анализе 55
— в конечномерном пространстве 68
— к множеству уровня функции 58 , 102
— к пересечению множеств 100
— к произведению множеств 57
Нормальность 138 , 216
— слабая 133
Нуль - управляемость 183
Обобщенный градиент абсолютного
значения 34
асимптотический 97
в точке экстремума 43 , 63
вариационного функционала 79
гамильтониана 114
интегрального функционала 77 , 80
линейной комбинации функций 43 , 98
максимального собственного числа 90
неопределенного интеграла 40 , 46
, непустота 93
, определение 18 , 34
относительный 213
поточечного максимума 51 , 83 , 88
произведения и отношения функций 52
, расширенное определение 62 , 91
сложной функции 47 , 50 , 72 , 100
функции оптимального значения 134 ,
208 , 222
функции расстояния 67
частный 52 , 65 , 83 , 114
Обобщенный якобиан 69
Обэн Ж - П . 76 , 86 , 91 , 218
Оптимум по Парето 212
Орбита 257
Острое множество 134 , 222
Отображение сжимающее 248
по направлениям 248
Паппас Г . 113
Парадигма 6 , 21
Полак Е . 213 , 216
Полная оболочка 243
Поляра 253
Понтрягин Л . С . 27 , 184 , 194
Правило множителей 27 , 172 , 210 , 212
— — Лагранжа 210 , 213
Предположения основные в задаче Больца
155
Предположения основные в задаче для
дифференциального включения 113
в задаче математического
программирования 210
в задаче управления 185
Преобразование Лежандра 28
— Фенхеля 28
Принцип максимума 27 , 194
, варианты 196
Производная Адам ара 37
— Гато 37
— Дини 223
— по направлению 36
обобщенная 17 , 32 , 92
— строгая 37
— Фреше 37
Псевдогамильтониан 27 , 184 , 194
Псевдонормальность 207
Пуанкаре А . 250
Разрешимость и сюръективность 228 см .
также Возмущение
Резольвента 243
Робинсон С . 218
Рокафеллар Р . Т . 30 , 59 , 69 , 91 , 154 , 211
Свойство штрафа 226
Симплектическая матрица 253 , 258
Собственное число 13 , 90
Сопряженное пространство 34
Сопряженное уравнение 195
Сопряженные точки 30 , 165
Субдифференциал 18 , 41
Существование решения 26 , 29
в задаче Больца 167
для дифференциального включения
113
управления 204
Теорема Ауманна 106 , 236
— Ауманиа о селекторе 154
— Радемахера 63
— Экланда 245
— об обратной функции 233
— о минимаксе 76
— о неявной функции 235
— о среднем значении 46
— о среднем значении для вектор - функции
72
— Тонелли о существовании 29
— Хана — Банаха 34
Точного штрафа метод 15 , 55 , 220
Траектория 108 , 185 , 258
— . компактность множества 111
— обобщенная 110
Трубка 107
Угловая точка 173
Управление 22 , 185
Управляемость 26 , 138 , 185 , 207
Уравнение Гамильтона — Якоби 30 , 145 , 208
— обобщенное 146
Уравнение Эйлера — Лагранжа
Уравнения Гамильтона 16 , 27 , 250
Урсеску Ч . 218
Условие Вейерштрасса 26 , 172
— выпуклости 155
— дополняющей нежесткости 210
— Липшица 17 , 32
строгое 156
— роста 29 , 166
— трансверсальности 115 , 172 , 195
279

Условие Эрдманна 172
— Якоби 165
Условия второго порядка 230
Условия регулярности ограничений 216
— Мангасариана — Фромовица 217 , 219
— Слейтера 217 , 219
Устойчивость 156 , 162 , 219 , 220
— локальная 224
Фазовые ограничения 185
Фелпс Р . 246
Филиппов А . Ф . 24 , 195 , 205
Функция евклидова расстояния 66
- - индикаторная 63
— Лагранжа 210
— липшициевая 32
по направлению 94
— Минковского 251
— опорная 35 , 237
— оптимального значения 14 , 133 , 207 , 220 ,
221
, дифференцируемость 222
, производная по направлению 222
, свойство липшицевости 135 , 222
— расстояния 11 , 15 , 54
— регулярная 44
Чувствительность 218
Шар единичный 32
Эйлер Л . 227
Энергетическая поверхность 251
Янг Л . 23 , 104

Ф . КЛАРК
ОПТИМИЗАЦИЯ
и
НЕГЛАДКИЙ
АНАЛИЗ