Text
                    В.А. МОРОЗОВ

РЕГУЛЯРНЫЕ
МЕТОДЫ РЕШЕНИЯ
НЕКОРРЕКТНО
ПОСТАВЛЕННЫХ
ЗАДАЧ

МОСКВА ’’НАУКА”

ГЛАВНАЯ РЕДАКЦИЯ
ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ
1987

ББК 22.19 М80 УДК 519.6 Морозов В.А. Регулярные методы решения некоррект- но поставленных задач. - М.: Наука. Гл. ред. физ.-мат. лит., 1987. - 240 с. Вопросы регуляризации некорректно поставленных задач имеют как теоретическое, так и практическое значение, поскольку некор- ректно поставленные задачи часто возникают на практике и в различ- ных областях науки - в физике, механике и др. Книга содержит систематизированное изложение важнейших результатов по регуля- ризации. Для научных работников в области прикладной математики. Ил. 4. Библиогр. 147 назв. Рецензент доктор физико-математических наук О.М. Алифанов 1702070000 -086 М 053 (02)-87 26'87 ©Издательство ’’Наука”. Главная редакция физико-математической литературы, 1987
Введение ..................................................... 5 ГЛАВА 1. ОСНОВЫ МЕТОДА РЕГУЛЯРИЗАЦИИ......................... 16 § 1. Основная задача..................................... 16 § 2. Аппроксимация решения основной задачи............... 22 § 3. Вариационное неравенство Эйлера. Оценки точности. 26 § 4. Устойчивость регуляризованных решений................ 30 § 5. Аппроксимация допустимого множества. Выбор базиса ... 35 ГЛАВА 2. КРИТЕРИИ ВЫБОРА ПАРАМЕТРА РЕГУЛЯРИЗАЦИИ. . 43 § 6. Некоторые свойства регуляризованных решений......... 43 § 7. Методы выбора параметра при точных данных........... 49 § 8. Метод невязки и метод квазирешений при точных данных. . 52 § 9. Свойства вспомогательных функций.................... 55 § 10. Критерии выбора параметра при неточных данных....... 58 ГЛАВА 3. РЕГУЛЯРНЫЕ МЕТОДЫ РЕШЕНИЯ ЛИНЕЙНЫХ И НЕЛИНЕЙНЫХ ЗАДАЧ............................................. 68 §11. Регулярность приближенных методов................... 68 §12. Теория точности регулярных методов.................. 72 § 13. Вычисление оценочной функции........................ 76 §14. Примеры регулярных методов.......................... 85 § 15. Принцип оптимальности невязки для уравнений с нелиней- ными операторами........................................ 93 §16. Метод регуляризации для нелинейных уравнений....... 102 ГЛАВА 4. ЗАДАЧА ВЫЧИСЛЕНИЯ И ОБЩАЯ ТЕОРИЯ СПЛАЙНОВ 114 § 17. Задача вычисления и проблема идентификации параметров 114 § 18. Свойства сглаживающих семейств операторов.......... 123 § 19. Оптимальность алгоритмов сглаживания............... 127 § 20. Задача дифференцирования и алгоритмы приближения экспериментальной информации............................. 132 § 21. Теория сплайнов и задача устойчивого вычисления значений неограниченного оператора................................ 148 § 22. Приближенное решение операторных уравнений методом сплайнов................................................. 164 § 23. Восстановление решения основной задачи по приближен- ным значениям функционалов .............................. 170
ГЛАВА 5. РЕГУЛЯРНЫЕ МЕТОДЫ ДЛЯ СПЕЦИАЛЬНЫХ СЛУЧАЕВ ОСНОВНОЙ ЗАДАЧИ. АЛГОРИТМЫ ВЫБОРА ПАРА- МЕТРА РЕГУЛЯРИЗАЦИИ........................................... 184 §24. Псевдорешения....................................... 184 §25. Оптимальная регуляризация........................... 198 § 26. Численные алгоритмы выбора параметра регуляризации 209 § 27. Эвристические методы выбора параметра регуляризации 220 §28. Исследование адекватности математических моделей.. 223 Список литературы............................................ 234
ВВЕДЕНИЕ Ряд задач математической физики сводится к необходимости решения уравнений вида Ли=Л /GF, (1) где A: DA £ U -> £ — оператор с непустой областью определе- ния DA, действующий из метрического пространства Uв аналогич- ное пространство F. Задание пространств U и F является необхо- димым элементом математической постановки задачи (1), в тесной связи с которым находится важное определенйе ее корректности. Именно, Ж. Адамару [106, 107] принадлежит следующее опреде- ление: задача (1) называется корректно поставленной (или кор- ректной) , если выполнены условия: 1) область значений QA оператора А совпадает с F (условие разрешимости); 2) равенство Аих = Аи2 для некоторых ии и2 G DA влечет ра- венство и i =«2 (условие единственности); 3) обратный оператор А"1 непрерывен на F (условие устойчи- вости) . Выполнение условий 1)- 3) корректности по Адамару казалось настолько естественным для всякой разумной математической задачи, что Адамар высказал мысль о нефизичности любой некор- ректной, т.е. не удовлетворяющей всем требованиям 1) - 3) задачи. Ему же принадлежит классический пример некорректной задачи — задачи Коши для уравнения Лапласа, который приводится в любом курсе математической физики. Как впоследствии оказалось, необ- ходимость решения именно этой задачи возникает в самых разно- образных областях математики и естествознания в целом. Так, к решению задачи Коши для уравнения Лапласа сводится проблема продолжения аналитических и гармонических функций, ряд гео- и биофизических задач, задачи обтекания тел сверхзвуковым потоком и др. Задача Коши для уравнения Лапласа стала модельной в многочисленных научных исследованиях в 50-е годы [35, 110]. Приблизительно в то же время бурно начали развиваться общая теория и методы решения некорректных (неустойчивых) задач. 5
Это развитие связано с именами видных советских математиков А.Н. Тихонова, Г.И. Марчука, М.М. Лаврентьева, В.К. Иванова, а также с созданной ими математической школой, во многом определившей пути развития теории некорректных задач, ставшей одним из самых плодотворных направлений современной вычисли- тельной математики. Интенсивное развитие методов решения неустойчивых задач было предопределено широким внедрением ЭВМ в математические исследования и в народное хозяйство, что в свою очередь, по зако- ну обратной связи, вызвало поток разнообразнейших задач, решить которые было необходимо в кратчайшие сроки. Потребовалось развитие новых приближенных методов, которые могли быть при- менены для решения существенно более широкого класса задач, не стесненного жесткими рамками корректности их математичес- кой постановки. Только при этом условии можно было справиться с задачами (в основном, неустойчивыми), поставляемыми геофи- зикой, спектроскопией, электронной микроскопией, автоматичес- ким регулированием, теплофизикой, гравиметрией, электродина- микой, оптикой, ядерной физикой, теорией плазмы и другими областями науки и техники. Предпосылки развития приближенных методов решения некор- ректных задач были заложены в фундаментальной работе А.Н. Ти- хонова [89], где введен важный класс так называемых обратных задач, связанных с восстановлением количественных характе- ристик среды по порождаемым ею физическим полям, доступным для измерения. К обратным задачам (как правило, некорректным) сводятся многие задачи теории и практики обработки физического эксперимента, восстановления неизвестных параметров по некото- рой системе функционалов от решений [46, 76] и др. А.Н. Тихонову принадлежит следующее обобщение классическо- го (по Адамару) понятия корректности, в основе которого лежит фундаментальная идея сужения области определения исходного оператора [89]. Именно, задача (1) называется корректной по Тихонову (условно корректной) , если: 1') априори известно, что решение задачи (1) существует для некоторого класса данных из F и принадлежит априорно заданному множеству М С DA ; 2') решение единственно в классе М; 3\) бесконечно малым вариациям правой части (1), не выводя- щим решение из класса М, соответствуют бесконечно малые вариа- ции решения. Множество М называют множеством корректности. Впервые А.Н. Тихонов обратил внимание на следующую топологическую теорему, дающую достаточные условия для корректности зада- 6
чи (1) в его смысле и играющую в теории методов решения некор- ректных задач важную роль. Теорема (об устойчивости обратного оператора). Если не- пустое множество М QDa - компакт и удовлетворяет условиям 1') и 2'), то при непрерывном А обратный к нему оператор Л”1, рассматриваемый на образе множества М, является непрерывным. Как заметил М.М. Лаврентьев [37], при выполнении условий теоремы существует непрерывная неубывающая функция сс(т) = = сэ(т; М), т> 0, щ(0) = 0 такая, что для любых м, v изМ, для кото- рых pF(Au, Av) < т, имеет место оценка: pCi(u, v) ^сс(т). Здесь ри и pF обозначают расстояния в метрических пространствах U и F соответственно. Функцию сэ(т) часто называют функцией коррект- ности (или устойчивости) задачи (1) на множестве М. Очевидно, функция щ(т) равна модулю непрерывности оператора А~1 на образе М. Обобщения этой теоремы на метрические и топологические пространства в случае замкнутого оператора Л получены В.К. Ива- новым [22, 27], а в случае необратимого оператора - О.А. Лисков- цом [44]. Локальный вариант этой теоремы рассмотрен в [53]. Теорема А.Н. Тихонова об устойчивости обратного оператора, показывая возможность устойчивого решения (1), еще не опре- деляет метода решения. Трудность заключается в том, что на прак- тике обычно не выполняется условие принадлежности задаваемой приближенно правой части f уравнения (1) образу оператора Л на множестве М, т.е. уравнение (1) неразрешимо при заданном М.М. Лаврентьев показал [37], что при определенных условиях на оператор Л можно заменить задачу (1) на близкую, но уже разрешимую при любых f Е F. При этом существенным момен- том приближенного решения (1) являлось необходимое знание как точности задания элемента /, т.е. оценки уклонения PF(f,f}^ < 5, так и функции корректности со(т). Это позволило М.М. Лав- рентьеву указать алгоритм построения таких приближений и G U, для которых р^й, и) ->0, когда pF (f9f)-*O (где и - решение (1), принадлежащее компакту М), для достаточно широкого класса задач. При аналогичных условиях задача рассматривалась Джо- ном [108]. В.К. Иванов, используя некоторые идеи математического программирования, продвинулся дальше. Именно, в работах [20. 21] он избавился при приближенном решении (1) от задания функ- ции корректности сэ(т). Вместе с тем не требовалось и знания 5, характеризующего точность задания правой части (1). Однако метод В.К. Иванова требовал задания компактного множества М, т.е. множества корректности задачи (1).
Приближенные решения, названные В.К. Ивановым квазиреше- ниями, определялись как элементы и G М, на которых PF(Au,f) = min pF(Avj\ vG М Существование квази решений для любого f Е F при непрерыв- ном А и условии компактности М следует из того, что непрерывная функция ^(м) = pF (Au, f) (и Е М) на компакте достигает своей нижней грани. Сходимость непосредственно следует из теоремы о непрерывности обратного оператора. Метод квазирешений имеет наглядную геометрическую интерпретацию, что послужило отправ- ным пунктом для ряда исследований. В случае, когда U и F гиль- бертовы, аМ = MR = {и Е U: || и||t;<R} - слабый компакт, метод квазирешений сводится к необходимости решения операторного уравнения второго рода (Х£ + 4*Л)мЛ =Л*Л Х>0. и определению параметра Лагранжа X из условия: II Н^г = К (О </? < + °°). Слабая сходимость и\ к и обеспечена, если и Е Mr . Дуглас [104] применил метод квазирешений для численного ре- шения интегральных уравнений Вольтерра первого рода. Нетрудно видеть, что квазирешение обобщает классическое по- нятие решения уравнения Аи-f (и ЕМ). Метод квазирешений обобщался как В.К. Ивановым, так и дру- гими авторами в различных направлениях. В частности, эти обобще- ния состояли в отказе от требования единственности решения (1), а также непрерывности оператора А. В работе [61], в частности, не требовалась компактность множества М при построении квази- решений. См. также [28, 29, 45]. Существенному продвижению теории решения некорректных задач способствовал метод регуляризации, предложенный А.Н. Ти- хоновым [90, 91 ]. По существу, общая теория решения некоррект- ных задач была заложена на основе этих работ. Метод регуляриза- ции Тихонова основан на радикальной идее о стабилизации мини- мума уклонения значений Аи от заданной правой части f при помощи некоторого вспомогательного неотрицательного (сглажи- вающего) функционала Q (и), определенного на некоторой части Uq Q Da, которая сама является метрическим пространством. Требуется, чтобы множества Мс = {и Е UQ: Щи) <С} были ком- пактны в U при любом ОО. Относительно решения (1) предпо- лагается, что оно содержится в Мс при некотором значении С < +<» Тогда решается задача минимизации по и Е UQ параметрического функционала Тихонова Ma[u\f] = Pp(Au,f) +aQ2(w), а>0.
Решение этой задачи йа при определенном выборе параметра регуляризации а ~ а(6) принимается за приближение к искомому решению и. Доказывается, что при равномерной по 6 ограничен- ности отношения 5/\/сГэлементы йа ~+и в пространстве U при 6 -*0. В дальнейшем А.Б. Бакушинскому [3] и В.А. Морозову [50] уда- лось доказать сходимость йа -> и в основном пространстве £/0> если 0 и Uq — гильбертово. Метод регуляризации А.Н. Тихонова оказался необременитель- ным на практике, так как не требовал фактического задания ком- пакта М, в котором содержится искомое решение уравнения (1). При линейном А и гильбертовых U и F метод регуляризации сво- дился, как и при применении метода М.М. Лаврентьева, к решению уравнения второго рода: (аЕ + А*А)иа = A*f9 а> 0, и выбору параметра а. В случае нелинейного А требовалась мини- мизация параметрического функционала, определенного ранее. Основная трудность применения метода регуляризации заключа- лась в формулировке алгоритмических принципов выбора парамет- ра регуляризации а. Этим вопросам посвящен ряд работ автора. Так, в [50] при основных предположениях Тихонова предложен и обоснован способ выбора параметра а по значениям функционала Afa[w; /] на регуляризованных решениях йа из условияМа[йа-9 /] = = 52 (метод стабилизирующего функционала). Для нелинейного случая этот метод обоснован в [53]. В работах [51, 52] для линейных операторных уравнений был предложен и обоснован выбор параметра регуляризации в соот- ветствии с принципом невязки (целесообразность применения это- го принципа отмечалась также в работе [16]), являющимся пере- несением широко используемого на практике критерия точности приближенных решений на некорректны^ задачи. Именно, параметр регуляризации рекомендовалось выбирать из условия р(а) = - PF(Aua, /) =6. Этот же принцип был обоснован и при прибли- женном задании оператора А. Его уточнение было получено в [10]. Эффективные численные алгоритмы выбора параметра регуля- ризации, непосредственно реализуемые на практике, были получе- ны в работах [72, 79]. Это позволило осуществить и внедрить в практику вычислений ряд программ, написанных на языке фортран. Существенный эффект при этом достигается за счет при- менения метода В.В. Воеводина для решения регуляризованной задачи [8, 9]. Дальнейшему развитию метода регуляризации посвящен целый ряд работ: [3, 6, 7, 12, 18, 33, 44, 48, 79, 86-97]. Специальной
формой метода выбора параметра в соответствии с принципом невязки является метод невязки (или принцип невязки) в форме неравенства. Некоторые рекомендации по использованию этого метода содержатся в работах Л.В. Канторовича [32] и Д.Ф. Фил- липса [111]. Теоретического обоснования этого подхода в указан- ных работах нет. Близкая идея была высказана в [14], но она прак- тически трудно реализуема. В достаточно общей форме метод невязки был исследован и обоснован в работах [15, 23, 52]. В дальнейшем были выполнены исследования [7, 13, 55] и др. Суть метода состоит в следующем. Пусть U - {и е. Da : pf(Au, /) < 6}. Очевидно, что при условии разрешимости (1) множество U непусто и содержит все формаль- ные решения (1). Задаваясь, как и в методе регуляризации, неко- торым неотрицательным функционалом £2, можно сформулиро- вать принцип выбора содержательных решений й, удовлетворяю- щих условию Щи) = min Q(w). ue и Оказывается, этот метод дает сходящиеся приближения к решению (1) при достаточно общих условиях относительно оператора А и функционала Щи). Решение сформулированной задачи при приме- нении метода множителей Лагранжа часто удается свести к реше- нию задачи на безусловный минимум функционала Фх[м] = = XpF(Au, f) + Sl(u) (и G Uo) и определению подходящего зна- чения множителя Лагранжа из условия 6 = р0(Х) = PF(Au\f) (ик - экстремаль Фх), т.е. определяется в соответствии с принци- пом невязки. Связь различных вариационных подходов наиболее полно была изучена в [6]. Некоторые аспекты этой проблемы обсуждались также в работах. [23, 58]. В специфической форме регуляризация решений осуществляется в случае наличия случайных помех в заданном /. Тесная связь ме- тода регуляризации и оптимальной фильтрации по Винеру под- черкнута М.М. Лаврентьевым, В.Г. Васильевым [39]. Эта идея использована В.Я. Арсениным [1, 2] для оптимизации вычисления коэффициентов метода Фурье и выбора параметра регуляризации при решении интегральных уравнений типа свертки. Автором эта задача была рассмотрена в [60], где для различных классов реше- ний и случайных возмущений даны неулучшаемые оценки точности получаемых приближений. Там же сформулирована задача реали- зации оптимальных алгоритмов и показано, что метод регуляриза- ции дает неулучшаемую по порядку точность на классах возмож- 10
ных решений. Статистическая регуляризация систем линейных ал- гебраических уравнений на базе последовательных байесовских решений изучена в работе Е.Л. Жуковского и автора [17]. См. также [81, 105]. Важное место р общей теории метода регуляризации занимает проблема оценки приближенных решений. Некоторые результаты в этом отношении были получены в работах В.В. Иванова [18, 19] и автора [52, 53]. При этом изучалось влияние ошибок в задании как /, так и А. Общие приемы оценки точности методов решения некорректных задач были предложены Р. Денчевым [11] ив рабо- тах В.К. Иванова [28, 31] при рассмотрении (1) на специальном компакте. Для несколько более общей задачи эта методика была обоснована в [61]. Там же приведены многочисленные приме- ры применения метода оценок В.К. Иванова к различным слу- чаям (1). В связи с проблемой регуляризации В.К. Иванов сформулировал задачу нахождения максимальных множеств корректности зада- чи (1). При этом он обратил внимание на принципиально различное поведение приближенных алгоритмов регуляризации в ’’точке” и ’’равномерных”. Как оказалось, точечная регуляризация имеет место в широком классе банаховых пространств типа гильберто- вых, обладающих свойством равномерной выпуклости и свойст- вом Ефимова-Стечкина [30]. Примерами таких пространств яв- ляются пространства Lp (р > 1) и ряд других. Важной проблемой теории регуляризации, поставленной В.К. Ивановым, является выяснение зависимости а = а(6), необходимой и достаточной для сходимости регуляризованных решений в различных пространствах [25, 26]. Автором этот вопрос решен для специфической некор- ректной задачи - задачи вычисления значений неограниченного оператора [67]. Сформулируем эту задачу. Пусть на множестве DL CU задано отображение L, действующее из U в метрическое пространство G. Задача вычисления значений оператора L заключается в определении элемента g=Lu (2) по заданному элементу й Е U. Задача (2) называется корректной, если: а) отображение L является (однозначным) оператором; б) Dl = и - в) оператор L непрерывен на U. В противном случае задача вычисления (2) называется некор- ректной (в работе [30] В.К. Иванов рассматривал задачу вычисле- ния с многозначным оператором L). Нетрудно видеть, что задача вычисления неограниченного L является некорректной. Различные
случаи этой задачи были рассмотрены в работах [54, 55, 61]. В [76, 62] алгоритмы устойчивого вычисления значений неограниченно- го оператора, построенные на основе развитого автором аппарата сглаживания, были использованы для обоснования численных методов определения параметров, входящих в операторное урав- нение, по приближенно заданному его решению (так называемая обратная коэффициентная задача). В.Н. Страхов в связи с (2) поставил в [85] задачу определения наилучшей достижимой точ- ности при вычислении g и отыскания соответствующего оптималь- ного алгоритма. Эта задача им решена для упрощенного метода регуляризации. При этом требовалась максимальная априорная информация как о точности задания 6, так и о принадлежности и к классу корректности М. При более слабых априорных предпо- ложениях автор указал оптимальный по порядку алгоритм вычис- ления [67]. Там же даны неулучшаемые оценки точности этого алгоритма и сформулирована общая задача построения оптималь- ных по порядку алгоритмов при минимальных априорных предпо- ложениях. Этот подход автора нашел развитие в дальнейших рабо- тах В.Н. Страхова, в частности [86]. Отметим, что общая задача оптимизации алгоритмов рассматривалась Н.С. Бахваловым [5] и С.Б. Стечкиным [84]. Важным классом некорректных задач (1) являются так назы- ваемые задачи на спектре (например, задача Неймана для уравне- ния Лапласа). В связи с решением этого класса задач автором была специально развита теория псевдорешений [56, 57]. При этом общие схемы регуляризации существенно уточняются и получают законченные формулировки. В развитую теорию вкладываются методы решения неустойчивых (плохо обусловленных, вырожден- ных) систем линейных алгебраических уравнений. В общей теории псевдорешений не требуется классическая разрешимость (1). Аналогичные вопросы для систем линейных алгебраических уравне- ний изучены В.В. Воеводиным [9]. В настоящей книге рассматривается обобщенная схема решения как уравнения (1), так и задачи вычисления (2) на основе подхода, впервые предложенного в [76]. Соответствующую задачу назовем задачей вычисления значений оператора (2) на решениях оператор- ного уравнения (1) . Общая формулировка ее следующая. Пусть = Au=f}(~>DL Фф. Допускается, что множество U состоит более чем из одного элемен- та. Требуется вычислить значение g = Lu на некотором элементе и Е U. Обычно задается некоторый фиксированный элемент g * и
вычисляется тот элемент g = Lu, для которого PG g*) = min_ pG (Lu, g*). (3) U Задача (3) называется корректно поставленной {корректной), если обе задачи (1) и (2) корректно поставлены. Можно привести много доводов о целесообразности именно такой постановки математической задачи (некоторые из них при- водятся в основном тексте) даже в случае корректности обеих за- дач (1) и (2) . Ряд задач оптимального управления [41 ], как легко видеть, сводится к решению (3). Мы только заметим, что при L, равном единичному оператору Е, задача (3) совпадает с (1), а при А = Е — с задачей (2). Рассмотрение задачи (3) устраняет извест- ный параллелизм, наметившийся в научной литературе по некор- ректным задачам и связанный с раздельным рассмотрением за- дач (1) и (2). Далее в основном требуется разрешимость задачи (1) лишь в смысле метода наименьших квадратов. Это вносит определенную специфику в формулировки численных методов. Выделены доста- точно общие условия (по мнению автора, близкие к необходимым), при которых возможно построение регулярных приближенных ре- шений основной задачи (3). Изучен широкий круг регулярных методов, в том числе и таких, которые еще не рассматривались в литературе. Изучено влияние погрешностей в задании как опера- тора А, так и оператора L. Особое внимание уделено оценкам точ- ности рассматриваемых регулярных методов решения основной задачи. Корректность задач (1) и (2) в общем случае не предпола- гается. При наличии этого свойства полученные результаты сущест- венно уточняются. Рассмотрение несовместных уравнений (1) позволяет поставить и решить ряд задач, связанных с предваритель- ной оценкой адекватности математической модели (1) на основе произведенных наблюдений [67, 74]. Решение этого вопроса весьма важно на практике, особенно при оценке адекватности новых мате- матических моделей. Важным с точки зрения приложений моментом решения задачи (2), а также задачи (1) является случай задания входной информа- ции в виде значений функционалов или, в более общем случае, в виде значений некоторой системы операторов (например, ’’следов” некоторой функции на многообразиях различных размерностей). В этом случае требуется развитие нового аппарата, приспособлен- ного к специфике задачи. Таким аппаратом оказался метод сплай- нов [98]. Автором с единых позиций изложена функциональная трактовка метода сплайнов, существенно отличающаяся от извест- ных работ [99, 101] в том отношении, что наряду с вопросами су- ществования и единственности сплайнов рассмотрены и вопросы
их сходимости. Построен эффективный аппарат сглаживания на основе различных методов построения сплайнов и показана опти- мальность в широком смысле предложенных алгоритмов. Дано применение метода сплайнов к решению корректных уравнений, а также для решения основной задачи (без предположения о ее корректности). Установлена роль метода сплайнов как одного из эффективных алгоритмов решения задачи (2), что позволяет глуб- же понять значение этого метода в такой классической области математики, как теория приближений. Рассмотрены способы чис- ленного дифференцирования дискретной информации, в частности с применением алгоритмов БПФ (быстрого преобразования Фурье) [99], а также метода сплайнов [112] и ряда других ме- тодов. В книге рассмотрены также алгоритмы решения нелинейных уравнений (1). В частности, приводится обоснование разработан- ного ранее автором алгоритма выбора параметра регуляризации на основе метода стабилизирующего функционала (линейный слу- чай был рассмотрен в работе автора [50]). Автором разработан новый подход к оцениванию точности реше- ния основной задачи. Он основан на введении оценочной функции, вычисление которой осуществляется более просто по сравнению с общепринятыми. Этот подход позволил сформулировать не только достаточные условия сходимости регулярных методов, но и необ- ходимые. Кстати, само понятие регулярного приближенного метода отличается конструктивностью, что позволяет доказать эквивалент- ность понятий регулярности и сходимости метода. Это открывает дополнительные возможности для построения других регулярных методов. Таким является, в частности, рассмотренный автором де- терминированный байесовский метод, весьма близкий по форму- лировке к статистическому байесовскому методу [17]. В целом изложение основано на исследованиях, выполненных автором. Не приводятся результаты, связанные с регулярными методами, основанными на идее метода итераций [4, 50], так как в настоящей книге этот вопрос решается достаточно эффективно на основе метода регуляризации А.Н. Тихонова, в том числе и для специальных случаев (1), когда оператор А симметричен и не- отрицательно определен (пространство U — гильбертово). В книге не затрагивается также вопрос о регулярных методах минимиза- ции функционалов. Автор исходит здесь из того, что изложенные идеи достаточны для формирования соответствующих алгоритмов. Для читателей, интересующихся указанным вопросом, рекоменду- ем работы А.Н. Тихонова, а также [74, 75 J. В книге не рассматри- ваются вопросы регуляризации некоторых специальных классов задач, таких, как интегральные уравнения с ядром типа Ь-функции, 14
для численного решения которых в [12] предложен достаточно эффективный метод само регуляризации, решение эволюционных задач на основе метода квазиобращения [40, 41 ] и т.п. В заключение отметим, что почти все результаты, приведенные в книге, ради простоты сформулированы для гильбертовых прост- ранств, однако они без труда могут быть перенесены и на более общие пространства, например рефлексивные и удовлетворяющие условиям Ефимова - Стечкина. Более полный обзор методов решения некорректны^ задач при- веден в [73]. Автор выражает глубокую признательность А.Н. Тихонову, Г.И. Марчуку, М.М. Лаврентьеву, В.К. Иванову, контакты с кото- рыми оказали решающее влияние на формирование его научных интересов. Автор признателен В.Я. Арсенину, В.В. Воеводину, В.И. Лебедеву, А.Д. Горбунову за многочисленные дискуссии и плодотворные замечания, нашедшие отражение в книге. Многие факты и положения работы обсуждались на семинаре ’’Современ- ные проблемы численного анализа” НИВЦ МГУ, участникам кото- рого автор также весьма признателен.
ГЛАВА 1 ОСНОВЫ МЕТОДА РЕГУЛЯРИЗАЦИИ § 1. Основная задача 1. Пусть Н, F, G — гильбертовы пространства и A.H-+F, L. Н-* G - линейные операторы с областями определения£4 соответственно. Предполагаем, что априорно задано множество (непустое) D Q DA F>DL~ DA L. Будем говорить, что операторы А и L совокупно замкнуты на D, если из одновременного выполнения соотношений и„££), un~+u в Н, Aun-+f в F, Lun g в G\ п -> следует, что u^D, Au~f, Lu-g. Лемма 1. Если операторы А и L замкнуты на D, то они и совокупно замкнуты. Доказательство следует из определения замкнутости операторов. Замечание. Условия леммы выполнены, если один из опера- торов замкнут, а второй ограничен (непрерывен) на Н. Будем говорить, что операторы Л и £ взаимно дополнительны на £).если для любых и, uG£> имеет место соотношение I ы — и I2 IIА (и - и) ||£. + II Ци - и) III > у2 II и - и ||^,7 = const. (2) Лемма 2. Пусть для любых f F, g^G система уравнений Аи<) =f, Luo =g (3) имеет решение u0€D и операторы А и L взаимно дополнительны на D. Тогда они и совокупно замкнуты на D. Доказательство. Из (2) следует единственность реше- ния системы (3). Пусть теперь {ип} - произвольная последо- вательность, удовлетворяющая условию (1). Согласно (2) имеем 72|| и„ - и0 112,<ЦА(и„ - и0) || + || L(un - и0)1!(, п *о°' т.е. ин-+и$. Следовательно, uQ=u. Лемма доказана. Отметим, что определения совокупно замкнутых и взаимно дополнительных операторов распространяются очевидным образом и на случай, когда число операторов более двух.
Пример 1. Пусть £1 — некоторая достаточно регулярная двумерная область, H = L2(£l),D- множество функций,имеющих в Q производные до второго порядка, суммируемые с квадра- том [88]. Положим Аи = и | г, L и = Дм Vm € D, где Г - грани- ца П, Д = Э2/Эх2 + Э2/Э/ - оператор Лапласа. Считаем F = = £2(Г), (7= Я. Очевидно, уравнения △w = g, и|г=/ определяют задачу Дирихле для уравнения Пуассона и разрешимы (однозначно) при f^F, g^G. Кроме того, известна оценка II Ди II ь,(Я) + II «1г HljCD >72Н U Н1а(П), 7 = const. Следовательно, операторы А и L со свойствами Аи = и | г, Lu = = Дм совокупно замкнуты на D. Пример 2. Пусть А =Е или L -Е, Tj\eE — тождественный оператор в соответствующем пространстве. Тогда условие взаим- ной дополнительности (2) заведомо выполнено, а система (3) необязательно разрешима при / Е F, g Е G. Таким образом, выполнения условий совокупной замкнутости и взаимной допол- нительности операторов в общем случае следует требовать не- зависимо. 2. Переходим к формулировке основном задачи. Положим AU=inf || Дм-/||F, (4) uGD где / — некоторый элемент из F такой, что множество Uf = = { и € D: || Аи - /1| = } непусто. Всякий элемент и^ Uf будем называть псевдорешением [56] уравнения Аи и£ величи- ну рА - мерой несовместности этого уравнения. Очевидно, д 4 = Рассмотрим вариационную задачу: найти элемент и Е Uf, для которого ML=inf \\ Lu — g \\G = \\ Lu - g \\G, (5) и е Uf где g ЕG - заданный элемент. Очевидно, vL = vL(g, Uf). Задачу отыскания элементов и Е Uf, удовлетворяющих (5), будем называть основной задачей, а соответствующие элементы м - решениями основной задачи (L-псевдорешениями уравнения Аи = /, и Е D). Очевидно, что понятие L -псевдорешения является обобщением понятия нормального решения [93], а также нормаль- ного псевдорешения [9]. В общем случае £-псевдорешение будет изучаться как функция параметров /, A, g, L и D. Оно также существенно зависит от выбора пространств Н, FnG. 2. В. А. Морозов 17
Теорема 1. Пусть выполнены следующие о^йовные пред- положения : / a) D выпукло; б) операторы А и L совокупно замкнуты и взаимно дополни- тельны. Тогда, если Uj Ф ф9 то решение основной задачи (5) существует и определено однозначно. До казательство. Заметим, что для любых w, v G D спра- ведливы соотношения 1 1 = -Mw-/|£ + F < (6) 1 = -|| Lw-f\\2G + G 2 + III Lu-/11^ (7) проверяемые непосредственно. Пусть {w„)G Vf — минимизирующая последовательность та- кая, что v2l <||£w„-g\\2G<v2L + ± , n=l,2,... (8) Полагая в соотношениях (6), (7) натуральное число, получаем w =иП9 v =ип+р, где р - любое - ^Л=0’ F + PL ------------* О, И->оо, 6 И п ип Un+p 2 независимо от р. Используя условие дополнительности (3), по- лучаем II ип - ип+р ||я-> 0, п ->оо, также независимо от р. Таким образом, последовательности (ип}9 {Аип},{Lun} фунда- ментальны в Н, Fn G соответственно. Пусть lim un-+uQ, lim Aun=fQ, lim bun^gQ. n 00 h-*°°
Так как операторы А и L совокупно замкнуты, то и0 Е D, Аи0 = = /о, Lu0 = g0. При этом в силу выбора последовательности {ип } имеем =ЦЛмо -/llF, т.е. uQ Е Uf. Переходя к пределу в (8), получаем =|| Lu0 - g ||G. Отсюда видно, что элемент и0 является решением основной за- дачи (5). Докажем его единственность. Пусть и\, и2 — решения основной задачи. Из (6) в силу выпуклости D следует 2 = t*A - "1 ~U2 A Z Л---------- \ 2 2 Нетрудно видеть, что множество Uf выпукло. Аналогично из (7) получаем 0. Полагая и = и{ - и2 в (3) и используя полученные соотношения, имеем Mi = и2. Единственность решения основной задачи доказана. Теорема доказана. 3. Условие дополнительности (3) не требует, чтобы каждая из квадратичных форм || Аи ||F, ||£m||g была положительно определе- на. Если уА. yL - неотрицательные константы и II Au ||F > ул || и |i„, || Lu ||G >yL\\u ||H, m ED, to (2) выполнено, например, при у2 = у2 + у2 >0. Отметим, что возможен случай, когда обе формы || Au ||F и || Lu ||2; лишь неотри- цательны, и тем не менее суммарная форма положительно опреде- лена. Так, пусть Н = F = G = R2 и и - и2)т G R2, где Т - знак транспонирования. Положим Аи = (м1} 0)г, Lu = (0, и2)т. Тогда ||Лм||2 =и\у IIZ.mII2 - и2 и обе квадратичные формы лишь неотри- цательны. Однако суммарная форма || Аи ||F + || Lu Нс — и\ + и2 очевидно, положительно определена. Нетрудно видеть, что в примере 1 оба оператора также опреде- ляют лишь неотрицательные квадратичные формы. Пример 3. Пусть область значений QA оператора Л совпадает с F и выполнены основные условия. Тогда мл = дл(/‘) = 0, 2* 19
Uf Vf E F и система (2) принимает вид Lu= g, uE Uf. (9) Условие w G Uf можно интерпретировать как выполнение дополни- тельных (граничных или начальных) условий на искомую функ- цию и. Если vj ® Vg G G, т.е. образ множества Uf при отображении L совпадает со всем пространством G, то уравне- ние (9) однозначно разрешимо (в обычном смысле) Vg G G, а элемент и является решением уравнений Аи = f, Lu= g, и G D в обычном смысле. Требование взаимной дополнительности (2) обеспечивает в данном случае устойчивость решения основной задачи. Именно, если uY = u(J\,gi), и2 = w(/i, gi), то II- Mill2 --/illJ’ + Нл-gi 11g)- 7 Условие Qa = F можно ослабить, заменив его на условие QA = = Qa нормальной разрешимости [56] оператора Л; черта означает операцию замыкания. В приведенной оценке тогда следует заме- нить Л ,Л на их ортогональные проекции на множество QA. Если Qa = QA, »L(g) =#0, то уравнение (9) псевдоразрешимо на Uf, а исходное уравнение Аи -f, uED являетсяL-псевдоразре- шимым Vf G F (теорема 1). 4. Если =0, Uf^-ф, то задачу Аи = /, uED будем называть совместной. В общем случае совместность этой задачи мы не пред- полагаем. Однако мы далее везде предполагаем выполненными основные условия а) и б), сформулированные в теореме 1. Пусть Н = G и оператор L равен Е - тождественному оператору в Н. Тогда условие дополнительности (2), как отмечалось выше, выполняется заведомо при любом А. Условие совокупной замкну- тости выполнено, если оператор Л замкнут. В этом случае основная задача сводится к задаче решения операторного уравнения Au=f и ED. (10) Если Н = F и Л = Е, то условие дополнительности (2) выполне- но при любом операторе L. Условие совокупной замкнутости, оче- видно, имеет место, если оператор L замкнут. В этом случае основ- ная задача сводится к вычислению элемента g - Lu, и G D, и называется задачей вычисления. Нетрудно видеть, что рассматриваемая нами основная задача является обобщением обеих этих задач. Ее можно интерпретиро- вать как задачу вычисления некоторого (возможно, неограничен- ного) оператора на решениях исходного операторного уравнения. Корректность основной задачи в общем случае не предполагается. 20
5. Остановимся на некоторых примерах, приводящих к решению основной задачи. Пример 4. Пусть Я = Z 2 [я, £] - пространство функций, сум- ft мируемых по Лебегу с квадратом: || и ||^ = Jt/2(x)dx, a D - мно- а жество функций из L2[a, Z>], п-я производная которых суммируема с квадратом [88]. Положим d Аи= f k(x,t)u($dt, AuEF = L2[c,d], (11) с где к(х, £) — непрерывная функция своих аргументов. Тогда задача: найти wGD Au-f (fEF) является некорректно постав- ленной [90]. Можно положить Lu = dnu/dxn, и ED. Тогда основ- ная задача заключается в вычислении и-й производной на решениях интегрального уравнения (11). Если для любого полинома Рп_ i(x) степени не выше л-1 из соотношения АРп_г =0 следует, что Рп_ 1(х) = 0, то выполнено условие дополнительности. Пример 5. Пусть, как и выше, Н = L2 [a, b], Lu -dnu/dxn, и ED, Аи = и. Основная задача заключается в вычислении элемента g - Lu, и ED (решением уравнения Аи = и = и является, очевидно, элемент и). Так как допускаются приближения к и из пространства [я, £], то эта задача о дифференцировании является некорректно поставленной. Пример 6. Снова пусть Н = L2[a, Ь]. Положим Au =(w(x!),.. . , и(хт))т, и ED, где Xi (i = 1,. .. , m) — некоторая сетка узлов (которые могут и совпадать) на отрезке [д, Z>]. Задача гладкой интерполяции, заклю- чающаяся в определении элемента uED. Au=f, feRm, (12) является, очевидно, некорректно поставленной, так как заведомо нарушается, например, условие единственности (а также условие существования при совпадающих узлах) интерполирующей функции. Положим Lu = dnu/dxn, и ED. Тогда основная задача заклю- чается в выборе такой интерполирующей функции u=u(x)ED, для которой inf \\Lu-g\\L =\\Lu-g\\L . gEL2[a,b], (13) u€zD:. Au=f т.е. задача сводится к сплайн-интерполяции [70].
Нетрудно дать обобщение задачи интерполирования и на много- мерный случай. Общая теория сплайнов будет рассмотрена в гл. 4. Другие применения основной задачи будут показаны по ходу изложения. § 2. Аппроксимация решения основной задачи 1. Для построения L -псевдорешений основной задачи необходи- мо явное задание множества Uf, которое не всегда возможно осу- ществить. Это затрудняет поиск L -псевдорешений. Естественно попытаться освободиться от указанного недостатка. Определим обобщенный параметрический функционал Ти- хонова: Фа[и] = || Ли -/||^-+ а|| Lu - g ||g, uGD, где а > 0 - параметр регуляризации, afG.FngG.G- заданные элементы. Очевидно, Фа [м] = Фа [м; f A,g, L, £>|. Рассматривается задача отыскания регуляризованных решений, т.е. элементов йа таких, что д’= inf фа[и] = Фа[иа]. (1) и G D Теорема 2. Пусть выполнены основные предположения {тео- рема 1). Тогда при любом а > 0 решение задачи (1) существует и единственно. Доказательство. Нетрудно видеть, что справедливо тождество 2 + а F = - Фа[«1 ] +-£^«[«21 - Фа для любых М], и2 Если это решения задачи (1), то ибо {их + м2)/2 Е /). Но тогда | и{ - и2 I = 0, поэтому, воспользо- вавшись условием дополнительности, получаем их = и2. Итак, решение (1), если оно существует, определяется однозначно. Существование регуляризованного решения иа устанавливается аналогично теореме 1. 2. Пусть /'=/ g-g и - решение задачи (1). Теорема 3. Если а 0, то | йа - й I 0.
Замечание. Очевидно, lim \\иа - и ||^.= 0 в силу условия а — О взаимной дополнительности. Теорема 3 показывает, что регуляризованные решения при малых а аппроксимируют решение основной задачи. Так как при минимизации (1) не требуется знать множество Uf, то определение регуляризованных решений может быть эффективно выполнено. Для доказательства теоремы 3 требуется ввести следующее опре- деление. Операторы А и L называются совокупно слабо замкнуты- ми на D, если из соотношений с л с л с л unED, иц—Аип—>/о, Lun—>go при (2) где символ —► означает слабую сходимость в соответствующем пространстве, следует: £ /), Аи0 = fQi Luq = g0- Множество/) здесь необязательно выпуклое; линейность операторов А п L также необязательна. Доказательство теоремы существенно опирается на следующую лемму. Лемма 3. Если операторы А и L линейны, а множество D выпукло, то для совокупной слабой замкнутости А и L на йнеоб- ходимй и достаточна их совокупная замкнутость. До к азательство. Если операторы А и L совокупно слабо замкнуты на D, то они, очевидно, будут и совокупно замкнуты, так как из сильной сходимости элементов всегда следует их слабая сходимость. Пусть операторы А и L совокупно замкнуты. Покажем, что тог- да они и совокупно слабо замкнуты на D. Действительно, пусть выполнены соотношения (2). Обозначим и„m = ип+ m (m - 0, 1,...). Очевидно, сл » -------->W0, для любого п = 1, 2, ... . Согласно известной теореме Банаха — Сакса существуют выпуклые комбинации вида 1 * vnk = -- S unm , ms = ms(n) «>, s -» °° . k s =i 5 такие, что lim || vnk -uo\\H = O, /7 = 1,2,... k — Выбираем k ~ k(n) 00 (n °°) таким образом, чтобы Vn = Vnk(n)-*U0, п По условию множество D выпукло, поэтому элементы v„k, а также vn содержатся в D по построению.
Покажем, что выполняются соотношения - сл _ сл Ли„--*/0. Lvn—-g0. (3) Пусть z — любой элемент из F. Используя линейность оператора Л, имеем 1 к (Av„-fo,z)y=— S (Аи„+т -fo, z)F, к = к(п). к s = i i Тогда I (Av„-fo, z)F | < sup | (Aui-f0, z)F HO, n-°°, i > n _ сл т.е. Avn—> /о, n -> °°. Аналогично доказывается справедливость второго из соотношений (3). Утверждение (3) доказано. Далее, положим fn = Avn и построим элементы f„ аналогично vn. Пусть для простоты 1 к fn ~ Ink ~ fnms, к 5-1 5 где снова ms s -*00, к = к(п) -*00, п Имеем л 1 к fn vn ~ Vnms- к 5-1 5 ТогдаЛил->/0, «^^^о построению. Покажем, что ип -+и0, п-+°°. Действительно, а 1 к - II vn ~~ w0 ll/у 2 II Vnms — w0 II// к 5-1 < sup II Vj - м0 II//"* О, И”*00. i > п Аналогично предыдущему доказывается соотношение А сл Lvn—-go, п--°° Таким образом, построены элементы vn G D такие, что А А А СЛ u„-*u0, Ли,,-* fo, Lvn—-go, п-°°. (4) Проводя очевидные дополнительные построения и не вводя новых обозначений, будем считать также, что Lvn^gQ, п(5) Используя условие совокупной замкнутости операторов А и L на D, из соотношений (4), (5) заключаем: и0 Auq = /0, LuQ = = g0. Это означает, что операторы А и L также и слабо совокупно замкнуты. 24
Доказательство теоремы 3. Используя экстремаль- ное свойство регуляризованных решений иа, получаем Фа[«а]<Фа[«], (6) где й — решение основной задачи. Так как йа G D, то из экстре- мального свойства решения основной задачи следует \\Au-f\\F<\\Aua-f\\r. (7) Из соотношений (6), (7) следует + avL’ II “gllG М Ьм-gllc =»>£ (8) для любого а > 0. Таким образом, семейства Аиа, Lua при 0 < а < а < 00 ограни- чены и в силу гильбертовости пространств F и G слабо компактны. Используя условие дополнительности, убеждаемся в том, что се- мейство иа также слабо компактно. Пусть ап > 0 — любая последовательность, сходящаяся к нулю при и -> °°. Без ограничения общности можно считать, что последо- вательности йп = йап, fn = Аип, gn = Lun (п = 1,2,...) слабо сходятся: а сл Л сл л сл —>u0, Аип —>fQ, Lun—+gQ, п-»<*>. (9) Используя совокупную слабую замкнутость операторов А и L на D (лемма 3), из этих соотношений получаем и0 £D, Аи0 =f0, Luq =g0. (10) Так как норма в гильбертовом пространстве слабо полунепрерывна снизу, то из соотношений (8) — (10) получаем \\AuQ-f\\F< lim || Aun-f\\F< Tim \\Aun-f\\F<uA, (11) n -► 00 I|£«O-$IIG< lim II Lun - g||G < Dm \\Lun - g \\G flco П 00 Из (11) следует, что uQ € Uf, а из (12) - что uQ является реше- нием основной задачи и, следовательно, совпадает с й. Тогда, оче- видно, II A'u-flF = lim II Аип - flF = цА, n-°° (13) II Zw - gllG = lim II Lun - gIIG = vL. n->°° Замечая, что в гильбертовом пространстве из слабой сходимости элементов и сходимости норм следует сильная сходимость, из (9) и (13) устанавливаем, что | ип - иI -*0 (и->°°). Из условия допол- 25
нительности следует также, что ип -+и вН. Так как последователь- ность {а„} 0 выбиралась произвольной, то аналогичные соотно- шения справедливы и для всего семейства регуляризованных ре- шений. Следствие 1. Если рА = 0, г.е. основная задача совместна, то из (8) следует, что х/ар£->0 при а-*0. Если оператор А к тому же имеет ограниченный обратный, то спра- ведлива оценка II“а -и||я< 11 А~' И- Следствие 2. Если одновременно рА = vL = то регуля- ризованные решения иа=и, а > 0. § 3. Вариационное неравенство Эйлера. Оценки точности 1. Скорость сходимости к нулю уклонения | иа - и | может быть как угодно медленной без дополнительных предположений. Поэтому целесообразно выделение таких случаев, когда можно гарантировать определенную скорость сходимости. Прежде чем переходить к решению поставленной задачи, выведем одно важ- ное свойство регуляризованных решений (р.р.). Теорема 4. Чтобы элемент uaED был решением регуляри- зованной задачи, необходимо и достаточно, чтобы выполнялось вариационное неравенство Эйлера: (Аиа -f, А(у - ua))F + a(Lua - g, L(v-ua))G>0 VuED. (1) Необходимость. Положим для краткости l«la = P«||f + ||Lu||g’ u€D' и пусть 0 < 0 < 1. Используя экстремальное свойство иа, имеем Фа[«а1 С Фл[(1 -0)ма+0и] VuGD. (2) Так как Фог [(1 -0)иа + 01>] = = Фа [«а] + 20{(ЛЙа - /; А(у - ua))F + a(Lua - g,L(y - па))с} + + 021 V - иа\1, то неравенство (2) равносильно следующему: (Лыа А(у - ua))F + a(Lua - g, Цу - iia))G + + 0|u-ua|*>O VveD. Переходя здесь к пределу при 0^0, получаем (1). 26
Достаточность. Пусть элемент za G D таков, что верно вариационное неравенство (Aza-f, Л(и> - za))F + a(Aza - g, L(w -zc,))G>0 VvvGD. (3) Полагая в (1) и =za, ав (3) w = ua, и складывая эти неравенства, получаем | иа - za\ < 0, т.е. Аиа = Aza, Lua = Lza. Используя условие дополнительности, получаем также, что иа = za. 2. Пусть D — линейное множество. Полагая в (1) v = иа ± w, видим, что элемент иа характеризуется соотношением (Аиа -f\ Aw)f + a(Ewa -g, Lw)g = 0 VwGD, (4) которое называется тождеством Эйлера. Рассмотрим случай, когда D = DA П DL - DAL . Предполагаем, что DAl - Н, где черта означает операцию замыкания. Это условие обеспечивает существование сопряженных операторов А * и L *. Пусть на D ограничен один из операторов А или L, например Л. Тогда очевидно, что функционал (Lua - g, Lw)G ограничен на D и, следовательно, Lua ~ g 6 D[b т.е. представим в виде (L*(Lua -g), w)H Vw G D. Тогда тождество Эйлера (4) прини- мает вид (Л*ЛЙа -Л*/, и’)н +a(b*(£wa -g), w)H = 0 VwGD. Так как по условию D = Н, то это соотношение равносильно сле- дующему уравнению Эйлера'. А*Аиа + aL*(Lua -g)=A*f. (5) В частности, если Л = Е, т.е. рассматривается задача вычисления значений оператора L, уравнение Эйлера принимает вид иа + aL *(Lua ~g)=f. (6) Если элемент g достаточно гладкий, именно g G то урав- нение (6) принимает вид (E + a//£)Sa=/+a£*g. (7) Аналогично в случае, когда оператор L ограничен, для определе- ния р.р. иа уравнение Эйлера принимает вид Л *(ЛЙа -/) + аЬ*Ьиа -aL/g (8) и, если L = Е, т.е. рассматривается задача решения операторного уравнения Лм = /, уравнение (8) записывается как Л *(Л иа - f) + аиа = ag. (9)
Если /G D то уравнение Эйлера принимает вид (аЕ + А *Л) иа = А У + ag. (10) Отметим, что уравнения (5)-(10) однозначно разрешимы при любом а > 0. Это следует из их эквивалентности соответствую- щим тождествам Эйлера. Следующее утверждение характеризует решение и основной задачи. Теорема 5. Пусть й - решение основной задачи; тогда справедливы неравенства Эйлера (Au-f, А(у - u))F>0 VvGD, (Lu - g, L(w-u))c>0 Vw<EUf. Если D — линейное множество, то справедливы тождества Эйлера (Аи - f, Av)F = 0 VvGD, (Lu - g, Lw)g =0 Vw G Uf. Доказатe л ь с т в о. Достаточно перейти в соотношении (1) к пределу при а->0 и воспользоваться теоремой 3. 3. В § 2 установлена скорость сходимости значений операто- ра А на р.р. иа к Аи при условии совместности основной задачи. Рассмотрим общий случай. Пусть Up Е D - р.р. при значении параметра (3 > 0. В силу теоре- мы 4 имеем (Аир A(w- Up))F + + !3(Lup-g, L(w-Up))G>0 VwED. (12) Полагая v = Up в (1), w = в (12) и складывая получившиеся неравенства, имеем 1«0 - < (a-$)(Lup -g, Lup -Lua)G. Переходя здесь к пределу при (3 -> 0 и применяя неравенство Ко- ши - Буняковского, получим I < all Lu - gllG II Lu - Lua\\G =avL\\Lua - Lu\\G. (13) Следствием (13) является Теорема 6. Пусть и ~ решение основной задачи, иа - р.р. Тогда справедливы оценки II Lu - Lua IIG < vL, II Au - Aua IIF < (14) Следствие. Если vL = 0, то ua=u, a > 0. Этот факт можно доказать также и непосредственно. В самом деле, из экстремальных свойств решения основной задачи при 28
vL = 0 следуют неравенства Фа[йа]< II Au -/11^ + all Lu -gllc? < llAua -fllF, из которых вытекает \\Aua-f\\F=\\Au-f\\F = pA, IILua -gllG = 0, a>0, и, следовательно, в силу теоремы 1 о единственности решения основной задачи = что и утверждалось. 4. В настоящем пункте будем предполагать, что множество D — линейное и плотное в Н. Тогда справедливо тождество Эйлера (4). Полагая в нем йа = и + za, где и - решение основной задачи, и воспользовавшись теоремой 5, имеем (Aza, Aw)f + a(Lza + Lu -g,Lw)G = 0 XfwED. (15) Следующие теоремы устанавливают скорость сходимости регуля- ризованных решений йа к решению основной задачи и, если по- следнее обладает определенными свойствами гладкости. Теорема 7. Пусть оператор А ограничен, Lu - g G DL* и существует хотя бы один элементу F такой, что L*(Lu -g) = А*у. Тогда справедливы следующие оценки '. IILua - Lu\\G < \fa ll.yllF, 1ЛЙа - ЛЙ11Г < 2all>HI/r. (16) (17) Доказательство. Из тождества (15) при условии (16) получаем (Aza + ay, Aw)f + a(Lza, Lw)G = 0 Vw ED. Отсюда согласно теореме 4 следует, что элемент za доставляет минимальное значение функционалу II Az + ayll£ + all Lz\\G, zED. Но тогда, выбирая в качестве элемента сравнения z = 0, получаем II Aza +ajpllj^ + allZzall$ < a2lljpllj^. Отсюда следуют соотношения (17). Теорема доказана. Замечание. Оценки (17) имеют место также при неогра- ниченном операторе А, если только оператор L ограничен. Теорема 8. Пусть оператор А ограничен, Lu - g Е DL* и существует хотя бы один элемент h EDL такой,что L* (Lu - g) - A* Ah. (18)
Тогда справедливы следующие оценки '. II Аиа - Au IIF < < aU/?llF + a3/2llL/illG, \\Lua - Lu\\G < all£AllG. (19) Доказательство. Из тождества (15) и условия (18) получаем (Aza + aAh, Aw)F + a(Lza, Lw)G = 0 V w G D. Согласно теореме 4 отсюда следует, что элемент za доставляет ми- нимальное значение функционалу II Az + aAhllF + all Lz 11$, zGZ). Выбирая в качестве элемента сравнения z - -ah, получаем llAza + aAhlli + all Lza 11$ < a3 II Lh 11$. Отсюда следуют требуемые оценки (19). Теорема доказана. Замечание. Оценки (19) имеют место также и при неогра- ниченном операторе Л, если только оператор L ограничен. Пусть L = Е. Тогда условия (16) и (18) принимают вид^словмй истокообразности решения основной задачи: u-g = A*y (20) или u-g = A*Ah. (21) Пусть А = Е. Тогда условия (16) и (18) принимают вид усло- вий гладкости решения основной задачи: Lu-g€DL*9 (22) Z, * (Zw - g) G Z)L. (23) Отметим, что условия (16), (18) заведомо выполнены, если вы- брать g = Lu. Тогда условия (16), (18) удовлетворяются при у = 0, h = 0. Легко видеть, что в этом случае Lua=Lu, Аиа^Аи, иа=и при а>0. Достаточные условия, при которых имеют место соотношения (20), (21), приведены в главе 5. § 4. Устойчивость регуляризованных решений 1. Мы рассматриваем регуляризованное решение как функцию элементов f,g, операторов Л, L, а также множества D. Наименее трудно дать оценку устойчивости р.р. при возмущении элементов f и g. Будем считать, что вместо элементов / и g за- 30
даны их приближения /и g такие, что ll/-/llF<5, Hg-gllG<7, где величины бит характеризуют точность приближений этих эле- ментов. Заметим, что элемент f не обязан удовлетворять условию разрешимости основной задачи и, следовательно, может быть лю- бым элементом 5-окрестности элемента /. Обозначим для краткости решение регуляризованной задачи (1) § 2 при f = /, g = g и фиксированных значениях остальных пара- метров через иа. Согласно теореме 2 элементы йа Е D определены однозначно при всех а > 0, и в соответствии с теоремой 4 выпол- няется вариационное неравенство (Аиа -f, - ua))F + + a(Lua -g, L(w - ua))G >0 Vh’EZ). (1) Аналогичное неравенство запишем для регуляризованных реше- ний иа: (Айа Л(и - ua})F + + a(Lua-g, L(v - ua))G > 0 VuED. (2) Положим vv = ua в (1), v = йа в (2) и сложим оба неравенства. Тогда I «а-Mala < (f ~ f ’ А(Ца - Ua))F + <X(g - g, L(ua - Ua))G. (3) Из полученной оценки вытекает Теорема 9. Для уклонений йа от иа справедливы оценки IIАиа - IIG С 6 + \/а т, II Lua - Lua\\G < б/х/сГ + т. (4) Действительно, применяя неравенство Коши - Буняковского, а также неравенство ab < (а2 + Ь2)/2, получаем из (3) I Ua - Ua\l < б2 +Q72. Отсюда следуют оценки (4). Теорема доказана. Замечание. При малых значениях параметра регуляриза- ции а возмущенное р.р. более благоприятным образом зависит от возмущений элемента g, чем от возмущений элемента Из теоремы сходимости р.р. 3 и теоремы 9 вытекает Теорема 10. Пусть параметр регуляризации а положителен, 5/Va’^O. S.a^O. (5) Тогда \иа -м|~*0 при б,7,а->0.
Замечание 1. Условие (5) является достаточным для схо- димости возмущенных р.р. к решению основной задачи и. Далее, при изучении задачи вычисления значений неограниченного опера- тора (гл. 4) будет показано, что оно необходимо для указанной сходимости. Замечание 2. Пусть выполнены условия теоремы 7. Тогда уклонения р.р. от решения основной задачи по операторам А и L оцениваются следующим образом: II Аиа - < 2allyll//+6 + II Lua - Lu\\G < \/ct IIу llF + Ыу/ol + т. Находя а0 из условия а0 ~ argmin (\/а +s/Vm, (6) получаем а0 - 6. Соответствующие оценки при этом принимают вид IIА йа - ДЙИр < 211 vllpS + 7>ДГ + 6, (7) II Luaii - LullG < (ll>’llF + 1)х/б" + т. Замечание 3. Пусть выполнены условия теоремы 8. Тогда аналогично предыдущему случаю имеем 11Л?а -Lu\\g^ аС} +6/>/а + т, IIА йа - Ли11г< аС2 +а3/2С] + 6 + >/а т, где С] = II Lh\\G, С2 = II Л/?11г. Найдем / а 6 \ а0 = argmin I — + —— ) • (8) Очевидно, а0 = 32/3. При этом значении параметра регуляризации получаем следующие оценки погрешности: Uwa - Лм1Ь< 6С, +62/3С2 +6 +61/3т, 0 Л (9) IILua - Lu\\c < С]52^3 + 62/3 + т. Способ выбора параметра регуляризации а0 из условий, анало- гичных (6) и (8), называется принципом минимума мажорантных оценок. Легко видеть, что этот принцип дает простейшие достаточ- ные условия сходимости возмущенных р.р. к решению основной задачи и дает оценки точности этих приближений. 2. Рассмотрим случай, когда приближенно заданы не только элементы f и g, но и операторы А и L. Именно, считаем, что на Dal заданы линейные операторы А и L, действующие в F и G соответственно и совокупно замкнутые на множестве D. Пусть
выполняются следующие условия аппроксимации операторов А и L: для любого м Е D IIАи - А и IIF < h | и |, \\Lu-Lu\\g < t\u\, h,t^Q. (10) Лемма 4. Пусть | u \ = II AullF + II Lu\\2G, и E DAL. Тогда при достаточно малых hut имеют место оценки (1 -e)\u-v\ht < | и - и| < < (1 +е)|м-v\ht Vu,vED, (11) где 0 < е = e(t, h)~»0 при h,t->0. Доказательство оценок (11) элементарно. Следствие. При достаточно малых hut операторы А и L удовлетворяют условию дополнительности, т.е. существует посто- янная у>09не зависящая от и ED и такая, что |w-u|^f > у2 II и - v\\tf Xfu,vED. Из предыдущего следует, что если в функционале Фа [w] поло- жить f = f, g = g, A = A, L = Z, то все условия теоремы 2 о су- ществовании и единственности р.р. будут выполнены. Обозначим их через иа и оценим отклонения значений операторов А и L на элементах иа от их значений на элементах йа. Запишем вариационное неравенство Эйлера для йа: (Аиа - f, А(р - ffa))F + + a(Lua - g,L(v - ua))G>0 XfvED. (12) Положим w = ua в соотношении (1), v = ua в (12) и сложим полученные неравенства. Вводя обозначение z = иа - йа, после некоторых элементарных преобразоважй получаем \\Az\\2f + allZzll£ < < (Aua-f, (Л -A)z)F + ((A -A)ua,Az)F + + a[(Lua -g, (L —L)z)g +((£ -Z)wa,Zz)G]. Применяя неравенство Коши-Буняковского, условия аппрокси- мации (10) и воспользовавшись (11), получаем II AzllF + all Zzll^ < h[ IIAua -/llF(l + e) + | ua | + + arll Lwa -gllG(l + e) + at | wa|]| z\ht 3. B.A. Морозов 33
и, следовательно, \иа - ма|< (1 + e){h + [ IIА йа -/llF(l +е)+ |йа|] + + Г(1 + е) (1 + а) [ II Lua -illG(l +е)+ | ма|]. (13) Оценим величины, стоящие в квадратных скобках: ИЛйа -/llF- < рА + IIА йа - Л ы llF + 6, (14) \\Lua -gllG < vL + II Lua - Lu\\G + r; (15) дл и vL были определены ранее. Для | йа | имеем I иа I < |ма - м| + | м|. (16) Следствием теоремы 10 и оценок (13)-(16) является Теорема 11. Пусть выполнены условия аппроксимации (10) и операторы A, L совокупно замкнуты на D. Если выпол- няется условие согласования (6/л/сГ + Л/а)-> 0, 6,Л,а->0, (17) то lim |wa-w| = 0, о = (5, т, h, t). сг->0 3. Условие согласования (17) накладывает определенные огра- ничения на выбор параметра регуляризации а как функции возму- щений элемента f и оператора А. Что касается возмущений эле- мента g и Оператора L, то согласование параметра регуляризации с ними не является необходимым. Это обстоятельство можно использовать при математической постановке исходной задачи. В частности, постановка ее в форме вычисления значений опера- тора может оказаться по этой причине более целесообразной, чем в форме решения операторного уравнения (следует отметить, что ряд задач, например дифференцирование, может быть сформу- лирован как в одной, так и другой форме; более того, ряд спе- циальных операторных уравнений, например уравнение Абеля, допускает обращение, т.е. известен обратный оператор Л-1, и, следовательно, задача решения уравнения Аи - f может быть пе- реформулирована как задача вычисления соответствующего неограниченного оператора L = А ~1). 4. Пусть vL = 0 в основной задаче. Как уже отмечалось в след- ствии к теореме 6, тогда р.р. иа^и, а>0. (18) В рассматриваемом случае ряд утверждений, доказанных выше, существенно уточняется. 34
Именно, оценки (4) принимают вид II Lua - Lu\\g < 6/х/сГ + т, IIА йа - Aii\\F < 6 + х/сГт, (19) и, следовательно, I йа - и | < 5 + т + \/а т + 5/\/а. (20) При а = 1 имеем II Liia - LullG С 6 + т, IIАйа - Аи\\F < 5+7. Оценки (13)-(16) также значительно упрощаются. Полагая а = 1, имеем |Da - йа\< 2Л( 1 +e)f \\Айа -/llF(l + е) + |йа|] + + 2(1 +е)Г[11£Йа -illG(l + е) + | /7Л I], (21) IIАиа -f\\F< рА +2677, \\Lua -gllG < 2’7 + 6. Из оценок (1^) —(21) вытекает Теорема 12. Пусть vL = 0. Тогда при а - 1 справедлива оценка точности р.р. | иа - и | = (9(5 + h + 7 + t). (22) Условия теоремы выполняются для корректно поставленных задач, записанных в форме (9) § 1. Оценка (22) носит характер, аналогичный оценкам точности при приближенном решении корректных задач. § 5. Аппроксимация допустимого множества. Выбор базиса 1. Пусть и = 0, т.е. все данные точны. Рассмотрим вопрос о влиянии на точность приближения регуляризованными решениями основной задачи в случае аппроксимации допустимого множе- ства/). Пространство Н считаем сепарабельным. Зададим в Н семейство конечномерных линейных подпро- странств Sn (// = 1, 2,. . .). Назовем семейство (S',,) аппроксими- рующим, если: 1) Sn С Dal при любом натуральном и (DAL = [)А И D^); 2) для любого иЕ Dal inf I и - и| 0. п °°. V +5/7 В качестве множеств, аппроксимирующих Z), рассмотрим мно- жества D„={ wZ): inf | и u|=|w'-t>|}, u-D
где v G Sn. Корректность этого определения вытекает из следую- щего утверждения. Лемма 5. Для любого v G Sn существует единственный элемент PDv G D, для которого inf | и - и| = \PDv - и|. (2) «ел Доказательство леммы можно провести по той же схеме, что и доказательство теоремы 2 о существовании и единственности р.р., поэтому оно не приводится. Задача (2) определяет оператор проецирования PDi заданный на всем пространстве Sn , с областью значений Dn = PD(Sn). Лемма 6. Пусть и G D - любой элемент, е > 0 - произволь- ное число. Существует п0(е; и) такое, что для всех п > nQ най- дется элемент ипЕ Dn, для которого | и - ип | < е. Эта лемма показывает, что множество Dn обладает определен- ными аппроксимативными свойствами по отношению к множе- ству D. Доказательство. В силу (1) найдутся и0(е; и) и элемент v'n G Sn (п > nQ) такие, что \и - и„\ < е (и > и0). Так как \^Dvn - w| < \Vn - и\ < е, то, очевидно, можно положить — PDvn. Лемма 7. Операторы А и L совокупно замкнуты на мно- жествах Dn (п = 1,2,. ..). Доказательство. Действительно, пусть последователь- ность элементов uk^Dn (k = 1,2,. . .) такова, что uk-+uQ, Auk~*fQ, Luk-+gQ, к +<*>. (3) В силу совокупной замкнутости операторов А и L на D из приведенных соотношений следует: w0 £ О, Auq = /0, = g0- Таким образом, надо доказать лишь, что м0 Е Оп. Так как ик G Dn, то найдутся элементы vk G Sn такие, что ик =PoVk, £=1,2,... Этим условием элементы ик определяются, вообще говоря, неод- нозначно. Поэтому определим оператор проецирования Qn на подпространство Sn следующим образом: |0wu-u|= inf v€DAL. У ESn Возьмем в качестве элементов vk проекции элементов ик на под- пространство Sn, т.е. vk = Qnuk- Известно (см. далее лемму 9), что оператор проецирования на подпространство является непре- рывным. Поэтому, переходя к пределу по к, получаем существо- вание элемента и0 = Qnuv- Это соотношение влечет равенство wo =^о- 36
Теорема 13. Вариационная задача', найти элемент и& G Dn так, чтобы inf Фа[м] =Фа[ма], (4) u^Dn имеет решение, и притом единственное. Доказательство следует доказательству теоремы 2 существо- вания и единственности р.р. При этом надо учесть, что роль DAL играет подпространство Sn, а роль множества D — множество Dn. Аналогично предыдущему устанавливаем: чтобы элемент и& е Dn был решением (4), необходимо и достаточно выпол- нение для любого w G Dn вариационного неравенства Эйлера: (Аиа -f, A(w-u”))F + + a(Lua-g, Z(w-wa))c>0 (5) Для оценки уклонения элементов и" от регуляризованных ре- шений иа положим и = и" в вариационном неравенстве (1) § 3, w = = PDQnu<* в неравенстве (5) и сложим оба неравенства. После несложных преобразований получаем оценку |«а - Wala= ll^4(wa - Ua)\\F + а\\ L(ua -1/2)11^ < < (Au” -f, A(ua - w2))F+a(Z«2 -g, L(Ua -w2))G. Преобразовывая очевидным образом ее правую часть и применяя неравенство Коши - Буняковского, получаем |ма (ИЛ(м2 -Ma)llF+ 11Аиа -fllF)llA(ua -w”)llF + + a(IIZ(w2 - wa)llG + \\Lua -#IIG)IIL(ua - w2)IIg. Используя элементарное неравенство ab < (a2 + Z>2)/2, имеем |wa - w^la^ |wa - w2la + 211 Aua - f IIFII A (ua -w”)llF + + 2allZwa -gllGll£(wa - h>2)IIg. (6) Заметим, что в лемме 6 можно взять элемент ип = PoQnи. Тогда в силу этой леммы lim I и - ип | =0 Vw G D. Аналогично W->oo lim I йа - w£| = 0, и поэтому справедлива и-*°° Теорема 14. Пусть параметр регуляризации а = а(п) > 0 выбран так, что выполнено условие п->°° а(п)
Тогда при ип~ и & lim | ип - и | = 0, (8) п-+°° где и - решение основной задачи. Эта теорема показывает принципиальную возможность построе- ния приближений к решению основной задачи на базе минимиза- ции функционала Фа [м] на множестве Dn. Нетрудно показать, что задача минимизации Фа [и] на Dn сво- дится к конечномерной задаче выпуклого программирования и, следовательно, может быть эффективно решена соответствую- щими методами [119] Аналогичное утверждение можно доказать и при условии, что элементы g и операторы А и L возмущены. В частности, пусть и” ~ решение задачи (4) при возмущении указанных параметров в том смысле, как это определялось выше. Теорема 15. Пусть параметр а = а(6, /?) согласован с 5 и //, как это требуется в теореме 11. Тогда справедливы следующие предельные соотношения: lim lim | п” - и | = 0, о = (5, т, Л, Г) (9) о -*0 11 — 00 2. Условие согласования (7) трудно проверять на практике, так как оно зависит от р.р. иа. Рассмотрим частный, но важный случай vL =0. Тогда иа = и и соотношения (6) принимают вид l«" -w|£< I w„ -и\а + 2рл\\А(и„ -w)llF, где ип = PDQnu, и следовательно, при а = 1 получаем I W - и а I < I W - и„ | + х/З/Т^ | и - и„ |1/2. (10) Итак, скорость стремления приближений и^ (при а=1) к реше- нию и основной задачи полностью определяется скоростью стрем- ления элементов ип, т.е. свойствами решения основной задачи и аппроксимирующих пространств Sn (и = 1,2,. . .). Далее предположим, что известны гп -* 0 такие, что |w -Qnii\^ п= 1,2, . . . (11) Тогда справедлива Лемма 8. Если известна оценка (11), то \и-ип\<гп, (12) где и„ = PDQ„u.
Доказательство леммы 8 опирается на следующую лемму: Лемма 9. Для любых м, и G DA L справедлива оценка 1Лэ" - PDv\< \и - и|, (13) т.е. оператор PD - сжимающий. Действительно, как нетрудно показать, чтобы элемент Pdu^D был решением задачи (2), необходимо и достаточно выполнение неравенства Эйлера: (APDu - Au, A (z - Pdu))f + + (LPDu -Lu. L(z -Pdu))g>0 VzED. (14) Запишем аналогичное неравенство для элементов Pqv (vG ): (APd v — Av. А (и - PDu))F + + (LPDv- Lv, L(w - Pdv))g>0 VwED. (15) Полагая z = PDv в (14), и* = PD и в (15) и складывая получен- ные неравенства, имеем \PDu < (A(PDu - PDv). A(v - u))F + (L(PDu - PDv), Применяя здесь неравенство Коши—Буняковского, имеем (13). Лемма 9 доказана. Замечая, что й^Р^и, и используя условие (И), получаем (12). Лемма 8 доказана. Заметим, что мы получили оценку точности аппроксимации элемента и элементом ип из множества £>„, зная лишь точность его аппроксимации на подпространствах Sn. Это тем более важ- но, что оценка не зависит от природы элементов множества D и самого этого множества. Следствием приведенных рассуждений и оценки (10) является Теорема 16. Пусть vL = 0 и аппроксимирующие простран- ства Sn таковы, что для решения и основной задачи известна оценка точности аппроксимации (И). Тогда для отклонения р.р. и % (при а=1) отрешения основной задачи справедлива оценка точности | и - и" I < Гп + 'п12 (16) Замечание. Если наряду с = 0 также и цА =0, т.е.ос- новная задача совместна, то из (16) следует лучшая оценка: I У - На I < 6/, /7 = 1,2, ... , т.е. скорость сходимости приближенных решений и^ к элементу
и определяется точностью аппроксимации элемента и элементами подпространства Sn. 3. Обратим внимание на следующее обстоятельство. В случае v L ~ 0 основная задача сводится к отысканию решения операторно- го уравнения Lu=g (17) при условии uGty, (18) которое можно трактовать как обобщенное ’’граничное” условие. При существовании (единственного) решения w, удовлетворяю- щего ’’граничным” условиям (18) и уравнению (17), ранее бы- ло показано, что задача отыскания этого решения сводится к ми- нимизации функционала Ф[м] = II Аи - f 11^ + II Lu - gll^, u^D. Замечательной особенностью здесь является то, что мы мини- мизируем функционал Ф[м], не заботясь, вообще говоря, об удов- летворении элементами множества D ’’граничных” условий (18). Это же обстоятельство нашло отражение в том, что аппроксими- рующие подпространства Sn удовлетворяют лишь весьма общим условиям полноты (1), что позволяет строить подпространства Sn как линейные оболочки линейно независимых элементов со'/, со?,. • . , со", со" G£>, не удовлетворяющих ’’граничным” усло- виям (18). Это существенно облегчает процесс построения аппроксимирующих подпространств. Аналогичная рассмотренной ситуация имеет место и в общем случае при нахождении регуляризованных решений иа путем ми- нимизации функционала Фа [м] на множестве D. Продемонстрируем изложенное примером. Пример. Пусть пространство Н = [я, Ь] наделено нор- мой а оператор Ао, действующий из в L2i имеет вид ь А„и= f к(х, %)u(£)d£, b, а где ядро к(х, £) квадратично суммируемо по Лебегу: ь ь f f к2(х, i)dxd^ < «>. а а
Рассмотрим решение интегрального уравнения Фредгольма 1-го рода /oez2. (19) На практике часто известны либо граничные условия, которым удовлетворяет искомое решение, либо значения искомого реше- ния или значения его некоторых производных в ряде точек отрез- ка [а, Ь]. В общем случае можно полагать, что известны 5 значе- ний некоторых линейных функционалов от искомого решения: й1(и) = /1, a2(u)=f2.....as(u)=fs, (20) где — функционалы, заданные на Я, - их значения. Определим пространство F как декартово произведение F= L2 X X/?t X . . . XЯ t, j раз с нормой s 1/2 .....f-'>TeF- и пусть Аи=(Аои, ai(u),... ,as(u))T. Тогда решение уравнения (19) с условиями (20) сводится к ре- шению операторного уравнения Au-f, f€F. (21) Пусть уравнение (21) имеет единственное решение (для этого достаточно, чтобы (19) имело единственное решение) иЕ W$n>. Положим Lu = dnu/dxn. Тогда функционал Фа[«] = Mu-/Up+ allAu g&W^n\ (22) можно минимизировать на всем пространстве W2n^, не принимая во внимание дополнительные условия (20). Изложенный здесь подход не зависит от вида оператора Ло и может быть применен в более общей ситуации. Заметим также, что минимизация функционала (22) всегда приводит к уравнению Эйлера с% самосопряженным оператором. 4. Рассмотрим вопрос о выборе аппроксимирующих подпро- странств Sn. Условие согласования операторов А и L означает, что суммарная квадратичная форма | и |2 положительно опреде- лена на Dal . Пусть на DAL задан положительно определенный самосопряженный (неограниченный) оператор Т. Предполагаем, что квадратичная форма (Гм, м)я, и G DAL, определяемая опе- ратором Г, эквивалентна квадратичной форме |м|2, т.е. суще- ствуют такие постоянные 70 и 7Х, 0 < 70 < 71, что выполнены
следующие соотношения у1(Ти, w)H<|ui2< 7i(7’m> и)н Vu€DAL. (23) Предположим, что оператор Т имеет полную ортонормирован- ную в Н систему собственных элементов 7coz = Х/W/ (/ = 1,2,...), где 0 < А1 < Х2 < . .. - соответствующие соб- ственные значения (для этого достаточно, чтобы всякое множество элементов из DAL, ограниченное в смысле квадратичной формы (Ти, и), было компактно в Я), стремящиеся к 00 при i . Тогда в качестве Sn можно взять линейную оболочку первых п собствен- ных элементов. Пусть Им 11^ = (Ти, й)н и м - S mzcoz, где mz = (м, coz)H “ коэффициенты Фурье элемента и по координатной системе со,- (z =1,2,...). Тогда П ОО Qnu = u%=^ щщ, Им-м^И^ = S Х/М?->0, rz->°°. / = 1 Z=/7+l Если элемент и принадлежит области определения оператора Т2, то сходится ряд S Х?м? = ИТм11^, z —1 при этом, очевидно, о \^U\\2 Им - м,*И^< ------- -+ 0, Х«+1 В силу (23) ИТм11„ |w - Т1 —7ZZZ = П V^fl + l т.е. выполняется условие (11). Заметим, что операторов Т, удовлетворяющих условию экви- валентности (23), может быть бесконечно много. Естественно тогда стремиться к выбору такого оператора Т, который был бы наиболее ’’простым” и для него была известна асимптотика стрем- ления к 00 его собственных значений. Последняя проблема хорошо изучена, и мы на ней не останавливаемся. Если и G то аналогично можно получить оценку скорости сходимости для уклонения и„ от и в норме Н, Именно, в этом случае имеем Им-мЛНя С II ТиИя/Хп+1.
ГЛАВА 2 КРИТЕРИИ ВЫБОРА ПАРАМЕТРА РЕГУЛЯРИЗАЦИИ § 6. Некоторые свойства регуляризованных решений 1. В основе большинства вычислительных приемов, связанных с решением различного рода операторных уравнений, лежит стрем- ление свести невязку, т.е. уклонение значения исходного оператора на получаемом приближенном решении от заданной правой части, к нулю (или к минимуму). Если соответствующая задача постав- лена корректно по Адамару, оператор задан точно’ и априорно известно, что задача решения уравнения с точной правой частью совместна, то это стремление является вполне естественным. Кар- тина меняется, если оператор задан приближенно или задача не- корректна. В первом случае, как это хорошо известно на примере разностных схем, аппроксимирующих дифференциальные урав- нения, ’’точное” решение приближенной задачи, т.е. с невязкой, равной нулю, не всегда сходится к точному решению исходной задачи, если не предполагать выполнения требования устойчивости разностной схемы. Таким образом, даже для корректно постав- ленных задач при их приближенном решении стремление к макси- мальному уменьшению невязки может оказаться ошибочным. При численном решении некорректно поставленных задач, в силу их природы, это стремление является уже недопустимым. Тем не менее можно высказать следующее предложение, назы- ваемое принципом невязки, которое, как это будет видно из дальнейшего, восстанавливает классическую роль невязки как показателя точности при приближенном решении большого круга задач (в том числе и некорректных): величина получаемой не- вязки должна быть согласована с мерой несовместности и точ- ностью задания входных данных. Безусловно, в зависимости от характера рассматриваемой задачи и ’’качества” входных данных такое согласование может оказаться более или менее необходи- мым. Кроме того, оно может осуществляться в различной форме. Принцип невязки кажется неосуществимым в силу своей пара- доксальности. В самом деле, при доказательстве невозможности устойчивого решения некорректных операторных уравнений клас- сическим способом, т.е. на основе решения операторного уравне- ния Аи = / с приближенной правой частью / Е / II/ - / IIр < 6,
обычной является следующая схема. Пусть оператор А вполне непрерывен. Тогда существуют такие конечные вариации решения и уравнения Аи - f, которые приводят к бесконечно малым вариа- циям правой части. После этого кажется невероятной сама идея о возможности использования невязки как основы получения алгоритмов для построения устойчивых решений. Тем не менее нашей ближайшей задачей является доказательство возможности построения устойчивых приближений на основе выбора параметра регуляризации по априорно задаваемой величине невязки. 2. Прежде чем переходить к решению поставленной задачи, изучим поведение вспомогательных функций, знание которого необходимо для формулировки самих принципов выбора пара- метра регуляризации и их обоснования. Положим р(а) = I Аиа - f llF, 7(a) = II Lua - gllG, . (1) V>(a) - Фа [ ua ] = p2 (a) + a72 (a), где йа - решение регуляризованной задачи с точными данными. Далее, установим ряд дополнительных свойств регуляризован- ных решений. Предполагаем выполненными также следующие дополнительные условия. Положим Pl = inf IIZw-gllG (2) и е d и пусть множество UL = {и ED: \\Lu - g ||G = непусто. За- метим, что это условие заведомо выполнено, если g = 0 и нулевой элемент принадлежит D. Тогда, как это следует из теоремы 1, существует и единствен- но решение Моо в UL задачи vA = inf II Аи-/||F = IIА —/||/г. (3) и е и 1, Задачу (3). назовем вспомогательной. Основным условием ее разрешимости является условие непустоты множества UL. Это условие всегда выполнено, если, например, g = Lu*, где u*€D, Легко видеть, что всегда Ра < vA, Pl < vl- (4) 3. Установим предельные свойства функций (1) при a 0. Л е м,м а 10. Имеют место следующие предельные соотно- шёния: lim p(a) - lim ^1/2(a) = pA, lim y(a) = vL. (5) a -> 0 су -* 0 a -* 0 Доказательство. Используя экстремальные свойства элементов й и получаем цепочку неравенств Дл < Р2(а) < >Р(«) < 4>а[и] = Ра +«d < pz(ct) + a.v%, (6)
из которой следует, что Дл <р(а)<дл + Дл <//2(а)<дл + 7» *7, / ?(<*) < *7. • (7) Первые два соотношения (5) следуют из первых двух оце- нок (7). Предельное соотношение lim 7(a) = vL является след- ен -► о ствием теоремы 3 о сходимости регуляризованных решений. Замечание. Непосредственно из (7) следует, что 0<p(a) - Au < х/а^, 0<^1/2(а)-дл < т.е. асимптотически при а 0 функции р(а) и <р1^2(а) ведут себя одинаково. Далее, изучим поведение функций р(а), (а) и 7(a) при а -> «>. Лемма 11. Имеют место предельные соотношения lim р(а) = рл, lim 7(a) = а —* «а а —► оо lim [<p(a)-i^-ад£] = 0. (8) Q! —* оо Доказательство. Имеем, используя экстремальные свойства элементов йа и иж : = р2(а) + а72(а) < Фа[Моо] = = + ад£ < v2a +сгу2(а). (9) Отсюда следует 7 (а) < vA[\foi. + д/,. Так как заведомо Д/, <у(а), то справедливы неравенства Дд < 7(«) < Мд +*'лА/а, и, следовательно, lim у(а) = д£. (10) 01 —► оо Вместе с тем из (9) получаем р2(а) < v2a + a(ji2L -72(<*)) < v2A. (11) Рассуждая по аналогии с доказательством теоремы 3 о сходимо- сти р.р. при а 0 к решению основной задачи, из соотношений (10), (11) устанавливаем справедливость следующего утверж- дения. Пусть а Тогда lim \ иа - Woo | = 0. (12) Q! —► оо
Предельные соотношения для функций р(а), 7(a), ^(а) явля- ются простыми следствиями соотношений (12). Следствие. Пусть pL =0. Тогда очевидно, что lim р(а) - lim ^l/2(a) = vA, lim 7(a) = 0. Q, _> оо а —* оо 01 —♦оо Условие pL = 0 заведомо выполняется, если g = Lu*, и* Е D. В этом случае vA < || Аи* - /||р. Если, кроме того, оператор L обратим, то vA = || Au* - f ||/?. В этих условиях при# = 0 имеем 4. Исследуем непрерывность функций р(а), ^(а), 7(a). Пусть а>0и/3>0- два значения параметра регуляризации, а иа и й$ - р.р., им соответствующие. Записывая соответствующие вариацион- ные неравенства, получаем I «/3 - иа < (а - /3) (Lu0 -g,L(йа - й0))в. Применяя неравенство Коши — Буняковского и оценки < < 7(Р) установленные в процессе доказательства лемм 10 и 11, получаем |wj? - |£ < | а - Д | II L(ua - и0) 11g < 2.| а - 0 I v} и, следовательно, II А{и0 - I а-0 |1/2. Л а |а-/3| (13) ||L(t<(3 -Ma)llG < VL ------. а Отсюда и из предыдущего следует Лемма 12. Функции р(а), 7(a) и ^(а) непрерывны при всех а, 0 < а < °°. Если рА < vA, то значения функции р(а), а при pL = 0 и функции ip1 / 2 (а), исчерпывают интервал (рА, vA). Ана- логично при pL < vL значения функции 7(a) исчерпывают ин- тервал (Ml,pl). Замечание. Пусть р = ат, где т 1. Тогда из оценок (13) следует ||Л(ига-Йа.Ж<72^1 1 - г |,/2. II LuTa - Lua II < vL 1 1 - т|. Если а < а < °°, то эти оценки показывают, что два семейства йта и иа равномерно близки в том смысле, что I ита - 11а | < л/2й~| 1 - т |1 /2 + VL | 1 - 7 | - 0, 7 - 1, независимо от а. Это свойство весьма важно при построении чис- ленных алгоритмов решения регуляризованной задачи, использую- щих идею спуска по параметру регуляризации. К таким алгорит- мам относятся итерационные методы минимизации функционалов: 46
градиентные, Ньютона, Ньютона-Гаусса и т.п. Для регуляризо- ванных вариационных задач аналогичная идея рассмотрена в ра- боте [70]. 5. Уточним свойства рассматриваемых функций. Лемма 13. Пусть рА < vA. Тогда при любом а> 0функции р(а) и <р(а) строго монотонно возрастают, а функция у (а) строго монотонно убывает. Доказательство. Пусть а и 0 положительны, иа ии$- .соответствующие р.р. Используя экстремальное свойство элемен- тов получаем <р(а) - <р(Р) < Фа [fip] -Фр[йр] = (а - 0) || Luff - g ||fc. (14) Если /3 > а, то отсюда следует, что (а) < (/3), т.е. функция (а) не убывает. Меняя в (14) местами а и (3, получаем »р(Р) - >р(а) < (Р - а) || Lua - g ||^. (15) Пусть теперь /3> а. Из (14), (15) следует л <р(/3) - ф (а) А ~ _ 72(Р)= ||£Ы0-яНб < —------------< \\Lua-g\\2G = y2(а), Р - а (16) т.е. функция у (а) не возрастает. Покажем, что функция р(а) не убывает. Пусть /3 > а. Имеем, используя (16): р2(а) + ау2(а) <Фа [uj = р2(Р) + ау2(Р)< р2(Р) + ау2(а). (17) Отсюда получаем р(а) <р(0), т.е. функция р(а) не убывает. Для доказательства строгой монотонности изучаемых функций покажем, что IIZ^-g||G>0; (3>0. Предположим противное, т.е. что найдется 0 > 0, при котором II Lu# - g Hg = 0. (18) Записывая вариационное неравенство для элемента и$ и исполь- зуя (18), получаем (Aup-f, (Av-Up))r>0 VvED. Согласно теореме 5 это условие влечет включение и@Е Uf9u следо- вательно, II Аир ~Т\\г = рА. Так как всегда pL < т(3), то (18) влечет равенство р7 = 0 и 47
включение Up € UL . По определению рл = inf || Ли-/И/?, и е U i и, следовательно, vA < || Аи$ -f\\F <рл , что противоречит условию рА < v А леммы. Полученное противоречие показывает, что || Lu$ — g ||g > О (3 > 0). Но тогда < (а) < (3) при а < 3, т.е. функция (а) строго монотонно возрастает. Покажем, что функция 7(a) строго монотонно убывает. Дейст- вительно, пусть найдутся $> а> 0 такие, что 7(a) = 7(3) = s > 0. Из (16) тогда следует ^(З)-^(а) р(3)--р(а) ? =-------------=-------------+ v2 , 3 - а 3 -- а т.е. р(а) = р(3), ^(3) - ^(а)- Из последнего соотношения непо- средственно следует, что /3 = а. Полученное противоречие доказы- вает утверждение. Из (17) тогда легко следует, что функция 7(a) строго моно- тонно возрастает. Лемма доказана. Установленное поведение функций р(а), ^(а) и 7(a) можно продемонстрировать рисунком 1 (дл < < р/,)- 6. Как отмечалось в следствии к теореме 6, при значении vL = 0 регуляризованные решения йа совпадают с д, т.е. стационарны.
Сейчас мы уточним условия, при которых заведомо выполняет- ся это свойство. Это необходимо в связи с тем, что в данном случае проблема выбора ’’подходящих” значений параметра регуляриза- ции снимается, по крайней мере, для случая точного задания дан- ных. При приближенных данных можно надеяться, что проблема выбора существенно упростится. Лемма 14. Пусть либо pA = vA, либо pL =vl. Тогда регуля- ризованные решения стационарны, а именно йа = и^ = и. Доказательство. Пусть, например, р А = vA, Используя экстремальные свойства элементов иа, получаем Фа[иа]<Фа[моо] = v2L +an2L<v2A + а || Lua - g ||^ = = Р-а + а || Lua - g Ц?; < || Аиа - Л1£ + а II - g 11g = фа («а] > т.е. [ма] = Фа [woo ]. В силу теоремы 2 о единственности регуля- ризованных решений отсюда следует, что иа = и^. Так как, с другой стороны, lim иа = й, то йа = и = и^, что и требовалось. а О Случай Pl = vL рассматривается аналогично. Лемма доказана. Следствие. Условия рА < vA и Pl < выполняются одновременно, как и условия рА = vA и р^ = vL. Замечание. Если pL = vL (или рА = vA), то, как следует из леммы 14, иа = и. Тогда, очевидно, остаются справедливыми все результаты, полученные в п. 2 § 5 и в начале п. 3 § 5. Это за- мечание существенно расширяет сферу применения полученных там результатов. § 7. Методы выбора параметра при точных данных 1. Рассмотрим случай рА < vAi наиболее интересный с точки зрения приложений к некорректным задачам. Зададим некоторую величину △ 6 (рА, рА) и рассмотрим уравнение р(а) = △, а>0. (1) Из лемм 12 и 13 вытекает, что уравнение (1) всегда имеет, и притом единственный, корень, который мы обозначим через ад. Выбор параметра регуляризации из условия (1) будем называть критерием р (или принципом невязки). Теорема 17. Пусть параметр регуляризации ад выбран по критерию р. Тогда lim |мд-й| = 0, и^=иа.. (2) △ - МЛ Доказательство. В силу экстремального свойства эле- мента «д получаем А2 + ад IIZi/д -gll^ <Фад[м]<Д2 + ад || Lu - g ||?;. 4. В.А. Морозов 49
Отсюда и из (1) следует ЦЛмд-/||/7 = Д, \\LuA-g\\G<vL. (3) Заметим, что соотношения (3) вполне аналогичны, соотношениям (9) §2, из которых следовала сходимость р.р. иа к и (теоре- ма 3). Проводя аналогичные приведенным там рассуждения (ко- торые мы, естественно, опускаем), устанавливаем (2). Замечание. Рациональный смысл теоремы 17 составляет переход от формального параметрического семейства р.р. иа к параметрическому семейству приближенных решений мд, в котором параметр А является содержательным и имеет ясный геометрический смысл (см. рис. 1). 2. Пусть снова Д Е (дл, рл). Рассмотрим уравнение (р(а)=Д2, а>0. (4) Из лемм 12 и 13 вытекает, что уравнение (4) всегда имеет, и притом единственный, корень, который мы обозначим через (см. рис. 1). Выбор параметра регуляризации как корня уравнения (4) будем называть выбором параметра по значениям функционала Фа [м] на р.р. и = иа, или, более коротко, критерием (принцип стабилизирующего функционала}. Теорема 18. Пусть параметр регуляризации ад выбран в соответствии с критерием Тогда lim | мд - и | = 0, Мд = и- . (5) △ мл Доказательство. В соответствии с (4) имеем ИЛйд -/||2 <Д2 = Ф^д[йд]<Ф-д[«]<||Лйд -/|£ + аД1^. Из полученной цепочки неравенств видно, что ИЛЙд-/||К<Д, ЦАйд-gllG<PL. (6) Проводя рассуждения, аналогичные приведенным в теореме 3, из соотношений (6) выводим (5). Теорема доказана. Замечание. Если данные точны, то критерии р и равно- сильны в том смысле, что определяемые ими регуляризованные решения как угодно точно аппроксимируют в сильном смысле решение м основной задачи в Я и значения операторов А и L на элементе и в пространствах F и G соответственно. Как это бу- дет видно из дальнейшего, поведение этих критериев на прибли- женных данных различно. 3. Зададим некоторую величину R Е (д^, рЛ) и рассмотрим уравнение у(а) = R, а>0. (7)
Из лемм 12 и 13 следует, что уравнение (7) всегда имеет, и при- том единственный, корень, который мы обозначим через aR (см. рис. 1). Выбор параметра регуляризации а из уравнения (7) будем называть критерием у (принцип квазирешений). Теорема 19. Пусть параметр регуляризации aR выбран по критерию у. Тогда lim |мя-м| = 0, ик=иар. (8) Доказательство. Пусть а = aR. Используя экстремаль- ное свойство элементов uR , получаем 1|ЛмЛ -f\\p+a& \\LuR -g Hg Wp Следовательно, II Аиа -/Нг <Мл + aR (4 - R2), II-g IIg = R = vl + (R - vL). Покажем, что значения параметра aR ограничены сверху. Обозна- чим Rq = (pl + pl)/2, а0 = Oro. В силу лемм 12 и 13 при R Е Е [Ло, имеем aR <а0. Тогда из соотношений (9) получаем lim || Aur -/И , lim || LuR - g ||G < vL (10) R VL R VL и, рассуждая как при доказательстве теоремы 3, из неравенств (10) выводим требуемые предельные соотношения (8). Теорема до- казана. 4. Итак, выбор параметра регуляризации по одному из крите- риев — р, или у — обеспечивает усиленную сходимость получае- мых решений к решению основной задачи. При этом надо апри- орно задавать либо требуемый уровень невязки А, либо величи- ну R. Нетрудно видеть (см. рис. 1), что задание одной из этих величин, например А, эквивалентно заданию величины R = Я(А) = || LuA -g||G, если элемент Мд определен в соответствии с критерием р, или величины R = Я(А) = || -g||G, если элемент мд определен в соответствии с критерием <р; при этом функциональные зависимости R = R (А) и R =R (А) взаимно однозначны. Аналогичная связь имеет место и между методами выбора параметра по критериям р и Сформулированные утверждения являются непосредственными следствиями доказанных ранее лемм 12 и 13. 4* 51
Замечание. Пусть ад определен в соответствии с крите- рием ри Д -* vA. Тогда аналогично теореме 17 доказывается Теорема 17а. Если параметр ад определен в соответствии с критерием р, то lim | - и,» | = 0. (2а) △ - Имеют место также теоремы : Теорема 18а. Если ад определен в соответствии с крите- рием <р, то lim | мд - Moo | = 0. (5а) △ VA Теорема 19а. Если параметр aR определен в соответствии с критерием % то lim | uR - Moo | = 0. (8a) R -+ »l §8. Метод невязки и метод квазирешений при точных данных 1. Пусть задано значение Д > рА. Определим множество t/д ={мЕР: II Au-f\\F <Д}. Условие Д > рА обеспечивает непустоту множества t/д; именно, элемент м, решение основной задачи, очевидно, содержится в t/д. Более того, множество t/у С t/д. Рассмотрим вариационную задачу: найти элементы мЛ G t/д такие, что р£(Д)= inf || Zt.'— g |Ig = || Амд — g ||g. (1) u e t/д Положим {7д={«де(7д: n£(A)=||ZMA-g||G}. Очевидно, Од есть множество всех решений задачи (1). Опреде- ление элементов мЛ G t/д составляет суть метода невязки. ' Т е*о р ем а 20. При любом Д рА Од Ф ф, т.е. задача (1) разрешима. Более того, а) при Д = -лА Од = {й}> где и - решение основной задачи', б) при Д G (дл, vA) ид G t/д, где мд выбран по критерию р\ в) при Д > vA Од ={ Мео}, где и^ - решение вспомогатель- ной задачи (3) § 6.
Доказательство, а) Пусть Д = На ; тогда очевидно, что С/д = Uf, и задача (1) совпадает с основной задачей. б) Пусть Д Е (дл, рл) и элемент определен в соответствии с критерием р. Зададим произвольное е > 0 и пусть ие G U& тако- во, что || Lu€ — g || G < vL (Д) + e. Используя экстремальное свой- ство элемента , получаем Фад[мд] <Фад[Ме]<Д2 + “△("£(△) +<02 • Так как || Аи^ — /||р = Д, то из предыдущей оценки следует, что - g 11g < ^l(A) + е. Таким образом, Мд - решение задачи (1), т.е. Мд Е С/д. в) Доказывается аналогично а). Установим условия, при которых метод невязки дает един- ственное решение. Пусть оператор L обратим, т.е. однородное уравнение Lu = 0 имеет лишь тривиальное решение и = 0. Тогда при любом Д > р л решение метода невязки единственно. Действительно, множество U^, очевидно, выпукло. Пусть их, и2 £ U&. Тогда 1 + - II £,1*2 -gl<G - - ||ZUi -g||^ + (Uf + u2 \ I 2 / = /1*1 +W2) JL I \ 2 2 < o, т.е. L (ui - u2) =0. Следовательно, ux = u2 согласно условию. Из теоремы 20 следует, что метод невязки является вариацион- ным аналогом метода р. Более того, если U^= иА и Д Е (дл, ^л), то эти методы совпадают. 2. Пусть задано R е [pL, <»). Это условие обеспечивает не- пустоту множества UR ={uED: \\Lu-g\\G<R}, так как очевидно, что всегда иж, решение вспомогательной за- дачи (3) -§ 6, принадлежит UR. Рассмотрим еще одну вариационную задачу: найти элементы uR е UR, для которых Мл(Я) = inf \\Au-f\\r = \\AuR -/||р. (2) u e .uR Положим CJR={uR eUR-. Мл(R) = IIAuR -/lip}.
Очевидно, UR есть множество всех решений задачи (2). Определе- ние элементов uR G UR как решений задачи (2) составляет суть метода квазирешений. ' Теорема 21. При любом R> pL UR ¥= ф, т.е. задача (2) разрешима. Более того, а) при R = pL UR ={woo}, где - решение вспомогатель- ной задачи (3) § 6; б) при R G (д£, vL) элемент uR G UR, где uR выбран по кри- терию у; в) при R > vL UR = {и}, где й - решение основной задачи. Доказательство, а) Пусть R = pL . Тогда UR = UL и задача (2) совпадает со вспомогательной задачей (3) § 6, решение которой есть элемент иж . б) Пусть R Е (pLi vL) и элементы uR определены в соответ- ствии с критерием у. Зададим произвольное е > 0 и пусть таков, что \\Aue_f\\R < pA(R) + e. Используя экстремальное свойство элемента uR, получаем < Фай[«е] < (Дл(^) + е)2 + (XrR2. Так как || LuR - g ||G = R в силу выбора элемента uRi то из пре- дыдущего неравенства следует \\Aur -f\\F < дл(Я) + е. В силу произвольности е и принадлежности uR Е URi получаем, что uR - одно из решений задачи (2). в) Случай R > vL рассматривается аналогично случаю а) . Установим условия, при которых метод квазирешений дает единственное решение. Справедлива Теорема 22. Если оператор А обратим, т.е. однородное уравнение Аи = 0 имеет лишь тривиальное решение и = 0, то при любом R > pL квазирешения, доставляемые (2), определяются однозначно. Доказательство аналогично доказательству единственности ре- шений метода невязки. Из теорем 21 и 22 вытекает, что метод квазирешений являет- ся вариационным аналогом метода у. Более того, в условиях теоремы 22 и при А Е они просто совпадают. Заметим, что решения метода невязки при изменении А в пре- делах от рА до + 00 и квазирешений при изменении А в пределах от pl до + 00 полностью исчерпывают множество регуляризован- ных решений иа при изменении параметра регуляризации а от 0 до + °°, включая и его предельные значения и и иЖ). 54
§ 9. Свойства вспомогательных функций 1. Пусть при нахождении приближенного решения основной задачи известны f € F и линейные операторы А такие, что ||/-/11г<5, \\Аи-Аи\\? < h\u\ VuED (1) и операторы А и L совокупно замкнуты. Эти условия обеспечи- вают существование и единственность регуляризованных реше- ний йа. Обозначим Мл = inf || Au - f ||F, vA = inf || Au - f Hr, (2) и <= D UEU^ где множество UL определено в п. 2 § 6. Так как предполагалось, что UL Ф ф, то существует, и притом единственный, элемент 2со Е UL, для которого РА = || Л Woo - / Ц/7. Это утверждение доказывается аналогично теореме 2 о сущест- вовании и единственности решения основной задачи. Теорема 23. Пусть а= (й, 6). Тогда lim | Woo - Woo | = 0. (3) о -* О Доказательство. Имеем йж Е UL, т.е. llAwoo -g IIg = Ml- (4) С другой стороны, имеем следующую очевидную цепочку нера- венств: vA <11A Woo -f\\F<vA +л I Woo I + 6 < <11ЛWoo — f Wf + h I Woo I +6 <vA +/z(| Woo I + I Woo I)+ 26. (5) При достаточно малых о величины | иж | равномерно ограничены. Тогда из цепочки неравенств (5) вытекает, что lim || Л/7оо -/Нг = vA . (6) а -* О Рассуждая так же, как при доказательстве теоремы 3 о сходи- мости р.р., убеждаемся в том, что из (4) и (6) следует требуемое предельное соотношение (3). Следствие. Из соотношений (5) вытекает, что lim vA = vA. (7) о - О Так как < || Л и - / ||/? < + /Н w | + 6, то lim Дл < Ул . (8) и -* о
Заметим, что (8) имеет место равномерно для всех и: |й | (где С — заданная постоянная), так как очевидно,что Дл <Мл + hC + 8. (9) 2. Определим вспомогательные функции р(а) = || Л у(а) = ||LMa-g||G, ^(а) = р2(а)+а?2(а) = Фа[ив], а>0, где йа -р.р.,соответствующее данным Лемма 15. При всех a G (0, °°) функции р(а), 7(a) и (а) непрерывны. Доказательство аналогично доказательству этого свойства для вспомогательных функций при точных исходных данных. Далее, используя теорему 23, получаем аналогично лемме 11 следующие предельные соотношения: lim р (а) = vA , lim у (а) = pL, О.' —> оо ф —» оо Нт [^(а) - р2 - ад2] = 0. (10) а—> о© Лемма 16. Пусть рА <vA. Тогда при достаточно малых о значения функций р(а) и £1/2(а) исчерпывают полуинтервал [дл + hC + 5, vA) при изменении параметра регуляризации а от Одо Здесь | й | < С < °°. Доказательство. При достаточно малых о +1'С ^<УЛ. (11) Это непосредственно следует из условия рА < vA и доказанных ранее соотношений (7), (9). Далее, так как р2(а)<1р(а) = Фа[ма] <Фа[и] <(цА +hC + 8)2 + av^, то при достаточно малых значениях параметра а функция р(а) (а также функция ^|/2(а)) принимает значения, меньшие, чем рА + hC + 6. Воспользовавшись соотношениями (10) и непре- рывностью функций р(а) и ф (а), из сделанного замечания вы- водим утверждение. Замечание. Нетрудно показать, что на самом деле имеют место более точные соотношения lim р(а) = lim ^1^2(а) = рА. (12) а О а - О Действительно, пусть е > 0 — произвольное число. Выберем uQ G Ртак, чтобы д ,t < II Лис - f II/.- < д.,| + е.
Используя экстремальное свойство элемента uai получаем Ua <р2(а)<^(а) = Ф0[[м0[] < < Фа &=]< (Рл + е)2 + а || Lue - g ||^. В силу произвольности е получаем требуемые соотношения (12). 3. Далее считаем всюду, что выполнено условие рА < vA. Тогда при достаточно малом о справедливо также неравенство UА <»А- Аналогично лемме 13 доказывается Лемма 17. Пусть рА < vA и величина о достаточно мала. Тогда при всех а > 0 функции р(а) и (а) строго монотонно возрастают, а функция у (а) строго монотонно убывает. Из строгого убывания функции 7(a) при а > 0 следует, что существует предел (конечный или бесконечный) lim 7 (а) = 70. (13) а -+ О Представляет интерес следующее утверждение. Пусть в соотношении (13) величина 70 < °°. Тогда задача (2) разрешима. Действительно, из (12) и (13) следует, что величины | йа | равномерно по а ограничены при а -> 0. В силу условия дополни- тельности равномерно по а ограничены || йа И#. Тем самым се- мейство {i7a} слабо компактно в Н. Будем считать его слабо сходя- щимся в Н к некоторому элементу w0 (при необходимости доста- точно выделить слабо сходящееся подсемейство), т.е. сл йа -> uQ, а -> 0. (14) Из соотношений (12) и (13) также следует, что семейства {А йа} и {Lua} слабо компактны в F и G соответственно. Переходя при необходимости к подсемействам, считаем, что они слабо схо- дятся: ~ сл ~ сл Айа fQ, Lua -> go- (15) Из совокупной слабой замкнутости операторов А и L на D сле- дует, что w0 £ D;Auq =/о, Luq = g0. Используя свойства слабой полунепрерывности снизу нормы в гильбертовом пространстве, получаем из соотношения (12) 1|Я«о-/llF < lim IIАйа-/IIf < Ua, а -> 0 т.е. элемент й0 является решением задачи (2). Следствие. Из разрешимости задачи (2) при условии 7о < 00 и из теоремы 3 о сходимости регуляризованных решений
вытекает, что элемент uQ, построенный при доказательстве лем- мы 18, является решением следующей задачи: найти элемент й0 G U, для которого vL = inf ~\\Lu -g||G = II Luq -g ||G, (16) и e и где множество U = {u G D: pA = || Au - /||р} заведомо непусто. При этом, очевидно, имеет место предельное соотношение lim | йа - uQ | = 0. а -> 0 Таким образом, по существу доказана Лемма 18. Пусть lim 7(a) = 70 < °°. Тогда задача (16) а 0 разрешима. Замечание. Мы не предполагали здесь априори разрешимо- сти задачи (2), как это было при формулировке основной задачи, а вывели ее, исходя из поведения р.р. при стремлении параметра регуляризации к нулю. Из сказанного и теоремы сходимости 3 следует Теорема 24. Для того чтобы Щ ф ф, т.е. основная задача была разрешима, необходимо и достаточно, чтобы lim 7(a) < 00. а -+ О Отметим, однако, что, вообще говоря, элементы й0 не обязаны сходиться к решению и основной задачи, даже если lim 7(a) < 00 а -> 0 при всех допустимых Ли/. Пример. Пусть H = F=G = R2 = {и: u = (ut,u2)T}, Lu = и, Au = (Wj.O)7’, /=(1,0)г. Нетрудно видеть, что общее решение системы уравнений Au = f записывается в виде и = (1, О)7 + r(0, I)7 (- 00 < t < + 00 ). Ре- шение основной задачи: и = (1, 0) т. Пусть Аи = (и j, h(u 1 + и?))7. Тогда решение системы Аи = / есть вектор и = (1, -1)т. /? > 0. Так как uQ - и, то й0 - и = (0, -I)7 не стремится к нулю при Л->0. § 10. Критерии выбора параметра при неточных данных 1. Снова предполагаем, что рА < vA. Обозначим через Мс мно- жество всех и G D таких, что | и | < С. Предположим, что при не- котором С решение и основной задачи принадлежит множеству Мс. Построим аналог выбора параметра регуляризации по критерию р. 58
Именно, предположим, что известна оценка сверху меры несовме- стности иА, т.е. известна величина рА > рА и задан уровень Д: рА + hC + 6 < Д < vA . Рассмотрим уравнение для определения параметра регуляри- зации: р(а) = Д, р(а) = || Айа -f\\F. (1) В силу лемм 16 и 17 уравнение (1) всегда имеет единственный корень > 0. Выбор параметра регуляризации из условия (1) будем называть критерием р. Справедлива Теорема 25. Пусть параметр регуляризации выбран в соответствии с критерием р. Тогда имеет место предельное соотношение lim |/7д — и | = 0, = йа (2) △ -* Доказательство. В силу экстремального свойства эле- мента йд получаем Фад[ид] < <М«1- О) Так как \\Au-f\\F < \\ Аи - f\\F + h \и \ + Ь < рА +hC + b < Д, то из оценки (3) следует А2 +ад II LuA -gllc; < А2 +ад^/,> т.е. \\Ьй± -g lie < (4) С другой стороны, НЛЙд-f\\F < Д+/?|г7д |+6. (5) Из оценок (4), (5) следует, что при достаточной близости Д к рА, т.е. достаточной малости А, 6 и f = рА - р л, величины | мд | равно- мерно по этим параметрам ограничены. Следовательно, lim || /lz/д ~f\\F < Дл’ II ^д -S IIg < Д -* Дл △ Мл Из этих соотношений, рассуждая как при доказательстве теоре- мы 3 о сходимости р.р., выводим требуемое соотношение (2). Замечание 1. Если 6 - h = % = 0, то критерий р совпадает с критерием р, рассмотренным ранее. Замечание 2. Если априори известно, что мера совмест- ности рА = 0, то естественно полагать и рА = 0. В этом случае 59
уровень невязки Д > hC + 6. При h < 6, т.е. когда .погреш- ностью аппроксимации оператора А можно пренебречь по сравнению с погрешностью задания элемента /, естественно полагать Д = 6. Замечание 3. В общем случае при применении критерия вы- бора р необходимо априорное знание сферы Мс, которой при- надлежит искомое решение основной задачи. Это, конечно, затруд- няет применение критерия р на практике, если не выполнено усло- вие h < 5. В п. 3 будет предложен модифицированный критерий выбора р (обобщенный критерий невязки), свободный от указан- ного недостатка (см. также [13]). 2. Построим аналог выбора параметра регуляризации по кри- терию у в случае приближенного задания данных. Будем считать, что рА = 0, vL > 0. Зададим Д = \/2(hC + 6) и будем предпола- гать h и 6 настолько малыми, что выполняется условие Д < vA. Рассмотрим уравнение для определения параметра регуляри- зации: у (а) = Д2. (6) В силу лемм 16 и 17 уравнение (6) всегда имеет, и притом единст- венный, корень ад > 0. Выбор параметра регуляризации из усло- вия (6) будем называть критерием у. Обозначим й- = йд. Используя экстремальное свойство р.р. и решения основной задачи, получаем А2 = Ф«д[«д1 < а Д2 < Ф5д["1 < (АС + 5)2 + «Д"д = — + «Д"1- (7) Из этих неравенств следует оценка (ЛС + 5)2 Д2 “д> т’к используя которую, из (7) получаем Д2 1|ЬМд -gllG < + VL < VL +VL = 2vL- (8) 2 ад Кроме того, так как (|Лйд -/Ир < ^1/2(ад) = Д, то из неравенства треугольника и условия аппроксимации имеем ЦЛйд-/||к < Й|йд 1+6+Д. Следовательно, lim ||Лйд -f\\F = 0. (9) А -> О
Покажем, что в определенном ниже смысле приближения аппроксимируют множество UR ={u&Uf‘.\\Lu-g\\G <R = y/2vL}. Теорема 26. Пусть рА =0, vL > 0 и параметр регуляриза- ции выбран в соответствии с критерием Тогда для любых элементов и* Е Н, g* Е G справедливо предельное соотношение еФн.йь, u*,g*) = inf Л {|| Лйд - f ||F + u e UR + !(!(«△-w),g*)G ! + !(«△0, △ 0. (10) Доказательство. Из оценок (8), (9) и условия допол- нительности следует, что семейство р.р. ид ограничено, в простран- стве Н и, следовательно, слабо компактно. Вместе с тем слабо компактно, очевидно, семейство £/7д в пространстве G. Тем са- мым всегда можно выделить последовательность {~йп}, йп = где △„-►() при п такую, что _ сл _ сл _ сл ип -► w0, Аип -* /, Lun -> g0, п -> оо. (11) В силу совокупной слабой замкнутости операторов А и L из соотношений (11) следует UqElD, Au0=f, Lu0=g0. (12) Таким образом, и0 Е Uf. Покажем, что и\ Е UR, Действительно, используя слабую полунепрерывность снизу нормы в гильбертовом пространстве, из соотношений (8), (11) и (12) получаем 1И«О - ^Hg < Т.е. u0€UR. Справедливость (10) устанавливается методом от противного с использованием установленных фактов. Теорема доказана. Замечание. Если UR ={ й}9 т.е. состоит из одного элемента, то в условиях^георемы 26 справедливо соотношение е(м, йд ; u*,g*) -> 0, △ -> 0. Пусть на Dal задан линейный оператор В, действующий из Н в некоторое банахово пространство И и удовлетворяющий усло- вию В-дополнительности: \\Ви ||г < ув | и |, u£DAL9 ув = const. (13) Далее потребуем, чтобы для всякой последовательности { ип} Е Е Н такой, что сл сл Аип Auq, Lun -> Luq, uqEDal> n co,
du dxk имело место соотношение {сильная подчиненность оператора В операторам А и L) lim || В{ип - w0) II г = 0. п -> 00 Пример. Пусть Н = F = G = L 2 [a, b], А = Е, Lu = dnu/dxn — оператор «-кратного дифференцирования, область определения которого D состоит из всех п - 1 раз непрерывно дифференцируе-. мых на [a, функций, а производная порядка п суммируема на [а,/?] с квадратом. Тогда | и | = || и || н,(и). В силу известных теорем вложения [80] из слабой сходимости в следует сильная сходимость в любом из пространств С( к [я, Z?], {к = 0, 1,... ..., п — 1), при этом имеет место неравенство < Ук II и Ни,(»‘), К G ук = const. (14) с 2 В качестве оператора В можно, очевидно, взять операторы dk/dxk (Л = 0, 1,... ,п - 1). В общем случае справедлива Теорема 27. Пусть выполнены условия теоремы 26 и опера- тор В сильно подчинен операторам А и L. Тогда справедливо соотношение lim inf Л \\Вй± -Ви ||г - 0. (15) \ О U € Ur Доказательство аналогично доказательству теоремы 26. Замечание 1. Если IJR -{и}, то из условий теоремы 27 следует lim || Ви - Ви ||г = 0. △ -» о Замечание 2. Критерий выбора как и критерий р, ис- пользует априорное знание сферы Мс, содержащей решение и основной задачи, и в этом смысле также не является достаточно эффективным. При условии h < 6 можно положить А = \/26: тогда выбор параметра по критерию не использует наличия таких сведений. Численная реализация алгоритмов выбора р и рассматривается в § 26. 3. Несколько изменим условия аппроксимации оператора А. Именно, будем считать, что операторы А удовлетворяют уточ- ненному условию аппроксимации \\Аи-Аи\\Г < h\\ Lu -g ||G VweZ) (16) при неизменности всех остальных предположений. При этих усло- 62
виях можно построить алгоритм выбора параметра регуляриза- ции, не требующий при применении априорного знания сфе- ры Мс. Заметим, что выполнение условия (16) влечет выполнение ранее использованного условия аппроксимации. Поэтому все результаты, связанные с поведением функций р(а), у (а) и £(а), остаются, очевидно, справедливыми и при новом условии (16). Рассмотрим следующее уравнение для определения параметра регуляризации: р(а) = hy(a)+pA +6, (17) где, как и ранее, рА есть приближение сверху к мере несо- вместности цА. Наша цель — найти условия, при которых урав- нение (17) имеет (очевидно, единственное) решение. Лемма 19. Пусть < vA (тогда и р{ < vL ). Если h и <5 та- ковы, что h(vL -1И) < (18) где 60: || f - f\\p <fi() <6, то при достаточно малом о = уравнение (17) имее! единственный корень^ аа > 0. Доказательство. Всегда рА < || Au - f И/.-, следователь- но, в силу условия (18) Д.-1 ^Рл + <Дл + М.1 + йр/. +S. (19) Из доказанных ранее свойств функции р(а) следует, что ее зна- чения исчерпывают промежуток (рА, Р4), когда а Е (0, °°). Поэтому из (19) следует, что график функции р(а) пересекает при достаточно малых положительных значениях параметра а прямую р = ро = р 4 + //Д/ + 6 (см. рис. 2).
С другой стороны, при любом а > 0 имеем /27(0.) + рА + 6 > р0, т.е. график правой части уравнения (17) расположен выше прямой р = Ра. Так как lim 7(a) = pL, то прямая р = р0 является горизон- тальной асимптотой для правой части уравнения (17). Учитывая, что правая часть (17) является в силу условий леммы строго убывающей функцией параметра а, а левая часть — строго воз- растающей и обе функции непрерывны, убеждаемся в однозначной разрешимости уравнения (17). Лемма доказана. Далее предполагаем условия леммы 19 выполненными. Выбор параметра регуляризации как корня уравнения (17) будем называть обобщенным критерием р. Теорема 28. Пусть параметр регуляризации ао выбран в соответствии с обобщенным критерием р Тогда, если и0 = йао>то lim \uo-u\ = 0, o=(h,8ji). (20) о -> О Доказательство. Полагая а = ао и используя экстремаль- ное свойство р.р., получаем после несложных вычислений р2(ао) + аау2(ао)< < ИЛи +аор[ < (цА +hvL + 6)2 + ааи2. Принимая во внимание (17), имеем (hy + PA +3)2 +аоу2 С (цА + hvL + 5)2 + aav2L, где 7 = 7(аа) • Отсюда следует, что 7= \\Luo -gllG < vL. (21) Из (17), используя оценку (21), имеем II Аиа -f\\F < hvL + дл +5, и, следовательно, \\Auo-f\\F< рА + 2(hvL+S). (22) Из (21), (22) обычным образом, как при доказательстве теоре- мы 3 о сходимости р.р., устанавливаем справедливость соотно- шения (20). Замечание. Применение обобщенного критерия р свободно от априорного знания любых количественных характеристик искомого решения й основной задачи. При й = 0 обобщенный критерий р совпадает с критерием р. В случае, если известно, что мера совместности рА =0, естественно полагать рА = 0. Если# =0 и D = DALi то легко видеть, что pL - 0. Если к тому же Uf={u}, то vL = II Lu\\в- В этом случае условия леммы 19 сводятся в основ- 64
ном к требованию, что решение и основной задачи не принадлежит ядру оператора L. Неравенство (118) заведомо выполнено, если h < 6 = 26О. 4. Аналогично изложенному построим обобщенный критерий также свободный от априорного знания количественных характе- ристик искомого решения. Считаем, что рА = 0, > 0. Предпола- гаем также выполненным уточненное условие аппроксимации (16). Для определения подходящих значений параметра регуляриза- ции рассмотрим уравнение ?1/2(a) = 2(/j7(a) + 6). (23) Лемма 20. Пусть рА = 0 < vA, < vL. Если h и 6 удовлет- воряют неравенству х/2(Лр£+5)<2(йМд+3), (24) то при достаточно малых о = (h, 6) уравнение (23) имеет единст- венный корень аа > 0. Доказательство. По условию аппроксимации (16) имеем рА = inf \\Аи-f\\F< \\Аи-f\\F< hvL+8. (25) uG£> Из доказанных ранее свойств функции (а) следует, что ее значения заведомо исчерпывают промежуток (Дд, vA} при 0<а<°°. Из (24) и (25) следует, что график функции $^2 (а) при достаточ- но малых а > 0 пересекает прямую = <р0 = 2 (hpL + 5) (см. рис. 3). Так как при любом а > 0 справедливо неравенство у (а) > pL, то график правой части уравнения (23) расположен выше прямой </>=</> о* Вместе с тем, как известно, lim у (а) =Д£. Отсюда и а —>о° из строгой монотонности и непрерывности функций <р^2 и у сле- 5. В.А. Морозов 65
дует картина, изображенная на рис. 3. Из нее видно, что (23) имеет единственный корень, больший нуля. Лемма доказана. Далее предполагаем выполненными условия леммы 20. Выбор параметра регуляризации а как корня аа уравнения (23) будем называть обобщенным критерием Следующаялтеорема устанавливает факт аппроксимации множества решений UR реше- ниями, определяемыми в соответствии с обобщенным критерием Теорема 29. Пусть выполнены условия леммы 20 и параметр регуляризации аа определен в соответствии с обобщенным крите- рием (р. Тогда для любых элементов w* G Н и g*^G справедливо соотношение lim e(t^,i/a;W*,g*) = O, (26) (7->0 где ио~ й_ . Доказательство. Используя свойство экстремальности р.р. и условие выбора параметра (23), имеем 4(йу(аа) + S)2 = = Ф- [иа] < Ф_ [ы]<О£+6)2+аар£. аа аа Так как y(a)>gL= inf IlLu— uE D (27) при всех a > 0, то,воспользовавшись также условием (24),получим 2{hvL + б)2 < 4(Лдд + б)2 < 4(йу(аа) + б)2. Из (27), (28) непосредственно вытекает, что «4 >(/»>£ + б)2/аа. Отсюда и из (27) следует 11£ма -gllG < \[2vl. С другой стороны, используя также (29), имеем II Айа -f\lF < ? Ч2(аа) < 2(hy(aa) + б) < 2(^2 huL + 6). Поэтому \\Aua-flF<y/2hvL + б +2(y/2hvL +5). (28) (29) (30) Оценки (29), (30) аналогичны оценкам (8), (9). Рассуждая как при доказательстве теоремы 26, убеждаемся в справедливости соотношения (26).
Замечание. Нетрудно видеть, что в условиях теоремы 29 сохраняет полную силу замечание, сделанное после теоремы 26. Более того, справедлива также Теорема 30. Пусть выполнены все условия теоремы 29 и оператор В сильно подчинен операторам А и L. Тогда lim inf \\ Вио - Ви\\ у ~ 0, o = (h,8). (31) u^UR Сформулированное утверждение является аналогом теоремы 27. Если множество UR ={ и}9 то lim \\Вйа -Ви\\у-0. а->0 Условие (24) леммы 20 выполнено заведомо, если h < 6.
ГЛАВА 3 РЕГУЛЯРНЫЕ МЕТОДЫ РЕШЕНИЯ ЛИНЕЙНЫХ И НЕЛИНЕЙНЫХ ЗАДАЧ §11. Регулярность приближенных методов 1. Анализ исследованных ранее алгоритмов решения основной задачи позволяет сформулировать достаточно общий принцип построения приближенных решений, включающий в себя все из- вестные к настоящему времени алгоритмы. Пусть d — совокупность точных исходных данных, например d ={ Л, /, Z, g}, da — совокупность приближенных данных основ- ной задачи с однотипными компонентами, например da={A, f, L, g), o= (Л, 6, Г, т) — точностной вектор, характеризующий меру погрешности задания приближенных данных do покомпонентно. Всякое отображение Rст, ставящее в соответствие приближенным данным do некоторое непустое множество UaC D, определяет приближенный метод решения основной задачи. Будем писать Uo=Rada. Если выполнены условия lim sup \\Аи -/Uf < рА, а -► О U € и а ____ (1) lim sup IlZu-gllG < i>L, <y —*• 0 и G Uo то приближенный метод Ra называем регулярным. В соотношениях (1) вектор точностных данных о->0, если все компоненты, его определяющие, стремятся к нулю. Погрешностью метода R а назовем величину A(£/a,w) = sup |w-w|, (2) где и - решение основной задачи. Метод Ro назовем сходящимся (устойчивым), если lim A([7a,w) = 0. (3) о->0 Теорема 31. Для того чтобы метод Ro решения основной задачи был сходящимся, необходимо и достаточно, чтобы он был регулярным.
Доказательство. Пусть метод R а сходится; очевидно, что sup ИЛ w-/llF < + Д([/а, w), w G Uo sup IILu -gllG + Д([/а,м). Используя (2), отсюда получаем соотношения (1). Следовательно, метод Ro регулярен, что и требовалось. Покажем, что всякий регулярный метод Ro сходится. Предпо- лагаем противное. Тогда для некоторого е > 0 найдется по крайней мере одна последовательность {un}GU0, где {uw}-*(), для которой I — й| >е>0, и = 1,2,... (4) Так как метод Rо регулярен, то в силу (1) справедливы соотно- шения lim IIАип -/II < , lim \\Lun -gHG n oo n °° (5) Рассуждениями, аналогичными приведенным при доказательстве теоремы 3 о сходимости регуляризованных решений к решению основной задачи, устанавливаем, что из (5) следует соотношение lim | ип - =0, которое противоречит (4). Полученное противо- речие показывает, что метод Ro сходится. Теорема доказана. Нетрудно видеть, что условия (1) регулярности приближенного метода Ro эквивалентны следующему утверждению: существуют функции 01 (а) > 0 и 02 (о) > 0 такие, что lim 0i (о) = lim 02 (а) = 0 а-*0 IIЛи -fiF<nA + 01( \\Lu-g\\G <vL+02 Vu€Ua. (6) 2. Регулярные приближенные методы дают сходящиеся к эле- менту и решения. Однако иногда требуется определить приближе- ния к множеству Uf или некоторой его непустой части. Определим множества^ (к > 1) следующим образом: Uk={u^Uf. \\Lu-g\\G<kvL}. Нетруднр видеть, что ик&ф(к> У), так как wG Uk. С другой стороны, при к = 1 имеем С4 = i =А^}, т.е. это множество одноэле- ментно, а при к =°° множество £/«>, очевидно, совпадает со всем 69
множеством Uf. Кроме того, Uk^ D Uk, если k{ >k2i т.е. мно- жества Uk - расширяющиеся при к ->«>. Пусть задан некоторый приближенный метод Ro. Назовем его к-регулярным, если для некоторого к 1 выполнены соотношения lim sup II Аи -/Ир < Ра , lim sup \\Lu -g\\G <kvL. и 0 и G U(j Отметим, что при к = 1 любой ^-регулярный метод Ro является регулярным. Точность его будем определять величиной &rg*h.(Ua,Uk) = = sup inf {l(Au-A + l(b«-Lv,g*)G I + u e u о v<=Uk + \(u-v,h*)H\ + lAu-fiF-nA}, (8) зависящей от фиксированных элементов f*E.F,g*^G, h*&H. ^-регулярный метод назовем слабо сходящимся, если lim bf.g.h.(Uo,Uk) = 0 \/f*,g*,h*. (9) cr ->0 Теорема 32. Всякий к-регулярный метод Ro слабо сходится. Доказательство. Из оценок (7) следует, что при доста- точно малых о семейство { sup |w|) ограничено. Из соотношения i/G Uo дополнительности тогда получаем: семейство { sup IIиII//} —ограничено. (10) Выберем произвольные элементы Uo. Из (9), (10) следует, что семейство иа слабо компактно в //, семейство А ио слабо ком- пактно в F, а семейство Luo слабо компактно в G. Выделим под- семейство \ио>} С {ио} такое, что му -> м0, Аuj -> f^Luj -+ gQ при </-*0. Из совокупной слабой замкнутости операторов Л, £ следует, что UqED, Аи0 =/0, LuQ =g0. Используя слабую полу- непрерывность снизу нормы в гильбертовом пространстве и соот- ношения (6), устанавливаем: II Лмп - f IIс- < lim IIЛ ио> -/II/? < lim IIЛ ио' -/11/? < рА , а'-° <7-0 (и) -^IIg < lim II Lua' -J?«G < lim H^«a’ -^Ug <^vl- a'-*O ct'-’-O Из первого соотношения (11) следует и^^ Uf. поэтому lim \\Aua'-f\\p-\\Au^-f\\p-pA. (12) а'->0
Из второго соотношения (11) вытекает, что w0 Uk- Из доказан- ного выше и произвольности семейства {иа>} следует, что Af*g*/r*(^CT» (J^O. Из полученного предельного соотношения, используя произволь- ность выбора семейства {wCT}, получаем соотношение (7). Теорема доказана. Замечание 1. Из (12) и слабой сходимости Аиа> 4 А следует lim IIА ио> - А н0 IIF = 0, поэтому ст'-* О lim inf^ IIА ио - А и\\р = 0. иеик Используя произвольность выбора семейства {мст), получаем, что на самом деле lim sup infA IIАи-Ли!1^ =0. ст - о и е ио у с. цк Следовательно, для всякого к-регулярного метода Ra справедливо предельное соотношение Дк*/1*(^ст'£4)- sup infA {IIAu-AuIIf + II t Uo у £ (Jk + \(Lu -Lv.g*)G I + \(u - v, h*)H\ + WAu -f\\F - pA} ->0, a->0 Vg* EG, h* EH (усиленная слабая сходимость). Аналогично теореме 31 можно доказать следующее утверждение. Теорема 32а. Чтобы метод Ro был к-регулярен, необходимо и достаточно, чтобы он усиленно слабо сходился. Замечание 2. Определим специальный метод Rkd = Uk. По определению множества Uk имеют место соотношения (1), т.е. метод Rk является регулярным при к -> 1. Построенный метод Rk естественно назвать методом сужаю- щихся областей, так как из к{ <к2 следует Uk} С ик. 3. Метод сужающихся областей допускает естественное обобще- ние. В самом деле, пусть задан некоторый &-регулярный метод R(J. Построим приближенный метод Rok так, чтобы R<M,k} = Uon Uk. Нетрудно видеть, что для метода Rok, который мы также будем называть методом сужающихся областей, при о->0, к -> 1 спра- ведливы соотношения (1), и следовательно, он является регуляр- ным. Тем самым доказана следующая
Теорема 33. Для всякого ^регулярного приближенного метода решения основной задачи можно построить по крайней мере один регулярный приближенный метод. 4. Из исследований, проведенных в предыдущих параграфах, следует, что: - метод регуляризации Тихонова регулярен; - методы, основанные на критериях р, у и выбора параметра регуляризации, регулярны; - метод невязки и метод квазирешений (точные данные) ре- гулярны; - методы, основанные на критериях типа р выбора параметра регуляризации, регулярны; - методы, основанные на критериях типа $ выбора параметра регуляризации, ^-регулярны при к = \/2. В дальнейшем будет рассмотрен еще ряд регулярных и &-регу- лярных приближенных методов решения основной задачи и ее обобщений. § 12. Теория точности регулярных методов 1. Наряду с построением регулярных приближенных методов решения основной задачи важной проблемой является оценка их точности. Обозначим рА (и) = IIА и - f 11^ , wGZ). Ясно, что рА(и)>рА для любого wGD. Оценим уклонение \\Аи-Аи$\\р, где wG D,uq Е Uf. Справедливо соотношение IIА и -Аи0 II£ = р2А (и)-р.2А - 2(Лм0 -f.Au -Auq^. В соответствии с теоремой 5 имеет место неравенство НАи- Аи0Гр<(1А(и)-(1А. (1) Заметим, что если D-DAL, то (Аи^ — /, А (и -u0))F =0 и имеет место точное равенство llAu-Au042p=iaa(u)-ij.2a. (2) Тем самым доказана Лемма 21. При любых uEDu uQ G Uf справедлива оценка (1). Если D-Dal. то справедливо равенство (2). Далее рассмотрим некоторый ^-регулярный приближенный метод Ro решения основной задачи. Так как рЛ < IIА и - f llF V wG D, то существует неотрицатель- ная функция ej( о) ->0 (а-*0) такая, что sup цА(и)<цА +е,(а). и е ио
Применяя лемму 21, получаем утверждение: Л е м м а 22. Для любого к-регулярного метода ^выполняется оценка &A(ya,Up) = sup НЛи-Ли0Н/7< и G Ua, и0 G.Up <[(Д4 +е1)2 -Мл11/2> (3) причем + о + О. (4) Замечание. Так как Uk С Up при любом к > 1, то, очевид- но, справедливо соотношение, аналогичное (4): ШЛМ (7 + 0, при самых общих предположениях относительно данных основной задачи (в частности, операторов А и L). К сожалению, аналогичную оценку для уклонения значений оператора L получить не удается, так как, вообще говоря, мно- жество приближенных решений Ua не обязано содержаться в не- известном нам множестве Up. Поэтому здесь мы довольствуемся значительно менее сильной оценкой. Действительно, из второго условия (6) § 11 следует существова- ние неотрицательной функции е2(о) +0 (о+0) такой, что II Zu-gllc + б2 Vu €Ua. Поэтому имеем sup л ll*Zu -Luq.Wg < 2kvL + е2, и G Ua, uQ G ик и, таким образом, lim sup л II Zu -Luq IIg < 2kvL, a->0 и G Ua,uQ GUk (6) (7) (8) Справедливо утверждение: Пусть величина vL = 0. Тогда для любого ^-регулярного прибли- женного мето да R а справедливо соотношение lim sup -Л | и - u01 = 0. (9) а~»0 и GUa,u0 ^ик Действительно, в этом случае Uk = {u} при любом 1, и остается применить оценки (5) и (8). 2. В общем случае (yL >0) соотношение типа (9) для /г-регу- лярных методов, вообще говоря, не имеет места. Для получения дальнейших результатов поэтому ослабим меру точности прибли- женных решений.
Пусть линейный оператор В, определенный на DAL и действую- щий из Я в банахово пространство К, удовлетворяет условиям: - В -дополнительности; — NaQNb, где NA = {u\ Ли = 0}, NB={u: Bu = Q} - ядра операторов А и В (это условие выполняется заведомо, если ^={0}); - оператор В усиленно подчинен операторами! и L. Тогда назовем Вчю грешностью некоторого к -регулярного приближенного метода Ro величину sup infA \\Bu - Buq II v. u^ua uQ^uk Определим также оценочную функцию coB(e,7?) = sup llBullr, uEDal: 11Ли.11/г<б, \\Lu\\G<R. и Следующая теорема показывает, что ^-погрешность приближен- ного метода очень просто выражается через оценочную функцию Теорема 34. Пусть задан некоторый k-регулярный метод Ra и выполнены соотношения (3), (7). Тогда &в(иа, 1/к)< ь>в<У(цА +е,)2 -ц?А, 2kvL + ег). (10) Доказательство оценки (10) непосредственно следует из опре- деления оценочной функции. 3. В дальнейшем мы дадим целый ряд применений (10) для оценки точности различных ^-регулярных методов, а сейчас выяс- ним некоторые простейшие свойства оценочной функции. Обозначим M^R={u^DAly UmIIf <е, \\Lu\\g<R} и будем считать, что операторы А и L совокупно замкнуты на всем множестве DAL (а не на множестве Z), как предполагалось раньше). При сделанных предположениях относительно оператора В и совокупной замкнутости операторов Л и £ на множестве DAL (которые в этом параграфе мы предполагаем выполненными) справедлива Лемма 23. При любых е > 0, R > 0 функция сов (е, R) ко- нечна. Более того, существует по крайней мере один элемент Л G MetR, для которого ыв (е,7?) = ИВйИр. Доказательство. Для любого uG Me,R в силу условия ^-дополнительности имеем ll^wll у <7в(б2 +Я2)1/2 <оо,
т.е. функция (jOB (e, R) действительно определена при всех е > О, R 0. Пусть {и„}Е MeR (п = 1, 2,... ) - максимизирующая после- довательность такая, что aiB(e,R)- 1/и< II Вип IIу ^сэв(e,R). (И) Нетрудно видеть, что последовательности {ип}9 {Аип} и {Lun} ограничены и, следовательно, слабо компактны в Я, F и G соот- ветственно. Без ограничения общности можно считать, что они слабо сходятся: ип h, Aun^ f0, Lun + go (и-><»). Исполь- зуя слабую совокупную замкнутость операторов А и L на DAL, отсюда устанавливаем ^4Л=/о, Lh=gQ. Из свойств слабо сходящихся последовательностей вытекает, что hEMcRi т.е. является допустимым элементом. Используя условие усиленной подчиненности оператора В и переходя в (11) к пределу, из установленных фактов выводим, что на элементе h достигается требуемый максимум. Лемма 24. Оценочная функция сов (е, R) обладает следую- щими свойствами: а) 0; б) сов(Хе, XJ?) = Хсод(е,Я), Х>0; в) gjb(c,R) возрастает по каждой из переменных; г) сов(б,7?)-> 0, е^О Доказательство. Свойства а), б) и в) очевидны. Дока- жем свойство г). По лемме 23 существует элемент h€ Е MeR, для которого сов(б,Я)= ИВ/ге11 у. Тогда имеем lim IIЛ h€ lip = 0, lim € -+O e ->0 Из этих соотношений следует, что семейства элементов {Л€} и { Lhe} ограничены и слабо компактны в HwG соответственно.Вы- делим любое подсемейство { h€ } С {h€} такое, чтб he> h0, Ahe'-*0, Lhe'^g0, е'->0. В силу слабой совокупной замкнутости операторов Л и£ получаем AhQ-^, LhQ -go, т.е. элемент hQ принадлежит ядру оператора Л и, следовательно, по условию, ядру оператора В. Но оператор В усиленно подчинен операторам Л и£ и, следовательно, 0= lim \\Bh€' -Bho II у - wB(e’,R). б'->0 Из произвольности подсемейства {hcr} получаем lim о?в(е,А) =0, гт б -*О что и требовалось. Лемма доказана.
Обозначим △л В(У„, Uk) = Дл (Ua, Uk) + bB(Uo, Uk). Непосредственным следствием лемм 22, 24 и теоремы 34 является Теорема 35. Пусть задан некоторый k-регулярный метод Ro. Тогда ^AB(Uo,Uk)^0, а->0. (12) Замечание. Если мера совместности рА >0, то величина (Ma +ci)2 ~Аа =0(ei), а при рА =0 равна е?. Таким образом, для совместных задач (рА = 0) порядок точности любого ^-регу- лярного метода Ro значительно выше, чем для несовместных (Да>0). § 13. Вычисление оценочной функции 1. Для эффективного построения оценок В-погрешности &-ре- гулярных методов необходимо дать способы вычисления оценоч- ной функции (е, R). Далее рассматриваются как точные методы вычисления оценочной функции, так и построение мажорирующих функций, точных по порядку. Пусть пространство Н сепарабельно, а множество DAL плотно в Н. Предположим, что существует систе- ма{м/}6 Dal (i = 1, 2, . . .), плотная в Я и А*Л-ортогональ- ная, т.е. (Aut-, Auj) где 6Z/- - символ Кронекера. Кроме того, пусть квадратичные формы НЛм11^, IlZwII^ и IlBwII^ (простран- ство V предполагаем также гильбертовым) представляются в виде: \\Au\\2f = S \\Lu\\2G = S g^2, i=l z=i IIBmII2k= s xz?2, /=1 где $z = (Au, Ащ), g-t> 0, Xz> 0. Будем в этом случае говорить, что соответствующие квадратичные формы спектрально подобны. Относительно чисел gi и Xz предполагаем, что существуют некото- рые натуральные тх и т2 такие, что gz+1>gz>0 Vz>w4, Xz+1 >Xz>0 Vi>m2, lim gi = lim Xz = °°. При указанных предположениях вычисление оценочной функции (е, Л) сводится к решению бесконечномерной задачи квадратич- ного программирования, так как w^(e,/?)=sup Z Х,$?, (1)
где вектор удовлетворяет условиям S £-<е2, 2 gi^R2. i = 1 i = 1 (2) Следуя В.К. Иванову и Т.И. Королюк [31], сделаем замену ?-/е2 = д,-; тогда со|(б,Я)/е2 = sup S Х,д2 (3) Д i=l где вектор д = (дi, д2, • • • ) удовлетворяет условиям S Д/<1, S g^f<P2/e2, д,>0. f=i /=1 (4) Пусть существует неотрицательная строго возрастающая вы- пуклая функция g=g(X), Х>0, значения которой g(Xz)=gz. Рассмотрим на плоскости OXg точки Р/= (Xf, gz) и обозначим через Г ломаную, составленную из отрезков прямых, соединяю- щих последовательно точки Pz. Лемма 25. Ломаная Г задается возрастающей выпуклой функцией. Доказательство непосредственно следует из свойств функ- ЦИИ£(Х). Далее, обозначим 2 = {(Х,^):Х= S Х/Д,-, £ = S gifr} i = 1 i = 1 Очевидно, Г С Q. Лемма 26.Пусть суть треугольники Р^Р^ 2. Тогда область Q = U Qh i = 2 Теперь можно дать следующую геометрическую интерпретацию задачи (3), (4) вычисления оценочной функции (е, R) при сделанных предположениях: среди точек Р = (X, g) области Q, удовлетворяющих условию g<R2/e2, найти точку с максималь- ной абсциссой. Следующая теорема обобщает результат, ранее полученный в [31]. Теорема 36. Пусть е столь мало, что grny <R2 )е2 .Обозначим через m наименьший индекс, при котором gm<zR2le2. Тогда, ecaugm -R2!е2, то со2 (б,Я)=б2Хш, (5)
если gm <R2Ie2, то / (Лдп + l — ^m)+ / + e O^mSm + 1 — ^m +l&m)]/(&m+1 —&m)- ($) Доказательство. Ломаная Г ограничивает область Q справа и снизу. В силу условия теоремы требуемый индекс гц всегда существует. Если gm =R2 Ie2, то прямая g =R2 !е2 пересе- кает ломаную Г в точке М = (Xm,gm) и, следовательно, (e,R) оценивается в соответствии с (5). Если gm<R2 /е2, то величина сод (e, R)fe2 равна абсциссе точки пересечения прямой g -R2Ie2 с ломаной Г. Это условие дает (6). Теорема доказана. Замечание. Всегда Xme2 < w2(e,/?)<e2Xm + 1. Тем самым формула (5) является асимптотической при т.е. е ->0. 2. Применим изложенный выше подход для вычисления оценоч- ной функции для некоторых троек операторов А, L иВ. Отметим, что если g (X) = X1 +2к (к > 0), то, как легко видеть, w(e,/?)<(e2K/?)1/(1+2K). (7) При показателе из (7) получаем со(е, R) =О(е), т.е. предельную точность, определяемую уровнем е. Интересно, что при к ->«> зависимость оценки для u)(e, R) от величины R осла- бляет. Задание g(X) =Х1+2к можно интерпретировать как требо- вание гладкости оцениваемого решения. Дадим ряд примеров применения оценки (7). Пример 1. Пусть H = F = G = V -L2 [-я, я]. Известно, что всякая функция иЕ Ь2 [-я, я] представима рядом Фурье: и(х)= S $т um (х), и,„ (х) = еim х, m = - оо yj 2 тг i - мнимая единица. Пусть А -Е — тождественный оператор в Ь2 [—я, я], llLwll2 = S w2al^l2, m = — °0 IlBwII2 = S тп2ц\^П1\2, 0<д<о. m - — 00 Тогда, очевидно, #(Х) =Х1+2к, где к = (о-д)/(2д1). Восполь- зовавшись (7), для данного случая получаем
d°u В частности, эта оценка справедлива, если Lu----, Ви = d*u dx° =------ , о, р - натуральные, о> д > 0. dx* Пример 2. Пусть Н = F = G = Ь2 [-1,1 ], d Г „ du 1 А =Е, Lu= — (1 -х2)-------- dx dx J и{ип(х)} (n = 0, 1,... ) - ортонормированная bL2 [-1, 1] система многочленов Лежандра. Так как система (ип(х)} полна в L2 [-1,1], то всякая функция и(х) G L2[-l, 1] представима в виде ряда Фурье: и(х) = S ^цип(х); при этом в силу известных свойств п = 0 многочленов Лежандра имеем IIZuII2 = S и2(и+1)2£2. п = 0 Пусть оператор В таков, что lltfull2 = S u2M(H + l)2^2, 0<д<1. п =0 Тогда g(X) =Х1/Д, к = (1 -д)/(2д). Снова воспользовавшись (7), получаем w(6,A)<61"MAM. (9) Соотношения (8), (9) могут быть использованы для оценки точности представления экспериментальных кривых соответствую- щими рядами Фурье. Пример 3. Рассмотрим задачу об аналитическом продолже- нии функции w(z), гармонической в круге |z| < 1 и суммируемой с квадратом на его границе | z | = 1. Обозначим ur(<p) =w(re/*>) (0< г<1) и пусть U=F-G- - V =L2 [0, 2тг]. Будем считать А=Е, Ьи,.(ф) = ur=r. i(v), But.(<p) = up(</?), 0<r<p<l. Полагая 1 «r(^)=-=.( S х/2тг m = — имеем 00 1 II Lur($) II2 = S 2 m '’ i - — 00 Г „ °° / p\2m llfiM^)ll2=S - IUI2. m - — °° \ Г /
После несложных вычислений убеждаемся, что = Х1+2к, где к = о/(2( 1 - а)), о = In р/ln г. Воспользовавшись (7/, получаем со(е, R) < llur=1(^) II < R. / (10) Соотношение, аналогичное (10), было установлено также в [31] другими методами. Пример 4. Пусть G = Н и L = /Предположим, что А*А = - g(B В), где g(X) — возрастающая выпуклая функция от X и опе- раторы А и В вполне непрерывны. Полоцким = Х^1+2к^(2к\ и пусть {е[}~ полная орто нормированная в Н система собственных элементов оператора Л А: А *Л е, = д,е,-, щ > 0. Тогда всякий эле- мент из Н представляется в виде и = S щеь Ui =(u,ei)H, i=l так что II II2 = S PiUj, /=1 IILull2 = Su?, IIВиII2 = S д/2к)/(1+2к)и?. i-1 i= 1 Полагая здесь д,и2 = £2, получаем X,- = P~t = ДГ1, и сле- довательно, g(X) = X1 +2 K. Таким образом, в рассматриваемом слу- чае справедлива оценка (7). Пусть С: V -+ F - линейный вполне непрерывный оператор и А = СВ. Легко проверить, что если В = (С*С)К (к > 0) , то g(X) = = \(i +2к)/(2к) £СЛИ взятьft = Tog(X) = X2. Пример 5. Рассмотрим задачу решения эволюционного уравнения du — = Su, u(0) = /, 0<Z < Т, (И) dt vjig S — самосопряженный неотрицательно определенный оператор с неограниченным дискретным спектром, действующий из Н в Н. Будем предполагать, что задача (11) разрешима и II u(T) II// < R. Положим Аи = u(0), Ви = u(7), Lu = и(Т) , и пусть { со, }- полная ортонормированная в Н система собственных элементов опера- тора 5: Всо,- = д,со„ д,- > 0, lim д,- = °®. /~*оо Тогда для всякого и G Н имеем и= S & = (и, со,)н. Пусть /= 1
w(0) = S gj{-. Тогда i=i I Au II2 = S I? , || Ви II2 = S exp {2M,r} , i = 1 i = 1 IlZwlP = S £2ехр{2д/Т}. !=1 Отсюда видно, что X, = exp {2д/Г}, gz- = exp {2щТ), и, следователь- но, g(X) = X1 +2 к, где к = (Т - г)/(2г). Воспользовавшись (7), полу- чаем известную оценку 11м(г) Ия < wB(6, А) < 0<Г<Т. (12) 3. Для приложений важны не только точные методы вычисления оценочной функции (е, Я), но и способы ее оценивания сверху. Рассмотрим один из приемов, имеющий в своей основе применение неравенства моментов. Пусть Ек (0 < X < +°°) - какое-либо спектральное разложение единицы*) в Ни операторы At L, В таковы, что bk = II Ли II2 = f Xkd(E\u, и), о bi = II Ям II2 = °j\ld(EKu, м), о bm = II ЯмII2 = / \md(EKu,u). о Как известно, при любых положительных р nq справедливо нера- венство моментов bp+q < bp bq п um um+q ит~р- Полагая здесь m+q = к, т-р-l, получаем ьт < ^w-/)/(fc-zb(zfc"w)/(fc-z), и, следовательно, ^в(е,Я) < €<m-z>^-z)/?^-wV^-0 В частности, если выполнены условия примера 4, то I = 0, к - 1, т = 2к/( 1 + 2к) и полученная оценка совпадает с (7). *) Семейство проекционных операторов2 Е\, зависящих от вещественного параметра X G (—°°, °?), называется спектральным разложением единицы [131], если оно обладает свойствами: 1) Е\ < при X < д, 2) Ех-о - Ек, 3) £’_Оо = 0,£’+оо = £’. 6. В.А. Морозов 81
Пример 6. Пусть Н - F = G = V = Ь2{—°°, °?) и А =Е, В = da =----- , L = ----, 0 < д < о. Для функции и(х) G Ь2 (- °°, °°) вве- dx" dx° дем преобразование Фурье Fu = n(w), | w | < °°. Тогда II Аи II2 = / I u(<o)|2 Лз, II Ви II2 =7 со2д | м(ш)|2 Ло, — оо ИЬм II2 = 7 со2ст| й(со)|2 Ло. Имеем: к = 0, 1 = 2о, т = 2ц, и, следовательно, <ов(е,Я) < е‘-д/аЯд/а . Полученная оценка совпадает с (8). Операторы L и В можно понимать и как операторы дробного дифференцирования. 4. Рассмотрим задачу вычисления величины сов(е, Я) = SUP II lljz , (13) и где ^{uEDAL: R2 IIА и \\2f + е2 II Lu I& < 2e2R2}, и найдем связь между сов(е, R) и оценочной функцией сов(е, Я) • Лемма 27. Имеют место соотношения ^в(е,^)< <^в(€> К) ^B(e,R). (14) Доказательство. Нетрудно видеть, что MeR D MeR. Это включение доказывает справедливость неравенства сов(е, R) < <сов(е, R). Далее, имеем D МеВ. Тогда очевидно, что <^b(£,R) \/"2Я) V*2^b(c, Я). Лемма доказана. Итак, функции сов(е, R) и сов(е, R) имеют одинаковый поря- док как по е, так и по R, и в этом смысле эквивалентны: coB(e,R) = О(сэв(е, R)). Замена оценочной функции сов(е, R) на сов(е, R) лишь незначительно загрубляет оценки точности fc-pery- лярных приближенных методов решения основной задачи. 5. Дадим эффективный метод вычисления функции сов(е, R). Как и в п. 1 данного параграфа, предполагаем, что квадратичные формы IIА и IP, II Ви II2 и II Lu II2 спектрально подобны. При этом 82
предполагается, что Х/+1 > X/ > 0, gi+1 > gj>0 при всех / > 1 и lim Xz = lim gi = °°, lim Xf-/g. = 0. (15) /—> OO /'—> OO i—► oo Дальше нам потребуется результат: Для любого решения и0 задачи (13) справедливо соотношение: i//2(w0) = R2 Uf + е2 H^WoIIg = 2e2R2. Действительно, если сов(е, Я) = IIZ?i/0 “г и R2 \\Auq + e2 \\Luq\\2g < 2e2R\ то, обозначая = Xw0 (X > 1), можно выбрать такое значение параметра X, что ик Е Ме R. При этом, очевидно, II Ви\ II у = X II Buq IIpz > II Buq 11|/ = сов(с, R), что противоречит определению элемента и0. Это доказывает наше утверждение. Из сказанного следует, что функция a>B(e,R) = sup II Ви Ик, и: ф2(и) = 2e2R2. (16) и Теорема 37. Пусть квадратичные формы \\Аи II2, II Lu II2 и \\Ви II2 спектрально подобны и X/, gi удовлетворяют указанным выше требованиям. Тогда о)в (е, R) = 2e2R2 max —------ у— . (17) R+egj Доказательство. Имеем в условиях теоремы Ф2(и) = s (tf2+62gfHL WBuW2 = i = 1 /= 1 Полагая . (/?2+еЧ)^? = ’ получаем ы2в(е, R) = 2e2R2 sup S -- ---- Д/ , я /=1 R* +e*gi где вектор р = (gi, р2, • • • ) удовлетворяет условию S р2 = 1. i = 1 Отсюда непосредственно следует (17). Теорема доказана. Замечание. Условия доказанной теоремы более слабые, чем условия, при которых доказана теорема 36. Условия (14) 6* 83
заведомо выполняются, если существует функция £(Х) >0 такая, что gi=g(Xi) и lim ------- = 0. A-*00 g(X) (18) Теорема 38. Пусть квадратичные формы \\Аи II2, II Lu II2 и II Ви II2 спектрально подобны, a Xit g, таковы, что Х/+1 > X/ > 0, gi+x > gi > 0, lim Xf = lim g, - + f—> oo /—>oo Тогда условие lim — =0 (19) gi является необходимым и достаточным для того, чтобы <ов(е, R) -* -0 (е->0). Доказательство. Достаточно доказать, что условие (19) является необходимым и достаточным для выполнения соотно- шения сов(е, R)-*0 (е->0). Предположим, что (19) не выполнено. Тогда найдется под- последовательность натуральных чисел is (s = 1, 2,.. .) такая, что ^tslgis > Д > 0 (s > 1), где а - некоторое число. Тогда, полагая М/ = Ьц5, получаем из предыдущего Х;- а ---------- ------------------------------ 5 ] 2е2Я2 R2 + e2gis R2/Sis + е2 ’ и, следовательно, сЬв(е, R) не стремится к нулю при е -*0. Теорема доказана. 6. Изложенный метод вычисления функции сов (е> Я) легко обобщается. Действительно, пусть Ек (X > 0) — спектральное разло- жение единицы в Н такое, что квадратичные формы' II Ли II2 = /° d(EKu, w). о II Lu II2 = /° g(X) d(Exu, и), II ВиII2 = f X(dk\u,u\ о * о где g(X) - неотрицательная функция, удовлетворяющая предель- ному соотношению X lim ------= 0. х-->о° g(X) (20)
Тогда, следуя изложенному методу вычисления функции сов(€,/?), получаем R) = 2e2R2 sup —--------- x>otf2+62g(X) (21) при этом для выполнения соотношрния lim о?в(е, R) = 0 необхо- димо и достаточно, чтобы выполнялось (20). Если функция g(X) непрерывно дифференцируема, то для опре- деления экстремальных значений X требуется решить скалярное уравнение R2 + g(V е2 = Ле2 (22) dX В частности, для функции g^X) = Х1+2к > 0,, пользуясь урав- нением (22), нетрудно найти шв(е, Я) = <O(leKR}1K1+2K'>) (ср. с неулучшаемой оценкой (7)) . § 14. Примеры регулярных методов 1. Пусть элементы /;^и операторы А и L основной задачи заданы приближенно, т.е. известны f в F, g Е G и операторы А и L такие, что II/-/Пр <s, <7, Il Au —Au llF < h | u\t \\Lu -~Lu\\g < 11 u | Vi/GD, где 6, т, h, t — точностные параметры. Рассмотрим вопрос о построении ^-регулярных методов при приближенных исходных данных. Первоначально считаем, что 3 = h = 0, т.е. погрешности в задании элемента f и оператора А отсутствуют. Обозначим vL = inf II Lu - g llG!. В силу теоремы 1 существует единственный элемент utr G Uf та- кой, что ~vL = |ЦТ -'g II\ G. Теорема 39. lim | utT - u | =0, t, r~>0 где u - решение исходной основной задачи.
Доказательство. Очевидно, vL < WLu -gllG vL + 11 w| +6 и, следовательно, \\LutT -^G < »L + r(l “rrl + I «I) + 2т. Так как, с другой стороны, \\AutT - f\\p = цА, то при достаточно малых t и т семейство {|utT |} равномерно ограничено; следо- вательно, lim II AutT - f IIF = lim \\ LutT ~g llG < vL) t,T~+O f,T~*O т.е. построенный метод является регулярным. В силу теоремы 31 он также сходится. Теорема доказана. Следствием этой теоремы является тот факт, что при отсутствии погрешностей в задании элемента f и оператора А приближенный метод можно строить ’’классическим” образом, следуя формули- ровке основной задачи. 2. Изучим общий случай, когда h и 6 также отличны от нуля. Предположим также, что приближенно известны некоторые харак- теристики основной задачи, а именно пара Пусть вместо задана величина > рл, а вместо vL — величина vL > vL. Имеем IIА и -f llF < дл + h | и | + 6, II Lu - g llG < vL + r| и | + t. Определим множества Ua = {uED: \\Au -f\\F <pA + Л|м| +6, \\Lu -~g llG < vL + 11 u\ + т }, гдео = (6,т,/?, r, = Дл в силу предыду- щих неравенств м€£/стпри любом а, т.е. множества Uo непусты. Тем самым мы определили некоторый приближенный метод Ro решения основной задачи: Uo = RO{A, ft L, g, pA, vL, a}. T e о p e м a 40. Построенный метод Ro является регулярным и, следовательно, сходится. При достаточно малых о < Ws(V(Мл +ei)2 “ Ул • + е2), (2) где е, = f + 2hC +26, е2 = Г+2/С +26, С = 2(II/ llr + ll^llG + + Ад + + 26 + 2т). Доказательство. Для любого и Uo имеем II Аи -f\\F < рА + 2h | и | +26, II Lu - g llG < vL + 2r | u\ + 2т,
и, следовательно, I и | < II/II/7 + llgllG + дл + vL + 2(h + /) | и I + 26 + 2т. Тогда, очевидно, при достаточно малых h и t имеем I и I < С < const равномерно по всем и Е и а. Из предыдущих неравенств получаем (для любого и Е Uo) \\Au- /Иг < дл + е1ч \\Lu--gllG < vL + е2. (3) Из (3) следует регулярность и, следовательно, сходимость рас- сматриваемого метода. Используя теорему 34, из (3) выводим так- же требуемую оценку (2). Теорема доказана. Построенный здесь приближенный метод R о назовем универ- сальным. 3. Дадим обобщение метода невязки, основная идея которо- го при точных данных была изложена в § 8. Предполагаем, что наряду с 6 и h известны величина дл > дл и точностной вектор о = (6. A, t, т.,%). Обозначим Do = {иЕ D: Uu -f\\F < цА + h | и I + 6}. В силу первого из соотношений (1) множество Do непусто. Поэ- тому имеет смысл следующая задача: найти элемент ио Е Do, для которого ’ И - f llG = vL = inf II Zu - g llG. (4) Однако установить разрешимость задачи (4) в общем случае (А > 0) не удается. Поэтому поступаем следующим образом. Определим множество Uo ={иЕ Da: II Lu - g llG < + е) . € = e(a)>0, где е^О, о-* 0. Тем самым определен приближенный метод Ro, который мы называем методом невязки. Теорема 41. Метод невязки регулярен и, следовательно, сходится. При достаточно малых и AB(Ua,u) < о>в(>/(Рл +е()2 - ц2А , 2vL +е2), (5) где (и = j + 2АС + 26. е2 = t(C + | и |) + 2т + е, С = 2 [ II/ llF + llg llG + дл + vL + 11 и | + 2(5 + т)] + e. Доказательство. Величина vLi очевидно, удовлетво- ряет соотношениям vL < II Lu - g llG < vL + 11 u | + r, где u - решение основной задачи. Поэтому для любого и Е Uo 87
имеем очевидные соотношения \\Аи - / llF < + 2A|w| +26, WLu-g llG < vL + r( | и | + | w|) + 2 т + e, л, следовательно, | u\ < С при достаточно малых h nt. Из предыдущих соотношений получаем (и е Uo) II Аи - f llF < , II Lu - g llG < vL + €2, (6) где, очевидно, е,(а) -► 0 при о -* 0 (7= 1, 2). Из (6) следует регу- лярность метода невязки. В силу теоремы 34 справедливо также неравенство (5). Теорема доказана. Замечание. Еще раз обратим внимание на тот факт, что применение метода невязки не требует задания величин t и т, характеризующих точность приближений оператора// и элементаg. Вместе с тем не требуется знания величины vL или ее оценки, что особенно привлекательно в этом методе. Если = 0, т.е. рас- сматривается совместная задача, то естественно положить и рА = 0. 4. Дадим обобщение метода квазирешений, основная идея которого была изложена в § 8. Предполагаем, что наряду с t п_т известны величина vL '^vLn точностной вектор а= (6, А, Г, т, f). Обозначим Qa ={uED: \\Lu - g \\G < vL + t\u\ +т}. В силу второго из соотношений (1) множество Qa непусто. Рас- смотрим задачу: найти элементы ио Е QOi для которых llAuff -/llF = = inf IUu-/llF. Поступая аналогично предыдущему, определим множество Ua - = { и G Qo: II А и - / llF < рА + е}, где е - е(о) > 0, е(а) -> 0, а -> 0 (при t = 0 можно положить е = 0). Тем самым мы определяем некоторый приближенный метод, который называем методом квазирешений. Теорема 42. Метод квазирешений регулярен и, следова- тельно, сходится. При достаточно малых о справедлива оценка точности w) < + Cl)2 -ц\, (1 + V2) vL + e2), (7) где €i = h(C + | и |) + 26 + e, e2 = ? + 2rC + 2т, С = 2[ II/ llF + llgllc + pA + vL + h | й | + 2(6 + t)] + e. До к азательство. Так как и Е Uo, то можно получить следующую оценку сверху: рА < рА + h | и | + 5. Следовательно, 88
для любого и Е Ua имеем II Аи - f llF < рА + h (| и | + | и |) + 26 + е, II Lu - g llG < vL + 2r | и | + 2т. Рассуждая, как и раньше, при малых h, t получим | и | < С < const равномерно по всем и Е Uo ио. Из предыдущих соотношений тогда следует, что для всех и Е Ua llAu - f \IF < рА + €ls II Lu -gllG <vL + e2. Отсюда следует регулярность метода квазирешений. В силу теоре- мы 34 справедлива также оценка (7). Теорема доказана. Замечание. Применение метода квазирещений не требует знания величин h и 6, характеризующих точность задания опера- тора А и элемента f. Однако требуется определенная информа- циях о величине vL. Таким образом, методы невязки и квазиреше- ний близки по формулировке, но существенно различаются по априорному заданию необходимых для вычислений величин. 5. Рассмотренные выше методы имеют тот общий недостаток, что они требуют либо нахождения общих точек двух множеств, либо отыскания условного экстремума. Обе эти задачи могут быть решены методами, развиваемыми в общей теории экстремаль- ных задач. При определенных условиях этого можно избежать. Сейчас мы сформулируем метод, близкий по форме методу регу- ляризации, но существенно отличающийся от него в том отно- шении, что его применение не требует выбора параметра регу- ляризации. Будем рассматривать совместную задачу, т.е. случай, когда рА =0. Будем предполагать, что известна сфера Мс = { и Е D: I и | < С}, которая содержит решение и основной задачи. Определим квадратичный функционал д, , _ IlZw-gllG Ф[м] —------------- + —----------- . wED, (ЛС + 6)2 (р£+гС+т)2 и рассмотрим вопрос о нахождении элементов ио ED таких, что min Ф [w] = Ф[мст]. (8) uG£) Воспользовавшись теоремой 2 существования и единственности, можем утверждать, что задача (8) всегда имеет единственное решение, которое мы обозначим через ио (а= (h, t, 6, т, f )). Тем самым определен приближенный метод ROi который назовем детерминированным'байесовским методом: Ro{f,A~g, L, 8,h,r,t, vL}= ио.
Теорема 43. Определенный выше детерминированный байе- совский метод \/1-регулярен. При достаточно малых о справедлива оценка «) < шв(е I. бД + 0 "в + е2), (9) где еj = hC + 5 + \l~2(hC +5), е2 = х/2 i- + tC + т + \Jl (tC + т), C= 2 [II/ lF + llg llG + (x/2 + 1)(5 + r) + \/2C(h +t) + \/2vl] До казательство. Используя экстремальное свойство элемента иО9 получаем Ф[мст] < Ф[м]<2. Отсюда следует, что Uu, -/llF < h\ua\ +5 +V2(AC + 6), II - g IIg < H »al + T + + tC + t).. При условии, что h nt достаточно малы, легко получаем огра- ниченность по о семейства {| ио |} . Поэтому Il4w„ -/llF < fl, \\Lua - gllG < \H.vL + e2. Отсюда следует ^/^-регулярность рассматриваемого метода, а также оценка (9). Теорема доказана. Достоинством рассмотренного метода является простота полу- чения приближенных решений иа. Однако для его применения тре- буется достаточно полная априорная информация, в частности о принадлежности решения основной задачи и сфере Мс. Если h = t = 0, т.е. операторы А и L задаются точно, такой информа- ции не требуется и применение метода облегчается. Если также g = g = 0, то метод принимает особенно простой вид, так как Ф[м] = ~j II Au-flip + — II Lu 11$ , u^D. 5 vl Если D-Dal и, следовательно, линейно, то эффективное решение задачи (8) достигается за счет приближенного решения соответст- вующего уравнения Эйлера: ----~ / hC + 6 \ 2 ~ ~ Л*(Лм-/)+ ------------ £*(£«-?) =0. (10) \ + ГС + г / 6. Рассмотрим вопрос о статистической регуляризации вырож- денных и плохо обусловленных систем линейных алгебраических уравнений на основе последовательной байесовской процедуры и приведем сравнение с изложенным подходом. Пусть состояние некоторого объекта характеризуется случайным вектором и размерности п9 а его проявления - случайным векто- 90
ром f размерности т>п. Пусть р(м), р(/) - априорные плот- ности вероятности векторов ми/, а р(/| и) — плотность вероят- ности вектора / при известном состоянии и. Тогда по правилу Байе- са апостериорная плотность вероятности имеет вид , .... Р(« l/) =------------ р(Л Если имеется к измерений вектора/: f\,... то за основную примем следующую гипотезу: в качестве априорной плотности вероятности вектора состояния и при Лм измерении принимается апостериорная вероятность вектора и после i — 1-го измерения. Тогда, используя (11), получаем Pi(u I /}) = Ptfi) k; где pt{u | fi ) - апостериорная плотность вероятности вектора и после i измерений, а р0(и |/0) - Р(и) • Легко видеть, что к к Pk(u\fk)= р(и) П Pi(fi\u)l П р(Л). i-1 i- 1 Естественно выбрать вектор йк согласно принципу максимума правдоподобия: Pfc(«fc IA) = sup Рк(и |/fc). (12) и Если р(м) = const • ехр{ --(и - uQ)TC(u - и0)}, Pi(Ji\u)= p(fi\u)= const exp {-(Au-fi)TP (Au-fi)}, где С и P - положительно определенные симметричные матрицы порядка пит соответственно, м0 - заданный вектор размерности п, А - матрица размера т X п9 то (12) дает уравнение (1 - \ А _ А 1 А 1 - С + АТРА)ик = ATPfk + - Си0, fk = - S (13) к / к к i = 1 Пусть h = г = т= 0. Тогда (10) принимает вид ~ S2 . А (Аи-/) +—L (Lu-g)=0. (14) Л Сделаем следующие предположения. Пусть H~G =Rn и и - (м i,... ... ,м„)г, ||м ||*„ = м, +М2 + ... + м^. Предположим, что А задается прямоугольной матрицей размера m X и, т.е. соответствующий оператор действует из Rn в Rm. В 91
качестве F возьмем пространство Rт, наделенное нормой || f ||р = = (Pf, f)^2 , Р ~ РТ - положительно определенная матрица. Как легко видеть, А * = Л т Р. Далее считаем g = Lu0,C = LT LIv2l. Тогда (14) принимает вид (62 Си + Ат РА ) и =ATPf + 62 CuQ. (15) Если Р =Р/ о2, о > 0, то (13) принимает вид /а2 \Л а2 л — С + Ат РА — CuQ + ATPfk. (16) \ к / к к Нетрудно видеть, что величина о2)к характеризует точность векто- ра j\ полученного по результатам полного эксперимента, заклю- чающегося в к последовательных измерениях вектора f. Тем самым установлена полная аналогия между детерминиро- ванным байесовским методом, изложенным выше, и последова- тельной байесовской регуляризацией, сводящейся к последова- тельному решению уравнений (13). Обозначим в (16) а = о2/к. Тогда уравнение принимает вид (аС + АтРА) ик =ATPfk +aCuQi и, следовательно, ик = (аС + Ат РА)"1 (aCuQ + Ат Pfk). Если повышается точность эксперимента или беспредельно увели- чивается число измерений вектора /, т.е. к -*00, то а ->0. Естествен- но поставить вопрос о вычислении пределов матриц а(аС + АтРАу1С, (аС + АтРАу1 АтР, а + 0. Для упрощения решения этого вопроса считаем Р = Е (единич- ная матрица). Пусть Ra =-(аС + ЛгЛ)-1Лг, Za =а(аС + АтАу' С. Представим матрицу С в виде произведения С = КТК, где К - Квадратная невырожденная матрица порядка п. Тогда Ra = К~'(аЕ+NTNy'N, Za = aK~1 (аЕ + NTN')~l К, где N = AK~l. Так как матрица NTN неотрицательно определе) а и симметрич- на, то существует ортогональная матрица Q такая, что NTN = = QT XQ, где Л = diag{s2, ..., s2m} составлена из собственных значений матрицыNTN, расположенных в порядке убывания: с2 с2 S2
Легко видеть, что Za = a/r1 QT (аЕ + A)"1 QK, и, следовательно, lim Za = K-lQTEn_rQ, а -+ О где En_r = diag { О, 0,..., 0, 1,1,..1 }, г п-г г - ранг матрицы NTN (или N). Заметим, что при г = л, т.е. если матрица N полного ранга, матрица Eq — нулевая и, следовательно, lim Z = 0, г = п. . а -* О Для определения lim Ra заметим, что а -* О lim (a£, + ArA)"17Vr=A+, а -* О где N* - псевдообратная матрица к матрице N в смысле Мура- Пенроуза (в § 24 этот факт будет следовать из более общих рас- смотрений). Поэтому lim R О Итак, оба предела найдены. Замечая, что ->/ при а ->0 (по ве- роятности) и используя полученные выше предельные соотношения дляЯа и Za, получаем (по вероятности) lim uk=K~lN+f + К~г QTEn_rQKu0. а -+ О Если г = и, то lim ик = К~х N*f и, очевидно, не зависит от векто- а —► О pa uQi характеризующего априорное состояние изучаемого объекта. В этом случае йк N* f. § 15. Принцип оптимальности невязки для уравнений с нелинейными операторами 1. Пусть Un F - полные метрические пространства. Рассмотрим задачу приближенного решения уравнения Au=f, f^F, (1) где оператор А определен на непустом множестве DA С U и дейст- 93
вует из U ь F. Обозначим UA = inf pF(Au,f). Величина рА характеризует меру несовместности уравнения (1). Решение задачи (1) понимается в смысле метода наименьших квад- ратов, т.е. является элементом и G DA, для которого pF (Аи, f) - = рА. В случае разрешимости (1) в классическом смысле рА = 0. В дальнейшем существование обратного оператора Л"1 не предпо- лагается. В противном случае он может не быть непрерывным или определенным на всем пространстве F. Таким образом, задача ре- шения уравнения (1) в общем случае является некорректно постав- ленной. Пусть U = { и G Da : pF (Аи, f) = рА} Фф. Далее строится устойчивый метод решения уравнения (1) при минимальных априорных требованиях. Это подразумевает сле- дующее: а) алгоритм решения (1) с приближенными данными не исполь- зует никакой количественной информации об искомом решении; б) стабилизирующий функционал выбирается не априорно, как при формулировке основной задачи, а из естественного условия аппроксимации исходного оператора Л, которое легко выписывает- ся во всех известных случаях. Предположим, что вместо совокупности d = { / Л, рА} точных данных задачи (1) известны приближенные данные d = { / А, рА} . Здесь элементы f G F: pF (/,/)< 6, 6 ->0, значения рА: рА > рА, %-ЦА - РА “►О. Операторы Л определены на множествах D- D D, где D С Da - априорно задаваемое непустое множество, и удовлет- воряют на D условию аппроксимации Щи), uED, (2) где р (и) = pF (Аи, Аи) - функционал невязки, a f f (Л), Л > 0, lim f (h) = 0, характеризует порядок погрешности аппроксима- h ->о ции оператора Л. Функционал £2 (и) — некоторый оценочный функ- ционал. Заметим, что получение оценок типа (2) является класси- ческой задачей теории приближенных методов и легко выполняется обычными средствами анализа. Далее считаем, что Up - U П D Фф. Так как условие и G D, как правило, включает в себя требование некоторой ’’гладкости” эле- ментов и, то Uf можно назвать множеством ’’гладких” решений уравнения (1). Очевидно, что задание другого D приводит к иному множеству ’’гладких” решений. При мер. Пусть на множестве D задано семейство ’’проецирую- щих” операторов Р, определенных на D при любом h > 0 и со зна- 94
чениями в D, удовлетворяющих условию Игл Ру (и. Ри) = 0. uED. л - о Будем предполагать, что известна также оценка ри (и, Ри) < (Л) Q(u), ие D, где fo (h) ~ функция типа f (Л). Предположим, что оператор А на D удовлетворяет условию Липшица с постоянной К, т.е. pF (Л и, A v) < К Pjj (м, и) V и. и £ D. Определим аппроксимирующее семейство операторов, полагая А = АРна D. Тогда имеем pF (Л и, Аи)<КРу (Ри, и) < К£0(И) Sl(u). w е D, т.е. условие аппроксимации (2) выполнено при f (Л) = K$Q(h). Заметим, что оценки типа приведенной для величины ри (и. Ри) (и G D) широко известны в теории приближений для различных классов пространств и множеств. Определим множество Uo формальных решений задачи (1): ио = (u&D: pF(Au,f)<^(h) П(и} + цА +5}, где вектор о = (6,/г, £) характеризует точность приближенных дан- ных d = { Л, рА} задачи. Используя неравенство треугольника и условие аппроксимации (2), для любого элемента й G Uf полу- чаем: и G Uo. Таким образом, Uo D и, следовательно, непусто. Для построения устойчивых приближений предлагается следую- щий принцип оптимальности: выбирать такиеио G UQ, для которых то= inf Sl(u)= П(иа). (3) ue ио Легко видеть,что этот принцип приводит к выбору в качестве при- ближенного решения задачи (1) таких элементов из множества формальных решений Uo, которые имеют минимально допустимую невязку. Поэтому естественно предложенный способ построения приближенных решений задачи (1) назвать принципом оптималь- ности невязки. 2. При приближенной реализации принципа оптимальности не- вязки нет необходимости искать элементы ио, в точности являю- щиеся решением этой задачи. Поэтому предположим, что определе- на последовательность {е„} -► 0 при п и каким-то способом указаны элементы и к G Ua такие, что £1(ик) < пго + еп, п(4) 95
где вектор к = (6, h, £, еп) характеризует уже и точность решения оптимизационной задачи (3). Т е о р е м а 44. Пусть оператор А замкнут на множестве D и из одновременного выполнения соотношений um&D, lim pF (A um, /) = цА. sup П (uin) < °° m -> 00 m следует, что последовательности {um} , {Aum} компактные U и F соответственно. Тогда для построенного выше семейства ик имеет место соотношение liin pjj (ик, Uf) = 0. (5) к О (Здесь ри(ик, Uf) = inf p,,(uK, и) - расстояние от элемен- u<e ut та ик до множества Uf в пространстве U [131].) Доказательство. Очевидно, пго < £1 (й) Vu G Uf. По- этому Q (ик) < Щи ) + и-^оо, (6) рА <pF(AuK, f)^pA +25 + 2£(Л) (П(м) +е„) и, следовательно, lim pF (Аик, f) = рА, lim £l(uK)<m= inf Щи). (7) к -> 0 к -> 0 и & и? Пусть кт 0, т оо, ит = ик^. Согласно (7) и условию тео- ремы последовательности {uw} и {Аит} компактны в U и F соответственно. Без ограничения общности считаем их сходящими- ся: ит -+ uQ, Аит т -^оо. В силу замкнутости оператора Л на D имеем u0 € D, Аи0 = fo. Из (7) вытекает, чтоpF (AuQ,f) = РА, т.е. u0 в Uf. Отсюда следует (5). Теорема доказана. Замечание. Если задача (1) разрешима однозначно, т.е. Uf = { й } - одноэлементное множество, то вместо (4) имеет место сходимость в обычном смысле: lim Pv(uK, и) = 0. Если рА = 0, к -> О то требование компактности последовательности {Аип} является излишним. __ А 3. Пусть 6 = h = 0. Множество U решений задачи fn= inf Щи)=Щи), uG Uf, (8) u^Uf назовем множеством ^-минимальных решений задачи (1). Пред- ставляет интерес следующая 96
Теорема 45. Пусть выполнены условия теоремы 44 м, кроме того, функционал £2 (м) полунепрерывен снизу на D. Тогда мно- жество Q-минимальных решений непусто: 11Фф. Напомним, что вещественный функционал (и) (и G D), назы- вается полунепрерывным снизу на D, если из соотношений ип е D, lim ип = и G D П 00 следует, что <р(и) < lim <р(ип). п 00 Доказательство. Пусть заданы еп -> 0 +, п -> °°, а элемен- ты ип& Uудовлетворяют соотношению S2(u„)<m + e„. (9) Последовательности '{ ип } , { А ип } тогда, очевидно, компактны. Без ограничения общности их можно считать сходящимися^: ип -+и, Аип -> f. Так как оператор А замкнут, то и € D, Аи = f. Кроме того, pF (Аи, f) = рА. Таким образом, и G Uf. Воспользовавшись полунепрерывностью снизу на D функционала £2 и соотношением (9), получаем Sl(u)< lim £2(u„) < lim Sl(un)<m. (10) П -> оо П “► 00 Из (10) следует, что элемент и принадлежит множеству ^-мини- мальных решений задачи (1). Теорема доказана. Замечание. Если уравнение (1) имеет единственное реше- ние и G Uf, то, очевидно, оно же будет и £2-минимальным реше- нием. Множество U одноэлементно также в том случае, когда пространства U и F линейны, оператор А также линеен, множест- во D замкнуто и выпукло, а функционал Г2 (и) строго выпуклый, по крайней мере, на множестве Uf (принтом, естественно, предпо- лагаются выполненными все условия теоремы 45). Утверждение теоремы 44 существенно уточняется. Теорема 46. Пусть выполнены условия теоремы 45, а эле- менты и к определены в соответствий с (4). Тогда lim pv (ик, U) = 0. к -* О Доказательство. Для выбранной в теореме 44 последо- вательности ит = ик и элемента uQ = lim ит в силу полуне- m т -+ оо прерывности снизу на£> функционала £2 (и) получаем Q(u0)< lim Q(uw). (11) т -* 00 7. В.А. Морозов 97
Из (7) и (11) следует соотношение Щи0) < ж, которое вместе с доказанной в теореме 44 принадлежностью и0 Uf приводит к заключению,что Uq G U. Отсюда вытекает требуемое утверждение. Замечание. При доказательстве теоремы 46 фактически показано, что справедливо более сильное предельное соотношение: lim тах(рг(Лик,/)-дл, ри{ик, U), \£1(ик) - т\} = 0. к“>0 (12) 4. Далее предположим, что пространства U и F - рефлексивные банаховы пространства. Теорема 47. Пусть оператор А слабо замкнут на D, функцио- нал £2 (и) слабо полунепрерывен снизу на Du из соотношений uneDf lim || Аип - f\\F=pA, tt(un) < const < «> п -* 00 следует, что последовательность {ип} ограничена в U. Тогда множество ^-минимальных решений U непусто. Замечание. Оператор А называется слабо замкнутым на D, если из соотношений сл сл un€D, ип «о, Аип -> /о, и->оо, вытекает и0 € D, Auq =/о- Вещественный функционал (и) назы- вается слабо полунепрерывным снизу на D, если из соотношений un^D, ип с~* и0, и ©°, uQ Е D следует </>(u0)< lim ^(u„). п -> 00 Доказательство. Пусть еп -+ 0 и ип Е Uf таковы, что П(и„)<лг + е„. (13) Согласно условию теоремы последовательности {и„} и (Аи„) or- раничены в U и F соответственно, а так как эти пространства реф- лексивны, то эти последователоности и слабо компактны. Считаем СЛ А СЛ а без ограничения общности, что ип -> и, Аип -> f. Тогда в силу слабой замкнутости оператора А на D имеем и Е D, Аи = Из слабой полунепрерывности снизу нормы в рефлексивном простран- стве следует II Ли - / ||F = рА , т.е. и Е Uf. Из условия слабой полу- непрерывности снизу функционала UL (и) и соотношения (13)
вытекают оценки £l(u)< lim М -> ОО т.е. и в U, что и требовалось. Теорема доказана. Условия теоремы 47 выполнены, например, если множество D замкнуто и выпукло, оператор А линеен и непрерывен, функцио- нал П (м) - полунепрерывный снизу и выпуклый на D. Переходим к доказательству следующего утверждения. Теорема 48. Пусть выполнены условия теоремы 47. Тогда для элементов икЕ Uu% удовлетворяющих условию (4), имеет мес- то соотношение lim inf а {| и* (и - ик) | + о uG й + 1Г (Au-AuK)\^\^l(uK)—m\^\\AuK-f\\F — рА} =0, (14) где и* и f* - произвольные линейные функционалы в U и F соот- ветственно. Доказательство. Из соотношений (17) получаем lim. Щмк) < гп9 (15) к -> о lim \\Аик- f\\F = цА. (16) к "> О Из (15) и (16) следует слабая компактность семейств ик иАик в U и F соответственно. Пусть ит = ик (пг = 1, 2,.. .) - любая под- W ж СЛ А СЛ ' последовательность такая, что мт -> и, Аит -> /. В силу слабой замкнутости оператора А и свойства полунепрерывности снизу нормы в банаховом пространстве получаем и Е D, А и = f9 и, следовательно, рА <\\Au-f\\F< lim \\ Aum - f\\F = рА. (17) m 00 Отсюда следует, что иЕ U, т.е. является решением задачи (1). Далее, в силу слабой полунепрерывности снизу функционала £2 (и) на D имеем П(й)< lim П(г/Ш)< lim Q(ww)<w, (18) m °° m т.е. u € U, поэтому lim Sl(um) = m. (19) Ш oo
Из произвольности выбора подпоследовательности {ит} вытекает (14). Теорема доказана. Замечани е. Цели = 0, то теорема 48 справедлива без предположения о рефлексивности пространства F. Более того, F можно в этом случае считать просто нормированным пространст- вом. Пусть F удовлетворяет условиям Ефимова-Стечкина, т.е. из слабой сходимости элементов и их норм следует сильная сходи- мость. Тогда утверждение теоремы 48 допускает некоторое усиле- ние: имеет место соотношение lim {|| Аи-Аик ||F + inf л (|w* (и-wK)| + \m-Q(uK)|} = 0. 0 uG й Пусть выполняются условия теоремы 48 и, кроме того, функ- ционал £2 (и) = || Lu -g ||G (где L - оператор, действующий из U в рефлексивное банахово пространство G) имеет область определе- ния Dl D D. Если оператор L слабо непрерывен на D, то, как не- трудно показать, функционал Sl(u) = || L и - g || G слабо полуне- прерывен снизу на D. Рассуждая точно так же, как и при доказа- тельстве теоремы 48, можно установить, что справедливо соот- ношение lim { inf л (|и* (и - uK)| + |/’* (А и-Аик) | + 0 uG и + |g* (Lu-LuK)\) + || Аик-f\\F-pA + \\\LuK-g\\G- m\ } =0, где g* - любой линейный функционал на G. Если F и G удовлетворяют условиям Ефимова-Стечкина, то предыдущее соотношение можно уточнить: lim inf л {| w* (и - ик) | + I и - ик |} =0. (20) 0 uG и Отметим, что условия Ефимова—Стечкина выполнены, напри- мер, для всякого гильбертова пространства, а также для банахо- вых пространств типа Lp(p> 1). 5. Из приведенных ранее соотношений не видно, будет ли иметь место сильная сходимость приближений в основном пространстве U. Следующая теорема дает достаточные условия для такой сходи- мости. Теорема 49. Если пространства F и G удовлетворяют усло- виям Ефимова-Стечкина, С1(и) = HLu—g||^ (и G D), операто- ры А и L слабо замкнуты на D и для любых и, v Е D выполнено условие дополнительности 7 (II и - v || t/) <|| Ли - Аи ||jL + \\Lu-Lv ||^ | и - и|2,
где 7 (•) > 0 (7 (0) = 0) - непрерывная строго возрастающая функ- ция на положительной полуоси, то для приближений ик, опреде- ленных согласно (4), справедливо соотношение lim inf а (|| и - ик + | и - ик |) = 0. (21) к~* 0 ие и Доказательство очевидно. Замечание. Если в теореме 49 операторы А и L линейны, пространства F и G строго выпуклы, множество!)выпуклое, то лег- ко показать, что £2-минимальное (здесь £2 (и) = || Lu-g ||G (и е D)) решение и определяется однозначно. В этом случае условие слабой замкнутости операторов А n L можно заменить просто их замкну- тостью на D (как это следует из известной теоремы Банаха-Сакса). Назовем функционал £2 (и) слабо полузамкнутым снизу на D, если из соотношений uneD, ипС" и0, P(u„) < <°°> л=|!>2>--> следует, что Uq D, £2 (uq ) £20. Отметим, что функционал S2 (и) = II Lu —g||G слабо полузамкнут снизу на D, если оператор L слабо замкнут на D. Полученные результаты справедливы и в том случае, если опера- тор Л или оператор L неограничен. Условия слабой полунепрерыв- ности снизу функционала £2 (и) и слабой замкнутости множества!) следует заменить одним условием слабой полузамкнутости снизу этого функционала. 6. Пусть в банаховом пространстве U определены проекторы Рт (т = 1, 2, ...) и для элементов из D имеет место соотношение II w — Рт и || у гт || ! и || q , т = 1, 2,..., где ! - линейный замкнутый оператор, определенный на !), а гт 0 при т -> Предположим, что оператор А: U -+F линеен и ограничен, || А || < К. Тогда, положив Ат = АРт (т = 1, 2,. ..), легко видеть, что для любого u&D имеем II Ат и - Аи ||F < К || и - Рт и || v < Кгт || !и || G, т.е. условие аппроксимации (2) выполнено. Рассмотрим случай, когда U = L2 [а, £] — пространство функций, суммируемых с квадратом на отрезке [a, Z>], a D - множество достаточно.гладких функций, определяемое ниже. Возьмем на {a, равномерную сетку узлов а =х{ < х2 < .. :< xm+i = b и положим
для 1 < i < т u(xi+l) -u(xf) Pm и = --------------- (X-Xj) +и (х,), X/ < X < Xi +1 . %i+l ~ Если u(x) дважды непрерывно дифференцируема, то имеет мес- то оценка ~ /г || W - Рт и II < — d2u dx2 b-a h = --- m Очевидно, достаточно считать, что и(х) имеет вторую обобщенную производную в смысле Соболева [88], суммируемую с квадратом на [а, д]. Этим условием определяется множество D. Пусть ь Au = f к (х« 5) и (?) d$, а< х < Ь, а (22) где функция к(х, %) такова, что 1 ь ь f f к2(х, I?) dx dl; <К2. а а Тогда для всех и(х) G D имеет место оценка d2u dx2 из которой следует выполнение условия аппроксимации (2). Если интегральное уравнение Аи = /(х) имеет единственное ре- шение и(х) G D, то применима разработанная выше методика и приближенные решения сходятся, как это нетрудно видеть, в мет- (2) рике пространства W2 [a, Z>]. Действительно, в рассматриваемом случае гарантируется схо- димость приближений в норме I и I = (IIЛи ||2 + II lull2 )^2, которая эквивалентна норме пространства W22^ [а, Ь], задавае- мой равенством II wll (2) = (II и II2. +||Zw||2 ),/2. W2 ^2 § 16. Метод регуляризации для нелинейных уравнений 1. Далее в основной задаче считаем операторы А и L нелиней- ными. Как и ранее, предполагается, что Uf={ и ZD: \\Au-f\\F = pA = inf \\Av~f\\F} Ф ф. vED
Определим также множество u={ueuf: \\Lu-g\\G = vL = inf ||Zu-/||G). °et7 которое будем считать множеством решений основной задачи в нелинейном случае. Относительно операторов А и L предположим, что они совокуп- но слабо замкнуты на D, а именно из выполнения соотношений ип G D, ип -> Uq, Аип Lun go (и ^°°) следует и0 G D, Аи0 = /0, Lu0=g0. Заметим, что в линейном случае совокупная слабая замкну- тость операторов А и L являлась прямым следствием их совокуп- ной замкнутости. В общем случае это не так. Аналогом условия взаимной дополнительности является сле- дующее условие: всякое непустое множество Mc = {uGD: + ||Lm||g<C} ограничено и, следовательно, слабо компактно в гильбертовом пространстве Н. Определим параметрический функционал Тихонова-. .Фа[м] = ||Лм-/||^ + a\\Lu -g||J, мер, где Oj, о2 > 1, а > 0 - параметр регуляризации, и поставим зада- чу отыскания элемента иа G £), минимизирующего функционал [“] ma= inf Фа [м] = Фа&Ь (1) и & D Теорема 50. При совокупной слабой замкнутости операто- ров А и L на D и их взаимной дополнительности задача (1) имеет по крайней мере одно решение для любых f G F, g G G. Доказательство. Выберем такую минимизирующую последовательность { ип } G D (и = 1, 2, . ..), что <та + \/п. (2) Тогда II Аип ||F < const, || Lun ||G < const, (3) т.е. {un} G Mc при некотором С < 00 и, следовательно, слабо компактна. Без ограничения общности считаем, что сл сл сл Un -> и0, Аип /о, Lu„ -> g0. (4)
Из совокупной слабой замкнутости тогда вытекает иоед Лио=/о, Lu0=g0. (5) Покажем, что элемент м0 является решением задачи (1). Ис- пользуя свойство слабой полу непрерывности снизу нормы в гиль- бертовом пространстве, в силу (2), (4) и (5) получаем lim Фа[м„]< lim Фа [mJ < п 00 п -* оо т.е. Фа[м0] - nfa-Теорема доказана. Обозначим Ua = { и G D: Фа [м] = та } . Теорема 50 показывает, что при любых а > 0 определено отображение Rа, сопоставляющее совокупности данных d = { A, Z, g} множество Ua. Далее мы по- кажем, что множество Ua при а->0 в определенном смысле ап- проксимирует множество точных решений U. Теорема 51. Пут выполнены основные предположения и множество Uf непусто. Тогда множество U решений основной зада- чи также непусто. Л Доказательство. Пусть йа G Ua - любой элемент. Для любого элемента й G Uf имеем +а IILua-g II"2 <Фа[«а] < < IIАиа -f 1°' +.а IlLw -g ll"^. . Отсюда вытекают неравенства U«a-g 11g <1’£ > ИЛЙа-/Я"^ <д"‘ + v"2 а, (6) и, следовательно, семейства иа,Аиа и Lua слабо компактны в пространствах H,F,G соответственно. Без ограничения общности считаем, что А СЛ А А СЛ Л А СЛ а иа -* и, А ua -+f, Lua -*g при а->0. (7) Из условия совокупной слабой замкнутости следует: = L u = g. Из (6), (7) и последнего факта, используя свойства слабо сходящихся последовательностей в гильбертовых пространствах, получаем \\Lu-g Ug=^l, WAu-f llF = pA . (8) Отсюда следует, что элемент wG U, т.е. и^ф . Теорема доказана. Замечание. В отличие от линейного случая множество U может состоять более чем из одного элемента. Если Uf = {й), то, очевидно, U-{и}, т.е. также одноэлементно. 104
2. Проанализируем более подробно доказательство предыдущей теоремы. Из (6), (7), (8) получаем lim \\Lua -g llG = II Lu -g llG, lim IIAua-f llF = II Au-f llF. a->0 a~>0 Вместе c (7) эти соотношения дают сильную сходимость: lim 11Лпа - А и II/? = lim II Lua - Lu IIG =0 (9) a-*0 a->0 • для некоторого элемента uE U. Отметим, что (9), возможно, имеет место не для всего семейства а для некоторого его под- семейства. А Определим в качестве меры близости множества Ua регуляри- зованных решений к множеству точных решений U следующую величину: РльФа, U) = supA infA{| (и*,и - и) | + u^Ua v^u + IIА и - Av II F + II Lu - Lv 11^} , и* EH. Теорема 52. При выполнении основных предположёний множество Ua аппроксимирует множество U в том смысле, что а->0. Доказательство. Пусть е > 0 — некоторое число. Опре- делим множество Oe[U]={uED: infA {| (м*,м - и) |+ + ^Аи - Av II/р + HLu - Lv IIg) < e • Достаточно показать, что найдется а = а*(е) >0 такое,^что для всех aG (0,а*] будет справедливо включение Ua СО€ [£/] .Пред- положим противное. Тогда? найдутся е0 > 0 и элементы ип = иап Е Е Uan, ап~*0 (п->°°) такие, что йп£ Ое^ [&]. Повторяя основные элементы доказательства предыдущей теоремы, устанавливаем существование подпоследовательности { й^} С{й„} и элемента uEU, для которых справедливы соотношения, аналогичные (9). Это противоречит выбору последовательности {й„}. Но тогда при достаточно малых значениях а имеем Ua СО€ [£7] (е>0), что и утверждалось. Теорема доказана. Замечание. Если U = { и }, то очевидно, что w)= sup {l(w*,w - и) 1 + + IIA и -Au lip + II Lu -Lu llG}, u* EH.
Следствие. Пусть на D определен (необязательно линей- ный) оператор В .Н -+V (где V - некоторое банахово пространст- во) такой, что выполняется условие, аналогичное условию В-до- полнителъности: 7( II Ви -Bv II у) < IIА и -Аи llF + II Lu -Lv llG, и, vED, (10) где 7( •) (7(0) =0) - строго возрастающая непрерывная в нуле функция, определенная на положительной полуоси. Если выполне- ны условия теоремы 51, го lim (^а,^) ~0,где Q -*0 SUP inf IIВи - Bv II r . u€(/a v€U В частности, если В =Е (тождественный оператор в Я), то не- трудно видеть, что в этом случае условие (10) достаточно для выполнения условия слабой компактности множества Мс. 3. Пусть вместо точных данных d-{A,f,L,g} заданы при- ближенные 3 = {A,f, L,g} такие, что II/-f lip <6, llg-g IIG -Ст, а операторы А и L определены на D, удовлетворяют условию сово- купной слабой замкнутости, а также условию аппроксимации II Аи - Аи И/? СЛ | и |, II Lu - Lu IIG I и I V и ^D, h,t~+O, где, как и ранее, | и |2 = IIА и 11^, + II Lu llG . Обозначим МСу ={меП: ИЛ и llF+ \\Lu llG . Используя условие аппроксимации, заключаем, что для любого И А и 11/7 < h I и I + Ci, IILu llG \ u I + Ci i и, следовательно, | и | < (^ +t) | и ] + 2Ci, т.е. при достаточно малых h и t семейство { I I} ограничено равномерно по и, h nt. Следовательно, МСС Мс при некотором С. Справедливо и обрат- ное утверждение. Таким образом, множества МС{ и Мс слабо ком- пактны одновременно. Из этого замечания и теоремы 50 следует, что множество ,Ua = Rа3 определено (непусто) при всех а>0, если вектор о = (6,Л,т,г) достаточно мал. В качестве меры близости множества приближенных решений Ua к множеству решений U основной задачи берем величину Д^£(Са,С). В общем случае, как легко показать на примерах, (Са, С) не стремится к нулю при аиа, стремящихся к нулю независимо.
Однако справедлива Теорема 53. Пусть выполнены основные предположения. Если параметр регуляризации а = а(6,й)>0 выбран так, что lim (6+Л)/а=0, (11) 6-► о то имеет место предельное соотношение Нт Лио,й} = О, а-*0 где Uo-Ua . Доказательство. В силу экстремальных свойств регуля- ризованных решений имеем Фа [ ыа] < фа [ и ] й^и. Используя условия аппроксимации и применяя разработанную выше технику, нетрудно показать справедливость соотношений регулярности lim sup IIА и-f И/? , <у-*0 (12) lim sup \\Lu-g llG . ct-+O uElUo Из (12) рассуждениями, аналогичными приведенным при до- казательстве теоремы 52, устанавливаем справедливость требуемо- го соотношения. Теорема доказана. Замечание. Если = 0, то зависимость а = а(6,Л) мож- но уточнить. Именно, можно выбрать а=а(6,й), так чтобы (6 + Л)Д/а-*0 при 6, h 0. Отметим, что если оператор В удовлетворяет (10), то из тео- ремы 53 вытекает также предельное соотношение lim △B(t/ff,^) = 0. (J-* о 4. Как и в линейном случае, приближенный метод Ro, удовлет- воряющий условиям (12), будем называть регулярным. Метод R о назовем 0* L -сходящимся, если выполняется соотношение Нт 0*£(£/а,<7) = О, а->0 AL где Uo~Rod, d - совокупность приближенных данных основной задачи. Теорема 54. Для того чтобы приближенный метод Ro был L-сходящимся, необходимо и достаточно, чтобы он был регуляр- ным. Доказательство. Достаточность доказывается также, как и j3*; -сходимость регуляризованных решений в предыдущей тео- реме/ Поэтому остановимся на доказательстве необходимости.
Пусть метод Ro является PAL -сходящимся. Возьмем произволь- ный элемент wG Uo. Используя неравенство треугольника, полу- чаем для произвольного v G О ИЛ u-f\\F < рА + IIА и -A v II/?, WLu-g IIg + WLu-Lv llG. Так как левые части этих неравенств не зависят от и, то очевидно, что IIА и -f llF <рА + inf \u - u|, vtu \\Lu -g \\G <vL + inf | и - v | . „ v^U Поэтому sup \\Au-f\\F<pA + V (UO,U), u^Ua AL sup \\Lu-g\\G<vL+foL(Uo,U). u^Ua Из этих соотношений и 0* £-сходимости метода Ro следует его регулярность. Теорема доказана. Следствие. Метод регуляризации при определенном выше выборе параметра регуляризации a=a(t),h) является регуляр- ным. Согласование параметра регуляризации с tu т, характери- зующими точность задания оператора L и элемента g, не является необходимым. Укажем еше два регулярных метода решения основной задачи (нелинейный случай). Определим множества Uo={uED: \\Au-f\\ F<pA + h \и \ + 8, \\Lu -g \\G <uL +r \u | +r}, где pA> vl и (6,Л,т,Г,Г, Г). Нетрудно видеть, что любой элемент й, принадлежащий множеству решений U ос- новной задачи, содержится также в Uo, т.е. UQUa, и, следователь- но, при любом о множества Uo непусты. Так определенный универ- сальный метод Ro является регулярным. Пусть известна постоянная С, для которой supA | и | <С, a v G U Т.е. UEMC. Существование такой постоянной легко доказать: для любого иЕ U \\Аи ll/г + II/ 11/7, II Lu IIg + IIg Hg > и, следовательно, можно положить С=рА +vL + II/IIF + II g ||G . Определим множество Uo={uED'. \\Au-f\\F< pA + ЛС + 6, IlZw -g llG +rC + r),
где снова (6, Л, т, Г, $ , f ). • Легко показать, что UC.UO при любом а, т.е. множества Uo непусты. Определенный таким образом приближенный метод Ro также является регулярным. Назовем его упрощенным универсальным методом. Аналогично можно построить приближенные методы типа ме- тодов невязки и квазирешений. Однако Мы на этом останавливать- ся не будем. 5. Возвратимся к проблеме эффективного выбора параметра регуляризации в нелинейном случае. Полагаем, что цл =0, т.е. задача совместна, и т =0. Пусть «« G.D- такой элемент, что inf \\Lu -g llG = IlZwoo -g llG =pL . uED Мы предположим, что элемент «« определяется единственным образом. Это условие можно отбросить, но тогда дальнейший ана- лиз сильно усложнится за счет несущественных деталей. Функцио- нал Фа [w] рассматриваем при = о2 =2, т.е. в такой же форме, как и в линейном случае. Обозначим <?(а) = Фа [ wa] (а > 0), где иа - соответствующие решения задачи (1). Заметим, что несмотря на возможную неедин- ственность решения этой задачи функция £>(а) однозначна при всех а> 0. Лемма 28. Функция <Д(а) непрерывна и не убывает при всех а>0. Если рА < vA, то ее значения исчерпывают интервал (р2А, v2A),edepA = inf II A u-f II/т. uG D Доказательство. Используя экстремальное свойство эле- ментов U, получаем неравенства: ^(а) = Фй[цх] <Фа[й] < < (Мл + h | й | + S)2 + av2L V , из которых при а > а0 > 0 следует оценка sup ~ hLu-g \\G <М0 <°°. а>а0 , u£Ua Пусть также 0 > а0 > 0. Тогда, используя экстремальные свойст- ва элементов иа и й$, имеем £(а) < IIЛ U0 -f II 2f +а \4Lu0-g Ид , ? (0) < IIА иаf II 2f + 0 II Ьйа - g lie и, следовательно, Ф(а)<(а - 0) WLU0-g lib < I а -01М02, £(0)-#a)<(/3-a)U^-£llG<la-0l^o •
Отсюда следует непрерывность (и даже липшицевость) функции $(&), а та|кже ее возрастание. Выбирая элемент и€ GD(e>0), для которого 11.4 ие -f IIf < + е, получаем £(а)<Фа[ие] <(ДЛ + е)2 +а IILue -g ll2G . Из-за произвольности параметра а и выбора достаточно малых е из предыдущего неравенства следует, что lim $ (а) = . Далее, *0 фиксируем выбор некоторых элементов иаЕ Ua. Тогда при всех а > 0 определена функция р(а) = IIА иа - f II/г. Так как IIА ц* -f HjL + all Lu&-g || 2g < || А иж -f II 2f + a IlLu^-g 11^ < < IIА иж -f 11^, + a II Lua -g II2g , то справедливы условия регулярности НЛма -f \\F<vA, 1121^-/11/7 ll Ltla - g II<7 < Ul +-7=----< a . V a Отсюда следует, что при а ->°° IIА йа-Аиж II/? + IILua -Ьиж 11^ ->0 и, следовательно, lim p(a) = IIА иж - f IIF = vA . a->oo Так как, очевидно, р(а) для всех а, то из предыдущего соотношения следует, что функция tp(oi) принимает значения, как угодно близкие к vL. Из непрерывности $ (а) следует, что ее значения исчерпывают интервал (р2 , v2A ). Лемма доказана. Обозначим vA = IIЛ Woo - f Иг- Так как vA „А + h I Woo I + 6, vA < vA + h | Woo I + 6, то справедливо неравенство \VA ~^A IWoo 1+6. Так как, с другой стороны, < IIЛ u-/ll/г </г | w |+6 <hC + 5 >fuEMc, то условие леммы цА<иА выполняется при достаточно малых h и 6, если vA > 0. Лемма 29. Пусть 0<vL и h и 6 достаточно малы. Тогда уравнение ^(а) = 2(7гС + 6)2 (13)
имеет по крайней мере один корень аа >0(о = (6,Л)). Здесь по- стоянная С такова, что UQMC. Доказательство непосредственно следует из предыдущего. Пусть параметр аа>0 определен из уравнения (13), т.е. в со- ответствии с принципом сглаживающего функционала. Обозначим Тем самым определен некоторый приближенный метод R о. Изучим его свойства. Для любого иа G Ua имеем \\Аио-f IljL +а„ lLu„ -g 11^, = 2(ЛС + 8)2. Поэтому IIА ио -f llF < IIЛ иа - f Ilf + h | | + 8 < <</2(йС + 8) +5 +h \ua | . С другой стороны, 2(ЙС + 6)2 =Фва [u„] <Фаа [и] <(7iC + 8)2 +a„p2L , и поэтому aCTv2 >(йС + 8)2. Так как \\Luo-g\\2G<2(hC + t>)2!ao, то очевидно, что II\\G<y/2vL Vua&Uo. Таким образом, мы получаем следующие соотношения {слабой регулярности) : lim sup IIА и -f II/? = 0, а-* 0 u€Ua ____ (14) lim sup II Lu-g llG <y2^f. o -* 0 uE Ua Покажем, что из них следует некоторое аппроксимативное свой- ство множеств Uа по отношению к множеству = {uEUf: II Lu - g llG <\/2* vL). Заметим, что U С С Uf. В самом деле, имеет место Теорема 55. Пусть Uo=Ua , где параметр регуляризации ао определен в соответствии с (13). Тогда справедливо предельное 111
соотношение lim { sup л IIА и - A v IIF + a-*0 mG Uo,vE; Up^ + sup inf [|(u* ,tt - u)nl + l( \Lu - Lv,g*)c I ]}=0 (15) i/G C/a, uG для любых элементов и* ЕН, g* EG. Доказательство. Достаточно показать, что lim inf [|(м*,мо - и)//! + \{Lua -Lv,g* )G|] =0 а-*0 v(=U VuoEUo. Из соотношений (14) следует, что (при достаточно малых о) sup sup | и | < 00 , g u<E U о и, следовательно, [4 СЛ/с при некотором С. Возьмем произволь- ные элементы иаЕ Uo. В силу сказанного выше семейство ио слабо компактно в Н. Тогда можно выделить подсемейство uj С сл Л сл сл Л , Quo такое, что ио>—*«, Аиа>—►/, Lua> —о ->0. В силу со- вокупной слабой замкнутости операторов А и L из приведенных соотношений вытекает, что иЕ D, Au=f, Lu-g, и, следовательно, предельный элемент иЕ Uf. Из (14) следует также, что иЕ Upp Очевидно, этого достаточно для справедливости сформулирован- ного утверждения. Замечание. В обшем случае построенное выше множество Uo может состоять более чем из одного элемента, в отличие от ли- нейного случая, даже если U= {й }, т.е. одноэлементно. 6. Аналогично линейному случаю можно построить детермини- рованный байесовский метод в рассматриваемом нелинейном случае. Пусть известны цА = 0, иА ,6, h , t ,т и постоянная С такая, что UOMq. Определим функционал Ф[м] = II Аи-f 11^. + ( -— ---\\Lu-£11^ , uED, \ vA + tC + т / и рассмотрим задачу его минимизации, т.е. определения таких элементов иа Е D, для которых inf Ф [и] =Ф[м<т]. uG D Из теоремы 50 вытекает разрешимость ( быть может, неоднознач- ная, в отличие от линейного случая) этой задачи, так что Ua ={uaGD: Ф[ыа] = inf Ф[и])=Аф.
Теорема 56. Пусть Ra - определенный выше детерминиро- ванный байесовский метод. Тогда имеет место соотношение (15), где о = (5, Л, т, t, f , f = vA - »а • Доказательство. Пусть иа G Ua — любой элемент. Оче- видно, для всякого U&U имеем ~ 2- / ЙС + 6 \2 ~ ~ , 1М«а-/11р + |л-------- II LUo - g || G < \ vA +tC+t / ~A ~ 2 / hC + S V ~Л ~ 2 -------‘I \\Lu-gfG<2(hC+b)2. \ vA +tC+?J Следовательно, IM Uo - f II F < IM Uo - f\\ F + h i uo | + 5 < < \fl(hC + 5) + 5 + h | ua |, \\Luo -g II G < \\Luo-g II G + H Uo I +t < < +fC + r)2 + r + h |w<j |. Из полученных соотношений следуют соотношения (14). Далее можно дословно повторить доказательство теоремы 55. Теорема доказана. 7. Как и в линейном случае, приближенный метод Ro назовем ^регулярным, если lim sup \\Аи - f|| < рА , О и Е и о lim sup II Lu- gllc < k»L, k>l. ст-* 0 и E Uo Теорема 57. Пусть Ro является произвольным k-регуляр- ным методом. Тогда имеет место соотношение (15), в котором роль множества Uиграет множество uk = {ueuf: IILu-g lie <kvLl Доказательство теоремы аналогично доказательству двух преды- дущих теорем и поэтому не приводится. 8. В.А. Морозов 113
ГЛАВА 4 ЗАДАЧА ВЫЧИСЛЕНИЯ И ОБЩАЯ ТЕОРИЯ СПЛАЙНОВ § 17. Задача вычисления и проблема идентификации параметров 1. Устойчивое вычисление значений неограниченных операторов является одной из важнейших задач вычислительной математики. Пусть L — линейный оператор с областью определения Dl С U и областью значений Ql Q G, где U,G — некоторые нормированные пространства, ||£ || = °©. Тогда заведомо существует последователь- ность элементов ип G DL, || ип || и = 1 (и = 1,‘2, ...) такая, что UMg 00 (и ©о). Пусть «в Dl и g = Lu. Обозначим и„ = = w + bun, где b — любое как угодно малое число. Тогда, очевидно, II Lun - g || G = 6 II Lu„ II G -> oo, п -> оо5 в то время как || ип - и || и = 6 может быть как угодно мала. Таким образом, задача вычисления значений оператора в рассматриваемом случае является неустойчивой. Более того, если иметь в виду произ- вольные 6-приближения к элементу и в U, т.е. элементы и^ U: II и — и || и < 6, то может оказаться, что значения оператора L даже не определены на элементах w, т.е. и^ DL. Задача заключается в эффективном построении элементов и§ (по произвольно заданным 6-приближениям к элементу wG DL), удовлетворяющих следующим двум соотношениям: 1) йь G Dl Для любого 6 > 0; 2) lim ||g6 -g ||G = 0, gb=Lub, 6 -> о Нетрудно видеть, что сформулированная задача является част- ным случаем рассматриваемой основной задачи. Далее считается, что U = Н и G - гильбертовы пространства, а оператор L линеен и замкнут, т.е. из одновременного выполнения соотношений ип е &l , lim ип = w, lim Lun =g n -* 00 n -* 00 следует, что и в Dl и Lu = g. Так как в данном случае оператор 114
A = E на H и, следовательно, замкнут, то условие замкнутости L является достаточным для выполнения условия совокупной замкнутости. Кроме того, так как II и Пн < \u\t = II и Пн + НЬ« Hg, u&Dl, то автоматически выполняется и условие дополнительности. Полагая D = DLi определим на D регуляризирующий функ- ционал Фа[н] = II и - v Ни +« \\Lu -g IIg, wG Z), где g G G - некоторый заданный элемент, возможно, приближаю- щий значение g оператора L на и, v G Н — любой элемент, а а > 0 — параметр регуляризации. Рассматривается задача: найти элемент иа G D тако.й, что Фа[иа] = inf Фа[п]. (1) и е* d Следствием общих теорем, доказанных ранее, является существо- вание единственного элемента иа £ D, удовлетворяющего (1),при всех а > 0 и любом v Е И. Пусть g = 0. Из предыдущего следует, что определен оператор Sa с областью определения Н и областью значений в D: Sav =иа.. Используя тождество Эйлера, можно легко показать, что оператор Sa линеен. Покажем, что оператор Sa ограничен, более того, || || < 1. Действительно, запишем тождество Эйлера для элемен- та иа (при g = 0): (иа - v, w)h +&(Lua, Lw)g =0 Vw G D. Полагая здесь w = ua, получаем II «а II H + a II Lua II G = («a , 1>)я < II «a 11/7 II V II H , « > 0. Следовательно, ||ua \\h < ||u Hh (a > 0). Так как по определению = Sav, то II Sav Ни < || v Ни vu е н, и поэтому || || <1. Итак, мы получили, что оператор Sa не растягивающий. Из об- щих теорем регуляризации следует, что lim | иа — и | =0, v Е D. а -* О Если D = Н, то существует сопряженный к L оператор L *. Пусть g Е Dl *: тогда из тождества Эйлера легко выводится, что регуля- 8* 115
ризованное решение есть иа =(£ + aZ*Z)-^ + a(£ + aZ*Z)-1Z*g. (2) Полагая здесь g = 0, получаем явное выражение для Sa: =(£ + a£*Z)"1. Формула (2) показывает, что на данных d = {v,g, L} определен алгоритм R& , переводящий их в элемент иа G D. Пусть ъ равен элементу D, на котором вычисляется значение оператора L. Положим иа = Pad, где d = { u,g, L} - точные дан- ные задачи. Пусть элемент й задан приближенно. Именно, счи- таем, что задано лишь 6-приближение к нему, т.е. элемент wG Н: IIи - и Ни < S- Пусть d = {и, g, L } и иа = Rad. Функция невяз- ки р (а) в данном случае имеет вид = || иа - и Ни , а > 0. Далее полагаем g = 0. Тогда, очевидно, цА = 0, = \\Lu Не?. Элемент определяется следующим образом. Пусть NL = = {и G D: Lu- 0} — ядро оператора L. Тогда = inf || и — й It/ = - й ||н, vA = inf ||w-w|Ih = IIwoo-и Ин, wooe^VL. Как показано в § 10, для применимости критерия р выбора пара- метра регуляризации достаточно, чтобы выполнялось неравенство Ъ > 5. (3) Покажем, что при условии NL неравенство ( 3) выполнено всегда, если 8 достаточно мало. Действительно, в этом случае заве- домо значение vA >0. Используя экстремальное свойство элемен- тов и^ и иж, имеем »а ^IIw^-uIIh^IIHoo-wIIh + IIw-wIIh^^ +6. (4) Аналогично, меняя ролями и иж, получаем »а < »а + 5 (5) и, следовательно, i рл _ । < 6.
При 8 < vA /2 имеем с 1 , ~ч 1 ~ 3 1 ~ 8 < 2 - рл) + 2 va < у 2 Va ’ т.е. vA > 6. Из сказанного выше, по существу, вытекает следующая Т е о-p е м а 58. Пусть u£Nl. Тогда при 6 < vA /2 существует единственный корень уравнения р(а) = 6. При этом lim I W5 - w I l = 0, . 6-0 0 Замечание. Очевидно, = Sa(t)U. Пример. Рассмотрим задачу численного дифференцирования. Пусть Н = G = L2[a, ft], L = d”/dx” - оператор и-кратного обобщен- ного дифференцирования по Соболеву и известно, что w(x) в D и заданы 5-приближения к й(х) в Z2[a, ft]: ь llu(x)-u(x)lll2 = f i u(x)-w(x) |2dx < 62. a Уравнение Эйлера для определения регуляризованных решений име- ет вид d2” и а(-1)"------+ м = м, dx2” n+i d и dxn + i = 0, i = 0,n-1. х = а, х = b (6) Заметим, что если априорно известны значения функции и(х) или ее производных порядка не выше 2и, их можно включить в гранич- ные условия. Значение параметра находится из уравнения ь Р2(а) s f\ua(x)-u(x)\2dx = 82, а где иа(х) - решение (6). Заметим, что множество NL = {и и-а{} +ахх + ... } , где а,- произвольны, т.е. состоит из многочленов степени не выше п-1. Условие u(x)$Nl означает, что й(х) не является многочле- ном степени не выше п-1. Если и(х) то приближения к и(х )
можно получить, взяв и$(х) = иж(х), т.е. приближая функцию w(x) полиномами степени не выше л -1 в среднеквадратическом смысле. Это следует из (4), (5) при vA =0. 2. Построенное в предыдущем пункте семейство операторов Sa (а > 0) обладает следующими свойствами: 1) область определения Sa совпадает с Я; 2) Н D, т.е. образом любого элемента из Н является эле- мент из области определения оператора L; 3) существует такая зависимость а = а(6), что для любого wE D имеет место соотношение Ит | w5 - и IL = 0, о где W6=‘S'a(5)W, w€ Н. || U - U || н < 5. Любое семейство операторов удовлетворяющее условиям 1) - 3), будем называть L-сглаживающим. Нетрудно видеть, что понятие сглаживающего семейства операто- ров легко обобщается на более общий случай, когда пространства U и G могут быть метрическими, а оператор L нелинейным. В этом случае нужно II • II я , II • II g заменить соответственно на рг( • , •) и pG (•,•), где ри и pG - расстояния в пространствах U и G. Пусть в метрическом пространстве U наряду с оператором Z, действующим в метрическое пространство G, заданы операторы Li (z = 1,..., п) с областями определения Di С U и действующие также в G. Будем говорить, что оператор L подчиняет операторы Lit если выполнены условия: 1) DD (z = l,...,rz); 2) из соотношения lim {Ри(ип, и) + pG(Lun, Lu)} = 0, ип, u€.D, п-* о следует, что lim maxpcCL/w,,, Lzw) = 0. п °° i Докажем Предложение. Пусть для оператора L существует хотя бы одно сглаживающее семейство Sa (а > 0). Если оператор L подчи-
няет операторы L, (/ = 1,ri), то lim [рг(й6, й) + max pG(Lz w6, Z/й)] = О, u^D, 6 -* о i где Ub=Sa(b)U, u&U: Puiu.u) < 6. Доказательство. Так как семейство S& является L -сгла- живающим, то существует такая зависимость а(6), что для элемен- тов й5 =*S'a(5)W имеет место предельное соотношение lim {ри(иь, u) + pG(Lub, Lu)} = 0. 6 -> о Используя условие подчиненности операторов Lj (J = 1, ri) оператору L, из полученного соотношения выводим требуемое. Предложение доказано. Полученное утверждение позволяет решать в широком ряде слу- чаев задачу устойчивого вычисления значений нелинейных операто- ров, а также ’’сложно” задаваемых линейных операторов, выбирая для этого наиболее ’’простой” оператор L, для которого известно, как можно построить сглаживающее семейство операторов. Пример. Пусть оператор Zou = w(/77) +/(*, и, и',..., i/"7-1)), Ь, где f — произвольная непрерывная функция своих аргументов, />£ о совпадает с множеством тп раз обобщенно дифференцируемых по Соболеву функций: Ь2 [я, вместе со своей тп-й производ- ной. Пусть L in = w, Ь2и = и , ..., Ltnu = и^,п~. Тогда в силу известных теорем вложения любой оператор L = dn/dxn (и> т) подчиняет операторы £, (/ = 1, ..., т). Нетрудно видеть, что опе- ратор L подчиняет также и оператор Lq. 3. В приложениях довольно часто встречаются задачи, связанные с определением (идентификацией) параметров, входящих в диффе- ренциальное уравнение, по экспериментальной информации о реше- нии последнего. Такие задачи часто называют также коэффициент- ными обратными задачами. Пример. Пусть задано уравнение du/dx = аи, w(0) = w0, 0 < х < 1, (7) где а > 0 - искомый параметр. Для определения параметра а производятся измерения решения й(х) этого уравнения на отрез-
ке [О, 1]. Пусть результатом этих измерений будет функция и(х) G L2 [0, 1] такая, что || и - и || £ 2 < 6. Требуется по измере- ниям и (х) идентифицировать уравнение (7), т.е. выбрать значение параметра а, наиболее хорошо согласующееся с экспериментальны- ми данными, т.е. функцией и (х). Изложим общую постановку таких коэффициентных задач и рас- смотрим принципы их решения. Пусть А = {a G Еп: а = (alf а2,ап)Т} - некоторое непустое множество векторов, U и G - метрические пространства, L [w; а] - оператор, зависящий от а в А как от параметра и действующий из U в G. Считаем, что область определения операторов L [ • ; а] не зависит от а Е А и совпадает с некоторым непустым множест- вом DC U. Допустим, что при некотором а С А имеем L[u\a] = g, (8) где и С D, g С G. Пусть А * = {а С А: L[u\ а] = g }. Пусть заданы приближения в U и G к элементам и и g соответственно: pt/(u, и) < 6, pG(g, g) <6. Задача состоит в построении (вос- становлении) по и и g и рассматриваемой математической моде- ли L [ • ; а] векторов а из допустимого множества А , удовлетво- ряющих условию lim рЕ (а, А *) = 0. 6 - о " Трудность решения поставленной задачи заключается, в частно- сти, в том, что модель (8) может неоднозначно определять искомые значения параметра, что приводит к неустойчивости этой задачи да- же при точном задании элементов и и g. При этом задача решения (8) может быть корректно поставленной при аСА. 4. Значение оператора L[u;a] на приближении й к элементу и может быть не определено, поэтому вычисление параметра а непо- средственно из уравнения L [ и\а] = g в этом случае невозможно. Требуется разработка специальной методики. Далее модель (8) считаем линейной по параметру а, т.е. Ци;а] = S сцЦи, (9) i = 1
где Ltu (i = 1, ..., л) — операторы, действующие из U в (7, с об- ластями определения DLi^ D. Легко видеть, что если множест- во А выпукло и замкнуто в Еп, то таким же будет и множест- во А . Следовательно, однозначно определен вектор-параметр а в А *, для которого inf || а -а* Нс = IIа-а* Нс, a G А где а* G Еп - заданный пробный вектор-параметр, а IIа II£ = = (Са, а), где С — квадратная положительно определенная матри- ца, определяющая априорную цену потерь при выборе некоторого вектор-параметра из А. Предположим, что существует хотя бы один оператор Lo с об- ластью определения = £>, подчиняющий L{ (f = 1, .а также £ о-сглаживающее семейство S$ (0 > 0). Определим в со- ответствии с методом регуляризации функционал = ?) + аНл-л* Нс, а&А, где а > 0 - параметр регуляризации, = Spu. Рассмотрим задачу отыскания таких векторов аа G А, для которых inf Фа[а] = Фа[аа] = та. (10) а<= А Теорема 59. Если выполнены условия, сформулированные выше, и, кроме того, пространство G - линейное нормированное, то задача (10) однозначно разрешима при всех а > 0. Доказательство. В условиях теоремы функционал p^(Z[w§; a],g) = ||Z[w5; а] - g || q .является непрерывным и выпуклым на А. Отсюда следует, что для любых а1 па2 из А справедливо неравенство а1—а2 2 ] 1 Г а1 +а21 « —— <-хФа[д1] + 4фа[а2] —Фа ———I. (И) 2 С z z L 2 J Выберем последовательность {as}, минимизирующую Фа [а] и такую, что та Фа[Яу] < + 1/$, Из неравенства (11), полагая в нем а1 = as, a2 =as+p, р-любое 121
натуральное, выводим, что {а5} — фундаментальная и, следова- тельно, сходится. Из замкнутости и выпуклости Л, а также непре- рывности Фа [а ] на Л вытекает, что lim as = аа G Л и удовлетво- 5 -> о° ряет (10). Теорема доказана. Теорема 60. Пусть выполнены условия теоремы 59 и пара- метр регуляризации а = а(6) выбран таким образом, что 1 ” А А ----(6+ S \\Liu5-Liu\\F)+a 0, 8-+0. ллг I = 1 Тогда имеет место сходимость lim а = a, o' = аа(6). 6-0 Доказательство. Имеем Фа[аа] < <Ма ], а > 0, (12) т. е. 1 А А - llatt - a* lie < —— llb[u6;2] —<gr ||о + II а - а* ||с < у а 1 " А <—-(6 + S 1а/|||Л[й6]-ЛЙ||с) + ||а~а* Ис- у а i = 1 Полагая здесь а = а(6), определенное теоремой, заключаем, что се- мейство И = яа(б) является ограниченным. Более того, lim ||а-а* Нс < Н«-«* Нс- О3) 6-0 Отсюда вытекает, что семейство £ приближенных решений равно- мерно ограничено по 6. Согласно теореме Больцано—Вейерштрасса выделим произвольную сходящуюся последовательность{a,J этого семейства. Пусть lim а„ = а. Из (12) следует, что L [й; ~а ] = g, п — 00 т.е. а G Л. Из (13) тогда вытекает, что а = а. Следовательно, lim ||? — а || с = 0- Теорема доказана. 6-0 Заметим, что не требовалось линейности операторов L, (/ = = 1, ..., п). Более того, аналогичный результат справедлив и в том 122
случае, когда идентифицируемая модель не является линейной. Более подробный анализ методов решения задачи идентификации параметров сделан в работе автора [72]. § 18. Свойства сглаживающих семейств операторов 1. Как было показано в § 17, задача вычисления значений неогра- ниченного оператора L, заданного в нормированном пространст- ве U, неустойчива. Пусть U-H - гильбертово пространство и L: Н -+G — линейный замкнутый оператор с плотной в Н областью оп- ределения D. Тогда, очевидно, существует сопряженный опера- тор Z*. Пусть D, а элементы ив Н таковы, что || и-и||я ^5. На основе решения вариационной задачи inf Фа[м] = Фа[ wa], иа G D, uED ] = II и - и Плг + а ||Ьм По О) строится линейный ограниченный оператор Sa = (aL L + Е) ~1, ко- торый обладает сглаживающими свойствами. Именно, при опреде- ленном выборе параметра а = а (6) имеет место соотношение lim \\LSau - Lullo = 0. 6-0 Из выражения для Sa видно, что сглаженные элементы = S^u при любом и принадлежат области определения оператора L*L , т.е. имеют определенный ’’запас” гладкости. В связи с этим возникает Задача. Указать все такие линейные операторы В, для которых lim || В иа - В и || = 0, и в Dp С D[ , 6 - о при определенной зависимости параметра а = а(6), и выяснить ха- рактер этой зависимости от спектральных свойств операторов В иЬ. Решение этого вопроса весьма важно для практических примене- ний метода, так как использование слишком ’’сильных” операто- ров для построения семейств Sa(a > 0) приводит к излишнему ’’заглаживанию” исходной информации и потере так называемой ’’тонкой” структуры, очень важной при исследовании ряда физиче- ских проблем. Дальнейшее изложение связано с решением указан- ной задачи.
2. Пусть Л\(0<Х0<Х<оо) - спектральное разложение опера- тора L*L [131]. Тогда для любого и в D оо \\Lu ||2 = f X(dEKM, и) < оо. А-о Пусть (X) (Хо < X < °°) - произвольная непрерывная положи- тельная функция. Обозначим через любой оператор, для кото- рого II L*u ||2 = (X) (dEKu, и) < - и ЕDL = D*. Справедлива Лемма 30. Для того чтобы йа G при любом иЕ.Н, необ- ходимо и достаточно, чтобы при а > 0 sup-------— < оо. (2) \ (1 +аХ2) Действительно, так как °° Ф (X) 11 L^Sau\\2 = f ——-J- (dE\u,S), х0 (1+аХ)2 то о (X) \\^Sa\\2=sup--—— к (1+аХ)^ и для ограниченности оператора L^Sa при а > 0 необходимо и до- статочно, чтобы выполнялось соотношение (2). Далее всюду предполагается, что условие леммы 30 выполнено. Обозначим £ = и - и, Д(а,6;й) = sup \\L^ua - L^u ||, С: II CH <6 До (a\u) = \\L^Sau - L^u ||, Ai(a, 6)= sup \\L^Sau-L^Sau\\, С: II CH <6 где Sa = (E + (a > 0). Легко проверить справедливость соотношений Д (a, 6; и) < До (а; и) + Д ] (а, 5), а а <3> Д1 (а, 5) < До (а; и) + Д (а, 6; и).
Лемма 31. lim До (а;и) = 0 VwGZL,. а о Действительно, о л °° а2Х2ср(Х) а л △о (а; и) = f —---у- (dEKu, и). х0 (1 +аХ)2 Так как й G , то f ф (X) (dE\Ut и) < 00 и, следовательно, ^0 lim /° </> (X) (dEKu, й) = 0. N ~+ оо N Так как До (а, и) <a2TV3 max </>(Х)+ / ip (X) d (Еки, w), x0 < x < N N то, используя предыдущее соотношение, легко устанавливаем тре- буемое. Следствием соотношений (3) и леммы 31 является Теорема 61. Для того чтобы выполнялось соотношение lim Д(а,6;w) = 0, мЕ/Е (4) а,6 -► 0 необходимо и достаточно, чтобы lim Д2 (а, 5)= lim sup------------— =0. (5) а, 8 -> 0 а,8 -> 0 X (1 + аХ)2 Замечание. Пусть (X) = XG (0 < 2) (этот случай доста- точно часто встречается в приложениях). Тогда легко видеть, что sup --------- = ~ а~° (2 - а)2“ст о°. х (1+аХ)2 4 Условие (5) в этом случае имеет вид а~°82 -+0, 8-+0. В частности, при а = 1 (т. е.£^ =L) условие (5) имеет вид 6 lim ------ • —0. а, 8 -► 0 5 Легко видеть, что условие lim — =0 является достаточным 8 ->0 а для выполнения (4) при любой допустимой функции <р (X).
Теорема 62. Пусть и G Н:\\й - и Ни <6, lim supHZ.-SaW -g||G =0, g&H. а, 8 -► О $ Тогда uED^ и L^u-g. Таким образом, по сходимости регуляризирующего алгоритма можно судить о гладкости элемента и. Доказательство. || йа - и || н -► 0, когда а, 6 ->0 для лю- бого и Е Н. Так как L^ua -+g, то, используя замкнутость опера- тора получаем и Е D^L^u = g. Теорема доказана. 3. Легко видеть, что величины Д (а, 6; и) и До (а; и) зависят от выбора элемента и Е D^. Пусть множество М Обозначим Д(а, 6;7И)= sup Д (а, 6; и), и е М Д0(а;М) = sup и е м легко показать, что Д (а,6;Л1)<Д0(а;7И) +Д1 (а, 6). (6) Теорема 63. Если а = а(6) >0 таково, что lim Д(а,6;Л/)=0, 8 ->о то также lim До (а; М) = 0. 6 о Если lim До (а; М) ~^,то существует такое а = а (5) ->0 (5 -*0), а -> 0 ЧТО lim Д(а, 6;М) = 0. 8 -► о Доказательство. Действительно, Д (а,5;7И)>Д (а,0;М) = До (а;7И). (7) Отсюда следует первое утверждение. Для доказательства второго утверждения достаточно выбрать 6 а = а(6) ->0 (6 ->0) так, чтобы lim — = 0. Тогда 6 о а lim Д0(а;М)=Кт Д!(а,5) = 0 8 -* о 8 О и в силу (6) lim Д (а, 5; М) = 0. Теорема доказана. 6 -> о Лемма 32. Если множество М - { и Е D^: || L^u || <7?}, то величина Д(а, 6; М) > R.
Доказательство. Имеем °° а2 X2 А Л Л20 (а;Л/) = sup / —--------— (X) (dEKи,и) = и М 0 ttX) а2Х2 = sup-------г х (1 +аХ)2 R2 = R2. Остается использовать (7). Теорема 63 и лемма 32 показывают существенную разницу меж- ду равномерной регуляризацией (на М) и регуляризацией в точке (теорема 61) : для обеспечения сходимости Д(а, 6; М) к нулю необходимо брать более узкие подмножества из области определе- ния оператора L^. В этом отношении весьма важна следующая Теорема 64. Пусть М = {иЕ || L^u || , i//(X) - непрерывная положительная функция, удовлетворяющая условию lim X -► «> *>(Х) 0(Х) (8) Тогда Пт До(а;Л/^) = 0. а —* О Доказательство. Имеем о» а2Х2<л(Х) Ао (а;) = sup / ———7- м) < и е х0 (1 + аХ)2 .. г ( а2Х2ф(Х) <р(\) ] Сinf .1 max --------------+ sup ------ I/? -*0, а->0, w (1+aX)2i//(X) x>/vi//(X) j в силу условия (8). Теорема доказана. Нетрудно видеть, что выполнение (8) также и необходимо для того, чтобы lim Ао(а‘, =0. а -► 0 § 19. Оптимальность алгоритмов сглаживания 1. Пусть L — линейный замкнутый оператор, семейство Sa - = (Е + а!*!)”1 (а > 0), В — линейный оператор, действующий из Я в V и подчиненный оператору L. Тогда, очевидно, при опре- деленном выборе зависимости а = а (6) справедливо соотношение Ит || Вай - Ви || v = 0 V и еD, 6^0 где Ва = BSa, й Е Н: || и - и II и 5. Таким образом, для вычисле- ния значения и = Ви при приближенном задании элемента и можно воспользоваться сглаживающим семейством Sa. Заметим, что опе- ратор Ва определен на всем Н.
Пусть задан любой оператор Т9 определенный на Я и действую- щий в V (оператор Т не предполагается линейным). Тем самым задается метод (алгоритм) вычисления приближений Тй к значе- ниям Ви (uED). Обозначим сов (Ь, R,T) = swp || Тй -Ви || у, L w где £ = и- и, || £ ||//<6, ZeUr ={uED: || Lu ||G <R <-}. Оче- видно, величина сов (6,7?; Т) характеризует ошибку при вычисле- нии значений оператора В на элементах множества UR при помо- щи алгоритма Т. Далее рассматривается следующая Задача. Найти такой алгоритм Topt, для которого inf о?в (6, R; Г) = а? (6, R; Topt). (1) т Алгоритм Topt, удовлетворяющий соотношению (1), назовем оптимальным, а величину о)в(6, A; Topt) - оптимальной по- грешностью вычисления значений оператора В на классе UR. Определим оценочную функцию ыв (6,R) = sup || Ви\\ у, uED: || и \\н <6, \\Lu\\G<R. и Будем далее предполагать, что оператор В усиленно подчинен опе- ратору L и что пространство V гильбертово. Следующая теорема дает оценку снизу оптимальной погрешности вычисления значе- ний оператора В*). Теорема 65. При сделанных предположениях для любого алгоритма Т имеет место соотношение coB(8,R.T)>uB(8,R). (2) Доказательство. В силу леммы 23 существует элемент hE D: || h II//<6, || Lh ||G CR, для которого сов (6, R) = || Bh || v. Очевидно также, что (—h) Е D, ыв (b,R) = || B(-h) || у. По определению величины сов (6, R; 7) имеем сов (6, R; Т)> sup \\Тй-Ви\\у> L w > max {sup \\Bh- T(h + £)||1/, sup || В (-h)-T(-h +£) || v }, H $ гдем-м = £, £, и Е UR, || £ ||// < 6. Но справедливы следующие ♦) Доказательство этого утверждения использует прием, сообщенный ав- тору А.Г. Марчуком.
легко проверяемые оценки sup \\Bh- Т(Л + О \\v>\\Bh- те || I sup || В (-Л) - T(-h + J) || v > || В (-Л)-ТО || Vi I где е — нулевой элемент из Я. Следовательно, wB(5,/?;7’)>max {|| Bh - ТВ || г, || Bh + ТВ || v } . Так как 2Bh = Bh - ТВ + (ВА+ ТВ), то, используя неравенство треугольника, получаем 2 н Bh н v < н Bh - те н v + п Bh + те II v < <2тах(||ВЛ-Те ||г, || Bh + те ||F), каким бы ни был элемент Те. Таким образом, сов(6,Я;Т)>||В/г||г = сов(6,Я) VT. Теорема доказана. Замечание 1. Нетрудно видеть, что теорема 65 остается верной и в более общих условиях. Именно, все пространства можно считать нормированными. Достаточно требовать лишь определен- ности, т.е. конечности оценочной функции (6,7?) при любых 6 и R. В этом случае в качестве элемента h достаточно выбрать та- кой допустимый элемент/^, для которого \\Bh€ ||F> сов(6,7?) — е, где е > 0 произвольно. Основная схема доказательства при этом сохраняется. 3 а м е ч а н-и е 2. Если оператор Л ^Еи рА = 0, т.е. рассматри- вается задача вычисления значений оператора В на решениях сов- местного операторного уравнения Au = f с приближенно заданной правой частью f EF: Ц/ — <6, и если положить UR = {uED^: Au =f, || Zu||g , то аналогичный теореме 65 результат также остается справедливым. Мы не останавливаемся на этом вопросе из-за его тривиальности. 2 . Построение и доказательство существования оптимального алгоритма Topt в общем случае затруднительно. Однако при допол- нительных условиях, наложенных йа оператор В (спектральная по- добное™ его оператору Z*Z), можно доказать, что при некотором специальном выборе параметра а = aopt оптимальный алгоритм Topt = Baopt [82], где семейство операторов Ва определено выше. Естественно возникает 3 а д а ч а. Найти квазиоптимальный алгоритм Tq opt (или оп- тимальный по порядку), для которого погрешность (6, Я; Tq opt) = О { (5, Л) } . (3) 9. В. А. Морозов 129
Так как оптимальный алгоритм, очевидно, требует задания пол- ной априорной количественной информации, т.е. величин 6 и R, то естественно искать квазиоптимальные алгоритмы, требующие при своей реализации минимальной априорной информации. Эта проб- лема имеет, и притом неединственное, решение. В самом деле, пусть параметр а = а (6) в сглаживающем семейст- ве Sa определен в соответствии с критерием р (теорема 58), т.е. по принципу невязки. Пусть us = и. Тогда || - й\\н<5 и, следовательно, ||а-аб ||я<25. (4) С другой стороны, в силу свойств регуляризованных решений имеем II «8 - и Ни + а(8) II Lu6 IIg < II « - « Ня + а (§) IIIIg < <52 + а (5) || Lw ||^ = || - и II2, + а (5) || Lu II2., т.е. ||£w6 ||G<||Zw ||G Поэтому ||£Йб -Lu\\G<2R. (5) Из оценок (4), (5) и определения оценочной функции сов(е, Я) тогда следует, что \\Виь-Ви\\у<2ив(Ь,К), (6) т.е. алгоритм ВВа^у, определяемый принципом невязки, являет- ся оптимальным по порядку (т.е. квазиоптимальным). Нетрудно видеть, что оператор = Sa^) является линейным, что весьма важно на практике. Построим сглаживающий алгоритм 5$ на базе метода невязки. Пусть йь Е D— какое-нибудь решение вариационной задачи ||£m6||g= inf_ I|£m||g, D = {и ED: || и - и\\н <6 }. и е d Существование (а если ядроА^ = {0},то и единственность) реше- ния этой задачи следует из доказанных в гл. 3 общих теорем. Положим = S[u. Тогда аналогично предыдущему || Ьщ ||G < < || Lu ||G и, следовательно, || Lub — Lu ||G <2/?. Из неравенст- ва треугольника || —и\\н< 26 и поэтому снова имеет место оценка (6). Построим сглаживающий алгоритм S% на базе метода квазире- шений. Пусть й5 Е D — решение (очевидно, единственное) задачи inf || и - й\\н = || иь — и ||//, и Е UR = {v ED: || Lv ||G . и
Так как \\Lu8\\G<R, то \\Ьщ - Lu\\G <2R. Покажем, что II и - Ня<6, и, следовательно, II Виь -Bu\\y^uB(8,2R). (7) Действительно, оператор £5: и - иь определяет проециро- вание на множестве* UR. Так как множество UR, очевидно, выпук- ло, то (см. [53]) оператор проецирования на него является опера- тором сжатия. Поэтому || и - иь Нн<|| и - и Нн, что и требовалось. Заметим, что реализация алгоритмов В^ = BS\ и = BS* не требует задания полной априорной информации — величин 6 и R од- новременно; для реализации алгоритма В\ достаточно знания 6, а для реализации алгоритма Bl достаточно знания величины R. Теперь построим алгоритм сглаживания с использованием полной априорной информации. Именно, определим элементы иь G D в соответствии с универсальным методом так, что II -w||H<5, \\Lu5 \\g^R.' Так как в этом случае || -м|1я<26, \\Lu6 -Lu ||g < 2Д, то оценка погрешности вычисления значений оператора В на основе алгоритма Виь = BSl и имеет вид II Виь - Ви || у < 2<л?д (6, R). Таким образом, алгоритм^ = BSf также квазиоптимален. Итак, справедлива Теорема 66. Операторы сглаживания S&, (i = 1,2, 3) оп- ределяют квазиоптимальные алгоритмы вычисления значений опе- ратора В, При этом для реализации алгоритма сглаживания Sf тре- буется полная априорная информация, а для реализации алгорит- мов сглаживания S^, S\ uS] - лишь частичная априорная инфор- мация, указанная ранее. Замечание 1. Если задача решения операторного уравнения допускает формулировку в виде задачи вычисления значений не- ограниченного оператора, то, очевидно, изложенные факты имеют место и для этой задачи. Мы не будем останавливаться на формули- ровке этих результатов. Замечание 2. В §13 приведены различные случаи вычис- ления оценочной функции сов(е, R). Эти результаты можно ис- пользовать для оценки точности задачи вычисления значе- ний различных операторов В на L -псевдорешениях уравнения Au=f (u€D). Утверждение теоремы 66 имеет место также для алгоритма сглаживания, построенного на базе детерминированного байесовс-
кого метода путем минимизации непараметрического функционала 62 lla-w||^ + — II Lu |£, u&D, или решения эквивалентного этой задаче уравнения Эйлера 62 —- L*Lu + w = и. R2 § 20. Задача дифференцирования и алгоритмы приближения экспериментальной информации 1. Постановка задачи. Пусть L — некоторый замкнутый линей- ный дифференциальный оператор, определенный на множестве функций D, заданных на конечном или бесконечном промежут- ке [а, Ь]. Предполагается, что D = L2 [а, Ь], где черта означает опе- рацию замыкания. Обозначим через Р множество функций из Z), для которых ъ f (Lu)2 dx<°°, а а через Q — множество функций, для которых ъ f р (х)и2 (x)dx <°°, а где р - р(х) > 0 - некоторая заданная непрерывная на [a, Z?] весо- вая функция. Пусть D = Р П Q. Норму в D определим следующим образом: II will = Ilp1/2W Ill2 + || Lu 111*. Назовем функцию f (х) 6 -приближением некоторой функции и(х) G D, если II р^2 (f - и) IIL2 <6. Основная задача состоит в построении по заданным 6-прибли- жениям таких функций и(х) £ D, чтобы выполнялось соотношение llu(x)-u(x)llL->0, 5-^0. (1) В частности, когда Lu = dnuldxn9 приходим к задаче устойчивого дифференцирования экспериментальной информации. Метод построения приближений, удовлетворяющих условию (1), основан на решении параметрической вариационной задачи min Фа [w] , и <=D Фа[и] = Ир1/2 О-7)111, +all£ulll2, ueD> (2) где а > 0 - некоторый параметр, иа £ D. 132
Вопросы существования решения задачи (2) и сходимости полученных решений в смысле (1) к функции и(х) уже рассматри- вались в общем виде. Здесь основное внимание-уделяется эффек- тивным способам построения приближенных решений задачи (2) и вычислению основных числовых характеристик регуляризован- ного решения иа, наиболее часто используемых при различных способах выбора параметра регуляризации а. Мы рассматриваем следующие основные числовые характе- ристики: р2(а)= Пх/р(иа -7)11* (3) 2 — квадрат функции невязки на регуляризованном решении (ис- пользуется при выборе параметра регуляризации по невязке из условия р(а) =6); 72(а)= 1|£ма11£1 (4) - числовая характеристика, используемая при выборе параметра из условия у(а) = R, если известно, что II£mIIl2 <р(а) = р2 (а) + а?2 (а) = Фа [иа] (5) - числовая характеристика, используемая при выборе значений параметра по значениям сглаживающего функционала на регуля- ризованных решениях из условия <р(а) = 52; 0(а)= Щц, -ита)11^, т*1, (6) - числовая характеристика, используемая при выборе так назы- ваемых квазиоптималъных значений параметра регуляризации (см. [91], а также § 27). Так как решение задачи (2) проводится, как правило, много- кратно для различных значений параметра а, например на сетке а/ + 1 =тау, то эффективность алгоритма, естественно, зависит как от эффективности решения самой задачи, так и от количества операций, затрачиваемых на вычисление основных характеристик р, 7, и 0. Рассматриваемые ниже алгоритмы являются, на наш взгляд, эффективными в том и другом смысле и удобными для их численной реализации. Они обобщаются и на более широкий круг задач. Заметим, что для вычисления 0(a) требуется знание решения на предыдущем шаге, т.е. необходимо дополнительное место в памяти ЭВМ. Численное решение уравнений (3)—(5) расматри- вается в § 26. 2. Разложение решения по собственным функциям оператора L. 2.1. Аналитическая основа метода. Пусть w, = wf(x) (i = 0, 1, :.. ) - полная ортонормированная в Q система функций,
удовлетворяющая условиям Lut = ^у/рщ (z = 0, 1, . . .), где Xz - некоторые постоянные. Тогда система {м,(х)} полная и ортого- нальна в D. Решение задачи (2) будем искать в виде разложения иа(х)= S C?Uj(x). / = 0 (7) Обозначая Л=(Р/>/к2- (8) получаем следующее выражение для коэффициентов разложе- ния (7): Числовые характеристики (3)-(6) также легко вычисляются и соответственно равны °° 00 Х-Д2 1 = 0 1 = 0 (1 +а\) ^(а) = р2(а) + ау2(а), в(а)=Ъ Х?(с? - с™)2. I= 0 Значение оператора L на решении задачи (2) вычисляется по формуле ОО Lua= S ср^[рщ(х). i = 0 2.2. Чис ленная реализация метода. Как правило, функция f (х) задается приближенно своими значениями в узлах некоторой сетки а <х0 < < . .. < xN+i где 1 - неко- торое^ натуральное число. В связи с этим вычисление коэффициен- тов fi следует проводить, пользуясь какой-либо квадратурной формулой (как правило, невысокого порядка точности). При численной реализации необходимо заменить в формулах (7), (10) бесконечные суммы конечными. Число слагаемых в суммах зада- ется либо заранее, либо устанавливается в процессе счета коэф- фициентов Д, например из критерия b п b п Sp(x)\f(x)- S ?,щ(х)\2 dx = $ p(x)f2(x)dx - S/?<52. a i = 0 a i = 0 2.3. Особенности алгоритма. Основное время в вычислениях уходит на счет коэффициентов Д по формулам (8). Счет по формулам (10) элементарен и не зависит от выбора сис- 134
темы м,(х). В связи с этим вычисление коэффициентов (9) и по формулам (10) может быть совмещено по месту в памяти ЭВМ или разделено во времени. d du 2.4. Пример 1. Пусть Lu = — (1 -х2) — , р(х) = 1, а = -1. dx dx b = \. В качестве системы м,(х) берется система полиномов Ле- жандра. Сходимость в смысле (1) означает, что 1 / d л V 1 / (1 -х2)(— (м-м)] Jx-*0, f (й-и)2Jx->0, 6 ->0. (11) -i \dx ] -i Можно показать, что из сходимости в смысле (11) следует равномерная сходимость и к и, а также dufdx к dufdx на любом отрезке [-1 + т?, 1 - т?] (0 < i? < 1). Аналогичный результат, но другим методом, был получен в работе [13]. Пример 2. Пусть Lu-d2ufdx2, р(х) = 1, а = -я, b - я. В качестве {wz(x)} возьмем систему тригонометрических функций 1 1 1 и0 = — , и21+1 = ~ sin zx, и2 i = ~ cos zx, z = 1,2,. .. 2тг 7Г 7Г Сходимость в смысле (1) применительно к рассматриваемому случаю означает, что А „ я / d2(u-u) \2 * _ л Им- Mil2 (2) = f I--------) dx + f (u - u)2 dx 0, 6 -* 0. -7T \ dx2 / -Л В силу теорем вложения отсюда следует равномерная сходимость функций и их производных на отрезке [-я, тг]. Отметим, что изложенный метод можно также рассматривать как метод построения регулярных аналитических приближений к функциям, заданным экспериментально. 3. Метод конечноразностной аппроксимации. 3.1. Сущность метода. Пусть функция f (х) задана на дискретном множестве точек а =х0 < Xi <...< xN~b. Приме- ним в (2) к функционалу Фа квадратурную аппроксимацию: N N — т — 1 Фо [ы]=2 VkPk(uk ~fk)2 +а S vk(Lku)k, (12) к=0 к=1 где Д/с, vk > 0 — коэффициенты соответствующих квадратурных формул, Р/с =р(х/с),//с =7(хЛ), м = (м0, Ml, ...,z<v)r- искомый вектор, Lh - конечноразностный оператор, аппроксимирующий дифференциальный оператор £ : к + т (Lhu)k= S к = 1,... ,N-m -I, j - к — I
I, тп> 0 - целые числа, определяемые порядком дифференциаль- ного оператора L, I + m< N-Ц г1?. - коэффициенты выбранной разностной схемы, зависящие от hx,... ,/?дг„1)7, hk = = хк+1-хк. Например, если Lu= du/dx, то можно положить (7 = 0,m=l) и) к “к + 1 ~Uk hk Далее вместо задачи (2) рассматривается конечномерная задача ттФ* [ы] =ФЙ[йа], (13) и решение йа которой принимается за приближение к решению задачи (2), a Lhua принимается за приближение к Lua. 3.2. Решение задачи (13). Так как квадратичная форма (12), очевидно, положительно определена, решение задачи (13) единственно. Его можно найти либо путем решения системы ли- нейных алгебраических уравнений, соответствующей уравнению Эйлера для функционала (12) (заметим, что матрица этой системы имеет ленточную структуру), либо прямой минимизацией формы (12), например методом покоординатного спуска. В последнем случае в качестве начального приближения к решению задачи при рассматриваемом значении параметра естественно взять ре- шение, соответствующее его предыдущему значению (так как решение задачи (13), очевидно, непрерывно зависит от парамет- ра а). При этом, если рассматриваемое значение параметра не является ’’подходящим”, приближение к решению йа можно определять достаточно грубо. Приближенные значения числовых характеристик (3)-(6) вычисляются по формулам N р2(а)== S к =0 N — m — l ?2(а)~ S ^(а) = Р2(а)+а72(а), (14) к = 1 в (&) 2 Vk [Lh(Ua — WrQ!)]^. к =1 3.3. Особенности метода. Рассмотренный метод весьма универсален и прост в реализации. Его очевидный недостаток — необходимость многократного решения системы линейных алгеб- раических уравнений (хотя и специальной структуры, но большого порядка). Кроме того, вычисление характеристик (14) сопряжено,
вообще говоря, с большей затратой машинного времени, чем вычисление аналогичных характеристик в предыдущем методе. Необходимо отметить также, что в рассматриваемом случае мы получаем лишь дискретное решение. Аналогичными свойствами обладает метод, связанный с конеч- норазностной аппроксимацией дифференциального уравнения Эйле- ра для функционала (2). 4. Применение дискретного преобразования Фурье (ДПФ). 4.1. Определение и основное свойство ДПФ. Пусть а = 0, b-Т и значения Д заданы в точках хк = кДх (к = — О, 1, ..., N— 1), где N - натуральное число, Ax=T/N. Опреде- лим комплексные числа Fm следующим образом: N—1 Fm~ S Aexp{-iwmxfc} , m = 0,1,... ,N — 1, (15) fc=0 где Асо=2тг/Т, i - мнимая единица. Соотношения (15) определяют ДПФ ряда значений fk. Обратное ДПФ (ОДПФ) определяется формулами 1 N—1 fk= - S exp{Zwmxfc }, fc = 0,l,... ,N-l. (16) Л m =0 Действительно, если Fm определены по формуле (15), то 1 N-1 - S Fmexp{zwmxfc} = N m =0 1 дг-1 = - S ( S /zexp{wmxz})exp{zwmx*} = N m=0 Z=0 так как w-i - ( 2irim(k-l)} (N, '£ = Z(modjV), S exp {-------:-----} = { . ч m=o I N J (0, fc¥=Z(modjV). Учитывая (17), также получаем если Fm - ДПФ вектора (/о, /1, • • • Jn-i )Т-
4.2. Аппрокси мация и преобразование функ- ционала (2). Пусть оператор L в (2) имеет вид Lu =aQu(,e* + ахи^п~^ + .. .+ап_хи +ап= г\—w, \ dx) где r(s) = aQsn + axs”~1 + ...+ ап - многочлен степени п. Аппроксимируем функционал (2) следующим выражением: N—l Л-1 Ф*[и]=Дх S (ик-fk)2 + аДх S {Lu\x = x )2. к = О к = О К Пусть .V-1 Wm~ Ъ i^exp , т = 0, 1,.. . ,N - J, к ~о является ДПФ вектора(мо,uXi. . . ,uN~i)T.Определим функцию 1 N—\ и(х)= Umexp'{icomx), и(хк) = ик. N т = О Поскольку d — (exp{kow х}) = iG}mexp{ia)m х}, dx L exp{zcow x} = r ) exp {x} , то, очевидно, 1 Л-1 L и (x) | Y = x. — ~ S Wrf2 r(i(vnt) exp {xk } . K N m=0 и, следовательно, W„2r(zcow) является ДПФ для Lu(x)\x = Xk. Используя основное свойство (18) и полученный результат, можно написать , Ах лг-1 Ф*[и|=—~ S {|И/„,-Fm\2 +alWmr(ic,m)\2} = ^a[W]. N т = О (19) Здесь Wm (т = 0, 1,. . .,N - 1) является ДПФ вектора й. 4.3. Отыскание приближенного решения. Из (19) следует, что решение Wa задачи тшФа[Й/] =Фа[Й'а] (20) w
дается формулами w%, = ------, (1 + а | r(ium)\2) Так как решение йа задачи пйпФ^ [и] =Ф„ [ма] и т = 0,1,. .. ,ЛТ - 1. (21) является ОДПФ решения задачи (20), то 1 N-1 "а=~ S W*„eKp{ia>mxk} , т = 0,1,. .. ,N - 1. (22) N т =0 Приближенные значения Основных числовых характеристик вычисляются по формулам △х w-i N щ = 0 /V-1 72(«)* S r(/wm)l2, т = 0 <р(а) = р2 (а) + ау2 (а) , (23) Дх 1 S !(И'* -И^)г(^„)|2. N Приближенные значения для Lua(x) \ х^ Хк вычисляются по формуле ] JV-1 ZWq(x)|a-- х. — — X IV /п г (1ыт) exp{/com хЛ } . к N т = О 4.4. Особенности метода. Нетрудно заметить, что характеристики (23) вычисляются не через компоненты истин- ного решения uQ,, а через компоненты его ДПФ. В связи с этим значительно облегчается задача поиска ’’подходящих” значений параметра регуляризации. Восстановление исходного решения задачи по формулам (22) необходимо производить лишь для уже выбранных значений параметра. Это существенно повышает быстродействие метода и делает его весьма перспективным для использования. Для получения ДПФ и ОДПФ можно использовать алгоритмы так называемого быстрого преобразования Фурье — БПФ [99], позволяющие выполнять эти преобразования за опти- мальное число операций. Недостатком метода является необхо- димость задания исходных данных на равномерной сетке.
5. Приближение экспериментальной информации кусочно куби- ческими функциями. 5.1. Интерполяция. Пусть в узлах сетки а = х0 < xi < • • • . .. < xN+! = b заданы значения ик. Определим функцию (&ик sk Ask \ , ч ~ 7 hk~ ~7~ + <24> Пк L 6 / Sfc , ^ик +—(х-хку +—— (X-Xk)3, хк<х<хк+1, к = 0,1,... ,N, 2 Ьпк где &ик = Wjt+i - uki hk =Дхк = -хк, а вектор s = (sj, ... ..., sN)T является решением системы линейных алгебраических уравнений Cs-Bu, u = (u0,ulf. .. ,uN+1)T, (25) где матрица | (йо+й,) Й1 6 0 . 0 0 с= й. 7(Й!+й2) Й2 . 0 0 6 3 6 имеет порядок N, а матрица О ... О Л1 /1 1 \ 1 - + - ) - . .. О \At hj h2 hN-l 1 — (hx-i+htf) О О О О О 1 О 1 / 1 1 \ 1 0 0 О ...----- -(------+ — 1 — hN-l \hN-i hN ' hN_ имеет размерность N X (N + 2). Полагаем, что 50 = $лг+1 = 0. Легко видеть, что заданием сетки {хк} и значений ик функция uh (х) определяется однозначно, при этом имеют место соотно- шения M*(Xfc — 0) = uh(xk +0) = i/fc, uh (хк ~G) = Uh (хк + 0), u'h (хк - 0) = (хк + 0) = sk, т.е. uh(x) является функцией, непрерывной вместе со своими 140
производными до второго порядка, и называется интерполирую- щим кубическим сплайном. Класс интерполирующих кусочно кубических функций uh(x) на фиксированной сетке узлов {хк} будем обозначать через S, шагом сетки будем называть величину h = max hk. к Известны следующие свойства функций uh£S. Свойство сходимости. Для любой дважды непрерывно дифференцируемой функции w(x) (a<x<Z>) справедливы соот- ношения lim \\u-uh\\c- lim II и - uh II с = lim \\и"-u"h\\L =0, h->0 h->0 h->0 2 где uh(xk) = uk = u(xk). Свойство минимальности. Пусть u(x) — произволь- ная дважды непрерывно дифференцируемая функция, удовлетво- ряющая условиям интерполяции: и(хк) = ик. Тогда, если uh Е S, uh(xk)^uki то Ь 2 ^2 Jwft dx<fu' dx. (26) а а Свойство минимальности показывает, что решением вариа- ционной задачи на минимум функционала Ь 2 /и" dx, и: и(хк) = ик, к = 0,1,. .. ,7V + 1, а где в качестве функций сравнения берутся дважды непрерывно дифференцируемые функции, является интерполирующая функ- ция uh^S. Так как она однозначно определяется значениями ик в узлах сетки {хк}, то в соотношении (26) выполняется строгое неравенство для всякой интерполирующей функции из рассмат- риваемого класса, отличной от uh (х). 5.2. П ри бл и же нно е решение задачи (2). Пусть L = = d2 /dx2, функция f (х) задана на сетке {хк } своими значениями fk ixk) (& = 0,1,.. ., 7V+ 1). Определим функционал 7V+1 _ bl d2u\2 Ф*[ы] = S ЦкРк(ик -fk) +а/(тт1 dx (27) к=0 ‘ a\dx*J и рассмотрим задачу его минимизации, если в качестве функций сравнения берутся дважды непрерывно дифференцируемые функ- ции w(x), и(хк) = ик. Пусть иа (х) минимизирует (27). Построим функцию ик (х) Е S такую, что ик (xfc) = иа (xfc). Тогда в силу (26) имеем Фа [ил] < Фа kJ = ттф* [ы], и и, следовательно, функция uQh также минимизирует (27). Но тогда
эти функции совпадают, иа (х) = W/J(x). Таким образом, решение задачи минимизации (27) можно искать в классе кусочно кубичес- ких сплайнов S. Найдем формулы для решения^задачи минимизации (27). По- ложим и= (uQ, их, . . ., W/v+1)r,/= (/о,/п • • •,^+1)Г- Вводя вспомогательную диагональную матрицу /> = diag(MoPo,MiPi, • • • P/v+i)> имеем [и] = (Р(Ц -f).u -/) +a(CsJ), если учесть легко проверяемое равенство ъ 2 /и" (х) dx = (Cs, i). а Далее, учитывая (25), получаем Ф* [wj = (P(w-/),w -П+а(ВтС~1Вил1) = ^[и}, следовательно, иа удовлетворяет системе алгебраических уравнений (аВтС~1 В + Р)иа = Pf. (28) Определяя вектор как решение уравнения (25) при w = по найденным векторам % и иа согласно (24) можно полностью определить сплайн w^(x), минимизирующий (27). Однако такой путь неудобен в связи с необходимостью знать или вычислять матрицу С'1. Поэтому применим следующий прием: умножая слева (28) сначала на В"1, а затем на Ви учитывая (25), получаем непосредственно уравнение для sa: (аВР~'В7 + C)sa =Bf. (29) Решение (28) определяется после отыскания по простой формуле =f-aP~'BTsa. (30) Приближенные значения числовых характеристик (3)-(6) можно получить по следующим формулам: р(а) = (Р(иа - f\ua -f), 7(а) = (Csa/sa), G (tt) — (С?(.Sq ~ ’ $та) • (31) Заметим, что при выборе параметра по значениям у нет необхо- димости вычисления иа по формуле (30) при всех рассматривае- мых значениях параметра. Это может несколько сократить общее время расчета. Недостатком метода является необходимость многократного решения системы (29) и вычислений по формуле (30). Однако 142
он компенсируется возможностью табулирования значений функ- ции и% (х) и ее первых двух производных в любой точке хЕ [а, Ь]. 6. Приближение экспериментальной информации кубическими сплайнами. 6.1. Задача обобщенного интерполирования. Пусть функция f (х)(хЕ [а, £]) непрерывна и удовлетворяет неравенству |й(х) -/(х)| <6, где функция й(х)ЕС2[я, Z?]- Задача обобщенного интерполирования формулируется следую- щим образом: найти функцию из класса С2 [a, Z?], для которой ь ff2 f и" dx принимает минимальное значение, причем в качестве а функций сравнения выбираются функции, удовлетворяющие неравенству |и -?|<6. (32) которое надо понимать как сокращенное обозначение системы неравенств |w(x^) -fk | <6 (к = 0, 1, . .., 7V + 1), где хк - узлы некоторой сетки на отрезке fa, Ь]. Рассуждениями, аналогичными приведенным в предыдущем разделе относительно минимизации функционала (27), доказыва- ется следующая простая, но важная Теорема 67. Решением задачи обобщенного интерполиро- вания (если оно существует) является функция из класса 5, т.е. кубический сплайн. Таким образом, в качестве функций сравнения в задаче обоб- щенного интерполирования достаточно брать лишь функции из 5. Так как ь 2 /и" (x)dx = (Cs, s) = (BTC 1Buiu)i a то задача обобщенного интерполирования сводится к задаче квад- ратичного программирования, именно к задаче минимизации (возможно вырожденной) квадратичной формы (ВтС~'Ви,и) (33) на замкнутом ограниченном точечном множестве (32). Поэтому решение задачи минимизации (33), а следовательно, и исходной задачи обобщенного интерполирования, существует. Далее, пусть и и и — два решения рассматриваемой задачи. В силу равенства и очевидных свойств вариационной задачи получаем II и"-у" II/ =0.
Отсюда следует, что u-v =cx + d (с, d- const). В силу (32) имеем |схк + d| <26 (& =0, 1,. .. ,7V+ 1). Таким образом, справедлива Теорема 68. Решение задачи обобщенного интерполирова- ния существует и определяется с точностью до линейных функций cx+d, удовлетворяющих неравенству |сх + d\ <26 (х€ [а, 6]). 6.2. А п п р о к с и м а т ив н ы е свойства решений за- дачи обобщенного интерполирования. Пусть uh Е S есть какое-либо решение задачи обобщенного интерполиро- вания. Покажем, что ь , ь f u"h (х) dx < Ju " (х) dx. (34) а а Для доказательства построим функцию uh G S такую, что uh (*к) (хк) • Тогда в силу свойства минимальности, ь ь Ju/, (x)dx<Ju" (x)dx. a a С другой стороны, |u/t(Xfc) -fk \ <6, т.е. функция йЛ(х) является допустимой, и по определению uh имеем д ь fu"t (x)dx< Ju}, (x)dx. a a Из полученных неравенств следует справедливость (34). Обозначим sk = й'и (хк), к = 0,1,. .. ,N + 1. Имеем ь 2 ал N si + Sk Sk + i + + i fuk(x)dx = (Cs, s) = S —-----------— hk > a к =0 3 N >h s к =0 $ к + $k$k + \ + $k + l 3 = h (C05,5), (35) где h = min hk, а матрица Co имеет вид к 4 1 0 ... 00 141... 000... 0 0 1 4-
Можно показать, что собственные значения матрицы Со не меньше единицы, поэтому (Cos,s) > (s,s). (36) Из неравенств (34) —(36) следует, что к Л-1/2ЛГ, к = 0,1,.. .л+ 1, (37) где М = IIй" II. Далее оценим величину шах \й(х) -uh(x)\. xG[a,b] Имеем \u(x)-uh(x)\ < < \й(х) -7(х)| + |/(х) - fk | + | fk - uh(xk)\ +\йк(хк) - йк(х)\ < < 6 + Д8Л + 6 + | uh(x) - uh(xk)\, х & [хк,хк+1 ], где Д8й^тах max \f(x) — fk I-»- 0, h, 8 -* 0. fc x^[xk,xk+1] В силу (34) /Isfcl |Д$к1 \ „ \uh(x)-uh(xk)\< I(**)l + 2( —— +—-------------jhk^ \ 2 о / < 28 + | Ask = sk+1 - sk. Следовательно, справедлива оценка Iй(х) - Sh (x)llc <46 + Д5Л + ,| hi/2h2M, из которой вытекает Теорема 69. Если lim h~^2h2 =0,то h->0 lim II й — й), lfc = 0. (38) S,h->0 Далее из оценки (34) следует, что семейство { 2^(х)} по Ли 6 ограничено в L2 [я, Л] и, следовательно, слабо компактно в нем. Пусть {и"п(х) } — произвольная слабо сходящаяся в Ь2 [я, Л] после- довательность функций этого семейства и и(х) - ее слабый предел. Из соотношения (38) следует, что последовательность {ип(х)} равномерно сходится к й(х). Так как функция й(х) дважды непрерывно дифференцируема, то и(х) = й" (х). 10. В.А. Морозов 145
Используя свойство слабой полунепрерывности снизу нормы в L2 [a, Z>], на основании (34) получаем 11й"и12<ит nw;iiL2<ita ii^Hl2 <iim"iil2, п -> ОО п -> оо т.е. lim ll«''llLi = llu"llL2. П -* оо Из слабой сходимости и установленной сходимости норм сле- дует, что lim II и" - й"И£ = О П -> оо 2 для любой слабо сходящейся последовательности {ипп(х)} семейст- ва {м^(х)} • Отсюда вытекает справедливость соотношения lim II-u"\\L =0. бЛ-’-о 2 Итак, справедлива Теорема 70. Пусть выполнено условие согласования lim =0. Тогда имеет место соотношение h ->о lim II — м И (2) = 0. 6,h->0 2 Как следствие из теоремы получаем также, что последователь- ность производных u'h равномерно сходится к и’ при 6, h->0. Замечание. Идея метода обобщенного интерполирования легко распространяется и на решение интегральных уравнений. В самом деле, пусть функция и(х) е b] является решением (единственным, хотя это предположение не является необходи- мым) уравнения ь К[и] = с(х)и(х) + /^(х,?)м(?)^?=/(х), a<x<Z>, (39) а где c(x),fc(x,£) и/(х) - непрерывные функции своих аргументов. Предположим, что известна непрерывная функция/ (х), связанная с /(х) соотношением |/(х)-/(х)| <6 (х), где 8(х) непрерывна ь и f 82(х) dx->0 при повышении точности задания функции /(х). а Определим множество формальных приближенных решений U={uEW^: |7С[м] -/(х)| <8(х)}. Очевидно, функция mG U. Приближенное решение уравнения (39) определим как элемент й(х) Е , являющийся решением экстремальной задачи II 2-м* 11^(1) = inf_ II и - м* IL(i), (40)
где м*(х) G Wp) - ’’пробная” функция, являющаяся некоторым приближением к искомой. Заметим, что при м* = м решение задачи (40) совпадает с и при любой функции 6(х). При и* « и уточнение приближений и к функции и происходит за счет достаточной малос- ти 6 (х) в указанном выше смысле. Если какая-либо априорная информация о точном решении отсутствует, то обычно полагают м* = 0. Так как U замкнуто и выпукло в , то задача (40) имеет, и притом единственное, решение. Из определения Uи экстремаль- ного свойства решения и задачи (40) следуют соотношения регу- лярности lim \\Ku-f\\L =0, lim II й-и* llw(i) < II и - и* II 2 2 2 из которых, как обычно, устанавливаем сходимость приближенно- го метода (40): lim IIи -Mil (1) = 0. 6 ->о 2 Если к (х, £) 0, с(х) = 1, то множество U={u&W^: |u(x)-/(x)|<5(x)} допускает весьма наглядную геометрическую интерпретацию; именно, оно содержит все гладкие функции из 6(х)-окрестности функции 7(х). Условие (40) отыскания м(х) можно интерпрети- ровать как условие выбора функции с наименьшей в Wp) нормой (при м* = 0), т.е. с наименьшей тонкой структурой среди всех функций из заданного ’’коридора”. Пусть далее с(х) 0. Запишем (40) в дискретной форме. Пусть на отрезке [a, Z?] определены две сетки узлов (т>п): а=х} < <х2 < . . .<Xf< .. .< xm=b и а = ?1<?2<-< ?/<•••< которые могут и совпадать. Запишем приближенное равенство Ь т fk(x,^)u(^)d^ S к, Л (х. Uj = u(ii), а / = 1 где Kj - коэффициенты некоторой сходящейся квадратурной формулы. Определим множество н ~ Uft = {(м1;м2,. . | S KjkijUj / = i где kij=k(xh tj), fi=f(Xi), a выбираются так, чтобы обеспечить непустоту множества Uh. Выполнение последнего ус- 10* 147
ловил можно обеспечить, если к бу прибавить величину погреш- ности аппроксимации интеграла квадратурной формулой. Обычно △у « и подбираются экспериментально'. В результате приходим к необходимости решения следующей задачи квадратичного программирования: найти вектор wG Uh, для которого Ф(й] = inf Ф|м], и где А А П ( \ 1 2 Ч Ф[и] =Ф(и1;к2,.) +И/ △«/ = «Л 1 - «/, = $+1 - 5/ • Наличие априорных ограничений на искомое решение можно отразить в определении множества допустимых сеточных функ- ций Uh. Отметим также, что, как и при построении сплайнов, можно применить полудискретный подход, определив множество допустимых решений ъ Uh = {u€ | fk (x„ g) u(l-) d$-f{\ < 5 (x,), i = 1,2,..., n}, a не аппроксимируя явно целевой функционал. В этом случае, как легко видно, точное решение иЕ UfJ. При определенных условиях, весьма необременительных, имеет место сходимость решений полу- дискретной задачи к непрерывной. Это устанавливается так же, как и сходимость сплайнов. Изложенный подход применим к системам интегральных урав- нений и многомерным уравнениям. Рассмотрения в этих случаях аналогичны вышеприведенным. §21. Теория сплайнов и задача устойчивого вычисления значений неограниченного оператора 1. Задачу устойчивого вычисления значений линейного замкну- того неограниченного оператора L, действующего из сепарабель- ного гильбертова пространства Я в аналогичное же пространство G, можно сформулировать следующим образом. Введем пространство HL со скалярным произведением (w,u)£ = (u,v)Hl =(u,v)h + (Zw,Zu)c;, w,uGD, где D - область определения оператора L. Очевидно, HL — полное гильбертово пространство. Пусть wG D и g - Lu. Требуется по 148
заданным й Е H: II и - й\\н < 6 указать оператор 5$ со следующими свойствами: 1) Ss uED; 2) lim II и -56wllL =0. 6 -+о Оператор 5б, удовлетворяющий этим условиям, называется сгла- живающим-, в качестве приближения к значению оператора берется элемент g-LS^u. 2. Рассмотрим один эффективный способ построения сглажи- вающего оператора . Определим функционал Фа [w; и] = II и - vll# +а IILuII2G, и ED, где v Е Н - заданный элемент, а а > 0 - некоторый параметр. Пусть и% Е D - элемент, минимизирующий Фа. [w; и]: inf. Фа[и;и] = Фа[и“;и]. (1) и G£> В § 19 показано, что при любом иЕН задача (1) однозначно разрешима, т.е. определен оператор Sav =и%. При определенном способе выбора параметра а=а(6) получаем сглаживающий опе- ратор Sa(6)- Отметим, что в рассматривавшемся ранее случае предполагалось, что исходная информация об элементе uED задавалась в явной форме, т.е. считался известным элемент и такой, что Ий —wll^CS. Однако достаточно часто исходная информация об элементе и задается в дискретном виде. А именно, обычно бывают известны значения некоторой системы функционалов (число которых ко- нечно или бесконечно) от элемента й, являющегося приближе- нием к и, и по этой информации требуется достаточно точно вос- становить значение Lu. Далее рассматривается именно эта задача и ее связь с задачей устойчивого вычисления значений неограни- ченного оператора. 3. Пусть HL С ВЕН, В — банахово пространство, в кото- рое вкладывается пространство HL и которое само вложено в Н, т.е. существуют такие постоянные т > 0, М > 0, что т 1Ы1я< II wIIв <М II u\\L VuEHL. В В зададим п линейных линейно независимых функционалов /z(w) (иЕВ}. Предполагая далее, что и ЕВ, заменим задачу (1) следующей задачей: найти элемент s* Е D, минимизирующий функционал Ф2[м; v]= S (Ц(и -v))2 + а II LuII2G, и ED, i= 1
т.е. реализующий соотношение inf Ф" [и; и] = Ф" [s“;u]. (2) и Элемент s% Е D, удовлетворяющий (2), называется обобщен- ным (или регуляризованным) сплайном. Далее изучаются вопросы существования обобщенных сплайнов и некоторые их свойства. В связи с этим мы уточним предположе- ния относительно оператора L и функционалов Ц{и). Именно, пусть Nl = {и Е D: Lu = 0) — ядро оператора L, — ортогональ- ное дополнение к NL, Q - область значений оператора L. Будем считать выполненными следующие условия: а) ядро Nl конечномерно и его размерность dimA^ = q<n; 6)Q = G- в) если и Е Nl и (и) = 0 (/ = 1,2,... , п), то и = 0. Из условий а) и б) следует существование линейного ограни- ченного оператора L+, обратного к оператору L, рассматриваемому лишь на множестве D П N*- . Докажем ряд вспомогательных утверждений, необходимых для дальнейшего. Лемма 33. Функционалы Ц{и) (i = 1, 2,...,и) ограниче- ны в HL. Действительно, | // (и) I II и ||д, Mi - const < +°°. Так как HL вложено в В, то \li(u)\<MiM\\u\\L, uEHL) т.е. функционал Ц (и) ограничен в HL . Следствие. Отсюда и из теоремы Рисса получаем представ- ление li(u) = (u,ki)L, kt^HL. Замечание. Элементы линейно независимы в HL , так как аналогичным свойством обладают функционалы 4*. Лемма 34. Если uENL, то существует постоянная >0, не зависящая от выбора элемента и и такая, что S (/z (u))2 >mx II и IIя. /= 1 До казательство. Предположим противное. Тогда найдет- ся последовательность таких элементов Uj Е NL (/=1,2,...), что II II н = 1, а lim / -> « 150 £ (/, (uz))2 =0. i = 1
Тогда, очевидно, lim Ц (м7) = 0, i = 1,2,. .. , п. i 00 Так как Uj G NLi то || Uj ||L = 1, и, значит, последовательность {Uj } ограничена и слабо компактна в . Не переходя к выбору подпоследовательности, далее считаем для простоты, что последовательность {Uj} слабо сходится в Hl к элементу w0- Так как NL конечномерно, то и0 G NL и, более того. || uQ ||я = lim || Uj ||я = 1. / -> оо С другой стороны, li (w0) = (Wo, ki)L = lim Ц (uj) = j -> оо = lim (Uj, kj)L =0, i = 1,2,. .. , n. j 00 Но тогда, воспользовавшись условием в), получаем w0 = 0- Полу- ченное противоречие доказывает утверждение. Далее для любых и, v G D обозначим (и, и)„ = (и, и), + (Lu, Lv)g, (и, v)i = S li (и) Ц (и). 1 Легко видеть, что выражение (и, и)п определяет новое скалярное произведение на элементах множества D; тем самым вводится некоторое предгильбертово пространство, которое мы обозна- чим Нп. Имеет место Лемма 35. Пространство Нп полно. Доказательство. Пусть {uj} - произвольная фундамен- тальная в Нп последовательность: II W/4-р “ Uj ||„ 0, j -> оо, р — произвольное натуральное число. Тогда, очевидно, II Luj+p — Luj ||G 0, //(w/+p)--7 = 1,2,. .. , и, /->°° Vp. Положим Uj = Uj + Uj’> Uj G Nl, и}' = Nl • Тогда (3) можно переписать в виде \\LUj+p-LUj ||G -0, (3) li (и-+р ~ uj) + l IIi (“j'+p ~ »}) 0, 7 00 Vp. Имеем в силу условий а), б) II Uj+P - Uj \\И < II Г II II L (Uj+P - Uj) ||G -> 0, 7 - оо
Поэтому последовательность { uf } фундаментальна в Я и сходит- ся. Пусть ff 1 • tf и = hm Uj. i - 00 Так как последовательность Luf сходится в G, то в силу замкну- тости оператора L элемент и" Е D. Далее, из (4) имеем k {u'i+p} - li (uj) -* 0, / ->«> VP- Так как w/ G Nj, п> q, то в силу линейной независимости систе- мы { ki} каждый элемент и/ однозначно представим в виде , п i Uj - S г = 1 и, следовательно, п S (д'+р - д') (kr, ki)lt -* О, / -* оо Vp. г= 1 Но тогда в силу линейной независимости элементов kj 1л'г+р - д' -*0. /—°о Vp, т.е. существуют пределы lim д/ = дг, г = 1, 2,. . . , п. / - 00 п Полагая и = S ргкГ9 получаем из предыдущего г = 1 lim || и- - и ||я = 0. / -* 00 Отметим, что и G NLi так как NL — подпространство Н. Пола- гая и = и + и", из предыдущего получаем lim Ц Uj - й ||^ = 0. Но тогда в силу линейности функционалов lim || Uj - й || п = 0, / -* 00 что и требовалось доказать. Из предыдущих рассуждений следует, что из сходимости в прост- ранстве HL следует сходимость в пространстве Нп и наоборот. Поэтому справедлива следующая Лемма 36. Существуют такие постоянные с, О 09 не завися- щие от п, что для любого иЕ D справедливы соотношения с||м||л<||м||л<С||м||л, т.е. нормы в пространствах Нп и Н/ эквивалентны. 152
4. Переходим к изучению вопроса о существовании и единствен- ности обобщенных сплайнов, а также к изучению некоторых их предельных свойств. Теорема 71. Пусть линейный оператор L замкнут и выпол- нены условия а) - в). Тогда регуляризованный сплайн сущест- вует и определяется однозначно при всех и ЕВ. Доказательство основано на тождестве справедливом при любых и, w G Z), и повторяет основные момен- ты доказательства теоремы 2. При этом существенно используется лемма 36 о'б эквивалентности норм в пространствах Нп и HL. Предельные свойства обобщенных сплайнов в этом пункте изу- чаются при а ->0, а ->+оо при фиксированном п. Предварительно да- дим следующее Определение. Пусть элемент v 6 В. Будем говорить, что элемент uv G D интерполирует элемент и, если значения (uv) = = Ц(р) (i = 1, 2, . . . , ri). Пусть Uv — множество всевозможных интерполирующих элемен- тов для и (считается, что оно не пусто при любом и ЕВ). Элемент sv Е D называется интерполирующим сплайном, если: 1) su е Uv> 2) inf ||ZW||G = ||LsJ|G, и е uv т.е. среди всех элементов, интерполирующих и, sv имеет минималь- ную L -норму. Лемма 37. Интерполирующий сплайн sv определяется од- нозначно значениями Ц (у) (z = 1,..., и), v Е В. Действительно, пусть sv и sv — два* интерполирующих сплайна для элемента v ЕВ, т.е. h ($и) “ h ($и)> "II Lsv 11g — || Lsv ||(2 || Lu ||(2, и Е Uv. Тогда L = “ИМ, 11g + | Юс - i Sv + sv А/ 1 \ 2 2 <0, G т.е. sv-svENl.
В силу условия в)имеем sv =sv. Лемма доказана. Теор ема 72. Интерполирующий сплайн существует и может быть конструктивно определен как предел (в HL) lim s„=sv. а -* О Доказательство. Для любого uv G Uv имеем Ф" [х“;и]<Ф" [//„; и] = а || Luv ||^. Следовательно, llsS- И/ = II II/ IIg. (5) || Ls“ ||G <11 Luv ||G (6) для любого uv G Uv. Из соотношений (5), (6) следует ограниченность в HL (и, следо- вательно, слабая компактность) семейства 5“ по параметру aG (0, а ]. Пусть 5® sv bHl приа->0. Покажем, что sv — интерполирующий сплайн для элемента и. Действительно, переход в (5) к пределу при а 0 дает И-НФ). / = 1,2,...,«, (7) т.е. sv G Uv. Далее имеем ||Zs„||G< lim ||Zs“||c< а -> 0 < Йт ||||G < || Z.Wy ||G, uveuv. (8) a -+ 0 Здесь мы воспользовались известными свойствами норм слабо схо- дящихся последовательностей и соотношением (6). Из (6) и (7) следует, что sv - интерполирующий сплайн для v. Заметим, что в силу предыдущей леммы sv определяется однозначно. Для окончания доказательства теоремы положим в (8) uv = sv. Тогда имеем ||LsJ|g= lim ||Ls“||g, Q -► 0 СЛ что вместе со слабой сходимостью Ls£ -> Lsv дает lim Ls„ = LsVi (9) а О Соотношение (9) справедливо для любой слабо сходящейся по- следовательности семейства s*. Таким образом, оно верно для всего семейства. Это рассуждение завершает доказательство тео- ремы, так как из (7) и (9) следует требуемое соотношение. Следствие. Полагая р (а) = || - и ||?, имеем lim р(а) = 0. (10) а О
Далее изучим поведение семейства s& при а -> +«>. Предвари- тельно дадим следующее Определение. Элемент s„ (v Е В) будем называть сред- неквадратическим сплайном, если: 1) s„ принадлежит ядру NL оператора Z; 2) inf || и - v ||,2 =|| s~ - и lit u е N Лемма 38. Среднеквадратический сплайн существует при любом v ЕВ и определен однозначно. п Действительно, функционал у (и) = S /?(м) положительно i = 1 определен на NL (см. лемму 34). Отсюда следует однозначная раз- решимость соответствующей вариационной задачи. Существова- ние следует из конечномерности . Теорема 73. Имеет место соотношение lim ||s“-s?||L=O. а °0 Доказательство. Имеем Ф" [s“; [s-; и] = II s“ -и II?. Следовательно, при любом а > О ||s" - v ||? < || - v II? < II и - v II? Vu€NL, (11) l|Ls“ll^< - Ils”-« (12) a Из соотношений (11), (12) следует, что при а, удовлетворяю- щем условию 0 < а < а, семейство s£ слабо компактно в Н[. Пусть оно при а -*+°° слабо сходится к некоторому элементу sv. Покажем, что sv ~ s™. Действительно, согласно (И), (12) имеем lim || - v ||/ = || Sy - и ||/ < || Sy - v ||/< a -> 00 < II u - v II, VuENl. Таким образом, sv E NL ; полагая в приведенных выше соотноше- ниях и = Sy, получаем SyG7VL; II Sv - V II/ = II s~ - V II/. Учитывая определение элемента s„ и предыдущую лемму, по- лучаем su = s~, а также lim ||LSy||G=0. О' ~* 00 Отсюда следует теорема.
Следствие. Из предыдущего вытекает, что lim р(а) = НС -i’ll?. (13) СИ -> <ж 5. Изучим некоторые свойства интерполяционных сплайнов [98]. Т е ор е м а 74. Если v Е D, то inf || Lsu - Lv\\g = || Lsv - Lv ||G, (14) и G В т.е. на элементе sv получаем оптимальное в смысле нормы прост- ранства G приближение к значению оператора L на элементе v. При этом справедливо равенство Пифагора II Lv Ilk = || Lsv Ilk + II Lv - Lsv Ilk- (15) Доказательство. Так как sv - решение задачи (14), то для любого Vq Е Vq = {vq Е I (u0) = 0}, Z (w) = (Ц (w),.. . . .., ln(w)), имеет место тождество Эйлера (Lsv, Lv0)G =0 VuoeKo. (16) Так как sv — v Е Vo, то справедливо соотношение (Z<Sy, Lsv — Lv)G — 0. (17) Из (16), (17) следует, что элемент sv является решением за- дачи (14) и справедливо равенство (15). Теорема доказана. Рассмотрим в HL некоторый линейный функционал / (z) (z ED). Согласно теореме Рисса и лемме 36 найдется единственный элемент w EHl такой, что Г(z) = (z, w)„ = S li (z) Ц (w) + (Lz, Lw)g. i = 1 Пусть и ЕВ. Тогда, как легко видеть, Г(г)-/~ (s„) = (z-s„, w)n. Рассмотрим задачу: найти элемент и Е В, на котором выраже- ние . sup U(z)-/"(stt)| (18) и’: w || п < 1 достигает минимума при и ЕВ. Справедлива следующая Теорема 75. Решением задачи (18) является интерполяци- онный сплайн sz. Доказательство. Очевидно, что sup | Г(z) — / (su) |2 = II z — su II? + II Lz - Lsu Ilk- w: II w 11 n < 1 Остается применить теорему 74. Теорема доказана. 156
Сл едствие. Оптимальное в смысле (18) приближение к зна- чению линейного в HL функционала I (z) есть I (s2). Заметим, что значение I (sz) можно вычислить согласно формуле Z(s2)= S //(z)/i (w) + (Z5z,Zw’)g, i = 1 для реализации которой необходимо знать Z/(z) (i = 1,. . . , ri) и Lsz, т.е. знание элемента sz не является необходимым. Замечание. Величина || Lsz - Lz ||G = inf || Lsu - Lz ||G и e в определяет погрешность приближения значения Lz элементом Lsz и существенно зависит от выбора функционалов Zz (i = 1,. . ., ri). Представляется весьма важным решение следующей оптимизацион- ной задачи: при фиксированном п (определяющем количество вычислительной работы) найти такие функционалы Ц, для которых минимальна величина sup || Lsz - Lz ||G z G Z (Z — некоторый непустой класс из HL), т.е. достигается наиболь- шая точность аппроксимации оператора L. Множество Z может быть и одноэлементным. 6. Далее будем считать, что и = и и \\и - h|Ih<S (и ED). Изучим поведение регуляризованных сплайнов прим 6 -> 0. В связи с этим предполагаем выполненными условие аппроксима- ции: для любых и Е В \\\u\\t -\\и\\2н\<г2 ||м|1в (19) (гп -> 0 при п независимо от выбора и Е В) — и условие сог- ласования: г2 || и ||^ = еп> 6 ->0, п-+<*>, 6->0. Допускается, что функционалы /, (м) могут зависеть от п, т.е. в общем случае Ц = Z/"\ Заметим, что условие (19) весьма удобно для проверки и вы- полняется во всех известных автору случаях при соответствующем выборе пространства В. Лемма 39. При сделанных выше предположениях семейст- во {$~} ограничено при п ->о°, 6 ->0. Замечание. Так как подпространство NL конечномерно, то, очевидно, все нормы в нем эквивалентны. Доказательство. Используя вышеприведенное замеча- ние, достаточно установить ограниченность {$-} в пространстве Я.
Используя условие аппроксимации (19) и условие согласования, || sZ Ни < II - и ||я + II й - и ||я + || и Ни < <(IIs~-m||? +r„ 1к~ - и|1в)1/2 + 5 + ||м||я< < [II«II? +>-„2 (II sj Нв+ 11 ад2]1/2 +S + II и ||н < < [II й Н„ + е„, 6 +r^ (II s£ IIb + IIuIIb)2]1/2 +5+ ||м||н. Здесь мы воспользовались тем, что для любого иЕ. NL \\s~ - u\\i<\\u - u\\h и положили и = 0. Из приведенных выкладок следует равномерная по и и 6 ограниченность || $~||#. Лемма доказана. Лемма 40. Если и' - проекция элемента и на подпрост- ранство Nl, то lim || s~ - м Ilf = || и'- w Uj,. (20) 6 -> 0, п -> 00 Доказательство. Имеем II s~ - и II? < II и' - м||2 < II и - и||н + Гп II и - и Нд. Следовательно, Ito £ /? (з"-й)<\\и-и\\2н. (21) 6 -> 0, п -> оо i = 1 Далее, || и - и ||я < || s~ - и ||я< || s~ -м||я + 5< <(ll s£ -«II2 + r^ lls~ - «Нв)1/2 +5. Используя равномерную ограниченность ||$~ ||в по п и 6, по- лучаем II и' -и ||я < lim £ /? (sj -и). (22) 6 -> 0 , М -> оо /= 1 Сопоставляя (21) и (22), получаем (20). Лемма доказана. Далее будем предполагать, что выполнено условие II U - и II# > О (23) (случай и = и1 будет рассмотрен особо). Используя (10) и (13), получим, что О < р2(а) = II si - w||2 < || s~ -Mil2, a>0.
Можно доказать (см. §9), что функция р(а) строго возрастает и непрерывна. Следовательно, для всякого р G [0, || - и ||z) урав- нение р (а) = р имеет единственное решение а = ар. Пусть заданы такие р = рпь, что 52 + л2 ||«-«||1<р2 <||$~ -и II/, lim pnb = 0. п -* °°, 6 -* 0 Возможность выбора таких р при достаточно малых 5 и больших п следует из леммы 40 и условия (23). Теорема 76. Если snb = s~p, то lim || snb - и ||L =0, 6 -* 0, п -> 00 т.е. оператор Snb : Snb и = snb является L-сглаживающим. Замечание. Если п достаточно велико, так что погреш- ностью аппроксимации можно пренебречь по сравнению с величи- ной 6, то можно положить рп § = 6. Доказательство. Для любого иЕ D имеем || - Mil? + a || Ls~ ||2; < II и - й||2 +а II Ли II?;. (24) Полагая здесь а = ар и и = и, получим р2 + ар || Lsnb Hg < II и - и II2 + ар || Lu ||2,- < < || и - м 11/7 +Гп II и - и\\в + ар II Lu 111 <р2 +ар || Lu Hg. и, следовательно, ||2л„6 Hg<II£«IIg- (25) Используя (19), получаем II Snb ~ и II// < II snb - и ||я + II й - и II// < <5 + (|| snb - «||/2 +г2 || sllb - м Не)1 /2 < С5 + |р2 + г2 (|| snb ||в + || м Ив)2]1/2 Покажем, что {|| snb ||в} равномерно по п и 6 ограничена. Дей- ствительно, используя вложение пространства HL в В и соотноше- ние (25), получаем lls„6 Нв<м2 ||s„6 111 <M2 (II snb ||z2 + + 1К6 Ив + II^IIg) • Далее имеем II snb ||z С || snb - «||, + ||м||/< <р+(||«||^+е„6)1/2,
и, следовательно, II s„6 \\2в<М2 {[p + (||u||?/ + e„6)1/2]2 + ^ II Snb III + 11 Lu II?;}. Отсюда, учитывая, что гпр и п стремятся к нулю при п 6 ->0, получаем ограниченность {||5„6 II д} . Но тогда lim || snb - и ||я = 0. (26) Ъ -* 0, и —► °° Из соотношений (25). (26), применяя стандартные рассуждения для регулярных приближений, получаем требуемое утверждение. 3 амечание. Аналогичными рассуждениями можно показать, что при любом и Е В Нш IH“-W*||L=0, п -► 00 где и„ - решение задачи (1), т.е. последовательность {s„ } по па- раметру п можно рассматривать как сходящуюся минимизирую- щую последовательность для функционала Фа [и; и] (и Е D). Теперь рассмотрим случай, исключенный ранее. Пусть 11и'-«11н = 0, т.е. uENl. Теорема 77. Справедливо соотношение lim ||s£ - w ||/ = 0. 6 ~>0, Q, °° Доказательство. Полагая и = и в (24), получаем II si - й И? + а || Lsi ||g < || и - и ||?, и, следовательно, || si - м||,< || и - й ||z, ||£s2||g<—— ||и-ы II/. уа Используя конечномерность легко показать, что lim || и - и || i ~ 0. п —► °°, Ъ -* 0 Поэтому . nlim ||Z,s“Hg=O. (27) 6 -»0, а, и —00 1 u 110 v 7 Далее имеем || si - и ||„ < ||s“ -й||н + 8< < (II si. - и II? ^r^\\si -й Ив)1 /2 + 8 < < [II и - й ||? + г2 (|| si ||в + || и Нв)2]1/2 + 6.
Если {II s~ II в } ограничена равномерно по п, S и а, то lim ||s“-m||h=0, (28) 6~>0, а, п-+°° и из (27), (28) следует утверждение теоремы. Справедливость сде- ланного допущения доказывается, по существу, так же, как и ана- логичное утверждение в теореме 76, и поэтому здесь не приводится. Теорема доказана. 7. Пусть / (и) — линейный функционал, значение которого необ- ходимо вычислить на элементе и G D. Предположим, что вместо и известно его 6-приближение в Я, т.е. элемент и. Так как выражение I (и) может даже не иметь смысла, то естественно в качестве приб- лижения к I (и) взять I (s~) при соответствующем выборе парамет- ра а (см. теоремы 76 и 77). Это дает устойчивый способ вычисле- ния любого линейного функционала в HL. Учитывая результаты, полученные в п. 5, можно ожидать, что указанный способ вычисле- ния функционалов близок к оптимальному. Так как F(sZ) = (sZ,v)i + (Ls~, Lv)G, где v G D — известный элемент, то для вычисления / (s~) достаточ- но знать только значения функционалов /,($~) (/= 1, . . . , и) и оператора Ls~. Способы их определения (без непосредственного нахождения элемента s~) будут рассмотрены далее. Аналогичное замечание справедливо, очевидно, и в случае, когда надо вычис- лить только значение оператора L на сплайне s~. Вычисление Ц (sZ) и Ls~ без непосредственного построения сплайна s~ существенно уменьшает вычислительную работу при поиске подходящих значе- ний параметра а (например, удовлетворяющих критерию невяз- ки р(а) =р). 8. Условие выбора уровня невязки р, 62 + r2 II й - й Ид <р2, несколько обременительно на практике, так как оно зависит от уклонения II й - й IIв, которое не всегда легко оценить. Естествен- но указать условия, когда можно полагать р=6. Это упрощает проблему выбора ар- Будем считать, что система функционалов li(u) (J = 1,... ,и) полна в Н (т.е. полна система kf) и, кроме тогб, выполнено условие Ни И^ = £ (//(и))2, иен. i~ 1
Пусть а = &ь определено из условия р(а) =6. Обозначим = а я _ = s ~ • Тогда, очевидно, II - и II/ < II - и II/ + II й- и II/ < 26. (29) Полагая и = и, а = а5 в неравенстве (24), получаем 62 +аб IILsnb Hg < II и - wll2 + a§ WLu 11^ < < II и - й Н2Я + II Lu 11^ , и, следовательно, \\g<\\Lu llG. (30) Из (29) следует, что при 6 ->0, n->°° сл а sn(>---> и (вЯ). (31) Из (30) и (31) по обычной схеме получаем доказательство того факта, что lim II Snb ~ w IIl =0. 6->0, л-»-00 Утверждение доказано. Наложенные иа систему функционалов {//(«)} (/ =1,2,...) условия заведомо выполняются, если система {к/} ортонормиро- вана и полна в Я. 9. Рассмотрим введенный ранее обобщенный метод интерполи- рования применительно к общему случаю. Пусть снова система функционалов ((w)} полна в том смысле, что замыкание системы определяющих их элементов (i = 1,...,и) совпа- дает с пространством Я. Пусть элемент и Е В и |/,(2)-/,(Й)| <6, i=l,...,n, '(32) Определим w5 как решение экстремальной задачи m = inf WLu llG = \\Lub llG, (33) где множество Ub ={uE D: | /z(w) - /z(w) | <6} Ф ф в силу (32). Существование решения (по крайней мере одного) вариа- ционной задачи (33) можно доказать следующим образом. Пусть {us} - такая последовательность из Яб, что WLus llG + 1/s, s = 1,2,... Очевидно, что | /z(w5) | <6 + | /z(u) | <6 + max | /z(w) | , т.е. i II us II2 < 00 равномерно по s. Но тогда II и5 11и<°° равномерно по s. Отсюда следует слабая компактность {wv} в Я„, а также в HL. Предполагая, что последовательность {i/у} слабо сходится в 162
Hl (при необходимости выбираем такую подпоследовательность) к некоторому элементу щ G HL , получаем в силу замкнутости L, что и6 G U&, т.е. является допустимым элементом, и, кроме того, m<\\Lud llG < lim \\Lus \\G =т . 00 Отсюда следует, что множество решений задачи (33) непусто. Утверждение доказано. Единственность элементов можно гарантировать, если ядро Nl оператора L состоит только из нулевого элемента. Доказатель- ство сходимости метода следует схеме, изложенной в п. 7. Построив для элемента иь интерполяционный сплайн s *, убеж- даемся, что е Ub и IlZs* IIG < IILиь 11(7, т.е. решение (33) 11 ь можно искать на множестве интерполяционных сплайнов, удов- летворяющих условию допустимости | /z(u) -/z(u) I <3 (/ = - 1,..., и). Аналогичное замечание имеет место и для случая регуляризованных сплайнов (2). Заметим, что все изложенные выше результаты остаются спра- ведливыми, если множество D считать выпуклым. Это замечание позволяет учесть наличие априорно известных граничных условий, накладываемых на элемент и. Основные результаты сохраняются также, если заменить форму II Zu 11^ на \\Lu-g 11^, гдеg - фикси- рованный элемент из G. Нетрудно видеть, что метод (33) определяет некоторый алго- ритм сглаживания . Можно показать, что этот алгоритм опти- мален в смысле, близком по форме к рассмотренному в § 19. Именно, надо определить оценочную функцию coB(3,/?) = sup WBu Иг, и u€D: max | /z(u) | <3, IILu llG <Я. Если алгоритм Т= Г (Zj(u),. .. есть некоторое отображе- ние и-мерного евклидова пространства в D, то легко доказывается соотношение (2) § 19, т.е. ^в(О;Г)>с5в(5,Я), где сЗв(5,Я;Г) = = sup \\Вй - Г(Л(и),. . . Jn(u)) Ih . I //(О Ur 11 163
Доказательство этого факта аналогично доказательству теоре- мы 65. Заметим, что элемент щ из (33) обладает свойствами I 4(W6) - 4(w) К25, -и) НсС2Я. Следовательно, справедлива оценка точности IIВи — ВIIу С 2 со# (5, /? )-. Во всех приведенных здесь рассуждениях число функционалов п считалось фиксированным. § 22. Приближенное решение операторных уравнений методом сплайнов 1. Пусть Л - линейный (ограниченный) оператор, действующий из Я в F (Н и F, как обычно, гильбертовы пространства), с об- ластью определения DA СН. Предполагается, что оператор А имеет ограниченный обратный, определенный на всем Я, так что урав- нение Au=f (1) имеет единственное решение и при любом т.е. задача (1) кор- ректно поставлена. Определим другой линейный замкнутый оператор L : Н -+G с областью определения DL QDA,DL ~Н, причем выполнены ус- ловия 1) u=A^f&DL- 2) II Au ll2<?2( Hu IIL+ HLu 111), uGDj , Г 77 Cr где у > 0 — постоянная. Зададим в DL п линейных и линейно независимых в HL функ- ционалов Zz(w) = (w) (/ = 1,..., ri) и предположим, как и в § 21, что 3) ядро Nl ={uEDl: Lu~Q} оператора L имеет конечную размерность q Си; 4) если и G Nl nlf(u) =0(i = 1,. . . , и) , то элемент и = 0; 5) выполнено условие аппроксимации: для всякого wG DL | \\и\\2- \\u \\2f \\u II’ . (2) Здесь при и-*°° и не зависят от wG DL ; I (и) = (Z, (w),. . . . . . ,Z„(w))T: I к И?- Kijlt(u) lj (w); числа к Z/ = к обра- зуют положительно определенную матрицу к (в частном случае 164
к ij =0, i Ф], т.е. матрица к диагональна; тогда по существу рассматривается схема предыдущего параграфа); 6) если g = (gi,... ,gn)T - произвольный вектор размернос- ти п, то существует по крайней мере один элемент g Е DL такой, что 1(g) =g9 т.е. интерполирующий элемент (интерполянт). Пусть Ug ={g Е DL : 1(g) =g }, sg - сплайн, интерполирующий значения g. Если существуем g GDL такой,что 1(g) равно заданному вектору g, то полагаем $а = . Обозначим _оо<^.<оо? / = 1,...,и}. Основная задача, рассматриваемая здесь, формулируется так: определить сплайн sn^Sny удовлетворяющий условию inf Us-/llF=ll4s„-/llF, (3) и изучить его аппроксимативные свойства по отношению к ре- шению уравнения (1). 2. Пусть в/ = (0,..., 1 ..., 0)Г- орт z-й координатной оси. Обозначим Si = se.. Сплайн se{ назовем базисным. Теорема 78. всякий сплайн s* однозначно представим в виде линейной комбинации базисных сплайнов: s?= S gksk. (4) « £=1 Доказательство. Представимость sа в виде (4) следует п g из того, что Ц( S gksk) = h(s*), и из уравнения Эйлера 1 g (Ls.Lv) G =0 V v в Dl : I (v) = 0, верного для любого интерпо- лирующего сплайна s. Докажем единственность представления (4). Для этого, достаточно показать линейную независимость базисных сплайнов bHl или Нп. п Пусть S gkSk=0 и gt =#0 при некотором i0- Имеем Л = 1 0 п О = II Б gk sk II* = Л = 1 п п п g2+\\L( S gksk)\\2G> S g2>g2 >0. z=i 1 *=i ° /=i 1 lQ Полученное противоречие доказывает линейную независимость { 5 J в Нп и, следовательно, в HL . Теорема доказана.
Следствие. Множество Sn является линейным пространст- вом размерности п, базисом в котором являются базисные сплай- ны Si(i - 1,..., ri). В связи со сказанным выше для определения коэффициентов разложения sn имеем следующую систему линейных алгебраических уравнений: X gi(Ash Asj)F=(Asi,f)p, / = (5) 7-1 Теорема 79. Задача (5) однозначно разрешима; при этом II й - sn II н + IIА и - Asn llF->0, (6) т.е. метод сплайнов сходится. Доказательство. Для однозначной разрешимости (5), очевидно, достаточно доказать, что система базисных сплайнов Л-линейно независима, т.е. элементы Asf линейно независимы в F. Предполагая противное, в силу обратимости А получим линейную зависимость базисных сплайнов в HLi чего не может быть в силу доказанного выше. Далее имеем, используя экстремальное свойство элемен- та ИЙ-?„ НнСНЛ’1 II НЛ^-ГИ/гСПЛ’1 II IIA s*-f llF, где Sa — сплайн, определяемый значениями функционалов («),... ..., 1п(й) на точном решении (1), т.е. сплайн-интерполянт для эле- мента и. Используя условие 2), из предыдущей оценки получаем II и - sn II// < 7 IIA -1 II II sa - й II/ -* О, п -+ (7) (в силу теоремы сходимости интерполяционных сплайнов {§ 21)). Теорема доказана. 3. Выясним скорость сходимости метода сплайнов при решении операторного уравнения (1). Ясно, что она существенно опреде- ляется скоростью сходимости сплайна s*, интерполирующего ре- шением задачи (1). Очевидно, имеем: ИЦ llc С \\Lu II g . (8) С другой стороны, полагая в условии аппроксимации (2) и- = u~s*, получаем в« - (1И - SA II2И + II L(u - ss ) иЬ) т.е. при достаточно больших п Y $ И«-^ 112 2 • (9) 1 г п
Это дает представление о скорости сходимости сплайна s* к эле- менту и в пространстве Я. Предположим, что т.е. элемент и имеет большую гладкость. Тогда, используя уравнение Эйлера, получаем II Ни - s-) II 2в = (L * L и, и- s^)H < С lL*Lu II „Им - ха || . И и Н Учитывая (9), имеем оценки г" q„ < U'Lu И„ , (10) 1 - г,, II Lu -Ls* \\2<\\L*Lu L.q,,. (11) u F If x Отметим также, что из равенства Пифагора следует оценка II Lu - Lxa II < И Lu II,, Vu&Dj . (12) и и О л' Пусть теперь /:\(0 <Х0< X < °°) - спектральное разложение еди- ницы, порожденное самосопряженным оператором />*£. Тогда для любого uEDl квадратичная форма II L и IIимеет вид IILu И =/ \(dE\u,u). К Обозначим через произвольный линейный оператор, для кото- рого квадратичная форма HL,u II2 = / ^(Х) (dEK и, и). u&D^ = D,, где ^(Х) - некоторая непрерывная положительная функция, удов- летворяющая следующим условиям: а) ^(Х) строго возрастает: б) (X) выпукла вниз; в) функция Х2^(1/Х2) возрастает. Теорема 80. При указанных условиях на функцию (X) справедливы оценки II L,(u - х^ ) II2 <q2 9? IIL (и - sf,) II g qn ,(13) где определяется no формуле (9), если известно только, что элементuEDL, и по формуле (10) в случае иЕ Df *j. В частности, если<р(Х) = Х° (0<а<1) .то условия а) - в) выполнены и имеет место оценка »L,(u - ха) || < q}- - ||Нц - хца) II’ <q'n - ’ IILil ll°r. (14)
Доказательство. Для любого u€DL, применяя интег- ральное неравенство Йенсена, получаем <<*( f 4>(^)(dEKu,u) / Г (dEKu,u))< J \(dEKu,u)l f (dE\u,u) Ло X.Q Х.о А-о и, следовательно, в силу а) — в) имеем IIи II2 < f (dEKu,u)ip( WLu \\2gI f (dEKu, u)) < *0 <IImII^( WLu W2g/Wu 11^). (15) Полагая здесь u = u-s* и используя оценки (10)-(12), полу- чаем (13), (14). Теорема доказана. Замечание. Неравенство (15) можно применить для оцен- ки точности вычисления значений оператора £^, если положить = -w, где иь - сглаженное значение элемента й: Wu - uWH< <6. Тогда при рассмотренных выше алгоритмах сглаживания имеем Wud — и ll„<26, WLui> -Lu llG <2 IILu \\G^2R> следовательно, справедлива оценка \\L^(ub-u) II2 <462^(Я2/62). (16) При у (X) = \° эта оценка принимает вид WL*(u-йь) II < 261-ст7?а. Заметим, что случай $ (X) = Х° соответствует оператору дифферен- цирования. Следствием проведенного анализа является следующее утверж- дение: если решение и задачи (1) принадлежит *L. то справедли- ва оценка И A sn - f 8н = О(г*). Если же выполнено условие IIА и II2, <у2 ( llw II + IIL^ и II 2), и 7^ = const, то. используя оценки (13), (14), можно получить оценки скорости СХОДИМОСТИ К нулю уклонения II и — S„ IIJ./ . Пусть далее квадратичная форма IIА и II эквивалентна квад- ратичной форме II и II2, т.е. 70 II и IIL < IIА и II р < 7 II и IIL , где 70 и 7 — положительные константы. Используя условие ап- проксимации (2), легко показать, что при достаточно больших п нормы пространств Нп и HL эквивалентны, т.е. существуют поло- 168
жительные т и М, не зависящие от и и п и такие, что т II и II „ < II и II/; II и ll„ Vu EZb . Но тогда форма IIА и 11^ эквивалентна форме II и И„ в силу нера- венств тлуо II w ll„ < IIА и IIр <Му II и II „ . Пусть z = и - ?„.Тогда в силу экстремальности элемента sn IIА и - A sn И/? < IIА и - A s* II „ < п г и F <Му II w - Sa ||w =Му IILu -Ls* 11(7- С другой стороны, используя теорему 74, имеем IIА и - A sn II/? > ту0 II и - sn 11„ > И w - Sa ||„ = myo WLu - Ls* ll^ , где sa - сплайн, определяемый элементом й. Из полученных соотношений следует важное двустороннее соотношение туп II Zu -Zsa \\G<\\Au -Asn llF <Му И Zu -Zsa 11$ , которое показывает, что невязка на решении, полученном мето- дом сплайнов, полностью определяется точностью аппроксимации значения оператора Z на решении и уравнения (1) значением Z на интерполяционном сплайне Sa. 4. Остановимся на некоторых условиях реализации изложен- ного подхода. Пусть, например, в квадратичной форме \\Аи II2 = 11 Ло и II 2+lUjull2 г г г квадратичная форма ИЛои Ир определяет ’’главную” часть в сле- дующем смысле: WA.u IIJ.<к2( Ии И^+ ИЛои llp = fc2 Ии И2 ° Тогда, очевидно, И Ли И2 <(1+fc2) И и II2 , A Q и неравенство 2) выполнено, если определить Z = Ло. Рассмотрим пример, для которого проверка выполнения усло- вий 3) —6) не вызывает особых затруднений. Пусть dku Lu~—— , xG[a, ], к >2, dxk где дифференцирование понимается в смысле С.Л. Соболева. Тогда легко видеть, что размерность q ядра оператора Z равна к.
Определим на [a, Z>] равномерную сетку узлов xf =а h„=(b-a)/n (i = 1,...,п + 1) и положим //(«) =м(х/+1/2)> где Ау+1/2 + - 1/2) Лл. Функ- ционалы Ц (ti) определены для любой достаточно гладкой функ- ции. Выполнение 6) следует из существования интерполяцион- ного полинома, проходящего через заданные точки (x/ + i/2>Mi)- Так как множество NL - полиномы степени не выше, чем к - 1, то 4) выполнено, очевидно, при п>к. Выполнение 5) легко проверяется непосредственно: применяя формулу Тей- лора до 2-го порядка включительно с остаточным членом в интегральной форме, получаем оценку п ь | S hn w1 2(x,+ i /2) - f u2(x)dx | <CA. h2 II и II2 , i~ 1 a где ck - постоянная, не зависящая от п. Таким образом, рассматриваемые условия выполнены. Далее остановимся на выборе аппроксимирующих функ- ционалов If = (z = 1,..., ri) . Как показано выше, точность приближенного решения существенно определяется величиной гп, характеризующей точность аппроксимации в условии (2). Представляется естественным выбирать систему функционалов //(«)(/ = 1,...,и) так, чтобы порядок аппроксимации был возможно выше. Этого можно добиться, минимизируя по I и к выражение (см. (2)) sup I Им II?- Им 11^| \\LuW2 (.7 (17) Если /7=Z2(Q), где П — область конечномерного прост- ранства с достаточно регулярной границей, и функционалы /,• являются значениями u(Pf) достаточно гладких функций и в узловых точках Рг- О (z = 1,.. ., и), то минимизация (17) приводит, как это легко видеть, к выбору оптимальной квад- ратурной формулы. Если узлы { Pi} фиксированы, то сформу- лированная задача сводится к определению только наилучших коэффициентов квадратурной формулы. § 23. Восстановление решения основной задачи по приближенным значениям функционалов 1. Постановка задачи. Рассмотрим снова основную задачу (линейный случай). Предполагаем, что мера несовместности = 0 и уравнение Au=f (1) разрешимо в обычном смысле. Кроме того, полагаем, что D = 170
-Dal =Da О Dl. Дополнительно к основным предположе- ниям потребуем, чтобы область значений QA оператора А лежала в некотором банаховом пространстве В, вложенном в F (т.е. Qa QB CF),h чтобы для любого элемента f Е В имело место неравенство II/II/? <к И/Ив, fc=const<°°. (2) Оператор А: НА L -+В считаем ограниченным: IIА и II5 | и |, uED, (3) где, как и ранее, | и |2 = \\Аи II 2 + \\Lu II2 , z/EZ), - гильбертово пространство, построенное на элементах/), со скалярным произведением (u,v)al-(Au,Av)f + (Lu,Lv')g. (4) Нетрудно убедиться, что из условия совокупной замкнутости операторов AnL следует полнота пространства ИAL. Правая часть уравнения (1) предполагается из В9 T.e.fEB. Пусть в пространстве В для каждого натурального «определены линейные функционалы //(/) = 1^ (/) (z = 1, ...,n), /Е В. Задача, рассматриваемая в этом параграфе, заключается в пост- роении устойчивого алгоритма приближенного решения опера- торного уравнения (1) при условии, что заданы значения функ- ционалов fi = /1 (/) от элемента / Е В такого, что II/ -/ IIр < <6. При этом знание самого элемента / не предполагается. Заметим, что ранее задача рассматривалась в основном при предположении, что элемент / задан в В =F. В § 21 рассмотрен частный случай, когда Н -F и оператор А равен тождествен- ному оператору. Полученные там результаты здесь обобщают- ся на более широкий класс задач. Кроме этого, мы получаем конечномерные аппроксимации для построения приближенно- го решения основной задачи, на наш взгляд, весьма удобные с точки зрения их реализации. ПустьН = F = G =L2 k b ], В = С[а,Ь] и ь Au = f а<х<Ь, (5) а где £(-*,£ ) — непрерывная функция своих переменных,/(х) — некоторая непрерывная функция. Оператор L =d(^dxq есть оператор ^-кратного дифференцирования, определенный на множестве D функций z/Е С Ь], Ц - I-я производная которых абсолютно непрерывна, dqujdxcf Е Ь2 [а, (<у > 1).
Тогда в качестве системы функционалов 7/(/ ) можно взять зна- чения непрерывной функции f (х) в узлах некоторой упорядочен- ной сетки {X;} Е [a, b] (i = 1,..., п). Предполагается, что в7-/И| = / а 2. Дополнительные условия и вспомогательные утверждения. В дальнейшем нам потребуется выполнение (ср. § 21) условия аппроксимации: для любого f^B | II/II,2- ll/ll| |<г| 11/11 2 , (6) где гп -* О при и-+°° независимо от а выражение 11/11, оп- ределено в § 22, п. 1, и условия согласования: lim гчИ$ Ив=О, $=/-/. П оо 6 О Положим для u, v Е D (и, и)„ = S Кц 1,(Аи) lj(Au) + (Lu, Lv)G, ij~ 1 где Kjj (j,j= 1, . . . , n) образуют положительно определенную мат- рицу. Справедливы следующие утверждения (предполагается, что п достаточно велико). Лемма 41. Существует постоянная к2>0 такая, что \\Аи llB <k2 Ии И„, uEZZ (7) Действительно, используя (4) и (6) , получаем II Аи ||в < ^(|| Ли ||| + ||Lu ||| < < к} [ || Ли ||, + г2 || Ли ||| + ||Zu ||| ]. Разрешая это неравенство относительно IIДиIIg, получаем (7). Утверждение доказано. Аналогично, используя (7), получаем I и\ < Мп || и ||„, а также I и | > тп || и ||„, где тп, Мп -* 1 при п -* °© и не зависят от и € D. Отсюда следует Лемма 42. Гильбертово пространство Нп, порожденное ска- лярным произведением (u,v)n (u,v Е D), и пространство HAL имеют асимптотически эквивалентные нормы. 3. Определение приближенных решений методом невязки. Пусть Uf = {и Е D: А и = /} непусто. Тогда, как показано в § 1, условием WLu-gWu = inf || Lu -g ||с и е Uf 172 J
однозначно определяется решение и Е Uf уравнения (1), т.е. L -псевдорешение основной задачи. Определим множество Ue формальных приближенных решений задачи (1): Ue - {u^D. рп(и) < 0}, рп{и) = \\Аи - f ||;, и в D, а функция 0 = 0 (и, 6) > 0 такова, что рп(й) < 0, Ит 0=0. и 00 Возможность выбора такой функции 0 следует из соотношения Рп(и) < Ц/--7 ll£ + Г2п Шв, которое является следствием условия аппроксимации (6). Тогда Р„(й) < $2 + гп И £ II в 0 ПРИ и -► °°, 6 -> 0. В частности, при до- статочно больших п можно положить 0^6. Таким образом, всегда Ue Ф ф. Приближенным решением задачи (1) назовем любой элемент ио Е Ue , для которого А-норма минимальна среди всех формаль- ных решений: II - g II g = inf \\Lu-g\\G = me , (8) «e uQ т.е. рассматриваем полудискретный метод невязки. Заметим, что среди формальных решений задачи (1) могут со- держаться такие элементы, которые не сходятся в HAL (и даже в Н) к элементу й при 6->0. Теорема 81. Множество Ue = { wE Ue'. \\Lu- g \\g - me} непусто. Доказательство. Для любого р = 1, 2, ... существует элемент ир такой, что mQ < || L ир - g || G < mQ + 1 /р. Тогда, очевидно, справедливы первенства IILup IIG < const, \\Aup IIz < const, где const не зависит от р. Следовательно, нормы \\ир ||„ ограничены равномерно по р. В силу леммы 42 этим же свойством обладают и | ир |. Поэтому по- 173
следовательность{ир} слабо компактна в НAL. Пусть щ - слабый предел этой последовательности (при необходимости надо перейти к подпоследовательности). Так как операторы А и L непрерывны в Ндь, то онитакже и слабо непрерывны. Поэтому РМ < lim р„(ир) < О, р -► °° II Lue - g IIG < lim \\Lup-g\\G =rne. p -* 00 Отсюда следует, что uo E Ue , т.е. является искомым приближен- ным решением. Теорема доказана. Пусть Ni = {мЕ D\ Lu - 0} - ядро оператора L. Теорема 82. Если uif u2^Ue ,то их разность их — и2 Е NL , а I «1 - и2 I < 2 кк{Мц6. Доказательство. Так как их и и2 являются решениями задачи (8), то 1 2 1 2 , = Д ||Ам, -#|1с + 5lli«2-g Hg - G ~ 0, т.е. Mi - u2 Nl . Далее, очевидно, что \\Aux- Au2 ||z < 20, тогда в силу (1), (4) и леммы 42 имеем ||Л(М1 - и2) ||F < к || Л(М1 - и2) \\в < ккх |м, -и2 I < < ккхМ„ II и 1 - и2 11„ < 2 ккхМпв. Теорема доказана. Замечание. Множество решений Ue может состоять и более чем из одного элемента. Однако если NL = {0}, то множество при- ближенных решений состоит, очевидно, из единственного элемен- та: Ue = {ие}. 4. Сходимость приближенных решений в . Пусть Ue€ ={ueUe: \\Lu -g || g < mo * e }, где e > 0 — некоторое число. Обозначим Д(6, п, е) = sup |м—м|. А € и G Ge
Величина △(§, п, е) характеризует погрешность приближенного ре- шения задачи (1). Теорема 83. Имеет место предельное соотношение lim Д(6, п, е) = О, п ~~ 00, 6, 6 -> О т.е. метод (8) приближенного решения уравнения (1) сходится, причем устойчиво, относительно возмущений правой части (1), погрешности дискретизации и погрешности решения вариационной задачи (8). Доказательство. Пусть и - произвольный элемент из Uq . По определению II Lu-g ||G < \\Lu-g\\c; рп(и) < 0. (9) Используя условие аппроксимации, получаем \\Au-f || F < р„ (и) +гп || А и - f || в < 0 + гп || А ц - f || в . Тогда IMi/-/||F<|Mw--7l|r+6<6 +0 \\Аи-Г\\в < < 6 +0 + r„( \\Au-f\\B + Шв). Если \\Au- f ||в равномерно по и ограничена, то из предыдущего неравенства следует, что lim sup || Аи - f И/? = 0. (10) н -> 00, 6, € -* 0 и Е Uq Действительно, используя леммы 41 и 42, получаем к2 \\Au-f\\B< — (\\Au-f\\F + \\Lu-Lu\\G). (11) m п Но II Ли-/||F < II Ли -f ||, + г„ ||Лм-/||в < < \\Аи -f ||, + || Аи-7 II/ + г„ || Аи - f Us < < 26 + гп ||Дм -/Us. (12) Из (11) и (12), учитывая первое неравенство в (9), получаем, что ЦАи- /IIв при достаточно больших п равномерно по и ограниче- 175
на. Приведенные рассуждения достаточны для обоснования (10). Из (9) следует также, что lim sup || Lu -g || g < »L- (13) // - oo, 6, f - о u e Рассматривая неравенства (10) и (13), видим, что метод, опре- деляемый (8), является регулярным и, следовательно, сходится (теорема 31). Теорема доказана. Замечание. Как непосредственно следует из (11), справед- ливо соотношение lim sup || Аи -f || в = 0, п -* 00, Ь, е -* 0 и € UQ хотя приближения к f задавались в пространстве F, причем в диск- ретной форме. Замечание. Условие согласования требует, чтобы lim ги || $ || в = °- Н -* 00, б О Подпредельная величина стремится к нулю при и фиксирован- ном f Поэтому можно рекомендовать брать достаточно большое число функционалов л. Однако это может привести к соответст- вующим вычислительным трудностям. Чтобы избежать нежелатель- ных последствий, необходимо слегка сгладить элемент f таким об- разом, чтобы элемент £, малый лишь по норме F, был ограничен достаточно разумной величиной по норме пространства В. Для этой цели можно использовать различные процедуры. В частности, алго- ритмы сглаживания, рассмотренные ранее, позволяют добиться та- кого положения, когда ||/сгл - f\\B 0 при 6 -> 0. Тогда следует заменить элемент f на /сгл. Конечно, все это существенно услож- няет процедуру решения задачи, но ожидаемый вычислительный эф- фект может окупить дополнительные затраты. Изучим вопрос о нахождении приближенных решений методом регуляризации. В связи с этим определим параметрический функ- ционал 'К [к; Г] = Рп (и) + а II Lu - g IIG , и е D, где а > 0 - параметр регуляризации. Нетрудно показать, следуя схеме доказательства теоремы 81, что при любом а > 0 существует и единственно решение Е D
вариационной задачи inf Фа[и;/] = Фа[4;7], (М) и & D т.е. справедлива Теорема 84. При любом а > 0 решение задачи (14) сущест- вует и определяется однозначно. Можно показать, что функция р„(а) = P„(we) является непре- рывной, строго возрастающей. Тогда, если уравнение р„(а) = О разрешимо, то корень этого уравнения, очевидно, определяется однозначно. Теорема 85. Пу сть уравнение р„(а) = 0 имеет решение а = ад = ав > 0. Тогда элемент ив = ив является решением (8). Действительно, для любого uG. U$ имеем фа0[^; 7] < Фа [и; 7] = = р’(м)+ае II Lu-g Но +<*e \\Lu-g\\2G. Так как р„(а0) = 0 и ав > 0, то из предыдущего неравенства следует, что II LuQ - g || g < II Lu - g II в , т.е. uQ G Uq . Утверждение доказано. Следствие. Если выполнены условия теоремы 85,го в силу теоремы 83 имеет место предельное соотношение lim | ие - и | = 0. п °°, Ь -* О 5. Сформулируем условия, при которых уравнение р„(а) = 6 (15) имеет корень (*е > 0. Далее полагаем для простоты, что g = 0. Пусть и° - решение следующей задачи: и° G NL, 0<m = inf ЦЛм-Лг = \\Au°-f\\F. (16) ue nl Решение w°° задачи (16) существует и определяется однозначно. Это следует из общих рассмотрений, проведенных ранее. Аналогично предыдущему определим элементы щ G Nl такие, что М«е) = inf Рп(") = О7) и Е: nl 12. В.А. Морозов
Решение задачи (17) существует и определяется однозначно. Кроме того, справедливо соотношение lim т = т. п -► 00, 6 -* О Теорема 86. Пусть функция 0 = 0 (и, 6), кроме перечислен- ных в п. 3 свойств, удовлетворяет также условию 0(п,Ь)<т. (18) Тогда уравнение (15) имеет единственный корень ае > 0. Доказательство проводится в точности по схеме доказательства теоремы о сходимости метода р (теорема 25) . 3 а мечание. Если NL = { 0} и число функционалов / беско- нечно, то решением задачи (16) будет и% = 0, а (18) принимает вид ||/ || F > 6, т.е. фактически ошибка в задании правой части уравнения (5) должна быть достаточно малой по сравнению с за- данным приближением /. Таким образом, требование (18) в силу условия тп > Q асимптотически выполняется всегда. 6. Численные алгоритмы определения приближенных решений. Обозначим через S линейный оператор, действующий из НAL в евклидово пространство Еп в соответствии с правилом Su = (Л (Ли),/я(4и))т. и £ D. Пусть г = Su для некоторого и£ D. Пользуясь схемой доказатель- ства теоремы 81, можно показать, что существует единственный элемент ur в D такой, что \\Lur\\G = inf ||LW||g. (19) и G D: Su - г Пусть, далее, щ 6 U$ -любое решение вариационной задачи (8). Обозначим re =( /i (Auq) ,..., 1„ (Аи$))т. На основании леммы 37 и теоремы 72 построим элемент , удовлетворяющий условию (19). Тогда, очевидно, р„(мГ0) = Рп(ио), \\Lur || G < \\Luq И G = inf || Lu || G. и g uQ Следовательно, элемент u?Q является также решением задачи (8), т.е. иГе € Ue. Приведенные рассуждения доказывают справедли- вость следующей теоремы. Теорема 87. Решения вариационных задач (8) и (14) мож- но искать в форме решения интерполяционной задачи (19). 178
Для дальнейшего потребуем выполнения некоторых дополни- тельных условий. Именно, будем считать, что область определения оператора L плотна в (7, а область значений оператора L*, к нему сопряженного, совпадает со всем Я, т.е. уравнение L g = и разре- шимо (необязательно однозначно) при любом Н. Кроме того, мы считаем, что функционалы lt(Au) представлены в виде (со- гласно теореме Рисса). Г/ н 4(Лм) = (kif и)н, и в D, i - 1,..., л, где к} — некоторые элементы из Н. Определим элемент gj Е G как решение уравнения L*gi = ki. Тогда функционалы lj(A и}, очевидно, представимы в виде k(Au) = (gf, Lu)g, и е D. Используя теорему об ортогональном проектировании, отсюда по- лучаем, что элемент Lur, где йг - решение задачи (19), предста- вим как линейная комбинация элементов g j (/ = 1,..., ri). Пусть gj = 2 У/khk, ) = I, -, п, к = 1 где hk - некоторые элементы из СУ, (j, к = 1,..., и) - элемен- ты квадратной матрицы Г. Заметим, что этементы hk всегда мож- но выбрать линейно независимыми. Элемент L иг ищем в виде Lur - S Qjhj. (-0) / = i Так как ri = (gif Lur)G = S 7jk(hj> hk)G<h- j. к --- i то, определяя матрицу Грама H с элементами hkj - (hk, hj)G< получаем, что коэффициенты af- линейной комбинации (20) необ- ходимо удовлетворяют системе уравнений Г На = г, где а = (а !,... ..., ап)!. При этом \\Luj. ||£ = а1 На. Отсюда, используя теоре- му 87, получаем, что элемент ge = Lue , где ив G UQ - множеству решений задачи (8) , также представим в виде, аналогичном (20): п go = Luo = s a} hj , 7 = 1
вектор т является решением задачи квадратичного программирования \rf{aTHa: а & Е„, || Г На-7 ||к < в }, (21) п где || г || * = S к ij r(rt дня любого вектора г € Е„, >, / = 1 (/,(7),..../,,(7))г Решение задачи (21) определяет численный алгоритм для нахож- дения go = Luo, uq Uo \ при этом 1(Аио) = Г На. Очевидно, что значениями функционалов Ij(Auo) и элементом go - Luo искомый элемент uq определяется однозначно. Аналогичные рассуждения справедливы и применительно к отысканию решения задачи (14). Именно, можно записать g*^Lu*e= 2 i = i где вектор а01 = (а?,а*)т является решением задачи /а(а“) = inf fa(a), 1а(а)=\\ГНа-7\\2+аатНа. (22) a G Параметр ав определяется из уравнения p„(d) = || га - 7 ||к, где ra = VHaa, г“ = !,(Аи%). Решением (22) яг ляется решение системы уравнений (аН + НГгкГЙ)а = НГтк7. Если Г = Е, то вектор аа определяется из более простой системы уравнений (ак -1 + Н)аа = 7, при этом га = Г- а к '1 а01. Если система векторов { hj} линейно не- зависима, то, обозначая Ьа = На°\ имеем Й’1 + ГткГ)Ьа = Ггк7, га = ГЬа. В частности, при Н = Е, т.е. когда элементы hj взаимно ортонорми- рованье вектор а* определяется из уравнений (аЕ + ГгкГ)аа = Vtk7, при этом га = Гаа.
Замечание. Рассмотренный здесь метод численного решения задач (8) и (14) близок к методу, предложенному в [95] для опре- деления обобщенных (регуляризованных) сплайнов, однако не тре- бует знания базиса подпространства, натянутого на элементы{gj}. Если такой базис известен, то нетрудно модифицировать изло- женную схему решения. Именно, пусть {к = 1, ..., р), р < п* — базис упомянутого подпространства. Тогда, очевидно, имеет место представление п Рк = 2 bjkgj, к = \..........р. i = 1 (23) Обозначим через В прямоугольную матрицу с элементами bjk (J = 1,..., п, = 1,. . . ,р). Легко видеть, что в рассматриваемом случае элемент Lur, — решение задачи (19), однозначно пред- ставим в виде линейной комбинации р Lur = S sk<pk. (24) к = 1 Умножая обе части (24) скалярно на , получаем р 2 SkiiPkiftiG = (^ь Ьиг)с, (25) к = 1 В силу (23) п п (<#, Lur)G = S bji(gh Lur)e = 2 bjirj. (26) / = i / = i Обозначим С = {(<pk, <Pi )g)> 5 = Oi , •••, sn)T- Очевидно, С поло- жительно определена как матрица Грама линейно независимой системы векторов. Из (25) и (26) получаем систему уравнений для s в матричной форме: Cs = Втг. Обозначая, как и выше, ra = (Ii(Auq), ..., 1п(Аи% ))г, для решения Uq задачи (14) получаем i sak*k, к = 1
где вектор sa = (s“,s“ )т связан с га соотношением Csa=BTra. (27) Как легко проверить, llbwgf II2g = (Csa, sa)p=(BC-'BTra,ra)n, где индекс p или n показывает, что берутся евклидовы нормы в пространствах Ер или Еп соответственно. Используя приведенные соотношения и утверждение о связи ре- шений задач (14) и (19), для определения вектора га получаем задачу _ _ ra = arg min (||г-7 ||2 +а(ВС~' Втг, г)п). Г решение которой удовлетворяет следующей системе линейных уравнений: (аВС~1Вт + к)га = к 7. (28) Отсюда и из (27) получаем систему для вектора sa: (аВгк-'В + C)sa = В7 7. (29) Так как уравнение (28) содержит С-1 (С на практике часто бы- вает ленточной, а к - диагональной), то предпочтительней опреде- лить вектор sa из системы (29), а затем определить вектор га, исходя из соотношения га - 7 - а к~1 Bsa. Уравнение для определения параметра ав из условия (15) можно записать в одной из следующих форм: р2(а) = || - 7||2 = в\ (30) р2(<х) = а2 ||5? ||,2, = О2. (31) Последнее уравнение для определения параметра ав особенно предпочтительно, если нас интересует лишь приближенное значение оператора L на решении и уравнения Аи~ f. Заметим, что функция р/?(а) является монотонно возрастаю- щей функцией. Для применения ускоренных способов типа метода Ньютона для решения уравнения (31) (или (30)) полезно перейти к новой переменной X = 1 /а , так как функция рп{ X ) = рп (1/Х) является выпуклой по X £ [0, оо). Более подробно этот вопрос рассматривается в § 26. 182
Отметим, что изложенная методика применима,очевидно,всегда, когда функционалы 1,(Аи) представимы в виде 7/(/1н) = = (gi, L u)g , где gj (/ = 1, ..., и) - некоторые элементы из G. В частности, это справедливо, если т li(Au) = S aijtj(uY т > п, i = 1 где tj (и) - линейные (необязательно линейно независимые) функционалы на НЛ1 . 7. Связь с теорией сплайнов. Нетрудно видеть, что при А = Е, Н = F мы приходим к задаче построения сплайнов и изучению их поведения, когда заданы точные или приближенные значения функ- ционалов от восстанавливаемого элемента. Важно отметить, что все результаты общей теории, изложенной в данном параграфе, сохраняют силу, если вместо функциона- лов li'1^ рассматривать линейные операторы (z = 1, ..., zz), действующие из В в гильбертовы (или нормированные) простран- ства Значения операторов l"(f) (7 = 1,..., zz) можно рас- сматривать как ’’следы” элемента f в пространствах F^1^. Если к тому же А = Е, Н = F, то получаем теорию так назы- ваемых операторных сплайнов, введенных в [105]. Заметим, что в этой работе рассматриваются лишь вопросы существования и единственности интерполяционных и сглаживающих (обобщен- ных) операторных сплайнов без рассмотрения их аппроксимацион- ных свойств.
ГЛАВА 5 РЕГУЛЯРНЫЕ МЕТОДЫ ДЛЯ СПЕЦИАЛЬНЫХ СЛУЧАЕВ ОСНОВНОЙ ЗАДАЧИ. АЛГОРИТМЫ ВЫБОРА ПАРАМЕТРА РЕГУЛЯРИЗАЦИИ § 24. Псевдорешения 1. Рассмотрим специальный случай основной задачи, когда мно- жество D совпадает с Я. оператор L является тождественным, элемент g =0. Для простоты изложения оператор А естест- венно считать ограниченным. Тогда решение и основной задачи, очевидно, является элементом с минимальной нормой, доставляю- щим минимальное значение невязке ||Л и - f ||/?, wG Я. В случае, если ЦАи - /II/;' =0. элемент и называется нормальным реше- нием [89] уравнения Аи = / (1) В общем случае элемент Uf, решение основной задачи при рассмат- риваемых условиях, назовем (нормальным) псевдорешением. Очевидно, если / принадлежит QA - области значений оператора А , то псевдорешение иу существует и определено однозначно (теоре- ма 1). Следовательно, на некотором непустом множестве Q D QA определен псевдообратный оператор А*: А+f - иу. Заметим, что если оператор А имеет обратный Л-1, то С DA+ и Л*/ = - Л-1 / V/€ D,, т.е. оператор Л+ является расширением опера- тора Л”1. Однако существование оператора Л+ не является доста- точным условием существования оператора Л-1. Действительно, как показывают примеры систем линейных алгебраических уравне- ний, Л+ существует и определен на всем Я, даже если оператор Л необратим, т.е. система уравнений (1) несовместна или имеет неединственное решение. 2. Далее нас будут интересовать вопросы, связанные с существо- ванием и устойчивостью нормальных псевдорешений уравнения (1). Легко видеть, что в случае, когда Я и F - конечномерные прост- ранства, задача отыскания псевдорешений разрешима при любом / G F. Обобщением этого факта на более широкий класс задач является Теорема 88. Для того чтобы при любом f G F существова- ло псевдорешение иу, т.е. DA+ = F, необходимо и достаточно, чтобы оператор А был нормально разрешим. 184
Напомним, что оператор А называется нормально разрешимым, если область его значений QA является (замкнутым) подпростран- ством: Qa = Qa . Доказательство. Достаточность. Пусть А — нор- мально разрешимый оператор. Положим NA = {и: Аи- 0}. Оче- видно, Na - замкнутое подпространство. Если НА — ортогональ- ное дополнение к NA , то задача отыскания псевдорешений эквива- лента задаче IMwz-/||F = min ||Ли-/||р. (2) Обозначим через Р оператор проецирования F на QA. Тогда зада- ча (2) эквивалентна задаче А и = Pf, HAi которая, очевидно, имеет решение Uf = A~xPf при любом /G F, где А - оператор, отображающий НА на QA и совпадающий на НА с оператором А. Итак, uf = A-'Pf = A+f \ff€F, (3) т.е. DA+ =F; достаточность условия теоремы доказана. Необходимость. Пусть = F. Тогда оператор Р = АА+ задан на всем F. Покажем, что Р — оператор проецирования. Как хорошо известно, для этого достаточно доказать выполнение сле- дующих условий: а) Р * = Р (самосопряженность) ; б) Р2 =Р (идемпотентность). Для любых f и g из F имеем (f-Pf.Pg)F = (f~ AA+f, AA*g)? = = (Л*(/-ЛЛ7), A+g)H = о, так как, очевидно, A*(f - Auf) = 0. Следовательно, (Pg, f)? = = (Pg, Pf)?. Отсюда следует, что (/, Pg)F = (Р/, g)F, т.е. вы- полнено а), а также (/, Pf)? =>(Pf, Pf)? = (/, P2f) V/, откуда следует б). Итак, Р - оператор проецирования. Пусть G — подпространство, на которое Р проецирует F. Покажем, что QA = G. Пусть g € G. Тогда g = Pg = A A+g G QA, т.е. G C QA . Далее заметим, что спра- ведливо операторное равенство АА*А = А, из которого следует РАи = А А* А и = Аи ё G при любом и& Н. Отсюда следует, что Qa С (7, а поэтому QA = G является подпространством. Утвержде- ние, а вместе с ним и теорема, доказаны.
Полученный результат можно также сформулировать следую- щим образом: задача отыскания псевдорешений тогда и только тогда поставлена корректно по Адамару, если оператор А нормаль- но разрешим. В этом случае из (3) следует IIЛ+II = II< IIЛ-1 II. (4) Пример. Пусть Н = F и уравнение (1) имеет вид А и = и - X Aqu = где X — числовой параметр, Ло - линейный вполне непрерывный оператор, действующий из Н в Н, Тогда необходимое и достаточ- ное условие разрешимости этого уравнения при данном f прини- мает вид (Z = °. i = 1............s. где со,- € Н: gj, - X Ло со, = 0 суть линейно независимые собствен- ные элементы оператора Лс*, соответствующие характеристическо- му значению X . Так как оператор Ло также вполне непрерывен, то их может быть только конечное число 5. Очевидно, множество всех f: (f, cof)w = 0 (z = 1,..., s) образует подпространство в Н и, следовательно, оператор Л = £ - X Ло нормально разрешим при любом X. Если уравнение со — X Ло со = О имеет лишь тривиаль- ное решение со = 0, то в силу теорем Фредгольма уравнение и - \А^и - f имеет единственное решение при любом Рассмотренная задача относится к так называемому классу задач на спектре. 3. Вычисление псевдорешений на основе данного выше определе- ния затруднительно. Весьма эффективный способ получения псевдо- решений доставляет метод регуляризации. Пусть иа - решение вариационной задачи иа = arg min Фа [ и ], Фа [ и ] = и Н = Ф„[м;Л,/] = || Аи - /Нг + а || и II/2/, (5) где а > 0 — параметр. Тогда иа = Raf, Ra = (аЕ + А*А)~1А*. Лемма 43. Если оператор А нормально разрешим, то а) 1|/?а II < ||Л+||, а > 0; б) ||Яа - /Г || < а || Л'1 ||3 - 0. а - 0.
Доказательство. Для любого иЕ Н имеем <Мыа ] < <М и ] Полагая здесь и = и у и используя основное свойство псевдореше- ния, получаем \\Аиа - /||р + а || йа ||^ < < Ми^/Иг+аНи/Нн < 1М«а-/IIf +<* Ни/Нн, т.е. \\иа \\ Н ~ W f \\ ff < \\Uf\\H=\\A+f\\H V f £ H, откуда следует утверждение а) леммы. Далее заметим, что (5) эквивалентна задаче отыскания иа = arg min (\]Au-Pf\\p + a ||u Ни), ue/Уд и, следовательно, иа = = Raf. Используя (3), имеем ||Яа - Л+II < а||(а£+л‘л)-1л-* || < аНЛ’1 ||3, и соотношение б) доказано. Лемма 44. Если оператор А нормально разрешим, то при любом ио € Нд уравнения А */о = и0 , А *Л Vo ио (6) разрешимы (быть может, неоднозначно). Действительно, если непрерывный оператор А нормально разре- шим, то область значений сопряженного оператора совпадает с НЛ - Отсюда следует разрешимость обоих уравнений (6). Теорема 89. Пусть А - нормально разрешимый оператор, f - заданный элемент из F такой, что ||/ - f ||F < 6, и иа= Raf есть решение задачи (5), когда f - f. Тогда при любом а > 0 для уклонения || иа - иj• || /у справедли- вы следующие оценки: а) II - Uf 11/7 < а II А-3 || ||/||F + 5 || А + ||; б) II иа -uf Цу/ < ||/о Hf + & IM+||: (7) в) || иа - UfWii < а II и0 11/7 + 6 IIА ' II
где fo € F и - нормальные решения соответственно пер- вого и второго уравнений (6) при правой части uQ = и j. Доказательство. Имеем, используя оценку б) леммы 43, II Ua ~ Uf^H II Ua ~ Uf 11/7 + II Uf ~ Uf^H < а||Л-1 ||3 H/llf + 5 || Л* ||. Это доказывает справедливость оценки (7), а). Далее можно записать WUa-UfWu < II// + II - Uf II// < 5||Л+Н + Ни* - иг\\н (в силу неравенства а) леммы 43). Оценки II Ua ~Uf\\H< Va ||/о IIF, II Ua - Uf\\u <a ||и0 IIн получаются совершенно так же, как и аналогичные им оценки в § 3. Теорема доказана. Из оценок (7) следует, что при определенном (а = 6) выборе значения параметра регуляризации уклонение полученного при- ближения от искомого псевдорешения будет такого же порядка, что и погрешность в задании элемента /. Представляет интерес Теорема 90. Пусть выполнены условия предыдущей теоре- мы w, кроме того, пусть Uf - нормальное решение уравнения (1). Тогда, если параметр а определен как решение уравнения \\Аиа - 7\\f = 6, (8) то имеет место оценка II Ua - Uf Ни < 2 6 II А-' ||. Существование решения уравнения (8) следует из общих свойств невязки на регуляризованных решениях, установленных ранее. Далее имеем 11иа-и/И// < IM’1 IIIIА иа - A Uf ||F < <||Л-’ ||(IMua-P7||F + ||P7- P/||f) < < 2 || Л_| || 6,.
так как || Р || < 1 и \\Aua-Pf ||F = ( || Л -/ Hf - || Pf |||),/2 < < || A ua - 7|If = 5- Приведенные рассуждения доказывают справедливость теоремы. 4. Переходим к изучению влияния погрешностей в задании опе- ратора Л на приближения, получаемые методом регуляризации. Именно, пусть вместо А имеется непрерывный оператор Ah, опре- деленный на Н9 со значениями в F и такой, что IIЛ - Ah || < h. Пусть и & - решение вариационной задачи = arg min Фа [ и; Ah, f ]. (9) и е н Тогда имеем (аЕ + A*hAh)( и * - иа) = = -Л*)( f - А иа} + А*,(А -Ац)иа , а поэтому II U^-UaWH^hCi II f-AuQ \\F + hC2 || иа Нн, где =||(а£ + л;лл)-1 ||, C2 =||(а£+л;лА)"1Л; ||. Используя неравенство Коши—Буняковского, получаем (с2 \12 + V/ Х/2[«г;Л,7]. Вместе с оценками С\ < 1/а, С2 < 1/(2 у/~& ) это дает ~ ~ 1/2 1|Иа-«а Нн < ------Фа [И/.Л, /]• (Ю) 2а Из оценок (7) и (10) следует, что справедлива Теорема 91. Если оператор А нормально разрешим, то Ит || - Uf\\H = 0, h /а, 5 , h, а -* 0
т.е. для получения устойчивых приближений методом регуляриза- ции (9) достаточно согласовать параметр регуляризации а только с погрешностью h в задании оператора. Замечание. Если элемент Uf является нормальным реше- нием уравнения (1), то, очевидно, Фа[М/;Л,7] < 52 + а || ыу ||?/, и оценка (10) существенно улучшается: hy/T _ II И а ~ иа II И < —-(6 + \Га II Uf II н ). 2а Далее установим возможный порядок точности получаемых ме- тодом регуляризации приближений к нормальному решению зада- чи (1). С этой целью оценим уклонение || и & - иа Ц/у. Имеем (аЕ + Л*2Л/,)(- иа) = = 4(/-7) + (Л* -Ah)(f-Aua)+Al(A -Ah)ua. Следовательно, II «а - Ua \\н<ЬСг Wf\\F+hCi \\f-Aua Wp+hCi II иа ||н< 5 hy/5 ,.2 < —— + -------- Фа 2л/а 2а Замечая, что Фа[иа;А, /] < а Пи/Нн в случае, если Uf- нормальное решение уравнения (1), имеем ~ „ 5 h\J~5 II U а - «а II Н < -77Г + -7^ И Uf || // , 2 V а 2 у а и, следовательно, II и а ~ uf II Н II Ua ~ Uf II Н + ~~~ II / II F + Z2" II Uf || н. 2 у а 2 уа (Н) Из полученной оценки и оценок (7) вытекает, что справедлива 190
Теорема 92. Если оператор А нормально разрешим и Uf яв- ляется нормальным решением уравнения (1), то / 5 +Л\Л5 ||М/||„\2'3 min || иа - Uf Ни < 31------------ I II Vo II • (12) а \ _ / Заметим, что оценки (10) и (И) справедливы и без предполо- жения о нормальной разрешимости оператора А. Оценка (12) со- храняет силу, если второе из уравнений (6) разрешимо. 5. Пусть {Ah, fb} - приближенные данные задачи (1), где линей- ный оператор Ah: Н-+ F, || Л - Ah \\^h, \\fh -f\\F<b и задача (1) заменена задачей Ahu=fb. (13) Оператор А считаем нормально разрешимым. Обозначим через Р оператор проецирования F на подпространство QA ={fGF: f=Au, и е И}. Предположим, что PAh = А л, т.е. область QAh значений операто- ра Аь содержится в QA. Лемма 45. При достаточно малом h имеем QA h = QA. Для доказательства утверждения необходимо использовать тот факт, что Qa - подпространство, и применить известную теорему Банаха о близких оператора* [131]. Следствие. При достаточно малых h оператор A h нормаль- но разрешим. Обозначим через ио псевдорешение уравнения (13), и = (6, h). Легко доказывается Лемма 46. Верна оценка ik-и, + и л,; - л*цц/цг, где Л,*, А+ - операторы, псевдообратные к А{1 и А соответственно , т. е. lim || ио - UfWfj = 0, I О |- О где I al = (h2 + 52)1'2. Рассмотрим задачу минимизации функционала Ф2{и] = «М«;Л,„г6] = = ЦЛйМ -л 111 + а Нм II,2/, иен, (14)
где а > 0 - параметр регуляризации, и пусть и & - решение этой за- дачи. Тогда < Ф£[м] е Я Полагая здесь и = иа, имеем MX-А Ня+® II «а Ня < II Ahuo -fb ||£ + а II ио \\2Н. Пусть /’ = fb + /5, fb = Р/б, /6 1 Используя равенство Пифагора, получаем , "Л,' Ня +<*Н«а Нн + НЛ" Ня< < <* II «о Ня +114 Ня, так как ЦАциа - Д' Ня = 0. Следовательно, II II я II ио II я при любом а > 0. Кроме того, \\Ahu° -fi\\F < а( II иа Ни-II и° Ня) < < 2а || иа Ня II иа - и° || я- Обозначая z = и°а- получаем НЛ.гЦя < 2а II и„ Ня II2 Ня , II z Ня < II А/, || II A„z Ня < || Л Л || (2 а || ио Ня II г Ня)*'2- Следовательно, II Z Ня < 11«2-«а11я < 2а IIЛЛ II2 II «Ля. Из полученного соотношения и леммы 46 следует Теорема 93. Пусть а, | о| —>0. Тогда и°-+ир При этом \\и°а - Uf\\H < < 5 IIЛЛ II + IIЛЛ - л+ II н/11я + 2«нл; II2 II «а Ня- Таким образом, при достаточно малых а мы имеем Н«а - UfWp^dWA^W^WA^-A^W II/Hf- Отметим, что так как а, |а| -> 0 независимо, то в рассматри- ваемой ситуации не возникает проблемы выбора параметра регу- ляризации. 192
Далее, пусть при приближенной реализации указанного способа решения задачи в оператор Ah и правую часть Д вносятся допол- нительные ошибки, так что Ah = Afl + 8 A/1f f5 = + 6 и || 6 Ah || < т, || 6|| < т. Предполагается, что т < | о |. Пусть и° - точное решение задачи минимизации функционала фа[и] = Фа[«; Ah, Л ], и е Н. Выбирая а = т2/3 и используя оценку (12), получаем || ио\\н < < Сот2/3, где Со равномерно по о ограничено. Таким образом, если при приближенном решении задачи (14) положить а - т2/3,то II иа ~ uf II Н II - Uf\\n + СОТ2/3 , и так как т < | а|, то погрешность реально вычисленного решения II W о - Uf II н II Uo - Uf II н Пусть (1) - система линейных алгебраических уравнений с мат- рицей порядка п и вычисления ведутся на машине с плавающей запятой. Если t — количество разрядов в двоичном представлении мантиссы, то, используя алгоритм, описанный в [8], получаем т = О (2*') и следует потребовать т h. Выбор значения парамет- ра а = 2-2^3 обеспечивает, как правило, численную устойчивость метода. 6. Изложенная выше методика может быть применена для чис- ленного решения линейных интегральных уравнений I рода с вы- рожденным ядром, а также для некоторых классов дифферен- циальных уравнений с неединственным решением, например для задачи Неймана. Вычислительный эксперимент *) по решению ряда вырожден- ных систем линейных алгебраических уравнений с использованием стандартных программ НИВЦ МГУ показал, что регулярные реше- ния ’’стабилизируются” при значениях а = 2“2Г/3 10-7,в то вре- мя как при а = 0 происходит аварийный останов по переполнению или получается совершенно неприемлемый численный результат. Эффект стабилизации наблюдался также при решении вырожден- ных систем методами итерационного типа (например, гра- диентным) . *) Расчеты были выполнены М. В.Арефьевой, С.Ф.Гилязовым, Н.Н.Кир- сановой, А.Ф. Сысоевым. 13. В.А. Морозов 193
7. Рассмотрим отыскание псевдорешений задачи (1) при допол- нительном предположении: Н = F, А* = Л, А неотрицательно определен. Нормальная разрешимость оператора А не предполагает- ся, требуется лишь, чтобы псевдорешение и/ задачи (1) сущест- вовало. Пусть иа — решение (очевидно,единственное) уравнения (аЕ + A)va = f, а > О, определяющего алгоритм упрощенной регуляризации. Легко пока- зать, что в случае Auf Ф J\ т.е. рд > 0, решения этого уравнения не сходятся при а ->0 к псевдорешению Uf. Положим поэтому иа = va + а-----, da dva где —— - производная элемента va как функции параметра а. da Нетрудно видеть, что иа = (аЕ + A)~2Af = (аЕ + Л )~lA va , т.е. иа является решением регуляризованного специальным обра- зом уравнения (аЕ +А)2иа Af. (15) Так как в данном случае псевдорешение и? удовлетворяет в обыч- ном смысле уравнению А2иj• = Ато иа = (аЕ + А) ~2Аги? и Uf - иа -а(аЕ + 2А)(аЕ + Л)'2ир (16) Теорема 94. Справедливо предельное соотношение lim || и; - иа ||// = О, а -► О т.е. предложенный метод является регуляризирующим. Доказательство. Пусть Е\ , 0 < X < М < +оо 5 - некото- рое спектральное разложение единицы, порожденное опера- тором А. м А и = J XdE\u. ( *) о Тогда справедливо представление м а + 2 X (аЕ + 2А)(аЕ + А}~2и - f-------г dExu, О (а + М2
и, следовательно, , , м (а+2Х)* 2 * II Uf- иа Ни = a f ---—7 (dEKuf, uf). 0 (а+Х) Очевидно, что выполняются оценки (а + 2Х)2 4 4 (а + Х)4 (а + X)2 X2 Разбивая интеграл на два в пределах от 0 до € Е (О, Л/) и от € до М, получаем 2 € а2 2 II uf - иа || н < 4 J (dEKuf, Uf) + 4 — || uf\\ н. о е Полагая здесь а = е3/2 убеждаемся в справедливости требуемо- го соотношения. Теорема доказана. Далее предположим, что существует элемент vE Н: Av = Uf (это заведомо имеет место, как показано ранее, если оператор А нормально разрешим). Тогда (16) принимает вид: Uf - иа = а(аЕ + 2А)(аЕ? + A)~2Av. Снова используя разложение (*) Л, получаем , ,и(а + 2Х)2Х2 II uf - иа || // < а J ———----(dEKi , и). о (а+А) Так как верны неравенства (а + 2Х)2Х2 (а + 2Х)2 -----------4, (а + Х)4 (а+Х)2 то справедлива оценка скорости сходимости: II Uf - II // < 2 а II V II//. Если оператор А и элемент f возмущены, т.е. заданы линейный (необязательно самосопряженный) оператор А: II А — A |j < h и элемент /: || / - f || < 6, то приближение к псевдорешению ut можно определить, решая уравнение (aE + Ah}va = f (17) 13* 195
с оператором Ан = -^ ( Л * + А ) и полагая dva иа = иа + а —— . (18) аа Здесь оператор Ah уже самосопряжен и удовлетворяет оценке IIЛ - Л й || < h. Уравнение (17) всегда однозначно разрешимо при а > h. Используя неравенство треугольника, имеем II - Uf II н < II - иа II н + II иа - Uf II и. Легко показать, что существует а = а(6, h) > 0 такое, что lim || йа - иа Ни = 0. 6, л - о Тогда II Ua - Uf\\H 0, I а I о. Изложенный метод (17), (18) решения несовместных уравнений имеет определенные преимущества, так как не требует явного при- менения трансформации Л*Л, нарушающей, как это часто бывает, определенную структуру оператора Л (например, ленточность мат- рицы Л), что обычно затрудняет применение метода регуляризации в ’’чистом” виде и повышает число обусловленности, т.е. неустой- чивость рассматриваемой задачи. Заметим, что вместо (18) удобно пользоваться приближенной формулой. Пусть а и та - два соседних значения параметра, т 1. Тогда имеем V& ^TOt ^TOt U ~ у & + а ~ — V л 4" а а-та 1 - т Применение этой формулы существенно облегчает определение требуемых приближений иа к псевдорешению Uf и не требует вто- ричного решения операторного уравнения (аЕ + A/j)ua =7а. Изложенный метод безусловно применим к случаю, когда Л - симметричная неотрицательно определенная матрица. Допускается вырожденность Л. Такими свойствами обладает матрица разност- ной системы уравнений для численного решения задачи Неймана, некоторых задач теории упругости. Как было отмечено, при Auf Ф f элементы иа не сходятся к Uf при а -* 0. Если же Л Uf = /, то имеет место предельное соотношение lim || va - W/||/y = 0, (19) а — О
т.е. алгоритм упрощенной регуляризации сходится. Это легко дока- зать на основе спектрального разложения оператора А. Пусть А = Е - Ло, где Ло = А$ и ИЛ0 IK 1. Тогда, очевидно, условие Л > О выполнено заведомо. Потребуем, чтобы оператор Л 0 действовал непрерывно в некоторое банахово пространство В, вложенное в Я, т.е. II Лом ||в < II Ло II || и Ни, иен. Если Uf е В, то вместо (19) имеет место более сильное соот- ношение lim || uf - va || в = 0. (20) а 0 Докажем это. Легко видеть, что 1 va - Uf = -----(Л0(иа - Uf) + auf). 1 +а Но тогда II Va ~ Uf\\B < 1 1 + а - Uf IIн + а II Uf II в) о, а->0, что и требовалось доказать. Заметим, что наложенные условия выполняются заведомо, если, например, Ло ~ интегральный оператор с ядром, достаточно глад- ким по свободной переменной. Если элемент f задан приближенно, так что II /’- / II в <$о,то, очевидно, в силу вложенности В в Н \\f-f\\H < 7 \\f-f\\B < 760 = 5, поэтому,если va\ (аЕ + Л)иа= то II Va ~~ V(% || н q • С другой стороны, 1 _ va - va = -------(Ло( va -va) + f- f), 1 + a поэтому 1 II Va - va IIb < ;---- 1 + a Mo II+ So
Из неравенства треугольника вытекает, что 5о II Va - Uf Ив О, а + — 0. Если же А = Е - Ао и оператор А не удовлетворяет условию само- . сопряженности: А Ф А , то аналогичные результаты имеют место, если оператор Ло* действует непрерывно в В. При этом в качестве приближений к Uf следует брать решения иа задачи (5). § 25. Оптимальная регуляризация 1. Пусть А - линейный вполне непрерывный оператор, действую- щий из Н в /', где Н и F - пространства Гильберта. Рассматривается задача минимизации функционала невязки \\Au-f\\F, иЕН, (1) где f - некоторый элемент из F. Предполагается, что (единствен- ное) нормальное псевдо решение Uf задачи (1) существует. Пусть в Н задан класс {Т} неотрицательно определенных само- сопряженных операторов Т таких, что || Ли ||| + (Ти,и)н > к2 || w||//, ueDT, (2) где к ~ к {А, Т) > 0 - постоянная, не зависящая от выбора и. Определим функционал = \\ Аи -g ||f + (Ти, и)н, и G Di, Yfig g G F — произвольный элемент. Легко видеть, что элемент uF Е DT , минимизирующий Фг [м; g ], удовлетворяет уравнению (Т + А*А)иг - Л *g. (3) В силу (2) уравнение (3) имеет единственное решение ит = RTg, RT = (Т + А*Ау-[А * Пусть элемент f задан приближенно: f = f + £, где £ - некото- рый ’’малый” в определяемом ниже смысле случайный процесс со значениями в F, для которого выполнено условие = 0, где М - оператор математического ожидания. Пусть иг = Rr f', положим e2/ (ur, П = М II/?rf- uj III Пусть { Uf} и {£ } - классы ’’допустимых” решений (1) и возмуще- 198
ний соответственно. Определим меру погрешности e i ?}) = sup ет(и, £). и е {uj} £е {О Далее рассматриваются следующие задачи. Задача I. Построить оператор ropt Е { Т}, определяемый из условия €TODt({^bm)=infer(Uf},{?}). (4) р т Если решение этой задачи существует,то элемент м0 = ^roptf назы- вается ({Г}, { и<}, {оптимальным (приближенным) решением задачи (1). Величина copt ( •, ) ^ e/’opt ( ’ ,') называется в этом случае погрешностью ({Т}, {w/1. {£} )-оптимального решения. В случае, когда { Т} = {Т: Т = аЕ } (а > 0 ~ параметр), зада- ча (4) сводится к определению оптимального значения aopt пара- метра регуляризации. Задача 11. Дать оценки погрешности оптимальных в смысле (4) решений задачи (1). Задача III. Указать возможные эффективные реализации оптимальных приближений (построение квазиоптимальных при- ближений ). 2: Пусть {<?,} (/ = 1, 2, ...) - ортонормированная система собственных элементов оператора А* А , соответствующих собствен- ным значениям Xz: А*Ае, = z (/ - 1,2, ...), 0 < Х,-+1 <Х,-. Согласно теореме Гильберта всякий элемент и Е Н можно предста- вить в виде и - и + и", А А и = О, ОО и'±и*\ и" - S UiCj, -• (и, е^л (5) / = 1 Заметим, что условие А Аи = 0 эквивалентно условию А и = 0. Полагая со/ = Ле i I у/Xj, замечаем, что А *А oji = y/XjUJi, (cjz, о?/)// = 5Z/ . где 6Z/ - символ Кронекера: = 0, z ¥=/, 6zz = 1. Из предыду- щего вытекает Лемма 47. Всякий элемент g Е F представим в виде ОО A*g' = o. g"= S gi^i, gi = (g, (6) i = 1
Из (5) и (6) следует Лемма 48. Если и? - псевдорешение (1) , то Ue = S wzez, щ = — = 1 7Х fi = (f i = 1,2,... G) Далее всюду будем считать, что класс {Т} = {Т: Те j = azez, а, >0}. Лемма 49. Справедливо представление 00 / X/ \ fi и? - R? f - S I I " Ci у z = i \az + Xz / VXZ (8) где fi = (f,b>i>F, fi=fi+ti, ti = tt^F, M$r=0. Заметим, что az + X z > к1 > 0 в силу (2) . Рассмотрим случай, когда возмущение £ принадлежит классу {£}* = {£: sup а2 < а2 } , где а — некоторая заданная положитель- i ная величина, причем о2 > sup а2, а2 = Л/£2. Таким образом, £ i может быть обобщенным случайным процессом. Лемма 50. Для любых ТЕ {Г}, £G{£}a /=1 Х?<7? + 0!?/7 Х,-(а, + X,)2 (9) 3. Займемся построением оптимальных приближений. Вначале рассмотрим задачу I при фиксированных Uf и £, т.е. построим ({Г}, и?, %)-оптимальные приближения. Минимизируя (9) по az, получаем 4PI(wpO= s /= 1 (Ю) при Qz = a?pt =Xiol<fJ(i = 1, 2,...). Следовательно, ((T},wy,f)- оптимальное приближение имеет вид - у I fi \ fi wopt I 2. /2 / ei ’ /--1 \ О/+// / V Xz (П)
Введем обозначение eopt(«/.{|}a)= sup eopt(uM)- «ада Теорема 95. Справедливо соотношение Hm eopt(u/,{|}A) = 0. a-»0 Доказательство. Имеем eopt(M/>{!}„) “ /=1 O2W2 a2 +X/U2 S и]. i~N+\ oo Так как S i=N+l и] -*0, то можно выбрать такое 7V=7V(a), что Alim 7V(a) = +°°, <y->0 N A, Jim — a2 = 0. a-> 0 Теорема доказана. Будем рассматривать решение задачи I при фиксированном и? и возмущении £ 6 { £ } j,T.e. будем строить ({Г},«/,{?}^-оптималь- ные приближения. Легко видеть, что е>„ (»;)- £ <— 1 X?a2 + а?/? Xz(az + X,)2 Минимизируя еу(му, {£ } ст ) по at , получим I— 1 ±2L_ Х/(а2 +/? ) при af = а,°₽‘ =Xza2//,2(i = 1,2,...). Тогда ({Т}, И/,Ш5)-опти- мальное приближение определяется по формуле Легко видеть, что eopt(uf,{^}$) = eOpt («/,{?}5), и> следователь- но, как доказано выше, lim eopt } -) =0. о^о ° , Далее предположим, что псевдорешение Uf принадлежит классу {uf}c={u: где бесконечномерный вектор с= (сх,с2^.д * таков, что ряд S с2 сходится. i = 1
Тогда ({Г}, ^-оптимальное приближение определяет- ся по формуле оо wopt “ /=1 _w_ о2 + \с2 а погрешность этого приближения - по формуле 6opt({w/}c, ) 2 /= 1 о2 + \с2 и стремится к нулю при а->0. Пусть система {ef} конечномерна (размерности 7V). Отнесем к классу {uf}N все псевдорешения, для которых и2 <С2 (z = 1,... . где постоянная С априорно задана. Тогда ({T},{i0w, {$}а)-оптимальное решение задачи (1) является решением регу- ляризованного уравнения (а£+Л*Л)м=Л* f при а = aopt = о2/С2. При этом /V о2 С2 eopt({w/)7V, = ~ ~ , ° о2 + \С2 Доказательства этих утверждений достаточно просты и поэтому не приводятся. 4. Оценим точность оптимальных приближений. Обозначим △2({«/}, (ПР , sup e’pt(M), ые{ы/}, fe{Q где класс {£) С { $ } - . Аналогично определим величину = sup eoptCMOj)- «е {“У) Теорема 96. Пусть {uf} = {ufiPK = ( 00 I U; \ 2р/(2к+1) ) = Uf : S (-M <R2P/(2K+l) I <=1 \ XK / U}=tt}qa = = { J e { £ } A. 2 q4kq/(2k+1) ^q4kcz/(2k+!) } где к>0,р>1,<7>1- некоторые постоянные, причем — + — - 1. р я
Тогда справедливо неравенство △({«/}₽ , Ш’ )<Ска2к/(2к+1>Я1/<2к+1\ (13) гдеС« = ---- (2к)2к^2к + 1^. Оценка (13) неулучшаема. 2 к +1 Доказательство.Согласно (9) 2 Z /£ч_ у О/^2Х2/К eopt(U/>?) 2 2ч2к+1 ’ '-1 1 где g2 = u2/X2 к . Рассмотрим функцию о2g2Л2к <Х^) ~ , X > с числовыми параметрами о2>0, g2>0. Легко показать, что max ^(Х) = ip(Xmax) = Сх а 4к^2к+1)g2/(2K+1 \ х>о где Xmax = (2KO2/g2) 1/<2к +1>. Следовательно, eSpt(uZ,?)<C2 £ a^/(2«+l)g/2/(2K + I) Применяя неравенство Гёльдера, получаем ОО 00 ^pt(«r,O<C2[ S о ,4К(?/(2 **')]’/</[ S g2p/(2x+l)j>/p Отсюда следует (13). Пусть Uf = Ujei, где щ = \“R2, таково, что 7И£2=а2 = ^-—Х^к + 1/?2/(2к +1\ Л тко проверить, что и^Е E{uf}pK, .причем eoPt(^e) = ^o2K/<2^,^,/(2K+1\ т.е. оценка (13) неулучшаема. Теорема доказана. Замечание. Пусть р- 1, q = °°. Тогда {£}~ = {£} j , и, следо- вательно, &({uf}xK, {HS)<Q о2^^^0/?1^2^0. (14) 2к + 1 Пусть р = 2 к + 1, q =---; обозначим 2к {ttf} k"{Uf}p ={uf: S (w2/X/)2 </?2) , i~ 1 =wo ={i .£ o2< c2}.
Тогда из (13) следует оценка △({МК>НЬ )<СК 0^2k+V)RM(2K*V) (J5) Укажем достаточные признаки принадлежности псевдорешения (1) классу {uf} к. Лемма 51. Если Uf=A*h, h G F, II h ll/г то UfE{uf}K при к = 1/2. Если Uf = (Л*Л) к w, wG Я, то Uf G {Uf}K при любом к >0. Условия леммы выполняются, например, если оператор А нор- мально разрешим (§ 24). Для доказательства следует воспользо- ваться разложениями (5) и (6) для элементов w и h соответ- ственно. Замечание. Пусть {Uf} J = {Uf. Uf = (Л*Л) K w, w G Я, II w IIн Легко видеть, что класс {uf}*K компактен в Я при любом к >0. Определим квазирешение задачи (1) как реше- ние задачи MuK-/||F= min II Аи - f llF. к Здесь считается, что возмущение % не случайно. Полагая △ «МуК ,Ш5)Н , „ Slip II ик - uf II н , где {£} J ={£ G F: II £ II/; <а}, можно показать, что △ ({«/К ,{?)П<(2о2к/?)‘/(2к+1). (16) Сравнивая (15) и (16), замечаем, что порядки оценок сов- падают, однако постоянная в (15) меньше, чем в (16), по край- ней мере для к = 1/2,1, 2. 5. Рассмотрим проблему эффективной реализации ({Г}, Uf, {£} а ) -оптимальных приближений (12). Определим элемент который будем называть ({Т}, Uf,{£}*) -квазиоптималъным при- ближением, Заметим, что для реализации (17) требуется знать лишь а, т.е. точность задания элемента f. Сформулируем некоторое допущение, которое назовем прин- ципом линеаризации. Пусть V\(o2+/r)
Будем считать, что в разложении FU,)=F(0)+F'(0) Ь + с достаточной степенью точности можно ограничиться линейными членами. Теорема 97. Пусть выполняется принцип линеаризации. Тогда м II йк opt-uf llw^9eopt(«r,{< };)• (18) 1 Следовательно, Доказательство. Имеем °2f? | If? °2 ' o2+f,2 (32+Л2)2 оо 00 а2/;2 л/II Uq oPt - «/II2/ S F2&)<9 2--------- '=* '= > Х,-(а2 +Л2) Теорема доказана. Следствие. Если Uf G { Uf } то, учитывая (14), можно получить и оценку точности квазиоптимальных приближений: М II «, opt - «/ Ня £ 9 С2 (а2кЛ)2/<2к+1 >. Пусть далее псевдорешения Uf G { Uf} к, возмущения % Е {£ } ст, а класс регуляризаторов { Т} = {7^} = {Т: Те1 = аХ]~2к^} , а > 0 — параметр. Тогда ф («рО= .2 1 a i - 1 \4к + 1 _2 хл2\2к 2 A; Oj +а Л, gj (а+Х?к+1)2 где, как и выше, gj = и2 X, 2к Х4к + 1 . Положим Х2к ^(Х)=---------------, Ф(Х) =----------------, Х>с (а + Х2к + 1)2 (а + Х2к + 1)2 Имеем шах (X) = Cfa~1 Д2к + 1\ гпах ф (X) = с,"а2'</(2/< + 1) х х где (4к + 1 )/(2к + 1) (4к + 2)2 „ / к, + 1 \ 2 / К \ 2к/(2к + 1) С "= ---------- ) ------| \ 2к + 1 / \к + 1/
В этих обозначениях <С'а2а-1/<2к + 1)+С"Я2а2к/(2к + 1) = ек2(«) ДЛЯ любых Uf 6 { Uf}K, {£}а. Поэтому inf e2 inf e2(a) = a > 0 1 a a > О = e2 (®J = Q2 (a2k7?)2/(2,; + l), I I C'\U \ 1 ^2k'1 С?=(2к + 1)1 — C" \ \ 2k / / C / о \2 / o\2 ак ~ IkC" \ R / \ R / Таким образом, inf e ({W/}K., { Ho)<CK (O2kR)1«2k + ^. a 1 a (19) (20) (21) Полученная оценка неулучшаема по порядку величин о и R. Чтобы убедиться в этом, достаточно взять Uf - UjCj, = Х2к R2, £ = М%2 = о2, a = o2R~2 и вычислить е?к (iif. £). Таким образом, справедлива Теорема 98. Погрешность ({ Т£ } , {и/} R, {£} ^-опти- мальных приближений не превосходит правой части неулучшаемой по порядку величин о и R оценки (21). Для получения квазиопти- мальных приближений в Т^-регуляризирующем алгоритме доста- точно выбрать а = ак по формуле (20). Точность этих приближе- ний совпадает по порядку величин о и R с точностью оптимальных приближений. Замечание. Вычисление ({}, {И; } R, { £ } о) -квазиопти- мальных приближений может быть затруднено в связи с необхо- димостью знания спектрального разложения оператора А*А. Пусть оператор L таков, что Le^ - Х^2Кеь ^а*а Тогда -регуля- ризация сводится к решению уравнения (&L + Л*Л)м=Д*/; которое может быть выполнено достаточно эффективно. Далее рассмотрим случай Та-регуляризации, где Та = аЕ. Легко видеть, что оо Х/О? оо U? е2т ( uf, £ ) = S ----+ a2 S -----------------—- . а i=i (a+Xz)2 i= 1 (a + \)2
Будем считать, что Uf&{Uf}K, $ € {$ } ст. Тогда Х,а? . 2 £ -+a2 S -----------------— , 2 i = 1 (а + X,)2 ета(иГ>&- 2 । = 1 (а + X,) где, как и раньше, g2 = и2/Х2к. Лемма 52. Пусть у>(Х) = Х/(а + X)2, ф(Х)= Х2к/(а + Х)2, X > 0. Тогда 1 ^>(Х)< — 4а Ф(Ь)< Ска2к~2, 0<к<1, х20<-1), (1-Ю2. к > 1, Используя эту лемму, получаем « Х,о,? а2 S ——------ < — 1= 1 (а + Хг)2 4а 2 S Wg? < i = 1 (а + X,)2 " а2кСкЛ2, a2R2, 0<к < 1, к. > 1. Эти оценки неулучшаемы. Действительно, полагая 5 = М£2= о2, а = Xf, будем иметь: оо о2 S —2-LT = — • i = i (а + X/)2 4а 1 - к Аналогично при 0 < к < 1, полагая Uf = и] = X/ R , а =--Xz, получим а2 S i = 1 >2к<г2 gj (а + Х,-)2 = а2кСкД2. Остается заметить, что при к > 1 lim а -► ( £ Wg? 2а о i = 1 (а + Xz) ?=я2. Используя полученные выше оценки, имеем ? °2 €т ({W/}R, { ?} а)< —- + О' Л ГО a2liCKR2, 0<к<1, а2/?2, к > 1.
Минимальное значение правой части этой оценки достигается при а = ак = -Х-Л"2/<2к+1\ 0<к<1, 8кСк °2 • 2/3 — R-2'3, к>1. 8 (22) Учитывая это, получаем | С2 (а4кЯ2)1/(2к+1)> 0 < к < 1, , I (23) ета ({«rh, {Оо)< 3 “к ----- а4/3Я2/3, к>1, I V64 С2 = (2к + 1)Ск1/(2к+1)/(8к)(2к+1)/(2к). Из сказанного выше вытекает справедливость следующего утверж- дения: Теорема 98. Пусть иа удовлетворяет уравнению (aE + A*A)ua=A*f и параметр а определен согласно (22). Тогда точность полученно- го приближения к решению основной задачи определяется оцен- кой (23). Замечание. Нетрудно видеть, что порядки оценок (21) и (23) при 0 < к < 1 совпадают, а при к > 1 оценка (23) по о хотя и имеет более низкий порядок, однако соответствующая постоянная не зависит от к, что существенно облегчает использование (23). Кроме того, Та-алгоритм реализуется более просто, чем Т*. 6. Приведенные результаты применимы к широкому кругу задач. В качестве примера рассмотрим решение эволюционного уравнения du ----= Lu, u(Q)=ft 0<t<T, (24) dt где L - положительно определенный самосопряженный оператор с дискретным неограниченным спектром, действующий из Н в Н. Предполагается, что задача (24) разрешима. Обозначим A t = e~tL. Тогда (24) сводится к решению парамет- рического операторного уравнения Atu=f, (25) Пусть {ez }— полная система собственных функций оператора L : Let = \eh /=1,2,..., lim Xz = +©°. 208 z °°
Тогда псевдорешение (25) имеет вид и/0= 2 exp{\r}^e,-. = i = 1 Для задачи (25) ( { Т}, -оптимальное решение имеет вид wOpt(0= 2 / = 1 Отсюда легко получить ({ Т }, и?, {£ } £) -оптимальное и соответст- венно квазиоптимал ьное решения. T-t Положим к -------. Тогда, очевидно, 2г uf{t) = {A*At)KUf{T) = A2tK uf{T), т.е. выполняются условия леммы 51. Тд -регуляризованные приближения определяются согласно формуле ма(0= 2 ехр(Х1г)(1 + а ехр(2Х,Г))-1^ е,-. i = 1 Замечая, что {«/(г)} к ={ uf. II w/T) II// <R } и используя (21), получаем оценку Mil^(r)-W/(r) \\2H<c2 Q<t<T' Как было доказано выше, порядок этой оценки неулучшаем. В заключение ’ отметим,, что проведенный анализ справедлив и в том случае, когда элемент f случаен; необходимо только потребовать, что = 0, и заменить везде f2 на Mf2. В случае, когда А = £, задача I совпадает с задачей оптимальной фильтрации случайного процесса f [2]. § 26. Численные алгоритмы выбора параметра регуляризации 1. Численное решение некорректнр поставленных задач методом регуляризации А.Н, Тихонова обычно сводится к задаче минимиза- ции квадратичной формы Фа[и] = II Аи -f 11^ +а II и 11^., а>0, (1) на пространстве векторов и = (wt,. . ., ип)т €Rn и к определению параметра регуляризации а из дополнительного условия вида Ф(иа) = еф, где ф — нелинейный функционал, определенный на решениях задачи 14. В.А. Морозов 209
(1), a -априори задаваемый уровень допустимых значений функционала цл В функционале (1) А означает прямоугольную матрицу размера т X п\С- СТ - априори задаваемая положительно определенная матрица порядка и, определяющая степень корреляции компонент векторам, Нм II£ = (Си, u)Rn,f= (Л , •. . ,fmy^Rm . Евклидову норму в Rn nRm обозначаем соответственно II • Н„, II • llm. Далее рассматриваются следующие три способа выбора парамет- ра регуляризации а: p(tt) — IIАиа f IIj?j ер у(а) = II иа Нс = еу <р(а)-р2(а) +ау2(а) = ^ (принцип невязки): (2) (принцип квазирешений); (3) (принцип сглаживающего фун кционала). (4) Величина ер характеризует задаваемый уровень невязки и опре- деляется методом невязки. Величина еу определяется методом квазирешений и связана с априорными сведениями о размере области, в которой находится искомое решение. Величина е^ прак- тически выбирается из тех же соображений, что и величина ер. В § 9 доказано, что функции р(а), у(а) и <р(а) непрерывны при а> 0, при этом р(а) и <р(а) строго монотонно возрастают, а у(а) строго монотонно убывает. Там же вычислены предельные значения для р(а) и ^(а) при а->0,+°°. Таким образом, если ер. еу, е^ принадлежат множествам значений функций р,уи у,то уравнения (2)-(4) однозначно разрешимы. Это условие мы предполагаем всегда выполненным. Корни уравнений (2) —(4) обозначим через ар,а7 и соответственно; считается,что 0<а^<°° V ф. Заметим, что отмеченные свойства функций р, у и не обеспечи- вают безусловной применимости быстро сходящихся алгоритмов ньютоновского типа для отыскания корней уравнений (2)- (4). Далее приводятся такие модификации этих уравнений, к которым методы ньютоновского типа всегда применимы. 2. Положим R (а) = р( 1 /а), F(a) = <р( 1 /а), а > 0. Справедлива следующая лемма (s - показатель степени). Л е м м а 53. Функции Rs(a), у5(а) и Fs(a) являются убываю- щими выпуклыми вниз функциями при любом s> 0 и возрастаю- щими выпуклыми вверх функциями при — 1 < s < 0. Если s < — 1, то рассматриваемые функции могут менять направление выпук- лости. Доказательство. Выполнив разложение С - КТК, где Кт - верхняя треугольная матрица, и обозначивха = Kua,N = = АК'1, найдем: р(а) = II Nxa - f \\m. у (а) = II ха \\„, <р(а) = II Nxa - f II 2m + а II ха II 2п. 210
Пусть теперь TV = Pi ЛР2 - сингулярное разложение матрицы 7V, т.е. Pi и Р2 — ортогональные, Л - ’’диагональная” матрица. Используя тот факт, чтоха удовлетворяет уравнению (NTN + aE)xa=NTf, и выполнив несложные преобразования в (5), получаем оконча- тельные формулы *(«) = Ш / д. \2 1 s -т—) = 1 \ а X/ + 1 / J 1/2 у(а) = ™ (Xigi yi1/2 i = 1\Х,?+а/ gj + 1 ’ (6) т F(a) = S । = 1 где есть z-e сингулярное число матрицы N при i < п, \ = 0 при z > л, g, есть z-я компонента вектора Pf f. Представление (6) делает очевидным утверждение леммы о монотонности функций Rs, ys и Fs. Сформулированные в лемме свойства выпуклости следуют из того, что знак второй производной функции [in Uj S------------- i = i (bjOi + <?/)* i (где a/, bh неотрицательны, к > 0 при а > 0, / > - 1/Zr) совпадает со знаком I. Лемма доказана. В дальнейшем значения 5 > — 1, s Ф 0 удобно называть допусти- мыми. Заметим еще, что функции Rs, ys и Fs легко доопределить по непрерывности справа в точке а = 0 с сохранением гладкости. Рассмотрим теперь уравнения R\<*) = esp, 75(«) = 4 (7) Непосредственным следствием леммы и условия разрешимости уравнений (2) —(4) является Теорема 99. Метод касательных Ньютона для определения корней уравнений (7) сходится для допустимых значений s при любом начальном приближении а > 0. 3. Выберем теперь значения степеней s, дающие наибольшее приращение параметра а на каждом шаге (начиная со второго) при решении (7) методом касательных Ньютона. Для приращения Да получаем где у — одна из функций R, у или F, еу обозначает ер, еу или е^ соответственно. 14* 211
Исследуем Да как функцию s. Используя лемму 53 при s = 1, получаем, что множитель (-у/у') в (8) положителен, а положитель- ная величина q = еу[у меньше единицы, по крайней мере, начиная со второго шага. Отсюда следует, что при любом s ¥= 0 выражение в квадратных скобках положительно. Так как функция (1 — qs)/s является убывающей функцией s, то ее наибольшее значение для s > — 1 достигается при 5 = — 1. Заметим, что при 5 < — 1 безуслов- ная сходимость метода Ньютона для уравнений (7) не гарантирует- ся, так что значение s= — 1 обеспечивает наибольшее приращение Да для любой из рассматриваемых функций на одном шаге метода Ньютона, т.е. наибольшую скорость сходимости метода. Далее оценим скорость сходимости метода Ньютона при реше- нии уравнений (7). При этом ограничимся случаем s = — 1 как наилучшим в указанном смысле. Уравнения (7) запишем в виде У(а) = ^-1(а) - = 0. (9) Здесь j'(a) имеет тот же смысл, что ив (8) . Как известно, скорость сходимости метода касательных Ньютона определяется формулой «У -“л+1 =Му(ау -а,,)2, где ал, ал 4 j - соответственно п-е и п + 1-е приближения к корню ау уравнения (9), а я, М., = - —-----, > 2Y'(a„) где при установленных выше знаках Y' и Y " имеем &п + 1 $у 5 И 2. При ал, достаточно близких к значению корня соответствующе- го уравнения, справедливы следующие оценки: 3 [Я(а„)Г , ЗХ^ах R " 2 TJ max"2[l-(ap-a„)XLx]3’ M < Й2<М3 Xm>n< --------------?---- 7 2 Lt«„)J 2X^in[l-(a7-«„)/X2min]3 MF ^)1 -Wn) J 2 \2 Am ax \2 /vma x П “ ~ axl где Xmax - max | \ |, Xmin = min | Xz |, Xz, как и выше, суть сингу- i
лярные числа матрицы N. Таким образом, асимптотически 3 3 Mr “ \пах» Му ~ \nin> ^F^^max- (Ю) 4. Переходим к описанию схемы вычислений при определении корней уравнений (7). Как видно из (7), для реализации одного шага метода Ньютона требуются значения у (а„) и у' (ап). Так как решение задачи минимизации (1) эквивалентно решению системы линейных уравнений (aC + ATA)ua=ATf, (11) то значение функции у (а) при а = ап можно вычислить после опре- деления решения иа системы (11) по одной из формул, определяю- щих функцию у (а). Для вычисления значений у1 (а) потребуются значения производ- ных р' (а), у' (а) или ' (а). Используя определения этих функций, получаем f . ч (wa» ^ма) р (а) = -а---—— , р(а) </(а) = (ма, Сиа\ где вектор ua = dujda можно найти, решая систему (аС + АтА) ua =-Сиа (13) с той же матрицей, что и для вычисления ма, но с другой правой частью. Выражение (13) получается прямым дифференцировани- ем (11). Производные для функций R (а) и F (а) легко вывести, используя соотношения (12), а именно n f z ч з (мр> £^р) / (ма> R (а)=р3... , 7 («) =------, Р(Р) Т(«) П4) Г'(а) = -р2(«Р.С«р), где принято обозначение р = 1/а. Векторы ир и ир находятся из уравнений (pC + ATA)up^ATf, (pC + ATA)u'p = -Cup. (15) Для сокращения объема вычислительной работы можно выпол- нить преобразования, предложенные В.В. Воеводиным. Матрицу С методом квадратного корня разложим в произведение КТК = С, где К — верхняя треугольная матрица. Затем матрицу N = АК~1 приведем к двухдиагональному виду: N= QDR, где Q и К — ортого-
нальные матрицы, D — верхняя двухдиагональная. Полагая za = = RKuai приведем (11) к системе с трехдиагональной матрицей (aE + DTD)za=DT>p, v = QTf (16) Решение иа исходной системы (11) определяется через решение za преобразованной системы (16) из соотношения Киа = RTza. Легко получить выражения для функций p(a)=\\Dza -<pllw, 7 (а) =11 zа (а) = р2 (а) + ау2 (а) и для их производных Р (а) ч (za, za) 7 (а) =----= (z<*> z<y)> у (а) где z'a определяется путем решения системы (aE + DTD)z'a = -za. (18) Тогда имеем г>'/ Ч 3 (zP’Zp) ч (za> za) к (а) = Р-----7— , 7 («) =--------7— , Р (Р) V (а) Е’(а) = -р2(гр,гр), где р = 1/а, zp и z’p определяются последовательным решением трех- диагональных систем уравнений (pE + DTD)zp=D1\p, (рЕ + DTD) zp =—zp (19) с одной и той же матрицей коэффициентов. Расчетные формулы (17), (18) и (19) требуют значительно меньшего объема вычислений,чем формулы (2)—(4), (14) и (15). 5. Мы рассматривали параллельно три способа определения па- раметра регуляризации, которые для удобства назовем р-, и у-ме- тодами. Однако эти методы не одинаково эффективны с вычисли- тельной точки зрения. При «^-методе система уравнений решается один раз на каждом шаге метода Ньютона, а в других методах - дважды на шаге. Далее, приближение к корням соответствующих уравнений про- исходит слева, по крайней мере, начиная со второго шага. Для р- и <р-методов это благоприятный фактор, так как обусловленность систем уравнений (15) или (19) будет наилучшей при а ~ 0; с рос- 214
том а обусловленность ухудшается. Для у-метода указанное обсто- ятельство является неблагоприятным, так как при а = 0 систе- мы (11) и (13) или (16) и (18) наиболее плохо обусловлены (воз- можна даже вырожденность этих систем). Это может привести к большой потере точности или даже к переполнению разрядной сетки при определении иа или za, если а окажется достаточно близ- ким к нулю в начальный момент или в результате выполнения ша- га метода Ньютона. Неравенства (10) показывают, что и в отношении скорости схо- димости у-метод находится в менее благоприятных условиях, чем остальные. Это связано с тем, что величина Amin существенно за- висит от поведения сингулярных значений матрицы N, в то время как величина Атах всегда ограничена числом || NTN\\. Заметим, что в р- и «^-методах в качестве начального приближе- ния к корню можно всегда взять а = 0. Как легко вывести, R(о+) = IlfIU = IIч>нт, г(о+)=ii/ii^ = и</>\\2т, Ч (C-'ATf,ATf) iiw7ii« 112>7>С R (0 +) = ------------- = ---------- = ---------- , ИГИт ll/llm HHm F'(0+)= ~(C~xATf, ATf) = -|| TV7ll« = -II DT^> ||*. Описанный здесь p-метод выбора параметра регуляризации реа- лизован на фортране (Численный анализ на ФОРТРАНЕ, вып. 6, 7, под ред. В.В. Воеводина. — М.: МГУ, 1974), при этом использова- лись матричные разложения, приводящие исходную регуляризован- ную систему уравнений к системе (16) с трехдиагональной матри- цей. Регуляризованное решение иа восстанавливается лишь после определения корня ар уравнения (2). В качестве начального приближения к корню всегда берется а = 0. Выполненные расчеты показали неожиданно быструю сходимость p-метода. Так, нормальное решение системы уравнений 8-го поряд- ка с вырожденной матрицей было определено за две итерации при относительной точности вычисления корня, равной 10"3. Это об- стоятельство наводит на мысль, что при задании невысокой точ- ности вычисления корня (2) и решении системы (15) с обычной точностью нет необходимости в выполнении соответствующих мат- ричных разложений, так как они требуют значительной затраты ма- шинного времени, окупаемой лишь при многократном решении регуляризованной системы уравнений. В рассматриваемом случае регуляризованное решение, удовлетворяющее (2), может быть получено за вполне разумное время непосредственно на основе формул (15). 6. Пусть L — матрица размера 5 X п такая, что квадратичная форма || А и ||2 + || Lu ||2 положительно определена. Это предполо- 215
жение обеспечивает, очевидно, выполнение условия дополнитель- ности. Пусть иа реализует минимальное значение функционала Фа [и] =11 Аи —/||2 +а II Lu -g||2, wG7?„, где g Е Rs - заданный вектор. Таким образом, мы рассматриваем конечномерный аналог основной задачи. Полагая а = 1/Х, обозна- чим через ик вектор, минимизирующий квадратичную форму X || Лм-/II2 + II Лм - II2, u&Rn. (20) Очевидно, их = м1/А-Обозначим р0(К) = II Аи к -/||. Тогда р0 (X) = нр(1/Л) = р(а). Теорема' 100. Если квадратичная форма II Аи ||2 + || Lu ||2, и Е Rn, положительно определена, то при всех X > 0 функ- ция д0(Х) дважды непрерывно дифференцируема и До (X) <0, РоЧ^) 0, т.е. функция До (X) выпукла вниз при X > 0. Доказательство. Решение ик задачи (20) определяется из уравнений Эйлера LT (LuK -g) + KAT(Aux -f) = 0, вектор duK/dK - из уравнения du (LTL + КАТА)---- =—Ат (Аик - f), dX а вектор вторых производных d2uK)dX2 — из уравнения т т d2uK (LTL+XATA) ---- dX =—2АТА duK dX Используя определение д0 (X) и приведенные уравнения, получаем Ро(Х)Ро(Х)=( А-— , Аи2'— f =(— , AT(AuK-f) \ dX / \ dX =—((LTL+КАТА)~1 AT (AuK-f), AT (AuK-f))<0 (21) в силу положительности матрицы (L TL + АЛ ТЛ) “’.т.е.роЧХ) <0. Далее, еще раз дифференцируя функцию (21), получаем Ро(Х)р<Г(Х) + р;2(Х) = / d2uK \ d'K2 Аг(Аик -/) ) + dux А----- d'K duK , А----- dX
Используя неравенство Коши—Буняковского, имеем Ро2(Х) = duK (X) \ А dX \2 , Аик - f ) duK 2 Л------ dX 1 Поэтому ,, / d2uK „ , Ро(Х)Ро(А)> —, AT(AuK-f) \ ОХ = 2 ((LTL + ХАТА)~1 АТА (LTL + ХЛГЛ)’1 Ат (Аик -f), Ат (Аик-/))>0, Х>0. Теорема доказана. Замечание. Матрица С -LTL может и не быть положитель- но определенной. Если С > 0, то в теореме можно считать X > 0. 7. Пусть С > 0 и для определенности вектор g = 0. Выполняя разложения, указанные в п. 4, можно записать Ро (X) = II DzK - <р ||, где zK определяется из системы, аналогичной (16), (Е + XDTD) zK = XDту, (22) матрица которой трехдиагональна. Нетрудно видеть, что zx =zl/\ = = za, а= 1/Х. Использование (22) для вычисления р0 (X) связано с явным оп- ределением решения zK этого уравнения. На самом деле для даль- нейшего нам достаточно знать лишь вектор ех = DzK - Ниже предлагается простой метод, позволяющий непосредственно вычис- лять только этот вектор. Это позволяет обеспечивать вычисление с большей точностью значений как функции р0 (X), так и ее произ- водной, необходимых при численном решении уравнения Ро (*) = △. (23) Именно, умножая (22) на матрицу р, видим, что удовлет- воряет уравнению (E + XDDr)ex = -</>. Легко видеть, что решение zK* уравнения (22) следующим образом связано' с ех: zK = - XDTe\ Заметим также, что || (Е + XDDT) || < 1 при всех X > 0. Последовательные приближения к корню Хд уравнения 1/Ро (Х)*1/Д, равносильного (23), определяются согласно формуле ^и+1 “ + Ро О^п) (А ~ Ро (Ли)) АРо(Ли) и=0,1,...,
где начальное значение Хо, как правило, выбирается так, чтобы 0<Хо <ХД. Остановимся на методе выбора начального приближения. Оче- видно, в данном случае всегда можно брать Хо = 0. Однако при незначительных дополнительных вычислительных затратах можно указать более точное начальное приближение к корню. Идея заключается в построении простой функции г (X), являю- щейся минорантной для функции р0 (X) при X > 0. Тогда в качест- ве Хо естественно взять решение уравнения г(Х) = Д. Имеем, оче- видно, pi(X)p0 (Х) = -((£" + XDD7’)"1 DDTex,ex)> 2 2 II Л II 2 Следовательно, Ро (X) > - Ро О'), р-о (0) = II <р II. Решая полученное дифференциальное неравенство, получаем Ро (Х)>г(Х) = ро(0)(1 + X IID И2)’1. Искомое значение Хо теперь определяется по формулам Ро (0) - А II у, II - А AIIDH2 Д||£>||2 все величины в которых легко вычислить. 8. Остановимся еще на некоторых моментах численной реализа- ции. Замечая, что матрица D где D — верхняя двухдиагональная матрица порядка и, получаем ЬЬТ | 0 ----1__ DDT = 0 | о Обозначим ех = (ег,е„+1,... ,ет)т, , <p„+i,... dex (de den+i dem \T dX \dX ’ dX dX /’ где e и суть и-мерные векторы. Нетрудно видеть, что de, = -4>i, =0, />я+1, аЛ
а векторы e и defd\ определя- ются из ’’урезанных” систем уравнений (£' + XDBT)e = -^, a a de (Е + \DDT) — = dX ал Л е+<р = -DDTe =----- X (24) Преимущества, достигаемые при переходе к уравнениям (24), очевидны, особенно при т > п. Решение (24) можно осуществить методом прогонки. Вычисление р0 (А) ир£(А) осуществляется сог- ласно формулам Ро(А) = S $ +(е,е), ро (А)р0 (А)=(-7- ,е). . Решение системы уравнений (22) находится согласно формуле zK = -XDTe или непосредственно из системы уравнений (E + XDTD)zK=WT$ при найденном значении параметра X = Ад, определяемом уравне- нием (23). 9. Применение модифицированного ^обобщенного) критерия выбора параметра регуляризации связано с необходимостью ре- шать уравнение р (a) = hy (а) + т, (25) где h > 0, т > 0 — некоторые фиксированные величины. Опишем процесс нахождения корня а уравнения (25) при усло- вии его существования. Зададимся некоторым а0 > 0 и заменим функцию у (а) уравнением прямой >4 (а) = 7(ао) + т’ (ао) (а --а0)- Найдем значение Qi из условия пересечения графика функции р(а) с прямой^ =yi (а), т.е. как корень уравнения р(«) = У1 (а). (26) Из геометрических соображений (рис. 4) видно, что такое зна- чение Qi существует и единственно. Для численного решения (26) естественно воспользоваться свойством выпуклости вниз функции Ро (А) = р(1/А). Полагая а = 1/А в (26), будем иметь уравнение hy' (а0) Ро (А)----;---- =т +/г(7(ао)-«оТ (<*о))> (27) Л
левая часть которого является выпуклой вниз, так как7*(ао) < 0. Поэтому корень Xi уравнения (27) можно эффективно найти, например, методом касательных Ньютона. В качестве нулевого приближения в процессе определения X! естественно взять корень уравнения р0 (X) = Положим = 1/Х г. Очевидно, Qi является корнем уравнения (26). После определения ai описанный процесс можно повторить. А именно, линеаризуем у (а) в окрестности точки а = записав уравнение касательной у = у2 (а) к у (а) в точке (аь ?(ai)), и ищем корень а = а2 уравнения р(а) = у2 (а), предварительно по- ложив а = 1/Х. В качестве нулевого приближения к корню Х2 урав- нения Ро (X) =у2 (1/Х) целесообразно взять X i. Ясно, что а2 = 1/Х2. Аналогично находятся а3, а4,... Из геометрических соображений, отражающих свойства функций р(а) и ?(а), с очевидностью сле- дует, что последовательность {а^} сходится к а, причем ак < < а (к > 1). Можно ожидать, что указанный способ решения уравнения (25) не потребует существенных вычислительных, затрат. Рассмотрения данного параграфа были связаны с конечно- мерными операторами А и L. Однако сформулированные резуль- таты имеют место и в общем случае. Мы не будем их приво- дить из-за излишней громоздкости соответствующих формули- ровок. § 27. Эвристические методы выбора параметра регуляризации 1. Пусть в условиях основной задачи G = Н и L = Е, - ре- шение задачи inf Фа [w;u*] =Фа [и^х);и*], иен (1) Фа [м;м*] =|| Ли -/Н/г + аНм-и* Ня, а>0. Предполагаем также, что оператор А ограничен и определен на всем Я. 'Наряду с задачей (1), определяющей регуляризованные реше- ния и^, рассмотрим задачу минимизации того же функционала при и * = и^1 \ т.е. задачу минимизации Фа^;^0]. 2 2 (2) Решение задачи (2) обозначим через и назовем {и™} вто- ричным регуляризованным семейством. Аналогично определяет- ся р-ичное регуляризованное семейство. В целях упрощения дальнейшего анализа выразим р-ичное ре- гуляризованное семейство через первичное. Имеем в силу урав- 220
нения Эйлера = (а£ + Л*Л)-1 (Л*/ + ам*), «<2) = («F+ А* АУ1 (Л’/+а41)) = rf)/D = — (аЕ +А*А)~1 (и* - u^^) = Ua^ - а —~— da т.е. 42,=4" « da Аналогично 4”=4”-« д4‘> da £42 da2 По индукции доказывается, что О,) _ ₽ -1 (-QV а “ . . s s=o 5! das (3) т.е. р-ичное семейство тесно связано с исходным регуляризованным семейством. Нетрудно видеть, что при и* = и? справедливо тож- дество На = Uf, р > 1. Далее будем рассматривать только случай р = 2. Построим сетку {оу} (j = 0, . . . , N) такую, что оу+1 = тоу; т « 1, т ¥= 1, задает ’’шаг” сетки. Эта сетка обычно называется гео- метрической [143] и часто используется при практическом приме- нении метода регуляризации. Так как при т « 1 справедливы со- отношения du('} W(1)-W(1) W(1)-W(1) ииа uTOt u0t uTOi a------~ a-----------— =------------ 9 da a - та 1 — т то в силу (3) имеем „(2) (1) “/ -“/+1 =U)+1-TU} «/ 1т - 1т > (4) Формула (4) показывает, что элементы вторичного регуляризо- ванного семейства на геометрической сетке приближенно можно вычислить непосредственно по элементам исходного семейства, Аналогичные выражения можно получить для произвольного р-ич- ного семейства регуляризованных решений.
2. Пусть в (1) вместо точных данных d = { Л, /} заданы приб- лиженные d = { А, f}. В §4 показано, что существует а = а (о) та- кое, что = На (а) сходятся в Н к решению Uf основной зада- чи при о = (Л, 6) -* 0. Так как на практике 6 и h конечны, то, за- давшись некоторым ’’подходящим” значением параметра а = а, можно в его окрестности построить геометрическую сетку по а и вычислить элементы (j = 0, . . . , TV). Интуитивно представля- ется правдоподобным выбрать такое значение j = /0, для которого достигается min Цы}*} - и}1} ||н, / т.е. наиболее гладкое по .параметру а регуляризованное решение. Это соответствует факту существования регуляризованных реше- ний, концентрирующихся около искомого решения Uf. Значение ауо принято называть квазиоптимальным значением параметра регуляризации [91]. К сожалению, обосновать такой способ выбора параметра полностью пока не удалось, хотя он ши- роко используется в практике решения неустойчивых задач. По идее он близок к известному правилу Рунге при решении задачи численного интегрирования [116]. Можно с уверенностью лишь сказать, что этот способ выбора параметра соответствует приближенной минимизации нормы вто- рого члена разложения (3). Это замечание дает возможность даль- нейших обобщений указанного способа выбора, что легко сделать на основе представления р-ичного регуляризованного семейства решений (3). При определенных условиях можно доказать сходи- мость вторичного регуляризованного семейства к решению основ- ной задачи. С этим вопросом можно познакомиться в рабо- тах [53, 55]' Метод выбора квазиоптимального значения параметра исполь- зуется для дополнительного уточнения значений параметра, опре- деленных на основе теоретически обоснованных критериев, таких, как критерии р, у. 3. Пусть Н = Rn, F = Rm и || и ||я = (Си, и), где С — положитель- но определенная симметричная матрица. Тогда регуляризованное решение имеет вид йа = (&С + АТА)~1 (А7/ + аСи*), где f - некоторое приближение к f. Назовем оператор Ra = (&С + + АГА)~1АТ оператором обработки. Если f — случайный гаус- совский вектор, Mf = f, М^1 = a2£w, £ -f — f, r&eEm — единич- ная матрица порядка т, то при выборе параметра а естественно стремиться к минимизации как невязки Af || (ARa - £) f Ц2,, так 222
И М || Ral ll2c- Целесообразность удовлетворения первого условия очевидна и не требует дополнительных разъяснений. Второе усло- вие означает, что оператор обработки Ra должен быть выбран та- ким, чтобы наилучшим образом подавлять воздействие ошибки в правой части уравнения. Ясно, что одновременное удовлетворе- ние обоим этим требованиям невозможно. Поэтому представляет- ся разумным выбор параметра регуляризации из компромиссного условия минимума по а выражения Л/ II (ARa - E)f\\2m +MII Можно показать, что второе слагаемое здесь монотонно убывает. Так как первое слагаемое монотонно возрастает, то численное определение параметра, удовлетворяющего предложенному крите- рию выбора, не вызывает затруднений. Вместо минимизации ука- занного выражения по а можно воспользоваться условием выбора параметра как решения уравнения М || (ЛЯа - E)f\\2m = М II Rai-11^. Смысл этого условия очевиден. Численная апробация изложенных способов выбора параметра регуляризации применительно к задаче построения сглаживающих сплайнов осуществлена в [118]. § 28. Исследование адекватности математических моделей 1. Пусть рассматривается задача решения уравнения Au=f, (1) где А : Н ~»F — линейный оператор, действующий из гильбертова пространства Н в аналогичное пространство F. В § 1 была введена мера несовместности уравнения (1) ЦА(П= inf \\Au—f\\F. (2) и^Н Если принять гипотезу, что элемент f соответствует измеряемым проявлениям (характеристикам) некоторого физического объекта, то меру несовместности можно считать мерой адекватности мате- матической модели (1) изучаемому физическому явлению. Имен- но, будем говорить, что модель (1) f-адекватна, если < <\\f\\F. В ряде случаев представляет интерес изучение величины Рд (/) как функцииf £ QQF. Тогда величина Мл (Q) = SUp (/) /ее характеризует меру несовместности (адекватности) (1) на классе
входных данных Q. Если Мл (/) = 0, то будем говорить, что модель (1) f-совместна. Если Мл (Q) =0, то будем говорить, что модель (1) Q-совместна. Очевидно, функционал Мл (/) определен для любого f Е F (су- ществование элемента иЕН, на котором реализуется (2), не не- обходимо) . Пусть элемент f задан приближенно, т.е. известен эле- мент f : II/ -/ ||F < 6. Выберем иеЕ Н так, чтобы выполнялось соотношение Мл(Л < \\Аие -Лг<Мл(Л+е, е>0. Тогда Мл (/) < Мл ( О + 5 + е. ВыбираяиеЕН такие, что Мл (Л< IIА ие -f\\F<pA(J)+e, аналогично получаем: Дл(/)<Мл(/)+5+е. Следовательно, 1Мл(/)-Мл(/) l<5+е Ve>0, то есть 1Мл(Л-Мл(/)1<5. Итак, справедлива Теорема 101. Функционал рА (/) непрерывно зависит от f Е F. 2. А.Н. Тихонов ввел следующее определение [92]. Пусть / : II/-/ ll/г < 6, Ub ={uEH: \\Au-f\\F<8}. Если и^Ф ДДЯ всех достаточно малых 6>0, то модель (1) называется со стоя - тельной. Будем говорить об f-состоятельности, подразумевая, что элемент / фиксирован. Можно говорить о Q- (или F-) состоятель- ности, если модель (1) состоятельна для любого f Е Q (или/ Е F). Выясним вопрос о соотношении понятий /совместности и /состоятельности. Теорема 102. Для f-состоятельности модели (1) необхо- дима и достаточна ее f-совместность. Доказательство. Пусть модель (1) /-состоятельна. Тогда существуют элементы иьЕН\ 11Аи6 -f IIF <5, для достаточно малых 6. Значит, II Аиь -f IIF <26 и, следовательно, Мл (Л <26 V 6, т-е-Мл (/) =0. Если Мл (Л =0» т.е. модель (1) /-совместна, то при любом е > 0 существует элемент и€Е Н : IIА и€ —f llF <е. Тогда \\Аи€ - f \\ F Аие -f\\F + II/-/ II F <е + 5, т.е. при достаточно малых е элемент и€ Е и, следовательно, 224
множество =#фпри всех достаточно малых 6. Таким образом, модель (1)/-состоятельна. Теорема доказана. Отсюда следует эквивалентность понятий /-совместности и /состоятельности. 3. Будем говорить, что модель (1) f-разрешима, если ^={wG Au=f}^ ф . Ясно, что /-разрешимость влечет /-совмест- ность (и /-состоятельность) модели (1). Однако обратное, вообще говоря, неверно, что можно легко обнаружить на простых приме- рах. Будем говорить также о Q-разрешимости (1), подразумевая под этим /-разрешимость для всех/ G Q. Теорема 103. Пусть Q - множество разрешимости для мо- дели (1). Если модель (1) F-совместна (или F-состоятельна), то замыкание Q совпадает с F,T.e, Q = F. Доказательство. Пусть Q =£F. Тогда найдется элемент /=#0, /1 2, такой, что IIАи~/llF >а>0 \fuEH. Но тогда Ма(/) что притиворечит F-совместности (1). Теорема дока- зана. 4. Пусть априорно известно, что модель (1) /-совместна. Можно ли в рамках идеального эксперимента, т.е. в условиях, когда 6 -> 0, ответить на вопрос о ее /-разрешимости? Определим элементы € Ub условием II «5 Ия = inf II и II//, т.е. применим метод невязки. Следующая теорема дает ответ на поставленный вопрос. Теорема 104. Если модель (1) f-совместна, то для ее f-разрешимости необходимо и достаточно, чтобы {II II //} для всех достаточно малых 6 было ограничено. Доказательство. Если модель (1) /-разрешима, то су- ществует нормальное решение и задачи (1). Тогда, очевидно, II II н < II и II н = С при всех 6. Далее предположим, что II 11# <С<+°°. Используя это ус- ловие, выделим из семейства {w5} последовательность {w5w}, 6 „ -► 0 при п -> °°, слабо сходящуюся к w0 • Используя слабую полу- непрерывность снизу нормы в гильбертовом пространстве и непре- рывность оператора А в слабой топологии, получаем, обозначив Um Mw„-/IIf^ оо < ton ( Ми„ -/llF + 6) = 0; n 00 15. B.A. Морозов 225
Отсюда следует, что Аи0 =f, т.е. модель (1) /-разрешима. Теорема доказана. Теорема 104 легко обобщается на общий случай основной задачи. 5. Вычисление меры несовместности Дл (/) необходимо не только для оценки адекватности математической модели (1), описывающей физическое явление, но и при применении ряда ре- гулярных методов решения (1) или, в общем случае, основной задачи. Пусть 3 = {A,f} - приближенные данные задачи (1), где оператор A =Ah ограничен и линеен при любом h 6 (0,Ло], IIЛ -А II / : II/-/llF<6. Обозначим да = inf II Аи -/ IIF, а = (6,Л). Легко показать, что при а->0 соотношение ,ио-+.1лА (/) не имеет места. Действительно, если Н ~F =Rn - евклидово пространство размерности п,А =0 - нулевая матрица размера иХи, /¥=0, то Д/ = II/ II w 0». в то время как при A h = hE и любом h > 0 вели- чина ца= 0. Как следует из теоремы 101, устойчивость по возмущениям пра- вой части / все же сохраняется. При наличии возмущения в опе- раторе А можно лишь утверждать, что lim да=мл(/). а-> о Действительно, выбирая ие такое, что IIА ие —f II/? < ^Дл(/)+е» е > 0, имеем цо< ЪАие -f IIF<nA(f) +h IIие 11я +е, т.е. lim да<дл(/) + е, е>0, а-* О откуда следует требуемое соотношение. 6. Далее рассматривается задача построения по любым прибли- женным данным 3 ={Л,/} таких значений да, которые удовлет- воряют условию сходимости lim да=дл(Л, а->0 т.е. условию устойчивой аппроксимации меры несовместности при возмущении исходных данных d ={Л,/} . Значение дст может рассматриваться как приближение к оцениваемой мере несовмест- ности дл (/). Заметим, что /-разрешимость задачи (1) не предпо- лагается. Любой метод построения устойчивых аппроксимаций 226
меры несовместности может быть использован для предваритель- ной оценки меры адекватности математической модели (1). Это весьма важно при решении ряда прикладных задач, в частности, при построении автоматизированных систем математической обработки результатов физического эксперимента. Приведем ряд вспдмогательных утверждений, имеющих и не- который самостоятельный интерес. Положим в соответствии с методом регуляризации Фа [w] = IIA u~f 11^ + а II и 11^, и G Н , а> 0. Справедлива Лемма 59. Пусть ийЕН - решение вариационной задачи inf Фа[м] =Фа [ма]. и^Н Тогда Вт ца, ца =11Аиа-fHF. а -* 0 Доказательство. Однозначная разрешимость соответ- ствующей вариационной задачи доказана ранее. Выберем {е„} > 0 так, чтобы €„->0, h->°°, и элементы ип€Н удовлетворяли усло- вию дл(/)< 11Ли„ -Лг<Дл (/) + «„• Тогда, используя очевидные свойства экстремальных задач, полу- чаем Дл(Л [«„] <(Дл(/) + еИ)2 + « II Un И Н , т.е. lim | - vA(f) I е„-+0, а-* 0 Лемма доказана. Заметим, что элемент иа удовлетворяет уравнению Эйлера (а£ +Л*Л)иа=Л*/. Полагая fa = Аиа и применяя оператор А к обеим частям приве- денного уравнения, получаем (aF+ЛЛ*)^ =ЛЛ*/, и, следовательно, Мл (Л = lim М« , М« = IIЛ -f IIf , а -> 0 где fa однозначно определяется выписанным уравнением. Элемент fa можно определить также как решение следующей экстремаль- ной задачи: fa = arg min ( II A* (g-f) И +a IIg II2F ).
Пусть f'^F— элемент с минимальной нормой (нормальное ре- шение) среди всех решений уравнения A*g =А *f. В силу экстре- мального свойства элемента fa имеем -/)П2н IIД II?/ II/' 11>, и, следовательно, lim IIЛ */а - Л */'Ин =0, И* IIf<II/'IIf- а->0 а->0 Из этих соотношений регулярности согласно основным результа- там (§ 2) следует, что Пт fa=f. а->0 Таким образом, справедлива Лемма 55. Имеет место равенство vAf)= lim 114-/11^=11/-/И/г, 0 где f' - нормальное решение уравнения A*g - A *f. Определим следующие функции параметра а: p(a)=U*fa-A*f\\H, y(a)=\\fa\\F. Из основных результатов следует Лемма 56. Функция р(а) является непрерывной строго возрастающей функцией, для которой lim p(a)=0, lim р(а) = IIЛ *f II# . а-*0 f >оо Функция у (а) является непрерывной строго убывающей функ- цией, причем lim т(а)= II/'llF, lim 7(а) = 0. 0 а-* оо Далее предполагается, что ИЛ*/11н>0. Так как, очевидно, lim II A* f 11я = II Л*/ Ия , а->0 то при достаточно малых о справедливо также неравенство ‘И Л*/ Ин>h II/IIf. Обозначим ра = И/а -/ || Fi где /а удовлетворяет уравнению с возмущенными данными (аЫГ )/а=ЛЛ*/ , а также р(а)= 11Л*(/а - /) Ин , 7(a) = ИД IIf •
Из приведенных выше утверждений следует Лемма 57. При достаточно малых о> 0 уравнение p(a) = 2h \\f\\F. (3) имеет единственный корень аа . 7. Поставленную задачу вычисления приближений к нижней грани функционала (2) решает следующая ’ * А А ~ Теорема 105.Пусть pa-\\fa-f \\Ff где аа определен но в лемме 57 в соответствии с принципом невязки. Тогда lim Да = (Л- О Доказательство. Пусть f ' - элемент с минимальной нор- мой, являющийся решением уравнения A *g = A *f . При любом а > 0 имеем IIА - А * f II 2Н + a \\fa II 2f < h2 ( \\f f IIF + If llF)2 + a II f 41 2F . Полагая здесь a = aa и учитывая (3), после несложных выкладок получаем оценки И Л И/' Uf, WA*fa~A*f ’ \\H<2h( II/' llF+ II/ llF). Так как II/ f —ff IIF <6, то эти оценки влекут соотношения регу- лярности lim ИЛ*/а-Л*/Ч1я=О, а->0 to IIД < И' Uf . а~>0 из которых получаем: to II/аIIF =0. а-* О Остается применить лемму 55. Теорема доказана. 8. Рассмотрим численные аспекты реализации предложенного метода вычисления нижней грани функционала (1) по приближен- ным данным d. ~ Будем считать, что А — матричный оператор, действующий из H=RnBF=Rm, где Rпн Rm суть евклидовы пространства, т> п. Тогда и есть и-мерный вектор, / есть ти-мерный вектор. Для упрощения записи знак возмущения у матрицы А и векто- ра / далее опускаем.
Следуя методу В.В. Воеводина [121], выполним разложение A = QDR, где Q, R - ортогональные матрицы, D - двухдиагональная мат- рица, последние т—п строк которой нулевые. Тогда уравнение для определения fa принимает вид {aQQT + QDRR TDTQT)fa = QDRR TDTQrf. Полагая здесь *a=QTfa, * = QTf, получаем, что <ра удовлетворяет уравнению с трехдиагональной матрицей (aE+DDT)ipa = DDTy. (4) При указанных заменах, как легко проверить, справедливо соотношение p(a) = IIZ>r(^“ -<?) II . В соответствии с критерием (3) выбора параметра, аа находит- ся как решение скалярного уравнения р(а) = 2Л1^Ц , ‘(5) искомые приближения определяются по формуле Ма= II ^-^>\\т Заметим, что указанный подход дает значительный выигрыш во времени решения задачи. Уравнение (5) целесообразно записать в следующей эквивалент- ной форме: R-\a)^(2h 11^ 1Ы’1, (6) R(a) = p(l/a). Функция R (а) строго выпукла вверх и непрерывно дифферен- цируема при а > 0 (см. § 26). Для решения (6) тогда применим метод касательных Ньютона, который сходится при любом выборе начального приближения. Так как и, то может показаться, что определение векто- ра <ра из (4) будет осуществляться из системы достаточно высо- кого порядка. Замечая, однако, что А L о J где Ь - матрица порядка и, 0 - матрица размера (т - п) Хп с ну-
левыми элементами, устанавливаем, что последние т — п компо- нент вектора <ра заведомо равны нулю, а первые п компонент можно определить, решая ’’урезанную” систему уравнений (аЕ + + DDT) (ра = ф, где = G>i, • •, ^)Т, Ф = <{DDT^ (DDT<p)n )Т. Замечание. Вместо критерия (3) можно воспользоваться критерием выбора а о из условия р(а) = h Доказательство теоремы 105 при этом несколько трансформи- руется. 9*). Пусть UmF суть метрические пространства,Л - произволь- ный оператор, действующий из t/в F с непустой областью определе- ния Da = D С U. Положим Д = inf pF(Au,f)> и где f CF — некоторый заданный элемент. Величина р характеризу- ет меру несовместности уравнения Аи -ff и CD. Будем рассматри- вать ее как функцию от d = { A, f }. Существование элемента, на ко- тором достигается инфимум, не предполагается. Далее считаем, что приближенные данные d= {Л,/} удовлетво- ряют условиям PF(f,f)^ &, pF(Au,Au)<h£2(u), uCD, (7) где а = (6, h) -> 0 при повышении точности задания входной инфор- мации, Sl(u) > 0 - оценочный функционал (как обычно). Положим p(u) = pF(Au,f), р(и) = pF(Au,f\ и CD. Используя условие аппроксимации (7) и неравенство треугольни- ка, легко показать, что для любого и CD выполняются соотно- шения p(w)< p(w)+ /г£2(м) + 6, p(w)<p(w) + /Ш(м) + 6. (8) Определим р(м) = р(м) + /гП(м) + 6, и CD, Согласно первому из соотношений (8) имеем д = inf p(w) < inf p(w) = д. uGD u.GD ♦) Изложенный в этом пункте подход в основном следует некоторым недавним работам А.М. Левина.
Теорема 106. Пусть входные данные d - {A, f } таковы, что о ~*0. Тогда lim д = д+. о о Доказательство. Для любого наперед заданного числа €>0 выбираем элемент i/eGZ) так, чтобы р(ме)<д + е. Тогда, используя несложные выкладки, получаем оценки д < д < p(we) < p(we) + 2(/Ш(ме) + 6) + е, из которых, используя произвольность е, следует справедливость утверждения. Итак, для построения устойчивых приближений к мере несов- местности д достаточно любым методом вычислить значение нижней грани функционала p(w) (wGZ>) [119]. Заметим, что определение элемента, реализующего эту нижнюю грань, не является необхо- димым. __ Положим д = inf р(и). Согласно (8) имеем и G D lim д < д, (9) о -► 0 и, следовательно, в общем случае (д> 0) нельзя гарантировать справедливость соотношения lim д = д. Если же мера несовмест- имо ности д = 0 (уравнение Au =f (uED) в этом случае может быть неразрешимым), то заведомо lim д = 0. о -* О Отметим, что д = д(Л, /) = 0* V/GF тогда и только тогда, когда замыкание множества QA ={fEF: f=Au, и GZ)}совпадает с F. Это обстоятельство имеет место для широкого круга математиче- ских задач. Вместе с тем, например, при решении переопределенных систем уравнений (алгебраических или операторных), возникаю- щих при обработке результатов физического эксперимента, мера несовместности, как правило, не равна нулю. Соотношение (9) показывает, что при наличии произвольных погрешностей во вход- ных данных суждение о мере несовместности задачи Ли =f {и GZ)) по значениям д, как правило, будет ошибочным, Тем самым будет ошибочным и суждение об адекватности рассматриваемой матема- тической модели изучаемому физическому явлению. Далее считаем, что U-Ht Fn G суть гильбертовы пространства, А и L -линейные операторы,определенные на выпукломмножестве D и удовлетворяющие основным предположениям об их совокуп- ной замкнутости и дополнительности на£), П(м) = II Lu\\g> Тогда, очевидно, функционал р(ц) = \\Au-f\\F + h IILu IIG + 6. (10)
Можно показать, что при весьма общих условиях существует единственный элемент u^D: р(й) = р. Если D — линейное множест- во (что и предполагается в дальнейшем), то элемент й необходимо удовлетворяет следующему тождеству: (Ай - f, Av)F + h(\\Au -f IIF/ II Lu llG)(Luf Lv)G = 0, vtD. (11) При сделанных здесь предположениях регуляризованные реше- ния иа удовлетворяют тождеству (Jwa -f, Av)F^ a(LuaiLv)G =0, uGA (12) Сравнивая (11) и (12), видим, что если существует решение а > 0 скалярного уравнения a ll£wa llG =h IIАйа - / llF, а>0, (13) Tow_=i7 и д =р(й~), т.е. тогда задача вычисления д решена.
СПИСОК ЛИТЕРАТУРЫ 1. Арсенин В.Я. Об оптимальном суммировании рядов Фурье с приближен- ными коэффициентами // ДАН СССР. - 1968. - Т. 182, № 2. 2. Арсенин В.Я. О методах решения некорректно поставленных задач. - М.: МИФИ, 1973. 3. Бакушинский А.Б. Избранные вопросы приближенного решения некор- ректных задач. - М.: МГУ, 1968. 4. Бакушинский А.Б. Некоторые вопросы теории регуляризующих алго- ритмов // Вычислительные методы и программирование. Вып. 12. - М.: МГУ, 1969. 5. Бахвалов Н.С. Об оптимальности линейных методов приближения опера- торов на выпуклых классах функций // ЖВМиМФ. - 1971. - Т. 11, № 4. 6. Васин В.В. О связи некоторых вариационных методов приближенного решения некорректных задач // Мат. заметки. - 1970. - Т. 7, № 3. 7. Васин В.В., Танана В.П. Приближенное решение операторных уравнений первого рода // Мат. зап. Уральского ун-та. - 1968. - Т. 6. 8. Воеводин В.В. О методе регуляризации // ЖВМиМФ. - 1969. - Т. 9, № 3. 9. Воеводин В.В. Ошибки округления и устойчивость в прямых методах линейной алгебры. - М.: МГУ, 1969. 10. Гончарский А.В., Ягола А.Г., Леонов А.Г. Обобщенный принцип невяз- ки // ЖВМиМФ. - 1973. -Т. 13, №2. И.Денчев Р. Об устойчивости уравнений на компакте//ЖВМиМФ. - 1967.-Т. 7, №6. 12. Дмитриев В.И., Захаров Е.В. О численном решении некоторых интег- ральных уравнений Фредгольма I рода // Вычислительные методы и программирование. Вып. 10. - М.: МГУ, 1968. 13. Долгополова Г.Ф. , Иванов В.К. О численном дифференцирова- нии // ЖВМиМФ. - 1966. - Т. 6, № 3. 14. Домбровская И.Н. О решении некорректных линейных уравнений в гильбертовых пространствах // Мат. зап. Уральского ун-та. - 1964. - Т. 4, тетр. 4. 15. Домбровская И.Н. Об уравнениях первого рода с замкнутым операто- ром // Изв. высш, учебн. заведений. Математика. - 1967. - № 6. 16. Домбровская И.Н., Иванов В.К. К теории некоторых линейных уравне- ний в абстрактных пространствах // Сиб. мат. ж. - 1960. - Т. 6, № 3. 17. Жуковский Е.Л., Морозов В.А. О последовательной байесовской регу- ляризации алгебраических систем уравнений // ЖВМиМФ. - 1972. - Т. 12, №2. 18. Иванов В.В. Теория приближенных методов и ее применение к числен- ному решению сингулярных интегральных уравнений. - Киев: Пауко- ва думка, 1968. 19. Иванов В.В., Кудринский В.Ю. Приближенное решение линейных опера- торных уравнений в гильбертовом пространстве методом наименьших квадратов // ЖВМиМФ. - 1966. — Т. 6, № 5.
20. Иванов В.К, О линейных некорректных задачах // ДАН СССР. - 1962. - Т. 145, №2. 21. Иванов В.К. Интегральные уравнения первого рода и приближенное ре- шение обратной задачи потенциала//ДАН СССР. - 1962. - Т. 145, №5. 22. Иванов В.К. Об ojihqm типе некорректных линейных уравнений в век- торных топологических пространствах // Си б. мат. ж. - 1965. - Т. 6, № 4. 23. Иванов В.К. О приближенном решении операторных уравнений первого рода Ц ЖВМиМФ. - 1966. - Т. 6, № 6. 24. Иванов В.К. О некорректно поставленных задачах // Матем. сб. - 1963.-Т. 61, №2. 25. Иванов В.К. О равномерной регуляризации неустойчивых задач // Си б. мат. ж. - 1966. - Т. 7, № 3. 26. Иванов В.К. Об интегральных уравнениях первого рода // Дифф. ур. - 1967.-Т. 3,№3. 27. Иванов В.К. Некорректные задачи в топологических пространст- вах // Сиб. мат. ж. — 1969. - Т. 10, № 5. 28. Иванов В.К. Об оценке погрешностей при решении операторных уравне- ний первого рода // Вопр. точности и эффективности вычисл. алгор. Труды симпозиума. Т. 2. - Киев: ИК АН УССР, 1969. 29. Иванов В.К. О решении операторных уравнений, не удовлетворяющих условиям корректности // Тр. Матем. ин-та АН СССР. - 1971. - •’ Т. 112. 30. Иванов В.К. Линейные неустойчивые задачи с многозначными операто- рами // Сиб. мат. ж. - 1970. - Т. 11, № 5. 31. Иванов В.К.,Королюк Т.Н. Об оценке погрешностей при решении линей- ных некорректных задач // ЖВМиМФ. - 1969. - Т. 9, № 1. 32. Канторович Л.В. О новых подходах к вычислительным методами обра- ботке наблюдений // ЖВМиМФ. - 1962. - № 5. 33. Коркина Л.Ф. О регуляризации операторных уравнений первого ро- да // Изв. высш, учебн. заведений. Математика - 1969. - № 8. 34. Крейн С.Г. О классах корректности для некоторых граничных за- дач // ДАН СССР. - 1957. -Т. 114, №6. 35. Лаврентьев М.М. О задаче Коши для уравнения Лапласа // ДАН СССР.- 1955. -Т. 102, №2. 36. Лаврентьев М.М. Об интегральных уравнениях первого рода//ДАН СССР. - 1959. -Т. 127, №1. 37. Лаврентьев М.М. О некоторых некорректных задачах математической физики. - Новосибирск: СО АН СССР, 1962. 38. Лаврентьев М.М. Условно корректные задачи для дифференциальных уравнений. - Новосибирск: ВЦ СО АН СССР, 1973. 39. Лаврентьев М.М., Васильев В.Г. О постановке некоторых некорректных задач математической физики // Сиб. мат. ж. - 1966. - Т. 7, № 3. 40. Латтес А, Лионс Ж.Л. Метод квазиобращения и его приложения. - М.: Мир, 1970. 41. Лионс Ж.Л. Оптимальное управление системами, описываемыми уравне- ниями с частными производными. - М.: Мир, 1972. 42. Лебедев В.И. О решении на компактных множествах некоторых задач восстановления // ЖВМиМФ. - 1966. - Т. 6, № 6. 43. Лисковец О.А. Некорректные задачи с замкнутыми необратимыми опе- раторами // Дифф. ур. - 1967. - Т. 3, № 3. 44. Лисковец О.А. Регуляризация уравнений с замкнутым линейным опера- тором // Дифф. ур. - 1970. - Т. 1, № 7.
45. Лисковец О.А. Устойчивость квазирешений для уравнений с замкнутым оператором // Лфф. ур. - 1971. - Т. 7, № 9. 46. Марчук Г.И. О постановке некоторых обратных задач // ДАН СССР. - 1964. -Т. 156, №3., 47. Марчук Г.И., Васильев В.Г. О приближенном решении операторных урав- нений // ДАН СССР. - 1970. - Т. 195, № 4. 48. Маслов В.П. Регуляризация некорректных задач для сингулярных ин- тегральных уравнений // ДАН СССР. - 1967. - Т. 176, № 5. 49. Маслов В.П. Существование решения некорректной задачи эквивалентно сходимости регуляризованного процесса //УМН. - 1968. - Т. 23, вып. 3. 50. Морозов В.А. О регуляризации некорректно поставленных задачи выбо- ре параметра регуляризации // ЖВМиМФ. — 1966. — Т. 6, № 1. 51. Морозов В.А. О решении функциональных уравнений методом регуля- ризации // ДАН СССР. - 1966. - Т. 167, № 3. 52. Морозов В.А. О выборе параметра при решении функциональных урав- нений методом регуляризации // ДАН СССР. - 1967. - Т. 175, № 6. 53. Морозов В.А. Методы решения неустойчивых задач. - М.: МГУ, 1967. 54. Морозов В.А. О восстановлении функций методом регуляриза- ции // ЖВМиМФ. - 1967. - Т. 7, № 4. 55. Морозов В.А. О принципе невязки при решении операторных уравнений методом регуляризации // ЖВМиМФ. - 1968. - Т. 8, № 2. 56. Морозов В.А. О псевдо решениях // ЖВМиМФ. - 1969. - Т. 9, № 6. 57. Морозов В.А. Об эффективном численном алгоритме построения псев- дорешений // ЖВМиМФ. - 1971. - Т. 11, № 1. 58. Морозов В.А. О решении методом регуляризации некорректно постав- ленных задач с нелинейными неограниченными операторами // Дифф, ур. - 1970. -Т. 6, №8. 59. Морозов В.А. Об одном устойчивом методе вычисления значений неогра- ниченных операторов // ДАН СССР. - 1969. - Т. 185, № 2. 60. Морозов В.А. Об оптимальной регуляризации операторных уравне- ний // ЖВМиМФ. - 1970. - Т. 10, № 4. 61. Морозов В.А. Об оценках погрешности решения некорректно поставлен- ных задач с линейными неограниченными операторами // ЖВМиМФ. - 1970. -Т. 10, №5. 62. Морозов В.А. .Об устойчивости задачи определения параметров // Вы- числительные методы и программирование. Вып. 14. - М.: МГУ, 1970. 63. Морозов В.А. О регуляризирующих семействах операторов // Вычисли- тельные методы и программирование. Вып. 8. - М.: МГУ, 1968. 64. Морозов В.А. Теория сплайнов и задача устойчивого вычисления значе- ний неограниченных операторов // ЖВМиМФ. - 1971. - Т. 11, № 3. 65. Морозов В.А. О приближенном решении операторных уравнений мето- дом сплайнов // ДАН СССР. - 1971. - Т. 200, № 1. 66. Морозов В.А. Сходимость одного приближенного метода решения опе- раторных’уравнений I рода // ЖВМиМФ. - 1973. - Т. 13, № 1. 67. Морозов В.А. Об оптимальности критерия невязки в задаче вычисления значений неограниченных операторов//ЖВМиМФ. - 1971. -Т. 11, №4. 68. Морозов В.А. Об одном новом подходе к решению линейных уравнений первого рода с приближенным оператором // Тр. I-й конф, молодых ученых факультета вычислит, матем. и кибернетики МГУ. - М.: МГУ, 1973. 69. Морозов В.А. О принципе оптимальности невязки при приближенном ре- шении уравнений с нелинейными операторами // ЖВМиМФ. - 1974. - Т. 14, №4.
10. Морозов В.А. О задаче дифференцирования и некоторых алгоритмах приближения экспериментальной информации // Вычислительные мето- ды и программирование. М.: МГУ, 1970, вып. 14. 71. Морозов В.А. О вычислении нижних граней функционалов по прибли- женной информации. - ЖВМиМФ. - 1973. - Т. 13, № 4. 72. Морозов В.А. О принципе невязки при решении несовместных уравне- ний* методом регуляризации А.Н.Тихонова // ЖВМиМФ. - 1973. - Т. 13, №5. 73. Морозов В.А. Линейные и нелинейные некорректные задачи // Математи- ческий анализ: Итоги науки и техники. Т. 11. - М.: ВИНИТИ, 1973. 74. Морозов В.А. О регуляризации некоторых классов экстремальных задач // Вычислительные методы и программирование. Вып. 12. - М.: МГУ, 1969. 75. Морозов В.А. О некоторых общих условиях регуляризуемости некор- ректных вариационных задач // Тр. I-й конф, молодых ученых факульте- та вычислит. матем. и кибернетики МГУ. - М.: МГУ, 1973. 76. Морозов В.А. Об определении параметров линейной модели по экспери- ментальным данным // Обратные задачи для дифф, уравнений. - Ново- сибирск: СО АН СССР, 1972. 11. Морозов В.А. Об устойчивых методах решения систем линейных’алгеб- раических уравнений // Вычисл. методы линейной алгебры. - Новоси- бирск: СО АН СССР, 1974. 78. Морозов В.А. Об особенностях численной реализации методов решения неустойчивых задач // Методы решения некорректных задачи их приме- нение. - М.: МГУ, 1974. 79. Морозов В.А., Гордонова В.И. Численные алгоритмы выбора параметра в методе регуляризации // ЖВМиМФ. - 1973. - Т. 13, № 3. 80. Морозов В.А., Кирсанова Н.Н. Об одном обобщении метода регуляриза- ции //Вычислительные методы и программирование. Вып. 13.- М.: МГУ, 1970. 81. Петров А.П. Оценки линейных функционалов для решения некоторых обратных задач // ЖВМиМФ. - 1967. - Т. 7, № 3. 82. Самарский А.А. Введение в теорию разностных схем. - М.: Наука, 1971. 83. Романов В.Г. Абстрактная обратная задача и вопросы ее корректно- сти // Функц. анализ и его приложения. - 1973. - Т. 7, № 3. 84. Стечкин С.Б. Наилучшее приближение линейных операторов // Мат. за- метки. - 1967. - Т. 1, № 2. 85. Страхов В.Н. О решении линейных некорректных задач в гильбертовом пространстве // Дифф. ур. - 1970. - Т. 6, № 8. 86. Страхов В.Н. Об алгоритмах приближенного решения линейных условно корректных задач // ДАН СССР. - 1972. - Т. 207, № 5. 87. Танана В.П. Некорректно поставленные задачи и геометрия банаховых пространств // ДАН СССР. - 1970. - Т. 193, № 1. 88. Соболев С.Л. Некоторые применения функционального анализа в мате- матической физике. - Л.: ЛГУ, 1950. 89. Тихонов А.Н. Об устойчивости обратных задач // ДАН СССР. - 1943. - Т. 39, №5. 90. Тихонов А.Н. О решении некорректно поставленных задач и методе ре- гуляризации // ДАН СССР. - 1963. - Т. 151, № 3. 91. Тихонов А.Н. О регуляризации некорректно поставленных за- дач // ДАН СССР. - 1963. - Т. 153, № 1. 92. Тихонов А.Н. О нелинейных уравнениях первого рода // ДАН СССР. - 1965. -Т. 161, №5. 93. Тихонов А.Н. О некорректных задачах линейной алгебры и устойчивом методе их решения // ДАН СССР. - 1965. - Т. 163, № 3.
94. Тихонов А.Н. О некорректно поставленных задачах // Вычислительные методы и программирование. Вып. 8. - М.: МГУ, 1968. 95. Тихонов А.Н., Гласко В.Б. Применение метода регуляризации в нели- нейных задачах // ЖВМиМФ. - 1965. - Т. 5, № 3. 96. Тихонов А.Н. Методы решения некорректно поставленных задач // Ме- тоды решения некорректных задачи их применение. - М.: МГУ, 1974. 97. Фаддеева В.Н. Сдвиг для систем с плохо обусловленными матрица- ми // ЖВМиМФ. - 1965. - Т. 5, № 5. 98. Ahlberg J.H., Nilson E.N., Walsh J.Z. The Theory of Splines and Their Appli- cation. - N.Y. - L.r Academic Press, 1967. [Ру с. пер.: АлбергДж.,Ниль- сон Э., Уолш Дж. Теория сплайнов и ее приложения. - М.: Мир, 1972.] 99. Anselone Р.М., Laurent P.J. A general method for the Construction of Inter- polating or Smoothing Spline-Functions // Num. Math. - 1968. - V. 12. 100. Arcangeli R. Pseudosolution de 1’equation Ax - у 11 C.r. Acad. Sci., Paris. - 1966.-V. 263,№8. WLAtteia M. Fonction-spline generalisee // C.r. Acad. Sci., Paris. - 1965. - V.261,№7. Bramble J.H., Nitsche J.A. A generalized Ritz-Least-Squares method for Dirichlet problems-// SIAM J. Num. Anal. - 1973. - V. 10,№ 1. 103 . Cooley J.W., Tukey J.W. An algorithm for the machine calculation of com- plex Fourier series // Math, of Comput. - 1965. - V. 19. Douglas J. Mathematical programming and integral equations // Sympos. Numerical Treatm. Ord. Diff. Equat., Integral and Integro-Differ. Equat. - Birkhauser, 1960. . 105 . Franklin J.N. Well-posed stochastic extensions of ill-posed linear prob- lems // J. Math. Anal, and Appl. - 1970. - V. 31, № 3. 106 .Hadamard J. Sur les problemes aux derivees partielles et leur signification physique // Bull. Univ. Princeton. - 1902. - V. 13. 107 .Hadamard J. Le probleme de Cauchy et les equations aux derivees partielles lineairess hyperboliques. - Paris: Hermann, 1932. [Ру с. пер.: Адамар Ж. Задача Коши для линейных уравнений с частными производными гипер- болического типа. - М.: Наука, 1978.] 108 .Jo/z« F. A note on ’’improper” problems in partial differential equa- tion // Communs Pure and Appl. Math. - 1955. - V. 8. 109 . Munteanu M.-J. Generalized smoothing spline functions for opera- tors // SIAM J. Num. Anal. - 1973. - V. 10. № 1. 110 .Nedelkov I.P. Improper problems in computational physics // Computer Physics Communs. - 1972. 111 . Phillips D. Z. A technique for the numerical solution of certain integral equations of the first kind // J. Assoc. Comput. Mach. - 1962. - V. 9,№ 1. 1 Yl.Reinsch C.H. Smoothing by spline functions // Num. Math. - 1967. - V. 10. Дополнительный список литературы 113. Алифанов О.М. Идентификация процессов теплообмена летательных ап- паратов. - М.: Машиностроение, 1979. 114. Ахиезер Н.И., Глазман И.М. Теория линейных операторов в гильберто- вом пространстве. - М.: Наука, 1966. 115. Барбашин Е.А. К теории обобщенных динамических систем // Ученые Зап. МГУ, Матем. - 1949. - Т. 2, вып. 135. 116. Бахвалов Н.С. Численные методы. - М.: Наука, 1973. 117. Вайникко Г. Методы решения линейных некорректно поставленных за- дач в гильбертовых пространствах. - Тарту: Тартуский ун-т, 1982.
118. Василенко В.А. Сплайн-функции: теория, алгоритмы, программы. - Но- восибирск: Наука, 1983. 119. Васильев Ф.П. Численные методы решения экстремальных задач. - М.: Наука, 1981. 120. Воеводин В.В. Численные методы линейной алгебры. - М.: Наука, 1966. 121. Воеводин В.В. Вычислительные основы линейной алгебры. - М.: Наука, 1977. 122. Завьялов Ю.С., Квасов Б.И., Мирошниченко В.Л. Методы сплайн-функ- ций. - М.: Наука, 1980. 123. Гончарский А.В.,Черепащук А.М.,Ягола А.Г. Численные методы реше- ния обратных задач астрофизики. - М.: Наука, 1978. 124. Гребенников А.И. Метод сплайнов и решение некорректных задач теории приближений. - М.: МГУ, 1983. 125. Иванов В.К., Васин В.В., Танана В.П. Теория линейных некорректных за- дач и ее приложения. - М.: Наука, 1978. 126. Карманов В.Г. Математическое программирование. - М.: Наука, 1980. 127. Корнейчук Н.П. Сплайны в теории принижений. - М.: Наука, 1984. 128. Лаврентьев М.М., Романов В.Г., Шишатский С.П. Некорректные задачи математической физики и анализа. - М.: Наука, 1980. 129. Лисковец О.А. Вариационные методы решения неустойчивых задач. - Минск: Наука и Техника, 1981. 130. Лоран П.Ж. Аппроксимация и оптимизация. - М.: Мир, 1975. 131. Люстерник Л.А., Соболев В.И. Элементы функционального анализа. - М.: Наука, 1965. 132. Марчук Г.И. Методы вычислительной математики. - М.: Наука, 1980. 133. Марчук Г.И., Кузнецов Ю.А. Итерационные методы и квадратичные функционалы. - Новосибирск: Наука, 1972. 134. Л/лрчук Г.И., Лебедев В.И. Численные методы переноса нейтронов. - М.: Атомиздат, 1981. 135. Морозов В.А. Регулярные методы решения некорректно поставленных задач. - М.: МГУ, 1974. [А н гл. пер.: Morozov V.A. Methods for solving incorrectly posed problems. - N.Y.: Springer-Verlag, 1984.] 136. Недялков И.П. О некоторых некорректных задачах теории потенциала и их приложении в разведочной геофизике. - София: Болг. АН, 1978. 137. Ни Кольский С.М. Квадратурные формулы. - М.: Наука, 1979. 138. Преображенский Н.Г., Пикалов В.В. Неустойчивые задачи диагностики плазмы. - Новосибирск: Наука, 1982. 139. Старостенко В.И. Устойчивые численные методы в задачах гравимет- рии. - Киев: Наукова думка, 1978. 140. Стечкин С.Б., Субботин Ю.Н. Сплайны в вычислительной математике. - М.: Наука, 1976. 141. Танана В.П. Методы решения операторных уравнений. - М.: Наука, 1981. 142. Тихомиров В.М. Некоторые вопросы приближений. - М.: МГУ, 1976. 143. Тихонов А.Н., Арсенин В.Я. Методы решения некорректных задач. - М.: Наука, 1979. 144. Тихонов А.Н.. Гончарский А.В., Степанов В. В., Я гола А, Г. Регул яри зирую- щие алгоритмы и априорная информация. - М.: Наука, 1985. 145. Трауб Дж„ Вожьняковский X. Общая теория оптимальных алгорит- мов. - М.: Мир, 1983. 146. Федотов А.И. Линейные некорректные задачи со случайными ошибками в данных. - Новосибирск: Наука, 1982. 147. Форсайт Дж., Молер К Численное решение систем линейных алгеб- раических уравнений. - М.: Мир, 1969.
Владимир Алексеевич Морозов РЕГУЛЯРНЫЕ МЕТОДЫ РЕШЕНИЯ НЕКОРРЕКТНО ПОСТАВЛЕННЫХ ЗАДАЧ Редактор Г.П. Грошев Художественный редактор Т.Н.Кольченко Технические редакторы С.В.Геворкян. В.И.Никитина Корректоры Н.П. Круглова, Т.В. Обод, Т.А. Печко Набор осуществлен в издательстве на наборно-печатающих автоматах ИБ № 12297 Сдано в набор 13.11.86. Подписано к печати 17.02.87. Т—05273 Формат 84 х 108 1/32.Бумага офсетная № 1 Гарнитура Пресс-Роман. Печать офсетная Усл.печ.л. 12,60. Усл.кр.-oi i. 1 2,60. Уч.-изд.л. 13,48 Тираж 6500 экз. Тип. зак.459 Цена 1 р. 80 к. Ордена Трудового Красною Знамени издательство ’’Наука” Главная редакция физико-математической литературы 117071 Москва В-71, Ленинский проспект, 15 4-я типография издательства ’’Наука” 630077 г. Новосйбирск-77, ул.Станиславского, 25