Text
                    Р.Л.Стратонович

УСЛОВНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ

И ИХ ПРИМЕНЕНИЕ К ТЕОРИИ ОПТИМАЛЬНОГО УПРАВЛЕНИЯ

Книга является первой монографией, посвященной теории условных
марковских процессов. Данная теория относится к новому разделу
математической статистики и находит многочисленные применения в теории
оптимальной нелинейной фильтрации, теории обнаружения процессов при
неполном их наблюдении, статистической теории оптимального управления и .др.

В книге систематически излагается ряд оригинальных результатов автора как
по общей теории, так и (в меньшей степени) по решению отдельных задач.

Книга написана как математическая монография с привлечением понятий и
аппарата современной теории вероятностей и рассчитана в первую очередь на
специалистов в этой области.

Ввиду большого прикладного значения теории условных марковских
процессов книга представляет интерес также для научных работников,
аспирантов и инженеров, работающих в области радиоэлектроники и.,
кибернетики. Опуская математические детали, они могут пользоваться ею как
справочным руководством для ознакомления с методами и результатами,
отсутствующими в других книгах.

ОГЛАВЛЕНИЕ

Предисловие	3

Часть I

НЕКОТОРЫЕ ВСПОМОГАТЕЛЬНЫЕ ВОПРОСЫ ТЕОРИИ
МАРКОВСКИХ ПРОЦЕССОВ

Глава 1. Сходимость немарковского процесса к марковскому	9

§1.1	. Постановка вопроса	9

§1.2	. Основная теорема	14

§1.3	. Примеры	25

Глава 2. Новая форма записи стохастических интегралов и уравнений	28

§2.1	. Симметризованный стохастический интеграл и его связь с	29

интегралом Ито

§	2.2. Стохастические уравнения	37

§2.3	. Инвариантная запись уравнений Колмогорова	41

§	2.4. Стохастические линейные операторы	43

Глава 3. Марковская система мер и инфинитезимальные операторы	46

§3.1	. Операторы, соответствующие марковской системе мер	47

§3.2	. Одна теорема о замене системы мер	58

§3.3	. Переход к специальному случаю	61

§	3.4. Диффузионные операторы и статистика приращений	69

Глава 4. Абсолютная непрерывность диффузионных марковских мер и	77

производные в функциональном пространстве

§4.1	. Некоторые леммы для мер с вырожденной матрицей дисперсий 78

§ 4.2. Обозначения о-алгебр в функциональном пространстве 81 §4.3 . Производная Радона—Никодима для диффузионного процесса 86 § 4.4. Производная в функциональном пространстве при частичном 90 усреднении диффузионного процесса Часть П ОСНОВНЫЕ РЕЗУЛЬТАТЫ ТЕОРИИ УСЛОВНЫХ ПРОЦЕССОВ МАРКОВА Глава 5. Некоторые общие результаты для процессов в произвольном 96 фазовом пространстве §5.1 . Постановка вопроса и первые теоремы 96 §5.2 . Некоторые теоремы для процессов с информационной 99 непрерывностью §5.3 . Введение основной апостериорной меры 104 § 5.4. Другой способ введения основной апостериорной меры 107 §5.5 . Апостериорные меры, соответствующие начальному 110 распределению §5.6 . Некоторые общие свойства апостериорных мер 115 Глава 6. Скачкообразные изменения наблюдаемого диффузионного 121 процесса §6.1. Марковский процесс с т состояниями 121 § 6.2. Несколько диффузионных процессов и марковские переходы 127 между ними § 6.3. Апостериорные инфинитезимальные операторы 130 § 6.4. Вторичный апостериорный оператор 136 § 6.5. Пример. Процесс с двумя состояниями 137 Глава 7. Неполное наблюдение многомерного диффузионного процесса 141 §7.1. Постановка вопроса и основные результаты 141 § 7.2. Некоторые обобщения 148 § 7.3. Два примера 150 Часть Ш ПРИМЕНЕНИЕ ТЕОРИИ УСЛОВНЫХ МАРКОВСКИХ ПРОЦЕССОВ К ТЕОРИИ ОПТИМАЛЬНОГО УПРАВЛЕНИЯ Глава 8. Некоторые общие результаты теории оптимального управления 155 §8.1 . Общая постановка задачи. Функция рисков в измеримом 158 пространстве §8.2 . Случай ступенчатого индекса. Оптимальные условные риски 164 § 8.3. Оптимальные решения 170 § 8.4. Полугруппа преобразований, соответствующая решению. 175 Регулярность §8.5 . Достаточные координаты 179 § 8.6. Преобразования функций от достаточных координат. Уравнение 182 альтернатив
§8.7 . Случай марковского основного процесса 188 § 8.8. Обобщение на теорию игр 194 Глава 9. Оптимальная нелинейная фильтрация 198 §9.1. Постановка задачи 201 § 9.2. Уравнения и блок-схема оптимальной нелинейной фильтрации 204 §9.3. Пример апостериорного процесса с бесконечным числом 207 состояний § 9.4. Другие примеры процессов с бесконечным числом состояний 211 § 9.5. Переход к линейной фильтрации 214 § 9.6. Сравнение эффективности линейной и нелинейной фильтрации 218 для одного примера Глава 10. Задачи на оптимальное прекращение процесса 224 § 10.1. Постановка задачи. Функция штрафов 225 § 10.2. Достаточные координаты и условные риски 227 § 10.3. Переход к непрерывному индексу. Дифференциальное уравнение 229 для рисков § 10.4. Одномерный случай 234 § 10.5. Оптимальные решающие функции 238 § 10.6. Пример. Остановка марковского процесса с двумя состояниями 240 Глава 11. Выбор оптимального наблюдения и оптимального управления 246 процессом § 11.1. Задачи на оптимальное наблюдение 247 §11.2 Задачи на оптимальное управление марковским процессом с 257 двумя состояниями § 11.3. Другая задача на оптимальное управление. Слежение за 263 блуждающей точкой § 11.4. Увеличение числа достаточных координат 269 Приложение 1. Условные меры и математические ожидания 280 ненормированных мер Приложение 2. Условная минимизация 282 Дополнение. Решение некоторых задач математической статистики и 290 последовательного анализа Литература 313

ках теории марковских процессов, мы будем иметь услож- нение решения, адекватное усложнению задачи. Согласно сказанному выше выглядит совершенно есте- ственным тот факт, что в настоящее время проявляется боль- шой интерес к марковским процессам. Свидетельством тому является выход в свет ряда монографий, которые посвящены им. Однако, к сожалению, монографии, в которых рас- сматривалась бы статистика марковских процессов (т. е. изучались бы те случаи, когда наблюдается некоторая функция от марковского процесса), полностью отсутст- вуют. Настоящая книга призвана в посильной степени запол- нить этот пробел. Если наблюдается некоторая функция yt=f(xt) от мар- ковского процесса Xt, то соответствующие этому наблюдению апостериорные вероятности, скажем P(dxt \ух, т<7), отли- чаются от априорных. Исследование этих апостериорных ве- роятностей и их эволюции во времени составляет предмет теории условных марковских процессов. Первые результаты этой теории и основывающейся на ней нелинейной оптимальной фильтрации были доложены автором на Всесоюзной конференции по статистической радиофизике в г. Горьком (1958 г.) и на семинаре при ка- федре теории вероятностей МГУ (Стратонович [1]). Резуль- таты указанного периода опубликованы в работе автора [2]. К ним относится дифференциальное уравнение = (Say/) W ~ ® (*) J (Вау/) (*')dx' для апостериорной плотности (по мере Лебега) распределе- ния вероятностей wt (х) =- Р (dxt | ух, т < t)!dxt. Здесь Xt — точка многомерного фазового пространства; В — основной апостериорный оператор, зависящий от наблюдае- мого процесса yt и от априорных статистических данных. Приведенное уравнение замечательно тем, что оно являет- ся нелинейным относительно wt. По-видимому, впервые в теории вероятностей встречается уравнение, нелинейное от- носительно вероятностей. Позже была введена специфическая, ненормированная (т. е. не вероятностная) основная апостериорная мера Vs (xs, Г), которая обладает марковскими свойствами (удов- летворяет уравнению Чепмена—Колмогорова). Ее плотность v (xs, s; xt, t) = V, (xs, dxt)!dxt
удовлетворяет уже линейному уравнению dv-Bv dt с тем же самым оператором. Различные апостериорные ве- роятности могут быть выражены через эту меру. В тривиальном и практически мало интересном частном случае, когда наблюдаемый процесс yt является марковским сам по себе, указанное вначале уравнение оказывается ли- нейным и надобность в введении вспомогательной меры V отпадает. Именно к этому случаю относятся результаты, приведенные без доказательства в заметке Лян Чжи-Шуе- на (1]. В ней, помимо предположения о существовании услов- ных распределений, вводятся топологические ограничения фазового пространства (предположена его сепарабельность). По нашему мнению, введение топологии в фазовом прост- ранстве не является необходимым для теории. Лицом марковского процесса является его инфинитези- мальный оператор. Априорно марковский процесс характери- зуется априорным оператором. Основная апостериорная мера описывается основным апостериорным оператором (В в при- веденном уравнении). Через него можно выразить другие апостериорные операторы. Вид основного апостериорного оператора зависит от априорного, а также от способа наблю- дения. Получение вида апостериорного оператора для раз- личных конкретных случаев является центральной задачей теории условных марковских процессов. В настоящей книге эта задача решается для нескольких важных частных слу- чаев, соответствующих диффузионным процессам. Для дис- кретного времени вместо дифференциальных уравнений вы- ступают рекуррентные преобразования. ; Нелинейная фильтрующая система в главной своей части реализует указанные уравнения или преобразования. Вместо апостериорных вероятностей можно рассматривать также заменяющие их параметры. Если найден апостериорный опе- ратор, то алгоритм рекуррентных преобразований опреде- ляется без особого труда. Результирующее сложное преобра- зование является следствием более простых поэтапных пре- образований. Таким образом, синтез фильтрующей системы не требует трудоемких вычислений. Задачи, связанные с решением или моделированием урав- нений (рекуррентных преобразований) для апостериорных вероятностей или параметров, их заменяющих, мы называем первичными, а соответствующие уравнения — первичными апостериорными уравнениями. Теория условных процессов Маркова позволяет решать также вторичные задачи, в которых рассматриваются функ- 6
ции от апостериорных вероятностей или заменяющих их параметров. Для этих функций можно записать дифферен- циальные уравнения (вторичные уравнения), оператор кото- рых можно назвать вторичным апостериорным оператором. Его получение также является важной задачей теории. Функцией, зависящей от достаточных координат, т. е., по- мимо прочих переменных, от апостериорных вероятностей или заменяющих параметров, в теории оптимального управ- ления является условный риск. Оптимальное управление со- провождается минимизацией этого риска. Отыскание опти- мальных решений и оптимальных условных рисков происхо- дит одновременно. Более того, нахождение условных рисков помогает отыскать оптимальное решение, и отсюда видна большая роль, которую играют условные риски в теории оптимального управления. Зная вторичный апостериорный оператор, мы легко мо- жем записать уравнение для урезанных условных рисков — основное уравнение теории. Установление этого уравнения и его решение — в этом заключается стандартный путь, реко- мендуемый теорией оптимального управления. При обобщении теории на случай непрерывного времени удобно использовать понятие оптимальных условных рисков (определенных при помощи условных минимизаций и усред- нений функции штрафов) как более первичное, чем даже по- нятие оптимального решения. Переходу к непрерывному вре- мени помогает введение ступенчатого индекса. Случай непре- рывного времени и ступенчатого индекса (когда время ме- няется непрерывно, а информация приходит в дискретные моменты) занимает промежуточное положение между слу- чаем дискретного времени и случаем непрерывного времени и непрерывного индекса (непрерывного притока информа- ции). В последнем (вдвойне непрерывном) случае трудно продуктивным образом определить оптимальные решения, но не представляет труда дать определение «оптимальных» ус- ловных рисков. После того как это определение дано, берется ступенчатая аппроксимация непрерывного индекса и для нее строятся оптимальные решения. Риски этих решений могут быть сделаны сколь угодно близкими к «оптимальным» рис- кам, соответствующим непрерывному индексу. В этом смысле данные решения являются е-оптимальными для непрерывного индекса. Описанным путем обходятся чисто логические труд- ности обобщения теории на случай непрерывного времени, и строится работоспособная теория. Излагаемая в книге формулировка теории оптимального управления возникла путем обобщения в процессе работы автора над различными конкретными задачами. Возможность распространения применяемых методов на новые задачи, привела к абстрактной форме теории. Адекватным языком
для такой степени общности является язык измеримых функ- ций и теории меры. Поэтому мы выбрали здесь изложение на этом языке, хотя с педагогической точки зрения этот спо- соб изложения можно считать наименее целесообразным. Мы предполагаем, что читатель будет осваивать основной мате- риал, параллельно знакомясь с конкретными задачами и примерами,- чтобы понять, что скрывается за абстрактными формулировками. При этом от читателя требуется встречная личная активность. Полезно помнить, что при чтении книги листать ее страницы справа налево требуется так же часто, как и в обратном направлении. Поскольку теоретическая значимость различных мест книги обратно пропорциональна их доступности, мы не де- лаем попыток выделять часть материала в петит, предостав- ляя различным категориям читателей выбрать свой собствен- ный способ чтения. Читатель, владеющий языком теории ме- ры и имеющий опыт работы в близких областях, может сразу начинать с абстрактных формулировок. Менее подго- товленный читатель должен больше внимания уделить при- мерам, которых немало в книге. Лица, интересующиеся при- ложениями, могут переносить методы решения с излагаемых задач на свои собственные, минуя абстрактные формулиров- ки и тем более доказательства. Широкий круг читателей, специалистов по приложениям, может, кроме того, использо- вать книгу для повышения уровня своей математической подготовки. Наконец, лицам, занимающимся самостоятель- ной работой, книга может принести большую пользу в каче- стве справочника, содержащего те или иные формулы и ре- зультаты, отсутствующие в книжной литературе. Читатель без труда заметит, что указание источников и список литературы в книге весьма неполны. В оправдание автор может сказать, что он не проводил сколько-нибудь подробного библиографического анализа и считает историче- ский обзор данных вопросов преждевременным. В заключение автор хотел бы поблагодарить Ю. Л. Кли- ментовича, М. С. Пинскера, В. И. Тихонова, С. В. Фомина, Э. М. Хазен и Р. 3. Хасьминского, которые познакомились с книгой в рукописи и сделали ряд полезных замечаний.
Часть I НЕКОТОРЫЕ ВСПОМОГАТЕЛЬНЫЕ ВОПРОСЫ ТЕОРИИ МАРКОВСКИХ ПРОЦЕССОВ Глава 1 СХОДИМОСТЬ НЕМАРКОВСКОГО ПРОЦЕССА К МАРКОВСКОМУ § 1Л. ПОСТАНОВКА ВОПРОСА Аппарат марковских процессов является весьма эффек- тивным главным образом по той причине, что он связан с аппаратом дифференциальных уравнений, которым удовлет- воряют вероятности марковских процессов в случае непре- рывного времени. В дискретном времени этим уравнениям соответствуют определенные рекуррентные соотношения. Описанное обстоятельство способствует получению разнооб- разных результатов. Между тем применение результатов теории к физическим и техническим задачам часто сопровождается затруднения- ми. В указанных приложениях функции времени обычно обладают рядом «хороших» свойств? гладкостью и даже ана- литичностью, что, как известно, несовместимо с марковскими свойствами процесса. Поэтому применение теории точных марковских процессов необходимо связано с некоторыми приближениями. Возникает практически важная и принципиально инте- ресная проблема исследования близости марковского и не- марковского процессов, изучения условий их взаимозаменяе- мости и связанных с этим погрешностей. Эта проблема в настоящее время почти не изучена, если не говорить о неко- торых тривиальных частных случаях. Предварительные общие исследования по данному вопросу содержатся в § 4 моногра- фии Стратоновича [8]. Утверждение факта сходимости немарковского процесса к марковскому до известной степени напоминает центральную предельную теорему, касающуюся сходимости негауссового закона распределения к гауссовому. Из этой аналогии видна
обширность данной проблемы. Конкретизация понятия «бли- зости» марковского и немарковского процесса, исследование условий сходимости и быстроты сходимости может составить содержание отдельной главы теорйи вероятностей. Здесь мы рассмотрим лишь один частный результат по указанной проблеме. Именно при некоторых предположениях мы докажем самый факт сходимости распределения немар- ковского процесса к распределению диффузионного марков- ского процесса. Вообще говоря, этот результат содержится в результатах указанной монографии, изложенных с более общих позиций, но здесь он будет разобран и доказан более подробно. Пусть немарковский процесс { x(t)} — { х(/), t, со, у } опре- деляется, как это часто бывает в приложениях, дифферен- циальным уравнением = G(x(t), t, со, у). (1.1) Здесь со — точка основного вероятностного пространства (Q, Р). Для простоты будем считать процесс одно- мерным, т. е. полагать, что его фазовое пространство есть интервал I. Без дальнейшего ограничения общности можно считать I— (—а, а). Кроме этого интервала мы будем рас- сматривать также круг /? = {| х | < а} в комплексной плоско- сти. Время t пусть является точкой действительной оси, а у — положительное число. Сформулируем ряд предположе- ний относительно функции, стоящей в правой части: 1. А]. При фиксированных t, у, х(€Д) она является ^-изме- римой «-функцией, причем моменты MG (хх, tlt со) ... G (хг, tr, со) (1.2) всевозможных порядков г=1, 2, ... конечны. 1. Аг- При фиксированных со, t, у она с вероятностью 1 пред- ставляет собой регулярную аналитическую функцию от х в круге Д. Аналогично ее моменты (1.2) регулярны в 7?Х ... X/?. 1. А3. При фиксированных х, со, у она с вероятностью 1 яв- ляется непрерывной функцией от t. I.A4. При фиксированных х, у она является стационарной случайной функцией (в узком смысле). Если задать начальное условие X(s)=y^l, (1.3) то уравнение (1.1) почти всюду будет определять процесс х (0 = f (s, у, t, со, у) = /з (у) (1.4)
на тех временных интервалах 5<Д<0($, у, и, ц)^0(ы)( т. е. на тех множествах й' (s, у, t, р) = {со : t < 0 ($, у, со, р)}, где этот процесс не выходит из I. Здесь 0(s, у, со, ц) —пер- вое время выхода из / траектории, начинающейся в у. Это следует из известных положений теории дифференциальных уравнений, если учесть 1.Аз. Очевидно, что функция (1.4) бу- дет -измерима при фиксированных прочих аргументах, ©^-измеримость сохранится, если в начальном условии (1.3) значение у = у(со) считать ©^-измеримой co-функцией. Итак, описанным способом сконструирован вероятностный процесс х(/, со, р). Дифференциальное уравнение (1.1) можно заменить на интегральное t х (t) — у.+ J G (х (т), г, со, ц) dx. S Последнее можно решать методом последовательных при- ближений по формуле t Д/+1) (/) = у -j- J G (х(/> (т), т, со, ц) dx, S /=0,1,...; Д°>(0 = с/. (1.5) Как следует из теории дифференциальных уравнений (см., например, Смирнов [1], стр. 152—156), эти приближения заведомо будут сходиться для точек со, соответствующих непрерывным по t функциям G (т. е. почти всюду), на отрез- ке [s, 0' (со)]. Здесь 0' (со) = Mo1 min (а — у, а 4- у\, (1-6) MG = sup {IGI; x(J, s < t < 0 (co)}. На указанном интервале ни одно приближение (1.5) не вы- ходит из [—а, а]. Для разностей xj=x<j)—хб'-О согласно (1.5) имеем реку- рентные соотношения t Х/+1 (/) = J [G (у -ф х1 Д- ... + х'-1 + х1, х, со, р) — S — G (у + х1 + . .. + х1'-1, х, со, р,)] dx. Пользуясь аналитичностью функции G по х, разлагаем под- ынтегральные функции в ряд Тейлора
f dlG J дУ1 s (у, T, <0, р) [(л4 + . . . 4- Х'~х + Xs)1 — — (х1 + • • • + который сходится на [5, 0'(®)]. Пользуясь этими соотношениями, можно явно выразить все х3 через функцию G и ее производные. Так, младшие формулы имеют вид t х1 (f) = J G (у, х, о), р) dx; S X2 (t) = — J -0- (У, X, (Л, р) Г j G (у, х1г (Л, р) dTjJ dx, (1.7) 1=1 s s Точное значение x(t) представляется сходящимся >п. н. (почти наверное) рядом х(0 (1-8) /=1 Легко понять, что подстановка выражений типа (1.7) в (1.8) приводит к сумме полилинейных выражений от функ- ции G и от ее производных вида р + +р * * x(t) = У ~----------—Г ... со, p)...G(z/ т 9, со,р)х dy‘...dAJ J <7P1-Pg 1 4 s S х <?«р..-р? (Т1.x9)dXi...dc9 (1.9) (после дифференцирования нужно положить у\ = ... =yq=y), где Q9P1...p9 (ть..., Тд) — некоторые ограниченные положи- тельные функции от ri, .... xq, не зависящие от у, со или р. Это будет принято во внимание в дальнейшем. «Близость» процесса x(t) к марковскому будет обеспечи- ваться малым параметром р при специальном выборе зави- симости G от р. Имея в виду рассмотреть сходимость про- цесса к диффузионному, положим G(x, t, со, р) = p2m(x) + ng(x, t, <в), (1.10)- где p2m(x) = MG(x, t, со, р),
т. е. М g(x, t, <в) = 0. (1-11) Функции т, g уже не зависят от ц. Вводя новый масштаб времени, положим /=p2/. Если обо- значить = x(t); g(x, i, <о) = g(x,7, со), то будем иметь = т (х) + “)> *(0 =7г &)• (1.12) Подстановка (1.10) в (1.9) увеличит число членов. Выписы- вая для примера типичный член, в который г раз входит g и q—г раз входит т(у), будем иметь ЗР1+-+р9 дУ?\ dy9q4 t t Ф,) И S S • • - — g (ytr, <ЪГ) m (yir+x) ...m (ylq) Q9Px... p<? (Op ..., o?) da1... d<Jr (1-13) Мы использовали соотношения Q?Pi-P9 • ’ — QlPi-Pq (av • • > aq)- В том, что они справедливы, и в том, что ц входит в (1.13) лишь в комбинации g/y, можно убедиться, составляя выра- жения (1.8), (1.9) непосредственно во времени / при помощи уравнения (1.12). Оценим длину гарантированного интерва- ла сходимости, применяя (1.6). Согласно (1.10) имеем MG = pMg +О(|л2), Mg = sup | £|. Поэтому длина интервала сходимости на оси t, равная [/Wg + O(p)]-1pmin(a—у, а + у), сокращается при ц->0, в то время как длина на оси t, рав- ная [pMg + O(p,2)]-Imin(a—у, а + у), неограниченно увеличи- вается. В действительности длина фактического интервала сходимости еще больше. Функция g(x, t, со) как стационар- ная. функция времени является знакопеременной величиной, поэтому время пребывания функции 'x(t) в / и время пребы- вания всех ее приближений есть О(ц~2) (или 0(1) в мас- штабах /). Не проводя строго обоснования этого факта, мы сформулируем условие сходимости рассматриваемого в даль- нейшем ряда как дополнительное предположение.
§ 1.2. ОСНОВНАЯ ТЕОРЕМА Зафиксировав начальное условие Хо, рассмотрим процесс х(0=/о(хо). Основное утверждение будет заключаться в том, что этот процесс при ц->0 стремится «по распределению» к диффузионному марковскому процессу. Теорема 1.1. Пусть g(x, t, и) есть описанная выше функция. Предположим, что 1) ее семиинварианты К [£<хр /р со), , g(xr, tr, со)] = kr(xlt t±...xr, tr) s = ....(1-14) удовлетворяют условиям ___r__ L т т , , 2 С P P ^vi+—+vr , । lim L \(L—x)dx\...\ ----------------kr(x,—л1(...,—лг_2) . ь-»<» J J J dxv,1 ... dxvrr о о 0 1 r da± ... dnr_2 = Nr <Z oo; (1-15) _ r IL L L , . 9 P e pi (5vi+--+vr lim L I xdx \ ... I -------------kr (— Cp ... J J J I dx> ... dxVr о о 0 1 r ...» ~ ^>u— Ь T, T Ф* Ttp . . . , T Яг—u—i) | d^ ... d^u-ida! ... dar_u_x ~ 0 (1.16) при всех г >2; u > 1, г — и 1; vx > 0, ... , vr > О, 2) распределение случайных величин (1.23) однозначно определяется своими моментами и 3) что ряд (1.29) сходится. Тогда 1.1.А. Любое конечномерное распределение процесса x(t), определенного уравнением (1.12), при ц^-0 вполне сходится к соответствующему распределению некоторого марковского процесса хм(0; ЛаА 1.1.Б. Последний является диффузионным: limM —-—=0, <7> 3 и характеризуется следующими параметрами сноса и локальной дисперсии о limM-^- = m(xM) + ~ f k'2(x’, хм> x)dx (х'= хм); д-»о А дх' J --ОО Ах2 г , limM —— = \ k2(xM, хм, т) dx, (1.17) д->о А .1 —ОО
если Nr = 0 при г > 3. (1.18) При доказательстве теоремы будет использована Лемма 1.1. Пусть заданы две группы случайных вели- чин = 1а (<», р), 0=1, ...,р U = £)}(“, и), Р = р+1, p + s таких, что существуют и конечны как все моменты •••> Yu = 1....P + s; о~1,2, ...), так и соответствующие им пределы Jjm М gv> ... (1.19) Тогда, если при любых /г> 1, /> 1 парные корреляции исче- зают: limKlU ••• U, Вр, =0 (1.20) ц-,0 я 1 (ai = 1, ... , р; р. = р+ 1...p + s), то указанные группы становятся независимыми, то есть функ- ция распределения стремится к произведению функций рас- пределения Р < 2^, ... , £jp-f-s ^p+s] "* F± (д, .. , zp) F2 (грц-1, ... , Zp-ps). Сходимость «вполне» (вл.) определена в книге Лоэва [1], стр. 191. Доказательство леммы 1.1. Примем во внимание известное решение «проблемы сходимости моментов» (Лоэв [1], стр. 198), которое гарантирует существование полного предела функции распределения Р [gi<zb ..., gp+s<zp+s]. Этот предел однозначно (с точностью до постоянного слагаемого) определяется соответствующей характеристической функцией и предельными моментами (1.19). Поэтому Р Д Д> • • , ?P4-S Zp+sl ~~* F (Д, • • • , 2p_|-s), где F(zi, ..., Zp+S) обычным образом выражается через харак- теристическую функцию 0(ui, .... Up+s). Для доказательства леммы остается показать, что эта характеристическая функ- ция, определяемая пределами (1.19), распадается на произ- ведение: в (щ, , up+s) = (д, ... , ир) 02 (uP+i, ... , uP+s). (1.21) Из (1.20) вытекает, что стремятся к нулю все смешанные семиинварианты lim ад...a. pi...p, — 0, £^>1, / ^>1 (ад...«А = к [ад,.... ад, ад.....ад]). a .22)
В самом деле, предположим противное й возьмем младший не стремящийся к нулю семиинвариант (с наименьшей суммой k + Г), скажем 6а,...акр,...рк- Момент М £0, ... пред- ставляется через семиинварианты по известным формулам (Стратонович [8]). Вычитая из этого выражения произведение соответствующих аналогичных выражений для М ... £ax и М gp, ... gpx, найдем парную корреляцию К [U- • -1ак> |р,- • -IpJ- Она не стремится к нулю при р. -> 0, если ^a,...axp,...p^ не стре- мится к нулю, а более младшие семиинварианты стремятся. Это противоречит формуле (1.20) и доказывает, что данный семиинвариант также стремится к нулю. Выражая In 0 (д, ... ... , Up-ps) через семиинварианты по известным формулам, убеж- даемся, что из (1.22) следует 11.21). Лемма доказана. Доказательство теоремы 1.1. Доказательство утвер- ждения 1.1.А проведем в два этапа. На первом этапе дока- жем, что к случайным величинам 51 =7о1(хо)..|р=7Ж). U1=7^+I(^ (1-23) 7' где t <tP+e, <o(Q'(o, x0,-~, \ p,8 н) П Q' (— > У, tp+x , U \ P2 p2 можно применить лемму 1.1 (при s=l) и доказать, следова- тельно, что эти величины сходятся к независимым. На втором этапе будет доказано, что из этой независимости вытекает 1.1.А. 1) Используя (1.13), получаем разложение — ^.+-+^+„ f Г f Г *•Ч’й" «Л X S Д) • • • S (,Ут-{-П1 ^rn-f-n) Qmnkt...kmn (Д, • • • >&т+п) с/Д • • • dGm-^-n (1-24) (пссле дифференцирования полагается уг = ... = уп = х0; Ут±\ = ~ Ут+'п = у). Здесь Q^,..Am+ra — новые функции, выражающиеся интегрально через Qni...oq и производные от т(х). Поэтому они зависят от х0 и у, но не зависят от со и р (а также от ylt ... , z/^+„). Усредним равенство (1.24) и выра- зим моменты Ntg(yv д) ... g(ym±n, вт+п) через семиинвари- анты (1.14): *
ffj) • • • g(ym+n, Gm+n) = s n kr. (ri пар из yv ст1, ... 2 r.^=m-\-n • • • j Ут+ni Gm+ti), (1*25) где 2* — известная (Кузнецов, Стратонович, Тихонов fl]-, Лео- нов, Ширяев [1]) симметричная конечная сумма по различным разбиениям и перестановкам аргументов. Если теперь от момента М la, ... перейти к семиинварианту К [U •.. Ц, %+1 J = МU - М |ai ... ЦМ ^+1! (1-26) то число членов суммы 2* в выражении для Mgat . la^p+i уменьшится: останутся лишь «неразложимые» произведения (по терминологии Леонова и Ширяева). Произведение назы- вается «неразложимым» (в данном случае), если в нем есть хотя бы один «смешанный» сомножитель. Сомножитель k^yt^, (Г,, ... , yir, Gir) мы называем «смешанным», если в числе его аргументов есть хотя бы один аргумент из группы оу,..., от и в то же время хотя бы один аргумент из о,)1+1, ... ..., от+п. Обозначим символом 2** сумму только неразложи- мых членов суммы 2*. Тогда будем иметь S'+,l= S .. X X Qzrt/7^! • • j сГ/п+л) d,(y^ ... (1-27) • > Gtn±nj X Мажорирующий ряд ду\1 , . . 1 т^п d,(jy ... (1.28) очевидно, превосходит | К , Bp+ll !• Здесь = Slip {Qm/Ai...Kmjl_n (Oj, • • • , O<n+/i) 1 Oy, • • • , O;7i ( [0, tp]', Om4-1, • • , £ Vp> < О®-
Будем предполагать сходимость ряда -j-fl (1.29) При этом суммы (1.27), (1.28) будут стремиться к нулю при р-^-0, если стремится к нулю каждый член ряда. В самом деле, легко показать, что сумма сходящегося ряда стремится к нулю при если все члены этого ряда положительны, убывают при ц-»0 и стремятся к нулю. Докажем, что каждый член ряда (1.28) (а следовательно, и (1.27)), стремится к нулю при ц->0. Рассмотрим типичный такой член dtZ* . . . dl/'m+n 1 т \ п J"! kri 1 da±... do„+n. Это выражение распадается на произведение интегралов s = П s,. ^Vi+-..+vr. длф1 ... dxVri kr. (хх, о;, х р ... dor." (1.30) где хг, <тр ... , хг, о'г представляют собой г,- пар из yv сг1, ... ... , ут+п, вт+п- После дифференцирования по х- нужно поло- жить х}. = х0, если х- {ylf ... , ут} и х,- = у, если (z/m-1-i, . .. , Ут+п\- Интегрирование проводится по интервалу если ({%•••> О’,,,}, и по интервалу [tp,tp+i], если о) £ ... , сгт+л}- Сомножитель является несмешанным, если все .его аргументы ор ... , а'г принадлежат одной группе <т1, .. . , (Ут или crm_|_i.(Jm+n- Скажем, они принадлежат пер- вой группе, тогда интегрирование в (1.29) проводится по облас- ти [0, у X ... X [0, tp\.
Сделав замену переменных Ту = р.2сг? имеем tp№ о о <л*+~+ч- , £/• дхр ... dx^/i dtl .. dr г.. г Разобьем область интегрирования [0, р. 2/Р]Х ... Х[0, ц~2/р] на гД/у—1) подобластей, фиксируя максимальный и второй по величине из аргументов. Тогда где сумма содержит /у (г,—1) членов. Используя свойство стационарности и тождество t f dx' f <р(т' — x")dx" — ( dx' C (f(x)dx bi bo t = J (t — т) ф (r) dx, о получаем (1-31) kr. (t, — n15 . . dnx ... dffif.2* (r = T' — X", Hy = x" Согласно (1.15) это выражение стремится к конечному пределу при ц-Х). Среди сомножителей ПЗЛ как отмечалось ранее, заведомо имеется хотя бы один «смешанный» сомножитель. Среди его аргументов имеется и>0 аргументов из группы ..., стт и г<— —п>0 аргументов из om+i, ..., от+п- Для такого сомножителя после замены переменных Т; = ц2О; будем иметь дх\'...дх^ kri(x1,X1,. X dx-i . .. dxr. или, если обозначить L = у~2 max (t , tP+i — t) = p.~2L0 и ис- пользовать свойство стационарности,
X dxA ... dxr.. Пусть тогда х' --= max (тх, ... , ти); х" = min , тг), О т' У [ir‘ dx' у. . . у dx\ .. L x'—L dv‘+- , kr, dx^ ... (1.32) Здесь сумма содержит и (ri — и) членов, соответствующих областям х' = тр х" = т/г; / = 1, ... , u; k = и + 1. Легко видеть, что для всякой интегрируемой неотрицатель- ной функции ф(т', т") справедливо неравенство О L 2L. X f dx' j ср (х', х") dx" < — x,x")dx", (1.33) —L о бо поскольку справа область интегрирования шире. В нашем случае х' — ^и—1, х", х" + лх......х" + nx-u-i) dn± . .. dnr.-u^i.
Эта функция зависит лишь от разности т"—т'=т, поэтому интегрирование по т" в правой части (1.33) сводится к умно- жению на'т. Применяя (1.33) к (1.32), имеем . , — ^-1, Т, т +Яр . . . , X + лг.. -u-i) • • • . . . _ic/л^ • • • ^Я^-—и—1* Вследствие (1.16) это выражение стремится к нулю при L->co, ц->0. Итак, среди сомножителей ILS; есть хотя бы один, стре- мящийся к нулю при ц-*0, в то время как остальные стре- мятся по меньшей мере к ограниченным пределам. Это до- казывает стремление к нулю каждого члена суммы (1.28) и, следовательно, всей суммы. Поэтому семиинвариант (1-26) стремится к нулю. Тем самым оказывается выполненным условие (1.20) леммы 1.1. Применение этой леммы доказы- вает, что распределение случайных величин (1.23) вполне сходится к такому распределению, в котором величина =/'р-н (#) оказывается независимой от остальных. 2) До сих пор значение у в х (t) = ^\(у), t~>tp у нас бы- ло независимой переменной. Между тем, если мы интере- суемся непрерывной траекторией х (t) — f о С*о), следует рас- порядиться этим значением так, чтобы у = fop (хо)- Пусть точки {Ya} образуют Д-разбиение интервала / и пусть /д (?р) = 1^а(£р) , есть тот из элементарных интервалов, который содержит точку £р = fty (х0). ~~ Очевидно, что функция, совпадающая с (х0) при t < tp и с f * (Ya(i )) при t>t , имеет единственный разрыв в точке t , по величине не превосходящий Д. В процессе предельного перехода Д —» 0 эта функция будет с вероятностью 1 стремиться к непрерывной функции x(t)=fo (х0), Поэтому Р{Л>7^1(Вр)<гр+1|/Чц} = Р{Л,7^+>(Уа(5р))<гр+1|7д(у}+0(1) п. н. (1.34) Здесь Л = {со : > ^р-1 < Zp-J, a ......z^, z^ — действительные числа.
Рассмотрим условную вероятность Русл (*/) = Р {Л, (Zp) < zp+r \1Р = у} = = ИтР[Л, 7^+1(У<^н1/ЛШ • д-»о которая в силу (1.34) равна Русл (у) = lim Р (Л, /£+> (YaW) < гр+11 /д Ш (1.35) д-о р Введем функцию ,£ . .. Р {Л, 7Д (gp),7^+1 (И<гр+1) г, ofix л (|„, у) = 11 m -----------------—— (1.3b) V р д-о Р{/Д(5р)} Там, где знаменатель обращается в нуль, ее можно доопре- делить произвольно, например, положить равной нулю. Используя 1. А2 и условия 2) —3) теоремы 1.1, можно до- казать, что при любых Л, zp вероятность Р {Л, ср ' zp, TtP+i (у) < Zp-j-t {непрерывно зависит от у. Отсюда вытекает, что функция (1.36) с вероятностью 1 непрерывна по у. Поскольку р (Л, 7!Д‘(Г.1И) < —, > р (<?)! = И- /Л(Ю то из (1.35), учитывая указанную непрерывность функции л по второму аргументу, получаем Русл (У) = л (У> у) п- н. (1.37) Рассмотрим теперь предельный переход р, —- 0, пользуясь лем- мой 1.1 (при gp+1 =/^+'(?/)). Поскольку согласно этой лемме Р{Л, lp<zp, Zp+i<zp+i} —--^F^z,, , zp) F2 (zp+i), то л^р, г/) = Р{Л, ZP^<Zp^\Zp}~^ .....Zp-l|lp)F2(zp+i) п. н. при р,-»0. Здесь F2 (zp+i) = F2 CWi поэтому услов- ная вероятность (1.37) в пределе распадается на произведение Р {Л, х (Zp+i) <гр+! | Zp = у} — -* Ft (zx, . .. , Zp-i | у) F2 (zPpi | y) и, следовательно,
Р {х (/р4-1) <С Zp+l I X (^1) — > . , X (tp) Zp} —> ^F2(z^\zp). (1.38) Это завершает доказательство утверждения 1.1.А теоре- мы. Многомерная вероятность Р[х(У< гр ... , x(Q<z„] = у ... у dP[x(O <zj] X г<1 <-г‘ г'п<гп X dP[x(t2) < z2| z'i] ... dP lx(tn) <zn\z'i, ... , Zzz-i] (/!<•• -<O согласно (1.38) будет вполне стремиться к ... [ dP[x(^) < z'i] dF2(z21 z'i) ... dF2(z„| z„_i). 2'1<2i z'n<zn Отсюда легко вывести, что функция F2(zll/) удовлетворяет уравнению Маркова F2 (z3! zj = J1 dFs (z21 zj F2 (zs I z2). Для этого нужно учесть, что J dP [х (t2) < z21 ... , zj P [x (Z3) < z3 I ... , z1( z2] — -» J dF2 (z21 zj F2(z3\z„), когда P [x (f2) < z31 .. . , zj F2 (z2 I zj, P [x (/3) < z31 ... , zp z2] —F2 (z3 I z2). 3) Перейдем к доказательству утверждения 1.1 Б. Согласно утверждению 1.1 А для вычисления вероятностей перехода Р [хм (^+i) < zp+l | г}, ... , zp] = F2 (zp+i | zp) можно в (1.23) полагать р = 0, t = 0, у = х0, то есть рассматривать лишь одну случайную величину ^1 = /о(хо). При вычислении ее моментов в формуле (1.24) положим k — 0, т = 0. Делая заме- ну р,-2 = Т;, будем иметь м.-2ц М = V —j-‘+'.-Xn_ С . .. С ... g(yn, тл) Qonx1...x„(pAh, .... ^Jd?! ... drn.
Используя (1.25), члены этого разложения можно пред- ставить в виде произведения сомножителей (1.31). Согласно условиям (1.15) — (1.18) члены с п>3 стремятся к нулю при р,—>0. Поскольку согласно (1.11) член с первым моментом отсутствует, в сумме по п остаются лишь члены с п = 0 и п = 2:. , дх>+1, lim М £1 = Qoo 4- V ---------— lim I kt (ylt ту, yt, г,) X дир дир Ц->0 J J х Qo2M. (и* Н2Т2) d-q </т2. Для завершения доказательства нужно учесть явный вид функций Qoo, Оогхд,- Для этого следует обратиться к соот- ношениям (1.7), (1.8). Подставляя в них (1.10) и принимая во внимание, что в пределе остаются лишь члены, совсем не содержащие моментов от g, и члены, содержащие моменты второго порядка, получаем lim М [х (ZJ — у] = f (z — у) dF2 (z\y) = tn(у) + ц->0 J L т + tr lim ~ ( dx ( М g (у, т') dr' + О (rf) (L = щ 2 tj. L-xx, L J J dy 0 0 (1.39) Здесь через O(ti) обозначена сумма других членов, остающихся при ц->0. Каждый из них зависит от по край- ней мере квадратично, условие сходимости этой суммы яв- ляется значительно более слабым условием, чем условие сходимости (1.29). Аналогично находим lim М [х (/х) — у]2 = С (г — уУ dF2 (z\y) = ц->о J L L ^lim-j-f \ Mg(y,x) g (y,x')dxdx’+ Offi); (1.40) £-»oo Ь J J 0 0 limM [x(^) — г/И = C (z — yy dFs(z [у) = О (У), y>3. Доказательство закончено, поскольку пределы (при L^-oo) в правых частях (1-39), (1.40) существуют в силу (1.15) и соот- ветственно равны выражениям, входящим в (1.17).
§ 1.3. ПРИМЕРЫ 1. Пусть уравнение (1.1) имеет вид at где — стационарный гауссов процесс с нулевым средним значением и с корреляционной функцией =е~хг. При этом, как легко видеть, предположения Ai—А4 оказыва- ются выполненными в любом конечном интервале I. Кроме того, выполняются условия (1.15), (1.16). Сходимость ряда (1.29) труднее проверить; избегая детального рассмотрения, будем предполагать, что она имеет место. Применяя теорему 1.1, получаем, что процесс х(рд2/) при ц—>0 сходится по распределению к диффузионному марков- скому процессу xM(t), который характеризуется параметрами lim — М [Лхм | х] = а (х) = д-»о Л о С М [Зх2 (0) + g (0)] [х3?3 (т) + xl (т)] dx-, lim — М [Лхм | х] = b (х) = д-»о Л М [х3 g3 (0) + х| (0)] [х3£3 (т) + xg (т)] dx; lim -- М[Лхм|х] =0, q>3. Д После вычислений имеем а (х) = lx -Ь 12х3 + 3 (9 + 2 /Г) х5]; b (х) = /л [х2 + 6х« + (9 + 2 У3)х6]. 2. Второй пример возьмем из теории детектирования слу- чайных сигналов (Стратонович [8], стр. 240). Соответствую- щее уравнение имеет вид -^ + ах = р^(0-х (1.41) где а, р— положительные постоянные, a 1-(t) —стационарный случайный процесс. Будем предполагать, что он гауссов и
имеет корреляционную функцию о2Д(т) (Д(0) = 1) и нулевое среднее значение. Тогда о2 = еТ. При определенных условиях процесс х(0 близок к мар- ковскому. Чтобы сформулировать это утверждение точнее, заменим уравнение (1.41) на уравнение О2 о2 ~ + Рое- [И2у0еТ + н (e’w ~ *Т) 1, (1.42) т. е. g (х, f) ----- рое— [е^ — МеЧ (ао, ро, уэ от ц не зависят). Очевидно, что последнее уравне- ние совпадает с (1-41) при частном значении параметра ц —цо, если роао = а; ц0Ра = р; Цоуо = 1. Вид правой части (1.42) подобран так, чтобы удовлетворялось (1.11). При достаточно быстром исчезновении коэффициента кор- реляции /?(т) при т->со условия (1.15), (1.16) будут выпол- нены. Применение теоремы 1.1. к данному случаю дает сле- дующие выражения для параметров сноса и локальной дис- персии а2 а (х) = — аох + роуо е 2 — ~ Ке~2х; Ь(х) = Ке2х; /< = 2₽02е"2 — 1] dx о (предполагается, что К<оо). Записав соответствующее уравнение Фоккера—Планка, можно получить, в частности, его стационарное решение — предельную плотность распределения вероятностей О2 р (х) = const exp |-(х-------) е2х + 2у^°- е 2 +* + х | • (1.43) Удобно с самого начала в (1.42) произвести замену пере- менной у = ех и потом уже применить теорему 1.1. Разумеется, это не повлияет на результаты и в частности на (1.43). В заключение сделаем несколько замечаний относительно возможных обобщений. Во-первых, можно произвести обоб- щение результатов на многомерный и нестационарный случай. Первое обобщение тривиально. Для второго мож-
но, например, рассматривать функцию G = p2m(x, р,2/)+ + ц^(х, t, ik2t, со), где g(x, t, t, со) — стационарная функция от t при фиксированных t, х, со. Во-вторых, при выборе более сложной зависимости G от ц можно получить предельный марковский процесс, не являющийся диффузионным. Некото- рые предварительные идеи, касающиеся вычисления членов с более высокими производными в операторе марковского процесса, содержатся в монографии Стратоновича [8], § 4, п. 8. Наконец, особого исследования заслуживает вопрос о величине отклонения немарковского процесса от марковско- го, т. е. вопрос о быстроте сходимости.
Глава 2 НОВАЯ ФОРМА ЗАПИСИ СТОХАСТИЧЕСКИХ ИНТЕГРАЛОВ И УРАВНЕНИИ Стохастические интегралы и уравнения являются важным инструментом исследования диффузионных марковских про- цессов и будут широко нами использоваться в дальнейшем. Мы предполагаем, что читатель знаком с этими понятиями, например, в объеме монографий Дуба [1] и Дынкина [3]. Как известно, стохастические уравнения, записанные для диффузионных процессов, впервые встречаются в физических работах по броуновскому движению (Ланжевен [1], см. так- же Чандрасекар [1]). Строгая математическая теория этих уравнений была дана впоследствии К. Ито [1—3]. Способ определения стохастических интегралов и уравнений, кото- рый был предложен последним, является общим и удовлет- ворительным во многих отношениях. Однако ему не свойст- венно одно важное качество — симметрия во времени. Сто- хастический интеграл Ито, определенный для прямого вре- мени, не совпадает с таким же интегралом, определенным для обратного времени. В настоящей главе будет изложен другой способ опреде- ления стохастических интегралов и уравнений, который ха- рактеризуется определенной симметрией по отношению к прошлому и будущему. Этот способ до известной степени эквивалентен способу Ито, но в некоторых отношениях имеет ряд преимуществ. Существенно упрощается техника преоб- разований стохастических интегралов. Как известно, интег- ралы в смысле Ито требуют осторожного обращения. Их нельзя при замене переменных преобразовывать по обычным правилам, пригодным для гладких функций, нельзя просто интегрировать по частям и т. п. Для интегралов в новом смысле дело обстоит проще. С ними можно обращаться по обычным правилам, как если бы диффузионные процессы были гладкими функциями. С этим связаны ковариантные
свойства стохастических уравнений. Преимущества симмет- ризованного стохастического интеграла проявляются также при исследовании «функционалов вероятности» (Стратоно- вич [5]). Стохастические дифференциальные уравнения, записанные в новой (симметризованной) форме, можно интерпретировать как предел уравнений, записанных для немарковских (но близких к марковским) процессов. Из результатов гл. 1 сле- дует, что при этом аналитический вид допредельных уравне- ний и предельных, взятых в симметризованной форме, совпа- дает. При технической реализации (моделировании) стоха- стических уравнений всегда приходится иметь дело не с точными, а допредельными (приближенно марковскими) про- цессами. Поэтому нужно осуществлять моделирование урав- нений, например, уравнений оптимальной нелинейной фильт- рации, взятых в симметризованной форме, а не в форме Ито. Автор пришел к симметризованной форме записи стоха- стических выражений в результате практической работы со сглаженными (не вполне марковскими) процессами [8] и с условными процессами Маркова [2, 15]. В последних статьях стохастические уравнения понимаются в симметризованном смысле, а не в смысле Ито. Непонимание соотношений между различными определениями стохастических интегралов при- водило к необоснованным обвинениям в ошибочности резуль- татов указанных работ, а также к путанице в собственных работах некоторых авторов (Кушнер [1, 2]). В некоторых случаях более удобным оказывается рас- сматривать интеграл в смысле Ито. Поэтому мы не устра- няем интеграл Ито из данной монографии, а используем оба интеграла. Чтобы не возникало путаницы, интегральные и дифференциальные выражения в смысле Ито мы отмечаем звездочкой при дифференциале. Там, где указанные два ви- да интегралов совпадают, звездочку можно писать или не писать; мы выбираем последнюю возможность. § 2.1. СИММЕТРИЗОВАННЫЙ СТОХАСТИЧЕСКИЙ ИНТЕГРАЛ И ЕГО СВЯЗЬ С ИНТЕГРАЛОМ ИТО 1. Начнем с одномерного случая. Пусть на интервале Т = [а, Ь] задан действительный диффузионный процесс {x(t)}, для которого lim М + L (/) = Д = а (£, /); ДЦ.0 I h I J limM {h~~l [x(t + h) — x(0F | = b (Ё, f); (2.1) aj.o limP {| x(t + h) — x (/) | ]> <5 | = 0, <5)>0. h j. о
Функции а(х, t), b(x, t) предполагаем непрерывными па обоим аргументам. В § 2.2, § 2.3 потребуется, кроме того, условие дифференцируемости функции b(x, t). Далее, пусть на Т задана функция Ф(х, t), непрерывно^ дифференцируемая по обоим аргументам. Такая функция удовлетворяет условиям (Дынкин [3], стр. 293) существова- ния стохастического интеграла Ито (Ф€Д в обозначениях Дынкина). Будем рассматривать Д-разбиение 5д подынтервала [s, и]СТ-. s = t0 < . < tN = и, max (^+i — tL) = A. i Определение 2.1. В рассматриваемом случае стоха- стический интеграл Ито определяется формулой и N—1 Г Ф(х(/), f)d* x(t) = lim V Ф(х(Л)Дг) [х(6-н) — х (tj]. (2.2) J Д-»0 s г=0 Здесь предел понимается в среднем (1. i. m.), если выполнено условие ь М J | Ф (х (/)Д)(2Л < оо. (2-3} В противном случае предварительно, вместо Ф, следует ввести ограниченную функцию и в предельный переход (2.2) включить также стремление к бесконечности уровня ограни- чения. Соответствующая довольно сложная техника изложе- на в книге Дынкина [3]. Мы не будем ее рассматривать, принимая, если угодно, условие (2.3). Определение 2.2. Симметризованный стохастический интеграл определяется формулой [ Ф (х (/), t) dx (t) = lim V Ф ( x(Z‘) + x(^+i) t tl + ^+i \ x (2>4) J д-»о \ 2 2 / X [х(Д+1) — х (/,)], где предел имеет тот же смысл, что и в (2.2). Вследствие упомянутой дифференцируемости функции Ф по t в правой части (2.4) можно взять + О „ли \ <* J \ 2 / Теорема 2.1. При указанных предположениях интег- рал (2.4) существует и связан с интегралом Ито формулой
Ф(х(О, о dx(t) = j Ф (х (t), t) d* x (t) 4- -у J (x (t), /) b (x (t), f) dt 8 S (почти наверное). При доказательстве этой теоремы будет использована Лемма 2.1. Для описанного выше диффузионного про- цесса почти наверное существует предел и lim У [x(^+i) —х(/;)]2 = b(x(t),t)dt. Д->0 J [S. «1 S Эта лемма является некоторой модификацией теоремы 2.3 из гл. VIII монографии Дуба [1]. Доказательство теоремы 2.1. Выбрав Д-разбиение Sa = {/1(A)}, рассмотрим разность —допредельных выражений в правых частях (2.2) и (2.4). Пользуясь дифференцируемо- стью функции Ф(х, t) по х, имеем DA S [Ф((Д+1 - V) = t I (О<0;<1, Х; = X(ti)). Нетрудно понять, что последнее выражение при Д->0 с ве- 1 f* роятностью 1 имеет своим пределом интеграл — ^дф/дх b dt S в соответствии с леммой 2.1. Чтобы убедиться в этом, рас- смотрим более крупное е-разбиение {/1е)}С{4Л)}, е>Д дФ(хЩ) , и заменим ------—- на функции /е(0 = SUpf-^-(x(T),T), [4£), d+11) При \tk\ 4+1], I OX J fE (t) = inf J(x (t), t), t [4e), d+J) при t [4°, d+il- I dx )
Обозначая DA = -i- (dA)) [x (^J) - x (;<A))12> i = Y V h [X <\) - X <>)]*, очевидно, имеем De<DA<De. (2.5) Согласно лемме 2.1 Де) Д-1 lim V [х(^1)-х^д,)]2 = f b(x(t),t)dt, A—^0 J r/s) де) , поэтому . „ — ( fe.(x(t), t)b(x(t), t)dt, д->о 2 J s и 2E° = yJ/£(^(0>0 b(x(t),f)dt (2.6) S .'J (здесь в процессе предельного перехода е остается фиксирован- ным). Но вследствие непрерывности и b разность /е — /г и dx Dg—D° уменьшением е может быть сделана сколь угодно ма- лой. Поэтому из (2.5), (2.6) вытекает существование предела с вероятностью 1: lim £>А = lim Ds = limD° = Д—>0 8—>0 £—?0 ~~~“ Доказательство закончено. Пример. Рассмотрим пример, приведенный Дубом [1] на стр. 398. Пусть х(0 — процесс броуновского движения с локальной дисперсией Ь=1. Тогда вместо формулы [х (?) — х (s)] d* х (/) = [х («) — х (s)]2-(и — s) s l^^x(ty,t)b(x(t),t)dt. 2 J dx
для симметризованного интеграла будем иметь более про- стую формулу и [х (0 — X (sj] dx (t) = -±- [X (и) — X (s;]2. s Она согласуется с правилами интегрирования, которые при- годны для обычных интегралов. 2. Перейдем к многомерному обобщению. Пусть имеется многомерный диффузионный процесс x(f) = {xt(t),xm(t)}, описываемый вектором сноса {аа(х, /) } и матрицей локаль- ных дисперсий {ba, р(х, t), а, (3=1, ..., т}. Кроме того, пусть заданы функции { Фа (х, t), а=1,..., т}, непрерывно диффе- ренцируемые по всем аргументам. Тогда можно определить многомерный стохастический ин- теграл и t)dxa(t) = s = lim V Ф(1 -Л±Д---------....... [xa (Zz+1) - xu (/,.)]. A->o \ 2 2 J i=0 (2.7) Здесь и в дальнейшем подразумевается суммирование по дважды встречающимся индексам. Теорема 2.2. Предел в правой части (2.7) существует почти наверное и связан с итовским интегралом соотноше- нием и ( Фа (х (/), t) dxa (/) = С 1 сдфп = Фа(х(/),/)с/*ха(0 + — UW)W)’ Odt. (2.8) J 2 J дхв p s s p Доказательство теоремы аналогично доказательству в одномерном случае и мы не будем на нем останавливаться. Ему помогает Лемма 2.2. Если ф(0—непрерывная функция (не за- висящая от со), a x(t, со)—описанный выше диффузионный процесс, то почти наверное У Ф (О [Xa (A+l) — Ха О [XfJ (Zi+1) — Хр О -» [s,«] и -» f ф(/)/>ар(х(/), t)dt при Д-^0.
3. Стохастический интеграл иногда удобно рассматривать как функцию переменного верхнего предела. Задавшись си- стемой функций Фла(х, t)-, Л,= 1, k; а=1,...,т указанного ранее вида и непрерывными функциями Ф'л (х, t), рассмотрим выражения гл (0 = jk (х (0, 0 dt + J Фла (х (0, 0 dxa (0. (2.9) S S Представляет интерес вычисление пределов типа (2.1) для указанных выражений как функций от t. При этом будем фиксировать условие х(0=£. Нетрудно убедиться, что с вероятностью I выполняются условия непрерывности типа третьего равенства (2.1). Кроме того, справедлива Теорема 2.3. В принятых предположениях функции (2.9) почти наверное характеризуются локальными парамет- рами 1 „ ( гх (z + — гх (0 , А Е1 limM (—-----------— x(t) = В = h40 [ h J = (g, t) + Ф?.а (L t) аа a, t) +.4- а, о &а(3 а, о; 2 охй limM 1г i О = ФЛа(£, (2.Ю) limM /4- [zK (t + h) — zK] [xe (t + ti) — x& (/)] | c'r = /140 I h J = Ф^а (5, t) b(l,, (g, f). Эти соотношения можно доказать, воспользовавшись тео- рией интегралов Ито (например, Дынкин [3]), а затем фор- мулой связи (2.8). Как видно из (2.10), формула вычисления средних приращений M{dz>Jdt\х} не является тривиальной. „ 1 дф}.а , Усложняющий член—----------Ьа/, вызван наличием корреляции 2 охр р между процессами xa(t), имеющимися в числе аргументов функции Ф, и приращениями dxa. Аналогичным путем можно обосновать следующие не- сложные, но часто используемые в дальнейшем леммы. t Лемма 2.3. Если v(t)~ [ <ра (х (т), т) d* ха (х) и сра, % — 14- [Zz (t + h) - ZK (01 [2И (t + h) - Z„ (0J I = I h !‘ )
J X (х (t), /) фа (х (t), t) d* ха (/), непрерывно дифференцируемые функции, то J X (х (/), 0 d* v (О =-- S S т. е. lim У %(х;,^.) [о(Л+1) — и «)] =- Д-0 L = lim V х (xt, О сра (xt, ti) [ха ха О- Д-*0 I Аналогичная лемма справедлива и для интеграла в сим- метризованном смысле, t Лемма 2.4. Если v(t) — J <ра (х (т), т) dxa (т) и <ра, у^функ,- S ции описанного типа, то и и J X (х (t), t) dv (/) = J X (X (t), t) Фа (x (f), f) dXa (/). s s Пользуясь вместо интегральных равенств дифференциаль- ными, легко видеть, что согласно указанной лемме 2.3. из dv = q>ad*xa вытекает %d*v = x(fad*xa и наоборот. Аналогично dv = <fadxa<=-* idv = Хфа^а (Х=#О)- Таким образом, дифференциальные стохастические ра- венства можно умножать на непрерывные функции, и они имеют, следовательно, абсолютный смысл безотносительно к тому или иному интегральному равенству. Записывая в дальнейшем какое-либо равенство для диф- ференциалов, мы всегда будем его понимать в смысле спра- ведливости некоторого соответствующего равенства для ин- тегралов. 4. Помимо стохастического интеграла J Фа(* (0, t)d*xa(f) = S N-1 lim Уфа(х(^,О[Ха(/(+1)-ха(^)] (2.11) д^° итовский интеграл, соответствующий обратно- можно ввести му времени:
§“d* xa(t) Фа(х((), t) = = lim v (xa(^+1) — ха(О]Фа(х(/;+1), ^+1), (2.12) д^° ~0 а также смешанный интеграл и Фа (X (t), t) d*Ха (f) Фа (х (t), t) = s Л'-l = lira V Фа (x (Q, tc) [xa (ti+1) — xa (ti)] ф'а (x ti+1). ^0 (2:13; Формула связи интегралов (2.7), (2.12), аналогичная (2.8), как легко видеть, имеет вид Фа (х(/), t) dxa (f) (' 1 г d* ха (f) Фа (х (t), t)--------Д -— (х (/), t) bafi (x (/), t) dt. J 2 J dx$ (2.14) В то же время для интеграла (2.13) имеем и Фа d" ^ссФа s Фа Фа dxa — I s s и дф’ , , <ЭФ J —— Фа — Фа—— bapdt. дх^ дх^ J Из (2.8), (2.14) вытекает формула связи интегралов (2.11) и (2-12) и и J d*Xa Фа — [ Фа d* Ха S S С дФа / ( —----ba$dt. J а», (2.15) Таким образом, различные интегралы легко преобразу- ются один в другой. Симметризованный интеграл (2.7) зани- мает в точности промежуточное положение между (2.11) и (2.12). Он равен их полусумме.
§ 2.2. СТОХАСТИЧЕСКИЕ УРАВНЕНИЯ 1. В некоторых частных случаях процесс {ха (/) }, который мы вуэтом параграфе обозначаем {ха}, и функцииЧ*\(х, t), Ф;.а (х, /) таковы, что процессы (2.9) тождественно равны нулю с вероятностью 1: 23Д) = О, /€ [s, и], Л=1, ...,&. В этом случае мы будем говорить, что выполняются стохастические уравнения t ~ t ~ ~ J ЧД (х(т), x)dx + J Фха (х (т), т) dxa(x) = 0, X = 1, ..., k. (2.16) S S Представляет интерес исследовать те связи между про- цессами Xi (/),..., xm(t), при которых это имеет место. Обычно оказывается, что часть из указанных компонентов, скажем xi = хх, ..., xk = xk(tn—k = l>0), однозначно (с точностью до эквивалентности) определяется остальными компонентами xft+i = yi,..., xms ym-k. В этом случае говорят, что функции X] (/),..., xft(i) являются решением стохастических уравнений (2.16). Существующая в настоящее время теория стохастических уравнений основана на работах Ито [2, 3] и изложена в моно- графиях Дуба [1] и Дынкина [3]. В ней изучаются стохасти- ческие уравнения более частного вида t i •МО = JМ-Д, .. .,xk,x)dx + У* Ф.Р(Д> • .,Д, т)</Д/р(т)(2.17) s р = 1 (л=1,...,й; yt(t)—винеровские процессы) и рассматривают- ся достаточные условия для существования решения хДД.По нашему мнению, эти условия (особенно условие типа |стхР (х, t) — алр (х', t) | < с | х—х' | и т. п.) могут быть существенно ослаблены. Поэтому мы не будем их пере- числять и проверять их выполнение. Однако всегда, когда в тексте встретится стохастическое уравнение, будет подразу- меваться, что выполнены соответствующие (может быть, более слабые) условия существования их решения. 2. Уравнение (2.17) может быть получено специализацией уравнения (2.16). Рассмотрим сначала одномерный случай, когда k = \. Пусть т = 2 и имеются два процесса хДО =х(0, x2(t) . Пусть далее функции Ф1, Ф2, V имеют следую- щий специальный вид: Ф, (х, y,t) = — 1; Ф2 (х, у, f) = <т(х, Г); Y (х, у, t) = tn(x, f). Тогда уравнение (2.16) принимает форму t t m(x(t'), t')dt' + J a (x(f), t') dy(t'). (2.18) s s X (t) = X (s) + J
Это соотношение можно назвать стохастическим преобра- зованием процесса y(t) в x(t). Запишем для данного случая равенство (2.10), учитывая при этом, что процессz(f), а следо- вательно, и пределы в левых частях равны нулю. Это дает т (х, /) — at + а (х, t) а2 + ~ (х, t) b12 = 0; — 2а (х, f) b12 + а2 (х, f) b22 = 0; — Ьи + а (х, t) bl2 = 0; — b21 4- о(х, f) b22 = 0. Отсюда находим аг = а (х, t)a2 + tn (х, I) + ~ а (х, t) b22; (2.19) Ь1г = а2 (х, t) b22; Ь12 = а (х, /) Ь22 почти наверное. Переходя к еще более специальному случаю, возьмем в качестве y(t) винеровский процесс, т. е. положим «2 = 0; &22=1. Тогда из (2.19) будем иметь 0^ = 01 (X, 0 + 4- ° (2'2°) 2 дх Ьг1 — а2 (х, /) или, разрешая относительно т, а, т (х, t) = а. (х, Л — — дЬп (х, /); 4 дх а(х, 0 = УЬ1г(х, 0- Итак, если функции а(х, /), b(x, t) являются сносом и ло- кальной дисперсией диффузионного процесса x(t) (и удов- летворяют сформулированным ранее условиям дифференци- руемости), то процесс x(t) описывается стохастическим урав- нением dx(t) = [а(х, t)~— дь^х’п- L 4 дх dt 4- У Ь(х, 0 dy(t). Обратно, если процесс x(t) определен стохастическим урав- нением (2.18), то ему соответствуют локальные параметры (2.20).' Покажем, что этот результат правильно согласуется с результатами первой главы, что (2.20) соответствуют фор- мулам (1.17), а (2.18) — (1.12). Возьмем уравнения (1.1), (1.12) в виде
^ = ^/n(x) + Ha(x)g(O; (2.21) at = m (x) + a (x) — § СX \ (g (x, t, co) = a (x) g (0). at |x \ p,2 / где — гауссов процесс с нулевым средним значением и конечной дисперсией, удовлетворяющий условию ОО Jr(T)dT = l (г(т) = ЛШ(Ж)). (2.22) --ОО Тогда, согласно (1.14), имеем о k'2(x, х', т) — a(x) с(х') г (т); —- I k'2(x', х, x)dx = дх J --ОО = — a (%); f k' (х, х, т) dx = a2 (х), 2 дх' J --ОО и формулы (1.17) дают предельные параметры а (х, /) = tn (х) + -i- о (х), b (х, t) = a2 (х). Этот результат совпадает с результатом формул (2.20), если считать, что предельный диффузионный процесс удовлетво- ряет уравнению dx = т(х) ф- a(x) dy(t). (2.23) Введем процесс y(t)= f ±-l(^\dt’. J И \ Ц2 / г<~ Учитывая (2.22), нетрудно убедиться, что он при ц^-0 стре- мится (по распределению) к винеровскому процессу. При помощи y(t) второе уравнение (2.21) записывается в виде dx = tn (х) dt + a (х) d у (/). (2.24). Определенный этим процесс х(£), как утверждает теорема 1.1, стремится (по распределению) при ц->0 к предельному диффузионному процессу. Последний, как мы уже выяснили, удовлетворяет уравнению (2.23) точно такого же вида.
Итак, вид уравнения, связывающего друг с другом допре- дельные процессы x(t), y(f), совпадает с видом уравнения, связывающего предельные процессы x(t), y(t). Такого важ- ного совпадения не будет, если пользоваться итовской записью стохастических уравнений. 3. Перейдем к многомерному обобщению формул (2.20). Теорема 2.4. Если многомерный процесс x(t) = = {х1 (/),.,., Xk(t) } описывается уравнением i dxK (0 = /пд, (х, t)dt + oKr (х, t) dyr (/), (2.25) r=l где tn^ix, t) —непрерывные и a}.r (х, t) —непрерывно диффе- ренцируемые функции, a yi(f) —система винеровских процессов с единичной матрицей локальных дисперсий, то он имеет следующие сносы и локальные дисперсии'. 1 dalr(x,t) ак (х, t) = /щ. (х, 0 Н- --у--(х, /); 2 (х, f) = oKr (х, (х, I). (2.26) Как и в одномерном случае, этот результат можно полу- чить из теоремы 2.3. Таким образом, кроме параметров ад, , определяющих итовскую форму стохастического уравнения (2.17), удобно рассматривать параметры тд, стдг> определяющие симметри- зованную форму (2.25). Параметры тд, одг имеют перед at., b-,.^ также трансфор- мационные преимущества. В одномерном случае при замене переменной x-»-Jq>(x)dx эти параметры преобразуются три- виально: m —» ф/и; а —> фо (ф(х)—непрерывная положительная функция). Аналогич- ное положение имеет место и в многомерном случае. Теорема 2.5. При замене переменных х = х(х) вектора = {а11; ..., akl}, ...,4 = {<т1{) ..., in = {tn±, ..., mk\ преобразуются ковариантно с вектором dx: ~ дх-. ~ дх-. <Е.Г = —— сТцг! тк = —- т.ц. (2.27) дхи дхц Следовательно, уравнение (2.25) преобразуется при этом так, как если бы процессы Xi (/),..., Хд(() были гладкими функ- циями времени.
Утверждение теоремы относительно векторов ср,щ непо- средственно следует из тензорного характера параметров Ь-,.^ и определения этих векторов. Чтобы доказать ковариантность вектора 1 дакг тк^-а-,.---- —— 2 дх (2.28) примем во внимание известные формулы преобразования параметров сноса: UX-. 1 — а„ + J---------—6, % 2 дх^ dxv (2.29) Подставляя our = —— ovr, находим dxv ~ д<Ъ.г „ дЧг --С Ojxr = 3=-— Gvr ~ - дхц------------------------------------дхц дху дху Вторично делая эту подстановку, получаем дЧг дху да^г dxv dxv дх.л ^v.r^vr- Следовательно, dcrv ~ дхи д2хк dxv дхи (2.30) Вычитая из (2.29) половину выражения (2.30) (в соответ- ствии с (2.28)), убеждаемся в справедливости последней формулы (2.27). Доказательство закончено. Отметим, что вследствие симметричности и неотрицатель- ной определенности матрицы локальных дисперсий всегда существует хотя бы одна подходящая система действительных векторов di,..., щ. Именно, если |[hv || — ортогональное пре- образование, приводящее эту матрицу к диагональному виду: = b°rbrs , то Ьъц = иКгицгЬ°г и, очевидно, можно поло- жить CKr = uxrVb°r (/ = Rang||^p.|)). § 2.3. ИНВАРИАНТНАЯ ЗАПИСЬ УРАВНЕНИИ КОЛМОГОРОВА Инвариантная запись уравнений Колмогорова в произ- вольных криволинейных координатах предлагалась в рабо- тах Колмогорова [1] и Яглома [1]. В первой из них рассмот- рение было ограничено случаем невырожденной матрицы
локальных .дисперсий, которая выбиралась в качестве мет- рического тензора. Во второй работе метрический тензор предполагался независимым, но были введены существенные ограничения по другой линии. Именно, метрическим простран- ством предполагалось не все фазовое пространство марков- ского процесса, а лишь пространство, соответствующее поло- вине его переменных (координатам). Матрица локальных дисперсий, напротив, соответствовала лишь второй половине переменных (скоростям) и опять-таки предполагалась не- вырожденной (в пространстве скоростей). Введенные выше вектора т, ог позволяют получить инва- риантную запись уравнений Колмогорова в общем случае для произвольного метрического фазового пространства. В специальных случаях, отмеченных выше, эта форма записи не совпадает с предложенными ранее формами, а является более простой. Начиная с этого места будем предполагать фазовые пе- ременные контравариантными компонентами вектора и запи- сывать их дифференциал dxK. В соответствии с теоремой 2.5 рассматриваемые в ней вектора, следовательно, также яв- ляются контравариантными, поэтому будем записывать их тк, (г) (индекс г пишем в скобках, поскольку он не имеет тензорного характера). Рассмотрим марковскую плотность вероятности перехода р(х, Z; х', t') из х в х' за время от t до I'. Уравнение Колмо- горова первого рода _ = «л £р_ . J_ b, д2Р dt дх'- 2 Ц dx'- дхц при учете (2.26) преобразуется к инвариантному виду - —= + —о^(г)-^-Го^(г)^-1 . (2.31) dt дх'- 2 ’ дх'- ' ’ дх^ I ’ В самом деле, вероятность перехода р(х, t\ х', t') как функ- ция от х является скаляром. Поэтому скалярами являются и , др „ др . dv выражения /пЛ—(Г ~ v’ а следовательно, и сгЛ -—. dx dx дх Таким образом, в правой части (2.31), как и в левой, стоит скаляр. Аналогично подстановкой формул (2.26) уравнение вто- рого рода (Фоккера—Планка) =-----[а'-р] + —-----[t№p\ dt’ дх"' 2 дхкдх^ преобразуется к виду . > - - Т7Г 1^1 + у [°1 (д (>»(г) ₽)] (2-32)
Рассматриваемая как функция от х', вероятность перехода р (х, /; х', f) является скалярной плотностью, т. е. преобразуется _ 1 как l/g = det21| £а|з||. Поэтому тар, о-1р являются векторными плотностями. Но, если 51х векторная плотность, то, как известно, дивергенция —угЗР снова является скалярной плотностью. По- дх этому -д,. (tii'-p), —щт-(оцр) = S3, а также —(o?-S3) являются дх Л дх ц дх скалярными плотностями, подобно величине, стоящей в левой части (2.32). Можно ввести поток вероятности GP- = ткр----~ о?- (г) [оц (г) р], являющийся векторной плотностью. Тогда уравнение (2.32) примет вид уравнения сохранения -^ + ^- = 0. dt' дхх Указанные уравнения (2.31), (2.32) соответствуют одному и тому же инвариантному инфинитезимальному оператору dL = ftri'- + — V ГсЛ (г) -^j-]21dt. I дх'- 2 L дх}- J J Г В уравнении (2.32) он подвергается транспонированию. § 2.4. СТОХАСТИЧЕСКИЕ ЛИНЕЙНЫЕ ОПЕРАТОРЫ Будем предполагать здесь, что в формуле (2.16) функции Ч'х, Флр , p = £+l,..., k + l линейно зависят от Xi, xh: = Да (у, О ®М+0 = Лха (у, О и что Фхц = — 1 при X = р; О при X =£ р; (X, р = 1.........k\ о = 1, . .., /). Тогда уравнение (2.16) принимает вид t хк (0 = х>. (s) + J [Лцх (У (т), т) dx + Лцха (у (Т), т) dy<j (т)] хц (т).
Мы предполагаем существование решения этого уравнения. Применяя теорему 2.2, последнее уравнение можно записать также при помощи интегралов в смысле Ито. Xf. (О = ХК (s) + pH (т) [Л^ {у (т), т) dx + А^а (у (т), т) (т)], (2.34) где дА ХцА^Л ~ Х^АцЛ 4—-- ЛуЛа^на “I---7^ Лл> и следовательно, ’на — Xv Луцд Ьл0, ЛЪ. — Лул. + — ЛнулЛуЛа^ал + —- д-^Ъая. (2.35) дУл Введем два семейства элементами операторов L(f), L* (t) с матричными t [L(0U= [^(s)W + j [ЛнН^. г) dx 4- Л^а(у, x)dya(x)]; s (2.35a) [L (OJh^ = (*)U + J MhZ (y> t) dx 4- ЛцЛа (y> T) d y0 (t)]. При помощи них формулы (2.33) (2.34) записываются в виде t x(t) — х (s) = J x (f) dL (/'); t x (t) — x (s) = J x (/') d*L* (f). s При фиксированном t определяемые указанными форму- лами значения x(t) можно представить как результат линей- ного преобразования начальных значений x(s). Обозначая через Tst соответствующий оператор, имеем х (0 = х (s) Tsi. Вид оператора Tst полностью определяется операторами L(r)—L(s), t€[s, /]. Найдем явное выражение для указанного оператора в том случае, когда процесс х(/) одномерный. Записав (2.33) при 6 = 1 в дифференциальной форме dx = х [А (у, t) dt 4- Ла (у, t) dya],
поделим обе части равенства на х и проинтегрируем от s до t. Воспользуемся тем, что при новом определении стоха- стического интеграла справедлива обычная формула t dx(x) _ |n x(t) x (т) x (s) (для интеграла Ито f d*x/x она была бы несправедлива). Это дает t In = f [А (у, т) dx + Ла (у, x)dya], (2.36) x(s) J s t. e. x(Z) =eMO-L(s)x(s)r (2.37) Если в (2.36) перейти к итовскому интегралу и рассматри- вать уравнение (2.34) при£=1, то согласно (2.35), (2.8) будем иметь нижеприведенный результат. Следствие 2.1. Уравнение dx = х[А* (у, t) dt + Аа (у, t) d*у<А имеет решение t t x(t) = x(s)exp{ J (л*--ЛаЛл6ая) dx-\- ЛосГг/а} . (2.38) s s В многомерном случае вследствие некоммутативное™ операторов А(т)—E(s), t€[s, t] простая формула (2.37), вообще говоря, не имеет места. Если, однако, указанные опе- раторы коммутируют между собой, то операторная формула, аналогичная (2.37), сохраняет свое значение и в многомер- ном случае. В этом можно убедиться, например, приведя операторы Е(т)—A(s) к диагональному виду и применяя одномерную формулу (2.37) для каждой компоненты. Стохастические линейные операторы более общего вида будут рассмотрены в следующей главе.
Глава 3 МАРКОВСКАЯ СИСТЕМА МЕР И ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ Основным содержанием настоящей главы будет опреде- ление двух семейств производящих операторов, порождаю- щих инфинитезимальные операторы данной неоднородной марковской системы мер, а также изложение ряда резуль- татов, касающихся этих операторов. Марковские меры, удовлетворяющие уравнению Чеп- мена—Колмогорова, определяют, как известно, двухпарамет- рическую (в общем случае) полугруппу операторов в сопря- женных банаховых пространствах функций и обобщенных мер. Рассмотрение, проводимое в этой главе, применимо не только к априорным мерам исходного марковского процесса, но и к ненормированной (невероятностной) апостериорной мере, зависящей от наблюдаемого процесса, которая вводится в теории условных марковских процессов. В настоящее время наиболее полно изучен случай стацио- нарного марковского процесса, которому соответствует одно- параметрическая полугруппа (Хилл [1], Иосида [1, 2], Дын- кин [1, 3], см. также Лоэв [1]). Для наших целей, однако, эта теория является недостаточной ввиду того, что апостериор- ные марковские меры являются существенно нестационарны- ми вследствие зависимости от наблюдаемого процесса. Более того, в самых интересных для нас случаях, когда наблюдает- ся диффузионный процесс или функция от него, полугруппа операторов Tst является недифференцируемой. Именно, предел lim Д-1 [7\<+д£ — £] = Ag д-»о не существует для достаточно широкого множества' функ- ций g (множества, всюду плотного в упомянутом банаховом пространстве). Это вызвано тем, что Tt,<+д g—g = O(A^). Сказанное побуждает к существенному обобщению теории.
Один из путей обобщения заключается в том, что вводится однопараметрическое семейство L* (/) производящих опера- торов. Дифференциал dL*(t) называется инфинитезимальным оператором. В том частном случае, когда выписанный выше предел существует, имеет место простое соотношение dL*(t)=Adt. Указанное семейство полностью определяет полугруппу, и наоборот. По аналогии с прежней теорией здесь также мож- но рассматривать сильные и слабые замыкания области определения, доказывать теоремы единственности и т. п. Конечно, мы не имеем возможности в данной главе сколько- нибудь подробно разбирать относящийся сюда обширный материал. Наше изложение будет носить несколько отрывоч- ный и конспективный характер. § 3.1. ОПЕРАТОРЫ, СООТВЕТСТВУЮЩИЕ МАРКОВСКОЙ СИСТЕМЕ МЕР 1. Пусть задано измеримое фазовое пространство (Е, 8) и двухпараметрическая система мер ps<(x, Л), где x<zE, Л€ 8 ; s, ttzT. При фиксированных х, s, t функции j.isf(x, Л) образуют меру в указанном пространстве, а при фиксирован- ных Л, s, t они являются 8 -измеримыми х-функциями. Обозначим через G пространство ограниченных борелев- ских функций на Е. Оно является банаховым пространством с естественными линейными операциями и нормой 1Ш1 = sup |£(х) |, g£ G. х£Е Определим на этом пространстве операторы (Л/Е) W = J Р-s/ (х, dx')g(x'), s < t. Кроме того, можно рассматривать преобразование счетно- аддитивных функций (Sf>Tst) (Л) = J ф (dx) ps< (х, Л) из банахового пространства ФЭф (с нормой ||ф|| = УагВф). Будем предполагать, что рассматриваемая система мер является марковской, т. е. выполняется уравнение Чепмена— Колмогорова J psf(x, dx')p,ta(x', Л) = psu(x, Л), s</<zz, которое в операторной форме имеет вид
Введем для данной марковской системы мер однопарамет- рическое семейство операторов t£T (определенное с точностью до постоянного аддитивного оператора). Определение 3.1. Семейство операторов L* (и)—L* (s'), h>s задается предельным переходом [L* (и) - Г (s)] g = lim [Ttlt2 - 1+ ... + TtN_btN -1] g, (3.1) A-s>0 где ti,..., tK есть А-разбиение интервала [s, «]; I — единичный оператор. Пространство функций DL*QG, для которых сходимость (3.1) имеет место и пределы не зависят от специального спо- соба разбиения, является областью определения указанного семейства операторов (предполагается, что не зависит от $ и и). Нетрудно показать, что в случае однородной марковской системы мер (в случае однопараметрической полугруппы) вышеприведенные операторы соотношением Г («)—L’(s) - (и — s) А связаны с инфинитезимальным оператором А, определяемым обычным способом, и что Dl*—Da. Приведем без доказательства ряд утверждений, касаю- щихся введенных операторов. Пусть при любой g(z G0CG функция f(0 = Ttug .принадле- жит области Di»- Тогда она как функция от t удовлетворяет интегральному уравнению 7(0-^ = р‘Г(т)/(т), t<u. (3.2) t Здесь интеграл понимается в смысле предела (см. § 2.1) р‘Г(т)/(т) t lim д-»о 2 [Г (W-^’(91/(7+1)- [t.u] Аналогичное уравнение имеет место для меры ср€Ф: ср (0 — <р = Ф (т) d*L’ (т), s < t, (3.3) где интеграл имеет следующий смысл: f Ф (т) сГГ (т) = lim У ф (/у) [L* (0+1) - Г ^)].
Опуская g и ф, подобные уравнения можно писать также непосредственно для операторов Tsu. При этом возможны несколько интегральных форм записи, например Tsa = I + J 7Д cTL* (т) = Tst + J 7Д d*L* (т); \ ‘t (3-4) Tsa = I + j“ d*L* (т) Tw -Ttu+\ d*L* (t) Txu s s (s<n<u), а также дифференциальные формы записи: duTsU = Tsu d*L* (u); dsTsu = d*L* (s) TsU. (3.5) Итак, полугруппа Tsu определяет семейство производя- щих операторов. При помощи последних записываются интег- ральные или дифференциальные уравнения, которым удов- летворяют полугрупповые преобразования. Справедливо и обратное утверждение: семейство произ- водящих операторов определяет полугруппу. Если задано семейство операторов L(t), то можно записать дифферен- циальное или интегральное уравнение, например (3.2). Его решение f(Z) можно интерпретировать как результат некоего преобразования Ttn функции g в функцию f(t). Докажем, что подобные преобразования образуют полугруппу. Кроме (3.2) рассмотрим второе уравнение /(«)-/(/)= fd*r(T)/(x), s<t. s Первое из них (3.2) определяет /(/) как результат преоб- разования Тtug, а второе определяет f(s) как результат пре- образования Tstf(/). Складывая эти два уравнения, получаем уравнение f(s)~ Я = (т)/(т), S которое определяет f(s) как Tsug. Поскольку в этих уравне- ниях f(s) есть одна и та же функция, имеем TstTtug = TsUg. Тем самым полугрупповое свойство доказано. Отыскивая для этой полугруппы операторы L*(u)—L*(s) по формуле (3.1), мы придем к исходным операторам. Семейство операторов L* (t) будем называть производя- щим, поскольку оно определяет полугруппу. Будем употреб-
лять также термин инфинитезимальный оператор для соответ- ствующего дифференциала dL* (t). Теория операторов (3.1) призвана обобщить существую- щую теорию однородной полугруппы. Для последней полу- группы теория упрощается и уравнения (3.2) обращаются в известные уравнения (Дынкин [3], стр. 48). Помимо обобщения на неоднородный случай для дальней- шего необходимо еще одно обобщение — обобщение на тот случай, когда система мер psj(x,A ) является случайной, т. е. зависит от точки со€й некоторого вероятностного простран- ства (й, оЛ, Р). При этом все условия и утверждения теории нужно формулировать (в отличие от теории неслучайных мер pS() как выполняющиеся с вероятностью единица или в сред- нем. Из последующей теоремы 3.1 видно, что предел (3.1) удобно понимать в среднем (/. i. tn). Соответствующие уточ- нения довольно стандартны, и мы не будем каждый раз их оговаривать в дальнейшем. 2. Утверждения, высказанные в предыдущем пункте, удоб- но проиллюстрировать и обосновать на следующем примере. Пусть Е является конечным множеством из пг точек. Тогда функциональное пространство G будет совпадать с т-мерным вещественным пространством Rm, элементами g которого яв- ляются вектора: g = (gi,..., gm). В G можно определить норму k II = max (£1; . ..,gm). Операторы в этом пространстве являются mXm-матрицами. Возьмем семейство производящих операторов диффузион- ного вида L* (t)afi = J [Аар (у, т) dr + Дара <У, t) d*ya (т)], (3.6) аналогичных (2.35а). Здесь y={ya(t), о=1, 2, ...}—диффузи- онные процессы с параметрами аа (у, t), bo? (у, t): Функции Аар, Аара, ^а, Ьа? предполагаются ограниченными и непрерыв- ными. Функции Дарт удобно считать дифференцируемыми по yt. Уравнение (3.2) при этом имеет вид системы стохастиче- ских уравнений и и fa (0 — ga = f Аар (т) /р (т) dr + J Аара (т) d*ус (т) /р (т), t t или и и fa (/) — ga = f *Аар (т) /р (т) dx + [ d*yQ (т) Аара (г)/р (т) t t (а = 1, .М),
где *д о — Д*о _ дАа^ h — яар оа? согласно формуле (2.15), примененной к интегралу (3.6). Как доказывается в теории стохастических уравнений, указанные уравнения однозначно (с точностью до эквива- лентности) определяют решение f(t). Это решение интерпре- тируется как Ttug, т. е. как результат преобразования Ttu. Выше было показано, что подобные преобразования образуют полугруппу. Элементы матрицы (Tsu)ag, соответствующей этому преобразованию, как легко понять, удовлетворяют уравнению (^<и)аР бар = J *Лау (т) (7'та)ур dt ф- j"d*Z/a (т) Лауа(т) (Тхи)у$ (3.7) t t ИЛИ t t (Тs/)afl бар = J (T’sT)ay Лур (T) dt + J (Т5Т)а-уЛура (t) d'-'yc>. (3.8) s s Последние являются конкретизацией уравнений (3.4). Рассмотрим предел (3.1) для построенной таким способом полугруппы. Теорема 3.1. Предел (3.1) для описанной полугруппы существует в среднем и приводит к исходным операторам (3.6). Доказательство использует приемы, обычные в тео- рии стохастических интегралов и уравнений. Чтобы избежать громоздких выражений, будем полагать, что Лар = 0, аст =0. Это упрощение не связано с принципиальными изменениями доказательства. Возьмем А-разбиение Ч,..., tN интервала [s, и] и применим формулу (3.8) к каждому элементарному интервалу (I;, Zi+I]: 'я-1 (Tt.t. )ap бцр = Г (7) r)ay Лура (т) d* (т). (3.8а) I г+1 J 1 t. I Пользуясь этими равенствами, образуем выражение 2 f Лара(т) d*Z/a (t)J = Z=1 1 'ti N—\ (i+l — f [(Ttp)ay бау] Лура (т) d*ya (т) (3.9) Z=1 ’I. (второе равенство справедливо в силу (3.8а))
и рассмотрим его средний квадрат. Согласно обычному (например, Дуб [1], стр. 400 и др.) «правилу усреднения стоха- стических интегралов имеем MZ2 - ТМ ~ W«Y' - (3.10) Sa-y'l Лур0 СО Лу'рО' (t) (т)} dx. Используем теперь формулу (3.7), которая соответствует интегралу Ито, записанному для обратного времени: т (T'tjxjay Ф1у = J d*lja (T ) Лаба (Т ) (7\'Т)бу. Применяя теперь указанное правило усреднения для об- ратного времени, получаем М {[(^;т)ау бау] [(Т'/£.т)ау' $ау'] ЛураАу'ра'6аа' (р (т), т)} = т = М {брр' (р (Т ), Т ) Лабр (Т ) Даб'р' (Тт'т)бу (Тх'х)б'у’ X it. X Дура (t) Ду'ра' (т) ^аа' (т)} dx'. Это выражение, как легко видеть, имеет порядок О(т—ti) (т. е. 0(A)) в предположении, что соответствующие моменты ограниченны. Оно является подынтегральным выражением в (3.10), и, следовательно, limMZ2 = 0; 1. i. m. Z = 0 д->о при любых а и [3. Учитывая определение (3.9) выражения Z, имеем ЛГ-1 JV-1 ^’+1 1. i. m. V [(7^.+])ap —Sap] — 1. i. m. f А„зо (r) d*yQ (t) =0. Z=1 1 z=l 7. Но второй предел есть не что иное, как стохастический интег- рал J Дара (Т) d*ya (Т) = L* («)ар — L* ls)ap. S Доказательство закончено. Аналогичная теорема с соответствующими усложнениями может быть сформулирована и доказана также для более
Общего диффузионного случая, который рассматривается в дальнейшем в § 3.4. 3. Введенное выше семейство производящих операторов L*(t) является достаточным для построения теории неодно- родной полугруппы и теории условных марковских процес- сов. Кроме него, однако, для некоторых целей полезно также рассматривать другое семейство, играющее в теории анало- гичную роль. Определим новое семейство производящих операторов L(t), tGT при помощи предельного перехода [L(u)— L(s)]g = Um[lnTM + ... +ln^ (3.11) △-»0 ’ N (g(;DL). Входящую сюда логарифмическую функцию от оператора следует понимать в каком-либо подходящем смысле. Ее мож- но определить, например, естественным образом после при- ведения оператора к диагональному виду (если это возмож- но), или определить при помощи разложения ОО (1пТм )£ = У -1_(_1К-1(Л / 7)^. (3.12) I п I Z4-1 Л=1 Последним целесообразно пользоваться, если это не свя- зано с существенным ограничением области определения DlCG производящих операторов L(t). В случае полугруппы, однородной во времени, различные семейства производящих операторов совпадают: L(u) — L (s) = L* (и) — L* (s) = (и — s) A. Распространяя на неоднородный случай известные поло- жения однородной теории (Лоэв [1], Дынкин [3]), будем предполагать, что пространство DL является всюду плотным в банаховом пространстве G0CG. Представляет интерес обобщение на этот случай теоремы единственности (Дын- кин [3], стр. 47). Не проводя соответствующего доказатель- ства, будем предполагать, что единственность имеет место. Если предположить, кроме того, что уравнение W-[L(u)-L(s)]f = g имеет решение f^DL для любой gGG0 и любого л>0, u>s, то отсюда по аналогии с известной теорией (Дынкин [3],
стр. 51—53) мо-жно вывести, что операторы А(ы)—L(s) одно- значным образом определяют* операторы ехр [£(«)—L(s)] над пространством Go- Можно доказать также, что при этом exp [L(u) — L(s)]g( Dl при g£G0, u>s. Для фиксированного А-разбиения рассмотрим теперь опе- раторы Т^и = exp J lz+1-~-L_ [L - L (tj] ] exp {L (tl+2) - ( li+l J — L(f«+i)) .. exp{L(^)— [t{, //-pi) (3.13) и соответствующую им функцию = g^G0. (3.14) Из этого определения легко получить, что /Л (О ~/А (//+1) - {ехр [Л (Zz+I) - L (/z)] -1} У (t£+l) и, следовательно, Ш-ё = 2 (З-15) i Предположим, что для всякой g^G0 и всякого t существует предел f(t) = lim/A (t). д-»о Этот предел будем интерпретировать как результат преобра- зования Ttug, так что Ttu = . (3.16) д-»о * В указанной теории рассматривается также условие W~BfW > IIVII, B = L(u)-L(s), %>0, связанное со сжимаемостью полугруппы. Мы не концентрируем на нем внимания, так как может быть проведено обобщение теории на несжимаю- щиеся полугруппы. В частности, тривиально обобщение на тот случай, ког- да || Г/1| < eKt (/( — конечная константа).
Уравнение (3.15) при этом обращается в уравнение * = JdL(r)/(r), (3.17) t где интеграл понимается в смысле и f dL (t) f (0 = lim V _ Ц f (//+1). (3.18) t В вышеизложенном смысле можно утверждать, что семей- ство производящих операторов А(/) однозначно определяет функцию f(t) как решение уравнения (3.17) и тем самым определяет Т(и как преобразование g в f(t). Из (3.16), (3.17) следуют полугрупповые свойства этих преобразований. Уравнение (3.17) можно писать в дифференциальной форме _ df (t) = — dL (t)f(t). Аналогичное уравнение можно вывести и для <р€Ф, оно имеет вид Ф(0 — <p(s) = f <p(T)dL(T), ср (s) = ср, (3.19) где, подобно (3.18), интеграл понимается в смысле f Ф (т) dL (т) = lim У ф (Q — /}. (3.19.а) J д-»о ~ s [s.Z] Уравнения (3.17), (3.19) аналогичны уравнениям (3.2), (3.3), но соответствуют другому определению интеграла и другим производящим операторам. Нетрудно также записать аналоги уравнений (3.4), (3.5). Для этого следует лишь сде- лать в них подстановку d*L* (f) = dL (/). (3.20) 4. В справедливости предположений, принятых выше, можно убедиться в результате специального рассмотрения при более или менее общих условиях. Мы не имеем возмож- ности разбирать здесь обширный круг связанных с этим во- * В самом деле, из свойства I d L (t) F (t) —> 0 при max IIF (/) || -» 0 a KA 01 интеграла (3.18) вытекает, что 2 - /] /д (0) = J dL (т) /д (т) - J dL (r) / (r).
просов. Ограничимся тем, что укажем на принципиальную важность условия коммутативности операторов L (£+1)—^(А)> L(tj)—соответствующих близким интервалам. Если на некотором интервале [а, Ь] подобные операторы коммути- руют, то предельного перехода (3.11) совершать не прихо- дится и имеет место строгое равенство Тш=Тц- (t, t'(E[a,b]), так что предельный переход (3.16) является излишним. Тео- рия, соответствующая этому случаю, является не очень суще- ственным обобщением теории однородной (однопараметриче- ской) полугруппы. Часто, однако, строгая коммутативность не имеет места. Для справедливости ряда результатов оказывается доста- точным более слабое условие [£ (О - L (£_,)] [L (£+1) - L О - [L (£+I) - L (£)] X X [£(^)-£(£_,)] = о(А). Не рассматривая этого вопроса подробно, приведем один важный результат. Теорема 3.2. Пусть операторы Sit=eL(t~>~L(s>>, s<^t, т. е. операторы, удовлетворяющие условию \nSstg—[L(t) —L(s)]g, (3.21) g^DL, являются ограниченными: (3.22) (К не зависит от s и t) и пусть выполняются соотношения lim Ss< = /; (3.23) (t—s)|0 3/. ? =SZ. ](Stt [1 +О(А’+Т)], y>0 (3.24) г—1 Z-j-I I—1 I i z-f-1 (оценка 0 (A*+v) понимается в смысле нормы и является равно- мерной по ( Т). Тогда-. 3. 2.А. Предел (3.16) существует и не зависит от способа разбиения. 3.2. Б. Он определяет полугруппу операторов. 3.2.В. Эта полугруппа имеет операторы (3.11), совпадаю- щие с L(t). (А) Доказательство. Выбирая разбиения С 2 j = 2i, 2i’+l, согласно (3.24), (3.22), имеем
IП 5 4Л) #’1 ~ п 5 (4) (4) Iс e(u_s)X х ' 1 *1 'ж X {[1 + AO(Av)pv — 1} =(и —s)e<“-s)KO(Av)). (3.25) Будем рассматривать далее А/г-разбиения с интервалами длиной А/г =* А-2~/г, £ = 1,2,.... Суммируя разности (3.25), будем иметь равномерно по всем k 1П5 (Д)/Д) - П5А)A)|<(n-S)e(«-)O(Av), (3.26) । I fi W1 z Ч k Ч+l 1 k—I поскольку У O(( А-2-й')¥) = О (Av). k'=0 Это доказывает сходимость (3.16). Аналогичное рассмотре- ние можно провести и для других видов разбиений. Утверждение 3.2.Б с очевидностью вытекает из (3.16), если учесть 3.2.А и условие (3.23). Перейдем к доказательству 3.2.В. Для этого обратимся к (3.11) (3.12). В эти равенства входит 1н Tt t , тогда как усло- виями теоремы 3.2 задан In S.t (3.21). Найдем разницу между 7 /4-1 этими логарифмами. Из (3.26) получаем | П 5///+I - Tsa | < (и - s) О (АТ) i и, следовательно, =5Ь.ф1+о(А). (3.27) Путем разложения в двойной ряд функции 1п(/ + Л + В) (A = 5Z/ A + B = Ttt -Z) I тН i i4-l и использования известных соотношений типа||С7)||<||С|| ||Д||, легко убедиться в справедливости неравенства I|1п(/ + А + В) - In (7 + А) 1| < In (1 - ;1 А |,!) - — 1п(1 — .1 Л )<-----------------. Применяя его к (3.27), получаем In Tt t — In t = -j——° ----=r = о (A). ?i+l /i+1 1— S, — I — о A) v ’ Здесь использовано, что |! S -7|i = 0(l) в соответствии с условием (3.23). Отсюда следует, что оба оператора име- ют одинаковую область определения DL, а также, что пре- дел (3.11) существует и совпадает с исходным выражением (3.21). Доказательство закончено.
§ 3.2. ОДНА ТЕОРЕМА О ЗАМЕНЕ СИСТЕМЫ МЕР 1. В соответствии с формулами (3.16), (3.19а), опреде- ляющими дифференциал d, мы понимаем в более общем слу- чае выражение 2уСДт)^(т)Я?(т) (3.28) в смысле У lim У Go ft) [eV'-H>-W - /] Hq ft+1) Д-»0 Я I (если предел существует). Gq, Hq есть операторы или функ- ции. Сказанное относится и к тому случаю, когда оператор (или операторы) Rq соответствуют умножению на некоторую функцию. Операторы или функции Rq не обязаны иметь огра- ниченную вариацию или быть непрерывными. Учитывая определение (3.28), нетрудно получить, что этот интеграл обладает рядом своеобразных свойств. Например, выполняются равенства f е*<т> dR (т) = — е^, S J dR (т) = е~^ — (3.29) S т. е. е™> dR (t) = deM>; dR (t) e-W = — de~w, тогда как равенства dR (t) № = de™>, e-W dR(t) = — de~^-, — dR(t)-d[-R(t)] в общем случае являются несправедливыми. Вместо dR можно писать e~Rd*eR, где дифференциал d* определяется формулой С G (d*Q) Н = lim У G ft) [Q ft+1) - Q ft)] • H ft+l) (3.30) V △—>0 i Интегралы в (3.2), (3.3) являются частными случаями определения (3.30). Как видно из (3.20), иногда удобно заме- нять дифференциал d от одной функции дифференциалом d* от другой. 2. Перейдем к рассмотрению одной важной теоремы.
Для решения ряда задач полезно совершать замену мар- ковской системы мер при помощи формулы (х, Л) = е~^(х) J ps/ (х, dx') eF^x\ (3.31) л где Ft{x)—соответствующим образом подобранная функция на ТхЕ, измеримая по Борелю на Представляет интерес вопрос, как при такой замене мер преобразуются производящие операторы. Пусть L(t)—опе- раторы исходной системы li.S((х, Л). Введем операторы t L' (t) — L' (s) = J e~Fx dL (r) eFx + Ft — Fs, (3.32) s где интеграл понимается в смысле lira V [L (А+1) - L (Q] eFtg, Ft (F + Д ), △-»o “ 2 1 i g^DLdDL. Здесь и в дальнейшем, рассматривая А-разбиение Д} интервала [s, f], будем пользоваться обозначениями ALZ = L {ti+^ - L (fz); bF. = Ft.+1 - Ft., №!i=L' (ti+d—L' (Q. Кроме того, обозначим АД = e~F‘ (ЬЦ + АД) e\ (3.33) тогда согласно (3.33), (3.32) будем иметь lim (АД + ... + ААД = L' (/) — L' ($). (3.34) д-»о Условие (3.37) следующей теоремы отличается от этого соот- ношения утверждением некоторых коммутационных свойств операторов АБ/. Теорема 3.3. Если ||eAL‘|! < екд, (3.35) а также выполняются коммутационные условия - -2^ieKLi+&Fie- -2 = eALz (/ ц. Q (Д)Ь (3,36) ...e^LN = eL’W~L'^[I+ o(t — s)] (3.37) Д->0
(оценка o(Z—s) берется по норме и является равномерной по всем t), то преобразованию мер (3.31) соответствует пре- образование производящих операторов (3.32). Кроме того, ~dL' (0 = e~FtdL (t) eFt + dFt = e~Ft [dL (/) eFt + d*eF<] = = [e~FtdL (t) — d*e~F‘] eF 1. (3.38} Доказательство. Из (3.36) имеем e^Fi = + о(А)] е^\ Поэтому из равенства exp \e~F‘ (AL; + \Fi)eF‘} = e~Fie&Li+&F‘eF‘ получаем e^L‘ = e~Fi+ ^&Fi eAL‘ [ 1 + о (A)] /z+ = = e Ftie^Li [1 4- о (A)] eF//+‘. Произведение подобных операторов, следовательно, можно записать /Л‘ ... e^N-{ = е-^еы-т. [1 Д; о (А)] е^ ... . . . еЛС\'-1 Ц 0(Д)]/^. Учитывая (3.35), отсюда имеем ?Ll ... еАь1едь2 . .. + + е»-s)K {[1 + о(А)]л;— 1}, т. е. limeAL1 ... e^N~l = е~р°Т fit. (3.39) д->о Полагая s = ti, t = ti+i в (3.37) и в (3.39), получаем в ре- зультате сравнения этих равенств az z —Р F е 1 = е /t е'^Ч/ + о (А)]. (3.40) i г+1 Следовательно, lim eAL1 . .. e^N = e~FsTteFt = T’st, Д->0
т. е. операторы L'(t) действительно служат для полугруп- пы Т st производящими операторами. В соответствии с теоре- мой 3.2 (3.2.В) имеем также lim [In T'tlt2 + ... + In 7\v_jy g = [U (t) — L’ (s)] g, Д->0 g^OL. Перейдем к доказательству (3.38). Эквивалентность всех трех равенств (3.38) следует из (3.29) (при R=F). Согласно определению интеграла (3.28) первое равенство (3.38) озна- чает lim V (еДЛ/ — /)/(г)+1) = Нт У [e~Ffs Д->0 д~»о i I ^Li-I}eF4+if{ti+x) + (^ - 1) f (//+1)]. (3.41) Примем во внимание, что в соответствии с (3.40), (3.27) еДЛ/ = e-Ftie^ieFH+i [I -\-о (Д)]. _ I = [e~Fti _ /) /'ж + e^i - /] [7 + 0 (Д)], откуда следует (3.41). Доказательство закончено. § 3.3. ПЕРЕХОД К СПЕЦИАЛЬНОМУ СЛУЧАЮ 1. Пусть операторы L(Z), L* (/) имеют следующий спе- циальный вид: t L(f) — L (s) = J [Д (у (т), т) dx + Др (у (т), т) dye (т)]; (3.42) S t L* (0 — L* (s) = [dx *А (у (т), т) + d*y0 (т) *А? (у (х), т)] (3.43) S Здесь при фиксированных х€Т и у s{ у\,..., у;} €A!z опе- раторы Д, ДР представляют собой линейные операторы на DL, а *Д, *ДР — операторы на DL*. Функции yi(t) } являются компонентами диффузионного процесса с парамет- рами а?[у, t), Ьра (у, 0, р,о=1, •••, I. Стохастические интегралы (3.42), (3.43) понимаются в смысле, описанном в гл. 2 после того, как операторы подей- ствовали на функцию g*. Предполагается, что на Д, А Р,
*A, *Af (или на Ag,*Afg), а также на ар, bfa наложены определенные условия, необходимые для существования интегралов (3.42), (3.43), а также для существования решения стохастических уравнений, встречающихся в даль- нейшем. Уравнение (3.2) обращается в стохастическое уравнение типа уравнений, рассмотренных в § 2.2. В силу (3.43) и лем- мы 2.3 оно имеет вид f (t) - ё = f [dt *Л (у (т), т) f (x)+d*y, (т) % (у (т), т) f (т)] (3.44) t (при обратном течении времени). Согласно сказанному в § 3.1 решение этого уравнения, когда оно существует и един- ственно, определяет полугруппу Ttu. 2. Рассмотрим теперь уравнение (3.17). Учитывая, что e^L‘ = ЛД. Г/+. 24 е2 ' из (3.15) находим N—1 £[дд + -4-м.?+- f=t р2Л£7л (*/+>) • Но в силу (3.13) и (3.15) имеем Поэтому N—1 /д(О-£ = ^|Х + ^Л£з+ .. ). (3.45) /=i Из (3.42) можно получить оценку -l-ALJ-t ... =0(Д’/2) (которая, вообще говоря, неравномерна по со€П' и g£ DL). Отсюда следует, что предел в (3.45) совпадает с симметризо- ванным стохастическим интегралом, определенным в § 2.1. Ис- пользуя, кроме того, лемму 2.4, имеем
и и f(t) — g = JdL(T)/(T) = [ [dxA(y(x), т)/(т) + t i + dy9(x) At(y(x), r)/(r)]. (3.46) Аналогичное рассмотрение можно провести и для других уравнений (3.19), (3.4). В результате интегральные выраже- ния с dL заменяются на симметризованные интегралы того же вида с dL в смысле § 2.1. В частности, i q>(/)_ <р($) = f ф(т)4/Л(т). S (3.47) Пусть операторы (3.42), (3.43) соответствуют одной и той же полугруппе. Тогда решение уравнения (3.44) совпа- дает с решением уравнения (3.46). Приравнивая выражения в правых частях и учитывая формулу связи (2.14) стохасти- ческих интегралов, получаем отсюда связь между операто- рами A,Af, с одной стороны, и *А, *А р, с другой. Именно, из (2.14) при {xa}={yt, f} имеем 1 д 1 W dy9 = d*y*AJ — у fbfa dt — ~ *Aeb9f dt, где bff = lim 4- [^(^ + h) — y9 (/)] [/(/ 4- h) hio h В силу (3.44) btf = —b9a*Aaf. В итоге получаем । (5^ /4 i Ae = 4; A = *A + 4- b,a - MP*AAa. (3.48) Z utf(J z Будем предполагать, что операторы *Af*Aa, дА* ___р_ дУс являются определенными на DL*, тогда операторы L (t), L* (/) имеют оди- наковую область определения: DL = DL*. 3. Введем пространство Dl, представляющее собой про- странство функций g, таких, что ALg^DL. Для этого про- странства можно рассматривать разложение eALg f / + А£ + ЛА2 + 8' (3.49) причем Hg = O(№).
Разлагая так каждый сомножитель произведения eAL"... .. . еА/-л'- i имеем . e^N~'g = Г/ + + Т S + i i + + O((U-/)Н (3.50) Если здесь совершить предельный переход (3.16), то бу- дем иметь Ttag = {l + L(u)-L (0 + J dL (т) [L (и) - L (т)]} g + t + O((u — f)3!‘). (3.51) Операторы Ttu в данном случае удовлетворяют уравне- нию dtTta = I+ §dL(L)Tw. t Если искать решение этого уравнения при помощи последо- вательных приближений dtT{^} =1+1 dL (т) (Т™ = 1), t то мы получим некоторое формальное разложение, первые члены которого выписаны в (3.51). Укажем, кроме того, следующую формальную запись решения указанного уравне- ния в виде упорядоченного экспоненциального оператора: Т<в = ^ехр[рЕ(т)]. Здесь символ N обозначает хронологическое упорядочение стоящих за ним операторов. Сравним (3.50) с разложением eL(u}-Ut)g + L{u}~ L(t) + ± [ £ („) _ £ (Z) j2} g + + O((u-tyL). Их разность оказывается равной едд, .. . е^-1_е1Ли)-цг) — _L + О ((»-/)’£). ALZ ДЕ3. — ALjA£{ + (3.52)
Можно показать, что сумма коммутаторов = J {[А (9 - L О Д£;- - Д£;. [L ((,.) - L О} (3.53) / есть 0((«-/)3А). В самом деле, подставляя (3.42) в (3.53) и пользуясь раз- ложением дА„ Д (*) = АР (t) + (0 [уо (т) - уа (/)] + О (t - т), (3.54) убеждаемся, что V'l Г дА~ ЗЛ., 3 х 2 Sign (/ — i) [уо (tj — уа (()] Д^Дуя1 + + О((и-()3/2) = О((« —03/z). (3.55) Следовательно, из (3.52) согласно (3.16) имеем Tiu = + о ((и — t)3/*) = 1 + L(u) — L(t) + + ±.[L(U)-L(t)r + O((u-ty^. Отсюда легко получить одно выражение для Ttu, которым удобно пользоваться при малых и—t = A. Учитывая (3.42) и соотношение (3.54), получаем L (и) - L (Z) = А (() Д + Ар (t) Лур + дАР с- + J + 0 (Д3/2) <3-56) t и, следовательно, дА Tt^lA-A(t}A + Ар (t) Аур + (Z) Уар + + -у Ар (/) Аа (Z) АурАуа + О (Д7>), (3.57)
где Д//р = yf(u) — yf (/); ¥<у? = J [Уа (т) — Уа (01 dyf СО- t 4. Проверим выполнение в рассматриваемом случае ис- пользованных в § 3.1 и § 3.2 условий (3.24), (3.36), (3.37), носящих коммутационный характер. В соответствии с (3.21) и (3.49) имеем S4ii+, = I + Д^. + ± AL2 + О (Д%) 1 = I + Д£/_1 + ~ Д£?_1 + О (Д’А); = I + АЛ-i + AL(. + -±- (АЦ-i + АЦУ + О (Д3А). Отсюда получаем ± [AL.ALi-i - АЬ^АЦ] + О (Д’А). Производя разложение (3.54) в одной и той же точке t = ti для обоих операторов, легко убедиться, что ДД,ДДг_1 — ДЛ-1АЛ = О(Д3А). Следовательно, Лг_щ+1 - = 0 (ДЯ (3.58) Перейдем к (3.36). Учитывая (3.49), а также аналогичное ---b.L-+&.F- разложение для е 1 и е 1 непосредственно получаем е~^е^+^е~= О (Д3Л). (3.59) Несколько сложнее проверка последнего условия (3.37). Составим для операторов ALi разность eAL1 ... e^N-' — [7 + ДЛ + ... + Д^_1 + (3.60) + -1- (АЦ + ... дд;_1)2 + ... 1 = jy + О ((и - /)%), аналогичную (3.52). При этом согласно (3.34) имеем = ^[ЛЛДЛ:-АЛ-АЛ] =
= 2 {[A' (/,) - L' (/)] да; - да; [A' (/3.) - A' (/)]} + Од (1). / Подставим сюда (3.33) и явные выражения для оператора t. L' — А' (/) = р [A' dx + A? dyp (т)]; I (А' (т) = е~^А (т) + f (т); А'? (т) = е~^А9 (т) + /р (т); dAt = / (т) dx 4- /р (т) dyt (т)). После этого по аналогии с (3.55) получим, что 2'^О((«-ф2) + од(1). Совершая предельный переход, из (3.60) при учете (3.34) по- этому будем иметь limeAL‘ ... е4^-1 —=. O((u—/)3А). (3.61) д-ы) Выведенные соотношения (3.58), (3.59), (3.61) согласуют- ся с условиями (3.24), (3.36), (3.37), но в отличие от этих условий нами здесь не доказано, что оценки О(Д8/а) выпол- няются равномерно по всем g(z.D2L, поэтому из (3.58), (3.59), (3.61) еще непосредственно не следует справедливость этих соотношений для замыкания пространства А>1. Мы не будем проводить более сложного и полного обоснования указанных условий, а приведем независимый от этих условий вывод главного результата, используемого в дальнейшем, — тео- ремы 3.3. 5. Для краткого вывода формулы (3.32) воспользуемся тем, что симметризованные стохастические интегралы, как отмечалось в § 2.1, допускают простые правила преобразова- ния. Функция /(0 = J Hia^, dx')g(x'), как указывалось, удовлетворяет уравнению (3.46), т. е. — df(t) =dL(t)f(t). (3.62) Согласно формуле (3.31) преобразования мер, имеем Г (0 = J pi (х, dx’)g'(x') = e~F‘f (/), (3.63) t
если eF^x}g' (х) = g (х). Применяя к (3.63) обычные простые правила дифферен- цирования, получаем df (/) = e~F* df (t) — dFte~F‘f (/). Подставляя сюда (3.62) и снова учитывая (3.63), находим df (/) = — [e~Ft dL (t) 4- dFte~Ft\ f (/) = = — \e Ft dL (/) eF‘ + dFt] f (t). Сравнивая этот результат с уравнением df(t) = -dL'(t)f(t), имеем dL' (0 — e~F‘ dL (/) eF‘ + dFt, что совпадает с (3.32). Дадим также вывод формулы (3.38), которую можно записать dL'* (0 = e~F‘ d*L* (t) eF> — d* (e~Ft) eF‘. (3.64) Преобразуя правую часть равенства f (fl -f (t+i) = e~F(if «) — e~Fti+'f (t£+i) к виду e~Ftl (/ (Q — f &-H)] — [e~Fti+l — e FL} f (ti+\) и суммируя no i, имеем f (ti) - Г (^) = s' {e~Ft' [/ -/ (^+1)1 - 1=1 Подставим сюда f (t{) - f (C+i) = j* dL (r) f(x)= J d*L* (x) f (t)
и совершим предельный переход А^О. Используя определе- ние стохастического интеграла Ито и лемму 2.3, получаем и и Г (i) - f (и) = J d*L* (т) f (г) - J d* ) f (r), t t t. e. формулу (3.64), поскольку f(r) = eFx f (т) и f (0 — f («) = J d*L'* (t) f (t). t § 3.4. ДИФФУЗИОННЫЕ ОПЕРАТОРЫ И СТАТИСТИКА ПРИРАЩЕНИЙ 1. Сделаем еще несколько предположений относительно специального вида операторов L(t) и фазового простран- ства Е. Пусть Е—-m-мерное вещественное пространство Rm с определенными на нем борелевскими множествами. Коор- динаты этого пространства будем обозначать х={х1,.„, хт }. Операторы L(t) будем предполагать диффузионными, т. е. примем следующий конкретный вид входящих в (3.42) опе- раторов: А (у, 0 = с° (х, у, t) + (х, y,t)-±-+~ (х, У, t) —; Ct up A (y> i) = (*, y> t) + a° (x, y, t) . (3.65) K F dxn Здесь предполагается суммирование по индексам а, р, про- бегающим значения 1,..., tn. Функции с°, а°а и др. удовлетво- ряют условиям ограниченности и однократной дифференци- руемости по всем аргументам. В соответствии с формулами связи (3.48) тем самым определены аналогичные выражения для второго семейства операторов: •л (у. t) = V (х, у. Г)+-а° (х, у, t) i (х, у, I) ; (3.66) ’А {у, t) = с° (х, у, t) + а°ра {х, у, t) , где 1 / с° = с° 4------( с°с° + а° -------- 2 \ Р ° ра дх„ дУа 'ра,
/ i <?a° i бдО \ Ч = «о + + ± flo₽ ± (з.67) \ u р иУ$ ' Уравнения (3.46), (3.44) теперь принимают вид — df = Гс°/ + о° ——Ь — Ь°л ——— ] dt 4- Гc°f 4- а?а -^—1 dt/0\ 1 2 а₽ дхидхр J L 9 (3.68) -df = + а» + — *b° —1 dt + L ' “ <4 2 аР J L ола J Кроме них, можно также рассматривать уравнение — df = | с»*/ + а°* 1 dt + с» d*yef + ‘ L ' “ дха 2 дхадх& J р + a°ad*yV, (3.69) Г ci Y иха коэффициенты которого нетрудно связать с коэффициентами (3.67). Пользуясь формулой (2.15), где {ха} заменяются на {z/р}, имеем да0 a°ad'y9 = d*yta*a---^b^df, иУ(5 дс" с°р d”y? = d*z/pc° — —bp0 dt. р р дУо Подставляя эти выражения в правую часть (3.69) и при- равнивая ее правой части второго уравнения (3.68), находим го* _*РО I д£р 1 . о* __ *по । dapg , . ,0* _ о С - С + — Рра, аа - аа -у »р0, Оа)3 - - Оа₽ и в силу (3.67) 1 / ^сп ^со \ = с° + т (+ а°^ + О.70) \ иУа / / 1 de° 1 да°п„ \ , а°* = а°п + ( с°а°п + — а°н —+ --------------}Ьра; а а т Я[1 т 2 ?3 бхр 2 дуа ) 9 Ь^* —' b® -1— а® b л Са|3 г ыра“араро-
По аналогии с (3.65), (3.66) удобно обозначить А* = (У + а* — + — . “ д*а 2 “3 dxadXji Тогда (3.69) можно записать — df = A*fdt + A9d*yvf. Сравнение этого равенства с (3.2) показывает, что dL* = A* dt Д- A*?d*yf (аналог (3.43)). Соотношения (3.70) эквивалентны форму- лам связи 1 г 1 л* = д+4 ^ рРа м;=А) (з-71) 2 L дуа J Последние являются аналогами формул (3.48) и, кроме того, непосредственно согласуются с формулой (2.35). 2. В настоящем параграфе мы исследуем связь между операторами данного процесса и статистикой приращений Дх=х(и)—x(t) = {*](«)—хт(и)—xm(t)\. Мера, опи- сывающая эти приращения, получается из меры Ц(„(х, dx') простым сдвигом в Rm. Рассмотрим функцию ®(q\x(t)) = J exp {qa [ха (и) — ха (/)]} ptu(x(t), dx(u)). Ввиду того что мера Ц(М не обязательно нормирована, ука- занная функция не обладает свойством ©(0|х(/)) = 1. Если, однако, добавить условие %(«)€£', то соответствующая функ- ция © (q\x(t), х(и) £ Е) — Q(?k(Q) [xZu(x(6, £) (3.72) уже будет обладать (при qa = iva) всеми свойствами харак- теристической функции. При помощи операторов Ttu равенство (3.72) можно запи- сать ~'7аЛа-г „ДПа е 1 iue Q(q\x(t), Е) = TtA (3.73) Подставляя сюда (3.57) (см. также (3.56)), получаем сле- дующий результат. Теорема 3.4. Для марковских мер, рассмотренных в § 3.3, характеристическая функция приращений при малых и—t = A. определяется формулой
1 е-ч^а Гд£ _L L\yf\yaA Л № 0(<z| х(/), Е) = —-------i------р-----------------+ О(Д’А). 1 + I AL + — AypAyaApAaj 1 (3-74) (Лр = Лр(х, #(/)/))• Конкретизируем эту формулу применительно к операто- рам (3.65). Подставляя (3.56), (3.65) в (3.74), а также в фор- мулу Рти (*, Е) ~ 1 + £ Д^- + — Дг/рД//0ЛрЛ0J 1 + О (Д3/г) (см. (3.57)), находим после несложных вычислений 0 (<?| х, Е) = 1 + (a°aqa + ± b°^qaqp^ Д + a°(aqaXy? + + ЯчУач + ~ ^У^Уа [«рЛр'Ор + ?₽] + 0 <AV’); (3.75) дс° Р/и (*, Е) = 1 + с°Д + с°Д^р + —L у Of + ' дУв 1 ✓ дс° \ J + т Ду^Уо • ( С0С0 + «о а \ + О (д,/2)> где У= f[^(t) — yo(t)]dy9(r)-, Уо9 + Kf0 = Ьуакуг 't Обозначая в соответствии с (П. 1.1)* [| | х] = [p.to (х, f)]-1 J | (х') [i/u (х, dx'), (3.76) найдем условные моменты приращений Дх. Пользуясь оче- видной формулой Мц [Дха . .. Дхш | х] = Г~ . —— 0 (q | х, Е) 1 , L dqa dqa J?=0 из (3.75) легко получить да0 Мм[ДхаI X] = а°аД + а°а\yf + -^Уар + ° У о * См. приложение 1.
+ 4 &у9\уаа!> ^+0 (Д3А); (3,77) 2 FP дх$ Мм [AxuAxp IX] = 6°РА + -L Дг/рД^о^ + О (Д’/.); Мм [АхиДхрАху | х] = О (Д'72). 3. Наряду с указанными приближенными формулами можно привести ряд точных результатов. Произведем замену мер (х, dx') = e~4aXayiu (х, dx') еЧаХ'а, (3.78) тогда формула (3.73) примет вид 0 (71 х, Е) = — — Е~ = . (3.79) Пользуясь теоремой 3.3 и учитывая 3.42, находим инфи- нитезимальный оператор новой системы мер dL' = е 4aXadLeqaXa = A' dt + А9 dy9; А' = e~t,aXaAet,aXa; А'? == е~ЧаХаА(е1,аХа, т. е. в силу (3.65) dL' = c'°dt + c'°dy9 + (a'°dt + + — b^dt , (3.80) где c'o = co + ao7a + 2. c90^c° + a°eaqa; a'a° = a°a + (3.81) Если принять во внимание формулы связи (3.71), то не- трудно убедиться, что аналогичным образом преобразуется и второй инфинитезимальный оператор: dL'* = dce4^a = д'* dt д' dy^ (3.82) Д'* = = с°* + а°а (-~ \дха + — Ьй* 2 “₽ W2=c'o* + Cao*^_ + J дха z>o*--------. 2 дхадхя ы р (3.83)
где c^ = ^ + a^qa+±-b^- (3.84) Обратимся к первой формуле (3.4). Применяя этот опера- тор к единице, получаем равенство, которое при помощи мер можно записать Р/« (х> Б) = 1 + [ [ Р/Т (X, dx') (d*L* (т) 1) (х'). i Е Используя обозначение (3.76) условного математического ожидания, последнему равенству можно придать вид (х, Е) = 1 + j Р/т (х, Е) Мм [d*L* (т) 1 | х]. t Аналогичное стохастическое уравнение, конечно, можно запи- сать и для другой меры р;ы (х, Е) = 1 + J р;т (х, Е) Мк [d*L* (т) 1 I X]. t Подставляя сюда (3.82), (3.83), получаем Ptu (Х' = 1 + J Кг (х> tC'°* (Т) I Ч dr+ lCp°(T) I Л^Рр}. t Найденное уравнение является частным случаем уравнения (2.34) при /?=1. Пользуясь формулой (2.38), можно записать его решение pte (х, Е) = ехр { у [с'°* (г) | х] dx + Мк [ср° (т) | х] d*yf (т) — t - ~ W' (ЧI ч Мц' К° (т) | X]. &ра л}} = . (3.85) Существенно, что стоящее в экспоненте выражение яв- ляется функцией от q. Эту функцию обозначаем Ф(р). Под- ставляя (3.84), (3.81) в (3.85), находим
Ф(<7) = J AV \cFdt + (*d'y9\x\- t —Г f M'1' tcp'M|1' [c° ।xI bf0 dr + <7“{ J M|x' [a«dx + а°<Л ।xl — t t — J AV [c° I x] AV l^a I *] dx} + qaq$ {J AV | x] dx — t t — у MK [<Pa I x] AV [^p I -И bea dx}. (3.86) t Из полученных результатов, если принять во внимание формулу (3.79), будет вытекать, в частности, следующая Теорема 3.5. В рассматриваемом случае характеристи- ческая функция приращений равна 0 (<? | х, Е) = еф(?)—ф(°), где функция Ф(</) определяется формулой (3.86). В приведенном выше рассмотрении мы пользовались ин- тегралами и уравнениями, определенными в смысле Ито. Разумеется, аналогичные выкладки, используя (3.80), (3.81), (2.36), можно провести и с интегралами в симметризованном смысле. Некоторые формулы при этом будут записываться короче. Так, выражение (3.86) будет иметь вид Ф (<?) = У AV [с° dx + с° dyf | х] + qa J AV [a® dx + a°a dy, | x] + t t a + шУ [^pl *] dx. t 4. В заключение сформулируем теорему, которая нам по- надобится в дальнейшем. Теорема 3.6. Пусть ntu(x, Л), (х, Л)—марковские системы мер, связанные соотношением (3.78) (вторая из них зависит от q, а первая нет) и при любых (комплексных) q выполняется равенство li'u (х, Е) = 1 + J (х, Е) AV ld*N’ (х) 1 | х], (3.87) S
где dN'(r) —некоторый оператор, такой, что еЧаХа dN' (т) ё~ЧаХа = dN (г) (3.88) не зависит от q. Тогда dN (т) =dL* (т) есть инфинитезималь- ный оператор системы мер р<и. Доказательство. Учитывая (3.76), нетрудно видеть, что (3.87) эквивалентно равенству (х> £) = 1 + J (х, dx') (d*N'l) (х') t или, вследствие (3.78), J (х, dx') еЧаХ'а = еЧаХа+ J f (х, dx’) eqaX'a (d'N'l) (x')- t E Учитывая обозначение (3.88), получаем (х, dxr) eQaX a — е^Ха + j* Ц/т (^» dxf) (d*NegaXa) (x') — t = eqaXa-Y J (prtdW) (x, dx") e4aX’a t при любом q. Применение несколько обобщенной (на случай ненормированной меры) теоремы обращения (Лоэв [1], стр. 199) приводит к равенству (х, А) = I (х, А) + J (pt-td'N (т)) (х, А) t (/(х,А) — индикатор множества А). Это равенство эквива- лентно первому равенству (3.4) или (3.3) и вследствие единственности инфинитезимального оператора dL* имеем dL*=dN. Доказательство закончено. Вследствие (3.82) dN' совпадает с другим инфинитезимальным оператором dL'* мер
Глава 4 АБСОЛЮТНАЯ НЕПРЕРЫВНОСТЬ ДИФФУЗИОННЫХ МАРКОВСКИХ МЕР И ПРОИЗВОДНЫЕ В ФУНКЦИОНАЛЬНОМ ПРОСТРАНСТВЕ Материал этой главы нужен нам для применения общих результатов по условным марковским процессам, излагаемых в гл. 5, к важным частным случаям .диффузионных процес- сов. Такая конкретизация проводится в главах 6 и 7, поэто- му результаты указанных глав существенно основываются на материале настоящей главы. По вопросу об абсолютной непрерывности мер диффузи- онных процессов в функциональном пространстве и о виде соответствующих производных имеется большое число работ: работы Камерона и Мартина [1], Прохорова [1], Скорохо- да [1], Гирсанова [1]. Результаты этих работ в основном были получены при помощи преобразования меры Винера. Теоре- ма 4.1 этой главы в сущности повторяет указанные резуль- таты. При этом приводится другой способ доказательства — такой способ, который удобен для обоснования следующей теоремы 4.2. Последняя теорема касается производной в функциональном пространстве, соответствующем части ком- понентов многомерного диффузионного процесса. По осталь- ным компонентам как бы производится усреднение. Воз- можность получения каких-либо точных формул при такой постановке вопроса, насколько нам известно, еще не была отмечена. Теорема 4.2. удобна для обоснования результа- тов гл. 7. Рассмотрение, проводимое в настоящей главе, упростилось .бы, если бы мы потребовали невырожденности матрицы ло- кальных дисперсий. Однако мы не идем на такое ограниче- ние общности. Это вызывает некоторое усложнение формул, к которому, впрочем, легко привыкнуть. Вместо матрицы, обратной к матрице локальных дисперсий, в выражение для производной входит матрица, обратная к невырожденной
подматрице матрицы локальных дисперсий. Кроме того, как необходимое условие абсолютной непрерывности мер появ- ляется добавочное условие, наложенное на составляющую вектора сноса в дополнительном подпространстве. Понятия и обозначения, связанные с вырожденностью матрицы локаль- ных дисперсий, приводятся в § 4.1. Этот параграф несколько выпадает из общего строя на- стоящей главы, поскольку в нем не рассматриваются функ- циональные пространства. Однако он является необходимым для дальнейшего, поэтому мы его помещаем как вводный. §4.1 . НЕКОТОРЫЕ ЛЕММЫ ДЛЯ МЕР С ВЫРОЖДЕННОЙ МАТРИЦЕЙ ДИСПЕРСИЙ 1. Рассмотрение вырожденной матрицы дисперсий помо- гает распространить результаты § 4.3, § 4.4 и глав 6, 7 на слу- чаи вырожденной матрицы локальных дисперсий. Лемма 4.1. Пусть матрица b Ь + b b где ь = \\ь^\\\ b = \\b^.\\-, ь+ = Рр-И1; ь = \\ь^ |j; р', o' = l.......р", о" =1' + 1, ..., I, (крестик означает транспонирование) является симметрической матрицей ранга Г, причем l’Xl-мат- рица также имеет ранг I', тогда det&#:0; ь = bb-xb+. (4-1) (4-2) Доказательство. Согласно условиям леммы можно подобрать такие коэффициенты аР"-г, что bf"o’ — ®.p"T’br’a’i bo-g" = а^х’Ьт’а" > (4-3) или в матричной форме b = ab; b = ab+ (индексы с одним штрихом пробегают значения 1,..., Г, а с двумя штрихами — значения /'+1,...,/). Очевидно, что ранг матрицы не изменится, если из -столбцов матрицы ||6,&+|| вы- читать линейные комбинации ее первых столбцов, т. е. если от ||6,6+|| перейти к ||&, Ъ+—&а+||, где Ьа+= . Поэто-
му Rang \\b, b+—bd+\\=T, но в силу (4.3) и симметрии мат- рицы b имеем Ь+ — />а+ = 0. (4.4) Следовательно, Rang ||й, 0|| = Z', что доказывает утвержде- ние (4.1). Чтобы вывести (4.2), получим a^=b~lb+ из (4.4), транспонируем эту матрицу и подставим во второе равен- ство (4.3). Доказательство закончено. Лемма 4.2. Пусть b — матрица, рассмотренная в преды- дущей лемме и являющаяся, кроме того, неотрицательно определенной, тогда существует lXl'-матрица о= , ra- il с I кая, что det о 0 и Z» = aa+, т. е. оо+= Ь (4.5); ост+ = Ь+ (4.6); оо+ = Ь. (4.7) Доказательство. Формула deto#=0 и (4.5) выте- кают из (4.1), поскольку из невырожденной положительно определенной матрицы всегда можно извлечь квадратный корень (можно даже подобрать симметричную матрицу о). Подставляя (4.5) в (4.4) и обозначая о+а+ = о+, доказываем (4.6). Наконец, подстановка (4.5), (4.6) в (4.2) приводит к (4.7). Лемма 4.3. Пусть гауссовы случайные величины (t/i, ..., yt) имеют корреляционную матрицу k ранга Т со свой- ствами, указанными в предыдущих леммах, а также средние значения тр, р =1,..., I. Тогда соответствующая им мера v(A) в l-мерном эвклидовом пространстве Ri определяется следующим выражением: и 1 v (А) = J (2л) 2 det 2 k х гл X exp £---^-(z/p. — — mv)j dy1 ... dyi-, (4.8) где Г = {у • ТЩ" — kf"X' kx'n' (Уп' — UlnT), p' — I -pl,...,/} есть l'-мерная гиперплоскость. Для доказательства применим лемму 4.2 к матрице k( = b) и запишем исходные случайные величины в виде z/p =/пр + р=1, (4.9) где Вь ...Д> —независимые гауссовы случайные величины с нулевым средним значением и единичной дисперсией. Раз-
решая первые I' уравнений из (4.9) и подставляя результат в остальные I—I' уравнений, получаем (У?- — tnt'Y, (4.10) yf-— mf" = а9.х,.а^я,(уя,— тя.у (4.11) Согласно (4.5), (4.6) имеем /?/?-1 = oo-1, поэтому (4.11) эквивалентно равенству z/p’ /Ир" = kp"x' kx’n' {.Ул,’ (4-12) Оно доказывает, что мера v действительно сосредоточена на гиперплоскости Г. Равенство (4.10) представляет собой не- вырожденное преобразование случайных величин gi,---, имеющих плотность распределения _ 1' - р^, ...,^) = (2л) Техр[--±-^£]. р' Преобразование этой плотности по обычным правилам и учет соотношения <т+ “'о-1 =k~l обосновывает экспоненциаль- ное выражение в (4.8). Доказательство закончено. 2. Приведем в заключение этого параграфа одну полезную лемму, касающуюся более сложного объекта — диффузион- ного марковского процесса, но тесно связанную с предыду- щими леммами. Лемма 4.4. Пусть y(t) = { y\(t),..., yF(t) } — диффузион- ный процесс с параметрами сноса а? (у, t) и матрицей ло- кальных дисперсий b(y, t) = ||Ьа? (у, /)||. Предполагается, что все эти функции непрерывны по у и t и что при всех у, t из областей определения матрица b(y, t) удовлетворяет усло- виям лемм 4.1, 4.2. Тогда с вероятностью 1 ₽ -1 ₽ -1 J (dy9- — 6р"т' 6-Г-Л' й*уя1) = J (йр. — Ь?-я, ЬХ’Я’аЯ’)с11. (4.13) а а Для доказательства, в сущности, можно применить тот же прием, что и при доказательстве предыдущей леммы, но соотношения (4.10) — (4.12) записывать для дифференциа- лов. Поясним сказанное подробнее. Введем матрицы о, о, определяемые леммой 4.2 (ао+=&), и рассмотрим уравнения ^(Р) — У?(.а) = + а?Я’й*%я-(Т)], (4.14) а где 51 (/),..., 5г (/) —независимые винеровские процессы.
Как известно (§ 2.2), эти уравнения определяют диффу- зионный процесс с параметрами сноса а? и локальными дис- персиями <трл- сттл- = bfX, т. е. процесс, определенный в усло- вии леммы 4.4. Взяв из (4.14) Г уравнений j [dy^ — at> dt] = f d* a a и пользуясь леммой 2.3, имеем j [d*yf> - а?. dt] = (Р) - (а). (4.15) а Подставляя (4.15) в остальные уравнения j ]dy?" — аР" dt] = j Ор-л- a a и снова используя лемму 2.3, получаем р ₽ j [dy?-— at-dt] = Of-я-Оя-'pAd* yf'-а?- dt], (4.16) a a что доказывает (4.13). Следствие 4.1. Для диффузионного процесса, рассмот- ренного в лемме 4.4, с вероятностью 1 существует предел 1 lim —( (d-Уй" b^"x' bX'^’ d*уж) — Ь-гл' #л'« (4.17) А-эО A J t § 4.2. ОБОЗНАЧЕНИЯ a-АЛГЕБР В ФУНКЦИОНАЛЬНОМ ПРОСТРАНСТВЕ 1. Двухпараметрическая марковская система мер ps/(z, Л), z^E, ЛС S в измеримом пространстве (£, S ) порождает меры в функциональном пространстве ET = t[Et, где Et— ко- t£T лии пространства Е. Точки этого пространства будем обозна- чать г(-) = \z(t), /€ Т Для однозначного задания меры в функциональном прост- ранстве нужно ввести «начальное» распределение или вместо этого, добавить условие z (s) = е, где е^Е. Меру в функциональном пространстве, соответст- вующую этому последнему случаю, будем обозначать цг(8).
Введем обозначения для о-алгебр в функциональном про- странстве. Пустьt£T есть о-алгебра, порожденная мно- жествами { £(•) :г(/)€А}, Л€£. Более обще пусть-у обо- значает минимальную о-алгебру, порожденную множествами {г(-) : z(t) €Л}, /€ Г, Л ( S , т. е. ^V-o(U^)- ter Далее, о-алгебру, порожденную множествами {г(-):г(/)(Л, t^T], ТС?, будем обозначать оЛ~. Как известно (например, Дынкин [2], стр. 32), при неко- торых топологических условиях (которые mbi предполагаем выполняющимися) согласованные меры для конечного числа моментов времени, в данном случае меры J • • • J (е, dx,) ... pZn_1 tn (х„„15 Л„), Ар ..., Лп£ в, Л, A„_j единственным образом определяют меру щи в измеримом пространстве (Ет, M’f) при любом TQT. Кроме того, для сепарабельной модификации процесса £'(•) мера щи на однозначно определяет меру на о-алгеб- рах (например, Лоэв [1], стр. 529). В дальнейшем мы ограничимся рассмотрением сепарабельных процессов (от- носительно 8 ). Для них существует счетное множество К (множество сепарабельности) такое, что множество {?(•):z(Z)£ Л, t^T}^ Мт отличается от {г(.):г(0(А, самое большее на подмножество множества Г £ М^ меры нуль. Таким образом, если пополнить о-алгебру под- множествами нулевой щи-меры изс^~ и соответствующую пополненную о-алгебру обозначить то будем иметь В соответствии с этим для сепарабельных процессов наи- более широкой о-алгеброй можно считать о-алгебру MAs- Пространство с мерой (ET,MsTs, Щи) можно выбрать за исходное. При таком подходе процесс z(-) по терминологии Дуба ([1], стр. 67) является непосредственно заданным про- цессом.
Другой подход, как известно, заключается в том, что рас- сматривается абстрактное измеримое пространство (£2, с®), а процесс z(')=z(-, со) вводится как с®-измеримая функция на нем. При этом нужно постулировать, что прообразы всех описанных выше а-алгебр содержатся вй. Все. утверждения относительно а-алгебр Л'у, и др. в Ет, как правило, можно перенести на их прообразы в £2. Мы на этом не будем останавливаться и не будем вводить специальных обозначе- ний для а-алгебр в £2, обозначая их, если понадобится, теми же буквами. В том частном случае, когда Т есть интервал [а, £], будем употреблять обозначение Л^а.р] =^а и аналогично для дру- гих а-алгебр. 2. Рассмотрим диффузионный процесс z(-) =?/(•), опреде- ляемый уравнением (4.14). В этом случае мера является вероятностной и при любых s и z(s) она сосредоточена на мно- жестве непрерывных функций. Множеству остальных функций можно приписать меру нуль (или с самого начала рассмат- ривать только множество непрерывных функций). Тогда про- цесс будет сепарабельным, причем множеством сепарабель- ности S будет любое всюду плотное в Т множество. (В про- странстве непрерывных функций а-алгебры Л3?- и dtlT будут попросту совпадать.) Если винеровские процессы £Р'(0 в (4.14) считать с® -из- меримыми функциями от <в€ £2, то интегральное уравнение (4.14), как известно, определяет процесс у(-) = {//(7,®)} как (^-измеримую со-функцию. В дальнейшем для получения различных результатов мы будем рассматривать Д-разбиение Зд = {t\,tN }• интервала [s, /]€Т. При этом подразумевается, что ЗдСЗЗд' при А'<Д. Будет использоваться то обстоятельство, что предельное множество Sf = ПтЗд является множеством сепарабельности Д-»0 и, следовательно, Наряду с точным уравнением (4.14) иногда полезно рас- сматривать соответствующее уравнение в конечных разностях ~ k~l ~ Z?* — Zp (s) = Q lti+i — О + Z—О + 0>£, <) (4-18) (% = гр (^), /0 = s). Получающийся при этом приближенный процесс {z(^i), ... ..., г(£л-} в некотором смысле близок к точному процессу
z(-) и соответствующая ему мера Щ(3) на Л^хд близка к мере p.2(S). Сформулируем соответствующее утверждение в виде леммы, которая нам пригодится в дальнейшем. Будем предполагать, что на всем интервале [s, /] ранг I' матрицы ||&Ра|| не изменяется и не нарушается линейная не- зависимость ее Г первых строк. Тогда вместо всех компонен- тов процесса г(-) можно рассматривать I' первых его компо- нентов г(-) = { гг(-), р'= 1, ...,/'}. о-алгебры в пространстве Ет, соответствующие этим компонентам, будем отмечать штрихом. Лемма 4.5. Мера pz(S) точного процесса и мера p.Z(s) при- ближенного процесса (4.18) абсолютно непрерывны на о-ал- гебре причем производная Радона—Никодима ^dz,...dzN) = (4 19) b(s) (dzj ... dzN) стремится к 1 при Д-»0 почти всюду относительно pz(s). Доказательство. Сравним меры pz (dzk+i) и ;), соответствующие одному элементарному интервалу [tk, tk+t]. Мера pZft как видно из (4.18), соответствует гауссовому распределению для разности £р- = zP-,*_|_i— гр-,4 со средним зна- чением а:, (zk, tk) (^-и — tk) и матрицей дисперсий b^a- (zk, tk) X X (^+i — ^). Мера ц2а (dzk+1) имеет плотность распределения pZk (£, f) = р, которая удовлетворяет диффузионному уравнению = + t)P] + dt oz?' 1 № + --^^[^(2, + ^)^ p о Приближенное решение этого уравнения при малых t—th удобно находить при помощи преобразования Фурье, т. е. рассматривая характеристическую функцию QZk(y,t) = Q= P^,t)dZ. Диффузионное уравнение эквивалентно следующему уравне- нию для нее: дв Г- / • д Д — = Д. ,(д 6,.,(г,-.Хл)]е (4.20) (®zk(v’tk) = !)>
где введено обозначение операторов iAL^0 = J__ Г V-—^Q(u)du. (4.21) \ dv J 2л J J iu — oo — 00 Функции aP', 6p'<r, 0, по нашему предположению, таковы, что соответствующие интегралы в (4.21) сходятся. Уравнение (4.20) будем решать методом последователь- ных приближений: НП = <УЛ; =е-фп-1 д <2 i JL Л_ dt L X dv J ---— Vo- va- b0'a' (zk — i 111 A"1 (<p0 = 0). 2 ’ \ dv I | Это приводит к результату 0(v, t) = expVp-a,- (zk,tk) — ~~-vf,va'b^(zk,th)\ + (4.22) Но характеристическая функция exp at--------~-vp- vO' &p-<r|J (^ — ^)j = ®- при t — tk+l в точности соответствует мере (dZk+\). Из ра- венства 0(ц, — 0(ц, ^_|_1)е0(Л2) имеем p^,tk+))^Pzk^tk+1)^. (4.23) Если взять теперь не совпадающие, но близкие значения и zh, то из (4.22) в силу дифференцируемости по zh пара- метров Яр', Ь('С' будем иметь (у. ^+1) = ® (У> ^+1) еХР [° (А — A) Л + О (Л2)]. Следовательно, при zh—zft = o(l) имеем % (v, tk+1) = 07 (Ц, tk+1) е°(д); р (t, tk+1) = (S, tk+1) e°^. (4.24) Перейдем теперь к рассмотрению многомерных распределе- ний, входящих в (4.19). Согласно уравнению (4.16) компо- ненты z' (•) = {гР'} однозначно определяют прочие компонен- ты г"(•) = { гр’} • То же самое справедливо и для приближен-
ного процесса (4.18), причем limZp-^Zp, т. е. zf—zp=o(V). д-о Запишем (4.19) в виде 1 _ . [Рг <г1 ~го) • • ' (<v - 2Л'--|) 1 г1' = 71', • ,ZN_X = 7^_j] Р~ (7; -7') ... P7jV_i (7W -7;;_]) и внесем знаменатель в правой части под знак математиче- ского ожидания. Учитывая при этом (4.24), получаем ЛГ-1 , 2 о(Л) что завершает доказательство. Очевидно, что вышеприведенная лемма справедлива и для пополненной последовательности а-алгебр {^sA}- § 4.3. ПРОИЗВОДНАЯ РАДОНА—НИКОДИМА ДЛЯ ДИФФУЗИОННОГО ПРОЦЕССА В настоящей главе мы будем рассматривать диффузион- ную марковскую систему мер в «-мерном эвклидовом прост- ранстве Rn, но более частного вида, нежели меры, опреде- ляемые операторами (3.42), (3.65). Именно,'’не вводя допол- нительного диффузионного процесса будем полагать / а 1 а2 \ dL = (с + ае + — Ьра . -я - dt. (4.25) \ 2 dzp 2 Р дХ dza j По сравнению с (3.42), (3.65) здесь изменено обозначение: х заменено на z, т. на п и положено A ps 0. Функции с, а?, Ьра предполагаются непрерывными функциями от zj,...,zn, t и (если нужно для перехода от одного стохастического ин- теграла к другому) дифференцируемыми по zlt ...,zn. Как указывалось в предыдущем параграфе, данная систе- ма мер определяет меры pz(S) в функциональном пространстве (Rn, ^т), RTn = RnX ... XRn, а также на других, менее ши- роких а-алгебрах. Кроме данной меры ц введем другую меру v аналогично- го же типа и рассмотрим вопрос об абсолютной непрерыв- ности этих мер на (Rn, ^“)- Если матрица локальных дисперсий ||^ра || невырождена, то, как известно (это следует из леммы 2.1) для абсолютной непрерывности мер p.z(S) и vZ(S> на , необходимо и достаточ- но, чтобы матрицы локальных дисперсий обоих мер совпада-
ли на всем интервале [s, и]. Параметры сноса ар обоих про- цессов могут быть различными. Положение осложняется для вырожденных матриц ло- кальных дисперсий. Совпадение матриц локальных дисперсий в этом случае недостаточно для абсолютной непрерывности. Как видно из (4.17), необходимо также совпадение выраже- ний (4.17) для обоих процессов во всех внутренних точках рассматриваемого интервала. В нижеследующей теореме мы возьмем в качестве меры •v2(s) из всех мер, абсолютно непрерывных относительно за- данной, такую меру, которая в некотором смысле является простейшей. Именно, пусть она имеет наименьшее необходи- мое число отличных от нуля членов в соответствующем ей •выражении dLv = (cv + Др --Ь — ЛрО - лд д—'j dt, У Р <?Zp 2 Р dzf dza / аналогичном (4.25). Поскольку должно выполняться равен- ство йр" Ьр”х' Ьх'П' йл' = йр" Ьр"г' ЬХ'П’ йп', Р , то, очевидно, нельзя положить йр =0, но можно положить йр' = 0, йр" = йр" Ьр "х' ^т'л' йл'. (4.26а) Теорема 4.1. Пусть мера Щ(8) в пространстве Ет опре- деляется инфинитезимальным оператором (4.25), .а мера y'z(s) — оператором [1 г) 1 ”] (ар” Ь9”х’ ^т'л' ®л-) -Q- |-— а а Ч” \dt. (4.26) Тогда эти меры абсолютно непрерывны на о-алгебре или •ТТф, причем производная Радона—Никодима имеет вид d и (г (•)) = ехр ( С [cdt + а9> b^la. d* za- — dvz(s) Ш ---аР’аа. dtl\ (п. н.), (4.27) если выполнены условия существования этого стохастическо- го интеграла. Смысл обозначений р', о', 6р,,'а-, такой же, что и в лем- мах 4.2, 4.4. Утверждение теоремы, если не говорить о членах с с, со-, .держится в результатах работы Гирсанова [1] и др. Тем не менее мы приведем здесь краткое доказательство, чтобы
проиллюстрировать метод доказательства, применяемый в дальнейшем (§ 4.4) для получения более сложных результа- тов. Будет использована Лемма 4. 6. Пусть имеется последовательность расши- ряющихся о-алгебр , сходящаяся к^, и две меры р и v на Тогда, если эти меры абсолютно непрерывны на каж- дой, и производная Радона—Никодима fn сходится почти всюду к конечной и почти нигде не равной нулю функции f, то меры ц, v абсолютно непрерывны наЭ^ и производная Радона—Никодима равна f. Эта лемма относится к основаниям теории меры и мы не будем останавливаться на ее доказательстве. Доказательство теоремы 4.1. Рассмотрим меру pz (sp соответствующую инфинитезимальному оператору ,,, , 1 , д2 (1L dn “X--1---t?p‘o —з Ч , p 2 dz9 dz0 t. e. диффузионному процессу с параметрами af, b?a. К это- му .процессу относится лемма 4.4 и для него справедливы стохастические уравнения (4.14) — (4.16). Приближенно эти уравнения можно заменить на конечноразностные уравнения и воспользоваться леммой 4.5. Пусть 5д = {^} есть А-разбиение интервала [$, и]. Предел S“ = lim будет множеством сепарабельности, поэтому ЛД-и = _____Д-*0 z s Если доказать, что меры pz(s), Pz <s>, vZ(S> абсолютно непре- рывны на причем производная Радона—Никодима имеет предел при А->0, то согласно лемме 4.6 отсюда будет следовать абсолютная непрерывность этих мер на Абсо- лютная непрерывность цг<8)vZ(S), очевидно, не нарушится и при пополнении о-алгебры ц-нулевыми множествами. Таким образом, доказательство теоремы 4.1 сводится к ис- следованию производных Радона—Никодима конечных раз- биений 5д, к доказательству их сходимости при А->0. Для разбиения 5д меру щ щ представим в виде (dzt ... dzN) = / Hz(s, (dzx) (dz2) ... pzjv_] (dzN), (4.28) где z(. = г(/;) и ?z. (dzi+1) гауссова мера со средними значениями zfi+af (zt, tf) (ti+i—ti) и дисперсиями Ь(а ti) (fi+1—/,•). Согласно изложенному в
лемме 4.5, f стремится к 1 п. н. при А^О. Нетрудно доказать, что JAz(S) {dz1 ... dzN) = /Л exp [с (z(s), s) (tx — s) + ... + + c (Zjv—i, tx— i) (/.v — 6v'—i)] Pz(s) (dzx ... dzjy), (4.29) где /Л —> 1 п. н. при А 0. Запишем для меры v2(S) равенство, аналогичное (4.28): vz (S) (dzx . .. dzN) = ~fv v2(s) (dzj v2i (dz2) ... vZN_t (dzN). (4.30) Здесь v2. (dz^) — гауссова мера co средними значениями zpz+ a? (zt, — (cm. (4.26.а)) и дисперсиями bfa (zL, t() (ti+l —fv -» 1 п. н. при A 0. Учитывая (4.28) — (4.30), получаем, что меры (4.29), (4.30) абсолютно непрерывны, если абсолютно непрерывны элементарные гауссовы меры р2. (dzi+i) и vz.(dzi^.i). Примене- ние леммы 4.3 позволяет доказать последнее и найти соответ- ствующую производную ii2.(dz.,,) . ~—l-d— = exp {a,, (Zi, /(.) b9.x. (i) [zx- — zv (/,)] — — ~ a?- (O(i) ax- (i) (4.31) Подставляя (4.28) в (4.29) и поделив (4.29) на (4.30), по- лучаем при учете (4.31) pz(s) (dzt . . dzN} _ /А у- (уЧ г Vz(s) (dZ1 . . . dzN) fV + af-(i) (0 [гх- (ti+1) — ZX' (/z)] — - ~ (i) b7'v (i) ax. (i) (ti+1 - Z(.)j}. (4.32) Если выполнены условия существования стохастического интеграла, сумма в (4.32) при А->0 имеет своим пределом интеграл. Эта сходимость, а также вышеупомянутая сходи- мость /Л, /, fv к 1 доказывает абсолютную непрерывность мер на и равенство (4.27).
§ 4.4. ПРОИЗВОДНАЯ В ФУНКЦИОНАЛЬНОМ ПРОСТРАНСТВЕ ПРИ ЧАСТИЧНОМ УСРЕДНЕНИИ ДИФФУЗИОННОГО ПРОЦЕССА Разобьем компоненты Zj, ..., zn рассмотренного ранее диф- фузионного процесса на две группы, обозначая za = xa; a = l, гр = г/р, р = т + 1, .. . , т + I = п. Индексы а, р, .. . здесь и в дальнейшем пробегают значения 1, ... , т, а индексы р, о, ... — значения т -f- 1, ... , т + I. Пусть /' Rang |[b,a ||. Будем, каки в §4.1, употреблять штрихованные индексы, условившись, что р', о', ... пробегают значения т 4- 1, .. . , т + а р", о", ... — значения т + V + 1, . . . , т + I. Пред- полагается, что det || йр-о-1| =4 0. Эта система обозначений, кото- рой мы будем придерживаться также в гл. 7, позволяет не ука- зывать каждый раз область пробегаемых значений. Компоненты |г/р} в совокупности образуют точку в /-мерном борелевском пространстве (Rz, dgz). Условия типа Л}, Л(М; (/ фиксировано) выделяют a-алгебру в пространстве R„, которую мы будем обозначать Л<. Кроме того, мы будем упот- реблять обозначения Лу = a( [J Л^}, Л^- Они имеют смысл, t£T __ „ аналогичный смыслу обозначений поясненных в § 4.2. Марковская мера p.2(S) на определяет меру p.z(s) на c^sCZ'^s, но при этом существенно, что на Л$ (т. е. при фа- зовом пространстве Rz) мера уже не обладает марковскими свойствами. Теорема 4.1 к этому случаю будет неприменима, тем не менее в некотором смысле она допускает обобщение и на этот случай. Если взять две абсолютно непрерывные на & меры ц, v и их производную Радона—Никодима f на и рассмотреть интеграл ц(Л)= f/t/v л по множеству то, очевидно, получаем, что указан- ные меры абсолютно непрерывны также на Л. Производная Радона—Никодима на Л при этом получается усреднением первоначальной производной: / -Mv [/И], (4.33)
где обозначение Mv[• | А] соответствует (П.1.4), (11.1.2): Mv [/ \-Л\ = [v (dco)]-1 j/dv, dtD^o/Z. da> Конечно, в формулу (4.33) можно подставить, скажем, (4.27) и 'получить функциональную производную на Однако такой результат еще не очень продуктивный. Чтобы получить более полезные результаты, мы пойдем по другому пути. Теорема 4.2. Пусть мера pZ(s) на ЛА соответствует диффузионному процессу в п-мерном пространстве (Rn, с инфинитезимальным оператором dL д2 <5г3- dzk dt, причем bfa и ар—6Р"а- Ьо’л' аЛ’ не зависят от ха ^измеримы). Тогда мера р.г(5) на абсолютно непрерывна по мере vy(S} (= vz(s)), соответствующей диффузионному процессу в 1-мерном пространстве Sdt) с инфинитезимальным оператором dlP> - (a?* — b,^ ba^ а#) ~ bta dt. Производная Радона — Никодима на -АЧ имеет вид (X (s), у (•)) = ехр И Гмц (С | ^) dt + X(s) №/()) + Mg(ax|^s)^Wd*;/(r(O— (4.34) ~ Мц (йр-1 tAs) dp'o-Мц (ao-1 ALs) П редполагается, что выполнены условия существования этих стохастических интегралов. Доказательство. Выбирая А-разбиение Зд интерва- ла [$, и] и записывая для ц2(») формулы, аналогичные (4.29), (4.28), имеем Hz(s) (dZj ... dz.v) = /А ^(zfsi.sxn-s) у (4.35) X Hz(s) (dzj ... ec^~l} /Л’~,) PzjV_1 (dzN), где (dZj+j) — гауссова мера co средними значениями Zy(^) + -b a^zitj), tt) (ti-fr — ti) и матрицей дисперсий ' M2(O> U (^-H —^)-
Вследствие марковских свойств процесса, входящие в (4.3'5) функции f распадаются на сомножители: = П /z (2/, W; 7= ПЛzi+1). (4.36) i i Поскольку, как отмечалось ранее, /Л Н, ?1 п. и. при Л —> О, то z/+1) = е0^- I (z„ zi+1) = е^. (4.37) Перейдем к рассмотрению меры jxz(s) (dyr ... dyjV) на о-алгебре JLstj т- е. проинтегрируем (4.35) по Из определения условных мер (Приложение 1) следует тождество Pz(s) {dy-t dyN) = p2(sj (dy^ p2(S) (dy21У1) . . ... p2(s) (dyN | yv, ... , yN_i) (4.38) (справедливое почти наверное). При этом, если использовать, формулу Hz(s) (ddi+i I У1> , di) = j IMs) (dyi+1 \yr, ..., у it xz) X X \^(dx. |i/i, ... , у J и учесть марковское свойство p2(S) (dyi+11 yu ... yt, х() = = 1Ц.»г (dyi+i), будем иметь P-z(s) (dyi+1 \yL, ... , yt) ~ J P%. y. (dyl+)) JXZ(S) (dxt IУ1, ... , yt) = = MMz(s) [\ix.y. (dyi+1) | ylt .... уД (4.39) (см. (П. 1.4)). Примем во внимание, что согласно (4.35), (4.36), (4.37) (dyi+1) = J exp [c (zz, /z) (ti+1 — tt) + о (A)] pz. (dxi+1 dyi+1),. (4.40) и используем равенство f e0(A) Pzz (dxi+1 dyl+1) = e°<A) j p2. (dxi+1 dyi+1) = e0<A)pz. (dyi+1). (4.41)
Интегрирование в (4.40), (4.41) проводится по ш-мерному пространству значений х;+1. Как отмечалось, ^г. (dz;+1) есть гауссова мера со средними значениями г3- (tj 4- (zit t() (ti+1 — и матрицей дисперсий te) — t/). Поэтому рг. (dyi+1) •есть гауссова мера со средними значениями + (^+1 — и матрицей дисперсий b9O (zt, — tt). Вид этой меры опре- деляется леммой 4.3. Применяя лемму, легко получить, что мера ц2. (dyi+1) абсолютно непрерывна относительно гауссовой меры vz. (dyi+1), имеющей средние значения У? + (Лн-i — Л) (dp/ = 0; t2p" — tZp" bpn& Ь(ун; Од<) и те же самые дисперсии. Таким образом, РЦ Ш+1) = vz. Ш+1) ехр {af> (г[, b^'a. !zit t.) х >< Ш G(+i) — У°’ О — у «?' t<) Ь~Ъ (zit t.) x (4.42) X a^(zt, ti) (ti+1 — t.)}. Используем теперь, что по условиям теоремы 4.2 функции b?a(z, t)(—b9a(y, ()), «р (2, 0 (= а? (у, f)> не зависят от х (^-изме- римы). Это позволяет при вычислении условного математичес- кого ожидания МцгЬ) [ • | г/i, . . . , г/J от (4.42) вынести vz. (dyj+1) = = vy. (dyi+1) за знак математического ожидания и получить, подставляя (4.42) в (4.41) и (4.40), Мцг(5) [Р'+ (^Уг+1) I У1> • • • > ~ = у (^.+])MMs) [XX® !z/1> . . . , yilt (4.43) :где обозначено = с (zit Q (ti+1 — Q 4- aP- (z„ b~>a- (z-L (,) x x pa- Ы — Ус- — у ao- (zt, tL) (ti+1 — ol. (4.44)
Подставляя теперь (4.43) в (4.39) и (4.38), находим p2(s) (dyi ... dy„) = vy(s) (dyj ... (dyN) Mgz(s) [еЯо+°(Л)]. MM2(S) [^+°(A) I У1] .. . MM2(s) [e^-i+°<A> | У1.yN_J. (4.45) Сравнение этого равенства с равенством v//(s) Ш / V^f/(s) Ж) • • • (dyN), (4.46) аналогичным (4.30), приводит к заключению, что меры (4.45), (4.46) абсолютно непрерывны, причем производная Радона—Никодима имеет вид рМцг(5)кНо+<,(А)]МИ2(5) [eH’+o<A>|У1] • - - ...ММг(5)[е^-1+о(4)1л..................(4.47) Совершая предельный переход Л->0, доказываем абсо- лютную непрерывность этих мер на и формулу для про- изводной Радона—Никодима (* (S), //(•)) = Ига МИг (s) [е"”+0(А)] MM2(s) [ен‘+0(А) | z/J ... д-»о •••Mm2(s)[^-1+0(A4z/p ....^-,1 (4-48) при условии, что этот предел существует пбчти всюду. Для завершения доказательства теоремы остается пока- зать, что указанный предел совпадает с выражением в пра- вой части (4.34). Рассмотрим типичный сомножитель в (4.47), учитывая (4.44). Из (4.44) легко видеть, что Н,= О(А'/2). Разлагая экспоненту, а затем логарифм в ряд, получаем Мен‘+°(Л) = j + м Гяг. + ± Я? + о (А) = ехр|м Гяг [МЯ,.]2 + о(А)| (М = MM2(S) [• I уг-------Z/J). (4.49)> Поэтому выражение (4.47) преобразуется к виду ехр {S [Мц (я,‘+т ...... -у [Mu(tfjz/V ...,^]г + 0(А)]}. (4.50)..
Принимая во внимание (4.44), получаем в экспоненте сумму, которая в силу леммы 2.3 стремится к интегралу, стоящему в экспоненте (4.34), если выполнены условия его существования. При этом мы учитываем, что а-алгебра CZ^.s-A, стоящая в условии математического ожидания в (4.50), стре- мится в пределе к Jis* (где Ss = [s, i]DS — множество сепа- рабельности, s<Z-<u). Производная Радона—Никодима ока- залась определенной на^«. Вследствие сепарабельности процесса указанные а-алгебры можно заменить на и да- же на Доказательство закончено. В заключение отметим, что функциональная производная (4.34), (4.48) удовлетворяет п. н. уравнению {Мц[с(г/(0, t)\^s]dt + + (4.51) Чтобы в этом убедиться, нужно принять во внимание следствие 2.1. Поскольку 'fl's= 1 (в силу (4.34)), последнее уравнение можно записать в интегральной форме t = 1 + У {Мц [с (у (т), т) dt + _ (4-52) + Мм[арДг/(т), т) \ (у (г), т) d* уа> (т), которая будет использована в § 7.1.
Часть II ОСНОВНЫЕ РЕЗУЛЬТАТЫ ТЕОРИИ УСЛОВНЫХ ПРОЦЕССОВ МАРКОВА Глава 5 НЕКОТОРЫЕ ОБЩИЕ РЕЗУЛЬТАТЫ ДЛЯ ПРОЦЕССОВ В ПРОИЗВОЛЬНОМ ФАЗОВОМ ПРОСТРАНСТВЕ § 5.1. ПОСТАНОВКА ВОПРОСА И ПЕРВЫЕ ТЕОРЕМЫ Результаты, излагаемые в настоящей главе, не требуют конкретизации фазового пространства и переходных вероят- ностей марковского процесса. Для данной теории оказыва- ются излишними какие-либо метрические и даже топологи- ческие представления. Область Т значений параметра t долж- на быть упорядоченным множеством. Для определенности будем полагать, что это отрезок прямой рили его подмноже- ство. Остановимся на первом случае: Т={а, Ь\. Существенно, чтобы фазовое пространство, соответствую- щее параметру tfzT, было измеримым пространством (£«, )• Будем предполагать (хотя это не является необходимым для теории), что всем моментам времени (значениям пара- метра) соответствует одно и то же фазовое пространство Пусть задано вероятностное пространство (Q,<^ , Р) и -измеримый процесс {гДю), /С Т} со значениями из (£, S). Введем а-алгебры S’, = а ({со : zt (а») £ А), Л£ <§) = гГ1 (<?), принадлежащие <®, а также расширяющееся семейство а-ал- гебр ^aCZc®. Каждая а-алгебра ^a=o(IJS^) есть совокуп- те [a. t] ность событий, касающихся поведения процесса (<>))} на интервале [аД]. Более общие а-алгебры SТС. Т могут быть определены, как и в § 4.2. Именно,S’,*- есть минимальная а-алгебра, содержащая все множества вида zt((o)£A, faT, А£§.
В дальнейшем будут рассматриваться различные услов- ные вероятности, соответствующие указанным о-алгебрам, а также о-алгебрам, вводимым ниже. Удобно раз навсегда предположить, что вероятностное пространство (й, с®, Р) является регулярным в том смысле, что для любой о-алгебры безусловная вероятность Р(• | б) является регулярной в смысле Лоева [1], стр. 371. Это значит, что внутри класса эквивалентности можно выбрать такую функцию Р(А|б), определенную на Й Хй (б —измеримую при фиксирован- ном ЛЕЗ), что при каждой со Ей она является вероятност- ной мерой на 3. Для теории фундаментальными условиями являются условия Маркова, существо которых в том, что при фикси- рованном настоящем будущее процесса не зависит от его прошлого. Этим условиям, как известно, можно дать не- сколько эквивалентных формулировок. Одна из них такова: р (Гб I = Р(Гб |£^б) почти наверное, (5.1) где Гбе^, ^РС^. Оговорка «почти наверное» (п.н.) нужна по той причине, что сами условные вероятности определены лишь почти всю- ду. Мы не будем приводить здесь различные формулировки условия Маркова и доказывать их эквивалентность. В даль- нейшем при ссылке на это условие мы будем пользоваться той его формулировкой, которая в данном конкретном слу- чае будет самой удобной. Условные процессы Маркова появляются в том случае, когда имеется некоторый наблюдаемый процесс {yilu) = =ft(z)} , зависящий от исходного процесса. Будем предпола- гать (хотя возможны обобщения), что Ои что при каж- дом t функция ft=ft(e) является известной функцией от от еЕД, принимающей значения из (У,б' ) и 8 -измеримой: /ГДбЭС^. Тогда о-алгебры процесса {yt (со) =ft (zt (и))} будут вклю- чаться в соответствующие о-алгебры процесса {гДю)}. Обозначим через б; (аналог ) минимальную о-алгеб- ру, содержащую множества {и: г/Да>)£ Л}, Л £6', а через б! (аналог 2>() — о-алгебру, построенную на множествах {со: г/» £A, tfl}, Л£б', Tais, t]. Тогда очевидно, 6iC^, 6^CZ^s.
Определение 5.1. Пусть заданы. А) марковский процесс (Й, St, t(T, Р); Б) наблюдаемый процесс (Й, У t, t(T, Р) такой, что тогда семейство (Й, %t, t(T, Р(- \У“), и(Т) случайных величин и условных вероятностей образует услов- ный марковский процесс (первичный). Как видно из нижеследующей теоремы 5.1, процесс (й, St, t£T, Р(-|‘2/а)) при фиксированном и£Т оказывается марковским. Однако если менять и (€Г), то соответствующее двухпараметрическое семейство случайных величин будет значительно более сложным. В дальнейшем мы, как и в (5.1), для о-алгебр будем пользоваться записью Адд вместо с о (A, Sd). Равенства, вы- текающие из определения условных вероятностей и условных математических ожиданий, мы будем приводить обычно без всяких комментариев. В силу определения эти равенства справедливы почти всюду, однако в целях краткости мы не всегда это будем оговаривать. В целях наглядности при записи условных вероятностей и условных математических ожиданий в условии будем иног- да писать tjt вместо У*$ и, соответственно, скажем, zu, у* вместо а (Ц£и, У\). Рассмотрим сначала одну общую предварительную тео- рему. Теорема 5.1. Пусть имеется марковский процесс и а-ал- гебра У (QS’a), которая при любом t(T представима в виде У — У А, пР^ б» . где Уп. = У^а, У^У^. Тогда условный процесс, описываемый мерой Р( - \У), п. н. является марковским, т. е. Р(Гб|^прад = Р(Гб|ЗД ^прС^). П. н. (5.2) Доказательство. Вследствие условия Маркова имеем Р (ГбАпрАб | = Р (Апр | j Р (ГбАб | £t) = = Р (АПР | We) Р (ГбАб | У гдеАпр^#пр; А6(Уб.
Взяв производную Радона—Никодима этой меры по мере Р (Лб I ^пР^) = Р (Лб I £,) = Р (Лб I У ^t) (здёсь опять использовано марковское свойство), находим р (ГбЛпр |^пр2^б) =Р (Лпр |^пРад р (Гб 1^). Если рассмотреть теперь производную последней меры по мере Р(Лпр | то получим уравнение (5.2). Доказа- тельство закончено. В дальнейшем основным объектом исследования будут условные вероятности вида Р(Г„ | ЙДЗЛ), где Г„ ( . Из усло- вия Маркова немедленно следует, что п. н. Р (Г„ | Ssy*r) = Р (Г„ | »() при г < s < t, s < и. (5.3) Таким образом, достаточно ограничиться лишь вероятно- стями, стоящими справа. Введем для них особое обозначение Р(Г,г|г5,^) = 1ЕГ(г5, Гм), s<f, s<u (5.4) и установим уравнение, которому они удовлетворяют. Теорема 5.2. Почти наверное удовлетворяется урав- нение W™(zs, Г„)= jllf(z5, dzt)Wvtu(zt, Г„), (5.5) д <( и; t <^и. Для доказательства рассмотрим очевидное равенство Р (Г„ | zs, уД = J Р (Г, | zs, zt, у“) Р (dzt | zs, у‘‘). (5.6) Но в силу условия Маркова р (г« I 2S, zt, у“) = Р (Г„ | zt, у“) при д <Д < щ t < и, поэтому из (5.6) вытекает (5.5). § 5.2. НЕКОТОРЫЕ ТЕОРЕМЫ ДЛЯ ПРОЦЕССОВ С ИНФОРМАЦИОННОЙ НЕПРЕРЫВНОСТЬЮ Для получения более далеко идущих результатов ограни- чимся рассмотрением условных процессов несколько более узкого класса, а именно процессов, которым свойственна информационная непрерывность*. Определение 5.2. Условный марковский процесс на- зовем процессом с информационной непрерывностью, если условные меры P(TS | yr), P(TS | уиг) п. н. абсолютно непрерыв- * Термин «информационная» понимается здесь не в шенноновском смысле,
ны относительно друг друга при любых {если надо, достаточ- но близких друг к другу) значениях г<5<См. Приведенное определение утверждает непрерывную зави- симость вероятностей от длины информационного интервала. Такая непрерывность имеет место в большинстве практиче- ски интересных случаев и проверяется на конкретных при- мерах. Для процессов с информационной непрерывностью можно ввести в рассмотрение соответствующую производную Радо- на—Никодима, для которой введем обозначение P(dzs \у°) г < s < и. (5.7) По определению она является 2?s ^/“-измеримой функ- цией. Теорема 5.3. Меры W(su{zs, ГД W? {ts, ГД, s <1 < и в случае информационной непрерывности являются абсолют- но непрерывными, причем соответствующая производная Радона—Никодима {обозначаемая равна W{u(zs,dzt)^ h^h^) W^z^dZf) hurs{zs Доказательство. Учитывая (5.7), имеем (zJ h“s (zj p(rfz,i»4) P(dzs\yur) ’ r s t, s < u. (5.9) Рассмотрим выражение (zs) P {rt\zs, y*r). (5.10) Подставляя (5.9) в правую часть, находим Р(Г^|ДГ) £> — -------- P(dzJ^) P(dzs\zt, уф --------------Р <dzt | уф. Р(dzs | у“) Но в силу условия Маркова (в- обратном времени) . . P{dzs\zt, уф = P{dzs\zt, уф. Поэтому Г P(dzs\zt,y“) P(dzt\)/r) В = 1 ------------—- Р {dzt | уф)---------- ' J P(dzs }уф P{dzt\yr) г/
или, если принять во внимание (5.7), в _ С р (dzsdzt I уиг) 1 _ Р Р (dzt I zs, уит) J P(dz.l^) h“(zz) J h“(zz) п г/ Сравнивая выражение в правой части этого равенства с (5.10), убеждаемся в абсолютной непрерывности мер Р (Г, | zs, г/г) и P(rf|zs, у“), т. е., в силу (5.3), (5.4), мер, рас- сматриваемых в теореме. Это сравнение дает также выраже- ние (5.8) для соответствующей производной Радона—Нико- дима. Доказательство закончено. В дальнейшем мы будем пользоваться сокращенным обо- значением Г«(г5, r4) = Fl(zs, ГД Теорема 5.4. Для процессов с информационной непре- рывностью п. н. справедливо уравнение F“ (zs, Гв) = J W*s (zs, dzt) W“t (zt, Г„) (zs, zt), (5.11) s < t < u. Этот результат непосредственно следует из (5.5), если положить u = v и использовать теорему 5.3. Полагая в (5.5) иф=е, снова используя теорему 5.3 и сравнивая результат с (5.11), мы убеждаемся в справедли- вости тождества ftv , . f^zdfr^) К (7 . 7,1 = ------------ которое, впрочем, можно получить и из (5.8), (5.7). Удобно ввести новую (невероятностную) меру ^s(z5,rr) = ^ (zs)Fhzs, Г,) (5.12) (г < s < f), которая определяется этим равенством почти всюду. Тогда после подстановки (5.8) в (5.11) будем иметь сле- дующий результат: Теорема 5.5, Для процессов с информационной непре- рывностью п. н. выполняется уравнение Vurs (zs, Г„) = J Hs (Zs, dzt) Vurt(zt, ГД г < s < t^u. (5.13) Ввиду того что мера Fs(z^, Д) вероятностная (Fs(zs, Й) = 1), из (5.12) имеем
K;(zs, й)=^(г5). (5.14) Полагая Г„ = й в (5.13), получаем, следовательно, (Zs) = J^s(Zs,dZ/)^(^). Если мера VrS является известной, то по ней можно найти функцию согласно (5.14), а затем и вероятностные меры W{s(zs, rz) = '/;(г"Г-; (5.15) rr(zs,rp =-----1---- fKs(zs,^)^(zp й). (5.16) E“S(25,Q) J П При выводе последних формул мы использовали (5.12), (5.14) и теорему 5.3. Нам будет полезна Лемма 5.1. Для марковских процессов взаимная абсо- лютная непрерывность мер P(rs|z/p~P(rs]y)), rs(2Ts (5.17) влечет за собой абсолютную непрерывность мер P^lzJ-P^I^), (5.18) и наоборот, причем производные Радона—Никодима совпа- дают. Доказательство. Используя (5.17) и подставляя (5.7) в равенство P(FsAs |*/г) = [Р(ГД^)Р(^|г/)), 4 получаем по теореме Фубини Р (FsAs | ysr) = J [J h*rs (zs) P (dzs | г/г)] P (dyt | y*r) = s = f [ J Ars (г J P (dy‘l y\) ] P (dzs I t/r). (5.19) s В то же время справедливо равенство Р (ГХI Уг) = [ р (Л' I zs, ysr) Р (dzs I ysr), И
которое в силу условия Маркова можно записать Р (ГХ I Уг) = f Р X | zs) Р (dzs | ysr). (5.20) И При сопоставлении (5.19) и (5.20) зафиксируем Л( , a Ts пусть пробегает различные множества из Ss. При этом будем иметь Р(Л'К) = jX(zs)P№/sX) п. н. (5.21) Отсюда следует (5.18) и равенство ^(г,) = Р (X I z.0 Р (*4 I Фг) (5.22) Для доказательства обратного утверждения теоремы равен- ства (5.19), (5.21) нужно рассматривать в обратном порядке. Доказательство закончено. Подставляя (5.22) в (5.12), получаем ^s(zs, Д) = Р (X I zf) Р (П I Z„ //') Р (< I ysr) Р (.dyjVt I ?л) Р (dy*s |/ф) (5.23) Таким образом, VrS(zs, Д) можно рассматривать как производ- ную Радона — Никодима мер Р(Л(Д|г5), Р (Л( | ysr) на о-алгеб- ре Информационная непрерывность (определение 5.2) при- водит к абсолютной непрерывности этих мер. Теорема 5.6. В случае процессов с информационной непрерывностью отношение h^lzs) hfrs (zs) ffSt ь rr' ’ r<s<i; r' < s (5.24) (здесь для определенности r<r') является У r-измеримой функцией (т. е. не зависит от zs). Доказательство. Из определения 5.2 и леммы 5.1 вытекает абсолютная непрерывность Р (ЛД zs) ~ Р (ЛД г/)); pX|2j~pXi гД), и, следовательно, р(лД^)~р(лД^).
Взяв отношение двух выражений типа (5.22), получаем (5.24), причем оказывается, что р (*41 у\} Доказательство закончено. Согласно (5.12) следствием теоремы 5.6 является фор- мула ^-4^,^) = ^^^,^), r<r'<s<f. (5.25) § 5.3. ВВЕДЕНИЕ ОСНОВНОЙ АПОСТЕРИОРНОЙ МЕРЫ Как видно из сравнения (5.11) и (5.13), мера Vrs (zs, Tt) имеет перед TVs (zs, Гг) то преимущество, что удовлетворяет более простому уравнению, не содержащему никаких других функций. Правда, она имеет перед Ws (zs, Гг) тот недоста- ток, что не является Й^Д^-измеримой, так как зависит еще от уг. Из формулы (5.25) видно, однако, что эта зависимость носит не очень существенный характер. Именно, при измене- нии г мера Vrs (zs, Г)) умножается на постоянную, т. е. не зависящую от zs и Г; (но зависящую от у* ) величину. Жела- тельным является вовсе устранить произвол в выборе г и за- висимость меры от yf. Возникает вопрос, можно ли ввести такую меру (обозна- чим ее Vs (zs, ГД, которая сочетала бы отмеченные преиму- щества мер Wfs и не имела бы их недостатков. Дадим более точное описание свойств этой меры: 1°. Vs(zs, Г,) ^-измерима; 2°. l4(zs) K) = ^s(zs, Tz), (5.26) т. e. отличается от Vrs множителем gfrs, не зависящим от zs и Г<; 3°. удовлетворяет уравнению V‘s (zs, ГД = J и (Zs, dzt) к" (zP Г J, s < t < и. (5.27) Перечисленные свойства дают дескриптивное определение основной системы мер Vs(zs, ГД,- Нетрудно видеть, что из (5.26) и равенств (5.15), (5.16) (при учете (5.13)) немедленно вытекает справедливость ана- логичных равенств для основной меры, а именно: W‘s (zs, ГД = (5.28) V'(Zs,Q)
1 M>s,rz) Vs (zs, Я) H(zs, dzt)Vut(zt, Q). (5.29} Свойство 2° можно считать эквивалентным равенству (5.28). Приведенные выше свойства 1°—3° определяют систему мер (zs, Г/) не вполне однозначно. В самом деле, если И (zs, Г)) есть мера с указанными свойствами, то эти свой- ства, как легко видеть, будет иметь также мера V?(zs,rz) = ^(2s,rr), (5.30) где Os — -измеримый мультипликативный функционал,, т. е. семейство функций, удовлетворяющих уравнению 0“ =-- 0s0“, 5 t -С и. Если описанная выше основная апостериорная мера суще- ствует, то ее, очевидно, можно получить предельным пере- ходом H(zs, rz) = lim GXsfe Г,) rf s при подходящем выборе ‘З/г-измеримого множителя Gr. Приведем здесь один конкретный конструктивный способ введения основной меры. Рассмотрим Л-разбиение 5д = — {ti, tN j- множества Г, такое, что с уменьшением А множе- ство 5д расширяется и имеет своим пределом (при А->0) множество S, всюду плотное в Т. Образуем ступенчатую функцию Ф (/) = max : tt < t}, (следовательно, ф((;)=^-1). При фиксированном А опреде- лим семейство мер Vs (z.„ Гг) следующим образом. Если s и Z>s принадлежат одному интервалу (G, G+i], то положим И(г5, rz) = VU),s(zs. Г,). Если они принадлежат соседним интервалам: < s < ti+l < < t < то пусть Vls (zs, Vt) = J Vj+x (zs, dzt[+l) (zti+i, Г,) = V^ (zs, Г,). (5.31) Если < S < Zz+1, t^3, то положим V', (г,. Г,) - J PjH. (г„ Ц1+1 ,;+г <г„+,. Г,). Используя (5.31), (5.25), (5.13), можно выразить эту меру через V<p (s).s •
и г,) = «ЙСн f Vift (2>' *'<+=’ (г"+’’ Г,'= =гЖ+/’<з-,(г‘’г')- (5-32) Для следующего интервала, когда /;+з < t -< t[+l, пусть V\ (zs, ГД = J ^(,) (zs, dz^ У[+^} (гф(0, Г,). Используя (5.32), а также равенство ^4-4-2,ф(О (2<р(о» ГД = £<р(з)Д+2(2<р(/)> Г,), и (5.13), имеем Г<) = Г,). (5.33) Аналогичным образом процесс определения мер Vs про- должается при более далеких друг от друга значениях s и t. Он соответствует рекуррентной формуле ГД = J ) (zs, t/z(p(f))V<p(Cp(/)),q,(/; (2Гф(/), rz). Аналогично тому, как . были выведены равенства (5.32), (5.33), отсюда, используя (5.25), (5.13), можно получить _ ^+2=<Р(0 (ZS> ГД = П У+2£фЬ)’,<р(Ч>(/)) V<p(s),S (zs, ГД. tj—!=<P(S) Если учесть к тому же, что V<p(s),S К,, TZ) = gr,(f[t} Vrs (?s, Ef), то будем иметь Vs(zs> ГД = gr,<p(t)• • • ^t(s)’,4>(<p(/)) Vrs(zs, Tz). (5.34) Это равенство является для Vs (zs, Г() аналогом равенства (5.26). Из определения мер Vs следует, что они удовлетво- ряют уравнению (5.27), если Зд. Кроме того, очевидно, что Vs (zs, ГД есть ^^(s) -измеримая функция, причем д—<р (s) <^Д. Совершим теперь предельный переход А-*0. Если о-алгеб- ры Уз обладают по s свойством непрерывности слева lim У\ = XT'S
то предел limH(zs>r/) = n(2s. ГЛ (5-35) Л-»0 если он существует, является 2Ts'?/s -измеримой функцией. Условие 1° для предельных мер тем самым оказывается вы- полненным. Далее, равенство (5.34) при существовании преде- ла (5.35) обращается .в пределе в (5.26). Остается проверить последнее условие 3°. Как отмечалось, допредельные меры удовлетворяют уравнению (5.27) при /€5д. Предельные меры (5.35) будут поэтому удовлетворять указанному уравнению на предельном множестве S, всюду плотном в Т. Отсюда вы- текает справедливость уравнения (5.27) на всем множестве Т при некоторых дополнительных предположениях непрерыв- ности. § 5.4. ДРУГОЙ СПОСОБ ВВЕДЕНИЯ ОСНОВНОЙ АПОСТЕРИОРНОЙ МЕРЫ Для практических целей более полезным может оказать- ся другой способ введения основной меры, к описанию кото- рого мы переходим. Именно этот способ будет использован нами в двух последующих главах. Новый способ не обусловлен явно предположением об информационной непрерывности, но зато требует выполне- ния другого предположения, которое мы формулируем ниже. Гипотеза 5.1, Существует вероятностная марковская мера Q(A) в пространстве (Q, Ут), такая, что меры Р(Л^К), Л' £ у{, почти всюду абсолютно непрерывны относительно меры Q(Asl ys) на (5-алгебре У±. Здесь s, Z(>s), Гг — любые (из Т и из 351 соответственно), но фиксированные. Соответствующая указанным мерам производная Ра- дона—Никодима V\ (zs, Г.) = P(dy^HZs) (5.36) образует искомую меру (ненормированную) в пространстве (£2, 55t). Меняя s и t, мы получаем двухпараметрическое се- мейство мер. Приведем две теоремы. Теорема 5.7. Из гипотезы 5.1 вытекает информационная непрерывность условного процесса. Теорема 5.8. Семейство мер (5.36) удовлетворяет тре- бованиям 1°—3°, т. е. представляет собой один из вариантов основной апостериорной меры. Доказательство теоремы 5.7. Согласно лемме 5.1
достаточно доказать абсолютную непрерывность Р (As | zs) — Р (As Поскольку в силу гипотезы 5.1 Р (Л^ | zs) •—Q (As |//s), то, следовательно, для доказательства теоремы 5.7 доста- точно доказать абсолютную непрерывность Р (As | t/r) ~Q (As | z/s). Из равенства Р (As | г/®) = J Р (Л^ | zs, г/’) Р №s | г/’) вследствие условия Маркова имеем Р(Л' I ysr) = [P(Azs|zs)P(dzs| А Отсюда, используя гипотезу 5.1 и (5.36), находим Р (Л11 = J [ J И (zs, Q) Q (dyl | t/s)] Р (dzs | ^). Меняя порядок интегрирования (теорема Фубини), чаем Р (Д11 У г) = J [ J (zs, Q) Р (dzs | Q (М | ys). t s (5.37) полу- (5.38) Функция Vs (zs, Q) ограничена и отлична от нуля на Zffls почти всюду по мере Р вследствие гипотезы 5.1. Поэтому почти всюду ограничен и отличен от нуля интеграл jXfc- й)Р(^ \Уг), входящий в (5.38). Отсюда вытекает абсолютная непрерыв- ность (5.37), которая, как было отмечено, достаточна для доказательства теоремы 5.7. Доказательство теоремы 5.8. Выполнение 1° с оче- видностью следует из (5.36) и не требует дальнейшей аргу- ментации. Для проверки 2° следует сравнить выражения (5.36) и (5.23) и доказать, что они отличаются лишь множи- телем, не зависящим от zs и Г/. Но в силу гипотезы 5.1 и аб- солютной непрерывности (5.37) имеем P(d//Srz |2s) __ |zs) Q I ys) P(*4l^) ~'<^\у5) P(dz4|z/S) '
Отсюда следует указанное утверждение, а также вид упо- мянутого множителя t Srs Q(dz/s^s) Перейдем к проверке требования 3°, причем используем марковские свойства обеих мер. Возьмем множества Л1 ( К} £ ((/“, Ги £ (s< t < и) и рас- смотрим равенство Р (Л1Л“Г„ I zs) - J Р (AZT„ I zs, zt, у\) Р {dy\ dzt I zs), которое в силу условия Маркова можно записать P(A'AX|2S)= J PWJzJP^&JzJ. (5.39) Al .Аналогично в силу марковских свойств второй меры Q (Л1Л“ | ys) = J Q (Л“ | yt) Q (d£ | ys). (5.40) Al Запишем все три меры, входящие в (5.39), при помощи мер Vo, например P(Az“rjzz) = J V“ (zt, Г„)О«|^). A W At После этого (5.39) примет вид [ Kufe,r„)Q«|t/s) = А^ = J [ J V't (zt, Ги) Q (dy“ I i/z)] У1 (zs, dzt) Q (dyl | ys). Al a" Пользуясь теоремой Фубини, изменим порядок интегриро- вания в правой части и учтем (5.40). Это приведет к равен- ству f и (zs, Ги) Q « Ы = f Г f И (zs, dzt) V?(zt, Г„)] Q (dy“ I ys). Ak a(a«LJ По теореме Радона—Никодима отсюда получаем (5.27). Доказательство закончено.
§ 5.5. АПОСТЕРИОРНЫЕ МЕРЫ, СООТВЕТСТВУЮЩИЕ НАЧАЛЬНОМУ РАСПРЕДЕЛЕНИЮ Через основную апостериорную меру Vs можно выразить некоторые апостериорные вероятности, но не все. В общем случае для определения апостериорных вероятностей указан- ной меры оказывается недостаточно, требуется задать еще некоторое начальное распределение. В настоящем параграфе мы приведем формулы, позволяющие отыскать различные апостериорные вероятности, когда известны и основная апо- стериорная мера, и начальное распределение. 1. Используя (5.7), а затем (5.14), имеем Р (Г51 Vp = J (z5) P (dzs |y$ = J Vk (zs, Q) P (dzs | г/р (r<s<t) Г г s s и вследствие (5.26) Р(Г5| г/р = 4 f P(^IVr) (zs, Q). (5.41) grs 1 s Введем обозначение Vrs/(f<) = J P (rfzs | г/’) Vs (zs, I\). (5.42) Поскольку условная мера P (Г51 у(г) является вероятностной (Р(П|гф) = 1), из (5.41), (5.42) имеем (5.43) Р I f Р I (z” (5-44) Vrst^l) .) rs Подставляя (5.43) в (5.26) и учитывая (5.14), можно выра- зить через Vs и Р (Г5 | ysr) также функцию /гР: 2. Введем еще один момент времени г', промежуточный между г и s, и выразим рассмотренные выше вероятности и функции через Vs и Vrr'S. В силу условия Маркова имеем Р (rs I i/r) = J Р (rs | zr., tfo P (dzr> I г/р = J W? {zr., v^(dzr. I ifo. Подставляя сюда (5.29) и (5.44), получаем Р (rs If f Р &г'' У^ dzJ Q) Vrr’t о о
или, если учесть (5.42), Р(Г, I *Л) - f Vrr's^V^, Q). (5.45) 1 s В частности, если в этом равенстве положить s = t, то будем иметь p^iz/p - - (5-46> * rr's Использование двух последних равенств в соответствии с (5.7) приводит к результату V , Ю) , К (?) = у (z Q). 3. Пусть область определения процесса есть интервал Г = [а, 6], причем а<0; Ь = То. Будем полагать в предыдущих формулах г = а, г' = 0 и брать точки s, t и др. из интерва- ла [0, Го]. Введем сокращенное обозначение ^^(Г;); P(rjyp^^(rz). Тогда, очевидно, формулы (5.46), (5.45) примут вид РОЖ) = ТДЙ) j г, Vt (П) h(fi) Vs(dzs)V{s (zs, Q), s < t. Если совершить преобразование мер Eh^r/)=ES(Q)H(^ Q 1 Т/(Й) ’ (5.47) (5.48) (5.49) ^(П) == то согласно (5.47) формула (5.48) при помощи новой меры запишется так: Р(ПМ)= [^(^)^(г5, Q), s<t. (5.50) Гз Используя (5.27) и определение семейства мер Vt, легко получить, что эти меры удовлетворяют уравнению VJT/) = (5.51) Переходя к мерам (5.47), (5.49), это уравнение можно запи- сать ад) = Jrs(^s)H(zs,r;). (5.52)
Рассмотрим моменты времени 0 < .. tn < и < b и соот- ветствующее им многомерное апостериорное распределение Р(Гц ...Гц|<), Г,.^.. Вследствие теоремы 5.1 (при У — У условный процесс является процессом Маркова. Ему, очевидно, соответствуют переходные вероятности Р (Г, | zs, уа) = (zs, Г*) и начальное распределение Р (Гц | yty, поэтому Р(П, = J ...J dzj... Y*n (5.53) Если подставить сюда (5.29) и (5.48), то это выражение преобразуется к виду Р (Гц ... пJ у“) = J ... j1 Vtl (dzj (zv dz.2) ... ...F^ (?„_,, dzn)V?n(zn, Q). (5.54) Перейдем, наконец, -к мерам (5.49). Подставляя в (5.54), получаем Р (Гц ... Гц I у“) = J ... J Гц (dzj Й; (гп dz2) ... ...V^iz^, dzn)V?n(zn, Q). (5.55) 4. Формулы (5.29), (5.49) можно рассматривать как за- мену марковской системы мер (3.31). Семейство мер Vs или семейство Wfsu (и фиксировано), рассматриваемые в соот- ветствии с (5.55), (5.53) как марковская система мер, имеют перед основной системой Vs тот недостаток, что каждая мера: Vfs (zs, П) или WsU (z$, Гг) не является -измери- мой (в отличие от Г/). Кроме того, V^ зависит от началь- ного распределения, a IVs“ —от произвола в выборе конеч- ной точки и. Указанные семейства мер, как всякая марковская система мер, описываются инфинитезимальными операторами (гл. 3). Пусть Г(0—операторы семейства мер Vs , L(t) —опера- торы семейства Vs, a L(t) —операторы семейства IVf“. Вследствие свойства 1° мер Vs операторы L(t) обладают
тем свойством, что разность L(t) — L(s) является У\ -изме- римой. Операторы £(0, L(t), конечно, таким свойством не обладают. Выполнение уравнений (5.27), (5.51), как указывалось в § 3.1, приводит к выполнению следующего дифференциаль- ного уравнения: _ dVt = VtdL(t). (5.56) Аналогично из (5.52) вытекает уравнение dWt = WtdL(t). (5.57) Функция (ег, Q), имеющая смысл функции правдоподо- бия, которая входит в (5.48), (5.49), (5.54), как легко понять, удовлетворяет уравнению dtVt (z, Q) — — (dL (t) V“) (z, Q), (5.58) тогда как другая функция Vt (z, Q), входящая в (5.50), (5.55), удовлетворяет аналогичному уравнению с другим инфинитезимальным оператором dtV‘t‘ (z, Q) = — (dL (t) Vut) (z, Q). (5.59) Инфинитезимальный оператор dL можно выразить через основной оператор dL, используя теорему 3.3. Применяя формулу (3.38) к замене мер (5.49), получаем dL(t) = {Vt(&)dL(t)-d'Vt(&)]--±~ . (5.60) •i 00 Но в силу (5.56), (5.47) dVt (Q.) = (VtdL (t)) (Q) = Vt (Q) (WtdL (t)) (Q). Поэтому (5.60) можно записать dL (t) = Vt (Q) [dL (t) - (Wt dL (t)) (Q)] —-1— = vt 00 ~ dL,(t) — (Wtd*L,(t)) (Q.), (5.60a) где dL, (t) = Vt (Q) dL (t) = Vt (Q) d*L* (t) (5.606) (использовано (3.20)). Уравнения (5.57), (5.59), следовательно, примут вид dWt (Г) = (Wt d*L, (t)) (Г) - Wt (Г) (Wt d*L, (t)) (Й), (5.61) - dV4 (z, Q) = (d-L, (t) V4) (z, Q) - (Wt d*L, (t)) (Q) Vut (z, Q). (5.62)
Аналогичным образом можно выразить оператор dL(t) через dL{t). Применение формулы (3.38) к преобразованию (5.29) дает dL (° = 7К [~dL V“ <z’ * t \z > и в силу (5.58) ~dT (0 = —Ц- \dL (0 V“ (z, 2) - (dL (t) Vt) (z, Q)J. (5.63) * t (z»^2) Как легко видеть из (5.61), (5.63), выполняются соотно- шения dWt(Q)=0; dL(t) 1=0, которые, конечно, являются необходимыми для сохранения нормировки вероятностных мер (например, из IKt(Q) = 1 сле- дует dWt(Q) =0). Остановимся в заключение на том частном случае, когда система мер V" обладает свойствами мер, рассмотренных в § 3.3. В этом случае в дополнение к (5.56), (5.63) можно привести ряд более простых формул. Так, в соответствии с (3.47) кроме (5.56), (5.58) можно рассматривать уравнения dVt— VtdL(t); — dtV“ (z, Q) = (dL(t)V?) (z, Q). (5.64) где стохастические выражения понимаются в симметризован- ном смысле (§ 2.1). Аналогично можно снять черту над диф- ференциалом в формулах (5.57), (5.59). Применим простые правила преобразования стохастиче- ских выражений в симметризованном смысле, чтобы вывести аналоги уравнений (5.61), (5.62). Согласно (3.32) для замены мер (5.49) имеем dL (t) = Vt (Q) dL In Vt (Q) = dL (t) - . Подставляя сюда первое уравнение (5.64), получаем dL(t) = dL (t) — (WtdL) (Q). (5.65) Следовательно, dWt (Г) = (Wt dL (0) (Г) - Wt (Г) (Wt dL (/)) (Q); (5.66) — dV“(z, Q) = (dL(t)Vt)(z, Q) — (WtdL(t))(Q)Vt)(z, Q). (5.67) Далее, если применить (3.32) к (5.29), то будем иметь = [dL (Z) (z’Q) ~-dL (0 } (5-68) Примеры выведенных формул будут рассмотрены в дальней- шем.
Таблица 5.1 Сводка апостериорных мер и их инфинитезимальных операторов ЛЪера Оператор Основная апостериорная мера: v( (zs,dzt) dL (s), dL (!) Vt (dzt) dL (/) Вспомогательная апостериорная мера: V, (О) . V((z5,dzz)^ V((z.,dzz) V t (w) dL(s), dL(t) Финальная апостериорная вероятность: , V/ (dzt) Wt{dzt)^>(dzt^a)- dL(t) Внутренняг апостериорная вероятность: (zs dzt) - P (dzt | zs, yu) - - V (zs, dzt) V“(zf,Q) dL(s), dL(t) и V“(zt,Q) P (dz, | ya) = Vt (dzt) Va (Й) &(t) § 5.6. НЕКОТОРЫЕ ОБЩИЕ СВОЙСТВА АПОСТЕРИОРНЫХ МЕР 1. Рассмотрим сначала свойства апостериорных мер, свя- занные с усреднением по значениям наблюдаемого процесса {yt} на том или ином интервале. Непосредственно из опре- деления условных вероятностей следует ряд соотношений типа М|Р(Г5|/Л)1уа1 =P(rs|Z/a); (5.69) М[1ИХ> rz)|zs] =Р(Ш), s<Z<u. (5.70) Если положить в последнем равенстве u = t и подставить (5.28), то получим Г V((zs,rA । л М| J kl=p(rJzs), s<t. (5.71) L v s I J Далее, подставляя (5.50) в (5.69) и учитывая, что H7s(rs) при фиксированном ГЛ есть У3а -измеримая функция, так что ее можно вынести из-под знака условного математического
ожидания, находим f rs(dzs)M [И (z„ Й)|й = rs(rs). (5.72) , И Отсюда следует, что M[Kz(zs, Й)|^] = 1, a<s<t. Можно утверждать большее. Вследствие условия Маркова имеем М [Р (Г^ | z/p | ^] = Р (Г^ | ysa) = f Р (dzs \у'а) Р (Г, | zs). И Выразим P(FsFJ у^) через Ws и И, пользуясь формулой (5.55), тогда М [ |Ч (dzs) Й (Zs, Гг) I Уа] = J Ws (dzs) Р (Г, I Zs). г г s s . , ’ Вынося, как и в (5.72), Ws(dzs) из-под знака математиче- ского ожидания и .используя произвольность rsG^s(no тео- реме Радона—Никодима), получаем M[H(2S, rai^] =Р(Ш). (5.73) Из найденных формул (5.71), (5.73), (5.70) видно, что апосте- риорные вероятности перехода при усреднении превращаются в априорные вероятности перехода. Соответствующее утверж- дение можно перенести и на инфинитезимальные операторы указанных вероятностей перехода. Без особой аргументации приведем здесь соотношение M[dZ‘(Z)]i/J] = dL*pr(f) (5.74) (LPr — априорный инфинитезимальный оператор), вытекаю- щее из (5.73). Эти соотношения будут подтверждены для частных случаев, рассматриваемых в главах 6 и 7. 2. Другая группа свойств апостериорных мер — это их марковские' свойства, если эти меры рассматривать как про- текающий во времени случайный процесс. Возьмем процесс { Уг(Гг), Г<€^}. Интервал [0, Го] есть для него область определения параметра, а фазовое пространство есть множе- ство всех, мер на (t фиксировано). Условия, наложенные на меру Vt, ' определяют при фиксированном t некоторую о-алгебру Т’г в пространстве Q. Поскольку УДГ) при любом есть ^-измеримая функция, то Ч^^Уа. Определение 5.3. Пусть заданы А) марковский процесс]]®, t^T, Р);
Б) наблюдаемый процесс (Q, У(, t£T, Р), такой что ytc.%t, и В) выбран какой-либо вариант основной апостериорной меры Vt и, следовательно, заданы соответствующие ей 6-ал- гебры ТД Тогда процесс (Q, 7Д, t<zT, Р) называется вторич- ным апостериорным V-процессом. Кроме указанного процесса вторичным процессом являет- ся процесс Wt. Фазовым пространством последнего служит множество вероятностных мер на °£t. Для этого процесса моменту времени t соответствует о-алгебра 'V/>t^.yia, кото- рая аналогична 'Ти определяется условиями, наложенными на Wt. Определение 5.4. Пусть заданы. А) марковский процесс (Q, 351, t^T, Р); Б) наблюдаемый процесс (Q, У t, t^T, Р), yt6Z.35t, В) условные вероятности Wt (•) = Р (• | У а) и соответствующие им о-алгебры^/ Тогда процесс (Q, 7^, t^T, Р) называется вторичным апостериорным W-процессом. Теорема 5.8. Вторичный апостериорный V-процесс {КД почти наверное является марковским. Доказательство. Докажем, что при любых tx< ... <tn+i (из [0, Го]) почти наверное выполняется равен- ство P(B|%1...T/J = P(B|TfJ, B£<rtn+1. (5.75) В соответствии с (5.51) имеем ^1+1(П= Г), (5.76) * где в силу Г есть 25 'З/^+’-измеримая функция. Отсюда следует, что К/я+1(Г) есть -измеримая функция при лю- бом Г£ 351. Поэтому индикатор множества В£ cV’tn+1 также есть -измеримая функция, и P(B\Ttt... ъпу^1) = р(вIТ^+>); p(B\Tit... Ttn35tnyfr->) Р (В I <5-77> Возьмем равенство P(B|T<t ... Ttn) = JP(Bin ... Tt£tn)P(dzta\Ttl ... rtn) (5.78) и рассмотрим вероятности, стоящие в его правой части.
Покажем сначала, что Р(Ж, ...Т^) = Р(В|Т^„). (5.79) Из определения условных вероятностей и условных матема- тических ожиданий следуют очевидные равенства м [Р (в| | = р (ВI при ПР с ПР; М [Р(В|^б) IS’J = Р(В|П> п. н. (В любое;. Комбинация этих равенств, вообще говоря, не верна. Однако, если принять во внимание условие Маркова (независимость прошлого от будущего при фиксированном 2ГД то будем иметь * М [Р (В I (7пР^б) I = Р (В I ^пр^), (П₽ С ПР, в е ^а). (5.80) Положим здесь t = tn-, &пр = Tt/i; ПР = П • • ,Т<л; 3% = <y/"+1; в T tn+i, тогда M [P (В 14/\Ztny ^+1) in... rtStn] = P (В I TtnZln). (5.81) Подставляя (5.77) в правую часть равенства р (В IП ... vtn£tn) = м [Р (в । п.... I п ... fill ft It I ft * • • • W и учитывая (5.81), доказываем (5.79). " Перейдем к другой вероятности P(dzt .. ,Tt), входящей в (5.78). Поскольку 1 = Ь • • • > п> т0 _______P(G„IП • • П) = м[Р(ГjП") IП • • • Ttn]. * Приведем формальное доказательство равенства (5.80). Поскольку ХЪа = = и (Х*а, Sb), то любое множество B''S£b может быть представлено не бо- лее чем счетной суммой множеств вида ВпрВб, Bnp€^a’ Достаточ- но доказать (5.80) для одного такого слагаемого. Вследствие марковского условия имеем Р (В„рВб (с^пр^^б) = Р (Впр I Р (Вб I Xt&f>Y Подставляя это выражение в левую часть (5.80), учтем, что М [Р (Впр I <FnpXt) Р (Вб I xt^6) I = = Р (Впр I oFnpg'/) М [Р (Вб I £(&б) I ^прХ(] (т. к. <^пр С Пр), М [Р (В61 SEt^6) | = М [Р (В61 I ^/1 (= Р (В6 | S£t)) Р (Впр I оГпр£7) Р (Вб I Xt) = Р (впрвб I <^пр^/) опять-таки в силу условия Маркова.
Но согласно (5.47) , vt (vt ) p (г, = n- tn-, rt £ St, V n' a ' V (Q) " 4’ ln причем Vtn есть Т^-измеримая функция. Поэтому Р(1\|П ...Ttn) = NL Vt (Vt ) bn n Vt„ (fi) v, (rU ——— (5.82) V, (Q) Равенство (5.78) согласно (5.79), (5.82) принимает вид р(В1ТЛ ...tj = Гр(в|Т/^)'^^. v 1 * п J 1 п п Vt(Q) Это доказывает, что Р (В | Т1/,.. .‘У’^) есть -измеримая функция и, следовательно, выполняется (5.75). Доказатель- ство закончено. Аналогичная теорема имеет место и для другого вторич- ного апостериорного процесса. Теорема 5.9. Процесс { Wt } почти наверное является марковским. Доказательство аналогично предыдущему. Разница за- ключается в том, что теперь для доказательства включения cW>tn+id':Wtn Уtnn+l нельзя использовать (5.76), а следует обратиться к равенству «Ун (Г) = | J ч, О)]-1 J IT,, (*) v;»+. (г, Г), (5.83) вытекающему из (5.52), (5.49) и условия нормировки ТГ<(Й) = 1. Кроме того, вместо (5.82) теперь достаточно вос- пользоваться более простым равенством Р(1\| ... ^ )= Прочие изменения не требуют пояснений. Следствием из приведенных теорем является тот факт, что вероятности перехода вторичных процессов удовлетво- ряют уравнению Чепмена—Колмогорова. Эти вероятности мы будем называть вторичными апостериорными вероятно- стями-перехода в отличие от (первичных) апостериорных мер К, Vs, Ws . Инфинитезимальные операторы, соответствую- щие вторичным апостериорным вероятностям, будем назы- вать вторичными апостериорными операторами и обозначать Доказательство последних теорем, как и ряд других ре- зультатов, изложенных в настоящей главе, основаны на пред- положении о существовании системы мер Vs , удовлетворяю-
щей требованиям 1°—3°. По интуитивным соображениям не вызывает сомнений тот факт, что эта система мер, опреде- ленная в том или ином (может быть,, обобщенном) смысле, существует во всех без исключения случаях условных мар- ковских процессов. Для ее существования не являются совер- шенно необходимыми предположения типа «информацион- ной непрерывности» или типа гипотезы 5.1. Правда, в более сложных случаях указанные меры могут иметь весьма «экзотический» вид, выходящий, возможно, за рамки суще- ствующей теории меры. Для их рассмотрения может потре- боваться обобщение обычных понятий. Обратимся для примера к формуле (5.7). Когда мера Р(Г<1рг ) не является абсолютно непрерывной относительно Р(Г.<|г/г), нельзя пользоваться теоремой Радона—Никодима для определения функции (5.7). Однако если включить в рас- смотрение обобщенные функции, то меры Р(Г,|у“), Р(ГД Уг ) будут определять функцию (5.7) как обобщенную функцию в достаточной степени однозначно. В обобщенном смысле могут быть определены и другие объекты теории. Основные утверждения теории, касающиеся соотношения между ними и вопросов их измеримости, после соответствующего обобще- ния этих объектов останутся по-прежнему справедливыми. Конечно, строгое доказательство этих утверждений сильно усложнится.
Глава 6 СКАЧКООБРАЗНЫЕ изменения НАБЛЮДАЕМОГО ДИФФУЗИОННОГО ПРОЦЕССА В настоящей главе будет рассмотрен один из важных частных случаев условных марковских процессов. Будет пред- полагаться, что имеется конечное число т различных диффу- зионных процессов, между которыми априори возможны мар- ковские переходы. Наблюдатель имеет в своем распоряжении реализацию диффузионного процесса, но не знает, к какому из диффузионных процессов она относится. Таким образом, исходный марковский процесс в данном случае есть комби- нация процесса с т состояниями и диффузионного процесса, а апостериорный процесс есть процесс с т состояниями. Дан- ная задача является естественным обобщением известных задач математической статистики, в которых априорные пе- реходы между состояниями предполагаются невозможными (см. дополнение). К числу рассматриваемых здесь задач относится задача оценки марковского процесса с несколькими состояниями, наблюдаемого в сумме с белым шумом. Она была решена ав- тором в работах [1, 2]. Взятый в § 6.5 в качестве примера процесс с двумя состояниями многократно рассматривался автором [1, 2, 15, 19]. Уравнение этого процесса записывается в двух формах: как в форме Ито, так и в симметризованной форме. Уравнения для частного случая аддитивного белого шума, не упрощенные до конца, позже выводились также Кушнером [1, 2], причем различные формы записи уравнения и связанные с этим возможности его моделирования остава- лись невыясненными. § 6.1. МАРКОВСКИЙ ПРОЦЕСС Ст состояниями 1. Начнем с конкретизации ряда формул из главы 3 при- менительно к марковскому процессу с т состояниями. Фазо- вое пространство Е=Ет такого процесса состоит из т точек.
Без ограничения общности эти точки можно считать числами Мера у в таком пространстве полностью определяет- ся значениями ц(1), ..., |т(т), поэтому р, можно мыслить как точку в /«-мерном пространстве, а пространство мер пред- ставлять себе как область этого пространства. В качестве марковской системы мер { ps<(x, Л) } можно рассматривать { ps/(ot, р) }, где щДа, Р) при фиксированных s,t£T; а, представляет собой mXm-матрицу. Оператор Tst B,Tstg и в (pTst (§ 3.1) будем представлять себе в данном случае как операторы в m-мерном линейном пространстве. Всякое операторное равенство будем понимать как поэле- ментное равенство соответствующих тX«/-матриц. Пусть задана марковская система мер { pst(a, Р)}, такая, что существуют пределы (3.1), (3.11): L(t) — L(s) = lim [In4- ... + Int ]; (6.1) Д->0 [L* С/) — Г (s)]a₽ = lim [pz?2 (a, P) — 6ap + ... A-^0 ••• P)-M (6.2) ( II $сф (I = /; {(J — А-разбиение интервала [s, t]; In P/7-+1 — мат- ричный логарифм). Будем предполагать, что элементы указанных матриц представляют собой диффузионные процессы, именно, что оператор, определенный равенством (6.2), имеет вид Г (() - L* (s) = J [А* (у (т), т) dx + А. {у (т), т) (6.3) Здесь А*, Аа — матрицы с элементами Д(р (у, т), Аар0 (у, т) которые мы считаем ограниченными и непрерывными функ- циями от yt, ..., yt, t (кроме того, выполняется условие их дифференцируемости). Далее, {у(()} = {у\((), •••, yi(t)\—• есть диффузионный процесс с параметрами сноса aa(y, () с матрицей локальных дисперсий (у, (). Эти параметры есть функции от у и (, обладающие такими же свойствами, ЧТО И Аа|3, Ааро- Первая формула (3.4) в данном случае принимает вид t Рщ (a, Р) = 6a(3 4- j* Hst («, Y) [A*vp (у (т), t) dx + $ + Ду₽а(у(т), x)d*y0(x), (6.4) аналогичный (2.34). Это уравнение есть стохастическое урав- нение (см. гл. 2) и определяет систему мер pst(a, Р) как 122
функцию от y(t, w) (и следовательно от ю), т. е. как диффу- зионный случайный процесс. Если воспользоваться симметризованным стохастическим интегралом, определенным в § 2.1., то в соответствии с (2.33), (2.35) будем иметь t Hsi (а. 0) = Ар + j Hsx (а, y) MYP <у№, т) dx + s + Лр<’(1/(т)’ T)dz/a(x)], (6.5) Ар — Ар—— Ауа А|3р А МаРа <4 Ар- (6.6) Пусть уравнения (6.4) или (6.5) определяют систему мер Можно доказать, что она удовлетворяет равенствам (6.1), (6.2) и, обратно, (6.4) вытекает из (6.2) и уравнения Чепме- на—Колмогорова. Поэтому мера (6.4) определяется операто- ром (6.3) с той степенью однозначности, с какой определяет- ся решение стохастического уравнения (исходная мера при- надлежит тому же классу однозначности). Для доказательства удобно ввести норму шХш-матриц, например || В11 = т max { [Ар1, а, р = 1, . . . , т}. Тогда пространство матриц будет банаховым пространством, причем будет выполняться неравенство Ц5СЦ<цв|| ||сц. Конкретизируя формулы (3.57), (3.56), имеем t M's/ 0) = Аф А [ l-Aapdx Ара^Ра] А А у Аур (У (A s) Aw (У (A «) 1Ур (0 — — yp(s)] [уа (0 — уп (s)] + О((7 —s)3/2). (6.7) Здесь оценка O((t—s )3/-) понимается в смысле нормы. Пользуясь равенством (6.7) и выводимым из него равен- ством t (In HSA₽ = f [Ар (У (Т), т) dr + S А Ара (у (т), т) dya (т)] + О ((t — s)3/A нетрудно доказать сходимость (6.1), (6.2), если принять во
внимание лемму 2.2. Не останавливаясь на этом подробнее, перейдем к рассмотрению случайного процесса {х (0} в описываемого указанной системой мер. 2. Как отмечалось в § 4.2, система мер {pst(a, Р) } задает меру в функциональном пространстве. Элементами его в дан- ном случае являются скачкообразно меняющиеся функции х(-) со значениями из Ет. Будем рассматривать сепарабель- ный вариант процесса. Пусть S — множество определения сепарабельности (всюду плотное в Т), a S& есть Д-разбиение интервала [s, и] С Т, монотонно сходящееся к [s, и]ПЗ. Как указывалось в § 4.2, при рассмотрении функциональных про- изводных Радона—Никодима, достаточно рассматривать о-алгебры __ = lim ^Sf. и Л3". (6-8) дн>о Будем предполагать, что мера сосредоточена на множе- стве X функций, имеющих конечное число скачков на каждом конечном интервале (остальные функции образуют подмно- жество множества нулевой меры). Тогда каждая интересую- щая нас функция из X задается указанием точек Tj <тп (из Т=[а, £>]), в которых происходят скачки, а также значе- ниями функции до (Pj) и после (р,+1) скачка. Функция х(*)€Х может быть заменена на параметры п, рь ti, р2,..., • , Р„, т„, р„+1, а условия т; < тх < т(.хп < хп < т" выде- ляют подмножество Л = {х (•): рр т( < тх < т(---р„, Г < тя < Г. ря+1} из X. Возьмем интервал [s, и] и найдем меру множества Аа функций, тождественно равных а на этом интервале: Ла = \х(-): x(t) = a, [$, и] Q 3}. Это множество принадлежит и в силу сходимости (6.8) его меру можно записать: р (Ла | х (5) = а) = lim р {х (^) = а, . . . , х (Tv) — а | х (s) = а} = д-»о = lim pSf, (а, а) р;Л(а, а) . . . рг и (а, а). (6.9) Д-»0 " Чтобы явно вычислить эту меру, подставим (6.7) в (6.9). Учитывая, что 1 1п[р, , , (а, а)] = I [Aaadr+Aaaadya] + -— Aavp(i) Ауаа (i) AytAya— i Н1 J 2 т ---— Мааа (0 At/cr]2 + О (Д5|/г),
' (Аур (i) — Аур (у (ti)> (z); Az/CT — уС1 (^z+i) i/a(^x))> в силу леммы 2.2, получаем p(Ao|x(s) =а) = ф“(а), где и In ф“ (а) = [Ааа^т + А ааа+ S и [^аур Ауаа Лаар Лааа] bpodX = s и и — [Ааа^Х 4~ Aaaod у$\ — Лаар Лааа 6?Ат. (6.10} s s (использованы формулы (2.8) и (6.6)). Отметим, что ф$ (а) удовлетворяет простому стохастическому уравнению A*Ps (а) — <ps (и) [Aaadt -р Aaaod Z/cr] = ф$ (о) d L (/)аа> (6.11) которое эквивалентно (6.10) согласно следствию 2.1. Рассмотрим теперь функции (€Ла₽), которые имеют един- ственный скачок в точке т интервала [т/, т/7] С [s, и], равны а на интервале [$, т) и равны р на (т, и]. По аналогии с (6.9) меру этих функций можно записать р (Ааи | х (s) = а) = lim V р {х (£х) = а, ... Д->0 , „ . . . , x(tk) = a, x(tk+1) = р, . . . , x(tN) = р |x(s) = а}. Вследствие условия Маркова 2 14 (а, а) ... •••^4+1(«> 0) •14_мЛ.(₽, 0). Как и раньше, подставим сюда (6.7) и перейдем к пределу Л->0. Снова используя лемму 2.2, получаем формулу, кото- рая записывается особенно коротко, если по формуле (6.6) перейти к оператору (6.3). Этот результат имеет вид И (Ла₽ | х (s) = а) = j ipj (а) d"L* (т)а₽ ф“ (Р). Ti р (Ла3 j х (s) = а) = lim д-^о
3. Аналогичное рассмотрение можно провести и для боль- шего числа скачков. В итоге получим следующий результат: Теорема 6.1. Пусть Л = A(v, a, tj, т'', 01; ... , pv-i> т", Pv) есть множество функций: а при t < Х(/) = Pi ПРИ Pv при Tv < t и, причем [*;> <1......[т;, <] Мера этого множества определяется формулой р (Л| х (s) = a) = J .. .J*[? (a) d*L* (T^q^фх) d*L* (т2)₽1₽2 <р£ ф2).. . Т1 \ • • d* L (tv) ₽v_1 3v<p“v (₽v), (6.12) еде определяется из (6.10) или (6.11). Следствием этой теоремы является Теорема 6.2. Пусть имеются две меры р и v, причем, их инфинитезимальные операторы связаны соотношением dL (/)a|3 dL (t)a$ = [ga (У (t), t) dt 4- ga0 (y (t), t) d ya (/)] 6ap. (6.13) [s, «]). Тогда эти меры в пространстве (Х,й1Р“) абсолютно непрерыв- ны и производная Радона—Никодима равна =«<"<»=(у к,,, о «. <> + S и + g’xwo d*yo\--gx(t)agx(t)pl>op dt}, (6.14) s m. e. x“(x(-)) есть решение уравнения dt^s = X' [g*xm (У (t), t) dt + (y (/), t) dry0 (t)] = = X^ (dL dL v)x(t),x(n • Для доказательства теоремы сначала следует доказать аналогичное утверждение для пространства (Хп, Л®“Г)Лп),.
где XnCX— множество функций, имеющих на интервале [s, и] в точности п скачков. Рассматривая интеграл <fz“v(dx(.)|x(S) = a), (6.15) л где v(A) определяется по формуле (6.12), а также используя непрерывность функции %“ и свойства стохастических интег- ралов, типа свойств, формулируемых в лемме 2.3, получим такое же выражение (6.12), но уже для другого оператора dL*. Следовательно, интеграл (6.15) равен ц(Л | r(s) =а), что доказывает утверждение для (Хп, ПХП). Чтобы завер- шить доказательство, остается составить соединение этих подпространств, совпадающее с (X, Л^“). В дальнейшем нам понадобится обратная теорема: Теорема 6. 3. Пусть имеются две марковские меры, абсолютно непрерывные на (X, Л^"), причем производная имеет вид (6.14). Тогда на [s, и\ инфинитезимальные операто- ры этих мер связаны соотношением (6.13). Для доказательства следует рассмотреть инфинитезималь- ный оператор dL (^)<zp = (0а|3 + [gadt + gaad уа] и соответствующую ему меру ц. Пользуясь прямой теоремой, имеем ц = ц. Но инфинитезимальный оператор однозначно определяется системой мер (см. формулу (6.2)), следова- тельно dL*~^ =dL*. § 6.2. НЕСКОЛЬКО ДИФФУЗИОННЫХ ПРОЦЕССОВ И МАРКОВСКИЕ ПЕРЕХОДЫ МЕЖДУ НИМИ 1. Пусть имеется m диффузионных процессов { {/(/) ) в /-мерном пространстве Ri, и каждый из них описывается ин- финитезимальным оператором dLa (/) = dLa (/) = Гс (а, у, t) + af (а, у, t) — + 2 + ~Ьро(а, у, /)—^|—1 dt, а = 1, . . . , т. 2 ду?дУ<у J (6.16) Здесь с (а, у, /), ор (а, у, t), ... — функции от у и /, обладаю- щие свойствами, отмеченными в начале предыдущего пара- графа. Они зависят, кроме того, еще от номера а€£т = = { 1,..., т}. Каждому номеру соответствует мера Ра в функ- циональном пространстве (У, (У ). Элементами последнего являются функции y(t) со значениями из R/. Подобные функ- циональные пространства, с-алгебры в нем и меры рассмат- ривались в § 4.2, § 4.3. Мы будем пользоваться здесь этими результатами.
Предположим, что наблюдается процесс {у(0} на интер- вале [s, и]. Этому наблюдению соответствует о-алгебра 2/s (совпадающая с или в обозначениях § 4.2). Наблю- датель интересуется вопросом, какой процесс из т возмож- ных осуществлялся в действительности. В общем случае он не может ответить на этот вопрос точно, а может лишь ука- зать допустимое множество HdEm, к которому заведомо принадлежит наблюденный процесс. Это множество есть множество тех процессов, меры которых на *2/“ взаимно абсолютно непрерывны с мерой истинного процесса. Это множество непусто с вероятностью 1, так как истинный про- цесс заведомо принадлежит ему. Если допустимое множество содержит лишь один элемент, то статистическая задача ре- шается полностью: наблюдатель безошибочно (с вероят- ностью 1) указывает номер истинного процесса. При большем числе элементов допустимого множества возникает задача, типичная для математической статистики. Как видно из вышеизложенного, для данного вопроса фундаментальное значение имеет рассмотренный в главе 4 вопрос об абсолютной непрерывности мер диффузионного процесса. Как следует из леммы 2.2 и 4.4, можно считать, что, помимо процесса {,у(0} на интервале (s, и], наблюдаются также процессы (0 = Ь9а (а, у (t), t)-, re (t) = а,- (а, у (t), f) — — йР"а- (a, y(t), t) (a, у (/), t) a^(a, y(t), t) (6.17) (p, o=l, p" = /'+ 1, .../). Допустимое множество есть поэтому множество процессов, которые имеют такие же функции (6.17), что и функции истинного процесса: Н = {а: bto (а, у (t), t) = qfO (t); af* (а, у (f), f) — • Ь^,"0’ЬО'Л' аЛ' =гр" (/); [s, и]; р, о = 1, ... , р" = /' + 1, ... , /}. Таким образом, статистическая задача нетривиальна, если имеется по меньшей мере два процесса, для которых имеет место тождественное совпадение 6ра (а, у (0, t) = b?a (о/, у (t), t), ... при t £ [s, и]. Теорема 4.1 дает выражение для производной Радона—Нико- дима мер допустимого множества. 2. Перейдем к рассмотрению скачкообразных изменений номера диффузионного процесса. Номер процесса теперь 128
является функцией времени x(t) со значениями из Ет. Пусть х(-) имеет конечное число скачков на интервале [s, fl. Наблю- даемый диффузионный процесс { у (t) } теперь соответствует инфинитезимальному оператору dLA(.) (Z) = Ге (х (Z), у, t) + ар (х (Z),.у, t) ~ + L + — bfo (х (t), у, f) д°- дУ?дУа dt, вместо (6.16). Меру этого процесса в функциональном прост- ранстве (У, У)удобно обозначить Р(Л | х(-) ),Л£ У. Вместо номера а, независимой переменной теперь являет- ся функция х(-). На этот случай непосредственно переносит- ся все сказанное выше относительно решения статистической задачи. Допустимое множество Н есть множество HG.X функций, которые могут конкурировать с функцией, осуще- ствляющейся фактически. Именно Н = {х (•) : йра (х (Z), у (t), t) = qea (fl, аР" (х (fl, у (fl, fl — ' Ь(у'п' О-я’ — Гf" (fl, t£ [s, и]; p, a = 1, ... , Z; p" = t'+ 1..I}. (6.18) Применим теорему 4.1 к мере Р(Л | х(-)), соответствую- щей допустимому множеству. Вследствие (6.18) инфинитези- мальный оператор (4.26) (где положим v = Q) можно заме- нить на оператор dLQ (t) = Г (fl -А- + -i- qpa (fl 1 dt. L ^p" 2 дУ9дУа J Меру, соответствующую этому оператору, обозначим О(Л),Л€(У. Теорема 4.1 дает следующее выражение для производной Радона — Никодима мер Р(Л | х(-)) и Q(A) на о-алгебре У“: P(rfy(-)| х(-), t/(s)) Q(^(-)l y(s)) = %“(*(•), у (.)), (6.19) где Х“ = ехр | j [ с (х (t), у (t), t) dt + s + a?- (x (t), у (fl, Z) q~>a. (t) d"ya' (Z) — -~af-(x(t), y(t),t)q-^(t)aC'(x(t), у (t), t) dt~]\. (6.20)
Переходя к бейесовской статистической задаче, зададим меру R(D, в функциональном пространстве ХЭх(-). Пусть эта мера является марковской и описывается (априор- ным) инфинитезимальным оператором: dLpr(t)a^. Комбинация мер R и Р( -| х(-)) определяет меру в комби- нированном пространстве (Z,30) = (XXY, 30 хУ). В самом де- ле, можно положить Р(ГЛ) = JP(A|x(.))R(dx(.)), Г(-Х Х^у. (6.21) г Легко понять, что мера в комбинированном пространстве будет марковской вследствие марковских свойств исходных мер R, Р( - |'х(-)). § 6.3. АПОСТЕРИОРНЫЕ ИНФИНИТЕЗИМАЛЬНЫЕ ОПЕРАТОРЫ 1. Возьмем равенство P(A|x(-), z/(s)) = J’x“QWz/(-)iz/(s)), A эквивалентное (6.19), и проинтегрируем его с мерой R(-|'x(s)) по множеству Г€^. Согласно (6.21) будем иметь Р (ГА | х (s), у (s)) = j’ [ f X" Q (dy (•) | у (s))] R (dx (•) | x (s)). Г A Используя теорему Фубини, отсюда получаем Р(ГЛ|х(8), z/(s)) = I* [ f X«R (dx(.) I X(s))] Q (dy(-) I y(s)) А Г Следовательно, при фиксированном мера Р(ГА|х($), у($)) является абсолютно непрерывной относительно Q(A|z/(s)) на У“ )А и соответствующая производная равна Pjro^ ^|(5)/’n(S))- = U R (d* (•) I * (s)). (6.22) Q(dy(-) |y(s)) .) Г Положим здесь Г = Ги( %и, u>s и обозначим КГ(Х(8), y(s), ru)^Vus(x(s), Г ) = (S))- <6'23) Q(di/(-)|z/(s)) Сопоставим сказанное с гипотезой 5.1. При таком сопо- ставлении, естественно, следует полагать Е = Ет х Rf, Zt=3CtX yt\ <Г = V 4f°- где 30°, У ° — тривиальные о-алгебры, состоящие из всего про-
странства X или У и пустого множества. Гипотеза 5.1 оказы- вается выполненной, причем мера (6.23) представляет собой основную апостериорную меру (5.36). Найдем инфинитезимальный оператор, соответствующий этой апостериорной мере. В § -5.4 было доказано (теорема 5.8, свойство 3°, формула (5.27)), что система мер (6.23), а следовательно и мера (6.22), TZ/r-l Z \ \ Р (Г dy ( • ) | X (s) , у (s)) т-z zy’M т. e. мера К(Г|*(з)) = z \ Г € ffs, являет- Q(dt<(-) (z/(s)) ся марковской. МерыК(Г|х(х)) и К(Г|х(х)),как видно из (6.22), являются абсолютно непрерывными на ЗСЗ , причем соответ- ствующая производная %“ имеет вид, аналогичный (6.14). Поэтому к этим мерам можно применить теорему 6.3. Как вид- но из сравнения (6.14) и (6.20), имеем 0^ И gx(i)o-(l/> t)d*ya. = c(x(t), y,t)dt + + af> (x (t), y, /) (0 d*yO', так что формула (6.13) принимает вид dL* (Z)ap = dL* (t)afi + [c (a, У (t), t) dt + + ap- (a, у (t), t) (t) d*y^ (t)] 6a₽. (6.24) Итак, мы получили следующий результат: Теорема 6.4. В рассматриваемом случае основная апо- стериорная мера (6.22), (6.23) сосредоточена на допустимом множестве (6.18) и имеет инфинитезимальные операторы (6.24), где dL*^ — dLpr—априорный инфинитезимальный оператор, соответствующий априорным переходам между со- стояниями. Обычно для таких априорных переходов (dLpr)a$ — ' pa$(f)dt, поэтому сравнение (6.24) с (6.3) дает Хр (У, t) = рац (0 + С (а, у, t) 6а(3; (i/, t) Of (a, у, t)q^g’ (t) 6ap', Дара" = 0. (6.25) 2. Найдем теперь для апостериорной системы мер Vs дру- гой инфинитезимальный оператор dL(t), определенный по- средством (6.2). Применяя формулу связи (6.6) к (6.24), нетрудно получить = Pap + |с (а)-ар. (а) Ь^а0. (а) — 1 д [ар, (а)6рХ1 2 dyn{t) ^ар.
т. е. dL (Оаз = Pa^dt + {с (a) dt + ар< (а) b^. dyr>. — ----l-a0. (a)d/l-----[аР- («) ZVjidA Sa₽, (6.26) 2 J 2 иУд J где ap- (a) = ap. (a, у (t), f); bt’O- = b^. (a, у (t), t) = 7P-a. ^). Последнему члену можно также придать вид — [ap. (a) бр4'] b^n = _^£2^^а,я + а (а) ба-л = иУл иУп иУл __ дар. (а) _] дЬх,п, bp’a'ba>n tzp-(а)6Р'х' ду Ьа'и'Ь^'^. (6.27) Докажем, что выражение Ьяо’ -- Ьр’Х- бясг^ ^а'л' (6.28) не зависит от а на допустимом множестве (6.18). Для этого рассмотрим приращение Л7ра (/) = А6ра (х (/), у (t), t) (А/ s f (t + А) - f (/)). Если в окрестности точки t функция x(t) не испытывает скачка, то очевидно <96._ Ц) = —(х (0, у (/), t) Nyn + О (А). дУя Умножая обе части этого равенства на Ayt и пользуясь лем- мой 2.2, имеем lim У A^paAz/x = [ bnxdt. (6.29) д->о L* J дУп Но в левой части стоит величина, которая на допустимом множестве (6.18) не зависит от а. Следовательно, и выраже- ние Ьт (р, а, т любые), стоящее в правой части, не за- дуя висит от а. Этим свойством поэтому обладает и (6.28). Слб^ вом, все функции, входящие в (6.26), (6.27), кроме с(а), , х <ЭаР-(а) ар'(а)>----- не зависят от а. <Э</л 3. Выразим оператор (6.26) через параметры тр, орг. (р = 1, •••, /; Н=1, ..., Г), имеющие тензорно-инвариантный ха- рактер (теорема 2.5). Для этого используем формулы (2.26). Поскольку бра на допустимом множестве (6.18) не зависит от
а, то, очевидно, можно так подобрать арГ', чтобы они также не зависели от а. Кроме того, взяв приращение Дарг< = —Дг/Я 4-О (Д) дУП и записав равенство, аналогичное (6.29), нетрудно убедиться, что , д(Т „ —-----Олт' =------<W<Tt's- не зависит от а. Применяя к этим ве- дУа л । да , до , личинам преобразование о~‘, получаем, что —— ая„, и —p-d-(jnr,== 4 дУл ‘ дул - 2сц — 2т? не зависит от а. Отсюда имеем = т?’Ор'г’@х'г’йух’ 4- ...; Cip'bp'x'Clx' = ^рЮр'д'Ох'г'^Тг' 4“ ^p'^p'r'CTvr' “ Pjts'4" . . .J дУп — [dp' bp'X'] bx’n — — [/Пр-О0'г'С6;'г'] Ox'S'Ons' -К . . . , дУч дУп где точками обозначены члены, не зависящие от а. Если под- ставить эти равенства в (6.26) и учесть тождество д г —1—1 п д г —1 , — [Шр'СТр'Г'(Тх'г'От' s' J — “ IM'^p's'L дДл дуя то будем иметь dL (/)а₽ = pafidt + |с (а) dt + /пр, (а) — ----^-mx-(a)dt^----^--^-[mp^(a)o7'p']onr-dtjbae. (6.30) Здесь нами опущены члены, не зависящие от а, что связано с преобразованием эквивалентности (5.30). Операторы (6.26), (6.30) совпадают с точностью до эквивалентности. 4. Помимо найденных инфинитезимальных операторов, можно получить выражения для операторов dL(t), dL(f) си- стем мер (5.49) и (5.29). Формулы перехода к этим мерам от Vs являются частными случаями преобразования мер (3.31). Для вычисления соответствующих инфинитезимальных операторов можно применить теорему 3.3. Как указывалось в гл. 5, это приводит к формулам (5.65), (5.68). Чтобы конкретизировать выражение (5.65) для данного случая, учтем вид оператора (6.26). Для сокращения записи
введем обозначения wa (t) = Wt [x (0 = a]; va (/) = Vt [x (f) = a]; M₽s («) P к (0 = « I Уа] = £ ф (a) wa (/). a--=l Тогда (5.65) примет форму dL (f)a& = p^dt + {[ar (a) — Mpsap-J b~'0-dy0- — — [ap,(a) a0' (a) — Mpstzp-aa-] b~'a- — - 4- W (a) - Mpsa? -] b,A 6ag 2 p dyn J (начиная с этого места, полагаем c = 0; 2рав = 0). В соответст- ₽ вин с этим основное уравнение (5.66) для апостериорных вероятностей будет иметь вид dwa = Wypyadt + wa [aP< (a) — Mpsap J b9'O'dyo — — ~wa f [a?- (a) a<y (a) — Mpsap-aaJ b^ + дУп дУп bp'o’bo'lt + + [a?,(a)^Ma0-]-^^b(rAdt. (6.31) дУп 1 Это уравнение будет выглядеть несколько короче, если пе- рейти к записи уравнения в смысле Ито. Чтобы это сделать, можно воспользоваться уравнением (5.61), которое заданТт инфинитезимальным оператором dL* (t) = dLx (t) — (01 (Q) (6.32) (см. (5.60.а) или (3.64)). Здесь согласно (5.60.6) (идй) = £Уа(0). а
Подставляя сюда (6.24), имеем (Осф — Vf (^) {Р«₽^ 4“ 1Др' (а) ^р'а'^ У<7'1 $сф} ~ . (6.33) Vz (12) Это равенство позволяет вычислить окончательный вид опера- тора dLx в данном случае. Применяя формулу (2.15), соверша- ем преобразование d*yn---------= —--------d*ya----------5---bvcdt Vt(Q) Vt(Q) * [VZ(Q)]2 (6.34) Здесь bVo, = lim 4- MAK; (Q) Az/a- = V ba0. △~>o A a ba0' = lim 4- M Avaky<y Д-»0 A — параметры, которые легко вычислить при помощи уравнения dVt = Vtd*L* (5.56), т. е. уравнения dva = VyPytidt vaap- (a) bp't'd Ух'• (6.35) Они оказываются равными Ьас = УаС1<у (и); Ьуд’ = (а) = И; (Q) MpSG0-. (6.36) a Подставляя (6.34), (6.36) в (6.33), получаем (Oaf) = Pa^dt + ар' (°) ^р'а' (^ У<Г ^psac’dt) дар. Далее, подстановка этого результата в (6.32) дает dT (t)ap == pafidt 4- [ар. (a) — Mpsap<] b~>la. (d*yO' — Mpsaodt) 6a₽- (6.37) Уравнение (5.61), следовательно, принимает вид dwa = Wy,pya + wa [ap. (a) — Mpsap-] b^' (d*y0' —Mpsa<,'dt). (6.38) Оно эквивалентно уравнению (6.31). Принимая во внимание найденную формулу (6.37), не- трудно проверить выполнение соотношения (5.74). Продолжая приведенное рассмотрение, можно конкрети- зировать применительно к данному случаю также уравнение (5.62). Кроме того, можно найти другой инфинитезимальный оператор dL и записать соответствующие ему уравнения. Не останавливаясь на этом, ограничимся тем, что приведем вы-
ражение для указанного оператора: dL(t)<# = d*C(t)a^ = dt j-------- при а Ф Р; У“ (о, £2) М (6.39) Vn V?(Y’Q) о / , Рау -------, при а = р. В нем оказались отсутствующими члены с dy^. Причиной этого является то обстоятельство, что в данном частном слу- чае в выражении (6.24) для dL* члены с d*ya- стоят лишь на главной диагонали. В других примерах (скажем, в приме- ре гл. 7) положение может оказаться иным. § 6.4. ВТОРИЧНЫЙ АПОСТЕРИОРНЫЙ ОПЕРАТОР Любая мера V в пространстве Ет определяется значения- ми va =У(а), а=1, ..., т. Поэтому процесс {Г/(Г), ГС/?™}, об- разованный апостериорной мерой Vt на Ет, сводится в данном случае к ///-компонентному процессу {щ(/), fm(0}- То же самое можно сказать и о другом вторичном процессе {IFJ = = {^а(0}, его компоненты, кроме того, связаны соотношением 2ща=1. Уравнения (6.31), (6.38) есть стохастические уравне- а ния (см. § 2.2), определяющие процесс {даа(0}- Аналогичные уравнения, например (6.35), для (va(t) } получаются, если конкретизировать уравнение (5.58), (5.64). « Применяя теорему 2.3, где нужно положить{ха\ ={wa, уа-] £л=0, к уравнению (6.31), или (еще короче) исходя из (6.38), получаем следующий результат: Теорема 6.5. В рассматриваемом случае процесс {ша(/)} как, диффузионный процесс характеризуется параметрами сно- са и локальными дисперсиями: lim -1- М {ку (t + А) — wa (t) | w (f) = w, у (t) = //}== wypya; д|o Д lim -L M {[ку (t + A) — wa (/)] (t + A) — te/p (/)] | w, y} = A 40 A = wa [ap-(a) — MpsaP'] b^la- [ao- (P) — w&; (6.40) A ™ X M ~~ Wa [Ур' + Л) ““ Уе’ Iw’ y} = = Ща[ар4а)—MpsapJ; lim -J- M {[ща (t + A) — wa ^)] [i/p" (t + A) — y?. (/)] | y\ = A J,0 A = wa [ap- (a) — Mpsapd = wa [ap« (a) — Mpsap-]-
в совпадении выражений [вр-(а)— Mpsa0'(a)] bp-o-Zw иар»(а)— —MpsaP» можно убедиться, учитывая, что разность ар----- — аР' Ь~’0' Ь<у9" = гр« на допустимом множестве (6.18) не зависит от а, так что гр*—М гР" = 0. Определенный в § 5.6 вторичный апостериорный процесс {^(Г), (см. определение 5,4), в рассматриваемом случае сводится к комбинированному процессу {ад, У9}- В са- мом деле, апостериорная мера lFf в комбинированном фазо- вом пространстве E=EmXRi будет полностью определена, ес- ли задать меру Wt на Ет (т. е. на а-алгебре ^х*?/0) и точку ytzRi. В соответствии с теоремой 5.9 процесс {wa, ур} является марковским. Из уравнений (6.31), (6.38) и из теоремы 6.5 сле- дует, кроме того, что он является диффузионным и описывает- ся вторичным инфинитезимальным оператором (/) - + Mpsap + + у wa [af, (a) - MpsaPd b~.'a, [aa- (0) — Mpsaad + + wa [ap (a) — Mpsap] + - Mps bpo (6.41) Апостериорный процесс {na, У?} в свою очередь также является диффузионным и для него аналогичным образом легко может быть найден вторичный инфинитезимальный оператор, например, при помощи формулы (6.35). § 6.5. ПРИМЕР. ПРОЦЕСС С ДВУМЯ СОСТОЯНИЯМИ Рассмотрим частный случай двух диффузионных процес- сов (т = 2). Априорные марковские переходы между ними пусть описываются оператором pa$dt, где II РаЗ 11 = — н и v — v (ц = ц (t), v = v (t) — непрерывные функции времени). Будем для простоты предполагать, что оба диффузионных процесса имеют одинаковую невырожденную матрицу ло- кальных дисперсий следующего простого вида bpo — причем N постоянная (тогда 1' = 1 и индексы! с одним штрихом можно отождествить с нештрихованными индексами). Согласно формулам (6.26), (6.37) апостериорные инфи-
нитезимальные операторы в данном случае имеют вид dL (t)ap = рар dt + y («) [dyf — ~ a9 (a) dt] — I da„ (a) , -V ----------dA.Sap; (6.42) 2 дУ? J dL* (t)afi = Pap dt + [af (a) — Mps ae] [d*y? — Mps at dt\ 6a₽. Поскольку / (1) — Mps/= юа [/(1) —/(2)], основное уравнение (5.61), (5.66) можно записать в любой из двух форм = — dw2 = (— + vto2) dt ф - [ap (1) — ap (2)] x (6.43) dwt = (— p,tox + vtoa) dt + W1 W2 [ap (1) — ap(2)] x N X [d* yf — toxap(l) — toaap(2)], вытекающих из (6.31), (6.38). Далее, уравнение (5.67) для V" (а, й) (=Р («)) как функции от t и а принимает вид -dV(l) = - )i[V(l)-V(2)]d/ + + 4 И ОМ [[«₽(!) - «₽ (2)] \dy?-^l)ta?{2) dt N I 2 dt Гдар(1) дар (2) ~1 j 2 . ^p J’ — dV(2) =v[V(l) — V(2)]dt — 1 ~ ( Г a„(l) + a„(2) - — V (2) [ap (1) - ap (2)] dy? - dt dt Г (0 (2) 11 2 . дУ( дУ? J Приведем также инфинитезимальный оператор dL(t), со-
ответствующий данному случаю. Подставляя (6.42) в (5.68), находим V(1,Q) 2(2^ V(1,Q) v V(i.Q) V(2,Q) v У('.Р) V(2, Й) dt в соответствии с (6.39). Здесь согласно (5.58) функция V((i, О)=1/“(ц,Й) как функция от t удовлетворяет уравне- нию — dV(l,Q) = — ц[И(1, Й) —V(2,Q)]d/ + + -^V(1,Q) ku) 2 ЙР (0 ____dt daf (1) ) 2 dyf j’ (6.45) — dV(2,Q) = v[V(l,Q) — V (2, Q)]^ + + yV(2, Й) k (2) 6^/p g ®p (2) dt dt daf (2) ] 2 dyf В заключение остановимся на вторичном процессе и его инфинитезимальном операторе. Вследствие соотношения к.'| + ®2=1 в случае т = 2 можно ограничиться рассмотрением лишь одной вероятности, скажем Wj. Процесс t/P} пред- ставляет собой диффузионный марковский процесс, и соглас- но (6.41) его оператор имеет вид d%(t) =-[(— цау ++ + + V [«р (1) — «p(2)]2~~+ (6.46) д wt ₽ + ^2[ap(l) —ар(2)] г)2 du>i dyf + — bfO д2 'i ^—\dt. дУРдУ<, / Результаты настоящей главы допускают обобщение и на тот случай, когда число различных диффузионных процессов не является конечным, т. е. когда марковски меняющийся параметр а диффузионного процесса принимает значения из более сложного множества Ех, нежели Ет. Простое обобще- ние равенства (6.24) имеет вид dL* (t) = dL*pr (0 + df (a, t), (6.47) где dL* (t) —оператор апостериорного процесса в Ех, dLpr — оператор априорного процесса, a df(a,t)—оператор, соот-
Бедствующий умножению на функцию df (a, t) = с (а, у (t), t) dt + аР- (а, у (/), /) bfff# (t) d'/! уо- (t), (6.48) а( Ех. Для справедливости указанного результата существенно лишь, чтобы априорный процесс в Ех был марковским и что- бы мера процесса в комбинированном фазовом пространстве E = ExxRi определялась формулой (6.21). Ограничившись данным замечанием, мы не будем здесь подробнее рассмат- ривать описанное обобщение.
Глава 7 НЕПОЛНОЕ НАБЛЮДЕНИЕ МНОГОМЕРНОГО ДИФФУЗИОННОГО ПРОЦЕССА § 7.1. ПОСТАНОВКА ВОПРОСА И ОСНОВНЫЕ РЕЗУЛЬТАТЫ Рассмотрим в этой главе другой частный случай услов- ных марковских процессов. Отличительной особенностью это- го случая является то, что он является не комбинированным. Если в предыдущей главе исходным процессом был комбини- рованный процесс в произведении пространств, то здесь ис- ходным будет единый процесс в (т+Г)-мерном пространстве Rm+i. Наблюдаемыми будут I координат этого пространства. Мы остановимся здесь на случае диффузионного процесса в Rm+i, потому что этот случай важен с практической точки зрения. Он представляет также бесспорный теоретический интерес, поскольку диффузионные процессы являются важ- нейшими среди марковских процессов и тесно связаны с ап- паратом дифференциальных уравнений. Естественно ожидать, что апостериорные инфинитезимальные операторы, как и априорные, будут иметь вид дифференциальных операторов. В главах первой части нами уже подготовлен материал, ко- торый можно применить для быстрого получения основных результатов. В предыдущей главе частью комбинированного марков- ского процесса также был диффузионный процесс, поэтому рассматриваемый здесь случай по математическому аппарату не очень далек от предыдущего. Если параметр а из гл. 6 априори меняется диффузионным образом, т. е. { а(/)} есть диффузионный процесс, то тогда результаты, полученные на основе теории главы 6, будут являться частным случаем ре- зультатов настоящей главы. Другим частным случаем общей теории данной главы является простой случай, рассматривав- шийся Вентцелем [1]. В этом случае наблюдаемые компоненты совокупного процесса образуют марковский процесс сами по себе, что, правда, редко бывает в практических задачах.
1. Пусть Zj, j=l, ..., m + l— координаты точки в (m+l)- мерном пространстве Rm+i, т+1=п. Исходный диффузионный процесс в нем, соответствующий мере Р, описывается пара- метрами с (z,/), aj(z, t), bjk(z, t), т. e. имеет инфинитезималь- ный оператор <7J> Функции c, a,, bjk, как обычно, мы предполагаем непре- рывными по всем аргументам и непрерывно дифференцируе- мыми по всем аргументам, кроме времени. Пусть наблюдается часть компонент исходного процесса, скажем zm+i(0,-, zm+i\t}- Для наглядности, как и в § 4.4, наблюдаемые компоненты обозначаем другой буквой: y?(t} = = zp(f), p = m+l, ..., m + l, в то же время остальные ненаблю- даемые компоненты обозначаем: xa(t)=za(t), а=1, ..., т. Выбор индекса указывает область его изменения: /, k,... про- бегают значения 1,..., т + 1\ а, р,...— значения 1,..., т, а р, ст, ...—значения m+l, ..., m + /; р', o',...—значения m + l,... ..., m + l', и, наконец, р", в", ... — значения т+Г+\, т + 1. Процесс {ха(0, Ур (0}.или, что в сущности то же самое, процесс {ха(0} с условными мерами Р(- |у“} является в дан- ном случае условным марковским процессом, подлежащим изучению. Применение теоремы 4.1 приводит к следующему утверждению. Теорема 7.1. Если Ь?в и а9- —Ь+п’ ап^ не зависят от х , то для рассматриваемого процесса* выполняется гипо- теза 5.1, причем мера Q задается инфинитезимальным опера- тором dlfitt) = £(ар" ЬХ'П" ап"} ду , Ч ~ bfO j dt. (7.2) В самом деле, вследствие теоремы 4.1, производная Радо- на—Никодима (5.36) может быть получена усреднением (4.33) производной (4.27): Р(Ж/‘П|2+) P(d^rz|zJ Q | ys) Q (dy\ । z5) = M0 ap brk’ d*Zk’---ay byt'a^ dx 5 Мы воспользовались соотношением и равенством Q(dyslxs', ys) =Q(dys | ys), вытекающим из того факта, что оператор (7.2) не зависит от ха в силу условия теоремы. По этой же причине мера Q является марковской на о-алгеб- рах . В дальнейшем под о-алгебрами yt можно пони-
мать не только о-алгебры в пространстве Rm+i, но и о-алгеб- ры в пространстве Ri. Теорема 7.2. При выполнении условий теоремы 7.1 мар- ковская система мер И(*5, rf) = (7.3) имеет инфинитезимальный оператор dL* (t) = с dt + af- d*ya> + (aa dt + Z>ap. d* у?) + ила + — ba&dt (7.4) 2 p dxadXfi ( Доказательство. Кроме меры P с инфинитезималь- ным оператором (7.1) введем в рассмотрение меру Р', опре- деленную преобразованием мер Р' (Г, | z (s)) = e~qaX^s) f Р (dz | z (s)) eq“Xa. (7.5) В соответствии с теоремой 3.3, все условия которой в данном случае выполнены, указанной мере соответствует инфинитезимальный оператор dL'„r = _ (с' + а, -L. + ± Ь„ \ Л; (7.6) с'= сЛг aaqa^r ~b^qaq^\ а] = а^ bjaqa. Применим теперь теорему 4.2 к мерам Р' и Q. Это воз- можно, поскольку bt(!, а?—Ь9«Х' Ь^„- аЯ' не зависят от ха В соответствии с формулами (4.34), (4.51), (4.52) имеем Р |zs) . . -----------------= 0S (zs, ys ), Q (^41 ys) (7-7) где 0.J — решение уравнения t ®s = 1 + J 0l{Mp. [c' (zx, x) I zs, y\] + s + Mp. [ap. (гт, т) I zs, y[] be^ (yx, t) d* y0. (r)}. (7.8) Учитывая (7.5), легко найти формулу связи V's(z, К) = e~qaXa J (z, dz') eqaX'a (7.9)
между производной (7,3) и производной Kf(2s, г<) P'(^srf \zs) Q(^s \yV) (7.Ю) Формулу (7.7), очевидно, можно записать V?(zs,Q) = ©(. (7.11) Обратимся к теореме 3.6. Нетрудно убедиться, что вслед- ствие (7.11) уравнение (7.8) совпадает с (3.87), если поло- жить |Ts/=Vs*. Согласно (И. 1.4), (П. 1.2) условное матема- тическое ожидание в (7.8) есть интеграл по мере Р' (dzt | zs, t/s) = Р' (dzt | zs) (dtfs\zs) (7.12) Математическое ожидание M -t[ • |zs] в силу (П. 1.1.) есть *s интеграл по мере К* (zs, dzt)/V/ (zs, Q). Вследствие' (7.10) последняя совпадает с (7.12), так что Мр-[- |zsy‘s ] = [• |zs], s Это окончательно убеждает в совпадении уравнений (7.8) и (3.87), причем dN'l = с' dt+ df- d* у<у = (с + aaqa 4-,у- bap qa q^ dt + + (Qp' 4~ fy>'a <7a) bfc d* уO' (7.13) (использованы (7.6)). Положим dN' — aaqa —— ba$ qaq^ dt (ap. bf’a qa) d*y& + + (aa dt + q& dt + 6ap. b~^ d* yd) ba& dt , ила Z ила тогда, очевидно, (7.13) будет выполняться и, кроме того, оператор (3.88) e^^dN' e~qaXa = с dt + ar b^d* у<? + + («a dt + бар' бр.О'd* У<у) -1- — 6ag dt д- -g — (7.14) не будет Зависеть от уав соответствии с условием теоремы 3.6. Связь (7.9) между мерами Vs, VV, рассматриваемыми (при фиксированном процессе ys ) как меры в Rm, совпадает
с (3.78). Тем самым выполнены все условия теоремы 3,6; применяя ее, получаем, что (7.14) является инфинитезималь- ным оператором системы мер (7.3). Это завершает доказа- тельство теоремы. 2. Найденный оператор (7.4) относится к типу операто- ров, изучавшихся в § 3.3 и § 3.4, поэтому на этот случай непосредственно переносятся изложенные там результаты. Чтобы найти симметризованный апостериорный оператор dL, следует воспользоваться формулами (3.70) или (3.71). В дан- ном случае п* о* ,о* , с°* = с, аа = аа; Ьар = Ьар; 0 А—1 • 0 h 0 Л» 0 Са' = Ор'в' CZp'J = ^а'р' ^p'aj Со" = vj ^а"а == поэтому согласно (3.70) @р' Uq* “р Ьар1 о Яа = аа — да« , к d(bf,0.aa.) дха + яр' дуя 1—1 / , 1 t l—1 db0,a 1 д Ьа,а) af О9’О- Ь&а + — О₽(/ Ор'а' (- — Ьщ,--------, Я(7.15) ^afj = bafi Ьаа’ Ьа'р’ Ьр'$. Таким образом, в соответствии с (3.42), (3,65) имеем Ч~ Qadtbay bf’a'(dy<}’ Q.Q' dt) bjp' д Ьа'с) dz. д дха 1 1 r)2 + (^a0 baa' ba'f 6p-p) dt d $ . (7.16) 2 uxa uxq Нетрудно получить также выражения для других инфините- зимальных операторов (5.65), (5.68). Они имеют вид dL = (с — Mps с) dt + (ap. — Mps ар-) b/o' dyff ------(ap- a0' — Mps ae- aa ) Ье-1а- dt — 1 2 h d (bp,a- ao') /P — Mps6/P' (7.17)
где Mps • • • = J • • • (dx)', bafi = ^afj ^ap' ^p'a' ba'ft, и далее dL (t) = aa dt + ba?- bp-a- (dya— a# dt) — 1 L d ba’O) 2 1 dzj di-\- ~ <?inV“(2bQ) + <5Ip dt -------h — ba?dt dx„ 1 о p Cl (X дха дхц (7.18) В соответствии с (7.17) основное уравнение (5.66) запи- сывается для плотности wt (х) = Wt (dx)jdx в виде dwt = (с — Mpsс) dt + (а*, — Mpsa?’) bp-la, dy<y — — (dp> aa> — Mps dp-aa) bp-а- dt-----~ , d(bp^aa,) fyp----A------ dz у ~^PsbL' g(&p-0-a0-) dzj dt} wt-----| I * 4 I fla dt -J— Выражения (7.17) — (7.19) принимают несколько более короткий вид, если рассматривать несимметризованные диф- ференциальные выражения, определенные в смысле Ито (§ 2.1). Аналогично тому, как в § 6.3 была выведена формула (6.37), в данном случае можно получить dL* = (с — Mps с) dt + (d*y?. — Mps ap- dt) bp-l0, x X |a0— M da- + b0'a -^—1 + [aa h — 6a₽ -ь - ] dt. L a J L u a иЛа u p J (7.20) Найдем также соответствующий аналог формулы (7.18). Согласно (5.63) имеем dt* (t) =---!--- [d*L* (t) Vt (z, Q) — (d*L* (t) Vut ) (z, Q)] V“(z, Й)
или, если подставить (7.4), dl* (0 =---------!---- vut (з, Q) — Ьав а д\ (г, Й) - 2 ар дха дхр J ' > 4~ Ьар’ Ь?’а------------d*ya’ Vt (z, Й) —-----. ' V“(z, Q) dxa Используя уравнение dt V“ = —d*L*Vt (5.58), нетрудно полу- чить d' ya, Vut = V“d'y<y + bva, dt = V“d*yO' — Vtaa- dt - baa. dt. Благодаря этому указанная формула принимает вид dL (t) -— dt + 6apz ^р'а' (d y& dt) ~ dlnV?(zb Q) + dt OXp d , 1 , dxa + 2 dxadx?, ср. c (7.18)). 3. Приведем еще одно следствие из полученных в этом параграфе результатов. Именно, найдем апостериорную ста- тистику приращений Axa=xa (г'+Д)—*а(0, рассмотренную в § 3.4. Подставляя выражения..(7.15) в (3.75) и (3.77), полу- чаем для данного случая Мр [Дха | xt, у + ] — аа (zt, t) Л -(-бар' (zt, t) X X Ьр'а' (Дуа' a0. Д) -f- bia-bf^^Y^'x' —’ ~^~ЬЛ'х'Д) X X О (Л3/2); (7.21) Mp [Axa Axp | ya ] = Д bap’ (&р’л' Az/д' Az/x' Д) ^ + O(A3O; а также V/ Rm) == 1 4~ flp- (zit t) bya. Дуа' + сД 4" ap' (bf’x' Ул'х' bx’a' ' bya. д\ a0. -|- 4~ b/f by>я' ( Vft'x' 2 Ья'х' d (bx’a’ a<y) dzj + 0(Д3!г).
В заключении параграфа отметим, что специальная про- верка показывает инвариантный характер найденных выра- жений относительно преобразований вида х' = х'(х, у); у’=у. Потребность в таких преобразованиях может появиться при рассмотрении практических задач. Однако мы не будем при- водить выкладок, подтверждающих эту инвариантность. § 7.2. НЕКОТОРЫЕ ОБОБЩЕНИЯ Результаты предыдущего параграфа были получены при одном существенном ограничении. Именно, предполагалось, что Ьра, —6Р"т'не зависят от ха. В настоящем параграфе мы укажем пути решения задачи в более общем случае, когда это предположение не выполняется. Оказывает- ся, что для решения более общей задачи не требуется вывода новых формул и выражений, а достаточно расширить (доба- вить новые компоненты) исходный марковский процесс и на- блюдаемый процесс. Вместе с тем мы проведем здесь другое менее существен- ное обобщение: будем предполагать, что наблюдаются не компоненты исходного марковского процесса, а некоторые функции, определенные в его фазовом пространстве. Трудности, связанные с указанными обобщениями, преодо- леваются путем увеличения числа фактически наблюдаемых функций. В ходе наблюдения в общем случае наблюдатель с достоверностью узнает не только наблюдаемые функции, указанные в условии задачи, но и их локальные дисперсии (а также локальные дисперсии этих дисперсий и т. д.). Поэто- му число фактически наблюдаемых функций оказывается больше, чем первоначально указано. В § 6.2 уже отмечалось, что, в дополнение к процессу {y(t)}, можно считать наблюдае- мыми также функции (6.17). Их можно включить в число на- блюдаемых компонент. При таком увеличении числа наблю- даемых функций сильно помогает то обстоятельство, что ос- новные формулы нечувствительны к вырождению матрицы локальных дисперсий, так что любое число функций можно присоединить к исходному процессу, рассматривая их как компоненты! совокупного диффузионного процесса. Этим оку- паются усилия, затраченные ранее в гл. 4 на рассмотрение случая вырожденной матрицы локальных дисперсий. Пусть z= {za, а=1,..., т} — диффузионный процесс в Rm, и пусть заданы наблюдаемые функции У, = Ff (z, t), р = 1, ... , /. (7.22)
Эти функции, а также параметры исходного процесса мы предполагаем дифференцируемыми достаточно большое чис- ло раз. Процесс {?а} и процесс {У9 } можно объединить в единый диффузионный марковский процесс, определенный в Rm+i- Найдем параметры этого единого процесса. Нетрудно понять, что матрица локальных дисперсий будет иметь вид где , dF> dF° h b^- ~dT^~~d^b^ bats Ьрв dF, bpa — bao — ^a₽- Далее, вектор сноса будет (аа, ар), где ^Р , <Wp ар dt bza а“+ 2 дгадгр Параметр с (если его нужно рассматривать) остается без изменения. После описанного объединения процессов za и yt данная задача свелась к задаче, рассмотренной в предыдущем параграфе (при очевидной замене ха на za п на т+1 и т. п.). Выделяя из || 6Р01| невырожденную подматрицу ||£Р'<г||, будем рассматривать (/ — /') — компонентный подвектор go» = аР” — bp"p' bp’# а<у. Для применения результатов § 7.1 нужно проверить условие независимости функций bp<3 (z, t), аР’(z, t) — — bf’t»(z, t)b (z, t)a<s- (г, t) от z. Если оно не выполнено, следует провести дальнейшее расширение процесса {za, 7/р}, присоединив к его компонентам те из указанных функций, которые зависят от z. Обозначим такие функции Ff(z, t), р = /+1,..., /+/(/</2+/—I'). Как отмечалось, функции F^ можно присоединить к числу наблюдаемых функций (7.22), считая, что наблюдаются также процессы = (7-23) Подобно тому, как раньше мы пополнили процесс {za} компонентами {г/р}, пополним теперь его компонентами {г/р, У^} Для процесса {za, yf, У~} снова проверим условие независимости (теперь уже новых) параметров Ь~~, Ь~а, g^i от z. Если раньше, скажем, функция 6P1<J1 (z, t) зависела от z, то теперь она превратилась в у~ и тем самым потеряла явную зависимость от г. В случае, если все требуемые пара- метры зависят только от {ур, у~, t}, к задаче можно
применять результаты § 7.1, если нет, то следует произвести дальнейшее пополнение наблюдаемого процесса {у9, у~} и основного марковского процесса. Очевидно, что описанный процесс пополнения или закон- чится (и тогда мы будем иметь конечный наблюдаемый и основной процесс), или не закончится (тогда будем иметь счетный наблюдаемый и счетный основной -процесс). В обоих случаях апостериорная мера будет сосредоточена на допу- стимом множестве {z(-)-.F9(z(t),t)^y?(t), F~(z(t),t) = y~ (t), которое с вероятностью 1 не пусто (разумеется, нетривиаль- ная задача имеется только в том случае, когда допустимое -множество состоит более чем из одной точки). В случае конечного процесса, когда расширение заканчи- вается через конечное число шагов, к задаче непосредственно могут быть применены результаты предыдущего параграфа. При бесконечном процессе требуется обобщение результатов § 7.1 на случай счетного диффузионного процесса. Мы не будем рассматривать этого обобщения, а ограничимся заме- чанием, что для практически интересных случаев все основ- ные формулы из § 7.1 ив этом случае сохранят свой вид и не будут содержать бесконечных сумм. Причина этого в том, что в формулы входят лишь невырожденные компоненты у^, а в процессе {z/P> У~,...} имеется лишь конечное число невырож- денных компонентов (ранг матрицы локальных дисперсий не может превосходить т). Таким образом, формулы предыду- щего параграфа дают решение общей задачи, хотя вопрос обоснования в бесконечном случае осложняется. В следующем параграфе -будет рассмотрен пример, для -которого описанное расширение процесса быстро заканчи- вается. § 7.3. ДВА ПРИМЕРА 1. Рассмотрим сначала пример, к которому непосред- ственно приложимы результаты § 7.1. Пусть наблюдается сумма у(/) = x(t) +g(0 двух независимых однокомпонентных диффузионных процессов х(£) и Е,(0. Первый из них пусть характеризуется параметрами а(х, /), b(x, I), а второй — t), b'(%, t). (пусть эти функции непрерывны, а также дифференцируемы по х и g соответственно). Требуется иссле- довать апостериорный процесс x(t). Рассмотрим двумерный диффузионный процесс {x(t),y(t)}, Он характеризуется параметрами сноса aa = cti = a(x, t), af = a2 = a(x, t)+a'(y—x, t) и матрицей локальных дисперсий ^12 ^22 b (х, f) b (x, t) b (x, f) b (x, t)Fb' (y — x, t)
Будем предполагать, что Ь + Ь'=у<д и — (х, t) s= 0. — (g, t) =0. Тогда условия теорем 7.1 и 7.2 оказываются -1 выполненными (/=/'= 1, параметры а9" — Ь9’а> ЬО'Л- ая- при этом не приходится рассматривать). Применяя теорему 7.2 и конкретизируя (7.4), получаем апостериорный инфините- зимальный оператор ,,, а-\-а' ,, . / ,, . Ь ,, \ д . 1 , , д3 t/Z. —-------— d i] -4- f ct dt 4- --d у )— 4------b t • —. b -4 b' \ b + b' ) dx 2 <44 (7.24) Симметризованный оператор (7.16) имеет вид dL = а ~ha— \dy — — (а 4- a') dt — b + b' L 2 J ——Г ь Д(д +a') । да' ~i dt + 2 [ Ь -4 b' дх dy J -\-$adt+ —-^-—(dy — (a + a')dt]\-^- + V b + b J dx 4—- b dt 1 2 d2 dx2 ’ •y bb' b =------------ b + b' Далее, формулы (7.17), (7.18) записываются в виде dL =-------—— [а 4- а' — MDS (a 4- а')\ — 6+ b' ps\ । ' -----------—----[(« + a')2 — Mos (a 4- a')2l — 2 b + b' v 's ' — dt J b Г d (д -4 а') _ м д (д + д') 1 I 2 I b + b' [ дх ps dx Р , да' да' 1 । Г b , ab' — Ьа' ,,"1 д , 4----------М„.---------I 4- -----------dy 4-------------dt---------4 ду р ду } [_ b -4 Ь' b -4 b' J дх 4- — bdt (7.25) 2 ‘ дх2 v ’ dL = ь j , --------- dy 4~ Lb + b' ab' — ba' ,, . 'r b In V“ (x, Ri) -------------dt 4- b---------------------- b + b' dx -]-----bdt 1 2 '32 ~d+~ ’ (7.26) В (7.25) Mps ... = J ... Wt (dx) = j ...wt(x) dx,
если апостериорная вероятность Wt(dx) имеет плотность гщ(х). Принимая во внимание (7.25), запишем уравнение (7.19) для апостериорной плотности распределения dwt = — "bdt 1 2 dx2 b , . ь + ь ab' — Ьа' Ь + Ь' dt I wA -j-Wf [dF — Mps dF], dF = dy — -j-(a + a') dtl — 1 Г b d (a + a') 2 [ bb' dx Наконец, приведем уравнения (5.58), (5.64), которому удовлетворяет функция V“ (х, 7?i), входящая в (7.26). Оно имеет вид - dt V“ (х, RJ = bdt------+ i Г b j ab' — ba' , 1 dVtu(x, Ri) u + dy----------------ГТТ7~ dt ------Л------H dF- Vt (x, flj- L b + b b + b J dx При необходимости могут быть выписаны и другие урав- нения, соответствующие данному случаю. 2, В качестве второго примера рассмотрим изотропную диффузию в трехмерном пространстве с координатами Xi, Хг, х3, где имеется центрально симметричное силовое поле, опи- сываемое потенциальной функцией L7(г), r = Yx\ 4- х| + *з- Выражаясь иначе, принимаем следующий вид априорного инфинитезимального оператора: з dL =V[----------+ — -^-Т (7.27) рг dXi dXi 2 дх2 V i~l L J Пусть наблюдаемой функцией является полярный угол ya(t) =arctg-^-. (7.28) хз (О Требуется исследовать апостериорный процесс. Данную задачу удобно рассматривать в координатах (z1( z2> z3) = (г, р, ys), где р = ]/х2 + х| , так что Х1=)/Г2 —р2; x2 = psinz/3; x3 = pcosz/3.
Легко получить в этих переменных параметры сноса (а,,а2,а3) = (-U'+ ~ ,---------P-U',o\ V = - dU(r) , \ г г J dr и матрицу локальных дисперсий 1 p r 0 \\bjk\\=D P r 1 0 (7.29) 0 0 1 P2 Когда наблюдается координата уз(О> условие теоремы 7.1 не выполнено, так как локальная дисперсия ^зз = р'2 зависит от других координат (именно от координаты 2г = р). В соот- ветствии со сказанным в § 7.2 можно расширить наблюдае- мый процесс, добавив к уз функцию &зз или, что эквивалентно» функцию Уг(О =Р- Таким образом, наблюдение одной коор- динаты уз (0 эквивалентно наблюдению двух координат {Уг(О, Уз(0} • Матрица локальных дисперсий D 1 ° , О Р~2 соответствующая этим наблюдаемым процессам, является невырожденной и ее элементы не зависят от прочих (нена- блюдаемых) координат. Поэтому дальнейшего расширения наблюдаемого процесса проводить не следует. Остается лишь одна ненаблюдаемая координата Z\ = r и апостериорные операторы, следовательно, будут соответ- ствовать однокомпонентному процессу. Применение теоремы 7.2 и формулы (7.4) к двухкомпо- нентному наблюдаемому процессу { р, у3 } дает следующее выражение для апостериорного инфинитезимального опе- ратора dL* = — — -P-t/'d*p+ |Y—1/'+ —> dt+-^-d*p]^- + Dr r J r J dr D d2 + — dt — . (7.29> 2 dr2 v ' Далее, в соответствии с (7.16) имеем dL(t) = dF+ U'+ -y)dt + + ±-(dp+ JLU'dt)-^r^dt]-^- + r r 2 r3 J dr 2 r2 dr2 (7.30)
где dF = — -£-U’(dp + —-?-U' dA + Dr V 2 r J 1 p2 17 a dr ’A-U'\^.J_U>dt. . r J 2r Следовательно, уравнение (7.19) для апостериорной плот- ности распределения вероятностей wt(r) принимает вид , , , d а2 г г2 — р2 \ а (г / г „ , d \ ,, , dwt (г) =------ (--— w, ) — •— Л ( — U Н-) dt + z 2 ar2 < г2 dr 'у + JL (dp+ dt) - X-dtl wX + [dF -Mps dF] wt. Любопытно отметить, что, если бы наблюдались оба сфе- рических угла, то статистическая задача была бы вырожден- ной, так как по ним можно было бы безошибочно определить радиус r(t). Допустимое множество свелось бы к единствен- ной точке. В заключение этой главы отметим один частный случай, при котором полученные здесь результаты перекликаются с результатами гл. 6. Предположим, что в формулах § 7.1 обращается в нуль перекрестные дисперсионные коэффи- циенты: Ьа? = 0 и аа, baji не зависят от'у?. Тогда из (7.4) имеем dL* -cdt +а?. b?X d* уа- + -X— X- bafl -dx^jx~- (7-31) Но ( д I 1 А д2 > дха -I 2 дха dx^ J есть не что иное, как априорный инфинитезимальный опера- тор dLpr в пространстве Rm^x. Поэтому формула (7.31) совпадает с (6.47), (6.48), если отождествить между собой « и х (~{Х1,..., xm}^Rm).
Часть III ПРИМЕНЕНИЕ ТЕОРИИ УСЛОВНЫХ МАРКОВСКИХ ПРОЦЕССОВ К ТЕОРИИ ОПТИМАЛЬНОГО УПРАВЛЕНИЯ Глава 8 НЕКОТОРЫЕ ОБЩИЕ РЕЗУЛЬТАТЫ ТЕОРИИ ОПТИМАЛЬНОГО УПРАВЛЕНИЯ Прежде чем рассматривать применение теории условных марковских процессов, изложим ряд положений общей тео- рии оптимального управления. Эта теория не является безусловно необходимой для понимания конкретных резуль- татов по решаемым в дальнейшем частным задачам. Однако она позволяет рассматривать разнообразные задачи, в кото- рых требуется принимать те или иные оптимальные решения с единой точки зрения. Конечно, приводимая здесь общая по- становка задачи на оптимальное управление, несмотря на ее общность, является не самой общей. К ее ограничениям отно- сится бейесовский подход, а также условие, чтобы информа- ция, находящаяся в распоряжении наблюдателя-оператора, принимающего решения, не убывала с течением времени. Все конкретные примеры, рассматриваемые в дальнейшем, явля- ются частными случаями указанной общей задачи, хотя воз- можны и интересны также примеры, выходящие за рамки дан- ной теории. Небейесовские задачи можно решать, как извест- но, путем сведения их к бейесовским. Задачи с убывающей информацией в настоящее время мало изучены, и мы на них не будем останавливаться. Существо теории заключается в том, что рассматривается цепочка чередующихся условных минимизаций и усреднений в едином абстрактном измеримом пространстве, в котором определено семейство монотонных о-алгебр. Чередующиеся минимизации и усреднения использовались автором в рабо- те [13], а монотонные а-алгебры, связанные с теорией опти- мального управления, — в работе [14]. Указанная цепочка минимизаций и усреднений и соответствующие ей рекуррент- ные преобразования воплощают в действительность в самом
абстрактном виде известный «принцип оптимальности» Беллмана [1]. Однако если в работах Беллмана рассматри- вается и подвергается минимизациям функция конечного числа каких-то фазовых переменных, то здесь имеем дело с функцией, определенной в абстрактном, в общем случае функ- циональном пространстве. Переход к конечному числу пере- менных осуществляется в дальнейших параграфах (начиная с § 8.5) в результате введения достаточных координат. При описанном подходе для получения основных резуль- татов не требуется не только метрических понятий, но даже и введения топологии в исходном измеримом пространстве. Кроме Беллмана, рекуррентные соотношения для рисков применительно к статистическим задачам (преимущественно типа последовательного анализа) рассматривали: Вальд и Вольфовиц [1], Блеквелл и Гиршик [1], Михалевич [2]. Послед- ний после перехода к пределу исследовал также случай непрерывного времени, когда рекуррентные соотношения обращаются в дифференциальные уравнения. Большинство работ по динамическому программированию соответствует дискретному времени. В то же время есть ряд работ (Беллман [1], Беллман, Гликсберг, Гросс [1], Стратоно- вич и Шмальгаузен [1], Стратонович [18], [19] и др.), в кото- рых рассматриваются рекуррентные соотношения (диффе- ренциальные уравнения) для непрерывного времени. Соот- ветствующий предельный переход совершается без специаль- ного обоснования. Обоснование перехода к непрерывному времени может быть произведено в рамках общей теории, излагаемой в гл. 8. Исследование этих вопросов оказывается тесно связанным с исследованием инфинитезимальной коммутативности опе- рации условного усреднения и минимизации. Для теории, излагаемой в настоящей главе, характерно то, что явно можно не рассматривать решающие правила (стра- тегии), а концентрировать внимание непосредственно на оп- тимальных стратегиях. Предполагается, что условиями задачи никаких ограничений на выбор стратегий не налагается (не следует путать эти ограничения с ограничениями, наложенны- ми на функции управления, учитываемыми теорией). Другой характерной особенностью теории является отсут- ствие каких-либо требований положительности или выпукло- сти, накладываемых на функции штрафов. Не исключено, что для получения каких-либо других специальных результатов, подобные требования могут понадобиться. Затронем вопрос о рандомизированных решениях. В дан- ной теории рандомизация оказывается не очень существен- ной. Если нижняя грань достигается в одной или нескольких точках, то с одинаковым успехом может быть выбрана любая из этих точек, а также указано любое рандомизированное
правило выбора между "ними. Поэтому среди оптимальных решений существует равноценное нерандомизированное ре- шение. Если нижняя грань не достигается на рассматривае- мом множестве, то может быть выбрано сколь угодно близ- кое к оптимальному нерандомизированное решение, которое не хуже рандомизированного. Это положение типично для теории. Для удобства и общности изложения в тексте этой главы будут, однако, рассматриваться рандомизированные ре- шения, причем будет выбран один специальный согласован- ный способ рандомизации, который порождается некоторой дополнительной мерой — «фундаментом рандомизации» v(-)- Нужно иметь в виду, что качество решения (величина сред- него риска) не зависит от выбора фундамента рандомизации. Оно остается таким же, даже если ограничиться нерандоми- зированными решениями. Рандомизация становится существенной при обобщении теории на игровую ситуацию (§ 8.8). Распространение теории на случай антагонистических игр не связано с принципиаль- ными трудностями и не требует привлечения новых идей. Единственное изменение в том, что одно управление заме- няется на пару, а условная минимизация — на условный ми- нимакс. В итоге получаем далеко идущее развитие одного раз- дела теории игр. Для фактического решения задач оптимального управле- ния важным является понятие достаточных координат, кото- рое позволяет переходить от абстрактного (функциональ- ного) пространства к конечномерному пространству, рассмат- ривая в нем функции и рекуррентные преобразования. Это понятие является видоизменением (применительно к теории оптимального управления) известного в математической ста- тистике понятия достаточных статистик (см., например, Ван-дер-Варден [1]). Важность этого понятия для развития теории динамического программирования была отмечена Беллманом и Калабой [1]. Общее определение достаточных координат дано автором в работах [16, 17, 14]. В случае, когда основным управляемым процессом являет- ся процесс Маркова, среди достаточных координат важней- шими являются апостериорные вероятности или заменяющие их параметры, т. е. «вторичный апостериорный процесс». Поэтому для таких задач большую роль играет теория услов- ных марковских процессов. Она дает аналитическую основу для записи и решения рекуррентных уравнений, т. е. основных уравнений теории оптимального управления. Вид этих урав- нений в основной своей части определяется «вторичным» инфинитезимальным оператором, который рассматривался вы- ше (§ 5.6 и § 6.4). В некоторых частных случаях «вторичный апостериорный процесс» представляет собой диффузионный процесс, причем
его параметры и инфинитезимальный оператор зависят от управления. В этих случаях определение риска (как функ- ции координат указанного диффузионного процесса) произво- дится (при обратном течении времени) совместно с его мини- мизацией, т. е. с выбором оптимального управления. Такие задачи рассматривались как самостоятельные задачи Дынки- ным [4] и Гирсановым [2]. Диффузионный процесс для них яв- лялся исходным, тогда как для нас этот процесс является вторичным, представляя собой достаточные координаты (апо- стериорные вероятности) некоторой более сложной задачи на оптимальное управление с неполным наблюдением. Попутно отметим, что замена функции штрафов, рекомендуемая в указанной работе Дынкина, обычно непригодна в случае необрывающйхся процессов (так как нарушается условие Mx<pg<co). Поэтому результаты этой работы неприменимы непосредственно даже к простейшим задачам последователь- ного анализа Вальда. Ряд результатов по условным марковским процессам в при- менении к нелинейной фильтрации был доложен автором [3J на VI Всесоюзном совещании по теории вероятностей и мате- матической статистике (Вильнюс, 1960 г.) и на I конгрессе Международной федерации по автоматическому управлению (ИФАК) (Москва, 1960 г.). После этого автором велась рабо- та по применению теории к задачам радиотехнического харак- тера [6, 7, 10—12] и по расширению области ее приложений. Именно, был решен ряд задач математической статистики и динамического программирования (Стратонович [15—19]). В процессе работы над этими задачами выкристаллизовыва- лись основные формулировки и результаты излагаемой в гл. 8 общей теории оптимального управления. Эти вопросы нашли отражение в докладе автора на IV Всесоюзном математиче- ском съезде (Ленинград, 1961 г.), а также в статьях [13, 17]. Результаты, полученные автором в 1960 г. и частично проре- ферированные в [15], составили содержание Дополнения. (стр. 290). § 8.1. ОБЩАЯ ПОСТАНОВКА ЗАДАЧИ. ФУНКЦИЯ РИСКОВ В ИЗМЕРИМОМ ПРОСТРАНСТВЕ 1. Излагаемой ниже теории оптимального управления свойствен последовательный во времени характер. Пусть множество значений параметра (времени) t представляет собой интервал Т=[а, й] или его подмножество, для опреде- ленности остановимся на первом случае. Процесс управления. Пусть процесс управления и образует точку в измеримом пространстве (U, W). В нем имеется моно- тонное семейство о-алгебр UH, Т (WsQlW*(ди'ь — W, §</). Для наглядности удобно представлять себе, что и есть функ- ция «(•) = {«(/), t^T}, а о-алгебра ^/."“выделена условиями, 158
наложенными на ее «предыдущие» значения, т. е. на и* *а = = {«(г), [а, /]}. При такой интерпретации, кроме U, можно ввести в рассмотрение пространства Us ^usa, s (Т; а также пространства L^(«®), s<t всевозможных и[ = {и(х), [s, £]}. Последние пространства берутся при фиксированных usa, поэтому в общем случае оказываются зависящими от usa. В указанных пространствах естественным образом можно определить ст-алге- бры: U"s в Us и W* (usa) в Прообразы этих а-алгебр в общем пространстве (U, W) обозначаем Ws,—U^(U'А (последние можно рассматривать как ^-измеримые функ- ции от и). В некоторых частных случаях пространства (^ («*), ^'z(«®)) не зависят от и?а. Тогда, очевидно, W = и* х t/^, U”1 = U"s х W*-, U’t = {IT u Wr = U* X U"} - Wrs x U’t (r<s< t), Эти случаи мы назовем случаем независимого выбора управ- ления или случаем несвязанного управления. В общем случае, когда £/(.(«*), существенно за- висят от usa , дело обстоит сложнее. Тем не менее и в этом: случае мы будем полагать Ul = Us х (цр; Ur,t = U"s X %’* (U"s), а также (8.1) В общем случае эти соотношения можно понимать как опре- деление операции декартового произведения «X» и определе- ние условной о-алгебры * ?/?(?/'8). Вместо (8.1), будем пользоваться также более короткой формой записи: Urt = (tn, s < t. * Немного поясним понятие условной с-алгебры. Пусть имеется измери- мое пространство (£2, и <FCZt®. Условной а-алгеброй мы называем зависящее от <o€Q семейство а-алгебр (cF) = (w) (CZe^s), которое как функция от является ^-измеримым (если фиксирована а-алгебра §о, то {со:§.(ю) =§.о} € ^)- Выберем множество А £ & t точку соо€А, и множество Г€§(соо) и возь- мем пересечение ГА. Минимальную а-алгебру, содержащую любые подобные множества ГА при всевозможных А, ш0, Г, обозначаем Если (е® ZD ) 3^ ZDeF, то существует такая условная а-алгебра (tF)> что ^(^)=3£. Условную меру Р(Л|^"), заданную на с одинаковым успехом можно считать определенной на условной а-алгебре §• (&), и наоборот.
Более общим, чем случай несвязанного управления, яв- ляется случай марковски связанного управления. Определение 8.1. Управление называем марковски связанным, если существуют такие функции us = us(ua), зЕТ, что U‘s (Usa) = U\ (Us), Us («1) - iLs СЩ). При этом us будем называть марковской координатой про- цесса. Если Us (C1U'S) — о-алгебра, определенная условиями, наложенными на us(ua), то очевидно Us(U's)=Us(.Us). Хотя это не очень существенно, о-алгебру Ua будем пред- полагать тривиальной, т. е. состоящей из пустого множества и всего пространства. 2. Основной процесс. Выбор управления указывает ве- роятностное поведение некоторого основного процесса. Точ- нее, фиксация управления иа, предшествующего моменту t, задает вероятностную меру Р(>[иа) на некоторой о-алгебре <ХХ(иа) некоторого пространства Йг(«а)9£ (в общем случае это пространство и a-алгебра зависят от Ua). Пара (и«, £) об- разует точку пространства (иа), в котором определена «-алгебра Будем предполагать, что Й? (н^) = й' (щ) X й$ при s < t, где й5 — некоторое дополнительное пространство. Удобно ввести единое измеримое пространство элементар- ных событий (£3, = (Ub х Й» (u*), U"b х <A"b (U"b)) (т. e. Sd — a/g>"b) и, вместо о-алгебр (например, U'(, -A"t (ufa), в различных пространствах, рассматривать соответствующие о-ал- гебры в (й, <Уз). Так, накладывая условие u( W* на первую точку пары (н, £), и £ U, £ ( й* (и), мы определяем о-алгебру иеС.<%>, являющуюся прообразом о-алгебры Uft (о-алгебру в (й, <^) мы обозначаем той же самой буквой, но без штриха). Подобно тому, как в обозначениях предыдущего пункта U"b совпадает с U'b, обозначим jVb — AL"b. В пространстве й* (и) о-алгебрам (и?а) соответствуют о-алгебры Л'* (uta)C.Al'b (и). Это семейство является монотонным: Л'*(«*) С Л" («‘). (8.2)
В комбинированном пространстве Q = U х Q6 (и) можно рас- сматривать семейство о-алгебр ~ W* X <Л'‘ (Н'б- При по- мощи последние можно записать: &Z = Uf<A( (%'). Вследствие (8.2) входящие сюда условные о-алгебры являются монотонными: Jn (iZa)CZ'^ (и*а), s<t Итак, в пространстве элементарных событий кроме моно- тонного семейства о-алгебр управления Ц* имеется монотон- ное семейство (<&SO^, $</), причем t^T. При каждом t^T задана вероятностная мера P(A|^Z)> € (U1). Она является (при фиксированном Л) ^-измеримой функцией точки <а( Q. Можно считать также, что мера Р(- \Ц*) задана на о-алгебра имеет смысл совокупности событий, вероятности которых уже определены управлением и*а. Иногда по условиям задачи имеется последовательно протекающий случайный процесс z={ zt, tET}. По аналогии с и для такого процесса можно ввести пространства и о-ал- гебры Zf, Zs(Za), ZH, Z'*, Zs (zsa) и т. д. (разница в обозначениях по сравнению с п. 1 здесь лишь в том, что бук- ва и заменена на г). Обычно процесс {zt} таков, что его прошлое и настоящее является определенным в вероятност- ном смысле, если фиксировано прошлое и настоящее управ- ление. В соответствии с введенными выше понятиями это коротко можно записать & (и[) (ZJU VJ & (W) С Мы не исключаем, следовательно, те случаи, когда фазо- вое пространство процесса z определяется управлением. При фиксированном управлении иа , естественно, опреде- лена мера на Z* , коль скоро задана мера P(-|?/z) на & • 3. Наблюдаемый процесс. В каждый момент времени t наблюдатель-оператор имеет в своем распоряжении некото- рые наблюденные данные /*, не убывающие с течением вре- мени. Условия, наложенные на эти данные (для фиксирован- ного момента t), определяют о-алгебру в пространстве эле- ментарных событий, которую мы обозначим ££*. Наблюденные данные в момент t должны быть определены в вероятност- ном смысле управлением иа , т. е. (8.3) Будем предполагать, что наблюдатель-оператор помнит выбранное им предыдущее управление:
Обозначим через уч® те данные, которые и входят в Р, но не содержатся в и*. Соответствующую условную ст-алгебру обоз- начим ‘yw Иначе говоря, (^) есть ст-алгебра, опре- деленная соотношением & = W'> (W)- Очевидно, из (8.3) имеем (8.4) Введенные выше «информационные» о-алгебры обладают свойствами монотонности ey^s}(u)(Z.y^t}(i^ ПРИ s<* (8.5) в соответствии с отмеченным ранее условием неубывания информации. Удобно представлять себе, что наблюденные данные /г складываются из последовательно выбираемого управления и некоторого последовательно наблюдаемого процесса { У/(м) }> При этом пусть в момент t известны значе- ния этого процесса на интервале [а, <р(/)], так что *' = («'. е°). Будем предполагать, что ‘У1 (U1), У(рЦ,1) есть о-алгебра, выделенная условиями, наложейными на у а Тогда условие (8.4) будет выполнено, если <р(/)<Л Чтобы выпол- нялось соотношение монотонности (8.5), функция <р(/) должна быть неубывающей. Для удобства дальнейшего изложения будем предполагать ее непрерывной справа. Функцию <р(^) с описанными свойствами, определенную на Т и принимаю- щую значения из Т, мы будем называть индексом решения. В большинстве задач с непрерывным временем можно по- лагать <р(^) = t. Задача о выборе оптимального управления будет решать- ся методами обратной вероятности (формула Бейеса). При этом основную роль будет играть апостериорная вероятность Р(Ж соответствующая данным Р в момент Т. Эту вероятность получаем из введенной ранее вероятности Р( • I?/*), поскольку 4. Решающие меры. Основываясь на имеющихся у него данных, наблюдатель-оператор последовательно выбирает управление. Задача теории — указать оптимальный рецепт выбора этого управления. В общем случае этот рецепт носит вероятностный характер (рандомизированное решение), т. е. указываются лишь вероятности множеств процессов управ- ления.
Назовем решением. 6 двухпараметрическое семейство ус- ловных вероятностных мер р*(Л|^), s<t-, s, Т, т. е. мер = |*ИЛ на о-алгебре W* (Us) или (что эквивалентно) на о-алгебре %* (Us) или %f. Каждую меру семейства 6 назовем решающей мерой. Решающая мера р( (Л( U*s | ?Zi‘2/4’(s)) в комбинации с мерой Р (Г £ S& |^) определяет условную меру Q(F на о-алгебре Sa1 } Г согласно формуле Q (Г I= f Р (Г Im fp (Ло ( и\ № |Ж S < t, или при другом способе записи q (г । = j р (г । u^s) <ло е U\ | &). Решающие меры должны удовлетворять соотношениям согласованности (Г1Г21 игУ^) = f (Гг I Usy^) Q (<4S dtff^ I игУ^), dusrCTi (Г, ( Usr, г2( Н[, г <s<t), или, короче, и' (г С WI ^0 = f (Г | Q (Ло с I&). Решающие меры можно рассматривать как условные вероят- ности: р( (Г | Jaf5) = р (Г | ^), Г £ U1, образованные обычным спо- собом из единой решающей меры р (А) = р* (Д | Ua), Д С Ub- Более того, все меры р( (Г ( U11 Jzf5), Р (А £ S&* | U*), Q (А ( S6* \&s) можно рассматривать как условные вероятности, образованные из единой комбинированной вероятностной меры Q (Л | ^а) = Q(A), == в соответствии с формулами Pf (Г ( W | = Q (Г | J£sy, р (А С W) = Q (А 1^); Q(A( =Q(A|^), s<t (п. н. Q). Решение 6 определяет, следовательно, единую меру Q в про- странстве (Й,с®), и наоборот. 5. Функция штрафа и условные риски. Качество решения определяется величиной риска. Под последним мы понимаем математическое ожидание функции штрафа с(со), ы€й. Эта функция, которую мы предполагаем -измеримой и Q-сум-
мируемой, задается в условии задачи. Поскольку мера Q оп- ределяется решением 6, то риск Я6 = Jc((o)Q(dfi>) (8.6) является характеристикой решения 6. Наряду с указанным риском можно рассматривать условные риски = Jc(®)Q(d®lJ^9. (8.7) Эти риски образуют однопараметрическое семейство с усло- вием согласования R6 (&) = (<£t) q (dfi) । s<t. Последний элемент семейства совпадает с (8.6): R6(J£a ) =/?в, поскольку сг-алгебра предполагается тривиальной. § 8.2. СЛУЧАЙ СТУПЕНЧАТОГО ИНДЕКСА. ОПТИМАЛЬНЫЕ УСЛОВНЫЕ РИСКИ 1. Предположим, что индекс <p(f) является ступенчатой функцией с конечным числом скачков в точках а = г‘о<Л< < ... <tN<b. Следовательно, <р (0 = Фь ПРИ t О, Ь- • • , N — 1, (<Р* < h’ *i < tk ПРИ i < k> если обозначить <p (ZA) = tpA. В данном случае семейство б решающих мер, а следова- тельно и мера Q, полностью определяется конечной системой мер: (А ( Utk+i | k = 0, 1, . .. , N. Покажем это. Используя Р(А( <^b\Ub), можно найти Р(А \иьУ41^)- Принимая во внимание, кроме того, меру (Г | UtN‘y(('N), можно вычислить меру Q (А | UtN^N) = J Р (А | иьсУ^ (d® € Ub | UtN^N), A£ Далее, поскольку можно определить Q (A | ?/.ZjV^/4’JV~I) при помощи интеграла
Q (A I = J Q (A I UtNiyVN) P (d® € UtN yVN | (8.8) В самом деле, мера Q(A \Ц, N‘y<fN) уже определена, a P(d<aCZc® <U^NytfN-1) задана в условии (п. 2, § 8.1). Аналогично, используя решающую меру р.^ 1 (Г | (tfu-vy^N— i) , вычисляем Q (А | = f Q (Л | Uh;T(N~'') P^_! (dco \UtN~xy'tN~x}- (8.9) Продолжая описанный процесс интегрирования попеременно с весом Р( - |^A+1?/4’fe) и с весом р;*+’(. определяем различные меры Q(A|?/^‘?/<p*), Л£ с®. Последней будет вычис- лена единая комбинированная мера Q(A|J£“) = Q(A). Непосредственной проверкой можно убедиться, что для нее справедливы все утверждения п. 4 § 8.1. Принимая во внимание формулы типа (8.8), (8.9), полу- чаем, что условные риски (8.7) удовлетворяют в данном случае рекуррентным соотношениям (З^1^) = J R6 (^W^1) Р (dco | (8. Ю) Яв (П^к) = J R6 (Utk+in !^+1 (d® | Utk^k). (8.H) В этих соотношениях роль «начального» условия играет функция /?6('ZZfr?C<p<*)) > а заключительная функция Я6 (^/а‘2/<р<а)) совпадает с риском (8.6). 2. Введем в рассмотрение оптимальные условные риски R(UkyVk~)- Пусть они определяются аналогичными рекур- рентными соотношениями (8.10), (8.11) с тем же самым «начальным» условием, но в отличие от предыдущих рекуррентных соотношений усреднение (8.11) с весом (• Iзаменяется на условную минимизацию: 2?(^^)= inf (8.12) a\Utk‘y<fk Условный минимум inf / (®) ® |<^1 ^г-измеримой функции f(w) относительно о-алгебры как определено в Приложении 2, есть fFi-измеримая функция, удовлетворяющая условиям П. 2. 1. А—Б. В Приложении 2 доказано, что условный минимум обладает следующим свой-
ством (теорема П. 2. 3); при Любой вероятностной мере |х(Л€ |(Fi) (определенной на^У.Й и ^-измеримой по второму аргументу) выполняется неравенство inf / (со) < f / (со) р (dio | &\). СО | Сравнение преобразований (8.11) и (8.12) на каждом этапе рекуррентных преобразований в силу этого показы- вает, что преобразованию (8.12) соответствует меньшая (точнее, не большая) результирующая функция. При сравне- нии функций на заключительном этапе преобразований имеем Rb> R. Таким образом, мы получили следующий результат: Теорема 8.1. Оптимальные риски не превосходят рисков любого решения б, имеющего тот же ступенчатый индекс ф(/): R < Я6 , k = 0, 1...................N. В следующей теореме сравниваются оптимальные риски, соответствующие различным ступенчатым индексам. Теорема 8.2. Оптимальный риск Rv для ступенчатого индекса ср (0 не превосходит оптимального риска, соответ- ствующего не большему ступенчатому индексу ср' (t) -Сф(^). Доказательство. От любой ступенчатой функции с конечным числом ступенек можно перейти к другой ступен- чатой функции через конечную последовательность ступенча- тых функций, в которой соседние функции различаются лишь одной ступенькой. Поэтому достаточно доказать теорему 8.2 для функции ф(-), имеющей по сравнению с ф'(-) одну лиш- нюю ступеньку, причем остальные ступеньки совпадают. Положим, например, ф'(0=ф(0 при t<tk и t>tk+1, а также ф(0=фй, ф'(0 =<Pft<cpfe При Согласно (8.10), (8.12) для ф(0 имеем /?<₽(W₽'ft) = f [inf £(®)]Р(<йо|^<ф'*). Для ф' (/) в то же время /?<₽' = inf [ g (<о) Р (da | Utk+i^’ где g («) (Utk^Vk) = (Utk+l^k). Поскольку inf g(a)<g(a) (см. теорему П.2.2), то, очевидно,
M[ inf g(to)|?Z4+I^4’'A] <М[я(а)[^+'^П]. (8.13) ш|^И/фА Выражение в левой части совпадает с М[ inf g(со)|U^^'k] вследствие ^^^-измеримости функции inf g’(co). со^ЧЛ* Взяв условную нижнюю грань по со |от (8.13), по- лучаем inf М[ inf g (со) | (U№v'k\ < inf М [g (а) C0|^^4>'fe со|иЧЛ* Повторная минимизация в левой части излишня, поскольку под- лежащая минимизации функция уже ^-измерима. Итак, М[ inf £(со)|%ЧЛ*1< inf M[g(co)|^+’3Xj, т. e. ^(W’'*) </?<₽' Дальнейшие рекуррентные преобразования для обоих индек- сов совпадают вследствие совпадения ф(() и ф'(0 при (<(&. Поэтому выведенное неравенство сохраняется при всех ti<tk, включая t0 = a. Доказательство закончено. Комбинируя теоремы 8.1 и 8.2, легко получить, что опти- мальный риск для ступенчатого индекса cp(t) не превосходит риска любого решения, соответствующего непревосходящему ступенчатому индексу ф'(() <ср((). 3. Перейдем к рассмотрению рисков для непрерывного индекса. Чтобы определить их, будем рассматривать после- довательность ступенчатых индексов { <pN(t) }, всюду сходя- щихся к $(/) при .V->cc, Для ступенчатого индекса можно использовать данные выше определения. Если существует предел соответствующих рисков при ЛД*со, то его примем за определение риска в случае непрерывного индекса. Определение 8.2. Пусть некоторая последователь- ность ступенчатых индексов {фЛ’(0} сходится к ф(() снизу и пусть каждому N соответствует решение 6-v, причем 6JV->6 при т. е. р(( • Xs) при N^-oo, Д-^-s, tr-^t. Тогда, если lim X yvN <fP) = £«(%' <?/<₽ (0), то ре- шение 6 называется регулярным. В этом определении подразумевается существование хотя бы одной специальной последовательности допредельных ин- дексов <f/v и решений 6N.
Определим также оптимальные риски для непрерывного индекса. Пусть S_v= {ть..., т.Д множество точек из Т. Рас- полагая эти точки в порядке неубывания , ti<Jj при i</), получаем некоторое разбиение интервала Т. Для этого разбиения образуем аппроксимацию <p(Siv) индекса ф. Имен- но, положим ф (/, 5Л-) = ф (/,.) при tt < t < ti+i. Очевидно, что при таком определении ф(С$дО<ф(0> а также Ф (/, S') < ф (t, S"), если S' С S". Определение 8.3. Пусть R^(sKy — оптимальный риск аппроксимации ф (S;V). Оптимальный риск непрерывного индекса Ф (/) определяем как нижнюю грань R<v = inf R4{S ) (8-14) Л’.Зд/ no всевозможным конечным разбиениям интервала Т. Теорема 8.3. Существует такая последовательность S (назовем ее последовательностью определения риска), что R,f = ПтЯф^), (8.15) Лг— где — множество из N первых элементов последователь- ности S. Докажем теорему в том наиболее интересном случае, когда нижняя грань (8.14) конечна. Согласно (8.14) при лю- бом 61 > 0 существует множество S1, такое)" что R<e(so — Rtf<e1. Взяв далее е2 = е1/2, аналогично аргументируем существование такого множества S2, что R^y — R<e<e2. Подобные множе- ства можно указать и для ез = Е1/4 и т. д. Если образовать последовательность S=(S!, S2,...), то в соответствии с теоре- мой 8.2 будем иметь ^<p(Sfe) ^<( (3',...,3*> Ъ)- Следовательно, из сходимости R^ky Rrf вытекает сходимость R (S,sfe) ПРИ *оо. Доказательство закончено. В соответствии с теоремой 8.2 последовательность опреде- ления риска 5 останется такой же, если в любом месте к ней присоединить любые точки из Т. Наряду с риском (8.15) можно определить условные опти- мальные риски R* = lim (HV(S , (U“y^’SN)), где аппроксимация ф(£, 5дг) та же, что и в теореме 8.3.
Предел всегда существует вследствие монотонной зависи- мости риска в правой части от N (теорема 8.2). Обычно последовательностью определения риска является всякое множество, включающее точки скачков индекса и всю- ду плотное на участках непрерывного возрастания (см. §8.4). 4. Продолжим сравнение рисков для различных индексов, начатое в п. 2. Теорема 8.4. Оптимальный риск Rv для любого индек- са q(t) не больше риска любого решения (оптимального или неоптимального), соответствующего непревосходящему ступенчатому индексу <р'(0^ф(0 • Эта теорема является следствием теорем 8.1 и 8.2, а так- же определения 8.3 (если индекс <р(/) не ступенчатый). В следующей теореме в число сравниваемых индексов включаются также неступенчатые индексы <р'(0 (•Сф(/)). Теорема 8.5. Оптимальный риск Rrf для индекса q(t) не превосходит любого другого риска регулярного решения, соответствующего любому не большему индексу ф'(/) =<:$(£). Эта теорема включает в себя как частные случаи тео- ремы 8.1, 8.2, 8.4. Новое утверждение относится к тому слу- чаю, когда индекс ф'(/) не является ступенчатым. Пусть R<f —оптимальный риск для индекса ф'(/). Исполь- зуя определение 8.3 и теорему 8.3, возьмем множество S' определения риска Ry. Очевидно, что для каждого SxCZ вследствие условия ф'(/)<ф(/) будем иметь ф' (t, SN) < ф (t, SN). Применяя теорему 8.2, получаем Ry'(s'N) Но левая часть не превосходит inf Rq(sN) = Rv, следовательно, SA’ Rv -С . • v <P (Sy) Переходя к пределу JV->oo, получаем Рассмотрим теперь неоптимальный риск R^ для индекса ф'. Примем во внимание определение 8.2. В соответствии с теоремой 8.1 и 8.2 имеем /?<р'(5л,) < R<p'H < R^’nt, где 5Л-—точки скачков допредельного индекса ф>л? (t) (<ф' (/)), фи- гурирующего в определении 8.2 (следовательно, ф'^Хф' (/, SN)). Переходя к пределу N->оа и учитывая также определение 8.3, получаем Rv Но, как уже доказано, R(l> </?<₽-. Следова- тельно, что завершает доказательство теоремы 8.5. Согласно вышеизложенному, оптимальное решение являет- ся наилучшим среди всех регулярных решений не большего индекса.
§ 8.3. ОПТИМАЛЬНЫЕ РЕШЕНИЯ 1. В предыдущем параграфе при рассмотрении оптималь- ных рисков ничего не говорилось о решениях, которым эти риски соответствуют. Если существует решение, риск которого совпадает с оптимальным риском, то такое решение естественно назвать оптимальным. Проведенное ранее рассмотрение показывает, что всегда существуют оптимальные риски. Возникает вопрос, всегда ли существует оптимальное решение. Утвердительного ответа на этот вопрос в общем случае, по-видимому, дать нельзя. Для доказательства существования в точности оптимального ре- шения требуются некоторые ограничения, например, предпо- ложения топологического характера. Проще (не требует дополнительных предположений) до- казательство существования решений, сколь угодно близких к оптимальности, риски которых сколь угодно близки к R<f. Рассмотрим сначала случай скачкообразного индекса <pN(0, имеющего У скачков, и сконструируем для него реше- ние бЕ, риск которого отличается от оптимального RVN меньше чем на е (е>0 произвольно)- Вычисление оптималь- ного риска Рф^производится при помощи рекуррентных соот- ношений (8.10), (8.12), причем У+1 раз приходится произво- дить условную минимизацию (8.12). Первый раз вычисляется условный минимум R^(iltN^N) = inf ЯфЛг(ОТФлг). Как показано в приложении (теорема П.2.4), при произвольном е0 — — для каждой точки и можно указать такую точку <0* (й), что Я^ (й* (й) I иьУ^') - V' (со | UtN(y4N) < е0. Пусть Гш есть множество Гш = {й': ubtN («>') = 4 (й* (й))} £ (U'^), a p£v (Г ( Utx I — мера, сосредоточенная на этом мно- жестве. Тогда, очевидно, R^n (со* (й) | Ub6y4N) = J R^n (со' | Ub^N) (da’ | UtN^N), t. e. R^n (®* | Uby'fN) есть условный риск R^(<t^N‘ilftN}, соот- ветствующий решающей мере Итак, сконструирована решаю-
щая мера р^. (Г | ^<л,‘2/<₽лг), которая дает условный риск, отли- = е чающийся от оптимального меньше чем на---------. N+ 1 В соответствии с (8.10) произведем условное усреднение М[- этих рисков ина следующем этапе будем искать условный минимум inf R^N^\UtNyVN~}) = inf + (8.16) Теорема П.2.4 гарантирует существование такой точки <в*(со), что R^ (®* (®) | - V (® \UtN-'VVN-1) < Г • (8.17) В качестве решающей меры (Г £ 12/л,-1‘?/<Рл'-1) возь- мем меру, сосредоточенную на множестве Гш = {И' : u^_t (со') = (со* (со))} £ Тогда в соответствии с (8.16), (8.17) решающим мерам Htv—1» р^ будет соответствовать условный риск, отличающийся от оптимального меньше, чем на 2е/(ЛГ + 1/. Продолжая описанный процесс, используя теорему П.2.5, сконструируем решающие меры р^, р/,, . . . р^ . Каждая из них соответствует приблизительной (с точностью до в/ (N+1)) минимизации оптимального условного риска. Риск этого ре- шения в итоге будет отличаться от оптимального риска не больше, чем на е. Это доказывает существование решения, сколь угодно близкого к оптимальности в случае скачко- образного индекса. При произвольном индексе ф(/) можно рассмотреть его скачкообразную аппроксимацию фЛ’ (t) < $ (t), такую, что RcpN—R<p^>-^-. Затем, используя предыдущее рассуждение, следует подобрать решение 6, для которого R^—R<fN<^~e- В итоге R$N будет отличаться от не больше, чем на еь Это доказывает утверждение в случае произвольного ин- декса. Итак, доказательство существования решения, сколь
угодно близкого к оптимальности, сводится к использованию теоремы П.2,5 (Приложение 2) на каждом этапе. 2. Построенные в предыдущем пункте решения, близкие к оптимальному, имеют не обязательно рандомизированный характер. Рассмотрим теперь рандомизированные решения. Для этого удобно ввести новое понятие — меру v в простран- стве (Й, Ub), помогающую производить рандомизацию. По- этому будем называть ее фундаментом рандомизации. В от- личие от теории, изложенной в предыдущем пункте, данное рассмотрение будем называть вариантом II. Комбинируя меру v(Л), заданную на Ub Л, с мерой Р (Г € ^\Ub) , можно получить меру (обозначим ее также v) в измеримом пространстве (Й, с® ) согласно формуле ч(Г) = §Р(Г\иь)у(д(^иь), Г£<®. Теория выигрывает в некоторых отношениях, если при ее изложении систематически использовать существование ме- ры v в пространстве (й, с®), заданной условиями задачи. Ряд понятий, определенных выше, при этом следует подверг- нуть естественной модификации. Так, можно считать, что ве- роятностные меры Р( • | являются определенными и U*-из- меримыми почти всюду (с точностью до v-нулевых множеств). Также и решающие меры щ (• | можно считать определен- ными с точностью до v-эквивалентности. Далее, условный минимум в формулах (8.12), (8.13) и др. естественно заме- нить на существенный минимум (относительно v) (см. Прило- жение 2, вариант II). Так, (8.12) примет вид R (СО | = vrai inf R (a | ). Важно, что в варианте II при соответствующей модифи- кации (при замене равенств «всюду» на равенства «почти всюду» относительно v) сохраняют свою справедливость все результаты, изложенные выше (§ 8.2). В новом варианте теории также можно провести рассуж- дения, аналогичные рассуждениям предыдущего пункта, и доказать существование е-оптимального решения. В дополне- ние к этому теперь удобно рассматривать одно конкретное специальное рандомизированное е-оптимальное решение, кото- рое будет указано ниже. При доказательстве теоремы П.2.5 указывалось, что су- ществует непустое множество 4 = : inf f (“) £ [ck> cft+i)} A {a: / (a) £ [%, c6+I)}
если Tfe= { to : inf f(a) ( [ ck, ck+1)} непусто (cft+i—cfe<e). Фик- сация любой вероятностной меры, сосредоточенной на А*, дает е-оптимальную решающую меру. Конкретный выбор этой меры, однако, не указывается. В новом варианте гаранти- руется, что аналогичное множество имеет ненулевую меру: v (Ak) > 0, если v (Г\) > О (Ak = {со:/(со)( [ck, q+1), vrai inf /(co) £ [ck, q+1)}). Поэтому в качестве решающей меры р (А ( 1 SFJ теперь можно выбрать меру: И(Л|^1)=р(Л|о(...,Г1,Г2, ...))= l<^^=v(A|4) '’(4) при со( ГА. Очевидно, что данная специальная мера относится к числу подходящих мер, так как О < i / (со' > р (dco' | (7ц) — vrai inf / (ш') < е в соответствии с теоремами П.2.8 и П.2.9. Подобный специальный выбор следует произвести на каждом этапе рекуррентных преобразований. Пусть индекс cp(() ступенчатый со скачками в точках a=t0<t].< ..., <tN и пусть точки <ц, /=..., 1, 2, ... (q+i>Cj) осуществляют ео-разбиение действительной оси (ео= ) Согласно сказанному выше выбираем следующую решаю- щую меру: Здесь = {®; R (U^) t [ck, chi)} П R(UtNV9N) € l6k, Q+1)}. Далее, k (to) = kN (co) = {k : R (to | [ck, ck+l)}.
Легко видеть, что в силу теорем П.2.8, П.2.9 для указанной решающей меры О < Яв < е0 и, следовательно, OCT?6 - R < е0. (8.18) Перейдем к следующему этапу рекуррентных преобразова- ний. Положим Н&-Ж = А^), где, как и раньше, Л(М) =frV-l (и) = £ [Ckt Ck+l)i; АГ1 = {®: R(UtN^N~^) (; lck, cfe+i)} П (\^-R{UtN-l^N-x)^[ckck+,)]. Поскольку 0 < f R {UtNy'tN-'1) (d® I то в силу (8.18) 0 C J Яв {UtN У™~1) PtN-i (d^\UtN~l у™-1) - ~я(и^-хУ^ы-х)<^0. Продолжая описанный процесс, получим решение 6, обра- зованное решающими мерами !^+’ <л | W*) = V (Л Iи*'У\ 4 (со)), 4 = {® •. R^+'y*)€ [ck, ck+i)\ n {® •• R (и^У^) € kftcfe+1)}, i =0, 1, ...,N. Легко понять, что для этого решения 0<7?e — R<(N+ 1)е0 = е, т. е. оно является е-оптимальным.
Нетрудно построить также е-оптимальное решение для неступенчатого индекса, рассматривая его ступенчатую ап- проксимацию <p-v. При этом, чтобы получить в точности опти- мальное решение, следует совершить двойной предельный переход N^-oo, е—-0. § 8.4. ПОЛУГРУППА ПРЕОБРАЗОВАНИЙ, СООТВЕТСТВУЮЩАЯ РЕШЕНИЮ. РЕГУЛЯРНОСТЬ 1. Решающие меры ps(A | Us<y^) определяют полугруппу преобразований Tst в подпространствах Gt банахового прост- ранства «^-измеримых «-функций. Банахово пространство’ Gb определено при помощи естественных линейных операций и нормы = inf/(«), /(G, (8.19) 6) в варианте I и Ц/U = vrai inf/ (и) (относительно v) (8.20) (О в варианте II. Подпространства G((CG&), определенные как множества -измеримых функций, сами образуют банаховы пространства. Для фиксированного индекса <р и решения 6 преобразова- ние Tst определяется формулой Л/ = J7(«)Q(d« С ^^W|^S^(S))€GS, /(Gf. (8.21) Это преобразование можно рассматривать как условное математическое ожидание TS/(®)=MQ[/(®W^<S>], (8.22) соответствующее единой мере Q(A), Лбе® (см. пункт 4 § 8.1). Взяв известную формулу П.1.А (Приложение 1) для повторного математического ожидания MQ [/1 игУ^] = MQ {MQ [/ | USV^] | где г < S < t, f ( Gt, MQ [/1 ( Gs, согласно (8.22) получаем Trtf— TrsTstf£Gr (8.23) <KGt, Tstf^Gs). При помощи преобразования (8.21) легко записать рекур- рентные формулы для условных рисков:
R6 (Usy^(s)) = Tst^ R6 = TatRb = TabR* (Ubey^). 2. Ограничимся теперь рассмотрением оптимальных и близких к'ним решений. Будем предполагать, что индекс $(/) имеет ограниченную производную по t во всех точках интер- вала Т, кроме (самое большее) конечного числа точек («то- чек недифференцируемости»). Определение 8.4. Назовем управляемый процесс ре- гулярным, если любое всюду плотное в Т счетное множест- во 2, содержащее точки недифференцируемости индекса, является множеством определения оптимального риска, т. е., если lim R^n) = Rv. (8.24) jV—>Q© Процесс называется регулярным на интервале [з, 6], если lim R^n) (USV^N}) = R<f (Us%^). Рассмотрим признаки регулярности, которые удобно про- верять при исследовании конкретных задач. Пусть 8. 4.А. для любого интервала [з, /], не содержащего точек недифференцируемости индекса и для любого тС (з, t) спра- ведливо соотношение min Мр[Я(^<р(6)|^ф(*>] — — min МР{ min МР [R (и“Уv(t})\НФУ'^}]\ихУч‘{-3'>} = = (/ — з)о(1). (8.25) Вместо этого условия, удобно проверять несколько более сильное условие инфинитезимальной коммутативности двух •операций: минимизации и усреднения — 8. 4.Б. для любого интервала [/—A, I] указанного типа и всякого <р'=<р(/—Д)—сД (0<с<оо) справедливо равенство min М [/? IW9'] — — М[ min Я(^<Р«-А))|^-Д4/<Р'] =о(1)Д, (8.26) Л) где R = М [RiU^^) | Wf₽(/~A>], есть -измеримая функция. Оценка о( 1) (->0 при t—з->0, Д->0) в приведенных ра- венствах предполагается равномерной по всем (ни. Под min 176
в них (а также в дальнейших формулах) следует понимать inf в случае варианта I и vrai inf в случае варианта II. Нетрудно проверить, что 8.4.А вытекает из 8.4.Б. Для этого нужно положить т = t — А; </ = <р (з). Чтобы получить (8.25), остается произвести условную мини- мизацию по и] | <Ц? У^ выражений, входящих в (8.26). По- скольку эта минимизация является непрерывной операцией относительно метрики (8.19) (или соответственно (8.20)), то оценка o(l)A = o(l)(f—з) не изменяется, и (8.25) оказывает- ся выполненным. Указанные условия удобны в том отношении, что в них не используются понятия оптимального решения, и, следова- тельно, их можно проверять до того, как найдены решения. Следующая теорема утверждает, что они действительно яв- ляются признаками регулярности. Теорема 8.6. Из 8.4.А вытекает регулярность процесса. Доказательство достаточно провести в предполо- жении, что индекс имеет конечную производную на всем ин- тервале Т (в противном случае аналогичное рассмотрение проводится- для каждого интервала дифференцируемости индекса последовательно, начиная с самого правого интер- вала) . Пусть S — произвольная всюду плотная в Т последова- тельность точек, aS — последовательность определения опти- мального риска (теорема 8.3); SjV, — множества их N первых элементов. Оптимальный риск ступенчатого индекса вследствие монотонности (невозрастания) при N^co имеет предел, ко- торый мы обозначим R <f. Из определения 8.3 оптимального риска Яф имеем (8.27) Требуется доказать, что ЯФ = ЯФ. (8.28) Без ограничения общности можно считать, что в последо- вательности S каждая точка встречается только один раз. Обозначим через A1V (>0) длину минимального элементарно- го интервала разбиения, производимого множеством и возьмем Л<А.у. Выберем теперь конечную совокупность 2д точек из S, дающих А-разбиение интервала Т (это можно сделать, поскольку 2 всюду плотно). Разбиение 2д USjy оче- видно, будет отличаться от 2д тем, что некоторые элементар- ные интервалы разбиения 2д будут разделены на две части
точкой (т) из S.v. По теореме 8.2 имеем ^<p(sw) А^д.здо (> •£<₽). (8.29) В го же время из (8.25) можно вывести, что О < Rtp(sд> — < (Ь — а) о (1). (8.30) В самом деле, для каждого элементарного интервала [th, tk+i) Эт разбиения Ед, который разделен точкой т€5Л-, согласно (8.25) имеем Яф(Вд) (U^) - Я^диг) (ШУЩ) = (4+1 - 4) о (1). Эта оценка разности не меняется при последующих усредне- ниях и минимизациях. Суммируя подобные разности, обу- словленные различными точками из S.v={ Ть ..., tn ), полу- чаем N ^ф(2д) ^ф(2д,5д.) = [Яф^дТ,.....+ _!) ^?ф(2д,т,.т.)1 •С г=1 < (Ь — а)о(1). Сопоставляя (8.29) и (8.30), находим I ^t(Sa-) — -$ф(2д) I < ^ф(%) — -^ф + (^ — «) о (1). Уменьшением А и увеличением N разность | ^(Хд,) — 2?Ф(2Д) I согласно полученной формуле может быть сделана сколь угодно малой. Следовательно, НтЯчхгд) = lim j = Яф. (8.31) А—>0 Д’ -> эо Но Ит/?ф(2д) > Ит/?ф(2л() ( = Яф), Д-*0 Л£-»оо (8.32) так как при каждом А можно выбрать такое М, что 2мЮ2д и значит ^?ф(2д) > 7?ф(2д.) (теорема 8.2). Сопоставление соотноше- ний (8.27), (8.31), (8.32) доказывает равенство (8.28). Доказа- тельство закончено. В случае регулярного управляемого процесса риск Л?ф есть равномерно непрерывный функционал от <р на множестве ступенчатых индексов при подходящем выборе метри- ки в Н. Это свойство можно принять за первоначальное определение регулярности. Однако данное выше определение 8.4 регулярного процесса удобнее в том отношении, что его легче проверять в конкретных примерах.
После введения метрики в Н рассмотрение непрерывных индексов ф соответствует рассмотрению точек замыкания И пространства Н. Коль скоро функция /?<₽ _равномерно непре- рывна на И, то на точки замыкания ф€//, естественно, она доопределяется по непрерывности. § 8.5. ДОСТАТОЧНЫЕ КООРДИНАТЫ 1. Отыскание оптимальных рисков и оптимальных реше- ний облегчается введением достаточных координат. Определение 8.5. Пусть существуют'. 1) такое семейство { сг(м), t£T} -измеримых функций с* (ю); 2) такое семейство -измеримых функций хДы), t^T со значениями из некоторого измеримого пространства (X, 30) что разность R (® | U^w) - MQ \с* (®) j МУМ] = SJ® | W^) (8.33) является SC t-измеримой. Здесь 301 = x/4 (^) CZ <2/'pW). Ука- занную разность обозначаем St(&\SCt) и называем урезанным условным риском. Пространство (X, ОС) называем простран- ством достаточных координат, а его точки — достаточными координатами. Урезанный условный риск можно представить как (® | ЗС^) = (xz (®)) фиксировано), т. е. рассматривать ЗС -измеримую функцию S«(x) от доста- точных координат. Таким образом, урезанный условный риск зависит от со (от и, у) не иначе, как через посредство доста- точных координат х = Х((м). Удобство использования доста- точных координат в том и заключается, что вместо функций, заданных в сложном и не наглядном пространстве элемен- тарных событий или функциональном пространстве, рассмат- риваются функции значительно более простого аргумента — достаточных координат. Функции с*(<в) можно назвать функциями прошлых штрафов, а с (со)—с* (со)—функцией будущих штрафов. При такой интерпретации урезанный условный риск является условным математическим ожиданием будущих штрафов. Удобно наложить на достаточные координаты несколько более сильные требования, чем сформулированные в опреде- лении. Определение 8.6. Пусть задано семейство прошлых штрафов с1(ы), tQT (сг(со) является -измеримой). Доста- точные координаты xt(ca) это такое семействоЦЗУ^ -измери- мых функций, что 8. 6.А. они достаточны для определения средних штрафов: Mq [с* (а) — cs (и) | U3J<P(S)I = MQ [cz (и) — os (a) | 30s\, s < f;
Mq [с (ю) — cb (to) I l№№>] = MQ [c (to) — cb (to) I ^]; 8.6.Б. они достаточны для определения собственной буду- щей эволюции'. Q (Л ( Xt | Usy^) = Q (Л | X)- (8-34) Покажем, что достаточные координаты, определенные в соответствии с определением 8.6, удовлетворяют условиям определения 8.5 (т. е. 8.5 вытекает из 8.6). Записывая (8.33) для t и для s<t, из формулы R (фКУ^) = MQ [2? (П‘У^) IЖУ^] имеем Ss (и | Usy^) = MQ [ct (to) — cs (и) | Usy^] + + MQ[S((B|W»>)| Usy^]. (8.35) Полагая здесь t = b, получаем Ss (Usy^) = MQ [eb — cs I ЖУ4^! + MQ [S6 (Ub y^) I Usy^]. Ho Sb (Uhy'^bY) = м [c — cb IиьУ^ьЛ = м [c- cb IXb}\ Mq [Cb — Cs I <W У^\ = Mq Ж [cb — Cs | %s] согласно 8.6.А, поэтому Ss (ЖУ^) = Mq [Cb -Cs\%s] + + [M[c-C4^6]Q(^€^bl^,₽<s)). Согласно 8.6.Б сюда вместо Q (A| ЖУ^}) можно подставить Q(A|^s), что окончательно доказывает ^-измеримость функции Ss (ЖУ^). 2. Приведенные выше определения достаточных коорди- нат относились к фиксированному индексу и фиксированному решению. При рассмотрении практических задач, однако, вопрос о выборе достаточных координат решается до того, как найдено само решение. Поэтому удобнее иметь дело с такими признаками достаточных координат, которые не тре- буют знания решения и даже не требуют фиксации индекса. Сформулируем их: Определение 8.7. Признаки достаточных координат: 8.7 А. Координаты Xt(to) достаточны для определения средних штрафов: М₽ [с' (и) - cs (и) | = МР [Ф (и) - cs (и) | U^s]; (8.36) М₽ [с (и) - сь (и) | иьУ*(Ь)] = MP [c (to) - cb (to) | Xb\ (8.37) (s, t любые из T, но s<().
Это значит, что при фиксированном управлении и* услов- ные средние штрафы M[cf—cs| зависят от uj, c/a(s) не иначе, как через посредство xs(co). 8.7. Б. Они достаточны для вероятностного определения собственной будущей эволюции: р ixt (а) с г । = р (г । г (х. Это значит, что при фиксированном управлении и* ука- занные условные вероятности, а значит и условные матема- s ,,<₽(«) тические ожидания, зависят от иа, Уа только через посред- ство хДсо). 8.7. В. Они достаточны для указания ограничений выбора управления на каждом отдельном интервале. Используя обо- значения, введенные в п. 1 § 8.1, это требование можно запи- сать Ul(Us) = U"s (Xs) (1Л (usa) = (Л (xs)) или Us(U4 = Us (Xs), (s<t). Если избегать использования понятий условной а-алгеб- ры, то данное требование можно выразить в терминах услов- ной минимизации: min / (со) — min / (со), какова бы ни была U*s^-измеримая функция /(со). Покажем, что из приведенных признаков достаточных координат вытекает ^/-измеримость функции (8.33), т. е. вытекает, что они являются достаточными координатами в смысле определения 8.5. Пусть разбиение {tv . ..,(/v} порождает ступенчатую аппрок- симацию фл индекса ср (<pfe = ф (^), k = 0, 1.N). Для ф?/ и функции (8.33) рекуррентные преобразования (8.12) записываются в виде St (со | <Utk£y,rk') = min МР [?*+> (со) — с^ (со'> -ф -ф S/*+1 (® I Utk^k+^ | Utk+i^k}. (8.38) Если S/A+1 (co | 1/Д/г+1;У'(/г+1) есть ^+i-измеримая функция, то, как нетрудно вывести из 8.7. А —В (t = ф+1, s = tk), функция (со |также является -измеримой, причем
St (xt (co)) = min {Mp[?a+' (co) — (co) -ф + ^+1(^+1(со))|^+адЬ (8-39) Таким образом, рекуррентные преобразования не приводят к нарушению Xtk-измеримости урезанных условных рисков. Остается только проверить ^-измеримость «начальной» функции s6 (со I XX''= Мр [с (v) - cb (со) I Ub^(bK Она имеет место согласно (8.37). Следовательно, Ж- -измери- мость функции St при любом Лг = О, 1,2,..., N является доказан- ной для ступенчатого индекса q>1V. Если теперь совершить предельный переход N-^co, cpJV j ср, то предельная функция S< будет ^-измеримой при любом t из множества определения риска. § 8.6. ПРЕОБРАЗОВАНИЯ ФУНКЦИЙ ОТ ДОСТАТОЧНЫХ КООРДИНАТ. УРАВНЕНИЕ АЛЬТЕРНАТИВ 1. Рассмотрим банахово пространство Gx^-измеримых функций в пространстве достаточных координат (X, J?). В нем определены естественные линейные операции и норма, аналогичная (8.19) или (8.20) (в последнем случае предва- рительно фиксируется некоторая мера v(A), AC X, порож- даемая, если угодно, мерой г(Г), ГС?/*). Введенное ранее преобразование (8.21) определяет преобразо- вание Tst в пространстве Gx. В самом деле, для любой g (х) ( Gx функция g(xt (со)) = / (со) является ХУ^-измеримой, т. е. £ Gt. Следовательно, может быть определена функция Г И = Tstf (со) = J f (со) Q (dco ( Xt | ЫУ™} ( Gs, (8.40) которая оказывается ^-измеримой согласно 8.6.Б. Записы- вая ее в форме /'(со) =g'(x5(co)), мы можем рассматривать преобразование Лс любой функции^)*) в функциюg'(x) С Gx. При помощи условной меры Qsc(ГСХ\Х} в пространстве достаточных координат, связанной с мерой (8.34) соотноше- нием Q(V'(ОШ = Qs/(r|xs(co», г^х, указанное преобразование g'=Tstg можно записать (Л^) (X) = J QJ(dx' I х) g (х'). (8.41)
Вследствие полугруппового свойства (8.23) преобразова- ния (8.40) рассмотренное здесь преобразование (8.41) обра- зует полугруппу: TrsTst = Trt, r<s<t. Урезанный условный риск St(x) можно рассматривать как элемент пространства Gx. При этом формулу преобразова- ния (8.35) урезанных рисков можно записать при помощи Tst. Именно, учитывая 8.6.А—Б, получаем Ss (л-) = Mq [с‘ — cs I X] + TstSt (х). (8.42) 2. Существование полугруппы преобразований Tst напо- минает случай марковского процесса (§ 3.1). Возникает во- прос, не связана ли эта полугруппа с некоторым марковским процессом. Проверка показывает, что так оно и есть. Мар- ковским процессом оказываются достаточные координаты, причем это вытекает только из их определения. Теорема 8. 7. Процесс { х4(и), t^T }, описываемый вероятностной мерой Q, является марковским. Доказательство. Возьмем моменты времени /]<Дг< <С. Из определения условных вероятностей имеем Q (Л ( Ж31 Н*'У^) = J Q (А | Q (rfco (. \П^У^ или, учитывая 8.6.Б, Q (А | Ж,) = J Q (A I %t2) Q (da £ и^у^ | и*'У^. Поскольку Q(A |Ж2), Л £ является -измеримой функцией, здесь Q(da^ |<^г?/ф(Ц)) можно заменить на Q(Jco£ € %t21УУУ^), а значит (в силу 8.6.Б) и на Q (da £ XtASCt,)- В итоге указанное равенство примет вид Q (Л | Xtl) = J Q (Л | Ж2) Q (da £ %ti i Ж,), т. е. обратится в уравнение Чепмена—Колмогорова. Из этого уравнения, многократно пользуясь теоремой Ра- дона—Никодима, поочередно можно вывести равенства Q (Л с Ж31 XtM = Q (Л | ^2), Q (Л (। ХцХМ = Q (ЛI Ж.) (Д<^2< • • •), И Т. Д. доказывающие марковский характер процесса. Согласно доказанной теореме достаточные координаты образуют марковский процесс после выбора решения б, опре- деляющего, как указывалось в и. 4 § 8.1, комбинированную меру Q. Можно утверждать большее. Достаточные координа- ты образуют марковский процесс также относительно вероят-
ностных мер Р( • заданных в условии задачи (п. 2 §8.1). При этом, конечно, следует фиксировать управление иа на достаточно большом интервале [a, t], Чтобы не оговаривать этого каждый раз, фиксируем управление и€£7 на всем ин- тервале. Теорема 8.8. Процесс {х((о>), tG Т}, описываемый при фиксированном управлении uGU вероятностной мерой Р( • I иь\ является марковским. Доказательство аналогично предыдущему с той лишь разницей, что вместо условия 8.6.Б следует использовать условие 8.7.Б. Марковский процесс, рассмотренный в теореме 8.8, опре- деляет свою полугруппу преобразований в Gx. Поскольку эти преобразования соответствуют фиксированному управлению и, будем обозначать их Tst(u): (Tst (и) g) (xs) = J Р (dxt (и) ( ЗС | и, xs) g (xt (и)). 3. Коль скоро введены полугруппы преобразований Tst, Tst (и), то можно рассматривать их инфинитезимальные опе- раторы. Пусть At — инфинитезимальный оператор, опреде- ленный формулой Atg = linJ-^Д^—(8.43) на множестве DQGX тех функций g, для которых предел существует. Аналогично для каждого uGU определяем инфи- нитезимальный оператор А Ди) преобразований Tst(u) и об- ласть его определения Z)(u)CGx. Пользуясь уравнением (8.42), образуем разность Sz A(x)-Sz(x) = MQ Л Л и перейдем к пределу Л ф 0. Если функция 3 дифференци- руема по t: lim MQ Г——--------I х 1 = MQ [Cf | x] (8.44) дфо Д I J ^и если St £ D), то в итоге получим уравнение ДДДД = Mq [С( I X] + (АД) (X). (8.45) В противном случае соответствующее дифференциальное уравнение имело бы вид — dSt (х) = Mq [de11 х] 4- d*L* (t) S( (x), (8.46)
где dL*—дифференциальный инфинитезимальный оператор,, определенный в п. 1 § 3.1. Запишем теперь дифференциальное уравнение для уре- занного риска при помощи инфинитезимального оператора второй полугруппы. Для этого обратимся к уравнению (8.39), соответствующему допредельному индексу. В фигурных скобках в его правой части стоит ,-измеримая функ- ция, поэтому минимизация по сводится к минимизации по В уравнении (8.39) можно записать любой из этих вариантов, а также вариант u]$t . Поэтому имеем S<fe(х) — (х) (м Г ck+x — ск | 1 . —--------—----= min МР ------------ и, х + Д и\х I L A I J А (8.47} (x=-A-Zfe, A = 7fe+1 — tk). Производя предельный переход ф^ f <р, tk t, C+i -> t, отсюда получаем _ dSt (х) dt если = min 4Мр \Ct I и, х] + At и\х I 1 — ск А (8.48} (8.49} и iAt(u) St при tk^t, tk+\-^t. (8.50) д Сходимость (8.49), как легко видеть, вытекает из условия дифференцируемости (8.44). Условие (8.50) является, воз- можно, несколько более сильным, чем естественное условие Т, . Ли) S/ — S, —-А--^ ------~>At(u)St, u^U (т. е. условие St^ Q £)(«)). и Естественное обобщение уравнений (8.48) на случай не- дифференцируемого штрафа и недифференцируемой полу- группы по аналогии с (8.46) имеет вид — dSt (х) = min{Mp [de1 \и, х] + d*L* (t, и) St (х)}. (8.51} и\х Здесь и в (8.48) х€Х — точка пространства достаточных ко- ординат, а и = иа —функция управления. Подлежащее мини- мизации выражение, однако, зависит в действительности лишь от ее значений в окрестности точки t.
Минимизация в уравнении (8.48) или (8.51) соответствует выбору оптимальной альтернативы (выбору оптимального «инфинитезимального управления» u?t+<U из ряда возможных), поэтому назовем его уравнением альтернатив. Как отмеча- лось, ему соответствует «начальное» условие Sb (х) = МР [с (со) — сь (со) | хь (а) — х]. Решение этого уравнения при обратном течении времени позволяет последовательно определить St(x) и оптимальные (или близкие к таковым) решающие меры. Отыскиваемое в последнюю очередь значение Sa(x) дает полный риск R = ca + Sa. 4. Условия, при которых имеет место дифференцируемость (8.43), (8.44), (8.50) и при которых вид уравнений (8.45), (8.48) не зависит от специального способа перехода к пределу, связаны с условием регулярности управляемого процесса (§ 8.4). Рассмотрим здесь некоторые вспомогательные понятия и достаточные условия регулярности, которые удобно прове- рять при решении конкретных задач. Для простоты в этом пункте предполагаем, что индекс tp(t) всюду имеет ограниченную первую производную по t. Определение 8.8. Назовем пространствами регуляр- ности Dt QGX, tET такие множества функций, что для каж- дой gCDt и любого Д>0 8.8. А. существует измеримая функция g' ( Cty-s, отличающаяся от функции « min МР [В — cl~x + g (xt (и)) ] <Ц*У ти-д))] (8.52) на о(1)Д. Согласно 8.7. А — В это условие можно записать g'(х) = min {МР [д — с'~д | и, x,-x = x]+ (7\_Л,Ды)£)(х)} + о(1)Д. “Iх (8.53) 8.8. Б. Существуе'1, далее, не зависящая от Д и непрерывно зависящая от t и g(tzDt) функция ф^ (х, g), удовлетворяю- щая равенству g'(x) — g(x) = фДх, £)Д + о(1) Д. (8.54) Из сопоставления (8.53), (8.54), очевидно, следует min {Мр Г---------1 и, х] + ——} = Ф/ (х, g) + о (1). U\X I L A I J A J (8.55) Оценка о(1) здесь берется в смысле нормы (8.19) или (8.20), т. е. предполагается равномерной по х. Ценность введенных понятий видна из следующей теоремы:
Теорема 8.9. Если S(b) принадлежит пространству ре- гулярности Db , то: 1) процесс является регулярным в смысле определения 8.4; 2) урезанный условный риск удовлетворяет уравнению _ (8 56) dt Доказательство. Пусть 2—счетная всюду плотная в Т последовательность. Рассмотрим Д-разбиение ин- тервала [а, Ь] точками ... <tN и на каждом элементар- ном интервале [Д, Д+i] используем условие 8.8.А. Это условие позволяет рекуррентным образом найти последовательность функций (обозначим их Stfe), принадлежащих пространству регулярности S? ( D° . Учитывая 8.8.А, можно провести сравнение их с оптимальными рисками для данного раз- биения. Суммируя отклонения о(1)Д, имеем |S< —= = о(1) (Ь—и, в частности, -| RVN—RVN\ = о(1) (b—a) (здесь мы воспользовались непрерывностью преобразования (8.52) относительно введенной метрики в пространстве Gx). Из это- го результата следует сходимость последовательностей St (-*St) и R n (~*R<p) при Д —»О, т. е. при /V оо и УД V (поскольку S‘tk, R N сходятся), а также совпадение преде- лов: lim Stk = lim = Sf (t = lim tk); lim(RtpN = lim^w = ^. Используем теперь 8.8.Б. Полагая g — Stk+1, g' = Sf в (8.54) и суммируя no k, имеем S‘i - = 2 ^+1 (x’ VP(4+1 - У + <> (D k=l Переходя к пределу Д —»0, tt —> t, получаем ь S?-Si = j'qT(x, S?)dr (8.57) t и dS?(x) у -----= Ы*. 5f) (8.58) вследствие непрерывности функции фг(х, S«)- Утверждение 2) теоремы доказано.
Далее, результат (8.57) не зависит от специального спо- соба разбиения (от S), он остается одним и тем же для лю- бой всюду плотной последовательности 2. То же самое, сле- довательно, относится и к решению (х) уравнения (8.58). Среди таких последовательностей заведомо имеется последо- вательность определения оптимального риска. В самом деле, если S — некоторая последовательность определения риска, aS — всюду плотная последовательность, то, как видно из проведенного в пп. 2 и 3 § 8.2 рассмотрения, последователь- ностью определения риска будет также объединенная после- довательность S' = SUS, в которой поочередно следуют эле- менты из S и из S. Итак, уравнение (8.58) справедливо для последовательности S', т. е. ему удовлетворяют оптималь- ные риски Sf = = Sf. Доказательство закончено. Если выполнены условие теоремы 8.9, а также условия St£D и (8.44), при которых справедливо уравнение (8.45), то уравнения (8.45) и (8.56), очевидно, совпадают и (х, St) = Mq [С( | x] + AtSt. (8.59) § 8.7. СЛУЧАЙ МАРКОВСКОГО ОСНОВНОГО ПРОЦЕССА В предыдущем изложении не предполагались какие-либо марковские свойства рассматриваемых процессов. Следствием определения достаточных координат, однако, оказались мар- ковские свойства последних. Это является косвенным свиде- тельством того, что понятие достаточных координат будет продуктивным именно при рассмотрении марковских и родст- венных им процессов. В настоящем параграфе мы будем предполагать основной процесс марковским и покажем, что в этом случае наиболее существенную часть достаточных координат составляют апостериорные вероятности, т. е. «вто- ричный апостериорный процесс» (§ 5.6). Поскольку изуче- нием марковских апостериорных вероятностей занимается теория условных марковских процессов, то отсюда следует эффективность применения последней к теории оптимального управления. 1. Понятия и обозначения, связанные с основным процес- сом, были изложены в п. 2 § 8.1. Пусть фиксация управления и*а определяет вероятности Р (-\Ua) процесса ?а = Если через ЗА(и(а) обозначить о-алгебру, определенную усло- виями, наложенными на г' , то в соответствии с указанными обозначениями имеем WW)c:^. Пусть ^(Ua, Za) — ст-алгебра, определенная условиями, на- ложенными на а ЙГДи*, z£)—соответственно на zt. Тогда
марковские свойства основного процесса {zt} можно сформули- ровать как свойства меры Р( - \и), именно Р(Л|и, £'(«)) = Р(А|и, £t(u, г‘а)), A(^(u,zfa) (8.60) (п. в. Р). Предположим теперь, что выбор управления и влияет на вероятности Р, но не на фазовое пространство процесса {zt}, т. е. это пространство одно и то же при всевозможных управ- лениях. Пусть, далее, фазовое пространство, соответствующее моменту t, не зависит от Za> т. е. одно и то же при различных 2а- Эти условия можно записать 8.9. A. (не зависит от и*а, г^). Управление u(U будем предполагать несвязанным: 8.9. Б. («У = $4 « < t (не зависит от usa). В соответствии с 8.9.А марковское условие (8.60) возьмем в виде 8.9.В. Р (Л I Ua, Za) = Р (A I и\, zs), Л( 2^ Q 3<t Остальные предположения относятся к наблюдаемому про- цессу и функциям штрафов. Ограничимся практически наи- более интересным случаем, когда <р(/)=/ (случай другого непрерывного индекса <p'(Z) может быть сведен к данному за- меной времени t'=q'(t)). Наблюдаемый процесс yt пусть определяется (помимо иа) процессом Za: 8.9.Г. Наконец, будущие штрафы определяются будущими значе- ниями Zs процесса г: 8.9.Д. с* — cs есть не только -измеримая, но и измеримая функция’, с ~сь является ^измеримой. Теорема 8.10. При выполнении предположений 8.9.А—Д условные вероятности Wt (Л ( gt) = Р (Л | образуют до- статочные координаты. Доказательство. Чтобы доказать теорему, прове- рим выполнение признаков 8.7.А—В достаточных координат. Выполнение 8.7.В непосредственно следует из 8.9.А—Б. До-
кажем 8.7.А. Обозначим через о-алгебру, порожденную условиями, наложенными на Wt. Используя 8.9.Д, имеем f [</ («') — cs (со')] Р (dm' | %fys) = = [f [с( (co') - сД®')]Р (dm' ( (8.61) В силу условия Маркова 8.9.В (а также 8.9.Г) Р (dm ( Sbs | OT^S) = P (dm | поэтому M [c< - c* I Ur^s\ = f f (® ) - (0)')] P (dm' I il!sSs) ws(dm ( ^s). (8.62) Эта функция является, следовательно, ^Т^-измеримой: М [с< — cs | U^s\ = М [cf — cs | . Выполнение (8.36) проверено. Кроме того, из ^Гь-измери- мости функции с—сь (см. 8.9.Д) легко вывести равенство М [с— с6| иьУь} = J (с — cb) Wb (dm £ £b) = М [с — cb 1ТД, подтверждающее (8.37). Проверку последнего признака 8.7.Б можно провести ме- тодами, близкими к тем, которые были использованы при дока- зательстве теорем 5,8, 5.9. Как следует из теории, развитой в п. 2, § 5.6, апостериорная вероятность = Р(Г \и{Уг) для марковского процесса (условие 8.9.В) является измери- мой относительно о-алгебры s<t. Это может быть показано при помощи формулы (5.83) (в данном случае при наличии управления апостериорная мера Vs является ^Не- измеримой). Указанная измеримость эквивалентна соотноше- нию c^tC.cW>s<Us'ifts или cFs<2/j‘2/s-H3MepHM0CTH индикатора 1в(т) = I(B\ ОТО = 1 (В| множества В £ cW>t. Расширяя <т-алгебры в условии, очевидно, можно записать I (В | ОТО = /(В I OT^s^s) = /(В I (8-63) Представим вероятность Р (В | ‘Ц/У*) в форме условных математи- ческих ожиданий: р (В | и*У*) == м {м [/ (В | OT^s^s) I OTX^sl I U^} Подставляя сюда (8.63) и учитывая, что м [I (в । ОТ'Ж^) I OT^^l =м У (в I I ^s^si= = Р[В|Ж^^1 (8.63.а)
вследствие марковского условия 8.9.В (см. (5.80))*, получаем р (В | Ws) = j м [ZB (<в) | TTS^S] р (d® (X, | и,сУ') = = JM[7B(«)|7FS^S] ГДг/и). Как видно отсюда, вероятность Р(5| ‘ШУ8), является ‘Ж^-измеримой вследствие Ж^З^-измеримости функции М [Zs (и) | Это доказывает 8.7.Б и завершает доказатель- ство теоремы. 2. Результаты, полученные выше для несвязанного управ- ления, допускают обобщение на случай связанного управле- ния. Предположим, что множество U управлений и является марковски связанным в соответствии с определением 8.1. Это значит, что существует функция ut(Ua) и соответствующие ей о-алгебры %, такие, что'^(?/s) = ^(%), s<t. Условия 8.9. А—Д при этом следует подвергнуть модификации, заменив их на более общие. Вместо 8.9.А—Б будем иметь 8.10.А-Б. ^(«a)=^(«s): (8-64) Zt (u‘a, Za) = Zt (Uty, S(s ZSa) = & (Us, u‘s). (8.65) Теперь предполагается, что фазовое пространство основного процесса может зависеть от предыдущего управления usa , но эта зависимость сводится к зависимости от марковской коор- динаты us. В марковском условии теперь также может стоять зависимость от марковской координаты: 8.10.В. Р (A I U*a, Za) = р (А I и3, 4, Zs), А С £bs П (S<t). * При сравнении с (5.80) нужно иметь в виду, что ^'pZD^np; ^ = <F6- Тогда применение (5.80) дает м [Р (В | <^пр Xs <^6 U‘s) | = p (BI<^np £* Ufs). что совпадает с (8.63. a).
Аналогичным образом обобщим и другие условия: «.10.Г. У\ (Ufa, ZSa) = %l (Us, ul) (Z Si (us, ul)-, -8.10.Д. c( — cs есть не только (^/-измеримая, но и Us^^' измеримая функция; с — сь является UbSb-измеримой. Теорема 8.11. При условиях 8.10.А—Д совокупность xt=(ut, Wt) марковской координаты и апостериорных веро- ятностей Wt(№z £t(ut)) = Р(Д | lyy*) служит достаточными координатами. Доказательство аналогично доказательству предыду- щей теоремы. Выполнение 8.7.В вытекает из 8.10.А—Б. Для проверки 8.7.А следует записать равенство типа (8.61), (8.62). Вместо (8.61) теперь согласно 8.10.Д имеем М [с(—cs | Ws\ = J (©') - с* (©')] Р (d®' ( 1 U‘ysSs) X X P(d®|%^). Согласно 8.10.В p(Л । m = p(Л\us^sss), лe n поэтому M [H- cs j UtcUs\ = f M \cl - cs, p (d® | WO. /4 Но мера P (rf® ( Us^Ss | и'У ') полностью определяется мерой IFS (А £ Zs | ivy5) и значениями us, ul (значения us, ul однознач- но заданы, коль скоро фиксированы и\). Отсюда имеем м [с< - cs | utsys] = M [с' - cs | UsUlWs]. Мы видим, что отличие от соответствующих формул пре- дыдущей теоремы заключается лишь в том, что в условии математических ожиданий и вероятностей стоит, кроме также cr-алгебра Us- С такими же изменениями проводится доказательство выполнения (8.37) и требования 8.7.Б. Здесь снова используется то обстоятельство, что при фиксирован- ном управлении ul^значение координаты ut = ut (u„) = ut(us,ul) как функции от us и ul является однозначно заданным. Поэтому мера Р X^Ut Iи*У*) сосредоточена на множестве {«£ = mz(ms, ms)}. Другими словами, первая переменная пары (м6 Wt) является при фиксации us, us (s<t), детерминирован- ие определенной. Второй же переменной Wt соответствует ве- роятностная мера Р(В и*У5)- Тем же способом, что и
ранее (с указанной модификацией), для нее выводится ра- венство Р(В| W) = P(5|%?/sTs), B^t. В итоге условие 8.7.Б оказывается проверенным для обеих переменных Ut и Кф. 3. Приведенные теоремы показывают большую роль, кото- рую играют в теории управления апостериорные вероятности Wt, или заменяющие их переменные («вторичный апостери- орный процесс» в соответствии с терминологией п. 2 § 5.6). Как показано в § 5.6, эти вероятности представляют собой марковский процесс (теорема 5.9) и для них, следовательно, может быть введен вторичный апостериорный оператор #(/)• Будем предполагать, что существует производная dj£ (t)ldt, имеющая смысл обычного (определенного в соответствии с Дынкиным [3]) инфинитезимального оператора марковского процесса В рассматриваемом здесь случае управляемого процесса вероятности перехода, а поэтому и инфинитезимальный опе- ратор являются зависящими от управления u^U. Отмечая это, будем писать d'^£ (t, и) jdt. При помощи данного операто- ра записывается уравнение альтернатив (8.48). Чтобы пока- зать это, остановимся для определенности на случае 8.9.А—Д. При этом в качестве достаточных координат х в формулах (8.43), (8.47) — (8.50) следует брать Wt. В соответствии с определением оператора dj£/dt имеем ---------------> - g при А - 0, g ( D (и) (здесь Tst (н) —«вторичный» оператор). Следовательно, если сходимость (8.50) имеет место, то T^*+i(u)'S<*+i~'4+i , d^(t,u) с , ----------------------->--------ПРИ гЛ+1 — h at Sik-.St^D(u). Предполагая, что условие (8.49) выполняется и что St £ fl D (и), получаем из (8.47) в результате предельного перехода “ ---= min [С । uW] s t (8.66) at u|M7 I dt ) t. e. At (u)=^A. f dt 4. Рассмотрим для иллюстрации сказанного один конкрет- ный случай. Пусть имеется комбинированный марковский процесс {zt\ — { xt, yt(xt) }, рассмотренный в § 6.2—6.4, представляющий собой набор диффузионных процессов
{yt(a), ct=l,..., m} и марковские переходы Xt — a между ни- ми. Наблюдаются реализации диффузионных процессов. Что- бы удовлетворить требованиям 8.9.А—Г, предположим, что параметры aP(a, у, t, и), Ьро(а, у, t, и), рар (t, и) комбиниро- ванного процесса в каждый момент времени t зависят лишь от мгновенного значения щ (в тот же момент времени) про- цесса управления { Ut, t^T } (т. е. являются %-измеримыми функциями). Пусть, далее, t cf — cs = J Ст (uT, гт) dx, s где Ct (uT, 2x) есть ?/т^т-измеримая функция. Тогда 8.9.Д также будет выполнено, так как с1—cs будет UsZs-измеримой (при этом В соответствии с теоремой 8.10 достаточными координатами в данном случае будут составляющие вторичного апостериорного процесса, рассмотренного в § 6.4, т. е. переменные (wa, У?) Урезанный условный риск будет функцией этих переменных: St(wa, у() Чтобы вывести уравнение альтернатив в данном случае, остается лишь подставить (6.41) в (8.66). В итоге будем иметь dS/ . п , dSf , .. dSf . = ТГ"с'+ + + |о, • (а) — Миа,.16-^. [.V (В - d'S'- 4 r uWf-OWa u p 4- wa [af (a) — Mp flp] d2St 4- yM -^St . dwady9 2 ps ду9дУс Здесь минимизация по и превратилась в минимизацию по ut, так как выражение в фигурных скобках оказалось зависящим лишь от этого значения. Из этого примера видно, что результаты теории условных марковских процессов, полученные в части II, находят не- медленное применение в изложенной здесь теории оптималь- ного управления. § 8.8. ОБОБЩЕНИЕ НА ТЕОРИЮ ИГР В заключение этой главы затронем вопрос об обобщении изложенной общей теории применительно к теории игр. Как и при неигровой постановке, основным обязательным предпо- ложением теории остается требование, чтобы информация, которой располагают игроки, не убывала с течением времени. 1. Обобщение на случай антагонистических игр (с совпада- ющей информацией) является настолько прямым и естествен-
ным, что нет надобности повторять для него изложенные рань- ше формулировки. Поэтому мы сконцентрируем внимание на отличиях от неигрового случая. Вместо одного управления и = теперь следует брать па- ру и= (и, и). Управление и находится в распоряжении од- ного игрока, и — второго. Те условия измеримости, которые раньше относились к одному управлению, теперь относятся к паре. Для ступенчатого индекса <pK (t) со скачками в точках {6,..,. Tv} решающая мера распадается на произведение 14 (d«s dUs I Ua, ya(S)) = (rf“s | «а, Уа^) (dUs | Ua, Z/^(S)) (s = T, t = tk+i), t. e. (AB1 U^s)) = (A | P* | AtU's, BtU^s. В формуле (8.12), вместо условной минимизации, теперь нужно брать условный (при условии минимакс R n (U^) = min max f Р^1 № | и>У^- Ф J (8.68) Соотношения монотонности, указанные в п. 2 § 8.2, и опре- деление 8.3 теряют свое значение и теоремы 8.1—8.5 оказы- ваются несправедливыми. Некоторому изменению подвергает- ся также § 8.3, однако дальнейшие параграфы не требуют существенных изменений. Понятие регулярности можно сфор- мулировать без ссылки на множество определения оптималь- ного риска как требование, чтобы всякие всюду плотные в Т множества приводили к одному и тому же оптимальному риску. Признаки регулярности 8.4.А, 8.4.Б, 8.8.А—Б остаются без изменения. Сохраняет свое значение и понятие достаточных коорди- нат. Для урезанных условных рисков уравнение (8.68) при- нимает вид Stk (х) = min max [ М [?*+’ — Л + St (xt) | и%+\ xt = х] х J н-i X Ь ^tk+l I (d^+11 x). Оно служит не только для поэтапного определения урезан- ного_риска, но и для отыскания оптимальных решающих мер juife, Решение для непрерывного индекса получается предель- ным переходом от ступенчатых индексов к непрерывному. Со- храняет значение и другой материал из § 8.6 и § 8.7.
Как известно, в теории антагонистических игр рандоми- зация является существенной, т. е. приносит определенную выгоду. Однако в последовательной по времени форме тео- рии, охарактеризованной в предыдущем пункте, появляются некоторые дополнительные основания для исчезновения су- щественной рандомизации. В некоторых задачах рандомиза- ция, будучи существенной для допредельных ступенчатых ин- дексов, теряет существенность при предельном переходе к не- прерывному индексу. Другими словами, если заменить мини- макс в (8.68) на последовательное взятие максимума и минимума R<$N = min max M — lk или /?> = max min М[7?>(^+1^'<РА+1) *>\и*к<УЧ ^kU^+^k lk (при этом RqN R^n RqN), то в пределе могут полу- читься совпадающие результаты: Rq> = R<p = Ry . Конечно, не все случаи, по-видимому, являются такими, и иногда даже после перехода к непрерывному индексу рандомизация может сохранить свою существенность. Риски, определенные посредством рекуррентных соотношений с операциями min М[ max — lk являются мажорирующими для рисков непрерывного индекса. Аналогично операции max М [ jnin R(f.v (Ч?к+'УЧк+г) । ^k^+vy'fk} ^UikUtt/l+l,y(tk+i k задают минорирующие риски. Эти риски могут быть исполь- зованы для построения обобщения теории § 8.2, 8.3 на игро- вой случай. 2. Менее важным для приложений является обобщение теории на случай неантагонистических игр нескольких игро- ков. В такой обобщенной теории, конечно, остаются все те трудности, которые свойственны элементарной теории неан- тагонистических игр. Сформулируем общую постановку за- дачи: имеются п игроков и п функций штрафа: с<1), i = 1,...,п. Любой i-тый игрок заинтересован минимизировать свой риск R{i) = MQc,z), имея при выборе своего управления иУ> в распоряжении в каждый момент времени t свои информационные данные I .
Требования, чтобы эти данные не убывали с течением вре- мени, теперь, по-видимому, уже недостаточно для построе- ния плодотворной теории. Поэтому предположим, что инфор- мационные данные всех игроков совпадают: /(1) = ... = l{n) ~ (иа, Ut == ... , u<n>j. Для ступенчатого индекса <р (f) решение определяется на- бором решающих мер ck ck I На каждом k-м этапе находится оптимальная решающая мера как функция от п условных рисков: i = I, ••• «, именно p/fe+1 (• IU^k) = Ф^(1)> (Utk+iy<fk)\ k (8.69) Соответствующий алгоритм подбирается из каких-либо сооб- ражений на уровне элементарной (одношаговой) теории игр. Выбранная решающая мера определяет условные математи- ческие ожидания МР {Мц [/?w (^+^fe) । I Если имеется перераспределение ресурсов (потерь) между игроками, то это можно учесть, определив, например, услов- ные риски в момент tk формулой /?<0 = £у;з.Мм [7?(/) (^+i У**) |(8.70) / Следовательно, мы имеем рекуррентное преобразование /?(1) (^+1^), • • - (и^+'У^) Я(1) (^^-9, • • • > (напоминаем, что ЧрьУ'**-1CZ ?A+1 ‘З/4’*)- Явный вид этого преобразования и само понятие оптимальности, конечно, за- висят от принятого принципа согласования интересов. Имею- щиеся в этом отношении трудности относятся к одношаговой теории игр. Если, однако, этот принцип зафиксирован, то ал- горитмы (8.69), (8.70) им определены. Следовательно, мож- но вычислить окончательные риски (У.аУч(а>) = RM, а также совершить предельный переход от ступенчатого ин- декса к непрерывному. Комбинация решающих мер (8.69) и вероятностей Р(-|?/9, заданных в условии задачи, определяет, как и раньше, полную меру Q оптимально управляемого процесса.
Глава 9 ОПТИМАЛЬНАЯ НЕЛИНЕЙНАЯ ФИЛЬТРАЦИЯ Излагаемые здесь методы синтеза оптимальных фильтрую- щих систем основываются на теории условных марковских процессов. Они были разработаны автором применительно к различным практическим задачам (6, 7, 10—12]. Кроме дан- ных работ следует упомянуть относящиеся к этому же на- правлению работы Большакова и Репина [I]. В них основным приемом является линеаризация выражений для логарифма апостериорной вероятности или отношения правдоподобия. Полученные линейные интегральные уравнения решаются те- ми же методами, как и в теории линейной фильтрации. Поэто- му методы Большакова и Репина стоят, так сказать, на пол- пути между методами линейной и нелинейной фильтрации. У нас задачи решения интегральных уравнений для синтеза линейной части фильтрующей системы не возникает. Если иметь в виду практические приложения теории, то необходимо отметить одно обстоятельство, не нашедшее от- ражение в монографии. Оно связано с дополнительными при- ближениями. Дело в том, что число переменных, заменяющих плотность распределения, зачастую, строго говоря, беско- нечно, но не все они одинаково существенны. Для практиче- ской реализации уравнений важно, чтобы число переменных было невелико. Поэтому встает задача, выбрать из перемен- ных наиболее важные и отбросить остальные, пойдя на ухуд- шение качества фильтрации. Это ухудшение, если оно неве- лико, окупится упрощением конструкции. Как видно из ска- занного, представляет интерес вопрос о величине этого ухуд- шения, вопрос о том, какие переменные следует выбрать, чтобы ухудшение было минимальным. Указанные вопросы в настоящее время мало исследованы. Значительное место мы уделим рассмотрению соотноше- ний между теориями нелинейной оптимальной фильтрации и линейной.
Проблема нелинейной оптимальной фильтрации является естественным логическим продолжением и развитием пробле- мы линейной фильтрации (в широком смысле). Как изве- стно, эта исторически более ранняя классическая проблема решается установлением и разрешением уравнений регрессии. Последние уравнения, разрешение которых тривиально в слу- чае небольшого числа случайных величин, обращаются, одна- ко, в бесконечную систему уравнений или в интегральное урав- нение (в частности, в уравнение Винера-Хопфа) при беско- нечном числе случайных величин, например, при стационар- ном процессе. Классическое решение этих уравнений для ста- ционарного случая (на полупрямой) дано Колмогоровым [2] и Винером [1]. Эти результаты вошли в многочисленные учеб- ники и послужили отправным пунктом для построения неста- ционарных обобщений. Ряд результатов в этом направлении изложен в книгах Ленинга и Беттина [I] и Пугачева [1]. Нужно отметить, что эффективное явное решение уравне- ний регрессии для полубесконечного или конечного интер- вала в стационарном случае возможно лишь для процессов с рациональной спектральной плотностью, хотя теория Кол- могорова-Винера позволяет записать решение в виде инте- гралов для несколько более общего случая. Гауссов процесс с рациональной спектральной плотностью, как известно, яв- ляется компонентом многомерного марковского процесса. По- этому эффективное решение задачи линейной фильтрации оказывается тесно связанным с марковским свойством про- цесса. Отсюда вытекает утверждение, что эффективное реше- ние задачи линейной фильтрации возможно тогда и только тогда, когда процесс попадает в сферу компетенции теории условных процессов Маркова. Этот внешне не очевидный вывод показывает тесную взаимосвязь двух теорий, совер- шенно различных по содержанию и исходным предпосылкам: в одной рассматриваются линейные преобразования, средне- квадратичный критерий и любые процессы, в другой — любые преобразования, любой критерий и марковские процессы. Кроме методов, основывающихся на теории условных мар- ковских процессов, возможны также другие пути решения проблемы оптимальной фильтрации. К числу первых работ по нелинейной фильтрации относится работа Заде [1], в кото- рой отыскивается оптимальное преобразование среди нели- нейных преобразований определенного класса. Другая форма нелинейных преобразований рассматривается в работе Куз- нецова, Стратоновича, Тихонова [2]. При таком подходе неиз- вестными являются коэффициенты разложения искомого пре- образования по выбранным функциям. Для этих коэффи- циентов выписывается система уравнений, решение которых является весьма трудным.
В некоторых специальных задачах оказываются целесооб- разными особые подходы к проблеме нелинейной фильтра- ции. Так, для фильтрации импульсных сигналов автором [9] был разработан метод, основывающийся на теории коррели- рованных случайных точек (Стратонович [8], § 6). Решение проблемы нелинейной фильтрации при помощи теории условных марковских процессов имеет перед прочими методами ряд особых преимуществ. Для этой теории харак- терными являются рекуррентные преобразования апостериор- ных мер. Основное звено нелинейной фильтрующей системы может быть синтезировано как устройство, осуществляющее эти рекуррентные преобразования. Алгоритм этих преобразо- ваний определяется без особого труда и может быть реализо- ван как блок с обратной связью. Таким образом, синтез фильтрующей системы не связан с решением трудоемких вы- числительных задач. Результирующее сложное нелинейное преобразование является следствием более простых поэтап- ных преобразований. Конечно, возможны и другие варианты применения теории. В случае непрерывного времени и диф- фузионного характера процессов для теории адекватным яв- ляется аппарат дифференциальных уравнений. Это обстоя- тельство приводит к ряду благоприятных следствий. Благо- даря ему оказывается возможным решать не только задачи фильтрации, рассматривая апостериорные вероятности, но и более сложные «вторичные» задачи, рассматривая функ- ции от апостериорных вероятностей. Для этих функций так- же удается получить дифференциальные ^уравнения, которым соответствует вторичный апостериорный инфинитезимальный оператор (§5.6 и § 6.4). Вторичные задачи возникают при ис- следовании качества' работы нелинейной фильтрующей систе- мы. Теория условных марковских процессов позволяет запи- сать уравнение для функции средних потерь. Подобное уравнение используется в § 9.6, где для одной частной задачи производится сравнение эффективности ли- нейной и нелинейной фильтрации. Задача выбрана такой, что она попадает в сферу действия обоих теорий. Поскольку теория линейной фильтрации отыскивает оптимальное преоб- разование в классе линейных преобразований, а теория нели- нейной фильтрации — в классе всех преобразований, то нели- нейная фильтрация дает заведомо лучшие результаты. Во- прос стоит о величине расхождения. Для обоих оптимальных преобразований удается найти точное выражение для сред- них рисков. Сравнение показывает, что отношение среднего риска линейного преобразования к риску нелинейного стре- мится к бесконечности, когда интенсивность помехи стремит- ся к нулю (т. е. когда каждый из рисков стремится к нулю). Сравнение качества линейной и нелинейной фильтрации для данной задачи (по несколько иному критерию) было проде-
лано Кульманом и Стратоновичем в работе [1], где приво- дятся родственные результаты. В § 9.5 рассматривается линейная фильтрация как ча- стный случай нелинейной. Используемый здесь метод позво- ляет избегать решения уравнения Винера-Хопфа, т. е. яв- ляется обычно более удобным, чем метод теории Винера. Приводимые в § 9.5 уравнения оптимальной линейной филь- трации были получены автором в [7]. Они совершенно не чув- ствительны к изменению длительности интервала наблюде- ния, будучи одинаково применимы к конечному и полубеско- нечному интервалу, к стационарному и нестационарному про- цессу. Эквивалентные им уравнения позже были выведены Калманом и Бьюси [1] (уравнение [IV]). § 9.1. ПОСТАНОВКА ЗАДАЧИ Проблему оптимальной нелинейной фильтрации можно ставить как вырожденный частный случай общей задачи на оптимальное управление, сформулированной в предыдущей главе. Пусть управление ut (в данном аспекте более подходя- щим является термин «оценка»), соответствующее моменту t, представляет собой функцию {utx, т€ Tt} на некотором под- множестве TtC.T. Функции штрафов пусть имеют вид с (о>) = dt Ctx (utx, Zx) Ft (dr); f (9.1) cz (co) = f ds f Csx (usx, Zx) Fs (dr). s<t Ts Здесь Ft(A) (при фиксированном t) есть мера на борелевских подмножествах из Tt }т; Crt(urt, zx) — функция от utt и гх, т. е, 'Т/тй’т-измеримая co-функция. Условия измеримости и интегри- руемости по t и г считаем выполненными. В итоге с* (со) — cs (со) является — измеримой функцией. Предполагается, что вероятности Р (• | и) = Р (•) основ- ного процесса { zt (со)} не зависят от управления (оценки) и t<z Т). Наблюдаемый процесс [ yt (со) } = = { yt (zt(<a))} также не зависит от оценки и зависит от зна- чения zt в тот же момент времени. Наконец, предполагается, что оценки Utx, соответствующие различным t и г, могут вы- бираться независимо друг от друга (несвязанное управление {Ц/т} как функция двух переменных). При указанных предположениях минимизацию условного среднего риска можно проводить независимо для непересе- кающихся прямоугольников в плоскости t, г и даже для
каждой точки (/, т). При этом решающие меры рЛ+1(сй» £ v € U tk+11 для ступенчатого индекса ср' теряют зависи- мость ОТ u(ak; р **+* (du !*+* | U*k = p/*+1 (du'**11 ^ф*). (9.2) к lk к lk В самом деле, записывая рекуррентное соотношение (8.38) для k = N, имеем 5/ЛГ (U‘N ^N) = min [ (с - с^) Р (cto | иЬУ'^)- (9.3) Ввиду того что Р (rfco ( £ь | иЬУ^) (= р (dco I ^ф*)) не зависит от и, подлежащее минимизации выражение в (9.3) не зависит от UaN. Поэтому р^ и Stv(=Siv (У4^)) не зависят от и^. Учитывая это, второе соотношение (8.38) для k = N — 1 записываем в виде StN_t = min [J(^-^-irP7^T^6I^4’JV-,.)] + u^V ! 1 1 ytN-1 1 + fS<A, (^)Р(йш|^фА'-1)1, J И ибо Р (da ( Zb | U'N У^~1) = P (da | У^-i). -Отсюда видно, что р*^_1 и <S/V_, не зависят от . Продол- жая рассмотрение аналогичным образом, можно убедиться, что все решающие меры (9.2) и урезанные риски Sfk не зависят от .i4*. Из вышеизложенного следует, что оптимальная решающая мера (9.2) отыскивается в силу (9.1) минимизацией выраже- ния М [ j dt J Ctx (utx, zx) Ft (dr) | yff^ s (u**+i, №), h Tt k k t. e. С r ^+1 (U ^+1, y*k) + 1 (du'k+l | y*k) = V k *k k к = tmin. ^+Ч^Гу^)^^+Чу^. и k+i IA k k k th “
Итоговый средний риск для выбранного ступенчатого индек- са можно записать ЯфЛг = 5в = £Мр^ (//?) Перейдем к рассмотрению непрерывного индекса <р (/) = t. Независимость результата от специального способа предель- ного перехода .Vсо, <px-><p аргументируется проверкой выполнения условия регулярности (8.26)- Оно в данном слу- чае принимает вид Рф' (^') - Рф~Л (Уа) - м [р*_д (у^) | уТ] = о (1) А (ф' = t — А — сА, 0<с<оо). Учитывая определение видим, что это условие выполня- ется, если min М [Cft (utt, zx) | z/Г] — M {min M [Ctx (ut-_, zx) | y*a Л] | Уа} -> О utt utt при t — \ — ф' —» 0 (т £ [/ — А, /]). Последнее соотношение спра- ведливо, поскольку М [Cft (ы«, гх) | yi ] — М [С« (urt, zx) | у‘а~*] 0 (п. н.) при/—А — ф'->0. Тем самым регулярность проверена. Кро- ме того, Ai [Oft (Uftt Zt) | Уа ] AI [Cft (U/t> Zt) | Уа ]~* 0 (п. H.) при A —> 0, поэтому в процессе предельного перехода экстре- мальная функция {«rt}( соответствующая ф‘у и определяемая из условий г/*+Чи/*+х, №) = pA+1 (*/?*), дает риск, стремящийся к lk ‘k ‘к риску оптимального управления, определяемого минимизацией min М [Crt (utx, гх)\у*а]. и Если для этого оптимального управления выполняются условия измеримости и интегрируемости по t и т (см. (9.1)), то оно, действительно, соответствует минимальному итоговому риску. Итак, оптимальная оценка utt отыскивается в результате ^минимизации выражения stt (Щх I <4) = AI [Cft zx)! = J Ctt (utt, zx) P (dzt | y*a). (9.4)
Поскольку функция Ctx (utx, zx) задается условиями за- дачи, для нахождения алгоритма dtx (у*а ) = utx оптималь- ной фильтрации требуется знать, как апостериорные вероят- ности Р (dzx | у) выражаются через наблюденный процесс. Этот вопрос для марковского процесса Zt уже исследовался в главах 5—7. Здесь мы применим полученные там резуль- таты. В некоторых важных частных случаях в качестве меры Л (Л) можно брать меру FZ(A) = P’ если (т. е. Ft = b(x-t)). (9.5) I 0, если Тогда можно ограничиться лишь рассмотрением функций stt (utt I у) = J Cft (utt, zt) P (dzt I yt) (9.5.a) и апостериорных вероятностей P (dzt | у*а) = Wt (dz). Это приво- дит к упрощению проблемы фильтрации. § 9.2. УРАВНЕНИЯ И БЛОК-СХЕМА ОПТИМАЛЬНОЙ НЕЛИНЕЙНОЙ ФИЛЬТРАЦИИ В этом параграфе рассмотрим нелинейную фильтрацию без указанного упрощения. Основной процесс { zt, t<c Т} пред- полагаем марковским. Будем пользоваться обозначениями глав 5—7. Апостериорная вероятность Р (dzx | у*а) по-разному выражается через апостериорный процесс {Ws} при т > / и при т < t. Если x>t, то вероятность Р (dzt | у) может быть получена из Wt (dz) при помощи априорной вероятности перехода: P(dzT|zZ)= [^(dz)P(dZx^z) (т>0. z't Это выражение можно рассматривать как решение дифферен- циального уравнения duP(dza\yta) = (P(-\yta)dLpr](dzu), (9.6) t < и -С т при «начальном» условии Р (dzu I Уа) = Wt (dza) при u = t. Таким образом, можно определить P(dzT|^) при любом если сначала определена мера Wt(dzt).
Аналогично рассмотрим, как можно найти Р (dz01 yf), a <J. Для этого воспользуемся формулой (5.50): Р (dZa | у а) = W'a (dZg) V о (Za, Й). (9-7) Здесь функция правдоподобия Val(z, Й) является реше- нием уравнения (5.59) или (5.67) (где нужно заменить t, и на s, t и полагать s€[o, /]) при «начальном» условии Vs (г, й) = 1, если s = t. Инфинитезимальный оператор dL (s) указанных уравне- ний в свою очередь выражается через Ws. Итак, апостериорные вероятности P(dzx\yta), P(dza\yia), т>/, a <.t можно найти, если предварительно определен апостериор- ный процесс {Ws, s < £}. Последний же отыскивается как реше- ние уравнения (5.57), (5.61) или (5.66). После того как получены апостериорные вероятности, не- трудно найти выражения типа (9.4), а при помощи них и оп- тимальные оценочные функции. Описанный способ отыскания оптимальных оценок может быть осуществлен при помощи автоматически действующего устройства — фильтрующей системы. Ее блок-схема приве- дена на рисунке, где о</<т. Для конкретности остановимся на рассмотренном в гл. 6 частном случае процесса с несколькими состояниями. Исполь- зуя найденный там апостериорный инфинитезимальный опе- ратор, получаем, что основное уравнение нелинейной фильт- рации, определяющее апостериорный процесс {wa (/)}, имеет вид (6.31) dwa = WyPyadt + wa [аР- (а) — Mpsap-] dya— ---^-wa |[ар- (а) a# (а) — Mp?ap^<r] +
da., —£_(а)—М дУя PS йар/ дУя + [ар-(а)—Mpsar] дУл Ьр’0-Ьв’я (9.8) + + Блок I на рисунке моделирует» это уравнение и тем самым осуществляет преобразование наблюдаемого процесса {yt\ в. апостериорный процесс {ща(/)}. Если мера Ft (Л) имеет вид (9.5) (случай фильтрации без запаздывания и упреждения), то для получения оценки и.ц требуется лишь сконструировать блок И, который отыски- вает и выдает то значение utt, при котором выражение У ctt (utt, a) wa (t) ct достигает минимума. Если представляют интерес оценки utx, т > t, то нужно поставить блок III, который моделирует уравнение (9.6), т. е. уравнения dPa (U) = ру (и) Pyadt, t < U <Т v (ра (и) = Р {хи = a I £}) при «начальном» условии ра (t) = wa (t) (требуется, конечно, чтобы физически этот процесс протекал в другом временном масштабе — значительно более быстро). После определения р а(т) блок IV выдает оценку utx, соот- ветствующую минимуму выражения У Cfx а) Ра (т). а Наконец, рассмотрим устройство, служащее для получе- ния оценок Uta, о < t. Блок V запоминает прошлый процесс {Я’. s < и подает на блок VI в. разные моменты времени нужные значения этого процесса. Блок VI моделирует урав- - пение (5.67), имеющее в данном случае вид -dsH(a, Q) = pa₽Vs(P, Q)d/ + Ч- V*s (a, Q) {[ар-(a) — Mpsap<] b^a-dpa’ — ----[ap- (a) aO' (a) — Mpsap,fla,] 6^- —
<9-9> при «начальном» условии V‘t(a, £2) = 1 и при обратном течении времени (так же, как и блок III, в другом временном масштабе). На его выходе получается процесс Vl (а, £2). Блок VII образует комбинацию (9.7), т. е. апостериорные вероятности Р (ха = а | у$ = wa (а) % (а, £2). Последний блок VIII, отыскивая минимум выражения У Ctn (uta, а) Р (хо = а | у‘), а выдает оптимальную оценку utG. В частном случае процесса с двумя состояниями, рассмот- ренного в § 6.5, приведенные выше уравнения и выражения упрощаются. Так, уравнение (9.8) принимает вид (6.43), а уравнение (9.9) обращается в (6.44). § 9.3. ПРИМЕР АПОСТЕРИОРНОГО ПРОЦЕССА С БЕСКОНЕЧНЫМ ЧИСЛОМ СОСТОЯНИЙ Аналогично строится фильтрующая система и в том слу- чае, когда апостериорный процесс имеет бесконечное число состояний. Для простоты в дальнейшем будем ограничивать- ся случаем (9.5). В конце гл. 6 отмечалось, что полученные в ней резуль- таты могут быть распространены на тот случай, когда мар- ковский процесс {a (t) }может принимать значение из беско- нечного множества. Пусть а имеет смысл фазы узкополосного процесса и мо- жет принимать значение из множества [0, 2л]. Априори пусть фаза является чисто диффузионным процессом, т. е. описы- вается инфинитезимальным оператором dLpr(t) = ±dtD-^, (9.10) где коэффициент диффузии D постоянен. Наблюдается смесь узкополосного процесса До cos (<W+ + а (£)) с белым шумом, имеющим спектральную интенсив- ность 2N. Этот случай, как известно, можно формулировать так: наблюдаются два диффузионных процесса ] yi (t) },
^z/2(()}, которые при фиксированном а описываются пара- метрами сноса ai (() = Во cos а; а2 (0 = &о sin а и матрицей локальных дисперсий ьп М = (N ^21 ^22 / \0 N / Применяя формулы (6.47), (6.48) к данному примеру, по- лучаем апостериорный инфинитезимальный оператор dL*(t) — —dtD—---------I- ——^-(cos a d*y1 -4- sin a d*y2). ' ’ 2 да? N 1 Если его записать в форме dL* (t) = A*dt + Ар d ур, то, очевидно, Л* = — D——; Л* = -^-cos а; Л2 =sin а. 2 да2 N N Используем формулу (3.71), чтобы найти инфинитези- мальный оператор dL (t) = Adt + Apdyp. Она дает л л* 1 л* л* а 1 г-> & 1 -^о 2 1 . 2 А — А-------- ApAabpa = — D-------------cos2 а---------sin2a 2 р р 2 да2 2 N 2 N (А = 4). Следовательно, dL(t) = dtD(cos a dyt + sin a dyz)--^-dt. (9.10) Теперь мы можем записать основное уравнение оптималь- ной фильтрации (5.57), (5.61), (5.66), определяющее апосте- риорные вероятности Wt, которое соответствует блоку I на рисунке стр. 205. Если z ч Wp (da.) w (a) = —y-'- da апостериорная плотность распределения вероятностей, то со- гласно (9.10), (5.66) имеем dwt (“) = — dtD d-^2(a) + ~~ [(cos a — с,) dyr + + (sin a — Sj) dy2] wt (a), (9.11)
где обозначено ci = M.ps cos а = J cos a wt (a) da; st = Mps sin a = sin a wt (a) da. При фиксации начальной плотности, скажем тц0(а) =/ъ (a), это уравнение однозначно определяет апостериорную меру. Если задать критерий качества при помощи функции штрафа С (и, а), то мы можем найти теперь оптимальное оценочное значение и (t)=a0 (0 = dt (у£) неизвестной фазы (здесь dt — решающий алгоритм). Оно соответствует миниму- му выражения: . min J С \и, a)wt(a)da — j С (a0 (/), a) w((a) da. (9.12) Выберем для определенности квадратичный критерий каче- ства по отношению к узкополосному сигналу B0cos(coo/ + a). Именно, положим C(u,a)=---^- f [B0cos (coof-j-«) — Bo cos (co0f -ф a)]2 dt' = 2л J t = Bq [1 — cos (u — a)]. Тогда в (9.12) минимизации будет подвергаться выражение J С (и, a) wt (a) da = Во [1 — cxcos и — sx sin и]. (9.13) Минимум этого выражения находится без труда. Оценочное значение фазы определяется соотношениями tg a0 = -f; sin a0 = - _ Cl К S] + cf Следовательно, оценочный, т. e. отфильтрованный узкополос- ный сигнал можно записать s0 (f) = Во cos (соо£ + ao) = Во С1 cos — V -Во .-4-^ sin (9.14) V 4 +с? Оконечный блок II на рисунке выдает оценочное значение фазы ao (0 = аге tg — или отфильтрованный сигнал (9.14). ci
Чтобы облегчить конструирование блока I (см. рис.), уравнение (9.11) для плотности распределения wt (а) может быть заменено на эквивалентные уравнения, записанные для совершенно других параметров, заменяющих wt (а). Так, .на- пример, можно ввести параметры s„ (/), с„ (t), п=1, 2, ..., оп- ределяемые формулой wt (а) = 4- — У ($„(/) sin па + сп (t) cos па), (9.15) л=1 т. е. 2.тг sn (t) = Mps sin па = J sin na wt(a) da-, о 2л cn (t) = cos na wt (a)da. (9.16) 6 Подставляя (9.15) в (9.11) и приравнивая порознь члены, соответствующие различным функциям sin па, cos па, полу- чаем для параметров (9.16) систему уравнений rfsj = — Dsydt 4- dyr (s2 — 2$^) + -^~dyi(l —с2 — 2sf); Dc.dt + dyY (1 4- П - 2^ + 4-^-d//a(s2-2s1C1); (9.17) dsn = — y Dn2sndt 4- dyv (s„_i' 4- s„+i — 2s„cJ 4~ + (c«-i ~ cn+i—2sa); dcn = — Dn2cndt + dy± (cn+1 4- cn^ — 2C1c„) 4- + dy2 (s„+i ” sn-i — 2sA)> n = 2, 3, ... Она эквивалентна уравнению (9.11), и блок I может быть синтезирован в соответствии с этими уравнениями. Начальное распределение естественно выбрать равномер- ным. Это соответствует нулевым начальным условиям: s„(U=0; с„(/о)=О, п = 1,2, ...
Процессы (t) Ci (t), вырабатываемые в блоке I, можно непосредственно использовать для воспроизведения отфиль- трованного сигнала в соответствии с формулой (9.14), а так- же для оценки качества фильтрации. Из (9.13) имеем М [С(а0) а) | = В20 [1 - ]/s2 (0 + <Ш МС(а0, а) = ^М[1 - j/sf(0 + c|(0]. Следовательно, зная Si (t), Ci (/), можно судить о величине средних штрафов. § 9.4. ДРУГИЕ ПРИМЕРЫ ПРОЦЕССОВ С БЕСКОНЕЧНЫМ ЧИСЛОМ СОСТОЯНИЙ 1. Пусть теперь априорный процесс {xt} является одно- мерным марковским процессом на прямой и описывается ин- финитезимальным оператором dL (0 = Г — — + а (х) —> dt ргУ \ 2 дх* v ' дх J (Ь константа). Наблюдается сумма его и белого шума, или, это по существу то же, наблюдаемым является процесс t yi(t) = ^x(x)dx + Z(t), (9.18) to где t, (t)—винеровский процесс: Mg = 0; МА£2 = АДЛ Оче- видно, что процесс (9.18) имеет параметр сноса = х и ло- кальную дисперсию Ьц — N. Используя, как и в § 9.3, формулы (6.47), (6.48), а также (3.71), находим апостериорные инфинитезимальные опера- торы dL’(t)=dLpr(t) + ±-x d'lfa dL (t) = dLpr (t) + A- x dyt — ~ x2dt. Поэтому основное уравнение (5.66) оптимальной фильтра- ции, определяющее апостериорную плотность распределения, имеет вид dwt (х) = ^-b — dt [а (х) wt] + ~ [х — Mpsx] wt — Za (J X UX /у -^7[^2-Mpsx2]^, (9.19)
или, короче, b d2wt д . , . . . w ( • г , w =--------------[а (х) w] + —.\у, [х —М_.х] — 2 дх2 дх ' N 1 1 ps -^-[x2-Mpsx2]} (MPs ••• = J ...w(x)dxy 2. Рассмотрим несколько более сложный случай. Пусть процесс {х (/) } такой же, что и в предыдущем пункте, но на- блюдается не его сумма с белым шумом, а сумма y(t) = x(t) + ltf) с экспоненциально-коррелированным гауссовым процессом g(Z) (М g (/) = 0; Мg(t) l(t + т) = cr2e—Plrl). Последний является мар- ковским и описывается инфинитезимальным оператором (dL = 0 (а2 — - g — dt или уравнением p-Mg + gd/ = dg (9.20) /М£ = 0; MAg2 = MM = 2 — Д/1 \ ₽ / Двумерный процесс (x (t), y(t)), естественно, также мар- ковский; он имеет параметры ах = а (х); ау = а (х) — pg = а (х) — р (у — х); (Ьхх ьхи\ (ь ь \ \byx byJ \bb + 2^)' Мы видим, что наблюдается один компонент двумерного марковского процесса, поэтому данный пример относится к тому случаю условного марковского процесса, который ис- следовался в гл. 7. Более того, он является частным случаем (при a' (g) = — pg и постоянных b,b') первого примера из § 7.3. Конкретизируя приведенные там формулы, имеем (Ь + 2рст2) dL (t) = b^dt + [bdy + (2ро2а (х) — — bp-x + &p^)d/J-£-4-(a(x)+px—p^)p^ — -i-(a(x) + + рх — р^) dfl - -у- Гб — 2р2о21
и Ё—. _____Гf by г> + 2₽02 дх- дх [Дг> + 2ра« . а 2о2а (х) — bx-\-by \ 1 . . с >. п 4- р-----) а> + Г — М„,Г W 1 Ъ + 20а2 J J (b + 2₽<т2) F = [а (х) + 0х] (у + $у)----- [а (х) + 0х]2 — J_ ь да(х) 2 дх ’ (9.21) Можно показать, что уравнение (9.21) с вероятностью 1 переходит в уравнение (9.19), если совершить предельный переход 0 -> со, но так, чтобы величина 2<т2/0 = N оставалась постоянной. При этом нужно учесть, что $~ldy 4- ydt = 0~1dx + xdt-}- 0-Idg + £,dt обращается в дифференциал dyi процесса (9.18), так как 0~'<ix + xdt обращается в xdt, а выражение (9.20) есть диф- ференциал винеровского процесса. 3. Любое из уравнений (9.19), (9.21) можно записать в виде w (х) =в - 4- tG w + f77 W w- <9-22) дх2 дх к Будем выбирать оценочное значение х, (/) = dt (у сиг- нала (d/(-)—решающая функция) по критерию максималь- ной плотности вероятностей, т. е. выбирать «наиболее вероят- ное» значение. В этом случае удобно положить ОО ^(х) = ехр(с(0 — У h (t) [х — х0 (014 (9.23) V п\ J п=2 и заменить уравнение (9.22) на систему уравнений для пара- метров х0 (t), h2 (t), h3 (t),.... Заменяя (9.22) на уравнение для In wt (x), подставляя (9.23) и приравнивая члены разложе- ния по различным степеням (х — х0)п, получаем систему урав- нений — /z2x0 = Bh3 — G (х0) -г -ут ~~ дх2 дх п—1 /гп+1Х0 = Bhn-j-2 В —— ' —— — k\(n — k)\ fe=i
п—1 dkG , .t, , d"+G , x dnF , . ,.n —-----— —v Uo) Vu + - (x0) — — (x0), (9.24) (fi — k)\ dxk dxn+x k=o n>2. При отсутствии начальных сведений начальные значения па- раметров hn можно полагать нулевыми h2 ((о) = h3 (t0) = ... = = 0. Оптимальная фильтрующая система работает в соответ- ствии с приведенными уравнениями и дает на выходе оце- ночное, т. е. отфильтрованное значение сигнала х0 (t). Как видно из (9.22), оно (при h2 > 0) действительно соответствует максимуму функции Wt (х). Величина второго параметра /г2 (0 позволяет судить о качестве фильтрации, показывая степень апостериорной точности. § 9.5. ПЕРЕХОД К ЛИНЕЙНОЙ ФИЛЬТРАЦИИ 1. Как видно из примеров, приведенных в § 9.3, 9.4, ос- новное уравнение оптимальной фильтрации часто записы- вается для бесконечного числа переменных: плотности рас- пределения вероятностей или заменяющего ее счетного мно- жества параметров. С точки зрения практического осуще- ствления фильтрующей системы, конечно, желательно иметь дело с конечным числом переменных. Это может быть достиг- нуто путем «квантования» фазового пространства условного процесса (замены его на пространство с '"конечным числом состояний) или путем обрывания цепочки уравнений типа (9.17) или (9.24). Конечно, в общем случае указанные приемы связаны с ухудшением качества фильтрации. В некоторых особых случаях, однако, уравнение для плотности распределения без каких-либо погрешностей может быть заменено на уравне- ния для конечного числа параметров, в точности ему экви- валентные. Это имеет место, когда апостериорная плотность распределения является в точности гауссовой. Рассмотрим многомерный аналог уравнения (9.22), имею- щий вид w = w] ~ (х) J (9.25) где Вар (х), Ga(x), F (х) некоторые функции времени t и точки х= (xj,..., хг) r-мерного пространства Rr, определяе- мые теорией условных марковских процессов. Уравнения по- добного типа получаются, в частности, в тех случаях, кото- рые рассматривались в гл. 7 и в конце гл. 6 (если a(Z) —диф- фузионный процесс).
Сформулируем условия, при которых апостериорная плот- ность wt (х) будет гауссовой, если гауссовой является на- чальная плотность wt0 (х). 9.1 .А. Элементы матрицы Ва$ постоянны (не зависят от х); 9.1. Б. Функции Ga (х) = ga 4- GupXp линейно зависят от х; 9.1. В. Функция F (х) = fFaxa Ц—Fа$хахр зависит от х линейно и квадратично. Тогда, подставляя wt (х) = ехр |с (/) — ~ У ha& (ха — та) (х& — /п₽)| (9.26) а,р в (9.25), по аналогии с (9.24) получаем уравнения Йф (m)] = (т); иха == 2/zaYBYg/iep hayGy$ h^yGya Fa$. (9.27) Этим уравнениям соответствуют начальные условия Ша (4) ~ ^a> (А>) == йф, где та, Аар — параметры начального гауссового распределения; wt„ (х) = const ехр ~ ha&(xa — та) (хр — тр) Вводя обратную матрицу 11М1ММГ. уравнения (9.27) можно преобразовать к виду • dF та— Ga (т) + ka$ , (т) = ga 4~ ka$F$ -J- (Gay -J- ka$FpY) mY; (9.28) йгр— 2Bap 4- Gaykyfr -J- Gfiykya 4- kayFy^kf,^. Обычно при выполнении требований 9.1.А—В оказываются зависящими от наблюдаемого процесса {у(0} (и притом ли- нейно) лишь функции ga, Fa . В соответствии с этим урав- нения фильтрации (9.28) будут определять линейное пре- образование наблюдаемого сигнала {//(/)} в оценочный сиг- нал {tn (t) }. Таким образом, в этом случае указанные урав- нения определяют линейную оптимальную фильтрацию, но, вообще говоря, нестационарную.
2. Обратимся к примерам § 9.4. Условия 9.1.А—В будут выполнены для уравнений (9.19), (9.21), если а (х) линейная функция, скажем а (х) =v—ух. Тогда в (9.22) для (9.19) В = ~ b; G (х) = v — ух; F = \^ху-----i- х2^ и уравнения (9.28) принимают вид (9.29) k 2yk = b------— (т = х0). Обратимся к другому примеру, т. е. к уравнению (9.21). Для него . q (х\ = 2Pg2v + Ну + Ру) — Р (6 + 2уст2) х . Ь + 20а2 ’ ' ' Ь + 2₽стз (Р — Y) (у + Ру — v) X — (Р — у)2 X2 Ъ + 2₽а2 Поэтому уравнения фильтрации (9.28) дают ’ _ р + 2у<т2 , 2₽<t2v + у (у + Ру) , Р + 2ра2 р + 20а2 + £-Тд_~У2 - 1у + $У~ V — ф — у)т]; р + 2ра2 о (9.30) ; = 2йрЯ2 _ 6-|~ 2уст2 о, _ (P-Y)2 Л.2 V Ь + 2(3ст2 b + 2ря2 Р /> + 2ра2 Особый интерес представляет стационарный режим филь- трации, когда параметры процессов не зависят от времени, а момент начала работы устремляется в далекое прошлое: t—t0-+oo. Тогда апостериорная дисперсия k обращается в постоянную, которую можно найти из уравнений фильтра- ции, приравнивая нулю производную k. Разрешая получаю- щееся квадратное уравнение, находим, что для случаев (9.29) и (9.30) стационарная дисперсия соответственно равна k^Vy^ + Nb-yN; (931) k =- ф — У)~2 [)/ф + 2усг2)2 р2 + 26ро2 ф — у)2 — (Ь + 2усг3) £]. В описанном стационарном приближении данное решение проблемы фильтрации по результатам совпадает с решением, которое может быть получено при помощи теории линейной
фильтрации Винера. Изложенный путь решения, явно исполь- зующий марковские свойства процессов, требует, однако, меньших вычислений. Еще более существенны! преимущества данного метода при рассмотрении нестационарного режима фильтрации. Формулы (9.28) дают решение проблемы также при конечных временах работы t—to и при параметрах процес- сов, меняющихся во времени. 3. Рассмотрим важный случай многомерного условного марковского процесса, когда требования 9.1.А—В являются выполняющимися. Именно, пусть имеется (т + Г) -мерный диффузионный процесс {гД и наблюдается I его компонентов, как это было в гл. 7. Но дополнительно предположим, что ло- кальные дисперсии bjk не зависят от z, сносы зависят ли- нейно: a^z, t) = vy + djkzk, j = , m + l и c = 0 (можно полагать, конечно, с = с0 + с3- Zj +-| сЛ z,- zh, но с практической точки зрения это мало интересный слу- чай) . Чтобы записать апостериорный инфинитезимальный опе- ратор и уравнение (9.25) для данного случая, остается лишь воспользоваться формулами (7.16), (7.19). При сделанных предположениях ряд членов в этих формулах выпадает, и мы имеем 2-Вар — bap ba0'bgr^,bp'p', Ga (х) = аа (х, у, t) + ly<y — а<у (х, у, 01 = — dany^ 4~ ^ар'^р'а' (Уо' 'va' ^а'п//л) “Ь 4~ (dafi bap'bp’O'da’$) Л-р, (9.32} Р (х) =-----byb-^.dc’j + (vp< + d^-пУп + dp-axa) b-l0, (ya- — 1 1 Л 1 , ч 2 2 dayy^ ао-рЛ'р). Условия 9.1.A—В оказываются выполненными, апостериорная плотность распределения является гауссовой и мы без труда можем записать уравнения (9.28) для ее параметров: та = Ga (tn) + [ус- — ао, (т, у, /)] d^k^ = = О.а (tn, у, t) 4“ [z/a- da’ (tn, y, /)] bay [Zzp'a dp'fj&pali &ap = 2BaP Ч- (day Ьщ^Ьу'^. d(j'y) A?yp "V" (^₽T b^^'bf-a’da’y)kya kay d^’yb^.g. (9.33)
Приведенные раньше уравнения (9.30) являются частным случаем этих формул. Наблюдаемые координаты {z/P} и апостериорное распре- деление вероятностей wt (х) для остальных координат обра- зуют в совокупности согласно теореме 5.9 вторичный мар- ковский процесс. Поскольку апостериорное распределение Wt(x) определяется параметрами {цга}, {^ар} , причем изме- нение параметров носит неслучайный характер и мо- жет быть вычислено заранее, целесообразно заменить Wt (х) на апостериорные средние {mu}. Тогда останутся лишь пере- менные {та, ур}, которые в совокупности и будут составлять вторичный апостериорный марковский процесс. Этим пере- менным соответствует, как нетрудно получить из (9.33), вто- ричный апостериорный инфинитезимальный оператор = йа (m, + а, (т, y,t)^~ + ИЛ (I Р 1 д2 + у + d?^kya) b~^ (bo^ + дх^ д~ + + (bp.a + d?.&k&a) дхд«д-- + у Ья, дуд^ - (9.34) (функции (/) предполагаются известными). Вторичный марковский процесс {та,ур} протекает в том же (т -ф /)-мерном пространстве, что и априорный процесс z={xa,yp}. JJ, § 9.6. СРАВНЕНИЕ ЭФФЕКТИВНОСТИ ЛИНЕЙНОЙ И НЕЛИНЕЙНОЙ ФИЛЬТРАЦИИ ДЛЯ ОДНОГО ПРИМЕРА В настоящем параграфе будет рассмотрена нелинейная и линейная фильтрация марковского импульсного сигнала с двумя состояниями ц (/) = ±1, смешанного с белым шумом, при среднеквадратичном критерии. Априорные вероятности Р { т) (/) = ± I } = pi,2 пусть удовлетворяют уравнению Pi = — Pi = — РА + W (9.35) где (х и v постоянны. Наблюдается процесс t y(t) = ^1(т)л + ио (9.36) а — винеровский процесс; = 0; МА£2 = NAf). 1. Нелинейная фильтрация. Данный пример является ча- стным случаем процесса с конечным числом состояний, рас- смотренного в гл. 6 и § 9.2. Основное уравнение нелинейной фильтрации имеет вид (6.43), причем теперь ур= у, ар (1) = 1;
ар (2) = — 1, bpa=N. Если ввести обозначение Ю1 — £>2 = = z, то указанное уравнение примет вид z = v— р. — (ц 4- v) z + (1—z2)y. (9.37) Отсюда видны те преобразования, которые нужно совершить над {y(t)}, чтобы получить {z(t)\, а следовательно, и апосте- 1 ± z риорные вероятности ^i,2 = —-—• Пусть и (t) = т]9 (f) —оценка сигнала т] (/), соответствую- щая среднеквадратичному критерию качества. Тогда, оче- видно, По(О=М[ц(О|^]=г(О (9.38) и средний штраф, рассчитанный на единицу времени, равен Гнел = М {[П (0 - По а)]2} = ММ О) - Но Ж | Уа} = = М[1—г2(01. (9.39) Формулы (9.37), (9.38) дают в данном случае решение за- дачи нелинейной фильтрации при отсутствии опережения и запаздывания (случай (9.5)). Для полноты изложения приве- дем решение задачи также при наличии опережения или запаздывания, т. е. укажем способ отыскания оценок М[н(т) | pH, т>/ и М [г](ст) |о</. Решение уравнений (9.6), (9.35) при начальном условии Pi,2(Z) = аУ1,г(О в Данном случае находится без труда. Оно име- ет вид М [ц (т) | уг] = —-—— 4- Гz (t)--—— 1 е~, т Д> t. а и +v. L и +v J Далее, в противоположном случае о <" t, применяя формулу (9.7), имеем P{n(n) = l|^=-=-1±fl£LVi(l,Q); (9.40) Р(п(о) = -1|^} = ^=^^(-1,Й). (9.41) Если обозначить Р'(1, й)-У((-1, Q) =ц($) и использовать тот факт, что сумма выражений (9.40), (9.41) равна единице: ± Гй(1, й) + Й(- 1, Q)1 + ~2(S) u(s) = 1,
то будем иметь Vs(± 1,Й) = 1—yZ(s)o(s)±2-o(S) и, следовательно, м [Т] (а) | У*а] = Va (1, О)--Иа (-1, Й) = = z(<7) +~о(о)[1 — z2(o)]. (9.42) Входящая сюда функция z (о) определяется уравнением (9.37), а для функции v (s) из (6.44) получаем уравнение • 9 _ V (s) = — (и + V) V (s) + — [1 — z (s) V (s)] у (s) (s < t) при обратном течении времени и при «начальном» условии v (t) = 0. Качество оценки (9.42) по среднеквадратичному критерию определяется формулой < 1 Л 2 м {[T] (а) — По (tf)l21 Уа\ = 1 — (г (а) + У v (°) 11 — (а)1) • Возвращаемся к фильтрации (9.38) без опережения и за- паздывания. Вычислим средний штраф (9.39) в единицу вре- мени для установившегося стационарного режима фильтра- ции. Уравнение (9-37) определяет процесс { z (/)} как некото- рый «вторичный» апостериорный марковский процесс. В ста- ционарном режиме фильтрации он является стационарным. Если через рСт (z) обозначить стационарную одномерную плотность распределения вероятностей этого процесса, то средний штраф (9.39), очевидно, можно записать 1 гяел = J (1 — z2)pCT(z)dz. —1 (9.43Y Найдем стационарную плотность рст (z). Как отмечалось в гл. 6, «вторичному» апостериорному процессу { W\, у} соот- ветствует инфинитезимальный оператор (6.46), имеющий в данном случае вид -дг- = — R>i) -т— + (®i — ®2) + dt dw^ ду N 1 z dw^ + dwi ду 2 ду* (0У2 = 1 — WJ.
Ввиду .того 2 что коэффициенты vw2— цащ, •— wW не N 1 2 зависят от у, одномерный процесс {и\} сам по себе оказы- вается марковским и имеет, очевидно, инфинитезимальный оператор = (vw2— pwj—— + 4- (9-44) dt dwt N 1 2 dtf Производя замену переменной z = w1 — wa = 2wr — 1, нетрудно получить, что в данном случае уравнению (9.37) соответствует инфинитезимальный оператор dt 2N dz2 dz процесса {г(/)}. Записывая уравнение Фоккера — Планка • 1 Л2 Л Р(2) = — —- [(1 — z2)2p(z)] — {[V — (X — (н + v)z]p(z)} 2.V dz2 dz и приравнивая нулю производную рст = 0, обычным спосо- бом получаем стационарную плотность распределения 2 Ра & dz = ехр {2^ J [V - И - (н + v) X] dz. (9.45) Удобно ввести новую переменную <р при помощи формулы —!— = ch2 -~ = — (1 + chq>). 1— z2 2 2 V 7 Тогда стационарное распределение (9.45) будет иметь вид Рст (ф) <^ф = const (ch ф + 1) ехр — ц) (sh Ф + ф) — — — (р + v) ch <p| dtp. Используя (9.43) и взяв получающиеся интегралы при помощи известной формулы 6.444.1 справочника И. М. Рыжика и И. С. Градштейна [1], находим гнел = М (1 — z2) = __________________4К? (N |/р^)_____________ 2Kq (N + j/^ ^+i (N /РО + J/^~ И'^) (q =
В симметричном случае p = v имеем _ (Ц.У) /д нел Ко^ + КЛцЛ’) ’ При малых аргументах цУ<<С 1 эта функция определяется приближенной формулой гн = 2рУ1п —+ О рАПп-Ц—Y ], у = 1,781...'. (9.48) YpW L ll,v / J При дальнейшем возрастании аргумента цУ она увеличивает- ся до единицы. 2. Линейная фильтрация. При линейной фильтрации опти- мальное преобразование т]о (0 =dt (у*а) ищется в классе ли- нейных преобразований. По-прежнему берем среднеквадра- тичный критерий оптимальности. Оптимальное преобразова- ние можно находить путем решения соответствующего урав- нения регрессии. В это уравнение входят лишь корреляцион- ные функции сигналов ц (/), у (t). В данном случае, как не- трудно убедиться, корреляционные функции имеют вид WT) = 4yv -e-^+v)W; k^y (т) = ^(t); (fi + v) (9.49) kyy(t) =Й11п(т) + Ж(т). Уравнения регрессии в данном негауссовом случае совпа- дают с уравнениями для гауссовых процессов т] (I), у ((), имеющих те же самые корреляционные функции. Поэтому оп- тимальное линейное преобразование совпадает с оптимальным линейным преобразованием для описанных гауссовых процес- сов. Следовательно, чтобы найти оптимальное линейное пре- образование, можно предполагать, что процессы т] (/), У (t) являются гауссовыми и имеют корреляционные функции (9.49). Поскольку такие процессы являются марковскими, при этом снова можно применять теорию условных марковских процес- сов, но уже в том плане, как она изложена в § 9.5. Итак, будем считать, что { ц (t)}—гауссов марковский процесс с корреляционной функцией (9.49), т. е. процесс, со- ответствующий инфинитезимальному оператору dL г = Г 4—----------(|х + v) т] — 1 dt. Р [ Ц + V <ЭГ]2 J Наблюдается его смесь (9.36) с белым шумом. Этот случай уже был рассмотрен в п. 1 § 9.4 и в п. 2 § 9.5. Согласно (9.29) оптимальное линейное преобразование имеет вид По + (И + v) По + ~ По = ~ У- (9.50) где £+2(|i + v)£ = -^---------k~. ц + v N
В стационарном режиме апостериорная дисперсия k (t) при- нимает свое стационарное значение k =йст-]/ (р + v)2№ + -^~ (p + v)W (9.51) И + т (см. (9.31)). Легко понять, что средний штраф М.{[ц (/) —(012 I Уа}> приходящийся на единицу времени, совпадает для гауссовых процессов с апостериорной дисперсией k(t). Поскольку она не случайна, повторное усреднение не вносит никаких изме- нений и глип = М [ц (0 - по (О)2 = 1/ (В + v)2№ + - (р + v) N. (9.52) Такой же средний штраф имеет место и для исходного не- гауссового процесса, ибо он имеет такие же вторые моменты. Разумеется, результаты (9.50), (9.51) можно получить также на основе теории Винера. 3. Сопоставим ошибки (9.46), (9.52) линейной и нелиней- ной фильтрации. Поскольку при нелинейной фильтрации класс преобразований, среди которых ищется оптимальное, ничем не ограничен, а при линейной фильтрации ограничен линейными преобразованиями, нелинейная фильтрация заве- домо не хуже, чем линейная, и, следовательно, гнел -< глин. Представляет интерес, однако, вопрос о том, насколько гнел, меньше, чем глпн. Ограничиваясь симметричным случаем, ц = v, для линей- ной фильтрации (в противовес формуле (9.47)) из (9.52) имеем глин = 2 + ИА( - 2ИА(, в частности глин = 2/^+0(ИА() при 1. Сравнение этого выражения с (9.48) дает In — Г1 + О ((pAf)1/’)] • Глин YH'V L J Следовательно, 0 при pJV 0, СПИН т. е. при малых помехах эффективность нелинейной фильтра- ции оказывается намного выше, чем линейной.
Глава 10 ЗАДАЧИ НА ОПТИМАЛЬНОЕ ПРЕКРАЩЕНИЕ ПРОЦЕССА Рассмотрим несколько более общий случай управляемого процесса, а именно случай обрывающегося процесса. Пусть теперь кроме принятия оценочных решений (фильтрация) тре- буется выбирать оптимальный момент прекращения процес- са. При такой постановке теория, рассматриваемая в настоя- щей главе, является, с одной стороны, обобщением теории оптимальной фильтрации, изложенной в гл. 9, а с другой сто- роны, обобщением последовательного анализа Вальда [1]. Обобщение идет по двум направлениям. Во-первых, рассмат- ривается случай непрерывного времени и выводятся соответ- ствующие ему дифференциальные уравнения для рисков. Во-вторых, производится синтез последовательного анализа и оптимальной фильтрации (принятие оценочных решений в течение процесса и в момент его остановки). Эти обобще- ния проведены автором в [15]. Дифференциальные уравнения для рисков при непрерыв- ном времени применительно к задаче Вальда рассматрива- лись Михалевичем [1, 2]. С точки зрения развиваемой здесь теории задачи, изучавшиеся Вальдом и Михалевичем, являют- ся вырожденными, поскольку в них отсутствуют априорные пе- реходы (см. Дополнение, стр. 292). Если допустить подобные переходы, то решение этих задач затруднится, и в них трудно будет обойтись без применения теории условных процессов Маркова. В § 10.6 в качестве примера исследуется задача отыска- ния оптимальной остановки процесса на два состояния. До- пускаются переходы между ними. Решение проводится при помощи теории условных марковских процессов и в резуль- тате находится функция риска и границы области остановки при различных значениях параметров задачи. Поскольку дан- ная задача является обобщением задачи Вальда, то получен- ные результаты, если запретить априорные изменения состоя-
ния, переходят в соответствующие результаты Вальда и Ми- халовича и результаты Дополнения. Рассмотренная в § 10.6 задача, кроме того, в другом ча- стном случае (когда имеются односторонние изменения со- стояния) превращается в бейесовский вариант задачи Кол- могорова и Ширяева, доложенный ими на VI Всесоюзном со- вещании по теории вероятностей и математической стати- стике (Вильнюс, 1960 г.). Небейесовское решение этой за- дачи, полученное без использования рекуррентных диффе- ренциальных уравнений для рисков, опубликовано в работах Ширяева [1—3]. Бейесовское решение (средний риск и гра- ницы областей остановки, как функции параметров задачи) было найдено Стратоновичем [15]. Оно изложено в п. 4 Допол- нения. Эти результаты, естественно, получаются как частные случаи результатов § 10.6. § 10.1. ПОСТАНОВКА ЗАДАЧИ. ФУНКЦИЯ ШТРАФОВ Обозначим через О’€ [я, &] момент прекращения процесса. Пусть функция штрафов имеет вид 9 c(®) = Jctt J Ctxiutx, zx)Fx(dx) + J C'^x(u’w zx) F'^dx). (10.1) a Kt T<9 Здесь Ctx(uix, zT), Ft(dx) имеют тот же смысл, что и в формуле (9.1). Функция С'(и'п,гх) и мера F’t(dx) имеют аналогичный смысл: C'tx (u'tx, zt) есть функция от utx и zx, F* (dx) есть мера на борелевских множествах некоторого (вообще зависящего от О) подмножества интервала (а, О]. Условия измеримости и инте- грируемости предполагаются выполненными. Оценочные функции управления щх, ийх предполагаем несвязанными (§ 8.1), т. е. предполагаем независимый выбор оценок. Чтобы привести данную задачу к той общей задаче, которая была сформулирована в § 8.1, вместо момента вре- мени 0 будем рассматривать ступенчатую функцию ut = 1 при t < б1; 0 при t > О (10.2) как компоненту управления ut. Функцию штрафов (10.1), оче- видно, при этом можно записать с (со) = [ dt ut J Ctx (ии, zx) Ft (dx) — \ dut \ C'tx (u’tx, zx) F't (dx). T T (10.3) Установим соответствие управления в данной задаче с по- нятием управления § 8.1. Если управление считать продол-
женным на интервал 1'0*, &], то, очевидно, можно полагать = ut, щ. при ut = 1, Uf+o = 1; ut, ut. при ut — 1, «f+о = 0; ut при ut — 0. (Ю.4) Здесь и в дальнейшем точка записана вместо второго индек- са т и обозначает, что он пробегает всевозможные значения. Такое управление является связанным. Если иг=\, то управ- ление u® (r<s) может быть или функцией {ut., [г, s]} (когда процесс не обрывается на [г, s]), или тройкой О’, {щ., t ( [г, fl’)}, и®. (когда процесс обрывается в момент ФС [г, s]). Если же ur = 0, то никакой свободы выбора управления уже не остается. Об- ращаясь к определению 8.1, видим, что данный процесс уп- равления есть марковски связанный процесс, и к тому же яв- ляется простым вырожденным случаем такового._Роль мар- ковской координаты играет функция (10.2): Ut = Ut. В выражения (10.1), (10.3) входит основной процесс {zt}. Условия, наложенные на z *, определяют о-алгебру кото- рая предполагается не зависящей от и и z Фиксация управ- ления usa задает вероятности Р (Л | «®) событий Л€ <AS (и*) , связанных с этим процессом. Здесь можно подходить двумя способами. Можно представить себе, что процесс {zt} дей- ствительно обрывается, и считать, что t>Zs=2’™in <s'6). Ина- че же можно считать, что процесс {zt} не обрывается, но прекращается всякий контакт с ним. Тогда можно полагать t>lsZDSb, как это было в гл. 9, и снять ограничения x<t и т<’0‘ в формуле (10.1). Остановимся на этом варианте, в нем события (£>&) имеют гипотетический харак- тер. Меру считаем не зависящей от управления: Р(Л | иа ) = = Р(Л), Л€ 3>ь. Отсюда следует, что в этой главе не рассмат- риваются задачи, относящиеся к динамическому программи- рованию, в которых выбор управления существенно влияет на ход основного процесса. Наблюдаемый процесс {t/z} считаем зависящим от значе- ния основного процесса в тот же момент времени: yt = yt (zt), так что Берем практически наиболее интересный ин- декс решения <p (/) — t.
f Cfx (utx, Zx) Ft (dr) J dut J Crt (^rt> zt) Ft (dr) § 10.2. ДОСТАТОЧНЫЕ КООРДИНАТЫ И УСЛОВНЫЕ РИСКИ В соответствии с определением 8.5 кроме функции штра- фа (10.3) будем рассматривать функции «прошлых штрафов» t __ t cf (<n) = J dtut (10.5) (cft(ffl) = c(®)). Введем достаточные координаты данной задачи. Основной процесс {zj будем предполагать марковским. Поэтому к исследуемой задаче, учитывая, что управление (10.4) является марковски связанным, можно применить тео- рию, развитую в п. 2 § 8.7. Проверим выполнение условий 8.10. А—Д. Выполнение (8.64) отмечалось ранее. Кроме того, указывалось, что 2>*(u, zsa) не зависит от и, zsa. Это являет- ся более сильным условием, нежели (8.65). Поскольку ме- ра Р на 6 не зависит от управления, марковское условие P(A|^) = P(A|2Q, А(^ также является более сильным, что 8.10.В. Условие 8.10.Г вы- полняется, поскольку наблюдаемый процесс yt = yt (27) не зависит от и. Остается проверить 8.10.Д. Чтобы разность cs — cr = J dtut JCrt (««, zx) Ft (dr) — [ dut J C'tx (u^, zx) F't (dr) r r была Uf£br -измеримой, очевидно, достаточно, чтобы каж- дая мера Ft (Г) и F't (Г) обращалась в нуль на множествах ГС [а, I). Предполагаем, что это условие выполняется. В ча- стности, это имеет место в важном случае, когда мера Ft и мера F't имеют вид (9.5). Вследствие выполнения указанных условий мы можем применить теорему 8.11, согласно которой в качестве доста- точных координат берутся апостериорные вероятности Wt (или заменяющие их параметры), а также координата щ. Последняя принимает одно из двух значений 1 или 0, поэто- му урезанный условный риск Sz(co ] %t) =St (ut, Wt) есть в данном случае пара функций S,(l. Wt), St(0, W(). Нетрудно записать рекуррентные соотношения (8.38) для урезанных условных рисков. Заменяя индекс <р (t) —t на сту- пенчатую аппроксимацию
<РЛ' (0 = tk ПРИ t k l*fe> ^+1) (tk+1 — tk<&) согласно (8.39) имеем St (ut , Wt.) = min M[</*+' — + li fZ К у __ + S/A+1 (ч+р Wtk+l)\utk^+l, W^]. (10.6) При ut — 0 выбора не остается и \(°, Wtk)=!А[с-с‘\щк= 0, Wtk} = 0, поскольку с — с* = 0 при />>'& в силу (10.5). При и* = 1 минимизацию по будем проводить в два при- ема: сначала минимизируем по {щ., [tk, ^.+i]} Q [tk, O’)) и при фиксированной функции «/*+*, а затем no «^+1, т. e. по •0 (> tk). На первом этапе минимизации, очевидно, имеем min М(с^+1-с^|1, u^.WtA = k Чг ‘k ffe+l __ <4+1 _ = J stutdt— J s'fdut, (10.7) *k *k где обозначено s' = C min M [Crt (utx, zx) | Wt] Ft (dr); J «rt k (Ю.8) = J min M [Crt (и/х, zx) | Wtk] Ft (dr). u'tx Подставляя (10.7) в (10.6), для Utk = 1 получаем о St(l, Wth) = min / min Г f sa dt + 8ЛД, i J Sfdt + M. [Stk+l(l, 1%.,)!^]}. (10.9) Для сокращения записи формул удобно предположить, что8д<йф- + > 0 при всех t, тогда (10.9) примет вид Stk (!. Wtk) = min { s'tk (Wtk), 1 dt + M. [Stk+1 (1, ^+I) | }. ,ft (10.10)
Здесь записано в виде S/A(^) в соответствии с обозна- чениями st Wt) = f min M [Cft («rt> zT) | JFJ Ft (dx); J utx (10.11) si Wt) = J mm M [C;t (u'tx, zx) | IF J F\ (dx). utx Предполагается, что в результате минимизации по оценоч- ным управлениям ut, u't в (10.8), (10.11) получаются изме- римые и интегрируемые функции, что легко проверяется в конкретных задачах. Поскольку М [С/х (И(х< ?х) | = (utx> Zx) [ Wf] + О (1) и sf = M[Sf(№/)|№/ft] 4-0(1); o(l)^0 при t-t^O (п. h.), то в (10.10) можно заменить на st. Это дает ^+i st. о > w‘k) = min К Wtk), М Г ( St (Wt) dt 4- к К ( К К L v (10.12) + S/A+1(1,^+1)|^J} 4-o(^+I — tk). В соответствии с (10.1), (10.5) к этим рекуррентным соот- ношениям нужно добавить «начальное» условие: Sb(l, W) =sft(lF). § 10.3. ПЕРЕХОД К НЕПРЕРЫВНОМУ ИНДЕКСУ. ДИФФЕРЕНЦИАЛЬНОЕ УРАВНЕНИЕ ДЛЯ РИСКОВ Чтобы совершить предельный переход к непрерывному ин- дексу <pw (t) t, Д -> 0 и доказать независимость результатов от специального выбора Д-разбиений { Л,—, t.v} , удобно вос- пользоваться понятием пространств регулярности £>°, Т, введенном в п. 4 § 8.6. Если S& (1, Wb) € D°b, то вместо по- следовательности условных рисков 5Ь(1,Г), SzA,(l, W), StN_xV,W),..., определяемых формулой (10.12), можно рассматривать по- следовательность функций 5й(1,Г), ^Н,Г), S<JV_1 (1, W)...... принадлежащих областям регулярности: St (1, W) Эти функ- ции в силу определения 8.8 связаны соотношением (8.53)
Stk (1, F) = min {S;ft (W), M [ (IP,) dt I Wtk = W ] + fk + Ttkik+iSik+1(\,W)} + o(A), (10.13) аналогичным (10.12), которое можно также записать в виде (8.54): Sik (1, W) - S^+1( 1, Г) = ^+1(Г, S(A+1) (^+1 - tk) + о (A). Здесь — не зависящая от А функция, равная в силу (8.55), (10.13) пределу фу (W, St) = lim Д-1 {min s' , M д~*о I [_ t 7—Д , m[— ( L A J /—Д 4- Tt-&,tSt — Sj = lim min J Д—>0 S/-A St A —sl sx dx | W + (10.14) Tt—\,t A Применение теоремы 8.9 дает полное обоснование пре- дельному переходу фл? (t) -> t, Д->0. Согласно ей результи- рующий урезанный риск как функция непрерывного времени удовлетворяет уравнению ---d-h~L = ^,St(W)) (S, (Г) = 5,(1, IP)). (10.15) Существование предела (10.14) обусловлено существова- нием пространств регулярности. Пусть функция st непрерыв- на, так что t М|д- JsTdx |= W =S/(lP) + o(l). (10.16) f—Д При минимизации в (10.14) сравниваются две величины, обозначим их для краткости А и В. Рассмотрим область Si (в пространстве апостериорных вероятностей W), где lim min [Л, В] = limВ. (10.17) Д->0 Д->0 Аналогично определяем вторую область S2 = {IP: limmin [А,В] = lirnA}. (10.18) Д-»0 Л-Х)
Из существования предела (10.14) вытекает существова- ние предела lim Jm Г — f sT dx | W1 + -S<-\ A~>o I L A J J A J i-Д в области S1. Поскольку в силу (10.16) имеем t НшмГ— f stdT|r] = s<(№), д-о L A J J t-ts. то, следовательно, в Ex существует предел НтД-Ч7;_д,<$-$] =ЛД, (10.19) Д-эО и поэтому фДГ,^) =st(ID+ (Л %) (Г) в Ех. Аналогично доказывается существование предела lim-Sf-A~-- s—5;(Г) в Е2. (10.20) д-»о А Его мы обозначаем — s't (W). Уравнение (10.15) принимает вид as^) f st(W) + (ЛSt) (IF) в Ex; -----= - (10.21) dt bE2. Оператор At, входящий в (10.19), (10.21), есть не что иное, как вторичный апостериорный оператор: At = (10.22) т. е. инфинитезимальный оператор вторичного марковского процесса {ш,} (см. п. 2 § 5.6). Как видно из (10.13), урезанный риск S( (W) не может превосходить s'( (IF). Поэтому пространство условных вероят- ностей W можно разделить на две области: B = {W.St(W)<st(W)} и & = {W:St (W)=s't(W)}. Обращаясь к определению (10.17) области Ei, нетрудно по- нять, что область Е принадлежит Ei, если s't непрерывная
функция от t. В дальнейшем примем более сильное предполо- жение, что s’t—дифференцируемая функция от t. Из определения (10.18) области В2, учитывая (10.14), (10.20), можно получить, что S2CSC. Но коль скоро St — s't в S2, то предел в (10.20) есть не что иное, как частная производная по времени: Приведем еще одну форму записи уравнения (10.15). Обо- значим через Н область, где существует предел (10.19) (оче- видно В1СЯ). В области Вс выражение (10.14) можно за- писать {д' р _I 1 ---r+0W’ s‘ + 0 (*) + '~------- 4 dt Л ) Следовательно, в области Вс Н после перехода к пределу А —? 0 будем иметь 1 dst 1 —= min | , S, + 4Szj т&Н). Если s; + sz + AzSz<0, “ (10.23) то точка области Вс Н принадлежит Вх, а если st + st + At St 0, (10.24) то она принадлежит B2. Теперь мы можем описать функции, принадлежащие про- странству регулярности. Они обладают следующими свой- ствами. 10.1.А. Если D °, то g < s' , причем g (W) =s' (W) в ее области Нг. 10.1.Б. Для D°t существует предел типа (10.19) в об- ласти В]. Кроме того, обычно выполняются условия непрерывности функций, принадлежащих области регулярности. 10.1.В. Если i(W)uTt^g=g, (А>0, g^D°t) (10.25) непрерывные функции от W, то функция g (IF), а также ф (F7, ё) являются непрерывными.
Доказательство 10.1.В. Запишем (10.13) в виде £>°-д Э £д = min {sz'_A, 5;_дЛ + £Д} + о (А). Отсюда имеем ^ = ?д + О(Д), (10.26> где через g\ обозначена функция £д = min [sj-д, g-д], которая непрерывна вследствие непрерывности функций (10.25). Сопоставление (10.26) с равенством g'&—g = = О (А), вытекающим из (8.54), дает £д-£ = О(А). (10.27) Поскольку оценка О (А) здесь является равномерной, из не- прерывности g\ следует непрерывность функции g. Итак, g непрерывна, коль скоро g^D°t. Следовательно, g\ непрерывна при любом А > 0, ибо g\ £ £)”_д. Отсюда вытекает непрерывность функции (gi — g)/A при любом А > 0. Но, как видно из (8.54), -^£^-^(^.^ = 0(1). Это соотношение доказывает непрерывность функции g), аналогично тому, как (10.27) доказало непрерыв- ность g. Следствие из 10.1.В. Пользуясь непрерывностью по W функции ф (W, S), можно получить некоторое соотношение, справедливое в тех точках WT, которые принадлежат как за- мыканию области Е], так и замыканию области Е2. Выбирая последовательность сходящихся к WZr точек из Ei, а также последовательность точек из Е2, сходящихся к тому же пре- делу, и учитывая, что для обеих последовательностей имеет место один и тот же предел Ншф(И7, 5) = ф(Гг, S), W-iW'1' получаем lim [sz (W) + /1ZSZ] = lim ds't dt (W)
ds Если функции st (W), ——(W) непрерывны no F, то, следовательно, dt d s —^-(^r) + sz(IEr)+ lim ASZ = O. (10.28) Й E1£M'r § 10.4. ОДНОМЕРНЫЙ СЛУЧАЙ Остановимся несколько подробнее на том простом ча- стном случае, когда пространство апостериорных вероятно- стей W сводится к одномерному пространству Через х обозначим координату последнего. Будем предполагать, что вторичный марковский процесс {xt} является диффузионным и что ему соответствует инфинитезимальный оператор (10.22) следующего простого вида (коэффициент диффузии постоянен). Некоторые более сложные одномерные случаи могут быть сведены к данному при помощи замены переменной х. Пред- полагаем, что s't (х), St ( х ) —непрерывные дифференцируе- мые, функции обеих переменных, и, кроме того, что s^(x) дважды дифференцируема по х. Для дальнейшего удобно принять, что выполняется условие ds't (х) dt ф- st (х) 4- — d2 s'f (х) - J- >0. дх2 (10.29) Если Sa(x)£D°a, при некотором сг( [а, Ь], то S( (х) £ D°t в бо- лее ранние моменты времени t < а. Рассмотрим, каковы в дан- ном случае области Е1; Е3 (вообще говоря, зависящие от вре- мени: Ea = S2(0). Поскольку в Sc О S2 функция St (х) совпадает с sz,yTo в силу двукратной дифференцируемости последней существует предел lim h-M—L st (x) = lim —— sj (x) = -|- д->о А д^о A 2 d2s't (x) dx2 по крайней мере во всех внутренних точках области 3е (т. е. при W £ Int 34. Условие (10.24; в этих точках принимает вид dst dt + st + — d2s't "dx2 >0. Из (10.29) вытекает, что оно выполняется во всех точках Int 3е, так что IntS‘C3a.
В § 10.3 отмечалось, что В С (10.30) поэтому остается рассмотреть точки «границы» Г = /?1 —S —Inf S'. Используем свойство непрерывности функции ф; (х, St), о котором говорится в 10.1.В (непрерывность функций (10.25) в данном случае с очевидностью имеет место). К точке хг, принадлежащей как замыканию области 3, так и замыканию области Int 3е, можно совершить предель- ный переход двумя способами: или оставаясь в пределах од- ной, или другой области. Поскольку то, приравнивая пределы, получаем. 2^(Хг)+ ^г)+ _L lim _^_ = 0. (10.31) Л 2 дх* Пусть для примера область 8 лежит справа от граничной точки xY, а 3е — слева. Предполагая, что функцию St (х) в указанных областях можно разложить в ряд Тейлора, имеем St (х) = st (хг) + Sr (х- xY) + 2-Sa U - xr)2 + + — S3 (x — xr)3 + ... при x > x r; 6 St (x) = st (x) = s't (xr) 4- Si • (x — xr) + ~ s'2 (X — xr)2 4- 4- — $3 (x — xr)3 + • • • при X < xr. 6 Производя почленное усреднение, находим (Тд St) (х) = Г е St (у) dy = St (хг) 4 у/ lA «J (г \ / Г \ X— x \ ' ✓-> / x — x \ . s,<4—/H+ + ) +4^O,(- )+ (10.32)
Здесь ОО _ (В-Л)8 ’ ’rdn- о Выражение (10.32) следует соотношение (10.13), имеющее в подставить в рекуррентное данном случае вид Sts (х) = min , dst(x) ^--гГ A, Sj(x) A -f- Тд S; + о(Д). (10.33) Рассмотрим граничную точку хг, чтобы определить ее принадлежность к области Hi или Нг. Приравнивая х — хг в (10.32), получаем из (10.33): Sts (хГ) = St (хг) + min ds, -^(х9Д, 5/(%г)Д + + /А G1(0)(S1-s1') + -у С2 (0)(32 + зг) + о(Д). (10.34) Вытекающее из (8.54) соотношение Sts— St = O(\), запи- санное для точки хг, приводит поэтому к условию min [0, — sj] = 0 (з1=-уЧ*г + ом; = 4^хГ)У \ дх дх ) (10.35) Но si > Slt поскольку St(x)>Sz(x) при х> хг (т. е. в Е). Следовательно, (10.35) дает условие непрерывности первой про- изводной в граничной точке: lim dS/(x) =-^-(хг). (10.36) ЕЭ^г дх дх Впервые подобное условие для задачи Вальда при непре- рывном времени было получено, по-видимому, Михалеви- чем [2]. Из (10.34), (10.36) имеем Sts (*г) = St (хг) + Д min ds'f --------- Ог)> St (Хг) + + — ($2 + 8г) + о (Д). Чтобы определить, какая из стоящих здесь величин больше,
примем во внимание соотношения (10.29), (10.31). Взяв по- лусумму выражений, стоящих у них в левой части, получаем со + ^хЧ+^^ + ^о. Поэтому ~ dsf St-д (х9 = Sz (х9 - А -±- (х9 + о (А), так что точка хг принадлежит области S2 (Зх = 3, В2 = Пользуясь условием (10.36), найдем производную дхГ хГ — хГ ЦА/ _ ___ ц */—д xt dt д->о А от значения хг = xf, рассматриваемого как (10.37) Указанное условие должно и в точке (хУ_д, t — А): выполняться как функция времени, в точке (X/, t), так ~^(*Г-д) = дх г — -----(Х(—д +)• дх (10.38) Здесь Хт + обозначает предел, соответствующий области 3. Вос- пользуемся тем, что для точек этой области ^-д (х) = St (х) + st (х) А + А. + 0 (д), 2 дх2 так что ~дх~ +) = ~дГ +) + а ~ (х[ +) + +4 4т^г+)+°(д)=4г(х<г+)+ 2 дх3 дх , d3Sf , Г , х , Г Г. . . dst . г , X , Н—т-т- (*f +) (-^f—Д — xt) + А —-— (х( +) 4- дх3 - дх +т^Нх'г+)+'’(4)- Предполагая, что соответствующие производные существуют, кроме того, имеем д Sx » р д s.4 р д2 Sj р (хЛд) = —L (х[) - (хГ) А + ох дх дх dt р р р 4——(х^) (х^_д — Xf) 4-о(А). дх3
Подставляя эти выражения в (10.38), получаем dx2 дх2 J ^2sz / Гх . dst , гч . 1 33S/ / г , ч л f /Ai — д д. (*<) + “7— (х<) + — ~ГТ (xt +) А + 0 (Л)- дх dt дх 2 дх3 J Совершая предельный переход (10.37), получаем оконча- тельно dx^ ~dt~ д ( ds't j d2St \ 1 Ч~ Sf + | дх \ dt ‘ 2 дх2 / d2st _ d2Sf dx2 дх2 В заключение этого параграфа дадим описание прост- ранств регулярности D°t , t(z Т. В рассматриваемом случае про- странство D ? состоит из функций g (х): 1) непрерывных и имеющих непрерывную первую произ- водную (см. 10.1.В и (10.36)), 2) не превосходящих st (х) (см. 10.1.А)), 3) дважды дифференцируемых в области S == {х: g(x)<st(x)} (см. 10.1.Б и (10.30)), 4) удовлетворяющих на границе области S условию д%(х) , / ч । 1 d*St , , \ л —------h st (х) 4------(х + ) = 0. dt * ' 2 дх2 у ' (см. (10.31)). Необходимость указанных свойств аргументирована ра- нее, достаточность легко проверить непосредственно. Результаты, полученные в настоящем параграфе, обобща- ются также на случай более сложного оператора (10.22). § 10.5. ОПТИМАЛЬНЫЕ РЕШАЮЩИЕ ФУНКЦИИ Общая теория гл. 8 гарантирует существование е-опти- мальных решающих функций. В рассматриваемых здесь за- дачах можно аргументировать существование в точности оптимальных решающих функций, т. е. решающих функций,, в точности соответствующих оптимальному риску. Вкратце опишем эти решающие функции. Начнем с оце- ночных функций U/x = фх (Уа) = dfx (W^/)> = dtx (уф) — dfx(Wt).
Обращаясь к формулам (10.11), видим, что оптимальные оценочные решающие функции определяются условиями min М [Cft («<т, zT) | Wt] = М [Cft (dft (Wt), zT) | IFJ; min M [C;T (utx, zx) | IFJ = M {C'tx (dt, (Wt), zx) | Г J. utx Эти функции существуют, если минимум (нижняя грань) до- стигается на допустимом множестве Utx (или Utx) управле- ний utx (или u'tx). Функции dtx, dfX при этом оказываются ^-измеримыми (зависят от уа не иначе, как через посред- ство Wt). Важные для определения оптимального момента остановки функции (10.11), очевидно, равны st (Wt) = J М [Cft (dtx (Wt), Zx) | Wtl Ft (dx)-, st (Wf) = J M [Crt (d'tx (Wt), Zx) | WJ F't (dx). Перейдем теперь к рассмотрению решающей функции D (у) =&, определяющей момент'О обрывания процесса. Для фиксированного Д-разбиения {Л,---, Д} имеем, очевидно, еле-- дующее оптимальное решающее правило: функция Z)4 (у) = = D&(Wb) равна тому моменту времени, когда траектория Wba = { [а> ЭД } в первый раз попадет на множество фд = и^^ = ^. k Иначе говоря, да (Wba) = min {t: (t, Wt)t Ф4}. Обозначим, кроме того, Ф = {/, W:t( Т, W( ЕД/)}. Конечно, множество Ф не является пределом lim Ф4, но, если д->о {Wt} непрерывная функция времени (при фиксированной точке ю), то, как нетрудно понять, inf {/: (/, Wf) ( Ф} = lim min {/: (/, Wt) ( Ф4}. Д—>0 В качестве решающего правила D (W%) выберем первый момент достижения области остановки Ф: £>(й^) = inf {/:(/, И^КФ}, (10.39) так, что D(Wba) = Ит£>4(Г») (10.40) д->о
при непрерывной траектории Wba. Но в диффузионном случае траектория Wba непрерывна с вероятностью 1, следовательно, соотношение (10.40) справедливо почти наверное. Решающие функции D4Wa), D(Wba) определяют риски дЛ(и/Ь) /?д = М [ sf(Wt) dt + )]> o' a a D(Wb> R° = M [ [ a st (Wt) dt + sD(wb) (WD(wb} )]. J a a 0 Сходимость (10.40), имеющая место с вероятностью 1, по- зволяет доказать (в предположении непрерывности функции s't (w) по t) соотношение lim /?д = R°. (10.41) д-»о Но из рекуррентных соотношений (10.12) и общей теории (гл. 8) следует, что предел Нт/?д = 7? (10.42) д->о является оптимальным риском. Сопоставление (10.41), 410.42) приводит к заключению, что решающая функция (10.40) является в точности оптимальной. Из описанного способа построения решающих правил D (IF*), DA (Wa) вытекает следующее их свойство: если траектории Wba, Wba совпадают на интервале а < t < D (IF*), то D (Wba) = D (Wa) .(и аналогично для £>Л). Несколько символически это свойство можно записать D(Wba)= D(W°) = D(y°). § 10.6. ПРИМЕР. ОСТАНОВКА МАРКОВСКОГО ПРОЦЕССА С ДВУМЯ состояниями Рассмотрим в качестве примера задачу распознавания и остановки марковского процесса с двумя состояниями, опи- санного в § 9.6, а также в § 6.5. Наблюдается сумма этого процесса и белого шума или, что эквивалентно, процесс (9.36). В данном случае основной марковский процесс яв- ляется комбинацией двух процессов: Zt = (щ, yt). Пусть в момент остановки требуется вынести оценочное суждение, какое именно состояние гц = ± 1 осуществляется. 240
При продолжении процесса оценка не производится. Тогда оценочное управление utx отсутствует, а функция и/т при- нимает одно из двух значений, скажем 1 или 2. Меры F (dr), F'(dr) пусть имеют простой вид (9.5), а соответствующие штрафы продолжения ( А, при ть = 1; при = (10-43) (зависящие в общем случае от состояния тц) и штрафы оста- новки [ В,х при ть = 1; при = (/ = 1,2) (10.43.а) являются постоянными. Достаточной координатой в данной задаче является апо- стериорная вероятность Wj. Образуем соответствующие функ- ции (10.11), они оказываются не зависящими от времени: St (Wj) = s (ayx) = А^ + Д2ща = Д2 + (Дх — Д2) зух; sj (аух) = s' (аух) = min [Buayx + В12щ2, В2хщх + В22ауа]. Очевидно, что оптимальное оценочное решение имеет вид dtt(l/a) dtt(wi(O) | 2 при (t) > B2]w} (t) (no j проводится суммирование). Оптимальная остановка производится в тот момент вре- мени, когда траектория Wi (t) в первый раз попадает в «об- ласть остановки», где = s' (мг). Положение области остановки на плоскости (t, to»i) опре- деляется вместе с отысканием урезанного условного риска St (wi). Он удовлетворяет уравнению (10.21). Соответствую- щий данному случаю инфинитезимальный оператор (10.22) был найден ранее (формула (9.44)). Применяя теорию § 8.6, § 10.3 и § 10.4, мы можем конста- тировать, что, если функция St (wi) принадлежит простран- ству регулярности D° при некотором t=r, то St (o>i) при- надлежит пространству регулярности Р? для меньших времен t<r. В «области продолжения», где St (ич) < s' (wi), она удовлетворяет уравнению dS/ 2 «о d2Sf . t \ dSf । л iJi ----= -77 w^2 — №) Wi+Aft- (10.44) Ot IV OW1 uWl
На границе Г области остановки выполняются условия непре- рывности функции и ее первой производной: St fa) = B11W1 + dS(M = Вп - В12 (10.45) UWi при а\ ( Г и B^Wj < В2р>,; 5Д^)=В21аУ1 + ВЛ; -^к=В21-В22 (10.46) OWi при w1 ( Г и BjjWj > В2з^3-. Кроме того, награницеГ } а»[ выполняется условие (см. (10.31)) — а|2аф2 (аф +) + (уыг — цаур (аф) + Лха»[ + Btw^ = 0 N dw^ owx (wT2 = 1 — аф). Решением уравнения (10.44) с описанными граничными условиями и определенным «начальным» условием S6(^)=/o(^), (10.47) одновременно определяются функция St (ач) и положение границ области остановки. Большой практический интерес представляет тот случай, когда конечный момент b является отдаленным и когда спе- циальный выбор заключительных штрафов (10.47) слабо ска- зывается. Для этого длительность b — t должна значительно превосходить другие постоянные времени задачи: b — + — , b — t~^>N. р. V При выполнении этих условий можно рассматривать стацио- нарное решение S0 (ач) уравнения (10.44), для которого ^- = 0. dt Рассуждая формально, мы при выборе некоторой заклю- чительной функции /о (a>i) (€Д°) предполагаем, что суще- ствует единственное решение St (a?i) уравнения (10.44) с опи- санными условиями и, кроме того, существует предел limS,(a>j = S°(w1). (10.48) Тогда эта предельная функция обязана удовлетворять уравнению Д7 “’И + (vwz — №) + Aiwi + = 0 (10.49) /V OW] dwi
в области продолжения, где На границе Г она удовлетворяет условиям S’^Xs'^); (10.50) uW± ClWi аналогичным (10.45), (10.46). В уравнении (10.49) запишем + в Ф°Рме D + D' (yw2 — pwj, £) = AzA D = А + А (10.51) Н+ v ll + v и введем функцию е<Р(^) = I АА ехр /— А (— + ХП, (10.52) \ О>2 / ( 2^0)! Ш2 / J такую, что dtp (о>1) N VW2 — dwi 2 Тогда (10.49) примет вид AJ + А₽_ AL + D’j^ + А А™о. da>( dwi dwy 2 wtw2 Интегрируя это уравнение, имеем А0.^) =—D'---------LNDe-'f^ С -----l-C.r’fW. 4^ 2 J g2(i_g)3 * V M+v (10.53) Повторное интегрирование дает S® (W1) = - D'W1 - A ND?! (^) + Crf2 (ш,) + С2. (10.54) Здесь /1 (^i) = f dwe^^ С -----------—------ J < *!, £2(1-А2 й+Т И+Т (10.55) /2 (t^i) = J е~^ dw; V M+v <?!, С2 — постоянные интегрирования.
В точках границы Г согласно (10.50) график функции (10.54) касается линии S = s' (w^), иначе говоря, линия S = s' (w-j) + D'w± + NDf^w-J = F (Wj) (10.56) касается линии S = C-J., (w-J + C2: F (wj = CJ2 (Wj) + C2; (a»J = Cx (wj при wt ( Г. dwi dwx Удобно ввести новую переменную v = f2.(wi) через ф обо- значим обратную функцию: Wi=ip (v)). Тогда линия Cif2 (ten) + С2 = CiO + С2 обратится в прямую. Согласно ска- занному выше она должна касаться в точках ап€Г линии F (ф (ц)). Отсюда вытекает эффективный способ отыскания точек границы Г: нужно построить графически функцию F (ф (ц)) и, используя произвольность постоянных Ci, С2, про- вести прямую, касающуюся построенной линии в двух точках. Если v' и v" две такие точки касания и если на всем интер- вале v' < v < и" справедливо неравенство Г(ф (о)) > С-р + С2, т.'е. s' (а>х) > S° (wt), при to] = ф (o') < < W} < w\ = ф (о"), тогда этот интервал будет являться областью продолжения, а точки v', о" (или w\, w") будут составлять границу об- ласти остановки. Предположим, что D > 0. Это соответствует тому практи- чески наиболее интересному случаю, когда продолжение на- блюдения требует некоторых затрат. Качественный анализ графика Е(ф(о)) показывает, что в этом случае всегда имеется интервал продолжения наблюдений, если точка изло- ма функции s'(ап) попадает на интервал (0,1). В некоторых случаях интервал продолжения наблюдений не является ограниченным с обеих сторон точками остановки. Он может примыкать к точке wx = 0 (т. е. совпадать с ин- тервалом [0, to])) или к точке ап—4 (совпадать с интерва- лом (а» ], 1]). Тогда вместо условий (10.50) в граничной точке ап=О (или ап=Т) следует воспользоваться тривиальным условием I 430(а>1) I < при _ q (или j). (10.57) I dwi I Оно определяет постоянную Ci в выражении (10.53) и (10.54): V M+v С, = — — ND С е*®---------£----- (10.58) 1 2 ,1
(для определенности в (10.57) выбрана точка ®i = 0), так что wt dS° —__________[у______L дг£)е-ч>(®1) С ----------—________ dW1 2 J В2(1- ё)2 о При описанном ранее проведении прямой, касающейся ли- нии F (ф (^)), наклон этой прямой теперь является фиксиро- ванным. Он совпадает согласно (10.56), (10.55), (10.58), с асимптотическим наклоном линии F (ф (у)).’ Wi JL = _ JL nd Г еч>®-------------------F dv dw1 2 J g2(i_g)2 V мН-v 0(1)-*^ при v-^>—oo (т. е. при OJi-И)), так как еЧ---}-/?') =о(1). \ dw± / Параллельным переносом прямой добиваемся ее касания с линией F (ф(о)). Это определяет точку касания v". Если F (ф (о)) > Civ + С2 при v < v" (т. е. при wj < w" = ф (i>")), то интервал [0, w J ) является интервалом продолжения на- блюдения. Аналогично строится интервал (toj, 0], если он имеется. При фиксированных значениях постоянных удается найти лишь те или иные области продолжения из описанных типов. В некоторых частных случаях может оказаться, что областей продолжения не существует. Это означает, что при данных значениях постоянных задача поставлена некорректно и пре- дела (10.48) не существует. Выше предполагалось, что ц > 0, v > 0, однако получен- ные выше формулы применимы и в том случае, когда одна из этих величин или обе равны нулю. В этих случаях рас- сматриваемая задача переходит в более простые задачи, некоторые из которых рассмотрены в Дополнении.
Глава 11 ВЫБОР ОПТИМАЛЬНОГО НАБЛЮДЕНИЯ И ОПТИМАЛЬНОГО УПРАВЛЕНИЯ ПРОЦЕССОМ В этой главе будут рассмотрены более общие задачи, чем в двух предыдущих главах: будет предполагаться что наблю- даемый или управляемый процесс существенно зависит от выбираемого управления. В § 11.1 решается задача на выбор оптимального наблюдения. Предполагается, что наблюдение процесса связано с определенными затратами, так что оно окупается только в опасной ситуации. Теория позволяет от- ветить на вопрос, когда производить наблюдение и когда нет. Задачи § 11.2, 11.3 состоят в выборе оптимального управ- ления. Они относятся к динамическому программированию при непрерывном времени. Подобные задачи‘"'часто возника- ют в теории автоматического регулирования при наличии по- мех. Ряд близких задач рассматривался в работах Стратоно- вича [18, 19], Стратоновича и Шмальгаузена [1], Шмальгау- зена [1]. Приведенные задачи иллюстрируют применение общих методов теории оптимального управления, основывающейся на теории условных марковских процессов. Поле приложения этих методов весьма широко. Обязательное условие, чтобы основной процесс был марковским, является не очень ограни- чительным. В самом деле, увеличением числа компонент мар- ковского процесса можно добиться того, чтобы этот процесс аппроксимировал всякий процесс с любой наперед заданной точностью. Это, в сущности, снимает какие-либо принци- пиальные границы области применения методов. Правда, техническое решение задач при большом числе достаточных координат становится очень трудоемким, и это ставит практические границы полю применений. В свете сказанного ясно, что главным явлением, с которым прихо- дится иметь дело при рассмотрении все более сложных за- дач, является увеличение числа достаточных координат. Та- кое увеличение рассмотрено на ряде примеров в § 11.4.
§ 11.1. ЗАДАЧИ НА ОПТИМАЛЬНОЕ НАБЛЮДЕНИЕ В главе 9, посвященной выбору оптимальных оценок, ход основного процесса zt, а также наблюдаемого процесса yt = =yt (27) предполагался не зависящим от принимаемых ре- шений. В терминах о-алгебр, введенных в § 8.1, это выра- жается тем, что c^z(u) не зависит от и и при всех /€ Т со- держит ££ь\ о-алгебра наблюдения (и) также не зависит от и и принадлежит S1- Переход к более общему случаю будет произведен, если допустить зависимость наблюдаемого процесса от управле- ния: yt = yt (zt, м) или же зависимость вероятностей основ- ного процесса от управления. Первый случай, когда yt (zt, и) существенно зависит от и, но , tQT, можно назвать случаем управляемого наблюдения. Наблюдатель-оператор здесь может выбирать оптимальный способ наблюдения, но не может влиять на ход основного процесса: Р (А | и) = = Р (А),А€^6. Второй случай, когда наблюдатель-оператор может суще- ственно влиять на вероятности (а может быть, даже и на фа- зовое пространство) основного процесса, т. е. когда (иа ) включает г£((и), но существенно беднее, чем ЗУ («), t'>t, относится к динамическому программированию. Общая теория, развитая в гл. 8, охватывает любой из этих случаев. В настоящей главе будут рассмотрены как за- дачи на выбор оптимального наблюдения, так и задачи дина- мического программирования. Изложенные в гл. 10 задачи на оптимальное прекращение процесса занимают некоторое промежуточное положение между задачами на выбор оптимальных оценок и задачами на выбор оптимального наблюдения или управления. Теория гл. 10 выходит за рамки оптимальной фильтрации, поскольку наблюдатель-оператор в состоянии влиять на ход процесса. Но это влияние носит весьма вырожденный, примитивный характер: вмешательство наблюдателя-оператора может лишь прекратить основной процесс или процесс наблюдения. В за- дачах, которые будут рассмотрены в дальнейшем, вмешатель- ство наблюдателя-оператора будет более содержательным. 1. Пусть {щ}—марковский процесс с двумя состояниями, о котором была речь в § 9.6 и § 10.6. Значение щ = 1 можно интерпретировать как наличие разладки в некотором произ- водственном процессе, в момент t, а значение щ = — 1 — как ее отсутствие. Разладка может появляться и исчезать, это описывается коэффициентами v, ц в уравнении (9.35) для априорных вероятностей. Пусть, как и ранее, наблюдаемый процесс имеет вид (9.36), но теперь наблюдатель-оператор решает, нужно ли производить наблюдение или нет. Введем функцию управления щ, связанную с этим решением: ut = 1,
если наблюдатель в момент времени t ведет наблюдение, и ut = 0, если нет. Целесообразность отключения наблюдения (при опреде- ленных условиях) объясняем тем, что наблюдение является дорогостоящим, т. е. связано с некоторыми затратами. Чтобы отметить это, дополним штрафы (10.43) зависящим от членом: Г -Си jJ Л при Пг = 1: Н 1 + 1 Л2 при Т), = — 1. (П-1) При наличии разладки продолжать производственный про- цесс экономически невыгодно. Поэтому задачей наблюдателя- оператора является остановка процесса при соответствую- щих условиях. В этом отношении данная задача аналогична тем задачам, которые были рассмотрены в гл. 10, и мы будем придерживаться введенных там понятий и обозначений. Пусть в момент остановки t = "& штрафуется лишь неоп- равданная (ошибочная) остановка. Это соответствует более специальным, чем (10.43. а), штрафам остановки: j о при Л/ = 1; I В при т], = — 1. (Н.2) Добавляя к ut ступенчатую функцию (10.2), видим, что в данной задаче роль процесса управления ut играет пара (и/, ut), или, что то же, пара (utut, ut). Принимая во внима- ние указанные выше штрафы (11.1), (11.2), записываем пол- ную функцию штрафов (10.5) t _ t (®) = f [ А Цр + А Цр + us ds - J в Цр d«s. а а (11.3) Введем достаточные координаты для данной задачи и рас- смотрим соответствующее ей рекуррентное соотношение (8.39) (при <рь = Д). Как и в гл. 10, достаточными координа- тами являются (в соответствии с теоремой 8.11) значение ut и апостериорная вероятность (0 = Р[П/ = 1 IУх, (11.4) где Jt = lfl> Ц П {s:«s = И- = Целесообразно ограничиться пространством функций {ut, Т} , измеримых nd Борелю. Тогда интеграл Oj ususds в (11,3) будет существовать. Кроме того, множество Jt бу- дет соединением не более чем счетного числа непересекаю- 248
щихся интервалов: jt = у [*;. 'Гр- На каждом интервале (<, т!) апостериорная вероятность (г) как функция от т удовлетворяет уравнению (6.43), принимаю- щему вид duii (т) 1 2 du ил с\ ----LL-L. = VW2 — IXOL + ^1^2 —— , (1 1 -5) dr-------------------------------------------N dr и на каждом интервале (т", т)+1)— уравнению вида (9.35) dui, (г) —^- = vw2 — (Н-6) dr Таким образом, вероятность (i) может быть получена как решение чередующихся уравнений (11,5), (11.6) при ус- ловии непрерывности в граничных точках ..., т/, t/, T/+i........ Если задано значение Wi (tk) и известно управление и *+*, то описанным способом мы можем получить значение щ1(^+1) = да1(ау1(^),и^+1, у^') и найти для него распределение вероятностей Р (dwx (tk+\) | (U)- Рассмотрим преобразова- ние (Ttktk+1 = J’^(^;)P(^i'l«^+1, ®i)- (H-7> Удобно ввести обозначение fA+l Как легко видеть, если Au = ^+i — tk= Л, то на почти всем интервале (tk,tk+\) справедливо уравнение (11.5), а ес- ли Ди = 0, то на этом интервале почти всюду справедливо уравнение (11.6). Первому уравнению соответствует инфини- тезимальный оператор (9.44) dL' 2 , „ <92 . , . д ~ = ~ TT- + (vw2 — Е'^1)-— , dr N 2 дш( ди)! а второму — оператор dL" . . а — = (Vw _ Rffi, ) . ui dwi Следовательно, в предположении, что g (оц) дважды диффе-
ренцируемая функция, имеем Т^+1 (^+‘) £ = £ + [у ~Г + (W*'F1) ]Д+°(Д) при Ап — Д; 7\/Л+1 Й+1) £ = £ + (vay2— д + 0 (д) при Ди = °- Нетрудно понять, что в промежуточном случае, когда О < Д« < А, справедлива интерполирующая формула: T^k+1 S = ё + ~ W1W2 ~^Г Д“ + (™2- ^1) Д + ° (Д)‘ (Н.8) Таким образом, оператор (11.7), если пренебречь величиной о ГД), зависит от г4*+! только через посредство Ап. Учтем приведенные выше результаты при конкретизации рекуррентного соотношения (8.39). Принимая во внимание (11.3), будем минимизировать, как и при выводе (10.9), сна- чала по u^+I (при фиксированной функции (wj), а затем по W/*+I, т. е. по ft €[4, 4+i). Тогда (8.39) будет иметь вид а St (1, wj — min {min [(Л^ ф- Л2ш2) А ф- о (Д) ф- GAu ф- + + 1 Й+1) Stk+2 (1 > [(Л^ + + ф-о(А)ф-М(В ®2(W}. (11.9) Здесь использованы вытекающие из (11.1), (11,2) равенства М [С„ | w2 (/)] = Atw2 (t) Л2&у3 (Г) + Gut; M [C'tt | w2 (/)] = Bw2(t). В тех точках, где (1, wj дважды дифференцируема по wlr согласно (11.8) имеем (1, w2) = min f m’=n [(Л^ ф-Л2а/2) Д + ОД« + k ' 1 0<Ди<Д + St (1, Wj) + -J- w^w22 d St^ Au + (v^2 — fW,) dSJk+1- A Й+1 N dWj dWi
min [Bw2— B(yw2— fx^) (ft — tk) + + (^iwi + Л,ау2) ('& — Zfe)] j + о (A). (11.10) Вследствие линейной зависимости входящих сюда выра- жений от Au и 0 минимум достигается в крайних точках, так что М1’ ffi’x)=mir45«ft+1(1> wi> + (vu>2 — p.^) + Aiwi + A2W2J A, \+1 (1 > + [4 д"^1 + (VU’2 ~ ~r±1 + ft+1 |_ W dw\ dwi + Л1щ1 + ЛЛ+ C] A, (11.11) Bw2, Bw2 + [AjWl + A2w2 — В (vw2 — цщх)] A|+ о (A). Обозначим выражения, стоящие в фигурных скобках, со- ответственно Я], Нг, Н3, H,i. Пусть Е;— та область интервала [0,1] Э и>ь где lim J- [min (Я., j = 1, . .., 4) — St ] = lim -А- [Яг — ]. д-»о A j J k д-»о A k Как и в гл. 10, мы предполагаем, что функция 5<й+1принадле- жит области регулярности £>^+1 (§ 8.6). Такие функции, как видно из (11.11), не превосходят Bw2. В области Нс = Е3 U Н( они равны Bw2, а в областях Si, S2 (С Е) они меньше Bw2. Функции S, принадлежащие области регулярности, явля- ются, кроме того, непрерывными по Wj и им соответствует непрерывная функция ф4 (o>i, S). Это можно доказать тем же способом, что и в § 10.3 (доказательство 10.1.В). После предельного перехода А -> 0 рекуррентные соотно- шения (11.11) обращаются в дифференциальное уравнение где Ф/ (wlt St) = (vw2 — nW1) 4^ + AjW, + A2w2 в Si; vWi (wv st) = ^2 44^ + (пч — P-ffi'i) + Axwt + A2w2 + G В E2.
К нему следует присоединить граничное условие: SJtOj) =5(1 —kjJ на границе области Ес (11.12} Область Е4 (0 является «неустойчивой»; она превращает- ся в Ег (/') при меньших временах t' <t и поэтому особого рассмотрения не требует. Из непрерывности функции ф (wh St) вытекает также гра- ничное условие lim 2 9 9 &St , , . dSt I , „ ~ WlW2 ТУ + (Vffi,2 — + G = N dwf owi J = lim . i \ dSt 1 (yw2—№) — ОШ1 J (11.13} на границе w 1 между областями Ei и E2. В данной задаче мы особо интересуемся . стационарным режимом работы, т. е. предельной функцией (10.48) и пре- дельными стабильными областями Ец Е2, Е3 = Ес (вслед- ствие «неустойчивости» Е4 (/) стабильная область Е4 отсут- ствует) . Предполагая, что предел (10.48) существует, получаем для него уравнение Ф/ (©!, S° (wj) = 0,„ т. е. (vw2 — payj + А^ + A2w2 = 0 bEj (11.14) dWL и -77 w2iw2 + (v®2— ^1) + Aiwi + A*W1 + G=o в Е3. N dw] dwi (11.15) 2. Граничных условий (11.12), (11.13) оказывается недоста- точно для решения задачи. К ним нужно добавить условие непрерывности производной -^-(w’)=-B (11.16} на границе между областью Е2 и областью Ес. Это усло- вие аналогично условию (10.36) и аргументируется тем же способом. Выведем также дополнительные условия непрерывности производной на границе Г Э между областями Ei и Е2- пользуясь уравнениями (11.10), (11.11), которые для 5° (оц) 252
можно записать S° (Wj) = min { min [ТЛ(Д?/) S° Д (A1w1 Д A2w2) Д Д 0<Ди<Д Д ОДи], Bw2] Д о (Д). Для точек, не слишком далеких от этой границы (не попа- дающих в Ес), имеем S°(^i)= min [7д (Ди) S° Д GAu] Д (Дг^ -I- A2w2) Д Д о(Д). 0<Ди<Д (11.17) Предположим сначала, что функция имеет скачок произ- водной: S« (ге/) = | S°^i; + 51 — + • • • при W1 < w'1’ I S°(a?i) + — оц) Д .. . при > w'i, и рассмотрим в (11.17) точку wx = w* == w\--------& (a' — v— — (p Д v) ayj). Для нее __ 1 __ (w*— S°(w*)= min [(2л&'Д«) 2 je 26'A" 5°(Д dw Д ОДи] Д 0^Ди< Д Д (ДД + Aw'2) А + о (А) (11.18) 4 ,2 ,2\ у N 1 2 J Если Si1”< ST (угол излома направлен вверх), то из (11.18) легко получить, что минимум достигается при Аи — А. В этом случае правая часть (11.18) равна S° (w*) Д]/Дб1 (0)-(Д~—5Г)Д + О(Д) подобно тому, как это было в формуле (10.34). Она не может совпадать с S° (w*), и мы пришли к противоречию. Если (угол излома направлен вниз), то мини- мум в правой части (11.18) достигается при Аи = 0 и правая часть оказывается равной S® (w* и Д) Д (A^Wi Д А2ии2) А Д (Л) — = 5° (о/ Д а'д) Д (A^i Д A2w2) ДДо(Д).
В этом случае она отличается от S°(®*) на величину S° (w't + — а' А — S° (w'i---— a' Aj + (AjWi + A2w2) A -f- + о (А) = у (st + Sf) а' А + (Лх w'l + A2w2) А + о(А) = = у (Sf —5Г)а'А +о(А) (последнее в силу (11.14)), если Ei лежит слева от wi, и на величину у (5Г—Sit~) а'А + о (А), если справа. Это опять-таки противоречит равенству (11.18). Остается единственная возможность совпадения производных S+, Sy справа и слева: dS° , - , n. dS<> , ' „. ... 1П. ——(^ + 0) = ——(йУ1 — 0). (11.19) awi awi 3. Перейдем к решению уравнений (11.14), (11.15) пригра- ничных условиях (11.16), (11.19), (11.12). Интегрируя (11.15) с учетом (11.19), имеем в Е2 -dS°(a,1) = _ JLe-<f№i) Г е<р(5,) + G d е , 2 J W 1 + е-т(^)+<р(<) ^L(W;) (g (Ц.20) dwi где (wi)st = — A1W1 + А^2 = —D'------------ (11.21} dwi vw, — vw2 — в силу (11.14). Функция ср, а также D, D' определены фор- мулами (10.52), (10.51). Если положить Wi = ш’, то согласно (11.16) отсюда полу- чим уравнение Веч№\) = — Г еф(в,) _j^ib+Ak+_2__ еФ(и>лх) JLS° (w'\. (11.22) связывающее между собой граничные точки w\, w\ . Здесь.
предположено, что область Ег примыкает с одной стороны к области Ei, а с другой — к области Ес; не представляет труда исследовать и другие случаи. Граничные точки w j, w'i еще не являются полностью оп- ределенными при помощи уравнения (11.22), однако имею- щаяся свобода их выбора существенно ограничена: положе- ние одной точки определяется положением второй. Диффе- ренцированием этого уравнения находим связь между смеще- ниями точек: (ал w2)~2 [— (yw2 — рщ1) В 4- Лх wi 4- A2w2 + G] бвд = — (wt w2)~2 еф(“’ 2 ,2 ,2 ^2£0 Wi w2 -------— (&У1)Н1 + dw. + (yw2 — |Ш'1)------(®i)s. 4~ + A2w2 4- GI day,. (11.23) dwi J Принимая во внимание условие (11.12) и интегрируя вы- dS° ражения (11.20), (11.21) для производной --------, можно найти dw-L функцию 5°, и, в частности, ее значение в области Еь wt w’i 50 (аУ1) = Г dli _J_ (• dh+ B(l_ w’y j dwi J dw± (11.24) Поскольку величины w j, w"t связаны лишь одним уравне- нием (11.22), остающаяся свобода их выбора должна быть устранена дополнительно. Для этого потребуем, чтобы иско- мым величинам w j, w’ соответствовал экстремум (мини- мум) функции (11.24). Взяв вариацию от (11.24) при учете (11.16), (11.19), а также (11.21), имеем w'i 6 5®^)= f — Г-^)н J дои, L J 1 Дифференцируя выражение (11.20), находим 6S° (Wj) = J — (w'i w2)-2 Г 2 /2/2 dis0. \ , ---Wi W2 ----(Щ1)н.+ , ' dS° ' ' ' 1 ' 4- (yw2 — j.Wi) — (Щ1)в, 4- Ai^i 4- A«w2 4- G bw[ = du>i = w2)~2 [— (yw2 — fxteh) В 4- 4- Ajw], 4- A2w2 4- G]
®'i где J= j* e-'PfSi) d^; второе равенство вытекает из (11.23). w"^ Следовательно, вариация SS0^) обращается в нуль, если выполняется уравнение о ,2 .2 d2S(l , , . dSP ---Wi W2 -----(W[)s + (vtw2 — ------(^1)2, + W dw2i dwl + Ayw'i + Да w2 + G = 0 (11.25) или уравнение — (yw2— (шДВ + AtWi + A2w2A- G =0. (11.26) Выберем одно из полученных двух уравнений. Выше (стр. 252) отмечалось, что в области ЕС = Н3 нет точек обла- сти Н4, т. е. в ней — (vay2 — pwj В + А^ + Даау2 > 0. Следовательно, в области Нс и на ее границе Wi — (vw2 — fxajJ В + А^ + A2w2 4- G > 0, ибо О>0, так что уравнение (11.26) не может выполняться. Поэтому в качестве условия, окончательно определяющего Wi, Wt, берем остающееся равенство (11.25). Сопоставляя (11.25) с (11.15) и учитывая непрерывность первой производной (11.19), легко видеть, что указанное ус- ловие можно формулировать как условие непрерывности вто- рой производной в граничной точке: d2S<> . , rfaS» , - л. —-(оц+0) = —-(a?i — 0). da), dwf Кроме того, если учесть (11.14), (11.20), данному условию можно придать вид 7т(^.==-у л -GN .. dw2 2 а?] (1—и/j)2 Дифференцируя (11.21), следовательно, получаем vHi -|- рД2 _ 1 GJV [v — (ц + v) и>]'р 2 да/(1 — )2 или, предполагая, что v4a + рД2 > 0, ^(i-w'd = <4- AGN л tv-(Н+<n-27) \ 2 vA-l + J
(выбирается корень w'h лежащий между нулем Вторая граница оч области Ва находится (11.22). и ----- ц + v из уравнения V Расположение областей В], Е2, Вс обычно является та- ким: область отсутствия наблюдений Bi занимает крайнее правое положение, совпадая с отрезком (0, w J), область на- блюдения В2 является отрезком (twj, a?j), а область оста- новки— отрезком (w'', 1). Пока апостериорная вероятность Wi (£) принадлежит Ei, ситуация является не опасной и на- блюдения проводить нецелесообразно. Область наблюде- ния (аф W') является опасной зоной и в ней является оправданным наблюдение за процессом. Величина Wi(f) в каждый момент времени является мерой опасности ситуации; когда она достигает критического значения w’t , следует объявить тревогу, т. е. остановить процесс. Описанный режим работы и расположение областей име- ют место не при всех, а лишь при нормальных значениях па- раметров задачи. В некоторых случаях возможна другая кар- тина. Так, область В2 может отсутствовать, а область Bi = = (0, w[) и Вс = (KJf, 1) — непосредственно граничить друг с другом. Из (11.14), (11.16) нетрудно получить условие В = /=D- + -----------с--------\ (11.28) va>2 — \ v — (р, + v) / определяющее границу в этом случае. Как показывает анализ функций (11.20), (11.21), такое расположение областей имеет место, когда корень уравнения (11.27) больше корня уравнения (11.28). В противоположном случае, когда w f > w т. е. D v — (М- + v) <В (D>Q), области имеют описанное выше обычное расположение. § 11.2. ЗАДАЧИ НА ОПТИМАЛЬНОЕ УПРАВЛЕНИЕ МАРКОВСКИМ ПРОЦЕССОМ С ДВУМЯ СОСТОЯНИЯМИ Перейдем к задачам, в которых вероятностные характери- стики основного процесса зависят от выбираемого управле- ния, так что наблюдатель-оператор, принимая решение, влия- ет на ход процесса. Начнем с конкретной задачи, до известной степени близ- кой к тем задачам о возникновении разладки, которые были
рассмотрены в § 10.6 и § 11.1. Процесс с двумя состояниями тр = ± 1 и наблюдаемый процесс пусть остаются без изме- нения. Наблюдение специальных затрат не требует и не штрафуется. В отличие от предыдущих задач, в опасной си- туации (вероятная разладка тр = 1) теперь пусть требуется не останавливать весь процесс, а переходить к некоторому форсированному режиму работы, вызывающему исчезновение разладки с повышенной вероятностью. При таком форсиро- ванном режиме уравнение для априорных вероятностей (9.35) заменяется на уравнение Pi = — Р2 = — где у/— у, = к > 0. Второй параметр для простоты будем по- лагать таким же, что и раньше: v' = v. Наблюдатель-оператор в каждый момент времени t имеет одну из двух возможностей: работать при обычном режиме (Ut = 0) или перейти к форсированному режиму (ut = 1). Форсированный режим естественно считать дорогостоя- щим и его цену включать в функцию штрафа, полагая C„ = Gu,+ [^ при "'=1: I Л2 при —— 1. Рекуррентное соотношение (8.39) вместо (11.9) теперь бу- дет иметь вид St—д (^i) — min -р ^2^%) Д ”Ь (△) ~Р С Ди -р 4-д + Г<_д7(^_д)5/}, (11.29) где обозначено t Ди = J Щ; dx. t-\ Согласно (9.44) инфинитезимальный оператор процесса равен , д . 2 2 2 д2 [dt 2 r 17 dwi N если ut равна нулю в окрестности точки t, и ~lv®2 (11 + ®il —--------------р , ™ dwi N если равна единице. Предполагая двукратную дифференцируемость функции g(w1) = St(w1), имеем
Tts,t(ut-&)g=g + \±w^2J!s. _ N drf + (yw2 — fiwj A — Зад — Au + о (A), ;<9и?1 так что соотношение (11.29) принимает вид Sts (Wj) — St (wy) + Г 2 2 2 d2Sf , ---Wi w2 -----— + N drf (vay2 — —— + dwi + Atwt + A2w2 A + min /б Au — Aul 4 о (A). о<д«<д I 5a>! J (11.30) Следовательно, функция S( (оц), принадлежащая про- странству регулярности, удовлетворяет уравнению dSt' 2 22 d2S, . , . dSf . . я ----— = - ВД---------f- + (?w2 — р^х) —4- А^ + A2w2 dt N gw2 5Ш1 (11.31) в области Ег, где 0>%да1-^(ш1), (11.32); дш! и уравнению + [v^'2 — (11 + М -------—Ь AjWl 4 A2w2 4 G (11.33) dwj в области Еа, где G<%u;1 (ayj. (11.34) dwi ' Если не предполагать с самого начала двукратную диф- ференцируемость функции 5г (гсц) по Wj, то уравнения (11.31), (11.33) для 5г€ D° будут вытекать из определения 8.8 пространства регулярности D°. По аналогии с § 10.4 мож- но доказать непрерывность первой производной на об- dwr щей границе областей Si и Ег- Из (11.32), (11.34) при этом в результате предельных переходов St и S2 ) wi -* будем иметь ’dSt dw-i (№?) = ц Лю (11.35)
(11.33), вследствие не- получаем непрерывность Кроме того, сопоставляя (11.31), , ч . ds? прерывности (по функции вторых производных d2St / г i , г ——(ЗУ! +0)=—^-(Wi —0) dwf dwf на границе Г. К приведенным уравнениям нужно добавить «начальное» условие 5а(^1) = /о(^1). (11.36) соответствующее конечному моменту времени. Для первого момента времени функция Sa (W[ (а)) совпадет с полным риском 7?. Считая, что параметры задачи постоянны, исследуем ста- ционарный режим работы. Для этого устремим b — t к бес- конечности. Стационарный режим характеризуется средними потерями в единицу времени у = lim (11.37) b—b — t не зависящими от Wj. Мы предполагаем, что существует предел (11.37), а также предел /ki) = lim [ЗДо^) —у(6 —у)], (11.38) fr—/->00 причем до известной степени они не зависят от выбора ко- нечной функции (11.36). Поскольку St (wi) зависит лишь от разности времен b—t (а не от t и b по отдельности), предель- ная функция (11.38) (как и у) оказывается не зависящей от времени: =0. Учитывая это при подстановке выражения 3/ (щД у (b — t) + f (wj + о (1) в уравнение (11.31), получаем у----о(1) = ~w2t w22 + (yw2 — + + Л1щ1 + Д2щ2 + -^-о(1)+ -^-o(l) (11.39.a) dart dwi и, переходя к пределу b — t —> oo, A w2 w2 4- (VK;2 _ p^) JL _j_ + A2w2 — у = 0, (11.39) dwi
если -А-0(1) =0(1); —^_о(1) = О(1); -^0(1)=0(1). dt dwj. dwf Условие (11.32), определяющее теперь не зависящую от времени область Еь где справедливо (11.39), принимает вид (11-40) dwi ЛШ1 Аналогично из (11.33) выводим уравнение —- —(- [v^a — (р. + X) ———(- -г A2w2-\-G—у=0, Д' awi (11.41) выполняющееся в области Еа, где -^(^)>-д^. (П-42) dwi На общей границе областей Ei и Ег выполняются усло- вия непрерывности двух производных (первой и второй) и со- отношение -^(^)=-$- (11.43) которое следует из (11.35). Для полного определения функции f (wi) требуется доба- вить еще условия на границе области достаточных коорди- нат, т. е. условия в точках Wi = 0 и wx = 1. В данной задаче они имеют тривиальный вид: |_^_(0)|<оо; |-^-(1)1<оо. (11.44) I aw,. I | dwi I Как может быть подтверждено анализом результатов, об- ласти Ei, Ег имеют такое естественное расположение: об- ласть нефорсированного режима Sj располагается слева и является интервалом [0, w["), область форсированного ре- жима совпадает с интервалом (а> [ , 1]. Интегрируя уравне- нение (11.39) с учетом первого условия (11.44), получаем -У— (W ) = — e-v^i) f eq>(5) A g — л2 (1 — g) г dW1 4 17 2 .1 gs(l - g)2 *’ (11.45) где q> (и>1) определяется формулой (10.52). Аналогично (11.41)
и второе условие (11.44) дают df daii 1 N С ’’Л® 2 е У Wi у-Л^-Л2(1-^)-0 g2(l —g)2 (11.46) Условие (11.43) и условие непрерывности первой производ- ной, если использовать (11.45), (11.46), дают систему двух уравнений J g2(l —g)a УХ ’ Г Л^+Л2(1 —g) + G —Y 2Q J g3(l — g)2 M ’ которая позволяет определить обе неизвестных величины: и у. Интегрированием выражений (11.45), (11.46) находится фунция f (и^) с точностью до аддитивной .достоянной. В ста- ционарной теории эта постоянная остается неопределенной, так как ее величина определяется конкретным выбором функ- ции fo (wi) в условии (11.36). Для ее расчета потребова- лось бы решение нестационарных уравнений (11.31), (11.33). Анализ выражения (11.45) при значениях wt, близких к 1, показывает, что -/-(^j^A + g-y +01_№i(1) dwi jx —X (О]_Ш1(1)-^0 при Используя это для проверки неравенств (11.40), (11.42), получаем соотношение Л1 + G — у G it -j- X А. т. е. aM1-v)>g> и как необходимое условие описанного выше нормального рас- положения областей Ej, Ег. Оно есть не что иное, как усло-
вие экономической оправданности форсированного режима. Если оно не выполнено, то область Нг форсированного режима полностью отсутствует. § 11.3. ДРУГАЯ ЗАДАЧА НА ОПТИМАЛЬНОЕ УПРАВЛЕНИЕ. СЛЕЖЕНИЕ ЗА БЛУЖДАЮЩЕЙ ТОЧКОЙ Если в предыдущих задачах исходный процесс щ был про- цессом с двумя состояниями, то теперь рассмотрим тот слу- чай, когда он является диффузионным процессом. Описы- ваемая ниже задача типична для автоматического регулиро- вания. Пусть процесс g (/) имеет постоянный коэффициент диф- фузии D и постоянный снос а. Наблюдается его сумма с бе- лым шумом или, что в сущности то же самое, процесс уЛ) = + (11-47) где £1 (t) —винеровский процесс: Mgi = 0; MAg^ = N&t. Кро- ме того, имеется процесс у2 (0 (координата регулируемого объекта), который также предполагается известным наблю- дателю-оператору. Пусть он описывается уравнением dy2 (/) = dut + dg2- (11.48) Здесь g2 (0 — винеровский процесс с дисперсионным параметром Mg2 = 0; MAgl=xAZ, a dut — смещение, обусловленное сервомотором, которым управляет наблюдатель-оператор. Процесс {ut} является в данной задаче процессом управления. Будем считать, что скорость сервомотора ограничена по абсолютной величине значением и0, т. е., что |и(/2)— и (i?i) | < и01 /2— ^х|. (11.49) Пренебрегая инерционностью сервомотора, не будем вводить других ограничений на процесс управления. Пусть назначение следящей системы в том, чтобы процесс у2 (0 возможно точнее копировал координату g (0 блуждаю- щей точки. Если С (g— у2) —функция, соответствующая кри- терию оптимальности, то функция штрафа будет иметь вид с‘ = JC(g(T)-//2(t))dT. (11.50) В этой задаче основной марковский процесс zt является диффузионным и состоит из трех компонент %,(f),yi (t), у2 (/), причем наблюдаются две последние компоненты. По- добные случаи рассматривались в гл. 7. Априорный инфини-
тезимальный оператор основного процесса имеет вид dL = dt(a-^- + l^-'\ + dut^- + р к <3? dyt I дуг + (П.51) 2 ( W df, ) Проверка признаков 8.7.А—В показывает, что (при подхо- дящем выборе заключительных штрафов с—сь) наблюдаемые процессы у\ (/), у2 (/) и апостериорная плотность распределе- ния вероятностей образуют в совокупности достаточ- ные координаты. Если начальное распределение wa(^) гаус- сово, то и в любой другой момент времени апостериорное распределение будет гауссовым: wt® = -±=-e . (11.52) Поэтому, вместо того чтобы рассматривать апостериорную плотность (11.52), можно рассматривать ее параметры mt, kt. Подобное упрощение было разобрано в § 9.5. Процесс с опе- ратором (11.51) относится к процессам, которым посвящены п. 1 и п. 3 § 9.5 (не зависящие от координат локальные дисперсии и линейно зависящие сносы). Поэтому к данной задаче применимы изложенные там результаты. После замены плотности распределения (11.52) на пара- метры mt, kt достаточными координатами будут переменные mt, kt, у\ (t), уг (t). Уравнения для mt, kt получаем' конкре- тизацией формул (9.33). Учитывая простой вид локальных параметров в (11.55), находим mt = a + — mt)< kt — D---(11.53) Если k0 — начальное значение апостериорной дисперсии, то решение второго уравнения (11.53) имеет вид ___ 2/1/JT ___ k = 1/W Ег0 + /ОЛ')е у N +k0-VDN ____________________ 2< тЛ— __________ (k0 + VDN ) е V N - k0 + yDN _____ *och'l/-g- +/Div'sh^ ]/*> = Vdn --------. (Ц.54) +/5ArCh/j/A
Этот параметр, поскольку он определен, можно не относить к числу достаточных координат, рассматривая функцию St(kt, mt, ух (/), г/2(0) как функцию времени и остальных до- статочных координат. Тогда мы будем иметь три достаточные координаты mt, у\ (t), у2 (t). В соответствии с формулой (9.34) они имеют вторичный апостериорный инфинитезимальный опе- ратор d^3(t) = dt (а —— + т -^—y + dUf 4- \ дт дух J дуг dt 2 N dm2 dm dyi d2 difi (11.54) Ввиду того что функция С (F— г/2) в (11.50) зависит не от всех трех координат £, у\, у2 в отдельности, а лишь от раз- ности g — г/г, в данной задаче можно провести дальнейшее сокращение числа достаточных координат. Функция st (mt, ylt уг)= \C(l — у2) wt (g) d I = djzf2 = dt а —--------1- dut —------1- dm dy2 2 =-7=== [ С (/и, — г/а 4-п) * (11.55) У 2nkt J оказывается зависящей только от разности mt— y2(t)==x(t). Если, в частности, С (g — г/2) = (g — г/2)2, то г/х, г/2) = [mt — г/2(()12 4- kt = x2(t) + kt. (11.56) Как следует из вида оператора (11.54), двумерный про- цесс (mt, у2) является марковским сам по себе и имеет опера- тор kt д2 , d2 \ N дт2 Qife j (11.57) Более того, разность x(f)=mt—y2(t) представляет собой одномерный марковский процесс с оператором d£ = (adt-dut)-^+-^- (Н.58) dx 2 \ N j dx2 Поэтому условие 8.7.Б не вынуждает добавлять к Xt какие- либо другие координаты. Как следует из (11.55), (11.56) и из простого характера ограничений (11.49), этого не требуют и другие условия 8.7.А,В, так что x(t) оказывается един- ственной достаточной координатой. Дальнейшее рассмотрение аналогично рассмотрению пре- дыдущего параграфа. Вследствие (11.58) аналог уравнения
(11.30) имеет вид о , ч с / ч , Д / $ । \ d2St(x) . Sf_A(x) — St(x) + 2 N +xj + + min (а А — Аи) dSt - + (х2 + &() А + о (А), (11.59) —и0Д-'Л«<«0Л дх (\U — Ut — Ut-s). Здесь выбран среднеквадратичный критерий качества, при- водящий к функции (11.56). Для функции St (х), принадле- жащей пространству регулярности, справедливо уравнение dSt 1 f \ d2St . / , dSt . 2 । а /11 col ----= 77 + % /Т1—Ь (a — «о) —--------b x2 + kt (11.60) dt 2 \ N / dx2 dx в области Bx, где dSt dx >0, (11.61) и уравнение dSt dt i / k2 - R- + 2 \ N d2St dx2 ~r (a + u0) + x2 + kt X в области B2, где ^-<0 dx (11.62) (11.63) Как и в § 11.2, на обшей границе Г Эхг областей Bi и В2 вы- полняются условия непрерывности первой и второй произ- водной: dSt , . nx dSt . d2S> , . пч <?2S/ , пч —-Чхг + 0) = —7(хг — 0); -—^-(хг +0) = —Нхг —0). dx dx dx2 dx2 Второе из этих условий является менее универсальным, оно справедливо только потому, что по обе стороны границы име- ются одинаковые штрафы и одинаковый коэффициент диффу- зии. Из (11.61), (11.63) и из непрерывности первой производ- ной вытекает добавочное граничное условие 5S/ / ч л —±(хг) = 0. dx (11.64) По аналогии с предыдущей задачей может быть рассмот- рен стационарный режим работы. Для этого нужно предпо- ложить существование пределов (11.37), (11.38) и независи- мость первого из них от х. Для предельной функции f (х)
имеем теперь уравнение 4(^ + %^ + (fl-“o)^r + x2 + A-Y==O <И-65> 2 \ N J dx2 dx „ df n в где -у- > 0, и уравнение 4"f-\r + x>)—- + (а + и0)^- +х2 +k — y = 0 (11.66) 2 \ N J dx2 dx в В2, где < 0. При выводе этих уравнений учтено, что в dx уравнении, аналогичном (11.39. а) в процессе предельного пере- хода b — t-*oc> дисперсия kt согласно (11.54) стремится к пре- дельному значению k = kx = yDN. На границе хг справедливо условие -4L(xr)=0 (11.67) dx (см. (11.64)). В отличие от предыдущей задачи область достаточных ко- ординат является теперь не интервалом, а неограниченной прямой. Для доопределения функции -у- (х) теперь вместо (11.44) следует добавить некоторые условия на бесконеч- ности. Без особого обоснования потребуем не слишком бы- строго возрастания функции -у-(х) на бесконечности, именно I —(х; I = 0(Soo (х)). Здесь Soo(x) —предел при t->oo функции (11.55), т. е. ре- зультат подстановки kt—k. Применительно к функции (11.56) указанное условие приводит к требованию, чтобы возрастание функции было не более быстрым, чем квадратичное. Учи- dt тывая общее решение X VJsL = — р [ (у2 4- k — у) dy 4- CY dx J xQ уравнений (11.65), (11.66), получаем, что это возможно лишь, если и0>\а\. Область больших положительных значений х
при этом совпадает с областью Si и в ней == р С е-^и0-а)(у-Х) (y^k — у) dy = dx J X = —’—Гх2Н-----------+----------+ k — у]. (11.67) и0 — а Р(и0 — о) Р2(«о — о)2 J Область больших отрицательных значений х принадлежит области Ег, и в ней X ММ. = — р С е-₽(«->+«)(^-4') (у2 + k — у)dy = dx J —ОО 1 Г 2 2х I 2 . . ----------X2---------------------f- ------------- + k — у «о.+ e L Р(«о + °) ₽2 (“о +° )2 (11.68) Приравнивая согласно (11.64) выражения (11.67) и (11.68) нулю, получаем два уравнения для определения хг и у. Ре- шение этих уравнений приводит к результату хг = о а / /г2 . \ , , 1 / й2 , \ «о + °2 ----5----(-----Ни; У = « + — (--Г X -5------• u20 — a?\N J 1 2 \ N J (и2 — о2)2 (11.69) г-г df . п Проверка подтверждает выполнение неравенства > 0 df а при х>хг и неравенства ——< О при х<хг. dx В самом деле, как видно из (11.65), (11.66), обе параболы (11.67), (11.68) имеют в точке хг одинаковую производную уу- (хг) = р (у -- k — х2), т. е. являются соприкасающимися. Согласно (11.69) она по- ложительна: А2 d*f ! ч + Х dx2 (ХГ)~ и20-а^ О так что указанные неравенства действительно выполняются. Интегрированием (11.67), (11.68) нетрудно найти функ- цию f (х) с точностью до аддитивной постоянной. Приведенное решение задачи получено в работах Стра- тоновича и Шмальгаузена.
§ 11.4. УВЕЛИЧЕНИЕ ЧИСЛА ДОСТАТОЧНЫХ КООРДИНАТ Методы, изложенные в этой главе, в принципе применимы к большому числу задач. При переходе от более простых за- дач к более сложным применимость методов, как правило, не нарушается, однако происходит увеличение числа достаточ- ных координат, так что фактическое решение задачи, есте- ственно, осложняется. Чтобы проиллюстрировать сказанное, усложним пример, рассмотренный в § 11.3. 1. Пусть функция штрафов С, входящая в (11.50), зави- сит не только от разности g — у2, но и от каждого аргумента в отдельности, например, С(1-у„уй) = С0(у2)£-у2У. (11.70) Это означает, что при разных положениях объекта требуется, вообще говоря, различная точность слежения. Тогда раз- ность х — т — у2 не будет уже являться достаточной коорди- натой. Именно, для нее будет нарушено требование 8.7.А, так как для указания средних штрафов будет требоваться еще координата у2. или т. Пара координат х, т (или х, у2) бу- дет достаточной. Учитывая вид инфинитезимального опера- тора (11.57) и усредняя (11.70) по аналогии с (11.55), полу- чаем уравнения dSt (х, т) = 1 / \ &St k* 2t d2St k2t d2Sf dt 2 \ N J dx1 + N dxdm + 2N dm? Ф + (а + и0)^ + а^ + С0(щ-х)(х2 + ^) (11.71) дх dm 1 в Ei,2, обобщающие (11.60), (11.62). 2. Предположим теперь, что усложнение касается не функ- ции штрафа, а диффузионного процесса £ (/),за которым тре- буется следить. Пусть его коэффициент сноса не является постоянным, а имеет вид а (1) = а° 4- а1%. Применяя формулу (9.34) в этом случае, вместо (11.57) по- лучаем вторичный апостериорный оператор dJ£2 = dt (а0 + cdm) ——|- dut ——|- dm dy2 dt / k2t ffL 2 dm? d2 > (11.72) Одномерный процесс x = m — y2 теперь не является марков- ским, а есть лишь компонента двумерного марковского про-
цесса (х, т). Требование 8.7.Б для х не выполняется, хотя другие требования 8.7.А, В и являются выполняющимися. Оно вынуждает добавить к х вторую координату т, после чего все требования будут выполняться. В соответствии с (11.72) основные уравнения в данном случае имеют вид dSt (х, т) 1 / k2 \ d2St k2 Q2Sf k2 d2St ' -- - , 1 % ) _i— U. dt---------------------------------------------------2 \ N-J dx2-N dxdm-2N dm2 + (a0 + cdm 4- u0) + (a° + alm) 4- x2 4- kt (11.73) dx dm В ^1,2- 3. Пусть теперь усложнение касается только работы сер- вомотора. Будем считать, что при разных положениях регу- лируемого объекта (при разных у?) условия его работы раз- личны и максимальная скорость зависит от у%: t \ut — И/_д|< j* и0 (у2 (т)) dx = и0 (у2 (I)) Л -ь о (Л). (11.74) К-д В этом случае координата х достаточна для выполнения требований 8.7.А, Б, но недостаточна для указания ограниче- ний (11.74) на управление (8.7.В не выполняется). Добавле- ние координаты z/г (или т) исправляет положение. Как не- трудно видеть, основное уравнение при этой имеет вид _ dSt (х, т) = 1 / k2 х d2St dfiSf k2t d2St dt 2 \ N ‘ ) dx2 Л' dxdm 2N dm2 । r — / м dSt । dSf , , + [й + u0 (tn — X)] —-—• 4- a —--1- x2 4- kt dx dm (H.75) В £<1,2. Каждому из приведенных уравнений (11.71), (11.73), (11.75) соответствуют одни и те же условия (11.61), (11.63) и условие (11.64) на общей границе областей Hi и На. Легко записать также комбинированное уравнение, соот- ветствующее одновременному учету описанных выше услож- няющих факторов. 4. Рассмотрим особо одну важную причину увеличения числа достаточных координат. Для применения излагаемых методов, связанных с условными марковскими процессами, принципиальным является марковский характер процессов. С практической точки зрения это условие является не очень ограничительным, поскольку реальный немарковский про-
цесс с любой требуемой точностью можно представить как компоненту многомерного марковского процесса, В этом смысле, если не обращать внимания на связанные с такой заменой погрешности, немарковский характер про- цессов не является препятствием для применения теории. Чтобы увеличить точность аппроксимации, вообще говоря,, следует увеличить число компонент многомерного марков- ского процесса. Поэтому более точный учет немарковского характера процесса связан с увеличением числа достаточных координат. Возможность замены (с любой точностью) немарковского процесса марковским в большой степени расширяет область применимости теории. Конечно, увеличение числа достаточ- ных координат затрудняет проведение расчетов и получение конкретных результатов. Поскольку повышение точности ап- проксимации связано с усложнением расчетов, то при реше- нии конкретных практических задач в выборе точности аппрок- симации следует стремиться к разумному компромиссу. Покажем увеличение числа достаточных координат при учете немарковского характера процесса на примере задачи,, разобранной в § 11.3. Пусть процесс | (/), за которым прово- дится слежение, не является марковским: вероятности его будущих значений зависят не только от £ (/), но, скажем, еще от производной т] (f) = ^122. Если зависимость от более dt высоких производных можно не учитывать, то двумерный процесс (g, т]) будет марковским. Пусть ему соответствует инфинитезимальный оператор d/- 1 . 2 п <?2 , д . . , д — = — К2D — + (а ц) -—. dt 2 dr]2 дт] <5g Последний выбран с таким расчетом, чтобы при V*oo полу- чался процесс g (0, рассмотренный ранее в § 11.3. Как и раньше, считаем, что наблюдается процесс (11.47) и г/2- Совместный процесс g, т), у\, у% имеет оператор dLpr + + +§ — + -L%2£)_dL + 1 v 17 <9g дУ1 2 Дф -ь т + du<4r + f dt~^- 2 ду2 J дуъ 2 ду$ Пользуясь формулами (9.33), (9.34), можно-записать урав- нения т -= а + + _L (yt — ту. /дп + -2- (У1 — т)
для апостериорных математических ожиданий т=МрД, т^М^т], уравнения для апостериорных дисперсий *Й - 2*5п — *5п = *чч **5ч *55*5ч> *г]г] == АЛД — 2%*^ — k^, (11.76) а также выражение для вторичного апостериорного инфини- тезимального оператора: d^£ =- dt Г — + (а + mn) ~ + т + L апгх\ от дух 1 /)2 1 Д2 Д7 Л2 1 Л2 , , г? . , а2 ] . , д . х ,, а2 + *55 —Ь *£ч "3—л— + ~л—о “ "7Т ‘ дтдух dm1}dy1 J ду2 2 dy2 (11.77) Как показывает проверка, достаточными координатами теперь являются переменные х = т— у2, тА. Принимая во внимание (11.77), получаем основное уравнение dSt (X, /пл) dt ,2 . . 1/1 — \ t = — -^Г + (а + тЯ + "о) + UmY] дх f 1 d2Sf . 1 , , d2Sf . 2 I A - -]----k? n—------fesfeji-------H 4" 2^ dm2^ ' W S 51 dxdm^ й (11.78) в Ei,2. Таким образом, проведенный учет немарковского ха- рактера процесса (Q вызвал появление добавочной коорди- наты Шч]. 5. Аналогичным образом может быть учтен нёмарковский характер движения регулируемого объекта. Пусть г/г (0 есть компонента двумерного марковского процесса (г/2 (t), v (t) = = y2(t)), причем уравнение (11.48) заменяется на уравне- ние K~ldv(t) + v(t)dt = dut + d^(t), (11.79) где ?2 (0—тот же самый винеровский процесс. Последнему уравнению соответствует инфинитезимальный оператор dLpr = dtv— + %(dut — vdt)~ + —K2dt —. (11.80) dy2 dv 2 dt?
Переход от (11.48) к (11.79) можно аргументировать уче- том инерционности регулируемого объекта. Если совершить предельный переход %->со (инерционность стремится к ну- лю), то (11.79), очевидно, обратится (в 11.48). Условие 8.7.Б требует теперь добавления переменной v (/) к числу достаточных координат. Заменяя оператор на оператор (11.80), получаем для. данного случая основное уравнение в виде dSt (х, v) , . dSt , , . . dSf , -----м 7 = (а — v) — % (v + u0) —е -4- dt dx-' ~ ' dv + + + + (11.81) 2 У й? 2 dv* * ' ' в областях B]t2, где • dS/ , , sign —- = ± 1. dv По аналогии с предыдущим на общей границе Г указан- ных областей выполняется условие непрерывности и исчезно- „ .. dSf вения первой производной ---. dv 6. Вследствие увеличения числа переменных решение уравнений (11.71), (11.73), (11.75), (11.78), (11.81) значи- тельно труднее, чем уравнения (11.60), (11.62), поэтому для них не удается получить общие и точные результаты. Однако в различных частных случаях, если использовать специаль- ные соотношения между параметрами задачи, можно приме- нять те или иные асимптотические методы (методы малого параметра) и получать с их помощью приближенные резуль- таты. Так, в работе Стратоновича [18] был разработан и приме- нен для решения стационарного варианта уравнения (11.73) асимптотический метод, учитывающий малость коэффициен- тов при диффузионных членах (членах со вторыми произ- водными). Решение при этом получается последовательными приближениями, результаты первых приближений находятся без особого труда. В других специальных случаях могут быть разработаны другие приближенные методы. Пусть, например, представ- ляет интерес исследовать тот случай, когда причины, учиты- ваемые в настоящем параграфе и приводящие к усложнен- ным уравнениям, не очень сильно влияют на окончательные результаты, не очень сильно возмущают задачу, рассмотрен-
ную в § 11.3. Тогда можно подсчитать возмущение в первом приближении, во втором и т. д., пользуясь регулярными ме- тодами последовательных приближений, которые, как пра- вило, могут быть применены в подобной ситуации. Не рассматривая здесь регулярные методы последова- тельных приближений для решения уравнений (11.71), (11.73), (11.75), приведем простое приближенное решение их в ука- занном специальном случае. Остановимся для конкретности на уравнении (11.73). При каждом конкретном значении коорди- наты т быстро успевает установиться квазистационарное рас- пределение вероятностей по второй координате х. Координата т при этом не успевает существенно измениться. Квазиста- ционарным флюктуациям по х, как видно из (11.73), соот- ветствует уравнение 1 / \ d2S ,/л, 1 __ . dS . » . , — ( -7- + « ) + (а + а т + wo) + X2 + k = у (т). 2 \ N J дх2 дх Решая последнее, по аналогии с § 11.3 (11.69) находим зависящие от т квазистационарные средние штрафы и ква- зистационарную границу: “о + (а° + abri}2 [и2— (а° + aim)2]2’ Хг(пг) (а0 + alm) (k2N 1 + х) ио — (а° + aW е После этого можно перейти к рассмотрению диффузии вто- рой координаты т. Если St (m) —функция, зависящая толь- ко от переменной т (усредненная по флюктуациям второй переменной х), то, как нетрудно понять, используя (11.72), она описывается приближенным уравнением dSf (m) _ J______ dt ~ 2 N d?Sf 1 / n < i \ dSt 1 ~/ \ —+ (a0 + altn) + у (m). dm2 dm Разработка регулярных методов дает обоснование приве- денным результатам и позволяет получить более точные ре- зультаты, соответствующие высшим приближениям. Условием применимости этих результатов и приближений является ма- лая величина коэффициента а1. 7. Рассмотрим в заключение подробнее один метод после- довательных приближений, пригодный для решения уравнения (11.78), который близок к методу, изложенному в книге Стра- тоновича [8], стр. 106—110, 115—117. Как и в описанном выше случае, условием его применимости является близость к невоз- мущенному режиму, т. е. большая величина параметра Л. Будем рассматривать стационарное решение, как в конце
§ 11.3. Уравнения для стационарных апостериорных диспер- сий получаем, приравнивая нулю производные по времени в (11.76). Это дает ь, = - . ъ-----Ь2 । 1 аз . 2N ’ “ 2N Н 2N2 < + — Н ч------— k* = DN. к KN ” 4/.W2 й Не представляет труда получить асимптотические решения этих уравнений k^ = VDN-~^ + O^)-, Вводя переменную у = V 2А,/Ут]0/£ц, запишем стационарный вариант уравнения (11.78): 4^ к W дг[ 'iJTJT ду дх — у . j . а _ n\ df . +- а + ~77~ У + “° Н- + \ У Л ] дх + 42—^- + x2 + ^-Y=° (Н.82) (%! = 1Z-—; х2 = —'— + х; а = ~7§=-Y к 51 у N 2 JV y2N / Вместо одной функции двух переменных рассмотрим по- следовательность функций от одной переменной ОО ОО fn (*) = f/ (*. У) F<"+» (У) dy = (- 1Г Г - fjX’-y} Fw (У) dy J J дуп —ОО —ОО (11.83) У2 (п = 0, 1,2, .. .; F<"+0 (у) = \ /2л dyn J Чтобы получить уравнения для них, умножим (11.82) на /?(п-М) (/у) и проинтегрируем по у. При рассмотрении членов, содержащих производные по у, целесообразно производить интегрирование по частям. Кроме того, следует воспользо- ваться соотношениями Срр(«+1) dtf d 9у [yF(n+i> (z/)] + nF<n+^ (у) = 0; z/F<”+1) (у) = — F(n+2> (у) — nF^ (у).
Тогда из (11.82) будем иметь при п — 0 и df0 . у-2 <Ffo dx 2 dx2 df дх dt/ + x2 + ^ — Y — UOj>(1) 1 dx (11.84) f = a '" % Vк dx a dfn_ , z2 d?fn nk dx 2/i% dx2 __ u° C7?(«+i) df nk J dx при н>1. Подставим сначала , Hi df+1 dy---------— nк dx (11.85) Л a df0 a dfi , '/-2 tP/i Ц'/. dx X dx 2% dx2 Up к df dx dy--^=^ J^k dx (11.86) в уравнение (11.84). Затем подставим в полученное уравне- ние аналогичные выражения из (11.85) для f2 и fi, потом в ре- зультат — выражения для /з, /2, fi и т. д. Эти подстановки бу- дут добавлять в уравнение все новые и новые члены прогрес- сирующих порядков относительной 2 Гдавные члены (чле- ны наинизших степеней параметра % 2), однако, образуются уже в результате первых подстановок и дальнейшие подста- новки на них не влияют. Оставляя лишь некоторые такие главные члены, записываем результирующее уравнение в виде а df« । *2 d2f<> dx 2 dx df dx dy+ + — у + , x'ia , ^2_d2 \ 47o , ' к dx2 k2 < dx 2 dx2 ) dx2 + 5^-^-?Я2)|^|^ + О(Л-3). (11.87) у к dx J I dx I Если описанные многократные подстановки делать в урав- нение (11.86) или в аналогичное уравнение для f2 (или /з,...), _ з_ то можно получить, что fi имеет порядок X 2, имеет поря- док X-3 и т. д. Интегральные члены, содержащие 1 dy, следует
в результирующих выражениях, например в уравнении (11.87), выразить через f0, fi,... и в конечном счете через функ- цию f0 и ее производные. Покажем, как это делается. Запи- сывая функцию f (х, у) через производные Нх>У)=У'-^-Р)(х,0)уг' (11.88) k=0 и подставляя в (11.83), имеем Л(Х') = (—0)^, (11.89) 1=0 где V= [wtsWds-i "Р11 чет"'>“ J ( 0 при нечетном /. Эти равенства можно рассматривать как уравнения отно- сительно k=Q, 1,...}. Учитывая, что функции fn (а зна- чит, и f(n>) убывают с ростом п как степени малого параметра _ 2. % 2, нетрудно разрешить систему уравнений (11.89) и найти {/<*)} с выбранной степенью точности, например, Ж О)=/о(х)-^-/2(х) + ...; /(i)(x,0) = -A(x) + ^-/3W+ •••; (П-90) /<2>(х, 0)=/а(х)+ ...; Итак, {/(*)} выражены через {/л}. Поэтому и интеграл СF(«+D12LIdy = СF(n+1>(?)|±у±fw(х, 0)У*I dy | (JX I I ox КI I k=0 оказывается выраженным через {fn}. Многократные подста- новки (11.85) приводят к тому, что этот интеграл в конечном счете выражается через f0. В результате уравнение (11.87) становится замкнутым уравнением относительно функции fo (х) и может быть использовано для ее отыскания. Уравне- ние для линии переключения ОО ^S4rz<fe)(x’O)^w.=o (iL91) k~0
по той же причине выражается только через функцию f0 (х). Конкретные вычисления облегчаются наличием малого пара- метра и тем, что вычисления можно проводить лишь с точ- ностью до выбранной степени этого параметра. Чтобы проиллюстрировать описанный метод, найдем пер- вую поправку к невозмущенному режиму. Оставляя лишь пер- вые (самые большие) поправочные члены (в 11.87), имеем + +х2 + £ _Y + dx 2 dx2 J | dx | + -^JVo_ = O. (11.92) X dx2 В соответствии с выбранной точностью здесь можно пола- гать df дх ------Л-^У+О&-*) dy = dx dx чу d2f0 X дх2 _ 5 + О(% 2) dy. Этот интеграл, следовательно, равен dfo dx в тех местах, где з d2f0 dx2 >сй 2 dx Более сложное , т. е. в подавляющем большинстве мест. выражение для него справедливо в области В, I dfo I где —— I dx | ---?_ I flC I — aZ 2 —— . Пусть Xr—точка, определенная yc- I dx2 I ловием -^-(хг) = 0. Указанная область содержит эту точку и в ней —— — (хг) (х — %г) + О(К~3). Поэтому в области В dx dx2 C f (i) \dy = I (xr) I • C FV (z/) I x — Xr + aA. 2 у I dy. UX I I (lXe | a) I I Отличие этой функции от dfo dx равно ( <p (x) = J F<M (y) [ | a-43/»(x — xr) + у I CF(D 2L|;^_|_^| = |^_(Xr)|rCF(i)(z/)|x-xr + J dx | | dx | | dx2 | J | 4-aX 2 y\dy— |x — хг| 1 = aA 2 I (xr)| <p(x), (11.93) 1 ' | dx2 | — a_|A3A1 x — xr | j dyj.
Линия переключения, определяемая посредством (11.91), в рас- сматриваемом приближении является прямой: уг (х) — = а-*%3^(х — хг). В самом деле, из (11.88), (11.90), (11.86) имеем f(x, у) --- /0(х) — AW У + ••• =/oW — ТТг'дГ W# + ••• Л у Л ил и, следовательно, 2L (Х> у) = ^А-(х)---(х)у + ... = дх V ,у’ dx ' ’ Л./А dx2 V Отсюда, приравнивая модуль нулю, получаем указанный резуль- тат. Уравнение (11.92) вследствие (11.93) принимает вид / х2 d?f0 . df0 । d/0 I --------------- “T~ u----Un ---- — \ 2 A / dx2 dx | dx | ---Г/Н W)I<pW + x2 + /b-Y = 0, Л у A | dx2 | аналогичный (11.65), (11.66). Функция <p (x) сказывается _ з в области В, имеющей по оси х малую ширину —а/. 2 , и в данном приближении мало влияет на результат. Главное от- личие от результатов § 11.3 поэтому сводится к тому, что диф- k2 фузионный коэффициент х2 = — + х заменяется на ——|- + х+-^- + О(%-2). Проиллюстрированное в настоящем параграфе увеличение числа достаточных координат при учете дополнительных фак- торов, усложняющих задачу, можно считать типичным. Свя- занное с этим повышение вычислительных трудностей требует разработки новых, подчас своеобразных приближенных мето- дов расчета.
Приложение 1 УСЛОВНЫЕ МЕРЫ И МАТЕМАТИЧЕСКИЕ ОЖИДАНИЯ НЕНОРМИРОВАННЫХ МЕР Приводимые здесь формулы и понятия условных мер и условных математических ожиданий являются прямым обоб- щением обычных формул и понятий. Обобщение проводится на тот случай, когда мера не является вероятностной, т. е. когда мера всего пространства не равна 1. Пусть задано пространство с мерой р), причем р (Q) < то. Математическое ожидание определим формулой (п.1.1) Р(й) J й если |(со) есть ^-измеримая суммируемая функция на Q. При таком определении, очевидно, Мц1 =1. Пусть имеется а-алгебра ЗЕ Условную меру р(Г£ С & | ^i) определяем как производную Радона—Никодима (на 3\) меры р(-Г) относительно меры р(-): <пл-2) р (dco £ q^i) Такое определение возможно, ибо р (АГ) = 0, коль скоро И(А) = 0. Согласно данному определению Р (АГ) = С р (Г | р (dco С ^), Г (.У, л или, применяя более наглядную форму записи, р (dx dy) — р (dx | у) р (dy). Если имеются монотонные ст-алгебры ^'1CZZF2CZ-.-CZ^’№^’, то аналогично предыдущему можно определить условные меры 280
р (tto4) Р (<fo £ <Ffe-i) k = 2, . , N. В соответствии с этим имеем И И € З'Д = J р (Л | &k-i) р (da' £ tf’/.-i). Записывая здесь при помощи такой же формулы р (В ( J'i-O = j р (В | ^-2) И (da" ( ^_2), а также выражая подобным образом и другие вероятности р(da £ ^—2), р (da £ З^к—з), • • •, получаем Р (А ( (Fft) = J ... J р (А | ^к-i) р (da' ( &k_\ | ^_2) р (da" £ € &k-21 33—3) ... р (da £ &\). (П.1.3) Выведенная формула совпадает с обычными такими форму- лами для условных вероятностей. В более наглядной форме ее можно записать р (dxdydz . .. du) = p (dx | z/, z, ..., и) p {dy | z, . .. , u) ... p (du) Условной мере (П. 1.2) сопоставляем условное математи- ческое ожидание 1 Р (Р I qFi) (а) Р (da | ^) £2 в соответствии с формулой (П. 1.1). Но, как видно из (П. 1.2) г р (Qlt'Fi) = 1, поэтому условное математическое ожидание можно записать более просто: Мц | 3\] = р (а) р (da |3\). (П.1.4) Разумеется, здесь вместо можно взять также любую дру- гую о-алгебру, например сГА. Для условного математического ожидания также сохра- няется естественное соотношение мц[1!3ri]= 1. Таким обра- зом, и в этом случае условное математическое ожидание име- ет смысл некоего среднего значения функции, несмотря на то, что исходная мера р не нормирована на единицу. Пусть С ^2 С &• Как и в вероятностном случае (когда р (Q) = 1), условное математическое ожидание обладает сле- дующими свойствами:
ПЛ. A: Mg {Mg IS I ^8] I = Mg [£ I S^l (почти всюду); ПЛ.Б: если g(a) является ^-измеримой, то Mg (g I = i (а) (п. в.) Свойство ПЛ.А вытекает из соотношения которое можно вывести, положив в (П.1.3) сначала (^..З'к) — = (&\, 3~2, 3~) (k = 3), а затем (^...&k) = (3\, &) (k=2) и приравняв результаты. Проверим свойство П. 1.Б. Вследствие ^-измеримости (а значит, ^-измеримости) функции g (со) соотношение Mg [| | ^а] = J s (а) В (da | 3^) можно записать Мм [5|^а] = р(а) (х(dco С ^2|^2). Но мера н(АС I^2) согласно (ПЛ.2) является тривиальной: р, (А £ 3\1 ^а) = /а (а) почти всюду (п. в), где Za (а)-индикатор множества А. Поэтому J g (со') р (dco' ( Зг2 | 3^) = р (a ) Id®' (а) = £ (а), в чем можно убедиться, заменив интервал на допредельную сумму и перейдя к пределу. Итак, мы видим, что для невероятностных мер также можно ввести условные меры и условные математические ожидания со свойствами, которые аналогичны обычным свой- ствам, имеющим место для вероятностных мер. Приложение 2. УСЛОВНАЯ МИНИМИЗАЦИЯ Вариант I Пусть задано пространство Q и две о-алгебры его под- множеств^! С 3^2- Далее наЙ задана 3"а-измеримая функция /(а).
Определение П. 2. 1. Условная нижняя грань inf / (со) =/(со) “l^i есть функция со свойствами: П. 2.1 .А. она определена на Q и -измерима; П. 2.1.Б. если Г € &^непусто, то inf / (со) = inf f (со). <о£Г со£Г Теорема П. 2.1. Приведенное определение задает услов- ную нижнюю грань единственным образом. Доказательство. Пусть fi (со), /г (со) — две такие не- совпадающие функции. Тогда существует 8 > 0 и непустое множество ГЕ , на котором одна функция превосходит дру- гую больше чем на 8, например Гг = (со : Д (со) -Д (со) >8}. (П.2.1) В силу П.2.1.А. имеем Г£ (1^'1. Учитывая П.2.1.Б., получаем inf Д (со) = inf Д (со), (П.2.2) Г£ так как каждая величина равна inf [/(со), со(Г£]. Но согласно (П.2.1) inf Д (со) — inf Д (со) 8. (П.2.3) Ге Г£ Полученное противоречие доказывает совпадение функций /Да) =/2(а). Теорема П, 2.2. Условная нижняя грань удовлетворяет соотношению /(со)</(со). (П.2.4) Доказательство. Выберем любую точку со0(й и рас- смотрим интервал /£ = {/(соо),^/(соо) + б}. Вследствие П.2.1.А. множество {со :/(со)( Д} = Г принадлежит Очевидно, что оно не пусто. Применяя для этого множества П.2.1.Б., получаем /“(coo)=inf/(со) <о£Г Отсюда вытекает (П.2.4) в точке со0, поскольку соо( Г. Теорема П.2.3. Пусть р (Л |— некоторая условная вероятностная мера на (Q, т. е. функция пары (Л. со) ( ( X О, которая &^измерима по второму аргументу и при Л ( обращается в тривиальную меру ИСЛ^Д^О^/д^) (П.2.5)
f/(a')^ (“)=/(“)• (7л(<в)—индикатор множества Л). Тогда /(to) <p(m')p,(dco'13е;), (П.2.6) если интеграл в правой части существует при всех со. Доказательство. Используя (П. 2.4), имеем Интеграл в правой части этого равенства в силу П. 2.1.А мож- но записать Учитывая тривиальный характер (И. 2.5) подынтеграль- ной меры, имеем J X') И (^«' I &л) = В том, что это действительно так, можно убедиться более подробно, рассматривая интеграл как предел соответствую- щей суммы. Сопоставление приведенных соотношений доказы- вает (П. 2.6.). Теорема П.2.4. При любом е > 0 существует такая ^измеримая функция со* (со) (со значениями из Q), что /(co*(co)X/(co) + g. (П.2.7) Доказательство. Произведем е-разбиение действи- тельной прямой точками .... с2, ... (0<cfe+i — Сь<е). Каж- дому элементарному интервалу сопоставляем множество Г\={“7(®)( [ck, cfe+i)}. В силу П.2.1.А оно £ Если оно не пусто, то в соответст- вии с П.2.1.Б имеем inf / (со) ( [ck, ск+1), inf ft®) < ck+i- Следовательно, можно выбрать такую точку со* £ ГА, что fKX^k+r (П.2.8) Соединение всех непустых множеств ..., 1\, Г2, ... совпадает с Q. Фиксируя множество выбранных точек ... , св*, со*....... определяем функцию на Q: со* (со) = со* при со ( ГА. . Очевидно, что неравенство (П. 2.7) будет выполняться,
поскольку точки со и со * (со) принадлежат одному и тому же Гй. и, следовательно, f (со), f (со * (со)) принадлежат одному и тому же интервалу (cft, cft+i) (неравенство ch < f (со 'k ) < <Cfe+i вытекает из (П. 2.8) и (П. 2.4)). Остается проверить ^-измеримость указанной функции со * (со). Согласно своему определению она измерима относи- тельно ст-алгебры, построенной на множествах ..., Гь Г2,.... Но о (..., Гь Г2,...)О71, поскольку всякое Теорема дока- зана. Теорема. П.2.5. При любом е>0 существует такая условная вероятностная мера ц (ЛС<^2|^), чт0 J/WhR^KW + s. (П.2.9) Доказательство. Построение меры, обладающей ука- занными свойствами, можно провести по аналогии с построе- нием функции со* (со). Для соСГй (см. предыдущее доказа- тельство) определим меру ц (Л| со€ 1\) как сосредоточенную на непустом множестве 4 = rfeA{®: Ж € Q+i)} € ^2. полагая р(А1“€гй) = 1; — (на подмножествах ЛС Ah мера может быть определена про- извольно). Тогда, как легко видеть, И (ГД ( ГД = 1; J f (со') р (dco' [ со £ Ffe) [ck, cfe+1]. Меры ц (Л | со € Гй), следовательно, удовлетворяет усло- вию (П.2.5) и неравенству (П. 2.9). Как функция от со она из- мерима относительно о (..., Г1, Г2,...)С £FX, что завершает до- казательство. Проведенное выше рассмотрение еще не дает уверенности в том, что заданная определением П.2.1 условная нижняя грань действительно всегда существует. Поэтому целесооб- разно сконструировать функцию, обладающую требуемыми свойствами. Рассмотрим функцию cpr = inf [/(со), со( Г] на множествах ст-алгебры Обозначим через класс множеств~из которые содержат точку со€ Q. Определим функцию / (со) формулой / (со) = sup срг. (П.2.10) Выведем ряд соотношений для этой функции. Поскольку со ( А для каждого А ( Ки, то /(со) > inf [/(со), со( А] = срл.
Учитывая (П. 2.10), отсюда получаем (п.2.11) Возьмем далее некоторое Г и точку ®(Г. Очевидно, что Г£ Кь„ так что в силу (П.2.10) f (со) > <рг, inf f (со) > срг. (П.2.12) Но согласно (П.2.11) inf f (col < inf/(co) (= срг). (П.2.13) co£F co£F Сопоставляя (П.2.12), (П.2.13), получаем inf f (co) = cpr, « er- т. e. доказываем свойство П.2.1.Б. Чтобы доказать, что f (со) совпадает с условной нижней гранью, данной в определении П.2.1, остается доказать ее ^-измеримость. Без дополнительных предположений удает- ся доказать несколько более слабое (чем f"1 (<®)С<^'1) ут- верждение: если точки coi, сог не разделяются ни одним мно- жеством из ^”i, то точки f(coi), /(оэа) не разделяются ни одним множеством из (борелевским множеством). Конечно, в подавляющем большинстве частных случаев функция (П.2.10) оказывается ^-измеримой. Измеримые про- странства (£2, (7г), обладающие этим свойством при любых сУх С ^2 и f, можно назвать нормальными. Вариант II. Изложенную теорию можно общить на случай простран- ства с мерой (£2,<У2> v) так, чтобы в ней не различались co-функции, принадлежащие одному классу эквивалентности. Многие результаты и рассуждения переносятся на этот слу- чай лишь с тем изменением, что утверждения, справедливые всюду, заменяются на утверждения, справедливые v-почти всюду, т. е. с точностью до подмножеств множества меры нуль. Определение П.2.2. Существенный условный минимум vrai inf / (со) =/"(со), “l^i есть функция со свойствами: 2.2. А. она определена почти всюду в £2 и почти всюду совпа- дает с &\-измеримой функцией; 2.2. Б. если множество ненулевой меры, то vrai inf f (со) = vrai inf /(co) (n.B.v). a€F fflgr
Теорема П.2.6. Определенная выше функция существует и единственна с точностью до эквивалентности. Доказательство. Единственность доказывается по аналогии с теоремой П.2.1 с той разницей, что непустое мно- жество ГЕ заменяется на множество ненулевой меры. И, кро- ме того, приведенные соотношения (П.2.2), (П.2.3) берутся выполняющимися почти всюду. Доказательство существования является принципиально новым. Формула v(r)tpr = v(r) vrai inf/(to) (П.2.14) определяет на^^Г полу аддитивную функцию множеств, ибо, как легко видеть, v(ri + r2)Tri+rs<v(ri)(₽rt + v(r2)<prj при v(rxr2) О (П.2.15) (поскольку из определения <рг следуют соотношения <рг < < (prz, i = 1. 2, если v(rz)^0). На 3Г1 ) А можно определить меру р(Д) = sup [vHJcpx, + ... + г(Дя)фд ]. (П.2.16) Л=Л,+...+Лл . Здесь верхняя грань берется по всевозможным разбиениям Ах 4- ... + Ап, Д; ( ^"1 (v(AiAj) = 0 при iФ j) множества А. Как видно из определения, имеет место абсолютная непре- рывность р <v. Применяя к мерам р (Д), г(Д), Д тео- рему Радона — Никодима, доказываем существование функ- ции f (а), имеющей свойство П.2.2.А. Свойство полуаддитивности (П.2.15) и формула (П.2.16) приводят к соотношению v(r)<pr<p(D, (П.2.17), т. е. к неравенству Фг < J v (da>') = Mv [/(“) I й> € Г] г при любом ненулевом ГСДД. Из (П.2.16) выводится, что можно указать последователь- ность разбиений Ai+ ...+АгП1 = А (А1^^) таких,что ni р (Д) = lim V v (Д') фдг. (П.2.18) Z-»oo i Z=1
Введем функцию Хг (®) = Л“) — Фг (“) = 7(®) — <Ц. пРи й> ( А\, v (Д') > О, которая неотрицательна почти всюду в силу неравенства (П. 2.17) (оно нарушилось бы для множества Г == {со : %г (со) < <0}). Учитывая (П. 2.18) и равенство р(Л) = J f (со) v (dco), А получаем, что она стремится в среднем к нулю: lim f %г (со) v (До) = 0. /-»оо J А Отсюда вытекает, что хг (со) сходится по мере к нулю, а из этого факта легко получить vrai sup xz (со) = vrai sup | xz (co) | -» 0 и vrai inf / (co) «- vrai inf <pz (co) (= min |.фД: v (Л/) > 0, A A c 1=1, ... , nJ). (П.2.19) Ввиду того что из определения (П.2.14) функции фг для любого разбиения А = А{ + ... + Л« , имеем фл = min [<pAi: v (А‘) > 0; i - 1, ... , nJ, то (П. 2.19) приводит, следовательно, к равенству vrai inf f (со) = ф.. Требование П.2.2.Б, а следовательно, и вся теорема дока- заны. Мы видим, что вариант 2 имеет перед вариантом 1 то пре- имущество, что для него теорема существования доказывает- ся без дополнительных предположений. Модификацией теоремы П.2.2 в данном варианте является Теорема П.2.7. Существенный условный минимум почти всюду удовлетворяет неравенству /(co)se vrai inf/(со') </(со). (П.2.20) И'1^1 Для доказательства достаточно показать, что vrai inf f (со) < vrai inf / (co), (П.2.21) E E каково бы ни было множество ненулевой меры.
Зафиксировав Е £ v (Е) > 0, рассмотрим интервал J = [vrai inf f, vrai sup f] E E и множество r={o:7(a>)€/}€^p Очевидно, что (с точностью до нулевого множества) оно включает в себя первоначальное множество: ГЭЕ и v (Г) > 0. Применяя П.2.2.Б, поэтому имеем vrai inf f (со) = vrai inf / (со) = vrai inf / (co) < vrai inf/(co), E Г Г E что доказывает (П.2.21), а следовательно, и (П.2.20). Сформулируем модификацию теорем П.2.3, П.2.5. Теорема П.2.8. Какова ни была бы условная вероят- ностная мера ц (Л справедливо неравенство vrai inf / (со) С f / (со) р (dco | ^'1). Теорема П.2.9. При любом е>0 существует такая условная вероятностная мера ц (АС <^2 что С / (m) Н (da | < vrai inf / (co) -|- e. В этих теоремах условная вероятностная мера может быть определена в отличие от варианта 1 не для всех точек со € й, а для почти всех точек, т. е. является обычной услов- ной вероятностной мерой. Доказательство теорем вполне ана- логично доказательству варианта 1.
ДОПОЛНЕНИЕ РЕШЕНИЕ НЕКОТОРЫХ ЗАДАЧ МАТЕМАТИЧЕСКОЙ СТАТИСТИКИ И ПОСЛЕДОВАТЕЛЬНОГО АНАЛИЗА Для овладения методами, которые связаны с дифферен- циальными уравнениями, составляемыми при помощи теории условных марковских процессов, полезно познакомиться с рассматриваемыми ниже задачами. Они являются в некото- рой степени вырожденными и, следовательно, более просты- ми. Так, в задачах 2 и 3 отсутствуют априорные переходы, в задаче 4 возможны лишь односторонние переходы. Поэтому использование теории условных марковских процессов в этих задачах не является необходимым, но очень полезно. Оно облегчает составление дифференциальных уравнений, а глав- ное, подготавливает читателя к использованию теории в бо- лее сложных задачах, когда имеются, например, двусторон- ние априорные переходы между состояниями. Решение по- следних или других более сложных задач без систематиче- ского применения теории условных процеесов Маркова бы- ло бы затруднительным. В настоящем дополнении не используется в полной мере основной материал книги (которая была написана позже). По- этому дополнение можно читать до известной степени само- стоятельно. Начнем с несколько своеобразного примера оптимальной фильтрации, решаемого без составления уравнения для ус- ловных рисков. В последующих задачах такое уравнение бу- дет играть большую роль. 1. Фильтрация с сигнализацией разладки. Пусть xt — единственный переменный параметр, который может прини- мать всевозможные действительные значения. Интервал —а<х<а назовем «рабочим интервалом». Когда Xt принадле- жит этому интервалу, от решающей системы требуется воз- можно более точная оценка его значения. Соответствующее решение utt=dtt (у) (где У = У*О — наблюденные значения) есть результат фильтрации. Качество фильтрации пусть оце- нивается матрицей штрафов лри 1“-*1<н; (1) I С при | и — х | > р.;
(|х| < а, |и| < а). Выход значения xt за пределы рабочего интервала озна- чает «разладку», и решающая система должна сигнализиро- вать о ней, пока xt не вернется в рабочий интервал. Если си- стема не сигнализирует об имеющейся разладке, то берется штраф А за единицу времени. За ложную сигнализацию взи- мается штраф В в единицу времени. Пусть сигнал разладки совпадает с решением dtt (у)=и' (и' не принадлежит рабо- чему интервалу), тогда матрица штрафов, в дополнение к. (1), будет определяться равенствами Clt(x, и) = А при \х\>а, \и\ < а; Ctt(x, и')=В при Предположим для определенности, что апостериорное рас- пределение гауссово: _ (х—т)2 P(dxt\ytn) = ~~~е 202 dx, (2) где т = mt (у), o = ot (у) —функции, определяемые при по- мощи уравнений теории условных марковских процессов. Данная задача решается методами, изложенными в § 9.1 и § 9.2 (случай (9.5)). Достаточными координатами являются т и ст. Подставляя (1) и (2) в (9.5.а) , находим функцию stt = s (и | у) = А (З.а) F (v) = Зафиксировав значения т, ст, будем искать минимальные зна- чения этой функции. Сравнивая между собой значения функ- ции на интервале а — р < и < а, видим, что минимальное зна-
чение достигается в точке и = а — ри равно s(a —р| у) = А Гг+ 1 — F + Lx0/ \ <т / J + С Гр < m + a \ __ р / m - а + 2р- \ 1 . [ \. а / \ а /J Аналогично минимальное значение на интервале — а<и< < — а + р есть / , । \ л\п1т~ а\ । 1 с(т + а\\ ' s(— а + р х) = Л Fl--- + 1 — F —— + \ ст J \ ст / На отрезке — «+р<и<а—р минимальное значение до- стигается в точке и=т и равно /IX л Г г, / ОТ а \ 1 1 Г? I т + 0 \1 1 s (т \у) = A F - + 1 — F —2— + L \ а / \ а J\ с {р(т+а\ _ F / т-а \_ 2f / L \ ст J \ ст / \ a J J Выбирая из (4) — (6) правило фильтрации наименьшее значение, получаем dt (У) = а — р при т^>а—р; т, —cz + p<m<^'a — р; — a + р, т<—а + р (когда \т\ меньше вводимого ниже критического значе- ния т *). Правило сигнализации разладки получаем в результате сравнения (3) с наименьшим значением из (4) — (6): dt (у) = и' при \т \ > т. Здесь критическое значение т * определяется из уравнения С Ур / т* + а \ р /т* — а + 2|Т Д L \ ст / \ a + 1= 0. 2. Простая задача Вальда. Пусть производятся независи- мые последовательные испытания, причем постоянный неиз- вестный параметр, подлежащий оценке, может принимать лишь одно из двух возможных значений x — xi или Х2. Если i (yl х) плотность распределения исходов каждого испыта-
ния, то апостериорная вероятность после п-ного испытания будет U7(x)^P(x|^) = 4-P(x)/(^|x) ...Куп\х), (7) N где 2 W = ••• f(yn\xi) 1=1 нормировочный множитель, a yi,..., уп — наблюденные значе- ния. В случае непрерывного процесса наблюдения после на- блюдения континуального множества значений у о = { Ух' О < t < /} формула (7) заменяется на непрерывный аналог t W (х) = А- Р (х) ехр | j" фт (ух, х) dx | , (8) о где вид функции фт(#т, х) определяется из условий задачи*. Так, если наблюдается сигнал yt = s( (х) + равный сумме полезного сигнала st (х) и белого шума = dt,t/dt (М^ = 0; МВ(^4-Т = хб (г); — винеровский процесс), то, как известно, формула (8) приобретает вид t W(х) = — Р(х)ехр /— f \ух — N I х J |_ о st W ‘1 / \ j 1 —-— (х) dx V . (9) Последний стохастический интеграл эквивалентен стоха- стическому дифференциальному уравнению dw} dt dwt Sj — Sg Г $1 H- $2 Mi — ^i) (Ю) = Г (х;); st- = st (х{)) или dW1 = Г dy — dt и L 2 о Ml — Wi) (у = ^yxdx Приведенное уравнение является вырожденным частным случаем простейшего уравнения (6.43) теории условных мар- ковских процессов (для процесса с двумя состояниями). * Попутно заметим, что в случае наблюдения^ пуассоновского процесса Vt = с плотностью РДх) функция ф/ х) имеет вид yt In 0/(х) — — ₽/ (х).
Требуется найти оценку u = xt или х2, соответствующую минимальному среднему риску при следующих штрафах: 1) штраф А за неправильную заключительную оценку и = х2, 2) штраф В за неправильную оценку u=Xi, 3) штраф С за на- блюдение, рассчитанный на единицу времени. Указанным ус- ловиям соответствуют матрицы штрафов О А В О II С„(х, и) || = £#('''!> -^1) *1) ^й(Л'2’ (11) Ctt(x, и) = С. Урезанный условный риск S (ал, t) =М[с (со) — сг (со) \у*0 ] (см. (10.3), (10.5), где Ft, F't имеют вид (9.5)), зависит лишь от времени и апостериорной вероятности Иь Он опреде- ляется основным уравнением (10.12), которое в данном случае можно записать 5 (щх, t) = min [Ам1г В (1 — wj, СА + MpsS (щх 4~ Ди», t 4- А) + + о(Д)]> (12) где символ усреднения Mps = M [• | г/*] = М [• | гсц] относится лишь к Ащ = Щ1 (/+А)—Щ] (/). Будем предполагать А, В, С, х, Si,2 постоянными и рас- сматривать «усеченные» процессы наблюдения, не превы- шающие по длительности заданной величины Т. Это значит, что процесс наблюдения заканчивается в момент t = Т и при- нимается решение и — х\ или х2, соответствующее мини- мальному риску S (щ1( Т) = min [Аш1г В(1—wj], (13) если этот процесс не закончился раньше. Равенство (13) слу- жит «начальным условием» (при попятном течении времени) для определения S (щь t) при помощи (12). Во внутренних точках области продолжения наблюдений функция S (о>1, Т) удовлетворяет уравнению S (щх, 0 = СА NipsS (щх + Ащ, / А) + 0 (А) dS d2S о и имеет, следовательно, производные ----, ----. Это выте- да>1. кает из диффузионного характера изменений (10) процесса Wi(Z) и может быть доказано подобно тому, как может быть доказано существование этих производных при выводе обыч-
ных уравнений Колмогорова. Если указанное доказательство не проводить, то существование производных следует посту- лировать дополнительно. Рассмотрим входящее в (12) апостериорное среднее. Раз- лагая S (toi + Ада, t + Л) в ряд Тейлора, находим MpsS (да, + Ада, t + А) = 8 (да,, t + А) + д5(а>1д1 + ^- + ••• (14) 2 dw\ Чтобы вычислить средние МР8Ада, МрДАда)2.........обратимся к (10). Процесс yt = st(x) + входящий в (10), имеет апосте- риорное среднее Mpsyt + s2 (1 —да,) и локальную диспер- сию Mps (Az/)2.= хА + о (A) (Mps (Ay)k = о (A), k > 2). Поэтому из (10), применяя технику усреднения стохастических выражений, разработанную автором в [8], § 4, получаем М^да, = 0; МрДАда,)2 = ^да2(1-да,)2А+о(А); МрДАда)*= = о(А) (Аг>2). (15) Следовательно, Mps8 (да, + Ада, t + А) = 8 (да„ t + А) + Н (да,) ^5(^+ — А + + о(А), где Я(аУ1)= (^^^(l-^)2. После подстановки этого выражения в (12) и перехода к пре- делу А-> 0 находим — -т- =C + H(W1)—— (16) dt dw\ при 8 (да,,/X min [Яда,, 5(1—да,)] (17) (ср. с (10.44)). Во всех остальных местах, как следует из (12) при А->0, имеет место равенство 8 (да,, t) — min [Лда„ В (1 —да,)]. Предполагая, что область, где выполняется (17), есть связный интервал, обозначаем его граничные точки через
fi (0 и fz (t). Это значит, что уравнение (16) справедливо при fi (t) < Wi < f2 (t) и ему соответствуют граничные условия S (да1, t) = min [Awt, В (1 — при w± = /1,2 ft), а именно s (A (0.0 = ЛА (О, S(A(0,0=B(i-A(0). (18) если ЛА<В(1-А); л/а>5(1—A) (последнее предположение подтвердится в дальнейшем). Можно доказать, что в граничных точках имеет место не- прерывность первой производной dSjdwi, если dSjdwi, df^/dt существуют и конечны. Тогда в дополнение к * (18) будут выполняться граничные условия ^-(А(О.О=Л; -|^-(А(0, 0 = —В. (19) dwi dwi Доказательство. Из (12) непосредственно видно,что скачок производной в граничной точке, если он имеется, мо- жет быть только отрицательным: d2S/dw2 = — со (т. е. из- лом направлен углом вверх). Если такой излом имеется, то, как видно из соотношения —1!= min j — mm [Ди\, В (1 — куД] — + С + Д(щ1)^|+о(1)1 A dwf ) эквивалентного (12), при этом будем иметь Однако такое бесконечное значение производной невоз- можно из следующих соображений. Возьмем производную + (20> dt dt dwi dt 4 вдоль границы, которая, очевидно, равна А^~ или —в dt dt и, следовательно, конечна. Если ---- , —— конечны, то со- I dwi I j dt I гласно (20) должна быть конечна и частная производная dSfdt. Следовательно, излом, приведший к бесконечному значению этой производной, невозможен. Доказательство закончено.
Если обозначить , ,, <?S(a>L,/) v(sy1( А =----------------, то из (16) будет следовать уравнение dv д dt dw± (21> OWi _ которое при граничных условиях (19): и(А, t) = Л; v (/2, О = = —В однозначно определяет v (иъ, t) как функционал от А (А и А (А- Для отыскания неизвестных функций A, А тре- буются дополнительные условия, которые мы выведем из (16), (18). Условия (18), очевидно, дают Ь S (А, А - S(А, /) = j1 vdW1 = В- Af.-Bfz. (22} h Далее, дифференцируя (18) по и учитывая (20), находим — (А, 0 + —(А, А — = л dt dwi dt dt откуда вследствие (19) имеем ~^-(А, А =0. Аналогично мож- но получить (А, 0=0- Принимая это во внимание, из dt (16) будем иметь Д(А)^-(АА) = Д(А)^(АД) = -с. (23> OW± OW1 Таким образом, границы областей остановки А (А> А (А можно находить следующим образом. Сначала можно ре- шать уравнение (21) при граничных условиях (19), (23),ска- жем, при условиях п(А,О = Л; Д(А) ~ (А-А = с, OWi предполагая А (А> А (А известными. Затем нужно опреде- лить fi (А, А (А из второго условия (19) и из (22). В предположении, что «усеченный» процесс наблюдения заведомо заканчивается в момент t = Т, можно доказать, что границы областей остановки А, А сходятся в одну точку: А(П=А(П-/^-т^. (24} A -j- D
В моменты t <Т область продолжения испытаний fi (/) < (?) расширяется и при Т — t -> сю стремится к пре- дельной области а < Wx < b. Границы последней легко най- ти, полагая в (16), (21) dSfdt = 0; -= 0. Подставляя ре- шение полученного уравнения ь v — A — CJ а dw H(w) •во второе условие (19) ив (22), находим трансцендентные уравнения dw H(w) wdw Н (w) (25) которые служат для определения а, Ь. В случае Л = В остает- •ся лишь одно уравнение 4х Г 1 2я , о 1 1 — а 2.4 -------- 1- 2 In =- (si — s2)2 [ а(1—а)--------------------а<‘ J С (6 = 1— а). Знания предельных границ областей остановки достаточ- но, когда длительность процесса наблюдения не лимитирова- на. В случае «усеченных» испытаний иногда предлагают про- водить наблюдение с прежними постоянными границами .вплоть до самого последнего момента Т. Очевиден неопти- мальный характер такой процедуры. Для получения опти- мальных границ fi,2 (0 следует решать описанную выше за- дачу. Ввиду того что точное решение получить затруднитель- но, могут быть применены те или иные приближенные ме- тоды. Приведем одно из таких приближенных решений, даю- щее асимптотическое выражение для /1,2 (/) при достаточно малых значениях Т — t. Поскольку функции /1,2 вблизи конца интервала наблюде- ния близки к своим заключительным значениям (24), внутри области наблюдения можно считать //(wj посто- янной:
В качестве v (a>b t) возьмем решение v (и\, f) =- А—В Л+В ф 2 2 (2 У Ф(л) I е-Е deY ' л J J о ди тт &V которое в точности удовлетворяет уравнению---— = п (см. (21)), но лишь приближенно граничным условиям (19). Функции fi,2 (0 определяем при помощи (23) А + В 2__________1 руп Г (Л.2-/*)2 ] = С 2 /л 2/(Г — t)H 4(T—t)H J Н Отсюда /1,2(0 = Г±2 -Y_j] \ (26) Если не учитывать разницы между Н (wi) и Н, то реше- ние (26) будет точным для случая переменных штрафов л<О = ^- + -^-ф(Ч; -в(0 = -^--^ф«. = In Л + В 2 Ул С в чем можно убедиться, вычисляя v (/1,2, t). Используя асим- птотическую формулу Ф(х) = 1 е~*г 1 +0 у Л X находим A —A(t) = B — B(t) A-YB 1 —------е 2 Ул, х Г1 +о(—> L \ х J (ЛЧ-В \2 -^-1 штрафы A (t), В (t) близки к А, В и, следовательно, (26) есть асим- птотическое выражение для функций fi,2 (t). Различными ме- тодами последовательных приближений можно провести их уточнение. В заключение рассмотрим условную постановку данной задачи, более близкую к той постановке, которая имеется в трудах Вальда [1]. Пусть требуется найти оптимальные последовательные
критерии D(y), d'DD(y), обращающие в минимум среднее время наблюдения jD(z/)P(di/j Xj) или j D(y)P(dy\xz) (27) при фиксированных ошибках первого и второго рода: J*Р(dy| х2) = a; J Р(dy\хх) = 0. (28) г, г2 Здесь Г{ — множество тех траекторий {yt}, которые приводят к решению d'DD (у) = х{ (/=1,2). Выбирая произвольное 0 < 0 < 1 и комбинируя средние (27), будем искать минимум выражения 0 J D (у) Р (dy | xj + (1 - 0) J D (у) P (dy | x2). Применим метод сведения условной экстремальной задачи к стандартной бейесовской задаче. Минимизации подлежит средний риск 7? = 0 J D (у) Р (dy\хх) + (1 -0) J D(y)P(dy\xz) + + 4 J P (dy\ м) + К f P (dy Ixz), r2 r, где Zi, — неопределенные множители, которые будут най- дены в дальнейшем. Если интерпретировать 0, 1 — 0 как ап- риорные вероятности Р (xj), Р (х2), то Я= (D(y)P(dx, dy) + ~[P(dy,x1) + ~^~C P(dy,xs). г2 г. Последнему выражению нетрудно придать последователь- ную форму: R = J Р (dx, dy) [ J dtCtt + CDD (r, dDD) ] , 0 где C^(Xi, xx) = Cz/(x2, x2) = 0; Ctt(xit x2) = = Л; . (29) Cz/(x2, X!) = j _0 = 5; Cti = 1. Сравнивая (29) c (11), видим, что данная задача совпа- дает с задачей, рассмотренной ранее. После ее решения, от- ношения Л/С = Zi/0, B/C = Z2/(1—0) должны быть опре- делены из условий (28).
Оптимальный процесс наблюдения состоит в том, что на- блюдение ведется, пока Wi остается в области fi (t) <Wj<. <f2(/). Наблюдение заканчивается принятием решения как только достигает границы f2 (/), и противоположного решения, когда достигается другая граница. Сказанное отно- сится и к отношению правдоподобия I, поскольку оно одно- значно связан с W[ соотношением Ш1 _ P(Xj) 1 — Wi Р (х2) Область продолжения наблюдения при этом имеет вид 1-е А(0 <z<l-0 /ИО (30) О 1—Л(0 © 1—/з(0 * k 7 Уравнения связи между А, В, с одной стороны, и а, [3, с другой, получаются из (28) путем решения более или менее сложной задачи на случайные блуждания и достижение гра- ниц. В стационарных задачах, когда fi (/) = a, f2 (/) = b по- стоянны, находить а, b как решения уравнений (25) необяза- тельно. В этом случае (30) согласно (9) имеет вид In а’ < —1-~S2 - ух---S1 + S2 Л dr < In b', z J \ 2 j о где , 1 — 0 a ,, 1 — 0 b a =-----------; b =------------. 0 1 — a 0 1 —b Вычисление вероятностей (28) достижения границ функ- цией In / при гипотезах х=Х\, х=х2 можно проводить, ре- шая соответствующее уравнение Фоккера—Планка. Это дает равенства а =—; b =----------- (31) 1 — а а вместо соответствующих неравенств, полученных Вальдом для дискретного времени. Границы областей остановки а, Ь, таким образом, не зависят в данном случае от 0. Это свиде- тельствует о том, что оба средних времени (27) минимизиру- ются при (31) одновременно. 3. Сложная задача Вальда. Пусть теперь проверяется сложная гипотеза со относительно сложной конкурирую- щей гипотезы со. Испытания по-прежнему будем предпо- лагать независимыми. Для простоты примем, что множество У = coUсо возможных значений параметра х есть одномерное
пространство, а © — полупрямая х < 0, хотя, конечно, воз- можно обобщение на более общие случаи. В данном случае также будут справедливы формулы (7)—• (9), определяющие апостериорную вероятность, если в них вместо W (х), Р (х) писать W (dx) = w (х) dx и Р (dx) = = р (х) dx. Чтобы условный риск зависел не от бесконечного, а от конечного множества параметров (достаточных координат), требуются дополнительные, упрощающие предположения. Так, положим, что априорное распределение гауссово (л-—Шр)2 р (х) = —=— е 2<г% , У 2л <т0 a st (х) — линейная функция от х : St (х) = qt + rt х. Тогдя апостериорное распределение также будет гауссовым 1 _ (X—т)2 ш(х) = —4—е 2°2 , (32). j 2л о где t т = с2Г-^- + — C(z/T — qx)rxdx\ . (33) И x J ' J о Легко видеть, что последние равенства эквивалентны уравне- ниям -----— do — — dt; а3 х (34) с соответствующими начальными условиями о = во, т = т0 при t = 0. Пусть требуется принять решение и = sign х при таких же штрафах за неправильное решение и за время наблюдения, что и в предыдущем примере: Ctt (х, и) = А при х^>0, и = — 1; В при х < 0, и = 1 О в других местах (35)> Сн (х, и) = С.
Функция = №psC'tt(xt, Utt) (ср. с (9.4)) теперь за- висит от у‘о только через посредство о, т (33). Учитывая (32) (35), находим I//о) = Л[у + ^(Р-)] ПРИ и = — 1, и' = 1 , где р = —-, а ^(р) — функция (З.а). СТ Условный риск, зависящий от ст, т, или, что то же, от о, р, определяется уравнением (10.12), принимающим вид 5(о, р, /) = тш{лГу + F(p)]> 5 [у — 77(Р)] > СД + MpsS (о До, р Др, t + Д)| + о (Д). (36) Из (34) получаем dp = — — o2pd< + — (У — q)dt. 2х х При усреднении Mps заменим здесь (у — q) dt на (rx-\-Z)dt = = rxdt+dt, и учтем, что Mpsx=/n = op, Mpsg = 0 и поэтому М„, da — — — о2р dt\ рз 2 х *-2лт-2 Mps (Др - мР8Др)2 = Mps (ДО2 = д• Следовательно, MpsS (о + До, р + Др, t + Д) = S (о, рО4-Д) + + Аг2а2Г_а2£ + р2£+2!£1 + 0(Д). (37) 2х I да др др2 J v v r (здесь учтено также первое равенство (34)). Подставляя (37) в (36) и переходя к пределу Д->0, по- лучаем, что S удовлетворяет уравнению dS г . г2О2 Г d2S , dS dS 1 dt 2х др2 1 г др да J когда S < тш|л [A + F(p)'|> в [А (38)
В остальных местах S = min |д[4- + £(Р-)1 , В U-^(н)]) • к!" J L *** -' Область (38) является областью продолжения испытаний. На ее границах ц = f х (о, t), ц = fz (о, t), (fi < fz), где 3(А)=д[4-+^(А)1> ; (39) I Z, £ /1 —р £5 S(f2) = B^-F(fa)], F(f2)>±^±, (40) испытания заканчиваются принятием решения и —— 1 (на fi) и решения u = 1 (на f2)- Как и в предыдущем примере, на границах выполняется условие непрерывности производной: 5S А ~~ ~ = .Л9- -е 2 при ц = /х (a, t); * /2“ (41) ц2 — =--------уф е 2 при р = /2 (о, t). Эр у 2л В тех случаях, когда время наблюдения не ограничено и параметры задачи (г, х, А, В и др.) постоянны, функция S не зависит явно от времени и, следовательно, удовлетворяет уравнению a2s , as as , 2хс л ,.о, oil2 до г^о2 с граничными условиями (41). Наличие множителя о при------- упрощает приближенное да решение данной задачи и отыскание границ fi,2 (о). В первом приближении можно, пренебрегая членом о— , решать урав- нение a2S(!) ар2~ asw ар 2хС Г2С2 (43) + И с тем, чтобы более высокие приближения находить по фор- муле a2s(*+i) , as(*+i) р и ар2-----------------ар 2zc , as<*) —• + о-------- г2с2 да Решение уровнения (43) при первом условии (41) имеет
вид (44) Учитывая второе условие (41), отсюда получаем f2 ху [* 2 , г2с2 Л + В \ е dx == —----------. J 2хС / 2л Л Второе уравнение для определения fi (о), /2 (о) находим из условия S (о, Л) - S (о, А) = + AF (А) + BF (Д). (см. (39), (40)). Интегрирование равенства (44) поэтому дает j dpe~ ~ [dxe^ = + (A + B)F(Д). f> 'fi В симметричном случае, когда А = В, имеем /у =—f2, причем / 2хС уА 11ри малых о ----------- 1 , следовательно, справедлива асимп- \ Лг2 J тотическая формула fix 1 г2°2 А fi 2х с (45) На основе полученного решения можно убедиться, что отклонение S(i) — min ---^)] имеет ПОРЯД°К 2хс у _ Л2 r2ff2 /‘’2 2%с r2(F. Поэтому член о—--------— г2о2Л2/2хС, которым мы пренебрег- ла ли, в (г2<А4/2хС)2 раз меньше учтенного члена 2хС/г2о2. Сле- довательно, при условии о < (2хС/г2Л)’^ сделанное приближе- ние является законным. Вместо найденных границ областей остановки тг—
= cfi,2 (о) в плоскости (tn, о) можно рассматривать границы в плоскости (т, t), поскольку вследствие первого уравнения (34) значение о просто зависит от t. Так, взяв начальное ус- ловие о (0) = оо, при постоянном г имеем а2 х уравнение границ остановки прини- з 2п» 1 А Поэтому вместо (45) мает вид 1 /2л С 2х )Л2л С 2r v ' Использованный метод применим и в том случае, когда функция штрафов С (х, и) имеет более общий вид, чем (35), например, С (х, и) Тогда где I А | х при х>0, и = — 1; | В| х при х<0, и=1. min s’(и | у‘о) = min [Ло*<р (— р), Во*<р (н)Ь и 00 Сп+Д)2 <P^==/2sf о Дальнейшее рассмотрение аналогично предыдущему, и мы не будем его проводить. Ограничимся приведением некоторых результатов, касающихся симметричного случая А = В. Ре- шение уравнения (43) с граничным условием —ЛаА|-^-| при p = f2 др | ар | дает равенство f, *г . 1 Л fe2 dx= — — о*+2е2 2|-^l , J 2% С I др ||1=/г о служащее для определения /2. При выполнении условия <т*+2 2иС/г2А имеем /2<1. Поэтому, учитывая, что k I d<D I 1 л 2 г f k . , \ . —— -7=^ 2 Г--------Н 1 при И < 1, I dp I /2л < 2 J 1 ь находим /2(о) = -L 2 2 Г + 1") -А ± а*+2. ' У2л \ 2 J С к
В плоскости (m, t) этому выражению соответствуют гра- ницы k j &-|-1_ I I 1 о 2 “ r / k , \ A ( И X 2 - 2 \тг = —т= 2 Г ( — + 1 ) — — ) ‘ 11 У2л \ 2 J С \ гг J Сравнение учтенного члена 2 и Сг~2 о~г с тем членом уравне- ния (42), которым мы пренебрегли, показывает, что условие применимости последнего результата имеет вид /2<х 1. Последние формулы переходят в формулы (45, 46), най- денные раньше, если & = 0, а при k= 1 имеет место случай, рассматривавшийся Михалевичем [1,2]. Приведенное решение непосредственно обобщается на те невальдовские задачи, когда параметр х, подлежащий оценке, является переменным. В этом случае сначала выво- дятся дифференциальные уравнения для производных do/dt, dpfdt (из теории условных марковских процессов), затем, как и раньше, производится их апостериорное усреднение, что со- ответствует переходу к вторичному апостериорному опера- тору типа (9.34). Когда апостериорное распределение не яв- ляется точно гауссовым, но локально близко к таковому, может быть применена приближенная теория, учитывающая то или иное конечное число параметров распределения. 4. Задача обнаружения разладки. Рассмотрим задачу, ко- торая в несколько другой (условной) постановке решалась А. Н. Колмогоровым и А. Н. Ширяевым. Пусть, как в задаче 2, yt=st(x) +gt, где gt— белый шум, a st (х) —сигнал с двумя возможными значениями: st (Xi) = = Si и st (х2) = s2. Теперь, однако, будем предполагать, что параметр х = хь х2 не остается постоянным, а именно воз- можны марковские переходы от одного значения к другому. Переход от х2 к Xi будем интерпретировать как появление «разладки». Если обратные переходы невозможны, то апри- орные вероятности Pi = Р (xj, р2 = Р (х2) удовлетворяют уравнениям = = (47> at at где Р — параметр, описывающий частоту появления «разлад- ки». Апостериорные вероятности = W (xi), w2 = 1 —Wi наличия или отсутствия разладки определяются уравнением _ dw2 q /1 , Si $2 Г * Si -4- So /, \ ,. ri\ — =-----— = p(l— “У + ——\yt--------^1(1-^) (48) (cm. (6.43), (11.5)) несколько более общим, чем (10). Требуется определить, имеется ли разладка, и прекра- тить процесс наблюдения, если она есть. При этом берется
штраф А в единицу времени за необнаружение «разладки» и штраф В за ложную тревогу. Выбирая матрицы штрафов Сц (xi) — Ctt (-^2) = 0; (49) с;(х1) = о; с;дх2)=в, мы можем применить к данной задаче общую теорию. Мат- рицы (49) не зависят от и, так что решений dtt, d’ft (в допол- нение к О = D (у)) принимать не приходится. Уравнение (10.12) приобретает вид S (дар t) — min (В (1 — icy), Да^Д 4- MpsS (шх + + Дау1( t + Д)} + о(Д), так как st = А wy, sf' = В (1—wt) в соответствии с (10.11). Используя (48), после выкладок, аналогичных (14) — (16), получаем уравнение _^=M+₽(i_№)jL+//w jqi, (50) dt dWi gw2 [h(w) = -(S1~S2)2 W2 (1 — ш)2), справедливое при S (щх, t) < В (1 — wt), т. e. в пределах области наблюдения На границе гсц =/(/), которая теперь лишь одна, выполняется, как и раньше, условие непрерывности функции и ее производной: 5(/, 0 = В(1-/); = (51) dW! В стационарном случае граничная функция обращается в постоянную: f (t) = а, а (50) переходит в уравнение: d2S Р(1 — W1) dS Awj dw{ В (a>0 dwx H (ад) (52) При решении этого уравнения и определении а необхо- димо, в дополнение к (51), учитывать граничное условие = 0 при wx = 0. (53) dw-L Для доказательства этого условия заметим, что в против- ном случае, как легко получить интегрированием из (52),
производная dS/dw^ и функция S (кц) принимала бы вблизи нуля неограниченные значения, что лишено смысла. При этом была бы справедлива асимптотическая формула dS , ( 2иу 1 —— = const ехр ------------------ дод I ($х — s2)2 а>! Решая (52) с указанным граничным условием (53), нахо- дим 5S , , . Р Ф(ОУ1)—ф (К') W , to,) = — Д\е ----dw, dWi----------------------------------J Н (w) о 1 — w , ----dw Я(ш) и получаем формулу для определения границы а: О ф(о>) Ш , В \ е ---------------- dw = — J Н (w) А о (54) (55) Выражения, получаемые вычислением интегралов (54), (55), не стремятся при |?->0 к конечным пределам, так как W интеграл j" w~J dw расходится в нижнем пределе. Однако о при малых р <£ ——— роль множителя ехр [<р (wi) —<р (го)] сводится по существу к исключению малой области вблизи нуля. Вводя малую величину 1, можно опустить в (54), (55) экспоненциальный множитель, но зато в качестве ниж- него предела интегрирования брать р. Тогда (55) примет вид а , in а (Si — з2)2 В 1 — а (1 —а) ц 2z Л (56) Функция S (wi), получаемая интегрированием (54), будет равна S (wj = В (1 - а) + 2- - Г1п 4- (si-s2)2L + (wx) - Но (а) — (1 + In ц) (ц - wj], (57) (HQ (w) = — w In w — (1 — w) In (1 — w)).
Величина ц, входящая в (56), (57), определяемая равенством Wt С Г 2хВ /1 1 \ 1 dw I ехр ------—-------------- — = J L (si — $г)2 \ wi w J J w 0 Г 2xB 1 j r. / 2zB 1 \ = — exp -------1------- Ei---------, L (S1 — s2>2 Wi J < (Sj — S2)2 Wi / оказывается при 2>ф (sr — s2)~2 < 1 равной (Y = 1,781..,). (Si — s2)2 Перейдем к условной постановке данной задачи. Пусть штрафы А и В не заданы, а требуется найти оптимальную обработку наблюденных величин, обращающую в минимум среднее время разладки Т - —-------f [D (у) - т (х)] Р (dx, dy) (58) 1 —a J D(j/)>t(x) при фиксированной вероятности ложной тревоги P(dx, dy) = а. (59) D (у)<т(х) Здесь-через т (х) обозначено время возникновения раз- ладки. Сводя условную задачу к стандартной (бейесовской), об- разуем функцию риска В = J [D(y) — т (х)] Р (dx, dy) + X J Р (dx, dy) = D>T D<t = J [f dtCti (xt) + CDD (xD)] P (dx, dy), (60) 0 где Cft (xi) — 1 > Cft (-'-г) — 0; (Xj) = 0; Ctt (x2) = X. Задача минимизации риска (60) совпадает с вышеизло- женной задачей, если положить Л = В/A. Наблюдение долж- но вестись, пока не достигнет порогового значения а. Ра- венство (55) устанавливает однозначную связь между Л и а. Поскольку X — неопределенный множитель, то Л .или а следует определить из условия (59).
Задавшись значением а, подсчитаем вероятность ложной тревоги а = Р [D {у) < т (х)] = J Р [D (z/)<t| т] Р (dr), где j Р (dx) = о т>< Учитывая (47), имеем а = р е^т Р [£) < т | т] dx. (61) 6 Вероятность Р [D < т | т], очевидно, берется при наблюдаемом сигнале yt = s2 + ^t. Эту вероятность можно подсчитать, зная, что Wi удовлетворяет уравнению (48), принимающему вид ={41_W1)+ dt х L 2 _ с начальным условием Wj = to0 = 0 при t = 0. Плотность вероятности перехода f (wo, W\, t—to), (^о=О)> которая связана с Р [D < т | т] соотношением Р [D < т / т] = а = 1 — j f (0, Wi, t) dw\, при этом удовлетворяет (первому) о уравнению Колмогорова _ -SL=Я_= Г₽(1 „ _ 1^11ДЬ + и ы dt0 at L 1 — wo J dwo cte5 Из него интегрированием no от 0 до а и по t (после умно- жения на е-й) получаем уравнение . д20 , Го/, , д0 п H(w0)----+ ₽(1— ОМ— Н—=PQ (62^ дш^ L 1 — wo J ow0 для характеристической функции 0 (w0, р)=р J е~рт Р [D < т|т] dx = о оо а — 1 — р dx е_рт dwjtwo, wx, т). о 6 Уравнению (62) соответствует граничное условие &(а, р) = 1. (63) Поскольку 0 < 0 (да0, р) < 1 при всех w0 и р > 0, потребуем ограниченности ] 0 (0, р) | < оо (64) на другом конце интервала.
Нетрудно видеть, что (61) совпадает с частным значением о. = 0 (О, Р), поэтому в дальнейшем мы будем полагать р = р. Умножая (62) на интегрирующий множитель, имеем после однократного интегрирования — (w0, Р) =-----------— С ~ 0 (w, Р) dw + З-'о ’ (1 — ш0)2 и (w) _)---91— e^T (65) (1 — Шо)2 Здесь С]=0 в силу (64). Равенство (65) удобно для получения асимптотического решения 0 (wo, Р) при р 0. Подынтегральное выражение в (65) существенно лишь при малых w, где 0 (ш, р) можно заменить на 0 (0, р), а <р (w) —на асимптотическое выра- 2zp 1 _ жение--------— -—. 1огда будем иметь (si — s2)2 w ow0 (1 — а>о)2 Интегрируя вторично при условии (63) и полагая i£>0 = 0, находим а = 0(0, Р) = 1 —а. Таким образом, пороговое значение а =/71 — а и прочие параметры задачи определены (выражены через а). Теперь можно найти также среднее время разладки (58), пользуясь найденным ранее выражением (57). В самом деле, риск (60) совпадает (при Л = 1) с значением 5(0), поэтому (1 — а)Т = 5(0) — ла == ——-------a f In---------11 (si-s2)2 L (1 — J’ Эта формула, если учесть, что ------------- — 1 ~а ~рТ0 1 — а а То — среднее время между ложными тревогами), совпадает с асимптотическим выражением для среднего времени запаздывания т (in Г т0] „ с - 1), С = 0,577.„ (Si — s2) I L 2х J J полученным ранее Ширяевым [1,2].
ЛИТЕРАТУРА Арроу, Блеквелл, Гиршик (Arrow К. I., В 1 а с k w е 11 D., G i г- s h i к М. А.). 1. Bayes and minimax solutions of sequential decision problems. «Econo- metrica», 1949, v. 17, pp. 213—244. Беллман P. 1. Динамическое программирование. M., ИЛ, 1960. Беллман Р., Гликсберг И., Гросс О. 1. Некоторые вопросы математической теории процессов управления. М„ ИЛ, 1962. Беллман Р., К а л а б а Р. 1. Теория динамического программирования и системы управления с обратной связью. Доклад на I конгрессе ИФАК. «Тр. I междунар, конгресса ИФАК». М., Изд-во АН СССР, 1961. Б л е к в е л л Д., Г и р ш и к М. А. 1. Теория игр и статистических решений. М., ИЛ, 1958. Большаков И. А., Репин В. Г. 1. Вопросы нелинейной фильтрации. «Автоматика и телемеханика», 1961, т. XXII, № 4, стр. 466—478. Вальд А. 1. Последовательный анализ. М„ Физматгиз, 1960. Вальд, Вольфовиц (Wald A., Wolfowitz I.). 1. Bayes solutions of sequential decision problems. «Ann. of Math. Stat.», 1951, v. 21, pp. 82—99. Ван дер Варден Б. Л. 1. Математическая статистика. М., ИЛ, 1960. Вентцель А. Д. 1. Сообщение на VII Всесоюзном совещании по теории вероятностей, и матем. статистике». Тбилиси, 1963. Винер (Wiener N.). 1. Extrapolation, interpolation and smoothing of stationary time series. N.-Y., J. Wiley, 1949. Гирсанов И. В. 1. О преобразовании одного класса случайных процессов с помощью абсолютно непрерывной замены меры. «Теория вероятн. и ее приме- нение», 1960, т. V, в. 3, стр. 314—330. 2. Минимаксные задачи в теории диффузионных процессов. ДАН СССР, 1961, т. 136, № 4, стр. 761—764. 3. Некоторые минимаксные задачи в теории управляемых марковских процессов. «Теория вероятн. и ее применение», 1962, т. VII, в. 2, стр. 233—234. Дуб Дж. Л. I. Вероятностные процессы. М., ИЛ, 1956. Д ы н к и н Е. Б. 1. Марковские процессы и полугруппы операторов. «Теория вероятн. и ее применения», 1956, т. I, в. 1, стр. 25—37.
2. Основания теории марковских процессов. М., Физматгиз, 1959. \ 3. Марковские процессы. М., Физматгиз, 1963. . 4 Оптимальный выбор момента остановки марковского процесса. ' ДАН СССР, 1963, т. 150, № 2, стр; 238—241. 3 а д е (Z a d е h L. А.). 1. Optimum nonlinear filters. «J. Appl. Physics.», 1953, v. 24, No. 4, pp. 396—404. Иосида (Vosida K.). 1. On differentiability and the representation of one-parameter semi-group of linear operates. «J. Math. Sos. Japan», 1948, v. 1, pp. 15—21. 2. An operator-theoretical treatment of temporally homogenius Markoff process. «J. Math. Soc. Japan», 1949, v. 1, pp. 244—253. И т о (I t о K.). 1. Stochastic integral. «Proc. Imp. Acad.», 1944, v. 20, pp. 519—524. 2. On a stochastic integral eguation. «Proc. Japan Acad.», 1946, v. 22; 2, pp. 32—35. 3. On a stochastic differential equations. «Memoirs Amer. Math. Soc.», 1951, v. 4. Калман и Бьюси (Kalman R. E., Bucy R. S. 1. New results in linear filtering and prediction theory. «J. of Basic En- gineering». Trans. ASME», 1961, v. 83, pp. 95—108. Камерон и Мартин (Cameron R. H., Martin W. T.). 1. Non-linear integral equations. «Ann, of Math.», 1950, v. 51, pp. 629—642. Колмогоров A. H. 1. Zur Umkehrbarkeit der statistischen Naturgesetze. «Math. Ann.», 1936, v. 113, pp. 766—772. 2. Интерполирование и экстраполирование стационарных случайных последовательностей. «Изв. АН СССР», сер. матем., 1941, т. 5, № 5, стр. 3—14. Колосов Г. Е., Стратонович Р. Л. 1. Об одной задаче синтеза оптимального регулятора, решаемой мето- дами динамического программирования. «Автоматика и телемеханика», 1963, т. XXIV, № 9, стр. 1165—1173. Кузнецов П. И., Стратонович Р. Л., Тихонов В. И. 1. Прохождение случайных функций через нелинейные системы. «Авто- матика и телемеханика», 1953, т. XIV, № 4, стр. 375—391. 2. Прохождение случайных функций через нелинейные системы (про- должение). «Автоматика и телемеханика», 1954, т. XV, № 3, стр. 200—205. Кульман Н. К., Стратонович Р. Л. 1. О некоторых оптимальных устройствах для выделения импульсного сигнала случайной длительности из шума. «Радиотехника и электро- ника», 1961, т. VI, № 9, стр. 1442—1451. 2. Фазовая автоподстройка частоты и оптимальное измерение пара- метров узкополосного сигнала в шуме. «Радиотехника и электроника», 1964, т. IX, в. I, стр. 67—77. Кушнер (Kushner Н. J.). 1. Lincoln Laboratory М. I. Т. Report JA 2123, March, 1963. 2. «J. of Math. Anal, and Appl.», 1964, v. 8, pp. 332—344. Ланжевен (Langevin P.). z 1. «Comptes rendus», 1908, v. 14, p. 530. / Ленин г Дж. X., Беттин P. T. 1 1. Случайные процессы в задачах автоматического управления. М., ИЛ, 1958. Л е о н о в. В. П., Ш и р я е в А. Н. 1. К технике вычисления семиинвариантов. «Теория вероятн. и ее при- менение», 1959, т. IV, в. 3, стр. 342—355. Л о э в М. 1. Теория вероятностей. М., ИЛ, 1962. Лян Ч ж и-Ш у е н.
1. Об условных марковских процессах. «Теория вероятн. и ее примене- ние», 1960, т. V, в. 2, стр. 227—228. М и х а л е в и ч В. С. 1. Последовательные байесовские решения и оптимальные методы приемочного статистического контроля. «Теория вероятн. и ее приме- нение», 1956, т. I, в. 4, стр. 437—465. 2. Последовательные байесовские решения и оптимальные методы приемочного статистического контроля. Канд. дис. МГУ, 1956. Прохоров Ю. В. 1. Сходимость случайных процессов и предельные теории вероятно- стей. «Теория вероятн. и ее применение», 1956, т. I, в. 2, стр. 177—238. Пугачев В. С. 1. Теория случайных функций и ее применение к задачам автоматиче- ского управления. М., Физматгиз, 1960. Рыжик И. М„ Градштейн П. С. 1. Таблицы интегралов, сумм, рядов и произведений. М.—Л., ГИТТЛ, 1951. Скороход А. В. 1. О дифференцируемости мер, соответствующих случайным процессам. «Теория вероятн. и ее применение», 1957, т. II, в. 4, стр. 417—443. Смирнов В. И. 1. Курс высшей математики, т. II. М., Физматгиз, 1961. Стратонович Р. Л. 1. К теории оптимальной нелинейной фильтрации случайных функций. «Теория вероятн. и ее применение», 1959, т. IV, в. 2, стр. 239. 2. Условные процессы Маркова. «Теория вероятн. и ее применение», 1960, т. V, в. 2, стр. 172—195. 3. Об условных марковских процессах. Доклад Tia VI Всесоюзном со- вещании по теории вероятн. и матем. статистике. «Тр. совещания», Вильнюс, Гос. изд. полит, и научн. лит. Литовской ССР, 1962. 4. Об инфинитезимальном операторе марковского процесса. «Тр. VI Всесоюзн. совещ. по теории вероятн. и матем. статистике». Виль- нюс, 1962. 5. О функционале вероятности диффузионных процессов. «Тр. VI Все- союзн. совещ. по теории вероятн. и матем. статистике». Вильнюс, 1962. |/6. Оптимальные нелинейные системы, осуществляющие выделение сиг- нала с постоянными параметрами из шума. «Изв. вузов», Радио- физика, 1959, т. II, № 6, стр. 892—901. \J7. Применение теории процессов Маркова для оптимальной фильтра- ции сигналов. «Радиотехника и электроника», 1960, т. V, № 11, стр. 1751—1763. 8. Избранные вопросы теории флюктуации в радиотехнике. Л!., «Совет- ское радио», 1961. 9. Условное распределение коррелированных случайных точек п ис- пользование корреляции для оптимального выделения импульсного сигнала из шумов. «Изв. АН СССР», ОТН. Энергетика и автомати- ка, 1961, № 2, стр. 148—158. v 10. Оптимальный прием узкополосного сигнала с неизвестной часто- той на фоне шумов. «Радиотехника и электроника», 1961, т. VI, № 7, стр. 1063—1075. VII . Оптимальная фильтрация телеграфного сигнала. «Автоматика и те- лемеханика», 11961, т. XXII, № 9, стр. 1163—1174. V12 . Выделение сигнала с непостоянной частотой из шума. «Радиотех- ника и электроника», 1962, т. VII, № 2, стр. 187—194. 13. Условные марковские процессы в задачах математической статис- тики и динамического программирования. ДАН СССР, 1961, т. 140, Ns 4, стр. 769—772. 14. Условные марковские процессы в задачах математической статис- тики, динамического программирования и теории игр. Доклад на
IV Всесоюзном матем. съезде. Л., 1961. «Тр. съезда», 1963, стр. 370— 379. 15. Некоторые экстремальные задачи математической статистики и ус- ловные процессы Маркова. «Теория вероятн. и ее применение», 1962, т. VII, в. 2, стр. 226—229. 16. Об оптимальном обнаружении разладки производственного процес- са. «Вести. Моск, ун-та», сер. матем. и мех., 1962, № 2, стр. 63—71. 17. К теории оптимального управления. Достаточные координаты. «Ав- томатика и телемеханика», 1962, т. XXIII, № 7, стр. 910—917. 18. К теории оптимального управления. Асимптотический метод реше- ния диффузионного альтернативного уравнения. «Автоматика и те- лемеханика», 1962, т. XXIII, № 11, стр. 1339—1447. 19. Новейшее развитие методов динамического программирования. Док- лад на II конгрессе ИФАК. Базель, 1963. 20. Рекуррентные соотношения для условных рисков в измеримом прост- ранстве. Доклад на VII Всесоюзном совещании по теории вероятн. и матем. статистике. Тбилиси, 1963. 21. Новая форма записи стохастических интегралов и уравнений. «Вести. Моск, ун-та», сер. матем. и мех., 1964, № 1, стр. 3—12. Стратонович Р. Л., Шмальгаузен В. И. 1. Некоторые стационарные задачи динамического программирования. «Изв. АН СССР», ОТН. Энергетика и автоматика, 1962, № 5, стр. 131 —139. Феллер (Feller W.) 1. Semi-groups of transformation in general weak topologies. «Ann. of Math.», 1953, v. 57. Хилл E. 1. Функциональный анализ и полугруппы. М., ИЛ, 1951. Чандрасекар С. 1. Стохастические проблемы в физике и астрономии. М., ИЛ. 1947. Ширяев А. Н. 1. Обнаружение спонтанно возникающих эффектов. ДАН СССР, 1961, т. 138, № 4, стр. 799 801. 2. Задача скорейшего обнаружения нарушения стационарного режима. ДАН СССР, 1961, т. 138, № 5, стр. 1039—1042. 3. Задача скорейшего обнаружения нарушения стационарного режима. Канд. дис. Математический институт АН СССР, 1961. Шмальгаузен В. И. 1. Синтез одной оптимальной следящей системы. «Автоматика и теле- механика», 1963, т. XXIV, № 8, стр. 1065—1072. Я г л о м А. М. 1. О статистической обратимости броуновского движения. «Матем. сборник», 1949, № 24 (66), стр. 457—492.
ОГЛАВЛЕНИЕ Предисловие................................................... 2 Часть I НЕКОТОРЫЕ ВСПОМОГАТЕЛЬНЫЕ ВОПРОСЫ ТЕОРИИ МАРКОВСКИХ ПРОЦЕССОВ Глава Г Сходимость немарковского процесса к марковскому . . 9 § 1.1. Постановка вопроса.................................. 9 § 1.2. Основная теорема .... 14 § 1.3. Примеры.............................................25 Глава 2. Новая форма записи стохастических интегралов и урав- нений .....................................................28 § 2.1. Симметризованный стохастический интеграл и его связь с интегралом Ито...........................................29 § 2.2. Стохастические" уравнения...........................37 § 2.3. Инвариантная запись уравнений Колмогорова .... 41 § 2.4. Стохастические линейные операторы...................43 Глава 3. Марковская система мер и инфинитезимальные операторы 46 § 3.1. Операторы, соответствующие марковской системе мер . 47 § 3.2. Одна теорема о замене системы мер...................58 § 3.3. Переход к специальному случаю.......................61 § 3.4. Диффузионные операторы и статистика приращений . . 69 Глава 4. Абсолютная непрерывность диффузионных марковских мер и производные в функциональном пространстве .... 77 § 4.1. Некоторые леммы для мер с вырожденной матрицей дис- персий ....................................................78 § 4.2. Обозначения о-алгебр в функциональном пространстве . 81 § 4.3. Производная Радона—Никодима для диффузионного про- цесса .....................................................86 § 4.4. Производная в функциональном пространстве при частич- ном усреднении диффузионного процесса..................... 9С Часть II ОСНОВНЫЕ РЕЗУЛЬТАТЫ ТЕОРИИ УСЛОВНЫХ ПРОЦЕССОВ МАРКОВА Глава 5. Некоторые общие результаты для процессов в произволь- ном фазовом пространстве...................................96 § 5.1. Постановка вопроса и первые теоремы.................96 § 5.2. Некоторые теоремы для процессов с информационной не- прерывностью ..............................................99
§ 5.3. Введение основной апостериорной меры . .. • • Ю4 § 5.4. Другой способ введения основной апостериорной меры . 107 § 5.5. Апостериорные меры, соответствующие начальному рас- пределению ................................................. § 5.6. Некоторые общие свойства апостериорных мер . . • 115- Глава 6. Скачкообразные изменения наблюдаемого диффузионного процесса...................................................... 121 § 6.1. Марковский процесс с т состояниями....................121 § 6.2. Несколько диффузионных процессов и марковские перехо- ды между ними...............................................127 § 6.3. Апостериорные инфинитезимальные операторы . . • 130 § 6.4. Вторичный апостериорный оператор......................136 § 6.5. Пример. Процесс с двумя состояниями...................137 Глава 7. Неполное наблюдение многомерного диффузионного про- цесса .... 141 § 7.1. Постановка вопроса и основные результаты .... 141 § 7.2. Некоторые обобщения...................................148 § 7.3. Два примера...........................................150 Часть III ПРИМЕНЕНИЕ ТЕОРИИ УСЛОВНЫХ МАРКОВСКИХ ПРОЦЕССОВ К ТЕОРИИ ОПТИМАЛЬНОГО УПРАВЛЕНИЯ Глава 8. Некоторые общие результаты теории оптимального управ- ления ....................................................... 155' § 8.1. Общая постановка задачи. Функция рисков в измеримом пространстве ......................................... 158 § 8.2. Случай ступенчатого индекса. Оптимальные условные риски..........................................164 § 8.3. Оптимальные решения.....................tl. . . . 170 § 8.4. Полугруппа преобразований, соответствующая решению. Регулярность...................................175 § 8.5. Достаточные координаты.........................179 § 8.6. Преобразования функций от достаточных координат. Уравнение альтернатив ................................ 182 § 8.7. Случай марковского основного процесса..........188 § 8.8. Обобщение на теорию игр ...............................194 Глава 9. Оптимальная нелинейная фильтрация.............198 § 9.1. Постановка задачи..............................201 § 9.2. Уравнения и блок-схема оптимальной нелинейной фильт- рации .......................................................204 § 9.3. Пример апостериорного процесса с бесконечным числом состояний............................................207 § 9.4. Другие примеры процессов с бесконечным числом состоя- ний .......................................................211 § 9.5. Переход к линейной фильтрации......................214 § 9.6. Сравнение эффективности линейной и нелинейной фильт- рации для одного примера...................................218 Глава 10. Задачи на оптимальное прекращение процесса 224 § 10.1. Постановка задачи. Функция штрафов................ 225’ § 10.2. Достаточные координаты и условные риски .... 227 § 10.3. Переход к непрерывному индексу. Дифференциальное уравнение для рисков ...................................... 229 § 10.4. Одномерный случай.................................234 § 10.5. Оптимальные решающие функции...................... 238-
§ 10.6. Пример. Остановка марковского процесса с двумя со- стояниями .......................................... 240 Глава 11. Выбор оптимального наблюдения и оптимального управ- ления процессом 246 § 11.1. Задачи на оптимальное наблюдение....................247 § 11.2 Задачи на оптимальное управление марковским процес- сом с двумя состояниями.................................257 § 11.3. Другая задача на оптимальное управление. Слежение за блуждающей точкой........................................263 § 11.4. Увеличение числа достаточных координат . . . . 269 Приложение 1. Условные меры и математические ожидания ненор- мированных мер...............................................280 Приложение 2. Условная минимизация........................282 Дополнение. Решение некоторых задач математической стати- стики и последовательного анализа ........................... 290 Литература...................................................313 Руслан Леонтьевич Стратонович УСЛОВНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ И ИХ ПРИМЕНЕНИЕ К ТЕОРИИ ОПТИМАЛЬНОГО УПРАВЛЕНИЯ Тематический план 1965 г. № 13 Редактор Хазен Э. М. Технический редактор Георгиева Г. И. Переплет художн. Иванов А. А. Корректоры: Белова Г. В., Эльмус М. И. Сдано в набор 3/V1965 г. Подписано к печати 20/XII 1965 г. Л-49767. Формат 60X90V16. Физ. печ. л. 20,0. Уч.-изд. л. 18,40. Изд. № 792 Заказ 671 Тираж 3.250 экз. Цена 1 р. 44 к. Издательство Московского университета Москва, Ленинские горы, Административный корпус Типография Изд-ва МГУ. ЛУосква, Ленинские горы