/
Text
Э. М. ХЛЗЕН
МЕТОДЫ
ОПТИМАЛЬНЫХ
СТАТИСТИЧЕСКИХ
РЕШЕНИЙ
И ЗАДАЧИ
ОПТИМАЛЬНОГО
УПРАВЛЕНИЯ
Э. М. ХАЗЕН
МЕТОДЫ ОПТИМАЛЬНЫХ
СТАТИСТИЧЕСКИХ РЕШЕНИЙ
И ЗАДАЧИ ОПТИМАЛЬНОГО
УПРАВЛЕНИЯ
ИЗДАТЕЛЬСТВО «СОВЕТСКОЕ РАДИО»
Москва—1968
УДК 519.21
Хазен Э. М. Методы оптимальных статистических решений и задачи
оптимального управления. М., изд-во «Советское радио», 1968,
стр. 256.
В книге дается систематическое и доступное изложение
математического аппарата, дающего основу для решения мно¬
гих задач обработки данных наблюдений и управления в слож¬
ных автоматизированных системах. Развиваются новые, эффек¬
тивные статистические методы для решения задач обработки
данных наблюдений при дискретном и непрерывном времени,
задач распознавания и адаптивной фильтрации сигналов,
задач о различении многих и сложных гипотез. Применение
эгих методов связано в основном с марковским свойством
рассматриваемых систем, но это условие не является сильным
ограничением.
На основе понятия функции риска и основного рекуррент¬
ного соотношения для нее, введенных Вальдом и Вольфови-
цем, дается новое систематическое изложение последователь¬
ного анализа. Развиваемые здесь методы позволяют эффектив¬
но решать задачи распознавания многих и сложных гипотез,
построения оценок, управления наблюдением, совместного
оптимального управления и обработки информации.
Рассматриваются ме^ы информации в задачах теории
статистических решений и оценки, связывающие величину
риска и количество информации. При построении решающих
правил учитываются ограничения на «объем памяти» системы.
Выводятся основные уравнения теории условных марков¬
ских процессов, дающие основу для эффективного решения
задач оптимальной фильтрации и обнаружения сигналов.
Приводятся решения задач фильтрации Колмогорова—Винера
и Заде и Рагаззини; рассматриваются задачи оценки пара¬
метров сигналов и некоторые задачи нелинейной фильтрации.
Книга предназначена для инженеров, студентов, аспиран¬
тов и научных работников, работающих в области автомати¬
зации обработки информации и управления.
3 табл., 25 рис., 58 назв. библ.
3-3-14
4-68
ЭЛЛИДА МОИСЕЕВНА ХАЗЕН
Методы оптимальных статистических решений и задачи оптимального
управления
Редактор Н. Д. И в а н у ш к о
Худож. редактор В. Т. Сидоренко
Техн. редактор 3. И. Яковлева
Корректоры Е. П. Озерецкая, Н. Н. Поспелова
Сдано в на5ор 12/II 1968 г. Подписано к печати 17/VI 1968 г. Т-08462
Формат 84x108/32 Бумага типографская № 2
Объем 13,44 уел. п. л. Учетно-издат. листов 13,191
Тираж 12 000 экз. Зак. № 1092
Издательство «Советское радио- Москва, Главпочтамт, п/я 693
Московская типография № 10 Главполиграфпрома
Комитета по печати ппи Совете Министров СССР.
Шлюзовая наб.. 10.
Цена 95 коп.
ОГЛАВЛЕНИЕ
Предисловие 7
Краткое введение 9
Глава 1
МОДЕЛИ СЛУЧАЙНЫХ ПРОЦЕССОВ. ОСНОВНЫЕ УРАВНЕНИЯ
§ 1. Марковские цепи с дискретным и непрерывным време¬
нем. Пуассоновский процесс. Случайные блуждания ... 15
Процесзы без последействия. Вывод уравнений для переходных веро¬
ятностей в марковской цепи с дискретным и непрерывным временем,
с конечным и счетным числом состояний. Пример: пуассоновский про¬
цесс. Марковский процесс с непрерывным множеством состояний;
уравнение Смолуховского. Вывод уравнения для плотности вероятно¬
стей марковского процесса со скачками.
§ 2. Броуновское движение. Его допредельные модели 28
Переходная вероятность процесса броуновского движения. Его локаль¬
ные характеристики. Построение его предельным переходом от блуж¬
дания по дискретной решетке. Свойства, связанные с недифференци¬
руемостью. Другие допредельные модели. Допредельная производная
процесса броуновского движения: «белый шум».
§ 3. Уравнения А. Н. Колмогорова для непрерывных марков¬
ских процессов 33
Введение стохастических дифференциальных уравнений как предель¬
ных для уравнений в конечных разностях. Вывод уравнения А. Н.
Колмогорова для предельного случайного процесса. Уравнения
А. Н. Колмогорова для многомерных непрерывных марковских про¬
цессов.
§ 4. Стохастические интегралы 39
Определение, условия сходимости, свойства стохастического интеграла
Ито и симметризованного интеграла Стратоновича. Устойчивость по¬
следнего по отношению к предельному переходу к броунозскому дви¬
жению от допредельных его моделей.
§ 5. Стохастические дифференциальные уравнения и диффу¬
зионные марковские процессы 45
Определение стохастических дифференциальных уравнений при по¬
мощи понятия стохастического интеграла Уравнения Ито и уравне¬
ния с симметризованными интегралами; соответствующие им диффу¬
зионные марковские процессы.
3
Глава 2
ДИНАМИЧЕСКИЕ СИСТЕМЫ СО СЛУЧАЙНЫМИ ВОЗДЕЙСТВИЯМИ
§ 1. Линейные марковские процессы 49
Линейные стохастические дифференциальные уравнения. Аналитиче¬
ское решение уравнений Колмогорова. Уравнения для моментов.
§ 2. Системы, обладающие потенциальной функцией ... 53
Блуждание частицы в ногенциальном поле. Решение уравнения Кол¬
могорова Теорема С. Н. Бернштейна и ее применения в некоторых
задачах случайного поиска.
§ 3. Уравнения для математического ожидания времени до¬
стижения заданных границ и других аддитивных функцио¬
налов от траектории марковского процесса 57
§ 4. Кусочно-линейные системы, условия на границах пере¬
ключения 60
Условия сопряжения решений уравнений Колмогорова на границах
переключения в системах с разрывными характеристиками. Вывод ин¬
тегральных уравнений для плотности на границе. Примеры.
Глава 3
УСЛОВНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ. ОПТИМАЛЬНАЯ
ЛИНЕЙНАЯ и НЕЛИНЕЙНАЯ ФИЛЬТРАЦИЯ И ОБНАРУЖЕНИЕ
МАРКОВСКИХ ПРОЦЕССОВ. БАЙЕСОВСКИЕ ОЦЕНКИ
ПАРАМЕТРОВ В ЗАДАЧАХ ФИЛЬТРАЦИИ
§ 1. Вывод рекуррентных соотношений и стохастических диф¬
ференциальных уравнений для условных вероятностей состоя¬
ний в марковских цепях и марковских процессах с дискрет¬
ными состояниями 66
Вывод основных рекуррентных уравнений для условных вероятностей
состояний в марковской цепи с дискретным временем, с дискретным
и непрерывным множеством состояний. Вывод из них стохастических
дифференциальных уравнений при непрерывном времени наблюдения
Решение задачи фильтрации при помощи полученных уравнений.
§ 2. Уравнения для условного распределения вероятностей не¬
которых компонент непрерывного марковского процесса, при
условии наблюдения других его компонент. Оптимальная ли¬
нейная фильтрация гауссовских процессов ..... 76
Уравнение для апостериорной плотности вероятностей одной компо¬
ненты непрерывного марковского процесса при условии наблюдения
другой. Фильтрация гауссовского марковского процесса в белом шуме.
Вывод уравнения для апостериорной плотности вероятностей много¬
мерного непрерывного марковского процесса. Уравнения оптимальной
линейной фильтрации.
§ 3. Обнаружение марковского сигнала в шуме .... 88
Вывод рекуррентного соотношения для отношения правдоподобия ги¬
потез «сигнал есть» и «сигнала нет». Вывоц стохастического диффе¬
ренциального уравнения в случае непрерывного времени. Блок-схема
совместного оптимального обнаружения и фильтрации.
§ 4. Байесовские оценки в задачах фильтрации сигналов 94
Фильтрация сигналов детерминированного вида с неизвестными па¬
раметрами. Фильтрация полинома в белом шуме и в коррелирован¬
ном шуме; байесовское решение «задачи Заде и Рагаззини». Случай
конечного наблюдательного времени. Оценка параметров не вполне
известной корреляционной функции Пример адаптивной фильтрации.
4
§ 5. Некоторые задачи оптимальной нелинейной фильтрации
и управления 107
Построение переключакЛцихся фильтров в задачах сглаживания ре¬
зультатов измерений координат движущегося объекта, закон движе¬
ния которого может меняться скачком. Задача экстремального регу¬
лирования; пример уравнения оптимальной нелинейной фильтрации.
Глава 4
ПОСЛЕДОВАТЕЛЬНЫЙ АНАЛИЗ
§ 1. Байесовские решения в задачах последовательного ана¬
лиза 118
Постановка задачи последовательного анализа. Решающие функции.
Понятие риска. Построение байесовских решающих правил при по¬
мощи функции риска. Уравнение для функции риска. Рекуррентная
формула для функции риска. Сходимость последовательных прибли¬
жений для решения уравнения для функции риска. Выпуклое ib об¬
ластей остановки в пространстве апостериорных вероятностей. Функ¬
ция условного риска и рекуррентное соотношение для нее. Эффектив¬
ное определение областей остановки.
§ 2. Задача о различении нескольких простых гипотез . 128
Конкретизация общего рекуррентного соотношения для функции ус¬
ловного риска для рассматриваемой задачи. Общий вид его решения.
Явное решение в случае двух близких' гипотез Условия на границе
области продолжения наблюдений. Соответствие между последова¬
тельным критерием отношений вероятностей и некоторым байесовским
правилом в задаче о различении двух простых гипотез.
§ 3. Оптимальность последовательного критерия отношений
вероятностей для различения двух простых гипотез 137
Доказательство оптимальности на основе результатов § 1, 2.
§ 4. Марковские достаточные статистики. Меры информации
в задачах статистических решений 140
Определение марковской достаточной статистики. Примеры. Задачи
с мешающими параметрами. Меры информации. Средняя информация
в одном наблюдении для „различения двух гипотез. Оценки вероятно¬
стей ложных решений в зависимости ог количества информации Ста¬
тистическое доказательс1зо теоремы Шеннон^ (о возможности сколь
угодно точного распознавания экспоненциально растущего числа ги¬
потез N=eHn при Н<1 и /г-*оо). Примеры. Информационные оценки
для приращения среднего риска при изменении законов распределе¬
ния вероятностей. Оценки для приращения байесовского риска. Ин¬
формационные оценки изменения байесовского риска при редукции
выборочного пространства; при редукции пространства значений оце¬
ниваемых параметоов.
§ 5. Эффективное построение последовательных решающих
правил в задачах распознавания многих гипотез и сложных
гипотез 167
Рекуррентное соотношение для функции условного риска и опреде¬
ление оптимальных границ области продолжения наблюдений в про¬
странстве значений достаточных статистик. Случай дискретного и
непрерывного времени наблюдения. Задачи о различении многих ги¬
потез. Построение эффективного подоптимального последовательного
правила для различения гипотез в задачах отождествления; обнару¬
жения в многоканальной системе; распознавания N «равноправных»
гипотез. Задачи о различении сложных гипотез. Построение байесов¬
ских правил в случае экспонентного семейства распределений и раз¬
личения двух сложных гипотез (при наличии области безразличия и
без нее) Различение не вполне определенных гипотез (при наличии
мешающих параметров) Построение эффективного подоптимального
последовательного правила С использованием оценок параметров по
результатам наблюдений.
§ 6. Приближенные решения рекуррентного уравнения для
функции риска. Оценки для среднего времени анализа и
функции риска . 195
Вычисление вероятностей ложных решений и среднего времени ана¬
лиза последовательной процедуры; рекуррентные уравнения для них.
Оценки сверху и снизу для функции условного риска при помощи
решения основного рекуррентного уравнения для нее методом по¬
следовательных приближений. Некоторые оценки снизу для средней
длительности анализа при заданных ограничениях на вероятности
ложных решений.
§ 7. Асимптотически оптимальные последовательные решаю¬
щие правила 211
Точное определение асимптотически оптимальной границы для зада¬
чи о различении двух сложных гипотез при экспонентном семействе
распределений (распределения Ггусса, Релея, Бернулли, Пуассона,
геометрическое, экспоненциальное). Асимптотически оптимальное по¬
следовательное правило для различения двух и нескольких сложных
гипотез при произвольных законах распределения. Асимптотическая
оптимальность одновременных попарных тестов Нk против Hj^ = |J Нj
i^k
(k, /= 1, . . N) в задаче о различении N гипотез.
§ 8. Теория последовательных оценок 220
Постановка задачи. Оптимальное правило. Приближенное определе¬
ние границы области продолжения наблюдений. Асимптотически оп¬
тимальное правило.
§ 9. Оптимальное управление процессом наблюдения в зада¬
чах последовательного анализа 222
Рекуррентное уравнение для функции риска и выбора оптимальных
управлений. Оптимальное планирование экспериментов в задаче о
различении двух близких гипотез. Асимптотически оптимальное пла¬
нирование экспериментов в задаче о различении сложных гипотез.
Планирование экспериментов в некоторых задачах последовательной
оценки параметров. Оптимальный характер совместного решения не¬
которых задач управления и фильтрации.
§ 10. Методы последовательного перебора вариантов . 234
Метод глобального последовательного перебора вариантов при адди¬
тивном показателе качества и его применения в некоторых задачах
распознавания последовательностей: распознавание «образов движу¬
щихся объектов»; некоторые модели распознавания образов речи.
Алгоритмы последовательного декодирования Поиск на «дереве ва¬
риантов» .
§11. Некоторые задачи оптимального управления в условиях
статистической неопределенности 245
Задачи управления в динамических системах со случайными воздей¬
ствиями. Показатель качества управления и функция риска. Опреде¬
ление оптимального управления при помощи решения уравнения для
функции риска методом последовательных приближений То же в слу¬
чае дискретного времени и дискретного множества состояний. За¬
дачи оптимального управления с адаптацией.
Литература 251
Предметный указатель 254
Список основных обозначений 256
ПРЕДИСЛОВИЕ
Для построения современных сложных автоматизиро¬
ванных систем обработки информации и управления
решающее значение имеют эффективные статистические
методы, дающие основу для решения возникающих
здесь задач распознавания, обнаружения, фильтрации
сигналов, совместной обработки информации и управ¬
ления. Создание автоматизированных комплексов об¬
работки данных наблюдений и управления и развитие
теории подобных сложных «самонастраивающихся» си¬
стем возможно лишь на базе современных точных стати¬
стических, математических методов.
В книге дается систематическое и доступное изло¬
жение и дальнейшее развитие ряда новых, эффективных
статистических методов для решения задач обработки
данных наблюдений при дискретном и непрерывном
времени, задач распознавания и адаптивной фильтрации
сигналов, задач о различении многих и сложных ги¬
потез.
На основе понятия функции риска и основного ре¬
куррентного соотношения для нее, введенных Вальдом
и Вольфовицем, дается новое систематическое изложе¬
ние последовательного анализа. Развиваемые здесь ме¬
тоды позволяют эффективно решать задачи распознава¬
ния многих и сложных гипотез, задачи построения оце¬
нок, задачи управления наблюдением. Близкими к рас¬
сматриваемым являются некоторые задачи оптималь¬
ного управления при наличии случайных воздействий
или неполном наблюдении.
Вводятся меры количества информации в задачах
математической статистики; рассматриваются потери ин-
формации при редукции наблюденных данных, при на¬
личии «мешающих» -параметров, при изменении законов
распределения, и оценки увеличения риска в зависи¬
мости от потерь информации.
Дается вывод основных уравнений теории условных
марковских процессов, составляющих основу для эф¬
фективного решения задач фильтрации, охватываю¬
щего, наряду с классическими задачами Колмогорова —
Винера и Заде и Рагаззини, также более общие слу¬
чаи подобных задач: оптимальную нелинейную фильтра¬
цию, нестационарную фильтрацию, фильтрацию сигна¬
лов детерминированного типа при неизвестных значе¬
ниях их параметров, фильтрацию .при неполностью из¬
вестных статистических характеристиках сигнала и
шума; сглаживание результатов измерений при воз¬
можных резких, скачкообразных изменениях состояний
наблюдаемого процесса; обнаружение и распознавание
сигналов в шумах.
Книга состоит из четырех глав, краткое содержание
которых дано во введении (см. также # подробное
оглавление).
Значительная часть материала, вошедшего в книгу,
излагалась автором в специальном курсе лекций, про¬
читанном в 1965/66 и 1966/67 уч. годах на механико¬
математическом факультете Московского государствен¬
ного университета и в 1963/64 уч. году на радиотехниче¬
ском факультете Московского энергетического инсти¬
тута.
Книга предназначена для инженеров, студентов,
аспирантов и научных работников, работающих в обла¬
сти автоматизации обработки информации и управления.
Автор глубоко благодарен профессору, доктору тех¬
нических наук 3. М. Бененсону за внимание к рабо-.
те. Автор благодарен доктору физико-математических
наук Б. С. Флейшману и доктору технических наук
Г. А. Медведеву, прочитавшим рукопись книги.
Э. М. Хазен
Москва, апрель 1967 г.
КРАТКОЕ ВВЕДЕНИЕ
В книге развиваются эффективные статистические
методы, которые могут -быть положены в основу при
выработке решений в сложных автоматизированных си¬
стемах, при построении алгоритмов автоматической
цифровой обработки данных радиолокационных на¬
блюдений и во многих других задачах обработки данных
наблюдений и управления.
Применение этих методов связано в основном с мар¬
ковским свойством рассматриваемых систем (но это
условие не является сильным ограничением).
В гл. 1 рассматриваются основные модели и вывод
основных уравнений марковских .процессов: марковские
цепи с дискретным и непрерывным временем; процессы
со скачками; винеровский процесс и его допредельные
модели; диффузионные процессы; процессы, определяе¬
мые стохастическими дифференциальными уравнения¬
ми. Рассматривается построение стохастических диф¬
ференциальных уравнений при помощи предельного
перехода от конечно-разностных уравнений при М—^0.
Вводится стохастический интеграл Ито и симметризо-
ванный интеграл Стратоновича; рассматривается устой¬
чивость этих интегралов по отношению к предельному
переходу от допредельных моделей к винеровскому
процессу. Симметризованный интеграл обладает такой
устойчивостью; если решение определяется при помощи
него, вид допредельных и предельных (при М—Ч)) сто¬
хастических уравнений одинаков.
Материал гл. 1 является вводным: вывод основных
уравнений для марковских систем в более сложной об¬
становке—при неполном наблюдении, яри возможности
9
управления — опирается на рассмотренные в гл. 1 основ¬
ные свойства марковских процессов и проводится ана¬
логично.
В гл. 2 рассматриваются динамические системы со
случайными воздействиями, описывающиеся стохастиче¬
скими дифференциальными уравнениями. Дается анали¬
тическое описание линейных марковских систем, си¬
стем, обладающих потенциальной функцией; кусочно¬
линейных систем. Выводятся уравнения для среднего
времени достижения заданных границ и других аддитив¬
ных функционалов от траектории марковского процесса.
Рассмотренные примеры имеют самостоятельное значе¬
ние в задачах управления и анализа динамических си¬
стем при случайных воздействиях.
В гл. 3, в первых трех параграфах, дается вывод
основных уравнений теории условных марковских про¬
цессов.
В теории условных марковских процессов предпола¬
гается, что имеется многомерный марковский процесс
(хи хт, ут+\у •••, Уп), У которого наблюдаемыми яв¬
ляются не все компоненты, а лишь часть их, например
(Ут-> ь •••> Уп). Требуется найти условное (апостериор¬
ное) распределение вероятностей для значений Х\ (0, •••>
xm(t) при условии наблюденных значений
Ут+l(t), ..., Уп(т), т £[0, t]. Если Х\ (/), ..., х m(t) пред¬
ставляют собой сигналы, несущие полезную информа¬
цию, а ут+ i(tf), •••» yn(t) —наблюденные данные, можно
построить решение задачи фильтрации сигналов
Х\ (<), xm(t)9 используя апостериорное распределе¬
ние Wps(x 1, . . ., Хт, t).
Уравнения для функции wP8(xь ..., хт, t) были по¬
лучены P. J1. Стратоновичем (10]. В § 1—3 гл. 3 дается
более прозрачный и доступный вывод этих уравнений.
Вначале рассматривается случай процесса с дискретным
временем и дискретным множеством состояний. Уравне¬
ние для wps(xи хт, 0 легко выводится тогда из
основного свойства марковости процесса (х\у ..., хт,
ут+1, Уп) и формул условной и полной вероятности.
При непрерывном времени наблюдения уравнения выво¬
дятся путем предельного перехода при At—Ч) от ди¬
скретного времени; при этом стохастические интегралы
■понимаются как симметризованные.
В § 4 рассматривается задача оценки неизвестных
параметров сигналов детерминированного вида. Дается
10
решение «задачи Заде и Рагаззини» фильтрации поли¬
нома в шуме. Рассматривается построение оценок пара¬
метров неизвестных корреляционных функций и неко¬
торые примеры фильтрации при не вполне известной
корреляционной функции шума. В § 5 дается построение
переключающихся («адаптивных») фильтров для сгла¬
живания результатов измерений координат объекта, за¬
кон движения которого меняется скачком; рассматри¬
ваются задачи нелинейной фильтрации, возникающие
при построении некоторых следящих систем, и др.
Методы, изложенные в гл. 3, могут быть перенесены
на многие задачи фильтрации, которые удается сформу¬
лировать как задачи теории условных марковских про¬
цессов. При этом возможна нелинейная зависимость
наблюдаемых данных от сигналов, нестационарность.
В гл. 4 рассматривается построение последователь¬
ных решающих правил в задачах обработки информа¬
ции и управления.
В § 1 дается общая постановка задачи последова¬
тельного анализа. Вводится функция риска и доказы¬
вается основное рекуррентное уравнение для нее.
В § 2, 3 общие соотношения конкретизируются для за¬
дачи о различении двух и нескольких простых гипотез.
Доказывается оптимальность последовательного крите¬
рия отношений вероятностей для различения двух про¬
стых гипотез.
Вводится функция условного риска. Пусть х\, ...,
кт — результаты т наблюдений, L(x\, ..., хт)—вы¬
бранная статистика (функция от наблюденных данных).
Если L(x 1, ..., хт) представляет марковский процесс
при увеличении числа наблюдений т, можно ввести
условный риск S(L; т) —условное математическое ожи¬
дание будущих потерь при применении оптимального
решающего травила, при условии, что в момент т
L(xu ..., xm)=L. Если W(L; т)—математическое
ожидание штрафа за ложные решения при остановке
наблюдения и принятии решения при L(xu ..., xm)=L,
с — стоимость одного наблюдения, то
S(L; m) = min[lt^(L; т)\
Affc + Sa + AL; m+l)|L; т}\. (1)
Это рекуррентное соотношение принципиально опреде¬
ляет решающее правило: область продолжения наблю-
И
дений определяется условием S(L\ m)<W(L; m); в об¬
ласти остановки S(L\m) — W(L\ т).
В § 4 рассматриваются меры количества информа¬
ции и оценки приращения риска при уменьшении коли¬
чества информации, используемого .при решении. Пока¬
зано, что при использовании достаточных статистик по¬
тери информации равны нулю. Рассматриваются оценки
устойчивости решающих правил при изменениях зако¬
нов распределения; оценки приращения байесовского
риска при редукции наблюденных данных; .при редук¬
ции пространства значений оцениваемых параметров,
при исключении «мешающих» параметров. Подобные
оценки важны для построения решающих правил с уче¬
том ограничений на требуемый «объем памяти».
Вводится средняя информация / в одном наблюдении
для различения двух гипотез. При различении экспонен¬
циально растущего числа гипотез N = eHn с ростом числа
наблюдений п устанавливается возможность сколь
угодно точного распознавания гипотез при п—>-оо,
если информация / в одном наблюдении для различения
гипотезы Нк и ее отрицания #&(&= 1, ..., N) больше,
чем Я (статистическое доказательство теоремы Шен¬
нона).
В § 5 дается эффективное построение последователь¬
ных решающих правил в задачах о различении многих
и сложных гипотез.
В задачах отождествления данных и обнаружения
в многоканальной системе в качестве статистики
Цхи ..., хт) принимается
Li (х1у ..., Хт) •=—1 Шах Lft (х!, ..., Хт),
1<с£<сЛ’
где Lh — логарифм отношения правдоподобия истин¬
ности или ложности гипотезы Hh (например, Hk состоит
в наличии сигнала в k-ы канале, в задаче обнаруже¬
ния). Последовательное решающее правило состоит
в сравнении L(xь ..., хт) с .переменными порогами, за¬
висящими от т, А (т) и В(т).
При L^>A(m) принимается гипотеза Hh, для которой
значение Lh максимально; при L<^B{m) принимается ги-
N
потеза Н = JJ Нк. Для приближенного вычисления поро-
12
гов А (т) и В (т) используется рекуррентное соотношение
для функции условного риска.
В задачах о*различении сложных гипотез при по¬
строении статистики L(xь ..хт) используются оценки
неизвестных параметров по результатам проведенных
наблюдений.
В гл. 4 отражены результаты совместной работы
проф. 3. М. Бененсона и автора [32, 57].
Рассматривается случай непрерывного времени на¬
блюдения, когда L{t) представляет собой непрерывный
марковский процесс.
В § 6 указывается метод последовательных прибли¬
жений для решения рекуррентного уравнения для
функции риска. При выборе в качестве начального при¬
ближения S0(L; m)=W(L\ т) последовательные при¬
ближения Sn(L\ т) сходятся к S(L\ т) сверху
(Sn^5) монотонно; при S'o(L\ m)=mm[W(L\ т)\ с]
последовательные приближения S'n(L; т) сходятся
к S(L\ т) монотонно снизу (S'n^S). Строятся оценки
«извне» и «изнутри» для границы области продолжения
наблюдений. Указываются некоторые оценки снизу для
среднего времени анализа.
В. § 7 дано построение асимптотически оптимальных
(при стоимости одного наблюдения, стремящейся к ну¬
лю, или при увеличении среднего числа наблюдений)
последовательных решающих правил для различения
двух и нескольких, простых и сложных гипотез.
В § 8 общее рекуррентное уравнение для риска кон¬
кретизируется для задач последовательной оценки пара¬
метров. Указываются некоторые приближенные ре¬
шения.
В § 9 рассматривается построение последовательных
решающих правил при возможности управления ходом
экспериментов, или выбора типа эксперимента, .при по¬
мощи которого осуществляется очередное наблюдение.
При этом уравнение для функции риска принимает вид
S(L; т) =min [И? (L; т)\
min/W {£/+£(£ + m-J-l)|L; т\ /}], (2)
/££(£; т)
где l£$(L; т)—номер возможного типа эксперимента,
или выбор какого-либо управляющего воздействия.
13
При отсутствии необходимости остановки процесса
наблюдения это уравнение описывает задачу оптималь¬
ного управления и принимает ©ид
S(L; /?z)==min/W{S(L-f- т-\- 1)|L; т\ /}, (3)
/££(L; т)
совпадающий с уравнением динамического программи¬
рования Беллмана.
Рассматривается ряд задач совместной обработки
результатов наблюдений и оптимального управления.
В задаче о различении двух простых гипотез, оптималь¬
ным является выбор эксперимента, для которого отно¬
шение стоимости одного наблюдения ci к количеству ин¬
формации U минимально. В задаче о различении слож¬
ных гипотез строится двухэтапная процедура, где управ¬
ление на втором этапе выбирается в зависимости от по¬
лученных на первом этапе оценок параметров. Рассма¬
тривается задача планирования эксперимента, где
управление заключается в выборе точки, в которой -про¬
изводится наблюдение. Проводится совместное решение
задачи оптимальной нелинейной фильтрации и опти¬
мального управления.
В § 10 рассматриваются методы последовательного
перебора, позволяющие реализовать принципиальную
возможность сколь угодно точного различения экспо¬
ненциально растущего числа гипотез, установленную
в § 4. Это методы последовательного декодирования и
динамического программирования, которые применя¬
ются в '§ 10 для решения некоторых задач распознава¬
ния последовательностей: распознавание «образов дви¬
жущихся объектов» («траекторий»); некоторые модели
распознавания образов речи.
В § 11 обсуждаются задачи оптимального управления,
описывающиеся уравнением (3), в случае непрерывных
и дискретных марковских процессов.
Методы последовательного анализа, развитые в гл. 4,
позволяют охватить нестационарные задачи, случаи не¬
одинаковой стоимости эксперимента при разных гипоте¬
зах, задачи о различении многих и сложных гипотез,
оптимальное управление процессом наблюдения и могут
иметь множество применений в задачах обнаружения,
распознавания и обработки сигналов, построения эф¬
фективных, устойчивых решающих правил, оптимально¬
го управления обработкой наблюдений и др.
ГЛАВА 1 МОДЕЛИ СЛУЧАЙНЫХ ПРОЦЕССОВ.
ОСНОВНЫЕ УРАВНЕНИЯ
§ 1. Марковские цепи с дискретным
и непрерывным временем.
Пуассоновский процесс. Случайные блуждания
Можно классифицировать случайные процессы сле¬
дующим образом:
Процессы
Без последействия
С последействием
Детерминиро¬
ванные
Недетермини¬
рованные
IA
IIA. Марковские
процессы
ю
ИБ. Немарковские
процессы
Рассмотрим, как описывается математически каждый
тип процессов '[1].
IA. Детерминированный процесс без последействия.
Процесс описывает изменение во времени состояния
некоторой системы. Пусть <o(s)—состояние системы
в момент s. Множество всех состояний системы Q,
<»> £ £2 (со принадлежит множеству iQ) называется фа¬
зовым пространством.
Процесс задан, если задан оператор
a>(0 = S>(s)]. (1.1)
Оператор S* ставит в- соответствие значению <*> (5) зна¬
чение о>(/), т. е. указывает состояние, в которое придет
система к моменту t, если в момент 5 она была в состоя¬
нии со (5). Если изменять t, t^>s, множество значений ш (/)
образует траекторию в фазовом пространстве, выхо¬
дящую из точки <>>($). Так как процесс без последействия,
15
оператор S* не зависит от траектори! до момента s, не за¬
висит от „прошлого" процесса до момента 5, значение
определяется только значением со (5). Поэтому для
любого момента и, такого, что s <^и < /, имеем
5>(5) = S'[S> (s)] = S,e«(«).
Это соотношение означает, что оператор S* равен произ¬
ведению операторов S*u и Su :
S'=S*SM. (1.2)
s U 8
Если процесс однородный по времени, то оператор,
задающий переходы в фазовом пространстве, "зависит
только от разности t—s:
s'=s'-s. (1.3)
а
В этом случае (1.2) можно записать в виде
S°+' = SaS\ (1.4)
Если существует обратное преобразование, процесс на¬
зывается обратимым. Тогда S~TSX = & — тождественному
преобразованию, когда все точки остаются на месте.
Пример 1. Крутильные колебания
aq -f bq -f cq [t) = 0, (1-5)
где a — масса; bq — трение; cq — возвращающая упругая
сила.
Если Д = 4 ас—Ь2> 0, то происходят затухающие
колебания.
Фазовое пространство состояний системы — это пло¬
скость (q, q). Траектория -процесса на фазовой плоско¬
сти— спираль (рис. 1.1). Дифференциальное уравнение
(1.5) определяет оператор, ставящий в соответствие каж¬
дой точке (q(s), g(s)) точку (q(t), g(/))=S*“s [?(s),
q{s)]\ для этого достаточно проинтегрировать дифферен¬
циальное уравнение (1.5) с начальными условиями q{s)%
q(s), соответствующими точке сo(s), и найти q(t), q(t).
16
Рис. 1.1. Траектория в фазовом про¬
странстве системы (1.5).
Пример 2. Фазовое пространство Q может быть конеч¬
ным, т. е. содержать всего несколько точек. Пусть время
принимает только дискретные значения: / = О, 1, 2, 3, ...
Система переходит за единицу времени из одного состоя¬
ния в другое, как показано, например, на рис. 1.2.
Фазовое пространство системы в этом случае может
состоять из замкнутых циклов, неподвижных точек и не¬
существенных состояний [3, 4] — состояний, из которых
система выходит и больше в них не возвращается, как,
например, точка 1 {рис. 1.2).
В случае последействия — тип 1Б. Состояние системы
в момент t, />5, зависит не только от состояния в мо¬
мент 5, но и от предыдущих состояний при u<s. Напри¬
мер, если мы будем описывать состояние тела коорди¬
натой и скоростью, х и х, а движение тела удовлетворяет
уравнению третьего порядка
то, очевидно, задание (*(s), x(s)) еще не определяет
однозначно (x(t), i(/)); если задать дополнительно зна¬
чения х(и) при u<s, то определится
x-\-ax-\-bx-\-cx = f (t),
(1.6)
от которого зависит (*(^), *№))•
2—1092
17
Однако, как видно из этого примера, данный процесс
с последействием можно свести к процессу без последей¬
ствия, если увеличить размерность фазового простран¬
ства. Действительно, уравнение (1.6) мы можем заме¬
нить эквивалентной системой уравнений первого порядка:
f х = хи
I Xt = Xa, (1-7)
I х2 ==— ах2 — bxx—cx-\-f(t).
Если состояние системы задавать тремя координатами
(х, х, х), то в трехмерной фазовом пространстве мы бу¬
дем уже иметь процесс без последействия. Такое поло¬
жение является типичным. Во многих случаях мы можем
свести процесс с последействием к процессу без после¬
действия за счет увеличения размерности фазового про¬
странства. В данном примере для процесса с последей¬
ствием было двумерное фазовое пространство, без по¬
следействия— трехмерное; траектория процесса в дву¬
мерном фазовом пространстве представляет собой проек¬
цию его траектории в трехмерном пространстве.
НА. Недетерминированные процессы.
Если в случае детерминированного процесса мы можем
поставить в соответствие любой точке со (5) однозначно
определяемую точку со'(^), то в случае не детерминиро¬
ванного процесса мы не можем указать одну определен¬
ную точку, а можно лишь указать для каждого множест¬
ва А значений о>(/) вероятность, с которой состояние си¬
стемы в момент t попадает з множество Л, при условии,
18
Рис. 1.2. Система с дискретными состояниями.
что в момент s было состояние o>(s). ^ту вероятность наЗЫ-
вают переходной вероятностью, или вероятностью пере¬
хода, и обозначают Р(Л, /|со, 5). Для процесса без после¬
действия эта вероятность зависит только от состоя¬
ния со(5) в момент s и не зависит от траектории до мо¬
мента 5. «Будущее не зависит от прошлого при известном
настоящем».
Начнем с рассмотрения процесса типа IIA в случае
конечного множества Q и дискретного времени. Такие
процессы называются цепями Маркова.
Система имеет п состояний. Вероятность перехода за
единицу времени из гго состояния в k-e
P(k; m) = pik. О-8)
Значения pik образуют матрицу я-го порядка: WpihW —
матрица переходных вероятностей. Рассмотрим также
переходные вероятности
P(k; t\l; s) = P[(k\i), (1-9)
где t>s, /, s — целые числа.
Пусть в начальный момент s система находится
в i-м состоянии с вероятностью qi. Какова вероятность
того, что в момент t>s она находится в состоянии /?
Имеем
^I(/I0<7i(s) (1.Ю)
/ = 1
— сумма вероятностей перейти в /-е состояние из i-го за
время от 5 до 1/.
При выводе формулы (1.10) использованы два эле¬
ментарных соотношения теории вероятностей:
1. Если случайное событие А есть сумма нескольких
взаимно исключающих друг друга событий Л/,
А= у Ai\ At П Aj = 0 при i Ф / (1.11)
(событие А состоит в осуществлении или события А\, или
Л2, ..., или Ап\ одновременное осуществление Л* и Aj при
2* 19
1ф} невозможно), то вероятность
П
(1.12)
2. Вероятность одновременного осуществления двух
событий А и В равна
Р(АВ) = Р(А\В)Р(В) = Р(В\А)Р(А). (1 • 13)
Здесь Р(А\В)—условная вероятность осуществле¬
ния А при условии, что В имеет место. Соотношение
(1.13) называется формулой условных вероятностей.
Для любого момента w, s<u<t, можно определить
вероятности qj(u):
Так как рассматривается процесс без последействия
(процесс Маркова), то если задано его состояние в мо¬
мент и, прошлое до момента и не влияет на пере¬
ходные вероятности, и распределение вероятностей в мо¬
мент t>u однозначно определяется но qj(u). Поэтому
можно записать:
п
<7П“) = 2 р,[ (/10 4i(s).
(1.14)
/=1
п
п
Ь (0 = 2 К № Яе (И) = 2 р[ (}\е) X
X %Г(еЩдг(з) =
п
Отсюда видно, что
п
Ка ю=
(1 15)
20
ДЛЯ любого и, s < и</. Соотношение (1.15) означает, что
матрица равна произведению матриц Р*и и Р“:
р*=р*ри. (1.16)
s ив
Свойство (1.16)—основное свойство марковских цепей.
Оно аналогично соотношению (1.2), которое было ранее.
В случае детерминированных процессов имеем фазо¬
вое пространство £2, состояние системы (оей и группу
операторов S*s, действующих на со и отображающих
пространство £2 в себя. В случае недетерминированных
процессов в начальный момент задается распределение
вероятностей q(о, s) для состояний системы; процесс же
описывается группой операторов, действующих на рас¬
пределение вероятностей:
9 (со; t)=P[q{«-, s). (Ы7)
В этом сдучае мы должны следить за изменением во
времени распределения вероятностей по состояниям.
Указанная связь теории случайных процессов и тео¬
рии групп (точнее, полугрупп) операторов имеет ряд
важных следствий. Некоторые из них будут указаны
в дальнейшем. Они используются при построении спек¬
тральной теории случайных процессов.
Вернемся к марковским цепям. Из соотношения (1.16)
следует, что для однородных по времени -процессов до¬
статочно задавать матрицу WpthW переходных вероятно¬
стей за единицу времени:
Р?т(№ = Ш\т- 0-18)
Для распределения вероятностей qt (т) имеем
п
<7j('«+l) = £ Pitfiim). (i.i9)
i=i
Если существует предельное распределение вероятно¬
стей для состояний системы при т-*~оо, не зависящее от
начального распределения, то его можно найти из (1.19),
переходя к пределу при т-*-оо в левой и правой частях
21
{э&бекства (i.19). Тогда
n
4i = Yipiiqi- (1-20)
i = l
Отсюда видно, что вектор {q,} = {lim q^ (m)} есть собст-
m-юо
венный вектор матрицы ||/?ij|| (с собственным значением 1).
Рассмотрим теперь цепь Маркова с непрерывным
временем, т. е. недетерминированный процесс без после¬
действия, с конечным множеством Q и непрерывным t.
Как меняется распределение вероятностей со временем?
Покажем, что [1]
-jf я О0» 0 = а(*> ш> (1-21)
(о'£Я
причем коэффициенты a(t, со, со') имеют следующий смысл:
1 Gk(ty со, о)) Д£ —J— о (At) — вероятность остаться в со¬
стоянии со за малое время At, от t до a (t, аз, а/) A/-f-
о (А^)—вероятность перейти из состояния го' в состоя¬
ние со со' за время от t до /-]-А^.
Таким образом, a(t, о, о') есть некоторая дифферен¬
циальная характеристика процесса. Ее можно найти из
конкретных физических условий, а ^(со; t) уже опреде¬
лится интегрированием системы (1.21).
Для малых М имеем:
(«а|«') = а(/, to, ш')Д< + о(Д*); шфт',
Р(со | = 1 -J- a (t, «в, о) Д^ -(- о (Ы),
<7 (со; tД/) = ]£ *) Нт') = Я (<о; 0 +
0)'£й
-(- At ^ я(ы,1 t)a(t, ш, “') -f-о (Д/). (I-22)
<о'£й
Перенося <7.(со; t) влево, деля на At и переходя к пределу
при А/->0, получим (1.21).
22
Если начальное распределение <7 (со; 0) задать в виде
(1.23)
<7(“; 0) = 8(ш, Ш*)=Р’ w~m ’ (1.23)
10, ыфш*,
то решение уравнения (1.21) определит вероятность пе¬
рехода из данного состояния о* при s = 0 в любое со¬
стояние о к моменту t.
Отметим, что a (t, ю, а>)«<0: так как сумма всех ве¬
роятностей равна 1, то —Дta(t, <и, ю) = Д^ V a(t, оо', а>)—
= вероятности выхода из данного состояния за малое
время Дt.
Рассмотрим теперь недетерминированный процесс без
последействия, с непрерывным временем и со счетным
множеством состояний. Это — цепь Маркова со счетным
числом состояний, или случайное блуждание.
Пусть x{t)—процесс однородный по времени. Со¬
стояния системы совпадают с целочисленными точками
на действительной оси.
Зададим
Р% (m\m)= 1 —ax-j-o(x) (I-24)
— вероятность остаться в состоянии m за малое время х;
Рт(т+1|тг) = ах + о(х) (1.25)
— вероятность перейти на единицу вверх за малое
время;
Рх (т + п\т) = о (х) (1 -26)
— вероятность перейти на несколько единиц вверх за ма¬
лое время х. Пусть переходы вниз запрещены, так что
Рх (п\т\==>0 (тождественно по х) при n<^tn.
Для такого процесса мы будем иметь аналогично (1.21):
-jfP* (п\т) = — аР1 (п\т)-\-аР1 (п — 1|т). (1.27)
Начальное условие
гю/ 1 ч Г1, т = п,
Р°(п\т)= ’ (1.28)
[О, тфп.
23
Так как Р{ (п\т) = 0 при я</гг, то
Р1 (т\т) = — аРг (т\т). (1.29)
Отсюда Р1 (т\т) = Ce~at, и так как Р° (т\т) = 1, то
С=1:
Я* (m|/w) = e‘"erf. (1-30)
Подставляя это в (1.27), для Рг (т-\-\\т) получим
уравнение
'Щ'Р1 (т-Ь Цт) — — аЯ* (т-\- \\пг) ^-ае“^,
откуда
Р1 {m-\-\\m) = ate~at
и т. д. Получаем для произвольного целого /г, О,
Р1 (m-\-n\m) =-^f- е“а*. (1.31)
Закон распределения вероятностей (1.31) называется
пуассоновским. Рассмотренный марковский процесс так¬
же называют пуассоновским. Такие процессы встречают¬
ся в теории массового обслуживания. Величина x{t) мо¬
жет представлять, например, число вызовов абонентов,
поступившее на телефонную станцию за время t. При
этом aAt— вероятность поступления одного вызова за
время [/, / + Д/]. Параметр а называется плотностью по¬
тока вызовов, так как он равен среднему числу вызовов
за единицу времени. Действительно, пусть t= 1. Среднее
значение (математическое ожидание) х(\) равно
Af[*0)I-fj от(^Ге““) =
т—0
оо
SCI”-1 — а
=а- 0-32)
П— 1
Пуассоновский процесс — это процесс со скачками.
Скачок происходит только вверх и, как правило, только
на единицу.
24
Можно аналогично рассмотреть процесс £(/) с непре¬
рывным множеством £2 состояний и со скачками, вели¬
чина которых может принимать не только целые зна¬
чения.
Для марковского процесса с непрерывным множе¬
ством состояний основное соотношение (1.15) принимает
вид
Я* (со|со") = ( Р1и (о)|а>') Я“ ((d'|©") Лв'. (1.33)
Я
За малое время т может произойти скачок с вероят¬
ностью ат+о(т), причем задано распределение вероят¬
ностей для величины скачка:„вероятность перескока из
точки х па участок [у, y + dy] (при условии, что скачок
происходит) равна
ОО
f(x, у) dy-\-o(dy); ^f(x, y)dy — 1.
— ОО
Имеем:
Рх {х\х) = 1 — а% -|- о (т),
Р'{\У> y + dy]\x) = axf (х, у) dy. (1.34)
Плотность распределения вероятностей q(y, t) для зна¬
чений x(t) удовлетворяет для такого процесса уравнению
ОО
()
-fit Я (у’ t) — — aq{y, 04- \aq(x, t)f(x, y)dx. (135)
—СО
Здесь q(y, t)dy — вероятность того, что точка х(1) нахо¬
дится в момент t на участке [у, y+dy]. Вывод уравнения
(1.35) вполне аналогичен выводу уравнения (1.27):
Я (у, t-\- Д/) = (1 — аМ) q (у, /) J attq (х, /) / (х, у) dx.
—СО
Мы -получаем интегро-дифференциальное уравнение.
Наличие интегрального члена типично для процессов со
скачками.
25
Если величина й зависит от х, а = а(х), то уравнение
(1.35) принимает вид:
ОО
-§Г<1(У> *) = — а(У)я(У> 0+ j «(*)?(*, t)f{x, y)dx.
—ОО
(1.36)
Решение уравнения (1.35) в явном виде не выписывает¬
ся. Но такие уравнения можно решать методом последо¬
вательных приближений.
Существуют процессы с непрерывным временем дру¬
гой природы: у них траектория x(t) не имеет скачков,
разрывов, а остается непрерывной. Переходные вероят¬
ности таких процессов определяются уравнениями в ча¬
стных производных.
Важнейший пример марковского процесса с непре¬
рывными траекториями — «броуновское движение».
Процесс «броуновского движения» можно определить
как марковский процесс, для которого плотность вероят¬
ности .перехода из точки х, занимаемой в момент s,
в окрестность точки у к моменту t равна
{У-х)*
Р1 ~s {у\х) *- :-=г- е 2{f s). (1-37)
Формула (1.37) означает, что приращение процесса за
время х имеет гауссовское распределение с дисперсией т.
Приращения за непересекающиеся отрезки времени ti,i2
независимы. Нетрудно проверить, что переходная веро¬
ятность (1.37) удовлетворяет соотношению (1.33):
00
Р*~* iy\x) = ^ Pl~u (y\z) Pu~s (z\x)dz =
— 00
00 (У—z)2 (z—x)2
— f 1 e 2{i~u) 1 e 2{u~s)dz =
j Y2k (t — и) |/2ге(ц — s)
—00
(У — Х)2
1 2 (t-s)
2tc (t — s)
Можно доказать, что процесс «броуновского движения»
имеет непрерывные траектории с вероятностью единица
[5-7].
26
Непрерывные марковские процессы (рассматривае¬
мые подробнее в дальнейшем) полностью определяются
своими локальными характеристиками (1, 5]:
1. Математическим ожиданием величины смещения
из данной точки за малое время Atf:
M{x(t-\-At)— х (/)| при условии x(t) = y} —
=А (у, t) At-{-о (At). (1-38)
2. Математическим ожиданием квадрата величины
смещения из данной точки за малое время At:
M{\x(t-{-Ai)— *(0l2| при условии x(t)—y} =
— В (у, t) At-{-о (At).
Для броуновского движения А (у, t)=0, В (у, t) не за¬
висит от у и t и равно константе (единице).
При t—►s плотность вероятности P*~s(y\x), заданная
формулой (1.37), стремится к дельта-функции б {у—х):
1тР".№)={“' *=»' |/>-№)*= 1.
t-*s \ ", X -f- t/, >
— 00
В § 3 будет показано, что распределение вероятностей
q(у, t) для значений непрерывного марковского процесса
x(t) с локальными характеристиками (1.38) А (у; i) и
В (у, t) удовлетворяет уравнению в частных производ¬
ных [1]:
*)?(!/. 0) =
=-^--^r(B(y,t)q(y, t)). (1-39)
Для броуновского движения это уравнение принимает
вид
dq{y. t) 1 t)
dt 2 ду*
(1.40)
Переходная вероятность (1.37) есть решение уравне¬
ния (1.40) (что нетрудно проверить) с начальным усло¬
вием при t=s:
q(y\ s) = S(y — x).
27
Решение линейного дифференциального уравнения в ча¬
стных производных с начальным условием — дельта*
функцией — называется фундаментальным решением.
В теории уравнений с частными производными оно
играет важную роль, так как все другие решения выра¬
жаются через него. Фундаментальное решение обладает
рядом интересных и важных свойств, которые будут рас¬
смотрены и использованы в гл. 2.
§ 2. Броуновское движение.
Его допредельные модели
В § 1 случайный процесс броуновского движения был
определен как марковский процесс с гауссовской плот¬
ностью переходной вероятности
__ (у— *)2
pt-sm=y=2rhwe~2(t~s)- (2Л)
Процесс броуновского движения, или винеровский про¬
цесс, может быть получен в результате предельного пере¬
хода от процесса с дискретным множеством состоя¬
ний [4, 6, 7].
Рассмотрим блуждание частицы по решетке (рис. 1.3)
с шагом по времени W и с шагом по пространственной
координате 8, 8 — . За время t — nAt частица полу-
п
чает смещение х (t) — ^ Ах%9 где Ахи = 8 или — 8 — с ве-
6=1
роятностью 1/2. В этих условиях применима центральная
предельная теорема теории вероятностей. Ее формулировка
гласит [3J:
пусть имеется последовательность . . ., Ъп взаимно
независимых случайных величин. Пусть они имеют одина¬
ковые законы распределения с математическим ожиданием
M\i — a и дисперсией D%i = b. Рассмотрим случайную ве-
п
личину Tjn = V$ft. Тогда при п -*■ оо распределение веро-
А=1
ятностей для величины т\п стремится к гауссовскому с па¬
раметрами М-цп = па, DT\n = nb:
Если функции распределения слагаемых неодинаковы, то
для применимости теоремы требуется еще выполнение
условия Линдеберга:
п
где т>0 — произвольное фиксированное число. Случай¬
ные величины должны принимать большие значения
лишь с малой вероятностью.
Рис. 1.3.
При Д/^0 переходная вероятность для случайного
блуждания x(t) стремится к гауссовской плотности (2.1)/
Как видно из этого построения, траектория броуновского
движения весьма изрезана: Ах~^ At; Ax/At-^±oo.
Можно доказать, что с вероятностью единица траекто¬
рия x(t) броуновского движения недифференцируема ни
в одной точке /[5—7]. Вместе с тем, траектория непре¬
рывна и удовлетворяет следующему условию равномер¬
ной непрерывности [5—7]: при малых h—1\
I X (g - x (/,) \<K(t, — tt)m ; K = const.
Чтобы получить броуновское движение с коэффициентом
диффузии В, надо растянуть ось х в у В раз. Чтобы
получить броуновское движение со сносом А, надо с-де-
29
лать неодинаковыми вероятности перехода вверх и вниз
при блуждании по решетке.
Пусть вероятность перехода вверх р, вниз q— 1—р
и q=£р. Тогда МАхк = (р— q) — AM, откуда сле¬
дует /?— (1/2)+Л у/ At/В , q = (1/2) — АУМ/В. При
Д/ —► () вероятности перехода вверх и вниз стремятся к 1/2
и благодаря этому, несмотря на бесконечную скорость,
среднее перемещение за конечное время конечно.
Отметим, что аналогичным образом могут быть по¬
строены все непрерывные марковские процессы — как
суммы большого числа малых приращений, причем
М {Ах \x,t} = A {х, t) At -J-0 (At),
М {(Ах)21 x,t}=B (х, t) At + о (Дt)
и
М {(Да;)*} = о (At) при &>2.
Такое построение путем предельного перехода от про¬
цесса с дискретным временем и дискретным множеством
состояний было дано С. Н. Бернштейном [8, 9].
Следующее свойство броуновского движения, обу¬
словленное его недифференцируемостью, будет использо¬
вано в дальнейшем в § 4.
Лемма. Пусть x(t)—процесс броуновского движения*
Рассмотрим его на отрезке JO, 7"J. Рассмотрим сумму квад-
N
ратов приращений 5^=^ \х (fj+1) — х (fj)]a, где fj—разбие-
/=i
ние отрезка [О, Т\ (рис. 1.4). Тогда, если N -*■ оо таким
образом, что шах —t j)-* 0, то lim5/v = 7’.
' A/->co
Доказательство. Имеем SN =^^3, где Мт\) =
)=I
= ^+i — = так как х (t j+l) — x(tj)
имеет гауссовское распределение.
30
Рис. 1.4.
Вследствие центральной предельной теоремы, распре¬
деление Sn сходится к гауссовскому закону, причем
MSN=j^Mni = T,
1=1
а
DSN=V2(tj+1-tjy^2T max (*j+1-f,),
и дисперсия Г^стремится к нулю при N-*■ оо.
Аналогичная лемма [5, 10] вылолняется для броунов¬
ского движения с переменными коэффициентами диффузии
и сноса:
М {Ах | x,t} = A (х, t) At + о (ДО;
М{(Дх)21 х, 0 = В (х, t) At + о (At).
Тогда
N Т
Укажем также некоторые другие допредельные моде¬
ли броуновского движения. Пусть хл (J) —случайный
процесс с дискретным временем, t = nA, и непрерывным
множеством значений, причем
ха (0 — ]С ’l 0'д) А>
1-1
где г| (/А) — значения гауссовского стационарного слу¬
чайного процесса с корреляционной функцией
&^)=MU(t)-n(t-\-z)} = >>R(v).
Пусть 38 (t) убывает с ростом i и tKop — такое время,
что при | if, — tt | >■ тког,, гауссовские случайные величины
r](/i) и г] (^2) весьма слабо коррелированы и, следова¬
тельно, слабо зависимы. Пусть А=тКОр. Для суммы (t)
слабо зависимых гауссовских величин также верно
утверждение центральной предельной теоремы. Для того
чтобы в пределе при А—*0 процесс хА (t) переходил
31
& процесс броуновского движения, необходимо построить
его так, чтобы математическое ожидание квадрата при¬
ращения за один шаг по времени Д» было пропорцио¬
нально Л:
М {\х (/А) — *((/_ 1) Д)|2} = = Д V =,
= Д const, =
д
Следовательно, одновременно с уменьшением Д = тког
корреляционная функция процесса т|(/) должна меняться
Рис. 1.5.
а — корреляционная функция процесса 11(0; б — спектральная плотность.
следующим образом: график 38^ (т) одновременно сжимает¬
ся по оси % и растягивается по оси ординат в одно и то
же число раз (рис. 1.5, а). При этом площадь под кривой
00
остается постоянной: J 38 ^ (т) d% = const = С. В пределе
—ос
38^ (х) —*• С8 (т), где 8 (г) —дельта-функция.
Предельный обобщенный случайный процесс г| (/) на¬
зывают гауссовским 6-коррелированным, или процессом
белого шума уровня С, так как его спектральная плот¬
ность мощности постоянна:
Корреляционная функция &f (х) допредельного процесса
т] (t) выше не конкретизировалась. Задавая ее, можно полу¬
чать различные допредельные модели броуноЕСкого движе¬
ния xL(t).
32
Пусть, например, спектральная плотность / (а>) равна
(о>) = С/2я при |ш|<<й0; 0 при |<о|><о0, а функция
корреляции
/ ч н ^=4- JiE?L- •
t
При (d0 -»■ оо, 3$^ (х) С8 (х), а процесс л: (t) = Jij(x) dt пе-
о
реходит в процесс броуновского движения. (Понятие сто¬
хастического интеграла будет рассматриваться в § 4.)
а2
Аналогично можно задать (ш) == ■ и ЗВ^ (х) =
= ае~“|т' -*■ 8 (*с) при а —► оо. С процессом броуновского
движения связан целый класс случайных процессов —
непрерывные марковские процессы. Как будет показано
в § 5, все они могут быть получены как решения стоха¬
стических дифференциальных уравнений, содержащих
броуновское движение в качестве «вынуждающей силы».
(Поэтому они называются также диффузионными.)
§ 3. Уравнения А. Н. Колмогорова
для непрерывных марковских процессов
Непрерывные марковские процессы, могут быть полу¬
чены как суммы большого числа малых приращений, или
как решения стохастических дифференциальных урав¬
нений.
Обыкновенное дифференциальное уравнение
— О
можно рассматривать как предельное при 1М—*-0 для
уравнения в конечных разностях
Ay = A(y;t)At + o(At).
При построении стохастических дифференциальных
уравнений естественно считать, что приращение Ау со¬
держит случайное слагаемое:
Ау = А (у, t) At-J- Ф (у, t, At, а*),
где а* — независимые случайные величины; время дискрет-
но.
3—1092 о.
Если бы Ф (у, t, At, a,t) была величиной порядка At,
Ф (у, t, At, at) = f (у, t, At, a*) At, где Mf {у, t, At, at) = С {у,
t,At)<^oo,Mf2<^oo, то при At -> 0 дисперсия Ф была бы
бесконечно малой более высокого порядка, чем МАу; поэ¬
тому в пределе
-§-=А(уЦ) + С{у;Ц 0),
и влияние случайных воздействий пропадало т'бы. (Можно
показать, что это имеет место и при Ф = /[AfJl/2-^*, где
е — любое положительное число*.) Для того чтобы в пре¬
деле случайные воздействия не вырождались, должно быть
Ьу = АиШ)Ы + Цу;ЪадуЖ. (3.1)
Это соотношение аналогично уравнению, определяю¬
щему допредельную модель броуновского движения.
Обозначим
W (У, t, а*) -- В (у, t); Mf (у, t, а,) = 0.
Теорема [8, 9]. Пусть
ДУц = А (уhi th) Ath -f f {yk\ tk\ at)) V~Mk,
где А и дА/ду — непрерывные и ограниченные функции,
Mf = 0, Mf2 (у, t, at) = B{y; t); функции /, df/dy, d*f/dy2
также непрерывны и ограничены. Пусть р„(у)—исходная
плотность вероятностей у при ^ = 0, причем ра (у) имеет
непрерывные производные первых двух порядков. Пусть
P{y,t) и p(y,t) обозначают закон распределения и плот-
у
ность распределения вероятностей, P{y,t) = J р (у, t) dy,
—00
для предельного -значения у, когда интервалы между
дискретными значениями стремятся к нулю. Тогда р (у, t)
определяется уравнением:
<3-г>
* При е<0, дисперсия предельного процесса y(t) была бы равна
бесконечности при любом f>0.
34
Доказательство. Имеем
Уп+i — Уп + А (уп, tn) Д* + f (Уп, tn, <*t) Vbt. (3.3)
n
Решим это уравнение относительно уп.
Если г/ = г —|— Яф (г), где Я— малый параметр, так что
|Яd<|>/dz|< 1, то по формуле Лагранжа
Если положить Х — Ум и воспользоваться этой форму¬
лой, то найдем
*/п== Уп+1 f (Уг}+ 1» tn* -{-
f n
Aj&t = F (yn+1", tn’ilf&i’, &{)• (3.5)
Обозначим x («) — плотность распределения случайной вели¬
чины а». Вследствие полученных соотношений (3.3), (3.5),
связывающих yn+i и уп, имеем
Рп+ г (у) = J Рп (F (у)) X (“) (3.6)
где Pn+i (У) обозначает закон распределения для yn+i-
Из рекуррентной формулы (3.6) следует, что Рп(у)
имеет непрерывные производные до третьего порядка вклю¬
чительно*. Тогда
jP.(f(!/))x(«)<i«= J{/>»<!/)+ +
+('-5— А)Ы ]^+4-д"! W <** =
=Р.-М+дш{/^~д}^.+
(3.7)
* При условиях теоремы можно доказать [8, 9] непрерывность
и ограниченность производных дрп/ду, д2рп1ду2, дърп/ду3.
3* 35
Так как -^—-^-~B(y,t), получаем
Так как М
+4-в^-и+от-
(3.8)
Отсюда следует
(3.9)
Плотность вероятности р (y,t) — dPjdy; дифференцируя
это уравнение по у, находим окончательно:
Аналогично для многомерной системы уравнений: если
где а* — независимые (при разных t) случайные величины;
функции А (у), f{y) и их первые частные производные
ограничены, тогда
Решение этого уравнения при f>s с начальным уело-
вием при t = s—дельта-функцией 8 (у—х), определяет
->•
плотность переходной вероятности из точки х в момент 5
в окрестность dy точки у к моменту t.
Уравнения для плотности переходной вероятности слу-
чайного процесса y(t) можно вывести и другим путем.
—> —►
Процесс у (t) — марковский, так как at — независимые слу-
36
(ЗЛО)
Ay^) = AiM-\-f{ УМ ; fi = fi(y; t\ at); Ai = Ai(y;t),
(3.11)
где
чайные величины. Для плотности переходной вероятности
поэтому должно выполняться уравнение Смолуховского —
Колмогорова — Чепмена [уравнение (1.33) § 1]:
P(y,t\x,s) = J Р (у, 11 г, и) P(z,u I х, s) dz. (3.13)
—оо
Кроме того, в силу уравнений для Ду, при малых t —
— и = At выполняются соотношения:
М {Д#<г> | у (и) =z} =|}(г/<*> —2<г>) Р(у, t\z,u)dy =
= At(z,t)At-\-o(At),
M{AyW AyW | у (и) =z) =
= \(УН) — z(<)) (y(j)—z^)P (у, t \zt u)dy =
— Btj (z,t)At-{-o(At),
M{\y(u) = z} = o (At), k>2. (3.14)
Аналогичные равенства имеют место для Р (z; и \ x;s) при
малых и — s. Используя эти равенства, можно вывести из
уравнения (1.33) дифференциальные уравнения для
Р(у, t\x, s), совпадающие с полученными выше (по пере¬
менным у, t). Такой вывод дан в [1,3]. При этом по пере-
менным х, s для функции Р (у, t\ х, s) получается сопря¬
женное уравнение:
4г+Е& £+тЕ** <?,0.
t 1.1
(3.15)
При доказательстве предполагается, что Р обладает не¬
прерывными производными первых трех порядков. Мож¬
но доказать, что это предположение выполняется для мар¬
ковских процессов, обладающих непрерывными (с веро¬
ятностью единица) траекториями. Можно ослабить тре*
37
бование ограниченности функций Аг. достаточно ограни¬
ченности первых производных дА/ду}. Последнее усло¬
вие является необходимым для того, чтобы траектория
процесса не уходила в бесконечность за конечное время;
например, для процесса, заданного уравнением
Ay = y2At-{-f У If,
где /=|±1 с вероятностями V2, значение y(t) становится
сколь угодно большим за конечное время Р{у, t)^0
при у=оо; при tf>0
j P(y,t)dy< 1.
—ОО
Справедливы следующие теоремы:
—>
1. Пусть y(t) —n-мерный марковский случайный про¬
цесс, почти все траектории которого непрерывны, удовле¬
творяющий условиям
lim -±- М {yt (t -f- ДО - уг (01 у {t) —x} = Ai (х, 0;
Д/-+0
lim 4- М {(yt (t + ДО - yt (0) (У) it + ДО -
Д*->0 L
- Vi (0) \у (0 =х}=Вц Сх\ о (3-16)
(здесь М {... |...} — условное математическое ожидание,
«■> —►
i, }= 1,..., п), где Ai (х), Вц (х) — функции, непрерывные
П
вместе со своими производными*, и ^ Bijh^j — неотри-
I. i=i
цательно определенная квадратичная форма. Тогда для про¬
цесса 1/(0 существует плотность распределения вероятно¬
стей Р (у, t), которая должна удовлетворять уравнению
А. Н. Колмогорова:
£ -w <317>
* Для функций А г достаточно непрерывности и ограниченности
.первых производных по ди и ограниченности вторых; для функций
Вц — непрерывности первых и вторых .производных, ограниченности
третьих и ограниченности Вц (или не более чем линейного роста).
38
2. Пусть g(y, 11 т|, x) —плотность вероятности перехода
из точки Tj, занимаемой в момент т, в окрестность точки
у к моменту t для марковского процесса у (t), удовлетво-
ряющего условиям теоремы 1. Тогда функция g (у, t |т),т),
удовлетворяет уравнению (3.2) по переменным
Уи • • •, Уп, t; по переменным тп» • • • > f\n, х функция]^ удов¬
летворяет сопряженному к (3.2) уравнению:
^г+%а,м-£+4- 2 ги(;,)-Д_=о. (зле,
/=1 К 1=1
Кроме того, при t — х -*■ 0 g (у, 11 щ, т) -*>8 (у — щ), где
8 —дельта-функция.
Уравнения (3.2) и (3.3) для непрерывных марковских
процессов были получены А. Н. Колмогоровым в работе
[1]. Вывод их имеется в (3]. Теоремы 1, 2 следуют из ра¬
бот [1, 5, 11, 12].
§ 4. Стохастические интегралы
Рассмотрим в порядке возрастания сложности опре¬
деления и свойства следующих стохастических интегра¬
лов:
t
J Q>(*)dy(t), (4.1)
О
t
(Ф (у (х), х) dy (х), (4.2)
О
t
|ф (х (х),х) dy (х), (4.3)
где у(х) —процесс броуновского движения;
х(т)—непрерывный марковский процесс.
Определим их как пределы в среднем квадратичном
интегральных сумм.
39
Рассмотрим сначала j*<& (х) dy (х). Пусть Ф (х) — непре-
ОО
рывная функция, удовлетворяющая условию ^Ф2(т)б/т;<оо.
о
Как известно, тогда существует последовательность ФпМ
ступенчатых функций, сходящаяся к Ф(т) в среднем ква¬
дратичном:
t
J[<£n (т)_ф(т)]**-*0 ПрИ П —►ОО. (4.4)
о
Определим вначале интеграл (4.1) для ступенчатых
функций Фп(%). В этом случае интеграл
sn—£фп ('')<*«/(•')=]•] ФпЫ [у Ьз+г)—у(ч)\>
0 1=1
где (xj, х^+1) — ступенька функции Ф„ (х) (рис. 1.6). Пре¬
дел в среднем квадратичном последовательности случай¬
ных функций Sn(t) существует, если М fSn — SmJ2 —► 0
при п, т -*■ оо. Прямым подсчетом нетрудно убедиться,
что
М \Sn (t) - Sm (О]2 = jW (*) - Ф* (*)]2 dx. (4.5) .
0
Это следует из свойств приращений броуновского движе¬
ния:
м \у (Xj+1) — У (x,)J = 0; М \у (xJ+1) — у (Xj)]2 = Xj+1 — X.,;
для непересекающихся интервалов времени (x.j, Xj+I) и (xfc;,
xft+1) приращения независимы и
М \У fa+i) — У N1 \У C'ft.+i) — У Ы1 = °-
Из (4.4) и (4.5) следует существование предела 5«
в среднем квадратичном. Этот предел по определению
принимается за стохастический интеграл (4.1). Он обла¬
дает основными свойствами обычных интегралов.
40
Рассмотрим теперь более сложный интеграл (4.2).
Пусть Ф(у, t) —дифференцируемая функция обеих пере¬
менных и пусть
ОО
рИ {Ф2 (у (х), т)} dx < оо. (4.6)
О
Рассмотрим следующее определение интеграла (4.2):
t N
(Ф {у (*), х) dy (т) = l.i.m. УФ (у fa), xfi [у (tJ+I) —у (xj)].
(4.7)
Свойства интеграла, определенного соотношением (4.7),
были изучены Ито (его называют стохастическим инте¬
гралом Ито). Доказательство существования предела
в среднем квадратичном (4.7) при условии (4.6) можно
провести аналогично (4.5) прямым подсчетом разности
м [S* - Sm]2=jVW [ф„ (у (*е),х) - Фт (У (х), x)Y dx,
который мы опускаем. (Можно найти его в [13].)
Вследствие того, что в интеграле (4.7) у(х) —недиф¬
ференцируемая функция, обладающая неограниченной
вариацией, правила преобразования и вычисления этого
интеграла оказываются отличными от тех, которые име¬
ли бы место для дифференцируемой функции у (г).
41
Рис. 1.6.
Пример. Вычислим (т) — у (s)) dy (z).
s
N
^ (тз-м) У \ У (Tj) У C5)]»
/=0
Обозначим Aj+1 = y(Tj+I) — у fa); s = zQ; t = %N.
Тогда
Sn= Yt (S ) Дз+1 =
7=1 Л=1
=■4- [ (Е4« у ■- s] ■=■-г!»w - ■»1да ■-
Л=1 /=1
N-\
§" Jj \У (z5+i) У (хз)]2>
/=о
l.i.m. 5п=4-[^(0— У С*)]2 £-(< —«).
/г->оо z z
Для дифференцируемой функции */(т) мы имели бы
<
J(У (•*) - У (s)) dy (х) = 4- [г, (0 - у (5)]2.
S
В применениях обычно имеем дело с допредельны¬
ми моделями броуновского движения, которые'обладают
гладкими траекториями (имея близкие к процессу бро¬
уновского движения распределения вероятностей). По¬
этому желательно иметь такое определение интеграла
(4.2), при котором его значения были бы устойчивыми
по отнршению к предельному переходу от процесса с диф¬
ференцируемыми траекториями к процессу броуновского
движения.
Такое определение введено в [10]; оно состоит в сле¬
дующем:
|ф (У (*), Z)'dy (т) = l.i.m. J Ф (У^) + УЫ\х
о ^°° /=1
Х\УЫг)— УЫ\- (4.8)
42
Интеграл (4.8) назван в [10] симметризованным.
Аналогично определяется интеграл (4.3). Разность
между интегралами (4.8) и (4.7) равна
JS Ф (У(т,'+1)2+У(т,) > ч) \У (‘«J+*) - У N1 -
N
;=i
= 1-ьт. {JJ (ф {у (,,) +£i^±ikzlM; Xj) _ф (i/ (Tj), Xj)^ X
/=1
X [»(ч* J - у (ч)1}= 1-^ш. {4-^|<а» \у (4tl) -
7 = 1
N
— УЫ]г+^0(у^+1) — у(х j)) [у (Xf+1)—у (ij)]J =
/=1
1 ГдФ(г/(х).х) .
TJ Гу dx•
0
о (4.9)
v
где верхнее выражение имеет место для броуновского
движения с постоянным коэффициентом диффузии,
M[y(tj+,) У (^j)]2 —^j+i tj, а нижнее — для более
общего случая неоднородного броуновского движения,
М {[У (*j+,) — У Ы]21У fa) = У} =
= °2 (У Ы> *i) lxd+i — чЦ-о fa+i — *i)-
Для доказательства [10] равенства (4.9) используется лем¬
ма из § 2.
43
Аналогично определяются стохастические интегралы
для многомерных процессов*. Пусть г/, (/),-• -,Уп(0 — п~
мерный диффузионный процесс с локальными характерис¬
тиками
М {Дг/iAt/j \у, t) = Вц (у, t)M + o (Ы).
Пусть Ф(уи ... ,уп, t) —дифференцируемая по всем
аргументам у$ функция;
?Ж{Ф2(у(т),т)}йт<оо.
о
Интеграл Ито определяется соотношением
t +
Jvi= JfcfoW; z) dy*. (T)=
0
N
= l.i.m. У Ф (у (tj); Tj) [t/ft (xJ+1) — yh fa)]. (4.10)
Ar->oo f"-*
7=1
Симметризованный интеграл определяется как
= Й’ (УЫ+2( Т,+1> ; xi) ^ <4Л1>
^°° /=1
Разность между ними вычисляется точно так же, как
и в случае одномерного процесса y(z), и равна
п t
^-л=4-5Лж-а»&<’,,'’>Л- (4|2>
1=1 о
Заметим, что эти интегралы совпадают в случае, если
-» ->
Ф (у, z) не зависит от у.
* Заметим, что определение (4.8) эквивалентно следующему:
t N
|ф (г/ (X). X) dy (X) = Шп. (у (—2" ■** )) lv (Xj+1) - у (т,)]
О "*7=1
если a2 (t/, t) — непрерывная функция от у).
44
§ 5. Стохастические дифференциальные
уравнения и диффузионные марковские
процессы
Стохастические дифференциальные уравнения — это
уравнения вида
dxt = Fi (xlt ...,xn,t) Л+2] «л (x, t) dyk (t), (5.1)
k = l
где yp, (t) — независимые процессы броуновского движения,
или
п
- Fi (х; 0+J Оф, t) h (/), (5.2)
k=\
где St (t) — независимые гауссовские процессы белого шу-
->
ма; х = (хи ..., хп).
Решения уравнений (5.1), (5.2) определяются эквива¬
лентными этим уравнениям интегральными равенствами:
t
Xi (t) = Xi (о) + J Fi (x (x), x) dz -)-
о
П t
+SJ Oik(x(*),\)dyk(z). (5.3)
k=l 0
Если стохастические интегралы в (5.3) определяются как
интегралы Ито, то уравнения (5.1), (5.2) называются
стохастическими уравнениями Ито. Если же они опреде¬
ляются как оимметризованные интегралы (см. § 4), то
будем называть (5.1), (5.2) просто стохастическими диф¬
ференциальными уравнениями. В этом случае процессы
ik(t) в (5.2) приближенно могут быть заменены широко¬
полосными гауссовскими процессами.
Уравнения (5.1) — (5.3) определяют марковский про¬
цесс. Действительно, распределение вероятностей для
x(t) при t>[(t0 и заданных значениях x(to) зависит только
45
от х (tQ) и не зависит от прошлого до момента tQ, так как
t
Xi (t) = Xi (to) “К(x (z), z) dz -|-
*0
n f ->
+XI °ik(x (t), x)dyh (-c),
A=1 и
где Уь{ъ) имеют независимые от прошлого до момента t0
значения.
Если aih (х)—ограниченные функции, а функции
Ft (х) удовлетворяют условию Липшица
|| F (х') — F (х) || < К || *' — х ||, К = const > О,
то уравнения (5.3) при каждой данной непрерывной реа¬
лизации процесса y(t) можно решить методом последо¬
вательных приближений, которые сходятся и определяют
непрерывную траекторию x(t). Таким образом, марков¬
ский процесс x(t) имеет непрерывные траектории с ве¬
роятностью единица.
Марковский процесс с непрерывными траекториями
полностью характеризуется своими локальными харак¬
теристиками (см. § 3):
М (дгг 0f + АО — х{ (0 \x,t} = At (х, t)At + 0 (ДО;
М {(х-t (t -|- ДО — х{ (0) (Xj (t -f- ДО -- Xj (0) 1 x, t} =
= Bi}(x,t)M-\-o{At). (5.4)
Рассмотрим также
м {(** (t+ДО - (0) (у I (t+- у I (0) IX. y> t) =
— Chi (x, t) bt-\-o (ДО-
46
Нетрудно вычислить, что для стохастических уравнений
Ито будет
А{ (х; t) = Ft (х, t); Chl (x, t) = ahl (x\ f), (5.5)
-» П -»
(X, /) Gjfe (-^»
k=\
Используя формулы" связи интегралов Ито и <сим-
метризованных интегралов [формулы (4.12)], для стоха¬
стических дифференциальных уравнений можно получить:
п ->
At(x; t) = Ft (х; 0+4^^’ ° & 0; (5-6)
k-\
£* j (*; 0 = 2j °ih *)•
*=i
В этом можно убедиться и прямым подсчетом, исполь¬
зуя лемму § 2.
—> —►
Если Ojfe (jc, 0 не зависят от х, уравнения Ито и урав¬
нения с симметризованными интегралами (5.3), совпадают.
Уравнение Колмогорова—Фоккера—Планка для плот¬
ности распределения вероятностей марковского процесса
(х\, ..., хп), определенного стохастическими дифферен¬
циальными уравнениями (5.1) — (5.3), можно записать
в виде (ср. '§ 3):
Tr+Sizr{f*p> =
/=1
<5-7»
1,1=1
Как было указано в [10], эта форма уравнения Колмого¬
рова является инвариантной по отношению к преобразова-
ниям координат Xi = ft (х), i == 1,2, ...,п. При замене
переменных At и Вц преобразуются по формулам [2, 10J:
*-=2>^+i- S -г^с-л-
l=\ k, т— 1
47
Р VI D dx*i „ dx*
ls dxi dxs 2j lh &xi sk &x8 *
/,5=1 l,S, k= 1
/=1 /=1
В следующей главе приводится ряд примеров точного
решения уравнений Колмогорова, дающих описание мар¬
ковских случайных процессов в линейных и нелинейных
системах.
ГЛАВА 2. ДИНАМИЧЕСКИЕ СИСТЕМЫ СО СЛУЧАЙНЫМИ
ВОЗДЕЙСТВИЯМИ
§ 1. Линейные марковские процессы
Линейными назовем марковские процессы, которые
могут быть получены как решения линейных стохасти¬
ческих дифференциальных уравнений:
N , N
dxi = £ qlh Xkdt + ^ <3ihdyh (t), (1.1)
*=i k=\
где yk{t) — независимые процессы броуновского движения,
Gih Const, (^i, • . • , Xj^) X.
Уравнение A. H. Колмогорова для плотности вероятно¬
сти Р (х, t) записывается тогда в виде
-* N N
дР (*, t)
Ез!г{5]?*лР(^0}=
dt 1 _
k-\ i = \
N
-т S -етг- "'2>
k,l= 1
где bki =
i=1
Уравнения (1.1) определяют гауссовский процесс; плот-
ность вероятности Р (х, t) представляется поэтому в виде
N
р (*» <) = (2^/2 в1/2 ехР {— 5] (** — rnh) (х, —mtJ,
(1.3)
4—1092 49
где
||£fcj|| = l| Dull-1; Dta = M{(xh-~mh)(xi — ml)}
— матрица дисперсий^ тк — Мхк\ B0 — определитель мат¬
рицы \\DM ||.
Задача определения Р(х„ . .., xN,t) сводится к опре¬
делению моментов trik{t) и Dki(t). Введем характеристи-
ческую функцию Ф (Я, t) — преобразование Фурье плотнос-
->
ти вероятности случайной величины х:
Ф (?;*) = J Р$,Цъ^*<1х=*Мъ1'*. (1.4)
—ОО
Для гауссовского процесса
N N
Ф(Я;/) = ехр№отдЯк L ^ Ой|Я*Я, (1.5)
*=i k, 1=1
Выполнив преобразование Фурье уравнения (1.2) (домно-
,r* -* -*■
жая его на е и интегрируя по dx), получим уравнение
—>
для характеристической функции Ф (Я; t):
Ж~ 5]Я1<7г<Ж=Т"§~ (Ь6)
Если ввести функцию G (Я; t) — In Ф (Я; t) и поделить обе
части этого уравнения на Ф (Я;t), получим
ПЯ-- £ Х“?"ЖГ = -1Г £ МЛ- 0-7)
l\/= 1 k, 1=1
—>
Вследствие (1.5) G(X;t) можно искать в виде квадра¬
тичной формы по Яй, Яг:
N N
G (Я; t) = i Л^Яд — -L £>* гЯ*Яг. (1.8)
ft=l к, 1=1
50
Подставляя (1.8) в (1.7), получаем систему дифферен¬
циальных уравнений первого порядка для определения
тк (t) и Dki (t):
1=1
N
—"b quDhi) + (1.9)
1 = 1
Эти уравнения компактно записываются в матричной форме
m = Qw; D = QD + D'Q' + £,
где
Q=Ik» II, d=||d*,u, s=||MI; Q'>&
обозначают транспонированные матрицы.
Нетрудно также вывести уравнения для корреляционных
функций Rki (х) — Mxk (t) Xi (t -f- x) линейного стационарно¬
го марковского процесса; Mxh{t) = 0, k=lПри
x = 0 Rhi(0) — Dki- Пусть x>0. Имеем
Rhl (** A) = Mxk (t) Xi (t -f- x Д).
Вычитая Rki (x), находим
Rki (x + A)— Rki (x)=M{xA (*) \xi (t + x + Д) -
— •*)]} ?=M / хк (0 ^ quXi (t -f- x) Д -f-
i=i
t+x+A N
+ j У] ^itdfji (х)Д о (Д) } s=s
t+% 1=1
= ^] ЯнР-h.l (*) Д ~Ь о (Д),
1=1
так как приращения dyt(x) на отрезке времени [*-f-x, t -|-
+ х + Д] не зависят от прошлого до момента t и, следо¬
вательно, от Xh,(t). При А —<-0 находим
dRdv{Z)==YiqiiRhi^' (1Л0)
i=i
4* 51
Вследствие стационарности при т •< 0 Ri,i(x) = Rhi (—*)•
К линейным марковским процессам сводятся все гаус¬
совские процессы с дробно-рациональной спектральной
плотностью.
Пусть т] (0 — стационарный гауссовский процесс со
спектральной плотностью
Мя)=
а„ й1 (г’Х) ... Us
». + 6i (I'X)+ ... + &* (/X)*
где k>s, ЬкФО и где многочлен Ьй + Ь\Х + .. . + bhxk имеет
все корни х с отрицательными вещественными частями;
Мг](<)=0. Такой процесс т](0 может быть получен про¬
пусканием «белого шума» %(t) через линейную систему
с передаточной функцией
I /п\ до ~Ь а\Р ~Ь ••• ~Н а*Р‘
Ь„ + V + - + ЬнР*’
Можно положить bt— 1. Процесс Т| (t) удовлетворяет
системе линейных стохастических дифференциальных урав¬
нений:
<1) =^-1)
dt 1 dt 1
(1.12)
d-q(k-')
dt
= — bh_<ti
AV0)-H(0.
Для отыскания стационарных (установившихся) зна¬
чений моментов процесса т](0 в уравнениях (1.9) можно
положить производные по времени равными нулю. Тогда
из (1.12), (1.9) можно получить, например, следующую
простую формулу для вычисления дисперсии г| (^):
<1ЛЗ>
где Вы — определитель порядка k
Вц =
b0
0 —6,
о Ь0
о о
Ъъ
-ь4. .
&2 ^4 '
fcj b3
(-1)*ь» •
(-!)-«6,.-,
52
bs при совпадают с одноименными коэффициентами
знаменателя L(p), в котором b%— 1; bs = О при s>k\ Ak
есть определитель порядка k, который получается из Вн,
если последнюю строку в Ви заменить на следующую:
{а\ ; а] —2а0а2,..., а\ + £ , а*аг (—1)«+», ...).
k+l=2q
кф1
Здесь aq при ^<5 совпадают с одноименными коэффи¬
циентами числителя L(p), а при g^>s ад-= 0.
Формулу (1,13) можно также вывести, вычисляя ин¬
теграл
M{V(f)}= J/,(*)<» (1-И)
—00
при помощи теории вычетов.
§ 2. Системы,
обладающие потенциальной функцией
Рассмотрим движение частицы в потенциальном поле
при наличии случайных воздействий:
dx = — grad <? {х) dtady, (2-l)
-►
где у = (уиупу,
г/й — независимые процессы броуновского движения.
Уравнение А. Н. Колмогорова для плотности вероят-
ности Р (х, t) записывается тогда в виде
dPft ° =-4~ [(—grad 9 $) Р (х, 01 =
дх
о2 д*Р(х, t)
— о - • (2-2)
дхдх
Уравнение (2.2) имеет следующее стационарное, не зави¬
сящее от времени решение:
Р (х) = е_2<Р (2-3)
53
(где п — размерность пространства я). Нетрудно в afOM
убедиться, подставляя выражение (2.3) в (2.2).
При некоторых достаточно общих условиях [2, 11]
—>
относительно функции <р(х) решение уравнения
А. Н. Колмогорова (2.2) с произвольным начальным рас¬
пределением вероятностей Р{х\ 0) стремится при t—*<х>
к стационарному решению (2.3). Достаточные условия
сходимости при «-оо к стационарному распределению
вероятностей могут быть качественно охарактеризованы
следующим образом:
1. Математическое ожидание величины x{t) должно
оставаться равномерно ограниченным при увеличении
времени i. Точка x(t) не должна уходить в бесконечность
за конечное время t.
Это условие выполняется, если локальная дисперсия
приращений Ах в окрестности точки х возрастает с ро-
стом \х\ не быстрее, чем линейная функция [в (2.1), в част¬
ности, она постоянна]. Математическое ожидание прираще-
ния Ах в окрестности точки х также должно расти не
быстрее линейной функции с ростом \х\.
2. Если возможные значения x(t) образуют замкнутое
множество, то для существования стационарного предель-
ного распределения Р (x) — lmP (х, t) достаточно, чтобы
t—¥CO
при любых х, у и каком-либо t выполнялось условие
G(x, у, t)^> 0, где G(x, у, t) обозначает плотность ве-
роятности перехода частицы из точки х в окрестность dy
точки у за время t. Физически, это условие -^перемеши¬
вания", при котором начальные значения «забываются*.
Если о—>0, то в (2.3) Р (д:)—*-8 (х — xmin), где 8—дель-
та-функция, Хшп — точка глобального минимума функции
f (х). Другими словами, вероятность нахождения частицы
в точке самого глубокого минимума стремится к единице
при t—*оо и а—*0.
Если глобальный минимум достигается в нескольких
точках, то время .пребывания в окрестности каждой из
54
них распределяется в зависимости от величины вторых
производных d\!dxidxj в точке минимума; если самый
глубокий минимум единственный, частица будет прово¬
дить в его окрестности подавляющую долю времени. Эта
теорема была установлена С. Н. Бернштейном в 1933 г.
Уравнения (2.1), (2.3) могут описывать поведение си¬
стемы, имеющей несколько устойчивых состояний, при
малом уровне шумов. Подавляющую часть времени си¬
стема проводит в окрестности одного из устойчивых со¬
стояний, время от времени переходя из одного устойчи¬
вого состояния в другое; время .перехода мало по сравне¬
нию со временем пребывания в одном из стационарных
состояний. Этот процесс в первом приближении можно
описать как процесс с непрерывным временем и конеч¬
ным числом состояний, совпадающих со стационарными
состояниями системы.
Уравнения (2.1) использовались в некоторых задачах
случайного .поиска глобального минимума функции ф(я),
имеющей много локальных экстремумов [19]. В [19] пред¬
ложен метод случайного поиска, при котором система
способна «обучаться» движению в направлении скорей¬
шего спуска. При этом система уравнений, описывающая
случайный процесс поиска, записывается в виде
Здесь ^ (t) — независимые процессы белого шума; Ci (&>) —
систематическое изменение воздействий в зависимости от
„параметров памяти* ®<(£); с, (<<>) монотонно зависит от «t
и возрастает при увеличении mit а при уменьшении *>* убы¬
вает до —1;
(2.4)
^- = -а^ + с<(ш) +«,&(/)
dm
~dt
о
55
Величина cot(^) характеризует относительную долю вре¬
мени в интервале от i—Т до t, в течение которого изме¬
нение координаты Xi(t) приводило к удачным результа¬
там, т. е. к уменьшению q>(*). При увеличении числа
удачных шагов (при дискретном времени) ,по сравнению
с числом неудачных, &i(t) возрастает, при уменьшении—
убывает. Тогда накопление <о,-(tf) и-увеличение Ci (о) при¬
водят к увеличению шага при поиске в сторону направ¬
ления, по которому в среднем за время Т было продви¬
жение к минимуму. Система будет «обучаться» идти
в правильном направлении, увеличивая шаг (или ско¬
рость спуска) в этом направлении.
Такая система способна обучаться движению вдоль
оврага в случае овражной функции <р(я). Действитель¬
но, в направлении «поперек оврага» система будет
делать примерно столько же удачных, сколько и не¬
удачных шагов, так как каждый раз будет проскаки¬
вать на стенку оврага и скатываться с нее обратно
(рис. 2.1). Случайные удачные шаги вдоль оврага за
время Т будут накапливаться, и система начнет увели¬
чивать шаг вдоль оврага — начнет делать «овражные
шаги». Изменяя 6 и Т, можно регулировать скорость
обучения и «наблюдательное время» системы (пара¬
метры а,- и т,- можно также сделать переменными).
Рис. 2.1. Поведение си¬
стемы поиска с «обуче¬
нием».
56
§ 3. Уравнения для математического
ожидания времени достижения заданных
границ и других аддитивных функционалов от
траектории марковского процесса
Уравнения для математического ожидания времени
достижения марковским процессом заданной границы
были получены в 30-х годах в работах А. Н. Колмого¬
рова и М. А. Леонтовича {52] и А. А. Андронова.
А. А. Витта и Л. С. Понтрягина [18]. В точности анало¬
гичен вывод уравнений для математического ожидания
аддитивного функционала от траектории марковского
процесса
Здесь Мх{...} обозначает условное математическое
ожидание при условии, что в момент t x(t)=x\ х(и) —
диффузионный марковский процесс; т — момент первого
попадания траектории процесса на данную границу Г;
G(т, х) и F(u, х)—заданные функции двух перемен¬
ных; (F(u, х) интегрируема). G(t, х) можно интерпре¬
тировать как «штраф» (или «выигрыш») при попадании
в точку х границы в момент т, a F(u, х(и))М— как
«плату» за пребывание в окрестности внутренней точки
области х(и) в течение времени (и, ы+1М); тогда
V(t, х)—математическое ожидание суммарной «стои¬
мости» всего процесса при условии, что в начальный
момент u=i было x(t)=x (рис. 2.2).
В частном случае, когда F(u, jt)sl, G(т, a:)s=0,
значение V (t, х) совпадает с условным математическим
ожиданием времени первого достижения процессом х(и)
заданной границы Г при условии x(t)=x.
Пусть х(и) —непрерывный марковский процесс с ло¬
кальными характеристиками
М {Axh\x (t) = д;у = ah (х, t)At-\-o (At), (3.2)
М {AxhAxt\x (t) — x:} = Ьы (x, t)At-\-o (At),
x = (xu..., xn).
57
Вследствие марковости и непрерывности процесса
х(и) и аддитивности V (t, х) имеем
(t+At
V (t; х) = Мх< С F(u, x(u))du-\-
Здесь D — рассматриваемая область с границей Г;
вследствие непрерывности процесса х(и) вероятность
из внутренней точки x£D попасть на границу Г за
время IM есть о (At).
Предположим, что V(\t, х) обладает производными
до третьего порядка по х. Тогда V(лг+Л1*) можно пред¬
ставить отрезком ряда Тейлора в окрестности точки х:
У(* + Д*, х + Дx) = V(t + At, +
D
Г
Рис. 2.2.
k
2 ^Xk'^Xl дх„дх,~^~0 (3-4)
Подставляя (3.4) в (3.3) и учитывая, что вследствие
непрерывности траекторий x(t)-
lim-Jr- ГАх^Р(ДяЫ, t)d&x—cth(x, t),
&t-*o J
D
lim -Jr Г AxhAxtP (Ax\x, t) dAx = bki {x\ t),
д<-ю J
D
\im — M{AxhAxiAXg\x, t)—0, (3.5)
д<->о at
получаем из (3.8) при At—►() уравнение
дУУ. х) у. дУ .
dt ~~Zi dxb
k
+4- S bhl ~d^+F *)* <3-6)
k.l
Вид и вывод этого уравнения аналогичны первому урав¬
нению А. Н. Колмогорова [1, 3] для переходной вероят¬
ности марковского процесса. При д:£Г имеем
V(*> x)\xe = G(t, X). (3.7)
Это соотношение служит граничным условием к уравнению
(3.6). При t=0 V (t, х) = 0 во внутренних точках [об¬
ласти.
В частном случае, когда Fal и G'=0, получаем урав¬
нение для среднего времени достижения границы, в4С (х, f)
(из точки х, занимаемой в момент t):
дЖ УГ\ дМ . Г,Г1. д'М
dt ~~Zja* дхь' 2 дхкдх,<~ ’
к k,l
<М\хе г = °.
При fs 0 и 0|д.£Г1 = 1, G|^r> = 0, где Г = Г, U Га,
V (t, х) имеет смысл вероятности попадания в множество
Г, при первом выходе на границу.
59
§ 4. Кусочно-линейные системы.
Условия на границах переключения
В [15 —17] рассматривались системы стохастических
дифференциальных уравнений
dxi -— Fi ..., Xfi, t) dt |
I (Хц ..., Хц, t)dyk(t), (4.1)
k
где уь (t) — независимые винеровские процессы; функции
Ft и о<„ кусочно-гладкие и могут иметь разрывы.
Такие системы возникают в различных задачах
о прохождении случайных процессов через радиотехни¬
ческие устройства, следящие системы, а также при по¬
строении автоматических систем оптимального управ¬
ления. Оптимальные управляющие воздействия в ли¬
нейных системах часто оказываются кусочно-постоян¬
ными и получающиеся системы — кусочно-линейными.
В каждой из областей значений х, где функции Ft, nik
непрерывны и дифференцируемы, плотность вероятности
Р(х, t) для случайного процесса х (t) (4.1) удовлетворяет
соответствующему уравнению А. Н. Колмогорова (см. гл. 1)
1=1
=т S (42>
I, /=1
причем коэффициенты сноса и диффузии равны
П
At(x, t)—Fi(х, 0 (4,3)
k=\ ,
Btj (я, t)= V
k=\
60
Уравнение (4.2) можно рассматривать как „уравнение
сохранения вероятности**. Пусть имеется N частиц, движе¬
ние каждой из которых подчиняется уравнениям (4.1); ча¬
стицы нигде не возникают и не исчезают (нет точек „рожде-
—> —>
*нияв и „гибели", или источников и стоков). Тогда Р (х, t) dx
пропорционально среднему количеству частиц, находящихся
-»
в элементарном объеме dx около точки х в момент t\
NP (Q, t)=N\P(x, t) dx —среднее число частиц в объеме Q.
S3
Изменение соответствует потоку частиц через
поверхность S, ограничивающую объем Q:
dP(Q. t)
dt ~~ dt
(x, t) dx=
= — j-.-jMS". (4.4)
Здесь dSn — элемент поверхности с нормалью п (направ-
ленной внутрь Q), п = (п1,..., пп); <рп— плотность потока
частиц в направлении п. По теореме Стокса, из (4.4)
следует
1=1
где 9 —плотность потока в направлении я*. Из сравне¬
ния (4.2) и (4.5) видно, что выражения
п
д
1=1
можно рассматривать как плотности «потоков вероятно¬
сти» в направлении xt(i— 1, 2, ..., я).
Из соотношения (4.4), если в качестве й взять эле¬
ментарный объем, содержащий поверхность переключе¬
ния (рис. 2.3), следует, что на поверхности Г, где коэф¬
61
фициенты At, Вц имеют скачок, плотность потока ве¬
роятности по направлению нормали к поверхности не¬
прерывна {16}:
если на поверхности переключения отсутствует «прили¬
пание» частиц, и частицы не получают при пересече¬
нии этих поверхностей дополнительных импульсов.
('В противном случае составляющая потока вдоль по¬
верхности переключения в (4.6) не будет бесконечно
малой более высокого порядка, чем поток в попереч¬
ном направлении, несмотря на то, что площадь эле¬
мента поверхности «Si устремляется к нулю быстрее, чем
S2, см. рис. 2.3.) При отсутствии особенностей при про¬
хождении траектории процесса через поверхность пере¬
ключения (например, скачков, разрывов траектории,
прилипания к поверхности, отражения от нее, воздейст¬
вия дополнительных импульсов) [17, 20, 21], в качестве
второго условия склеивания решений можно принять
(4.6)
Рис. 2.3.
^ tiitijBtjP = £ ntrijBijP
г+ г—
г—
(4.7)
где п = (пи ..пп)—единичный вектор нормали к поверх¬
ности переключения Г.
62
Если коэффициенты диффузии Вц не имеют скачков,
условие (4.7) означает непрерывность плотности ве-
—►
роятности Р{х, t) [17] при прохождении через поверх¬
ность переключения.
Для систем с нелинейностями кусочно-линейного типа
функции Ft (х) — кусочно-линейны, (х) — кусочно-посто¬
янны и границами областей гладкости служат плоскости.
На этих плоскостях плотность вероятности Р (х, t) имеет
предельные значения Р* (при стремлении изнутри области
к поверхности переключения) и значения dPJdn производ¬
ной от Р по направлению нормали к плоскости. Внутри
каждой из областей решение уравнения (4.2) может быть
представлено в интегральной форме через значения Р* и
dPJdn на границе области. Используя граничные условия,
получим систему линейных интегральных уравнений для
определения неизвестных функций Р.* и дРт(дп.
Интегральная форма решения уравнения (4.2)
в данной области определяется с помощью фундамен¬
тального решения уравнения (4.2), продолженного из
этой области на все пространство. При этом исполь¬
зуются теоремы § 3 гл. 1, в силу которых фундамен¬
тальное решение уравнения (4.2), рассматриваемого во
всем пространстве, совпадает с переходной вероят¬
ностью некоторого случайного марковского процесса.
В случае кусочно-линейных систем этот марковский
процесс будет линейным (см. § 1), и его переходную
вероятность нетрудно найти.
Примеры, рассмотренные в [14—16], подробнее рас¬
крывают содержание указанного метода.
Рассуждения, проведенные в этих примерах, приме¬
нимы к любым кусочно-линейным системам с «вынуж¬
дающими» случайными функциями, являющимися не¬
прерывными марковскими или гауссовскими. Они так¬
же могут быть полезными при решении уравнений для
V(i, х), введенных в § 3, которые в некоторых задачах
оптимального управления оказываются уравнениями
с разрывными, кусочно-линейными коэффициентами.
63
Пример. Пусть система описывается уравнением
Т dxldt+x+tp(x)=m+%(t),
где 5(0—процесс белого шума, =А,6(т), m, T=const;
,ф|(х)={В при х>А, (В/А)х при |х|^Л, —В при х<—А}. Для плот¬
ности вероятностей Р(х, t) случайного процесса x(t) в каждой из
областей гладкости функции |ф'(л:) выполняется уравнение А. Н. Кол¬
могорова. Условия сопряжения на границах областей гладкости
(х=Л, —А) сводятся к непрерывности функции Р(х, t) и произ¬
водной дР/дх. В плоскости (х, t\ имеем три области: х>А, |х|<Л,
х<—Л. Обозначим неизвестные функции на границах областей
р (А, t)=Px (/), Р(-А, t)=P2(t), [dP/dx]x=A=P3(t), 1дР/дх]х=_А=
= PA(t). Решение уравнения для P(x, t) внутри каждой из областей
записывается в интегральной форме и выражается через функции
Рi(0—^(О- Запишем, например, решение в первой области х^> А
через функции Pi(t), Pi(t). Для этого рассмотрим уравнение
„г,*, дФ(х, t) , т-х-^В дФ { \ дЩ л
Ml ф] = —^-+—7 w+W*-:M=0'
которое является сопряженным к уравнению для плотности Р(ху t):
црл = .др(*‘ +± [ т-х-в \ ± д^Р_
dt ^ дх \ Т Н] 2Т2 дх2 и*
Фундаментальным решением „уравнения L[P]=0 (рассматриваемого
при всех х; а не только х>А) является плотность вероятности пе¬
рехода
G(x, t; 1], х) = (2 я D(t, t))-’/a exp { — [л: — p. (t, t. т))]2/2D(t, *)},
где D(t, т) = (Х/27') [ 1—е т)/г].
|j.(<. 7])=m— В— (т) — m + В)е~У~т^т•
Рассмотрим выражение
- РМ [Ф} + Ф1, [Р]= - [Ф/>] +
, д { X ( дР пб*Ф\ m — ъ — В )
+ дц 1 2Т* (Ф дп ~~Р дц ) Т ФЯ|-0. (4.8)
если ЦР] = 0 и Л4[Ф]=0. Предположим, что в этом выражении
Р(ть т) — искомая плотность вероятности, а в качестве Ф возьмем
переходную вероятность G(x, t\ rj, т) как функцию двух последних
ее аргументов. Интегрируя выражение (4.8) по области Лг^т^оо,
O^ts^Z—е (где ty 8>0) и используя формулу Грина (в много¬
мерном случае — формулу Гаусса — Остроградского), получим при
е—И), что искомая плотность Р,(х, /) при х>А равна:
ии
Р(х, t)=jG(x, f, ц, typ^dv-
64
. tn — A — В „ \
H j G(x, t\ A, xy^dz.
При выводе этой формулы используется свойство фундаментального
решения G:
lim G(х, /; г], /—е) =6(х—г]),
«—►о
где б — дельта-функция, а также то, что для искомого решения
при х—>-оо значения Р(х, t) и dP/дх стремятся к нулю; Ро(л) °бо-
значает начальное значение плотности вероятности. Аналогично мож¬
но записать решение при \х\<Л, х<—Л. Используя условия сопря¬
жения на границах и условия «согласованности» формул типа
P3(t)=\dP/dx]A, можно найти функции Л СО—P*(t) и выражаю¬
щуюся через них плотность вероятности.
Отметим, что полученные в § 3 уравнения для V(t, х) являются
уравнениями типа ЛЦК]=0, и решение их в заданной области, с из¬
вестными условиями на границе, можно найти аналогично указан¬
ному выше [17]. При этом, если коэффициент диффузии в направле¬
нии, перпендикулярном к границе, равен нулю, то в решение не
входит неизвестная производная [дУ/дп]г , а лишь заданная функ¬
ция (V(t, х)]г . В задачах с сопряжением решений, в этом случае
на границе накладывается лишь одно условие: условие на плотность
«потока вероятности» через границу.
6—1092
ГЛАВА з. УСЛОВНЫЕ МАРКОВСКИЕ ПРОЦЕССЫ.
ОПТИМАЛЬНАЯ ЛИНЕЙНАЯ И НЕЛИНЕЙНАЯ
ФИЛЬТРАЦИЯ И ОБНАРУЖЕНИЕ МАРКОВСКИХ
СЛУЧАЙНЫХ ПРОЦЕССОВ.
БАЙЕСОВСКИЕ ОЦЕНКИ ПАРАМЕТРОВ
В ЗАДАЧАХ ФИЛЬТРАЦИИ
§ 1. Вывод рекуррентных соотношений
и стохастических дифференциальных уравнений
для условных вероятностей состояний
в марковских цепях и марковских процессах
с дискретными состояниями
Общие рекуррентные соотношения и дифференциаль¬
ные уравнения, определяющие распределение вероятно¬
стей для значений ненаблюдаемых компонент многомер¬
ного марковского процесса при условии известных зна¬
чений других, наблюдаемых его компонент, составляют
содержание теории условных марковских процессов, соз¬
данной работами P. J1. Стратоновича {10]. В первых трех
параграфах настоящей главы дается более прозрачный
и доступный (по сравнению с [10]) вывод ряда основных
общих формул теории.
1. Рассмотрим следующую задачу. Пусть имеется
марковский процесс с двумя состояниями: скажем, 0 и 1.
Рассмотрим случаи дискретного и непрерывного времени.
Пусть время непрерывно; за малое время М с вероят¬
ностью аМ происходит переход из состояния 0 в состоя¬
ние 1, и с вероятностью рд/— переход из состояния 1 вО.
Если Pi(t) обозначает вероятность состояния 1 в мо¬
мент t, a P0(t) —вероятность состояния 0, то
Р, (t + At) = Pl(t)(l- pAt) + Р0 (t) aAt,
P0 (it + At) = Pt (/) (1 - aAt) + Pt (t) pAt.
При At —► 0 из (1.1) следует
^Ш=аЯо(0-РЛ(<).
?%г=*-*Р'(0 + рР>(*).
66
(1.2)
Параметры а и Р определяют среднее время пребыва¬
ния процесса в состоянии 0 и 1:
Гср(0) = 1/а; 7’ср(1) = 1/р.
Обозначим этот случайный процесс s(t).
Предположим теперь, что наблюдается реализация
r(t) = s(t) + n(t),
где п (t) — белый шум; Мп (/)=0; Мп (/) n(t-\-z) = Nb (х)
При условии, что известна реализация г(т) на интер¬
вале те [0, /], требуется найти условные (апостериорные)
вероятности W\(t) и w0(t) того, что в момент t s(tf) = l
или 5(^=0 соответственно.
Рассмотрим сначала случай дискретного времени.
Пусть оно меняется с шагом At: t=kAt. Тогда Pi (t), Po{t)
определяются рекуррентными формулами (1.1). Случай¬
ный процесс n(t) в дискретном случае — это последова¬
тельность независимых значений пк гауссовской случай¬
ной величины с нулевым средним и дисперсией, рав¬
ной iN/At:
P{u<nh<u-{- du} =
(1.3)
При At—*0 ступенчатый случайный процесс (с длиной
ступеньки At), принимающий независимые значения пк,
распределенные по формуле (1.3), будет стремиться
к процессу белого шума.
Рассмотрим двумерный процесс (s(kAt), r(kAt)). Это
марковский процесс; s(t) имеет только два значения: 1
и 0, a r(kAt)—непрерывное множество значений. Обо¬
значим s(kAt)='Sk\ r(kAt)=ru. Обозначим F(sk\ rft|sfe_i,
гк-1)—плотность вероятности перехода процесса за
один шаг At из состояния (sk-1, rfe_i) в состояние (sk;rk);
в данном случае мы имеем
F (Ski Кк _j) =-р (Sk | <Sfr_i) р (гк | 5д, Sk- j* fk -1) •==
= рЫ Sk _,) (At/2«N)'12 exp {-(rK-skyAtl2N}, (1.4)
где переходная матрица р [su |«л _,) для процесса sk опре¬
деляется соотношениями:
Р (010); /;(0|1)
/>0|0); /?(111)
1 — Ш; рЛ*
аД£; 1—(ЗД£.
5*
(1.5)
67
2. Обозначим rm—(r0, r„ ..rm); sm — (s„, st, . . sm);
rm — это последовательность наблюденных данных за время
от 0 до тЫ; sm — последовательность неизвестных нам
значений сигнала s(kAt) в эти моменты (0Сов¬
местную плотность распределения вероятностей значений
гт и sm обозначим w (rm\ sm). Вследствие марковости дву¬
мерного процесса (r(kAt), s(kAt)) совместная плотность
распределения sm и rw представляется в виде произведе¬
ния плотностей вероятностей перехода:
w (fm> sm) = ау0 (г0; 50) X
т
X П F(sh; гк | rh.t). (1-6)
k~\
Аналогично можно записать
m+1
w{rm+x, Sm+i) '=:: 0*о> 50) ГТ F {Ski fk\Sk-i\ rti,-i):=z
k=l
= ® frmi Sm) (^m + i> fm+i | ^"m)- 0*^)
Рассмотрим условную вероятность tiy(sm|rm) значений
Sm сигнала, при условии, что наблюдалась реализация гт.
По формуле условной вероятности имеем
W (sm| гт) = —^—w (rm; sm). М 8Л
W(r«) 1 ■ '
Подставляя (1.6), получаем
т
j «-а
w(sm I Гт) = 5—w0 (r0; s0) 11 Z7 («й; rft rft_,).
w(rm)
k-l
(1.9)
68
Аналогично
-4
W (5m+i | Гт + 1) ===
m-j-1
sss __ И>о(Л>» So) l\F ^fc|^fc-l» ^A-l) (1*10)
«Ч'ш + l) Л==1
Нас интересует апостериорное распределение вероятно-
"4
стей для последнего значения sm сигнала: t2»(sm|rm). Обо-
—>
значим его wpt(sm\ m)—w(sm\rm). Если известно совме¬
стное распределение вероятностей для нескольких слу¬
чайных величин, то, чтобы получить плотность распре¬
деления одной из них, надо проинтегрировать совместную
плотность распределения >по всем остальным перемен¬
ным. Поэтому
Щз (Sm; ttl) = 4 f... Г W0 (Г0, S„) X
w(rm) J J
m
rftK-n rh.t)dsh-f (1.11)
k=\
В нашем случае процесса sm с двумя состояниями инте¬
грал в (1.11) обозначает сумму по этим двум состоя¬
ниям:
1
$£(Sfc)rfSfc= £g(sft)-
Sh=0
Из формул (1.9), (1.10) и (1.11) следует рекуррентное
соотношение для wps(sm; т):
-4
Wp»(Sm+i\ т-\-\) = “'i'”** ■ [wPs(sm', т)Х
w(rm+i) J
(sm+1> Гт+11 $т\ dSw (1*12)
Остается исключить неизвестный множитель w (Гт)1
jw(rm+t). Для этого используем условие
X Wps(sm+1; /и+1) = 1. (1.13)
5Ш + 1
69
Отсюда находим рекуррентные соотношения
Wps ($т+1» 1) —
j F (^m -f j» I'm + i I $тп> Гm) ^ ps (&т > dS-m
: (1.14)
\ j F {$т +1 > f ni +1 I t I'm) № p s ( $tn » Wl) dsm j dsm
или для процесса с дискретными состояниями sw:
Wps(Sm+ ii tn-\- \) =
F (^m -f i > ?т +1 | n > ?m) WpS (Sv,, W)
s-.. _.™ . (1 15)
2j 2; /7(sm + i;/'m+1|5rri; rni) a>pe (s„,; m)
Sm Sm +1
Это соотношение позволяет для двумерной марковской
цепи, если наблюдается одна ее компонента, оценить
условное распределение вероятностей для другой компо¬
ненты. При выводе формул (1.14), (1.15) использовалась
только марковость двумерного процесса (Sh; г&). В слу¬
чае марковской цепи с ненаблюдаемой компонентой sm,
имеющей не два, а больше состояний, формула (1.15) со¬
храняется, только сумма будет не по двум, а по всем
состояниям. Если sm имеет непрерывное множество значе¬
ний, справедлива формула (1.14). Случай непрерывно¬
го s(0 при непрерывном времени рассматривается по¬
дробно в следующем параграфе.
Рекуррентная формула (1.15) позволяет по ходу на¬
блюдений пересчитывать значения апостериорных веро¬
ятностей. При этом не требуется помнить все значения г0,
Г], ..., гт наблюденной реализации, а лишь последние
значения гт+1 и гт.
3. Рассмотрим теперь снова случай, когда sm — мар¬
ковская цепь с двумя состояними, и Atf—>-0. Тогда при
At—*0 формула (1.15) превращается в дифференциаль¬
ное уравнение для апостериорных вероятностей. Конкре¬
тизируем формулу (1.15) для рассматриваемого случая,
подставляя на место F(sTO+i; rm+\\sm\ гт) выражения
70
(1.4), (1.5). Тогда получим
wpt (0; t + At) = С(Дд<) \wpt (0; t) (1 — aAt) +
+ wPs (*; t) рД*] exp {— Atr* (t+At)/2N},
wi>s (i j f+ДО=c(t At) I®*18 0»0 P^O -b
+ ayps(0;*)o^]exp{— At (r (f+ Д*) — Цг/2М}, (1.16)
где С (t -j- At) = w (r (t -J- At)) jw(r (t)) равно
C(t-\- At) — [av (0; t) (1 — aAt) + wps (1; t) рД*] X
X exp {- Atr* (t + At)/2N} + [wps (1; 0 (1 - pAf) +
+ аД*шР8(0;г)]бХр{— A^ (r(* + A*) — \yj2N}. (1.17)
Используя соотношения exp {— zAt} = 1 — zAt + о (At) и
[1+гД<]-1 = 1—zAt-\-o(At) и имея в виду дальнейший
предельный переход при At -*■ 0, запишем формулу (1.16)
в виде:
wps (0; t-\-At) — wps (0; t) (1 - aAt) +
+ wpg (1; t) pit — wps (0; t)wps(l; t)(At/N) [r (t + At) —
—l/2] + o (A/). (1.18)
Соотношение гг>р8(0;^) + шр8(1;^) = 1 позволяет исклю¬
чить wps(\\t) (или wps (0; t). При Д^ —► 0 из формулы
(1.18) следует стохастическое нелинейное дифференциаль¬
ное уравнение для апостериорной вероятности:
da"'p^(—= — &wpt (0; t) + р (1 —>wps (0; t)) —
—i- »»• (°; о (1 ~wp* (°; *)) V (0 - V2J- (1.19)
В качестве случайной «вынуждающей силы» в него вхо¬
дит наблюденная реализация <r(t).
4. Полученное уравнение"—это уравнение оптималь¬
ной нелинейной фильтрации марковского процесса s(t)
в белом шуме. Блок-схема нелинейной фильтрации пока-
71
зана на рис. 3.1. На вход нелинейной системы 1, модели¬
рующей (или вычисляющей) решение уравнения (1.19),
подается наблюдаемая реализация f(t). На выходе I
значение апостериорной вероятности wps(0; t). Далее
можно поставить пороговое устройство, выдающее 1 при
u»ps(0, t)<w0 и 0 при wps(0, t)>w0. Порог может выби¬
раться, например, с учетом штрафов за ложное объявле¬
ние 1 или 0. При оптимальной фильтрации по максимуму
апостериорной вероятности wо =1/2.
Рис. 3.1. Блок-схема нелинейной фильтрации.
Проанализируем физический смысл членов уравне¬
ния (1.19). Первые два члена имеют такой же вид, как
в уравнении (1.2) для априорной вероятности состоя¬
ний А)00» и описывают изменение апостериорной вероят¬
ности ®ps(0, t), соответствующее изменению априорной
вероятности: при 1N—+00, т. е. в отсутствии наблюдений,
шР8(0; t)=Po(t), и, действительно, уравнения (1.19) для
и'рДО; tf), wps( 1; t) = 1—даР8(0; t) переходят тогда в урав¬
нения (1.2) для априорных вероятностей.
При а='Р = 0 в уравнении (1.19) остается только тре¬
тий член:
dw^-t]= -wpe (0; t) (1 - (0; t))X
x-r[rW—r]; (1-20)
случай a=ip = 0 соответствует отсутствию переходов из 0
в 1 или из 1 в 0. Имеется s(t) =0 или s(t) = 1 и wps(0\ t)
есть вероятность того, что s(t)=0, при условии наблю¬
денной реализации г(т), f]. Тогда a;ps(0; t) связана
следующим образом с отношением правдоподобия Л(/)
гипотез s(t) =0 и s(/) = l:
(0; t) Р {г (*). X 6 [0. <11 s«)=0> Рмт
l-wP'(0;t)—p{r(%).x£[0,t]\s(t)^l}PiaPr’ >
где Роарг и ЯШрг — априорные вероятности s(t) = О
и s (t) = 1.
72
Отношение вероятностей Р {г {х),х£ 10, f] | s (t) = 0} и
Р {г (т), т£[0, t\ | s (t) = 1} равно, в случае дискретного
времени
т
ехр {—^ ri u/2n }
Л (mAt) = ^ =
ехр {” S (rfc ~ 1)2 Lt/2N}
т
=ехр{—fS (г»~V2)A^} (Ь22>
k=l
и при At —► 0 стремится к
t
Л (t) = exp | —-L j [r (x) dx j,
0
так что
Wp.(Q-,t) _P,apr c oJ (1.23)
Wp,8 (1 i 0 P\apr
Тот же самый результат получаем и из уравнения (1.20).
Действительно, умножая правую и левую часть (1.20) на
(1—wps(0,t))~3, получаем следующее уравнение для от¬
ношения Q (t) = wps (0, /)/(1 — wps (0, t)):
dQ {t)fdt — — (Q (0/AO [r (t) - 1/2J.
Решение его с начальным условием Q(0) =Ро apr/Pi apr
совпадает с (1.23). Итак, третий член уравнения (1.19)
отражает влияние наблюдаемых данных на апостериор¬
ные вероятности.
5. Фильтрация марковского процесса с двумя состоя¬
ниями в коррелированном гауссовском марковском шуме.
Рассмотрим случай r(t) =*s(t) +n(t), где n(t)—гауссов¬
ский марковский процесс с корреляционной функцией
Мп {t) п (t + х) = qe~41 т 1; q>0(\/q^xKoy). , (1.24)
73
При дискретном времени t = kAt (при малых Arf) процесс
n(t) заменяется марковской последовательностью гаус¬
совских случайных величин пи с плотностью вероятности
перехода
Р (tih | Яй-i) = (2va2q2At)~l/2 X
Хехр{— [rtft— «ь_,(1 — qAt)]i/2^qsAt}. (1.25)
При процесс n(kAt) сходится к непрерывному
марковскому с корреляционной функцией (1.24).
Для двумерного марковского процесса (su\ ги) плот¬
ность. вероятности перехода равна
F(Shirk\sh_t;rh.1) = p(sh\sh-,) (2тозудг)~1/2Х
X ехр {— \rk — sh(fk-i —Sk -1) (1 —qM)\3l2<j*q*At}, (1.26)
где p(sft|sfe_!) определяется по-прежнему формулой (1.5).
Подстановка (1.26) в (1.15) дает рекуррентные соотно¬
шения для определения апостериорных вероятностей
^ps(0, t+№), tOps(l; f+Aif). При Ait —► 0 выкладки, ана¬
логичные проведенным выше, приводят к следующему
результату:
dWpsdl°'t) =—awps (0, t) +рю„, (1, t)—
— wvs(Q,t)wps(\,t) Д- [ — г(0 + ''(0 -4-]* О-2?)
где
4/-*0
(Заметим, что при <7—00 процесс n(t) переходит в бе¬
лый шум, Mn(t)n(t+x) —»а26(т) и уравнение (1.27) пере¬
ходит в уравнение (1.19), полученное ранее для случая
фильтрации s(t) в белом шуме.)
6. Фильтрация марковского процесса с дискретными
состояниями в белом шуме. Пусть s (f) — марковский
процесс с k состояниями. Пусть вероятность перехода из
состояния i в состояние j^i за малое время At равна
«(/Ю Д^; вероятность остаться в t-м состоянии равна
74
1+a (ili) At; (i,j= !,...,&).
Наблюдается г (t) — s (I) -|- n (t), где n (t)~ белый шум,
Mn (t)n (t-{-v) = Nb(%). Плотность вероятности перехода
за малое время At для двумерного марковского процесса
(s (t), г (t)) равна:
F (s*;rh | Sh.i-,rh_l) = [5^ + Ata (sh | s*_,)l X
X V At/2%N exp {— (rk — 5ft)sA^/2jV}.
Подставляя это выражение в общую рекуррентную фор¬
мулу (1.15) и переходя к пределу при Л/—«-О, находим
[аналогично (1.19)] следующие стохастические дифферен¬
циальные уравнения для апостериорных вероятностей:
wps (/; t + At) = wps (j; t) -f-
k
+ {$] a(j\i)wps(i;t) —
— 2Г (/• (0 — s (/; *))* wpt (/; /) +
k
+w ^ ^ ^ ~ s A* +
I =1
+ 0(At), (1.28)
где s (j; 0 обозначает значение процесса s (0 в j-м состоя¬
нии; получаем эти уравнения в следующем виде (исполь-
k
зуя условие ^ wps (/; t) ~ 1):
/=i
dWpsd(ti't)-=Yia(i\i)w‘'°{i;t) +
i=\
+jr [r (05 (/; 0 —rs* 0 ] wps *) —
k
—4" wps (/; t) (r (t) s (i; t) —
i=\
—Ys*(l;t))wPs(i; t). (1.29)
75
В Частном случае, когда й(/|/)зэО, т. е. переходы из
одного состояния в другое отсутствуют, wps(j; t) имеет
смысл апостериорной вероятности наличия сигнала
s(/> 1/), при условии, если наблюдалась сумма r(t) =
=s(it; It):+n(t), где неизвестное значение i постоянно й
могло быть равно 1, 2, ..., к. Индексом i перенумерованы
в данной задаче возможные сигналы
МО, ...,sh (t) (Si(t) = s(i;t)).
Тогда уравнение (1.29) можно использовать для обна¬
ружения и распознавания сигналов детерминированного
вида, а также для оценки неизвестных параметров сиг¬
налов (см. далее § 4).
§ 2. Уравнения для условного распределения
вероятностей некоторых компонент
непрерывного марковского процесса
при условии наблюдения других его компонент.
Оптимальная линейная фильтрация
гауссовских процессов
1. Вывод уравнения для апостериорной плотности ве¬
роятностей одномерного марковского непрерывного про¬
цесса. Рассмотрим условное распределение вероятностей
для марковского процесса s(\t) при условии, что на
отрезке те{0, tf] наблюдалась реализация процесса г (т) =
=>s(t)+п(т), где п(х)—белый шум; Mn(t)n(t+т) =
=ть).
Если s(t)—непрерывный марковский процесс, то из
основного рекуррентного соотношения (1.14) можно вы¬
вести дифференциальное уравнение в частных производ¬
ных для плотности апостериорной вероятности wps(s\ t).
Такой вывод будет проведен в п. 3.
Уравнение для wps(s; t) можно также получить из
уравнения (1.29), рассматривая предельный переход от
процесса с дискретными состояниями к непрерывному
марковскому процессу.
Для этого аппроксимируем s(i) процессом с дискрет¬
ными состояниями, с шагом lAls между ними; пусть
wps(j; t)'As.— вероятность состояния s(j; t)=j&s\ при
iAs—*0 wps(j; t) переходит в плотность апостериорной
вероятности.
76
Уравнение
dwU, Oi==^a(/|/)a>(/;/), (2.1)
1=1
совпадающее с 1-м и 2-м членами (1.29), описывает эво¬
люцию марковского процесса s(t).
Если матрица вероятностей перехода a(j\i) и дискрет¬
ная решетка с шагом Дк, Ш выбраны так, что при As—*О
и Д^—*0 дискретная аппроксимация s{t) переходит.в не¬
прерывный марковский процесс, то уравнение (2.1) при
этом переходит в уравнение в частных производных Кол¬
могорова—Фоккера—Планка (гл. 1). Проиллюстрируем
этот предельный переход на следующем примере [4].
Пусть решетка As, Да! выбрана так, что (Дs)2/At=,o2
и это соотношение сохраняется при As—>0 и Д^—0. Пусть
вероятности перехода за один шаг равны
a (s -f- As | s) = 1/2 -f- a As/2a2,
a(s —As | s) = 1/2 — aAsj2<32.
Вероятности перехода в другие состояния равны нулю.
Тогда имеем
w (s; t -1- Дt) = w (s — As; t) [1 /2 -|- aAsj2з2] -f-
+ w (s -f As; 0[ 1/2 — аД«/2з2].
Разложим да (s; f -}- Д/) и да (s -|- As; t) в ряды Тейлора по
As и по At. Тогда
да (s, t) + dw ^ Д* -f- о (At) = w (s, t) —
_aw a.g.o.+Wlj5^+0((A,),).
Вследствие условия (As)2/At = const здесь член
О ((Дз)3) = о (At). При At -* 0 получаем
dw(s,t) , dw(s,t) o2d2w(s,t)
Ft l"a ds — 2 ds2
77
Это уравнение Колмогорова для непрерывного марков¬
ского процесса s (t) с коэффициентом Диффузии о2 и коэф¬
фициентом сноса а:
М {s (t + ДО — s (0 | s, t} — aAt + о (ДО,
М {[s (t + ДО — 5 (01* |«, <} = аШ + 0 (д0-
В более общем случае, когда a=a(s, i) и <т2=<т2(s, t),
при построении аппроксимирующего дискретного процес¬
са берется неоднородная решетка, по которой совер¬
шаются переходы.
При iAs-+0 и Д^—*0 получается уравнение Колмо¬
горова:
И*,■/)»<«.'>>+
-+-4--S- •t'’’ (*• о ^(5. о).
где a(s,t) и о2 (s, t)—коэффициенты сноса и диффузии
процесса s (0:
M{s (t + At) — s{t)\s,t} = a(s,t) At + o(Aty,
М {[s (t + ДО — s (01* | M} — a2 (s, t)At + o (Д0- (2.2)
Последний член уравнения (1.29)
k
-jfWp* (/; 0 J] (r (0s (*;0—
*=1
—^s2(i;t))wvs(i;t)
при Д«—*0 переходит в интеграл:
~ wps (s, 0 j* (r (0 s — s2j2) wvs (s; 0 ds.
78
Окончательно уравнение для плотности апостериорной
вероятности принимает вид [10, 22]:
{a (s, t) wps (s; 0} +
+4" "S' (s> 0 wv* (s>
+4" (r W s — T") “^s <s; ^ —
—^ (s; 0 J (r (t) x — wps (x; t) dx. (2.3)
2. Фильтрация гауссовского марковского процесса в бе¬
лом шуме. Рассмотрим следующий пример. Пусть s(t) —
гауссовский марковский процесс, который может быть
получен пропусканием белого шума через следующий ли¬
нейный фильтр:
ds/dt — — qs a«j> (/); Щ (t) t|) (^ -{- т) = 8 (т); (2.4)
Ф (t)—'белый шум. Такой процесс имеет корреляционную
функцию
ЛМО^ + х^^е-"1’'
и соответствующую ей спектральную плотность
t \ 1 Г ^'<от Л—я\т I л °2 °2 1
/ Vе0) \ е е 41 1 ат —— —.
1 w 2л J 2# + (о2 2гс
Пусть г (f) = s (£) + я (0- Уравнение (2.3) принимает вид:
dwps (s; t) д , , ... .
—gf IF i—4SWp» (s- 0) +
, °2 d2wps(s,t) , 1 f ... s2\ , ,<
• 2 У +1Г (r w s - т) (s; *) —
-4^01 (r(f)*-— ^Yjwps(x,t)dx. (2.5)
79
Апостериорная вероятность wps(s;t) также будет гауссов¬
ской и имеет вид:
wps(s,t) = (2itD exp {— (s —tn {t))2/2D (*)}. (2*6)
Подставляя это выражение в (2.5), получим следующее
уравнение:
(-■ Чш- (*: 0) +
-L<’1
2 ds2 1 N
—YwpAs\t) [г (<)/»(<)—Щг- —
Выведем отсюда дифференциальные уравнения для
апостериорного среднего m(t) и дисперсии D(t). Для
этого разделим правую и левую части уравнения на
Wps(s, t), замечая, что:
dwp*(s; t) I ,v_ й1пшв, (s; t)
^ / Wps I*. t)— dt »
dwpa(s;t) I , dinwps (s; t)
'I Wp3 (s; t)
ds '"ps\°>>,— ds
dsa»ps(s;<) I , . ,v_ aMnaip. (s; t)
gp / Wps (S, t) gp
In Wps (s;t) = — (1/2) In D {t) —
— (1/2) In 2* — (s — m (t)f!2 D (t).
Тогда получим следующие уравнения для m(t) и D (t):
^=_2,D+„.-DJ£>;
£г1й=,и-«4 + «4-+т- (2J)
80
Начальными условиями для них служат априорные
значения
tn{tQ) = mQ\ D{t0) = D0 = o2/2q (.D — dDjdt).
Можно найти установившееся значение D. Оно ха¬
рактеризует среднеквадратичную ошибку фильтрации:
D = Yq2N2 + oW — qN. (2.8)
Уравнение для т (t) = J swvs (s; t) ds дает оптимальную*
фильтрацию s(t); она оказывается линейной:
dm Г о2 . D 1 I r(t)D оч
-1Г = т[д- -5-+-0-J +-У-. (2.9)
При D = const решение можно записать в виде
m(t) — m (t0) + j e(,_eS/0) r (x) dx.
h
Оно совпадает с решением, которое дает теория опти¬
мальной линейной фильтрации Винера—Колмогорова.
В нестационарном случае при q = q(t), a2=o2(t),
N='N(t) уравнения оптимальной линейной фильтрации
(2.7) принимают вид:
= -2q (t) D (t) + (/) - %jjL,
dj^p-=:q (I) m (t) —m(t) -щ$-+
(2.10)
В случае конечного наблюдательного времени Т опти¬
мальная фильтрация описывается уравнениями (2.10)
с начальными условиями m(t0) = m0, D(t0) =А>, где
га„ = J sw (s; t,,) ds, D0 — ^(s — moyw (s, t0) ds
* По критерию минимума среднеквадратичной ошибки.
6—1092 81
априорные среднее и дисперсия; t^—i—Т (см. также § 4,
Получение эквивалентных результатов для нестацио¬
нарного случая или случая конечного наблюдательного
времени в теории оптимальной линейной фильтрации
Винера — Колмогорова является несколько более трудо¬
емким. Отметим, что обыкновенные дифференциальные
уравнения (вместо интегральных уравнений Винера —
Хопфа) для задач оптимальной линейной фильтрации
сигнала в гауссовом шуме были также получены другим
способом Калманом [23] и Калманом и Бьюси [24].
3. Уравнение для апостериорной плотности вероятно¬
стей многомерного непрерывного марковского процесса.
Пусть имеется многомерный марковский процесс, состоя¬
щий из компонент X\(t), X2(t), ..., xn(t), с локальными
характеристиками:
Пусть реализации части компонент являются известными:
Хщ+Л*) — Ут+Л%)> • • ;Хп(*) = Уп{*)', 0</га</г; [0, *].
Тогда остальные компоненты образуют условный про¬
цесс Маркова, для которого плотность вероятности
w(xь ..., хт, t) удовлетворяет следующему уравнению [10]:
п. 7).
lim -1- М {Axh. | г (/)} = а*.,
Д-*0 а
lim 4 М {bxhbxi | г (t)} = Ьщ,
lim М {Axki... Lxk \z (t)} — 0npur >2, (2.11)
(Axk — хь (t + Д) — xh (0; 2 = (xlt..., x„);
k,l= 1,.. ,,n).
2 дхадх^ CoPbrt\
(2.12)
82
По повторяющимся индексам выполняется суммирова¬
ние, причем
а, (3, у,... меняются от 1 до т., а о, р,и,... — от т-f-1
до п. Здесь матрица (| сар || — обратная || bgf || ;
'm + i, m + i
• Ь,
тп+1, п
К
т +1
(2.13)
предполагается, что элементы матрицы || bgf || не зависят
ОТ Хх, . . ., Хгп>
Уравнение (2.12) выводится [22] путем предельного
перехода от процесса с дискретным временем, tk—t0-{- kb.
Обозначим х (tj) = {х (t0), x(t0 —|— Д), . . .,*(/„ 4~ /Д)}.
Обозначим через [* (<*); у (th) I х (fc_,);{/ (**_,)] переход-.
ную вероятность марковского процесса (х1,...,хт,
Ут+1, ■■■, Уп) (для краткости обозначим * = (*,,..., хт)\
У — (Ут+1,---,Уп))- Аналогично § 1 находим:
w {х {tj); у (tj)) = w0 (х (ta); у (/„)) X
i
X П WAX (fh)> У(*к) I * (**-*)• У (2-H)
*=1
щ,s {x(t, 4- Д))=ш (х (//4- д) | y(tj 4- Д)) =
= lw (у*(у ((3 + А)Ж И^+А)»
У (tj "Н А) I X (tj)> У (^j)J> WpS{x(tj)), (2.15)
Wps (.X (tj 4“ A))
J [* (^I-Д)» У (fj+Д) Ix (t})< У (^j)1 ®я« (■* (^i)) dx (tj)
JУ (I ■* (^>)> У (^j)l wp‘Vc (<))) ^
Последнюю формулу можно преобразовать. Для этого
вводится преобразование Фурье переходной плотности дод
6* 83
по приращениям компонент хи..хт:
т
F (iiu; х (tj)) =Jexp ua Axa } X
a—1
X юд \x {tj) + Ax-, у (/jH- Ду | x (tj); у (/,)] dAx, (2.16)
и обратное преобразование:
\x (ti) + Ax; у (tj) + Ay\x (tj); у (f j)J =
m
= (2it)_m (iu;x(tj)) exp { - i £ uaAxa J du, (2.17)
a=l
где «=(«,,.. .,um). Обозначим г—(*,,..., xm; г/m t =
= (г,,..., zn). Заметим, что для всего процесса z:
П
р 2 0ЛДгЛ
ю4(г + Дг|г)=(2*)-" J е *=1 0(u|z)du, (2.18)
/
причем 9 (и | г) — характеристическая функция приращений
Дг процесса г:
П
0 (м | г) = I е йуд (г -|- Дг | z) dAz — (2.19)
П
= М |ехр нкДгй ) | г| =
k=l
П
= ехр|д ah (tefc) +
k=\
П
-\-~2 д J] hi (iuh) (*«г) + 0 (д)|- (2.20)
Ы=1
Последнее равенство представляет известное выра¬
жение для характеристической функции случайной ве¬
личины iAIz через ее моменты [определенные равенства¬
ми (2.11)].
84
Сравнение формул (2.17) и (2.18) показывает, что
Вычисление интеграла (2.21) с учетом равенства (2.20)
дает
Здесь (и далее) выполняется суммирование по повто¬
ряющимся индексам а, >0, у, ... от 1 до т и а, р, т, ...—
от т+1 до га. Разлагая ехр{£Д} в ряд и отбрасывая чле¬
ны более высокого порядка малости, чем Ai, можно за¬
писать формулу (2.15) в виде
^|[1+Дг.(ш;дс(^))]е ‘“al*a(*j+4) x^li^ wp„(x(tj))dx(tj) du
JJJ[l+AL(/a; •*;(;,))]e~'+A>-Jca(^>1 wps(x(tj))dx(tj)dx(tj+h)(iu'
(2.23)
Заметим, что для любой дифференцируемой функции f (к),
стремящейся к нулю при | х | -► оо,
П
X
Х0(«|г) dum+1...dun.
(2.21)
F (iu; х) = С! ехр {L (ш; х) A -f- О (А2)}, (2.22)
где
L {iu; х)= (iua ) [аа + Ьаа сар(-^ ЙР )] +
Н—)г iu iuQ (b q — b с b Q) 4-
1 2 a p ' aji ao op рр/ I
Wpa (X (tj-)-A)) =
JJ(i«n)e iUalx
dxk(tj + Д) Jj*
К (tj+Д) xa (,,)] f {x (#j)) du dx (/j) =
e-'« a l*a <*, H)-*« (*,)\ f (x * (/■).
(2.24)
Аналогично
85
Из теории обобщенных функций известно также соотно¬
шение
т
fe,e“ *«<*« = П *(*.)• (2>25)
а=1
где’ 8 — дельта-функция.
Вследствие этого, в числителе (2.23) получаем:
wps (х; U) + Д j £аа + X
X Wps (х; tj) + 4- - b«cM WPS (х- *j))+
+ «АР (-Г—Ц-) (*. h) } =®р* (х; tj) +
+ Д/-(— d/dxa-,x)wps(x;tj). (2-26)
В знаменателе выполняется интегрирование по dx (tj -f- Д);
заменяя аналогично (2.24) iuh на д/дхн (tj -J- А) и учитывая,
что te»ps (лг) —► 0 и dwps (х)/дха -*■ 0 при |х|—«-оо, находим
для знаменателя выражение
1 + д J «Лр (^Г-V) w (2-27)
Используя равенство [1 -f-6Д}-1 = 1 — kh-\- о (Д), полу¬
чаем из (2.23), (2.26), (2.27) уравнение:
WpS (х; tj + Д) = Wps (х\ tj) -)-Д/|—x^wpe (х; tj) —
—Дw j адсяр wps (*) dx + о (Д). (2.28)
При Д^О из равенства (2.28) следует уравнение
*)■>*.(*;О-
— V) г> (2'29)
которое совпадает с уравнением (2.12).
86
4. Оптимальная линейная фильтрация. Полученное выше
уравнение (2 12) для апостериорной плотности вероятностей
Хт, t) можно использовать для оптимальной фильтрации
процесса (*i(/), ..xm(t)).
Если апостериорная плотность процесса (*i(0> •••, *m(0)
является гауссовской,
то из уравнения (2.12) (аналогично п. 2; см. также § 1 гл. 2) мож¬
но получить систему уравнений для апостериорных средних значе¬
ний (которые и будут оценкой для x(t)f оптимальной по критерию
минимума среднеквадратичной ошибки):
Эти уравнения записаны в [10].
Уравнение (2.12) для w (*,,. . ., хт, t) можно записать в сле¬
дующем общем виде:
где £ар, Ga и F — некоторые функции точки х== (xt. . хт) и вре-
Для того чтобы апостериорная плотность вероятности
w(xit .... хт, t) была гауссовской, достаточно выполнения следую¬
щих условий [10]:
т
ОО
—00
и матрицы дисперсий
00
dw д2 д
¥° дх дх, Кэ W w\~~dx~ 1°. (*) ®] +
ар а
оо
(2.30)
мени t.
87
1. Начальное условие для уравнения (2.30) при t=t0, т. е.
априорная плотность w(x 1, ..хт, /о), является гауссовской:
(^1> • • •• Хт\ to) = COnSt ^
т
Хехр| —J} (*«-«$[) (^р— «р)}-
а, Р=1
2. Функции Вар не зависят от х.
3. Функции Ga (х) линейно зависят от х: Ga (х) == ga + Ga^
4. Функция F (x) = f Faxa + -g- Z7^ xa*p зависит от x линейно
и квадратично. Тогда из (2.30) аналогично п. 2 (см. также § 1 гл. 2)
следуют уравнения для та и Лар [10]:
= (3.3.)
dhao
~ п.1 hha — h Gyq — tu <jy„ — F„
dt a T T& aT Тр ‘Pt та ra$
с начальными условиями ma (t0) = m°a ; Aap (t0) = h^\ t^to- Можно
перейти к уравнениям для /па, V10!:
dmа „ , , , dF(m)
dt — a (m) + йар — fp +
d*«p
+ (^af + £ар ^р^) "V (2.32)
dt ~2 S«p + °ат ^;Р + Si
Если от наблюдаемого процесса у (/) зависят лишь функции ga
и Fa , и притом линейно, то уравнения (2.31) и (2.32) определяют
оптимальную линейную фильтрацию. Оценкой для x{t) является
при этом m(t).
§ 3. Обнаружение марковского сигнала в шуме
Полученные в § 1—2 рекуррентные соотношения и
дифференциальные уравнения для апостериорных веро¬
ятностей марковских процессов можно использовать для
совместного решения задач оптимальной фильтрации и
обнаружения марковских сигналов в шуме.
1. Вывод рекуррентного соотношения для апостериор¬
ной вероятности наличия сигнала. Проиллюстрируем вы¬
вод рекуррентного соотношения для отношения апосте¬
риорных вероятностей наличия и отсутствия сигнала на
примере следующей задачи обнаружения марковского
процесса в шуме [26].
Пусть Хи ..Хъ. — последовательность наблюдаемых
данных; Xi=Si + rii, su ..sk — значения сигнала;
пи • я*— независимые значения шума.
Пусть su • • •» $h образуют марковскую цепь с матри¬
цей плотности вероятностей перехода зх(S/+1 |sx*); Jto(si)—
плотность вероятностей для начального состояния su
р (п) — плотность распределения вероятностей для значе¬
ния п шума.
Пусть р и q — априорные вероятности наличия и от¬
сутствия сигнала; параметр 0=1—сигнал есть; 0 = 0 —
сигнала нет. Совместная плотность распределения веро¬
ятностей для последовательностей xk+l=(xu ..., Хк+\) и
sk+l=(su ..., s*+i) и значений 0 равна:
Р (хЛ+1; s*+1;0) =
r k+\ k
р П Р (х{ — St) 1С0 (st) П ic(si+1|sf) при 0 = 1,
i=\ ;=1
*+1 k+i
q П р (xt) П 8 (sf) при 0 = 0,
1=1 /=1
(3.1)
где 8 обозначает дельта-функцию.
По формуле условной вероятности
где
(з.2)
р(хк*‘) = 2 (- (р<**♦■;s‘";в)ds,...is„„,
0=0; 1
Р (х**1) = Р {хц+11 хк) Р (**).
(3.3)
89
Поэтому формулу (3.1) можно переписать в виде
Р (sft+1; б | хк+1) =
1
’/>(**+»!**)
/=«(5к;6 = 1 |xft)p(xfe+1 — sk+1) X
X*(sft+,|s*) при 6 = 1,
P(sM = 0|x*)p(xfe+I)8(sft+1) (3.4)
при 6 = 0.
Проинтегрируем равенство (3.4) по s, s/{_тогда по¬
лучим
Р (Sfe+1; sk;0 |xft+,) =
'P (sk; 0 = 11 xk) p (xk+t — sh+l) jc (sft+11 st)
l при 6 = 1,
— P(xh+t\xk)\ P(s*;e = 0|xfc)p(x#+I)8(s*+I)
при 6 = 0.
(3.5)
Заметим, что P (Sk | 6 = 1, xh) — апостериорная вероятность
значения sk в момент k при условии наблюдения последо¬
вательности (xt,...,xk), при наличии сигнала; обозначим
ее, аналогично § 1, Wk{sk)- В § 1 для Wk(sk) было полу¬
чено рекуррентное соотношение:
Wh + t (Sli + i) —:
£ р (xk+t — sh+1) я (sft+11 sh) wh (sh) dsh
^ ^ P (Xh+1 — Sft+i) Я (Sft+11 Sft) wh (sft) dshdsh+i
что же касается P (sk |6 = 0;xft), to
P(s*,|6=?=0;V) = 8(s*).
(3.6)
(3.7)
Вероятности P (sk; 61 xft), входящие в (3.5), связаны с
P(Sft|6;xft) по формуле условной вероятности:
Р (sft; 6 | **) = Я (6 | **) Я Ы 6; **)
(3.8)
и могут быть выражены через отношение апостериорных
вероятностей гипотез 6 = 1 и 6 = 0.
90
p/0 _ | I xk\
Обозначим *fc = p(9i=0 Xfc)> так как
Я(6=1 |**)-f Я(в = 0|х*) = 1, то
я (6=11 %*) = VO +/а);Я(6 = 0| xft) = 1/(1 + Ik).
Тогда равенство (3.5) принимает вид:
Р (sk+t] sk',b\xk+l) =
Г h
1
Wk (.Sh) P (Xh + t Sh\+i) 11 (Sft_|_i | Si,)
при 6=1,
'/>(**+, I**)' l
l + h
b(st,)p(xk+t)b(sk+i)
при 6 = 0.
(3.9)
Интегрируя обе части по s$, находим:
Ж%+,;б|^+1) =
( и
— P(xh+1\xb)\
1 _|_ [h J Р (** + 1 Sh + i)™ (Sfc+1 [ Sit) X
x Wk (Sf,)dsh При 6=1;
| rqr7I 8 (s*+t)P (**+») при 6 = 0-
Так как
(3.10)
u+l:
^ p(s*+i; 0 = 11 xb + ')dsh+l
J P(Sfc+1; 9 = 0 | xh + ,)dsb+1
то из (3.10) получаем рекуррентное соотношение для 1к’-
== hi р (xft+1) (xit + i S|fc + 1) it (si, + , | Sit) X
Xwh(sk)dskdsk+f (З.П)
Решение системы рекуррентных уравнений (3.6),
(3.11) позволяет осуществить оптимальную фильтрацию
и обнаружение марковского сигнала s(tf).
91
Начальными значениями являются:
£ Р(*> — Sl)"o(S,)tfs,
р
(3.12)
Р(*»)
Я
Отношение правдоподобия Л*=-
Р(х*\ в= 1)
~ связано с /* соот-
—Р(Х* I 8 = 0)
ношением
Лй, —-у lh-
При фиксированном времени наблюдения tn оптималь¬
ное обнаружение (по теореме Неймана — Пирсона [3])
состоит в сравнении величины Лт с постоянным поро¬
гом Н и выборе решения 0=1 при Лт^Я, 0=0 при
Ат<Н- Построение оптимальных последовательных ре¬
шающих правил (при не фиксированном заранее наблю¬
дательном времени) будет дано в гл. 4.
2. Вывод стохастических дифференциальных уравне¬
ний в случае непрерывного времени. Для непрерывного
времени наблюдения из рекуррентных уравнений (3.6),
(3.11) можно вывести стохастические дифференциальные
уравнения предельным переходом при Aif—►О.
Пусть Sfc принимает два значения, 0 и 1, причем
пн — последовательность независимых значений гауссовской
случайной величины с дисперсией NjAt:
II* («*+»!«*) 11 =
■я(010); «(0| 1) 1 —aAt; рДt
it (110); *(1|1) _ aAt; 1 — рД^ ;
(3.13)
p (ri) = (2nN I At) 1/2 exp {—n2At/2N}. (3.14)
Обозначим £Cft = ln/ft.
92
Уравнение (3.11) в данном случае принимает вид
^+1 = ^ + lnIe^+>"/2/VX
X X X +'-5'1+>)2W/2A' U (sft+, I sft) шА (sft)] =
sfc=° sfc+,=°
=^+in2 s fi__%^+£i±^±iA/]x
5fc—0 1° ■“
X it (Sft+1| Sft) wh(sh) -f- 0 (At) = S6k + Atw (1; t) (xh+t—lj2)jN.
(3.15)
Управляемый
вентиль
есть O’
Рис. 3.2. Блок-схема оптимального обнаружения и фильтрации.
При At -*-0 получается стохастическое дифференциальное
уравнение для X (t):
d St (t)/dt = w (1; /) [x (t) — 1/2J/M. (3.16)
К нему добавляется уравнение для w(l;t) (см. § 1):
dw0>0 =aw (0; t) — $w (1; t) +
4~±-a>(l;<)a>(0;0 [*(/) (3.17)
w(\\t) 4" w (0; t) ==. 1.
Начальные условия: w (1; ^ = 0) = itOIJr (1),
St (0) = In [Яог,г (8 = 1)/(1 - Papr (6 = 1))].
Блок-схема оптимального обнаружения и фильтрации
показана на рис. 3.2.
93
§ 4. Байесовские оценки в задачах
фильтрации сигналов детерминированного вида
с неизвестными параметрами
Выше были рассмотрены задачи фильтрации сигна¬
ла s(t) по результатам наблюдения сигнала и шума
r(t) =s(t) +п (t) (4-1)
в случае, если сигнал s(t) представлял собой случайный
марковский процесс (или отдельные его компоненты).
Плотность вероятности перехода P(sit Ti|s0, То) марков¬
ского процесса s(t) предполагалась известной, и опреде¬
лялось апостериорное распределение вероятностей для
s(t) при условии заданной реализации г(т), те[0, (|.
Многие практические задачи фильтрации сигналов и
обработки данных наблюдений сводятся к следующей
более простой задаче: при заданной реализации r{t) =
=s(i)+n(/) требуется найти наилучшую оценку для
сигнала s(t), относительно которого известно, что
Q
s(t)=Yi ak9h(t), (4-2)
k=l
где фл(/)—заданные функции; аи — неизвестные посто¬
янные параметры. Задача оптимальной фильтрации s(t)
сводится тогда к вычислению апостериорного распреде¬
ления вероятностей для значений параметров ак.
1. Предположим, что в момент начала наблюдения
t = to задана априорная плотность распределения веро¬
ятностей для значений неизвестных параметров w(a,\, ..
ciq, t0). Рассмотрим вначале случай дискретного времени
наблюдения. Пусть w (аь ..clq, im) обозначает апосте¬
риорную плотность распределения для аи ..clq в мо¬
мент tmj т. е. условную плотность распределения для
а\, aQ при условии данных значений r(t0), r(t i), ..
rtfm):
w(at,..., aQ;tm) = P{a1, ...,aQ\r(t0), ...,r{tm)}.
По формуле условной вероятности (формуле Байеса) имеем
W (flj, •••, tm)
Р {r (h). •••» Т (trn) | ^1» •••» W (а1, CLq\ to)
j Я {г (tt),.... г (/m) I «Q> w (аи..„ aQ; t„) dau daQ
(4.3)
94
Предположим, что значения помехи п (1к) независимы и
имеют плотность распределения р (п, th).
Тогда
Р ft (^»)> • • • > r(tm) I «!>•••> «q} =
т / ' Q \
= П р Г (tu) -- Yi alfl ((к)> h • (4-4)
Л=0 \ /= о /
Рассматривая формулу (4.3) для моментов времени
tm и tm+ ь учитывая (4.4), для w(au ..., aQ, /m+i), полу¬
чаем следующее рекуррентное соотношение:
W (йj, ...j, СIq> ^m-j-i) ==
Р ^ (tm +1) ak^h (^w+l)’» ^m + 1^ w (^1> ••• » tm)
J* P ^ (^m + i) ^fc(ffc(/m + i)i tm + i^W (^l* •••» ^q» tm) dCl^... dCL^
(4.5)
Это рекуррентное уравнение и является основным урав¬
нением фильтрации. Рекуррентные соотношения для
оценки параметров выводятся далее из него.
Если помеха n(tk)—марковский процесс с плот¬
ностью переходной вероятности p(n(tk)\ tk\n(tk-\), th-1),
то формула (4.4) принимает вид
Р (г (^>)> •••, г (tm) | ..., aN} ==
т / Q
— П р г(/й)— Y aib (tk);tklr(th_,) —
k=\ V /= i
^ ®1*?1 (th-1)> tk -
/=1 /
95
и основное рекуррентное соотношение для w (аи ...,aQUm+1)
записывается в виде
2. Предположим, что плотность вероятностей для не¬
зависимых значений помехи р (я, 4) является гауссовой,
и что априорное распределение w(au aQ, t0) является
гауссовским с моментами:
Маь (t9) = m°h; М [(ah (t0) — m°h) (a, (/,) — m])\ — (,
p («; th) = (2ica2(^))~I/2 exp {— /г2/2з2 (**,)}.
Из формулы (4.3) следует, что тогда и апостериорное рас¬
пределение w (аaQ, tm) остается гауссовским во все
моменты tm-
где тк (tm) —апостериорные средние (&= 1,Q); ||Afti||_i=
= || dki || — матрица апостериорных дисперсий; | h | — опре¬
делитель матрицы || dki ||.
Значения mh(tm) и являются наилучшими оценками для
неизвестных коэффициентов а\\ значения dhk характери¬
зуют среднеквадратичную ошибку фильтрации.
w(au ...,aQ; tm+1) =
i=i
(4.6)
w (a„ ..., aQ, tm) = (2it) Ql2\h\ 1/2 X
k,l=l
96
Из уравнения (4.5) следует система рекуррентных
уравнений для апостериорных средних mk(t) и элемен¬
тов матрицы дисперсий dki(t). Для вывода этих уравне¬
ний надо домножить правую и левую части равенства
(4.5) на ah (k=\, ..., Q) или (ak—mh)(ai—ml) (k, /=
= 1, ..Q) и проинтегрировать по аи ..aQ. Тогда после
элементарных преобразований получаем
т {tm-y 1 ) — ТП (tm) -j- А"1 [г (tm) (tm) — (^m)] ~2 ( . v,
® \}т)
(4.7)
dhl (tm+i) =
где введены обозначения:
9 (tm) = {?! (^т), •••, (^т)};
т (tm) = {ml (tm), ...,mQ (tm)};
Ф= IIП W (M ||; Я= || hhl || = || rfkl||-«;
Л = ^)Ф + Я=
Л_1 = ||а(~1)|| — матрица, обратная к А.
3. Непрерывное время наблюдения. Фильтрация сиг¬
нала в белом шуме. Если дискретные моменты времени
th = i0-jrkA и
Р (п, th) = (2iuV/A) ~1/2 ехр {— nsb/2N},
то при Д —► 0 гауссовский процесс п (t) переходит в белый
шум уровня N; Мп (/) п (t -f-1) = Ш (г).
Рекуррентные уравнения (4.7) для апостериорных средних
значений при этом переходят в стохастические дифферен¬
циальные уравнения (4.8), (4.9)*
* Эти уравнения нетрудно вывести из уравнения (4.5), отбрасы¬
вая в (4.5) члены порядка а (А) (пбследние при А—>-0 не дадут
вклада в уравнения).
7—1092 97
*£<£L='M £ du щ b (l)-S. £ m, ((>*, (*)?,(()»<«).
5=i г,5=1
(4.8)
Для элементов матрицы апостериорных дисперсий полу¬
чаются обыкновенные дифференциальные уравнения:
ddhi (?)
dt =~Г Е dlg(t)dh,(t)f9(t)9,(t)- (4.9)
(j ,5—1
Оптимальная фильтрация состоит в совместном решении
уравнений (4.8), (4.9). Последние могут быть решены и
заранее, так как в них не входит наблюдаемая реализа¬
ция r(\t).
Уравнения (4.9) компактно записываются, в матрич¬
ной форме:
^-=-4-шя,где л=И«11. фНЫ/11-
Отсюда видно, что решение D определяется соотношением
t
°"1(0=^Иф(х)^+^'- (4-,о)
о
При D~l — 0 (т.е. в случае бесконечной дисперсии априор¬
ного распределения) выражение для D совпадает с тем,
которое имело бы место при оценке неизвестных коэф¬
фициентов по методу максимального правдоподобия.
Пример. Пусть n(i)—белый шум уровня N, s(t) =
— ao+a\t+a2t2t Тогда уравнения (4.8), (4.9) принимают
следующий вид:
з
dmh r(t)
dt ~ N
s=l q,s=I
dt
q,s=l
98
(*)*•- -4- J] OT«(0 dhlts+l~s;
q,s=I
3
-|J] dlg(t)dhs(t)t^-\
3
ddfii 1
4. Коррелированная марковская помеха. Предполо¬
жим, что значения помехи я (4) образуют сложную цепь
Маркова и удовлетворяют разностным уравнениям
<7о п (М 4- qji (**_,) -) 1-qmn (th_m) = ■»] (f ft), (4.1 i)
где r) (th) — случайная последовательность с независи¬
мыми значениями. В этом случае, задача сводится к пре¬
дыдущей, рассмотренной в пп. 1, 2, если вместо r(tn)
брать [25]
т
r(tk)= Yclir Vk-э)’ (4.12)
/= о
а вместо s(th) —
~ m/Q \ Q / т \
s(h)= £ qi S °l Qifiitk-j) .
1=0 \t= I J 1=1 \j= 0 /
(4.13)
При пересчете mh(t) по рекуррентным формулам, ис¬
пользуются m последних наблюденных значений r(th-j)
[входящих в выражение (4.12)].
Для процесса с непрерывным временем п(1), если
аналогично
/j\ . dn , , dmn (?)
<7о« (0 + Ях \-qm dJ^r = T[{t), (4.14)
где tj (/)—белый шум, задача сводится к рассмотренной
ранее, если положить
/=о
Q
~ и ( \
• (4л5)
5=0 ' |=1 I
Пример. Пусть n(t)—гауссовский марковский процесс
с корреляционной функцией
B(x) = Mn(l)n(t + i) = ±ie-2a"\
Т 99
тогда
dn
dt
■ — an -f- \fb Yj (/),
где tj(()—белый шум единичного уровня (см. примеры
гл. 2). Пусть s (^) = a, -f- a2t -f- ast2. Тогда уравнения
оптимальной фильтрации принимают следующий вид. Обо¬
значим:
г {t) — <zdr/dt-\-r (t); s(t)=-s {t)-\-asjdt —
= С г + c2t + c3t2; mk (t) = M{ch\r(x),x£ [0, *]},
ah (;()=M {ak | r (x), x £ [0, /]},
dki = M {(ch — mk) (ci — mi)\r (-с), т £ [0, /]},
bkt = M {(aft — ak) (af —a,)|r (t),xg[0, /]}.
Значения a&(f) и nth (t) связаны линейными соотношениями;
обозначим их
л» = Ут«л*<; II Yife II —
м
/=1
i;
— a;
2a2
0;
i; -
-2a
0;
0; 1
тогда
dmk
~~dt~
bki — »
i.'l
=4-(r w +S-)Sflt^s'1
s=l
3
Г J] midhsts+l~2\
/,5=1
3
= 5- J] d,lqdls<fq<fs.
dd hi
~JT
(4.16)
<7,5=1
100
5. Многомерный случай. Для выполнения основного
рекуррентного соотношения (4.5) существенным условием
является лишь независимость значений п (th) или марко¬
вость помехи n(th) в разные моменты th- В случае много-
мерных процессов r(t), s(^) вывод всех уравнений сохра-
-+ -> -*■
няется, с той разницей, что функции р (п), р(пг\ х,|/г0; х0)
будут теперь функциями от нескольких переменных.
6. Связь с уравнениями § 1. В § 1 было получено уравнение
(1.29) для апостериорной вероятности у-го состояния марковского
процесса s(y; t), при наблюдении реализации
r(t) = s(i; <0+л(0 —
суммы этого случайного процесса с белым шумом; при этом вероят¬
ности перехода из i-го состояния в у-е за время At для про¬
цесса s(t) были равны a(j\i)A\t при ']ф'ь (i, у = 1, ..k) и
\+a{i\i)kt при j=i. При а (у |0—0, т. е. если изменения состояний
отсутствуют, уравнение (1.29) принимает вид
dw(j\ t) 1 / 1 \
—Tt—= тг ( г (<) 5 ^ —тs2 {))w (/: ^ —
k
—-jr w V' Q (г ws )w *)• (4-17)
i = 1
Вероятность w (/; t) имеет смысл апостериорной вероятности у-го со¬
стояния. Пусть, в частности,
Q
«(/; 0 = X ^
к=\
т. е. каждому у-му состоянию соответствует определенное значение
коэффициентов полинома а = (av . . а^); ^ (?) ^ (?) — извест¬
ные функции. Тогда уравнение (4.17) позволяет получать оценки
неизвестного постоянного значения параметра а марковского про¬
цесса s (t): так, оценкой максимального правдоподобия будет а: до( а \
—► Л л —► —► —►
t) = maxw (а\ t)\ апостериорное среднее значение a— \aw(a\t)da.
При непрерывном множестве значений а уравнение (4.17) превра¬
щается в уравнение для апостериорной плотности распределения
101
вероятностей w (a; ?) значений коэффициентов а:
Q
dw(a\f) 1 г
—т—=-frlrv'>zJak't* w-
k=\
—тYj akain]w&*)“*
k, 1=1
—jfw(a; t) j[r(0 J] flfc?fc(0 —
k=\
I Q
2“ ****** W ь w ^ f) d“' (4,18)
k, z=i
Это уразнение совпадает с тем, которое следует из основного рекур¬
рентного соотношения (4.5) при непрерывном времени наблюдения.
-> —>
Если начальное (априорное) распределение w (а\ ?) | *=0 = wavr (а)
гауссово, то уравнение (4.18) эквивалентно системе уравнений для
моментов первого и второго порядка. Домножая правую и левую
л л ->
части (4.18) на или (я& — яъ) (<2Z—аг) и интегрируя по а, полу¬
чим снова уравнения (4.8), (4.9).
7. Введение конечного наблюдательного времени. Оценки
неизвестных параметров (i = 1, . . ., а) по рекуррентным формулам, по¬
лученным выше, дают хорошие результаты, если s (?) представляется в
Q
виде s (?) = V я*<р.г (0 на всем интервале времени наблюдения. В
Лет»
I = 1
ряде случаев s(t) можно хорошо аппроксимировать полиномом фи¬
ксированного порядка Q на любом отрезке времени длины 7\ но
для больших интервалов времени такая аппроксимация непригодна
В этом случае необходимо ввести конечное наблюдательное время Т
при определении оценок для текущих значений аг.
Для этого уравнения (4.9) для dhi следует решать лишь при
?г^7\ уравнения же (4 8) решаются с функциями dki((), определен¬
ными выше, так,* чтобы в каждый момент ? получаемое решение со¬
ответствовало тому, которое имело бы место, если бы интервал
наблюдения был равен [?—Г, ?], причем начальные значения для
nik(t) при t—Т брались бы совпадающими с полученными к момен¬
ту t—Т оценками, а начальные значения для dki(t) в момент t—Т
брались бы одинаковыми во все моменты ?—Т [25].
Возможна другая постановка задачи, также приводящая к «ко¬
нечному наблюдательному времени» при оценке неизвестных пара¬
метров.
102
Рассмотрим уравнение (1 29) Как и п п б, будем рассматри-
-+
вать а=(аи ..., a<?) как состояние марковского процесса, но те¬
перь не будем предполагать, что оно сохраняется постоянным.
Предположим, что за время А? с вероятностью 1—аА? состоя-
—>
ние а сохраняется, а с вероятностью аАt изменяется скачком на
новое состояние а', плотность вероятности для которого равна
f(a'\a). Положим, в частности,
Q
f («' I = П (2™1)~Ш ехр {- (а'к-акУ/2*1}.
k — 1
Среднее время пребывания в одном и том же состоянии равно
7= 1/а. В уравнении (1.29) в этом случае будет
^ а (/1 г) w (<; t)=—aw (/; t) +
+ “ Y fii 10 ® (<; 0
и уравнение (4 18) примет следующий вид:
00
дхю (о, t) Г -> -> -> —*
—щ = — aw (a; t) +а I f (a\b) w (6; t) db +
—00
+ -jj (г (0«(«; 0 — -js2 *))w & —
— -jj- w (a; <) j* [r (t) s (a; t) — -j s2 («; <) J a> (a; <) rfa. (4.19)
Уравнения для моментов (4.8), (4.9) примут вид (при гауссовской
плотности f (а' |д), указанной выше):
Q Q
г (?) j _1
~ИГ ^ N
5=1 1,5=1
Q
ddki 2 » 1
5=1
V 1
^ --rS dhl'fs'tt’
5=1 I, S=l
1 Q
aOftSfti — -jy- dlqdk,fq<(„ (4.20)
(diu = 1 при k — l% 0 при k ф l\ k,l= 1,... , Q).
103
Аналогично в случае дискретного времени, уравнения (4.6)' заменятся
следующими:
т (tm+i) = т (tm) + А- 1 (г? — Фт)
dki (tm + i) = а<ып+ “Sft<4 •
Отметим, что аналогичным образом можно получить рекуррентные
оценки для коэффициентов аь (k = 1, ... , Q) с различными наблюда¬
тельными временами Th для сглаживания каждого из коэффициентов.
В задаче „со скачками*, для этого в (4.20) можно брать вместо
значение dhi (где = 1 /7^fe).
8. Оценка неизвестных параметров корреляционной
функции. Примеры адаптивной фильтрации. 1. Рассмо¬
трим задачу фильтрации полинома в марковском шуме
с неизвестндй функцией корреляции. Пусть наблюдаются
значения
Q
£ г (0 = £ (t) -\-n(t), (4.21)
k = l
где ak — неизвестные постоянные коэффициенты; сръ(/) —
детерминированные, заданные функции; n{t)—гауссов¬
ский марковский процесс с корреляционной функцией
/Wrt(*)n (г + г) = -^-е-20о|т| (4.22)
и неизвестным «временем корреляции» 1 /а0 (параметр а0
неизвестен; параметр а2 марковского гауссовского про¬
цесса n(t) определяется принципиально точно по наблю¬
дениям на любом конечном интервале).
Рассмотрим дискретную аппроксимацию с шагом №
по времени. Значения nk = n(tk) образуют цепь Маркова
с плотностью вероятности перехода
Р Мл*-,) - (4™гД0~1/2 ехр{—j
(4.23)
при фиксированных значениях неизвестных параметров.
Аналогично уравнению (4.6) имеем рекуррентное со-
104
отношение для апостериорной плотности вероятностей
значений а = (а0, а,,..., aQ):
и» (а, < -l- ДО — ^4-24^
t f Д/ fr(/ + A0-r(<) y\dn
w(a, t) exp< Ц h~dT
k=\
f Ы [r(t+M)-r(t) ^ rfn .
We. t) exp Г{ ~2j k^f +
k=\
Q t
+ a0r — av ah<fh j |
k=\
Q
+ a0r — a0 ahyh j J> da
k=\
При kt—Ю из (4.24) следует стохастическое дифферен¬
циальное уравнение для w(a, t)*:
dw 1 /* ^ Го dr
-w
(а, 0 [2 (а*г (0 — ak?'h — a0ah<?k) +
+ {a„r (0 — «о%Ть)2|+(«. 0 X
ОО
X Ц 2 il (АоГ — Okf'k — a0ak%) -|-
—ОО
+ (а0г — ahf'k — а0°й?й)г] w (а, () da. (4.25)
->
Используя гауссовское приближение для w (a, t), из
уравнений (4.24), (4.25) можно получить систему нелиней-
* В формуле (4.25) cp'^dqWd/; по повторяющимся индексам
выполняется суммирование.
105
ных стохастических дифференциальных уравнений для вы¬
числения апостериорных средних значений
°2
ак (0 = \ cihW (a, i) da
—со
неизвестных параметров и матрицы дисперсий
°Z ~ ~
dkt — | К, — я/i) («г — сц) ш (a, t) da.
—00
Уравнение (4.25) и следующие из него уравнения для
моментов описывают оптимальную фильтрацию полино¬
ма с адаптацией к не вполне известной заранее корреля¬
ционной функции шума [25].
2. Пусть наблюдаемый случайный процесс x(t) яв¬
ляется решением уравнения
о О-1
dQx(t) , dkx(t)
~^Г + ^ (0 (4-26)
А=0
с неизвестными постоянными коэффициентами со, Сь •. •,
Cq_i; n(t) — белый шум единичного уровня. Как и выше,
можно записать [для дискретной аппроксимации •«(**)-]:
w {с; t-^-At) —
Отсюда при At—Ю следуют уравнения для оценки коэф-
■* ■*
фициентов nth (t) = j ckw (с; t)dc и матрицы дисперсий
—СО
оценок dki:
Q— l
ddQp 1 dkx dlx , 1
~~dV~ 'dtr'dtr vh ql'< ^ ^
k,l= о
Решение системы уравнений (4.29) определяется соот¬
ношением
t
V
о
где
dhx (z)dlx (х)
D(t)^\\dhl\[, Х(*) =
dzh dx1
D0 = D(0); DD~1 = I.
При известных функциях dhi(t) нетрудно получить реше¬
ние линейной системы уравнений (4.28), дающей оценки
неизвестных коэффициентов.
§ 5. Некоторые задачи
оптимальной нелинейной фильтрации
и управления
1. Построение переключающихся фильтров в задачах
сглаживания результатов измерений. Рассмотрим задачу
сглаживания результатов измерений координат движу¬
щегося объекта, закон движения которого может менять¬
ся скачком в неизвестный наблюдателю момент времени.
Моменты tn измерения дискретны; /п = /гА.
Рассмотрим следующую модель. Пусть изменение за¬
кона движения состоит в скачкообразном изменении
ускорения. Предположим, что ускорение g(/) можно рас¬
сматривать как марковский процесс с дискретными со¬
стояниями {g(t)} = {—gN, — gu go = 0, gь £jv}.
Матрица его вероятностей перехода p{gk\gi) (из состоя¬
ния gi в состояние gk за время между tn-\ и tn) опреде¬
ляется соотношениями:
= k=£0] /?(£„Ы = 1 —<*; (5.1)
k^O
P{go\gk)-=h’ P{gh\gi) = Q, k=£l\ k, 1ф0.
Тогда Г0 = А/а — средняя продолжительность прямоли¬
нейного движения; 7\=Д/Рь — средняя продолжитель¬
107
ность движения с ускорением g*. Процесс (x(t), а(/),
g(t)), где x(t)—координаты, v(t)—скорость, g(t) —
ускорение, является марковским.
Пусть x(t), v(t)—наблюденные (измеренные) зна¬
чения координат и скорости объекта в момент t\
ошибки измерений в разные моменты времени незави¬
симы или связаны марковским образом. Тогда процесс
(x(t), v(t)9 g(t)) также является марковским, и фор¬
мулы (1.15) позволяют рекуррентным образом пересчи¬
тывать апостериорные вероятности w(gu\ п) различных
значений ускорения в момент tn при условии наблю¬
денных значений x{tk), v(tk) при &=1, 2, ..., п. Обо¬
значим
x{th) = x(k), v(tk) = v(k), g{th) = g(k).
Имеем
N
w(gk\ п) = Lh, (n)j Yi Lk(n), (5.2)
k=~N
где обозначено
N
Lk(n)= Y w(Sil n — \)F(x(n), v(n),
l=~N
gk\x{n — 1), v(n — 1), gt). (5.3)
Здесь F(x(n), v(n), gh\x(n), v(n), gt)— плотность пере¬
ходной вероятности для марковского процесса Jxti), v (п),
g(n))-
Значения w(gk; п) можно использовать при управ¬
лении процессом обработки результатов измере¬
ний х(1), у (1), ..., lc{n), v (п). При w(g0; п)>Н (где
Н — некоторый порог, 0<#<1) можно принять гипо¬
тезу о прямолинейном движении объекта и сглаживать
результаты измерений в соответствии с этой гипотезой.
При ^(go; п)<Н гипотеза о прямолинейном движении
отвергается, и сглаживание осуществляется иначе.
Дальнейшую конкретизацию этих предложений рас¬
смотрим на примерах следующих задач:
108
1. Пусть для простоты модель движения одномерна
(решение в случае двумерной или трехмерной задачи
аналогично; см. далее). Пусть x{t)—наблюдаемое по¬
ложение объекта; ошибки измерений в разные моменты
времени независимы и имеют известную плотность ве¬
роятности. Время наблюдения дискретно с шагом Л1
Положим приближенно
F{x(n), v(n), gb,jx(n — l), и(п — 1), gi)zz
« Р (g*l£i) U (t> (* (л) — х(п — 1) — bVt (п — 1) —
— (gk + gi) Д2/4) fi (о (л) — о (л — 1) — (gk+gi) Д/2), (5.4)
где /=0, если принято решение о прямолинейном дви¬
жении объекта, * = 1, если это решение отвергнуто;
Vi{n— 1) —сглаженное значение скорости. При г'=0 и
г=1 сглаживание осуществляется по-разному. Если г = 0
в течение времени от ^ до in, полагаем
П(л )=^JjoW;
k=m
при i — \ положим ]/г (а?) = v (ii). При гауссовских ошиб¬
ках измерений
/, (i) (г) = (21CD, (i,)-,/2 e~2!/2D. «о, (5.5)
где Dt (0) = 2oq -|- Д2а^.; — дисперсия ошибки измерения
*(0> °v — дисперсия сглаженного значения V; £>,(,) =
= 2<3q -{— <з^ Д2; о2 —дисперсия ошибки измерения v (t);
М2) = (4*з2 Г1/2 е ' '.
Было проведено моделирование на ЭВМ М-20 приве¬
денного выше правила для данной задачи. При этом
109
«наблюдаемые» значения х(п) вычислялись по фор¬
мулам:
х(п) — х (0) + 2 v (tn) Д -f oos (п),
т=\
р(л) = о(0)+ ^Jg(/B)A+6(n)~|(fl~"') ов,
ш=1
^(л) = {0 при и<л0; а при я0<п<п1\ 0 при
5 (л)—независимые гауссовские случайные величины;
МЬ(п) = 0; МЬ2 (л) — 1. Наблюдаемыми являлись только
Рис. 3.3. Результаты моделирования решающего правила (п. 2) для
обнаружения и сброса признака наличия скачка параметра g(n).
Р\ — вероятность обнаружения в зависимости от n-=tlA — числа измерений,
проведенных с момента начала скачка; Р2 — вероятность сброса признака
скачка в зависимости от n=t/k — числа измерений, проведенных после окон¬
чания скачка; F — вероятность «ложной тревоги» при обнаружении- F=0,01;
Н=0,75; (То=0,6; v=0tA; Л = 10; 1) £=0,02; 2) £=0,015; 3) £=0,01.
координаты, х(п), а значения скорости v (п) вычислялись
по ним. (При этом — 2з^/Д2.) Результаты моделирования
приведены на рис. 3.3, 3.4 для следующих далее, более
сложных задач.
Несмотря на ряд приближений, сделанных при записи
формул для функций F (х (п); v (п); g (п)\х (п — 1); v (п -—
— 1); g (п — 1')), моделирование дает хорошие результаты.
110
2. Двумерная модель. Пусть движение объекта
на плоскости описывается уравнениями:
ф (п) = ф (л — 1) + (A/V) [g (я) + * (я — 1)]/2, (5-6)
где параметр g (п) может принимать одно из нескольких
значений {£(«)} = {£•_„ g_u g0 = 0, g„ ..., gN}; пере¬
ход от одного значения gt в момент tn_1 к другому gh
в момент tn осуществляется скачком, с вероятностью
(gfclg/); процесс g (п), как и выше, предполагается мар¬
ковским. Матрица Ц/? (g’ft.lg'i)ll задается соотношениями (5.1).
Наблюдаются значения х(п), у(п). Сглаживание осущест¬
вляется по рекуррентным формулам [обозначим сглажен¬
ные значения через х (ti), у (fi), v(tJ, v(‘\ <]>(«)]:
х (п) = х(п — 1) —{— УД cos ф (ti),
y(n) = y(ti — 1) + УД sin Ф (п),
Чнстр («) = 2 (л — 1) + дv{l] (п — \),
У{!гР (п) = у (п — 1) + Av(‘> (а- 1),
2 («) = X«LP («) +а(* И - («))>
у (п) = fi,p (Л) + а (У (Я) - y(‘Lv («))>
а* (/г) = vx (11 — 1) -| y~a
экстр
7’, + Д
„(О
^экстр
(и)
Т’г (О
г,о*) + Д ’
Т 2 ('<)
Г, 01) +А ’
Индекс i равен 0, если принята гипотеза о прямолиней¬
ном движении, и 1, если эта гипотеза отвергнута. Вы¬
бор между этими гипотезами, как и выше, осуществляет¬
ся при помощи сравнения w(g0; п) с заданным поро¬
гом Н (0<#<1). Значения w(gu\ п) вычисляются по
формулам (5.2), (5.3), где F(x(n), у(п), gk\x(n— 1),
y(ti—1), gi) определяются приближенно соотноше-
F(x{n), у(п), gh\x{n—l),y(n — l),
gi) ** Р (gh\gi) (2*D(i,)"1 ехр {— \х (л) — х (п — 1) —
- ^ (п - 1) Д - (£;,+£,) (Д2/4) COS f («)]2/2D(t)—
— IУ (я) —У(п — 1) — vf (а — 1) Д — (gb+gi) (Д2/4) X
3. Рассмотрим также другой пример. Пусть известны
дифференциальные уравнения движения объекта:
Наблюдаются координаты x^tn)\ ошибки измерений
в разные моменты tn независимы. Изменение закона дви¬
жения состоит в том, что, начиная с неизвестного наблю¬
дателю момента t0 и до момента скорость v(t) полу¬
чает дополнительные приращения 6а (можно считать, что
некоторые импульсы сообщаются объекту в моменты to<
<t7i<\t\). Величина 6v = v6 где 6 и может принимать
одно из нескольких значений: 6о, бь • •Sjv; 6о=0. Пред¬
положим, что значения 6h(t) в разные моменты времени
образуют марковскую цепь с вероятностями перехода
ниями
(5.7)
ах
Ж
(5.8)
P(6ft|6,):
Р (Ч80 = 0 при кф1, k, 1ф О,
i»(sft|8o) = aft> ^¥=0; /7(80|ол) = Рй,
р (h\h) = 1 — рл; р (8.1М = 1 — a,
\\2
Тогда, как и выше, можно вычислить апостериорную
вероятность для значения w (Ьк; п) по формулам (5.1), (5.2),
где плотность переходной вероятности F(x(n), v («),
Sft | л: (rt — 1), v(n—1), 8e) можно определить приближен¬
ными формулами:
F{x(n); v(n); bh\x{n — l); v(n — 1); Se) (8fe 18e)X
X P (x (n) — Хэкстр (x (n — 1); (1 -f 8e) v (n — 1))). (5.9)
Здесь хэистр(х; v) обозначает результат решения уравне¬
ния (5.8) на отрезке времени [|/п-ь tn\ между двумя из¬
мерениями, с начальными условиями в момент со¬
впадающими со значениями х, v\ х(п—1), v(ti—1) в фор¬
мулах (5.9) обозначают сглаженные значения x(t) и v(t)
по результатам наблюдений до момента tn-\ включительно;
Р — плотность распределения для разности х(п)—л:Экстр-
При ^(бо; п)>Н принимается решение 6у = 0.
В качестве уравнений движения (5.8) были взяты
уравнения движения искусственного спутника Земли, и
указанная процедура обработки данных моделировалась
на ЭВМ М-20*. На рис. 3.4 показана полученная вероят¬
ность Р обнаружения скачка параметра б ('t) в зависимо¬
сти от количества произведенных наблюдений (скачок
происходил при *? = 5А). Пунктиром показана вероятность
обнаружения скачка при помощи сравнения величины
«рассогласования» х(п) и л:Экстр с некоторым порогом,
обеспечивающим вероятность «ложных тревог» ^ = 0,05
(т. е. ложных решений о наличии скачка).
4. Оптимальный характер управления обработкой
данных измерений, основанного на значениях w(gh\ п),
будет обсуждаться далее, в п. 5 § 9 гл. 4.
Рассмотренные выше задачи построения переключаю¬
щихся фильтров близки к более простой «задаче обнару¬
жения разладки», изученной в [27, 10]. В последней рас¬
сматривается марковский процесс с двумя состояниями
0 и 1; вероятность перехода из 0 в 1 за малое время At
равна a At. Наблюдается сумма этого процесса и «белого
шума» уровня N. Апостериорная вероятность состояния
0, ш(0; i), удовлетворяет полученному в § 1 стохастиче-
* В моделировании на ЭВМ принимали участие М. К. Розгевич
и В. Гомозов.
3—J 092 ИЗ
скому дифференциальному уравнению (1.19), ib котором
надо положить |3 = 0. Правило обнаружения «разладки»
состоит в сравнении w( 1; '0 = 1—^(0; t) с некоторым по¬
рогом Я, 0<#<1; при w( 1; t)>H принимается решение
о наличии «разладки».
Рис. 3.4. Результаты моделирования решающего прави¬
ла п. 3 для выявления скачка параметра 6(£).
Р — вероятность обнаружения скачка, Р — вероятность ложной
тревоги. Кривым 1—4 соответствует а=0,1; F<0,005; #=0,8; 0,7;
0,6; 0,5; кривым 5—6' а=0,2; //=0,6; 0,5; кривой 7: а=0;
F<0,005; кривой 3: F=0,05.
2. Задача экстремального регулирования. Рассмотрим
следующую задачу, встречающуюся при построении не¬
которых экстремальных регуляторов. Пусть
r(t) = (x (t) + u(t)y + t(t), (5.10)
где u(t)—управление; x(t)—диффузионный марков¬
ский процесс с известными локальными характеристи¬
ками
lim At) — x(t)\xt t} = a(x, t);
At->0
lim -^M{\x{t-\- Д0 — a; (0]21 t} — o2(x, t); (5.11)
114
£(/) —белый шум уровня N; M£(i/)|(/+t) =ЛА6(т); r(t) —
наблюдаемая реализация на выходе (рис. 3.5).
Требуется выбирать управление u(\t) таким образом,
чтобы минимизировать математическое ожидание:
т
М J {х (х) -j- и (т))2 d%. (5.12)
о
Как можно видеть (см. далее § 9), значение оптималь¬
ного управления u(t) зависит от апостериорного распре¬
деления для процесса x(t) при условии наблюденной
реализации г(т) на отрезке те [0, ■/]; D(t)—апосте¬
риорная дисперсия, и апостериорное среднее M{t) пред¬
ставляют собой результаты оптимальной нелинейной
фильтрации процесса x(t) по данным наблюдения r(t).
Для вывода уравнений оптимальной-нелинейной филь¬
трации по результатам наблюдения \r(t) рассмотрим
(аналогично § 2) случай дискретного времени наблюде¬
ния с шагом М, и дискретного процесса x('t) со значения¬
ми xh = k6 (6~ ]/ At) (переходящего при М—+ О в диф¬
фузионный марковский процесс с непрерывными траекто¬
риями и характеристиками (5.11). Тогда апостериорная
вероятность w{xh, t) удовлетворяет уравнению (1.15),
принимающему в данном случае вид
w(xk-, t + At) = Lk(t) l%Lh(t), (5.13)
где обозначено
Lk (t) = Y (Sx * +a (*«I xe) д0 w (xe; t)X
e h e
X exp {— (At/2N) [r (t + At) -(«(/ + At) + x*)2]8}. (5.14)
8* 115
Рис. 3.5. Схема экстремального регулятора.
Здесь || 8 +^(^<4 1^011 — матрица вероятностей пе¬
рехода для дискретного процесса x(t);
§ _ \ 1 при k—l,
10 при k^l.
Раскрывая (5.14) аналогично §§ 1,2 находим
w(xh; t-\-At) = w(xh; t)-{-At^a{xh\xi)w(xi\ /) +
i
+jfr{t-\-At)w{xh; t) |^(н(/ + Д/)+х*)2 —
—+ + o]— Ww^Xk’
X [(«(t + At) + xky - J] (u (t + At) + xsy w (xs; t) ].
S
При At -+0 процесс x (t) переходит в диффузионный
марковский, а уравнение для апостериорной плотности ве¬
роятностей w(x, t) принимает вид*:
дю(х. t) (Xt t)W{x, = t)w(x, 0} +
00
+4"r (0 w (x> 0 j* Ku+x¥ — (“+уУ 1w (У’ 0 Av —
—oo
CO
—^■W(x,t) \)\{u-\-x)*—{u-\-yy\w(y,t)dy. (5.15)
Уравнение (5.15) составляет основу для оптимальной
нелинейной фильтрации сигнала хЫ) по данным наблю¬
дения Ir(t). Из него, в частности, можно 'вывести уравне¬
ния для апостериорных моментов.
* Нетрудно вывести уравнение (5Л6) также общим методом
п 3 § 2.
116
Заметим, что вывод уравнения для w(x, i) сохраняет¬
ся тем же в случае
r(t) = s(x(t); 0 + 5(0. (5Л6)
где s(x; t)—произвольная функция; x(i)—непрерыв¬
ный марковский процесс (5.11). Уравнение (5.15) в этом
случае принимает следующий общий вид:
+-^ {а (х, t)w(x, = t)w(x, 0}+
ОО
+-jj-r(t)w(x, 0 j* и*; t) — s(y; t)\w(y, t) dy —
—00
OQ
—Ww(x' jls‘(x; 0 — s2(y, t)]w(y; t)dy
—00
и может использоваться [10] для оптимальной нелиней¬
ной фильтрации х(1).
глава 4 ПОСЛЕДОВАТЕЛЬНЫЙ АНАЛИЗ
§ 1. Байесовские решения в задачах
последовательного анализа
1. Задача последовательного анализа ставится сле¬
дующим образом [31, 33].
Пусть *='(*1, *2, хп, ... )={*/'}, *=1, 2, 3, ... —
последовательность независимых реализаций случайной
величины X. Последовательность {*/} называется также
выборкой, или выборочной точкой, а совокупность всех
выборочных точек называется выборочным пространст¬
вом М. Пусть F(y) обозначает закон распределения слу¬
чайной величины X: F (у) =P{Xi<y}. Функция F(y) пред¬
полагается неизвестной; известно только, что F является
элементом заданного .класса Q функций распределения.
Вводится пространство £>*, элементами которого d явля¬
ются возможные решения, которые могут быть вынесены
в рассматриваемой задаче.
Задача состоит в построении функции d=D(x), на¬
зываемой решающей функцией (или решающим прави¬
лом), которая сопоставляет каждой выборочной точке х
некоторый элемент d из £>*, так «что при наблюдении х
выносится решение d=D(x). Если D(x) —рассматривае¬
мая решающая функция и л:° = {л:0г} — полученная в ре¬
зультате наблюдения выборочная точка, то число компо¬
нент х°, -которые надо наблюдать, чтобы принять реше¬
ние, равно такому наименьшему целому положительному
числу п = п(х°), что D(x) =D(x°) для любого х, для кото¬
рого первые п компонент совпадают с х°: х\ = х°и .., хп =
= х°п. Если же такого п не существует, положим п(х°) =
— оо; п(х, D) называется числом наблюдений, требуемых
решающим правилом D при наблюденной выборке х.
Если функция п(х, D) не постоянна, решающее прави¬
ло называют последовательным. (Случай фиксированно¬
го числа наблюдений п (х) = const можно рассматривать
как частный случай — см. пп. 3—4.).
118
Решающее правило D(x) требуется построить таким
образом, чтобы минимизировать математическое ожида¬
ние потерь, складывающихся из штрафа за неверные
решения и стоимости проведенных наблюдений. Пусть
потери, понесенные статистиком, если принято решение
d, а истинное распределение для X есть F, оцениваются
весовой функцией \V(F; d). Пусть с(п) обозначает стои¬
мость проведения п наблюдений. Тогда, если принята
решающая функция d=D(x) и F— истинное распределе¬
ние X, математическое ожидание потерь ра-вно
г (F; D) = J [W (F; D (х)) +с(п (х, D))\ П dF (х{). (1.1)
М i= 1
Это выражение называется риском при принятой решаю¬
щей функции D и истинном распределении F.
Пусть I—априорное распределение вероятностей на
Q; для любого подмножества <о£0, принадлежащего
определенному борелевскому полю подмножеств оз (т. е.
системе подмножеств, содержащей вместе с каждым под-
множеств'ом его дополнение в Q, а также нулевое мно¬
жество, и содержащей в качестве элемента объединение
любого конечного и* счетного числа своих элементов) ве¬
роятность
P{F g«} = $(m)- JdS.
СО
Тогда математическое ожидание потерь равно
г (5; D) = J г (F; D) dS. (1.2)
й
Величина г называется риском при заданном априор¬
ном распределении £ и принятой решающей функции D.
Решающая функция D0 называется байесовским реше¬
нием по отношению к априорному распределению если
г(|, D0)^ir(g, D) при -всех D. (1.3)
2. Приведем некоторые примеры задач последователь¬
ного анализа. Задача о различении двух простых гипотез:
в этом случае множество Q состоит из двух элементов —
двух функций распределения F\{y) и F2{y). Пространст¬
во решений D* также состоит из двух элементов: d\ — ре-
И9
шение об истинности распределения Fь di— решение об
истинности F%. Априорное распределение | задается дву¬
мя числами: р — вероятность того, что случайная 'величи¬
на X имеет закон распределения F\\ q— 1—р— вероят¬
ность закона F*
Например, если
(t-1)2
1 С - —2~
F 2 (У) == У2п J ®
0
А
в
0
задача состоит в различении двух гипотез о среднем зна¬
чении гауссовской случайной величины X.
Весовая функция W(Fi\ dj) задается матрицей штра¬
фов:
|| W{Fu d,) |Н
Если стоимость наблюдения постоянна, с(п) можно по¬
ложить равным сп.
Задача о различении N простых гипотез: множество
Q конечно и содержит N элементов: F\, ..FN. Прост¬
ранство решений содержит N элементов dr. «распределе¬
ние Fi для X «истинно» (i= 1, ..N). Весовая функция
W(Ft\ dj) задается матрицей NX'N.
Задача о различении двух сложных гипотез: пусть, на¬
пример, множество Q состоит из гауссовских распределе¬
ний вида
гу / I V 1 Г -(*-я*)2/2а2
0)=j7S7 Г dt'
—-CX)
где i=l, 2, а дисперсия ст2>0 принимает всевозможные
значения. Пространство решений 'состоит из двух эле¬
ментов: d\:"МХ=а"и d2:"MX=a"2. Весовая функция
W(F(y\a,i\ ст); dj) равна 0 при i=j и 1 при i=£j.
Нестационарная задача. Приведенная в п. 1 постанов¬
ка задачи может быть обобщена следующим образом.
Пусть выборочная точка х— (х\, х%, ...) представляет
собой последовательность реализаций различных слу¬
чайных величин Xlt Х2, G(x) обозначает совместный
120
закон распределения atnx величин; & — множество воз¬
можных совместных распределений G.
Например, в нестационарной задаче о различении
двух гипотез будет:
Q = {Gi; G2};
о, (X) = п К (Xt); G2 (х) = П К (xt),
i=l i = l
где F*— известные последовательности функций. Мат¬
рица штрафов W (Gt; dj) = 1—8£j, где символ Кронекера
8*j = 0 при и 1 при i — j.
В дальнейшем будут рассмотрены также случаи, когда
штрафы за ложные решения зависят от момента приня¬
тия решения.
3. Общее построение байесовских решений для задач
последовательного анализа, сформулированных в п. 1,
было дано Вальдом и Вольфовицем в работе [31]. Оно
содержится в теоремах 1—5, приведенных ниже.
Предполагается, что случайная величина X либо
имеет дискретное распределение p(y\F) (принимает ди¬
скретные значения), либо существует плотность вероят¬
ности p(y\F) для X в точке у.
Весовая функция предполагается ограниченной:
W(F; d)<W0.
Стоимость наблюдения предполагается постоянной:
с(п) = сп.
Вводится следующее определение сходимости в прост¬
ранстве £>*: последовательность {<d*} сходится к d0, если
lim W(F\ di) = W{F; d0)
i-ю0
равномерно по всем допустимым F. Предполагается, что
пространство D* компактно, при данном определении
сходимости. В приложениях обычно встречаются случаи
конечного пространства £>*, и это предположение выпол¬
няется. Оно требуется для существования минимума по
d функции
W(t; d) = jw{F; d)d&.
й
121
Если | — априорное распределение вероятностей на Й,
то апостериорная вероятность подмножества -со из Q при
данных значениях хи ..хт первых т наблюденных реа¬
лизаций равна
^p^F)... p(xm\F)dl
6 (ш 16, хт) = -с (1.4)
\ Р (xi I F)... р (хт | F)d%
й
по формуле условной вероятности.
Вводится функция
Ро ® = rainW ($; ДО. (1.5)
d£D*
Значение ро(|)—это математическое ожидание потерь
в случае, если принимается решение без проведения на¬
блюдений, при известном распределении вероятностей |
на Q. Наилучшим решением при этих условиях будет то
rf, на котором достигается минимум в (1.5).
Вводятся также функции р™(£) и р(£), имеющие сле¬
дующий смысл. Обозначим через Dm(x) решающую
функцию, для которой п(х, Dm) ^т при всех х. Совокуп¬
ность всех возможных Dm — это совокупность «т-усечен-
ных» последовательных решающих правил, для которых
число наблюдений не превосходит т. По определению,
полагаем
pm(?) = iufr(6; Dm), (1.6)
а
Р (5) = inf г (5; D). (1.7)
D
Таким образом, р™(£)—риск, соответствующий наилуч¬
шему из m-усеченных последовательных правил Dm при
априорном распределении | на Q, а р(£) —риск, соответ¬
ствующий байесовскому решающему правилу.
Теоремы 1—3 о функциях ро(|), Pm(i), р(!) дают
основу для эффективного построения последовательных
байесовских решающих правил.
122
Теорема 1. Справедлива следующая рекуррентная фор¬
мула
где обозначено: 1У(ы) =>|((о||, у)—апостериорное рас¬
пределение вероятностей на £2 при условии наблюденного
значения у случайной величины X (после одного наблю¬
дения), и где
Доказательство. Пусть p*m(5) (т= 1, 2,...) обо¬
значает нижнюю грань г (?; D) по отношению к решающим
функциям D, удовлетворяющим следующему ограничению:
1 <ti(x, D) <т при всех х. Ясно, что
Пусть р*т(||у) обозначает нижнюю грань по всем D, для
которых п(х, D)^ 1 и ^т, для условного риска—услов¬
ного математического ожидания величины W[F, D(x)\ +
+ сп(х, D) при условии, что первое наблюденное значе¬
ние Х\ величины X равно у, обозначим условный риск
r{l, D\y). Обозначим Dv решающую функцию, которая
получается из D при продолжении наблюдений, если ре¬
зультат первого наблюдения равен у. Тогда
Безусловное значение рт+1 (?) должно быть, очевидно, равно
осредненному значению нижней грани условного риска.
Равенство (1.8) следует из соотношений (1.9)—(1.11).
Теорема 2. Функция р (£) удовлетворяет следующему
уравнению:
—СО
(1.8)
p(y\t) = \p{y\F)fc.
Pm+1 00 — Пия [Ро 00 » P*w+1 (с) ] •
(1.9)
r(S, D\y) = r(^ Dy) + c,
и, следовательно,
Р*ти+1 (с I у) — pm (by) 4“ с.
(1.10)
Поэтому
со
P*rt+.(9= §?*m+l(t\y)p(y\t)dy. (1.11)
—со
p(S) = min j^p0 (?); ^ р (%у) р (у |S) dy-\- с 1. (1.12)
123
Доказательство этой теоремы по существу то же самое,
что и в теореме 1.
Теорема 3. Справедливы следующие неравенства:
W2
0<рт(5)-р(5)<^, (1.13)
где W0 — верхняя грань функции W (F, d).
Доказательство. Пусть Dt — последовательность
решающих функций, для которой
lim г (6; £)<)=р(5). (1.14)
СО
Пусть Pi (5) — вероятность того, что для функции Dt при
распределении 6 потребуется по крайней мере т. наблюде¬
ний. Имеем р(&)<1^о и r (^ Dt) ^mcPi (5), и поэтому
lim sup/>, (!;) Л (1.15)
/-♦СО
Обозначим через D™(x) решающую функцию, получен¬
ную из Di при помощи усечения в момент т: D™(x) =
= Di(x) при х, в которых п(х, Di) < т; D™ (х) — d0 при
п (х, Di) >m; здесь d0 — некоторый фиксированный эле¬
мент из D*. Так как W (F\ d0) < W0, то
г (5; D™) < г (5; D{) + Р{ (6) Г0. (1 • 16)
Из (1.14) — (1.16) следует, что
limsupr(?; D^<P(6)+^. (1.17)
i —>co
Так как pm (£)<>(&; D™), то второе неравенство в (1.13)
доказано. Первое неравенство рга — р3*0 является очевид¬
ным.
Следствие теоремы 3.
lim pm(5) = p (5). (1.18)
т-* оо
При помощи функции риска р(£) построим следующее
решающее правило S, соответствующее данной априор-
124
ной вероятностной мере £0 на £2. Если р(£0) = Ро(Ы> то
в качестве окончательного решения берется такое d, для
которого W(lо; d) минимальна. Если р(£о) <Ро(£о)> Де¬
лается одно наблюдение X, дающее хи и вычисляется
апостериорная вероятностная мера (со) = g(со|g0; *1)•
Если р (gi) = p0(ii), наблюдения прекращаются и прини¬
мается окончательное решение d, для которого Щ|ь d)
минимальна. Если p(£i) <po(£i)» делается еще одно на¬
блюдение, дающее х2, и вычисляется апостериорная ве¬
роятностная мера g2(со) =-|('Со||о, хи х2), соответствую¬
щая наблюденным значениям Х\ и х^ и т. д.
Теорема 4. Решающее правило Д определенное в пре¬
дыдущем абзаце, является байесовским, т. е.
rfc; £)=Р&). (1.19)
Доказательство. Если ро(£о) = р(Ео), то ника¬
кая решающая функция не обладает меньшим риском,
чем Д т. е. D — байесовское решение. Предположим те¬
перь, что ро(£о) >р(Ы, и D не является байесовским.
Тогда существует решающая функция Д, такая что
г ft,; D.) <г(Е0; В) и г D,) < ?•&) + ?(£._)_. (1 щ
Решающая функция Di требует по крайней мере одного
наблюдения, так как из (1.20) следует, что г(£о; Di) <
<ро(1о). Итак, обе функции — D и D\—требуют прове¬
дения по крайней мере одного наблюдения. Пусть оно
проведено, и хх —у — результат первого наблюдения. При
заданной решающей функции D условный риск г(|0; D\y)
зависит только от |у='£(а>|£о; у)- В частности, r(g0; ^*i|у)
и г (go; D\y) —функции только от 1У. Мы можем теперь
рассуждать так же, как и выше.
Либо Po(5!/) = p(?i/), либо р0 (Ьи) >р (£*,). В первом слу¬
чае D не требует дальнейших наблюдений, и осуществле¬
ние добавочного наблюдения не может сделать условный
риск меньше, чем r(%; D\y). Если р„ (Ьу) >р $у), то воз¬
можны два случая: 1) D, также требует еще одного на¬
блюдения; 2) D, предписывает прекратить наблюдения.
В последнем случае существует другая решающая функ¬
ция D2, для которой условный риск меньше, чем
Р.<6,) + Р(6») _
125
Риск для D2 не больше, чем для D{. Итак, для первых
двух наблюдений D совпадает либо с Dь либо с другой
решающей функцией D2i для которой риск не больше,
чем для D{. Те же рассуждения повторяются для трех,
четырех, пяти и т. д. наблюдений. Приведенные выше
аргументы все время остаются в силе вследствие того,
что стоимость наблюдения постоянная, с(п)=сп*\ и
вследствие того, что вся прошлая история процесса (пос¬
ледовательность наблюденных значений) влияет только
через апостериорное распределение вероятностей £. Итак,
для любого целого положительного k существует решаю¬
щая функция Dk, которая совпадает с D до k-ro наблю¬
дения включительно, причем риск, связанный с Dk, не
превосходит риска, соответствующего D\.
Так как Ншг(£э, £)*,)<г (50; £),), то (1.20) не может
£->•00
выполняться. Следовательно, D является байесовским ре¬
шением.
Обозначим через С множество вероятностных мер |
на й, для которых р (g) <р0 (i), а через В—множество £,
для которых р(£) ^гроШ- Байесовское решающее правило
состоит в вычислении меры £п=£(со|£0; • • •» хп) после м
наблюдений и проверке условия Если
наблюдения прекращаются и принимается решение rf,
для которого значение d) минимально. Множество
В называется областью остановки.
Множество вероятностных мер £ на Q называется вы¬
пуклым, если для любых двух его элементов gi и £2 и
любого положительного значения Я< 1 вероятностная
мера Л&+(1—(к) 1^2 также является его элементом.
Обозначим через Ва множество тех l£B, при кото¬
рых принимается решение d при остановке; В= и Ва•
d
Теорема 5. Для любого d множество Bd выпукло.
Доказательство. Пусть ^ и £2 — два элемента
Bd. Тогда для любой решающей функции D(x), для ,кото¬
* Аналогичная (1.8) запись рекуррентного соотношения для функ¬
ции условного риска и построение последовательных правил для слу-
п
чаев с (п)— ^ с к (где Ck не одинаковы) будут рассмотрены далее
[см. (1.25)]. *=1
126
рой требуется по крайней мере одно наблюдение, имеем
W&l d)</•(?.; D); W&■, d)<r&; D). (1.21)
Пусть 5 = Я$1-|-(1—А)$2, где 0<Я<М. Ясно, что
W (6; d) = ЯГ (?,; d) + (1 - Я) Г ($2; d) (1.22)
и
г(6; £>) = Ягв; Р) + (1_Я)Г(6,; £>). (1.23)
Из (1.21) — (1.23) следует
W (6; d) < г (£; D) и Г (?; d) = rnin Г (5; d*). (1.24)
d*
Таким образом, g —элемент Ва, и выпуклость мно¬
жества Bd доказана.
4. Рекуррентное соотношение для функции условного
риска и эффективное построение области остановки. Вве¬
дем функцию условного риска S(%m; т), представляю¬
щую собой условное математическое ожидание потерь,
понесенных статистиком в дальнейшем, при условии, если
проведено т наблюдений и апостериорное распределе¬
ние вероятностей на Q после этих т наблюдений равно
и при использовании наилучшего решающего правила
5(£0; 0) = рв).
Аналогично теореме 1, для функции 5(|; т) выполняется
следующее рекуррентное соотношение:
S(£; /ft) = min [min W (?; d\ rri),
L d£D*
*?«+,+ JS(5„; m+\)p{y\b\ m)dy^, (1.25)
—CO
где Сн — стоимость проведения /г-го наблюдения; min W (5;
d£D*
d; m)—риск при остановке в момент т\ р(у|£; т) —
плотность условного распределения вероятностей для ре¬
зультата (m-fl)-ro наблюдения при условии, что после
т наблюдений получено апостериорное распределение
| на Q.
127
Рекуррентное соотношение (1.25) позволяет эффек¬
тивно находить область остановки для наилучшего из
Г-усеченных последовательных 'правил. В этом случае
S(£; Г) = min W (£; d\ Т), (1.26)
d£D*
а значения S(|; пг) при пг<Т определяются рекуррент¬
ной формулой (1.25); область остановки — это множест¬
во gm, для которых
S(£w; //z) = minl^(S; d;?m)] (1.27)
область продолжения наблюдений — множество £т, для
которых
S (Sm; Щ <min№ (5; d\ пг). (1-28)
По следствию теоремы 3, построенное таким образом
наилучшее усеченное решающее правило при Т-+ оо пе¬
реходит в байесовское неусеченное.
Рекуррентное соотношение (1.25) охватывает как ста¬
ционарные, так и нестационарные задачи последователь¬
ного анализа, для которых c^^=const = c, W(%\ d\ пг) за¬
висит от момента .времени пг и условное распределение
Р{У|£; т) также может зависеть от времени т.
§ 2. Задача о различении нескольких
простых гипотез
1. Конкретизируем общие рекуррентные соотношения,
полученные в § 1, для задачи о различении двух простых
гипотез, и построим байесовское последовательное ре¬
шающее правило для этой задачи.
Пусть пространство й состоит из двух функций рас¬
пределения Fx(х) и F2{x) с плотностями f\(x) и /2(х).
Пространство D* = {d\\ d2}. Стоимость наблюдения с, ве¬
совая функция потерь задается матрицей штрафов
II W(Fi; dj) || = || Wij ||; i, j = 1, 2; WU = W» = 0.
Априорное распределение S0 — (/?°; p°t); апостериорное рас¬
пределение после п наблюдений, (р" ; р"), определяется по
формуле условной вероятности
128
Ри=РП4 lfi(xn)% p"h '/*(*»), n^l {i= 1, 2). (2.1)
Условный риск S(/?,; p2; n) удовлетворяет рекуррентному
соотношению (1.25), которое принимает вид:
В момент усечения Т S(pu p2,T) = R(pt, р2< Т). Область
продолжения наблюдений С определяется условием 5 (/?,,
Pi, n)<R(pu Ръ, га), а ее границы — точки, отделяющие
множества Bt, В2, где
Так как эти множества выпуклы (см. § 1) и содержат
точки (/?,=0, рг=1) и (/?,= 1, рг = 0), причем /?,-[-
—|— р%=Е 1, то области остановки —это отрезки
<с'; />2=1 — Pi} и {\и*р^\—с"\ рг=\ — /?,}.
В стационарной задаче, где /г(х), f2(x) не зависят от
момента наблюдения, с = const и момент усечения Т -► сю,
предельное значение S(pl9 /?2, п) при Т-^оо (соответ¬
ствующее наилучшему неусеченному правилу) не зависит
от п.
k
k
(2.2)
Риск при остановке /?(/?,, рг\ ti) равен
R(Pu рг\ п)= min {W^p^w^pb}. (2.3)
/=1.2
S(Pi, Pi, n) = W11p1-\-W21p2
И
S(P 1, /?2, Л) = ^12/>1+^22/?2-
9—1092
129
Уравнение (2.2) тогда принимает вид:
S(a: As) = min Rip^ pt); c +
k
k
Точки pl=zc', Pi—l—c" — это точки, в которых мини¬
мум в (2.4) переходит со второго члена на первый (можно
исключить /?2=1—Pi)- В области продолжения наблюде¬
ний
Последовательное решающее правило состоит в вычис¬
лении апостериорной вероятности рп после наблюдения х„
..., хп и проверке условий рп<с', р"^ 1—с". При
р"<с' принимается решение ds: „истинно f2“, при р"5? 1 —
— с" — решение dx: „истинно при с'<С.р"<£1 — с"
делается еще одно наблюдение, дающее хп+1, вычисляется
р"+х и снова выполняются проверки.
2. Общее решение уравнения (2.5) в случае двух близ¬
ких гипотез имеет вид (как будет показано в п. 3):
Вывод этой формулы [41] основан на том, что S(plt рг)-
как видно из равенств (2.2) —(2.4), должна быть однород,
130
к
(2.5)
где Y„ y2 — некоторые константы,
ОО
—ОО
ной функцией первого порядка по /?,, /?2. Заметим, что
2л = 1. и ФУНКЦИЯ & (Ри Pi) = Y.CtiP^nPb гДе
подчинены условиям
^Ctj = 0;
(2.7)
удовлетворяет уравнению (2.5). Разность S (/?,, /7г)
— Sf (ри p2) = G(p1, р2) удовлетворяет уравнению
(Pl, JgL
—со \
^М£)_. Р.М*) jV^/. (x)dx-_
^phfh(x) ^PhfkW )Y
OD
= f G(p4i (x); ptf2{x))dx при (pu p2)£C (2.8)
вследствие однородности функции G(pu рг) по ри р2 и
условию
0(Рг, А)1(Л. РИ-Я(Р» Л).
Общее решение уравнения (2.8) в случае двух близких ги¬
потез дается функцией + (см- далее п. 3).
3. В задаче о различении N простых гипотез f 1 (*) р* (*)»“*»
^лММ*) имеем аналогичные п. 2 соотношения
р"~ЧЛх*)
Pi = /V ч ; Л (р,. ... . РЯ)=
= min
00
с+ f S.
— 00
VM*»)
k
N | J
JJwWu ; S {p,} = min J «(/>,);
(2.9)
PifAx)
^Phfk (X)
J Phfk (X) IX (x) dx J . (2.10)
9*
131
Общий вид решения уравнения (2.10) исследовался в рчботе [41]. Как
и в п. 2, для функции = — &{pj) получается уравнение
G {!/,) — Г О (Ji/'lll ly р (*) i/т =
i [I^\¥
СО
= j G {pjfi(x)} I* W dx> (2.11)
— CO
общее решение которого надо найти.
Введем новые переменные q3 = In pJ9 / = 1,2,..., ЛА и функцию
5(?,) = (?{е«<}:
Уравнение (2.11) можно записать в виде
со
G{<7,} = J G{q, + &qj}<({&qJ}dbql...dAqN, (2-12)
—СО
где Д<7; = In fj (х), а <р {&q3} можно рассматривать как совместную
плотность распределения случайных величин Дqj, связанных форму¬
лами
tq3L\nfj(x) (2.13)
со случайной величиной х, имеющей плотность распределения {*(*)•
Общее решение уравнения (2.12) записывается при помощи преобразо¬
вания Фурье. Пусть функция
~*vAq _> °° N
М W = je у (&q)dAq= ^ J| [f, (x)]vV (х) dx.
—со у=1
Тогда общее решение уравнения (2.12) записывается в виде
(• —> -> ->
G (q) = \ е *<7 Ф (v) dv,
-> ->
где ф (v)—функция, отличная от нуля лишь в тех точках v, в кото¬
рых М (v) = 1. Следовательно, обший вид функции
N
G(a. .... Рк)= J IT (/»j)Vj ф (v)rfv. (2.14)
i= i
причем ф(>)^0 лишь в тех точках, где M(v) = l. Вследствие одно*
N
родности G{pj) должно быть также ^ Vj = 1.
/=1
132
Итак, общее выражение для 5 (plt..., pN) в области продолже¬
ния наблюдений имеет вид
N
■s (Pi> = ^ с*зРл In Pj+j" Г1 (РзУ1 Ф (v)dv. (2.15)
i. J j= 1
где сц3 удовлетворяют условиям (2.7), а значения v, в которых ф(у)^0>
являются корнями уравнений
N
= М(7)=1.
;=i
В случае двух близких гипотез такими точками v являются асимп¬
тотически (1,0) и (0,1).
Действительно, в случае двух гипотез vt + v2 = 1 * и остается
найти корни уравнения M(v, 1 —v)= 1.
Имеем
00
M(v; 1 - v) = j Ы*)е’ 'nWfdX = M{ *’
—00
где f i (v) — характеристическая функция случайной величины £ =
= \n(fi(x)lf2(x)) при гипотезе Нх. Но в случае близких гипотез
имеем асимптотические соотношения [47]:
' 2М {£!#!> = — 2М {К\ Н2} — D {К\ Hi} = 0{^\Н2}
(причем старшие моменты £ являются малыми более высокого поряд¬
ка, чем М$, D?), поэтому
ь (v) = ехр {ШК — v2D£/2} = ехр {(v — v2) DK/2},
и для выполнения равенства <р, (v) = 1 необходимо, чтобы v = О или
v= 1.
->
Произвол в выборе обобщенной функции Ф(у) (которая может
иметь дельтаобразный характер, ф (v) = (v — v&)> если уравне-
k
N
ния M(v)= 1 и 2j vfc=l имеют изолированные корни v&)h в выборе
/=1
начений ci3 остается устранять, используя условия на границе области
продолжения наблюдений.
При N>2 определение S(pu Pn) при помощи при¬
веденных здесь формул затруднительно. Эффективное
построение последовательных решающих правил для
ряда задач о различении многих гипотез будет дано
в §5-7.
133
4. Условия на границе области продолжения наблюде¬
ний. Выше уже было указано, что на границе Г области
продолжения наблюдений выполняется равенство
S(Pi, Рг,-, PN)\r = R(Pi, Рг,-, Лу)|Г. (2Л6)
Другое условие в случае малых приращений А/7 за одно
наблюдение, или непрерывности марковского процесса
pit) при непрерывном времени наблюдения, состоит
в непрерывности первых производных dS/dpj на границе
(исключая точки, разделяющие различные области В* —
области различных решений при остановке):
dS dR_
dPi |r — dP>
Здесь функция
(2.17)
S
{Pi, PN) = c+ f 5 I I V Pkfh {x) dx.
(2.18)
В области продолжения наблюдений (обозначим ее С) функ"
ции и 5 {pj} совпадают; в области остановки В S ^
Зз 5. Предполагается, что S имеет непрерывные первые
производные; это условие выполняется, если оператор, вхо¬
дящий в (2.18), достаточно „сглаживающий”; dS/dpj сов¬
падает с производной dS/dpj, если предел берется изнутри*
области С.
Имеем в случае непрерывного марковского процесса
P(t)
S{p, t)=cAt + J R(p-\-Ap)P(A~p\'p, t)dAp-\-
(р + Др)€В
-f j S (p + Ap\ 14- At)P (Д~P I ~p, t) dAp.
(p + bp)zc
* Здесь S и R рассматриваются как функции М—\ переменной
N
рх pN_j. а‘ pN исключается из условия V /?* = 1.
/3
134
Здесь Р (Ар | р, t)~ условная плотность распределения для
приращения Ар за время At, которую можно аппроксими¬
ровать (с точностью до членов порядка о (At)) гауссовской
плотностью с параметрами
М{Арк\р, t} = akAt и M{ApkApe\p, t} =bkeAto(At).
Заметим, что интеграл
j ApkP(Ap\p, t)dAp = Ck\r~At-\-0(At),
вн¬
если Е+ — полупространство, отделенное плоскостью, со-
—>
держащей точку Ар — 0, а интеграл по дополнительному
полупространству Е~ равен—C^yAt -j- О (At), где Ск — не¬
которая конечная, не зависящая от At величина. Пусть р—
точка границы. Так как р (t)—марковский процесс с непре¬
рывными траекториями, то интегралы по области В и С
равны* (с точностью до о (At)) интегралам по малой окре¬
стности точки р в области В ив области С, причем уча¬
сток границы, лежащий в_этой окрестности, можно аппрок-
—> *-> —> ->
симировать плоскостью. Представив R(p-{-Ap) и S(p-\-Ap)
отрезками рядов Тейлора по Ар, получим тогда, что в точ¬
ке границы
sfp, 0 = сД* + 3(Я , + 4<) + ^2|C,(*L_ *L) +
+ 0(&). (2.18')
/ч
Так как величина dS(p, t)jdt конечна, то в точках границы
должно быть dSjdpk = dRjdpk (6 = 1,.., N—\).
5. В задаче о различении двух близких гипотез** из
* Так как для непрерывного марковского процесса [3]
р -*• -> ->
\ Р (Д/71 р, t) dtp —о(Ы) при любом фиксированном е^>0 и Д?-*0.
I bp I >£
** Заметим также, что приближенные формулы Вальда [30] без
учета «перескока» являются асимптотически точными при малых
приращениях Api, А/?2 за одно наблюдение. Использование их для
записи риска для последовательного критерия отношений вероят¬
ностей (ПКОВ) приводит к выражению, совпадающему с (2.6) для
байесовского правила, эквивалентного данному ПКОВ.
135
формул (2.6), (2.16) и (2.17) следуют уравнения для
определения границы Г. Уравнения границы можно за¬
дать в виде p\=Xip2, pi=hp2, а для параметров Яь Я2,
определяющих Г, получаются уравнения
(А, - Я2) (с* --А-J = ClWtl - ctW„,
2 сл In -£-+(Я, - Я2) ^ + ^=ctW „ + с2Г12, (2.19)
где обозначено
ОО
Сг=С/ ^fl(x)lnf^dxi
—ОО
ОО
c2=cl
—ОО
В случае Wia/ct=-Wtl(ct = k уравнения (2.19) упро¬
щаются и принимают вид:
21пА + (А + А-‘) = 6; Я, = -^А; Я2=^.
При & —юо А монотонно возрастает. При больших 4 Ях;
^k — 2\nk.
Уравнения (2.19) определяют Яь Яг как непрерывные
функции от W\2 и W2\, для которых существуют обрат¬
ные функции W\2(%u Яг), W2i(Яь Яг), определяющие зна¬
чения штрафов, соответствующие байесовскому правилу
с данными границами pi=Xip2, pi = %2p2- Последние по¬
лучаются, если систему уравнений (2.19) при фиксиро¬
ванных Ях, Я2 разрешить относительно Wi2 и №21-
В общем случае, в задаче о различении двух простых
гипотез из соотношений (2.2) — (2.4) для риска следует,
что Яь Я2—непрерывные функции от Wis, W2\. При этом
Я1 непрерывно и монотонно зависит от W]2 при фиксиро¬
ванном W2i (с фиксировано); Я1 =91(^12; W21); %2 не¬
прерывно и монотонно зависит от W2i при фиксирован¬
ном W12 (рис.4.1); (запишем Л.2 == q>2(^21; ^12)). Поэтому
существуют и непрерывны обратные функции W\2(X\; W21)
и W2l (Я2; W12).
Уравнение
136
(2.20)
при фиксированных значениях 0 < Я2 < Я, всегда имеет ре
шение. Действительно, при фиксированном Я, и W2, —
= ^(1Ч~я*) имеем U?21) = c(l + Я,)/Я, и <?2{W21;
U^,2 (Я,; W2l)) = X1; при W2t-yoo имеем lFla (Я,; W2t)^ со,
а Wtt(Xtl Г21))-0 [30].
Вследствие непрерывности функции ф2 от W2\, суще¬
ствует корень уравнения (2.20); обозначим его W%\ (Яг, Яг).
Рис. 4.1. График функции риска S(pi) и математическо¬
го ожидания потерь при остановке mm{W\2pu
№21(1—pi)}; р'и р" 1 — границы области продолжения
наблюдений; h—p'ili^—р'\)\ ^2=p"i/( 1 —p"i)•
Значения W2\(Xu ta) и W12(A,i; №21 Я,2)) определяют
штрафы, при которых байесовское правило имеет грани¬
цы с заданными параметрами Я,2. Существование та¬
ких штрафов при любых A,i>A,2>0 будет использовано
в следующем параграфе.
§ 3. Оптимальность последовательного
критерия отношений вероятностей
для различения двух простых гипотез
Построенные в § 1, 2 байесовские последовательные ре¬
шающие правила обращают в минимум математическое
ожидание риска. В задаче о различении двух гипотез для
байесовского правила, соответствующего априорным веро-
137
ятностям гипотез р°г р\(р\—^—Z^)» математическое ожи¬
дание риска равно
где р(/?р р§ — вероятность принять гипотезу Я2, когда
истинна Я,; Ех(р\, р§ — математическое ожидание време¬
ни анализа при истинности гипотезы Я,; аналогично
а(/?Р Р§ — вероятность принять Нх при истинности Я2, и
E2(P°i> Р%)— среднее время анализа при гипотезе Я2. Гра¬
ница области продолжения наблюдений не зависит от апри¬
орных вероятностей (р\, /?°) (см. § 1), но ими определяется
начальное положение точки (/?|г, р") [см. рекуррентные
формулы (2.1) § 2], от которого зависят средние времена
достижения границы , (р°{, р%) и Е2 (р\, /?°) и вероятности
а(/7Р Р%1 и ?(/??> Р%) — вероятности попадания на разные
участки границы при истинности гипотезы Нх или Я2.
Если для какого-либо последовательного решающего
правила D вероятности
то, так как байесовское правило обладает минимальным
риском, из (3.1) следует, что
т. е. среднее время анализа для правила D больше.
Априорные Еероятности (/?>, /?2), однако, не всегда мо¬
гут предполагаться известными, и желательно иметь такой
критерий для различения гипотез Нх и Я2, в построении
которого они бы не участвовали.
Таким является последовательный критерий ороше¬
ний вероятностей для различения двух простых гипотез
(см. [30] гл. 3). Последовательное решающее правило
при этом состоит в следующем. Строится отношение
правдоподобия
(3.2)
т
т
(3.3)
138
и сравнивается с постоянными порогами А и В (А > 1,
133.63*0).
Если Л, то принимается гипотеза Я,; если Lm^B,
то принимается гипотеза #2; если В<CLm<^A, то делает¬
ся еще одно наблюдение, дающее хт+1, строится Lm+i и
снова сравнивается с порогами А и В.
т
Отметим, что Ц /j (хг) — это условная плотность веро-
/=1
ятности для наблюдаемых значений хи...,хт при истинно¬
сти гипотезы Hj(j— 1, 2); по формуле условной вероятно¬
сти
Р (х19 , Хт | Яj) Р (Яj) = Р (хj, ... , Хт\ Нj),
2
£ Р C^i» ••• ^j)>
7=1
так как
т j щ
П/. (*0 / П /г = •••, ^т|Я,)/Р (л:,, ... , ДСт|#,),
/= 1 / г=1
P(Hj) = p°, P(Hj\xu... ,хт) = рТ, ТО значение Lm свя-
зано с /?™, р™ соотношением:
U=(pyfi)(p?lp?)- (3.4)
Из § 2 следует, что при любых jfi, /?°(0</?°<1,
— 1—Р\-)' -Л» В(А> 1; 0<5<1) можно подобрать
такие значения штрафов WX2 — Wl2(p^ ; /7^ ; Л; 5), W21 =
■=^21 (/?° ; 5 -Л; в), чтобы байесовское решающее пра¬
вило, соответствующее априорным вероятностям р° , рР и
штрафам ; Л; В), совпадало с последователь¬
ным критерием отношений вероятностей с порогами А и В.
Для последовательного критерия отношений вероятно¬
стей (ПКОВ) пусть аир — вероятности принятия гипотезы
Нх при истинности #2 и гипотезы Я2 при истинности Я,
(соответственно), а Ех и Е2— средние времена анализа при
Я, и Я2*. Для байесовского правила, соответствующего
* Свойства последовательного критерия отношений вероятностей
были подробно изучены в [30], где, в частности, указаны формулы,
позволяющие находить значения а. р. Еи Е2, соответствующие дан¬
ным порогам А, В и функциям fi(x), ?2(х)- Поэтому здесь они не
приводятся — см. [30]. При Л>1, 0<£<1 имеем а + р<1.
139
Р №О I *^1» • • • » %гп) — Р • • •, Хт\ Нj)
Поэтому для любого решающего правила D
(3.5)
Если правило D, так же, как и ПКОВ, обладает не за¬
висящими от /?°, р° значениями a(D), |3(D), Е{^\ Е{^\ то из
соотношения (3.5), выполняющегося тождественно по
Таким образом, последовательный критерий отношений
вероятностей является оптимальным: среди всех последо¬
вательных решающих правил, обладающих вероятностя¬
ми ложных решений, не превышающими заданных зна¬
чений а, р, он имеет наименьшее среднее время анализа.
В случае, если априорные вероятности /?°, р° известны
и используется правило D, зависящее от /?°, риз соот¬
ношения
1. Пример. Рассмотрим задачу о различении двух
сложных гипотез (п. 2 § 1):
будет следовать
в этом случае может бытъЕ[D) (/?°; /?°) < Zfj, а Е(^] (р/?°)>
>Е2.
§ 4. Марковские достаточные статистики.
Меры информации в задачах статистических
решений
Hi: ft {х, о)
У~2п о
е (х )2/2°2
140
Пространство О состоит из функций /, (лг, о), /2 (х, о), при¬
чем дисперсия о2 принимает всевозможные значения, а2 > 0;
подмножества о из Q обозначим
<■> (*'; д) = {fi (*> о); <3 £ A}, t = 1, 2.
Пусть задана априорная вероятностная мера ;0 (о) на Q:
где
Р\ + Р\=1* \Pi?)d*=\. (4-D
0
Апостериорная вероятностная мера |ш после т наблюде¬
ний равна по формуле условной вероятности
Г Р (*1» •••» Хт I ®(^®)
Sm = &(co|£0; Х1,...,Хт)=^ (4.2)
J Р (*1> •••» хт | 0) (^®)
S3
В рассматриваемом случае формула (4.2) принимает вид
£ [о) (/, А) | S0, хj,..., Хгп\ —
m I 2 °° ш
ПМ**; «)/>(’)* УрЧ f
A ^=1 j ]= 1 о Л=г1
n/i(^;®) = (j^7) ехр |— 5](*к — «Л2з2|- (4-3)
где
Если ввести функции от выборки Г, (лг,,..., хт) Xt
i=i
т
и Тг (хи ..., хт) — jcf, то, как видно из формулы (4.3),
/=1
зависимость 5(ш | л:,,..., xm) от л:,,..., хт выражается толь¬
ко через Г, (*,,..., хт), Тг (х„ ..., хт) и /га.
2. Марковские достаточные статистики. Совокупность
фуНКЦИИ L (xi9 ..., Xtjj) (-^i> •••» Л-т)» ••• , Lfr (Xj, ..., Xm)} i
от выборки хх,...,хт, такую, что апостериорная вероятно¬
стная мера на Q после наблюдения х,,..., хгп зависит лишь
141
от L (хг,..., хт) и не зависит от самих отдельных значе¬
ний х1г..., хт, будем называть достаточной статисти¬
кой.
В примере, рассмотренном в п. 1, L=(TU Г2; т).
Если достаточная статистика L(xu ..., хт) при увели¬
чении числа наблюдений т образует марковский про¬
цесс, то значения условного риска (п. 4 § 1) S(g; т) за¬
висят лишь от L, т, и можно перейти от 5(|; т) к функ¬
ции условного риска S(L-, т) (которую обозначаем той
же буквой 5).
Попадание | в область остановки В эквивалентно
тогда попаданию значений статистики L в некоторое
множество в Л-мерном пространстве. Построение байе¬
совского решающего правила сводится к определению
этого множества остановки. Таким образом, введение
—>
марковской достаточной статистики L позволяет в зада¬
чах о различении сложных гипотез перейти от простран¬
ства функций | (мера £(со) есть функция множества со)
к конечномерному пространству значений L.
3. Пример достаточных статистик. Задачи с мешаю¬
щими параметрами. Пусть пространство Q состоит из
плотностей вероятности р(х; а; 0), зависящих от пара¬
метров а, 0 (быть может, являющихся векторными).
В задачах о различении сложных гипотез, касающихся
значений параметра а, в то время как 0 может прини¬
мать всевозможные значения из некоторых множеств,
параметры 0 называются мешающими. Так, в примере
(см. п. 1) неизвестная дисперсия а2 является мешающим
параметром.
Если Ti(x 1, ..., хт), ..., Th(xu ..., Хт)— такие функ¬
ции от выборочной точки (х\, ..., хт), не зависящие от
а, 0, что условная плотность вероятности Р(х:ь ..., хт\а, в)
имеет вид
Р (xlt ...,хт\ a, b)=g(T,(*,,..., л:т);Tk {хи ...,Хп)\а; 0)Х
Ж h (Xi, ..., Хт), (4.4 )
(где g, h — некоторые функции), то статистика L =
= {Т\, ..., Th} является достаточной. Действительно, тогда
условная плотность вероятности Р(а; 0|jci, ..., xm) зави¬
сит только от Т\(х\, ..., Хт), ..., Tk(x 1, ..., хт):
142
п, л, . Р{хи...,хя а; в)Р.(«; в) _
Р (а; в х.,.... хт) = 7 —
\ Р{хи ...,хт\а-, в)Я0 (a; 6)<tod0
g(r, Г*; а; 0)РО(«: 8)
]§(Г, Тк\ а; в)Р0(а; 6)<tod0
Функции {Гь ..., Тк), удовлетворяющие условию (4.4),
в математической статистике принято называть достаточ¬
ными статистиками для оценки параметров а, 0. Они хо¬
рошо изучены и известны для ряда семейств распреде¬
лений [29, 54,]. Приведем некоторые примеры.
Экспонентные семейства:
Р (х; 0) = с (0) ехр | Qj (в) Т, (лг)| h (х)
или
Р(х; 6) = с (0,,..., 0А) ехр {У,ЯЛК...,Ь)ТАХ)\КХ), (4.5)
где Qj(0), h(x)— произвольные функции; с (0)—постоянная
нормировки. Пусть (хи ..., хт) — выборочная точка; тогда 5
т
функций У7^(л:*), / = 1,2,...,5 образуют достаточную ста-
/=1
тистику.
Для гауссовского распределения
(2тга2Г1/2е“(^а)2/2а2
т
при известной дисперсии о2 статистика Xi является до-
/=i
статочной для оценки а; при неизвестной дисперсии доста-
точными статистиками для оценки параметров а, о2 будут
т т
/=1 /=1
В схеме испытаний Бернулли для оценки параметра р—
вероятности успеха (л;=1) в одном испытании — достаточ-
п
ной статистикой является Т (*,,..., хп) = mjn, где ^ Xi=m\
г=1
л;* = 0; 1,
ИЗ
4. Меры информации в задачах статистических реше¬
ний. При использовании статистики L, не являющейся
достаточной, среднее время анализа до вынесения реше¬
ния возрастает по сравнению со строго оптимальным
правилом, основанным на марковской достаточной ста¬
тистике, но зато может достигаться большая экономия
требуемого «объема памяти», простота реализации и
устойчивость по отношению к изменениям законов рас¬
пределения. Можно ввести точные количественные меры
относительной потери информации при переходе от одной
статистики к другой и получить оценки удлинения вре¬
мени анализа в зависимости от их величины.
В задаче о различении двух гипотез, Н\ и Я2, кото¬
рым соответствуют плотности вероятности i/i(*) и Ы*)»
следуя Кульбаку [35], можно оценивать среднюю инфор¬
мацию, содержащуюся в х для различения гипотез Н\
и #2, при помощи следующих выражений (известных под
названием информационных чисел Кульбака—Леблера):
Пусть fi(xj, ..Хп) обозначает плотность вероятности
для п наблюденных данных при гипотезе Я,-; /(1:2; п) и
1(2: 1; п) —соответствующие информационные числа.
При независимых наблюдениях
Пусть Мп обозначает выборочное пространство точек
х = (х19хп), представляющих реализации п наблюдений.
Предположим, что Мп разбито на два непересекающихся
множества Ех и Е2, и при х£Ех принимается гипотеза Ht
(гипотеза Я2 отвергается), при х£Е2 принимается Н2 (от¬
вергается //j). Вероятность ложного выбора Я, равна
а= ; вероятность ложного выбора Я2 равна (3 =
f1(x)dx. Тогда имеют место следующие оценки [35]:
l(\:2)=^fl(x)ln{^dx,
(4.6)
(4.7)
Доказательство опирается на следующие соотно¬
шения (35):
1) -^^-dx> (4.9)
I ш
f ft (x) dx
f E
> i /, (x) dx In -7—_> при любом множестве E;
i \h(x)dx
E
2) [fi(x)lnf-1~dx=\][f1{x)lnb^-dx-, (4.10)
м{ M*) Ы*)
3) |/i (x)dx= 1 — a; j*f2 (x)dx= 1 — p. (4.11)
Я2
Минимальное значение a*, соответствующее решающе¬
му правилу, для которого р„—<>0 при /г —с», вследствие
(4.8) должно удовлетворять неравенству
/(1:2; л)>(1-[д1п!^Ъ + р„1п
“я
При независимых наблюдениях
1 —ап
ill (1:2) > (1 — р„) 1п1^Ь + р„1п_Ьч,
откуда следует
7(l:2)>lim-^-1п4-, (4.12)
п-> оо
или а* > ехр {— nl (1: 2) -|- о («)}. Можно указать правило
(т. е. разбиение Мп на Е, и Ег), для которого эта ниж¬
няя граница достигается. Пусть Ех — множество точек
(xlt..., хп), в которых
Л (■*■«)•••/. (*») ел(/(,:2,“е)/2 (*«)• (4.13)
Из закона больших чисел следует, что для любого
в>0 и р>0 при достаточно большом п
р :|п 1:!% <'о-%-•}<!>■ «■«>
Интегрируя (4.13) по Е,, получаем
13* Р {Я, | Я,} > е"(/(1;2)-е) Р (Ех | Я.), (4.15)
т. е. е~"(/< 1:2)~s) > Р (£', I Я2)=а (л), тогда как Р (В, | Я,)>
>1-р.
Существует столь медленно убывающая последователь¬
ность е(/г)—*■(), что соответствующие ей значения (3(/г)-^0
при /г—► оо*. Заменяя е на в (/г) в (4.13), получим решаю¬
щее правило, для которого
а (л) < e-"/(l:2)+0("); р (л) — 0. (4.16)
Итак, из (4.12) и (4.16) следует, что
lim -£-1п4- = /(1:2). (4.17)
я-оо «
Аналогично, можно показать, что для минимального
значения (Г , соответствующего решающему правилу, для
которого все еще ап—►() при /г —сю,
lim JLln-i- = /(2:1). (4.18)
«-►00 п Рп
При различении двух гипотез — Н\ и Н2 — потери ин¬
формации при переходе от статистики X к статистике Y
можно оценить величинами [35.]:
00 -» / 00
Т.= f f,(x) In-ЬЩ-dx f g,S) ln^^-dy,
i f-W /JL *•<*>
L = f /. Й In ^Щ-dlc I [ g2 (y) In dy,
J M*) / -L
* Например, такие e (л) и (J (л) можно построить следующим об¬
разом: пусть е& —> 0, р*-*Опри /г -► оо; при п^пъ (зависящего от
«л, М имеем Я | — In f2 (jcw) < 7 ““ e* | < P*- Положим
e(n) = eft при л»<л<лк+1; тогда p(n)<(Sft при n>nk. При
п-* со будет одновременно е (п) -> О и ^ (п) -* О,
ие
где X, Y могут быть векторами разной размерности; здесь
М*)> М*)— плотность распределения вероятностей для
значений х реализации случайной величины X при гипоте-
зах Я, и Я2 соответственно, a gt (у), g., (у) —плотность ве¬
роятности для значений у при Я, и Я2.
Действительно, как видно из (4.17), (4.18),
n(X)/n(Y) = 1/yi, где п(Х), «(К)—число наблюдений,
при которых достигаются одни и те же вероятности лож¬
ных решений а и р>а при использовании статистики X
или Y соответственно; в случае, если р<Са, n(X)/n(Y) =
= 1/Y2.
Для последовательного решающего правила такие же
соотношения выполняются для среднего времени анали¬
за п0р(Х), /гср(У), так как при заданных а, р имеем [30]:
М {п (X) | Я,} = 7-^Т); М {п (Y) | Я,} =
М {п(X) | Яг} = -^L; М {п (Y) | Яг} =
где
К* « eln-i^i + (l — a)ln-j-L-;
и поэтому
пе:,{Х)/пС] (К) = Л- (1:2)/Ix (1: 2)
при гипотезе Я,, или
ncv(X)lnc,(Y) = Iy(2:\)lIx(2:l)
при гипотезе Яг.
Из неравенства (4.9) следует, что для любой стати¬
стики
У = {Ух («1, —,Хп),...,Ук (*„ ...,хп)},
где (хи хп) = х — результаты п наблюдений,
Ы1:2)</_Л1:2); (2:1) </^ (2:1),
У х у X
причем равенство достигается лишь в том случае, когда у
является достаточной статистикой [35]. Действительно,
10* 147
где Е^ — множество тех х, при которых у (х) £dy — эле-
—►
ментарной окрестности точки у, поэтому вследствие (4.9)
Если у является достаточной статистикой для различе-
■4 —►
ния гипотез Я, и Я2, то отношение правдоподобия f, (x)/f2 (х)
—> —> —>
зависит только от значения у = у (л:) и поэтому на множе-
5. Статистическое доказательство теоремы Шеннона.
Рассмотрим случайное кодирование, при котором кодо¬
вые слова строятся при помощи независимого случайно¬
го выбора символов а из некоторого алфавита D. Иска¬
жения символов в канале связи независимы; канал
в
задается матрицей р* вероятностей перехода символа а
на входе канала в символ р на выходе.
При помощи случайного кодирования, можно полу¬
чить множество кодовых книг, содержащих каждая N =
= еНп кодовых слов длины п (где Н — заданная кон¬
станта).
Предположим, что первый раз берется для передачи
кодовое слово из одной кодовой книги, второй раз — из
другой и т. д. Используемые кодовые книги известны,
конечно, на входе и на выходе канала.
* С точностью до бесконечно малых, которые не дадут вклада
при предельном переходе к интегралу (4.19) от соответствующих ин¬
тегральных сумм.
[f1(x)ln-^-dx. (4.19)
J g,(y) J M*)
Равенство в (4.9) достигается, если
fi (*)
f%(x)
E
x£e e
стве E-* отношение fl(x)/f9(x) постоянно*.
148
Найдем вероятность правильного декодирования Р\
при такой процедуре передачи (т. е. оценим частоту пра¬
вильных решений). Величина Р\ совпадает со средней
вероятностью правильного декодирования по множеству
всевозможных кодовых книг, получаемых при помощи
независимого случайного выбора символов.
Пусть хи = (а*"*, ..., а(и))—переданное кодовое слово,
х„ = (а^*, ..., —другое слово из той же кодовой книги
(ифи); £/ = (В,,..., р„)—принятая последовательность сим¬
волов на выходе канала.
Результатом одного опыта, т. е. единичной выборкой
из генеральной совокупности, являются Xi, ..., Xn и у.
Задача декодирования состоит в различении следую¬
щих N гипотез [57]: гипотеза Н& состоит в том, что пере¬
давалось k-e кодовое слово (6=1, ..., N). При истин¬
ности Hh случайные величины х\, ..., xN и у имеют сле¬
дующее совместное распределение вероятностей
Р (*i, •••> xN, y\Hh) = p(y\xh)p(xk) f] p{xt), (4-20)
1фк
П П
где р (y\xh) = П Р (Ui\x{*) — П Р *k) ~ вероятность пере-
(=1 /=1
хода Хи на входе канала в у на выходе*;
п
P{Xi)= П Р (1у
1=1
Здесь ра — вероятность выбора символа а при случайном
кодировании.
Для различения N гипотез Нi, ..., HN достаточно
N раз решить задачу о различении двух гипотез Нк и Ни
сk=l, ...,7V).
При различении гипотез Hk и Hk будем использовать
только значения хк и у. При истинности гипотезы Hki
совместное распределение вероятностей для хи и у равно
p(xh, y\H^-=p(xh) p{y\xk), (4.21)
* В отличие от нее, обозначим через рх (у) условную вероят¬
ность для у при условии, что фиксировано ха\ нетрудно видеть, что
Рх (y)=:P(y\xs)j при s = u, рх (у) ~р(у) при s=£u, если и номер пе¬
редававшегося кодового слова.
149
а при истинности НчI, как нетрудно видеть, хи и у неза¬
висима, причем
р(хц, У\Л'к) = р(Хк)р (У), <4-22)
где р (у) — безусловное распределение у.
Символы (х^\ yt), стоящие на разных местах * = 1,
2,..., п, статистически независимы при гипотезе Ни и при
гипотезе Н,к■ „Информационное расстояние* между распре¬
делениями (4.21) и (4.22) равно
= [р{хь)р (y\xh) In Ppf^ dXK<iy = nI,
где величина / равна
! = ^Р(4?)РЫ*Г)>п * dx[k,dy,-
«.P
здесь = ^ pap^ — безусловная вероятность появления
а
символа [3 на выходе канала.
Обозначим а(«) вероятность принять гипотезу_#&при
истинности Ни, a Р(«)—вероятность принять Hk при
истинности Hk. _
При таком способе различения гипотез Hk и Hk, когда
используются только Xk и у, мы находимся в точности
в условиях, принятых в п. 4 при выводе соотношений
(4.16) — (4.18); следовательно, при различении Hh и Hk
можно обеспечить
а(п) = е~п,+о1п); р (л)-*0.
Правильное распознавание N гипотез будет дости¬
гаться, когда при различении Hh и Hk принимается Hh,
если k — номер_передававшегося сообщения, а при раз¬
личении Hi и Hi принимается гипотеза Ни 1фк, (/=
= 1, ..., N). Вероятность одновременного осуществления
нескольких событий можно оценить, зная вероятности
150
каждого из этих событий, при помощи неравенства
Буля [36]:
/ м \ м
р (д 1 - £ о -.р (Sd), (4.23)
где St — некоторое событие, Р (Si)—его вероятность.
Вследствие (4.23), вероятность правильного декодирова¬
ния удовлетворяет соотношению
1 _ р (Л) _ (М — 1) а (п) < р1 (п) < 1.
При п—+оо имеем
1 — р (я) — (еНп — 1) е-"/+°(л) < !Р, (п) < 1.
Отсюда следует, что при #</ вероятность правильного
распознавания гипотез (правильного декодирования)
стремится к единице при п—^оо.
Рассмотрим также случай #>/. Пусть гипотезы
#i, ..., HN имеют априорные вероятности р\, ..., pN;
пусть pk=l/N = e-Hn — гипотезы априори равновероятны.
Рассмотрим величииу
г [* / | rr v 1 Р(х 1» •••» У\Нь\ w
J J Р и •••> Xfji y\Hh) In “дг X
£ -- xN, y\Hs)
5=1
Xdxt ...dxNdy. . (4.24)
Нетрудно показать, что
J—nI-\- con,
где o)n—*0 при п—+оо. Действительно,
/?(*i 0|Я*) /ФЫ
/V
£ у\н')
s=' Si
При фиксированном значении у и случайных xs, случай¬
ные величины £s — p(y\xs)/p(y) независимы, причем УИС8 =
По закону больших чисел, при л — оо с вероятностью
единица
151
lim ‘ =
«->«= N и p(y)
s= 1
Доказательство невозможности сколь угодно точного
различения еНп гипотез при #>/ проведем от против¬
ного.
Обозначим pfe(n) вероятность отвергнуть гипотезу
Hk, когда она верна, ат(п)—вероятность принять Hk,
когда верна Hi.
Если при п—>-оо вероятность правильного распозна¬
вания гипотез стремится к единице, то хотя бы для одно¬
го k (в действительности, как нетрудно видеть, для по¬
давляющего большинства) должно быть Рь(и)—Ю при
«—оси ][>*(«)-О-
1ф1г
Пусть Ek — множество, при попадании в которое при¬
нимается гипотеза Hk, Eh — дополнение к этому множе¬
ству во всем пространстве возможных выборочных зна¬
чений. Представив интеграл (4.24) в виде суммы двух
интегралов — по Eh и по Ek — и используя соотношение
(4.9), находим
J = п1 + а>„ > (1 - («)) In LzMll +
рк (1 — Р* («)) + >jPAb («)
+ (я) In ^ •
1 — Ph+Phhin) — 2, р‘а,к
s^k
При Рь(я)—-0 и £ ash(n)—+0, отсюда следует
S^k
nl> — In Pk + о(1)
(здесь о(1) обозначает член, который стремится к нулю
при п—^оо). Априорная вероятность ри равна pk = p.sz=
= е~пН. Поэтому получим nl^nH+o (1) и, следователь¬
но, /^Я. Это противоречит принятому вначале допуще¬
нию /<Я.
Следовательно, при 1<Н вероятность правильного ре¬
шения не стремится к единице.
Итак, при Я</ возможно сколь угодно точное разли¬
чение еНп сообщений при п—^оо, а при Я>/ безошибоч¬
ное различение невозможно,
т
Выберем теперь вероятности ра, Используемые при
построении кодов, так, чтобы величина / была макси¬
мальна:
Р
С = шах / = шах V] рар[ In (4.25)
{Ра} {Ра} и Ь
а,р
Величина С является, пропускной способностью канала
связи.
Доказанные соотношения Р\(п)—*1 при #</ и
Р\-Л1 при #>/, п—^оо, составляют содержание изве¬
стной теоремы Шеннона о пропускной способности кана¬
ла [37].
В [36] Б. С. Флейшманом проведено статистическое до¬
казательство теоремы Шеннона с использованием комби¬
наторных методов.
Пример. Передача сообщений в двоичном симметричном
канале связи. Пусть (*,,..., хп) — принятая на выходе канала связи
двоичная последовательность, 0; 1. (у^ ; ...; у„ ) =Yh, k=\, ..., N—
набор сообщений, которые могут передаваться; yf= 0; 1. Гипотеза
Ни состоит в том, что передавалось £-е сообщение, гипотеза Bh —
передавалась какое-либо другое сообщение из N возможных.
Предположим, что различные кодовые слова (у^ ,..., ) были по¬
строены при помощи случайного выбора 0 и 1 в качестве символов,
причем 0 выбирался с вероятностью р0 = /?, а 1 — с вероятностью
/?,== 1—/?.
Предположим, что искажения символов в канале связи независимы;
р\ — вероятность перехода символа а на входе в символ (J на выходе;
a, (J = 0; 1. Для симметричного канала вероятности р\ и рj одина¬
ковы; пусть /?j = = q.
При истинности Ни
{0 с вероятностью р(\—q)q (I—p) = q0,
1 с вероятностью pq + (1 — р) (1 — q) = 1 — q0=q1
k
независимо от значения у* .
Пару zf = (yf\ х$) можно рассматривать как случайную вели¬
чину, принимающую значения
(1,1) с вероятностью (1 — /?)<7Г,
(ЬО) , (I— p)q0,
бсЛй Уп не Совпадает с переданным словом, и
(1,1) с вероятностью (1 — р) (1 — q)\
(1.0) . (1 -p)q,
(Н i)
если Yn совпадает с переданным словом.
От исходной задачи о различении гипотез Ни и Нк можно перейти
к задаче о различении гипотез Н0 и Нх относительно величин
Раскрывая (4.26), находим
/ = <7 In <7 + (1 — <7) In (1 — q) — In <7, — (1 — <7,)ln(l — qt),
Максимум / при фиксированном q (канал связи задан) достигается,
как нетрудно убедиться, при р— 1/2 и равен
Таким образом, при р=1/2 и Н<С возможно различение еНп
сообщений, причем при п—*оо вероятность правильного распознава¬
ния стремится к единице. Величина С называется пропускной спо¬
собностью канала.
6. Пример оценки времени анализа при различении сложных
гипотез. Пусть /г(*|0)—плотность распределения дл*< х— резуль¬
тата одного наблюдения — зависящая от «мешающего пара¬
метра» 0, при гипотезе /=1,2. Предположим, что 0 — случайная
величина, принимающая различные значения в ходе наблюдений;
/?(0)—плотность вероятности для 0.
2^(/ = 1,..., ti).
Вычислим информацию
а, (3=0; 1
где
Я1=РЯ + 0 —Р)(1 —^7)-
С = max / = In 2 + q In q + (1 — q) In (1 — q).
p
Тогда
OO
/*(*)= $!М*1»)р(в)<*е
—00
и
00
—00
Вследствие неравенства (4.9) имеем
154
/(1:2)= j 11[х)ыМ£ах'
f ton ^*(£.L0)£.(0) игнл —
J j fJ (x I 8) P (8) In f^x | 0yp (0 у —
-00 —00
00 00
J | j f,(*|9)ln rf*}p(8)rf8. (4.27)
—00 —00
Это соотношение может быть полезно для оценки числа на¬
блюдений, необходимых для обеспечения заданных вероятностей
ложных решений.
Пусть, например,
н» ■■ h (*) = (г™*)-'/2 ехр {- (х - ан)г/2о2},
( = 1,2; at — а, аг = 0; ®д < а2 <
Р (®2)== const.
Тогда
а?
1
1 Г л2 л2
i
Для заданных а, р вследствие (4.8) число наблюдений п таково,
что
2(ej — ®о) Г» Р j_ . » , Р
^[Mnrii + U-SOln 4-J-
аг In (°|/°о)
По сравнению со случаем известного значения и® время анализа удли
няется по крайней мере в v раз, где
о” In (df/og) '
Если неизвестное значение о2 £ [о^, а^] постоянно в ходе наблю¬
дений, то после наблюдения xlt...,xn априорную плотность р (в2)
можно заменить на апостериорную, рп[(<*2) = Р (°21 xlt... , х„); тогда
00
/<(*n + l)= J fti(*n + i |®2)^n(°S)rf®2-
—00
155
Для приближенных оценок можно положить
Pn (®2) = const при о2 £ [о2(1 — |/"2/п); а2(1 +j/'2//i)],
где о2 — истинное значение а2;
ОО
Г f1(Хп)
/„ (1:2)=
—ОО
ст2(1 + V2//Z)
*
1 \ -а2 а2 г 2 1
** S„1^, ^ Л'-1 -31]•
*
П
/(1:2; л) =*2] Л(1:2)а:-^-[-п—§-(1п„+С)]
Л = 1
п
^ здесь использовано соотношение V (\fk) In п +С,С = 0,577^ .
k=\
Необходимое число наблюдений п приближенно определяется равен¬
ством
а2 Г 2 1 В 1—8
L'2—"з“ (ln ^ln
При а-»0, т. е. в случае большого числа наблюдений, отношение
п/п* -> 1, где /2* — число наблюдений при известном значении о2 = а2 ;
начальная неопределенность значения о2 с ростом числа наблюдений
устраняется.
7. Информационные оценки для приращения среднего
риска при изменении законов распределения вероятно¬
стей. Пусть 0 — неизвестный параметр, х=(хи ..хп) —
наблюденные значения (число наблюдений п фиксирова¬
но); j?(*|0)—условная плотность распределения для х
при значении 0 параметра; po(Q) —плотность априорного
распределения для 0. Пусть функция Ь(х) представляет
собой выбранную оценку для 0 по результатам наблюде¬
ния х\ W(Q\ Ь(х))—весовая функция «потерь» при
истинном значении параметра 0 и значении Ь(х) оценки
параметра (0 = 6(x)). Средний риск, соответствующий
плотности вероятностей
р(х, 6) —/?(*|0) р0ф) (4.28)
156
равен
7= j W (в; b (x)) p {x, 9) dxdb. (4.29)
Рассмотрим другую плотность распределения вероят¬
ностей р(х, 0) для х и 0. Пусть тогда при применении
той же решающей функции Ь(х) риск равен
Пусть р(х, 0) =0 в точках, где р(х, 0) =0; положим
и(х, в)=р(х, в)/р(х, 0). Аналогично п. 4 определим «ин¬
формационное расстояние» между р(х, 0) и р(х, 0) при
помощи соотношения
Можно оценить изменение среднего риска |г—г| при
замене плотности распределения вероятностей р(х, 0) на
р(х, 0) в зависимости от величины 1(р: р). Такие оценки
позволяют судить об устойчивости решающего правила
по отношению к изменению законов распределения ве¬
роятностей.
Вывод этой и некоторых других оценок основан на реше¬
нии следующей задачи на условный экстремум [38]:
Найти функцию и0(х, 6) (р„(х, 0) = «„(*, 9)р(х, 6)),
для которой
I (Pt:P) — § \ио{х> 9)ln«0(%, Щр{х, b)dxdb = тп, (4.33)
Jиа(х, 6) 1^(6; b(x))p{x, b)dxdb — r. (4-35)
157
г
= j W (9; b (х)) р (л:, 6) dxdb.
(4.30)
J р(х, 9)
= J[«(x, Ь)1пи(х, б))р{х, b)dxdb. (4.31)
Пусть W (6; b (л:)) < W0 = const. Тогда [38}
I(p: p)^±\rln-^+(W0-r)ln^=+:}. (4.32)
г W0 — r
W0 — г
при условиях
J и0 (х, 9) р [х, б) dxdb = 1,
(4.34)
Используя метод множителей Лагранжа для решения
задачи на условный экстремум, находим, что
и0(х, e) = exw,(9;i,(A:)) + ^, (4.36)
где константы К и ц следует определить из условий
j ew (0; & w)+,i ~ ^ dxdQ = j ^ (4 37)
j W(b; b (х)) (9; ь (х))+14 р (.х, 6) dxdb = г. (4.38)
Предполагая, что Я и ^ как функции от г дифференцируе¬
мы, получим из (4.37), (4.38)
— r(W*) — r2 ’
Р (г)== r p2 > (4.39)
где
г(Г2) = (Г2(0; b(x))p0(x, 0)dxd0.
Имеем также
/ (p0 :p) = j (ЯГ +1») ex^+li ~p (x, 6) dxd0 = Яг + ц.
Обозначим I (p0:p) = I0(r); с учетом (4.39) находим
А/о(г) = Я(г); /,(7) = Я(7) = Р(гУ=0. (4.40)
Разлагая /0(г) по степеням г — г, получим
/. (г)=4-*' (7) (г —7у + 4-я" (А) - ')* (4-41)
при некотором h£(r, г). Из (4.41) следует оценка
f _ г| < 1^2 [7(Г2) -7*11 (рГр) , (4.42)
если (г — г) Я" (h) > 0 при h £ [г, г].
Если Г (в; &(*))<№„, то г (IP)— r2<W0r-r* и поэ¬
тому
I'M— 1 - 1
г (Г2) — г2 ^ г(И7, — г) •
158
Отсюда с учетом (4.40) получаем
М'Г 1
г»
г1п4-+(И^о — Г) In
W» — Г 1
что и доказывает оценку (4.32). В частном случае, когда
W (б; Ь(х)) принимает значения 0 и 1, неравенство (4.32)
(при Wa = \) позволяет оценивать вероятности ложного ре¬
шения.
Отметим, что в частном случае, когда 0 принимает два
значения, б, и 02 (гипотезы Я, и Н2), b (х) принимает два
значения, б, и 02, W(0; b(x)) = 1 при х£Ег (где — об¬
ласть принятия гипотезы Я,), W(0; &(*)) = О при х£Еи
и /7 (л:, 0) = />(х|0,), р(х, Ь) = р(х|02), имеем r= 1—р и
г = а, и неравенство (4.32) совпадает с неравенством (4.8),
полученным ранее.
Аналогично в случае N гипотез (0 = 6, 0^), обозна¬
чая через aik вероятность принять гипотезу Ни при истин¬
ности Hi, полагая W(0; b(x)) = 1 при x£Ej, 0 при x£Ej,
где Ej — область принятия /-й гипотезы, р(х, б) — p(x\bt),
р(х, 0) = p(x'fi^), находим r = akj, r = a,j, и неравенство
(4.32) дает:
I (i:k)> [aftjln^-f(l — aftj)ln-j (4.43)
(/ = !•,..., N).
При j = k, обозначая aA/li=l—j3ft, находим:
'(':*)=>[(•(4.44)
I {ilk) > akt lnT^+(l - ahi) In
В [38] получена следующая оценка для приращения
среднего риска:
— V r(W2)2I(p:p)<r — r<Vrr(W2)2I(p:p). (4.45)
Вывод ее несложен. Имеем
г — r= JlF(0; b{x))\p{x, б) — р(х, b)\dxdb =
159
= Ju7(6; Ь(х))\\—и{х,Ъ)\р{х, в)dxdb<
<Jr(6; b{x))[\—u(x, Щ~р{х, 6) dxdb <
В
<
W2 (6; b(x)) p(x, 0)яЫ0 X
x/l (1 — и (x, Ь)Ур(X, 6) dxdb, (4-46)
где u(x, 0), как и выше, равно р{х, Ь)/р(х, 0); В — мно¬
жество точек (х, 0), в которых и (х, 0) •< 1.
Имеем также
I {Р'-Р) = \и{х, 0)Inи(*> 0)Р(х, 0)dxdb =
=|(И*. в)—i|+2ft<irsr(“(^ !),}х
X~p[x,<S)dxM=±- f Р (х. в)dxdt, (4.47)
где значение h(x, 0) лежит между и(х, 0) и 1. При запи¬
си соотношения (4.47) использовано представление функ¬
ции и\пи отрезком ряда Тейлора в окрестности точки
и= 1:
и 1пы = (и — 1) -j— (ы — 1)2/2А.
Имеем далее
Пр-р) > 4 j (u{h\x!7)l)i Ptx>6)dxdb>
в
> \ j (и {х, 0) — I)2 р (х, 0) dxdb, (4.48)
в
так как на множестве В и(х, 0)<1 и h(x, 0)<1. Отсюда
и следует второе неравенство (4.45); вывод первого не¬
равенства аналогичен.
Если функция потерь ограничена, №(0; b(x)) ^W0,
оценку (4.45) можно записать в виде
— V 2W0rl(p:p)<7^ г <V^Wa7l {р:р). (4.49)
160
Оценки для приращения байесовского риска. Полу¬
ченные выше неравенства (4.32), (4.45), (4.49) можно
использовать также для оценки изменения байесовского
риска при переходе от плотности р(х, 0) к р(х, 0). При
этом, как и выше, число наблюдений фиксировано; под
байесовским риском понимается
где №—множество всех возможных решающих функций.
Пусть Ь* — байесовское решающее правило, на кото¬
ром достигается нижняя грань в (4.50). Пусть Го(р)>
>г0(р). Имеем'
Так как г0 (р)^г(р; Ь*) и функция f {х) — {х — a)l\f х
(лг>0, а^>0) убывает при уменьшении х, то
Аналогично в случае оценки (4.32); пусть, например^
г, (р) > г0 (р) и Ъ* — байесовская решающая функция для
случая плотности р (х, 6). Тогда
убывает при уменьшении г. Следовательно, оценка (4.32)
выполняется для байесовских рисков при г0(р)>г0(р).
При го(р)<г0(р) возьмем в качестве решающей функции
байесовское правило Ь*, соответствующее плотности
ro(/0) = inf f W (0; b(x))p(x, b)dxdb, (4.50)
Го (P) — Го (P) < VШоГо (p) Цр-р) ■
Го (Р)
+ (U70-r(/>, 6*)) In
W,-r(p, Ь*)
W0-r0 Cp)
p)
Значение r0(p)<r(p; b*). При r>r функция
r \n4=r-\-(Wo — r) In ——;=■
(4.51)
r
W„-r
11—1092
161
р(х, 0). При r<r функция (4.51) убывает с уменьшени¬
ем г, и оценка (4.32) снова выполняется для байесов¬
ских рисков.
Информационные оценки изменения риска при редук¬
ции выборочного пространства. Величина 1(р\р') удов¬
летворяет неравенству
I(p:p')^J(p)-J{p')y (4.52)
где
J(p)=^p(x, Ъ)\п PfglLdxd6;
р (*) = j Р (*, б) rf0; /7 (0) == ^р(х, 0)dx. (4.53а)
Интеграл J(p) называется количеством информации по Шен¬
нону, содержащимся в х относительно 6.
Аналогично
р'(х')^ $//(*', 6')dV,
//(0') — jV(x', б') dx?. (4.536)
Если заменить 1(р:р') разностью J (р) — J (р')
(4.52), (4.53), то полученные ранее неравенства (4.32),
(4.45), (4.49) являются оценками изменения байесовского
риска при редукции пространства (х, в) с плотностью
распределения вероятностей р(х, 0) к пространству (x'.Q')
(причем р(х, 0) порождает р'(х', в')), где х, 0 и х', 0'
могут быть пространствами разной размерности и при¬
роды: так, х, 0 может быть непрерывным, а х', 0' — ди¬
скретным, х — п-мерным, ах' — одномерным, и т. п.
При совпадении пространства значений 0 и 0' полу¬
чаем важный частный случай: оценки изменения риска
при редукции выборочного пространства.
Доказательство сформулированного выше утверждения
основано на том, что можно установить соответствие между
редуцированным пространством х', 0' с мерой р'(х', 0') и
м
полным (исходным) пространством х, 0 с мерой р(х, 0)
Rtf м
[38], причем J (p) = J(p’)t байесовские риски г0(р(х, 0)) =
= г0(р’(х'/б')) и I(p:p) = J(p) — J(p) = J(p)-j(p’).
162
Как и при выводе формул (4.43), выбирая весовую
функцию потерь со значениями 1 и 0, можно получить
оценки изменения вероятностей ложных решений.
Например, в задаче различения N гипотез, обозначая
aik — вероятность принять гипотезу Нк при истинности Я,-
при использовании N-мерного пространства значений до¬
статочной статистики L и через щи— ту же вероятность
при построении решающего правила на редуцированном
пространстве L, находим
Если значения х'(х) редуцированного выборочного
пространства, соответствующие значениям х исходного,
представляют собой достаточную статистику для оценки
параметра 0 (см. п. 4), то J (pf(xf\ Q))=J{p(x\ 0)), и
приращение байесовского риска равно нулю (здесь пред¬
полагается, что пространства 0 и 0' совпадают).
Неравенства (4.32), (4.45), (4.49), где 1(р:р) заме¬
нено разностью / (р)—J (р) (4.52), в случае редукции
пространства 0 могут использоваться для оценки влия¬
ния «мешающих параметров» на величину байесовского
риска.
8. Задача обнаружения в многоканальной системе.
Пусть Hh — гипотеза о наличии сигнала в k-м канале,
(0 = 0ь), k=ly ..., N; Н0 (0 = 0О)—гипотеза об отсут¬
ствии сигнала во всех каналах. На выходе k-ro канала
в момент времени т наблюдается величина Хи{т), имею¬
щая гауссовское распределение с дисперсией а2 и мате¬
матическим ожиданием, равным нулю в отсутствие сиг¬
нала и равным а при наличии сигнала в к-м канале. Ло¬
гарифм отношения правдоподобия гипотез Ни и Ни после
т наблюдений равен
Статистика L = (Ln ..., LN) является достаточной в за-
_ N
даче о различении гипотез Н0 и ^0= И
k=i
Рассмотрим также статистику [32]
/(/?) — / (р) > aih ln^—1-(1 — <*<й)1п
1 — «in
1 — «к»
т
(4.54)
L (т) = max Lu (т).
(4.55)
163
Оценим потери информации при использований стати¬
стики (4.55) по сравнению с достаточной статистикой
L = (Li, ..., Ljy).
Пусть априорная вероятность отсутствия сигнала во
всех каналах равна У2, а при наличии сигнала его присут¬
ствие априори равновероятно для каждого из каналов.
Тогда
—СО
+ Ро [Ц In pt (L\ (L) ] (4-56)
где Po{L)—плотность вероятности значения L (4.55)
при отсутствии сигнала во всех каналах, P\{L)—при
наличии сигнала в одном из каналов.
Случайные величины Lk(m) при разных k (.k =
= 1, ..N) статистически независимы; поэтому имеем
Р0 (L) = N (2ic md)~1/2 X
X ехр {— (L-\- mdj2yj2md} (ф | )'У 1, (4.57)
где обозначено d = a2[a2\
X
= \e~uV2dU' (4.58)
— ОО
При N^md, для определения Po(L) можно исполь¬
зовать асимптотические формулы [54, гл. 28.] для распре¬
деления максимума из N независимых гауссовских вели¬
чин с одинаковыми средними значениями —md/2 и ди¬
сперсиями md:
Р0 (L) —1/2 In N/md ехр {— v (L) — e~tl(£')}, (4.59)
где
v(L) — L]f 2 ln N/md — Y(md ln N)j2 —
— 21nN + (ln2* + ln21niV)/2.
Для статистики L — (LLN) находим в рассматри¬
ваемом случае:
164
Jlp) = x { P, Й In 2— dL +
'+тУБе‘'
]=l
N
IS'1’ .
+4- fp.f^in—ч— l- ,4'M>
/=1
где P0(L)— плотность распределения L при отсутствии
сигнала во всех каналах,
Р0 (L) = (2тс/nd)~~NI2 ехр |— ^ (L j-|- /7zrf/2)2/2w^|;
РЛ(Ц — при наличии сигнала в одном из каналов:
N
я1(5=4£(“г х
/=1
X ехр | — (Lj — md/2y/2md — ^ (Lt- -j- mdl2f/2md |.
Графики функций (4.56) и (4.60) показаны на рис. 4.2.
Разность /(/?)—J (р') не превышает 0,01 и с ростом
числа наблюдений т быстро стремится к нулю.
На рис. 4.3 приведены графики „информационного
N
расстояния* (4.6) между гипотезами Н0иЬ\0= U ^ при
k=l
использовании статистики L(m) (4.55) и достаточной ста-
—>
тистики L — (L,,..., Ln) при истинности гипотезы Н„ (кри¬
вые /,) и гипотезы о (кривые /2):
/,= j Л (£)//>,(£)№
—00
165
I2 = j P, (L) ln \PX (L)/P0 (L)] dL. (4.61)
—00
Вычисление интегралов проведено на ЭВМ М-20 ме¬
тодом Монте-Карло. Из результатов, приведенных на
—>
рис. 4.3, следует, что при переходе от L к L, при обеспе-
Рис. 4.2. Сравнение количества информации J(p) (для
различения гипотез Н0 и Но) при использовании доста-
точной статистики L=(LU ..., LN), при числе наблюде¬
ний /г, и количества информации J (р') при использова¬
нии статистики L— шах Z.&.
1
чении решающим правилом одной и той же вероятности
«ложной тревоги» и вероятности пропуска сигнала, необ¬
ходимое число наблюдений возрастает не более чем на
3-5%.
166
Рис. 4.3. Сравнение величин Л, h при использовании достаточной
статистики L—(L\t ..., Ln) (сплошные линии) и при использовании
—>
L— max Lk (пунктирные линии). С ростом md кривые для L
1 <k<N
и L сливаются. При md—>-оо имеем —*-md/2, /2—*-fnd/2—lnW.
§ 5. Эффективное построение
последовательных решающих правил
в задачах распознавания
многих гипотез и сложных гипотез
1. Рекуррентное соотношение для функции условного
риска и определение оптимальных границ области про¬
должения наблюдений. Как было указано в § 4, если
L(x\, ..., хт)—марковская достаточная статистика
{хи ..., хт — результаты т наблюдений), то от услов¬
ного риска 5(|; т) можно перейти к функции условного
риска S(L; т). Для функции S(L-y т) должно выпол¬
няться рекуррентное соотношение:
167
S (L; /га) = min [W (L;tn);M {S (L-\- AL; /ra-f-l)| L; m}-\-cm+i],
(5.1)
соответствующее соотношению (1.25) для S(k;tn). Здесь
M {S (L -f- AL; /га-f-1)| L; m) — условное математическое ожи¬
дание величины S (L-{• AL; т1) при условии, что после
/га наблюдений статистика принимгет значение L; W(L; т) —
математическое ожидание штрафа за ложные решения
при остановке; 5 (L;m) —условное математическое ожида¬
ние будущих потерь, понесенных статистиком, при условии,
что после /га наблюдений L (*,,..., xm)—L. Стоимость уже
проведенных наблюдений в S (L; /га) не включается. Если
включать стоимость т. наблюдений, полагая S (L; /га) —
-»■ й
= 5 (L; /га) + ^ Cfi — математическое ожидание суммарных
А=1
-> ->
потерь в конце процедуры, при условии Lm — L, то соотно¬
шение (5.1) записывается в виде
S (L; /га) = rain [А (L; т);,М {S(L AL; tn-\-\)\L; /га)],
(5.2)
где A (L; /га) = W (L; т) -)- \ Сь — математическое ожида-
k=i
ние потерь при остановке, при условии L(xu ..., хт) = L.
Для условного риска, соответствующего оптимально¬
му решающему правилу (обладающему наименьшим ма¬
тематическим ожиданием потерь) соотношения (5.1),
(5.2) должны выполняться. Действительно, в момент /га
имеются две возможности: 1) прекратить наблюдения и
принять решение, тогда математическое ожидание по-
—>
терь будет равно A(L; /га); 2) сделать еще одно наблю-
дение, тогда величина L изменится на A\L, и математиче¬
ское ожидание потерь в итоге всей процедуры будет рав¬
но условному математическому ожиданию величины
—> —>
S(L + AL; т + \) при условии, что статистика принимает
значение L jb момент т. Выбирается та из них, при кото-
торой ожидаемые потери меньше.
168
Условное математическое ожидание М {S (L т
1) | L; т) — это интеграл
М {S (L + Д L; /и + 1) | L; те} = J S (LJ+ ДL;
m+l)P(&\L’,m)'dbL,
(5.3)
где Р (&L IL; /гг) — плотность условного распределения ве-
роятности для приращения AL при условии L(xlt..., хт)=
— L. Если при т — Т необходимо прекратить наблюдения, то
S (L; Т) = А (Г; Г), или S (L; Г) = IF (L; Г). (5.4)
Соотношения (5.1) — (5.4) определяют оптимальное
Г-усеченное последовательное правило (доказательство
аналогично проведенному в § 1). При Т—►<х> оно перехо¬
дит в оптимальное неусеченное.
Граница области продолжения наблюдений опреде¬
ляется равенством
S(L; m) = A(L;m), или S(L;m)^w'{L-,m). (5.5)
Если L(xu ..., xm)—марковская статистика, не яв¬
ляющаяся достаточной, соотношения (5.1) — (5.5) опреде¬
ляют последовательное решающее правило, обладающее
наименьшим математическим ожиданием потерь среди
всех правил, при. построении которых используется толь¬
ко данная статистика L.
2. Случай непрерывного времени наблюдения. Этот
случай асимптотически соответствует случаю малых при-
ращений AL за одно наблюдение и большого числа наблю¬
дений.
-У -У
Если возможные приращения AL величины L за один
-> —>
шаг малы, то функцию S(L-J-AL; m-\-1) можно пред-
ставить отрезком ряда Тейлора в окрестности точки L:
S{L-\-AL; /я-f 1)^jS(L;ot + 1) +
169
А4 {S (L —j- AL\ in -j- 1) | L\ tti} =5r S (L\ m -|— 1) —j-
+ S а5(Г^+1) м{ьи\Ъ,т) +
k=\
y t <66>
k, Г= I
Введем функции
ак (L;tn) = M {ALk \ L; m}\k — 1,n;
o2r (L; m) = M {ALhALr | L; m}\ k, r — 1, (5.7)
Тогда рекуррентное соотношение (5.1) примет вид:
S (L; от) = min (L; //i)j Cm+i -(~ 5 (L\ tn —(— 1) —|—
dS (L\m + 1)
k=\
I 1 VI 2 ,f . d*S(L-m+ 1) 1
+ ~T 2i e»r(L'/") IA J’ (5'8>
ft, r=l
с точностью до членов порядка О (М (AL)3).
—>
При непрерывном времени наблюдения, если L(^) — не¬
прерывный марковский процесс, то
М {Мп = Lh(t + At) - Lh (t) | L, t} = a„ (L, t) At + о (At);
M {ALh ALr | Ц t} = з2кт (L, t) At-\-o (At),
0(M(AL)*) = o(At), (5.9)
и из рекуррентного соотношения (5.8) следует уравнение
в частных производных:
в области продолжения наблюдений. На границе области
выполняются условия:
(5.11)
dS(L; t)
dU
dW(L;t)
П). (5.12)
Г€г
/.€r
Доказательство последнего условия проводится при по¬
мощи рассуждения, аналогичного приведенному в п. 4
[см. (2.18')]. Неизвестную оптимальную границу области
продолжения наблюдений следует определить из
этих условий.
Отметим, что для численного решения рекуррентные
интегральные соотношения (5.1), (5.3) более предпочти¬
тельны, чем уравнение в частных производных параболи¬
ческого типа (5.10) со свободной границей, определяе¬
мой условиями (5.11), (5.12).
3. Задачи о различении N гипотез [32]. Рассмотрим
решение некоторых задач о различении N гипотез. В за¬
даче различения N гипотез Но, Н\ #n-i статистика
L{x 1, ..., Хт)={р(Н0\хи ..., Хт), . . ., p{HN-X\xu . . ., Хт)},
где p(Hi\x\, ..., хт) обозначает апостериорную вероят-
ность i-и гипотезы после наблюдения Х\, хт, является
достаточной и (при независимых наблюдениях) марков¬
ской. Таким образом, оптимальное последовательное ре¬
шающее правило принципиально определено в п. 1;
границы областей принятия гипотез определяются рекур¬
рентными соотношениями (5.1) — (5.5). Но многомер¬
ность статистики, по которой должно приниматься реше¬
ние, затрудняет практическое определение и реализацию
указанного правила.
Рассмотрим построение последовательного решающе¬
го правила для задачи о различении N гипотез при вы¬
бранной одномерной статистике L.
171
Рассмотрим такие задачи, в которых одна йз гипотез,
скажем Я0, противопоставлена всем остальным и состоит
в отрицании #i, ..HN-ь например, если требуется
отождествить предъявленный образ с одним из N—1
данных образов или принять решение, что он не соответ¬
ствует ни одному из них и является совершенно новым.
Пусть G(m)—плата за наблюдение в течение единицы
времени (от т—1 до т, или за одно /n-е наблюдение);
(т) —штраф за выбор Я0 вместо Нк; 38 (т) —штраф
за выбор какой-либо гипотезы Hk вместо Я0. Математи¬
ческое ожидание штрафа за выбор Ht вместо Hj при /,
/~ф~0, 1ф'] предполагается малым по сравнению с Л (т)
и ^(т), и поэтому не учитывается.
Обозначим через t текущий момент времени наблю¬
дения, через Лk(t) отношение правдоподобия истинно¬
сти или ложности гипотезы Hk(k= 1, ..N—1) после
наблюдения в течение времени t. В качестве статистики
L(t) возьмем:
L(l)— шах 1пЛ*(/). (5.13)
Последовательная процедура состоит в сравнении величины
L(t) с переменными порогами A(t)\\B{t). При достижении
верхнего порога принимается та гипотеза #ft, на которой
достигается шах AS(^) = A*(/); при достижении нижнего
IsSssSW-1
порога принимается гипотеза Я0.
Если L(t)—процесс без последействия (марковский
процесс), то оптимальные переменные пороги опреде¬
ляются точно соотношениями (5.1) — (5.5); если L(t)—
процесс со «слабым последействием», соотношения
(5.1) — (5.5) можно использовать для приближенного
определения оптимальных порогов.
Для вычисления переменных порогов в конкретной
задаче надо определить условное распределение,вероят¬
ностей P(AL|L; т) для приращения AL (при малых AL
достаточно определить условное математическое ожида¬
ние и дисперсию AIL — функции a (L; m), cr2(L; т) —
см. пп. 1, 2) и математическое ожидание потерь при
остановке для данной задачи.
Обозначим через Я, (L; т) и Р2 (L; т) условную (апо-
N— I
стериорную) вероятность гипотезы Я0 = U Hk и гипотезы
k=i
172
Но соответственно при условии, что после т наблюдений
статистика равна L. Тогда математическое ожидание
потерь при остановке процесса наблюдения равно
А (L; т) — min
i=i
Ш. (т) Р2 (L; т) -|- V G (/)
i=i
(5.14)
Если априорные вероятности гипотез h\ и Я0 одинаковы*
можно положить
1+е
Определим также функции a(L;m),o2 (L\m). При малых
приращениях AL величины L за один шаг, можно считать
N-1
a{L\m) = M{M\L\m) ^ £ Rk (L; т) М {Mk | L; /тг},
k=i
/V— 1 '
a2 (L; /я) = Ж {(AL)21 L\m}^ ^ (L; т) М {{ALhf | L; /я},
k=i
(5.16)
где AL&— приращение логарифма отношения правдо¬
подобия Lk(t)=\nAk(t) за один шаг; Rk{L; т) —услов¬
ная вероятность того, что максимальным в момент /пока¬
жется отношение правдоподобия, соответствующее
k-к гипотезе, при условии, что статистика (5.13) дости¬
гает** значения L в момент т.
* Заметим, что если априорные вероятности не одинаковы и из¬
вестно их отношение y=Piapr/P2avr, (5.15) принимает вид
Pj(L; m)^yeLl(\+yeL), Р2Щ т)~ \/(\+yeL). Однако, как прави¬
ло, отношение у неизвестно и его трудно задать; различие априор¬
ных вероятностей лучше учитывать при выборе штрафов «i и J
за ложные решения.
** При малых AL вероятность перескока L(t) с Lt(t) на Lj(t)
(]'ф1) за один шаг М мала, и математическое ожидание прираще-
иия AL за один шаг M{kL\L; т] складывается в основном из при¬
ращения того Lk(t), которое было максимальным в момент t. Члены
Rk(L\ t) учитывают изменение с течением времени вероятности того,
что Lk(t) окажется максимальным.
173
Дальнейшую конкретизацию еоотошений (5.1) —
(5.16) рассмотрим на примере следующих задач.
Задача отождествления.* Пусть Х„ — гаус¬
совские случайные величины с известными дисперсиями
> •••> °л/_1 • Наблюдается также гауссовская величина Y
с дисперсией о2. Гипотезы Я0,Я, ЯЛ,_, состоят в сле¬
дующем:
Я,: {MXt = MY};... ;Я(У_,:
Я0: {MXh=£MY;k = l,2, ...,N — 1).
Примем, что в случае несовпадения средних значений
(MXh ФМУ) разность | MXh—MY\ >5 и можно сложную
гипотезу Ли заменить простой Л*и' {|МХи — К| = 8},
а в качестве Au(t) в (5.13) будем брать отношение правдо¬
подобия для гипотез Ни и Л\*ь- Тогда логарифм отноше¬
ния правдоподобия Lh (t) при независимых наблюдениях
будет иметь вид
г P(xh(l)-y(\yt...;xk(t)-y(t)\MXh=MY) _
* к,~~ шЯ(МО-0(1); ...;xk(t)-y(t)\\M^k-MY\ = S) —
2expj“s д*(()/26*|
= 1п
ехр X (д* (,-) “ 8)2/26*} + ехр [“X (A*(0+»)V2ft|
t
s £ (МО-0(/))'
1=1
о 9 — In ch ч - —
°0 + °а ] °0 + °*
где было обозначено Д/t (/) = Хи (г)—у (г), bk = aQ •
При изменении времени наблюдения на Д/ приращение
ДL величины L можно представить в виде
t t+u
/ * У (Jf»(0 - «/(О) \ 3 У (** (0 - №)
az*=^-th .
.4 1=1 I 1Ы
** \ *1 / «
Условное математическое ожидание М {ДLu \ Lu\ t} равно
174
M {ALh | Lu \ t) •
8AtM (Xk — Y)
bl
2 b\
1-exp (Ь-щ
1/2
(5.17)
Дисперсия приращения ДLh при условии Lk (t) = Lu равна
ЗгД t
D {ALfe | Lh; t}:
b\
1 / r
1-expfi*-^
(5.18)
Остается записать в явной форме выражения для Rh(L\m).
По формуле условной вероятности запишем Ru (L; т) в виде
N— I
Rh(L-,m) = Wk(L;tn) /% Wl(L;tn), (5.19)
1=1
где Wh(L;m) обозначает плотность вероятности того, что
шах Ls принимает значение L и достигается на k-и
гипотезе:
шах Ls — Lk = L.
Если пренебречь корреляцией между Хк — Y,Xi — Y
(что оправдано при то
Wk(L;tn) = |/
2птд2
+ е
ХП[1-ф(2П^'«))+ф(г1 (5.20)
Здесь
zf (L; т)
i | z*i (L; т) | — Sm (MXi — MY)/bf
Y 3*m/6?
z*i (L; tn) = (lnch)-'(tnb2^ — L); / = 1 — 1,
где (Inch)-1 (а)—обратная функция к Inch и; Ф (z)—таб-
г
личный интеграл Лапласа; Ф (г) = (2и)~1/2 ^e~PI2dt.
■—00
175
При Lk > №/2b2h должно быть Rk (L; t) = 0 (полагаем
ЧР*А(1;^) = 0). Значения Lh^>tb2j2b2k не могут получаться
в результате измерений за время и они не должны
входить в область определения функций A(L\t), S(L;t).
Пусть {а, = 0, а2,aN_x}—известная с точностью
до перестановок совокупность возможных значений
{MXh—MY) в случае j5!0; {я'п •••» ^V-i)—соответствую¬
щая совокупность в случае Н0{а\ф0; — 1}.
Тогда имеем
ся из (5.20) подстановкой на место MXi—A1Y величин а*
или a'i.
Аналогично
Формулы (5.21), (5.22) и (5.1) — (5.12) позволяют вы¬
числить переменные пороги. Расчет по этим формулам
осуществлялся на ЭВМ М-20 *.
* Программирование для ЭВМ М-20 и расчет выполнен
Н. Е. Липец.
Ир[1 _ехр(L — №/2bl)]1/2 | Rk (L;l\at,
yv-l
176
Шаги AL и At выбираются (для численного решения)
с учетом известного условия A\t^ (AL)2/max а2 устойчи¬
вости разностного метода (метода сеток) для парабо¬
лического уравнения. Выполнение этого условия обеспе¬
чивает отсутствие накопления ошибки, при последова¬
тельном применении рекуррентной формулы (5.8), в ко¬
торой dS/dL и d2S/dL2 заменяются соответственно первой
и второй разностью
Вычисленные на ЭВМ пороги имеют вид, показанный
на рис. 4.4. (Расчет рис. 4.4 проведен при следующих
значениях параметров задачи:
— 1,4, Gq—-1,6, cl^—-2, #8 — 2,5, Gq — 3, fljo 5,
что соответствует непрерывным наблюдениям, или на¬
коплению большого числа слабых сигналов.) Пороги ока¬
зываются переменными за счет того, что вероятности
и
[S(L + AL)-S(L)]/AL
[S (L + AL) - 2S (L) + 5 (L - AL)]/(AL)2.
L
-1
A(t)
-us
2
3
t
Рис. 4.4. Вид переменных порогов в задаче о различении N гипотез.
12—1092 177
Rh{L\ t) существенно меняются в зависимости от t. Вна¬
чале область продолжения наблюдений более широка;
затем устанавливаются постоянные значения порогов;
наконец, при t=T пороги стягиваются в одну точку
L = In (Я* (Г)М(Г)).
После того, как вычислены пороги, последовательная
процедура определена; реализация ее достаточно проста.
Она сводится к сравнению каждой из величин Lk(t)
с порогами A(t) и B(t) и принятию Нк при Lk(t)^A(t)
или Н0 при Lj(t)^B(t) для всех /=1, 2, ..N—1. При
этом осуществляется различение именно N гипотез: Я0,
Н1, ..., HN-\, а не двух Н0 и Я0, хотя при построении по¬
рогов в приведенных примерах учитывались штрафы
только за ложный выбор Но или Я0.
Если ставится задача различения только двух гипотез,
_ _ N-1
Я0 и jy-о, где Б0= (J Я^, то можно использовать ста-
k=\
тистику
а (о=% л й т=д Р‘к ■ (5-23)
k = \ k = l
если заданы априорные вероятности р°к каждой из гипо¬
тез Нц при истинности В0- (Здесь Р (хх Xt\ HlU) обо¬
значает плотность вероятности значений наблюденных дан¬
ных при гипотезе #&.) При этом условии последовательное
решающее правило состоит в сравнении A(t) с порогами
(которые будут постоянными, если G(m), А (пг), $ (т) и
M{AL\L; т), M{AL)2\L\ пг} не зависят от времени tn).
В этом случае средняя длительность указанной процедуры
для различения Л0 и На близка к длительности построен¬
ной ранее процедуры, основанной на A(t)= max As(t)
(если ее использовать лишь для различения Но и Я0),
как показывают результаты моделирования на ЭВМ.
Реализация указанных_правил различения гипотез
Н0, Н\, ..., HN-! или Н0 и Но связана с накоплением от¬
ношения правдоподобия для каждой из N—1 гипотез как
в первом, так и во втором случае. Поэтому более предпо¬
чтительно первое правило, которое при той же сложности
реализации позволяет распознать все N гипотез.
Можно предложить другую последовательную про¬
цедуру решения задачи различения только двух гипотез,
178
#о и #0, при которой требуется запоминать лишь одно
число. А именно, возьмем в качестве статистики вели¬
чину
т
Lm — У max In Aft (5), (5.24)
— 1
.9=1
где Ak(s)—отношение правдоподобия истинности или
ложности гипотезы Hk, составленное по одному s-му на¬
блюдению. Тогда требуется помнить только одно число
Lm и сравнивать его с порогами. Пороги будут постоян¬
ными, так как M{S.L\L\ т} и M{(^L)2\L\ т} здесь не зави¬
сят от т (пусть штрафы G(m),<A (лг), (т) также не
зависят от т). Гипотеза Я0 принимается при достижении
нижнего порога величиной Lm; при достижении верхнего
принимается решение об отождествлении нового образа
с одним из старых (при этом возможно включение до¬
полнительного устройства, которое отбирает, с каким
именно из старых образов следует его отождествить).
При таком выборе решающего правила мы выигрываем
в объеме памяти в N раз. В числе же наблюдений, как
показывают .результаты моделирования на ЭВМ, проиг¬
рываем не более чем в полтора-два раза.
Задача обнаружения сигнала в многоканальной си¬
стеме. Пусть — гипотеза о наличии сигнала в 6-м ка¬
нале, k=A, 2, ..., N—1; Н0 — гипотеза об отсутствии сиг¬
нала во всех каналах. На выходе 6-го канала в момент
времени т наблюдается величина Xh(m), имеющая гаус¬
совское распределение с дисперсией а2 и с математиче¬
ским ожиданием, равным нулю в отсутствие сигнала и
равным а при наличии сигнала в k-м канале. Логарифм
отношения правдоподобия гипотез Ни я Hh после т на¬
блюдений равен
т
Lh И = -£- J] xk 0) — (5-25)
/=1
В качестве статистики L(m) берем в соответствии с (5.13)*
L(m) = шах Lh(m). (5.26)
l^k^N— 1
.* Как было показано в п. 8 § 4, потерн информации при пере-
—> .
ходе от достаточной статистики L=(Li, ..., Ln) к статистике L
(5.26) малы.
12*
Основное рекуррентное соотношение для функции услов¬
ного риска записывается в виде
S(L; от) = min [Г (L; т)\ j' S{L-\-AL\ т-f 1) X
XP(AL\L; от)dAL-|-G(m—|—1)], (5.27)
где W (L\ tn) — математическое ожидание штрафа за лож¬
ные решения при остановке:
W (L; от) = min [# (от) Р, (L; от); & (от) Р2 (L; от)], (5.28)
где Я, (L; /и), Я2 (L; /и) определяются опять соотношения¬
ми (5.15): Я, (L; /и) « eL/(l + eL); Р2 (L; /и) ^ 1/(1 + eL)-
Условное распределение вероятностей для прираще¬
ния AL является гауссовским;
P{AL\L; /re} = (2it^J (/,; т))~тХ
X ехр {—(&L - М (L; т))2/2® (L; от)}. (5.29)
Вычислим значения M(L\ т) и 19 (L; пг).
Можно записать (5.26) в виде
L(m) <=тах {Ь^^(т); ша xLh(m)}, (5.30)
k^k*
где k* — номер канала, в котором имеется сигнал ^если
_ N~l \
верна гипотеза /,0= |J или при гипотезе #0 —про-
k=i /
извольный номер (сигнал может присутствовать лишь
в одном из N—1 каналов). Обозначим L2 = max Lk (т).
k*k*
Рассмотрим случай N^ma^fa2 (при малых N реше¬
ние проводится вполне аналогично рассмотренной выше
задаче отождествления). Величину Гг можно рассма¬
тривать как максимальное значение в выборке из N—2
реализаций случайной гауссовской величины с математи¬
ческим ожиданием —ma2/2a2. и дисперсией та2fa2. При
N—2'>ma2fa2 для распределения вероятностей величины
Гг действует асимптотическая формула Крамера ([54]
гл. 28), вследствие которой плотность вероятности для Гз
представляется в виде:
Р2 (L) dL = P{L<L2<L + dL} =
180
с точностью до членов порядка 0(l/\n(N — 2)).
При N—2 <tnd Рг (L) определяется формулой (4.57),
где N заменено на N — 2.
Обозначим Li — Lkt(m). Цри гипотезе ,/70 плотность
распределения для Lx равна
Рх (L; tn | Щ — (2лш/)-|/2 ехр {—(L — mdffifimd}, (5.32)
а при гипотезе Я0 равна
Л (L; т | Я0) =;(2iurad)_I/2 ехр {— (L + md^y^tnd}. . (5.33)
Теперь нетрудно конкретизировать формулу (5.25) для
рассматриваемой задачи. Обозначим через R1 (L; т \ #„),
R2(L; /и|Я0) условные верояткости того, что значение
статистики L(m) (5.13) совпадает с Ll (т) или L2 (т) соот¬
ветственно при условии, что L(m) = L и имеет место ги¬
потеза Н0\ аналогично, /?,(£; т\Н0), R2(L; т\Н0) — при
гипотезе Я„. Тогда
Где rf = a2/o2;
°м=/2|п%Г;!)[*+гг-/гзх
Дисперсия L2(m):
с точностью до членов порядка О (1/1п2 (А^ — 2));
математическое ожидание
ML2 (т) = — ~ ^+fmd (у 2 In (N — 2)
Ri (L; т. | Н0) =
Yt \L> Ш I &0) . • 1 О
Ф1 (Ц гп I Во) + Ф2 (Ц т I Но)’
'ML; т |Я„)
181
Вероятности tyi(L; m\h\), г = 1, 2 вычисляются ана¬
логично (5.28):
Ф,(1; т|Я0) = Я,(1; от|Я0)^ Р*{и\ m)du, (5.34)
—ОО
^ L
<j»8(L; m\B0) = P2(L\ от) j’?,(«; от|Я0)
—00
Выражение для Ж (L; /гг) аналогично (5.25) записывается
в виде
00 (L; от) = Ж {Д11 L; от} = Я, (L; от) [Л, (L; от | Я0) -
- R2 (L; от | #.)] - Я2 (I; w) (5.35)
Дисперсия приращения AL постоянна:
£25 (L; m) = a2jo2. (5.36)
Решение рекуррентного соотношения (5.27) и сравнение
5 (L; /гг) с W (L; /гг) определяют переменные пороги Л (/гг)
и В (/гг) для статистики /.(/гг). При достижении верхнего
порога принимается решение о наличии сигнала в том ка¬
нале k, для которого L(m) — Lk(m) — max Ls(m). При
достижении нижнего порога величиной L (/гг) принимается
решение об отсутствии сигнала'.
Рассмотрим теперь задачу о различении N „равно¬
правных" гипотез. Пусть априорные вероятности гипотез
одинаковы. Пусть при выборе неверной гипотезы штраф
равен А(т), при выборе верной — нулю. Стоимость одного
т-го наблюдения равна G (/гг). Статистика {р (Ht | ..., хт);
i= 1,..., N}, где р (Hi | #,,..., хт) — апостериорные ве¬
роятности гипотез, является достаточной. По формуле
условной вероятности р (Hi \ х19..., хт) = Р (х1У...,
I N
хт \ Hi) / ^ Р (#!,..., хт | Hk), где Р (хи ... 9 хт | Hk) —
/ k=\
плотность вероятности наблюденных значений лг,,... , хт
при гипотезе Ни- Так как p(Hi | лг1?..., хт) полностью
определены при заданных значениях P(xl9..., хт\ Hi) =
= Ti (хи ..., хт), статистика {7\ (xlt... , хт), • ••,
Тм{х19..., хт)} также является достаточной. При незави¬
182
симых наблюдениях {7\,, 7"v} является также марков-
ской, но многомерность L = {7\,TN} затрудняет по¬
строение оптимального последовательного правила.
Предположим, что наблюдения независимы и что „рас¬
стояния" между гипотезами одинаковы, т. е.
00
^P{x\Hi)lnP (x\Hi)dx = R„ t=l,..., N, (5.37)
—00
00
| P(x\Ht) ln P (x | tfft) dx = Rt при i=/=k, i, k= 1,... , N.
—00
Если гипотеза Hi верна, M\nTi (лс„..., xm) равно m7?,=
= M {lnTt(xu ..., хт)\Н{}; если гипотеза Hi не верна,
М {InTi (xlt..., хт) | Нк) = mR0. Дисперсия lnTt(xt,..., xm)
предполагается одинаковой при всех i и равной mo2.
Выберем в качестве статистики
L (т) = шах In 7\- (х,,..., хт)—mR9. (5.38)
Таким образом, (5.38) приближенно соответствует лога¬
рифму отношения правдоподобия для апостериори наи¬
более вероятной в момент т гипотезы и среднего значе¬
ния по всем остальным. Последовательное решающее
правило будет состоять в сравнении L(m) с переменным
порогом А(т). При Ь(т)^А(т) принимается та гипо¬
теза #А, для которой L(m) = Тк — шах Тв. При
IsSkSV
L(m) <A (m) наблюдения продолжаются. Для прибли¬
женного определения порога А(т) можно использовать
рекуррентные соотношения (5.1) — (5.12).
Математическое ожидание штрафа за ложное реше¬
ние при остановке приближенно оценивается выраже¬
нием
W (I; т) ~ Л (т) —Ц- (5.39)
1 -j- е
Условное распределение вероятностей для приращения
статистики (5.38) имеет характеристики
M{M\L; m} = Pl{L; т) Rt-\-P2(L; m)R<> — R0,
D{M\L; m} = o2, (5.40)
183
где P1(L; tn) — условная вероятность того, что максимум
Тк -- max Т8 достигается на верной гипотезе Hk, а
P2(L\m)— на неверной. Последние можно вычислить по
формулам
Pi(L; m) — ^i (L; /?г)/[^,(1; ot) + ^2(L; m)\, t = l, 2,
1
Ф» (^; rn)
Y2nmv2
(L—m (Ri—Rq))2
2m<32 . .
e X
X
L+mR0
1
(u—mRp)2
2 mo2
X(A^-l)
У 2 nmo2
1 L2/ma2
W-l
2rcma2
L + mR0 __ (u—mRt)2
f e ^ du
l
К 27imo2
—00
L+mRo (u—mR0)z
!•“
—oo
X
2 me2
й?И
ЛГ-2
(5.41)
При большом числе гипотез ^сг2, вместо
формул (5.41) целесообразно использовать асимптотиче¬
ские распределения, аналогичные (5.31).
Приведенные формулы конкретизируют общие рекур¬
рентные соотношения (5.1) — (5.12) для данной задачи и
позволяют вычислить переменный порог А(т).
Аналогично решение задачи о различении N „равноправ¬
ных" гипотез, если в качестве L(m) берется
L (tn) = max ln Ak (т),
l^k^N
где Ak(m)—отношение правдоподобия гипотез Hk и Hk,
А /**Л 1~ Р (*1* Хт I Hh)
lnAk(m)-ln p{Xv ХтШ.
Пусть наблюдения независимы:
т
P{xt,..., xM\Hi) = {\ P{xk\Hi),
k=l
причем
184
«*]=
Р(х\Нк)
= j,p(^|W»)ln£i|J-g<(* = Rl>0,
«{*»«!'•}=
00
—СО
а дисперсия ln \P (x \ Hh)jP {x | Н<ь)\ равна о2. Эти условия
выполнены, например, в задачах декодирования (см. пример
в п. 5 § 4).
Имеем, как и выше,
5(1; те)<=тт lw (L; т); G-j- J S(L-\-AL; т-)-1)Х
—00
XP(AL\L; w)dALj,
где
W(L\m)~ Л К} + eL); Р (AL | L; т) ~ (2тса2)-'/2 X
X ехр {— (AL — /?,Q, (L; т) — RaQ0(L\ т))2/2а2}.
Здесь Qj (L; //г)—условная вероятность того, что max In Ль=
= L достигается в момент /гг на верной гипотезе при усло¬
вии его значения L; Q0 (L; m) = 1 —Qj (L; m) — условная
вероятность того, что максимально Л* (//г), соответствую¬
щее неверной гипотезе //&:
Q,(L; m) = ^,(L; /»)/[<!*» (I; /и) + ф2(1; /и)].
Плотности вероятности ф, (L; tn) и ty2 (L; /я) равны
(t-mR,)*
Л (Г. т\^ 1 -Р 2та* гТ>Г L-cM^L- т) 1.
V,( ’ ’ у2пта* [ УЮл(Ц т) ]’
"I))»
T2V ' m) V /та* /’
185
где Ф(г) по-прежнему обозначает ^== j* е “2/2 du;
—ОО
(L; т) = tnR0-\-}//из2 (j/"2 in W (т) —
— [ln 4it ln iV (m) -|- 0.846J/2 2 In N (m));
т)~2ШП5Г,(т-1):
N (m)^> mRx\ m\R0\; mo2;
N(m) —число различаемых гипотез (зависящее, возмож¬
но, от времени наблюдения).
Построенные таким образом последовательные про¬
цедуры могут использоваться в задачах о различении
«равноправных» гипотез. Такими являются, например,
задачи декодирования. Реализация полученной последо¬
вательной процедуры может осуществляться при помощи
алгоритма, близкого к алгоритму последовательного де¬
кодирования, предложенному Фано [44], если число раз¬
личаемых гипотез возрастает с ростом числа наблюде¬
ний, и имеется «дерево гипотез» (см. § 10, п. 2).
5. Задачи о различении сложных гипотез. Рассмотрим
построение оптимальных последовательных решающих
правил для различения сложных гипотез. Эффективное
построение строго оптимального правила возможно, если
в задаче имеется марковская достаточная статистика не¬
большой размерности. Такими являются задачи о разли¬
чении сложных гипотез при экспонентном семействе воз¬
можных распределений вероятностей (см. § 4). Рассмо¬
трим эти задачи.
Пусть f(x|0) —плотность распределения вероятностей
для наблюдаемого значения х\ 0 — неизвестное значение
параметра. Возможные значения 0 лежат на действи¬
тельной оси Й. Пусть f(x|0) является распределением
экспонентного типа
f (х | в) = ехр {0л: — b (8)} h (х). (5.42)
Как показывает следующая таблица, к этому типу при¬
надлежат многие часто встречающиеся в применениях
законы распределения.
186
Закон
распределения
Значение параметра
6(6)
Гауссовский
(м-; О
0 = jj* — среднему зна¬
чению
2 и
Бернулли (р)
0 =1п \~р
In (1 +ев)
Пуассоновский
w
0 = In X
е9
Геометричес¬
кий (ка)
9=lnT+V
- 1,. (1 - 0)
Экспоненци¬
альный
0 = ——
1*
— In (— 0)
Распределение Релея / (у | 0) = бг/е ;у1/2 заменой перемен¬
ной— у*/2==х сводится к экспоненциальному с парамет¬
ром 6= 1/|А.
Как было показано в § 4, статистика Т (хи..
m
xm) = \' Xi для рассмотренного семейства распределений
является достаточной; при независимых наблюдениях
Т(х\, ..., хт) является также марковской. Таким обра¬
зом, область продолжения наблюдений, соответствующая
байесовскому последовательному решающему правилу,—
это область на плоскости (7\ т), которую нетрудно явно
определить при помощи рекуррентных соотношений
(5.1) — (5.5). Конкретизируем эти соотношения для рас¬
сматриваемых задач.
Пусть различаемые сложные гипотезы Н\ и Я2 со¬
стоят в следующем:
Я1:6<01; Я2:0>02.
Пусть при выборе гипотезы Нх в момент т штраф равен
/](0; т), если 0 — истинное значение параметра; при
этОхМ /1 (0; т)= О при 0<02; /i(0; т)>0 при 0>02. Ана¬
логично определяется /2 (0; w)—штраф при выборе Я2.
Обозначим
( (0; /гг) при 0^02,
/ (0; /тг) = / 0 при0,<0<02;
[ /2 (0; /^) при 0<0t.
187
Область 0i <6<'02 называется областью безразличия, так
как здесь безразлично, принять Яi или Я2; обозначим
Ti — область 0=sS0,; Гг — 0^02-
Пусть задана плотность априорного распределения
вероятностей F0(Q) для значений 0. Тогда апостериорное
распределение при значении Т (х,,..., хт) = Т статистики
m
^ х{ = Т(хи ..xm) после m наблюдений равно
г=\
ЯГ—mb(B)p /0ч
F{b\T\m)^~ е о(>
J e9T-mbW F„(9)rf9 * (5.43)
я •
Математическое ожидание штрафа при остановке равно
J I (9) ечг—m6(0)F, (0) М
W(T;m) = min Г-*-л —— . (5.44)
1=1,2 J еЧГ-т6(0) р# (9) м
а
Пусть стоимость проведения пг-го наблюдения G(m).
Число наблюдений ограничено величиной пг^М. Основ¬
ное рекуррентное соотношение (5.1) имеет вид
S(T;m) =min [lF (Т; m); Js(T+AT;
—ОО
tn+\)P(AT\ T; tn) dAT + G (w+l)].
Для вычисления оптимальной границы области продол¬
жения наблюдений, остается конкретизировать условное
распределение вероятностей Р(АТ\Т; ш). Нетрудно по¬
нять, что оно равно
Р (АТ] Т\ tn) = \f (АТ 10) F (61T\ m) db. {5A5)
ffi
Приведенные формулы дают алгоритм для эффектив¬
ного определения оптимальных переменных порогов, при
достижении которых статистикой Т (х\, ..., хш) принимают¬
ся гипотезы Н\ или Я2. Построенные таким образом про¬
цедуры могут иметь много применений в различных за¬
дачах обнаружения, распознавания и управления в усло¬
виях неполной информации,
183
Рассмотрим теперь эффективное построение подопти-
мальных последовательных решающих правил в задачах
о различении сложных гипотез [32], где марковская до¬
статочная статистика является многомерной. Проанали¬
зируем такое построение на примере задачи различения
двух гипотез о значении математического ожидания слу¬
чайной гауссовской величины с неизвестной дисперсией.
Статистика L/t— ( Л, ®), где оЛ — выборочное среднее;
Ю — выборочная дисперсия, является достаточной.
Таким образом, оптимальное последовательное решаю¬
щее правило состоит в принятии гипотез при попадании
(4C(t),£)(t)) в определенные области на плоскости (Ж,ЙЗ),
зависящие от времени наблюдения t. Границы этих обла¬
стей определяются рекуррентными соотношениями (5.1) —
(5.5). Пусть Л ( ЙЗ, t) — математическое ожидание
потерь при прекращении наблюдений и принятии решений
в момент t, при условии o4l(t) = oM, (/)=ЙЗ. Рекуррент¬
ное соотношение (5.5) для данной задачи принимает вид
5 ( Ж, Я, t) = min {Л {оМ, ®, t);
JJS(o* + Ao*;0 + A®;f + A/)X
XP{b>M,bg>\M,g>,t)dAg>dAM}, (5.46)
и оптимальные границы областей остановки определяются
из условия Л(М>, t) = S(oM, g3, t).
Учитывая сложность такого правила, рассмотрим
другие варианты выбора статистики L и построения по¬
следовательной процедуры.
Пусть различаемые гипотезы состоят в следующем:
Нг:{Мх = а}; Н2:{Мх — 0}. Пусть xs— результат s-ro
наблюдения; наблюдения независимы. Обозначим а2 оцен¬
ку неизвестного параметра а2, составленную по данным
первых s наблюдений. Дисперсия оценки по данным s не¬
зависимых наблюдений равна l/s ^(а2), где 3 (ст2)—ве¬
личина информации Фишера, равная в данном случае
'/га4. При известной дисперсии в качестве статистики, по
которой можно было бы судить об истинности или лож¬
ности Я1 или Я2, следовало бы взять логарифм отноше¬
ния правдоподобия
L (хв; а2) = — а2/2з2 ахв(<зг.
189
Выберем в качестве статистики такую функцию f(xs),
которая бы не зависела явно от неизвестного значения
дисперсии а2, но вместе с тем принимала бы значения,
близкие к L(xs\ ст2) при значениях xs, соответствующих
реализациям гауссовской случайной величины с диспер¬
сией а2.
Определим такую функцию f (xs) = f(xs;s;<32) из
условия наилучшего (в среднем квадратичном) приближе¬
ния к L(xs; а2) при
з2 £ [с? (1 — &/[/ s); а* (1 k j \fs)] (где k — const),
т. е. из условия обращения в минимум величины
~Ь I+*/ у «>
.1 V
"a2*!—A/V'Tj ~‘П°
X [£(*;з2) — f(x)]2dx. (5.47)
Решение вариационной задачи на минимум (5.47) дает
~2ч (ах — а*/2) A(x-s{^2s)
f(x;s;a;) = , (5.48)
B(x-,s\o2)
где функции
~1(\+к!У s)
-е—
~2.
~У+Ь/ v «>
В {х; s; af) = j е~х’/2°’ da\
®f(l—Ае/ V S)
При больших 5 имеем
af-W и /(*; 5; а*) L(x;a2).
При малых S' имеем
190
(5.49)
~2ч [ — a*l2<iin + axl°l,in ПРИ Малы* X,
f {х\ s; о ) — /
[ — a72cW+fl*/°ma( При боЛЬШИХ Ж,
где °Ln И °ma* — наименьшее и наибольшее возможные
значения о2.
В качестве статистики Lm возьмем
т
Lm=Y f (xs] s;~a2s). (5.50)
5=1
Как показывают результаты моделирования на ЭВМ,
пороги для Lm расширяются с ростом т при малых т,
а при больших т устанавливаются постоянные значения
Л«1п —£,
1 —a *
Аналогично можно решить задачу о различении не
вполне определенных гипотез о релеевском законе распре¬
деления:
Я,:Яв1(х) =01*е-***,/2;Яв:Р(, (x)=62*e-e^/2,
где 02 неизвестно, 0o<O2<0o-f-Д.
Величина У (0) = 1/02 и дисперсия оценки 0S для 0 про¬
порциональна b2/s. Статистика Lm определяется тогда
выражением
где
Lm — ^ f{Xs\S,bs),
SSsi
0e(l+^/^5) 0JC2
j* (ln 9 — 9e 2 d9
Iji-kl V7)
^(l+A/KT)
j 0e—e*5/2 d9
T.d—*/ v'lj
191
Последовательное решающее правило состоит в сравне¬
нии Lm с переменными порогами.
При другом выборе Lm (в задаче о различении гаус¬
совских законов распределения), который обычно приме¬
няют при неизвестном значении а2:
т
~f) <5-511
5=1
пороги должны иметь другой вид, чем для статистики
(5.49), (5.50).
Для приближенного вычисления переменных порогов,
оптимальных для статистики (5.51), находим
a(L;m)=M{AL\L;m} = M (—^г
1 2а;
2
т-\-\
ах.
т + 1
ц «и if 1„ -I+^S- х
'm + l / 2c*(L;m) 2k \-k/Ym
X [^i (L', tn) — P2 (L; /И)] ^ (с ростом m)
—^ [P., (L; m) — P2 (L; tn)\,
2 <j2 (L; m)
o*(L;m) = W{(ALy\L;m} ~
a2 1 a2
(с ростом m)
~ ЪьЦпг) o-*•/'») 2^(L;«) '
где
з2 (L;m) =
m — r—
• f fl2 1П V"s i 1 + k/Vs 2 1
= min {„ I , I V ln—^ 7 ; a
\2|L| 26 l — A/Ks
5= I
. ( 2 )
(с росТом m) \ в««/ :
здесь a2 (L; m) — условное математическое ожидание вели¬
чины ът оценки при условии значения L в момент т.
Апостериорные вероятности первой и второй гипотез равны
192
P, (L\ т) ^eQ(Lim)/(l + eQ(i:m));
P2(L;m) = (l+eQ(i;mV',
Q(L\m)^
5=1 5=1
^ L.
(с ростом m)
Штраф при остановке равен
tn
A(L\m) = min j Л (m) P, (L; tn) -f- G (e);
e—1
tn
& (m) Рг (L; m) + G (e) j •
e—\
Используя (5.1) — (5.5) для приближенного вычисления
переменных порогов, заменяем Р{AL\L;m} гауссовской
плотностью с математическим ожиданием a(L;tn) и диспер¬
сией о2 (L; т). Результаты вычисления переменных порогов
для статистики (5.60) приведены на рис. 4.5 (при расчете
были взяты: G (т) = 0=0,2; 38 (т) -=Л (т)=5 ООО; 7'=100;
а = 1; £ = 0,9; ^=100).
Рис. 4.5. Вид переменных порогов в задаче о различении гипотез
о среднем значении гауссовского распределения с неизвестной ди¬
сперсией при использовании статистики (5.51).
13—1092 193
Выше были рассмотрены решающие правила для случая
неизвестных, но постоянных значений параметра о2. Пред¬
положим теперь, что параметр может принимать различ¬
ные значения в ходе наблюдений. Возможны значения
eL<e2<eLx- Тогда для построения Lm можно исполь¬
зовать статистику вида (5.59), (5.58), заменяя в (5.58)
пределы интегрирования постоянными о2тЫ, з2тах.
Полученную при этом функцию f (х) можно аппрокси¬
мировать следующей, более простой
!ctq/30 при х><7<з0,
— аа/2а2+ при |х|<^о0,
— aq/a0 при *< —<700,
где q, з0 — некоторые константы.
При з^>о„ имеем:
М {С (xs) | Я,} st a*q l/2/oo0]/7t,
М {С (xs) | Я8) » — a2qY 2/ао0]/Я
D. {£ (xs) | Я,} ^ D {C (xs) | Я2) я. И/з0)2.
m
Положим Lm = С (*g); соответствующие переменные
5= 1
пороги расширяются с ростом т.
На рис. 4.6 приведены результаты сравнения некото¬
рых «з указанных выше решающих правил с последова¬
тельным анализом при известной дисперсии, и с прави¬
лом, аналогичным предложенному в [30, стр. 116] для
случая неизвестной дисперсии. В последнем составляется
отношение правдоподобия в виде
оо т
jllr ехр | —2а2" “ а)2} йя
Lm = S— (5.52)
j-i-exp {—
0 (=1
и сравнивается с постоянными порогами А и В.
194
1ПГ7ср
Рис. 4.6. Сравнение средней длительности nt р процеду¬
ры (5.51) с переменным порогом (кривая 3)у процедуры
Вальда (5.52) с неизвестной дисперсией (кривая 2), про-'
цедуры Вальда с известной дисперсией (кривая 1) к
процедуры (5.48) с постоянным порогам (кривая 4).
Сравнение показывает, что для построенных подопти-
мальных последовательных правил потери во времени
анализа по сравнению со случаем известного значения
параметра а2 малы; следовательно, малы потери и по
сравнению с более сложным (указанным в начале п. 3)
оптимальным правилом. Как видно из рис. 2, при а/а<2
имеется выигрыш по сравнению со стандартным спосо¬
бом построения последовательного правила [см. (5.52)]
при неизвестном значении параметра [30] (состоящим
в интегрировании по всем априори возможным значени¬
ям параметра с некоторым весом, не зависящим от вре¬
мени наблюдения). Вместе с тем полученные процедуры
допускают простую реализацию и обладают определен¬
ной устойчивостью по отношению к изменениям законов
распределения.
§ 6. Приближенные решения
рекуррентного уравнения для функции риска.
Оценки для среднего времени анализа
и функции риска
1. Вычисление вероятностей ложных решений. Рас¬
смотрим'вопрос об оценке вероятностей ложных решений
для последовательной процедуры различения гипотез,
13* 195
оптимальной при заданных штрафах за ложные решения,
и времени наблюдения. При этом пороги можно уже счи¬
тать известными, определенными в соответствии с соот¬
ношениями (5.1) — (5.5). Пусть конкурирующие гипотезы
Я,, Я2.
Введем функции a (L; t) и р (L; t) — условные вероят¬
ности выбора (в итоге процедуры) гипотезы Яi при усло¬
вии значения L статистики в момент t, или (соответ¬
ственно) выбора гипотезы Я2. Тогда условные вероятно¬
сти ложных решений u(L\ t) и p(L; t) определяются из
соотношений
a(L; t) = a (L; t) Р2 (L; t) + (1 - р (L; t)) Р, (L; t),
р (L; t) = p (I; f) P, (L; t) + (l-a (L; t)) P3 (L; t), (6.1)
где P, (L; t) и Ps (L; ^) обозначают апостериорные вероят¬
ности гипотез Я, и Я2. Для функций a (L; £), р (L; <)
имеем рекуррентные соотношения, аналогичные уравне¬
нию (5.1):
а(1;т) = /М{оГ(1-(-Д/.;»г-(- 1) \L\rn},
${L;m) = M {p(Z. + AL;/ra+l)|L;/ra}, (6.2)
или
а (L; /га) = М {а (L Д1; /га + 1) | от; Яа},
р (L; /га) = УИ {р (L -|- AL; w 1) 1Z-; m; Я,} (6.3)
и граничные условия
*{L\m)\UT=\\ «(L;/re)|l6rj = О,
№») I /я-, ='°; Р*(i; w) Ur, =1 • (6-4)
где Гь Г2 означают пороги, при достижении которых при¬
нимается первая или (соответственно) вторая гипотеза.
При малых приращениях AL соотношения (6.2) — (6.3)
принимают вид, аналогичный уравнению (5.1):
196
a (L; tri) — a (L; m -(- 1) a (L; m) —
o2(L\m) d2 oT(L; tn + 1)
2
(6.5)
a (L;tn) = a (L; /га-}- *) +
т;Я2}-|—£-уИ{(Д£)2|£;/я;Я8}
d2«(L;/n+ 1)
Такие же уравнения выполняются для (3 (L; т), §(L',m).
Условия (6.1) — (6.4) полностью определяют a(L;t),
(3 (L; t). Безусловные вероятности ложных решений равны
где P0(L\Hi)—плотность распределения вероятностей
значения L после первого наблюдения при гипотезе Яг.
Приведенные выше соотношения были записаны для
случая различения двух гипотез #i и Я2 и одномерной
статистики L. Аналогично можно их записать и для
многомерной статистики L, и для случая многих гипотез:
так, для вероятности иц{Ь\ t)—условной вероятности
принять гипотезу Я,- при истинности Hj — будем иметь
a{j (Z; t) = M {a<j (L + AL; / + At) \ L; t; Я,}; (6.7)
при непрерывном времени t и непрерывном марковском
процессе L{t)
a0=Ja(L;l)P0(Z,|tf2)dL,
$0 = jML\'l)Po(L\H1)dL,
(6.6)
П
п
(6-8)
к, 1=1
где
ah(L\t\Hj) — \m M{ALh \ Ъ,Р,Н^\
197
<& (L; 11 H0) = lim ±-Af{AZ*AL, | L; t; Hj};
Ri д^0 ai
с граничными условиями
(L, t) 0, ^ “7“ ij
l^r- L€r»
где Tj — граница, при достижении которой принимается ги-
—>
потеза #(, и „конечным" условием (L; Г) =0.
L£r<
2. Вычисление среднего времени анализа. При изве¬
стных границах Г области продолжения наблюдений
среднее время анализа определяется при помощи соот¬
ношений, аналогичных полученным выше для вероятно-
—>
стей ложных решений. Если обозначить через л(Ь; /; х)
условную вероятность того, что в течение времени т по¬
следовательная процедура закончится при условии, что
в данный момент t статистика L(t) имеет значение L,
тогда
тг(Г; t\ х) = Ж{тг(2 + д1; / + Д/; т —Д/)|2; t} (6.9)
—^
с начальным условием n(L; t\ 0)|^г =0 и граничными
условиями
—>
it (L; т) | ££Г = 1. (6.10)
Математическое ожидание числа наблюдений до окон¬
чания процедуры равно (при дискретном времени наблю¬
дения с шагом Ы):
£(Z;/)=S(x/A/)I«(L; f; x + A0-«(L; t; x)J.
т
Из (6.9) для £ (L; <) следует уравнение
E(L; t) = M{E{L + el\ t + U)\L\ t}+ 1 (6.11)
с граничными условиями
*)Ц€г=0-
198
При непрерывном времени наблюдения, если L(t)—не¬
прерывный марковский процесс, уравнение (6.11) пере¬
ходит в известное уравнение для математического ожи¬
дания времени достижения заданных границ непрерыв¬
ным марковским процессом (см. гл. 2, § 3);
<>E(L\ t) - > дЕ ,
дГ~2^ (; '
k=i
4"2~ J] ^ dLhdLt (6,12>
к, 1=1
Приведенные уравнения можно также вывести как
следствия уравнения для условного риска S (L; t). Пока¬
жем это на примере задачи о различении двух гипотез
при непрерывном времени наблюдения и одномерной ста¬
тистике L. Пусть, для простоты, штрафы 38 за лож¬
ные решения и стоимость наблюдения G в единицу вре¬
мени постоянны. Функцию условного риска можно пред¬
ставить в виде
S(L; t) = J,Pt(L\ t)a(L; t)+£P,(L; t)$(L\ t)+GE(Li t), (6.13)
используя введенные выше функции a(L; /), p(L; t),
E(L; t). В области продолжения наблюдений для функ¬
ции S(L\ t) выполняется уравнение
dS ,, ,,dS , 1 ,,, ,< d*S , n v
lц o,(L, t) ^ -j- 2 3 (L, t) -(- G, (6.14)
где, как и выше,
a(L\ /)=lim -jrM {AL \ L; t),
At->0 *
o2 (L; t) = lim -±-M{(AL)°IL; t).
Д^О
Подставляя в это уравнение выражение (6.13) для S(L\ t)
и учитывая уравнения для a (L; t), P(L; t), a (L\ t), (3(L; t)y
получим для среднего времени анализа уравнение
/Т\дЕ I 1 2 /Г \ 1
а( ^ dL^~ 2 0 № dL* (6.15)
с нулевыми граничными условиями на границах Гь Гг.
199
Приведенные в пп. i, й принципиально тбЧйЫе соот¬
ношения для определения вероятностей ошибок и сред¬
него времени анализа, так же как и принципиально точ¬
ное определение самого оптимального правила, данное
в п. 1 § 5, с ростом размерности статистики L становятся
сложными и громоздкими для вычислений. Поэтому
большое значение приобретает в этих случаях построение
подоптимальных последовательных правил, а также по¬
лучение приближенных оценок средней длительности
анализа и вероятностей ложных решений для оптималь¬
ных правил. В ряде случаев они могут быть эффективно
получены при помощи приближенного решения основного
рекуррентного соотношения для функции условного
риска.
3. Приближенные решения рекуррентного уравнения
для функции условного риска. Как было показано в § 1,
основное рекуррентное уравнение {§ 1, (1.12)] для риска
ОО
Р (?) = min [ р„ (5); J р (?„) р (у 15) dy+с] (6.16)
—ОО
может быть решено методом последовательных прибли¬
жений:
p(S) = lipp«(S),
/72—>00
Pm+m(t)=min[p*(5); \ы{ЬУ)P{y\l)dy+c\, (6.17)
где ро(|) —математическое ожидание потерь при выборе
решения без проведения наблюдений (см. теорему 3
§ 1). То же верно, следовательно, и для функции услов¬
ного риска S (L; т), удовлетворяющей уравнению
S(L; т) = min [w(L\ m)\ [G(m)-t-
00
+ { S (2+ AL; tn + 1) P (AL | L; tn) dAL] • (6.18)
—00
Решение можно получить при помощи последовательных
приближений, полагая в первом приближении
St(L; m) = W (L; т);
200
далее
S,(L; от) = *шп [V(L; от);
00
J W(L-\- AL; (AL | C, m) dAL-\- G (от)] .(6.19)
—00
S2(L; от) = min [й?(/Г; m),
00
Js,(L-|-AL; от-f- 1)P(AL|L; w)rfAL-J-G(w)], и т. д.
—00
Получающаяся последовательность функций
50(L; m)>Sl(L; т)^ ...>S(L; tn)
сходится к 5 (L; от) — минимальному риску. Гранида области
продолжения наблюдений в k-м приближении определяется
уравнением
W (L; m) = G (tn) -j-
—00
+ J Sai-,(L + AL; m-\- 1)Я(AL|L; ot)c?AL. (6.20)
—00
Так как Sk_1 (L; ot)>S(L; от), область продолжения наблю¬
дений с границей (6.20) лежит внутри байесовской обла¬
сти продолжения наблюдений, соответствующей мини¬
мальному риску S(L; пг). С ростом числа итераций воз¬
растает точность определения границы при помощи урав¬
нения (6.20).
Физический смысл последовательных приближений
(6.19) состоит в следующем: мы экстраполируем услов¬
ное математическое ожидание потерь на случай усече¬
ния оптимальной процедуры после одного, двух, трех или
более наблюдений — и т. д. Таким образом, решение ре¬
куррентного соотношения не доводится до конца: для
получения k-й итерации мы обрываем оценку будущих
потерь раньше.
Таким образом, мы получаем для границы области
продолжения наблюдений оценки «изнутри», а для рис¬
ка— оденки сверху, которые можно последовательно
улучшать.
20)
Построим также оценки «извне» для области продол¬
жения наблюдений и оценки снизу для риска, сходящиеся
к функции риска при увеличении числа итераций.
—>
Если штраф за ложные решения при остановке W (L; т)
меньше, чем стоимость проведения еще одного наблюдения
<?(/»):
W(L; m)<G(m),
—>
то ясно, что такая точка (L; от) принадлежит области
остановки. Таким образом, уравнение W (L; m) — G(m)
дает оценку „извне" длй области продолжения наблюде¬
ний, а функция
tf0(L; m) = mm\W(L\ т)\ G{m)\ (6.21)
является оценкой снизу для риска: S^R0. Последова¬
тельность функций, определенная рекуррентным соотно¬
шением
-* / г -»
R„{L; m)—va\r\\W {L\ т);
ОО
G(m)-\- J Яи.Д + д!; т-\-\) Р (AL\L; m)dAL (6.22)
— ос
(представляющая решение уравнения (6.18) методом по¬
следовательных приближений с начальным приближе¬
нием (6.21)), является возрастающей:
R0 (L; m)<Rt(L; т)< .. .<Rh(L; т) < ... < 5 (L; т)
—>
и при k—>-оо сходится к минимальному риску S(L\ т).
Сходимость таких последовательных приближений для
уравнения (6.18) была доказана Блекуэллом и Гирши-
ком [33]. Приведем доказательство несколько более силь¬
ных оценок.
Пусть f(y|0), 0eQ — множество возможных плотно¬
стей распределения наблюдаемой величины у\ наблюде¬
ния независимы.
Обозначим
ОО
Х=\ — f inf f(y\b)dy. (6.23)
-оо ее
202
Определим
R'0(L; m) = ram\W(L; m); X-lG(L; /re)].
Здесь предположено, что стоимость наблюдения G(m)
зависит от 0, G(m, 6), и обозначено
G(L; m) = §G(m, 0) Р (6|L; m)db.
Обозначим для краткости:
т
П f {Xj I 0) = «р, (I (xt,..., xm); m) = f9{L; /re);
i= i
—>
P(b\L; m) — апостериорное распределение на Q после m
наблюдений:
P (0 | Z; /re) = Т«(£;я,)Ме> .
jfa(i; m)F0(6)d9
Я
F0 (0) — плотность априорного распределения на Q.
При п г» 1 полагаем
R'n(L; т) = min [IF (L; /re); G(L; /w) —{—
+ /re + l)P(AL|Z; /ге)<2дГ]. (6.24)
При А=1 имеем R'n = Rn.
Теорема [43J*
Имеем
R'0(L; m)<R't(L; m)<...<S(L; /те). (6.25)
Для того чтобы
lim R'H (2; m) = S (L; /те), (6>26ч
* Теорема из [43] формулируется здесь в терминах условных
рисков.
203
достаточно, чтобы либо
ОО
lim [W(L; k)P{L; k)dl=Q, (6.27)
k-*a> _<*,
либо
P{G(b; m)>0} = 1. (6.28)
Заметим, что условие (6.28) означает, что стоимость
наблюдений почти всюду на Q положительна; условие
(6.27) означает, что с ростом числа наблюдений матема¬
тическое ожидание штрафа за возможные неверные ре¬
шения стремится к нулю.
Доказательство. Проведем доказательство вна¬
чале для стационарной задачи
W(L; m) = W{L); <3(0; m) = G(b)\ Р (&L\L; m)=P(AL\t)
Выведем простую и во многих случаях полезную оценку
интеграла
ОО
—ОО
принадлежащую Вальду и Вольфовицу {31] (обозначе¬
ния здесь те же, что и в § 1). Для этого заметим, что
если г(|; 6) — риск, соответствующий решающему пра¬
вилу б и распределению | на £2, и если !г(о>) ^с|г(со)
при любом со 02, тогда r(gi) ^сг(^)
и
Р(5.)<^Р(У. <6-29)
Это следует из определения риска г(|; б) [см. § 1, (1.21),
(1.7)].
Поэтому, если
6 (®) <«&)$*(«), (6-3°)
тогда
ОО
J Р (?») Р (У 15) dy P(y\*)dy = ? (5) j Pc(y)l)~аУ■ (6-31)
—00
В рассматриваемом случае имеем
204
ff(«/|e)g(rf9) g(tt)inff(V|i) |(w)inf f (r/1 6)
, . J 0 9
*#(•) — ff(J,|e)6(d0) ^Jf(^|0)i(rfe) pi» 16)
S Q
Поэтому,
00
J 9(ty)P(y\l)dy>p(W-l). (6-32)
—00
Функция S(L; /п) соответствует риску inf r(S(L;/га); &))
5
—>
при распределении £(L; от) на Q в момент /га и решающих
функциях 8, действующих после /га-го момента. Поэтому
получаем в терминах 5 (L):
JS (Г+Д1)Я (Д1 | Г) dAL >(\ — Я) S (Г). (6.33)
Из (6.16) и (6.33) следует, что если S(L)<W(L), то
S (L)>X~1G(L). Поэтому S(L)5*R'0(L). По индукции, из
(6.18) и (6.24) следует, что S(L)>R'n(L) при всех я5=0.
Аналогично (6.31) можно показать, что
JR'o (1 + д2) Р (д21L) dAL> (1 - X) Rt'(L).
Тогда по (6.24) при п = 1 имеем
R\ (L)>mm[W(L); (1 -X)R\(L) + G(L)J.
Правая часть этого неравенства равна R\(L).
—► —►
Итак, R\ (L)^R’0 (L). По индукции, из (6.24) следует
я'„ .(4
Доказательство сходимости (6.26) аналогично прове-
денному Блекуэллом и Гиршиком [33]. Значение R'n(L)
интерпретируется как минимальный средний риск в не¬
которой модифицированной задаче, которая отличается
от исходной тем, что пространство возможных решений
при остановке d £D* дополняется еще одним ре¬
шением do £ D*. Функция штрафа полагается теперь
равной W7(0, d) при d£D* и Л-1(?(в) при d=do. Стои¬
мость наблюдений сохраняется прежней функцией G(0).
205
Пусть Д'„ обозначает класс всех последовательных ре¬
шающих функций, которые требуют не более п наблюде¬
ний, и таких, что решение d0 может быть принято лишь
после п-то наблюдения. Если г' (6; 8) обозначает условный
риск для модифицированной задачи, то inf г' (6; 8) = R'n(L),
»€4'п
—^ ^
где R'n(L) определена равенствами (6.24). Так как R'n(L)<
<5(L)<5n(L), то [см. (6.19)] достаточно показать, что
lim [S^ (L) Rrn (L)] -> 0. (6.34)
«->00 7
(Заметим, что в (6.16) также можно было считать с за¬
висящей от 0, с (В) и заменить в (6.18) G(m) на G(m\ 0);
при этом все сформулированные выше утверждения
о Sn(L) остаются в силе.).
При фиксированном априорном распределении на Q
пусть 6'* — байесовская решающая функция из Л'„, т. е.
—>
такая решающая функция, что R'n(L) —г'(6'п). Пусть
Ьп — решающая функция из Дп, которая совпадает с Ь'п
до л-го наблюдения включительно, а после л-го наблю¬
дения принимает наилучшее решение из D*. Обозначим
через T|/n(*i *n-i) вероятность того, что количество
наблюдений N', требуемое процедурой б'«, равно л, если
первые (л—1) наблюдения равны хи ..., x„-t. Тогда
5n (L) - R'n (L) < г (8„) - г' (8'„) =
СО 00
^ ^ ^ П ’ * ‘ * * ^П ~ ^ ^ ^ ’ ’ * * *
—00 —00
— R'o(L(xt, ..., xn))\P{L(x1... x„))dxt.. ,dxn.
Поэтому
•Sn (L) — R'n (L) < j Yn(xt, • • •, xn_l)W{L(x1,. .., X„))X
4 n)dxt ...dxn. (6.35)
Отсюда следует, что условие (6.27) достаточно для вы¬
полнения (6.34) и, следовательно, для (6.26).
Докажем также достаточность условия (6.28).
Пусть IFo — оценка сверху для Wd) и поэтому для
W(L). Из (6.35) следует
206
Sn (L) - R'n (L) < W0P{Nr = n). (6.36)
Далее
3* R'n (5) x J G (6) nP {W' = n|0}& (db) >
S3n1/2 J />{W' = n|6}6(d0) =
{am^n-1/2}
= n"2[lP{N, = n\b}%{db)- J P {N' —
я {G(0) < n—[l2}
= n | 6} 5 (d6)] => n'/2[P {ЛГ = n} — $ {G (0) < rt_:'/2}].
Поэтому
p (N’ = «) <n“ !/X + 5 {G (0) < ri~l/2}. (6.37)
При n—^oo из (6.36) и (6.37) следует, что условие
(6.28) достаточно для выполнения (6.26). Это завершает
доказательство. Проведенное выше доказательство пере¬
носится без существенных изменений и на нестационарные
задачи (в которых W(Q\ d\ т) и G(0; т) зависят от мо¬
мента времени т, если вместо определения (6.23) поло¬
жить Х— 1.
Если множество Q конечно, и состоит из k точек
Gj,..., 0^, причем для любого 0*- имеется соответствующее
ему правильное решение dB , так что W (0^; dB ) — 0у можно
получить следующую оценку для разности Sn (L) — R'n (L)
[43]:
Sn(L)-/?'II(Z)<lF0(ft-l)r,
где
СО
Y = max J \f (у \ 0,)/ (y \ Oj)]il2dy,
—со
показывающую, что в данном случае последовательные
приближения сходятся с экспоненциальной скоростью.
4. Некоторые оценки для средней длительности анализа при
заданных ограничениях на вероятности ложных решений. От полу¬
ченных оценок для риска можно перейти к оценкам для средней
длительности анализа при истинном значении параметра 0о и за¬
данных ограничениях на вероятности ошибок, если задать функцию
стоимости наблюдений, например, так, чтобы G(0)=O при 0^0о
и G(0)>O при 0 = 0о
Приведем такую оценку для задачи о различении двух гипотез [43].
Пусть Q состоит из трех точек 0О> 0lf 02 и пусть D* содержит два
207
решения dt и d2. причем №(0,; d2) = W(B 2; d1)=l, W di) = 0
во всех остальных случаях; <j(0o)=l; G (0j) = G (02) = 0. Распреде¬
ление вероятностей | на Q представляет собой £ = (g0; gu £2)'»
£ = (&>; gt, g2)-
Тогда W(L) — min(g„ g2); G(L) = g0. Обозначим y„=l, если
после n-го наблюдения принимается решение d2, <р„ = 0, если dt. Риск
Г ft; ») = g*M {NI 0,} + gt М {и I 0,} + giM {1 - и I 02}.
При любом п ^ О, r(g; d)^/?'n(L). Поэтому, если
M{¥n|0i}<<4. ^W{1 — yn|02}<a2
(т. е. вероятности ложных решений при истинности 0! или 02 меньше
cij и а2 соответственно), то
М {N | 0О} ^ sup [(£'„ (Г) - gtat - *Л)/*0]. (6.38)
~L
В частности,
R\ (L) = min (g^ g2\ l-'g0),
где
00
X=l- J min {f (y | 0O); f (у I 8,); /(* | 02)}d</,
—00
и отсюда следует оценка (так как при g, = g2 = 1 g„ R\ (g,; g2; g„)
максимальна):
M{N |0,}> 55 —-a,~gs • (6.39)
1— £ min [f (y | g„); f((/|0,); f(y\h)}dy
—00
Если
f(y\%)>min[f(y\Bl); f(y | 02)], to 1-X =
00 00
= J* min [f (*/ J 0,), f (t/1 02)] dy=\— -i- j |f((/|0,)_ f{y\b2)\dy
—00 —00
(так как f(y\ 0,), [f(y|02)>O и (y | 0,,)d(/ = 1 при/=1,2).
Оценка (6.39) принимает тогда вид
м {N | 0,} > 1-~"> ~Вг . (6.40)
“g" II f (У I 90—f (У I 9г) \dy
В [43] дана также следующая оценка для данной задачи о разли¬
чении двух гипотез;
Ш
{[(V4)^-?ln(a1+a2)]1/2-x/4у .
?2
(6.41)
где
5 — max (£jj £2)> £>» — (У I ®o) In f (у \ 0#)
При выводе этой оценки предполагается, что из равенства f (у | 0о)=О
следует min [f (у | 0,), f (у | 02)] = 0 и что
N
так как М {у31 0О} = О, М {tfj | 0О} = х2, последнее предположение
выполняется, как было показано Вальдом [30], при достаточно
общих условиях.
Приведем доказательство [43] указанной оценки для M{W|0o}.
Опишем последовательное рандомизированное решающее правило
двумя последовательностями фо, t|>i, ..фп, ... и фо, <pi, ..
..., фп, ..., где г|эЛ(*1, ..хп) — вероятность того, что при наблю¬
дении х\ ..., где хп процедура заканчивается на п-м шаге, фЛ и
1—|фп — вероятность того, что при этом выбирается решение dz
или d\\ определим
м in | В,} + М {1 - п | 02} > м {**„ | 0,} + М {1 - f М 02}. (6.42)
/=1
где
1, если
если h,n>h.n,
здесь обозначено
п
fnt п — Д f (хj J 0*)» i — 0, 1, 2.
/* i
Тогда
Действительно,
М {yn I 0i} + М {1 — ?п I 02} = Фо +
+EI Фп [fnfi.n Н“ ~ fn) f2.nl dx 1... dxn Фо“Ь
и—109?
?09
фп min (fi,„; }2,„)dxi...dxn
ri^\
и равенство достигается лишь при <рп = <р*п.
Если из равенства f (х | 0О) = О следует, что min [f (х | 0,);
f(x I в,)] = о, то
M{4*N |8I}+.W{i-?*/v|02}:
,, ( • f fl.'V h.N \
■ M {min —7 ; -f
( \ 10,N 10,N J
Это неравенство следует из (6.43), так как можно написать
min (fi,n\ f2,?0 = fo,n min (fi(77j f2,v)lfo,n•
Положим
n
7 ( 1 r \ , 7 - 7 7 - V ,
£{t,n — ^ in j | 0.) " j И и — ,n ^2,n — Уз»
j = 1 / =1
Тогда
U.nlfo.n = exp {— nKi}.
Имеем
M {?%, | е,} + Л<{1-*%!«,} -~м[ ^
fot/V ’ fo./V
= M {exp [— max (Z]f v; Z2 — W] | 0O},
где £ = max ($,, S2).
Так как
Meu ^ еМи (имеем Меи~Ми ^М{1 + и — Ми} — 1,
поскольку е»^ 1 +а), то
М{ехр[— m^x(Z{Z2 N)—W] |0О}>
ехр {— М max (Z1>iV; Z2>iV) | 0О} — {iV J 0О}.
Так как
2max (Z]>/v; Z2N) = Z]N + Z2/V + | Zl N— Z2^ |,
Zt,N-Zz,N = ZN' ^{Zl iv|0.} = /M{Z2iA,|eo} = O.
TO
M {max (Z1>#; Z2 N) | 60> = ~ M { \ ZN | | fl0} < M (Z% | 0,}1/2=
= T[Ai{W| 0O}]1/2.
Итак, если
».}<«,. M{1 — y^lOaXog,
Ш
to
ln («4 + «,) ^ (- x/2) [M {N I 90}]*'2- m {N I 90}.
Решая это неравенство относительно М {N I 0О}» получаем указанную
выше оценку.
Пример. Пусть
f (х I ft<) = (2па»)-'0 ехр {- (X - 8„)2/2о2}.
Рассматривается задача о различении двух гипотез о среднем зна¬
чении: Мдс = 01 или Mx = Q2; требуется оценить среднее время ана¬
лиза при Afjc = 0o, если применяемое последовательное правило долж¬
но обеспечивать при Mx = Q 1 или Мх = в2 вероятности ложных ре¬
шений, не превышающие di и аг.
Имеем
(6Т — е0)=.
2а2
|(0ц — во)2).
2°2 Г
^2= [f m)[m =
м {WI 0„> > [ [V}> ~ ? 1п (“> + в*)],/2“ т/4}2 / ?2-
§ 7. Асимптотически оптимальные
последовательные решающие правила
В § 6 были рассмотрены приближенные решения
уравнения для функции риска и оценки «извне» и «из¬
нутри» для области продолжения наблюдений, которые
можно последовательно улучшать.
—>
Уравнение W (L; m) = G (т), где G (т) — стоимость яг-го
—>
наблюдения, Н? (L; /и) — математическое ожидание штрафа
при остановке — дает оценку «извне» для границы обла¬
сти продолжения наблюдений в самом грубом, началь¬
ном приближении. Если стоимость одного наблюдения
G(tn)=c^0 (при фиксированных значениях штрафов
за ложные решения, т. е. при большом числе наблюде¬
ний), то, как было показано Г. Шварцем [40] и затем
Кифером и Саксом [42], последовательные правила
« —^
с границей области продолжения наблюдений W(L;
т)=с являются асимптотически оптимальными для
ряда задач о различении сложных и многих гипотез.
14* 211
1. Точное определение асимптотически оптималь¬
ной границы для задачи о различении двух сложных
гипотез при экспонентном семействе распределений
[40]. Пусть хи ..., хт — наблюдаемые величины; плотность
вероятности
f (х 10) = ехр {0х— b{b)}h(x) (7-1)
(см. примеры в п. 5 § 5). Различаемые гипотезы:
Я о: {0 < та}\ от,}.
Штраф при выборе неверного решения задается функцией
/ (0). При т0<^Ь<^т„ / (0) = 0: это область безразличия.
т
Статистика L = ^xi является достаточной для семей-
/=i
ства (7.1).
Математическое ожидание штрафа при остановке равно
^ee£.-m&(9) /(0)fo(0)d0
IF (L;/я) = min , (7.2)
/=0; 1 Je9£-mft(9) f0 (0) d0
a
где, как и в п. 5 § 5, обозначено:
Го:{0</гао};
F0 (0) — априорное распределение для 0 на Q.
Теорема [40]. Обозначим через С (г) область на пло¬
скости (L; т), в точках которой W (L; т)> г:
С (г) — {(L; т) \W (L', т)>г}; (7.3)
& — область продолжения наблюдений для байесовского
правила. Обозначим: Д = b (т0) -)- b (mt) — 2b [{ma~\-mt)/2\;
величина Д служит некоторой „мерой различимости” гипо¬
тез Н0 и
При достаточно малой стоимости одного наблюде¬
ния с
C(c)ZD^IDC(3A-V|lnc|). (7.4)
Доказательство. Включение С (с) 1Э& очевидно,
так как если (L; т)£&, то байесовское правило требует
212
проведения хотя бы одного наблюдения, и, следовательно,
W (L\ т) > с, иначе в точке (L; т) следовало бы остано¬
виться. Для доказательства второго включения достаточно
показать, что если
(L; т)^С(ЗД-1с|1пс|),
то существует решающее правило Ь, при котором услов¬
ный риск R(L\ т\ б) (условное математическое ожида¬
ние потерь из-за ошибочных решений и проведения до¬
полнительных наблюдений) меньше, чем 3cA-1jlnc|. Та¬
ким решающим правилом б является правило с фикси¬
рованным числом N наблюдений, где N= [(2/А) |1п с|] +1
(квадратные скобки здесь обозначают целую часть чис¬
ла)- После N наблюдений принимаем гипотезу Я0, если
Lofo, N—Lifi, N<0, или И j, если L0f0, n—Lifi, jv>0; здесь
обозначено
sup I (6) =1ь fi JV = exp{miL — Nb (/«<)}; t = 0, 1.
®6ri>
Оценим вероятность ошибки для указанного правила S.
Обозначим <р(х,,..., x/v) = l, если принимается Н0,
f (хп ..., xN) = 0, если принимается Я,. Имеем
Vrain(L0/0 LJt N)^(L0f0^ •
(7.5)
Следовательно,
0^0 •• ■ ^... dXjj-j-
Li^0 fi, n h{Xi)... h (x^ dxt... d-Xff^
<(L0L,)i/2[{ (f0J1,1)'l2h(x)dxy=(L0Lt)me-IU12. (7.6)
Пусть L0, L, < 1 [это не ограничивает общности рассуж¬
дений, так как решение зависит лишь от отношения с и
/(б)]. Тогда (Lo/L,)I/2e~Wi/2<c. Итак, при 0=/ио или Ь = т1
математическое ожидание штрафа за ложные решения после
N = [(2/Д) | In с |] 1 наблюдений будет меньше или равно с.
При Ь<^т0 или б > т, эта величина может стать только
меньше, в случае экспонентного семейства распределе-
213
ний (7.1). Так как стоимость N наблюдений равна Nc, то
условный риск
R(L; т\ 8)<А^с + с<с(2 + 2Д-1 |1пс|). (7.7)
При достаточно малых с | 1пс| > 2Д, и тогда Д"111нс | > 2
и, следовательно,
з^п^д-^г+гд-чш*?!.
Таким образом, продолжение наблюдений в соответ¬
ствии с правилом б приводит к меньшему математиче¬
скому ожиданию потерь, чем остановка в точке (L; /га),
что и доказывает теорему.
Рассмотрим теперь асимптотическую форму областей
С (г) при г—*0. Границы области с (г) описываются
уравнениями
J ехр (0L — nb (6)) 1(B) Ft (0) db
Г=А (i = 0, 1). (7.8)
j exp (BL — nb (0)) F„ (0) dB
Я
Рассмотрим точку пересечения границы с линией накло¬
на £, проходящей через начало координат: L = kn. Коор¬
дината точки пересечения — это корень одного из
уравнений
J ехр [(06— b (0)) л] I (0) F0 (0) dB
r = _I* • (7.9)
j"exp [(Bk— b (0)) n] F„ (0)d0
Я
При П -* OO
lim [ [exp \(bk — b (0)) n\ F0 (0) db]/n = sup (mod F0) eBk~biB\
П-¥СО
lim f [ exp \{bk — b (0)) n\ I (0) F0 (0) db]/n —
П-+СС p
1 я
=sup (mod lF0)eik-m, (7.10)
e€r<
где sup (mod F) означает верхнюю грань по множеству то¬
чек б, в которых F (8) > 0. Доказательство соотношений
214
(7.10) можно провести следующим образом (см. Лоэв [28],
гл. III, п. 9.4): имеем
5 = sup (mod F)^k~m * [ С ей <«-«•» F (6) db ]
egr 'г1 1
^ j ежм-мвйу?(0) J F(fi)db\m-*s,
если сначала /г-* оо, а затем q-*s.
Мы имеем п—+оо при г -* 0. Положим м = /|1пг|,
тогда, используя (7.10), мы найдем, что значение z —
= lim п/1 In г | удовлетворяет уравнению
Итак, при г 0 уравнения границы области С (г) имеют
вид:
п — \1т)г\{ sup (mod F0) \{L/n) 0 — b (0)] —
я
- sup (mod //'„) l(L/n) 6 - b (0)1}-' + о (I ln r |). (7.12)
Применяя соотношения (7.10) при г = с и при г =
= ЗсД-111пс|, получаем, что с точностью до членов по¬
рядка о (| In с |) границы областей С (с) и С (ЗсД-111пс|)
совпадают и описываются уравнениями (7.12) при г = с.
Обозначим О (L/n) точку, где достигается sup (mod F0)
а _
\{L[ri) б — b (б)J; 0О и б,—точки, где достигается
sup (mod IF0) [(L/n) б — 6(6)]; i = 0,1. (Если F0(6)>0
во всех точках 6£Q, то либо (г = 0, 1), либо
bi — Q (L/n)). Тогда уравнение (7.12) можно записать в виде:
| In с | = Lf (L/n) — Ь(Ъ (L/n)) -Lbt-\-b(h). (7.13)
Если F0 (б) >0 во всех точках 0 £ Q, то sup (mod F0)
J (L/n)b—b (0)j совпадает с максимумом функции
{ее*-б( в)^}
{ееь-ь($)^ч}
sup (mod IF0) ехр (6k — b (9))
г«
(7.11)
(L/n)b—b (6). Последний достигается в точке, являющейся
корнем уравнения
(L/n) — Ь' (6) = 0.
Итак, Ь (L/n) = В (L/n), где В (z) — обратная функция к
функции b'(г). В этом случае уравнения (7.13) принимают
вид:
| \nc\ = LB(L/n) —b(B(L/n)) —Lbt + b(h). (7.14)
Для законов распределения из таблицы п. 5 § 5,
уравнения (7.14) дают асимптотическую форму границы,
приведенную в следующей таблице и на рис. 4.7 (в коор¬
динатах х=п/\\пс\, y=L/\\nc\).
№
Закон
распределения
Параметр
Уравнения границы
1
Нормальное
(Ю О
9 = р
y = %x+VTx(-\y-,
i = 0; 1.
2
Бернулли (р)
(х— (/)1п(* — у)= 1 +
+ xln[x/(l +e9h)] —
— у In (у е_^‘)
3
Пуассоновское
W
0 = In Л
у In (у/х) = 1 — х +
+ у 0 + 0-0
4
Геометричес¬
кое (}л)
(х+у)\п(х + у) = —\ +
4“ х In [х/( 1 — е rf)] -j-
+ у In (г/е-0*)
5
Экспоненци¬
альное (р.)
х1п(хе 6<)=
= 1 + х In у + Ъ*у
2. Асимптотически оптимальные последовательные
правила для различения двух и нескольких сложных ги¬
потез. Кифер и Сакс [42] показали, что построение асимп¬
тотически оптимальных правил, предложенное Г. Швар¬
цем [ 40] для экспонентного семейства распределений
(рассмотренное выше в п. 1), можно распространить па
случай произвольных распределений и нескольких гипо¬
тез.
21G
Различений двух слож¬
ных гипотез. Пусть {fm(x),
£ 0} и {£„(*), 0 £ 0} — два
семейства возможных плотно¬
стей вероятностей для наблю¬
денного значения х. Задача
состоит в том, чтобы решить,
является ли истинной, плот¬
ность из Q (решение 1) или
из 0 (решение 2). Пусть L2(co)—
штраф, если истинно распреде¬
ление (ж), а принято реше¬
ние 2, L, (0) — штраф, если
принято решение 1, когда ис¬
тинное ,g9 (х), 0 £0. Пусть
$ (d<o) и т) (db) обозначают ап¬
риорное распределение вероят¬
ностей для значений параметра
<о (на множестве Q) и б (на
множестве 0). Стоимость од¬
ного наблюдения с, 0 <. с < 1.
Обозначим fm(x„..., хп)
совместную плотность вероят¬
ности для значений xtJ...,xn
наблюденных данных при ис¬
тинном значении со параметра;
аналогично g9(xl9...xn)- Пусть
8С обозначает следующее ре¬
шающее правило: вводится
„осредненное отношение прав¬
доподобия*:
Рис. 4.7. Асимптотическая фор¬
ма границы области продолже¬
ния наблюдений; *=п/|1пс|;
y=L/\\nc\; 0:
/ — для нормального распределе¬
ния; 2 — для распределения Бер¬
нулли; 3 — для пуассоновского рас¬
пределения; 4—для геометрического
распределения: 5 — для экспонен¬
циального распределения.
которое сравнивается с порогами с и 1/с:
c<T(xlt.. .,*„)< 1/с.
(7.16)
217
Ёсли ?>1/с, принимается решение 1; если ?<с, прини¬
мается решение 2; если (7.16) выполняется, берется
(я+1)-е наблюдение и повторяется проверка условий
Указанное последовательное правило 6С является
асимптотически байесовским при с—*0, т. е. отношение
рисков
где 6*с обозначает байесовское решающее правило.
Доказательство соотношения (7.17) дано в [42]. Оно
представляет собой обобщение результатов Г. Шварца
[40]. При этом предполагается, что
т. е. что «расстояние» Кульбака между различаемыми
гипотезами положительно, и что
м {[HL (*)/*, (*))!>} < оо, м {[ In (/„ (x)lgB W)]216}< oo.
В доказательстве используется оценка математического
ожидания штрафа за ложные решения для правила бс
(которое оказывается величиной порядка с) и оценка
среднего времени анализа — последнее растет как |1пс|
при с—*0. При этом для момента остановки п прави¬
ла 6с выводятся соотношения
при с -*• 0.
Аналогично п. 1 правило бс при с—-0 асимптотически
оптимально для любых априорных распределений |(Ло),
(7.16).
lira г ($; tj; 8е)/г (;; tj; §*.) = !,
(7.17)
inf inf М {ф /ш (х) — In g (х) | <*} = Я, > 0.
<0 к. 0
inf inf М {In g (x) — ln /ш (x) 10} = Я2 > 0,
О) 0
M{«K}<[i + o(l)]
I In с I
|lnc|
218
ri (ti0), которые обращаются в нуль на одних и тех же
множествах со и 0.
Положим Li(0) и Lz{iо) равными 1 при 0£в, со£ Q.
Пусть теперь кроме множеств Q и 0 имеется еще
область безразличия /: {ha{x), а £/}, в которой штраф
за выбор решений 1 или 2 равен нулю. Тогда асимптоти¬
чески оптимальное правило состоит в следующем {42]:
Вводятся апостериорные вероятности гипотез
//">= 5<п>/(*.»)+.,,(») + <|»(»)); р{“} = ,<»>/(5<»> -|~ ,(«) + ф<«>),
где
• • •. x„)Hdu); Vn)=jge(*i> • • -,x„)n(db);
8 S3
4*(n) = JA. (xi,...,xn)^(da).
/
Принимается решение 1, если с и р{"\ решение
2, если р\1)< с и p(2l)^>p\n)', при равенстве р(")= Р^^с
выбирается любое из двух решений случайным образом;
если же р\п)>с и p{f>c, берется (п-\- 1)-е наблюдение.
Различение нескольких сложных гипотез. Пусть раз¬
личаемым гипотезам Я, соответствуют семейства рас¬
пределений {/ш; i=l, 2, ..., k. Пусть ^(^со) —
априорное распределение для значений со на Q*. Штраф
за неверное решение равен 1.
Вводятся апостериорные вероятности Hi после на¬
блюдения Xi, ..., хп:
J /«,(•*» xn%t (da>)
g
S J *n)ii (<*<■>)
/=1
Асимптотически оптимальное последовательное решающее
правило состоит в принятии гипотезы Hi, если ? 1 — с
I, я, х
или продолжении Наблюдений, если все 5 —с.
i, п, х
Указанное правило Зс эквивалентно одновременному раз¬
личению k пар гипотез:
219
//<:{*> и Нч: G U Qi}> i = 1. •••, k.
Ш
Для каждой пары гипотез Hi и Ли (/ = 1 ft) асимп¬
тотические оценки необходимого среднего времени анализа
и среднего штрафа проводятся так же, как в случае двух
сложных гипотез.
§ 8. Теория последовательных оценок
Последовательные решающие правила могут исполь¬
зоваться в задачах оценки неизвестных параметров за¬
конов распределения. Постановка задачи принадлежит
Вальду (30] и может быть сформулирована следующим
образом.
Пусть fe (х) — плотность распределения наблюдае¬
мой величины х, зависящая от неизвестного параметра
0£0. Априорное распределение для 0 на 0 имеет плот¬
ность Fo(0). Требуется оценить 0. Стоимость одного на¬
блюдения с; если наблюдения прекращаются и прини¬
мается решение 0 = 0, то штраф при истинном значе¬
нии 0 равен /(0—0). Требуется указать решающее пра¬
вило, обращающее в минимум математическое ожида¬
ние потерь.
Для решения задачи последовательной оценки мы
можем ввести, как и выше, марковскую достаточную сга-
—► —*•
тистику L (х„ , хп) и функцию условного риска 5 (L;ti) —
условное математическое ожидание будущих потерь при
—^
условии, что после п наблюдений L(xt,..., xn) = L. Тогда
для оптимального решающего правила
S(L; w) = min [/? (L; т)\ с -f-
00
+ JS(L + AL; m+\)P(tl\L\m)dtl\, (8.1)
—00
—►
где R (L; m) — математическое ожидание штрафа за неточ-
ность оценки при остановке в момент т, еслиL(xt,..., xm)=L.
Граница области продолжения наблюдений определяется
равенством
S (L; m) = R(L\m). (8.2)
220
в»
Здесь
р (6 | L; т.) =■
При остановке в момент т принимается оценка f(xt,..., хп1)=
= 0 (L, т.), для которой достигается минимум математиче¬
ского ожидания штрафа:
min (0* — 6) р (б | L; т) db — J / (S — 0) /? (б | L; tn) db. (8.3)
f$ (X1 xm) F„ (6)
^ f$(XV ••• • xm) ^0 (9)d0
e
— плотность апостериорного распределения 6 на 0.
Например, при I (в — б) = (б — в)2 получим
b(L; m)=^bp(b\L\ m)db. (8-4)
в
Величина R(L; пг) равна
R(L; tn) = J/ (£ (L; т)—Ь)р{Ь\ Г; tn) db. (8.5)
Приближенное определение границы области про¬
должения наблюдений. Уравнение границы, как видно из
(8.1), имеет вид
00
R(L; tn) = J S (L -f АЦ m + 1) P (AL \ L\ tn) dAL-\- c. (8.6)
Так как R(L\ m-\-\)^S(L\m.-{-\),ro, как уже указы¬
валось в § б, мы получим приближенную оценку „изнутри*
для границы, заменяя в (8.6) S(L-{-AL; т-\~ 1) На
R(i + AL; m+1)];
00
R(L; т)= J R(L + AL; tn + l) Р (AL\L; m)dAL + c. (8.7)
—00
—► *■>
При малых приращениях AL величины L за одно наблю¬
дение имеем
00
J R(L-\- AL\ m+\)P{AL\L; tn) dAL^ R (£; m-\-1)
—00
221
и равенство (8.7) приближенно записывается в виде
R(L; m) — R(L; tn-\-\)-\-c. (8.8)
При непрерывном времени наблюдения, если L(t) — непре¬
рывный марковский процесс, мы получим вместо (8.8) урав¬
нение
dR(?' — (8.9)
Итак, область остановки приближенно определяется усло¬
вием
—>
R{L\ tn)<R{L; m+l) + c или dR{^ 0 с. (8.10)
Полное значение потерь при остановке равно R(L\ т) =
= R(L; tn)-\-ctn, и условие (8.10) эквивалентно следую¬
щему:
R(L; m)<R(L\ т+ 1) или dR(L, t)/dt> 0. (8.11)
Оно имеет прозрачный физический смысл: #(L; т) —
сумма двух функций, из которых одна убывает с рос¬
том т (математическое ожидание штрафа за неточность
оценки), а другая растет (плата за наблюдение). При
—>
некотором т R{L\ т) имеет минимум; эти точки
(L; т) и составляют границу, определенную равенства¬
ми (8.8), (8.9).
С ростом необходимого числа наблюдений это после¬
довательное правило оценки приближается к оптималь¬
ному [49, 50], если 0 (х\, ..., хт) — состоятельная оценка,
для которой
Р{ !?(*„ ... ,хт)— 01 > е} < const/m* /г>1.
§ 9. Оптимальное управление процессом
наблюдения в задачах
последовательного анализа
1. Рекуррентное уравнение для функции риска и вы¬
бора оптимальных управлений. Рассмотрим теперь слу-
222
чай, когда в ходе наблюдения можно не только реШать,
продолжать ли наблюдения или нет, но и выбирать тип
эксперимента, при помощи которого надо осуществлять
следующее наблюдение.
Пусть, например, возможные типы экспериментов за¬
нумерованы; /— номер эксперимента, <§ (L; т)—мно¬
жество экспериментов, проведение которых возможно
в момент т при условии L(x 1, ..., xm) = L (где L(xi, ...,
• • •> Xm) — статистика).
Для оптимального решающего правила при опти¬
мальном выборе экспериментов, т. е. при оптимальном
управлении процессом наблюдения, функция условного
риска удовлетворяет рекуррентному соотношению:
S{L; т) — min {W (L; т)\ min [G(I; т; /)-)-
+ M{S(L + bL; m+\)\L; m\ /}]}. (9.1)
Здесь G(L; m; I)— математическое ожидание стоимости
проведения эксперимента типа I в момент tn при условии
L (хи ..., хт) = L; L (хи ..., хт) — марковская достаточная
статистика. (Как и в § 5, при использовании марков¬
ской недостаточной статистики соотношение (9.1) опре¬
деляет правило, оптимальное при выбранной статистике
Lr (^1, . . XrYl) ) •
Решение этого рекуррентного сотношения определяет
одновременно и момент остановки и выбор типа экспе¬
римента в зависимости от получающихся в ходе наблю¬
дений значений L.
Выбор оптимальных управлений может предполагаться
рандомизированным. Пусть p = {pi{L; tn)}, где pi(L\ tn)
обозначает вероятность выбора управления I при
-> -> -» ->
L(x1,..., xm) = L. Тогда функция риска и значение p(L;m)
для оптимального правила определяются рекуррентным со¬
отношением
S(L; /ra) = min{ W (L; m); minf^] PiG(L\ m\ /)-(-
{*«} l£E
-f-Af{S(L + AL; ot + 1)|L; m; /7}]}. (9.2)
223
Если оптимальное решение нерандомизированное, это
должно получаться автоматически из (9.2).
При отсутствии необходимости остановки процесса
наблюдения, т. е. в задачах оптимального управления,
уравнения (9.1), (9.2) принимают вид уравнений Велл¬
мана:
S(L; т)= min M{S(L-f-Д!; /тг-f- 1)|L; т\ /}; (9.3)
Z££(L;/n)
S(L; т) = тпМ {S(L-f- Д£; + 1) | L\ т; р}. (9.4)
р
Функция риска S (L; т) представляет здесь некоторый
критерий качества управления. Задачи оптимального
управления, описываемые уравнениями (9.1) — (9.4),
рассматриваются далее в § 11.
2. Оптимальное планирование экспериментов в задаче
о различении близких гипотез. Пусть 1=1, 2 <g —
номера возможных типов экспериментов; при проведе¬
нии эксперимента типа I наблюдаемая величина имеет
плотность распределения вероятностей (х) при гипо¬
тезе Hi\ стоимость эксперимента типа I равна Gi. Рас¬
смотрим задачу о различении двух гипотез, и Н2.
Пусть наблюдения при выбранных типах экспериментов
независимы. Тогда марковской достаточной статистикой
является логарифм отношения правдоподобия
L(Xl,...,Xm) = Vln-lu—, (9.5)
/2 (*ft)
где Ih — номер эксперимента, проведенного для получения
А-го наблюдения. Для приращения ДL при проведении /-го
эксперимента при гипотезе # * имеем
М{ЩНЛ I}= J /J>(jt)ln-5|djt = e<i«(/=ll2).(9.6)
—00 ^
В случае близких гипотез, как показано в [47], будет
М{& 1|Я,; 1} = -М{М\Нг; /}=
224
--±D{LL\HX\ /} —-jpD{AL|//2; /} = «,. ь (9.7)
обозначим alti через аг.
Аналогично § 5 уравнение (9.2) можно записать тогда
в виде
~д-т=™п jSE^+^^E^+EW’
(9.8
что соответствует непрерывному времени наблюдения,
или асимптотическому случаю большого числа наблюде¬
ний, каждое из которых дает малое приращение вели¬
чине L.
t В стационарной^задаче, где f(/\x) йе зависит от времени
Наблюдения, dSJdt = 0, и для S(L) получается уравнение
эллиптического типа:
min
->
р
d*S .eL —IdS . i
dL* ~Tet + i dL “Г ^
Piai
= 0.
(9.9)
Наименьшему риску S соответствует выбор p={pi}, ко¬
торый обращает в минимум величину ^pfii / ^p^i.
i i
Это следует из принципа максимума для эллиптических
уравнений [19]:
Если о4С (х) — функция, удовлетворяющая эллиптиче-
скому уравнению в некоторой области x£G:
<9.ю)
i. / t-
—>
и g (х) — некоторая функция, такая, что на границе Г
области g (х) |г 3s л (х)|г , а внутри области
Е -&+Е at{*)'&< ~с> (9л ])
J «
—> —>
тогда g-(x)>aii(x).
15—1092 225
Минимум ^ piGi j Pioli достигается при ph — 1,
i i
Pj — 0, j=£k, где k — номер, соответствующий минимуму
mm{Gija.l} = Gh/a.k.
Таким образом, в рассматриваемой задаче следует
выбирать (при одинаковой стоимости экспериментов)
тот тип экспериментов, при котором информационное
число Кульбака ai, 1 (9.6) максимально, а при разной
стоимости — минимальное Gi/ai.
Этот результат можно также получить при помощи
прямых оценок для функции риска в данной задаче.
Среднее время последовательного анализа при задан¬
ных вероятностях аир ложных решений равно [30]:
(1-р)1п"^1 + ?1пГ^ _ А
М {п | Я,} М{КСЩ} М{Ы\нх} *
1 — 8 8
“Ш—ЙГ^ + d-«)Ш Г=Г^ в
Н*) ЩЩЩ — М{М\н2} * (9Л2)
Математическое ожидание потерь равно
/ Isi^PiO.X / И|£ло, \
I'19ЛЗ>
где р\, /?2 —априорные вероятности гипотез //,, //2, и ми¬
нимум его достигается при обращении в минимум величины
Ц PiGi / £
i i
3. Асимптотически оптимальное планирование экспе¬
риментов в задаче о различении сложных гипотез.
Рассмотрим задачу о различении двух сложных гипотез.
Пусть при проведении эксперимента I (х) — плотность
вероятности наблюдаемой величины х при гипотезе //,(® £Q),
/ о (*) — ПРИ гипотезе //2 (0^0); I — номера возможных
экспериментов, набор которых предполагается одним и
тем же во все моменты времени. Пусть р={р$, где
Pi обозначает вероятность проведения эксперимента /•
226
«Информация» для различения со и 0 в одном наблю¬
дении х при проведении эксперимента I при истинном
значении параметра 0 равна
00 t
*'(«; »)= Jо.»)
■—со
При рандомизированном выборе экспериментов задача
состоит в определении значения p = {pi}, минимизирую¬
щего среднее время анализа.
Средняя информация в одном наблюдении при вы-
боре р равна
х*(Ъ\ «)=Ха^(®; б)- <9Л5>
L
В работе Кифера и Сакса [42] доказана асимптоти¬
ческая оптимальность при стоимости одного наблюде¬
ния с, стремящейся к нулю, следующей «двухэтапной»
последовательной процедуры.
Как было указано в § 7, для асимптотически опти¬
мальной процедуры при с—>0 длительность анализа воз¬
растает как |1пс|, а вероятности ошибок убывают как
0(c).
Асимптотически оптимальное планирование экспери¬
ментов для решения рассматриваемой задачи состоит
в следующем.
Вначале берется N1 = o(\lnc\) наблюдений таково,
что при £ —* О Л/\—► оо, но NJ] Inc | 0), и на основе
этих наблюдений строится состоятельная оценка неизвест¬
ного параметра ф распределения [ф(*) (например, оценка
максимального правдоподобия). При этом эксперименты вы-
j —> —>
бираются с вероятностями {pl } = Pi где /?, таково, что
inf Я* (6; о) > 0; (9.16)
0 £ 0, (а £ Д
Inf №1 (0; со)>0.
0 £ S?, £ 0
Таким образом, первый этап состоит в «разведке
истинного состояния природы». Полученное значение
оценки параметра обозначим 0.
15* 227
Для проведения второго этапа вероятности р^ = {р2}
выбираются из условия обращения в максимум величины
inf ЯЛ((Г, <]>), если'6 £0, или inf (ё, Л), если 6 £0. При
Ф^й Ф^в '■
фиксированном б существует
sup inf Хр (S’, ф), (9.17)
р ф
и он достигается, если Q, 9 — компактные множества, а
lp (0; <■>)—непрерывная функция, а также в случае ди¬
скретных множеств Q, 9.
Выбранное из условия (9.17) значение рг фиксируется
и остается неизменным в течение всего второго этапа про»
цедуры. При этом эксперименты могут выбираться случай¬
ным образом с вероятностями {/?|2)} или детерминированно:
в каждом „блоке” экспериментов длины тг делается
экспериментов типа I, /=1, 2, Различение двух ги¬
потез при выбранном рг осуществляется при помощи асимп¬
тотически оптимальной процедуры п. 2 § 7, в которой при
построении отношения правдоподобия (7.15) берется
П
/.(*!•-» *-)=П flk(Xk),
k—\
п
gt(xi,-,xn)=n ее‘к(хк), (9.18)
*=i
где lh — номер эксперимента, проведенного для получе¬
ния ft-го наблюдения.
Доказательство асимптотической оптимальности ука¬
занной процедуры основано на оценке среднего времени
анализа. Показано, что для построенного решающего
правила
Ж{ЛГ(5С)|6}< [1 + 0(lJ|lnci, (9.19)
sup inf Хр (0; ф)
->
р Ф
228
Подобная двухэтапная процедура является асимпто¬
тически оптимальной также для задач о различении не¬
скольких сложных гипотез (§ 7). При разной стоимости
экспериментов Gt pi выбирается из условия достижения
sup inf У (р,Я* (1, (9.20)
7 ч- i
4. Планирование экспериментов в некоторых задачах
последовательной оценки параметров. Рассмотрим сле¬
дующую задачу. Пусть у(х) = а + Ьх+сх2; коэффициен¬
ты а, Ь, с неизвестны. Наблюдаемыми являются значе¬
ния y(t) =a+bx(t) +cx2(t) +i£(0> ГДе t — момент вре¬
мени наблюдения; x(t) —заданное значение х; |(t) —
независимые ошибки. При непрерывном времени наблю¬
дения положим x(t)=u(t)—управление, выбираемое
экспериментатором; пусть значения u(t) принадлежат
некоторому множеству % (■/) допустимых значений;
%(t) —белый шум уровня N.
Обозначим через ть. (£=1, 2, 3) и Ыы\\ апостериор¬
ные средние значения для коэффициентов а, Ь, с и ма¬
трицу апостериорных дисперсий; как было показано
в § 4 гл. 3, они удовлетворяют уравнениям:
3 {3
=1ГУ (oj] (O’—j] Msdki?s<?t, (9.21)
5=1 /,5=1
ddki
dt N
q, 5=1
J] dlqdkt%J (t)fs (t), (9.22)
где <p, = l; <^ — f3 = u2(t); mx = a\ тг — Ь\ mi='c.
Решение уравнений (9.22) определяется соотношением
t
llrfM(0ir,=a-jjr|| ^ (t) ?1 (t) dn +D~' , (9.23)
0
где Do — матрица дисперсий априорного распределения
вероятностей для коэффициентов а, Ь, с.
Предположим, что требуется к моменту времени Т
получить как можно лучшие оценки коэффициентов а,
Ь, с, причем критерий качества — некоторая функция №
229
от значений йы{Т). Задача оптимального планирования
эксперимента сводится тогда к выбору такого управле¬
ния u(t), при котором значение W{dki(T)} минимально.
Решение ее может быть получено заранее: в силу
уравнений (9-22) оно не зависит от реализации y(t).
В случае зависимости у от нескольких переменных:
П П
»=«. + S &к%к' bklXhXi,
k =1 £,/=1
имеем
n n
«(t) = ao+S ahub (t) + £ fczMO “i (*) + *(/); <9-24>
k=l k,l= 1
значения (иг (t),..., un (t)) £ % (t) — некоторой допустимой
области. Задача оценки параметров аи и Ь^г принципиально
сводится к рассмотренной выше.
Если показатель качества оценок зависит не только
от HdftiH, но и от rrik{t), А=1, 2, ..., я, то оптимальное
управление (U\(t), ..., un(t)) должно выбираться в за¬
висимости от получающихся по ходу наблюдений зна¬
чений rrik(t).
Пусть с — стоимость наблюдения в течение единицы
времени; W{mi(t), ..., mn(t), dn(t), ..dnn(t)} — штраф
за неточность оценки при прекращении наблюдений
в момент t.
Уравнение (9.1) для функции риска S(mi(t), ...,
dnn(t), t) принимает тогда вид:
—:= min {W [m1 (/);...; dnn(t); t);
с-{- min S(u(t)\ ?)};
m g (t)
где
3S<B</>;0 4- j
q, s, k, /=1
(9.25)
Область остановки наблюдений определяется усло¬
вием:
230
W<c+ min S(u(t);t), (9.26)
«<*> e и m
Как и в § 8, для приближенного определения момен¬
та остановки и выбора оптимальных управлений можно
заменить S на W при вычислении S по формуле (9.25).
При дискретном времени наблюдения вместо диффе¬
ренциальных уравнений (9.22), (9.23) будут рекуррент¬
ные конечно-разностные (см. § 4 гл. 3), а вместо уравне*
ния в частных производных (9.25) — рекуррентное интег¬
ральное соотношение [аналогичное уравнению (5.1)].
Приближенное решение его и определение подоптималь¬
ного управления можно получить по методу последова¬
тельных приближений § 6.
Пусть, например, требуется указать точку х, в кото¬
рой у = а -|- bx -f-сх2 имеет максимальное зйачейие; наблю¬
даются значения y(t) [см. (9.21)]; а, Ь, с неизвестны.
За оценку для лгэкстр можно принять хЭкстп= — 6/2с7 где
а, Ь, с — оценки коэффициентов а, Ь, с; дисперсия этой
оценки о2 « (о1/4с3) 4-(62о1/4^4). Положим W (а, Ъ.'с,
*©кстр b с1
ol, oi, ol) = (a^/4c2)-f-(62a^./4c4). Используя (9.26), заме¬
няя S на W при вычислении S, получим подоптимальное
управление экспериментом.
Качественно оно будет сводиться к тому, чтобы вывести
и (t) в окрестность экстремума, где провести дальнейшие
наблюдения y(t), позволяющие уточнить а, Ь, с и хЭКстр-
5. Оптимальный характер совместного решения неко¬
торых задач управления и фильтрации. 1. Рассмотрим за¬
дачу о построении переключающихся фильтров из § 5
гл. 3.
Предположим, что за ложное обнаружение скачка
взимается штраф В, а за запаздывание в его выявле¬
нии— штраф А за единицу' времени запаздывания.
—>
Пусть S(w, t) —условное математическое ожидание бу¬
дущих потерь при применении оптимального правила
переключения при условии, что в момент t апостериор¬
ные вероятности
{w(gb;t);k = — N,—1,0,1,..., N}=w.
231
Тогда
S (до; rt) = min[£ay(g0; я); Л(1—до(£0; «))д +
Л1 {*5 (ш Дау; /г —J— 1) | ш; лг}]. (9-27)
Действительно, после каждого наблюдения имеются
две возможности: принять решение о наличии скачка —
тогда математическое ожидание штрафа равно Bw(g0;
п)\ или подождать до следующего наблюдения — тогда
при наличии скачка (вероятность этого 1—iw(go\ ti)) по¬
тери возрастут на ЛЛ1, и математическое ожидание буду¬
щих потерь в этом случае равно
АД(1— до(g,,; /г))]+Л({5(до + Ддо; л + 1)|до; п}.
При оптимальном управлении в каждый момент выби¬
рается наилучшая из этих двух возможностей.
Граница, при достижении которой точкой w прини¬
мается решение о наличии скачка, определяется уравне¬
нием
Bw{g9\ /г) = ЛД(1 — w(ga; л)) +
+ /И{5(да + Ддо; я+1)|ш; п}. (9.28)
Построение оптимального решающего правила сводится к
определению „области принятия решения о наличии скачкав
—>
в (2jV —1)-мерНом пространстве значений до; в этой области
S (до; n) = Bw(g0; п). Многомерность до затрудняет реали¬
зацию этого правила. Для построения подоптимального
правила можно перейти к одномерной статистике w(n) =
= 1—w(g0; ti) или w(ri)= max w(gk', n), представляю-
щей собой процесс со „слабым последействием". Уравне¬
ния (9.27), (9.28) для S(w) можно использовать для при¬
ближенного определения порога Н, с которым надо срав¬
нивать величину до.
Если штрафы А и В не зависят от числа проведенных
наблюдений, и статистические характеристики прираще¬
ния Ш величины w не зависят (или слабо зависят) от вре¬
мени наблюдения (хотя они зависят от самой величи-
232
ны w), то уравнение, аналогичное (9.27), для функ-
ции S(w) имеет стационарное, не зависящее от времени
решение. Тогда из (9.28) следует, что порог Н постоян¬
ный; решение о наличии скачка должно приниматься
при достижении или превышении величиной w(n) уров¬
ня Я. В зависимости от заданных значений А и В (или
вероятности «ложной тревоги») величина Н принимает
определенное значение, которое можно найти из (9.28)
или подобрать при моделировании на ЭВМ решающего
правила.
В случае зависимости Л, В или характеристик при¬
ращений Aw от абсолютного времени t или .от числа уже
проведенных наблюдений, порог Н будет переменным
(H=H(t)). Отметим эквивалентность двух критериев
оптимальности: правило, обращающее в минимум мате¬
матическое ожидание потерь (при заданных штрафах Л
и В), т. е. величину
Л/гср + 5а (9.29)
(где а — вероятность «ложной тревоги», пСр — среднее
время запаздывания в обнаружении скачка)^ одновремен¬
но обращает в минимум математическое ожидание вре¬
мени запаздывания среди всех правил, обладающих той
же самой вероятностью «ложной тревоги».
Здесь /гср и а — функционалы от решающей фуйкции.
—>
Обозначим через r = {r(t0),...,r(tm),...} наблюдаемую
реализацию, g = (ta), , g (tm), ■••}; решающее правило
задается функцией D(r) = ti — номеру наблюдения, на ко¬
тором принимается решение о наличии скачка. Тогда можно
записать яср в виде [55]:
«су= J [D(r) — X (2)] w (г; g) drdg, (9-30)
D[r) > МТ)
—>
где t (g) обозначает действительный момент появления
скачка; вероятность „ложной тревоги” а — также функ-
ционал от D{r):
а= j w(r; g)drdg. (9.31)
D(0 < 1(8)
233
Эквивалентность критериев
min {ЛпСр + Bol} и minncu при a = a0 = const (9.32)
следует из того, что решение безусловной экстремальной
задачи (9.29) и задачи на условный экстремум (9.32)
связаны [55]: для получения решения условной экстре¬
мальной задачи надо добавить к показателю качества
величину ограничения, умноженную на неопределенный
множитель Лагранжа Я, и найти безусловный экстре¬
мум; значение X затем надо выбрать из условия (9*32).
Из (9.29) видно, что X равно отношению В/А, если a —
вероятность «ложной тревоги» для оптимального пра¬
вила, соответствующего значениям А, В.
§ 10. Методы последовательного перебора
вариантов
Как было показано в § 4, принципиально возможно
сколь угодно точное различение экспоненциально расту¬
щего (с ростом числа наблюдений п) числа гипотез
N=tHn при п—мх>, если Н<1— средней информации
в одном наблюдении для различения гипотезы Ни и ее
отрицания Hk(k=l N).
Для реализации этой возможности различения экспо¬
ненциально растущего числа гипотез принципиальное
значение имеют методы сокращения перебора возникаю¬
щих здесь вариантов.
В данном параграфе рассматриваются методы по¬
следовательного перебора вариантов и их применения
для решения некоторых задач распознавания последова¬
тельностей.
1. Метод глобального последовательного перебора ва¬
риантов для отыскания наилучшего при аддитивном пока¬
зателе качества. Рассмотрим следующую задачу распо¬
знавания последовательностей. Предположим, что гипо¬
тезе Нк(п) соответствует последовательность символов
Yh(n) = (yk( 1), Уи{п)), где каждый символ уи(т)
может принимать одно из М значений {ai, ..., ам}. Мно¬
жество гипотез Hk{ti) соответствует всевозможным по¬
следовательностям длины п, составленным из символов
{аь ам}; число их равно jV=7Wn = eHn, где Н=1пМ.
Наблюдается последовательность (*(1), ..., х(п)),
которую можно рассматривать как сигнал на выходе не-
234
которого канала связи, когда на входе передается
(г/ь(1), ..., yk(n)). Пусть при фиксированном сообщении
на входе Yk(n) случайные величины x(i), x(j) неза¬
висимы i, /= 1, •••, «); известна условная плот¬
ность распределения вероятностей для x(i) при задан¬
ном значении y(i), P(x(i)\y(i)). Требуется по извест¬
ному сигналу (х(1), х(п)) определить переданную
последовательность (уи(1), уи(п)).
Предположим, что различные последовательно¬
сти (уи( 1), ..., Ук(п)) были построены как реализации
марковской цепи с состояниями {ai, ..., ам}. и задан¬
ными вероятностями перехода за один шаг р(уи(п) =
= аг\ук(п—1) =aj) =p(ai|a,).
Тогда совместная плотность вероятности
P(x(l),..., х(п), yh{ 1),..., yh(n)) =
/г—I
П р (Ук (i +■ 1) | Ук (0) Р (х (* (i + ^))Х
/=1
ХР{х(1)\ук(1))р0(ук(1))9 (ЮЛ)
где р0 (ук (1)) — априорное распределение вероятностей
для первого символа последовательности;
п—1
Ро (Уь(1))Пр(Ук (^ + 1)1 Ун (0) — априорная вероятность
i =1
того, что на входе канала было передано сообщение Yk(fi).
Решающее правило для определения переданной по¬
следовательности Yk{n) по методу наибольшей апосте¬
риорной вероятности состоит в выборе той- Yk(ti)
(k=l, ..., N), для которой величина (10.1) максимальна.
Реализация этого решающего правила сводится, таким
образом, к перебору вариантов и отысканию варианта,
доставляющего максимум величине (10.1).
Указанную задачу распознавания последовательно¬
стей можно рассматривать как математическую модель
задачи распознавания текста (или образов речи), где
символы — буквы алфавита (или фонемы), образующие
цепь Маркова с известной матрицей переходных вероят¬
ностей р(щ|а;) и известным распределением ръ{щ).
Величину (10.1) при отыскании максимума можно
заменить ее логарифмом:
235
1пЯ (x(1),..., x(ti), t/k (1),..., Ук(п)) =
ti— 1
Inр {Ук, (i +1) | Ук (0) ^ (*(* +1) I Ук (гЧ-!))+
i =1
+1пл0М1))Р«(1)|у*(1)). <10-2>
Благодаря аддитивности показателя качества (10.2),
в данной задаче можно глобальный перебор вариантов,
требующий Мп операций, заменить последовательным
перебором, требующим всего М2п операций.
Обозначим
S(a.i\ ah; п)= max lnР {х (1),, х (/г);
{У( 2) У{п-Щ
у(1)=«ь у(2); •••; у(п—Ц; у(п)=ак). (ю.з)
Тогда, вследствие аддитивности (10.2) имеем рекуррент¬
ное соотношение (уравнение динамического программи¬
рования Беллмана [34, 51]):
S(a,\ ат; я-|-1)=тах {5(аг; ah; п)-\-
1 г£*^М
-f-ln/?(am | а*) Р (х(п-\-\) \ ат)}. (Ю.4)
1
Запоминая таблицу М2 чисел S(m; am; ti), мы можем
при получении (п+1)-го наблюдения, x(ti+1), при по¬
мощи соотношения (10.4) определить S(ar, ат; п+1) и
«нарастить» М2 последовательностей Yk{ai; а к', п), имею¬
щих первый символ щ, последний ah(l, k=\, ...,М),
и доставляющих максимум величине (10.3). При необхо¬
димости принимать решение при п=Т остается выпол¬
нить перебор М2 величин S(ai; aTO; Т) и найти
шах S(at; am; T) — S(a*ii a*m; Т). (Ю.5)
1^/, m^M
Соответствующая последовательность У&(«*г; a*m; Т)
и будет искомым решением.
Интерпретируя отдельные слагаемые в (10.2) как
«меры близости» между узлами yk(i+1) и ун{1), мы мо¬
жем рассматривать Ук(щ\ <Хт, п) как «кратчайшую» ло¬
маную, соединяющую точки (од; 1) и (am; п) и проходя-
236
щую через узлы {аь •.ам) дискретной решетки в мо¬
менты п—1, п—2, ..2 (рис. 4.8).
Рассмотрим другую задачу — распознавание «обра¬
зов движущихся объектов». Пусть Х\ (п), ..., хм{п)—ре¬
зультаты измерения в момент tn координат М движу¬
щихся однотипных объектов; п=1, -2, 3, ... Тре¬
буется объединить измерения, относящиеся к траекто¬
риям одних и тех же объектов, и оценить па¬
раметры траекторий. Предположим, что i-й объект дви¬
жется прямолинейно со скоростью и* и начальным поло¬
жением aiy неизвестными наблюдателю; i=l, 2, .. •, М.
Можно провести Мп ломаных, выходящих из данной
точки Xk(l) и проходящих через точки x3(i) (i = 2,
3, ..., rt\ /=1, ..., М). Требуется выбрать из них одну,
соответствующую измерениям истинной траектории,
и оценить параметры этой траектории (k= 1, ..., М).
Пусть и(х(1),..., х(п))9 а(х( 1), ..., х (п)) — оценки
максимального правдоподобия для скорости и началь¬
ной точки траектории, которой соответствуют измерен¬
ные значения координат х(1), ..., х(п)\ при независи-
237
Рис. 4.8. Схема последовательного глобального перебора вариантов.
мых в разные моменты tn = nА гауссовских ошибках
измерений с дисперсией а2 имеем *
12 (J
v(x (1), ... , X (я)) = =Дп(л + 1)(п— 1) ’
B(x(i) *(«»== . ,v— (10-6)
4(л+1) Х*(£)-6Х kx(k)
k=l * *
п (п + 1)
Эти соотношения можно записать в рекуррентной форме:
ф(1),..., л(й)) = /,Й41),..., х(п — 1));
v{x{\),... ,х{п — \))\ х(п)), а{х{\),..., х{п)) =
— U(в{х(1), ••• ,х(п — 1)); tT(x(l),..., х(п — 1)); х(п)).
(10.7)
Дисперсия оценок v и а равна
2/ ч 6о2 2 / ч 2 4/2 — 2
Cv(n) АЩп2 — 1) ’ 0а^ 0 «(« + 1) •
Примем величину
п т
Р (X (1), ... , X («)) = П [2* (а2 + <з2а (k) + C?(k) Д2Й2)Г“ X
k = l
xexpj- 1 „0.8,
л ' | 2(^ + .|(*) + 4*4Ц|(4)) j
за некоторую приближенную оценку условной плотно¬
сти вероятности для х(1), ..., х(п) при условии, что эти
результаты измерений относятся к одной и той же пря¬
молинейной траектории.
* Здесь х, V, а — векторы размерности т (т=2, 3); для упро-
щения записи рассматривается случай независимых ошибок измере¬
ний разных компонент вектора х\ в более общем случае коррелиро¬
ванных ошибок решение аналогично
238
Положим
S(i; /; п)= min (— 1пЯ (xt (1); я(2);*..;
{^(2) *(/i-l)}
n
x(n- 1); Xi (л))ln [2ic (a2 + о2 (*) +Д2Л*о*(Л))]. (10.9)
k= 1
Тогда, как и в рассмотренной ранее задаче, S(i\ /;
/г+1) можно определить при помощи рекуррентных со¬
отношений:
S(i; /; /i + l) = min{S(i; /; л) +
+ [2(^ + о2а(л+1) + Д2(я + 1)2а2(«+1)]-‘Х
Х[^(й-1-1)—Д(/г+1)/,(и(г; /; л); а(г; /; л); ^(л+1))—
— ft(v(i; I; л); a(t; /; л); ^(л+1)]2}, (10.10)
причем при л = 1 полагаем S(i; j; 1) = 0;
v{i\ I; 1) = [лг, (2) — Xii\)\jA; a(i; /; 1) = лгг-(1).
Пусть минимум в (10.10) достигается при 1 = 1*. Значения
v (г; /; л), а (г; /; л) определяются рекуррентными соотно¬
шениями (10.7):
гГ(ц /; л+1) = /,(о(*; /*; л); а(г; /*; л); х^(л+1)),
a^(i; /; «+l) = /*(o(t; /*; л); а(г; /*; л); ^(л+1)).
(ЮЛ 1)
Формулы (10.10), (10.11) позволяют последовательно
вычислять значения 5 (г; /; л), и (г; /; л) и а (г; /; л) при
/= 1, 2,..., Ж; л> 1.
Пусть требуется определить параметры движения М
объектов после Т наблюдений. Для этого определим такие
значения 8^ = 0,1, что
м м
2 8fj = 1; V 8,-j = 1,
*=1 /= 1
239
м
2 j; T) = min, (Ю.12)
1.1 = 1
что соответствует выбору «максимально правдоподоб¬
ной» совокупности М траекторий. В качестве искомых
параметров траекторий примем v(i\ /; Т) и a(i\ /; Г), со¬
ответствующие значениям 6ij=l. Решение задачи
(10.12) осуществляется при помощи хорошо известного
алгоритма линейного программирования для «задачи
выбора».
При последовательной процедуре выделения траекторий
значения v(i\ /; п) и a(i\ /; /г) могут выбираться при пре-
м
вышении величиной P^ = e-S(i:^n> j ^е“^/;^л) некоторого
/=i
порога С(0<С<1). Величина P*ij представляет собой
приближенную оценку для апостериорной вероятности
того, что «наиболее вероятная» траектория, соединяю¬
щая точку i (в момент 1) и точку / (в момент п),
является истинной при условии наблюденных значений
Xi(k) (1=1, ..., М,
На рис. 4.9, 4.10 приведены некоторые результаты
моделирования на ЭВМ М-20 описанного выше алго¬
ритма распознавания. Выделение траекторий, показан¬
ных на рис. 4.9, при сг = 0,2 и пороге С=0,5 происходило
У '
10 ►
6
№
1
г
3
и
5
“X
1
/,з
1,5
0,5
1
иу
1
1
1,2
0,8
1
х(1)
0
1
2
2,5
3
у(1)
0
0
0,5
0
1
* ^ 1—&—I 1 1 L- —1 1 1 1 III»»
2 ч 6 8 10 12 1й z
Рис. 4.9. Пример распознаваемых траекторий.
240
в среднем за 3—4 наблюдения. На рис. 4.10 показано
изменение P*i% (i= 1, 2, ..., 5) в зависимости от числа
наблюдений п.
Рис. 4.10. Изменение Р*а (t'=l, •••, 5) в зависимости от числа
наблюдений п.
2. Алгоритмы последовательного декодирования. По¬
иск на «дереве вариантов». Предположим, что варианты,
соответствующие различаемым гипотезам Нк, 6=1,
2, ..., еНп, упорядочены в виде дерева. Это имеет место,
например, в задачах декодирования сообщений, которые
были закодированы древовидным кодом. На рис. 4.11
показано дерево 2п/т двоичных последовательностей
длины п. Гипотеза Ни состоит в том, что переданное со¬
общение совпадает с k-k последовательностью Yk(n) =
= tfV
Пусть (х1У..., х„) — двоичная последовательность, по¬
лученная на выходе канала; ошибки при передаче различ¬
ных символов независимы. Положим z{f)—{xi\ y\k)) (см.
п
пример § 4, п. 5); П Р (z{f] \ Ни)—вероятность значений
г=1
при истинности гипотезы Hk (т. е. если передавалось
П
сообщение Yh (п); П Р (z[k) | В[ъ)—вероятность значений zik)
при в\ъ. (т. е. если передавалось какое-либо другое сооб¬
щение). Пусть
16—1092 241
zi
В качестве статистики, значениями которой определяется
решение задачи распознавания гипотез, примем
п
П
L (*,,..., хп) = шах In is! • (10.14)
l«faS2»/« " ...
, \\P(zf\m)
1=1
Для сокращения перебора вариантов, для которых
вычисляются значения
П П
и (хи ..., хп) = 1п{П Р (zf \Нь)/Цр (zf I Hk)}.
i = l 1 = 1
можно предложить следующий алгоритм последователь¬
ного перебора.
Вначале выносится решение о том, принадлежит ли
истинной последовательности звено I или звено II де¬
рева, выходящее из первого узла (рис. 4.11). Для этого
Рис. 4.11. Дерево вариантов.
вычисляются последовательно значения Lk(xu ..., xnd)
для всех «веточек», выходящих из первого узла, до тех
пор, пока L(x 1, ..., Xmi) не превысит впервые заданного
уровня А. Тогда принимается звено I, если последовав
242
тельность Yk{tnl), соответствующая максимальному зна¬
чению Lk(xи .. Xmi) =£, содержит звено I; или звено II,
если Yk(ml) содержит звено II. После этого звено, ко¬
торое не принято, «отрезается», т. е. все веточки, выхо¬
дящие из него, отбрасываются и уже не участвуют
в дальнейшем переборе вариантов. Пусть принято, ска¬
жем, звено I. Для двух звеньев, V и II', выходящих из
второго узла (которым оканчивается принятое звено I),
снова ставится вопрос о том, которое из них принад¬
лежит истинной последовательности. Для решения вы¬
числяются далее значения Ьк(хи ..., xmq) (q>l) для
всех веточек, проходящих через узел 2 (см. рис. 4.11),
до тех пор, пока maxLk(xu ..xmq) не превысит впервые
k
уровня Л + m/, тогда принимается в качестве истинного
то звено V или II', через которое проходит «веточка»
с максимальным значением Ьк{х4, ..., xmq) ==L>A + mI.
Другое звено «отрезается», и т. д. (причем с каждым
шагом порог поднимается на ml).
В задаче декодирования при использовании случай¬
ного древовидного кода, в котором символы 0 и 1 выби¬
рались независимо (с вероятностью 7г), и симметрич¬
ного двоичного канала связи (с вероятностью q искаже¬
ния символа), величина £^(/)=1п[Я (2{^\Нк)/Р (г^\Нк)\
принимает два значения: £*(*’)={In 2(1—q)\ 1п2q) с ве¬
роятностями {1—q\ q) при истинности гипотезы Нк__ и
с вероятностями {0,5; 0,5} при истинности гипотез^ Нк\
М{ С<*> (/)|Ял} = 1п2+(1 —q) In (1 — q)Jrq\nq — C.
Среднее число звеньев, на которое надо увеличить
длину просматриваемых веточек, прежде чем будет
выбрано звено I или звено II, выходящее из узла, при¬
надлежащего истинной последовательности, равно А/Ст.
Для уменьшения необходимого количества вычисле¬
ний в алгоритмах последовательного декодирования,
предложенных Фано {44], веточки, анализируемые для
выбора звена I или звена II, имеют разную длину (т. е.
содержат разное число звеньев): каждый раз опреде¬
ляется максимальное значение Ьк(хи ..хшт) и «нара¬
щивается» именно та веточка, для которой значение
Lh{x 1, ..., xmi(k)} было максимально.
Для уменьшения вероятности ошибки в алгоритмах
последовательного декодирования Фано [44] предусмо¬
трена также возможность вернуться назад, в один из
16* 243
предыдущих узлов, и пойти по «отрезанному» ранее
звену и выходящим из него веточкам, если значение
L(x 1, хп) становится меньше некоторого порога.
В [46] рассчитаны некоторые характеристики после¬
довательной процедуры, отличающейся от указанной
выше тем, что возможность возвращения назад отбро¬
шена. Анализ более сложных алгоритмов Фано дан
в [45, 44]. При /># = (In 2)/т вероятность ложного ре¬
шения при выборе звена I или звена II (выходящих из
узла, принадлежащего истинной последовательности)
меньше чем е_А.
Среднее количество операций, затраченных на обра¬
ботку веточек, не принадлежащих истинной последо-,
вательности, отнесенное к количеству уже отобран¬
ных (декодированных) звеньев, >при l/m<l—log2'[l +
+ 2 V <7(1—q)] ограничено и с ростом А не возрастает;
оно пропорционально среднему времени, за которое ма¬
ксимум Lk{x 1, ..., Хтп) переходит с одной из «ложных»
веточек на истинную.
3. Задача последовательного поиска оптимального
варианта на «дереве вариантов» в общем случае прин¬
ципиально охватывается уравнением последовательного
анализа (9.1), если I в этом уравнении интерпретиро¬
вать как номер одного из звеньев, выходящих из дан¬
ного узла (одно из которых можно выбрать). Как и
в § 6, для приближенного решения уравнения (9.1)
и выбора наилучшего пути на дереве можно воспользо¬
ваться методом последовательных приближений по
схеме:
Sn(L\ m) — mn{W(L\rm)\ min [G(L; m\ l)-\-
l £ §(L\ tn)
+ M{Sn_t(L + bL-, /и+1)|1; /и; /}]}, (Ю.15)
принимая в качестве начального приближения S0 (L; т) =
= W (L\ 'm). Управление, соответствующее &-му приближе¬
нию, сводится к тому, чтобы «прощупывать» веточки,
выходящие из данного узла, на k шагов вперед, и вы¬
бирать то из звеньев, через которое проходит веточка,
дающая наилучший результат.
При выбранном способе управления уравнение (9.1) (за¬
писанное без mill) или аналогичные ему уравнения для ве-
-
244
роятностей ложных решений и среднего времени ана¬
лиза (см. § 6) могут служить для оценки качества по¬
строенной последовательной процедуры.
§ 11. Некоторые задачи
оптимального управления
в условиях
статистической неопределенности
1. Задачи управления в динамических системах со
случайными воздействиями. Рассмотрим систему, описы¬
вающуюся стохастическими дифференциальными уравне¬
ниями
п
dxi = fi (х, t, и( х, *))+ (х, t, и(х, t))dyh (*), ОМ)
k=l
где уk (t)—независимые винеровские процессы; и(х, /) —
управляющие воздействия, которые в каждый момент t вы¬
бираются в зависимости от состояния системы x(t)\ х =
— (хи ..., хп); и = (и1,..., щ); и(х, t)£w{x, /) —области
допустимых значений. Предположим, что показатель каче¬
ства системы представляет собой функционал от траек¬
тории процесса, введенный в § 3 гл. 2:
V (х, t) = Mx{G(x (х), т)+ ( F (х (s), s, и (х (s), s)) tfs} .
t
(11.2)
Аналогично § 3 гл. 2 вследствие марковости и непре¬
рывности х (t) и аддитивности функционала V (х, t) значение
V (х, t), соответствующее наилучшему выбору и (х, t) из
области аи(х, t), удовлетворяет соотношению
t+Lt
V(x, t) = sup Afjc{\ F(x(s), s,u(x(s), s))ds-J-
u(x, t)'f
(x-f- Ax, tAt) P (Ax\x, t, и (x, /)) dAx} о (At).
(11.3)
Пусть F(x, t, и) —непрерывная и ограниченная, G(x, t)—
ограниченная, (x, t, и) и aih — кусочно-гладкие ограничен¬
ные функции; Ai(x, t, и) и Btj(x, t, и)—коэффициенты
245
сноса и диффузии непрерывного марковского процесса x(t)
(см. § 3 гл. 2), тогда из соотношения (1.3) следует
01 и С и(х. О IШ 0Хк
i =1
п ^
+4- £ Вц (х, t, и)-^- + F (х, t, и)} ,
V{xJ)\x^r = G{x, t). (П.4)
Отметим, что это уравнение вполне аналогично
уравнению (9.1) последовательного анализа при опти¬
мальном управлении, введенному в § 9. Если граница Г
остановки процесса задана, задачи оптимального управ¬
ления являются более простыми, чем задачи со свобод¬
ной границей, возникающие в § 9. Как было отмечено
ранее, они могут рассматриваться как частный случай
задач совместной обработки информации и управления,
когда решение о прекращении процесса наблюдения
принимается по известному правилу. Как и выше, реше¬
ние может быть найдено при помощи метода последо¬
вательных приближений.
В [53] изучен частный случай систем, в которых ко¬
эффициенты диффузии Bij не зависят от выбора управ¬
ляющих воздействий.
В этом случае нетрудно доказать монотонную сходи¬
мость последовательных приближений, используя след¬
ствие принципа максимума для линейных уравнений
параболического типа:
Лемма [53[. Если функция V (х, I) удовлетворяет урав¬
нению
,и'5)
i, 1=1 i=z 1
в области х и нулевому граничному условию на гра-
п
нице Г области D, где V — положительно опре-
i, /=1
деленная квадратичная форма, причем О, тогда V^O.
246
Запишем схему последовательных приближений для ре¬
шения уравнения (11.4) в виде
П
6t _
i, j=1
-j u^.
i =1
где uW определяется следующим условием:
«<“): j sup \F (x, t, и) + V] At (x, t, и) дЩ* 4 1 =
[uc%(x, oL ax* J
i
= F(x, t, u^ + ^Aiix, t, «<»)) т1~'} j; (11.6)
i
здесь и<4 (x, t)—начальное приближение — выбирается
произвольно в области <и{х, t).
Так как-
F (х, t, ы<»+‘>) + £ Л, («<»+0) > F (х, f, «(»)) +
i
+ ^Л£(х, f, ««0)™1,
i
имеем
dV(»> . 1 in г. д2У(*)
i. i= I
i=l
n
Bi
i, J=i
dV(n+l)
■ F (x, t, u<*+1>) - JjAt (x, t, u<"+1>)
i= 1
247
и для разности У<п+1> — y<n) = W находим
шл. 1 V\ R d*w <п
~W^~~2r 2j °ijdx4dxiV
i, }=l
в области D, с нулевыми условиями на границе, и по¬
тому по лемме W^O. Из равномерной ограниченности
последовательности функций ]Л")(х, t) (которая обеспе¬
чивается априорными оценками для решений уравнений
параболического типа при ограниченных функциях F,
Ai, Bij) следует существование предела
V(x,0 = limV(")(x)0. (11-7)
п-*со
Значения ы(п) (х, t) при этом сходятся к оптимальным:
lim г1<пЦх, t)==u{x, t), (11-8)
п-*со
причем значения и (х, t) доставляют максимум выражению
max \f{x, t, «) + У1 At{x, t, 1. (H-9)
u£<U{*,t)\ f^t 0 * I
При F(x, t, u)=—1, G(x, tf)=0 целью оптимального
управления является как можно более быстрое достиже¬
ние заданной границы диффузионным управляемым
марковским процессом x(t)\ при F(x, t, м)==1,
G(x, t)= 0—как можно более длительное пребывание
в области D до первого попадания на границу Г.
. При F(x, t, ы) = О, G (х, t)x ^ г = 1» G(*. 01*£Г,= 0*
где Г, U Г2 = Г, задача управления — максимизировать ве¬
роятность попадания в область Тг при выходе на границу
(см. § 3).
Если момент окончания процесса задан детермини¬
рованным образом: t = T, то V(x, t) может интерпрети¬
роваться как средний «доход» от процесса за время
от t до Т. В этом случае граница Г задается уравнением
t = T.
248
2. Случай дискретного времени и дискретного множе¬
ства состояний. В случае дискретного времени и дискрет¬
ного множества состояний задача § 1 принимает сле¬
дующий вид.
Поведение системы описывается марковской цепью
с N состояниями (перенумерованными при помощи k=l,
2, N), с матрицей вероятностей перехода p(l\k;
u(k; t)), зависящей от управляющего воздействия
u(k; t). Значение u(k\ t) может выбираться в зависимо¬
сти от текущего времени t и занимаемого в данный мо¬
мент t состояния k(t)\ u(k; t)£<u (k\ t). Показателем
качества поведения системы является аддитивный функ¬
ционал от траектории:
V(k; t)=M {J r(ft(/ + l); k(j))+G(k(x), t)|k(t) = k}>
i=t
(11.10)
где x — момейт первого попадания в Некоторое заданное мно¬
жество состояний Л (t) (возможно, изменяющееся со вре¬
менем t); r(l; k) — заданная матрица.
Если JL (t) = 0—пустому множеству при t < 7\ <A(t) =
= {1,..., N} при t = T, получаем в качестве частного
случая прекращение процесса в определенный момент t—T.
Если при этом <и (k, t) состоит из конечного числа элемен¬
тов, независимо от t и данного состояния k, получаем за¬
дачу, подробно изученную Ховардом [48].
При фиксированном управлении и (k (t)\ t) значение V{k\ t)
удовлетворяет рекуррентному уравнению
V(k', t) = {I | k) \r (/; k)-\-V(l; t-[-1)] при kfcjl,
i
V(k, t) = G(k, t) при (ll.il)
вследствие марковости k(t) и аддитивности функцио¬
нала V(k, t). При оптимальном выборе значений
u(k{t); /) аналогично (9.1), или (11.4), находим
V (k; f) = max { У. р (I \k; и (k; t)) \r (I; k; и (k; Л4-
e(*;/) g #(A; <) '■i
+ V (/; t-\- 1)J } при kfcd,
V(k; t) = G(k; t) при k£A. (П.12)
249
В задаче с фиксированной длительностью процесса Т
и фиксированным конечным множеством w (k\ t) реше¬
ние уравнения (11.12) метрдом последовательных при¬
ближений, аналогичное (11.6), совпадает с известным
итерационным методом Ховарда [48]. При этом, как и
ранее, последовательность V^n)(k\ t) монотонно сходится
к V(k\ t) и uW (k\ t)—к оптимальным значениям.
3. Некоторые задачи оптимального управления с адап¬
тацией. Уравнения вида (11.1) могут быть получены так¬
же для оценок неизвестных параметров или для апосте¬
риорных вероятностей (см. § 4 гл. 3, § 9 гл. 4). Тогда
рассмотренные задачи оптимального управления вклю¬
чают оптимальное управление динамическими система¬
ми и оптимальное управление процессом наблюдения,
обработки информации.
Методы, развитые выше, могут быть положены
в основу построения ряда «адаптивных», «самонастраи¬
вающихся» систем автоматической обработки информа¬
ции и управления.
ЛИТЕРАТУРА
1. Колмогоров А. Н. Об аналитических методах в теории ве¬
роятностей. Успехи математических наук, 1938, вып. 5,
стр. 5—41.
2. Колмогоров А. Н. Zur Umkerbarkeit der statistischen Na-
turgesetze, Math. Annalen, 1936, v. ,113, p. 766—772.
3. Гнеденко Б. В. Курс теории вероятностей. Физматгиз, 1961.
4. Ф е л л е р В. Введение в теорию вероятностей и ее приложе¬
ния. Изд-во «Мир», 1964.
5. Д у б Д ж. JI. Вероятностные процессы. Изд-во иностранной
литературы, 1956.
6. В и н е р Н. Нелинейные задачи в теории случайных процессов.
Изд-во иностранной литературы, 1961.
7. W i е п е г N. Generalized harmonic analysis, Acta Math., 1930,
v. 55, p. Ill 7—258.
8. Бернштейн С. H. Стохастические дифференциальные урав¬
нения. Собрание сочинений, т. IV. Изд-во «Наука», 1964.
9. Бернштейн С. Н. Принципы теории стохастических диффе¬
ренциальных уравнений. Собрание сочинений, т. IV. Изд-во
«Наука», 1964.
10. Ст р ат о н о в и ч Р. Л. Условные марковские процессы и их
применение к теории оптимального управления. Изд-во МГУ,
1966.
11. Ф ел л ер В. К теории стохастических процессов. Успехи мате¬
матических наук, 1938, вып. 5, стр. 57—96.
12. Fortet R. Les fonctions aleatoires du type de Markoff. J. Math.
Pures Appl, 1943, vol. 22, p. 117—243.
13. Г и x м а н И. И., Скороход А. В. Введение в теорию слу¬
чайных процессов. Изд-во «Наука», 1965.
14. X а з е н Э. М. Определение одномерной плотности распреде¬
ления и моментов случайного процесса на выходе суще¬
ственно нелинейной системы. Теория вероятностей и ее при¬
менения, 1961, вып. 1, стр. 130—138.
15. X а з е н Э. М. Определение плотности распределения вероятно¬
стей для случайных процессов в системах с нелинейностями
кусочно-линейного типа. Теория вероятностей и ее примене¬
ния, 1961, вып. 2, стр. 234—242.
16. X а з е н Э. М. Марковские случайные процессы в системах с не¬
линейностями кусочно-линейного типа. «Известия АН СССР»,
ОТН, сер. энергетика и автоматика, 1961, № 3, 58—72.
17. Хазен Э. М. Резюме доклада на Секции теории вероятностей
Московского математического общества. «Теория вероятностей
и ее применения», 1962, № 2.
18. Андронов А. А., Понтрягин Л. С., Витт А. А. О ста¬
тистическом рассмотрении динамических систем. Собрание со¬
чинений А. А. Андропова, Изд. АН СССР, 1956.
251
19. Ю д и н Д. Б., X а з е н Э. М. Некоторые математические аспек¬
ты статистических методов поиска. Сб. «Автоматика и вы¬
числительная техника», 13. Рига, 1966.
20. Тай М. Л. Условия сопряжения для плотности вероятности
перехода марковского процесса с разрывными коэффициен¬
тами сноса и диффузии. «Известия вузов», Радиофизика,
1966, №> 4, 1965, № 2 и 4.
21. Стратонович Р. Л. Об уравнении Фоккера—Планка с раз¬
рывными коэффициентами и условиях на поверхности раз¬
рыва. «Известия вузов», Радиофизика, 1965, т. 8, № 4,
стр. 704.
22. С т р ат о н о в и ч Р. Л. Условные процессы Маркова. «Теория
вероятностей и ее применения», 1960, № 2, стр. 1172—195.
23. К а 1 m a n R. Е. New Approach to the Linear Filtering and Pre¬
diction Problems. J. of Basic Engineering. Trans. ASME,
1960, v. 82, № 1.
24. К a 1 m a n R. E., В u с у R. S. New results in linear filtering
and prediction theory. J. of Basic Engineering. Trans. ASME,
1901, v. 83, p. 95—108.
25. Хазен Э. М. Байесовские оценки в задачах фильтрации сиг¬
налов. «Радиотехника и электроника», 1968, № 5.
26. С т р а т о н о в и ч Р. Л., С о с у л и н Ю. Г. Оптимальное обна¬
ружение марковского процесса в шуме. «Известия АН СССР»,
Техническая кибернетика, 1964, № 6.
27. К о л м о г о р о в А. Н., Ширяев А. Н. Применение марков¬
ских процессов к обнаружению разладки производственного
процесса. Доклад на Всесоюзном совещании по теории вероят¬
ностей и математической статистике, 1960, Вильнюс.
Ширяев А. Н. Задача скорейшего обнаружения нарушения
стационарного режима. ДАН СССР, 1961, т. 138, № 5У
стр. 1039—1042.
28. Лоэв М. Теория вероятностей. Изд-во иностранной литерату¬
ры, 1962.
29. Ван-дер-Варден. Математическая статистика. Изд-во ино¬
странной литературы, 1960.
30. Вальд А. Последовательный анализ. Физматгиз, 1960.
31. W а 1 d A., W о 1 f о w i t z J. Bayes solutions of sequential de¬
cision problems. Ann. Math. Stat. 1950, vol. 21, № 1.
32. Б e н e н с о н 3. М., Хазен Э. М. Методы последовательного
анализа в задачах распознавания многих гипотез. «Известия
АН СССР», Техническая кибернетика, 1966, № 4.
33. Б л е к у э л л Д., Гиршик М. А. Теория игр и статистических
решений. Изд-во иностранной литературы, 1958.
34. Б е л л м а н Р. Динамическое программирование. Изд-во ино¬
странной литературы, 1960.
35. К u 11 b а с k S. Information theory and Statistics, Wiley, N. I.,
1959.
Есть русский перевод: Кульбак С. Теория информации и
статистика. Изд-во «Наука», 1967.
36. Ф л е й ш м а н Б. С. Конструктивные методы оптимального
кодирования для каналов с шумами. Изд-во АН СССР, 1963.
37. Шеннон К. Математическая теория связи. В сб. К. Шеннон.
Работы по теории информации и кибернетике. Изд-во ино¬
странной литературы, 1963.
38. Р е г е z A. -Information, «-Sufficiency and Data Reduction Pro¬
blems, Kybernetika, 1965, № 4, 1967, № 1,
252
39. Хазен Э. М. Методы статистического последовательного поис¬
ка. Доклад на Всесоюзном семинаре по статистическим мето¬
дам оптимизации. Рига, 1966. В сб. «Автоматика и вычисли¬
тельная техника», Рига. Изд-во «Зинатне», 1968.
40. Schwarz G. Asymptotic shapes of Bayes sequential testing
regions. Ann. Math. Stat., '1962, v. 33, № 1, p. 224—236.
41. Whittle P. Some general results in sequential analysis. Bio-
metrika, 1(964, vol. 51, pt. I, 2, p. 123—'1411.
42. К i e f e r J., Sacks J. Asymptotical optimum sequential infe¬
rence and design, Ann. Math. Stat., vol. 34, 1963, № 3.
43. H о e f f d i n g W. Lower bounds for the expected sample size and
the average risk of a sequential procedure, Ann. Math. Stat.,
-I960, vol. 31, № 2, p. 352—368.
44. Ф а н о P. М. Эвристическое обсуждение вероятностного декоди¬
рования. Сб. «Теория кодирования». Изд-во «Мир», 1964,
стр. 166—198.
45. Savage J. Е. Sequential Decoding — The Computation prob¬
lem, Bell System Techn. I., 1966, 45, 1, p. 149—175.
46. 3 и г а н г и p о в К. Ш. Некоторые последовательные процедуры
декодирования. «Проблемы передачи информации», 1966,
вып. 4.
47. Б а ш а р и н о в А. Е., Ф л е й ш м а н Б. С. Методы статисти¬
ческого последовательного анализа и их приложения. Изд-во
«Советское радио», 1962.
48. X о в а р д Р. Динамическое программирование и марковские
цепи. Изд-во «Советское радио», 1964.
49. A m s t е г S. I. A modified Bayes stopping Rule, Ann. Math.
Stat, 1963, vol. 34.
50. M о ц к у с И. Б. Об одной последовательной процедуре ста¬
тистического решения экстремальных задач. Сб. «Автоматика
и вычислительная техника», вып. 10, Рига. Изд-во «Зинатне»,
1965.
51. Моисеев Н. Н. Некоторые задачи оптимального управления.
«Журнал вычислительной математики и математической физи¬
ки», 1965, № \
52. К о л м о г о р о в А. Н., Л е о н т о в и ч М. A. Zur Berechnung
der mittleren Brownschen Flache, Phys. Z. d. Sov. Un. 4 (1933),
1—13.
53. F1 e m i n g W. H. Some Markovian Optimization Problems, Journ.
Math, and Mech., 1963, 12, № 1.
54. Крамер Г. Математические методы статистики. Изд-во ино¬
странной литературы, 1948.
55. W а 1 d A. Faundations of a general theory of sequential decision
functions. Econometrika, 1947, v. 115, p. 279—313.
56. Ф а н о P. Передача информации. Статистическая теория свя¬
зи. Изд-во «Мир», 1965.
57. Б е н е н с о н 3. М., Хазен Э. М. Меры информации в зада¬
чах оптимальных статистических решений. «Известия вузов
СССР», Радиофизика, 1968, № 7.
58. М и х а л е в и ч В. С. Последовательные байесовские решения и
оптимальные методы приемочного статистического контроля.
Теория вероятностей и ее применения, 1956, вып. 4.
253
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ
Аддитивные функционалы от ,
марковских процессов 10,
57, 198, 236, 245, 249
Байеса формула 20, 94
Блуждания случайные 15, 23,
28
Броуновское движение 26, 28,
29, 31
Буля неравенство 151
Вероятность перехода 23
Винеровский процесс 9, 26, 28,
29, 31
Динамическое программирова¬
ние 224, 236
Достаточные статистики
140—143, -147, 163, 166
— — марковские J40—143,
167
Задачи оптимального управле¬
ния с адаптацией 55, 106,
107, 250
— отождествления 174
— последовательного анализа
118
— сглаживания результатов
измерений 107, 238
Информационные оценки 162
Информационные числа Куль-
бака—Леблера 144, 218,
226
Информация Шеннона 153, '162
Линдеберга условие 29
Липшица условие 29, 48
Марковские процессы диффу¬
зионного типа 9, 28, 33, 49,
170, 197, 245
254
.линейные 49, 52
— — со скачками 25
условные 10, 68, 82
Марковские цепи 20, 67, 249
с непрерывным вре¬
менем 23, 68
Обнаружение марковского сиг¬
нала в шуме 88, 92
— сигнала в многоканаль¬
ной системе 163, 179
— скачка параметра 109, 112
Отношение правдоподобия 138
«осредненное» 195, 217
Оценки для вероятностей лож¬
ных решений 144, 146, 151,
1159
— для приращения байесов¬
ского риска 161
среднего риска 156
— для риска сверху и снизу
(201, 202) и для границы об¬
ласти продолжения наблю¬
дений «извне» и «изнутри»
201, 202, 212
— параметров 143, 190, 220,
227, 229
— снизу для средней длитель¬
ности последовательного
анализа 207, 210
Переменные пороги в задачах
о различении гипотез 177,
193, 217
Планирование экспериментов
222, 226, '229, 244
в задачах последователь¬
ной оценки параметров 229
в задаче о различении
гипотез 226
Поиск на «дереве вариантов»
234, 242, 244
Поиск экстремума 55, 244
Последовательная оценка па¬
раметров 220, 229
Последовательное декодирова¬
ние 241, 243
Последовательный критерий от¬
ношений вероятностей 135,
Г37
Правила решающие 118
— — асимптотически опти¬
мальные 21Я, 2*16, 228
байесовские 119
последовательные 118
с фиксированным числом
наблюдений 'L22, 156
Пропускная способность канала
151, 1154
Различение двух простых ги¬
потез 128, 137, 224
— многих гипотез 131, 167, 172,
■179, 182, 219
«равноправных» гипотез
182, 184
— сложных гипотез 189, 21!2,
217, 226
— статистических гипотез при
нестационарных условиях
128
— при наличии мешаю¬
щих параметров 189, 2*19
Распознавание гипотез il72
— «образов движущихся объ¬
ектов» 237
— последовательностей 234
— сигналов 76
Рекуррентное уравнение для
апостериорной вероятности
70, 82
для байесовского риска
123, 127
для выбора оптимального
управления 224, 245, 249
для совместного решения
задачи обнаружения и филь¬
трации сигнала 90, 91, 93
— -— для функции условного
риска '127, 1167
Риск байесовский 122, 161
— средний 119, 156
— условный 1123, 1S7
Сигнал детерминированного
вида 94
— марковский 88
Системы динамические 49, 55,
245
— кусочно-линейные 60
—, обладающие потенциальной
функцией 53
— поиска с «обучением» 55
— экстремального регулирова¬
ния 115, 229
Стохастические дифференциаль¬
ные уравнения 33, 45
динамических систем
49, 245
оптимальной фильтра¬
ции 71, 75, 250
Теорема центральная предель¬
ная '28
— Шеннона 12, 148
Управление динамической си¬
стемой со случайными воз¬
действиями 65, 245
— марковской системой 249
— обработкой результатов на¬
блюдений 107, 238
— с адаптацией 55, 107, 250
— ходом наблюдений 222
Уравнение Колмогорова 33,
38, 78
Фазовое пространство 47, 18
Фильтрация оптимальная Вине¬
ра—Колмогорова 8*1, 82
линейная 80, 82, 87
гауссовских процессов
87
нелинейная 72, 107
— полинома в белом и в кор¬
релированном шуме 97, 99
— с адаптацией к не вполне
известной корреляционной
функции шума 104
Фундаментальное решение 28
65
Характеристическая функция
50, 84, 133
255
СПИСОК ОСНОВНЫХ ОБОЗНАЧЕНИЙ
Р'(х), р(х) —вероятность или плотность вероятности;
Р(А\В) —условная вероятность события А при условии В;
Мх — математическое ожидание случайной величины х;
М{х\А)—'условное математическое ожидание х при условии А\
ah(x, /), bhe(x, /), или Ak(x, t), Bhe(x, /), или ah(xt /), <y2he(xt t) —
локальные характеристики диффузионного
марковского процесса (коэффициенты сноса
и диффузии);
у(х) —процесс «броуновского движения»; Уъ=У(^ь)
(стр. 34);
/и—стохастический интеграл Ито;
/с — симметризованный стохастический интеграл;
/(со)—спектральная плотность;
R (т) — корреляционная функция;
V(x, t) —условное математическое ожидание аддитив¬
ного функционала от траектории марковского
процесса при условии x(t)=x\
и>рв(*, t) — апостериорная вероятность или плотность ве¬
роятности;
s(t) —сигнал, n(t) —помеха, r(t) —наблюдаемая
реализация; u(t) — управление;
F(Sh\ rk\sh-\\ fk~i) —плотность вероятности перехода двумерной
марковской цепи («л, г*);
р (п) —плотность распределения для значений помехи;
rrih (t) — апостериорные средние значения;
\\dke(0 || — матрица апостериорных дисперсий;
F — функция распределения;
Q; со, Q — множества функций распределения;
g (со) — априорная вероятностная мера на Q;
d£ D* — множество окончательных решений;
W(F, d) — штраф;
п(х, D) — необходимое число наблюдений;
с — стоимость наблюдения в единицу времени;
р(£) — байесовский риск;
D, 6 — решающие функции;
г (£, D) —средний риск;
S(L; пг) —функция условного риска;
S(L; пг) — условный риск при проведении по крайней ме¬
ре одного наблюдения;
W(L; т)—математическое ожидание штрафа при оста¬
новке;
G(L\ т) —условное математическое ожидание стоимости
очередного наблюдения при условии значения
L статистики в момент т;
P(AL\L\ т)—условная плотность вероятности для прира¬
щения lA L;
/£<§(£; т) — множество возможных типов экспериментов;
/(1 : 2) — «информационное число»;
/(*, 0) —количество информации по Шеннону, содер¬
жащейся в х относительно 0;
С — пропускная способность канала;
О (а) — величина порядка а;
о (а) —величина порядка, меньшего, чем а.
256
Цена 95 коп.