/
Author: Панков А.Р. Семенихин К.В.
Tags: математика теория вероятностей дифференциальные уравнения дискретная математика учебное пособие
Year: 2007
Text
ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ
МОСКОВСКИЙ АВИАЦИОННЫЙ ИНСТИТУТ
( государственный технический университет)
А. Р. Панков, К. В. Семенихин
ПРАКТИКУМ
ПО ТЕОРИИ
СЛУЧАЙНЫХ ПРОЦЕССОВ
Учебное пособие
Утверждено
па заседании редсовета
октября 2007 г.
Москва
Издательство МАИ
2007
Панков А. Р., Семенихин К. В. Практикум по теории случай-
ных процессов. Учебное пособие. — М.: Изд-во МАИ, 2007. — 152 с.:
ил.
Данное учебное пособие предназначено для преподавателей, веду-
щих практические занятия по курсу «теория случайных процессов».
Материал пособия рассчитан на один семестр.
Пособие ориентировано также на самостоятельную работу студен-
тов, специализирующихся в области прикладной математики, теории
управления и обработки информации.
Рецензенты:
ISBN - - - © Московский авиационный институт
(государственный технический университет), 2007
СОДЕРЖАНИЕ
Предисловие................................................. 5
Список основных сокращений и обозначений.................... 6
Занятие 1. Вероятностные распределения случайных про-
цессов ..................................................... 8
§ 1. Теоретические, сведения............................. 8
§ 2. Примеры ........................................... 11
§ 3. Задачи для самостоятельного решения................ 16
Занятие 2. Моментные характеристики случайных процес-
сов ....................................................... 18
§ 1. Теоретические сведения............................. 18
§ 2. Примеры ........................................... 21
§ 3. Задачи для самостоятельного решения................ 25
Занятие 3. Непрерывность и дифференцируемость случай-
ных функций................................................ 27
§ 1. Теоретические сведения............................. 27
§ 2. Примеры ........................................... 31
§ 3. Задачи для самостоятельного решения................ 35
Занятие 4. Интегрирование случайных функций............... 37
§ 1. Теоретические сведения............................. 37
§ 2. Примеры ........................................... 41
§ 3. Задачи для самостоятельного решения................ 45
Занятие 5. Процессы с ортогональными приращениями 46
§ 1. Теоретические сведения............................. 46
§ 2. Примеры ........................................... 52
§ 3. Задачи для самостоятельного решения................ 56
Занятие 6. Винеровский процесс ............................ 59
§ 1. Теоретические сведения............................. 59
§ 2. Примеры ........................................... 62
§ 3. Задачи для самостоятельного решения................ 66
4
СОДЕРЖАНИЕ
Занятие 7. Элементы стохастического дифференциального
исчисления Ито ........................................... 68
§ 1. Теоретические сведения............................ 68
§ 2. Примеры .......................................... 73
§ 3. Задачи для самостоятельного решения............... 77
Занятие 8. Стационарные случайные процессы................ 79
§ 1. Теоретические сведения............................ 79
§ 2. Примеры .......................................... 82
§ 3. Задачи для самостоятельного решения............... 89
Занятие 9. Линейные преобразования стационарных про-
цессов ................................................... 91
§ 1. Теоретические сведения............................ 91
§ 2. Примеры .......................................... 96
§ 3. Задачи для самостоятельного решения................ 103
Занятие 10. Потоки событий. Пуассоновский процесс . . 105
§ 1. Теоретические сведения........................... 105
§ 2. Примеры ......................................... 108
§ 3. Задачи для самостоятельного решения.............. 113
Занятие 11. Марковские процессы ......................... 116
§ 1. Теоретические сведения........................... 116
§ 2. Примеры ......................................... 121
§ 3. Задачи для самостоятельного решения.............. 125
Занятие 12. Цепи Маркова ................................ 127
Ц 1. Теоретические сведения........................... 127
§ 2. Примеры ......................................... 131
§ 3. Задачи для самостоятельного решения.............. 138
Занят и е 13. Дискретные марковские функции ............. 140
§ 1. Теоретические сведения........................... 140
§ 2. Примеры ......................................... 143
§ 3. Задачи для самостоятельного решения.............. 149
Список литературы........................................ 151
ПРЕДИСЛОВИЕ
Данное учебное пособие предназначено для методического обес-
печения практических занятий и самостоятельной работы студентов
в рамках курса «теория случайных процессов», изучаемого на фа-
культете прикладной математики и физики МАИ в объеме 32 часов
лекций и 32 часов практических занятий.
Пособие состоит из тринадцати разделов (занятий). Первое за-
нятие является вводным и посвящено основным понятиям теории
случайных процессов (вероятностные распределения и способы их
описания). Следующие три занятия составляют основу корреляци-
онного анализа случайных функций (моментные характеристики,
свойства процессов в среднем квадратичном). Разделы с пятого по
седьмой предназначены для изучения основ теории стохастических
дифференциальных уравнений и связанных с ними понятий (белый
шум, процессы с oproi опальными приращениями, винсровский про-
цесс, стохастический интеграл и дифференциал Ито). Следующие два
занятия посвящены стационарным случайным последовательностям
и функциям (моментные и спектральные характеристики, стацио-
нарные линейные преобразования). В десятом занятии рассмотрены
потоки событий и пуассоновский процесс. Последние три раздела це-
ликом посвящены марковским процессам (модели марковских после-
довательностей и функций, цепи Маркова, элементы теории массового
обслуживания).
Каждое занятие состоит из трех подразделов: в первом указаны
основные определения и утверждения; во втором приведены примеры
задач с подробными решениями; в третьем псретшслены задачи для
самостоятельного решения. Большинство задач снабжены ответами и
указаниями.
При подготовке материала пособия авторы пользовались следу-
ющими источниками: [ 1—6,9-11,14-16,18-20] (теория вероятностей и
случайные процессы), [8,13] (функциональный анализ).
СПИСОК ОСНОВНЫХ СОКРАЩЕНИЙ и
ОБОЗНАЧЕНИЙ
а := Ь означает «обозначим b через а» или «положим а, равным Ь» и т.п.;
R, R71 и RmXri — множество вещественных чисел, пространство п-мерных
векторов-столбцов и семейство матриц размера т х п;
Z — множество целых чисел;
С — множество комплексных чисел;
z— число, сопряженное с z Е С;
Re z — вещественная часть комплексного числа z 6 С;
co1[ti, ..., тп] —вектор-столбец, составленный из элементов яд, ... ,тп;
А* и А1 —транспонированная и обратная матрицы;
trA — след матрицы А;
I и О — единичная и нулевая матрицы;
о(т) — «о-малое», т. е. функция от т, такая, что о(х)/х 0 при х —> 0;
In — индикаторная функция множества В;
В (В) — борелевская сг-алгебра множества Е С Rn;
<5а(В) — мера Дирака, сосредоточенная в точке а;
д{х) —дельта-функция Дирака;
L2(T) (или 1_2(Д д)) — лебегово пространство функций, квадратично
интегрируемых на Т относительно лебеговой меры (или меры д);
(Q, Т7, Р) — вероятностное пространство;
М, D и cov — математическое ожидание, дисперсия и ковариация;
Р{... | ...} и М{... | ...} —условная вероятность и условное матсмати-
ческое ожидание;
1{...} — индикатор случайного события
— биномиальное распределение с параметрами N и р;
П(Л) — распределение Пуассона с параметром А;
В(А)— экспоненциальное распределение с параметром А;
С(А) — распределение Коши с функцией плотности /(т) = --
1Z(a, Ь) — равномерное распределение на интервале (а, 6);
Af(m, D) — гауссовское (нормальное) распределение со средним т и
дисперсией (ковариационной матрицей) В;
е u S2du — функция Лапласа;
Fy(t) — функция распределения случайной величины X;
Рх(х) и /х(т) — плотность распределения случайной величины X;
СПИСОК ОСНОВНЫХ СОКРАЩЕНИЙ И ОБОЗНАЧЕНИЙ
7
Т — временная область случайного процесса (см. занятие 1);
Е — фазовое пространство (множество состояний) случайного процесса;
£(i) — сечение случайного процесса £ в момент t;
— траектория случайного процесса £, соответствующая исходу щ 6 Q;
Pc(ii, ..., tn) —n-мерное распределение случайного процесса £;
F^(xi, ... ,хп; й, ...,in) — n-мерная функция распределения случайно-
го процесса £;
p^(xi, ..., тп; ti, ..., tn) — n-мерная плотность распределения случай-
ного процесса £;
Ф{(г1, ... , 2n;ii, ..., in) — n-мерная характеристическая функция слу-
чайного процесса £;
?n^(i) и B^(t)— математическое ожидание и дисперсионная функция
случайного процесса £ (см. занятие 2);
Rt(t)S) и r^(i,s) — ковариационная функция и функция вторых момен-
тов случайного процесса £;
1_2(П) — лебегово пространство случайных величин с конечным вторым
моментом (см. занятие 3);
с.к.—в среднем квадратичном;
С.К. лл az i • v
Лп ----> X иЛ= l.i.m. Ап—сходимость в среднем квадратичном;
п—»оо
(Р-п.н.) — почти наверное (с вероятностью 1);
w(i) — винеровский процесс (см. занятие 6);
Л — спектральная область стационарного процесса (см. занятие 8);
г^(т) — ковариационная функция стационарного процесса £;
S^(B), s^(A) и Z^B)—спектральная мера, спектральная плотность и
ортогональная стохастическая мера стационарного процесса
11(A) — частотная характеристика стационарного линейного преобразо-
вания (см. занятие 9);
P(s,a?,i, В) и p(s, т, i, у) — переходная вероятность и переходная плот-
ность марковского процесса (см. занятие 11);
P(rr,i,B) и р(х, t, у) — переходная вероятность и переходная плотность
однородного марковского процесса;
Рх.у, Рз’,у(п) и px,?/(i)—вероятность перехода дискретного однородного
марковского процессе! из состояния х в состояние у за один шаг, за п шагов,
за время i (см. занятия 12 и 13);
Р и P(i) — переходная матрица (за один шаг, за время i) дискретного
однородного марковского процесса;
7rr(f) и ?r(i) — вероятность состояния х и распределение вероятностей
состояний дискретного марковского процесса в момент i;
Агг,у — интенсивность перехода дискретной однородной марковской
функции из состояния х в состояние у\
Ат — интенсивность выхода дискретной однородной марковской функ-
ции из состояния х\
Л — матрица интенсивностей переходов.
ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ
СЛУЧАЙНЫХ ПРОЦЕССОВ
§ 1. Теоретические сведения
Предположим, что задано вероятностное пространство (Q, Д Р) и
некоторое непустое множество Т С R.
Определение 1.1. Набор случайных величин £ := {£(t), t е Г},
определенных па (Q,.?7, Р), называется случайным процессом.
При этом случайная величина — есть сечение случайного про-
цесса £ в момент t. Функция переменной t называется
траекторией или реализацией случайного процесса £, соответствую-
щей исходу си € Q.
Множество Т называется далее временной областью, а множе-
ство Е значений случайных величин £(£) — фазовым пространством
случайного процесса £.
Будем говорить, что £ — случайный процесс с дискретным време-
нем, если Т счетно. В частности, если Т = {0,1,2, ... } или Т = Z,
то £ — это случайная последовательность. Если же Т — промежуток
действительной оси, то £ будем называть случайной функцией или
случайным процессом с непрерывным временем.
Таким же образом случайные процессы можно разбить на два
класса (дискретные и непрерывные) в зависимости от вида фазового
пространства Е. Например, если Е не более чем счетно, то процесс
будет дискретным.
Случайный процесс £ с фазовым пространством Е = R называется
вещественным. Если Е = С, то £ — комплексный случайный процесс,
а в случае Е — Rm будем говорить, что £ — это т-мерный случайный
процесс.
ТЕОРЕТИЧЕСКИЕ СВ ЕД Е Н И Я
9
Определение 1.2. Семейством конечномерных распределений
случайного процесса {^(/), t еТ} называют совокупность
.-- {Р^ (^1 ? • • • ? ^7l) • ? • • • ? 1}?
где P^(/i, ..., 1п) обозначает совместное распределение случайных
величин {C(fi), • •,£(£«)}•
Рассматривая указанное распределение как функцию п перемен-
ных ii, ... ,tn, назовем Pf(£i, • • • и-мерным распределением слу-
чайного процесса £.
Если Е = R, то P^(ti, • •, ^п) можно задать посредством п-мерной
функции распределения
Х[^ - • • 5 х^п G IR., f • • • •) С £ Т(^••1)
или с помощью п-мерной характеристической функции
^(zi, ti, := Mexpfz
j=i
., zn G 11, • • •, tn G T.
Если все pj} различны и дополнительно известно, что распределение
Р^tn) абсолютно непрерывно относительно n-мсрной меры
Лебега, т. е. (1.1) допускает представление
• • (^1) • • • j 1 ? • • • * ) ди 1 ... дип
— оо —сю
то P^(ti, ... Лп) можно описать с помощью п-мерной плотности
распределен ш
10
ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ
[3. 1
Теперь предположим, что фазовое пространство Е дискретно.
В этом случае распределение РДН, -., tn) однозначно восстанавли-
вается по вероятностям
7ГГ.
i**' п
(^1 , ...,tn) .- Р {£(£ 1 ) - X} , • • • , £(^7l) - ^71} •)
Ti, ..., хп t Е, Е, ..., tn еТ. (1 - 2)
Поэтому набор вероятностей (1-2) называется п-мерным распределе-
нием дискретного случайного прогресса
Определение 1.3. Случайный процесс называется гауссовским.
если все его конечномерные распределения являются гауссовскими.
Например, вещественный процесс {£(£), t Е Т} является гауссов-
ским, если любой конечный набор его сечений {£(Н),... , £(£тг)} обра-
зует гауссовский вектор.
Для любого случайного процесса {£(£), t Е Т} выполнено условие
согласованности семейства конечномерных распределений, которое
посредством n-мерных функций распределения может быть выраже-
но следующим образом:
1) для любого набора моментов {Е} QT и точек {тД С R
(ад, ..., хп— 1, -|-оо, Н, ..., £.n_i, tn) —
-- (^Т ? • • • 7 З'П—1 ) Н > • • • Дп —1 ) } (1 *3)
2) для любой перестановки {Aj, ..., kn ) индексов {1, ..., п}
Теорема 1.1 (Колмогоров). Пусть Т — произвольное непустое
множество. Если на измеримом пространстве (R, B(R)) определено
семейство Q конечномерных распределений, удовлетворяющее усло-
виям согласованности (1.3), (1.4), то существует вероятностное
пространство (Q,^7, Р), на котором задан вещественный случайный
процесс {£(Д, t Е Т} с семейством конечномерных распределений Q.
Замечание. Результат теоремы 1.1 останется в силе, если в ка-
честве фазового пространства взять любое непустое борелевское под-
множество конечномерного пространства, т. е. Е Е Z3(lRm).
ПРИМЕРЫ
§ 2. Примеры
Пример 1.1. Пусть случайный процесс задан соотношением
w = ^и,
t е [0,1],
где U — случайная величина с известной функцией распределе-
ния FLr(.r). а </?(f) — положительная детерминированная функция.
Найти семейство функций распределения процесса Имеет ли его
n-мерпая функция распределения плотность?
Решение. В соответствии с (1 -1) имеем
, . . . , £En, ty ,..., tn) — Р{£(н)
^17 • • • > С (tn)
U тг, i — 1, . .
,п}
min
2=1, ...,П
Xi
Если функция распределения /уфт) имеет плотность р^(а;), то
существует и плотность одномерного распределения случайного про-
цесса £(£), поскольку для п = 1 из (1.5)
F^=Fv(^) = J Ри(У)<1У= J ^)^(^j)^
— СО —оо
следовательно, рфт; t) =
Однако при 7i 2 ??-мерная функция распределения не имеет
плотности. Действительно, в силу определения процесса £(£) для
любых fi, ...,tn имеет место соотношение
^(И)/(/?(^1) — • • • — ^(tn)),
поэтому мера P^(fi: ..., tn) в пространстве IRZ7, соответствующая
функции распределения (1.5), сосредоточена на прямой
{я G Rn: ^i/^(fj) = ... = xn/(p(tn)},
12
ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ
[3. 1
имеющей нулевую лебегову меру. Следовательно, мера • • •,
сингулярна ио отношению к мере Лебега, и поэтому /г-мерная плот-
ность не существует, если п 2.
Пример 1.2. Пусть X и V — независимые случайные величины,
распределенные по закону AffO,1).
Для случайной функции £(t) = X + tV, 1^0:
а) описать ее траектории и сечения;
б) найти семейство конечномерных распределений;
в) вычислить вероятность события А — {и: траектория не
пересекает ось абсцисс}.
Р е ш е н и е. Траектории представляют собой полупрямые, вы-
ходящие при t = 0 из точки Х(сА) под углом (к горизонтальной оси),
тангенс которого равен V(u>).
Найдем ^-мерное распределение РДН? • - • Дп), т. с. распределение
случайного вектора £ := со1[£(Н), • • • ,£(^п)]-
Нетрудно видеть, что £ = ВIV, где В — матрица размера п х 2, г-я
строка которой имеет вид (1, £г), a W — век гор, составленный из двух
случайных величин X и V. Поскольку указанные величины — незави-
симые и гауссовские, W — гауссовский вектор, причем И7 А7(О, /),
где / — единичная матрица размера 2x2. Следовательно, вектор £
также распределен по гауссовскому закону. Осталось определить ма-
тематическое ожидание т и ковариационную матрицу7 К данного
вектора:
т = BMW = 0,
К = Bcov{H< И7} В* - ВВ*.
Таким образом, искомое распределение РД£1, — гауссов-
ское с нулевым средним и ковариационной матрицей К — {Kij}, где
Ki j := 1 -|- htj и i,j = 1, ..., n. Следовательно, в силу определения 1.3
случайная функция {£(£), t 0} является гауссовским процессом.
В частности, при п = 1 получаем, что РДД = Af(O, 1 + i2). По-
этому любое сечение £(t) рассматриваемого процесса представляет
собой нормально распределенную случайную величину с нулевым
математическим ожиданием и дисперсией 1 + t2.
Теперь найдем вероятность события А. Очевидно, что полупрямая
X 4-1 И, t 0. не пересекает горизонтальной ось тогда и только тогда,
когда либо X > 0, V 0 либо X <0, V 0. Поэтому
Р{4} = Р{Х > 0, V 0} + Р{Х < 0, V 0} =
= Р{Х > 0} Р{ V 0} + Р{Х < 0} Р{V 0} = 1/2.
§2]
ПРИМЕРЫ
13
В следующем примере рассматривается случайная функция с дис-
кретным фазовым пространством.
Пример 1.3 (Процесс с одним скачком). Случайный процесс ту за-
дан на [0, оо) следующим образом: 7^(t) = 1, если t < т(и>), и т/Дй) = О
в противном случае, где т ~ jE(1).
Требуется:
а) описать траектории и сечения данного процесса;
б) определить его одномерное и двумерное распределения;
в) выразить Р{ту(£) = 1 | 7?(.s) = 1} при t > s через вероятности,
найденные в предыдущем пункте.
Решение. Сечения rj{t) представляют собой случайные величи-
ны, распределенные по закону Бернулли с параметром е~1, посколь-
ку 7/(0 {0,1}, причем Р{т/(£) = 1} = Р{т > t} = e~f. Траектория т/^
равна единице на интервале [0,t(cj)) и нулю на оставшемся проме-
жутке [t(cj),oo).
Поскольку процесс принимает значения в конечном множестве
Е := {0,1}, его одномерное распределение опишем с помощью веро-
ятностей 7ГТ(£) := Р{т/(Й = т}, х € Е\
7T1(Z) = е \ 7T0(t) = 1 - е \
t
Двумерное распределение процесса ту представляет собой распре-
деление вектора (т?(£), ту(з)), принимающего значения в множестве
Е х Е = {(0,0), (0,1), (1,0), (1,1)}. Поэтому указанный закон распре-
деления зададим набором функций 7га:1У (£,<?) := Р{ту(£) = т?(.$) = ?/},
х,у е Е, t.s 0.
Как нетрудно видеть, 7го,о(£, s) = Р{ту(^) = 0, ту($) = 0} = Р{т t,
т .§} = Р{т min(£, s)} = 1 — е~ Аналогично, 7Ti,i(^,s) =
= Р{ту(£) = 1. ту(.ч) = 1} = Р{т > т > з} = Р{т > max(£,s)} —
_ е- max(t,s) Далее, ПрИ £ > s имеем 7ГоJ (t, .$) = Р{ту(£) = 0, 7?($) = 1} =
= Р{.ч < т /} = e~s — е~1. Если же t .s, то тг0 i (£, 5) = 0. И наконец.
В силу СИМлМетрИИ 7Г1}0 (£,-$) = 7Го51(.?Д).
Если найденные вероятности записать в виде матрицы, то двумер-
ное распределение процесса т/ можно описать следующим образом:
14
ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ
[3. 1
В заключение вычислим условную вероятность
Р{?7(£) = 1 | t/(s) = 1} =
Р Q?(t) = = 1} _ 7Tl,l(t,s)
Р{т?(в) = 1} 7Tl(s)
— e~^~s^ — 7ri(t — s)
при t > s.
Теперь перейдем к изучению процессов с дискретным временем.
Пример 1.4. Дана функция распределения х е R.
Пользуясь теоремой Колмогорова, доказать существование слу-
чайной последовательности {£(тг), п~ 1*2, ...} с независимыми оди-
наково распределенными сечениями, такими что rr} = F(x)
для любых п и х. Описать семейство конечномерных распределений
случайной последовательности {£(тг)} с помощью /с-мерных функций
распределения и характеристических функций.
Решение. Если величины {£(?г)} независимы и имеют общую
функцию распределения F(rr), то
F^x-i, ni, = P{C(«i) ...,£(пк) хк} =
= П p{£(nj) хЛ = П f(xj)-
J=1 J=1
(1-6)
Аналогично находятся fc-мерные характеристические функции:
Ф^(г1, ... ,zk- ni, ... ,пк) = м{егг1?(П1)
к к
= П Mr-’"'’1 = П
j=l J=1
где
:=
eizxdF(x).
— оо
Для того чтобы воспользоваться теоремой 1.1, остается проверить,
что (1.6) —согласованное семейство. Для этого достаточно проверить
условия согласованности (1.3) и (1.4).
Первое из упомянутых условий вытекает из соотношений:
F^ (з-1, . . . , 3к—1, Н~СХЭ, П-1, . . . , 71^—1, И к )
-F(z1)-....F(^_1)-F(+oo) =
= F(.T1) • ... • F(a’fc-i) = F^xly ... ,.^-1; nb ... ,nA:_!).
§2|
ПРИМЕРЫ
15
Взяв произвольную перестановку {Ji, ..., jk} на множестве индек-
сов {1, ..., k}, получаем второе из условий согласованности (1.4):
Xjk ? ’ • • • ’ ™Эк
= F^XjJ ... F(xjk) =
= -F(^l) ’ • - • ' F(xk) - F^Xi, .. ,,xk; . ..nk),
что и требовалось.
Пример 1.5 (Симметричное случайное блуждание). Положение
частицы в моменты времени tn := п Af, п — 0,1, 2, ..., является слу-
чайным и определяется значениями одной из координат := т • Ат,
т G Z. Известно, что если хгп — координата положения частицы в мо-
мент времени то в следующей момент £n+i частица окажется
в одном из равновероятных положений: тт+1 или тт~1, причем выбор
из двух возможностей происходит независимо от положения частицы
в предыдущие моменты времени.
Считая, что xq — координата начального положения частицы,
описать ее движение с помощью дискретного случайного процесса
£:={£(£)> I £Т} с дискретным временем Т := {tn: п 0}. Найти
одномерное распределение процесса £. Указать интервал (—а, а), в ко-
тором с вероятностью 0,95 содержится средняя скорость движения
v := (£(/) — £Gs))/(^ — 5) частицы на промежутке [s,£], где s,tcT, а
число N := (t — s)/At достаточно велико. Насколько изменится иско-
мый интервал, если временной промежуток увеличить в сто раз?
Р с ш е н и е. Пусть — положение частицы в момент времени t.
Тогда согласно предположениям имеем
£(*о) — яд,
£(Кн) = £(М + К+1 при 77^0,
(1.7)
где К+1 —случайная величина, такая что Р{К+1 — ±Ат} = 1/2. Бо-
лее того, но условию К+1 должна быть независимой от предыдущих
положений частицы: £(£n), £(£n_ i), ... Поскольку {К, • • •, Ц } можно
выразить через указанные сечения процесса £, мы получаем, что
К+1 не зависит от {К, • • •, К}- Следовательно, величины {К? п 1}
независимы в совокупности.
Так как фазовое пространство Е процесса £ дискретно, а именно,
Е = {.тт, Tn е Z}, одномерное распределение зададим набором веро-
ятностей: 7гт(А) := Р{£(£) = ж}, х е Е, t е Т.
Запишем (1.7) в виде суммы £(/77) = К + ... 4- К, выразив К
через величины Вд:, принимающие значения {1,0}: К — (2Вд — 1)Дт.
16
ВЕРОЯТНОСТНЫЕ РАСПРЕДЕЛЕНИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ
[3.1
Тогда £(tTl) — (2и(п) — п)Дх, где величина и(п) := В± + ... + Вп рас-
пределена по биномиальному закону Bi(n, 1/2). Теперь одномерное
распределение процесса £ находится по формуле Бернулли
7Tx„.(tn) = P{£(tn) = т Arc} = P{i/(n) = (m + n)/2} =
x->(m+n)/2
m = —n, — n + 2, ..., n — 2,n,
в противном случае.
Для нахождения числа а > 0, такого что Р{|tj| < а} = 0,95, заме-
тим, что разность £(£)—£ (s) представляет собой сумму N незави-
симых одинаково распределенных величин с нулевым средним и
дисперсией (Дз:)2. Следовательно, при больших N в силу центральной
предельной теоремы мы можем воспользоваться нормальной аппрок-
симацией:
т-ь г 1 а. ( а ~ М? Л л ( — а — М ъЛ
Р{-« < v < а} Ф ——= - Ф ----t__ ).
V vDp / V x/DU )
Так как Mr = 0 и Dr = D{£(f) — £(s)}/г2 — N • (Дт:)2/т2 = /г/т,
где обозначено т := t — s и h := (Дт)2/Д£, получаем Р{—а < г < а} ~
~ 2Ф(а^/т//г) — 1 = 0,95. Отсюда находим, что а « 1,96т//г/т.
При этом величина а, определяющая пределы практически воз-
можных значений для средней скорости частицы на отрезке длины т,
уменьшится на порядок, если «масштаб времени» т увеличить на два
порядка.
§ 3. Задачи для самостоятельного решения
1. Найти семейство функций распределения процесса £(t) = tX,
t > 0, если X ~ 7^(0,1). Вычислить вероятность Р того, что траекто-
рия процесса пересечет отрезки [1,3| и [1, ф в моменты времени t. — 3
и t — 5, соответственно.
Ответ, = ^(mii^xi/tx, ...,Tn/Zn}), где
F(rr) = х при х G [0,1], F(x) — 0 для х < 0 и F(t) — 1, если х > 1;
Р = 7/15 «0.4667.
§3]
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
17
2. Пусть в примере 1.2 X и V имеют плотности распределения
Рх(х) и pv(v). Найти двумерную плотность распределения процес-
са £(£). Показать, что распределения порядка к 3 плотности не
имеют.
Указание. Воспользоваться формулой преобразования плотно-
сти при невырожденном преобразовании случайного вектора. Пока-
зать, что совместное распределение величин {£(£1), ..., £(£&)} при
к 3 сосредоточено па некотором линейном подпространстве размер-
ности 2. 1 / Ч 7
ГЛ ( 4- 4- \ 1 ( ^2—( Х2 — хР\
Ответ. рДх1,х2\ tut2) = ----рх(-----Т ]Pv\xi ~ ---т~ )
,s , ‘2 — М X t2 — Cl / X 12 — Н /
для моментов t2 > и.
3. Пусть £(£) = Xt2 + Yt, t 0, где X, Y — независимые случай-
ные величины с распределением _АЛ(0,1). Найти вероятности событий:
А = {и: — неубывающая функция}; В — {cj: inf £w(£) < 0}.
У к аз а н и с. А = {X 0, Y 0}; В = {X 0, Y < 0}и{Х < 0}.
Ответ. Р{Л} = 1/4; Р{В} = 3/4.
4. Определить характеристические функции для одномерного
и двумерного распределений случайного процесса, рассмотренного
в примере 1.5.
Ответ. Ф^(г; /;) = (cos(z • Дя?)//Л^ при t G Т и t,s) —
= (cos(zi • Д.т))^ 6)/ЛА . (cos((zi + Z2) • Хх^У^Ь при t s из Т.
5. Случайная функция р задана на [0, оо) следующим образом:
0 t — Cr(tj) < t(cj),
t Cr(cj) + T(^)>
(тН,
где сг, т — случайные величины, независимые и распределенные но
экспоненциальному закону с параметром А > 0. Описать одномерное
распределение процесса р.
Ответ. 7Го(О = e~Xt, = Aie-At, = 1 — (1 + At)e-Ai, где
7Г.Г(^) := P{?/(0 = я}.
2 A. P Панков. К. В. Семенихин
ЗАНЯТИЕ 2
МОМЕНТНЫЕ ХАРАКТЕРИСТИКИ
СЛУЧАЙНЫХ ПРОЦЕССОВ
§ 1. Теоретические сведения
Рассмотрим сначала вещественный процесс £ := {£(£), £ € Т}.
Определение 2.1. Функция := М{£(£)}, t СТ, называет-
ся математическим оснсиданием процесса £ (£) или его средним. Если
т^(^) = 0, то процесс называется центрированным.
Аналогично этому D^t] := D{£(Z)}, t G Т, назовем дисперсией
(или дисперсионной функцией) процесса
Определение 2.2. Функция := cov{£(£),£(s)} , s G T,
называется ковариационной (функцией процесса £(£).
Определим также функцию вторых моментов r^(Z,s) случайного
процесса £(£) в виде Г^, s) := М{£(£) £(s)}, t, s Е Т.
Замечания. 1. Определенные выше моментные характеристики
случайного процесса находятся с помощью его одномерного и двумер-
ного распределений:
xdF^(x] t),
ОС "X,
(a,’i - m€(t))(x2 - dF^Xi,x2; t,s),
— OO — OQ
oo
xix2dF^x\,X2', t,s).
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
19
Таким образом, и D^t) суть моментные характеристики
каждого сечения в отдельности, a jR^(Z,s) и T^(Z,s) описывают ли-
нейную зависимость между различными сечениями.
2. Укажем также следующие очевидные соотношения между вве-
денными характеристиками:
D^(t) = R$(t, t) = t) — R^t, s) = s) — m^t) m^s').
3. В дальнейшем будут рассматриваться также случайные процес-
сы, принимающие комплексные или векторные значения. Формули-
ровки определений 2.1 и 2.2 для таких случайных процессов остаются
в силе, однако обозначения М{-}, D{•} и cov{-, •} приобретают немно-
го иной смысл. Например, для случайных векторов (комплексных
величин) Z, W определение ковариации имеет вид:
cov{Z, W} := M{(Z - MZ)(W - MW)*} = M{Z W*} - MZ (MW)*,
где * обозначает знак транспонирования (комплексного сопряжения).
Далее при нахождении моментных характеристик будут системати-
чески использоваться следующие равенства:
M{AZ} = AMZ,
M(Z,a) = (MZ, а),
cov{AZ,BW} = Acov{Z,W}B*,
cov{(Z, a), (W, 6)} = (cov{Z, W} 6, a)
где А, В и a, b — произвольные детерминированные матрицы и век-
торы (или комплексные числа), а (z, w) := w*z обозначает скалярное
произведение векторов или комплексных чисел z и w.
4. Для существования D^t), и ГД£,б) при любых
t,stT достаточно выполнения условия М{|£(£)|2} < оо для всякого
t Е Т. Случайный процесс, удовлетворяющий указанному условию,
называется гильбертовъьм.
Определение 2.3. Функция R^(t,s) := cov{£(£),?/(•$)} , f, 5 е Г,
называется взаимной ковариационной функцией гильбертовых слу-
чайных процессов £ и у. Если R^ft, s) = О? пррЦессы £ и у называ-
ются некоррелированными.
Определение 2.4. Случайный процесс {£(£), tET} является
вырожденным, если существуют детерминированные функции
и случайные величины Х7, такие что при любом t ЕТ
£(0 = Ы0 + 52 (Р-п.н.).
.7 = 1
2*
20
МОМЕНТНЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ
[3. 2
Теорема 2.1 (Ковариационная функция вырожденного процесса).
Гильбертов случайный процесс {£(£), t Е Т} является вырожденным
тогда, и только тогда, когда его ковариационная функция допускает
представление
I
J=1
s G T,
при соответствующем выборе (функций ..., I к.
Определение 2.5. Бесконечную последовательность V := {Vn}
некоррелированных случайных величин с нулевым средним и конеч-
ной дисперсией называют дискретным белым шумом. Если к тому
же D Vn = 1 при любом п, то V — стандартный белый шум.
Определение 2.6. Гауссовская функция {w(t), t 0} с mw = 0
и Rw(t,s) = min(£, .$), называется процессом броуновского движения.
Определение 2.7. Функция С: Т х Т —> С называется неотри-
цательно определенной, если
п
О Mti е Т,
zi Е С, п 1.
(2-1)
Теорема 2.2 (Колмогоров, Аропшайп). Ковариационная функ-
ция всякого гилъбертового случайного процесса является неотрица-
тельно определенной. Обратно, любая неотрицательно определенная
функция представляет собой ковариационную функцию некоторого
комплексного процесса.
Теорема 2.3 (Свойства ковариационных функций). Для всякой
неотрицательно определенной функции С: Т х Т —> С справедливы
следующие утверждения:
1) C(t, t) 0 для всех t Е Т‘,
2) C(t, s) является эрмитовой, т. е. при любых t,s Е Т выполнено
C(t, s) = C(s, I), в частности, если (функция C(t, s) принимает толь-
ко вещественные значения, она будет симметричной',
3) С(£, s) удовлетворяет неравенству Коши—Бунлковского
2 C(t,t)C(.s,s)
|С(м)1
Vi, s € Т;
(2-2)
4) для всех s,t,u fzT имеет место неравенство
\C(u,t) - C(u,s)\2 C(u,u)[C(t,t) + C*(s,s) - 2 Re (7(4, s)].
§2]
ПРИМЕРЫ
21
Теорема 2.4 (Операции над ковариационными функциями).
Пусть ..., Cn(t, s), ... — неотрицательно
определенные функции. Тогда ниже перечисленные функции так-
же будут неотрицательно определенными'. 1) C{tys)\ 2) ReC(t, s);
3) ^(М); 4) ajC^^s)+a2C2(t,s) при ai,a2^0; 5) C\(t, s) C2(t, s);
6) lira Cn(t.s), если данный предел существует при любых t^s ЕТ.
71—>00
§ 2. Примеры
Пример 2.1 । Вырожденной случайный процесс). Предположим,
к
что £(t) := </?о(0 + 52 I G Т, где Tj(t) — заданные скалярные
7 = 1
детерминированные функции, a Xj—некоррелированные случайные
величины с нулевым средним и единичной дисперсией.
Найти m^(0, Deft), I\(Zs).
Решение. Для любых t,s € Т имеем
к
= ^o(i) + 52 = ¥>o(i),
7 = 1
, к к .
/?<(<,«) =covl^(pj(t)Xj,YJVi(s')Xl > =
j=i 1=1 }
к к
= 52 ¥’j(0^z(s)cov{Xj,Xi} = 22^(i)^(s),
77=1 7=1
где учтено, что ковариация между Xj и Xi равна единице при j = I и
нулю при j ф I. Укажем также, что в данном случае Г^(^, s) = 5),
к
а дисперсия процесса имеет вид D^(t) = 52 ^(0- и
7 = 1
Пример 2.2. Допустим, что напряжение в электросети представ-
ляет собой гауссовский случайный процесс {H(t), t 0} со средним
niL;{t) = CZq и ковариационной функцией 5) = (AL/)2cos(A(t — s)),
22
МОМЕНТНЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ
[3. 2
где Uq := 220 В, Д[/ 10 В, А := 2тг • 50с-1. По данным измерений
напряжение в начальный момент составило 212 В.
Что можно сказать о значении U(t) при t = 0,01; 0.1; 10 с?
Решение. Для ответа па поставленный вопрос найдем наилуч-
шую (в среднем квадратичном смысле) оценку U(t) величины U(t)
по доступному наблюдению [7(0). Как известно, оценка U(t) совпада-
ет с условным математическим ожиданием М{U(t) | [7(0)}, которое
в силу гауссовости процесса определяется по теореме о нормальной
корреляции:
C/(i) = mv(t) +
- ти(0)) = и0 + cos(At)(C/(0) - С/о),
где учтено = /?С7(0,0) = (Д[7)2. Отсюда находим
[7(0,01) = 228 В,
[7(0,1) = [7(10) = 212В.
(2-3)
Теперь выясним, каковы среднеквадратичные погрешности най-
денных оценок a(t) := (М(/7(t) — U(Z))2)1 2- Для этого снова восполь-
зуемся теоремой о нормальной корреляции:
1/2
= Д[7 • | sin(A[) |.
Поскольку Xt кратно тг при t = 0,01, 0,01 и 10с, имеем <т([) = 0, откуда
можно утверждать, что найденные оценки (2.3) с вероятностью 1
представляют собой точные значения U(t).
Пример 2.3 (Процесс авторегрессии первого порядка). Случай-
ная последовательность {Х(п), п = 0,1,2, ... } определена рекуррент-
ным соотношением
Х(п) = аХ(п — 1) + (3 Vn + 7,
71 = 1,2, ...,
(2.4)
где а, /3,7 — известные вещественные коэффициенты, {V7l} — стан-
дартный дискретный белый шум, некоррелированный с Х(0).
Найти рекуррентные уравнения, которым удовлетворяют функции
математического ожидания и дисперсии процесса X.
Решение. Для решения данной задачи воспользуемся методом
моментов, суть которого состоит в определении соотношений для
§2]
ПРИМЕРЫ
23
искомых моментных характеристик без решения исходных уравне-
ний (2.4), задающих эволюцию случайного процесса.
Применим оператор математического ожидания к обеим частям
уравнения (2.4):
mx(n) = а тпх(п — 1) + 7,
п = 1,2, ..... (2.5)
где мы учли M{Vn} = 0.
Предваряя вычисление дисперсии, докажем, что величины Vfl и
Х(п — 1) некоррелированы. Действительно, в силу (2.4) каждое сече-
ние Х(п) представляет собой линейную комбинацию (с неслучайными
коэффициентами) величин Vn, V^-i, ..., Ц, Х(0) и константы 7. Со-
ответственно, Х(п — 1) — линейная функция от {Vn_!, ..., Ц, Х(0)}.
Поскольку по условию cov{Vn, V^} = 0 и cov{Vn,X(0)} = 0 при лю-
бых т ф п, получаем cov{Vn,X(/i — 1)} = 0, что и требовалось.
Теперь с учетом доказанного, находим D{aX(?i — 1) + [3Vn + 7} =
- a2D{X( 71 — 1)} + (32D{Vn}, откуда в силу D{VJ = 1 получаем
уравнение для дисперсионной функции:
Дх(п) = ct2DY(n — 1) + /З2,
п = 1,2, ...
(2-6)
Итак, (2.5) и (2.6) суть искомые уравнения.
Пример 2.4. Найти mz(/>), Dz(t) и J?z(i,s), если {Z(t), £ е R} —
комплексная случайная функция, определенная соотношением Z(t) =
— AeaV, где А ^(0,1) и V ~ С(1) —независимые величины.
Решение. В силу независимости случайных величин А, V имеем
mz(t) = MZ(i) = МА • Me,6V = 0, поскольку МА = 0. Следователь-
но, функция Z(t)—целпрированная. Поэтому
7?z(t,s) = M{Z(t)Z(s)} = M{A2e,('~s)v} = МА2 V(t - s),
где обозначено Дт) := Me . Поскольку V;(T) — характеристическая
функция величины V, распределенной по закону Коши с парамет-
ром 1, получаем 'ф(г) = е~Учитывая МА2 = 1, окончательно на-
ходим 7?z(f,s) = и Dz(t) = Rz{t,t) = 1.
Пример 2.5. Определить распределение приращений процесса
броуновского движения.
Решение. В силу определения 2.6 процесс броуновского дви-
жения {w(t), t 0} — гауссовский. Поэтому любое его приращение
Aw :— w(t) — w(s) есть нормально распределенная случайная величи-
на, как линейное преобразование гауссовского вектора col[w(t), w(s)].
24
МОМЕНТНЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ
[3. 2
Найдем моментные характеристики случайной величины Дад.
Во-первых, M{Aw} = mw(t) — mw(.s) — 0, так как mw = 0.
Во-вторых, в силу Rw(t.s) = min(t, s) при t s Л) получаем
D{Aw} = Dw(i) + Dw(s) — 2cov{w(Z), w(s)} =
откуда D{Aw} — \t — 51 при любых t, s 0.
Итак, w(t) — w(s) ~ 7/(0, \t — s|).
Пример 2.6. Являются ли C(t, 5) = ch(t + 5) и K(t,s) = ch(Z — s)
(где cliT := (er + е“т)/2) ковариационными функциями некоторых
случайных процессов, определенных на всей числовой прямой?
Решение. Согласно теореме 2.2 существование случайного про-
цесса с ковариационной функцией C(t, s) равносильно условию (2.1),
т. е. неотрицательной определенности этой функции.
Для любого набора моментов ... ,tTl G R и произвольного набо-
ра комплексных чисел {zi, ... , zn}, n 1, имеем
М = 1 г,} = 1
Следовательно, функция неотрицательно определена.
Более того, пользуясь записью С(£, s) = ^(^«^(s) + ^(^^(s),
где := ef/\/2, = /\/2, можно указать конструкцию слу-
чайного процесса £, для которого s) = C(t, 5). Действительно,
в силу примера 2.1 достаточно положить £(£) := +<^2(0^2,
где величины A^i,%2 независимы и распределены по закону А/*(0,1).
Проверим для функции K(t, s) неравенство Коши—Буняковско-
го (2.2): J<(t, s)2 K(t, t)K(s, s). Обозначая т := t — получаем рав-
носильное неравенство chr 1, которое нарушается при любом т^О.
Таким образом, функция /<(£,.$) не является неотрицательно опреде-
ленной и потому не может служить ковариационной функцией какого
бы то ни было случайного процесса.
§3]
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
25
§ 3. Задачи для самостоятельного решения
1. Доказать, что дискретный белый шум с положительной диспер-
сией не может быть вырожденным процессом.
Указание. Для белого шума и вырожденного процесса сравнить
ранги ковариационных матриц n-мерного закона распределения (при
достаточно большом п).
2. В условиях задачи 2.3: а) определить явное представление про-
цесса X через последовательность {Vn}; б) найти mx(n), Dx(ri) и
Rx(n, m), пользуясь результатом п. а); в) при каких значениях коэф-
фициента а существуют конечные пределы
д :=
lim тх{п\
п—>оо
Д := lim Dx(n),
п—+оо
p(k) lim 7?л (?i 4-fc, n)
n—>CC
и не зависят от начальных значений тх(0), 1?х(0)?
71
Указание. Воспользоваться формулой хп = апх$ 4- ап~кУк>
даюшей решение разностного уравнения = ахп_\ + упк=1
п
Ответ, а) Х(п) = апХ(0) 4- an~k((3Vk 4- 7);
] an?nx(0) 4- д(1 — ап)/(1 — а) при о 1,
б) 7ПХ[П) = <
I ??iY(0) 4-771 при а = 1,
(а2п£\-(0) 4- /?2(1 — а2п)/(1 — а2) при а2 / 1,
(7?у(0) 4- /3271 при а2 = 1,
Л К(п.7п) = О'1п-т1 Dv(mml??,го)), где 0° := 1;
в) а е (—1,1).
p(fc) = ак X.
3. Пусть £ — симметричное случайное блуждание, введенное в при-
мере 1.5. Определить 771^(71), D^(n} и /?Дп, тп). Найденный ответ
сравнить с результатами, полученными в примере 2.3 и упражнении 2.
Ответ, = 0, 1)Д71) = (Да?)2п, 7?^(т1,7п) = (Дт)2 min(n,т).
4. Найти среднее и 'функцию вторых моментов процесса с одним
скачком (см. пример 1.3).
Ответ. mr/(t) = e-lt, Гг?(7,ь) = е~ тах(^«).
26
МОМЕНТНЫЕ ХАРАКТЕРИСТИКИ СЛУЧАЙНЫХ ПРОЦЕССОВ
[3. 2
5. Определить ковариационную функцию процесса из примера 1.2.
Ответ. /?£ (t, s) = 1 -I- t s.
6. Определим броуновский мост, как случайную функцию
/ 1]}, такую что = w(t) — где w(t) — процесс броунов-
ского движения. Найти дисперсию и ковариационную функцию про-
цесса B(t). При каких различных t, s из интервала (0,1) сечения B(t),
В (s'): а) независимы; б) линейно зависимы?
Ответ. Dgft') = (1 — t)t\ RB(t,s) = min(t,s) — ts\ ни при каких.
7. Какие из ниже перечисленных функций являются ковариаци-
онными функциями некоторых случайных процессов:
ч Г1, п = т,
а [0, п т;
_ fl, п = т, т ± 1,
б) \
[О иначе,
при п, т 6 Z;
з) cos(i — s),
и) ехр{г(£ + s)};
к) exp{z(i — s)},
при t, s G R;
в) exp{t 4- s};
г) exp{|t + s|};
д) 1 + (is)2;
е) 1 — (is)2;
ж) cos(£ 4- s);
л) max(t, s);
m) 1 — max (t, 5),
при t, s G [0,1];
h) exp{min(i, s)};
o) (1 4- ts) exp{ —— s|},
при t,s 0?
Ответ, а), в), д), з), к), м), н), о).
8. Пусть р-мерный случайный процесс {Х(п), п = 0,1, ... } задан
уравнением авторегрессии 1-го порядка Х(п) = аХ(п — 1) 4- /3Vn 4- 7,
п 1, где {К} — q-мерный стандартный дискретный белый шум, т. е.
M{K} = 0, cov{Vn,Vn} = I, cov{Vn, KJ = О, п^т,
причем cov{Kj^(0)} = О, I и О обозначают единичную и нулевую
матрицы, соответственно, а матрицы а G Rpxp, (3 G Rpx<7 и вектор
7 6 Rp—детерминированные. Найти уравнения, которым удовлетво-
ряют функции тх(п) :— М{Х(??,)} и Dx(n) := cov{X(n),<«)}. До-
казать, что если все собственные значения А матрицы а удовле-
творяют условию |А| < 1, то существуют пределы р := lim тх(п) и
п—>оо л
Д := lim Dx(n), причем /jl, Д суть единственные решения уравнений
/1 = ар 4- 7 и Д = с*Да* 4- /3(3*.
Ответ. тх(гь) = атх(п — 1) 4- 7, Dx(n) = aDx(n — 1)<а* 4- /3/3*.
ЗАНЯТИЕ 3
НЕПРЕРЫВНОСТЬ И
ДИФФЕРЕНЦИРУЕМОСТЬ СЛУЧАЙНЫХ
ФУНКЦИЙ
§ 1. Теоретические сведения
Пусть £ и 7] — случайные процессы, заданные на одной и той же
временной области Т.
Определение 3.1. Процессы £ и ц называются нео7пличимыми,
если для P-почти всех со Е Q их траектории и 7/^ совпадают, т. е.
РМЛ)=^) ЖТ} = 1.
Определение 3.2. Процессы £ и ту называются стохастически
эквивалентными или просто эквивалентными, если в любой момент
времени t их сечения и ??(£) совпадают (P-п.п.), т. е.
P{w: £Д) = т/ш(/)} = 1 VteT.
В этом случае говорят, что £ — модификация или версия процесса
Замечание. Неотличимые процессы стохастически эквивалент-
ны, а эквивалентные процессы имеют одинаковые конечномерные
распределения.
Теорема 3.1. Если случайные процессы с дискретным временем
(в частности, случайные последовательности} эквивалентны, то
они неотличимы.
Теорема 3.2. Если стохастическ?! эквивалентные случайные
функции, заданные на промежутке Т С R, имеют непрерывные спра-
ва {или слева) траектории, то они неотличимы.
28
НЕПРЕРЫВНОСТЬ И ДИФФЕРЕНЦИРУЕМОСТЬ СЛУЧАЙНЫХ ФУНКЦИЙ
[3. 3
Теперь рассмотрим скалярную случайную функцию £(£), опреде-
ленную для моментов времени t из некоторого промежутка Т С R.
Определение 3.3. Будем говорить, что случайная функция £
является регулярной, если P-почти все ее траектории в каждой точке
teT непрерывны справа и имеют конечные пределы слева.
Аналогично, случайная функция £ называется непрерывной (диф-
ференцируемой, интегрируемой, монотонной), если P-почти все ее
траектории непрерывны (соответственно, дифференцируемы, инте-
грируемы, монотонны).
Теорема 3.3 (Колмогоров). Пусть у {z/(£), I ^Т} — случай-
ная функция, принимающая числовые значения и заданная на проме-
жутке TCR. Если существуют положительные константы К, а
и (3, такие, что
М \r](t) — T](.s) |а
- s|1+/3 Vt,seT,
(3-1)
то найдется непрерывная случайная функция £ := {£(£), * € Г1}, сто-
хаотически эквивалентная у.
Теперь рассмотрим гильбертов случайный процесс £(t), определен-
ный на некотором промежутке Т действительной оси и принимающий
вещественные или комплексные значения.
Далее процесс {£(£), С Т} изучается как функция, заданная на Т
и принимающая значения в гильбертовом пространстве 1-2 (Q), т. е.
лебеговом пространстве вещественных (или комплексных) случайных
величин с конечным вторым моментом.
Определение 3.4. Пределом в среднем квадратичном (или про-
сто с. к.-пределом') гильбертовой случайной функции £(£) при t —* to
называют случайную величину г/, такую что М |?7|2 < сю и
М \£(Е) — г]'2 —* 0 при t —* to.
(3.2)
Условие (3.2) принято записывать также в виде у = l.i.m. £(£) или
Теорема 3.4 (Свойства с.к.-сходммости).
1. Предел в среднем квадратичном определен единственным обра-
зом, т. е. если £(/) -с—' > 771, £(f) 772 при t ^о, то ?/i = 772 (Р-п.н.).
2. l.i.m.(a£(£)+/?<(£)) = a l.i.m. £(t) + /?1 i.m. <(t), если а и (3 — не-
t—*to t—^to t—^to
случайные постоянные, а с.к.-пределы в правой части существуют.
3. l.i.m. x(t) £(£) = limrr(^) l.i.m. £(f), если x(t) — детерминирован-
t—>t-o t—i
ная функция, а предел и с.к.-предел в правой части определены.
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
29
4. Операции М{-}, D{ } и cov{-,-} непрерывны относительно
с.к.-сходимости, т. е. если q := l.i.m. £(£), v := l.i.m. C(s;, mo
t—Uq .S—*6'0
M77 — lim M£(£),
мн2= в™ M|e(t)i2,
t-^to
Mt/v = lim M£(£)£(s),
t—
s—>6'0
Dr]= lim D£(£)
cov{77,i;} = lim cov{£(i), <(s)}.
t—*tQ
s—*s0
5. Если M|?7|2 < oo,
тогда, когда
mo l.i.m. £(£) = п выполнено тогда
t-*tQ
и только
lim М{£( t) q} = lim M|£(t)|2 = M|7/|2.
6. (Критерий Коши). С.к.-предел l.i.m.£(t) определен в том и
t—>to
только том случае, если lim M|£(t) — £(s)|2 = 0.
t,S—>f(i
7. (Критерий Лоэва). Для существования l.i.m. ^(t) необходимо и
t—Uq
достаточно, чтобы существовал конечный предел lim r^(t,s).
t,s—»t0
8. Если Дб) — гауссовский случайный прогресс, то q := l.i.m. Zj£) —
t Uq
гауссовская случайная величина.
Определение 3.5. Гильбертова случайная функция £ : = {£(£),
t ЕТ} называется непрерывной в среднем квадратичном (или просто
с. к.-непрерывной), если
l.i.m. CW = £(/0)
V to G Т.
Теорема 3.5 (Критерий с.к.-непрерывпости). Для непрерыв-
ности в среднем квадратичном случайной функции {£(£), t € Т}
необходимо, чтобы функция вторых моментов F^(t,s) была непре-
рывной по совокупности переменных (t,s)€TxT, и достаточно,
чтобы
lim Ге(Мо) = Нт r^t,t) = r^tQ,tG)
t—>t() t—
Vf0 eT.
(3-4)
Замечание. Процесс £(£) непрерывен в среднем квадратичном
тогда и только тогда, когда непрерывны его математическое ожидание
?/^(/.) и ковариационная функция R^(t,s). Однако вместо исследова-
ния непрерывности функции R^ft, s) по совокупности переменных для
нее достаточно проверить условие (3.4).
30
НЕПРЕРЫВНОСТЬ И ДИФФЕРЕНЦИРУЕМОСТЬ СЛУЧАЙНЫХ ФУНКЦИЙ
[3. 3
Определение 3.6. Гильбертова случайная функция £ := {£(£),
t Е Т} называется дифференцируемой в среднем квадратичном (или
просто с.к.-дифференцируемой), если для любого to 6 Т существует
]• С(0-^о)
1.1.ш. —-———-
(3.5)
Указанный с.к.-предел обозначают £(^о) и называют с.к.-производной
случайной функции £(t) в точке to € Т.
Заметим, что если с.к.-производная Д1) существует в каждой точ-
ке t € Г, то тем самым определен случайный процесс £ := {£(£), t е Г},
который также называется с.к.-производной случайного процесса
Теорема 3.6 (Критерий с.к.-дифференцируемости). Для диффе-
ренцируемости в среднем квадратичном случайной функции {£(£).
t Е Г} необходимо, чтобы в любой точке (t, s) ЕТ х Т существовала
d2r^s) .
——- и достаточно,
dtds
чтобы она была, бы непрерывной в точках (t,s), где t = s.
смешанная производная второго порядка
Замена н и с. Процесс £(£) дифференцируем в среднем квадратич-
ном, если его математическое ожидание тДб) есть дифференцируе-
мая функция, а ковариационная функция R^t, s) имеет непрерывную
d2R^t,s)
смешанную производную второго порядка —Если же эта
производная не существует, то процесс не является с.к.-дифферен-
цируемым.
Следствие 3.1 (Моментные характеристики с.к.-производной).
Для дифференцируемой в среднем квадратичном случайной функции
£ := {^(t), t Е Т} и се с.к.-производной £ := {£(£), t Е Т} выполнены
следующие соотношения:
rn^t) =
д/тДб)
dt ’
dR^(t,s)
dtds
(t ,л _ d4^t,s)
№S>~ dtds ’
5
S — t
• (i _ d2Re(M)
v ’ J dtds '
причем указанные производные существуют.
Замечание. Приведенные в следствии 3.1 частные производные
второго порядка не зависят от того, в какой очередности дифферен-
цировать: сначала по s, а потом по t, или наоборот.
§ 2[
ПРИМЕРЫ
31
§ 2. Примеры
Пример 3.1. Предположим, что £(£) — вырожденный случайный
процесс, определенный на промежутке Т действительной оси, т. е.
£(t) <£>i(i)Xi + ... + <pk(t)Xi^ где </?j(i) — некоторые детерминиро-
ванные функции, а Х7 — вещественные случайные величины.
При каких условиях на <д,(£) и Xj случайная функция £(i) будет:
а) непрерывной; б) дифференцируемой; в) с.к.-непрерывной; г) с.к.-
дифференцируемой? Найти производную £'(i) и с.к.-производную £(t'<
в том случае, если они существует.
Решение. Траектория представляет собой линейную комби-
нацию функций {^}. Следовательно, процесс £ непрерывен или диф-
ференцируем, если тем же свойством обладают функции ... ,</д.
Теперь допустим, что МХ? < ос. Тогда в силу п. 3 теоремы 3.4
cpj(t)Xj С’К' > cpjft^Xj при t —> io, если tpj непрерывна. Соответствен-
но, если tpj дифференцируема, то с,к- > ^'(i0)Xj
при i —» io- Теперь, применяя п. 2 той же теоремы к обоим случаям,
получаем следующий результат: если величины Х3 имеют конечные
вторые моменты, а функции р>3 непрерывны (дифференцируемы), то
процесс £ является с. к.-непрерывным (соответственно, с.к.-диффсрен-
цируемым).
Таким образом, процесс ?y(i) := ^'x(i)Xi + ... 4- <р'к(1)Хк при соот-
ветствующих условиях будет как потраекторной, так и среднеквадра-
тичной производной.
Пример 3.2. Случайная функция £(i) определена па Т := [0,1]
следующим образом:
если
если
t А
где р, Vi и V2 ~ независимые в совокупности случайные величины,
такие что р ~ 7^(0,1), Vi ~ ЛА(0,1).
Доказать, что функция £(i) с.к.-непрерывна на Г, хотя почти все
ее реализации разрывны. Существует ли непрерывная модификация?
Решение. Согласно теореме 3.5 для доказательства непрерывно-
сти в среднем квадратичном достаточно проверить, что непрерывна
функция вторых моментов F^(i,s) = M{£(i)£(s)}.
32
НЕПРЕРЫВНОСТЬ И ДИФФЕРЕНЦИРУЕМОСТЬ СЛУЧАЙНЫХ ФУНКЦИЙ
[3. 3
Не ограничивая общности, можно предположить, что t s. Тогда
случайную величину £(£)£(.$) можно представить в виде
еаш = v22i{p о} + ц vy{s < р t} + v2i{P > t},
где !{...} обозначает индикатор случайного события {--.}•
Теперь пользуясь независимостью величин Ц, V^p, получаем
rc(t,s) = MV22-P{p
s} + MV1 - MV2 -P{s < p C i} +
+ M V\2 • P{p > t} = s + 1 - t = 1 - |t - s|.
В силу симметричности: T^(Z,s) = F^(s,i) имеем F^(t,s) = 1 — |i — s
при любых t, s 6 [0,1]. Следовательно, £(t) с.к.-непрерывна.
Покажем теперь, что для P-почти всех ш 6 Q траектория
t Е [0,1], является разрывной. Для этого достаточно заметить, что
указанная функция терпит разрыв в точке р(сД, если 0 < р(сД < 1
и УДсД, где P{cj: 0 < р(ш) < 1} = 1 выполнено по условию, а
P{lj: Vi (cj) ф ЪДсД} = 1 верно, так как (V2 — Ц)—гауссовская вели-
чина с положительной дисперсией.
Пусть — непрерывная модификация функции £(£). Тогда по
теореме 3.2 £(t) и у (б) будут неотличимы, поскольку их траектории,
как минимум, непрерывны справа. Следовательно, для P-почти всех
щ Е Q траектории и 7/^, совпадают, что невозможно, так как раз-
рывна, а 7/^ непрерывна. Полученное противоречие доказывает, что
непрерывной модификации не существует.
Пример 3.3. Доказать, что процесс дробного броуновского дви-
жения, т. е. гауссовский случайный процесс {X(t), t 0} с нулевым
средним и ковариационной функцией Rx(t,s) = -(t1 4- s7 — \t — s|7),
где 7 6(0,2), стохастически эквивалентен некоторой непрерывной
случайной функции.
Решение. Воспользуемся критерием Колмогорова существова-
ния непрерывной модификации (см. теорему 3.3). В силу гауссовости
процесса его приращения также будут гауссовскими: Х(б) — X(s) ~
~JV(O, ст2), где
о-2 := D{X(t) - X(s)} - Rx(t,t) + Rx(s,s) - 2Rx(t,s) =
= ^(2P + 2s7 - 2{P + s'1 - |f - s|7}) = l« - s|7.
ПРИМЕРЫ
33
Поскольку Y := (X(t) — X{s})/cy ~ ЛА(О,1), при любом а>0 число
К := М|У|а конечно и не зависит от £, s. Поэтому условие (3.1) будет
выполнено, например, при 0 = 4/7:
M|X(i) - X(s)|a = K(ja = K\t - s|2.
Итак, в силу теоремы 3.3 мы можем утверждать, что существует
непрерывная модификация процесса X(t).
Пример 3.4. Исследовать непрерывность и дифференцируемость
в среднем квадратичном процесса броуновского движения w(t), вве-
денного в определении 2.6.
Решение. Воспользуемся результатом примера 2.5, согласно
которому приращение w(t) — w(io) процесса броуновского движения
распределено по закону 7/(0, \t — £01)-
Тогда M(w(i) — w(io))2 = |£ — to| ~> 0 при t —* tg и согласно опре-
делению 3.5 получаем, что w(t) — с.к.-непрерывная функция.
Для исследования с.к.-дифференцируемости достаточно заметить,
w(t) -w(to)\2 = M(w(t) - w(to))2 = 1
\ t-t0 J (i-to)2 |t-to|
при
t t0.
Таким образом, с.к.-пределa l.i.m.
t—*to
w(t) — w(to)
t — to
не существует. Поэтому
по определению 3.6 процесс броуновского движения не дифференци-
руем в среднем квадратичном.
Пример 3.5. При каких значениях параметров о, (3 (таких что
0 < а /3) центрированный случайный процесс {Х(£), t Е R} с кова-
риационной функцией ,s) = (1 + ~ s )е~^ s; дифференциру-
ем в среднем квадратичном? Определить дисперсию и ковариацион-
ную функцию с.к.-производной (в том случае, когда она существует).
Решен и е. Заметим, что ковариационную функцию можно за-
писать в виде Rx(tys) = 7'(t — s), где г (и) = (14- ct|г/|)е—, и E R.
Поэтому в силу теоремы 3.6 для с.к.-дифференцшэуемости X(t) необ-
ходимо существования второй производной г” (и) и достаточно се
непрерывности.
Проверим сначала существование первой производной г'(0). При
и | 0 имеем
r(u) — 7’(0)
= е
г (—и) — г(0)
—и
о
а.
3 А. Р. Панков, К. В. Семенихин
34
НЕПРЕРЫВНОСТЬ И ДИФФЕРЕНЦИРУЕМОСТЬ СЛУЧАЙНЫХ ФУНКЦИЙ
[3. 3
Следовательно, г'(0) определена только если а = /3. Таким образом,
равенство а = /3 необходимо для с.к.-дифференцируемости X(t).
Докажем теперь, что найденное необходимое условие является
также и достаточным. Если а = (3, то г'(0) = 0, r'(u) = — (32ие~@и при
и > 0 и г'(и) — —(32ие@и при и < 0. Объединяя полученные выраже-
ния в одну формулу, получаем т'(и) = — (32ие~^^и^ откуда
~ = — (З2 е —> —/?2 при и 0.
и
Тем самым г"(0) существует и равна — (З2. Учитывая этот факт на
ряду с соотношениями г" (и) — — Д2(1 — (Зи)е~@и при и > 0 и г"(гх) =
= — /?2(1 + /Зи)е@и при и < 0, нетрудно видеть, что г" (и) — непрерыв-
ная функция.
Итак, центрированный процесс X(t) с ковариационной функцией
Rx(t, s) = (1 4- a\t — s|) дифференцируем в среднем квадра-
тичном тогда и только тогда, когда а = /3.
В заключение укажем также дисперсию и ковариационную функ-
цию с.к.-производной: Dx(t) = —г"(0) = /З2, Rx(t,s) = — rN(t — s) =
= /32( 1 — /3\t — s|)e-z3l*-5l.
Пример 3.6. Гауссовский случайный процесс {X(i), t 0} имеет
математическое ожидание — b(l — e~at)/a и ковариационную
функцию 5) = ^2(е a(*+s) — е at — е as 4- 1)/(9а2), где а, b > 0.
Вычислить Р{Х(£) 4- аХ(1) > 0}. Существует ли А := l.i.m. Х(£)?
Если с.к.-предел существует, то каково распределение величины А?
Решение. Обозначим Y := X(t) 4- aX(t). Тогда Y — гауссовская
величина. Найдем ее моментные характеристики:
MY = MX(t) + oMX(t) = + amx(t),
(-'Ll,
DY = DX(t) + a2DX(t) + 2acov{X(t), X(t)} =
dRx(t, s)
dtds
+ a2R +
t ’ dt
Поскольку — be~at — X(e-at_e-a(t+s)\ _
Поскольку dt -be , dt - Qa(e e ), -
i2
= — е~а(*+5)? получаем Y ~ 62/9).
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
35
Следовательно,
Р{У > 0} = 1 - Ф(-МY/VDY) = 1 - Ф(-3) « 0,99865.
Согласно лемме Лоэва (см. п. 7 теоремы 3.4) l.i.m. X(t) суще-
t—+То©
ствует тогда и только тогда, когда определен конечный предел
lim Гх(£, s). Поскольку Гх(£, s) = Rx(t^ s) 4- mx(t)mx{s). причем
t.,s—>4-00 л л л л л
lim 7?х(£,$) = 62/(9а2) и lim mY(i) = b/a, с.к.-предел А случай-
t,s—>4-00 t—>4~оо
пых величин X(t) при t —* 4-оо действительно существует. Учитывая
X(t) па основании пп.4 и 8 теоремы 3.4 имеем
А~Х(6/а.62/(9а2)).
§ 3. Задачи для самостоятельного решения
1. При каких а, 6 Е R (6 0) для случайного процесса {G(£), t 0}
с математическим ожиданием mG(t) — eat и ковариационной функци-
ей jRG(t, .s) = ea(t+.s) геь2 определен с.к.-предел l.i.m.
J t—>+оо
Ответ. С.к.-предел существует, если и только если 2а < —Ъ2.
2. Пусть гауссовская случайная функция {%(£), t 0} имеет
mY(i) = 1 — 2~1 и /ZY(t,.s) = 2(1 — 2~1ШП^’5)). Требуется вычислить
P{l.i.m. X(f) > 1}, если a) t,Q = 0; б) R = 1; в) to = +оо.
I->to
Ответ, а) 0; б) 1 - Ф( 1/2) 0,3085; в) 0,5.
3. Пусть случайная функция £(t) с.к.-непрерывна па конечном
промежутке Т = [а, Ь]. Доказать, что найдется такое конечное (7, что
М|£« С для любого t G Т.
4. Допустим, что процесс £(£), рассмотренный в примере 3.5, яв-
ляется гауссовским. Доказать, что при любых значениях параметров
О' > 0 и /3 > 0 существует непрерывная версия процесса £(t).
Указание. Получить оценку D{£(£)—£(.$)} ^ 2(а +/2)|t — s| и
воспользоваться теоремой 3.3.
5. Проверить, что случайная функция, описанная в примере 3.3.
не обладает с.к.-производной.
з*
36
НЕПРЕРЫВНОСТЬ И ДИФФЕРЕНЦИРУЕМОСТЬ СЛУЧАЙНЫХ ФУНКЦИЙ
[3. 3
6. Доказать, что процесс броуновского движения w (см. определе-
ние 2.6) обладает непрерывной модификацией.
Указание. Определение процесса броуновского движения совпа-
дает с условиями примера 3.3 для случая 7 = 1.
7. Пусть центрированный гауссовский процесс {£(i), t е К} имеет
ковариационную функцию s) = e-a(t--4) ? где а > 0. Для средне-
квадратичной производной £(i) найти дисперсию и ковариационную
функцию, а также взаимную ковариационную функцию R^(t,s).
Ответ. Rcc(t) s) = 0--s- — 2a(t — s) exp{— a(t — s)2}, RXt, s) =
_ <9 s) _ _2a(t — s)2)exp{—a(t — s)2}, D^(t) — R^t,t) = 2a.
8. В условиях предыдущей задачи вычислить следующие вероят-
ности: а) Р{|£(£)1 > 2л/а}; б) Р{(£(£)Д/а - £(£))2 < 12}.
Ответ, а) 2(1 - Ф(\/2)) ~0,1573; б) 2Ф(2) - 1 «0,9545.
9. Пусть X(t) —процесс из примера 3.5 при а = /3. При каких t и s
сечения X(t)y X(s): а) некоррелировапы; б) наиболее коррелированы?
Ответ. При a) t = s; б) |i — s| = 1/(3.
10. Пусть А ~ АДО, 1), V ~ С(1) -независимые величины. Явля-
ется ли случайная функция Z(i) := AeltV, t G R: а) дифференцируе-
мой; б) с.к.-дифференцируемой?
Указание. См. пример 2.4.
Ответ, а) да; б) пет.
11. Будет ли случайная функция 7/(i) := min(i,/?) при iG [0,1]:
а) дифференцируемой; б) с.к.-дифференцируемой, если р ~ 7^(0,1)?
t я
Указание. Рассмотреть Fr?(i,s) =
Ответ, а) нет; б) да. о о
— шах(щ tz)} dv du.
12. Доказать, что если с.к.-производная процесса {X(i), t io}
эквивалентна непрерывной случайной функции, то существует моди-
фикация процесса X(t) с дифференцируемыми траекториями.
t
Указан и е. Хш (i) := Хш(io) + У^(т) dr — искомая модификация,
где У— непрерывная версия с.к.-производной X.
13. Доказать, что если процесс £(i) из задачи 7 гауссовский, то он
эквивалентен некоторой дифференцируемой случайной функции.
ИНТЕГРИРОВАНИЕ СЛУЧАЙНЫХ ФУНКЦИЙ
§ 1. Теоретические сведения
Определение 4.1. Гильбертова случайная функция £ := {£(£),
t 6 Т} называется интегрируемой в среднем квадратичном (или про-
сто с.к.-интегрируемои) на конечном отрезке [а,6] СТ, если суще-
ствует
l.i.m. - ^-i)
г=1
(4-1)
при измельчении разбиения {£*,сг} отрезка [а, Ь] (т. е. при условии,
что max (£$ — ^-i) —* 0, где {tj,Vi} — неслучайные числа, такие что
i=l, ...,п
U — t() t j ... 5^ tf i — 6, Vi е t-[— 1, ti , 2 1, . . . , 72 ).
При этом с. к-предел (4.1) называют интегралом в среднем квад-
ъ
ратичном (с.к.-интегралом) и обозначают (\t)dt.
а
На протяжении данного занятия все интегралы от детерминиро-
ванных функций будем понимать, как интегралы Римана.
Теорема 4.1 (Критерий с.к.-интегрируемости). Для интегри-
руемости в среднем квадратичном случайной функции £ := {£(£),
t 6 [«,/>]} необходимо, чтобы существовал повторный интеграл
ъ ь
{ I\(t,s)dt >ds и достаточно, чтобы сугцествовал двойной инте-
а а Г Г
грал l\(t, s) dtds.
38
ИНТЕГРИРОВАНИЕ СЛУЧАЙНЫХ ФУНКЦИЙ
[3.4
Замечание. Для проверки с.к.-интегрируемости на [а,Ь] слу-
чайного процесса £(t) достаточно показать, что его математическое
ожидание тД) интегрируемо на отрезке [а, 6], а ковариационная
функция интегрируема на квадрате [а, Ь] х [а, Ь]. В частности,
если указанные функции непрерывны, то процесс £(Z) с.к.-непрерывен
и поэтому с.к.-интегрируем.
Следствие 4.1 (Моментные характеристики с.к.-интеграла).
Для интегрируемой в среднем квадратичном случайной функции
ь
*
£ := {£(£), t Е [а, ^]} и ее с.к.-интеграла £(£) dt выполнены следующие
соотношения: а
ъ ь
м| £(£)<&} = m^(t)dt,
а а
£(£) dt ►
b Ъ
R^t, s) dt ds,
a a
b
*
R$(t, s) dt,
b
COV ( £(0dt,£(s) >
a
cov<
b d
R^t, s) dt ds,
a c
причем интегралы от детерминированных функций существуют.
Замечай и е. Результат вычисления повторных интегралов, ука-
занных в следствии 4.1, не зависит от порядка интегрирования.
Ниже приведены основные формулы анализа случайных функций.
1. Если случайные функции £(£) и СД) с.к.-непрерывны, с.к.-диф-
ференцируемы или с.к.-интегрируемы, то такой же будет их сумма,
разность и любая линейная комбинация с постоянными неслучайными
коэффициентами а, /3. При этом операции с.к.-дифференцирования и
с.к.-интегрирования линейны:
-£(«£(*) + Ж*)) = аЦ/) + W) (Р-п.н.),
ъ ъ ь
(a +/3(Д)) dt = а £(£) dt + /3 C(t)dt (Р-п.н.).
а а а
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
2. Если детерминированная функция x(t) непрерывна, дифферен-
цируема или интегрируема, а случайная функция £(t) удовлетворяет
одноименному условию, но в среднеквадратичном смысле, то тем же
свойством будет обладать их произведение j;(£)£(£). При этом для
указанных функций справедливо привычное правило дифференциро-
вания произведения:
= *Ш(0+(р-п.н.).
3. Если случайная функция £(t) имеет с.к.-производную, причем
£(£) с.к.-интегрируема (или даже с.к.-непрерывна), го имеет место
формула Ньютона—Лейбница:
dt = £(b) - £ (а) (Р-п.н.).
Если дополнительно предположить, что т(£) — неслучайная функция
с интегрируемой производной, то справедлива формула интегрирова-
ния по частям:
dt = a.'(tX(t)
#(£)£(£) dt (P-п.п.).
(4-2)
4. Отметим, что справедлива также формула с.к.-дифференциро-
вания с.к.-'интеграла по верхнему пределу:
dt_
£(s) ds — £(t) (Р-п.н.)
если случайная функция £(t) непрерывна в среднем квадратичном.
5. Укажем также аналог формулы конечных приращений для диф-
ференцируемой в среднем квадратичном функции £(£):
М|£(£) — £(s)|2 If(£ — s)2 где К— sup М|£(т)|2.
rG(s.t)
Если К < оо, то существует непрерывная модификации процесса £ (it).
40
ИНТЕГРИРОВАНИЕ СЛУЧАЙНЫХ ФУНКЦИЙ
[3. 4
6. С.к.- предел, производная и интеграл гауссовской случайной
функции будет гауссовской случайной величиной. При этом данное
свойство останется в силе, если результат указанных среднеквадра-
тичных операций рассматривать как случайный процесс.
7. Если случайная функция одновременно является дифференци-
руемой (интегрируемой) и в с.к.-смысле и потраекторно, то сред-
неквадратичная и потраекторная производные (интегралы) будут
совпадать почти наверное.
8. Допустим, что {У(/ф I to} —векторный с.к.-интегрируемый
случайный процесс, a(t)—детерминированная кусочно-непрерывная
матричная функция. Векторный случайный процесс X(t) с с.к.-про-
изводной X(t) называется решением линейного дифференциального
уравнения со случайной правой частью:
X(t) = a(t)X(t) + F(t), t >
(4-3)
если равенство (4.3) выполнено (Р-п.н.) для всякого t t$.
Решение уравнения (4.3), удовлетворяющее начальному условию
X(to) = Ао (Р-п.н.) при MXq < оо, определено единственным обра-
зом (с точностью до модификации):
t
X(t) = C(/,t0)X0 + \C(t,r)Y(r)dT,
to
t to,
(4.4)
где интеграл понимается в среднем квадратичном смысле, а С(£,т) —
фундаментальное решение (или .матричная (фуакция Коши) соответ-
ствующей однородной линейной системы, т. с.
С(т, т) = I
(J — единичная матрица). При этом фундаментальное решение может
быть записано в виде C(t, т) = 0(t)(0(7"))-1, где 0(t) = C(t, to) — мат-
ричная функция, удовлетворяющая условиям
0(t) = a(t)O(t), 0(0) = I.
§2]
ПРИМЕРЫ
41
§ 2. Примеры
Пример 4.1. Случайная функция £(/) задана формулой
£(£) = C/j sin vt + U2 cos z/t,
С^О,
где С/], U2 — независимые гауссовские случайные величины с нулевым
средним и дисперсией D > 0, а и — положительная константа.
Найти явный вид с.к.-интеграла
С(т)с?т,
V
о
7/(t) =
t о,
вычислить его математическое ожидание 77zr?(t) и дисперсию DTi(t), а
также определить одномерный закон распределения.
Решение. Заметим, что £(t) с.к.-пепрерывна, как линейная ком-
бинация непрерывных неслучайных функций со случайными коэф-
фициентами, имеющими конечные вторые моменты (см. пример 3.1).
Поэтому в силу свойства 7 с.к.-интеграл 77(C) существует и совпадает
с иог1раекторным интех ралом, т. е. для почти всех wefi выполнено
ПЛ) =
t
(U1 (cj) sin vt + C/2 (w) cos z/т) dr =
0
— -(C/i(cj)(1 ~ cosz/C) 4- //2(1^) sin z/t), t 0.
Теперь найдем требуемые моментные характеристики.
ттг?/(£) = -(MC/i • (1 — cosvt) + MC/2 • sinz/t) — 0,
^(t) = (Dl/i • (1 — cosz4)2 + DC/2 • sin2 vt + 2cov{C/i, C/2} x
x (1 — cos z/t) sin z/t) = ((1 — cos z4)2 + sin2 z/C)
2D
v2
(1 — cos vt) .
Поскольку случайные величины C/i,C/2 независимы и нормально
распределены, то сечение 77(f), как их линейная комбинация, тоже
имеет гауссовское распределение: 77 ~ A/(0, 2D(1 — cosz/£)/z/2).
ИНТЕГРИРОВАНИЕ СЛУЧАЙНЫХ ФУНКЦИЙ
[3.4
42
Пример 4.2. Рассмотрим интеграл в среднем квадратичном от
процесса броуновского движения {w(t), т 0}:
t
w(t) dr,
о
t
Требуется определить ковариационную функцию s) и диспер-
сию D^t) процесса £(t).
Реше н и е. Воспользуемся следствием 4.1
= cov {£(<), £(s)}
t
dri
о
s
тт(т1,т2)</т2,
о
(4-5)
где учтено = min(r1,т2).
Тогда при Т) < s внутренний интеграл в (4.5) можно представить
в виде:
S
тт(т1,т2)с/т2
о
Следовательно, R^t.s) — min(i, s)2(3max(t, s) — inin(£, s))/6 при про-
извольных ^0 и Dji) = R^t, 0 = t3/3.
Пример 4.3. Случайная функция 0} удовлетворяет
уравнению
+ 07/(0 = С,
(4.6)
где 7/(0 — с.к.-производная, а — вещественное число, £ — случайная
величина, такая что D£ > 0 и cov{7/(0),£} = 0.
Найти решение уравнения (4.6). При каких значениях коэффици-
ента о существует l.i.m.
ПРИМЕРЫ
43
Решение. В данном случае фундаментальное решение
= С(т,т) = 1,
принимает вид С(£,т) = е г\ Поэтому общее решение (4.4) урав-
нения (4.6) представляет собой:
t
??(t) = е-^?7(0) + e~Qt [ eQr dr • £ = e'^fQ) +
о
при а 0.
Если а = 0, то ?/(i) = т/(0) + t£.
Следовательно, если cv > 0, то lim e~Qt = 0 и в силу п. 3 теоре-
I—>4-оо
- eat — 1 £
мы 3.4 получаем l.i.m. rift) = lim в а • т?(0) + lim -------• £ = —.
t—>4-оо t—>4-оо t—>4-oo —Ос Ос
При о = 0 получаем
lim D?;(i) =
t—>4-оо
lim
t—>4-oo
(D 7/(0) + f2 DC) = +<x>.
Аналогично для a — — Ь, где b > 0, имеем
lim Drift) = lim fe2bt D7?(0) + —— D£) — 4-oo.
f—>4-oo t—>4-oov b2 7
Таким образом, с.к.-предел rift) при t —> -Hoo равен £/cv, если а > О,
в противном случае с.к.-предела не существует.
Пример 4.4. Скорость поступления информации через удаленное
соединение к конечному пользователю описывается случайным про-
цессом V(i) с математическим ожиданием mv — ] О5 бит/с и ковариа-
ционной функцией Rvft,s) = <7уmax(1 — |t — s|/J, 0), где crv = 0,5
5 = 1 мин.
Найти математическое ожидание и дисперсию количества инфор-
мации J, полученной на промежутке [О,Г], Т > 5. Оцепить сверху
вероятность того, что объем поступивших данных окажется в два раза
меньше своего среднего значения, если а) Т = 5 мин; б) Т = 1 ч.
Решение. Прежде всего заметим, что величину J можно пред-
ставить в виде с.к.-интеграла
44
ИНТЕГРИРОВАНИЕ СЛУЧАЙНЫХ ФУНКЦИЙ
[3.4
Его математическое ожидание и дисперсия согласно следствию 4.1
имеют вид
т
М J — mv dt = mv Т,
о
DJ =
( Rv(t,s) ds^ dt.
о о
При вычислении дисперсии можно сделать несколько упрощений.
Во-первых, в силу симметричности ковариационной функции инте-
грал по квадратной области можно заменить на удвоенный интеграл
по множеству {(t, s): 0 s С t Т\. Во-вторых, на данном множестве
функция Rv(t, s') отлична от нуля только при t — 8 s t. 1Л наконец,
2
для указанных t и s имеем: Rv(t, s) — -у • (<5 — t + s).
Учитывая все вышеперечисленное, получаем
о
о
Rv(t, s') ds
{Л + h}-
где при Т > 8
Таким образом, DJ = ^<5 - (Г - <5/3).
Теперь найдем оценку для вероятности Р[ J < а}, где а := MJ/2.
Для этого заметим, что {J < a} G { J — МЛ > а}. Отсюда по нера-
венству Чебышева находим
P{J < MJ/2} Р{|J - MJ\ > п}
Поэтому a) P{J < а} < 0,1867 при 8/Т =1/5 и б) P{J < а} < 0,0166
при 8/Т = 1/60.
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
§ 3. Задачи для самостоятельного решения
1. Пусть ДА) = \/т2 при t т и ДА) = 0 при t > т. где t Е [0,1],
а т —случайная величина, равномерно распределенная на отрезке
1
О,1]. Будет ли существовать интеграл X ДА) dt: а) потраекторно;
б) в среднем квадратичном? о
Указание. Использовать свойство 7 и MX2 = оо.
От вет. а) да; б) ног.
2. Определить одномерный закон распределения случайной функ-
ции {//(A), t 0}, удовлетворяющей уравнению rj(t) = аДА) + £ при
начальном условии ту(О) = если известно, что постоянная а отлична
от нуля, а величины £ и и образуют гауссовский вектор с М£ = тт?^,
M/7 = m^, D£ = Z?£, Dz/ — 1Д, cov{£,z/} = p.
Ответ. r}(t) ~ Л/ХтДА), где ттгДА) = + — (eat — 1),
Dr/(A) = e2atDy + (eftt — I)2 + — (e2oA — eof).
3. Считая процесс V(A), рассмотренный в примере 4.4, гауссов-
ским, вычислить вероятность P{J < MJ/2}.
Ответ, а) Ф(—2,315) 0,01031; б) Ф(-7,768)^0.
4. Доказать, что если Р{ДА) = 0} = 1 при каждом t Е [а,Ь], то су-
ществует число с Е IR, такое что £(t) = с (Р-п.н.) при каждом t Е [а, Ь].
t
5. Пусть т/(А) — Дт) Jt, где {Дт), т 0} — случайная функция,
о
такая что rn^t) = ГДА,.$) = е-тах(м). Найти среднее и функ-
цию вторых момежюв случайного процесса 77(A) (ср. с задачей 11 из
предыдущего занятия).
Ответ. 772ДА) = 1 — e-t, Г ДА, s) = 2 — (2 + и)е~и — ue~v, где
значено и := rnin(A, s), := max(A, s). t
6. Найти с.к.-предел случайной функции ДА) = —
Дтх) du
обо-
при
-t
А —> +оо, если {Дтг), ?/Е R} — процесс с постоянным средним а и
ковариационной функцией T?^(v,7z-) = 62cos(z; — и).
Указание. Проверить: шДА) = а и D^(t) —> 0 при А —> +оо.
Ответ, l.i.m. ДА) = а.
t—>4-оо
ПРОЦЕССЫ С ОРТОГОНАЛЬНЫМИ
ПРИРАЩЕНИЯМИ
§ 1. Теоретические сведения
Пусть далее Т — промежуток вещественной оси.
Определение 5.1. Случайная функция {£(£), t G Т} называется
процессом с независимыми приращениями, если для любого набора
моментов to < ti tn из Т случайные величины С(й)“€(^о)? • - •,
£(fn) — £(tn-i) независимы в совокупности.
Определение 5.2. Гильбертова центрированная случайная
функция {£(£), t € Т} называется процессом с ортогональными при-
ращениями, если для любого набора моментов Н С £з ^4 из Г
случайные величины £(£?) — €(Н) и £(£4) ~ £(^з) некоррелированы.
Замечание. Всякая гильбертова центрированная функция
с независимыми приращениями является процессом с ортогональны-
ми приращениями.
Теорема 5.1. Пусть {£(£), t 0} — прогресс с ортогональными
приращениями, такой что £(0) = 0. Тогда
1) D{e(o-e(s)} = ^w- при I S',
2) дисперсионная функция D^t) .монотонно не убывает;
3) R^(t,s) — £>^(inin(t,s));
4) £(t) с.к.-непрерывен тогда и только тогда, когда непрерывна
дисперсионная функция D^(t);
5) £(£) с.к.-дифференцируем только если ^(t) =0 (P-п.п.).
Определение 5.3. Пусть {£(£), t € Т} — процесс с ортогональ-
ными приращениями, такой что D{£(t) — £(^о)} —* 0 при t | to VZq 6 Т.
Определим стохастический интеграл <p(t) d£(t) по процессу с орто-
гональными приращениями £(t) от детерминированной функции (/?(£):
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
47
n
I
г
1
I
J
/
I
У
f
Ik
)
I
1) если (/>(£) —ступенчатая функция, т. е. ^(t) = CfcI(Qfeibfe](t),
fc=i
где 1(ад] (0 обозначает индикаторную функцию полуинтервала (а, b
то <p(Z) d£(t) := 52 С4£(Ю - £(°fc)];
у
2) если же —произвольная борелевская функция, такая что
е L2(T,^), где мера, определенная на (Т,В(ТУ) равенством
f.u(u, v] = D{£(^) — £(?/)} Vv>u: u,vET,
то положим
</?(t) d£(t) l.i.m.
n—>oo
T
для любой последовательности ступенчатых функций {<^п}, таких что
Iv?n(t) - ip(t)\2 n^dt') -> 0.
Замечания. 1. Стохастический интеграл от непрерывно диффе-
ренцируемой функции </?(£) может быть представлен в виде интеграла
в среднем квадратичном по формуле интегрирования по частям
</>(т) <(т) = - ^(^)C(to) -
(^o,d
<//(т)£(т) dr
to
(P-п.п.).
(5.1)
2. Стохастический интеграл J = (p(t) d£(t) от неслучайной мат-
т
ричной функции <p(t) (размера пт х п) по n-мерному процессу £(£)
с ортогональными приращениями определяется следующим образом:
J •— col[«/j,..., «Туп],
п
л := 52
J = 1 т
где интегралы d^j(t) введены в определении 5.3.
48
ПРОЦЕССЫ С ОРТОГОНАЛЬНЫМИ ПРИРАЩЕНИЯМИ
[3. 5
Теорема 5.2. Стохастический интеграл (p(t)d^(t) определен
корректно для любой функции Е L2 (Т\ р^), причем
м
| j = о, ц|р(<)ед
|y>(t)|2^(t).
Более того, если дано линейное отображение J: l_z (Т, р) —> 1_2(П),
удовлетворяющее условиям'.
M{J(^)} = 0, D{J(^)}= |^(t)|2M(dt)
(5-2)
где р — неотрицательная мера на (Т, В(Т)), то существует процесс
с ортогональными приращениями {£(£), t Е Т}, такой что
J((p)= <p(t)d£(t) (Р-п.н.).
При этом р(и, u] — D{£(f) — £(u)} для любых и <v из Т.
Замечание. Для определения стохастического интеграла по-
средством линейного отображения J: 1-2 (Г, р) —> 1-2 (Q) достаточно
проверить, что оно определено на каком-либо всюду плотном линей-
ном подпространстве D С L2 (Г, д) и для всех <р Е D выполнены соот-
ношения (5.2). В качестве D можно использовать класс ступенчатых
функций или же семейство финитных бесконечно дифференцируемых
функций, определенных на Т.
О п р е де л е н и е 5.4. Формальную производную V(t) := £(t) век-
торного процесса с ортогональными приращениями £(t), называ-
ют (векторным непрерывным) белым шумом на Т интенсивности
X(t) := D^(t), где функция D^(t) предполагается абсолютно непрерыв-
ной. Если интенсивность — константа, то белый шум V(t) называют
стационарным. Если интенсивность — единица (или единичная мат-
рица), то V (t)— стандартный белый шум.
При этом стохастический интеграл по процессу с ортогональным^
приращениями записывают в виде формального интеграла с белым
шумом:
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
49
Если интеграл (5.3) при любой € D представляет собой гауссов-
скую случайную величину, то белый шум V(t) называют гауссовским.
Случайная величина Хо и белый шум V (t) называются некорре-
лированными (соответственно, независимыми), если этому условию
удовлетворяют величина Хо и интеграл (5.3) при любой </> 6 D.
Замечание. Моментные характеристики интеграла (5.3) с век-
торным белым шумом V(t) интенсивности A(t) имеют вид
М< Mt)V(0d4 - О,
(5-4)
cov< <p(t) V(t) dt, V>(f) V(t) бЙ > = </?(£) A(£)V>*(£) dt, (5.5)
IT T ' т
где <p(t) и ^(t) — детерминированные матричные функции, для кото-
рых определены соответствующие стохастические интегралы.
Определение 5.5. Пусть a(t), u(t), b(t) —детерминированные
кусочно-непрерывные матричные функции размера п х п, п х 1 и
п х т, соответственно.
Говорят, что гг-мерный гильбертов процесс X(t) удовлетворяет
на промежутке Т линейному стохастическому дифференциальному
уравнению с т- мерным белым шумом V (t):
X(t) = a(t)X(t) + u(t) + b(t)V(t), (5.6)
если для любых моментов t > to из Т (Р-п.н.) выполнено равенство
Х(О - Х(/о) +
(а(т)Х(т) + и(т)) dr +
6(т)У (т) dr,
(5-7)
io
io
где первый интеграл рассматривается как интегргит в среднем квад-
ратичном, а второй имеет вид (5.3).
Решение уравнения (5.6), удовлетворяющее начальному условию
X(t0) = Хо (Р-п.н.) при MXq < оо, определено единственным обра-
зом (с точностью до модификации) и может быть найдено с помощью
фундаментального решения C(t,r) соответствующей однородной ли-
нейной системы (см. предыдущее занятие):
X(t) = C(t,Zo)Xo + j С(/,т)(и(т) + b(r)V(r))dr,
to
t t0.
4 A. P. Панков, К. В. Семенихин
50
ПРОЦЕССЫ С ОРТОГОНАЛЬНЫМИ ПРИРАЩЕНИЯМИ
[3. 5
Теорема 5.3 (Метод моментов). Пусть гильбертов процесс Х(Т)
удовлетворяет линейному стохастическому дифференциальному
уравнению (5.6) на промежутке Т — [^оЛ1)? где —о° < < ti Ч-оо,
причем сечение Х(^о) некоррелировано с белым шумом V(£).
Тогда математическое ожидание mx(t) := MX(i) и дисперсион-
ная фгункция := cov{X(i), Х(£)} удовлетворяют на Т уравне-
ниям метода моментов:
тх(Т) = a(t)mx(t) + i/(t),
(5-8)
Z\(t) = a(t)Dx(t) + Dx(f)a*(t) + 6(f)A(i)6*(t),
где A(t) — интенсивность белого шума V(t).
Теперь предположим, что гильбертов процесс X(t) удовлетворяет
линейному стохастическому дифференциальному уравнению
Х(£) = аХ(1) + и + bV(t). t tG.
(5.10)
с постоянными коэффициентами а. и. би стационарным белым шумом
V(t) интенсивности А.
Теорема 5.4. Пусть система (5.10) асимптотически устойчи-
ва, т. е. все собственные значения матрицы а имеют отрицатель-
ные вещественные части.
Тогда при любом начальном условии Х(#о) справедливо
—> тх
mx(i)
Dx(t) Dx
при
t —> Too,
и
где предельные значения тх и Dx удовлетворяют стационарным
уравнениям метода моментов:
атх + и = 0,
aDx + Dxa* + bXb* = О.
Замечание. Допустим, что на промежутке Т заданы кусочно-
непрерывные функции ..., ar?-i, /Зо,..., /Зт, где ап = 1 и т < п.
Определим линейное дифференциальное уравнение n-го порядка
(5.11)
относительно гильбертовой случайной функции £(t) в том случае, ес-
ли ij(t) представляет собой сумму белого шума и с.к.-интегрируемого
случайного процесса.
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
51
Известно, что для детерминированных функций £(£) и rj(t) урав-
нение (5.11) равносильно системе линейных дифференциальных урав-
нений первого порядка:
X(t) = a(t)X(t) + c(t)r](t), teT,
(5-12)
где £(t) = Xi(t), X(t) = colpG (t),..., Xn(t)], c(t) — подходящая век-
тор-функция, зависящая лишь от коэффициентов уравнения (5.11)
(а также их производных, которые должны существовать, если т > 1),
(5.13)
Теперь по определению будем считать, что случайная функция
£(t) удовлетворяет линейному стохастическому дифференциальному
уравнению п-го порядка (5.11), если £(t) = JVi(£), где X(t) —п-мерный
процесс, удовлетворяющий системе линейных стохастических диффе-
ренциальных уравнений (5.12).
Пусть Ф^(г; О := Мехр(гз*Х(£))—• характеристическая функция
сечения n-мерного процесса Х(^), а Фо СЮ '= Мехр(гг*г/)—характе-
ристическая функция случайного вектора v (где z е Rn).
Теорема 5.5. Если {X(t), I /о} удовлетворяет системе ли-
нейных стохастических дифференциальных уравнении (5.6) с гаус-
совским белым шумом и не зависящим от него начальным условием
Х(1ф) = zv, то характеристическая функция Фу (г; t) имеет вид
Ф¥(г; t) = Ф0(С*(£, ^о)Ю exp|zz*m^(t) — z*D^(t)z ► , (5.14)
X >
где C(t,r) — фундаментальное решение уравнения (5.6), т. е.
^е>=а^С^т\, С(т,т)=1,
(I — единичная, матрица), a D^(t) — решения уравнений ме-
тода моментов (5.8), (5.9) с нулевыми начальными условиями:
= 0, (t0) = О.
4*
52
ПРОЦЕССЫ С ОРТОГОНАЛЬНЫМИ ПРИРАЩЕНИЯМИ
[3. 5
§ 2. Примеры
Пример 5.1. Доказать, что процесс броуновского движения
{w(£), t 0} является процессом с ортогональными и независимыми
приращениями, а его формальная производная — гауссовский стан-
дартный белый шум на [0, оо).
Решение. Согласно определению 2.6 w(t) — гауссовский процесс
с нулевым математическим ожиданием и ковариационной функций
/?w(^,s) = min(i,s). Тогда для произвольных неотрицательных чисел
Н й ^4 получаем
cov{w(t2) - w(H),w(t4) - ~ тт(^^з)-
— min(H Д4) + тт(Н Дз) = + t± = 0.
что и доказывает некоррелированность приращений.
Для доказательства независимости любого набора приращений,
взязых на непересекающихся интервалах, достаточно заметить, что
они некоррелированы, а их совместное распределение — гауссовское
в силу гауссовости самого процесса.
Интенсивность белого шума, соответствующего процессу с ортого-
нальными приращениями, равна по определению производной диспер-
сионной функции. Следовательно, А = 1 — интенсивность V(t) := w(t),
так как Dw(t) = Rw(t, t) = t. Поэтому V(t) — стандартный белый шум.
Белый шум V(t) — гауссовский, если для любой, скажем, ступенча-
ос
*
той функции </?(£) стохастический интеграл := явля-
о
ется нормально распределенной случайной величиной. В силу опре-
деления 5.3 </(</?) —гауссовская величина, как линейная комбинация
сечений гауссовского процесса w(Z).
Пример 5.2. Доказать следующий аналог закона больших чисел:
если {V(t), t 0}—белый шум с ограниченной интенсивностью, то
t.
1 '
о
V(г) dr
при
t —> +ос,
сж^ 0
иначе говоря, для белого шума «среднее по времени» совпадает
со «средним по пространству», т.е. с его математическим ожиданием.
ПРИМЕРЫ
53
Решение. Обозначим :=
V(т) dr и А := sup А(£)
сю. Тогда
из (5.5) при t —> Too получаем
t
м{шл12} = °ш/о = ^'
о
А(т) dr
Xdr = X/t —> О,
что и требовалось.
Пример 5.3. Случайная функiц iя
уравнению
{£(£), t 0} удовлетворяет
е(О) = г/,
(5.15)
где а, 6 — постоянные коэффициенты, V (t) — стандартный белый шум,
некоррелированный с начальным условием //, имеющим среднее т„ и
дисперсию !)„.
Найти а) решение данного уравнения; б) вычислить m^t) и D^t)
с помощью метода моментов; в) рассмотреть поведение этих характе-
ристик при t —* -Foo в зависимости от коэффициентов.
Р е ш е н и е. Нетрудно проверить, что C(t, т) = G(t)/G(t) является
фундаментальным решением, если G(t) = a.G(t) и G(0) = 1. Следова-
тельно, G(i) = eaL и поэтому решение (5.15) имеет вид
t
£(£) = eaty + beat [ e~ar V(r) dr. (5.16)
о
Для нахождения и применим метод моментов (см.
теорему 5.3). Тогда из (5.8) следует
m^(t) = ат$), тпДб) — т„.
Отсюда m^(t) = Tn„eat. Аналогично из (5.9) находим
Dc{t) = 2aD^t) + 62, РДО) =
Тогда при а — 0 имеем + b2t, а при а 0 получаем
D^t) = Due2at +
Ь2 (! 9at
—2a
54
ПРОЦЕССЫ С ОРТОГОНАЛЬНЫМИ ПРИРАЩЕНИЯМИ
[3. 5
При t —» +оо математическое ожидание процесса £(£) будет
сходиться к нулю, если а < 0. Если же о = 0 или ту
константа. Дисперсия D^t) сходится к
п 1)2
постоянной, если — —
Во всех прочих случаях m^(t) и будут неограниченны.
— О, ТО ТПс{1) —
62 nr
— при а < 0 или же будет
>|а|
(при а < 0) или а — b — 0.
Пример 5.4. В условиях примера 5.3 найти характеристическую
функцию ФДг; £), если а / 0, V(t) — гауссовский белый шум, а на-
чальное значение v равномерно распределено на [—с, с], где с > 0.
Решение. Вычислим все выражения в формуле (5.14):
с
1) Фо(^) = Mexp(zzi/) = —
eizx dx =
sin cz
cz
. z G R;
2) C(£,0) — cat (см. решение примера 5.3);
3) Tn{c(t) — m^(0) = 0, откуда = 0;
4) ДД) = 2aZ)”(i) + b2, D°(0) = 0, поэтому D®(t) = (1 - e2at\,
5) находим i), по формуле (5.14):
Заметим, что Ф^(^; 0) = SinCZ = Фо(г). Если же t —> +оо, а пара-
метр а < 0 (т. е. уравнение асимптотически устойчиво), то
т/х\ т/\ f 1 2 1
ФДг; 0 -» Фдг(г) := exp^--z — к
12 ziajj
где Фд<(г) — характеристическая функция гауссовского распределе-
ния А/(0,62/2|ф). Поэтому при а < 0 и достаточно больших t можно
считать, что £(t) имеет гауссовское распределение. Естественно, при
близких к нулю t распределение £(t) далеко от гауссовского.
Пример 5.5. Случайная функция удовлетворяет линейному
стохастическому дифференциальному уравнению второго порядка
£(*) + 2<M£(i) - 5) + w2e(0 = gV(tl
(5-17)
где V(t) — стандартный белый шум, а а, <5, ш и д — постоянные.
ПРИМЕРЫ
55
Найти предельные значения т^. математического ожидания и
среднеквадратичного отклонения, если а си > 0.
Решение. Сначала приведем уравнение (5.17) к виду (5.11). Для
этого достаточно в (5.11) взять п = 2. ао — <^2, — 2qcj, т — 0 и
т/(/) = 2acv6 4- gV(t).
Теперь запишем (5.17) в виде системы уравнений первого поряд-
ка (5.6) относительно двумерного процесса X(t) = col[£(£),£(£)]:
X(t) = аХ(/) + и + bV(t), (5.18)
где в силу (5.13)
а = 0 1 , и — 0 ' ь = 0
— Со’2 —2aiv 2аи6 _ 9 _
Для проверки асимптотической устойчивости вычислим следую-
щий определитель:
det [а — XI] = det
= А2 Т 2awA 4 ш2 = 0.
Как видно, корни A^2 = —qcj ± v a2u’2 — са2 имеют отрицательные
вещественные части при аа> > 0. Так как это неравенство выполнено
но условию, система (5.18) асимптотически устойчива.
Тогда из теоремы 5.4 MX(t) —* тх при t Тос, где
— 0,
—со2т^ — 2асот^ 4 2ос^д = 0,
Отсюда находим предельное значение математического ожидания ис-
ходной случайной функции £(t): = 2a6/w.
Аналогично этому имеем cov{X(t), X(t)} —> Dx = ,
где L х Di .
56
ПРОЦЕССЫ С ОРТОГОНАЛЬНЫМИ ПРИРАЩЕНИЯМИ
[3. 5
Данное матричное уравнение можно переписать в скалярном виде:
2х = 0, —и2 = О,
4аиО/ — 2zw2 + q2 = 0.
Разрешая данную систему относительно D^, находим — д2 /(4qw3).
Отсюда получаем предельное значение среднеквадратичного отклоне-
ния процесса £(£): = y/D$ = д / у/ай).
§ 3. Задачи для самостоятельного решения
1. Доказать, что если для центрированной случайной функции
{£(£), 0}, такой что £(0) = 0, выполнено одно из условий 1) или 3)
теоремы 5.1, то £(£)— процесс с ортогональными приращениями.
2. Обосновать следующие утверждения: а) если {V(£), t 0}
t
белый шум интенсивности A(t), то £(t) = V(.$) ds — процесс с ортого-
о
пильными приращениями и дисперсией D%(t) =
A(s) ds\ б) если же
о
V(t) — гауссовский стандартный белый, то £(t) — процесс броуновско-
го движения (ср. с примером 5.1).
11
3. Рассматривая стохастический интеграл 77(f) := 5(т)^(т),
V
to
t to, как случайный процесс, найти его ковариационную функцию.
Доказать, что //(£) — процесс с ортогональными приращениями.
min(7,.s)
to
4. Найти ковариационную функцию R^{t,s) процесса из приме-
ра 5.3. В случае а < 0 исследовать поведение — т) при t —> +00.
Указание. Воспользоваться представлением (5.16).
»2 z I 2 ч
Ответ. RRt,s) = —— 4- ea^£+^ \D„ 4- — )
Rc(L s) = Dy + b2 min(f, s) при a — 0; lim Rc{t,t — r)
t—++OQ
a < 0.
при a 0 и
Ь2 -lari
= ЭД6 ПРИ
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
57
5. При каких коэффициентах a(t) и b(t) процесс £(t), удовлетво-
ряющий линейному стохаст ическому дифференциальному уравнению
£(t) = a(t)£(t) + b(t)V(t) co стационарным белым шумом V(t), являет-
ся с. к.-дифференцируемым?
Указание. См. представление (5.7), указание к задаче 3 и п. 5
теоремы 5.1.
Ответ. Только при b(t) — 0 почти всюду.
6. Пусть {V&} —независимые величины с MI4 = 0 и DI4 = где
< оо; {tk} — возрастающая числовая последовательность. Тре-
к
буется: а) доказать, что r](t) := У^ ^ — центрированный процесс
к: tk^t
с независимыми приращениями; б) найти его дисперсию; в) указать
способ вычисления стохастического интеграла J \= .
— оо
Ответ. D7j(t) = J = ^2(Р^к)Ук, причем ряд сходится
k:tk^t- к
в с.к.-смысле для любой функции </>(£), такой что У2 l</?(^fc)|2crfc < 00•
к
7. При каких коэффициентах уравнение 2-го порядка £(O+ai£G) +
+<то£(£) — /31УУ)+/3(jV(t) асимптотически устойчиво? При найденных
коэффициентах найти предельные значения m^, математического
ожидания и дисперсии, если V(i) — стандартный белый шум.
Указание. Записать уравнение в виде X(t) = oX(t) + bV(t), где
x(t)6R2, =
= О, =
Ответ. При положительных crj и ад5
t
8. Пусть X :=
/(т)с^(т), Y := cj(T)^T)dT, где ^(т) —процесс
J V
о о
с ортогональными приращениями и =ту т О, а /(т), д(т) —
непрерывные неслучайные функции. Найти DX, DF и cov{X, У}.
Указание. Записать У как стохастический интеграл в силу (5.1).
58
ПРОЦЕССЫ С ОРТОГОНАЛЬНЫМИ ПРИРАЩЕНИЯМИ
[3. 5
t t
Ответ. DX = |/(т)|2dr, DT =
t о * о
/(T)G(t, т) dr, где G(t, т) := p(s) ds.
0 т
|G(£, r)\2 dr и cov{X, У}
t
9. В условиях задачи 8 записать /(£)£(£) + д(т) £(т) dr в виде
стохастического интеграла. 0
t t
О т в е т.
H(t, т) </£(т), где H(t, т) := /(i) + g(s) ds.
0, если w(t)—процесс броунов-
0 Т
10. Определить одномерное распределение случайной функции
t
??(£) sintw(f) — costw(
ского движения. 0
t sin 2t
11. Найти ковариационную функцию Вх(£, s) случайного процесса
0, если £(т) — процесс с ортогональными
о
приращениями, такой что D^r) = 6т.
Ответ. Rx(t,s) = 9a2b4- 5а3, где а := min(£, .s), b := max(f,s).
12. Пусть гильбертов процесс {Х(£), t 0} удовлетворяет уравне-
нию X(t) 4- aX(t) — /3V(t) с постоянными коэффициентами а > 0 и /?
и нулевым начальным условием, где V(I) — стандартный белый шум и
W(I) — соответствующий процесс с ортогональными приращениями.
Требуется: а) найти х(т):= lim cov{X(£), W(t — т)}, если т
б) доказать, что процессы {X(s), s
ваны; в) проверить cov{X(t), IT(a)} = cov{X(£), 1У(£)} при и
0;
t} некоррелиро-
13. Доказать, что если процесс В := {B(t), t G [0,1]} удовлетво-
ряет уравнению B(t) = —B^)/(l — t) + w(£) на. (0,1) с броуновским
движением w(Z) и краевыми условиями В(0) = В(1) =0, то В —бро-
уновский мост (см. упражнение 6 из занятия 2). t
Указание. Получить представление B(t) =
рить гауссовость процесса В, найти RB(t,s).
dw(r), прове-
о
ЗАНЯТИЕ 6
ВИНЕРОВСКИЙ ПРОЦЕСС
§ 1. Теоретические сведения
Определение 6.1. Винеровским процессом называется случай-
ная функция {w{t\ t 0}, удовлетворяющая следующим условиям:
a) w(0) = 0;
б) w(£) — процесс с независимыми приращениями;
в) w(t) — w(s) ~ ЛГ(О, a2\t — s|) для любых t, s 0, где а > 0;
г) траектории непрерывны.
Если ст = 1, то говорят, что w(t) — стандартный винеровский процесс.
Теорема 6.1 (Свойства винеровского процесса). Винеровский
процесс w{t) существует и обладает следующими свойствами:
1) моментные характеристики имеют вид
mw = 0, Dw(t)=<T2t, Rw(t,s) = a1 min(ts); (6.1)
2) винеровский процесс является гауссовским^ в частности.
w(t) ~ Л<(0, cr2t);
3) почти все траектории винеровского процесса не диффе-
ренцируемы ни в одной точке {см. рис. 6.1);
4) с вероятностью 1 на любом конечном отрезке траектория
имеет неограниченную вариацию;
5) почти все траектории винеровского процесса удовлетворяют
условию Гёлъдера с показателем у < 1/2, т. е. для всякого конечного
и > 0 определена случайная величина 0 < Ни < оо, такая что
Р{аг.
Hu(cj)|Z: - s|7 V.s,t€ [0,u]} = 1;
60
ВИНЕРОВСКИЙПРОЦЕСС
[3. 6
6) (квадратичная вариация винеровского процесса)
п
- w(fi-i))2 D{w(t) - w(s)} = a2(t - s),
i=l
(6-2)
при измельчении разбиения {^} отрезка [s,t] (m. e. при условии,
что {^} — неслучайные числа, такие что s = to Г ... tn = t,
max (ti ti—i) * 0),
г=1, ...}n
7) (закон отражения) еслитх(щ) := inf{£ 0: w^(t) = а?}, иначе го-
воря тх — случайный момент первого пересечения траекторией w^(t)
уровня х > 0, то
P{w(t) > х | тх < t} = P{w(Z) < х | тх < 1} = 1/2; (6.3)
8) для всякого h > 0 случайная функция X(t) := w(t 4- h) —
t 0, представляет собой винеровский процесс, не зависящий от
{w(s), s е [0,Л]}.
Рис. 6.1 Траектория винеровского процесса
Следствие 6.1. Гауссовская случайная функция с моментными
характеристпиками (6.1) имеет непрерывную модифткацию, которая
является винеровским процессом.
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
61
Замечание. В занятии 2 был введен процесс броуновского дви-
жения, как случайная функция со свойствами 1) и 2) при о — 1 (см.
теорему 6.1). Таким образом, стандартный винеровский процесс — это
процесс броуновского движения. В силу следствия 6.1 верно и обрат-
ное; утверждение: непрерывная модификация процесса броуновского
движения является винеровским процессом.
Теорема 6.2 (Левй). Случайная функция {£(£), t 0} с незави-
симыми приращениями, непрерывными траекториями и моментны-
ми характеристиками:, = 0, = a2t (а > 0), является вине-
ровским процессом.
Замечание. Таким образом, для любой случайной функции
с независимыми приращениями непрерывность траекторий влечет
свойство гауссовости.
Теорема 6.3 (Центральная предельная теорема в модели слу-
чайного блуждания). Определим на множестве := {k • ДЛПЬ
k = 0,1,2,... } симметричное случайное блуждание
s = k-^n\
(6-4)
где At^n\ — последовательности положительных чисел, та-
ких что —* 0, Д:ЦП) _> о и a V^n\ ... —
независимые случайные величины., принимающие два равновероят-
ных значения ±Дт(п). Если
(Да,-(п>)2/д«(п) <т2,
где
а > 0,
(6.5)
то для любого конечного набора моментов из ко-
п
нечномерное распределение Р^оо ($1,..., I случайного блуждания
слабо сходится к соответствующему распределению Pu,(si,..., )
винеровского процесса при п —> оо.
3 а м е ч air и е. Если рассматривать случайное блуждание (6.4), как
модель движения элементарной частицы, то условие (6.5) принимает
вид известного в квантовой механике соотношения неопределенности
Гейзенберга, согласно которому невозможно одновременно с одинако-
вой точностью измерить скорость частицы Дт^п/Д^п) и изменение
координаты ее положения Д.т6г)_
г
62
ВИНЕРОВСКИЙПРОЦЕСС
[3. 6
§ 2. Примеры
Пример 6.1. Построить наилучшую в среднем квадратичном
оценку w(t) сечения w(£) стандартного винеровского процесса по двум
наблюдениям w(s) и гс(д), где 0 < s < t < и. Определить среднеквад-
ратичную погрешность Д(£) := M(w(t) — w(f))2.
Решение. Как известно, искомая оценка представляет собой
условное математическое ожидание w(t) — M{w(t) | w(s), w(u)}. Ис-
пользуя гауссовость случайного вектора Z := со1[Х, У], где X := w(t).
У col[w(s), w(iz)], по теореме о нормальной корреляции имеем
w(i) = М{Х I У} = MX + cov{X, Y} (cov{y, У}) '(У-МГ).
Очевидно, MX = 0иМУ = 0в силу центрированности винсров-
ского процесса. Кроме того,
cov{X, У} = Ru,(t,u) ] = [
cov{y, У} =
Теперь получаем
и — s
w(i) = [ s t ]
1
s(u — s)
(г/ — £)w(s) + (t — s)w(^)
w(u)
и — s
Итак, если вииеровский процесс доступен наблюдению только
в два момента времени .$ < д, то с.к.-оптимальная оценка сечения w(t)
в некоторый промежуточный момент t е (s, и) будет определяться
формулой линейной интерполяции. В частности, если I — середина
интервала (s,u), то w(t) = (w(s) + w(u))/2.
Среднеквадратичная погрешность найденной оценки также вы-
числяется с помощью теоремы о нормальной корреляции:
A(t) = М(М{Х I У} - X)2 =
= DX-cov{X,y} (cov{y У})-1соу{У,Х\ =
и — t
t — s
= t -
* _ (и — t)(t — s)
и — s
и — s
и — s
При t = (u -f- б’)/2 получаем Д(£) — (и — s)/&.
ПРИМЕРЫ
63
Пример 6.2. Определить распределение момента тх первого до-
стижения уровня х > 0 траекторией винеровского процесса. Выяс-
нить, любой ли уровень х будет преодолен. Если да, то сколько
в среднем придется ожидать наступления этого события?
Решение. Возьмем произвольные t > 0 и w С Q. Если w^t) > х,
то в силу ww(0) = 0, положительности х и непрерывности траекто-
рии {щДя), s 0} получаем, что она уже пересекала уровень х до
момента t. Следовательно, момент rx(iF) первого пересечения также
предшествует t. Таким образом, случайное событие {w(t) > т} влечет
{тж £}, поэтому {w(t) > т} П {тх t} = {w(t) > т}. С учетом этого,
используя формулу умножения вероятностей, получаем
P{w(0 > т} = P{w(£) > х, тх t} = P{w(i) > х | тг t} Pfv^ t} ,
откуда
P{w(t) > х | тх < 1} = P{w(i) > х}/Р{тх t} . (6.6)
По закону отражения (6.3) левая часть (6.6) равна 1/2. Поэтому
Р{тт < 0 = 2P{w(t) > я] ,
где FTx(t) := Р{тх. < 1} - искомая функция распределения случайной
величины тх. При этом справедливо P{w(/) > т} = 1 - Ф(х/(сг^)),
так как w(t) ~ .N\0,cr2t'). Таким образом,
ОО
Из (6.7) следует, что FTx(t) непрерывно дифференцируема па (0, оо),
причем Frr(0) = 0. Поэтому случайная величина тх имеет непрерыв-
ную плотность вероятности:
(6.8)
Соотношения (6.7) и (6.8) позволяют сделать следующие выводы:
а) траектория винеровского процесса рано пли поздно пересечет сколь
угодно высокий барьер .г, так как Р{тх < оо} = lim FTx(t) = 1 при
t—>оо
любом конечном х > 0; б) среднее время ожидания этого пересечения
оо
бесконечно велико в силу того, что Мт^ = tfTx(t)dt = оо.
о
64
ВИНЕРОВСКИЙ ПРОЦЕСС
[3. 6
Пример 6.3. Пусть — ортонормированный базис гиль-
бертова пространства 1_2[0,1] вещественных функций, квадратично-
интегрируемых на отрезке [0,1], а {14} — последовательность незави-
симых случайных величин, распределенных по закону Л^О, ст2).
Доказать, что случайная функция
ос
е(0 := Е
t
ek(r)dr,
о
te [0,1],
(6.9)
эквивалентна на [0,1] винеровскому процессу, причем ряд в (6.9)
сходится в среднем квадратичном.
Рете и и е. Докажем сначала сходимость ряда (6.9). Рассмотрим
его частичные суммы
п
£п(0 •— ^А’(0 • — (I[0,t] 5
к=1
1
*
где (99, гр) := <р(т)гр(т) dr представляет собой скалярное произведение
о
bL2[0, 1], a I[0,t| обозначает индикаторную функцию отрезка [0, t].
Теперь воспользуемся критерием Коши (см. занятие 3), согласно
которому l.i.m. £n(t) существует тогда и только, когда
71—>ОО
Дп,т := - £ш(£))20 при п,тоо.
Если т < п, то Д„,т = D{£„(£) - £m(i)} = D-! ak(t)Vk ? =
n ос '
= a2(i)cr2. При этом (^,гр) — У^(-0, в/,.)2 для гр € L2[0,1] по ра-
k=77i+l п к=1 „
I If II’
венству Парсеваля. Поэтому у^ ak(t) = У^ (1[о,ф ек)2 —> 0 при
к — т+1 к—774 1
?z,m —> оо, что и доказывает с.к.-сходимость ряда (6.9).
Поскольку (,n(t) — гауссовский процесс, то его с.к.-предел £(t) так-
же является гауссовской случайной функцией. Определим ее момент-
ные характеристики.
ПРИМЕРЫ
65
oo
Во-первых, m^(t) = сцД)М14 = 0. Во-вторых, при t,s6 [0,1]
л?—1
OO ОО ОС
7^(i,s) = afc(t) a/(s) cov{14, Ц} = afc(£)afc(s)cr2 =
fc=l 1=1 k=l
oo
= Z2(I[o,t]>efc)(I[o,d’efc)cr2
fc-i
1
— (^[0,i] i I[0,s]) & & I[0,min(t,s)] (^”)
0
oo
где было использовано равенство Парсеваля (<£>, V>) — (<А ек I
для функций 99 := I[0>tl и := 1[о,5]. к=1
Таким образом, = a2 min(i, <s). Поэтому гауссовская функ-
ция (6.9) имеет такие же моментные характеристики, как и винеров-
ский процесс w(t). Следовательно, в силу следствия 6.1 случайная
функция £(£) эквивалентна некоторому винеровскому процессу.
Пример 6.4. Доказать, что процесс Орнштейна—Уленбека, опре-
деляемый выражением X(t) e~O:tw(e2<yt) при t 0 (где w(t)— ви-
неровский процесс, а а- положительная константа), удовлетворяет
линейному стохастическому дифференциальному уравнению:
X(t) + aX(i) = V(t), t 0,
(6.10)
с гауссовским белым шумом V(£). Какова интенсивность этого белого
шума? Как связаны процессы V(i) и w(t)?
Решение. Для доказательства (6.10) согласно определению 5.5
достаточно проверить, что случайная функция
t
= Х(0 - Х(0) + а [ Х(г) dr, I 0,
о
(6.11)
является гауссовским процессом с ортогональными приращениями.
Заметим, что X(t) — гауссовский процесс, поскольку таковым яв-
ляется виперовский процесс. Следовательно, случайная функция £(t)
также является гауссовской, как линейное преобразование процес-
са X(t) (см., например, свойства с.к.-интеграла из занятия 4).
Преобразуем с.к.-интеграл в (6.11) к стохастическому йнтеграЛу
по винеровскому процессу. Для этого рассмотрим его, как потраек-
торный интеграл. Тогда мы имеем право сделать замену переменной:
5 А. Р. Панков, К. В. Семенихин
66
ВИНЕРОВСКИЙ ПРОЦЕСС
[3. 6
х _ е2«т^ т _ 1Пя;Д2а), dr = dx/(2ax), х е [1,?/], где у := e2at. После
соответствующих выкладок и применения формулы интегрирования
по частям (5.1) получаем:
(6-12)
Тогда в силу (6.12) для любых 0 ^4 приращения
£(£4) — £(*з), £(^2) —£(^1) представляют собой стохастические инте-
гралы по винеровскому процессу по непересекающимся интервалам.
Поэтому они некоррелированы. Следовательно, £(t) — процесс с ор-
тогональными приращениями (см. также задачу 3 из предыдущего
занятия).
Теперь осталось найти дисперсию:
^2а! 2cxt
е е ,, 2а«
т~\ fi\ dDw(т) сг dx 21 г) 2-±
Dcit) = -----— = ------ = (У 1п.т = 2 а ст t.
J X J X 1
1 1
Итак, доказано: V(t) := £(£) — гауссовский белый шум с интенсив-
ностью D^lt) = 2аа1 2. Соотношение между процессами V(t) и w(f)
определены формулой (6.12).
§ 3. Задачи для самостоятельного решения
1. Для случайной величины Y := (w(Z) — w(s))2/(f — s) найти
функцию распределения, если t > s 0, a w(r) — винеровский про-
цесс. Что более вероятно: Y < МУ или Y > МУ?
Ответ. Fy(y) = 2Ф(^/^/<т) — 1, у 0; Р{У < МУ} ~ 0,6826.
2. Для стандартного винеровского процесса {w(t), т 0} при
фиксированных моментах 0 < s < t < и построить с.к.-оптимальные
оценки a) w(s) по {w(t),w(u)} (задача экстраполяции); б) w(u) по
{w(s), w(t)} (задача прогнозирования). Определить среднеквадратич-
ные погрешности Д(т) := M(w(r) — ге(т))2.
Указание. См. решение примера 6.1.
§3]
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
67
Ответ, a) w(s) — sw(t)/t, A(s) = (t — s)s/t\ 6) w(u) = w(t),
A(u) — и — t.
3. Определить одномерное распределение случайной функции
w(t) — max w(t), t > 0, где w(r) — стандартный винеровский процесс.
re[o,t]
Указание. Учесть P{w(i) > я} = Р{тж t} и использовать ре-
шение примера 6.2.
Ответ. F-(x\ t) = 24>(x/\/t) - 1, p-(rr; t) = >/2/(7г£) • e-a;2/(2t).
4. Доказать, что величины |w(t)| и w(t) одинаково распределены.
5. Установить следующее свойство самоподобия винеровского про-
цесса w(t): для. всякого с > 0 случайная функция X(t) := w(ct), t 0,
является винеровским процессом.
Указание. Воспользоваться определением 6.1.
6. Пусть {w(t), t 0} — процесс броуновского движения (см. опре-
деление 2.6). Показать, что случайная функция X(t) := tir(l/t), t > 0,
Х(0) := 0, также является процессом броуновского движения.
Указание. Проверить гауссовость и вычислить ковариационную
функцию.
7. Скорость U(t) частицы массы m в жидкой среде вязкости (3
определяется гауссовской случайной функцией, удовлетворяющей
уравнению Ланжевена: mU(t) = —/3U(t) 4- w(t), где w(t) — процесс
броуновского движения. Доказать сходимость по распределению
функции U(t) к АДО, Dy) при t —* 4-оо. Определить диапазон измене-
ния значений C7(t), возможных с вероятностью 0,997, при больших t.
Ответ. (—3/у/2(3т, 3/у/2^т).
8. Курс некоторой цепной бумаги описывается случайной функ-
цией X(t) ew^ где w(t) — винеровский процесс, X(kh) — цена по
истечении fc-ro дня торгов, h — длительность торговой сессии. Требу-
ется найти вероятность того, что: а) в течение недели курс акции по
крайней мере дважды упадет по результатам дневных торгов; б) хотя
бы раз за неделю курс вдвое превысит стартовую котировку, если
с вероятностью 0,01 в течение дня курс опускается до половины от
цены открытия.
У к аз ан и е. а) события {X(kh) < X((fc — l)/z)}, к = 1,..., 7, явля-
ются независимыми и равновероятными; б) Р{тж 7h} — вероятность
искомого события, а Р{т3. h} — известная вероятность, где х = In2
(см. также пример 6.2).
Ответ, а) 15/16; б) ~ 0,3303.
ЭЛЕМЕНТЫ СТОХАСТИЧЕСКОГО
ДИФФЕРЕНЦИАЛЬНОГО ИСЧИСЛЕНИЯ ИТО
§ 1. Теоретические сведения
Определение 7.1. Система случайных событий Т7/’, являющая-
ся наименьшей бт-алгеброй, содержащей все события вида {w(s) 6 В}
при произвольных s G [0, t] и борелевском множестве В, называется
а-алгеброй, порожденной случайной функцией {w(s), s 6 [0, £]}.
Определение 7.2. Случайная функция f(t) называется неупре-
ждающей относительно процесса {w(f), t 0}, если при любом t слу-
чайная величина /(f) является Т7/7-измеримой (т. е. {/(f) 6 В} €
для всякого борелевского В). t
Определение 7.3. Стохастический интеграл Ито f(s) dw(s)
о
от гильбертовой случайной функции f(s), неупреждающей относи-
тельно стандартного винеровского процесса {w(s), s 0}, определя-
ется следующим образом: п
1) если /(s)—ступенчатая функция, т. е. /(s) = €fcl(afc ,bfe] («),
k=l
где 0 сц. < /д — константы, а — случайные величины с конечным
вторым моментом, измеримые относительно бт-алгебры Т7™ , то
г 71
f(s) dw(s) := £2 <MW(M - w(afc)];
о
2) если же /(s) — произвольная неупреждающая функция, то
t
f(s) dw(s) l.i.m.
J n—>oc
0
t
fn(s)dw(s),
о
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
69
где {fn(.*?)}— любая последовательность неупреждающих ступенча-
тых функций, таких что
I
M{|/n(s) — /(s)|2} ds —> 0, п оо.
о
Замечание. Определения 7.1 -7.3 остаются в силе для матричной
функции /(s) G Rwxn, неупреждающей относительно стандартного
п-мерного винеровского процесса w(s') = col[wi(s),..., wn(s)j, который
по определению составлен из п независимых стандартных винеров-
ских процессов Wj(.s), j = 1,..., п.
t
Теорема 7.1. Стохастический интеграл Ито f(s)dw(s) опре-
о
делен для любой с.к.-непрерывной неупрезюдающей функции f(s), если
t < оо. Более того,
; п
f(s)dw(s) = l.i.m. ^2 /(ife-i)[w(^) - w(4-i)]
0
при измельчении разбиения {tk} отрезка [0, t] (т. е. при условии,
что {tk} — неслучайные числа, такие что 0 = to ti tn = t,
max (tk - tfc-i) —> 0).
fc=l,...,7i
Теорема 7.2. Пусть для не упреждающей функции f(s) суще-
t.
ствует стохастический интеграл Ито J(t) := f(s)dw(s).
Тогда случайный процесс {J(t), t 0}: о
1) имеет следующие моментные характеристики
M{J(f)} = 0, cov{ J(t), 7(0} =|м{/(Л) (/(s))*} ds;
О
2) является неупреэюдающим относительно w{t)\
3) обладает непрерывной модификацией;
4) представляет собой процесс с ортогональными приращениями;
5) является мартингалом от.посителъно {^w}, т. е.
М{7(и)|^} = Л0
\/ и
70 ЭЛЕМЕНТЫ СТОХАСТИЧЕСКОГО ДИФФЕРЕНЦИАЛЬНОГО ИСЧИСЛЕНИЯ ИТО [3- 7
Определение 7.4. Говорят, что случайная функция {£(t), t 0}
имеет стохастический дифференциал:
d£(t) = a(t)dt + /3(t)dw(t), (7.1)
где <а(£), /?(t) — неупреждающие функции, если для каждого t 0
t t
£(£)—£(0) = a(s)ds + /3(s)dw(.s) (Р-п.н.), (7.2)
о о
причем £(0) — константа, первый интеграл в (7.2) понимается в сред-
нем квадратичном, а второй —стохастический интеграл Ито. Случай-
ные функции a(t), /3(t) называются соответственно коэффициентами
сноса и дифф)узии.
Замечания. 1. Если случайная функция £(£) имеет стохастиче-
ский дифференциал, то она является гильбертовой, неупреждающей,
а также непрерывной (с точностью до выбора соответствующей мо-
дификации).
2. Если существует с.к.-производная {£(£), t 0}, то в (7.1) коэф-
фициент диффузии равен нулю. Поэтому только в этом случае имеет
место привычная формула: d£(t) — £(£) dt.
3. В дальнейшем будем использовать следующую краткую запись:
V’(s)^Gs)
О
'0(s)a(s) ds 4-
'0(s)/3(.s)rfw(s),
о
если интегралы в правой части данного выражения определены.
Пусть {£(£), t 0} —m-мерный случайный процесс, допускающий
стохастический дифференциал с матричными коэффициентами сноса
и диффузии a(t) 6 Rrn, (3(t) е Rmxn и n-мерным стандартным ви-
неровским процессом w(i). Допустим, что g(x, t) е —детермини-
рованная вектор-функция, где х Е Rm. Следующая теорема указы-
вает способ нахождения стохастического дифференциала функции
g(£(4),t) случайного процесса £(£).
Теорема 7.3 (Формула Ито). Пусть процесс £(t) имеет сто-
хастический дифференциал, а функция g(x, t) непрерывна вместе
. dgk(x,t) dgk(x,t) d2gk(x,t)
со своими частными производными -— и —-—
Cjt OXi (jXiOX j
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
71
Предположим также, что случайные функции
dt
dgk(£(t),t)
dgk^tyt)
OXiOX-i v ' zu
(7-3)
(7-4)
непрерывны в среднем квадратичном.
Тогда случайный процесс r](t) := #(£(£),£) также имеет стоха-
стический дифференциал
ddW = +gt^t),t)dt + (7 5)
xj
Замечания. 1. В формуле (7-5) были использованы следующие
обозначения (далее для краткости аргументы функций опущены):
2. Коэффициент сноса случайной функции #(£(£),£) имеет вид
+ <7сК(^),0 + tr[&x(C(i),i)/3(0/3*(/)]/2, а коэффициент
диффузии равен (7ж(С0), «)/?(<)-
3. В скалярном случае формула Ито принимает вид
dg(^t).t) = <7.c(e(/),i)^(0 + л(е(0>0^ + (7.6)
4. Существование стохастического дифференциала у случайной
функции t) и формула Ито (7.5) имеют место и без требования
с.к.-непрерывности функций (7.3)-(7.4). Однако при этом понятию
стохастического дифференциала необходимо придать расширенное
толкование: интеграл от коэффициента сноса должен рассматривать-
ся потраекторно, а стохастический интеграл Ито необходимо опреде-
лить для неупреждающих (возможно негильбертовых) коэффициен-
тов диффузии с кусочно-непрерывными траекториями.
Пусть даны матричные функции A(rr,£)6Rm, GRmxn,
х G Rm, тг-мерный стандартный винеровский процесс w(i) и тп-мерная
случайная функция £(/:).
72 ЭЛЕМЕНТЫ СТОХАСТИЧЕСКОГО ДИФФЕРЕНЦИАЛЬНОГО ИСЧИСЛЕНИЯ ИТО [3. 7
Определение 7.5. Случайная функция {£(£), t 0} называется
решением стохастического дифференциального уравнения Ито с ко-
эффициентом сноса A(x,t) и коэффициентом диффузии В(х,б), если
£(£) имеет стохастический дифференциал следующего вида:
d£(t) = A^t^t^dt + B(£(£),i)dw(C-
Далее будем использовать одинаковое обозначение для евклидовой
?п т п
нормы вектора и матрицы: А|2 := А2 и |В|2 := /С Вур
2=1 2=1 j = l
Теорема 7.4. Пусть коэффициенты A(x,t), B(x,t) непрерывны
по совокупности переменных и удовлетворяют условиям:
а) для всякого t 0 найдется число Kt < со, такое что
|А(з?, s)|2 4- |B(rr, s)|2
ад + и2)
Vse [ОД], х бГ;
б) для всякого t 0 сугцествует константа Lt < ос, такая что
|А(т, s)- А(у, s)|2 + |B(.t, s) - В(у, .s)|2 - у|2 V sG [0, t], x, у eRm.
Тогда
1) для любого детерминированного х$ G Rm существует реше-
ние {£(£), t 0} стохастического дифференциального уравнения Ито
(7.7) с начальным условием ДО) = то;
2) решение R(0, t z 0} единственно, т. е. любые два решения
уравнения (7.7), удовлетворяющие одному начальному условию, пред-
ставляют собой эквивалентные случайные функции,
3) решение {£(£),£ ^ 0} устойчиво по отношению к коэффициен-
там уравнения и начальному условию, т. е.
M{mt)i2} ^о(1 + |хо|2), t^o,
где Ct — константа, непрерывно зависящая от t,Kt.
Замечания. 1. Предположения а), б) теоремы 7.4 означают, что
коэффициенты уравнения А(х,б) и В(х,1) являются функциями не
более чем линейного роста по х и удовлетворяют условию Липшица.
Как известно, без указанных предположений нельзя гарантировать
существование решения {x(t), £ ^ 0} даже для обыкновенного диф-
ференциального уравнения х (0 = 71(*(0, t).
§2]
ПРИМЕРЫ
73
2. Возможно рассматривать стохастические дифференциальные
уравнения Ито со случайным начальным условием £(t) = Xg, если
потребовать независимость Xg от винеровского процесса w(£) и опре-
делить стохастический интеграл Ито для функций, неупреждающих
относительно процесса Xg + w(t).
§ 2. Примеры
t
Пример 7.1. Найти стохастический интеграл Ито w(s)dw(s)
для стандартного винеровского процесса w(s). о
Решение. Согласно теореме 7.1 искомый интеграл можно полу-
чить, как с.к.-предел интегральных сумм:
; п
w(.s)dw(s) = l.i.m. w(Za;_1)Awa;,
n А = 1
Awfe := w(tfe) - w(ijt-i), (7.8)
при max (tfc - —> 0, где 0 = t0 tn = t.
fc=l, ...,n
Преобразуем (7.8) к выражению, содержащему квадратичную ва-
риацию стандартного винеровского процесса w(t) (см. теорему 6.1):
l.i.m. 52 = l-
k=i
(7-9)
2
Для этого из равенства ю2(Д) = (ге(Д_1) -h выразим
wftk-i'jAwk = ±(ы2(М - w2(Zfc_1)) - ^(Awfc)2.
Теперь
П 1 n 1 71
52 w(tfc_i)Awfe = - 52 (™2(^) - w2(tA-i)) - 2 52 (M ,
k=l k=1 k=l
где первая сумма равна w2(t), а вторая в силу (7.9) сходится в среднем
квадратичном к t.
Итак, окончательно получаем:
74 ЭЛЕМЕНТЫ СТОХАСТИЧЕСКОГО ДИФФЕРЕНЦИАЛЬНОГО ИСЧИСЛЕНИЯ ИТО [3. 7
Пример 7.2. Динамика курса £(t) ценной бумаги описывается
уравнением Самуэльсона:
d£(t) = £(t)(adt + adw(t)), t 0, £(0) = 1, (7-10)
а и ст — неслучайные коэффициенты (ст > 0).
Доказать, что решение {£(£), t 0} действительно существует.
Определить математическое ожидание (t), дисперсию а так-
же коэффициент вариации v^(t) := у/£^(i), считая, что w(t)
стандартный винеровский процесс.
Решение. Заметим, что А(хД) = ах и B(x,t) = ах суть коэф-
фициенты сноса и диффузии уравнения (7.10). Как нетрудно видеть,
условия а), б) теоремы 7.4 выполнены при Kt = Lt — а2 4- а2.
Для нахождения 77?^(i) запишем (7-10) в интегральном виде
е(0 = €(о) +
t t
a£(s) ds 4-
cr£(s)dw(s)-
o
о
Так как согласно теореме 7.2 стохастический интеграл имеет нулевое
среднее, получаем
m^t) = 1 +
t
ч
am^(s)ds
о
или в дифференциальной форме zr^(Z) — ?7?Д0) = 1, откуда
тп& (t) — eai.
Теперь найдем стохастический дифференциал случайной функции
'Я0 := £2W- Поскольку g(t) = g(£(t),t), где g(x,t) = х2, .gt(x,Z) = 0,
gT(x,t) = 2х и g.rT(x,t) = 2, по формуле Ито (7.6) получаем
6/77(0 = 2^)^) +
2В2(е(0,р
2
dt — (2а 4- Ф2) т?(0dt + 2ay(t) dw(t).
Записывая данное выражение в интегральной форме и применяя
к левой и правой части оператор математического ожидания (ана-
логично тому, как это сделано выше), приходим к дифференциаль-
ному уравнению тй,^) = (2а + a2)m71(t). 77гД0) = 1. Следовательно,
М£2(£) = тД£) = е(2а+^ )\ Отсюда находим дисперсионную функ-
цию D^(t) = mri(t) — 7n,^(t) = e2at(ea £ — 1) и коэффициент вариации
u^(t) — y/ea2t — 1.
§2|
ПРИМЕРЫ
75
Теперь можно указать интерпретацию коэффициентов уравнения
Самуэльсона. В силу m^t) — eat положительный знак коэффициен-
та а свидетельствует о росте курса в среднем, а отрицательный — на-
оборот о падении. Рассматривая v^(t) = \/ea2t — 1, как относительную
характеристику рисковости ценной бумаги, можно утверждать, что
большие значения коэффициента ст означают высокий уровень риска
вложения в данную ценную бумагу.
Всюду далее будем считать, что w(t)—стандартный винеровский
процесс, если не оговорено противное.
П р и м е р 7.3. Доказать, что процесс £(£) = ехр{а£ 4- /? w(£)}, t О,
называемый экономическим броуновским движением, удовлетворяет
уравнению Самуэльсона (7.10). Выразить а и /3 через коэффициенты
этого уравнения.
Решение. Запишем данный процесс в виде £(t) = где
g(x, t) := eat+f}x. Тогда gt(x,t) = ag(x,t), gx(x,f) = fig(x,t), gxx(x,t) =
— (3'2g(x,t'). Следовательно, по формуле Ито (7.6) имеем
d£\t) — 3,t)dw(t) 4- ag(w(t), t)dt 4-
= £(£)((q 4- (32/2)dt 4- /3dw(t)),
где учтено, что коэффициент диффузии стандартного винеровского
процесса равен единице. Следовательно, а, = а 4- /32/2, а — (3— коэф-
фициенты уравнения (7.10). Поэтому процесс
С(0 = ехр{(а - СТ2/2)4 + aw(t)} , t 0,
удовлетворяет уравнению (7.10) с коэффициентами а и <т.
Пример 7.4. Вывести формулу стохастического дифференциала
d(X\(t)X2(ty) произведения двух функций X] (t),X2(t), имеющих сто-
хастический дифференциал: а) относительно одного и тоже винеров-
ского процесса; б) относительно независимых виперовских процессов.
Решение. В первом случае по условию а) имеем
dXi(t) — ai(t)dt 4- i — 1,2.
Представим произведение т?(£) := ХД^АД^) в виде T](t) = g(X(t)),
где X(t) := col[Xi(t), А?2(£)] — двумерный процесс, имеющий стохасти-
ческий дифференциал dX(t) = a(t)dt 4- (3(t)dw(t) с коэффициентами
76 ЭЛЕМЕНТЫ СТОХАСТИЧЕСКОГО ДИФФЕРЕНЦИАЛЬНОГО ИСЧИСЛЕНИЯ ИТО [3. 7
а(£) := col cvi (Z), <Л2(t)J, /ЛИ := coHft (/),/?2(0]> а — Х1Х2 — скаляр-
ная функция векторной переменной х — со1[.Т], а^]- При этом
<7х(ж) = [ х2
],
О
1
Р.г\г(-^') —
а также tr[gxx(x)(3(t)/3*(t)] = /3*(1)дхх(х)р(1) = 2/?i (i)/32(f)-
Поэтому в случае а) по формуле Ито (7.5) получаем
dr](t) = gx(X{t))dX(t) + dt =
= X2(t)dX}(t) + Xj(i)dX2(i) +
В случае 6) Xi(£), X2(t) допускают стохастический дифференциал
dXi(t) = (j^t)dt 4- i = 1,2,
с независимыми винеровскими процессами цц(£), w2(i).
Тогда векторный процесс X(t) будет иметь стохастический диф-
ференциал dX(t) = a(t)dt B(t)dW(t) относительно двумерного ви-
неровского процесса IV(t) := col|wi(£), w2(t)| с указанным выше коэф-
фициентом a(t) сноса и коэффициентом диффузии
в(0 =
о
Так как на главной диагонали матрицы дхх(х)В(Х)В* (t) стоят нули,
ее след равен нулю. Поэтому формула Ито принимает вид
d7?(t) = X.^dX^t) + X1(t)dX2(t).
Подведем итог приведенным выкладкам:
а) стохастический дифференциал d(Xi(£)X2(£)) для функций, рас-
сматриваемых относительно одного и того же винеровского процесса,
в сравнении с «обычным дифференциалом» X2(t)dXi (£)4-Xi (i) dX2(£)
имеет «снос» /?i(t)/?2(0^? равный произведению коэффициентов диф-
фузии процессов Xi(ty,
б) стохастический дифференциал произведения процессов, порож-
денных независимыми винеровскими процессами, вычисляется по
правилам математического анализа Х2 (i) dXi (t) 4-Xi (t) dX2 (i).
§3]
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
77
§ 3. Задачи для самостоятельного решения
t
*
1. Найти wi^t), D^t) и R^t, s) для процесса 7y(t) := w2(r) dw(r).
Ответ. 777^=0, D^t) = t3, = P7?(min(^, s)). °
2. Пусть ??(£) — случайный процесс, определенный в задаче 1. Вы-
числить: a) M{w(£)7?(t)}; б) M{w2
Указание. Пользуясь результатом примера 7.4, записать случай-
ные функции w(t)T](t) и w2(tyrj(t') через стохастический интеграл Ито
и с.к.-интеграл.
Ответ, a) f2/2; б) 0.
3. Найти решение стохастического дифференциального уравнения
£(0) = 1.
Ответ. £(t) = ew^\
4. Показать, что случайная функция £(£) = exp{w(£) — t/2}, назы-
ваемая стохастической экспонентой, является мартингалом. Найти
ее математическое ожидание. t
Указание. Записать £(t) в виде £(£) = 1 + £(s)dw(s) и восполь-
зоваться теоремой 7.2. о
Ответ, — 1.
5. Двумерный случайный процесс X(t) col [cos w(£),sin w(7)j на-
зывается броуновским движением на единичной окружности. Найти
стохастическое дифференциальное уравнение, которому удовлетворя-
ет X(t). г
Ответ. dX(t) — — ^X(t)dt + UX(t) dw{t), где U= J —
матрица поворота на угол 90°.
6. Доказать существование и единственность решения векторного
линейного стохастического дифференциального уравнения: dX(t) =
— (a(t)X(t) + u(t))dt + b(t)dw(t), У(0) = 0, где a(t), u(t), b(t) — неслу-
чайные кусочно-непрерывные функции.
7. С помощью формулы Ито для решения векторного линейного
стохастического дифференциального уравнения вывести уравнения
(5.8), (5.9) метода моментов (см. теорему 5.3).
8. Найти стохастическое дифференциальное уравнение, которому
78 ЭЛЕМЕНТЫ СТОХАСТИЧЕСКОГО ДИФФЕРЕНЦИАЛЬНОГО ИСЧИСЛЕНИЯ ИТО [3. 7
удовлетворяет случайная функция T)(t) = sin£(t), если — решение
следующего уравнения: d£(t) = cos£(t)dt + cos £(t)dw(t).
Ответ. drj(t) = (1 — 7?2(Y))(1 — r](t')/2)dt + (1 — t/2(£))dw(t).
9. Пусть процесс X(t) допускает стохастический дифференциал
с коэффициентом диффузии 0(t). Выразить стохастический интеграл
t
Y(t) := X(s)dX(s) через сечения X(t), Х(0) и функцию Срав-
о
нить полученное выражение с найденным в примере 7.1.
Указание. Воспользоваться результатом примера 7.4.
t
Ответ. Y(t) = Л(Х2(0-Х2(0))-f/32(s)ds\
О
10. Доказать, что нелинейное стохастическое дифференциальное
уравнение d£(t) = — arctg£(t) dt +
притом единственное.
11. Пусть wi(t\ W2(i)—независимые винеровские процессы. Су-
1
£(0) = 0, имеет решение и
ществует ли J
W\(f)dw2(t), как стохастический интеграл Ито?
о 1
Ответ. Да, так как J = /(t)dw(t), где f(t) := (0 wi(i)) € R
о
1x2
является с.к.-непрерывной функцией, неупреждающей относительно
двумерного винеровского процесса w(t) := col[wi(t), гсД^)].
12. Пусть := I 1 + £(r)dr I , где £(f) — решение уравпе-
v о 7
ния Самуэльсона (см. пример 7.2). Найти стохастическое дифферен-
циальное уравнение, которому удовлетворяет процесс гД).
Ответ. dv(t) = i/(t)[(a — u(tY)dt + crdwft)].
13. Пусть w(t) := col[wi(/Q,..., wn(t)] —стандартный n-мерный ви-
неровский процесс. Найти стохастический дифференциал квадрата
его евклидовой нормы |w(t)|2 w2(Z) + ... + w2(^).
Ответ. d\w(t)|2 = 2(w(£))*dw(t) -\-ndt — 2 Wk(t)dwk(t) + ndt.
fc=i
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ
§ 1. Теоретические сведения
Далее рассматриваются комплексные случайные процессы {£(£),
t Е Т}, определенные на временной области Т = Z или Т = R.
Определение 8.1. Гильбертов случайный процесс {£(£), t Е Т}
называется стационарным в широком смысле (или просто стацио-
нарным) , если его математическое ожидание — константа, а ковариа-
ционная функция зависит лишь от разности аргументов:
М£(£) =т^ cov{£(£),£(s)} = r^t - s) Vt,s е Г.
Число и функцию г^(т), т 6 Г, называют соответственно мате-
матическим ожиданием и ковариационной функцией стационарного
процесса {£(t), t Е Т}.
Если Т = Z, то £ — стационарная случайная последовательность.
Если же Т — R, то £ — стационарная случайная функция.
Замечание. Напомним определение ковариационной функции
для комплексного процесса
cov{£(f),£(s)} := - MC(t))«(s) - M£(s
))}•
Теорема 8.1 (Свойства ковариационных функций). Предполо-
жим, что (г) — ковариационная функция стационарного случай-
ного процесса {£(£), t Е Т}. Тогда
1) г^(т) неотрицательно определена, т. е.
80
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ
[3. 8
обратно, всякая неотрицательно определенная функция является
ковариационной функцией некоторого стационарного процесса]
2)г€(0) = Р«>0, в частности, дисперсия стационарного процес-
са — константщ
3) г^(т) эрмитова, т. е. г^( —т) = г^(т), в частности, для веще-
ственного процесса £(£) ковариационная функция r^fr) будет четной]
4) (неравенство Коши—Буняковского) |г^(т) | ^(0);
5) |^(t) - re(s)|2 < 2re(0)[re(0) - Rer^(i - s)];
6) ниже перечисленные функции будут ковариационными функ-
циями стационарных процессов: а) г^(т); б) Rer^(r); в)
г) а^Дт)+ а2Г£2(т) при <zi,a2>0; д) r6(r)r^(r); е) lim гСп(т),
71—>ОО
если данный предел существует при любых теТ, где
Г£2(т), • • • > г4п(т)> • • • — ковариационные функции некоторых стаци-
онарных процессов]
7) для с.к.-непрерывности стационарной функции {£(£), t Е R}
необходимо, чтобы ковариационная функция г$(т) была непрерывной,
и достаточно, чтобы она была непрерывной в нуле]
8) для с.к.-дифференцируемости стационарной функции {£(£).
t Е К} необходимо, чтобы г^т) была дважды дифференцируемой, и
достаточно, чтобы существовала вторая производная г^(т), непре-
рывная в нуле, при этом £(£) — также стационарный процесс с ко-
вариационной функцией = — г'^т) и дисперсией = —r^(0).
Теорема 8.2 (Герглотц). Если {£(n), п Е Z} — стационарная
случайная последовательность с ковариационной функцией r^(n), то
на борелевской er-алгебре промежутка. (—тг, тг] су?цсствует и притом,
единственная конечная неотрицательная мера S^(dA), такая что
7Г
re(n) = einXS^dX), nez. (8.1)
— 7Г
ОО
Если |ге(п)| < оо, то S^(dX) абсолютно непрерывна относи-
п=—оо
тельно меры Лебега и имеет плотность
. оо
п= — <х>
А € (~7Г,7Г
(8-2)
Теорема 8.3 (Бохнер, Хинчин). Если {£(£), t Е R} — стацио-
нарная случайная функция с непрерывной ковариационной функцией
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
81
г^(т), то на борелевской ст-алгебре прямой R существует и притом
единственная конечная неотрицательная мера S^(dX}, такая что
eirXS^dX), теК.
(8-3)
—ОО
Если
Г^(7’)Н7’ < °°> то S^{dX) абсолютно непрерывна относи-
— оо
тельно меры Лебега и имеет плотность
оо
е~1гХг^т)дт, А е R.
(8.4)
Замечания. 1. Равенства (8.1)-(8.4) называют формулами Вине-
ра— Хинчина, определяющими спектральное разложение ковариаци-
онной функции. Мера S^(rfA), используемая в формулах (8.1) и (8.3),
называется спектральной мерой, а функция Sf(A) — спектральной
плотностью стационарного процесса £(£). При этом S$(dX) и (А)
определены на спектральной области А, которая в непрерывном слу-
чае (Т = R) совпадает со всей действительной прямой Л = R, а в дис-
кретном случае (Т = Z) представляет собой промежуток Л = (—тг, тг].
2. Спектральную плотность (А) рассматривают как обобщенную
функцию, если мера S^(dX) не абсолютна непрерывна.
3. Отметим важное соотношение между дисперсией стационарного
процесса и его спектральными характеристиками:
Z^ = Se(A) = s€(A)JA.
(8-5)
Теорема 8.4 (Спектральное разложение стационарного процес-
са). Случайный процесс {£(£), t 6 Т} является стационарным со
средним и спектральной мерой Sf () тогда и только тогда, когда
справедливо представление в виде стохастического интеграла:
£(£) = 4- егсЛбЕ(А), t € Т,
(8-6)
где {п(А), А Е Л) - процесс с ортогональными приращениями, такой
что D{E(/i) — Е(А)} = S^(X,p] для любых А < р из К.
6 А. Р. Панков, К. В. Семенихин
82
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ
[3. 8
Замечание. Представление (8.6) принято записывать в виде
интеграла
C(t) = + е
A
iUZc(dA), t € Т,
(8-7)
относительно так называемой ортогональной стохастической меры
сЕ( А), определенной на борелевских подмножествах В С Л
спектральной области. При этом ортогональная стохастическая мера
обладает следующими характеристическими свойствами:
1) Z^fJEty — случайная величина с нулевым средним и дисперсией,
равной
2) случайные величины Z^(Bi), Z^Bz) некоррелированы, если
множества В^ и В2 не пересекаются;
3) Z^(dA) счетно-аддитивна в среднем квадратичном, т. е. если
множества {В^} не пересекаются, то Z^ (ij^) = Z2 ZdBk), причем
ряд сходится в с.к.-смысле. k k
Определение 8.2. Центрированный стационарный случайный
процесс {У(Ц, t Е Т} с ненулевой постоянной спектральной плотно-
стью называется стационарным белым шумом.
§ 2. Примеры
Пример 8.1. Найти ковариационную функцию стационарного
белого шума {V(i), t ЕТ} в случаях дискретного и непрерывного
времени. Согласованы ли данные ранее определения 2.5, 5.4 с опреде-
лением 8.2 стационарного белого шума?
Решение. Рассмотрим сначала стационарный белый шум с дис-
кретным временем {V(n), п Е Z}. Тогда его спектральной плотностью
будет sv(A) = с, Л е (—7Г, 7г], где с > 0. я inX п
По формуле (8.1) получаем rv(ri) =
einXcdX =
= 0
если п 0, а при п = 0 имеем Dv — rv(0) =
cdX = 2тгс.
— 7Г
ПРИМЕРЫ
83
это по-
Следовательно, стационарный белый шум {V(n), п G Z} —
следовательность некоррелированных случайных величин с нулевым
средним и одинаковой дисперсией Dv > 0. При этом спектральную
плотность можно записать в виде sv(A) = Dy/Qm.
Таким образом, определение 8.2, сформулированное в спектраль-
ных терминах, согласовано с определением дискретного белого шума,
которое было дано ранее в занятии 2 с использованием моментных
характеристик.
Теперь рассмотрим случай непрерывного времени Т = R. Заметим
сразу, что постоянная плотность sv(A) = с, определенная на всей пря-
мой, соответствует бесконечной мере Sv(R) = оо. Поэтому в силу (8.5)
непрерывный белый шум V(t) — негильбертов процесс.
Если рассматривать (8.4) как формулу обратного преобразования
Фурье над обобщенными функциями, то при гу(т) = 2ттс5(т), где
<5(т) — дельта-функция, формула (8.4) превращается в тождество, так
со
<^(т)<5(т) dr = <^(0) для любой непрерывной функции </?(т).
— оо
Следовательно, если rv(r) = ^<5(т) (при и
ционной функцией стационарного процесса {V(£), t Е К}, то соответ-
ствующая спектральная плотность будет постоянной: sv(A) = l//2tt.
Напомним, что в занятии 5 было дано другое определение белого
шума. Согласно теореме 5.2 определен белый шум {V(i), t Е R} ин-
тенсивности i/, если для любой р Е 1-2 (R) задан формальный интеграл
оо
9?(£) V(t)dt, который удовлетворяет следующим условиям:
— оо
а ) — случайная величина, линейно зависящая от </>;
б ) М{7И} = 0;
ОО
Иг)12 dt-
как
0) считать коварна-
J(^) :=
в) D{J((/?)} = и
— оо
Пусть Zv(cJA) —ортогональная стохастическая мера, соответству-
ющая спектральной плотности sv(A) = z//2?r, тогда согласно (8.7) про-
оо
цесс V(t) можно формально представить в виде V(t) =
eitxZv(dX).
—ОО
6*
84
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ
[3. 8
Определим J(y?) путем формальной перестановки интегралов:
оо
[ £(A)Zv(dA),
— ОО
оо
ф(Х) '= eltX iptt'jdt.
— оо
Покажем, что так определенное отображение J(-) удовлетворяет
перечисленным выше условиям а)-в).
Во-первых, подынтегральная функция ф(Х) представляет собой
преобразование Фурье функции <р € i-2 (R). Во-вторых, по теореме
Планшереля (см., например, 8]) ф Е L2(R). И наконец, справедлива
формула Пуассона ||(Д|2 = 2тг| 9?||2, где || • || — норма в L2(IR). Поэтому
отображение н-> линейно, причем J(<£>) — случайная величина
с нулевым средним и дисперсией
D{JM} =
\Ф(Х)\2 sv(X)dX =
— оо
оо
|(ДА)|2 dX = v
—00
00
MA)|2dA,
— ОО
что и требовалось.
Подведем итог приведенным выкладкам: определение стационар-
ного непрерывного белого шума посредством его моментных характе-
ристик, т.е. в соответствии с условиями а)-в), оказалось эквивалентно
определению 8.2, данному в терминах спектральной плотности.
Пример 8.2 (Почти периодический процесс). Определим почти
периодический процесс {£(£), t G Т} как линейную комбинацию «гар-
монических сигналов»
e(t) := ^Wkeil\ teT,
k=l
(8-8)
где «амплитуды» {И^} суть центрированные некоррелированные слу-
чайные величины с дисперсиями DM4 = Ак > 0, а «частоты» {Ад,} —
различные точки соответствующей спектральной области Л.
Доказать, что £(£) —стационарный процесс. Найти ковариацион-
ную функцию г^(т"), спектральную меру S^(dA) и ортогональную
стохастическую меру Z^(cZA).
§2]
ПРИМЕРЫ
85
Решение. Вычислим ковариацию
cov R(£), £(s)} = cov| f) WkeitX\ WteisXl} =
U=i 1=1 >
N N ____ N
= 5222cov{TVfc,Vrz}eitAfceisA‘ = D{Wfc} ei(t~s)Afc.
k=l l—l fc=l
Поскольку cov{£(i),£(s)} есть функция разности моментов време-
ни t, s, а М£(£)— тождественный нуль, {£(£), t 6 Т} — стационарный
случайный процесс с нулевым средним и ковариационной функцией
г$(г) = Z2 АкегтХк.
к=1
(8-9)
Спектральная мера однозначно определяется из формулы Вине-
ра—Хинчина (см. (8.1) и (8.3)):
eiTXS^dX).
Л
(8.10)
Заметим, что если 5а — мера Дирака, сосредоточенная в точке а
(т. е. <5а(В) = 1 при а Е В и <5а(В) = 0 при а В), то
eiTXda(dX) = eiTa
(8.U)
Сравнивая теперь (8.9) и (8.10), с учетом (8.11) получаем спек-
N
тральную меру Ак 6хк, т. е. В5(В) = Ак.
к=1 к: ХкеВ
имеем
По формуле спектрального разложения (8.7) для процесса (8.8)
N
eltX Z^dX) = WkeztXk. Отсюда, используя равенство (8.11),
д k=i N
находим ортогональную стохастическую меру = У^
что то же самое, Z^(B) = у^ W^. k=1
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ
[3. 8
Пример 8.3. Рассмотрим «гармоническийсигнал» U(ri) := аегп\
тг G Z, случайной «амплитуды» q^./V*(0, 1) и независящей от нее
случайной «частоты» в ~ 7£(—7г,тг).
Доказать, что U(n) — стационарная последовательность. Найти ее
ковариационную функцию г^(т), спектральную плотность ^(А) и
ортогональную стохастическую меру ZyfdX).
Решение. Пользуясь соотношением (8.11) при а = в и т = п,
получаем представление
U(n) = aeinG =
(8.12)
верное при Zy = a 6g.
Докажем, что Zy — ортогональная стохастическая мера. Для этого
достаточно проверить свойства 1)-3), перечисленные в замечании
после теоремы 8.4.
Во-первых, для любого борелевского множества ВС (—тг, тт] име-
ем ZV(B) = абе(В) — al{# 6 В}, где !{•-•} —индикатор случайного
события. Поэтому в силу независимости а и в получаем
M{Zr;(B)} = Ма • М1{0 е В} - О,
D{Zt/(B)} = М|^(В)|2 = Ма2 • М1{0 € В} = Р{(9 е В} =
где мы учли, что Ma = 0, Ma2 = 1, 0 равномерно распределена на
промежутке (—тт, тт), mes —мера Лебега.
Во-вторых, если множества Bi и В2 не пересекаются, то
cov{Z[/(B1),Ztz(B2)} = M{Zf/(B1)Z£/(B2)} =
= Ma2 • М{1{0 е В]}1{0 € В2}} = М1{0 € Bt Г) В2} = О,
так как Bi П В2 = 0.
И наконец, для последовательности непересекающихся множеств
(U5*) = «^(и^) = ° где
{Вк} имеем Zu
при любом элементарном исходе со ряд содержит максимально лишь
один ненулевой член а(со).
ПРИМЕРЫ
87
Итак, в выражении (8.12) Zv = абд представляет собой ортого-
нальную стохастическую меру. Поэтому в силу теоремы 8.4 U образу-
ет стационарную последовательность с нулевым средним и спектраль-
ной мерой SyfJB) = D{ZC/(B)} = mes(B)/(2Tr). Тогда ^(Л) = 1/(2тт)
есть спектральная плотность (как плотность меры Зц относительно
меры Лебега). Отсюда в частности получаем, что U — стандартный
белый шум, т. е. последовательность центрированных некоррелиро-
ванных величин с единичной дисперсией. Поэтому ковариационная
функция имеет вид: г^(0) = 1 и ^(п) = 0 при п 0.
Пример 8.4. Ковариационная функция стационарной случайной
функции {£(£), t Е R} имеет вид = De~a^y где D > 0, се > 0.
Показать, что £(£) имеет спектральную плотность, и вычислить ее.
Решение. Функция r^(f) абсолютно интегрируема на (—оо,оо).
Поэтому по теореме 8.3 существует спектральная плотность
оо оо
Sf(A) = _l Г e~iXtr£(t)dt = ^- e-iXt~a^dt =
7 2тг J 7 27Г J
— oo —oo
Пример 8.5. Пусть гщ(£) и ъсД^) — независимые стандартные ви-
неровские процессы. Определим случайную функцию {IK(i), t Е R}
по правилу:
{Wi(^),
t о,
t 0.
Доказать, что процесс £(£) := W(t 4- К) — VZ(i), £ 6 К, является ста-
ционарным (h — положительная константа). Найти его дисперсию и
ковариационную функцию.
Решение. Процесс W(t) можно представить как сумму следую-
щих двух процессов:
W*) :=
™1(4),
0,
t о,
4^0,
W) :=
0,
w2(-4),
t 0,
4<0.
I
88
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ
[3. 8
По свойствам винеровского процесса случайные функции IVi(f),
являются процессами с ортогональными приращениями. По-
скольку они независимы, их сумма — Wi(£) 4- W2(t) тоже про-
цесс с ортогональными приращениями.
Поэтому случайная функция £(£) может быть записана в виде
стохастического интеграла:
t-\-h оо
£(*) = J dW(j) — J I[t){+h](T)dTV(T),
t —ос
где 1[а?ь] — индикаторная функция отрезка [а, Ь].
Тогда по свойствам стохастического интеграла М£(£) = 0 и
оо
cov{£(£),£(s)} = 1[М+Л](т)1[з,а+Л](^)м(^т), (8.13)
— ОО
где — мера, определяемая равенством b] = D{V7(b) — 1У(а)}
для любых а < 6. Пользуясь независимостью TVi(Z) и получаем
Ь] = D{Wi(b) — Ж (a)} + D{W/2(b) — ^(а)}, откуда
ГП{гщ(Ь) - wj(a)},
Ъ]
= < D{wi(6)} + D{w2(-а)} ,
О a < b,
a < 0 6,
a < b < 0,
D{w2(-6) - w2(—а)},
где во всех трех случаях получается b — а, т. e. длина промежутка
(a, 6]. Следовательно, /л — мера Лебега.
Теперь заметим, что подынтегральная функция в (8.13) совпадает
с индикаторной функцией множества Д := [£, t 4- h] A [s, s 4- h]. При
этом если t 4- h < s или s 4- h < i, то Д = 0. В противном случае (т. е.
если |t — s| Л) Д — это отрезок длины h — \t — s|. Отсюда
cov{£(£),£(s)}
I h — \t — s ,
I^r)dr=l
\t — s| h.
\t — s| > Л,
и ковариация сечений £(t), зависит лишь от разности t — s.
Итак, {£(£), t € R} — стационарный процесс с нулевым средним,
дисперсией h и ковариационной функцией т^(т), равной h — |т| на
отрезке [—Л, h] и нулю вне его.
§ 3] ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ 89
§ 3. Задачи для самостоятельного решения
1. Пусть {Д, Vk— действительные некоррелированные случайные
величины, такие что = М14 = О, DI4 = D14 = сг^, < оо.
оо к
Доказать, что процесс £(t) := cos 4- V^sinAfc^), t E T, будет
k=l
стационарным ({A/J—точки соответствующей спектральной обла-
сти). Найти ортогональную стохастическую меру Z^(dA), спектраль-
ную меру ScfdX) и ковариационную функцию
оо
Указание. Получить представление £(£) = Wk eiXkt, где
к— — оо
A_fc := -Afc, Wk := (Uk - iVk)/2, W_k := Wk при к 1, WQ := 0, при-
чем {Wfc} — некоррелированные величины.
(<5a — мера Дирака, сосредоточенная в точке a), ак cos Akt.
к=1
2. Пусть 0, т) — независимые случайные величины, такие что в
равномерно распределена на (—тт, тг), a rj имеет характеристическую
функцию и четную плотность вероятности /(ж), равную нулю
вне (—тг, тг). Показать, что последовательность £(n) := cosfnrj + 0)\/2
является стационарной. Найти т^, Р^, г^(тг) и (А).
Ответ, тп^ = 0, = 1, r^(n) = sc(A) = /(^)-
3. Пусть р(п) — smап при п ф 0 и г^(0) = а/лу где 0 < а < тг. Дока-
зать, что р(п) есть ковариационная функция некоторой стационарной
последовательности £. Найти ее спектральную плотность зДА).
Ответ. Sf(A) равна 1/(2тг) на отрезке [—а,а] и нулю вне его.
4. Найти дисперсию и ковариационную функцию случайной по-
следовательности, имеющей спектральную плотность s^(A) = тг — |А|.
Ответ. = г^(0) = тг2, г^(тг) = 2(—1)п/п2 при п/0.
5. Доказать, что сумма £(t) := £i(£) + £2^) двух некоррелирован-
ных между собой стационарных процессов {&(£), t Е Т} также явля-
ется стационарным процессом. Найти спектральную меру, спектраль-
ную плотность и ортогональную стохастическую меру процесса £(t).
Ответ. ^^2
90
СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ
[3. 8
6. Определить спектральную плотность процесса из примера 8.5.
Ответ. s^(A) = (1 — cos А/?)/(тгА2).
7. Пусть U
а X имеет плотность вероятности f(x) := 1/(тг(1 4- х
случайная функция £(t) := U (1 4- iX)e
бой стандартный белый шум.
, X — независимые величины, такие что U ~ДГ(О,1),
2)). Доказать, что
г1Х/ \/2, t Е R, представляет со-
оо
Указание. Проверить для отображения (у?) (о?) := ^(t) (t) dt
условия, перечисленные в теореме 5.2.
8. Доказать теорему Котельникова: если спектр стационарной
функции {£(t), t е R} ограничен, т.е. зДА) = 0 вне конечного проме-
г 1 е/м sin(aZ — 7г
жутка [-а, а], то at _\k
k=—oo
функция целиком определяется последовательностью своих сечений.
Указание. Получить разложение eztx в ряд Фурье на [—а,а] по
а
системе {ei7r/c/a, k Е Z}. Подставить его в интеграл £(£) =
иначе говоря
eltXZ^dX).
— а
9. Доказать, что гауссовский процесс {£(£), t Е Т}, стационарный
в широком смысле, является также стационарным в узком смысле,
т. е. для любых фиксированных моментов ... ,tn ЕТ конечномер-
ное распределение 4- h,... ,tn 4- К) не зависит от h Е Т.
10. Найти спектральную плотность стационарной функции {£(£),
t Е R} с ковариационной функцией гДт) = cos AoZ, где а > 0.
Ответ. зе(Л) = — { q2 + (А + Ло)2 + Q2 + (A_Ao)2;-
11. Стационарная функция 7/(t), t Е К имеет спектральную плот-
ность s«(A) = + Q + —, где а > /3 > 0. Определить кова-
1 7Г(Л2 +
риационную функцию.
Ответ, ^(т) = (14-
12. Является ли с.к.-дифференцируемой стационарная функция
а2 а 2(о2 - /З2)
со спектральной плотностью s 1 х' —
где а > (3 > 0?
Указание. Если преобразование Фурье функции /(t), t Е R,
представляет собой квадратично интегрируемую (на всей прямой)
функцию, то существует и непрерывна вторая производная
Ответ. Является.
[(о - 0У 4- А2][(о + /З)2 + А2]’
ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ
СТАЦИОНАРНЫХ ПРОЦЕССОВ
§ 1. Теоретические сведения
Далее Т будет обозначать временную область, а А — соответствую-
щую спектральную область: А = (—тг, тт] при Т = Z и А = R при Т = R.
Определение 9.1. Линейное преобразование А, определенное
на некотором классе детерминированных функций х: Т —> С, назы-
вается стационарным, если оно перестановочно с любым оператором
сдвига ST, т. е. AST = STA при любом т Е Т, где (STx)(t) := x(t — т).
Замечания. 1. Известно, что при некоторых предположениях
стационарное линейное преобразование можно представить в виде
свертки: Ат = д * т, а именно,
оо
(Ax)(t) = £2 g(t-s)x(s') при
s= — оо
оо
(Аа:)(£) = g(£ — s)x(s)ds при
T = Z,
Г = К,
(9-1)
(9-2)
— ОО
где д(-) — (возможно обобщенная) функция, называемая весовой или
импульсной переходной функцией линейного преобразования А.
2. Среди линейных преобразований практический интерес пред-
ставляют так называемые физически реализуемые преобразования
(или просто фильтры), т. е. те, для которых д(т) — 0 при т < 0.
Данное условие позволяет записать в (9.1), (9.2) сумму и интеграл
с верхним пределом, равным «текущему» моменту времени t. Таким
образом, «выход» (Ат)(£) определяется поведением «входного сигна-
ла» х лишь в прошлом, т. е. до момента t.
92
ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ
[3. 9
3. «Гармонические сигналы» ед(£) := elt\ t еТ, являются соб-
ственными функциями стационарного преобразования:
Аел = Н(А)ед, А е А,
(9-3)
где Я(А) обозначает соответствующее собственное значение. Функция
Н: А —► С в дальнейшем называется частотной характеристикой А.
4. Имеется следующая связь между весовой функцией и частотной
характеристикой:
Я(А)= Е e~itXg(t),
t— — oa
оо
Я(А) = [ e~itXg(t) dt,
— ОО
7Г
= ± [ e,tXH(X)dX,
Лк J
— 7Г
ОО
5(f) = 2- [ eitA#(A)dA,
Z7T J
— ОО
(9-4)
(9-5)
где (9.4) — для случая Т — Z, А = (—я,тг], а (9.5) — для Т = А = R.
5. Исследование стационарных линейных систем основано на ис-
пользовании преобразования Фурье. Если определить А как оператор,
действующий в спектральной области: А := FAF-1, где F и F”1 —
прямое и обратное преобразования Фурье (см. формулы Винера—Хин-
чина (8.1)-(8.4)), то А принимает вид оператора умножения функцию:
(А^)(А) = Н(Х) 'ф(Х), А е А, где Я(А) — частотная характеристика.
Теорема 9.1. Пусть {£(£), t € Т} — центрированный стацио-
нарный процесс со спектральной мерой S^(dA) и ортогональной сто-
хастической мерой Z^dX), А — стационарное линейное преобразова-
ние с весовой функцией g(t), t ЕТ, и частотной характеристикой
Я(А), А е А.
Тогда справедливы следующие утверждения:
1) если |Я(А)|2 S(.(dX) < оо, то определен стационарный процесс
77(f) = eitXH(X)Z^dX\ t е Т,
(9-6)
со спектральной мерой S^dX) = |Я(А)|2^(с!А) и ортогональной сто-
хастической мерой Zv(dX) = H{X)Z^{dX)\
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
93
оо
2) если I <?(^)| < 00 пРи Т = %, mo стационарная последова-
t= — oo
тельность (9.6) существует и может быть представлена в виде
оо
»?(*) = Е Ж- s)£(s) (Р-п-н-), t е
s=—oo
(9-7)
3) если g(t) кусочно-непрерывна и
оо
|£?(г)|(й < оо при Т — R, то
— оо
стационарная функция (9.6) определена и может быть записана как
оо
T](t) — g(t — s)£(s)ds (Р-п.н.), t 6 R.
(9-8)
— оо
Определение 9.2. Процесс rj := {^(i), t G T}, определенный no
правилу (9.6), называется выходом стационарного линейного преоб-
разования А при входе £ := {£(£), t G Т}. В этом случае используют
обозначение т] = А(£).
Замечания. 1. Сумма ряда (9.7) понимается как с.к.-предел
N
частичных сумм У^ при М, N оо. Аналогично, интеграл в (9.8)
з=-М
определен как
l.i.m. с.к.-интегралов
M,N-*oo
N
по конечным промежуткам.
-м
2. Если существует спектральная плотность (А), то «выходной»
процесс r](t) также обладает спектральной плотностью:
s,(A) = |Я(А)|2з€(А).
(9-9)
3. Математическое ожидание при линейном стационарном преоб-
разовании находится следующим образом:
т^ = А(т^)
или тГ] = Н(0)т£.
(9.10)
Следствие 9.1. Пусть {V(£), t 6 R} — стационарный белый
шум интенсивности и с ортогональной стохастической мерой
Zv(dX), A G R, А — стационарное линейное преобразование с весовой
функцией g(t) и частотной характеристикой Н(Х).
94
ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ
[3. 9
оо
j |р(*)|2^
— оо —сю
то определена стационарная случайная функция
Если
оо
|Я(Л)|2йА < сю (или, что то же самое,
>
оо оо
7?(t):= f eitA Я(Л) Zv(dA) = J g(t - s) V(s)ds (Р-п.н.)
— oo —oo
co спектральной плотностью ^(A) = и |H(А)|2/2тг и ортогональной
стохастической мерой Z^dX) = H(A)Zv(dA).
Рассмотрим преобразование, которое последовательности {у(п),
п 6 Z} ставит в соответствие последовательность {т(п), п Е Z}, яв-
ляющуюся решением уравнения авторегрессии—скользящего среднего
порядка (р, q)
р ч
х(п) + 12 х(п ~ fc) = neZ.
k=l j=0
(9-П)
Введенное преобразование обозначим , а уравнение (9.11) I
Е(Д) р
будем кратко записывать Р(А)х = Q(A)?/, где Р(А) := 1 + 52 ak^k,
q k—1
Q(A) ~ Y2/3jX\ а А —оператор сдвига, т.е. (Ax)(n) := x(n— 1).
J=0
Теорема 9.2. Если многочлен P(z) не имеет корней в еди-
ничном круге {z Е С: |г| 1}, то определено стационарное ли-
нейное преобразование Q(A)/P(A), которое является физически
реализуемым, имеет непрерывную на [—тг, тт] частотную характе-
ристику .Н(А) = <2(е“гЛ)/Р(е_*Л) и весовую функцию д(п), такую
что |(Дп)| М(1 4- s)~n при всех п 0, где Миг - положительные
конспганты.
Следствие 9.2. В условиях теоремы 9.2 для любой стацио-
нарной последовательности {£(п), п Е Z} на классе стационарных
процессов п G Z} существует единственное решение уравне-
ния авторегрессии—скользящего среднего'. Р{Х)г] — Q(A)^. При этом
yin) удовлетворяет соотношениям (9.6) и (9.7).
।
§2]
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
95
Теперь определим преобразование, описываемое линейным диф-
ференциальным уравнением порядка (р, q):
dpx(t) dkx(t) _ JU п djy(t)
dtP ак dtk ~ ' dti
k=0 j=0
t G IR,
(9-12)
где функция y(t) рассматривается как вход, a x(t) — как выход.
чает соответствующее преобразование: у ь-> х.
Теорема 9.3. Если корни многочлена P(z) лежат в левой по-
луплоскости {z G С: Re z < 0} и р > q, то определено стационарное
линейное преобразование котоРое является физиче-
ски реализуемым, имеет квадратично интегрируемую на (—оо,оо)
частотную характеристику Д(А) = Q(iA)/P(zA) и весовую функцию
g(t), такую что |g(£)| С Ce~5t при всех t О, где С и 5 — положи-
тельные константы.
Будем говорить, что случайные функции £(£), р(^), t G К, удовле-
творяют линейному дифференциальному уравнению (9.12), если для
любой детерминированной финитной бесконечно дифференцируемой
функции <p(t) выполнено
оо
J \ (XL /
оо
J \ CLL /
— оо
Следствие 9.3. В условиях теоремы 9.3 для любой с.к.-непре-
рывной стационарной функции £(£) (а также стационарного белого
шума) на классе стационарных процессов q(t) существует един-
ственное решение линейного дифференциального уравнения (9.12):
При этом r](t) удовлетворяет (9.6) и (9.8).
96
ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ
[3. 9
§ 2. Примеры
Пример 9.1 (Модель авторегрессии первого порядка). Даны
стационарная последовательность £(п) и число a G (—1,1), а 0.
Доказать, что уравнение авторегрессии первого порядка
T](ri) = ат](п — 1) 4- 6£(n), п е Z,
(9.13)
имеет единственное решение 7] := nE Z}, которое представляет
собой стационарный процесс. Найти частотную характеристику и
весовую функцию преобразования (9.13). Получить представление ту
через £ в спектральной и временной областях. Определить ковариаци-
онную функцию «выхода» ту, если «входом» £ является стандартный
белый шум.
Решение. Запишем уравнение (9.13) в форме Р(Д)ту = Q(A)£,
где P(z) = 1 — az и Q(z) = Ь. Поскольку а 0, w := 1 /а — единствен-
ный корень P(z), причем |w| > 1. Теперь существование и единствен-
ность стационарного процесса ту вытекают из следствия 9.2.
Найдем частотную характеристику из определения (см. (9.3)). Для
этого необходимо в качестве «входа» взять £(п) — егпХ. Тогда «выхо-
дом» будет ту(п) = Н(Х)егпХ. Подставляя указанные £ и ту в (9.13),
получаем
Н(Х)егпХ = аН(А)ег(п”1)Л + 6етЛ,
тг 6 Z,
откуда после сокращения находим частотную характеристику Н(А) =
= 6/(1 — ае~гХ). Данный результат находится в полном соответствии
с теоремой 9.2, согласно которой Н(А) = Q(c-zA)/Р(е~~гХ).
Теперь по теореме 9.1 получаем представление последовательности
ту(тг) в частотной области
п G Z,
где Z^(-) —ортогональная стохастическая мера «входного» процесса.
Для нахождения весовой функции разложим ЩХ) = 6/(1 — ае~гХ)
по степеням z := ае~гХ. Так как \z\ < 1, получаем
> оо оо
Я(А) = —= b zn = ^2 bane~in\
Z 0 n=0
ПРИМЕРЫ
97
откуда в силу (9.4) имеем #(п) = Ьап при п 0 и д(п) = 0 при п < 0.
Следовательно, рассматриваемое преобразование является физически
реализуемым, причем |^(^)| < се (ср. с теоремой 9.2).
п
Отсюда по теореме 9.1 получаем явное представление для решения
уравнения авторегрессии первого порядка:
Теперь предположим, что стандартный белый шум. Как из-
вестно, его спектральная плотность постоянна: (А) = 1 /2тг (см. при-
мер 8.1). Тогда по формуле (9.9) запишем s^A) = |Лг(А)|2/2тг, а затем
воспользуемся представлением:
1 2 _ А В
1 — ae~lX 1 — ае~гХ 1 — аегХ
(9-14)
где А, В и С — неопределенные константы. Сравнивая числители
в обеих частях (9.14), получаем А = В = —С и 1 = —2(7 4- С(1 + а2),
откуда А = В = —С — 1/(1 — а2). Пользуясь разложением слагае-
мых (9.14) в ряд Тейлора по степеням z — ае~гХ н? = асг\ находим
>2 f оо
------------< ап
2тг(1 - а2) I2-
-1
J_ “ b2gl"l
2тг 1 — а2
п= — оо
и по формуле Винера—Хинчина (8.2) получаем искомую ковариаци-
онную функцию гДп) = 62cJn/(l — а2).
Пример 9.2. Даны стационарная функция £(£) и число а > 0.
Доказать, что линейное дифференциальное уравнение
7j(t) = -arfc) +/?£(f),
(9.15)
t G Ж,
имеет единственное стационарное решение ц := {??(£), t G К}. Найти
частотную характеристику и весовую функцию, соответствующие
данному линейному преобразованию. Получить явные формулы, свя-
зывающие «вход» £ и «выход» г]. Определить ковариационную функ-
цию процесса если £(t) — стандартный белый шум.
7 А. Р. Панков, К. В. Семенихин
ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ
98
[3. 9
Решение. Дифференциальное уравнение (9.15) можно предста-
(tZ \ / d \
— — Q( — )£, где P(z) — z + се и Q(z) = (3. Так как
at/ \ at/
р = 1 и q = 0 суть степени многочленов P(z) и Q(z), а единствен-
ный корень —се многочлена P(z) отрицателен, выполнены условия
теоремы 9.3. Теперь существование и единственность стационарной
случайной функции rj(t) вытекаю!' из следствия 9.3.
Для нахождения частотной характеристики воспользуемся теоре-
мой 9.3: Я(А) = Q(iA)/P(zA) = (3/(iX + се).
Формула, описывающая линейное преобразование (9.15) в спек-
тральной области, следует из теоремы 9.1
7/(t) =
Z^dX),
J гХ + a
— ОО
t С I&.
Для определения весовой функции p(t) вычислим интеграл (9.5),
пользуясь методами комплексного анализа. Для этого в интеграле
1 f eitx
dX по конечному отрезку [—р, р] сделаем замену перемен-
2тг ч
-р
ной: z = iX. Тогда указанный интеграл можно записать в виде
(9.16)
где := {гА: А € [—р,р]} — отрезок мнимой оси, ур := {z е С: = р,
Re z < 0} — полуокружность радиуса р, лежащая в левой полуплоско-
сти, Гр := Др U 7р. Поскольку при р > се контур Гр охватывает точку
w := —се, а функция /(г) := ezt аналитична, по интегральной формуле
Коши из комплексного анализа [17]
А f «iU
2тгг J z — w
Гр
получаем, что первый интеграл в правой части (9.16) равен /(—се) =
= e~at.
Если t > 0, то последний интеграл в выражении (9.16) сходится
к нулю при р —> схэ в силу так называемой леммы Жордана [17]
поскольку lim max
р—*оо Z^p
ПРИМЕРЫ
99
Следовательно,
оо
-^—dX = /3e~at
iX + а
— оо
Vi > О и p(i) = О Vi < 0, (9.17)
где учтено, что g(t) — весовая функция физически реализуемого пре-
образования по теореме 9.3.
Отсюда получаем представление «выхода» во временной области:
оо
r](t) = /3e~as £(i — s)ds =
о
t
— oo
Осталось найти ковариационную функцию r^i) при условии, что
C(i) — стандартный белый шум.
В силу следствия 9.1 спектральная плотность 7?(i) имеет вид
Sr>^ = 2^ = 2тг(А?+ а2)’
причем справедливо представление:
= -v4- + —если А = в = 1/(2а). (9.18)
А2 + от гл 4- ос —гл + ос
Теперь, пользуясь (9.18) и (9.17), по формуле Винера—Хинчина
(8.3) находим искомую ковариационную функцию
f itx /3 ( 1 fieltx , 1 fiet( ~£) Л,Л
rn(t) = e SnlXjdX — — I — —-----dX + — ——------dX ) =
04 ' J ’ 2а\2тг гА + а 2тг J гХ + a )
— oo —oo —oo
= £(9W + 5H)) = ^.
Пример 9.3 (Закон больших чисел для стационарных последова-
тельностей). Пусть {£(n), п е Z} — стационарный случайный процесс
со средним и спектральной плотностью (А).
Доказать, что для любого п € Z
Cn(«) ••= 4^ 12 C(n“fc)ПРИ ЛГ^оо. (9.19)
fc=0
7*
100
ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ
[3. 9
Решение. Как нетрудно видеть, процесс {£дг(п), п € Z} пред-
ставляет собой выход преобразования скользящего среднего поряд-
ка N, т. е. = <2я(Д)£, где Qn(z) := (1 + z + ... + zn~1)/N. Тогда
его частотная характеристика Ядг(А) при А 0 имеет вид
Ялг(А) = Q(z) =
l-zN
N(1 -z)’
если z = e
и Hn(0) — 1 при Л = 0. Поэтому по формуле (9.10)
а в силу (8.5) и (9.9)
M£N(n) = Я(0)т4 = т(,
DG(n) =
' \HN(X)W(X)dX.
(9.20)
(9.21)
При этом Hpj(X') —> 0 для всех А^0 и |/Лу(А)|2 < 1. Таким об-
разом, подынтегральная функция в (9.21) сходится к нулю почти
всюду и ограничена сверху интегрируемой. Теперь по теореме Лебега
об ограниченной сходимости_ мы имеем право перейти к пределу под
знаком интеграла (9.21): D^N(n) —> 0, что вместе с условием (9.20),
означает сходимость в среднем квадратичном (9.19).
Пр и мер 9.4. Пусть {У(£), t 6 R}—наблюдения «полезного сиг-
нала» f(t) со случайной «помехой» £(£):
y(t) = /w+e(t),
где f(t) — неслучайная дифференцируемая функция, а £(£) — широко-
полосный белый шум. т. е. центрированная стационарная случайная
функция с дисперсией и постоянной на [—Ao,Aq] спектральной
плотностью
Р^/(2А0), |А| Ао,
0, IA1 > Ао.
s^(A) =
Наблюдаемый процесс Y(£) подвергается численному дифференциро-
ванию с шагом h > 0:
Xh(t) =
Y(t + h) - V(t)
h
(9.22)
Вычислить математическое ожидание и дисперсию «численной
производной» (9.22). Исследовать их поведение при h —> 0.
ПРИМЕРЫ
101
Решение. В силу линейности преобразования (9.22)
Xh(t) =
где первое слагаемое является детерминированной функцией, а вто-
рое £ь(£) := (£(t + h) — £(ty)/h представляет собой центрированный
случайный процесс. Поэтому
MXft(t) = + hl~ /(f) при h->0.
h dt
Для вычисления рассмотрим £ь(£) как результат стацио-
нарного линейного преобразования. Тогда по формулам (8.5) и (9.9)
оо
DX/l(t) = D^(i) = [ |H(A)|2s€(A)<ZA,
— ОО
(9.23)
где 7/(А) — частотная характеристика преобразования £
Пользуясь определением (9.3) находим
Н(А) =
|/f(A)p = 2(1 cos АЛ)
h2
(9.24)
Теперь с учетом (9.23) и (9.24) получаем
оо
DXh(t) = D&(<) = J ~^20s — 5с(Л)dX =
—оо
^0
(1 — cos АЛ) dX —
о
2Г>€
Л2
8ш(АоЛ)
АоЛ
при Л —► 0.
Таким образом, при численном дифференцировании дисперсия
D£/t(£) шума выходного сигнала мало зависит от шага дифференциро-
вания Л, а определяется в основном шириной Aq спектра помехи £(£).
Более того, даже при очень малой дисперсии помехи (например,
меньшей ширины ее спектра на порядок) дисперсия выходного сигна-
ла может быть большой. Полученный результат объясняет неудачные
попытки продифференцировать сигнал прежде, чем он отфильтрован
от помехи.
102
ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ
[3. 9
Пример 9.5. Пусть {£(тг), п Е Z} —почти периодическая после-
довательность, т. е. = 14егпЛ1 4- р2бгпЛ2 + ... + VNeznXN, где
{14} — некоррелированные величины с нулевым средним и диспер-
сиями Ak > 0, {Лk} — различные точки спектральной области (—тг, тт]
(ср. с примером 8.2). Рассмотрим преобразование
N
£а(п) := ак£(п- к),
к=1
(9.25)
которое осуществляет прогноз сечения по предыдущим N изме-
рениям {£(п - 1), £(п -2), ..., £(n - N)}.
При каком наборе коэффициентов а = {ах,..., ад'} прогноз (9.25)
будет оптимальным, т. е. будет достигаться минимум среднеквадра-
тичной погрешности
ад :=м{|ад-ад|2}?
(9.26)
Чему равна с.к.-погрешность оптимального прогноза?^
Решение. Нетрудно видеть, что процесс т](п) := ~ £(^) яв-
ляется выходом преобразования скользящего среднего порядка 7V + 1
при входе £, т. е. 7/ — Q(A)£, где Q(z) := — 1 4- ai z 4-... 4- aNzN. Тогда
по теореме 9.2 получаем частотную характеристику Н(Х) = Q(e~zX).
Теперь с.к.-погрешность (9.26) вычисляется как дисперсия процес-
са т](тг) по формулам (8.5) и (9.9)
В(а)
ОО N
|ад|2ад) = £|ад)|2ль
где последнее равенство следует из того, что спектральная мера 5Д-)
сосредоточена в точках {А^}, причем ^({А^}) = Ak (см. пример 8.2).
Найдем числа {ат}, при которых с.к.-погрешность прогноза D(a)
равна нулю. Для этого необходимо и достаточно, чтобы
Н(Хк) = -1 + £ ame~imXk =0, к = 1,..., N.
7П—1
Обозначив zk := е г, мы приходим к системе линейных уравнений
относительно неизвестных коэффициентов {ат}:
52 z™am = 1, к = 1,..., N.
(9.27)
т— 1
§3]
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
103
Детерминант матрицы системы (9.27) — это так называемый опре-
делитель Вандермонда [12], равный произведению разностей Zk — zrri
при k, т = 0, ..., 7V, к > т и zq := 0. Указанный определитель отли-
чен от нуля, так как числа {0, zi, ..., z/v} различны. Следовательно,
существует набор чисел а := образующих решение систе-
мы (9.27). Поэтому для прогноза
N
£(«) = ~
к=1
(9.28)
П 6 Z,
среднеквадратичная погрешность D(a) равна нулю. Это означает, что
(9.28)—оптимальный прогноз и он является безошибочным: £(72) =
= <(п) (Р-п.н.).
§ 3. Задачи для самостоятельного решения
1. Найти спектральную плотность случайной последовательности
77(72) = ао^(п) 4- a-^tn — 1), п G Z, если £ —стационарный белый шум.
Ответ, s7l(А) = D^Oq + а1 2 3 4- 2ао&1 cos А)/(2тг).
2. Обозначим T~L(Y) пространство, полученное замыканием относи-
тельно с.к.-сходимости множества всех линейных комбинаций сечений
гильбертовой последовательности У. Случайная величина в называ-
ется наилучшим линейным прогнозом величины 9 по наблюдениям У,
если М{.$ — #|2} С М{|т/ — #|2} для любой I/ е ТДУ).
В условиях примера 9.1, считая £ стандартным белым шумом,
определить наилучший линейный прогноз 77(72), п 1, по наблюде-
ниям {77(772), т 0}. Найти а2 := lim М{ 177(72) — 77(72) |2}.
Указание. 77(72) — ортогональная проекция в L2(Q) элемента
77(72) = ап77(0)4-ап-16£(1)4-.. .4-аЬ£(тг —1)4-&£(тг) на подпространство
^({77(772), т 0}), которое совпадает с Н({£(тт2), т 0}).
Ответ. 77(72) = апт](Ь\ а2 = = 62/(1 — а2}.
3. Найти явные выражения для решений разностных уравнений:
а) т?(п) = ?7(п-1)- ^П~2^+^(п); б) ?/(n) = 2??^ 2 - +£(п).
Указание. Определить весовую функцию из разложения частот-
ной характеристики Н(А) в ряд Тейлора по степеням z = е~гХ.
104
ЛИНЕЙНЫЕ ПРЕОБРАЗОВАНИЯ СТАЦИОНАРНЫХ ПРОЦЕССОВ
[3. 9
Ответ, а) ??(п) = *0; б) т](п) = 3 ~ х
х£(т1 — к). /с=0 /с=0
4. Является ли фильтром следующее линейное преобразование:
тДп) = (£(п 4-1) 4- £(п — 1))/2, п Е Z? Найти спектральную плотность
s7?(A), если £ —стандартный белый шум. Какое физически реализуе-
мое преобразование дает «на выходе» ту же спектральную плотность?
Ответ. Нет; ^(А) = ^cos2A; д(п) = (£(п) 4- £(п — 2))/2.
5. Определить спектральную плотность и ортогональную стоха-
стическую меру процесса Y(t), являющегося выходом: а) «усилитель-
ного звена» У(£) = AX(t), где А — постоянная; б) «запаздывающего
звена» Y(£) = X(t—К) при h > 0. Указать соответствующие частотные
характеристики.
Ответ, а) Я(А) = A, sy(A) = |A|2sx(A), Zy(dX) = AZx(dX)-
б) Н(А) = e~ih\ sY(X) = sx(A), Zy(dX) = e~ihxZx(dX).
6. Указать частотную характеристику Н(Х), соответствующую
операции дифференцирования: X(t) i—> X(t). Доказать, что стацио-
нарный процесс X(t) дифференцируем в среднем квадратичном тогда
и только тогда, когда Н Е l_2(IR, Sx). Определить Sx(dX) и Zx(dX).
Ответ. Я(А) = гА, Sx(dX) = A2Sx(dA), Zx(dX) = iXZx(dX).
7. Найти спектральную плотность стационарной функции У(£),
удовлетворяющей уравнению Y(t) 4- aY(t) — flX(t) 4- U(t), если X(t)
является стационарным решением уравнения X{t) 4- yX(t) = V(t),
где U(t), V(t) — независимые стандартные белые шумы, а а > 0, /3
п A2+i02+72
Ответ. бу(А) 27r(A2+a2)(A2 + 72)-
8. Частотная характеристика Я (А) некоторого линейного преобра-
зования равна единице при а < |А| < Ь и нулю при остальных А Е R,
где b > а 0. Найти весовую функцию g(t) этого преобразования и
дисперсию выходного сигнала {£(£), t Е R}, если на вход поступает
белый шум V(t) интенсивности /л
Ответ. g(t) — (sin bt — sin at)/(?rt), = и (b — а}/тт.
9. Определить частотную характеристику =
Доказать, что l.i.m.£h(t) = если .s^(A) ограничена.
h—>oo
Ответ. H(A) = ПрИ д^Ои Н(0) = 1.
t-{-h
X [ ^s)ds-
Zj t L
t—h
ЗАНЯТИЕ 10
ПОТОКИ СОБЫТИИ. ПУАССОНОВСКИЙ
ПРОЦЕСС
§ 1. Теоретические сведения
Определение 10.1. Потоком событий называют последова-
тельность (возможно конечную) случайных величин {Гп}, таких что
Говорят, что случайная функция {??(£), t^O} — процесс восста-
новления, соответствующий потоку событий {Тп}, если
г]ш^) = п, t е [Tn(u),Tn+i(cj)), п = 0,1,2,..., То:=0, (Ю.1)
Замечания. 1. Очевидно, что соотношение (10.1) устанавливает
взаимно однозначное соответствие между потоками событий {Тп} и
процессами восстановления
2. Если поток состоит из бесконечного набора моментов, причем
Тсхз(^) •= lim Tn(cj) < оо, то в определении процесса восстановления
п—юо
необходимо взять r^t) := оо при t Тоо(и>). Если же {Ti, ... , T/v} —
конечный поток событий, то положим ?7ц,(£) := N при t Гдг(си).
2. Траектории процесса восстановления суть неубываю-
щие непрерывные справа ступенчатые функции с точками разрыва
{Tn(cj)}. Величина скачка функции ^(t) в любой точке разрыва
равна единице, если все {Тп(си)} различны.
3. Если интерпретировать {Тп} как моменты происшествия неко-
торого случайного события, то величина Tj(t) — есть число появле-
ний данного события на промежутке (s,£]. В частности, т/(£)—-число
событий, произошедших за время t.
106
ПОТОКИ СОБЫТИЙ. ПУАССОНОВСКИЙ ПРОЦЕСС
[3. 10
Определение 10.2. Интенсивностью потока событий в точ-
, г P{^(t + А) - 7/(t) 1}
ке t называется число Ait) := lim ——------—------.
МО h
Если А = const, то поток событий и соответствующий процесс вос-
становления являются однородными.
r P{7y(t 4- h) - pit) > 1}
При lim ——------——-------- = 0 поток называют ординарным.
МО h
Замечание. Условие ординарности означает, что события в по-
токе следуют строго одно за другим и не происходят одновременно.
Поэтому для ординарного потока при h | 0 справедливо
P{?7(t + h) — 7/(t) = 1} = X(t)h 4- о(/г),
P{?7(i + h) - 77(0 > 1} = o(h).
Тем самым вероятность появления на интервале малой длины двух
и более событий пренебрежимо мала по сравнению с вероятностью
появления ровно одного события.
Определение 10.3. Говорят, что {Гп}— поток событий без по-
следействия, если соответствующий процесс восстановления является
процессом с независимыми приращениями, т. е. независимы числа
событий, появившихся на непересекающихся интервалах времени.
Теорема 10.1 (Простейший поток событий). {Тп} — ординарный
поток событий без последействия постоянной интенсивности Л
тогда и только тогда, когда случайные величины тп Тп — Тп_\,
п = 1,2,... независимы и распределены по экспоненциальному закону
с параметром А.
Определение 10.4. Поток событий, описанный в теореме 10.1,
называется простейшим.
Определение 10.5. Случайная функция {'^(t), t 0} называет-
ся пуассоновским процессом интенсивности А > 0, если
а) т?(0) = 0;
б) г/(t) — процесс с независимыми приращениями;
в) 7?(t) — 77(5) ~ n(A(t — s)) для любых t > s > 0;
г) траектории ^(t) регулярны.
Если А = 1, то у (t) — стандартный пуассоновский процесс.
Замечание. В условиях а)-в) существует регулярная версия.
Теорема 10.2 (Свойства пуассоновского процесса). Пуассонов-
ский процесс T](t) существует и обладает следующими свойствами:
1) моментные характеристики имеют вид
= At, Dn(t) = At, R^t^s) = Amin(t, .$);
(10.2)
§2]
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
107
2) сечения распределены по закону Пуассона с параметром At;
3) пуассоновский процесс — это процесс восстановления, соот-
ветствующий простейшему потоку событий {Гп};
4) почти все траектории пуассоновского процесса — моно-
тонно неубывающие кусочно-постоянные функции (10.1), терпящие
разрыв в моменты времени 7i(cj) < TbG^) < ..., где Tn(cj) —> оо, при-
чем величина скачка равна единице’,
5) п-я точка разрыва траектории ^(t) представляет собой слу-
чайную величину Тп(щ), распределенную по закону Эрланга п-го по-
рядка с параметром А, где = 7------e~Xt ~ соответствующая
плотность вероятности при t > 0;
6) условное распределение случайного вектора {Т\, ..., Тм} отно-
сительно события {'//(£) = N] совпадает с распределением вариаци-
онного ряда {S(i), - •,
£(1) ’= min(S!,..., Sjv) < S'(2) < • • • S^..^ < S(tv) •= max(Si,..., S/у),
построенного по набору из N независимых случайных величин
{Si, ..., Sn}, распределенных по равномерному закону на [0, £].
Замечание. Из сформулированных теорем вытекает следующий
способ построения пуассоновского процесса. Если дана последова-
тельность независимых случайных величин т1? ..., тп, ... ~ Е(Х), то
случайная функция {^(t), t 0}, определенная по правилу (10.1) для
моментов Тп 4-... 4- тп, будет пуассоновским процессом.
Теорема 10.3 (Теорема Пуассона для процессов восстанов-
ления). Пусть {71, ... ,Тм} — вариационный ряд серии независи-
мых неотрицательных случайных величин {Si, ..., Syy] с одинако-
вой функцией распределения F/y(t). Обозначим через процесс
восстановления, соответствующий потоку {71, ..., Тдг}.
Если существует положительное число А, такое что
NFx(t) —> Xt при N—> оо VI >0.
(10.3)
то для любого набора моментов {ti,..., tm} конечномерное распреде-
ление (ti,..., tm) процесса восстановления ) (t) слабо сходит-
ся к соответствующему распределению P7?(ti,..., tm) пуассоновского
процесса у(б) интенсивности А.
108
ПОТОКИ СОБЫТИЙ. ПУАССОНОВСКИЙ ПРОЦЕСС
[3. 10
§ 2. Примеры
Пример 10.1. Обосновать следующие свойства простейшего по-
тока, предварительно указав их корректные формулировки:
а) интенсивность простейшего потока равна среднему числу собы-
тий, происходящих на интервале времени единичной длины;
б) распределение времени от текущего момента до момента про-
исшествия очередного события не зависит от того, сколько прошло
времени от момента появления последнего события до текущего мо-
мента.
Решение. Пусть r)(t) —процесс восстановления, соответствую-
щий простейшему потоку {Тп} интенсивности А. По теореме 10.2
т](i) — пуассоновский процесс той же интенсивности.
Свойство а) означает для любых t, s 0 выполнено равенство
lim pMt+h)- V(t)
h[0 h
— = M{??(s 4-1) — r](s)} .
(Ю.4)
В силу T](t + h) — 7/(t) ~ П(А/г) находим левую часть (10.4):
lim 1 ~ P{?7ft 4- h) - = 0}
hj.0 h
С другой стороны T](s 4-1) — tj(s) ~ П(А), откуда правая часть (10.4)
равна А. Следовательно, первое свойство доказано.
Для формулировки второго факта предположим, что 6 — извест-
ное время, прошедшее от момента Тп появления в потоке последнего
события до текущего момента. Тогда А := Tn-^i — (Тп 4-5) — случайная
величина, равная времени от текущего момента до момента Tn+i
наступления очередного события. Теперь свойство б) допускает та-
кую формулировку: условное распределение случайной величины А
относительно события {А > 0} одно и то же при любом 5 > 0.
Для доказательства данного утверждения воспользуемся тем, что
в силу теоремы 10.1 т := — Тп ~ Е(Х):
Р{Д > t | А > 0} = Р{т > t 4- 5 | т > 5} =
_ Р{т > t 4- 5, т > 5} _ Р{т > t 4- 5}
“ Р{т > 5} ~ Р{т > 5}”
е~Л<5
Vt 0.
§2]
ПРИМЕРЫ
109
Тем самым установлено, что искомое распределение при любом ё
является показательным законом с параметром А.
Пример 10.2. Предположим, что некоторое физическое тело со-
держит 1О20 атомов. Время распада ядра одного атома представляет
собой случайную величину, распределенную по экспоненциальному
закону с математическим ожиданием 109 лет.
Описать соответствующий поток распадов. За какое время рас-
паду подвергнется половина всех частиц (время полураспада)? Объ-
яснить почему данный поток на ограниченном интервале времени
можно считать простейшим. Каково среднее количество распавшихся
ядер в течение одной секунды?
Решение. Обозначим через Sn время распада ядра одного атома
(n = 1,..., 7V), где N := 102°. По условию Sn ~ Е(р) и MSn = 109 лет,
откуда р — 0,3171 • 10“16с“1. Считая {Sn} независимыми, определим
поток распадов как набор случайных величин {Тп}, таких что при
каждом си множества реализаций {5п(а;)} и {Тп(и)} совпадают, но
71 (си) 72 (cj) ^ ... ^ T^v(cj) (см. теорему 10.3).
Момент полураспада, как случайная величина, — это момент TN/2
наступления половины из N событий. Поэтому TN,2 — это выборочная
медиана, построенная по однородной выборке {Sn}. Как известно,
Тдг/2 “* т (Р-п.н.) при N —* оо, где т — медиана величин Sn с гладкой
плотностью распределения (см., например, [7]). По определению т —
решение уравнения P{Sn т} = 1/2. В силу Sn ~ Е(р) данное урав-
нение принимает вид е~рт = 1/2, откуда находим время полураспада
т = (1/р) • In 2 = MSn • In 2 « 0,6931 109 лет.
Рассмотрим функцию распределения F(f) = P{Sn t} = 1 — e~pt.
Пользуясь формулой Тейлора, нетрудно показать, что справедливо
представление: 1 — е~х = т(1 4- Я(х)), где |7?(х)| |гс|/2. Поэтому
NF(t) = 2V (1 - e~pt) = Npt(l 4- R(pt)) = Xt(l 4- R(pt)).
где A := 7Vp^3171 с-1 и |7?(p/:)| < tp/2 <C 1 при t 109 лет. Таким
образом, для указанных t условие (10.3) можно считать выполненным.
Теперь на основании теоремы 10.3 мы можем рассматривать {Гп}
как простейший поток интенсивности А, а соответствующий процесс
восстановления — как пуассоновский процесс при t <С 109 лет.
Отсюда получаем, что среднее число ядер, распавшихся за одну
секунду 5 = 1 с, равно М^(5) = XS « 3171, так как ~ П(А5).
110 ПОТОКИ СОБЫТИЙ ПУАССОНОВСКИЙ ПРОЦЕСС [3. 10
Пример 10.3. Рассмотрим случайную функцию {£(£), t 0}, на-
зываемую телеграфным сигналом.
= Vk
при
t 6 [Тк, Тк+1),
fc = 0,l,2,..., 7o = 0,
где {14} — «бинарные сообщения», т. е. Р{14 = ±1} = 1/2, a {Тк}
случайные моменты прихода этих сообщений, где Tk+i — Tk ~ £*(Ao)-
При этом случайные величины {T^+i—Ц, к, I 0} предполагаются
независимыми в совокупности.
Показать, что телеграфный сигнал £(t) — стационарная случайная
функция, и вычислить ее ковариационную функцию
Решение. Заметим, что телеграфный сигнал можно записать
в виде £(£) = Vr)(t) ? где ??(£) — пуассоновский процесс, соответствующий
простейшему потоку {?&} интенсивности Aq.
Для каждого фиксированного t > 0 события := {r](t) = к},
/^ = 0,1,2, ..., образуют систему вероятностных гипотез. При этом
событие Hk(t) не зависит от случайной величины V/. Тогда, применяя
формулу полного математического ожидания, получаем
оо
MC(t) = £ M{£(f) I Hk(t)} P{Hfc(f)} =
fc=0
оо оо
= £ M{Vfc I Hk(t)} ₽№(«)} = £ M Vk • P{Hk(t)} = 0.
fc=0 k=0
Для заданных 0 s < t события {Hk(t)Hi(s), k, I = 0,1,2, ... } —
также система вероятностных гипотез. Поэтому
оо оо
M{W(s)} = ЕЕМ{») I я*(Фад}Р{Н4Фад}>
/с=0 Z=0
где при к = I
M{£(t)£(s) I Hk(t)Hk(s)} = M{Vfc2 I Hk(t)Hk^} = MV2 = 1,
а при к 7^ l в силу независимости Vk и Vi получаем
M{£(t)£(s) | = M{VfcV( | = M{PfcH} = 0.
§2]
ПРИМЕРЫ
111
Тогда
оо
cov{e(o,e(^)} = м{еж(5)} = е p{Hk(t)Hk(s)} =
/с=0
оо
= Е рШ = =к) = рМ*) - № = о} = е-А°<‘-<
к=0
Итак, М£(£) = 0 и cov{£(t), £(s)} = е л°1г sl, откуда получаем, что
{£(£), t 0} —стационарная случайная функция с ковариационной
функцией гД£) =
Пример 10.4. Описать поток {Тп}, составленный из двух неза-
висимых простейших потоков {7^}, j = 1, 2. Что будет представлять
собой процесс восстановления т?(£), соответствующий потоку {Тп}?
Решение. Пусть (/) — пуассоновский процесс, соответствую-
щий простейшему потоку {7^} интенсивности Xj. Нетрудно видеть,
что r](t) равно суммарному количеству событий, произошедших в обо-
их потоках за время £, откуда r)(t) =
Покажем, что ?;(£)— тоже пуассоновский процесс. Для этого до-
статочно проверить условия, перечисленные в определении 10.5.
Первое из требований ту(О) =0 очевидно выполнено.
Теперь возьмем приращения ДтД;, = процесса rj(t) на
непересекающихся интервалах. Тогда Ат)к — сумма таких же прира-
щений Дт?^ процессов 3 = 2. При этом случайные величины
{Дт/д.1^, Дт^2\ А;, I = 1,..., тп} независимы в совокупности, так как
t^j\t) — независимые пуассоновские процессы. Поэтому набор {Д/д}
также составлен из независимых величин.
Для доказательства третьего условия проверим, что сумма неза-
висимых пуассоновских случайных величин также распределена по
закону Пуассона. Действительно, характеристическая функция пуас-
соновской величины X ~ П(р) имеет вид Мег0Х = ехр{/?(ег6> — Г)}.
Поэтому для пары независимых величин Xj ~ П(р7) находим
М^(Х1+Х2) = . Ме^Х2 = ехр{(р1 + р2)(е^ _ ,
что означает: Xi + Х% ~ П(рх + рг)- Следовательно, при t > s прира-
щение 7](t) — r](s) = распределе-
но по закону Пуассона с параметром (Ai 4- А2)(t — s).
112
ПОТОКИ СОБЫТИЙ. ПУАССОНОВСКИЙ ПРОЦЕСС
[3. 10
Последнее условие определения 10.5 (о регулярности траекторий)
выполнено для любого процесса восстановления, в частности, для
Итак, приходим к следующему утверждению: объединение неза-
висимых простейших потоков будет простейшим потоком с интенсив-
ностью, равной сумме интенсивностей потоков его составляющих.
Пример 10.5 (Сложно-пуассоновский процесс). Сумма выплат,
производимых страховой компанией по одинаковым договорам, опи-
сывается сложно-пуассоновским процессом X(t) := IVi 4-... Н-
t 0, где — случайные величины, имеющие одну и ту же харак-
теристическую функцию 'ф(О) и определяющие размер выплат в к-м
страховом случае; T](t) — пуассоновский процесс (интенсивности Л),
равный числу страховых случаев, произошедших за время размеры
выплат и число страховых случаев независимы в совокупности.
Найти математического ожидание, дисперсию и характеристиче-
скую функцию суммы выплат У, произведенных на промежутке (s, t].
Решение. ' По условию Y = X(t) — X(s) = 4-... + .
Рассматривая события Нп^п := {t?(s) = т,т)(1) = п}, 0 < т п < оо,
как систему вероятностных гипотез, по формуле полного математи-
ческого ожидания искомая характеристическая функция принимает
вид
оо оо
Vy(0) = Meiey = Е Е М№вУ
m=0 п=т
| Нтп}Р{Нтп}.
(10.5)
В силу независимости величин {И^} от сечений {^(s), ?/(£)} условное
математическое ожидание М{ег£П | Ят)П} равно безусловному
М ^0(^+1+...+vvn) _
Используя независимость величин — t/(s) и t/(s), находим
= P{?](t) - ??(s) = n - m} P{t?(s) = m} = 7rn_m(t - s)ttw(s),
где обозначено 7rm(s) (As')rne~Xs/т\ Заменив в (10.5) (n — m) на к,
co
в силу Km(s) = 1 получаем характеристическую функцию для У:
7/7—0
tY(e) = g -«) = Е s))fee~A(t~s) =
k=0 k=0
= eV,(O)A(t-s)e-A(l-S) = exp{(^(0) _ _ s)} . (10.6)
§3]
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
113
Итак, приращение сложно-пуассоновского процесса распределено
по закону, имеющему характеристическую функцию (10.6) и называ-
емому сложно-пуассоновским с параметрами X(t — s) и /0(-).
Для вычисления моментных характеристик воспользуемся следу-
ющими соотношениями: ^у(О) — ^МУ и V'y(O) — *2МУ2, где
^y(0)=^y(0WW-s),
<(0) = (^(0)^'(0) + - s).
Тогда если обозначить ц := МИ^ и i/2 := МИ^, то
МУ = ^у(0)/г = (^'(0)/г)A(t - s) = yX(t - s).
Кроме того, МУ2 = ?/>у(0)/з2 = ('0у(О)'0,(О)/г2-Ь-0,,(О)/г2)Л(^ — s) =
= (jJ>X(t — s) у + i/2)A(f — s), откуда
DY = МУ2-(МУ)2 = p2A(£-s).
§ 3. Задачи для самостоятельного решения
1. На телефонную станцию поступает простейший поток вызовов.
В среднем в одну минуту поступают три вызова. Какова вероятность
того, что: а) в течение двух минут на станцию не поступит ни одного
вызова; б) за минуту поступят по крайней мере два вызова?
О т в е т. а) « 0,002479; б) « 0,8009.
2. Сколько в условиях задачи 1 занимает в среднем ожидание:
а) первого вызова; б) девятого вызова; в) девятого вызова по исте-
чении семнадцати секунд после того, как поступил восьмой вызов?
Указание, a) MTi; б) МТ9; в) М{Т9 - (Т8 + <5) |Т9>Т8 + <5},
где {Тп} — простейший поток интенсивности 1/3 мин-1 и 5 := 17с.
Ответ, а) 20с; б) Змин; в) 20с.
3. В условиях задачи 1 определить: а) интервал (М — ДМ, М +
+ ДМ), в котором с вероятностью 0,95 находится число вызовов, по-
ступивших на станцию за три часа (где М — среднее число указанных
вызовов, ДМ > 0); б) вероятность того, что за сутки станция примет
не более 4500 вызовов.
8 А. Р. Панков. К. В. Семенихин
114
ПОТОКИ СОБЫТИЙ ПУАССОНОВСКИЙ ПРОЦЕСС
[3. 10
Указание. Использовать нормальную аппроксимацию пуассо-
новского распределения.
Ответ, а) (494,586); б) 0,9968.
4. Даны два случайных события Аг := {в простейшем потоке ин-
тенсивности А на промежутке Д* произошло не менее N событий},
г = 1,2. При каких условиях события Ai и а) равновероятны;
б) независимы; в) Ai менее вероятно, чем А2; г) Ai влечет
Ответ, а) промежутки имеют одинаковую длину; б) Д1ПД2 = 0;
в) Д1 — меньшей длины, чем Д2; г) Д1 С Д2.
5. Пусть Т+ — время от текущего момента t др момента появления
следующего события в простейшем потоке {Тп} интенсивности А, а
Т- — время, прошедшее с момента последнего события вплоть до t.
Доказать, что величины Т+, Т_ независимы, и найти их распределе-
ние (ср. с п. б) примера 10.1).
Указание. Положить Т_|_ = — t и Т_ = t — рассмот-
реть вероятности Р{Т+ > ?z, Т_ s, 7/(t) = п} при и 0, s Е [ОД],
п = 0,1,...; использовать соотношение {Тп t] = {?/(£) > п}.
Ответ. Т+ ~ £(А); Р{Т_ s} = 1 — e~Xs при 0 s < t и Р{7_ =
= t} = e~Xt (усеченное показательное распределение на [0, £]).
6. Зависит ли распределение величины: а) Т+; б) Т_ от числа
событий в потоке, произошедших до текущего момента (см. задачу 5)?
Указание. Определить условные распределения величин Т+, Т_
относительно события {т](1) — п}.
Ответ, а) нет: б) Р{Т_ s | 7](t) = п} = 1 — (1 — s/t)” при s е
G [ОД] и тг 1, Р(Т_ = 0 | т/(£) = 0} = 1 (ср. с п. 6) теоремы 10.2).
7. Считая, что телеграфный сигнал (см. пример 10.3) определен
на всей числовой прямой, найти его спектральную плотность.
Ответ, »£(Ч =
8. Построить процесс восстановления £(£), соответствующий «про-
реженному» потоку {Т2тг}» где {Тп} — простейший поток, отвечающий
пуассоновскому процессу т/(£) интенсивности А. Каково распределение
времени между моментами наступления событий в «прореженном»
потоке? Какова его интенсивность //? Является ли {Д™} однородным,
ординарным, потоком без последействия?
Ответ. £(£) = [т?(£)/2], где [...]—целая часть числа; величины
^2(n+i) ~ ^2п распределены по закону Эрланга второго порядка;
/2 = А/2; {ТЬп} — однородный ординарный поток с последействием.
§3]
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
115
9. Пусть v(t) = T]i + ... 4- где {уп} — независимые случайные
величины, распределенные по закону П(р). Будет ли поток событий,
отвечающий а) ординарен, б) обладать последействием?
Ответ. Поток событий — неординарный без последействия.
10. Неоднородный пуассоновский поток {ДД определяется про-
цессом восстановления y(t) = где у(t) —стандартный пуассо-
новский процесс, а(1) — абсолютно непрерывная неубывающая функ-
ция, такая что а(0) = 0. При какой «замене времени» a(t) поток {(7П}
будет иметь заданную интенсивность А(Д, в частности, A(t) = sin2t?
Ответ. a'(t) = A(i); aft) = t/2 — (sin2£)/4 при A(t) = sin2 t.
11. Доказать, что сложно-пуассоновский процесс — процесс с неза-
висимыми приращениями (см. пример 10.5). Каковы его математиче-
ское ожидание и ковариационная функция?
Ответ. mxft) = //At; Rx(t^ s) = i/2A min(t,s).
12. Допустим, что в условиях примера 10.5 Ь — фиксированный
размер выплат, a g — вероятность страхового случая. Описать закон
распределения суммы выплат X(i), произведенных за время t.
Указание. P{Wfc = b} = q, Р{ИД = 0} = 1 — q.
Ответ. Xft) = bpft), где rjft) ~ П(дА£).
13. Описать поток событий, получаемый из простейшего в резуль-
тате случайного удаления событий, если р — вероятность удаления,
а А — интенсивность исходного потока.
Указание. £(£) = ^1 + ... + ^(t) — соответствующий процесс
восстановления, где ~ Вг(1,1 — р), p(t)—пуассоновский процесс.
Ответ. Поток событий — простейший интенсивности (1 — р)Х.
8*
ЗАНЯТИЕ 11
МАРКОВСКИЕ ПРОЦЕССЫ
§ 1. Теоретические сведения
Далее будут рассматриваться случайные процессы {£(£), t G Г},
определенные на временной области Т С R или Т С Z и принимающие
значения в фазовом пространстве Е е Б(1КР).
Определение 11.1. Случайный процесс {£(£), t G Т} называется
марковским, если для всякого множества В G В(Е) и любых моментов
< ... < tk-i < tk из Г, где к 3, (Р-п.н.) выполнено равенство
Р{Ж) е в I е(т), • • , = Р{£(4) е в | £(tfc_i)}. (11.1)
Свойство (11.1) называется также марковским свойством.
Замечание. Марковское свойство можно представить в виде
Р{ПБ | Н} = Р{П | Н} Р{Б | Н}
где П, Н, Б - «прошедшее», «настоящее» и «будущее» марковского
процесса соответственно, точнее, П := {C(5i) £ Bi, i = 1,..., к},
Н := £(£0), Б := {£(иД е Q, j = 1,...,/}, где Si < < Uj и Вг, Cj е
6 23(E). Таким образом, процесс марковский, если его «прошедшее»
и «будущее» независимы при фиксированном «настоящем».
Определение 11.2. Переходной вероятностью марковского
процесса £(£) называется следующая условная вероятность:
P(s, х, t, В) := P{C(t) е В | £(s) = ж}
рассматриваемая как функция от s, t € Т, s < t, х 6 Е, В е В(Е).
Если Р(з + h, х, t + h, В) = P(s, x, t, В) для любого h 0, то мар-
ковский процесс £(£) называется однородным. При этом функцию
Р(г,т,В) :=Р{£(т) е В | £(0) = х} будем называть переходной веро-
ятностью однородного марковского процесса ^(^).
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
117
Если P(s,z, t, •) абсолютно непрерывна, т. е. допускает запись
P(s,z, £,В) = p(s, х, t,y) dy У В е В(Е) при s < t,
в
то функция называется переходной плотностью марков-
ского процесса £(t). В случае однородного процесса будем использо-
вать обозначение р(т,т, у) := р(0, х, т, у).
В том случае, если фазовое пространство Е дискретно, определим
переходные вероятности prc?2/(s, t) := P(s, т, t, {?/}). Аналогично для
однородного процесса: рЖ)2/(т) := Р(гс, т, {?/}).
Замечание. Введенные функции являются неотрицательными и
удовлетворяют следующим условиям нормировки:
1) P(s,x,Z,E') = 1;
*
2) p(s, т, t, у) dy = 1, если p(s, т, t, у) определена;
3) Px,y(s, t) = 1, если Е не более чем счетно.
уЕЕ
Отметим также, что P(s,t, s, {т}) = 1, поэтому p(s, rc, s, т/) не су-
ществует, а рж,ж(£, s) = 1 и P^j/s, s) = 0 при х ± у.
Теорема 11.1 (Свойствамарковских процессов). Для любого ма-
рковского процесса {£(£), t Е Т} справедливы следующие утверждения:
1) имеет место уравнение Колмогорова— Чепмена
P(s,x,u,B) =
P(s,x,t,dy) P(t,y,u,B)
(где s т е Е, В Е Z3(B)) которое в случае однородного процес-
са принимает, вид
Р(х, s + t, В) = j Р(т, s, dy) Р(у, t, В), t, S 0;
Е
2) если существует переходная плотность, то при s t и
p(s, х, щ z) = p(s, х, t, у) p(t, у, щ z) dy, x,z е Е’
118
МАРКОВСКИЕ ПРОЦЕССЫ
[3- 11
3) если фазовое пространство Е дискретно, то при s t и
Px,Z (^, ^)
x,z € Е\
(П-2)
у€Е
4) в случае Т — [0, оо) или Т = {0,1,2,...} всякое п-мерное распре-
деление марковского процесса полностью определяется его началь-
ным распределением и переходной вероятностью
P{£(ti) 6 Bi, ... ,£(tn) G Вп} —
dF^xo, 0) Р(0,x0,ti,dxi)
Е Bi
Р(^П—1, ^П— 1 5 ^715 dXn^,
вп
где моменты ti tn принадлежат Т и Bi, ..., Вп е В(Е).
Замечание. Переходная вероятность определяет также эволю-
цию одномерных распределений. В случае скалярного марковского
процесса получаем, что при s t
F$(y, =
сю
dF^x-, s)P(s,x,t,(-oo, y]),
У € К;
— ОО
если существуют плотность одномерного распределения и переходная
плотность, то
оо
Pt(y; i) = р^х; s)p(s,x,t,y)dx, у G R,
— ОО
а в случае дискретного пространства Е для вероятностей состояний
7г^(т; s) := P{£(s) = т} имеем
^(у; s)Px,y(s,t),
хЕЕ
у &Е.
0
Основные модели марковских случайных процессов описаны в сле-
дующей теореме.
Теорема 11.2. Следующие процессы являются марковскими'.
1) процесс t 0} с независимыми приращениями, такой
что £(0) = const;
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
119
2) скалярный гауссовский процесс с ковариационной функцией,
удовлетворяющей равенству /?^(^1,^з)^<(^2»^2) = ^(£1,^2) ^(£2,^3)
для любых моментов £1,^2? ^з € Т, таких что ii ^2 £з‘>
3) решение {£(п), п = 0,1,...} разностного уравнения
С(п) = Фп(£(п- 1), Vn\
п = 1,2,...,
(11-3)
если величины {£(0), Vi, V2, ... } независимы в совокупности, а функ-
ция ¥>п(х, и) является детерминированной;
4) решение {£(£), t 0} стохастического дифференциального ура-
внения Ито
d£(t) = A(£(i),i)di + B($(i),i)dw(t), £(0) = const, (11.4)
где A(x,t) и В(x,t) удовлетворяют условиям теоремы существова-
ния и единственности решения стохастического дифференциального
уравнения (см. теорему 7.4).
Следствие 11.1. Перечисленные в теореме 11.2 марковские про-
цессы будут также однородными, если
1) распределение приращений £(£) — £(s) зависит лишь от t — s;
2) математическое ожидание является постоянным, а ковари-
ационная функция имеет вид R^(t,s) = De~a^~s^ при Т = К. или
R$(t, s) = Dmin(t, s) при T = [0, оо), где D 0, а 0;
3) функция <pn(x,v) не зависит от п, а случайные величины {Уп}
одинаково распределены;
4) коэффициенты A(x,t) и B(x,t) не зависят от t.
Замечания. 1. Переходная вероятность процесса, удовлетворя-
ющего разностному уравнению (11.3), имеет вид
Р(п - 1, х, п, В) = P{</?n(z, К) е В} ,
п = 1, 2,...
(П-5)
2. Для решения стохастического дифференциального уравнения
(11.4) относительно переходной вероятности можно утверждать, что
P(s,x,i,B) = PF(t)eB}, t>s,
где обозначает решение уравнения (11.4), определенного на
интервале [$, оо) и удовлетворяющего начальному условию f^s'x(s) = х.
120
МАРКОВСКИЕ ПРОЦЕССЫ
[3. и
Пусть даны функции А(х) е IRm, В(х) е Rmxn, х € К™. Введем
два дифференциальных оператора
«5ЛМ-Ё + | Е ^(В(Х)В-(Х))У, (11.6)
г=1 М = 1
m -I тп q2
(Q’rfb) - -е£{А(»Ш} + j Е ^{(В(>МГЫМЛ
i—1 i,j—1
где /(т), х е Rm, и д(у), у € R777 , суть скалярные функции, такие что
Q/ и Q*g определены, по крайней мере, как обобщенные функции.
Теорема 11.3. Пусть А(х) и В(х) имеют непрерывные ограни-
ченные производные, а В(х) дважды непрерывно дифференцируема.
Тогда
1) решение {£(£), £ 0} стохастического дифференциального ура-
внения Ито с п-мерным стандартным винеровским процессом w(t)
df^t) = A(£(t))dt + B(£(ty)dw(t), 0, £(0) = const, (11.7)
является m-мерным однородным марковским процессом;
2) его переходная плотность р(т, £,?/), как обобщенная функция,
удовлетворяет прямому и обратному уравнениям Колмогорова
др(х4,у) = (Q*p(a;,f,.))fc), р(х,0,г/) = 8(у-х'), (11.8)
др^х^у) = (Qp(.? т/)) (з?), р(ж,0,г/) =Ь(х-уу, (11.9)
3) одномерная плотность р^(у; t), как обобщенная функция, удо-
влетворяет уравнению
dpdy'> *)
dt
(11.10)
с начальным условием р^(у; 0);
4) если для скалярной функции h(y), у Е Rm, при любых х Е lRm
и t 0 существует g(x,t) := M{/z(£(£)) | £(0) = ж}, то g(x,t), как
обобщенная функция, удовлетворяет уравнению
= (Qff(-,i))W
(И-11)
с начальным условием g(x,0) = h(x).
§2]
ПРИМЕРЫ
121
Замечания. 1. Прямое уравнение (11.8) называют также урав-
нением Колмогорова—Фоккера—Планка.
2. Соотношения (11.8) и (П-9) представляют собой уравнения
в частных производных второго порядка параболического типа, а их
решения с указанным начальным условием называют фундаменталь-
ными решениями, поскольку через них определяются решения тех же
уравнений (11.10) и (11.11), но с другими начальными условиями.
§ 2. Примеры
Пример 11.1. Рассмотрим последовательность бросаний симмет-
ричной игральной кости. Пусть случайная величина Vn есть число
очков, выпавшее на грани при п-м бросании. Введем последователь-
ность случайных величин по правилу
£(n) :=max(Vi, ..., К)
п = 1,2,...
Показать, что последовательность £(п)— однородная марковская,
и определить для нее переходную вероятность.
Решение. Заметим, что £(п) удовлетворяет разностному уравне-
нию — max(£(n — 1), Vn) при n 1, где £(0) := 0, а случайные ве-
личины {Vn} независимы и распределены по закону P{Vn = а;} = 1/6,
X е Е := {1, ..., 6}.
Докажем марковость {£(тг)} по определению. Пусть даны произ-
вольные значения {тД и моменты 0
Тогда
tk—1 < где к 3.
Р{€(4) - хк | €(4-i) = xk-i,... ,€(4) = ^1} =
= P{max(xfc_1; Vtk) = хк | €(4-i) = ад—i, • • •, €(4) = ^1}
причем в силу независимости €(4-i), • • •, €(4)} данная условная
вероятность совпадает с безусловной P{max(a:fc_i, Vifc) = ад}. Очевид-
но, что если отбросить моменты tj, ... ,4-2, то результат останется
прежним:
Р{€(4) = хк | €(4—1) = аД-i} = P{max(xfc_i, Vtfe) = хк} =
= Р{€(4) = Tfc | €(4-i) = ..,€(4) = tj}.
122
МАРКОВСКИЕ ПРОЦЕССЫ
[3. 11
Тем самым марковское свойство установлено и попутно найдена
переходная вероятность за один шаг px,y(t — 1,^), У G Е, t 1:
Px,y(t - М) = р{£(0 = у I -1) = я} =
при
у < X
= Р{тах(т, Vt) = у} = < х/6 при у = х,
1/6 при у > X.
Как видно, px,y(t — l,t) = т.е. не зависит от t. Поэтому после-
довательность £ — однородный марковский процесс. Переходная веро-
ятность за два шага, за три и т. д. однозначно восстанавливается по
найденной рх,у с помощью уравнения Колмогорова—Чепмена (11.2).
В заключение отметим, что доказанные свойства, а также форму-
лу для переходной вероятности, можно было установить, пользуясь
теоремой 11.2, ее следствием и соотношением (11.5).
Пример 11.2. Рассмотрим процесс авторегрессии 2-го порядка
Х(п) = aiX(n - 1) + а2Х(п - 2) 4- К, п > 2, Х(0) = Х(1) = О,
где {Vn} — стандартный гауссовский белый шум, Qi, а2 — постоянные
коэффициенты, причем а2 0.
Показать, что последовательность {Х(тг)} — немарковская, тем
не менее, существует двумерный однородный марковский процесс
{У(т?)}, такой что Х(п) =Yi(ri).
Решение. Сравним два условных распределения: Х(4) относи-
тельно {Х(3), Х(2)} и Х(4) относительно Х(3).
Для этого вычислим соответствующие условные математические
ожидания:
М{Х(4) |Х(3),Х(2)} = М{а1Х(3)4-а2Х(2)4-К4 |Х(3),Х(2)} =
= агХ(3) + а2Х(2) 4- МК4 = сцХ(З) 4- а2Х(2), (11.12)
здесь мы воспользовались независимостью V4 от Х(3), Х(2).
Аналогично,
М{Х(4) | Х(3)} = M{aiX(3) 4- а2 Х(2) 4- V4 | Х(3)} =
= ахХ(3) 4- а2М{Х(2) | Х(3)} . (11.13)
ПРИМЕРЫ
123
Поскольку 02 ф О, (П.13) и (11.12) совпадают только при Х(2) =
= М{Х(2) | Х(3)} (Р-п.н.), т.е.
D := М(Х(2) - М{Х(2) | Х(3)})2 = 0.
Так как совместное распределение величин Х(2), Х(3) гауссовское,
D вычисляется по теореме о нормальной корреляции:
D = DX(2) - (cov{X(2), X(3)})2/DХ(3).
В силу определения Х(2) = 14 и Х(3) = #114 + Уз- Отсюда D =
— 1 — Q2 /(а2 + 1) 0. Поэтому условные математические ожидания
(11.12) и (11.13) различны. Следовательно, {Х(тг)}— немарковский
процесс.
Нетрудно проверить, что процесс Y(n) := со1[Х(тг), Х(п — 1)] при
п 1 представляет собой решение уравнения авторегрессии первого
порядка Y(тг) = AY(n — 1) + ВУп, если положить
У(0) :=
Указанное уравнение допускает запись в виде Y(тг) = </>(У(тг — 1), Уп),
где </?(?/, г) — соответствующая матричная функция, а величины {К?}
независимы и одинаково распределены. Тогда в силу следствия из
теоремы 11.2 {У(тг)} будет однородным марковским процессом.
Пример 11.3. Доказать, что винеровский процесс {w(£), t 0} и
пуассоновский процесс {??(£), t 0} являются однородными марков-
скими. Найти их переходные вероятности.
Решение. Напомним, что согласно определению w(t) и T/(t) — это
процессы с независимыми приращениями, такие что w(0) = ту(О) = 0.
Поэтому в силу п. 1) теоремы 11.2 w(i), ??(£) — марковские процессы.
Проверим, что они однородные. Так как при любых t > s О
w(t) — w(s) ~ 7\Л(0, cr2(t — s)),
’iW - ’l(s) ~ П(А(« - s)),
распределения этих приращений на любом промежутке (s, t] полно-
стью определяются лишь его длиной t — s. Теперь в силу следствия
из теоремы 11.2 w(t),?/(t)— однородные марковские процессы.
124
МАРКОВСКИЕ ПРОЦЕССЫ
[3. 11
Для нахождения переходной вероятности воспользуемся независи-
мостью случайных величин w(s + т) — w(s) и w(s) при s, т > 0:
Pw(t, т, В) = P{w(s4-t) Е В | w(s) —х} = P{w(s4- т) — w(s) + х Е В} ,
где х Е R и В Е B(R) взяты произвольными. Следовательно, для вине-
ровского процесса переходная вероятность Pw(a?, т, •) — это распреде-
ление случайной величины w(s + т) — w(s) 4- х. Отсюда по свойствам
винеровского процесса, получаем Pw(t, т, •) = <т2т).
Для пуассоновского процесса аналогично находим
РЩТ) = ph(s + т) = У I Ф) =х} = Р{ф + -г) - Ф) = У~х},
где т, ^ — произвольные точки множества Е := {0,1,2, ... }, иначе
говоря, фазового пространства пуассоновского процесса. Тогда в силу
r/(s 4- т) — т] (s') ~ П(Ат) получаем переходные вероятности пуассонов-
ского процесса
Рх,у(Т) ~
если у х, иначе
Р77
Их,?/
(т) = 0.
Пример 11.4. Пользуясь теоремой 11.3, найти решение уравне-
ния теплопроводности
= .er, t^o, (11.14)
Cz L £
при начальном условии р(х,0) = 1/<(т), где I#(я) — индикаторная
функция m-мерного куба К := {х Е : |ti| 1,..., |rrm| 1}, аД-
оператор Лапласа, т. е.
Решение. Согласно п. 4) теоремы 11.3 для заданной функции
h(x) функция g(x,t) := M{/z(^(i)) | £(0) = т} представляет собой ре-
шение следующей задачи Коши:
^M = (Q5(-,t))(a;)1 t^O, (11.15)
если Q — дифференциальный оператор вида (11.6), а {£(£), t 0} —
решение стохастического дифференциального уравнения Ито (11.7).
§3]
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
125
Как нетрудно видеть, уравнения (11.14) и (11.15) совпадают
при A(z)=0, В(х) = I (/ — единичная матрица размера тп х тп) и
/г(х-) = 1к(а:). Следовательно, процесс £(t) удовлетворяет стохасти-
ческому дифференциальному уравнению d£(t) = dw(t) с m-мерным
стандартным винеровским процессом w(t), т.е. £(£) = £(0) 4- w(t). От-
сюда в силу результата примера 11.3 следует, что процессы £(t) и w(t)
имеют общую переходную вероятность Pw(t, t, •) = J\f(x, tl). Это озна-
чает, что условное распределение сечения £(t) относительно £(0) = х
совпадает с распределением вектора х 4- y/tX, где X ~ //(0,1).
Теперь находим решение уравнения (11.14)
д(х, t) = М{Л(£(£)) | £(0) = х} = Р{т 4- y/tX G К] =
= Р{|тг + ЛХг\ 1, г = 1,..
,т} = П Р{ I37* Т 1} =
г=1
= П ($((*г + 1)М) - Ф((^ - 1)М))
г=1
при t > 0.
I § 3. Задачи для самостоятельного решения
1. В примере 11.1 найти: а) распределение тт(10) := (тг1(10), ...
..., 7Гб(10)), где тгДп) Р{£(п) = т}, если тгДЭ) = 1/6; б) 7г(10), если
7Г5(11) — 7Гб(11) = 1/2; в) переходную вероятность за два шага Р1д(2).
Ответ, а) тг(10) = (1/36, 1/12, 5/36, 7/36, 1/4, 11/36); б) 7г(10) =
- (0, 0, 0, 0, 3/5, 2/5); в) Рц6(2) - 11/36.
2. Пусть {14} — независимые величины с функцией распределения
F(t). Доказать, что процесс {Х(п)}, удовлетворяющий уравнению
авторегрессии первого порядка: Х(п) = аХ(п — 1) 4-14, 1, где
а, Хо = const, является однородным марковским. Найти функцию
распределения переходной вероятности за один шаг: Р(:г, 1, (—оо, 3/]).
Ответ. F(—ах + у).
3. Пусть £(n) := Vi 4-... 4-14, n 1, где {Кп} — независимые слу-
чайные величины, принимающие значения {1, —1} с вероятностями р
и q соответственно. Найти переходные вероятности р^Дт).
Ответ. р^Дт) = P{t/ = (у — т4-т)/2}, где и ~ Вг(т7^,р), х, ?/€Z.
126
МАРКОВСКИЕ ПРОЦЕССЫ
[3. 11
4. Доказать, что последовательность ц(п) max{£(n),0} немар-
ковская, если {£(п)} определена в предыдущей задаче при р = q = 1/2.
Указание. Р{т?(3) — 0 | т?(2) = ту(1)=О} / Р{ц(3) = 0 | т?(2) = 0}.
5. Найти переходную плотность скалярного процесса Х(£), удовле-
творяющего уравнению dX(t) = АХ(t)dt + Bdw(t), где А, В = const,
причем А,В /0, a {w(t), 0} — стандартный винеровский процесс.
Указание. р(т, t, у) = рх(у', t), если Х(0) —
Ответ. р(я,£,у) =
В2\[ _ e2Ati
:=
1
— ехр< -
v 27гР(0 П
(y~mx(t))2
2D(t)
}, где mx(t)
At
6. Используя результат теоремы 11.3, найти фундаментальное ре-
шение уравнения теплопроводности, т. е. функцию С/(т, £), такую что
dt"~ = (х’ 0 при > 0 и гДе х
Указание. U(x,t) = pw{x; i), где w(t) — стандартный m-мерный
винеровский процесс.
Ответ. ?7(т,£) = (2тг£)-т/2 /2t, где |т|2 := т2 4- ... +
7. Найти плотность одномерного распределения процесса {£(£),
t 0}, £(0) = 1, если его переходная плотность удовлетворяет урав-
нению 2 = -A(yp(x,t,y)) + J^(y2p(a;, £,?/)), где x,t,y > 0.
Указание. Использовать результат задачи 3 из занятия 7.
Ответ. t) = (2тг£у2)~1//2е-(1п^ /2*.
8. Процессом Коши называют процесс с независимыми прираще-
ниями {£(£), 0}, такой что £(0) = 0 и — £(s) ~ C(t — s) для лю-
бых t > .$ > 0. Доказать, что процесс Коши — однородная марковская
случайная функция, и найти ее переходную плотность.
Ответ. Р(т,г,9)= +
9. Проверить, что броуновский мост {B(t), t е [0,1]}— неоднород-
ный марковский процесс. Какова его переходная вероятность?
Указание. Использовать гауссовость и п. 2) теоремы 11.2.
Ответ. P(s,T,t, •) =-Vfy—) при 0 < s < t < 1.
\ 1 — 5 1 — S /
ЦЕПИ МАРКОВА
§ 1. Теоретические сведения
Определение 12.1. Цепью Маркова (марковской цепью) назы-
вают однородную марковскую последовательность £ := {£(п), п 0},
с конечным или счетным фазовым пространством Е. При этом эле-
менты множества Е называют состояниями цепи £.
Если Е конечно, то £ — конечная цепь.
Все приводимые ниже определения касаются некоторой фиксиро-
ванной марковской цепи £ := {^(п), п 0} с множеством состояний Е.
Определение 12.2. Число := Р{£(п) = ?/|С(71— 1) = х} на-
зывается вероятностью перехода из состояния х Е в состояние
у € Е (за один шаг). Матрица Р := (pXfy)x,ijeE — это переходная мат-
рица (первый индекс обозначает номер строки).
Соответственно, рх,у(ГГ1У) •= Р{£(п) — У I £(п ~ = #} есть веро-
ятность перехода из х в у за т шагов.
Число 7гх(п) := Р{С(п) — а?} называется вероятностью состояния
х е Е в момент п, а набор тг(п) := (лх(п))Х€е, записываемый в виде
строки, — распределением вероятностей состояний в момент п.
Замечания. 1. Для введенных вероятностных характеристик
справедливы следующие условия нормировки:
У? —
У&Е
52 Р*,у(П) “
УЕЕ
Е М«) =1
УЕЕ
Vх G Е Vn^O.
Первое равенство означает, что сумма элементов каждой строки пе-
реходной матрицы равна единице.
2. Вероятностные свойства цепи Маркова полностью описываются
переходной матрицей Р и начальным распределением 7г(0).
128
ЦЕПИ МАРКОВА
[3. 12
3. Для определения переходной матрицы зачастую удобно ис-
пользовать графический способ задания с помощью стохастического
графа. Вершинами этого графа являются состояния х Е Е, стрелками
обозначены возможные переходы за один шаг (например, из х в ?/),
числа, указанные рядом со стрелками, представляют собой вероятно-
сти перехода, т.е. рж,?7 (см. далее рис. 12.2).
Определение 12.3. Говорят, что состояние у^Е достижимо
из состояния х Е Е, если существует т, такое что рх,у(т) > 0. Иначе
говоря, переход из х в у возможен с ненулевой вероятностью за
конечное число шагов. Кратко это будет обозначатся так: х —> у.
Состояния т, у называют сообщающимися, если х —> у и у —> х.
Определение 12.4. Если для данного состояния х Е Е суще-
ствует у Е Е, такое что х —> 7/, но не верно: у —> х («из х можно
выйти, но обратно вернуться нельзя»), то х называют несуществен-
ным состоянием. В противном случае х — существенное состояние.
Периодом d{x) существенного состояния х называют наибольший
общий делитель всех моментов времени, за которые можно вернутся
в т, т. е. d(x) := НОД {т/г > 1: р^Дгп) > 0}. Если d(x) = 1, то состоя-
ние х — апериодичное, иначе оно периодичное.
Цепь Маркова неразложима, если все существенные состояния —
сообщающиеся, а множество несущественных состояний конечно.
В противном случае цепь называется разлоэюимой.
Замечания. 1. Марковская цепь допускает следующую класси-
фикацию состояний: Е — Eq U Е± U Е% U ..., где {Ek} — непересекаю-
щиеся классы, Eq состоит из несущественных состояний, a Ei, Е%,...
содержат существенные состояния, которые внутри одного класса
являются сообщающимися, но полностью изолированы друг от друга,
если принадлежат различным классам.
2. С учетом указанной классификации состояний и обозначений
Рк := (Рт,7/)х,2/еЕк переходная матрица имеет следующую структуру:
Ро Poi Рог Роз
О Pi О О
3. Цепь разложима, если Eq бесконечно или существуют Еу нЕ?.
4. У конечной марковской цепи всегда есть хотя бы одно суще-
ственное состояние, т. е. Е± ф 0.
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
129
Определение 12.5- Назовем моментом возвращения в состоя-
ние х Е Е случайную величину, определенную по правилу:
{inf{n 1: £(n) = гг}, если 3 n 1: £(п) = т,
оо, иначе.
Если fx := Р{т:с < оо | £(0) = x} = 1, то состояние x— возвратное,
в противном случае (т.е. при fx < 1) х — есть невозвратное состояние.
В случае цх := М{тг | £(0) = я?} < оо состояние х называется по-
ложитпельным, если же цх — оо, то х — нулевое состояние.
Замечание. Всякое положительное состояние возвратно, а каж-
дое невозвратное — нулевое. Несущественные состояния невозвратны.
Теорема 12.1 (Теорема солидарности). Пусть х иу —сообщаю-
щиеся состояния марковской цепи. Тогда каждое их перечисленных
далее условий, будучи выполнено для, состояния х, верно также и
для состояния у: 1) х — существенное’, 2) do — период существенного
состояния х; 3) х — возвратное', 4) х — положительное.
Замечание. Тем самым состояния, входящие в один класс, при-
надлежат к одному типу. Поэтому если цепь Маркова неразложима,
то мы имеем право сказать, что цепь в целом: имеет период do,
является периодичной или апериодичной, возвратной или невозврат-
ной, положительной или нулевой, в зависимости от того, какими из
перечисленных свойств наделены ее существенные состояния.
Теорема 12.2 (о возвратности и положительности). Для всякого
состояния х марковской цепи справедливы следующие утверждения-.
ос
1) х — возвратное если и только если Тх = оо, где Тх := Рх,х(п)',
71=1
2) вероятность возвращения fx и число Тх, называемое средним
временем пребывания, связаны соотношением fx = 1 — —-------
J- X Т 1
3) х — положительное тогда и только тогда, когда рх > 0, где
1 N
рх lim — Ря;х(^)) причем предел обязательно существует’,
N-*oo N
71—1
4) среднее время возвращения цх в состояние х обратно к доле
времени нахождения процесса в этом состоянии, т. е. цх = 1/рх.
Определение 12.6. Пусть для данного начального распределе-
ния 7г(0) существуют пределы тгж := lim тгх(п), х Е Е. Тогда числа 7fx
71—>ОО
называют предельными вероятностями состояний х Е Е.
9 А. Р. Панков, К. В. Семенихин
130
ЦЕПИ МАРКОВА
[3. 12
Если У2 т^х = 1, то тг := (тгх)хеЕ—это предельное распределение.
xfEE
Если же при любом тг(О) предельное распределение тг существует
и определено единственным образом, т. е. не зависит от начального
распределения, то тг называют стационарным распределением.
Пусть тг := (тгх)хеЕ обладает свойством: если тг(О) = ?г, то тг(п) = тг
при любом п 1. Тогда тг— это инвариантное распределение.
Замечания. 1. Эволюция распределения вероятностей состоя-
ний в марковской цепи подчиняется уравнению: тг(п) = тг(п — 1) Р, т.е.
= Z2 7г^(п- i)
хеЕ
уеЕ.
2. Уравнения Колмогорова—Чепмена принимают вид
Р” = (Px,y(«))x>!zefi ПРИ п °>
иначе говоря, n-я степень переходной матрицы Рп —это матрица ве-
роятностей перехода за п шагов (Р° = 7, где / — единичная матрица).
3. Определение стационарного распределения можно дать в тер-
минах вероятностей перехода
lim Рх,т/(^) = тг?/
п—юо
Ух, у € Е,
где тгу = 1.
у^Е
4. Используя матричные обозначения, имеем: тг — инвариантное
распределение, если и только если тг = тгР и тг^ — 1.
у€Е
Теорема 12.3 (Критерий существования стационарного распре-
деления). Для существования стационарного распределения тг необ-
ходимо и достаточно, чтобы цепь была неразложима, апериодична и
положительна. Кроме того, тг является единственным инвариант-
ным распределением, т. е. решением системы уравнений'.
ТГу — 'Ех — 1? ^у 0, У С Е. (12.1)
хеЕ хеЕ
При этом тгх = l//ix > 0 для существенных состояний х 6 Е± и
тгх = 0 для несущественных х Е По-
следствие 12.1. Для конечной цепи Маркова существование
стационарного распределения равносильно неразложимости и апе-
риодичности.
ПРИМЕРЫ
131
Определение 12.7. Случайная величина
Q := inf{n 1: £(n) jE0}
называется моментом выхода из несущественных состояний.
Тогда qx:=M{Q|£(0) — т} есть среднее время выхода из несуще-
ственных состояний при условии, что £(0) = а?, где х G Eq.
Теорема 12.4. Если множество Eq несущественных состояний
конечно, то набор чисел {qx)xeE0 образует единственное решение
системы уравнений
Qt — /J Px,yQy +
У^Ео
X € Eq.
(12-2)
§ 2. Примеры
Пример 12.1. На рис. 12.1 изображен стохастический граф цепи
Маркова, у которой все переходы, возможные из данного состояния,
происходят с одинаковой вероятностью.
Требуется:
1) записать переходную матрицу;
2) провести классификацию состояний;
3) найти период существенных состояний;
4) выяснить, существует ли предельное
распределение, если цепь начинает свое дви-
жение: а) из состояния «2»; б) из «4»; в) из
состояний «4», «5» с равными вероятностями;
5) определить общий вид инвариантного
распределения.
Решение. Обозначим множество состо-
яний данной цепи через Е -.,5}.
По предположению для любого х е Е все
положительные вероятности перехода {р^:
у € Е} одинаковы, причем р^д 4-... + р^д = 1
Рис. 12.1
в силу условия нор-
мировки. Поэтому стрелкам, выходящим из одной вершины, соответ-
ствуют одинаковые вероятности, в сумме равные единице.
9*
132
ЦЕПИ МАРКОВА
[3. 12
Отсюда находим переходную матрицу Р := (рх,у)х,уеЕ
О
О
О
О
О
1/3 1/3 О
1 О О
1/2 0 1/2
ООО
О 0 1
1/3 1
О
Проведем классификацию состояний: первое состояние — несуще-
ственное, так как 1 —> 2, но обратный переход не возможен; второе
состояние — существенное, поскольку если 2 —> у. то у — 2, причем
р2 2 — 1; состояние «3» — несущественное по тем же соображениям,
что и первое; состояния «4» и «5» являются сообщающимися, а выход
из них в другие состояния невозможен, поэтому они — существен-
ные. Итак, искомая классификация имеет вид: Eq = {1,3}, = {2},
Е2 = {4,5}.
Ясно, что второе состояние апериодично, т. е. d(2) = 1. С другой
стороны возвращение в состояние «4» возможно только за четное
число шагов. Следовательно, с?(4) = 2 и то же самое верно для пятого
состояния. Поэтому d(E2) = 2, т. е. ^ — периодичный класс.
Теперь выясним, существует ли предельное распределение.
В случае а) имеем: Р{£(0) = 2} = 1, т.е. тг(О) = (0, 1, 0, 0, 0). Тогда
нетрудно видеть, что тг(1) = тг(О) Р = тт(О), откуда тг(п) = тг(О) для
любого п = 1, 2, ... Поэтому указанное начальное распределение тг(О)
будет инвариантным и предельным, т.е. lim 7г(п) — 7г(0). Иначе гово-
п—>оо
ря, цепь, начав свое движение из состояния «2», там же и останется.
Если же выполнено б), т.е. тг(О) = (0, 0, 0, 1, 0), то тг(1) = тг(О)Р =
= (0, 0, 0, 0, 1); 7Г(2) = 7Г(1)Р = (0, 0, 0, 1, 0); тг(3) = 7г(1); тг(4) = тг(О)
и т. д. Таким образом, в четные моменты времени цепь будет
находится с вероятностью 1 в состоянии «4», в нечетные моменты —
в состоянии «5». Поэтому предельного распределения lim тг(п) не
существует. Этот факт — следствие периодичности.
Однако, если взять тг(О) = (0, 0, 0, 1/2. 1/2) в качестве начального
распределения, как в случае в), то тг(О) = тг(О)Р, т. е. тг(О) — инва-
риантное и, следовательно, предельное распределение. Подчеркнем,
что здесь последовательность {£(п)} не сходится почти наверное —
неизменным является лишь распределение случайных величин £(п).
Итак, в зависимости от начального состояния цепи, предельное
распределение 7Г может как существовать, так и не существовать.
§2)
ПРИМЕРЫ
133
Если же тг определено, то оно зависит от начального распределения.
Для описания инвариантных распределений я необходимо найти
множество решений tti ,..., тг5 системы
5
^Х — 0) У — 1? • • ? 5,
х=1
Мы имеем право исключить одно уравнение из первых пяти, так как
они линейно зависимы (их сумма равна нулю в силу условия норми-
ровки для переходных вероятностей). Поэтому приходим к системе
7Г1 = 0,
7Г1/3 + 7Г3/2 = 0,
7Г1/3 - 7Г3 = 0,
7Гз/2 - 7Г4 + 7Г5 = 0,
7Г1 + • . + ТГ5 = 1.
Отсюда находим, что тг = (0, 1 — 2р, 0, р, р) есть общий вид инвари-
антного распределения, где р — произвольное число из [0,1/2].
Пример 12.2. О цепи Маркова с множеством состояний Е = {1,
2, 3, 4} известно следующее: р12 = р23 = 1, р31 = р32, р44 = Зр4 2,
остальные вероятности перехода равны нулю.
Существует ли стационарное распределение? Если да, то найти
его. Сколько в среднем придется ждать возвращения в первое состоя-
ние? Вычислить вероятность пребывания цепи в состояниях {1,2} по
истечении тысячи шагов, если в начальный момент цепь находилась:
а) в первом состоянии; а) в четвертом состоянии?
Решение. Сначала определим переходную матрицу. Поскольку
в переходной матрице Р сумма элементов каждой строки равна еди-
нице, получаем рзд = р3 2 = 1/2, р4>4 = 3/4, р4 2 = 1/4, откуда
’0 10 0“
0 0 10
1/2 1/2 0 0
0 1/4 0 3/4 _
Классифицируем состояния рассматриваемой цепи. Прежде всего
видно, что «4» — это несущественное состояние, так как возможен пе-
реход 4 —> 2, но обратного не существует. Состояния {1, 2, 3} — сооб-
щающиеся. Поэтому Е содержит один класс существенных состояний
и одно несущественное. Следовательно, цепь является неразложимой,
134
ЦЕПИ МАРКОВА
[3. 12
а также апериодичной. Последнее видно из того, что р2 2(т) > 0 для
тп = 2 и 3, откуда d(2) = НОД {2, 3} = 1.
Теперь на основании следствия 12.1 мы имеем право утверждать,
что данная цепь Маркова обладает стационарным распределением тг.
Для его нахождения рассмотрим систему уравнений (12.1).
4
- Ку = О,
Данную систему уравнений можно упростить, так как для состояния
«4», как для несущественного, соответствующая вероятность 7Г4 равна
нулю (см. теорему 12.3). Исключая линейно зависимые уравнения,
приходим к системе: —яд + тгз/2 = 0, тгг — тгз = 0, тгд + л 2 + тгз = 1-
Отсюда находим стационарное распределение л = (1/5, 2/5, 2/5, 0).
Согласно теореме 12.3 среднее время возвращения ух в данное
состояние х обратно соответствующей стационарной вероятности:
рх = 1/яд. Следовательно, /21 = 1/яд = 5, т. е. цепь возвращается
в первое состояние в среднем за пять шагов.
По определению стационарного распределения имеем: тг(п) —> я
при п —> оо вне зависимости от начального распределения тг(О). Поэто-
му в обоих случаях а) и б) искомую вероятность Р{£(1000) 6 {1, 2}}
можно вычислить приближенно, как яд + яд = 3/5.
Пример 12.3. Рассмотрим случайное блуждание {£(п), п 0},
которое определяется, как £(п) = £(п — 1) -Ь Vn при п 1, где {KJ
последовательность независимых величин, распределенных по закону
P{Vn = l} = р, Р{ПП = — 1} = g (р, Q — положительные числа, такие
что р + q = 1), а £(0)— неслучайное целое начальное значение.
Доказать, что {£(п)}-~цепь Маркова с множеством состояний Z.
Найти вероятности перехода. Провести классификацию состояний.
Существует ли стационарное распределение?
Решение. Марковское свойство вместе с однородностью выте-
кают из представления £(п) = </?(£(п — 1), Vn), где {Vn} — независимые
одинаково распределенные случайные величины (см. следствие 11.1).
Найдем вероятности перехода: pXj2/ = Р{£(п) = у | £(п — 1) = т} =
= Р{УП = у — т}, откуда для любых т, у 6 Z
если у = х + 1,
если у = х — 1,
в противном случае.
ПРИМЕРЫ
135
Таким образом, на рис. 12.2 изображен стохастический граф слу-
чайного блуждания.
Все состояния сообщающиеся, следовательно, они будут суще-
ственными, а цепь неразложима. Кроме того, период состояний ра-
вен двум. Поэтому цепь — периодичная и, как следствие, получаем,
что стационарного распределения
не существует (см. теорему 12.3). р р р р
Теперь исследуем свойства воз- *
вратности и положительности. По • ‘• fc-j) ( хJ н+ч • • •
теореме солидарности (см. теоре- ◄——
му 12.1) исследование достаточно Q Q Q Q
провести для одного состояния, на-
пример, для «О». рис. 12.2
Для того чтобы воспользоваться
критерием, сформулированным в теореме 12.2, вычислим вероятности
р0 0(п) возвращения в состояние «О» при любом п 1. Заметим,
что £(n) = Vi Т ... + Vn для £(0) = 0, причем величины Vk можно
записать в виде = 2В^ — 1, где В к распределены по закону Бер-
нулли: P{Bk — 1} = р и Р{Вк = 0} — q. Тогда £(п) = 2т](п) — п, где
т;(п) := Bi + ... + Вп и, следовательно, величина т/(п) распределена
по биномиальному закону Bi(n,p). Отсюда получаем, что искомые ве-
роятности р0 0(п) = Р{£(п) = 0 | £(0) = 0} = Р{т/(п) = п/2 | £(0) = 0}
равны C2^l(pq}m при четном п = 2m и нулю при нечетном п.
Для исследования сходимости ряда У/ р0 0(2т) применим форму-
лу Стирлинга: тп\ ~ у/2тгт(т/еУ)т, т
Ро,о(2га) =
(2пг)!, (2т/е^ / уп _ (4рчГ
Если случайное блуждание — симметричное, т. е. р = q = 1/2, то
р0 0(2?п) ~ Ст-1/2, где С = const, и ряд у^ р0 0(2т) расходится. Если
т
же р 7^ д, то 7 := 4pq < 1. Поэтому р0 0(2т) сходится к нулю быстрее
убывающей геометрической прогрессии 7™, откуда У^ pn n(2m) < °°-
ТП
Следовательно, у симметричного случайного блуждания все со-
стояния — возвратные, а у несимметричного — невозвратные.
Теперь проверим будут ли состояния положительными. Доста-
точно рассмотреть только случай р = q = 1/2 (в противном случае
состояния будут нулевыми заведомо, так как они— невозвратные).
136
ЦЕПИ МАРКОВА
[3. 12
Воспользуемся следующим фактом из теории числовых рядов:
lim ап = а
п-^оо
Так как р00(п) —* 0 при п —> оо, последовательность средних ариф-
метических (р0 0(1) Ч-... + р0 0(п))/п тоже сходится к нулю. Отсюда
в силу п. 3 теоремы 12.2 получаем, что состояния случайного блуж-
дания будут нулевыми.
Пример 12.4. Рассмотрим модель игры двух лиц в следующих
предположениях: А и В — начальные капиталы первого и второго
игроков соответственно; игра состоит из партий, проводимых по-
следовательно; результат новой партии не зависит от предыстории
игры; в каждой партии капитал первого игрока либо увеличивается
на единицу либо уменьшается на единицу; выигрыш и проигрыш
в отдельно взятой партии равновероятны (безобидная игра); при
разорении одного из игроков игра прекращается.
Описать указанную игру с помощью марковской цепи. Найти
вероятность RA разорения первого игрока. Сколько в среднем будет
продолжаться игра?
Решение. Перечисленные условия означают, что если £(п) —
капитал первого игрока в n-й партии, то последовательность {£(п),
п = 0, 1, ...} образует цепь Маркова с начальным значением £(0) = А
и стохастическим графом, изображенным на рис. 12.3, где L := А 4- В.
Вероятность разорения равна
Ra = Р{Зп:
{ОО -V
и №) = °)} = lim рВ) = 0} -
) п—*оо
71=1
где учтено, что события Сп := {£(ть) = 0} образуют монотонную по-
следовательность: Сп С Cn+i. Таким образом, при £(0) = А искомая
вероятность RA — это предельная вероятность lim рА 0(п).
п—>оо
§3]
ПРИМЕРЫ
137
Тогда из уравнений Колмогорова—Чепмена имеем
Рт,о(П) = |Pm-l,o(7t - 1) + ^Рт+1,о(П ~ *)>
тп — 1,..., L — 1,
где p00(n) = 1, Рг о(п) = 0. Переходя к пределу при п —> оо, получаем
систему уравнений на искомые вероятности {Rm}'
Rm — (Rm— 1 + -^т+1)/2? TYl — 1, . . - , L 1, Rq — 1, R^ — 0.
Тогда Rrn — Rm-1 = с при любом m = 1,..., В, где c = const. Ина-
че говоря, {Rm, m = 0, ..., L} представляет собой арифметическую
прогрессию: = 14- ст. Так как RL = 0, получаем, что с = — 1/L,
откуда Rm = 1 — т/L.
Таким образом, вероятность разорения в безобидной игре игрока
с начальным капиталом А равна RA = В/(А -I- В), если В —началь-
ный капитал его противника.
Теперь найдем среднюю продолжительность игры qA. Нетрудно
видеть, что qA — это математическое ожидание момента выхода из
несущественного состояния «А» (см. определение 12.7).
Для нахождения qA воспользуемся соотношениями (12.2):
Qm — п Qm— 1 4" п Qm+l Т 1, т — 1, . . . , L 1,
где взято q0 = qL = 0. Тогда последовательность 6т •= Qm ~ Qm-i бу-
дет образовывать арифметическую
прогрессию, так как <5ш+1 = — 2,
т = 1,..., L — 1.
Отсюда 8т = <5i — 2(m — 1), при-
чем <51 = qi. Теперь заметим, что
Qm = <51 4- - • • 4- 6т. Поэтому по фор-
муле суммы арифметической про-
грессии получаем
т.
— т
= (qi — т + l)m.
Ятп --
Полагая в данном равенстве т — L, из условия qj = 0 находим, что
qi = L — 1. Отсюда qm = (L — т)т при любом т.
Итак, среднее время окончания безобидной игры равно qA = АВ,
т. е. произведению начальных капиталов игроков.
138
ЦЕПИ МАРКОВА
[3. 12
§ 3. Задачи для самостоятельного решения
1. Марковская цепь задана стохастическим графом (рис. 12.4).
Доказать, что существует стационарное распределение 7г, и найти его.
Определить среднее время q выхода из несущественного состояния.
Ответ. 7г = (0, 2/7, 5/7); q = 2.
2. В условиях примера 12.2 а) определить распределение момен-
та Q выхода из несущественного состояния; б) найти его математиче-
ское ожидание q, сравнив полученный результат с формулой (12.2).
Указание. Вычислить P{Q — п} по формуле умножения, ис-
пользуя марковское свойство.
Ответ. P{Q = п} = (3/4)n-1/4, п = 1,2, ..., (геометрическое рас-
пределение), q = 4.
3. Случайная последовательность {£(п)} удовлетворяет условию:
£(п) равно остатку от деления числа £(rc-l) + Vn на пять при
п 1, где £(0) 6 {0,1,2,3,4}, {Vn} —независимые величины, такие
что P{Vn = ±1} = 1/2. Найти инвариантное распределение. Будет ли
оно стационарным’1 Вычислить предельную вероятность
Р := lim Р{£(п) 4 | £(n + 1) 0},
П—► СХЭ
если а) тг(О)—равномерное распределение; б) 7г(0) = (1,0,0,0,0).
Ответ. Стационарное распределение существует и совпадает
с равномерным; Р = 7/8 при любом 7г(0).
4. В условиях примера 12.2 при £(0) = 1 найти: а) распределение
момента возвращения тх; б) вероятность возвращения не ранее, чем
за пять шагов; в) среднее время возвращения /zi, сравнив его с полу-
ченным в примере 12.2.
Ответ, a) P{ti = 2т 4-1} = (l/2)m, т = 1,2, ...; б) Р{п 5} —
= 1/2; в) /л± = 5.
§3]
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
139
5. Марковская цепь задана стохастическим графом (рис. 12.5), где
О < р < 1, g = 1 — р. Дрказъть, что существует стационарное распре-
деление 7г, и найти его. х
Ответ. Еслир / q, то тгх = _ х — 0,1, ..., N, где а := p/q\
если р = q, то тгх = 1/(N + 1). а
6. Доказать, что последовательность £(n) = max(£(n — 1) + Vn,0)
образует положительную бесконечную цепь Маркова, если {Vn} —
независимые величины такие, что Vn G {—1, 1} и P{Vn = —1} > 1/2.
Указание. Если г, rN — моменты первого возвращения в 0 для
{£(п)} и цепи, указанной в задаче 5, то lim rN = т и supMr77 < оо.
N—>оо дг
7. Рассматривая пример 12.4 в предположении, что р — вероят-
ность выигрыша первого игрока, определить вероятность RA его ра-
зорения. В каком случае RA можно сделать сколь угодно малой за
счет выбора начального капитала Л?
аА —аА+в
Ответ. Ra = ——аА+в ' если а (1 ~Р)/Р 7^ I’» Jim &а = О ПРИ
р 1/2 и lim Ra = 1 — (1/q)b > 0 при р < 1/2.
А—-юс
8. Через фиксированные промежутки времени проводится кон-
троль технического состояния прибора, который может находиться
в одном из трех состояний: «1» (работает); «2» (неисправен и ожидает
ремонта); «3» (ремонтируется). Известно, что ремонт производится
только после поломки. Вероятность того, что за период между про-
верками прибор останется в том же состоянии, равна: 0,8, если он
был исправен; 0,1, если ожидал ремонта; 0,3, если ремонтировал-
ся. Считая, что состояние прибора описывается марковской цепью,
записать ее переходную матрицу. В стационарном режиме найти:
а) вероятность пребывания прибора в рабочем состоянии; б) среднее
время возвращения в неисправное состояние.
О т в е т. а) 7Г1 — 63/95 « 0,6632; б) № = 95/14 « 6,786;
0 “
0,9
0,3
ЗАНЯТИЕ 13
ДИСКРЕТНЫЕ МАРКОВСКИЕ ФУНКЦИИ
§ 1. Теоретические сведения
Пусть {£(£), t 0} — некоторая однородная марковская случайная
функция с конечным или счетным фазовым пространством Е. Далее
элементы множества Е будем называть состояниями.
Определение 13.1. Функция рх>?/(£) '= PRW — У I С(0) =
называется вероятностью перехода из состояния х 6 Е в состояние
у е Е. Матричная функция P(t) := (ра?,^))х.уеЕ ~ это переходная
матрица (первый индекс обозначает номер строки).
Функция тгД^) :— Р{£(£) = х} называется вероятностью состоя-
ния х 6 Е а набор тт(0 := записываемый в виде строки, -
распре делением вероятностей состояний.
Замечания. 1. Справедливы следующие условия нормировки:
52 Р^-2/W ~ 1
у€Е
V х € Е и
уЕЕ
(13.1)
S М*) - L
Первое равенство означает, что сумма элементов каждой строки пе-
реходной матрицы равна единице.
2. Переходная матрица в нуле является единичной: Р(0) = I.
3. В матричных обозначениях уравнение Колмогорова—Чепмена
принимает вид
P(t + s) = P(f)P(s)
Vf,s 0.
4. Если известна переходная матрица P(t), то распределение веро-
ятностей состояний тг(£) в любой момент времени можно восстановить
по начальному распределению 7г(0):
?r(t) = 7г(0) P(t) Vt^O.
ТЕОРЕТИЧЕСКИЕ СВЕДЕНИЯ
141
Теорема 13.1. Пусть {£(t), t 0} — однородная марковская слу-
чайная функция с конечным множеством состояний Е и переходной
матрицей Р(£), непрерывной в нуле, т. е. limP(/z) = I.
Тогда hi°
1) функция Р(£) дифференцируема, в частности, определен предел
ГЪ J.U Го
(13.2)
2) переходная матрица удовлетворяет прямому и обратному
уравнениям Колмогорова
Р(£) = P(i)A, P(Z) = AP(t), t > 0.
3) распределение вероятностей состояний удовлетворяет следу-
ющему уравнению’.
тг(£) = t 0.
(13.3)
Определение 13.2. Матрица Л, определенная в (13.2), называ-
ется матрицей интенсивностей переходов.
При этом неотрицательные числа
Хх v := lim
'у МО h
(где х ф у) и Хх := lim -—
v МО h
называют соответственно интенсивностью перехода изхеЕвцеЕ
и интенсивностью выхода из состояния х.
Замечания. 1. Внедиагональные элементы матрицы Л — это ин-
тенсивности переходов а диагональные элементы равны ин-
тенсивностям выхода, взятым с противоположным знаком, т. е.
Хх,х = —Хх. При этом сумма элементов каждой строки матрицы Л
равна нулю:
\/хеЕ.
У^Е
Поэтому интенсивность выхода из данного состояния х равна сумме
интенсивностей переходов в другие состояния: Хх = Хх,у.
142
ДИСКРЕТНЫЕ МАРКОВСКИЕ ФУНКЦИИ
[3. 13
2. Вероятностные свойства однородной марковской функции с дис-
кретным множеством состояний полностью определяются матрицей
интенсивностей Л и начальным распределением тг(О).
3. Для задания матрицы интенсивностей удобно использовать сто-
хастический граф, вершинами которого являются состояния х Е Е,
стрелками обозначены переходы положительной интенсивности ХХуУ,
указанные рядом со стрелками (см. рис. 13.1).
Определение 13.3. Пусть {£(£), t 0} — марковская функция
с дискретным множеством состояний и регулярными траекториями.
Определим поток переключений состояний Tq := 0 < < Т>2 <...
ew = еЦп)
Vt Е [Тп,ТП4-1),
е(тп+1)^е(д,)
Vn 0.
Теорема 13.2. Пусть для регулярной марковской функции {£(t),
t 0} выполнены условия теоремы 13.1. Рассмотрим соответству-
ющий поток переключений состояний {Тп} и положим Хп := £(Тп).
Тогда
1) {Хп} — цепь Маркова с вероятностями перехода'.
— У | Хп — 1 — 3?} — ^Х'у/^х V у х Е Е \/п 1,
2) величины тп :=Тп — Tn_i независимы в совокупности'.
3) условное распределение случайной величины тп относительно
события {Xn-i = т} является показательным с параметром Ах.
Определение 13.4. Если для каждого состояния у Е Е суще-
ствуют пределы 7rv := lim ^(t), которые не зависят от выбора на-
у t—>oo
чального распределения тг(О), причем выполнено ку = 1, то набор
7г := (tFtJt/ge есть стационарное распределение. уЕЕ
Замечания. 1. Определение стационарного распределения мож-
но дать в терминах вероятностей перехода:
TCy = lim px,y(t)
t оо
Ух,у е Е
И
2. Стационарное распределение является инвариантным в следую-
щем смысле: если тг(О) = тг, то 7r(t) = к для любого t, т. е. тг = 7rP(t).
Теорема 13.3. Допустим, что в условиях теоремы 13.1 суще-
ствует состояние у$ Е Е, такое что для каждого х Е Е найдется
момент времени t > 0, для которого Pz,yo(t) > 0.
§2]
ПРИМЕРЫ
143
Тогда стационарное распределение тг существует и является
единственным решением системы уравнений
О — 'Ex^x^yj Ех — 1? Еу О, У В.
хеЕ x(zE
Замечание. Условия теоремы 13.3 выполнены, если £(£) — одно-
родная марковская функция с конечным множеством состояний Е,
содержащим хотя бы одно ?/о, достижимое из любого другого состоя-
ния х (т. е. на стохастическом графе найдется путь из любого х в уо).
Рис. 13.1
Определение 13.5. Однородная марковская случайная функ-
ция {£(£), 0} с множеством состояний Е — {0,1,... ,N} и стоха-
стическим графом, изображенным на рис. 13.1, где Ьх > 0 и dx > 0,
называется процессом рождения и гибели.
Теорема 13.4. Если {£(7), £ 0} — процесс рождения и гибели,
'то стационарное распределение (яд, существует и име-
ет следующий вид’.
7Г0 = 1/(1 + /91 + plp2 + • •. + Р1Р2 • • • PN),
ёх = 7Го^1Р2 •. -рх, х = 1,2, ... ,7V, где px'.^bx/dx.
§ 2. Примеры
Пример 13.1. Для пуассоновского процесса {T]{t\ t 0} интен-
сивности А определить интенсивности переходов.
Решение. Согласно примеру 11.3 p(t) — это однородная марков-
ская случайная функция с множеством состояний Е := {0,1,2,...} и
144
ДИСКРЕТНЫЕ МАРКОВСКИЕ ФУНКЦИИ
[3. 13
вероятностями перехода
(Хт)у~х _х
Ря.тА) = (^ - ж)! 6 Г’ еСЛП У Х' иначе = °-
Найдем интенсивность выхода из данного состояния х е Е;
х = lim 1 - Px.x(fe) = lim 1-е Xh = А
h]0 h h[0 h
Интенсивность перехода из£Е£?вгг4-1 равна тому же:
Лх х+1 = lim Pr’Tt1(fc) = limXe~xh = A.
’ + hiO h h[0
Все прочие переходы имеют нулевую интенсивность: при у < х
вероятность перехода — тождественный нуль, откуда Хх,у = 0, а
при тп := у — х 2 имеем
х г г —л/i п
Хх v = lim z = lim---------;— е - 0.
'У /гЦ) h /ЦО тп\
Итак, матрица интенсивностей переходов пуассоновского процесса
имеет следующий двухдиагональный вид:
’ -А А 0 0 ... ‘
0 -А А 0 ...
Л ’ 0 0 -А А ... "
Пример 13.2. Рассмотрим модель простейшей системы массово-
го обслуживания на примере работы капала связи: вызовы приходят
в случайные моменты времени, образующие простейший поток интен-
сивности А; время обслуживания одного вызова (т.е. время разговора)
распределено по экспоненциальному закону с параметром /ц канал
связи обслуживает в каждый момент времени только один вызов; при
занятом канале поступающий вызов не принимается; поток вызовов
и поток обслуживания независимы.
Описать данную систему с помощью марковской функции £(£),
имеющей два состояния. Какова вероятность S(t) обслуживания вызо-
ва, поступившего в момент t, если в начальный момент времени канал
был свободен? Чему равна эта вероятность при больших t? Зависит
ли она начального состояния канала?
§2]
ПРИМЕРЫ
145
Решение. Введем два состояния: «О» (канал свободен) и «1»
(канал занят). Определим поток событий {Тп} следующим образом:
То := 0; Ti — момент прихода первого вызова; ТЬ — время оконча-
ния обслуживания; — момент прихода нового вызова, такого что
Т3 > Т2', Т4 — время окончания обслуживания и т. д. Тогда марковский
процесс, описывающий работу канала связи, имеет вид
где Q 0 и m - 0,1,2,...
При этом если £(ТП) =
при t е [T2m,T2m+1),
при t е (T2m+1,T2m+2),
0, то — Тп — это время ожидания ново-
го вызова, которое распределено по экспоненциальному закону с пара-
метром А. Следовательно, в силу теоремы 13.2 интенсивность выхода
из состояния «0» равна А, т. е. Aq = А. Аналогично, Tn+i — тп ~
при £(Tn) = 1, и по тем же причинам получаем, что Ai
Итак, матрица интенсивностей переходов имеет вид
Рис. 13.2
Стохастический граф изображен на рис. 13.2.
Теперь вычислим вероятность S(t) обслуживания
вызова, поступившего в момент t. По условию вызов
будет обслужен, если и только если канал свободен.
Поэтому S(t) = P{£(t) = 0}, иначе говоря, S(i) — это вероятность «ну-
левого» состояния 7T0(t). В силу (13.3) 7To(t) находится из решения
системы: 7r(t) = тг(£)А, где тг(£) := (тг0 (£), 7Г1 (£)).
Заметим, что tti(£) = 1 — тго(£) в силу условия нормировки (13.1)
и 7Го(0) = 1 по условию. Тогда дифференциальное уравнение относи-
тельно 7r0(t) принимает вид
7roW = -Атго(0 + м(1 “ МО), М°) = 1.
(13.4)
t
Так как x(t) = eatx(fi) Ч- е
о
циального уравнения i(t) = ax(t) 4- /(£), искомая вероятность равна
еа(* r^f(r)dr есть решение дифферен-
t
s(t) = е-<А+^тго(0) + [
J А 4~ Ц А 4-
0
10 А. Р. Панков, К. В. Семенихин
146
ДИСКРЕТНЫЕ МАРКОВСКИЕ ФУНКЦИИ
[3. 13
Ясно, что S(t) —* S := /Д(А + уД при t оо вне зависимости от
начального значения 7Го(0). Отметим, что 5^1 при А С ц и, наоборот,
если интенсивность потока вызовов велика (т. е. в среднем звонки
поступают очень часто), то вероятность «дозвониться» будет мала.
Заметим, что попутно мы доказали существование стационарного
распределения тг = (тго, ), так как яд = S. Этот факт находится
в полном соответствии с теоремой 13.3, согласно которой стацио-
нарное распределение существует, если определены интенсивности,
множество состояний конечно, и все состояния сообщающиеся. При
этом само стационарное распределение можно было найти из системы
алгебраических уравнений: 0 = ТгЛ, тг0 Ч- tti = 1, без решения диффе-
ренциального уравнения (13.4).
Пример 13.3. Теперь изучим модель системы массового обслу-
живания, содержащей два параллельно работающих канала и очередь
на три места. Предположим, что на вход такой системы поступает
простейший поток заявок (запросов); среднее время ожидания одной
заявки составляет две минуты; каналы (приборы) обслуживания ра-
ботают независимо; время обслуживания па каждом их них распре-
делено экспоненциально и имеет математическое ожидание, равное
пяти минутам. Рассмотрим процесс £(£), равный в момент времени
t 0 числу заявок, находящихся в системе.
Считая, что £(£) — марковский процесс, найти интенсивности пере-
ходов, стационарное распределение вероятностей состояний, а также
предельную вероятность того, что очередь будет занята полностью.
Решение. Рассматриваемая система может обслуживать одно-
временно не более пяти заявок. Следовательно, Е = {0,1,2,3,4,5}—
множество состояний марковской функции £(t).
Ординарность простейшего потока заявок и положительность вре-
мени обслуживания означают, что только переходы х —> х 4- 1 и
х —> х — 1 будут иметь ненулевые интенсивности.
Вычислим интенсивность перехода АХ5Гс+1, где х = 0,1,2,3,4. Для
вероятности перехода (^) = Р{С(^) = х + 1 I £(0) — х} можно
указать следующие неравенства:
Р{<7 < h,T > h} Рж,а:+1(/г) Р{<7 < h} , (13.5)
где а — момент прихода первой заявки, а Т — момент изменения со-
стояния, т. е. момент окончания обслуживания хотя бы одной из х
заявок или время до поступления второй заявки.
ПРИМЕРЫ
147
По условию ст ~ Е(Х\ где 1/Л —среднее время поступления заяв-
ки, откуда Л = 1/2 мин-1. Кроме того, Р{Т > 0} = 1, причем Т и <7
независимы. Поэтому
1 - e~Xh
l—L-P{T>h}
Px,x+i(h) < 1 - е
h h
Теперь, переходя к пределу в данном выражении при h | 0, нахо-
дим, что = А.
Вычислим интенсивность обратного перехода АХ)Ж_1.
Сначала рассмотрим случай х — 1. Тогда
Р{т < h.a > h} < Р1,о(Л) Р{т < h} , (13.6)
где т — время обслуживания одной заявки. Так как т ~ Ь'(м) по усло-
вию, где /1 = 1/5 мин-1, из (13.6) получаем
Р1,о(Ь)
h
1 -е~^
h
откуда после предельного перехода при Л j, 0 находим: А1д =
Пусть теперь х 2. Момент окончания обслуживания хотя бы
одной из х заявок можно представить в виде т := min{Ti?T2}, где
Ti, 72 — время обслуживания заявок на первом и втором приборах
соответственно. По условию тг независимы и распределены по закону
Тогда 7 ~ jE7(2/lz) , так как при любом h > 0
Р{т > /г} = Р{п >h,r2>h} = Р{71 > h} Р{т2 > h} = е“2р\
Для вероятности перехода рж?гс-1(А) имеют место неравенства
Р{7 < /г,тах{71,72} > h,a > h} рЖ)ГС-1(/г) Р{т* < h}.
При этом вероятность в левой части данного соотношения можно за-
писать в виде (P{7i < /г, 72 > h} + Р{7Х > Л, 72 < Л}) Р{<7 > h}. Тогда
Px,x-i(h) < 1 - е 2flh
h h
откуда Аж?ж_1 = 2при х 2.
Итак, стохастический граф марковской функции £(£) имеет вид,
изображенный на рис. 13.3.
ю*
148
ДИСКРЕТНЫЕ МАРКОВСКИЕ ФУНКЦИИ
[3. 13
Так как £(£) —процесс рождения и гибели, его стационарное рас-
пределение л можно найти, пользуясь соотношениями, указанными
в теореме 13.4. Обозначив р := Х/р, получаем
7Г0 = 1/(1 + р + р2/2 + р3/4 + р4/8 + р5/16), 7Г1 = 7Г0 р,
7Г2 = ТГОр2/2’ %3 = ТГоР3/4, 7Г4 = ТГоР4/8! ^5 = *0 р5/16»
откуда 7г « (0,04647, 0,1162, 0,1452, 0,1815, 0,2269, 0,2837).
В частности, наиболее вероятным будет состояние «5», т. е. со-
стояние, в котором очередь будет занята полностью. Предельная
вероятность этого состояния равна 0,2837.
Рис. 13.3
Пример 13.4. Предположим, что число особей в некоторой био-
логической популяции описывается однородной марковской функцией
z/(£). Известно, что максимально возможное число особей N достаточ-
но велико, а интенсивности рождения и гибели пропорциональны те-
кущей численности популяции, точнее bx = х A, dx = хр, х = 1,..., N.
Таким образом, параметры А и р представляют собой относительные
(т. е. из расчета на одну особь) интенсивности рождения и гибели.
При этом = А есть интенсивность притока новых особей извне.
При каком соотношении между параметрами А и р данная по-
пуляция: а) имеет тенденцию к развитию; б) склонна к деградации;
в) имеет максимально неопределенное будущее?
Решение. Сформулированные допущения означают, что стоха-
стический граф функции имеет вид, представленный на рис. 13.1.
Для того чтобы ответить на поставленные вопросы рассмотрим
поведение данной популяции в стационарном режиме.
Из теоремы 13.4 следует, что стационарное распределение л суще-
ствует и определяется следующими выражениями:
7Г0 = (1 + р + р2 + .. - + pN)-1, тгх = тгорх, x = l,...,N. (13.7)
где обозначено р
bx А _ (1-р)^ .
= — = -. 1огда 7ГЖ = 4---При /94 1 и любом X.
& Р Р
§3]
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
149
Следовательно, если А < ц, т. е. особи в данной популяции в сред-
нем чаще погибают, чем рождаются, tottq >tti > • • • > тгдг, иначе го-
воря, деградация популяции является наиболее вероятным сценарием
ее эволюции. Более того, яд ~ 1 ~ Р при большом N. Например, если
р = 2А, то вероятность яд гибели всей популяции примерно равна 1/2,
а вероятность выживания какой-либо значимой части, например, по-
ловины близка к нулю:
Р ~ №
1 - pN+' Р
Теперь рассмотрим противоположную ситуацию: А > ц, т. е. р > 1.
Тогда, наоборот, яд < tti < •' * < и популяция имеет тенденцию
к развитию, причем 7Гдт —> (1 — р)/ р и яд—*0 при N —> оо. В част-
ности, если А = 2ц, т. е. относительная интенсивность рождения в два
раза больше интенсивности гибели, то вероятность достижения пре-
дела численности равна tv^^I/2. При этом вероятность сохране-
ния половины популяции приблизительно равна единице, так как
Е »- = Е >1 2 - а L
x^N/2 x^N/2 Н
Наконец, если А = ц, то из (13.7) получаем: яд = я"1 = • • • = ttn =
— 1/(7V + 1). Тем самым динамика популяции в будущем является
максимально неопределенной.
§ 3. Задачи для самостоятельного решения
—(е Xh — е при А ц, р()Л(Л) = Xhe Xh
1. В условиях примера 13.2 найти вероятность перехода р0 т(/г) для
произвольных А > 0, ц > 0 и показать, что р0 г(Л) = Xh + o(/z).
Ответ. р0 ДЛ) =
при А = ц.
2. Система массового обслуживания содержит один канал обслу-
живания и очередь на N мест. Поток заявок и поток обслуживания
являются простейшими и имеют одинаковую интенсивность. В стаци-
онарном режиме определить: а) распределение числа заявок, обслу-
живаемых системой; б) среднюю длину очереди.
n \ (TV-l)A'
Ответ, а) равномерное; о) —тЪг-
150
ДИСКРЕТНЫЕ МАРКОВСКИЕ ФУНКЦИИ
[3. 13
3. Пусть система, рассмотренная в предыдущей задаче, содержит
два одинаковых параллельных канала обслуживания: а) во сколько
раз сократиться средняя длина очереди; б) какова вероятность того,
что очередь не будет занята вовсе? Вычисления провести в предполо-
жении, что система находится в стационарном режиме, a N велико.
Ответ, а) « 37V/2; б) ~ 2/3.
4. Система содержит s параллельно работающих приборов с вре-
менем обслуживания, распределенным по закону Е(р). Считая, что
входной поток заявок — простейший интенсивности Л, определить ста-
ционарные вероятности состояний. При каком количестве приборов s
вероятность потери заявки можно сделать меньше 0,001, если /2 = А?
Ответ. тгх = (px/xl)(l + р + ... + ps/sl)~1 (формула Эрланга), где
х = 0,1,..., s, р := Х/р\ 7TS < 0,001 при s = 6.
5. Поток отказов прибора — простейший с интенсивностью А. Если
прибор отказал, то отказ обнаруживается в течение случайного време-
ни, имеющего распределение Е(у). Ремонт осуществляется после об-
наружения отказа и продолжается случайное время с распределением
Е(р). Найти стационарную вероятность того, что прибор исправен.
Ответ. 1/(1 + Х/р + A/z/).
6. Система содержит два канала с временем обслуживания, рас-
пределенным по закону Е(р). При этом каналы обслуживают заяв-
ки последовательно, входной поток заявок — простейший интенсивно-
сти А. В стационарном режиме вычислить вероятность: а) «простоя»;
б) полного обслуживания.
Указание. В п.б) использовать формулу полной вероятности от-
носительно группы гипотез: Нх — {система находится в состоянии х}.
Ответ, а) 1/(1 + р)2; б) (1 + р/2)/(1 + р)2, где р := Х/р.
7. В условиях примера 13.4 найти вероятность выживания десятой
части популяции от ее максимальной численности N — 100, если ин-
тенсивность рождения на два процента меньше интенсивности гибели.
Ответ. «0,7897.
8. В некоторой популяции интенсивность гибели dx = хр пропор-
циональна численности х, а интенсивность рождения пропорциональ-
на числу «свободных» мест: Ьх = (N + 1 — х) A, N — максимальная
численность. В стационарном режиме найти: а) распределение числа
особей; б) вероятность гибели всей популяции; в) интервал, в котором
с вероятностью 0,997 находится численность, если N = 106 и А = р.
Ответ, a) Bi(N, (1 + /z/А)"1); б) (1 + X/p)~N; в) (498500, 501500).
СПИСОК ЛИТЕРАТУРЫ
1. Боровков А. А. Теория вероятностей. — М.: Эдиториал УРСС, 1999.
2. Булинский А. В., Ширяев А. Н. Теория случайных процессов.—
М.: Физматлит, 2003.
3. Вентцелъ А. Д. Курс теории случайных процессов. — М.: Наука,
1996.
4. Вентцелъ Е. С., Овчаров Л. А. Теория случайных процессов и ее
инженерные приложения. — М.: Высшая школа, 2001.
5. Гихман И. И., Скороход А. В. Введение в теорию случайных про-
цессов.— М.: Наука, 1977.
6. Гнеденко Б. В., Коваленко И. Н. Введение в теорию массового
обслуживания. — М.: Наука, 1987.
7. Ивченко Г. И., Медведев Ю. И. Математическая статистика.—
М.: Высшая школа, 1984.
8. Колмогоров А. Н., Фомин С. В. Элементы теории функций и функ-
ционального анализа. — М.: Физматлит, 2003.
9. Королюк В. С. и др. Справочник по теории вероятностей и матема-
тической статистике. — М.: Наука, 1985.
10. Миллер Б. М., Панков А. Р. Теория случайных процессов в приме-
рах и задачах. — М.: Физматлит, 2002.
11. Оксендалъ Б. Стохастические дифференциальные уравнения.—
М.: Мир, 2003.
12. Проскуряков И. В. Сборник задач по линейной алгебре. — М.: Наука,
1978.
13. Пугачев В. С. Лекции по функциональному анализу. — М.: Изд-во
МАИ, 1996.
14. Пугачев В. С. Теория вероятностей и математическая статистика. —
М.: Физматлит, 2002.
15. Пугачев В. С., Синицын И. Н. Стохастические дифференциальные
системы. — М.: Наука, 1990.
16. Розанов Ю. А. Стационарные случайные процессы. — М.: Наука,
1990.
17. Шабат Б. В. Введение в комплексный анализ. — М.: Наука, 1969.
18. Ширяев А. Н. Вероятность. — М.: Наука, 1989.
19. Ширяев А. Н. Основы стохастической финансовой математики.
Т. 1. —М.: Фазис, 1998.
20. Ширяев А. Н. Задачи по теории вероятностей. — М.: МЦНМО, 2006.
Тем. план 2007, поз. /
Панков Алексей Ростиславович
Семенихин Константин Владимирович
ПРАКТИКУМ
ПО ТЕОРИИ СЛУЧАЙНЫХ ПРОЦЕССОВ
Редактор
Подписано в печать . .2007.
Бумага офсетная. Формат 60 х 84 1/16. Печать офсетная.
Печать офсетная. Усл. печ. л. 9,29. Уч.-изд. л. 10. Тираж 00 экз.
Отпечатано с готового оригинал-макета.
Издательство МАИ
«МАИ», Волоколамское ш., д. 4, Москва, А-80, ГСП-3 125993
Типография Издательства МАИ
«МАИ», Волоколамское ш., д. 4, Москва, А-80, ГСП-3 125993