Text
                    — МС—
Ю. А. РОЗАНОВ
СТАЦИОНАРНЫЕ
СЛУЧАЙНЫЕ
ПРОЦЕССЫ

ТЕОРИЯ ВЕРОЯТНОСТЕЙ МАТЕМАТИЧЕСКАЯ СТАТИСТИКА мс Ю. А.РОЗАНОВ СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ ИЗДАНИЕ ВТОРОЕ, ДОПОЛНЕННОЕ МОСКВА «НАУКА» ГЛАВНАЯ РЕДАКЦИЯ ФИЗИКО-МАТЕМАТИЧЕСКОЙ ЛИТЕРАТУРЫ 1990
ББК 22.171 Р64 УДК 519.21 Серия «Теория вероятностей и математическая статистика» издается с 1959 года РЕДАКЦИОННАЯ КОЛЛЕГИЯ Главный редактор Ю. В. Прохоров Заместитель главного редактора Ю. А. Розанов Заместитель главного редактора Б. А. Севастьянов Ответственный секретарь А. В. Прохоров Члены редакционной коллегии: А. П. Баева, А. А. Боровков, Б. В. Гнеденко, П. А. Ибрагимов, В. В. Сазонов, А. В. Скороход, В. А. Статулявичус, А. Н. Ширяев Розанов 10. А. Стационарные случайные процессы.— 2-е изд., доп,— М.: Наука. Гл. ред. физ.-мат. лит., 1990.—272 с.— (Тео- рия вероятностей и мат. статистика). ISBN 5-02-014467-3 Со времени первого издания (1963 г.) книга стала одним из основных и наиболее полных руководств по теории стационарных процессов. Изложение ведется сразу для многомерных процессов, благодаря чему достигается большая компактность изложения. Кроме спектральной теории стационарных в широком смысле процессов излагается ряд вопросов теории процессов, стационар- ных в узком смысле (эргодические свойства, гауссовские процес- сы, предельные теоремы). Для научных работников физико-математических специально- стей, аспирантов и студентов вузов. Библпогр. 81 назв. 1602090000—076 Р 053 (02)-90 30‘90 ©«Наукам. Фпзматлпт, 1990 ISBN 5-02-014467-3
ОГЛАВЛЕНИЕ Предисловие ........................................... 6 Глава I. Гармонический анализ стационарных случай- ных процессов ......... 7 § 1. Определения. Примеры..................... 7 § 2. Случайные меры и интегралы .... 10 § 3. Преобразование Фурье случайных мер 21 § 4. Спектральное представление стационарных процессов............................ 23 § 5. Корреляционная функция и спектральная мера стационарных процессов .... 29 § 6. Эргодические теоремы и закон больших чисел.................................л , . . 34 § 7. Спектральное представление элементов пространства значений' стационарных про- цессов . . . . i ....................... 39 § 8. Линейные преобразования стационарных процессов ....................................... 46 § 9. Стационарные процессы постоянного ранга 52 § 10. Стационарные процессы с рациональными спектральными плотностями . , . . 56 Глава II. Линейное прогнозирование стационарных процессов, с дискретным временем . . . 65 § 1. Линейная экстраполяция. Постановка за- дачи ...... I w . . 65 § 2. Регулярность и сингулярность стационар- ных процессов ........ 66 1*
4 Оглавление § 3. Разложение Вольда.. 70 § 4. Общая формула линейной экстраполяции 72 § 5. Линейная экстраполяция одномерных ста- ционарных процессов...................... 78 § 6. Линейная экстраполяция регулярных про- цессов максимального ранга 89 § 7. Линейная экстраполяция стационарных про- цессов, значения которых образуют базис 98 § 8. Общий критерий регулярности и линейная экстраполяция процессов ранга 1 . Ю7 § 9. Линейная фильтрация стационарных про- цессов ....................................................... 120 § 10. Линейная интерполяция стационарных про- цессов ....................................................... 123 § 11. Стационарные процессы, значения которых образуют базис................................. 133 Глава III. Линейное прогнозирование стационарных процессов с непрерывным временем . . . 139 § 1. Линейная экстраполяция. Постановка задачи § 2. Регулярность и сингулярность стационарных процессов ................................................ 139 § 3. Разложение Вольда........................................ 148 § 4. Линейная экстраполяция стационарных про- цессов ....................................................... 152 § 5. Линейная фильтрация стационарных про- цессов ....................................................... 160 § 6. Линейная интерполяция стационарных про- цессов ........................................ 164 § 7. Линейное прогнозирование по значениям на конечном интервале ....... 172 Глава IV. Стационарные в узком смысле случайные процессы . ........ 182 § 1. Основные понятия. Примеры ..... 182 § 2. Непосредственное задание случайных про- цессов ....... jgg § 3. Преобразования сдвига, связанные со ста- ционарными процессами ........ 188
Оглавление 5 § 4. Вопросы измеримости группы преобразова- ний сдвига . ч................................................................. 193 § 5. Эргодическая теорема .... . . 198 § 6. Метрическая транзитивность. Примеры 205 § 7. Метрически транзитивные стационарные процессы с дискретным спектром ... 211 § 8. Разложение стационарного процесса на метрически транзитивные компоненты 217 § 9. Регулярные стационарные процессы . . . 225 § 10. Условия полной регулярности гауссовских стационарных процессов.................................................... 228 § 11. Центральная предельная теорема . . . 241 Дополнение . ................................................. 251 Приложение..................,....................................................... 259 Список литературы ................................................................. 267
ПРЕДИСЛОВИЕ За последние годы получила повое развитие теория стационарных случайных процессов. Многочисленные ра- боты, посвященные линейному прогнозированию много- мерных стационарных (в «широком смысле) процессов, сделали эту часть теории близкой к ее окончательному завершению. Усиленное вниманий Привлекли к себе и различного рода эргодические свойства стационарных (в узком смысле) процессов; возникшие в связи с при- менимостью к таким процессам центральной предельной теоремы. Этим вопросам и посвящена данная книга, ос- новой которой послужил курс лекций по теории стацио- нарных процессов, прочитанный мною в Московском университете в 1959—1960 годах. Книга рассчитана на квалифицированного читателя математика, но основные содержащиеся в пей результа- ты (особенно касающиеся случая рациональных спект- ральных плотностей) должны быть понятны и читателю инженеру, интересующемуся приложениями теории ста- ционарных процессов. При написании книги мне большую пользу принесли замечания моих друзей. Всем им я искренне благодарен. Считаю приятным долгом выразить здесь свою горя- чую признательность моему учителю Андрею Николае- вичу Колмогорову. Ю. А. Розанов 1963 г.
ГЛАВА I ГАРМОНИЧЕСКИЙ АНАЛИЗ СТАЦИОНАРНЫХ СЛУЧАЙНЫХ ПРОЦЕССОВ § 1. Определения. Примеры Пусть Q — некоторое измеримое пространство эле- ментов со (элементарных событий) с о-алгеброй ?! co-мно- жеств, на которой определена вероятностная мераР(da)). Случайной величиной § мы будем называть всякую комплексную функцию £(со) на пространстве Q, измери- мую относительно о-алгебры 91. Под случайным процес- сом l,(t) будем понимать совокупность случайных вели- чин, зависящих от параметра t (времени), который при- нимает либо все целые значения (случай дискретного времени), либо все действительные значения (случай непрерывного времени). Иногда, чтобы подчеркнуть за- висимость каждой из величин %(t) от со, мы будем поль- зоваться обозначением £(со, t). Случайный процесс %(t) называется стационарным в широком смысле, если его математическое ожидание (1.1) Й есть постоянная, >не зависящая от t, а корреляционная функция B(t, s): = (1.2) зависит лишь от разности t — $ (предполагается, конеч- но, что М \%(t) I2 < о°). Пример 1.1. Пусть Фр, р = 1, т, есть набор случайных ве- личин, обладающих тем свойством, что МФР = О, МjOp|2 = Fp < сю при всех р = 1, т и Л/ФрФ7 = О при р =# д.
8 Гл. J. Гармонический анализ стационарных процессов Рассмотрим случайный процесс g (t) вида тп ъ (о = 2 *{Уфр, где — некоторые действительные числа. Его математическое ожидание равно нулю, а корреляционная функция B(t, s) есть В (t, s) = 2 eiKP(t~s)Fp- Р=1 Мы видим, что случайный процесс является стационар- ным в широком смысле. Пример 1.2. Пусть есть бесконечная в обе стороны последовательность некоррелированных случайных величин, т. е. таких, что == О при ti =# t2, причем МШ =0, = 1 для всех t. Пусть последовательность комплексных чисел обладает следующим свойством: 21 с (о I2 < — оо Очевидно, ряд ио = 2с (*-*) sw —оо сходится в среднеквадратичном, и его сумма ^(1) представляет собой стационарный в широком смысле случайный процесс, по- скольку Ml У с (t — s + и)с~(й). — оо Стационарные в широком смысле случайные процес- сы £i(£) и ^2 (t) называются стационарно связанными, если их взаимная корреляционная функция (1-3)' зависит лишь от разности t — s. Пример 1.3. Пусть процессы и g2(0 такие же, как и в примере 1.1, тп 5ft=2e^4,/t (*=1,2), Р=1
§ 1. Определения. Примеры 9 причем случайные величины Фр, к дополнительно обладают тем свойством, что ____ 7ИФР) йФд, i = О при всех р ф q и &, I == 1, 2. Пусть Fhi (р) = МФР, ъФр, г. Тогда ____ т вм (t, S) = MZh (0 gz (S) = 2 (p>- , P=1 Мы видим, что функции Вм зависят лишь от разности t — s, т. е. стационарные процессы и Ь(0 стационарно связаны друг с другом. Совокупность п стационарных процессов £ь(0, Л = = 1, п, стационарно связанных между собой, будем на- зывать п-мерным стационарным процессом и изображать в виде вектора-столбца Пусть ^(0= {^(0}Л=—— n-мерный стационарный про- цесс, — линейная оболочка величин £Д0, А = 1, п, < t < оо9 замкнутая относительно сходимости в сред- нем квадратичном. Если отождествить между собой ве- личины, отличающиеся друг от друга лишь с вероят- ностью, равной нулю, и ввести скалярное произведение элементов h', h" из как (Л', A") = WV, то станет гильбертовым пространством; будем назы- вать его пространством значенцй процесса £(0. Пример 1.4. Пусть g (t) есть стационарный процесс, описан- ный в примере 1.1. Величины Фр, р = 1, in, могут быть найдены из системы линейных уравнений 2 «V®, = g (t), t = 0, т-1, 1 определитель которой есть определитель Вандермонда. Очевидно, эти величины принадлежат пространству Н^. Поскольку сами значения £(£), — <» < t < <*>, рассматриваемого процесса линейно выражаются через Фр, р = 1, т, пространство Ih совпадает с ли- нейной оболочкой этих величин. Заметим сразу же, что хотя мы определили стацио- нарный в широком смысле процесс как совокупность случайных величин £(0, удовлетворяющих условиям
10 Гл. I. Гармонический анализ стационарных процессов (1.1) —(1.3), однако почти вся развиваемая в первой ча- сти книги теория сохраняет свою силу и для функций £(£) со значениями в произвольном гильбертовом прост- ранстве Я, скалярное произведение B(t, $) = (£(£), £($)) которых удовлетворяет требованию стационарности (1.2) (в многомерном случае — требованию (1.3)). § 2. Случайные меры и интегралы Напомним читателю некоторые сведения из теории меры (см., например, книгу Халмоша [*])*). .Система R множеств А называется полукольцом, ес- ли, во-йервых, вместе с множествами Ai и Д2 она содер- жит их пересечение Ai Я А2, и, во-вторых, для всяких множеств А и Ai из 7?, Ai^A, найдется конечное число непересекающихся множеств Ai, А2, ..., Aw из 7?, таких, m что А есть их объединение: А = U Az>. Простейшим примером полукольца множеств на дей- ствительной прямой служит система всевозможных по- луинтервалов [a, Ь), замкнутых слева и открытых спра- ва (или наоборот). Пусть на полукольце 7? определена о-аддитивпая ме- ра F, т. е. положительная функция множеств, обладаю- щая тем свойством, что F(A) = 2^(Aft) (2-0 k для любого множества А из 7?, являющегося объедине- нием непересекающихся множеств А&, Aft^7?, к = 1,2,... Как известно, меру F можно продолжить с сохранением а-аддитивности на совокупность всех измеримых мно- жеств. Например, если R есть система всех полуинтервалов [а, Ь), то мера F продолжается на все лебеговские мно- жества прямой. Отметим следующий простой факт, вытекающий из самого способа продолжения меры F. Пусть А есть про- извольное измеримое множество такое, что 7г(А)<<». Для всякого е > 0 найдется множество Ав, являющееся объединением конечного числа непересекающихся мно- *) Литература, помеченная [*], приведена в конце книги под рубрикой «Общая литература».
§ 2. Случайные меры-и интегралы 11 жеств Д1, Д2, .. Ат из полукольца R, такое, что мера симметрической разности Д ° Де =(Д — Де)и (Д8 — Д) не превосходит е: F(A оДе)^8. (2.2) Пусть теперь имеется комплексная случайная функ- ция Ф(Д)=Ф(со, Д), определенная на некотором полу- кольце R множеств Д отрезка [а, &] (конечного или бес- конечного) действительной прямой (при каждом фикси- рованном ДеR значение Ф(ю, Д) есть случайная величина). Пусть Ф аддитивна, т. е. с вероятностью 1 *) Ф(Д1)+ Ф(Д2)= Ф(Д1 U Д2), (2.3) если Д1 и Д2 не пересекаются между собой, и пусть, кро- ме того, для любого множества Д из R Г(Д) = М |Ф(Д)|2<°о. (2.4) Пусть, далее, #Ф(Д1)Ф(Д2)=0 (2.5) для любых непересекающихся Д1 и Д2. В этом случае, очевидно, функция множеств F, определенная равенст- вом (2.4), является аддитивной: 7^(Д1) + ^(Д2) = ^(Д1 U Д2). (2.6) Назовем случайную функцию множеств Ф случайной мерой. Если для всякого Д из R, являющегося объединением счетного числа' непересекающихся множеств ДЛ, Д^^Т?, Ф(Д) = 2Ф(ДЛ), (2-7) h где ряд сходится в среднем квадратичном, то случайную меру Ф будем называть о-аддитивной. В этом случае со- ответствующая мера F также будет о-аддитивной. Оче- видно, верно и обратное утверждение: если F а-аддитив- на на R, то тем же свойством обладает и случайная мера Ф. Обозначим НФ линейное замыкание в среднем квад- ратичном всевозможных случайных величин Ф (Д), Д е R. *) Здесь и в дальнейшем мы не будем делать различия между случайными величинами, если они равны с вероятностью 1.
12 Гл. I. Гармонический анализ стационарных процессов Теорема 2.1. Случайная о-аддитивная мера Ф, оп- ределенная на некотором полукольце R, может быть продолжена с сохранением в-аддитивности на все изме- римые множества, причем ее значения на этих множест- вах будут принадлежать НФ. Доказательство. Определенная равенством (2.4) мера F является о-аддитивной и может быть продолже- на с полукольца R на все измеримые множества. Для множеств Д вида А == U Aft, (2.8) k=l где принадлежат Я и не пересекаются, определим Ф(Д) равенством m Ф(Д)= 2Ф(АЛ). k=l В силу соотношений (2.4) и (2.5) для любых мно- жеств Д' и Д" вида (2.8) имеем Л/|Ф(Д')-Ф(Д")|2 = > |Ф(Д'\Д")-Ф(Д"\Д')|2 = = /1(Д,\Д") + ^(Д,,\Д,) = /1(Д'о Д"). Свойство (2.2) меры F позволяет для любого измеримо- го множества Д подобрать последовательность множеств Дп вида (2.8) таких, что Я(Д°Дп)->0 при п -> Тогда М|Ф(Дп)-Ф(Дт)|2 = /ЧДпоД?п)+0 при п, тп-+ Отсюда вытекает, что существует предел в среднем квадратичном случайных величин Ф(ДП). Определим Ф(Д) при помощи равенства Ф(Д)= lim Ф(ДП). П-»оо Очевидно, этот предел с вероятностью 1 один и тот же независимо от выбора последовательности Дп, ^(ДоДп)-0. Легко показать, что так определенная функция мно- жеств Ф является о-аддитивной случайной мерой со зна- чениями в Яф. Замечание. Очевидно, для любой случайной вели- чины h, М |7г |2< оо, функция множеств Fh ЯДД)=МФ(Д)й, (2.9)
§ 2. Случайные меры и интегралы 13 является о-аддитивной комплексной мерой ограниченной вариации. В самом деле, 1 1 1 I ^(Д)1<[Л/|Ф(Д)|2]2 [М |7И2]2 | ДI2 }2 для любого измеримого множества Д отрезка [л, Ь]. Определим теперь интеграл по случайной мере Ф, за- данной на измеримых множествах отрезка [а, 6] дейст- вительной прямой (а и Ъ могут принимать значения —оо и +<» соответственно). Измеримую комплексную функцию ср (Л), определен- ную на отрезке [а, Ь], назовем простой, если она прини- мает не более чем счетное число различных значений фк (соответственно на множествах ДЛ, i = l, 2, ...). Про- стую функцию ф(%) назовем интегрируемой, если ряд S ф*<Ж) fe=l сходится в среднем квадратичном. Интеграл функции cp(Z) по случайной мере Ф определим как сумму этого ряда: Л 00 f ф(Х)Ф(бЛ) = 2 Ф^Ф(Д^ (2.10) а ' Пусть мера F, как и ранее, задается соотношением (2.4). Легко видеть, что = SI <₽d2 F (Aft) =fI ф (К) p F (dk), (2.11) k—1 a и таким образом оказывается, что простая функция ф(Х) интегрируема по случайной мере Ф(<Д) тогда и только тогда, когда ъ J^(X)|2F(dX)<oo. (2.12) а Если функция ф(Л) есть предел в среднем квадра- тичном некоторой последовательности фп(Х),п—1, 2,
14 Гл. 1. Гармонический анализ стационарных процессов простых интегрируемых функций, т. е. & J 1<р(Л) — Фп(М12^(Л)->0 а при п -> оо, то по формуле (2.11) М ъ ъ 1 <рп (к) Ф (dA) — J <pm (X) Ф (dA) а а 2 Ъ = JI фп (А) — фт (A) I2 (dA) -> О а при п, тп-*- % и, следовательно, существует предел в ь среднем квадратичном случайных величин J фп(Х.) Ф(бА), а который мы и назовем интегралом от функции ф(^): & ъ j Ф (X,) Ф (о!Х) = lim J фп (Z) Ф (dk) а П—^оо а (2.13) (очевидно, предел в (2.13) не зависит от выбора после- довательности фп(Х), п = 1, 2, ...). Соотношение (2.13) определяет интеграл по случайной мере Ф(й^) от всех функций ф(Х), удовлетворяющих условию (2.12), при- чем для всех них выполняется соотношение (2.11), и более того, если 1р(Х) есть любая измеримая функция, удовлетворяющая тому же требованию (2.12), что и функция ф(Х), то ъ ь ъ М J ф (X) Ф (dA) j ф (А) Ф (dA) = J ф (А) ф (A) F (dK). (2.14) а а а Пусть теперь случайная мера Ф такова, что для лю- бого отрезка А == [а', &'], где а > а, Ъ' < &, Л7 |Ф(Д) 12(< оо, но lim М | Ф (А) |2 = оо. а'->а Ъ'-*Ъ (2.15) Если функция ф(А), определенная на отрезке [а, &], ин-
§ 2. Случайные меры и интегралы . 15 тегрируема в квадрате по соответствующей мере F: ъ ]|ф(М12^(^)<°°, а то она интегрируема по случайной мере Ф па любом от- резке [а', 6'], а' > а, Ъ' < Ь. При помощи соотношения (2.14) легко вывести, что случайные величины Ь' ^ф(Х)Ф(Л) сходятся в среднем квадратичном к Неко- O' торому пределу, когда а -> а, Ь' Ь. Этот предел мы и пазовом интегралом от функции q?(Z) по случайной ме- ре Ф на отрезке [а, 6]: Ъ Ъ' J ф (X) Ф(сД) = lim f ф (X) Ф(е&). (2.16) а о'-»о Определенный нами интеграл обладает всеми обыч- ными свойствами. Именно, ъ J kiTi (М + С2Ф2 (MJф (^) = а Ъ * Ь = ci J Ф1(Х)Ф(йЛ.) + с2 J <р2 (А.) Ф(ей); (2.17) а а функция множеств Т(Д)= f ф(А)Ф(<Д) А является о-аддитивной случайной мерой; кроме того, шь тегралы типа (2.16) удовлетворяют соотношению (2.14). Пример 2.1. Пусть случайная мера Ф определена на всей прямой и МФ(Д)=т, если точка А — 0 входит в Д, Л/Ф(Д) = 0 в противном случае. Рассмотрим интеграл 1(0 = J ешФ(^). —оо
16 Гл. I, Гармонический анализ стационарных процессов где параметр t принимает все действительные значения. Перед нами некоторый случайный процесс. Легко видеть, что — oo где F(dK) = M | Ф (tZX) |2. Таким образом, случайный процесс В (О стационарен в широком смысле. Пример 2.2. Пусть £(dt) — случайная мера, определенная на всех измеримых ограниченных множествах прямой —оо < t <z <Z оо, такая, что M^(dt) = ^ M\^(dt)\2 = dt. Пусть c(t) есть некоторая интегрируемая в квадрате функция: оо J | с (t) |2 di < ooe — 00 Очевидно, для любого t существует интеграл оо —оо Легко видеть, что MU0=0, 00 ЛП- (0 £ (5) = J с (^ — s + и) с (u) du. «—00 Таким образом, %(t) представляет собой стационарный в широком смысле случайный процесс. Перейдем теперь к интегрированию случайных функций. . Пусть есть случайный процесс со значениями, имеющими конечные вторые моменты: при всех t. Назовем процесс ^(t) сепарабельным в ши- роком смысле, если пространство его значений /А — ли- нейное замыкание всевозможных величин — являет- ся сепарабельным (т. е. в нем существует счетное, всю- ду плотное множество элементов). Очевидно, стационарный процесс %(t) сепарабелен в широком смысле, если, например, его корреляционная
$ 2. Случайные меры и интегралы 17 функция B(t) непрерывна в нуле; в этом случае = 2 [5(0) - ReB(t - 5) ] -> 0, (2.18) когда t — 5 -> 0. Далее, случайный процесс g(£) будем называть изме- римым в широком смысле, если для любой величины h, h*=Hi, числовая функция вида (£(*), h)^M^t)h (2.19) является измеримой. Назовем случайную функцию %(t) простой, если она принимает не более чем счетное число значений (каж- дое на некотором измеримом ^-множестве ДЛ, k == 1, 2,...). Теорема 2.2. Пусть корреляционная функция B(t, s) сепарабельного в широком смысле процесса 1-(t) измерима. Тогда он сам измерим (в широком смысле) и, кроме того, существует последовательность простых слу- чайных функций gn(£), и==1, 2, ..., равномерно сходя- щаяся к процессу %(t): (2.20) при п-+ оо равномерно по t. Доказательство. Линейные комбинации h значений нашего процесса всюду плотны в пространстве Hi, и потому для любого h из Н$ числовая функция (g(£), h) является пределом функций вида 3jCkB(t, tk) = k = /s(0> S^g(^)b которые измеримы благодаря измеримо- \ h ) сти корреляционной функции B(t,s); следовательно, для любого h из Hi функция (g(£), Л) является измеримой. Пусть {gw} есть счетное, всюду плотное в Hi множе- ство элементов. При фиксированном п множества Ттп значений параметра t, на которых очевидно, измеримы (числовая функция llg(£) — gjl2 = = B(t, £)+ll£wll2 — 2 Re(g(£), §w)) по доказанному явля- ется измеримой), а их сумма U Tmn составляет всю об- m ласть изменения параметра t, поскольку величины gm, 2 ю, А* Розанов
18 Гл. I. Гармонический анализ стационарных процессов тп = 1, 2, ..., всюду плотны в пространстве Н%. Возьмем Ш —1 Т'1П == Лп, т'тп = Ттп\ U T'kn, АП = 2, 3, . . . , И ПОЛОЖИМ /?=1 r£>n(t) = %m при t(= Т'т. Случайные функции %n(t) являются простыми, и при любом таким образом, процесс есть равно- мерный предел простых * функций £п(0- Теорема доказана. Пусть на отрезке [с, d\ имеется простая случайная функция (случайный процесс) £(£): при А; = 1, 2, ... (2.21) Предположим, что Shft|||AJ<oo (2.22) k=l (здесь IAJ означает меру множества Aft); назовем в этом случае процесс §(^) интегрируемым в широком смысле и положим h(t)dt= 2 ММ А (2.23) с (ряд в правой части равенства (2.23) сходится в сред- нем квадратичном). Итак, случайный процесс £(Z) вида (2.21) интегрируем на отрезке [с, d], когда Отметим, что II d II с d f||E(OII^<°°- (2.24) (2.25) d Произвольный случайный процесс ^(t) назовем ин- тегрируемым (в широком смысле), если существует по- следовательность £п(0г и=1, 2, ... простых интегрируе- мых функций, сходящаяся равномерно к НВ(О— 0 (2.26)
§ 2. Случайные меры и интегралы 19 при п -> о© равномерно по t. В этом случае при пг, п -> оо также равномерно по t, и следовательно, d II J IU(O - МО] dt < С II d < JII (t) - В™ (01| dt < sup || In (0 - (t) II • (d - c) -> 0 C t d при тп, n -> oo. Поэтому существует предел lim %n(t)dt, П-^оо который не зависит от выбранной последовательности п = 1, 2, ..а зависит лишь от самого процесса i(t). Положим d d Jg(£)d£=lim [М0<#- (2-27) с п^°° с Очевидно, интегрируемый процесс ^(t) удовлетворяет условию (2.24). При довольно широких ограничениях это условие является достаточным для интегрируемости. Теорема 2.3. Если корреляционная функция сепа- рабельного в широком смысле случайного процесса ^(t) измерима и, кроме того, выполнено условие (2.24), то процесс g(£) интегрируем. Доказательство. По предыдущей теореме 2.2 су- ществует последовательность gn(£), и = 1, 2, ..., простых функций, равномерно сходящихся к g(£) при п -> В частности, при достаточно большом /г, llgnG)ll^llg(£)ll + l, откуда вытекает, что вместе с процессом g(£) условию (2.24) удовлетворяют и gn(0 (при достаточно больших п). Следовательно, случайные функции gn(0 являются ин- тегрируемыми. Теорема доказана. Определение интеграла можно распространить на бес- конечный отрезок [с, d\ следующим образом: d d' $l(t)dt = lim $l(t)dt, (2.28) C d'~^dC' 2*
20 Гл. I. Гармонический анализ стационарных процессов где с < с < d' < d; предел (в среднем квадратичном) в правой части равенства (2.28), очевидно, существует, если процесс удовлетворяет требованию (2.24). Введенный нами интеграл от случайного процесса об- ладает всеми обычными свойствами. Рассмотрим теперь снова о-аддитивную случайную меру Ф. Пусть ф(£, Л) есть измеримая функция двух переменных t и % (а <5 % < ft, c^t^d), такая, что ъ J | Ф (£, X)|2F(dX)<oo (2.29) а для почти всех t (здесь, как и прежде, F(dk) = = М|Ф(йХ)|2). Тогда для этих t существует интеграл ъ £(f)= [ср(г, Х)Ф(<Д). (2.30) а Этот интеграл представляет собой измеримый в ши- роком смысле случайный процесс поскольку для любой величины А, М I А|2 < «>, числовая функция ъ = Jq>(t, X)Fh(Л), (2.31) а где Fh(dK) = M<I>(dh)h, является измеримой. Если функция ф(£, X) удовлетворяет условию d Г Ъ ”11/2 J f |<р(г, %)|2F(d%) Л<оо, с La (2.32) а случайная мера Ф сепарабельна, т. е. пространство НФ ее всевозможных значений является сепарабельным, то случайный процесс %(t) также сепарабелен и, кроме то- го, интегрируем на отрезке [с, d\: (2.33) Далее, если функция ф(£, Л) интегрируема на отрез- ке [с, d] для почти всех X (относительно меры F) и Ъ Г d 32 j ’ j |ф(£, A,)d£ | F(dZ) <оо, а с (2.34)
§ 3. Преобразование Фурье случайных мер 21 то существует интеграл Ф(йХ). (2.35) Теорема 2.4. Если функция q(t, Л) удовлетворяет одновременно условиям (2.32) и (2.34), а случайная мера Ф сепарабельна, то интегралы в (2.33) и (2.35) совпадают между собой: Ъ d d b f J Ф (t, X) dt Ф (dX) = j J ф (t, X) Ф (dX) dt. (2.36) a с c a Доказательство. Пусть h есть произвольная слу- чайная величина такая, что М <». Тогда Г d ъ м\ [q^'K'jdt ®(dh)h = a Lc b d d b = J J Ф (t, X) dt Fh (dX) = J J ф (t, X) Fh (dX) dt = a с c a Г ь d = Mj j\(f, Х)Ф(йХ) dth. C L Ct Ввиду произвольности h отсюда немедленно вытека- ет равенство (2.36). § 3. Преобразование Фурье случайных мер Пусть A(dk) есть случайная мера, определенная на всех измеримых ограниченных множествах прямой — оо < X < оо? такая, что M|A(dX)|2 =-!<&• (3.1) Тогда для любого интервала A=(^i, £2) существует интеграл оо р Ш2 iXfj С(А)= е ~е A(dX). (3.2) — оо Функция р _ р 1 фД(Х) =
22 Гл. I. Гармонический анализ стационарных процессов есть преобразование Фурье от функции ~ fl, при feA, Фд(0 —при гёл. Именно, фд(^) = J е*мфд(0сЙ. —оо Пусть интервал Д'=(^, t2) не пересекается с Д. Используя соотношение (2.14) и равенство Парсеваля, получим, что оо оо MUA)W) = ^ J Фд(^)фГ(^ = J Фд(0фд'(*И=0, . — оо —оо оо оо M|UA)|2 = ^ J |фд(Ь)|МХ= У |фД(0|г^ = «а-^ — оо —оо (3.3) Равенства (3.3) показывают, что интеграл в (3.2) оп- ределяет на интервалах Д = (^, t2) случайную меру Z(dt), такую, что М \Z(dt)\2 = dt. (3.4) По теореме 1.2 случайную меру £ можно продолжить на все измеримые множества прямой —°° < t < оо (мера £(Д) интервала Д=(£1, t2) совпадает с мерой полуин- тервала [^i, t2)). Равенство (3.2) можно теперь переписать в следую- щей форме: оо оо J фдЖ(<Й)= J Фд(*)Л(<&). (3.5) Любую функцию ср (0, такую что оо | ср (t) |2 dt < оо, —оо можно сколь угодно точно приблизить в среднем квадра- тичном линейными комбинациями функций срд(О> а ее
§ 4. Спектральное представление 23 преобразование Фурье Ф (Ч = J е<иФ (0 dt —оо — соответствующими линейными комбинациями функций *фд(Х). Отсюда благодаря свойству (2.14) можно заклю- чить, что равенство (3.5) справедливо не только для функций фд(£) и фд(Х), но и для произвольных интегри- руемых в квадрате функций ф(£) и ф(Л): оо оо J f Ф(ЧЛ(Л). (3.6) — оо —оо Взяв, в частности, интервал Д = (Xi, Х2) и |1, при /. еД, Ф (^) — |0> при Д, получим, что Л (д) = i J -—W т. е. случайная мера Л(йХ) получается из меры определенной формулой (3.1), при помощи обратного преобразования Фурье. § 4. Спектральное представление стационарных процессов Пусть = {lkW}k==^— n-мерный стационарный в широком смысле случайный процесс, Н* — пространство его значений. Теорема 4.1. На пространстве существует се- мейство унитарных, операторов Ut, — 00 < £ < оо? такое, что + = (4.1) для любых t и s. Доказательство этой теоремы опирается на одну об- щую лемму. Лемма 4.1. Пусть М — некоторое множество в гиль- бертовом пространстве, на котором задан изометриче-
24 Гл, I, Гармонический анализ стационарных процессов ский оператор U*). Тогда U можно продолжить с со- хранением изометричности на Нм — линейное замыкание элементов из М. Доказательство. Покажем сначала, что изомет- рический оператор U является линейным. Пусть элемент h, 7П h^^ckhk (4.2) fe=i принадлежит М вместе с hi, Ч12, ..hm. Тогда m (Uh, Uh') = (h, h') = % ck (hk, h') = k=i m / m \ = 2 ch (Uhh, uh') = 2 chuhhl uh1 L fe=l \fe=l / \Uh- 2 ckUhk, Uh'] = 0 \ fe=l / для любого элемента h'^M, в частности, для h' = = Л, Л1, ..., hm, и поэтому I Uh - 2 ckUhk, Uh- 2 ckUh J = 0, \ fe=l h=l / ™ (4.3) C7/i=2 ckUhk, h=l Равенством (4.3) определим теперь оператор U для всех элементов h вида (4.2), где hk о М, Всякий элемент h из Нм является пределом элемен- тов hn, п = 1, 2, ..., этого вида. Имеем: lim || hn — h || = 0, П-»оо lim || hm — hn [| = lim || Uhm — Uhn || = Oj ?n,7l-»OO 7П,П-^ОО и поэтому существует предел lim Uhn^ П-»оо Положим Uh = lim Uhn. (4.4) *) Оператор U называется изометрическим, если (Uh\ Uh") = (/i'? h") для любых h' и h" из M.
£ 4. Спектральное представление 25 Легко проверить, что оператор £7, определенный равен- ствами (4.3) и (4.4) на всем пространстве Нм, будет изометрическим. Доказательство теоремы 4.1. Равенства (4.1) определяют на элементах £ft(5) изометрический опера- тор Ut, поскольку в силу стационарности имеем: Utb(s')) = (lk(t + s), &(* + «')) = =(ы*), m). По лемме 4.1 оператор Ut можно продолжить с со- хранением изометричности на все пространство Что- бы доказать его унитарность, нужно установить, что оператор Ut отображает пространство /Д целиком на са- мого себя, т. е. для любого элемента h из /Д найдется h' (также из Я$) такой, что h = Uth'. Но это сразу вы- текает из определения пространства и оператора поскольку каждый элемент h есть предел 'Дп, тг==1,2,..., вида m,h и в качестве элемента h' можно взять, например, hr = lim hn, П-»оо где = 2 cm,k%k (tm,h — O’ m,k Теорема 4.1 полностью доказана. Семейство унитарных операторов Ut, зависящих от параметра t, очевидно, удовлетворяет следующему соот- ношению: Utus = Ut+8 (4.5) и, таким образом, является группой. Назовем совокупность операторов Ut унитарным се- мейством процесса £(£). В случае, когда параметр t принимает лишь целые значения (случай дискретного времени), операторы Ut представляют собой степени одного и того же унитарно- го оператора U = Ut = U\ (4.6)
26 Гл. I. Гармонический анализ стационарных процессов Оператор U, будучи унитарным, допускает спектраль- ное представление £7= J е»£(<Д), (4.7) —Л где Z?(dX)—спектральное семейство проекционных опе- раторов в пространстве 7Д, аддитивно зависящих от мно- жеств А отрезка [—л, л] (операторная мера), такое, что £(А)£(А') = 0, Я(А U А')==Я(А) + £(А'), (4.8) если множества А и А' не пересекаются (см., например, книгу Рисса и Надя1*1, с. 303). Имеем £7*= Je^£(d%), (4.9) —Л откуда получается спектральное представление процес- сов gft(£), ___ gft(£)= £7'^(0), fc = l, n. (4.10) Именно, Ы0=РШф^)’ k = ~n, (4.11) —Л где ФА(<&) = £(йад(0) (4.12) есть случайные а-аддитивные меры того же типа, что и рассмотренные в предыдущем параграфе; из свойства (4.8) спектрального семейства E(dk) вытекает, что М |ФЛ(А) I2 М 1^(0) I2, к = 177 (4.13) для любого измеримого множества А и МФ,(А)Ф7а')=0 (4.14) при любых к и Z, если множество А не пересекается с А'. Аналогичное представление имеет место и в случае непрерывного времени. Пусть корреляционные функции Bhl(t) = M%k(t + s)^(s)., к, 1=1, п, (4.15) являются измеримыми, а сам процесс % (/) = {Е& (^)}ft=jy,
§ 4. Спектральное представление 27 сепарабельным в широком смысле (т. е. его пространст- во значений /А сепарабельно)*). Тогда, по теореме 2.2 предыдущего параграфа, слу- чайные процессы £ft(0, /с=1, л, измеримы в широком смысле, откуда вытекает измеримость числовых функций (Uth\ h") от t при любых Л', h" е /А. . По теореме Стоуна (см., например, уже цитирован- ную выше книгу Рисса и Надя[*\ с. 408), семейство унитарных операторов Ut, образующее группу, допуска- ет спектральное представление оо Ut = J eiME(d‘k), (4.16) где E(dh)—семейство проекционных операторов, опреде- ленное на всех измеримых множествах А прямой —оо < < X < оо и обладающее уже описанными свойства- ми (4.8). Сами стационарные процессы ________ = £Ш0), Л = (4.17) , представляются в виде сю (4.18) — оо где случайные а-аддитивные меры Ф^(йХ) ФА(бй) = Я(^)М0) (4.19) удовлетворяют соотношениям (4.13), (4.14). Назовем представления (4.11), (4.18) стационарных процессов g(0 спектральными, фигурирующие в них ме- ры Ф^ спектральными случайными мерами, а вектор- столбец > Ф = {Ф^ - (4.20) — спектральной случайной мерой п-мерного процесса Резюмируя все сказанное выше, сформулируем сле- дующую теорему. Теорема 4.2. Каждый многомерный стационарный процесс ^(0 = {^(0}ft==— допускает спектральное пред- ставление £(/) = Р<Мф(Л.) (4.21) *) Так, например, будет, если корреляционные функции Bki (t), к, I =Л,п, все непрерывны.
28 Гл. I. Гармонический анализ стационарных'процессов в виде интеграла по спектральной случайной мере Ф == - (интегрирование производится в пределах —л</1<л в случае дискретного времени t и в преде- лах — о© <Х< 00 — в случае непрерывного t). Пример 4.1. Пусть g (t) — стационарный процесс с дискрет- ным временем, такой, что при всех t и некотором N. Положим 2л = N i' N ___ т.= 2 c~ih^(k)\ 7 = 1, TV. k=i Если U — унитарный оператор, соответствующий нашему процес- су § (0, то uv. = 2 Vе+*) = e4lj 2 (*+1) = k=l h=l Кроме того, N NN J=1 h=i N поскольку i у» _P> tv (о, N .t-k . £1 г— N = fe=l 3=1 если tz= к (mod TV), если к (mod TV). Положим ~ bj — 2л, Ф(М = "^- 7 = 1, TV. 3 Мы видим, что 5(0 = 2 е ,ф(М» 1 где O(Xj) — некоррелированные между собой случайные величи- ны. Таким образом, перед нами спектральное представление ста- ционарного процесса %(t).
§ 5. Корреляционная функция и спектральная мера 29 § 5. Корреляционная функция и спектральная мера стационарных процессов ' Пусть = (5.1) — тг-мерный стационарный процесс, а g(f) = JeW(dA,) (5.2) его спектральное представление *) Ф = {ФА}Л=17Н (5.3) (здесь — спектральная случайная мера, отвечающая к-й компоненте Zk(t) многомерного процесса £(f)). Пусть 5A,(f) = #^+s)g^, к. (5.4) Назовем матрицу = (5.5) корреляционной функцией процесса £(£). Положим ^(Д) = Л/Фа(А)ФГ(А), М = (5.6) Благодаря свойствам (4.13) и (4.14) спектральных слу- чайных мер комплексные функции множеств FM о-адди- тивны и имеют ограниченную вариацию: \FU (А) I [ЛДД) ] "2 [F(I(А) ] "2 с [Bkk(0) ] >/2 [В„(0) ] >/2 (5.7) для любого измеримого множества А. > Очевидно, Вм (о = f e™FM (Л), к,1*=Т~п. (5.8) В свою очередь функции Fkt определяются Bki(t) при помощи обратного преобразования Фурье: для любого интервала А=(М, ^2) с концами М и Л2, такими, что *) Здесь и далее мы для удобства будем опускать пределы интегрирования —л к л в случае дискретного времени t и —оо < Л < оо в случае непрерывного t.
30 Гл. 1. Гармонический анализ стационарных процессов = = 0, имеет место следующее соотношение: Рhl (А) = Bill (°) • [^2 ^1] + + lim T^oo0<j/|<T —— i}4t e 2 — e 1 — it (5-9) в случае дискретного времени t и т 4 I л . p i Fu (A) = lim A- --------------£-----Bu (/) dt (5.10) T-^oo — lL в случае непрерывного t. Назовем матрицу f= (5.11) спектральной мерой процесса £(£). В случае, когда все элементы FM спектральной меры F абсолютно непрерывны, так что существуют Fb1 W --- ^(Х)=Лг-’ М=1,«, (5.12) ал будем говорить, что многомерный стационарный процесс £(£) имеет спектральную плотность, /W = {M<zg. (5.13) Спектральная мера F является о-аддитивным семей- ством матриц, т. е. (°0 \ оо U aJ= s ь=1 j (5.14) если множества Aft не пересекаются между собой, причем матрица F(А) положительно определена для любого^ множества А. Действительно, 2 2 CJZFW(A) = M М=1 S сАФИД) fe=l (5.15) при любых комплексных числах а, ..., сп. Характерным свойством положительной определенности обладает кор- реляционная функция B(t): N 2 cpcqBkphq (^р— (5.16) p,q=i
§ 5. Корреляционная функция и спектральная мера 31 для произвольных N чисел ci, ..., cN и индексов к[,..., kN (при всех ti, ..., tN). Действительно, сумма в (5.16) есть не что N 2 cp%hp(jp) Р=1 Теорема М иное, как математическое ожидание 2 , которое, конечно, неотрицательно. 5.1. Матричная функция является корреляционной функцией некоторого много- мерного стационарного в широком смысле случайного процесса тогда и только тогда, когда она удовлетворяет условию (5.16). При доказательстве этого предложения для простоты ограничимся случаем, когда элементы Bkl(t) матрицы В непрерывны по t; тогда достаточно определить значения ^(t) стационарного процесса лишь на некотором счетном всюду плотном множестве значений параметра t, напри- мер, в рациональных точках, а затем продолжить их по непрерывности на все t. Теорема 5.1 является очевидным следствием следую- щей общей леммы. Лемма 5.1. Для того чтобы в некотором гильберто- вом пространстве И существовала последовательность элементов hx, h2, hm, ... (5.17) такая, что (Jimi km'} = Bmmf, (5.18) где Bmmf (иг, иг' = 1, 2, .. .) — некоторая заданная сово- купность комплексных чисел, необходимо и достаточ- но, чтобы при любых N, к[, ..., kN имело место S— CpCqB^^^Q (5.19) P,Q=1 для произвольных комплексных чисел С\, ..., cN. Доказательство. Необходимость условия (5.19) ясна, поскольку II N ” S cphhr) II P=1 0. Матрица 2?(7П) = является положительно определенной. Пусть матрица есть поло-
32 Гл. I. Гармонический анализ стационарных процессов жительный квадратный корень из матрицы В(т\ Выбе- рем в Н ортонормированную систему элементов > • • • ч И ПОЛОЖИМ т h(km)= k=T7~m. (5.20) j=l Имеем m <№\ h^)=^b№b\T = Bhi. 1=1 Проведя это построение для всех т, найдем искомую последовательность (5.17) следующим индуктивным про- цессом. Положим = hi^- Предполагая, что элементы ..., hm уже найдены, определим на элементах (5.20) оператор Тт равенством тть(™+1) = hh, к = Легко видеть, что оператор Тт изометрический, и его можно продолжить с сохранением изометричности на все Я*). Определим следующий элемент hm+\ как hm+1 = Tmh^\ Очевидно, элементы Я1, . . ., Ят, hm+\ удовлетворяют равенствам (5.18), что и требовалось доказать. Пусть, далее, имеется матричная функция множеств р=(MS *) Положив дополнительно Tmfk — fk, к = 1, 2, <4.,где {fk} и {/л} — ортонормированные базы в ортогональных дополнениях к линейным оболочкам элементов ..., и /гь ..., hm соответственно, получим изометрический оператор Тт; по лемме 4.1 его можно продолжить на все Н.
§ 5. Корреляционная функция и спектральная мера 33 элементы которой FM являются о-аддитивпыми комплекс- ными функциями ограниченной вариации. Теорема 5.2. Для того чтобы матричная функция F была спектральной мерой некоторого стационарного в широком смысле случайного процесса, необходимо и до- статочно, чтобы матрица F(\) была положительно опре- деленной для любого множества А. Доказательство. Мы уже видели, что спектраль- ная мера стационарного процесса всегда положительно определена (см. соотношение (5.15)). Рассмотрим теперь положительно определенную мат- ричную функцию множеств F = {Fhi}1^^ Пусть функции BM(t) связаны с компонентами Fkl соотношениями (5.8). При любых N, t\, ..., tN имеем Р N г . CPCq^hpkq tq) ~ J S cpcqe Р q^hphq (^) == P,q=~-1 Г ' М==1 = [ 2 Фл где Фь(Ч= 2 cveMp, kp— k а комплексные числа а, ..., cN произвольны. Таким об- разом, матрица B(t) = {Bki (O^Zf^ Удовлетворяет усло- вию теоремы 5.1, и поэтому является корреляционной функцией некоторого многомерного стационарного слу- чайного процесса £(£)• Благодаря единственности пред- ставления (5.8) отсюда заключаем, что F является спект- ральной мерой этого процесса £(£). Теорема доказана. Пусть и 1](0 = являют- ся стационарными процессами, стационарно связанными друг с другом (т. е. компоненты k=i, п; /=1, пг, все между собой стационарно связаны). Матрицу = (5-21) с элементами = + (5.22) будем называть взаимной корреляционной функцией процессов £(£) и ц(£). 3 Ю. А. Розанов
4Ж) 34 Гл, I. Гармонический анализ стационарных процессов Пусть ф^ = {ф|] — И ФП={фР). ------- I i n I j Ij=ifm — спектральные случайные меры этих процессов. По- ложим (dX) = 7ИФ1 (dX)Ф?(йХ) (5.23) и назовем матричную функцию множеств Г1" = I4?l'6:g, (5.24) элементы которой являются о-аддитивными комплексны- ми мерами вида (5.23), взаимной спектральной мерой процессов £(£) и ц(^). В случае, когда все меры аб- солютно непрерывны, матричную функцию /Б”(*) = {/IPWIZB (5-25) где /!?(*) = будем называть взаимной спектральной плотностью. Конечно, элементы и F^ связаны между собой соотношениями, аналогичными (5.8), (5.9) и (5.10). § 6. Эргодические теоремы и закон больших чисел Пусть стационарный в широком смысле случайный процесс имеет непрерывную корреляционную функ- цию B(t) (формально корреляционная функция в слу- чае дискретного времени всегда непрерывна) и g(z) = уешф(Л) (6.1) есть его спектральное представление. Из теорем 2.1 и 2.2 следует, что процесс £(£) изме- рим и интегрируем на любом конечном отрезке. Рассмотрим средние по времени от процесса £(£): Г-1 7-2^0 = о 1 V’1 1 С 1 - е^т 4-2ф(^)= J ф«> (6-2 *) О J — л
§ 6. Эргодические теоремы и закон больших чисел 35 в случае дискретного времени t, и т о оо _ л —ф(^) (6.3) —оо 2 т 1 О в случае непрерывного t. Остановимся для определенности на случае рывного времени, Имеем: т I У^(О^-Ф(О) о непре- М = 2 е*т-1 ЦТ , . 2 Т 4 sin А/ и - (6.4) где F(dX) = М |Ф(dk) I2 — спектральная мера стационар-, ного процесса £(£). Разобьем интеграл в (6.4) на две части: 2 Т С 4 sin Zy J , т р 4 sin J I2/*2 0<IX| <8 Так как р 4 sin2 % -у J Х2Г2 |Х|>8 , 2 Т г 4 sin % у J mi- |Х|>8 Л -^->о е2Т2 при Т -> оо для любого е > 0, а т р 4 sin2 Z -у Р J J F(dX)->0 o<|Xlce o<IXl<8 при е -> 0, то (6.5) при Т -> оо 3*
36 Гл. I. Г армонический анализ стационарных процессов Совершенно аналогично, в случае дискретного времени Т-1 м т-2^(0-Ф(0) о 2 ->о (6.6) при Т -> оо. - Итак, доказана следующая теорема. Теорема 6.1. Временные средние (6.2), (6.3) ста- ционарного процесса %(t) сходятся в среднем квадратич- ном при Т оо к значению Ф(0) спектральной случай- ной меры этого процесса. Назовем процесс %(t) эргодическим, если его «времен- ные средние» сходятся к математическому ожиданию Mg (0 (Mg (t) = тп). Как следует из теоремы 6.1, процесс g(£) является эргодическим тогда и только тогда, когда Ф(0) = тп (6.7) с вероятностью 1. Этот факт можно охарактеризовать в терминах спектральной меры F процесса g(£). Именно, из (6.7) вытекает, что 2^(0) = М |Ф(0) I2 = IttzI2. (6.8) Как было отмечено на с. 13, функция множеств Fi(dk), определенная на множествах А при помощи равенства (А) = МФ (А) = М[Ф(А) • 1], (6.9) является комплексной мерой, которая в силу стацио- нарности процесса g(£) вся сосредоточена в начале ко- ординат. Это обусловливается тем обстоятельством, что m = M%(t) = J (d%) (6.10) есть постоянная, не зависящая от t. Таким образом, всегда МФ(0)=тп. (6.11) Пусть теперь выполнено соотношение (6.8). Тогда М|Ф(0)-т|2 = М|Ф(0)|2- |т|2 = 0, (6.12) откуда и вытекает равенства (6.7). Таким образом, доказана следующая теорема.
$ 6. Эргодические теоремы и закон больших чисел 37 Теорема 6.2. Для того чтобы стационарный в ши- роком смысле процесс ^(t) с математическим ожиданием (£), равным т, был эргодическим, необходимо и до- статочно, чтобы его спектральная мера F удовлетворяла условию (6.8). Отметим, что для эргодического процесса ^(t) из тео- ремы 6.1 вытекает закон больших чисел: для любого 8 > О Т-1 -у m о при Т -> оо (время t — дискретно), т -у J тп О (6.13) (6.14) при Т -> о© (время t — непрерывно).1 Далее, совершенно аналогично доказательству теоре- мы 6.1 получаются следующие соотношения: Т-1 lim 4- 2*"1М^)=Ф(М (6.15) (дискретное время), т lim 4 f (0 dt = Ф (Хо) (6.16) Т->оо 1 Э (непрерывное время). Пусть теперь А (Xi, Х2) есть интервал, такой, что Ф(М)= Ф(Х2) = 0, и фд(Х) = 1, 1 2 ’ 0, при при при Xj_ X Х2 К = Х-р X = Х2, X Хр Х^>Х2. Остановимся для определенности на случае дискрет- ного времени (—л < Xi < Х2 С л). Ряд Фурье функции <рд(Х), Фа (Ч - 4; Л - Ч) + S 2 (О-17) i^O
38 Гл. 1. Гармонический анализ стационарных процессов сходится в каждой точке Л отрезка [—я, л], причем, по- скольку фд(^) есть функция ограниченной вариации, его частные суммы Л Л -iXnt -- o<|/RT равномерно ограничены, и поэтому lim f | срд (X) - ST (К) I2 F(dk) = 0. (6.18) т-*°° -Я Отсюда сразу вытекает, что Ф(А) = f фд(Х)Ф(йХ)= lim (* 5т(Х)Ф(йХ) = Л Т-*«> -п A A —1^2^ —iKjt + 2 —W- (6-19> i->0° о<ккт где предел нужно понимать в смысле сходимости в сред- нем квадратичном. Совершенно аналогично можно показать, что в слу- чае непрерывного времени т . st —1^2^ —iKyt Ф(Д) = j -----t(t)dt (6.20) для любого интервала A=(Zi, Л2), такого, что Ф(Х1) = = Ф(Х2) = 0. Резюмируя сказанное, сформулируем сле- дующую теорему. Теорема 6.3. Значения спектральной случайной меры Ф стационарного процесса %(t) могут быть выра- жены через значения самого процесса посредством соот- ношений (6.19), (6.20). В заключение этого параграфа отметим одно полез- ное свойство стационарного процесса £(£) (с непрерыв- ным временем), имеющего ограниченный спектр: Щ)= J ешФ(Л), (6.21) — W где спектральная случайная мера Ф(с?Х) целиком сосре- доточена на открытом интервале (—иц w).
§ 7. Представление элементов пространства значений 39 Теорема 6.4. Всякий стационарный процесс с ог- раниченным' спектром, сосредоточенным на интервале (—w, w), можно представить в виде (6.22) где ряд сходится в среднем квадратичном. Доказательство. Функция еги от X имеет на от- резке [—w, w] ряд Фурье, сходящийся в среднем квад- ратичном по мере F(dk) = М |Ф(с£Х) I2: Л П /1 л sinwp —— £ i-k \ Ш ) W ------т~е t —---к w Следовательно, J еШф(^) = 2 4—^—й J е W ф» —w t — ~7Т к ~w откуда и вытекает представление (6.22) процесса £(£). § 7. Спектральное представление элементов пространства значений стационарных процессов Предварительно введем некоторые обозначения. _____ Матрицу а, состоящую из элементов ahj (к = 1, и; j = 1, тп) и имеющую п строк и тп столбцов, будем обо- значать Матрицу а, состоящую из одной стро- ки элементов а\, ..., gw, будем называть вектором-стро- кой и обозначать {ajp’sl,w. Аналогично, матрицу а, со- стоящую из одного столбца элементов а\, ..., ап, будем называть вектором-столбцом и обозначать {ah}k=-^. Под произведением матриц « = и 6 = будем понимать, как обычно, матрицу с = ab = ’ m где см = ^akjbji. Далее, сопряженной к матрице 7 = 1 _ _ а = назовем матрицу а* = под нормой
40 Гл. I. Гармонический анализ стационарных процессов ' 7=1,m — Jk=i,n 1/2 , и, наконец, следом Sp а квадратной IlaII матрицы а = будем понимать количество " п m Н1 = 2 SlW _fe=15=l матрицы a = {akj}Jk=^ назовем сумму ее диагональных элементов: п sp а = 2 ^kk* * k=l Пусть Hi — пространство значений n-мерного стацио- нарного процесса £(0 = спектральное пред- ставление которого суть IW = j Ф = {ф^=^. (7.1) Мы покажем, что для любого элемента ]h hs_Hi су- ществует векторная функция <р (А,) = {<Pfe(M}fe=1,n> такая, что h представляется в виде интеграла по случайной мере Ф: л= у<р(1)Ф(а> = Js<pft(X)oft(a). (7.2) Пусть F = {Fki}^=^ — спектральная мера стационарно- го процесса £(£) и ц — некоторая положительная мера, относительно которой абсолютно непрерывны все элемен- ты Fki спектральной меры F*). Обозначим fkj (?i) плотность комплексной меры Fht относительно ц: = к- <7-3> Поскольку матрица F(A) = {FM (Д)}^“^ положи- тельно определена для любого измеримого множества А (см. теорему 5.2), матричная функция Ш (Cg (7-4) *) В качестве меры ц можно взять, например, функцию мно- п жеств, определенную равенством И = 2 ^kk' так как для лкн h=l бого измеримого Д в силу положительной определенности матрицы Г(Д) из равенства нулю ее диагональных элементов Fkk(A) выте- кает, что Fki (Д) = 0 при всех ки1.
$ 7. Представление элементов пространства значений 41 будет положительно определенной для почти всех X (от- носительно меры p(dX)). ___ Рассмотрим векторную функцию ф (^) == {<Pfe(^)}fe==1,n« Б|удем говорить, что она принадлежит пространству 42(7г), если функция [фМЛ)МфМ1 = 1 Tfc(b)W)/W) М=1 интегрируема по ц: Jh(M/g)(^(Mh(^)<oo (7.5) (интегрирование производится в пределах —л С X л в случае дискретного времени f, и в пределах —°° < % < < оо в случае непрерывного t). Отметим, что для простой функции ф(Х), принимаю- щей не более чем счетное число различных значений, Ф (М= Ф(р) ПРИ Ь <= Др» f [ф(М/Ю(МфМ] н(^) = 2ф(р)Р(Ар) Ф(р)- (7.6) р Если векторные функции ф и if обе принадлежат пространству Ь2(^), то функция [ф/(и),ф] интегрируема по мере ц, так как в силу положительной определенно- сти матрицы /(и) для почти всех X относительно ц, и по неравенству Ко- ши — Буняковского J [ф/иЧ1 н(^Х [ф/(ц)Й H(^)}1/2{j И(<й)}1/а. (7.7) Ни сам интеграл в (7.5), ни пространство L2(F) не за- висят от выбранной нами меры ц: если v — другая ме- ра, относительно которой абсолютно непрерывны все элементы Fki, то J [ф/иЧ] И W = J [<p/v4] V (dX) (7.8) д д для любых векторных функций ф и if из пространства L2(F) и произвольного измеримого множества Д. Дейст*-
42 Гл. I. Гармонический анализ стационарных процессов вительно, если обозначить ц и v части соответствующих мер [х и v, абсолютно непрерывные относительно друг друга, и положить a(Z)= [i(dK)/v(d'k)3 то, как легко понять, № (*) = ж (*) = а (*) (М = а № № (*) (7.9) для почти всех X относительно риг, откуда и следует равенство (7.8). Обозначим интеграл (7.8), общий для любых мер ц и v, как [ (pF(dX) ф: д J <pF (<&) = j [<р/^] и (Л). (7.10) А А Будем говорить, далее, про некоторое свойство, что оно выполняется почти всюду относительно спектраль- ной меры F, если оно выполняется при всех %, за ис- ключением X из некоторого множества До меры нуль, т. е. такого, что F(Aq) = 0. Отметим некоторые простые свойства определенного выше интеграла: [ ф/г(йА,)ф А [ ф/7 (dX) ф А J (pF (dk) ф А ^ф^(с?Х)ф А V2 ? (7.И) <Sup|^(X)||supH(X)||||F(A)||, (7.12) Л X и, наконец, j (pF (<Л) q> = 0 (7.13) А тогда и только тогда, когда Нф (Z) И = 0 почти всюду от- носительно F на множестве Д. Доказательство этих свойств предоставим читателю. В силу соотношений (7.11) — (7.13) вместе с вектор- ными функциями ф и ф пространству L2(F) будет при- надлежать и функция вида (мр + Ьф, где а и b — произ- вольные комплексные числа, и, таким образом, прост- ранство L2(F) является линейным. Если не делать раз- личия между векторными функциями ф и ф, разность которых удовлетворяет условию J [ф - 1|)] F (Л) [ф- 4] = О, (7.14)
§ 7, Представление элементов пространства значений 43 и ввести скалярное произведение как (ф, 4>) = J (p^(dZ)4>, (7.15) то L2(F) станет гильбертовым пространством с нормой НфИ = (ф, ср)1/2. Лемма 7.1. Пространство L2 (F) является полным, т. е. для любой фундаментальной последовательности ф(р), р = 1, 2, ..., элементов из L2(F), lim || Ф(Р) - ф«7)|| = 0, (7.16) p,q-+<x> существует векторная функция ф, <peL2(F), такая, что lim || <р — <р^>||= 0. (7.17) р-*оо Доказательство. Выберем вспомогательную^ме- ру ц таким образом, чтобы матрица /(ц) = с компонентами (X) = Fki (dh)/p,(dh), была отлична от нуля почти всюду относительно меры ц. Обозначим т(Х) наименьшее отличное от нуля соб- ственное число матрицы /(ц)(Х), 0л — подпространство n-мерных векторов ф = удовлетворяющих усло- вию ф/(ц)(Х)=О, и 7?л — ортогональное дополнение к 0л в n-мерном векторном пространстве. Очевидно, ПфН = О тогда и только тогда, когда ф(Х)^0л для почти всех X относительно меры ц. Легко понять, что для любой век- торной функции ф^£2(^) найдется другая функция фе£2(^), такая, что Нф — фН = О и ф(А)е/?л для почти всех X относительно ц, причем для этих X * п Ф(Л)/ад(Л)Ф(Л)>т(Х)3|фИМ12- 1 В силу сказанного, не ограничивая общности, можно считать, что ф(р) = ф(р), р = 1, 2, ..., и тогда II <р(Р) _ <p(g) II > J тп (X) s I ф!р) (Ч - ф!9) (X) I2 и (d%) -> о при р, q оо. Отсюда вытекает, что найдется подпосле- довательность, которую мы также обозначим ф(р), р = = 1,2,..., такая, что 2 lri”’(4 -vi’W -о 1
44 Гл. I. Гармонический анализ стационарных процессов при р, q -+ о© почти всюду относительно меры ц, и, сле- довательно, существует векторная функция ф= {фй}й==1’п, являющаяся пределом подпоследовательности векторных функций ф(р): lim 2 I <РйР) W — Tfe W I2 = О р-»оо h=l для почти всех % относительно меры ц. Таким образом, для этих К lim = ф/ц)<р. р—>00 В силу фундаментальности последовательности ф(р), р = 1, 2, ..., существует постоянная С такая, что || ф(Р) Ц2 = J [ ф(р)/ И) * (Р) ] и С при всех р = 1, 2, ..., и, по теореме Фату, интеграл от функции [ф/(ц)ф] ограничен этой же постоянной: Полученное соотношение показывает, что векторная функция ф принадлежит пространству L2(F). Далее, для любого е > О 11ф(р) — <p(g)ll С е при достаточно больших р и q. Если, используя теорему Фату, здесь.перейти к пределу по подпоследовательности Ф(р), для которой ф(р) (Z)-> ф(Л) почти всюду относитель- но ц, то окажется, что Пф — ф(дМ1 8 при достаточно больших q. Это и доказывает нашу лемму. Вернемся теперь к многомерному стационарному про- цессу 1(0 = {1ь(0}л==п? Установим соответствие между случайными величинами й, h = 2 f <pft (X) <Dft {dk) = J 2 <pft (M ф (a) = j* <р(Х)Ф (<&), k=ld v h=l d .18) пространства /Д, где УI к =v£ (7.19)
§ 7, Представление элементов пространства значений 45 и векторными функциями ф = Это соответствие есть изометрическое отображение в пространство L2(F), так как если ( 2 п (Х)ФА (Л) = (V (X) Ф (Л) v k=l v. является случайной величиной того же вида (7.18), то (h, h') = J <pF (d%) ч>' = (Ф, ф'). (7.20) По лемме 4.1 это соответствие можно продолжить до изометрического отображения всего пространства Н* на все пространство A2(F), поскольку векторные функции Ф = {фЛ удовлетворяющие условию (7.19), всюду плот- ны в пространстве L2(F). Этот факт показывает, что каждому элементу h из /Д соответствует некоторая векторная функция ф е ePf/1), причем если ф есть предел функций ф(р), р = = 1, 2, удовлетворяющих условию (7.19), то h = lim 2 J ФйР)(МФл W = lim [ ф<?> (X) Ф (dX). р->ОО fc=l d p~»OO Предел здесь один и тот же для любой последова- тельности <р(р), р == 1, 2, ..., сходящейся к ф; будем обо- значать этот предел как *) h = f 2 фН^)Фй(Л)= [ф(Х)Ф(Л). (7.21) J h=l J Формула (7.21) и дает нам спектральное представление элементов h пространства 7Д значений стационарного процесса £(£). Назовем векторную функцию ф = {фь}й=1,п в (7.21) спектральной характеристикой величины h. Очевидно, интеграл в (7.21) определен для любой функции ф из L2(F), а соотношение (7.20) сохраняет силу для произвольных величин h и h'. Следует подчеркнуть, что векторная функция ф = — {фл}А==1,п в представлении (7.21) элемента h простран- *) Заметим, что <рл уже могут не удовлетворять условию (7.19), т. е. каждый из интегралов J ф^ (X) Фд (dA,) в отдельности уже может не существовать.
46 Гл. I. Гармонический анализ стационарных процессов ства определена неоднозначно. Именно, если функция Ф = {фл}Л=1,п такова, что [ф ф] F (dk) [ср — ф] = 0, (7.22) то ф в формуле (7.21) может быть заменена на вектор- ную функцию ф. Далее, если Т есть линейный оператор на простран- стве то равенство h'= ти = rfj <р(Х)Ф(сй)] = = J Ф'(МФ(^) = j* (X) Ф(dX) (7.23) порождает на пространстве L2(^) линейный оператор Т', Г'ф = ф', и наоборот, каждому линейному оператору Т' в L2(F) соответствует линейный оператор Т в Н$. Легко понять, что унитарному оператору Ut, отвеча- ющему стационарному процессу соответствует опе- ратор умножения на eiKt. Это вытекает из того, что зна- чениям %k(t) процесса соответствуют в пространстве L2(F) векторные функции вида elKt8k (где 8k — есть постоянный вектор с компонентами 8kk = 1, 8М == О при к¥=1), и равенство (7.23) выглядит для оператора Т = Ut как = Ц + s) = J ?«'+«) 6кФ (dX). (7.24) Аналогично, значениям ФДД) спектральных мер про- цесса 1-(t) соответствуют векторные функции вида Хд(Х/)6ь, где %д(Х)— характеристическая функция множе- ства А (хд(Х)= 1, когда %д(Х) = 0 — в противном случае), а проекционным операторам Е(А) соответству- ют операторы умножения на функции %Д(Х). § 8. Линейные преобразования стационарных процессов Пусть £(£) = {£fe(0}fc==vr — некоторый n-мерный ста- ционарный процесс, спектральное разложение которо- го суть 1(Ч = )«“ФЕ(Л), Ф5 = {ФЦлад
§ 8. Линейные преобразования стационарных процессов 47 Условимся говорить, что тп-мерный стационарный процесс ц(^) = получается из %(t) линейным преобразованием, если каждая его компонента допускает спектральное представление вида T).(f) = уешф.(Х)фЧЛ), / = Т7^, (8.2) с некоторой векторной функцией Ф; = {ф^Р=1*п из прост- ранства L2(F). Соотношение (8.2) можно записать в матричной форме: 11(0 = ' (8.3) (здесь матрица Фч£ W == {ф3л (^)}|7т^1 символически умно- жается на матрицу Ф5((/Х)= {Ф1(бД)}ь=1“ состоящую из одного столбца). Формулы (8.2) и (8.3) показывают, что случайные величины тр(£)—значения стационарного процесса ц(£)—принадлежат пространству Н$. Будучи стационарным процессом, ц(7) имеет свое спектральное представление: г1(0 = |^Ф’’(^); Ф” = Из соотношения (8.2) вытекает, что спектральная случайная мера Ф” = {Фр};=7^ процесса ц (i) такова, что фР(Д) = <|‘ф.(Х)Ф5(^), /= 17m. (8.5) А В матричной форме соотношения (8.5) можно запи- сать как Ф” (А) = J (X) Ф5 (Л). (8.6) А Компоненты F^ спектральной меры 2?tlT1= про- цесса ц (£) выражаются через спектральную меру F& = = {процесса %(t) при помощи равенств (А) = J (й%)ф;, i, j = 17^, (8.7) А
48 Гл, I. Гармонический анализ стационарных процессов или, в матричной форме, ^”(А) = (8.8) А Цудем называть матричную функцию Фп;=={ЫРЙ спектральной характеристикой нашего линейного преоб- разования. Очевидно, стационарные процессы %(t) и ц(£) ста- ционарно связаны между собой. Пусть их взаимная спектральная мера есть Имеем ¥ ^(^)=фп?(Х)^(^)фп5(Х), F^(dX)=<pMF^(d%). (8-У) Оказывается, соотношения (8.9) не только необходи- мы, но и достаточны для того, чтобы многомерный ста- ционарный процесс ц(£) получался из многомерного ста- ционарного процесса £(£) при помощи линейного преоб- разования со спектральной характеристикой ’ Лемма 8.1. Пусть стационарный процесс ц(/) = стационарно связан с процессом £(£) = = а стационарный процесс ЪЦ) = получается из %(t) линейным преобразованием, причем их спектральные меры удовлетворяют условиям F™ (dX) = F« (dX), F* (dX) = F^ (dX). (8.10) Тогда процессы ц(£) и £(£) тождественны. Доказательство. Равенства TW)=M), j = 7Ъ(£)=^(0г k=i,n, — oo<f<oo, определяют на элементах £г(£) и gft(£) пространства изометрический оператор Т: Ц) mF) = J F$ (dk) = = J еы-t') (dX) = Мч (f) MO
§ 8. Линейные преобразования стационарных процессов 49 и, аналогично, По лемме 4.1 оператор Т можно продолжить с сохра- нением изометричности на все пространство Но в си- лу нижних равенств (8.11) оператор Т является тож- дественным (он переводит случайные величины в сами£ себя), и потому / = 1, m, < : при всех t, что и требовалось доказать. Теорема 8.1. Пусть многомерные стационарные процессы x\(t) и ^(t) стационарно связаны. Для того чтобы процесс x\(t) получался из ^(t) ли' нейным преобразованием со спектральной характеристи- кой фп5, необходимо и достаточно, чтобы спектральные меры F™, и F^ этих процессов удовлетворяли ус- ловию (8.9). Доказательство. Пусть £(£) = уе{«Ф5(Л). Определим стационарный процесс равенством = уешф^(Х)ф(^). (8-12) Интеграл в (8.12) существует, так как существует интеграл Очевидно, спектральные меры процессов £(£), Л (О и £(£) удовлетворяют условиям (8.10), откуда по лемме 8.1 вытекает, что процесс £(£) на самом деле совпадает с ц(£). Теорема доказана. Замечание 1. Стационарный тп-мерный процесс Л(£)> стационарно связанный с «-мерным процессом Z(t), получается из него линейным преобразованием тог- да и только__тогда, когда при некотором to значения Л,(£о), J процесса л(0 принадлежат пространст- ву Hz значений процесса £(£); при этом лД0~ = Ut-/оЛ; (£о)> 7 = 1» т> где ~ унитарное семейство процесса £(£). Замечание 2. Если стационарный процесс %(t) имеет спектральную плотность то процесс ц(/), полу- 4 ю. А. Розанов
50 Гл. I. Гармонический анализ стационарных процессов чающийся из линейным преобразованием со спект- ральной характеристикой ср^, также имеет спектральную плотность, причем, как это следует из (8.9), (8.13) (здесь — взаимная спектральная плотность). Замечание 3. Если процесс ц(£) получается из процесса %(t) линейным преобразованием со спектраль- ной характеристикой (pnS, которая для почти всех X яв- ляется невырожденной Матрицей, то в свою очередь %(t) можно получить из ц(£) линейным преобразованием, причем <Pbl = «м1- (8-14) Доказать эти предложения предоставляем читателю. Рассмотрим некоторые примеры. Пример 8.1. Пусть g (t) — стационарный процесс с непре- рывным временем, g(t)= J ешФ(<&), —оо спектральная мера F которого удовлетворяет условию J (<а) < оо. —оо Рассмотрим стационарный процесс ц(0, получающийся из В (0 линейным преобразованием со спектральной характеристикой <р(Х) = /X, »,(«)= J (fX) Ф (d%). —оо Легко заметить, что процесс ц(£) получается формальным дифференцированием процесса g (t) по времени: d п (0 = ^(0. Этому соотношению можно придать строгий смысл. Именно, функция iKeiKt при каждом фиксированном t есть предел в сред- 1 нем квадратичном функций <ре (X) = — [егХ(/+е) — при е -> О, lim f |aeiW ~<p.(M|2F(d%) = 0, Е—>0 J 1
§ 8. Линейные преобразования стационарных процессов 51 и поэтому г] (0 есть предел в среднем квадратичном случайных величин -у- (t + е) — £ (<)]: итм|п(О-1.(А+?Ь-.^£О|2=о. £-»0 [ в I Процесс ц(0 называют производной (в среднем квадратичном) стационарного процесса £(£)• Пример 8.2. Пусть g (t) — стационарный процесс с дискрет- ным временем, л 5(0 = J eiMa>(dV, —Л а стационарный процесс ц(0 получается из ^(t) линейным пре- образованием со спектральной характеристикой tp(Z), имеющей абсолютно сходящийся ряд Фурье: сю сю <₽ w = 2 с е-ш> 21 с оо । < °°. — QO —со В этом случае р 00 Л (0 = f еШф (X) ф (dA.) = 2 С (i - s) I (*). -00 Пример 8.3. Пусть g(t) — стационарный процесс с непре- рывным временем, |(t)= J ешФ(йХ), —оо а стационарный процесс ц(/) получается из линейным пре- образованием со спектральной характеристикой ср(Х), являющейся преобразованием Фурье от некоторой интегрируемой функции: ф(Х)= J e~iKtc(t)dt, J I с (i) I dt< оо. — 00 —00 х Тогда *) (0 = J eiwq> (А.) Ф (d%) = J с (t-«)£(,) ds. — ОО —00 Пример 8.4. Пусть £ (t) — стационарный процесс с непре- рывным временем, g(t)= J ?w®(dX), — 00 4*
52 Гл. I. Гармонический анализ стационарных процессов а стационарный процесс ц(£) удовлетворяет дифференциальному уравнению с постоянными коэффициентами: «оп(п)(О + «iT](n-1)(0 + ••• + = 1(0, где производные &==1, тг, понимаются как производные в среднем квадратичном. Из примера 8.1 видно, что £(£) получается из процесса ц(0 при помощи линейного преобразования со спект- ральной характеристикой 'ф(Х) » ao(ik)п + ai . + ап, и, следовательно, процесс ц(£) получается из процесса |(£) линей- ным преобразованием со спектральной характеристикой <р(Х) == оо n(O = f -----------------*--------------Ф(<7Л). Joo а0 + а1 Wn 1 + • • • ап § 9. Стационарные процессы постоянного ранга Будем говорить, что многомерный стационарный про- цесс 5(0 — {%k(t)}k=rn имеет Ранг тч если У него суще- ствует спектральная плотность /(А,) = {fki (А)}^~£^, для почти всех X имеющая один и тот же ранг т. Лемма 9.1. Положительно определенную матрицу f = {fkранга m можно представить в виде / = 2^ФФ, (9.1) где ф есть прямоугольная матрица вида ф = Доказательство. Пусть g = {gki}1^^ есть поло- жительный квадратный, корень из матрицы 2л/, и уни- тарная матрица V приводит g к диагональному виду: * / гт dkk > 0 при к = 1, пг d = VgV = {dkl}l=^ -______ k ls dkk = 0 при к = m + 1, n* Пусть d — прямоугольная матрица, получающаяся из d отбрасыванием п — m последних столбцов. Легко ви- деть, что матрица ф = Vd удовлетворяет требованию (9.1) нашей леммы. Лемма 9.2. Пусть имеется некоторая прямоуголь- ная матрица ф = {ф^]&=£^ ранга m. Тогда существует мат-
§ 9. Стационарные процессы постоянного ранга 53 рица гр вида ф = {фг/JjZ^-; удовлетворяющая равенству (9.2) где Im — единичная матрица порядка тп. Доказательство. Система тп уравнений S ’IWfi; = Sir j = Л=1 3 ___ имеет решение^ поскольку ранг матрицы ср = [фд ее коэффициентов равен тп. Если фь удовлетво- ряют этой системе, то матрица ф = будет, оче- видно, удовлетворять равенству (9.2). Лемма доказана. Рассмотрим многомерный стационарный процесс %(t) = — {^(^)\=—ранга тп со спектральной плотностью/(А,) = = {fki Поскольку ранг матрицы’ /(X) равен тп для почти всех X, существуют матричные функции ф(Х)== удовлетворяющие соот- ношениям (9.1) и (9.2) (для почти всех X). Из этих со- отношений выводим, что Ф/ф = 2^~ ^тп (9.3) почти всюду. Пусть %(t) = JeiwO(dX) (9.4) есть спектральное представление стационарного процесса %(t). В силу равенства (9.3), для любого ограниченного измеримого множества Д существует интеграл ЛДА)= [^(Х)Ф(^), (9.5) д где векторная функция ф;- является /-й строкой матрицы ф: % (Х)={ф^ (X)}fe=1>n. Равенства (9.5) определяют слу- чайные меры Aj, / = 1, тп, которые в силу выбора матри- цы ф некоррелированы между собой, т. е. МЛДД)ЛЙД7)=-0 (9.6) при 7#=/' для любых измеримых множеств Д и Д', и, кроме того, Л/|ЛДЛ)|2=^ (9.7) при всех j = lt тп.
54 Гл. I. Гармонический анализ стационарных процессов Пусть время t является дискретным. Рассмотрим ста- ционарный процесс Л £ (0 = f e’wA(dX), —Л А ={А;}. —. (9-8) Свойства (9.6) и (9.7) случайной меры А = {АД.=— позволяют заключить, что стационарный процесс £(0 — = {£; (0};=Пп является тп-мерным некоррелированным процессом, т. е. все его значения некоррелированы меж- ду собой: W)l2 = l, 7 = 1,™, (9.9) при t Ф s и всех I, 7 = 1, кг, а также при j и всех t, з. Из соотношений (9.1) — (9.3) вытекает, что (Ч4 — /п)/(фф- Гп) = 0 (9.10) для почти всех А, и потому л л = J е^Ф(йХ)= J е«Мф(%)1|?(Ь)Ф(<&) = ~~~ JX “~JC л = j e{M(p(X)A(dX). (9.11) —Л Очевидно, элементы ф^ДХ) матричной функции ф(Х) интегрируемы в квадрате. Пусть оо ___ Фу (М = 2 Ckj (s) e~iKs, k = i,n; j = 1, тп, (9.12) — оо — их разложение в ряды Фурье. Из (9.11) и (9.12) по- лучаем представление стационарного процесса £(£) в ви- де скользящего суммирования-. оо ___ U0 = 2 с ц - S) с (4 С (t) = {chj (9.13) —оо Аналогичное представление можно получить и в слу- чае непрерывного времени. Именно, пусть случайные ме-
£ 9. Стационарные процессы постоянного ранга 55 ры &(<Й), / = 1, тп, являются преобразованиями Фурье случайных мер Aj(dX), определенных формулой (9.5): f°° Ш2 ___ е ..ne MW (9.14) —oo для любого интервала A =(£i, t2). Очевидно, меры некоррелированы между собой, а М|2 = dt, j = 1, пг. Аналогично (9.11), g(f) = J e^<p(X)A(dX), (9.15) —сю где элементы ф^-(Х) матрицы ф(Х) интегрируемы в квад- рате и, следовательно, представимы в виде интегралов Фурье: оо <pftj(X)= J eiMchj(t)dt, k=i,n; j = 1, m. (9.16) —oo Применяя к правой части равенства (9.15) формулу (3.6) этой главы, получим представление стационарного процесса £(£) в виде «скользящего суммирования»: m ___ Ы0 = 2 J chj(t — s)^(ds), k=i,n, (9.17) 1 —оо или, в матричной форме, оо £(*) = j c(t-sK(ds), C(t) = {ck}(t)}^ (9.18) —оо Нами фактически доказана следующая теорема. Теорема 9.1. Каждому представлению типа (9.1) спектральной плотности /(X) стационарного процесса %(t) (ранга пг) отвечает представление (9.13) или (9.18) самого процесса %(t) в виде скользящего суммирования, причем значения фигурирующих в этом представлении некоррелированных мер 7 = 1, пг, принадлежат про- странству Hz значений процесса £(£). Нетрудно доказать, что представления (9.13) или (9.18), обладающие указанными в теореме 9.1 свойства- ми, возможны лишь для процессов, имеющих постоянный ранг тп.
56 Гл. I. Гармонический анализ стационарных процессов Если нам уже дано представление процесса %(t) ,в ви- де скользящего суммирования, то фигурирующие в этом представлении некоррелированные меры могут быть определены по соответствующим формулам (9.8) или (9.4). Отправляясь от заданных коэффициентов c(t) этого представления (обладающих тем свойством, что оо 2 к (О II2 dt< ОО (9.19) — оо в случае дискретного времени и оа j и с (i) II2 dt< оо (9.20) — оо в случае непрерывного времени), мы в обратном порядке приходим ко всем уже выведенным соотношениям, и, в частности, к разложению типа (9.1) спектральной плот- ности /(X). Нужно отметить, что в случае, когда спектральная плотность / стационарного процесса является вырож- денной, уравнение (9.2) относительно матрицы гр опре- деляет ее неоднозначно. Но, несмотря на это, значения АДА) в формуле (9.5) одни и те же для любой матри- цы ар, удовлетворяющей соотношению (9.2). Этот факт объясняется тем, что разные решения ар и ар уравнения (9.2) удовлетворяют требованию, аналогичному (7.22). То же самое относится и к значениям некоррелирован- ных мер л £(*) = J еш^(Х)ф((/%) (9.21) —Л в случае дискретного времени ?, i л л ______________________ л 1 £(Д) = -...— i|)(X)O(dX), (9.22) •'/V — ОО A = (*ь t2) в случае непрерывного t. \- § 10. Стационарные процессы с рациональными спектральными плотностями Важным классом стационарных в широком смысле случайных процессов являются процессы со спектральны- ми плотностями /(^) = {fhi компоненты
J 10. Процессы с рациональными плотностями 57 которых рациональны относительно е~^ в случае дискрет- ного времени £, и относительно X — в случае непрерыв- ного t. Так как всякий минор такой спектральной плотности является рациональной функцией, то он либо тождествен- но равен нулюг либо обращается в нуль лишь в конеч- ном числе точек; поэтому ранг матрицы /(X) один и тот же, за исключением, быть может, лишь конечного числа точек Л. Отсюда заключаем (см. теорему 9.1), что ста- ционарный процесс = {£fc(0}fe=T“n с рациональной спектральной плотностью может быть представлен в виде скользящего суммирования. Мы покажем ниже, что матричная функция ср, отве- чающая этому представлению (она удовлетворяет соотно- шению (9.1)), может быть выбрана так, что ее компо- ненты будут рациональными функциями. Этот факт в дальнейшем поможет нам при решении важной задачи прогнозирования стационарного процесса. Лемма 10.1. Всякую неотрицательную, рациональ- ную относительно e~iK функцию /(%) можно предста- вить в виде н?.} - lp<e~iX)l2 поп ~ I Q I2’ 10Л) где полиномы m п р (z) = 2 PkZh, Q (z) = S 4hZk 0 0 не имеют нулей внутри единичного круга. Если, кроме того, /(А.) = /(—%)', (10.2) то коэффициенты ph, к = 0, тп, и qh, к = 0, п, могут быть выбраны действительными. Доказательство. Пусть тп/ = , П (e~iK-wh) где комплексные числа vk, wk отличны от нуля, а числи- тель и знаменатель несократимы. В силу того, что
58 Гл. I. Гармонический анализ стационарных процессов функция /(X) действительна, ?п' тп' П^-'Л) ПР-'-*) /(X) - 42----------= , П^-Ч) п k=l Ь=1 и следовательно, для любых vh и wk найдутся vkf и wk', соответственно, такие, что vh = v^1 и и\ = w^1. Поскольку /(X) совпадает с абсолютной -величиной лю- бого из написанных выше выражений, а k“iX — z-1l = |z|”1|ze”ix — 11 = |z-1| k_iX — z[, легко видеть, что функция /(X) может быть представлена в виде (10.1). Если эта функция удовлетворяет условию (10.2), то каждому корню vK отвечает некоторый корень vk, = vk, и каждому wh соответствует whf = wk, так что коэффициенты полиномов Р и Q могут быть выбраны действительными. Лемма доказана. По аналогичным причинам имеет место следующее предложение. Лемма 10.2. Всякая неотрицательная, рациональная относительно % функция /(X) может быть представлена в виде /(Ч = (10.3) где полиномы р (z) = S PkZk, qkzh О о не имеют нулей в нижней полуплоскости. Если функция f(k) является четной, то /(X) = f (10.4) I <?' (а) |2 где полиномы Р’ (z) и Q' (z) (Р' (iz)^ P(z), Q' (iz} = = Q(z)) имеют действительные коэффициенты. Пусть теперь /(X) = {fM (^)}^~^ есть некоторая поло- жительно определенная матрица с рациональными эле- ментами ранга пг. У матрицы /(X) найдется главный ми-
§ 10. Процессы с рациональными плотностями 59 йор порядка тп, не равный тождественно нулю, и следовательно, обращающийся в нуль лишь в конечном числе точек; пусть для определенности это будет минор, стоящий в левом верхнем углу матрицы /(X). Обозначим М5(Х) главные миноры порядка /, стоящие в том же ле- вом верхнем углу; в силу положительной определенности матричной функции /(X), МДХ)>0 для 7 = 1, тп в тех точках X, в которых М (X) = Mm(k) > 0 (для j > тп, оче- видно, Л/ДХ)=О). В частности, /ц(Х) = Мх (Х)> 0. Прибавим к Л-й строке матрицы /(X) (к — 2, п) пер- вую строку, умноженную на —W/ii, затем прибавим к Z-му столбцу первый столбец, умноженный на —/п//ц; получим матрицу где элементы матрицы имеют вид а(2)_ fkifll Ski — Jki----7—• 'и Элемент g^ (^) = (X)/Mx (X) отличен от тождествен- ного нуля, и с матрицей g(2) можно проделать ту же про- цедуру, что и с матрицей g(1) = /. Продолжая этот про- цесс, на m-м. шаге мы придем к матрице f{m) (X) диаго- нального вида: __ = (10.5) dH(X) = Mi(X), dhk(X) = M^(X)/Mfe_i(X) при к = 2, тп, dkk(h) 0 при к = тп + 1, п. Нетрудно проверить, что матрица /(X) представляется в виде / =* g dg*, где матрица d = является диагональной с уже описанными в (10.5) элементами, а компоненты gfeJ(X) матрицы g = &ч(М = 0 ПРИ }>к< е(з) = /<к> (10.6) аи
60 Гл. I. Гармонический анализ стационарных процессов могут быть получены при помощи следующих рекуррент- ных соотношений: „(D — / ghl = Jhli Аг) __ „(г~1) 1 ^г-1,/ gkl = gkl------------------------- (Ю.7) Отметим, что все элементы матриц g — g^k) = d(X) являются рациональными функциями. Пусть и d = ghl^ QhjW (10.8) где z = e~iK в случае дискретного времени t(z = h в слу- чае непрерывного t). Пусть (%р\ р = 1, 2, ..есть нули полиномов Qkj, к = 1, т, считаемые столько раз, какова их максимальная кратность, лежащие в единичном круге (соответственно, в нижней полуплоскости). Положим ^(z)= n(z-a^), р dii |e.(z)|2- (10.9) Неотрицательную функцию £>3(z), рациональную от- носительно z, по формуле (Ю.2) (соответственно (10.4)) можно представить в виде Pj (z)2 (10.10) где полиномы Р3 и Qs не имеют нулей в единичном круге (в нижней полуплоскости). Положим 5w(z)= /2л^.(Х)сДг)^^, к^Т^п, ] = \~т (10.11) (здесь z = e~iK в случае дискретного времени t и z = X в случае непрерывного t). Функции Bkj(z) рациональны относительно z и аналитичны в единичном круге (в ниж- ней полуплоскости). Нетрудно проверить, что
§ 10. Процессы с рациональными плотностями 61 Таким образом, мы приходим к следующему предло- жению. Лемма 10.3. Положительно определенную матрич- ную Функцию f (К) = {fki(K)}1^^ ранга ш, элементы ко- торой рациональны относительно e~iK (относительно X), можно представить в виде = (10.12) (соответственно №)=±В^В(Ц), (10.13) где элементы матрицы В (z) = {Bkj (z)}^"1^ рациональны относительно z и аналитичны в единичном круге (соот- ветственно в нижней полуплоскости). Матрицу B(z) можно найти по формулам (10.5) — (10.11). Рассмотрим стационарный процесс l(t) = {?&(t)}k=^ с рациональной спектральной плотностью /(X)={/fef(X)}^'j~ ранга тп. Пусть время t является дискретным. Представим мат- рицу f(\) = {fhi (h)}1^-? в виде (10.12). В силу аналитич- ности матрицы В ее коэффициенты Фурье c(O={%’(O}feLj^ л С(О = 2^- J е^В(е-^)аХ, -Л обращаются в нуль для отрицательных £, и, таким обра- зом, В(е-^) = 2с(0в“ш- (10.14) О Если t>(t) = есть некоррелированный процесс, отвечающий по теореме 9.1 матрице (p(Z) = В(е~гК), то £(0 = 2 c(t-s)Us). (10.15) —оо Мы получили представление процесса %(t) в виде сколь- зящего суммирования.
62 Гл. 1. Гармонический анализ стационарных процессов Пусть £(£)—одномерный процесс со спектральной плотностью /(А,): тп B(z) = ±------. (10.16) о В этом случае, если Ф есть спектральная случайная мера процесса £(£), 3 qkW-k)^ [ fe=0 -л L fe=l Ф(dX) - тп = %рМ-к), (10.17) fe=0 где %(t) есть последовательность некоррелированных ве- личин, л £«)-(10.18) —л фигурирующая в представлении (10.15) скользящего суммирования процесса £(£). Совершенно аналогично формуле (10.15),.в случае непрерывного времени t стационарный процесс £(£) = = с рациональной спектральной плотностью /(А,) = {fki ранга ш можно представить (в виде t £(£) = jc(f —s)£(ds), (10.19) оо где С = — некоррелированная мера, отвечающая матрице <р(А,) = Z?(A,) в (10.13) (см. формулу (9.22) пре- дыдущего параграфа), а матрица c(t) = оо с(П = A- f (10.20) —оо обращается в нуль при отрицательных t.
§ 10. Процессы с рациональными плотностями 63 Пусть £(£)—одномерный стационарный процесс со спектральной плотностью /(2i) == I В W I2» гДе 5(Х) = р' (а) <2'(а) ’ (10.21) Пусть a(t) есть произвольная бесконечно дифференци- руемая функция, обращающаяся в нуль вне некоторого конечного интервала, и оо а(Х)= e~iMa(t)dt (10.22) — оо есть ее преобразование Фурье. Функция a (Z) убывает на бесконечности быстрее любой степени Л, и потому _ • оо J |а(Х)|2/(X)dX<оо. — оо Предположим, что g(t) = J е^ф(<А) (10.23) есть спектральное представление процесса £(£). Рассмот- рим стационарный процесс оо оо ц(£)= J eiKta{K) Ф (dX) = J a(t — $)£($) ds. —оо —оо Так как оо J X2ft | а(Х)|2/(X) с/Х < оо — оо при любом к, стационарный процесс ц(£) дифференциру- ем в среднем квадратичном бесконечное число раз. Имеем ОО У ^'(^)«(^)Ф(^)= — ОО ОО ОО = J e*424jX)a(K)B(K)A(dK) = J e^tP'(i'k)a^)A(dK)l — ОО —оо
64 Гл, I. Гармонический анализ стационарных процессов где случайная мера Л (ей) такова, что Л<й> = Ж: Пусть g (dt) есть преобразование Фурье случайной ме- ры Л (ей). Тогда, воспользовавшись соотношением (3.6), будем иметь оо оо = J ^«Р'(а)д(Х)Л(Л)= J р'(А) а (# _S)] £(<&). — оо —оо Очевидно, оо —оо и потому оо = J Р'(^-) a(t — s) 'Q(ds) (10.24) — 00 для любой «финитной» функции a(t).
ГЛАВА JI ЛИНЕЙНОЕ ПРОГНОЗИРОВАНИЕ СТАЦИОНАРНЫХ ПРОЦЕССОВ С ДИСКРЕТНЫМ ВРЕМЕНЕМ § 1. Линейная экстраполяция. Постановка задачи Пусть имеется многомерный стационарный процесс £(£) = {£fe(0}fe==tn. Предположим, что этот процесс наблю- дался до момента времени £, т. е. известны его значения ft e 1, п; $ £, и требуется на основе знания этих величин предсказать (проэкстраполировать) его значения в некоторый момент времени t + x (т>0), причем сам способ предсказания должен быть линейным. Последнее означает следующее: величины т), являющиеся про- гнозом неизвестных значений %k(t + т), к = 1, п, должны принадлежать подпространству (f) — линейному замы- канию в среднем квадратичном величин £fe(s), к == 1, п, s t, значения которых известны. Линейный прогноз считается наилучшим, если его ошибки сц(т), к = 1, п: = + (1.1) будут минимальны, т. е. al(r)= min М | lh(t + т) — й|2. (1.2) Задача линейной экстраполяции и состоит в нахождении величин %k(t, т). Эта задача имеет простой геометрический смысл. Именно, из точек £л(£ + т) пространства требуется опустить перпендикуляры на подпространство (t); при этом проекции т) элементов ^(^ + т) дают наи- лучшее линейное приближение для них, а величины со- ответствующих перпендикуляров есть ошибки сц(т) этого приближения. Пусть Ut — унитарное семейство процесса £(£) = (1-3): 5 ю. А. Розанов
66 Гл. II. Экстраполяция процессов с дискретным временем при любых s, t и k = 1, п. Очевидно, ^ЯГ(5) = ЯГ(Л-5), (1.4) и в силу унитарности Ut ^)=Ь(^ + s, т), к = 1, п. (1.5) Таким образом, случайный процесс £(£, т)={^(£, т)}д=— (т здесь фиксировано) является стационарным, причем он может быть получен из процесса g(Z) линейным пре- образованием: l(t, т) = т)Ф(Л), (1.6) где Ф = есть случайная спектральная мера ста- ционарного процесса £(£). Мы будем считать величины т) найденными, если окажется найденной спектраль- ная характеристика ср (А, т) = {qhi (А)}^~^~ в представле- нии (1.6). Решение задачи линейной экстраполяции будет дано сначала для случая дискретного времени t. § 2. Регулярность и сингулярность стационарных процессов С точки зрения линейной экстраполяции естественно выделить класс стационарных процессов = {^(^)}fe=—, линейный прогноз которых позволяет определить неиз- вестные значения безошибочно, т. е. Ш т) = ^(£ + т), к = Т^ (2.1) при всех t и т (как нетрудно сообразить, равенство (2.1) автоматически выполняется при всех t и т, если оно вы- полняется для некоторых t = t$, т = То). Назовем такие процессы £(£) линейно сингулярными. С физической точ- ки зрения сингулярные процессы представляются исклю- чительными. Нас будут интересовать главным образом процессы, паилучший линейный прогноз бесконечно далекого буду- щего которых состоит лишь в указании их среднего: Нт^(^, т) = Жь *=Ц7г (2.2) Т->оо
§ 2. Регулярность и сингулярность 67 (напомним, что математическое ожидание эргодического процесса всегда может быть определено по бесконечному в одну сторону ряду значений g(s), s t). Назовем такие процессы линейно регулярными*). Не ограничивая общности, можно считать M^k = О, что мы и будем делать в дальнейшем на протяжении всей этой главы. Сингулярность и регулярность имеют простой геоме- трический смысл. Определим как пересечение подпро- странств Нi (t): = (2.3) t Теорема 2.1. Стационарный процесс линейно регулярен тогда и только тогда, когда = 0, (2.4) и соответственно линейно сингулярен, когда . s. = Я». (2.5) Доказательство. Эквивалентность равенств (2.1) и (2.5) очевидна, так как в случае сингулярности про- цесса яг(О = ^ = ^б при всех t. Далее, регулярность процесса |(£) означает, что для любого t проекция £ft(s, t — s) величины £ft(£) на про- странство НТ (s) стремится к нулю при s -> — и по- тому проекция на подпространство Sb входящее в Н^ ($) при любом s, равна нулю. Поскольку пространство Н% есть, по определению, линейное замыкание величин %k(t), проекция любого элемента из на подпростран- ство 3% также равна нулю, а это равносильно тому, что Si = 0. Читатель легко закончит доказательство теоремы, принимая во внимание следующую очевидную лемму. Лемма 2.1. Если семейство подпространств H(t) гильбертова пространства Н обладает тем свойством; что *) Термины «линейная регулярность», «линейная сингуляр- ность» мы будем часто употреблять в сокращенном виде, опуская слово «линейная». 5*
68 Гл. II. Экстраполяция процессов с дискретным временем npus<tu Q#(£) = 0, то для любого эле- * мента h из Н его проекция h(t) на подпространство H(t) стремится к нулю при t -+ — 00. Будем говорить, что стационарный процесс т](0 — ={щ подчинен стационарному процессу £(7) = = {^kW}h=^L, если о'н получается из £(£) при помощи линейного преобразования и, кроме того, (2.6) при всех t. Равенство (2.6) выполняется при всех t, если оно выполняется хотя бы при одном t = так как ^ЛЛО), 7 = 1, где Ut есть семейство унитар- ных операторов, отвечающих стационарному процессу £(£), откуда вытекает, что (0 = Ut_tH~ (i0) = Ut_tHi (i0) = Hi (t). Теорема 2.2. Всякий стационарный процесс может быть представлен, и притом однозначно, в виде (2.7) где стационарные процессы т)(0= и £(0 = = {^kW}k==Tn подчинены процессу некоррелированы между собой, т. е. Mx]k(t)Z^s)^ 0, к, I =1~7, (2.8) при любых t и s, причем процесс ц(£) линейно регуля- рен, а £ (/) — линейно сингулярен. Доказательство. Если стационарный процесс £(£) представлен в виде (2.7), то подпространства (t) и (t), ортогональные между собой, в сумме дают ЯГ(О- Так как по ^условию Нп (t) (t), Hr (t) (t) при всех t, подпространство есть сумма ортогональных под- пространств и St. Поскольку стационарный процесс ц(£) регулярен, = 0, и потому 56 = 5С = ЯС.
§ 2. Регулярность и сингулярность 69 Условие некоррелированности (2,8) позволяет заклю- чить отсюда, что величины & *= 1, и, есть перпенди- куляры, опущенные из на подпространство а ве- личины являются соответствующими проекциями. Итак, если представление (2.7) возможно, то процессы ц(£) и £(£) имеют только что определенный смысл. Пусть теперь £(/) = {^(^)}fe=— — произвольный ста- ционарный процесс. Обозначим щ(7) перпендикуляр, опу- щенный из точки £fe(^) на подпространство а £Д£) — соответствующую проекцию. Пусть Ut — унитарное се- мейство стационарного процесса g(£). Так как UtH^ (s) = = (t + «), подпространство S* инвариантно относи- тельно Ut: UA = ' (2.9) Поскольку Ut есть унитарный оператор, инвариантным будет и ортогональное дополнение Яп к подпростран- ству UtHn = Hn. (2.10) Следовательно, B„(t + s) = п* (* + s)+ tk(t + s)= г7„т]А(^)+ U&h(t), к = 1, n, откуда, принимая во внимание (2.9) и (2.10), заключаем, что + s)= Usr\k(t), tk(t +s)=U&h(t), к = 1, n, т. е. случайные процессы т](0 = {т]й (0^=7^ и £(0 = = стационарны и подчинены процессу £(/). Далее, как легко видеть, (i) есть ортогональная сум- ма подпространств (t) и (t): и, с другой стороны, я5-(0 = Яп (0Ф^- Поэтому Я& (0 — = Sz, и, следовательно, процесс £(/) сингулярен. Регулярность же процесса ц (i) вытекает из того, что подпространства
70 Гл. II. Экстраполяция процессов с дискретным временем (t) ортогональны к а подпространство входя- щее во вое (/) и (/), одновременно и входит в и ему ортогонально, т. е. = 0. Теорема доказана. Отметим, что если стационарный процесс £(£) пред- ставляется в виде. суммы подчиненных ему процессов ц(0 и £(£), некоррелированных между собой, то при ли- нейной экстраполяции процесса £(£) можно сначала про- экстраполировать в отдельности процессы ц(£) и £(£), а затем полученные величины ц(£, т) и £(£, т) сложить: i(£, т)=п(г, r) + £(f, т). (2.11) Это сразу следует из того, что ЯГ(С = Я-(0®Я£-(С (2.12) при любом t. Соотношение (2.11) позволяет заключить, что задача линейной экстраполяции произвольного стационарного процесса £(£) сводится к экстраполяции регулярного про- цесса, так как произвольный процесс £(£) представляется в виде (2.7), где сингулярный процесс £(£) экстраполи- руется безошибочно, и для нахождения величин g(£, т) достаточно найти величины ц(£, т), дающие наилучшую линейную экстраполяцию регулярного стационарного процесса ц(£). § 3. Разложение Вольда Пусть g(Z) = {%k (t)}k==— —линейно регулярный ста- ционарный процесс, и Ut — его унитарное семейство. Обозначим ^(^—ортогональное дополнение к (t — 1) в подпространстве (t): (3.i) Так как USH^ (t) = (t + s) при любых t и s, то UsDi(t) = Di(t + s). (3.2) По своему определению, подпространство Dz(t) порож- дается величинами, являющимися перпендикулярами из точек 1U(^), Л = 1, я, на подпространство H$(t— 1), и его размерность, равная яг, не превосходит размерности и стационарного процесса
71 § 3. Разложение Вольда В силу регулярности процесса £(£) ^ = ГИГ(О = о, t следовательно, каждое из подпространств (t) можно представить в виде ортогональной суммы подпространств Di(s), s яг (.0 = 2 (з.з) — со В частности, для всего пространства /L получаем Я£ = 2 (3.4) —оо Если выбрать в одном из А(5) (например в PJ0)) ортонормированную базу j = 1, тп, и положить 7 = 17^ (3.5) то совокупность £(0 = {£; (0}j=77i будет некоррелирован- ным процессом, подчиненным процессу Из соотно- шений (3.4) и (3.5) вытекает, что величины 7 = =* 1, тп, — оо < £ < оо образуют базу в пространстве и потому Т т ____ Ь (0=22 Ckj (t cki (0 = Mth (i) (0), (3.6) - 00 к = 1, n, т. e. стационарный процесс получается из некоррели- рованного процесса £(f) при помощи скользящего сумми- рования: ^(0 = i c(f-s)Us), c(O = {^<zB (3.7) Будем называть представление (3.7) разложением Вольда, а процесс С (О == (0};=г^ — фундаментальным. По определению, некоррелированный процесс = == {£j стационарно связанный с является фундаментальным, если его значения 7 1, в момент времени t образуют ортонормированную базу в подпространстве Р$(0- Очевидно, последнее эквивалентно
72 Гл. II. Экстраполяция процессов с дискретным временем следующему: ЯГ (0 = ЯГ (О (3.8) (при хотя бы одном, а значит, и всех t). Легко понять, что фундаментальный процесс определен однозначно с точностью до множителя — произвольной унитарной матрицы С = Именно, если £(£) = — есть’ так же как и фундаментальный процесс, то существует некоторая унитарная матрица С, такая, что Ш-cut) (3.9) (и наоборот, для произвольной унитарной матрицы С и фундаментального процесса £(£) равенство (3.9) опреде- ляет некоторый фундаментальный процесс £(£)). Из разложения Вольда (3.7) и равенства (3.8) видно, что проекции т) величин £fe(£ + r) на подпростран- ство ЯГ (t) можно представить в виде = 2 2 ckj(t + т — $)£Д$), к = 1, п, (3.10) — ooj=l и тем самым задача экстраполяции стационарного процес- са £(£) сводится к нахождению фундаментального про- цесса t(0 и коэффициентов разложения Вольда — матриц § 4. Общая формула линейной экстраполяции Пусть l(t) = {%h (0\=Пг— линейно регулярный ста- ционарный процесс и c(t) = {ckj (0}£Z““ — коэффициенты разложения Вольда (3.7) этого процесса. Из результатов § 9 гл. 1 следует, что процесс £(£) имеет спектральную плотность /(X) = {fki имею- щую для почти всех % ранг ш и представляющуюся в виде /(*) = 2}Г<РС)ф*(^ (4Л)
£ 4. Общая формула линейной экстраполяции 73 где матричная функция Ф (*) = {ф« = 2 с (t) е~ш. (4.2) Рассмотрим отдельные компоненты -ф^(Х) матричной функции ф(Х), = fc = l,n; j = i,m. (4.3) О Поскольку оо п m п 22 2 К(*)|2= 2 A/|cft(0)|2< ОО, (4.4) О k=l j=l k=l функции rftj(z) комплексного переменного z, Гад (z) = 2 (0 zf, k=l,n; j=i,m, (4.5) 0 являются аналитическими в единичном круге, а функции фьДХ) представляют собой их граничные значения: л lim f |<pw(l) — rw(pe-^)|2dX = p-i ~n = lim2kw(0l2(l-P<)2 = 0*). (4.6) p-*l 0 Говорят, что матричная функция /(X) = {fhi ранга m допускает факторизацию, если ее можно пред- ставить в виде (4.1) с матрицей ф(Х), обладающей опи- санными выше свойствами. Пусть известно, что стационарный процесс |(^) = имеет спектральную плотность /(Х) = == {fki ранга m, допускающую факторизацию. Тогда по теореме 9.1 гл. I процесс %(t) представляется в виде скользящего суммирования: t —оо *) Более подробно о граничных значениях см. в монографии Привалова
74 Гл. II. Экстраполяция процессов с дискретным временем где Z (t) = {£; (Z)}J==— — некоторый некоррелированный процесс, откуда вытекает, что и, следовательно, £= Sz = О, так кал всякий некоррелированный процесс регулярен. Таким образом, имеет место следующее предложение. Теорема 4.1. Стационарный процесс ^(0={Sjl(0}/l^— линейно регулярен тогда и только тогда, когда он имеет ранг ш и его спектральная плотность /(X) допускает фак- торизацию. В дальнейшем будем говорить, что аналитическая в единичном круге функция 7(2) принадлежит классу Яб, если J |?(ре-{Х)|МХ<Я6(у)<оо (4.7) —л для всех р, 0 р < 1. Как видно из соотношения (4.4), функции I\j(z), определенные равенством (4.5), принадлежат классу Яг; сю сю J |ГйДре-^)|МХ=2|%.(0Рр^< 2К (012, (4.8) —Л • о о k = 1, п\ j = 1, тп. Положим Г (z) = {Г/г;-(z)}^^. Очевидно, матричная функция F(z) является аналитической в единичном круге, сю r(z) = Sc(0z,1 (4.9) О причем коэффициенты c(t) = {^j(OK=r^ ее разложения в степенной ряд являются в то же время коэффициента- ми разложения Вольда процесса £(£). Заметим, что в си- лу представления (3.10) задача экстраполяции процесса £(£) сводится к отысканию этой матрицы Г(я), так как если T(z) известна, то можно найти коэффициенты c(t) ее разложения в степенной ряд, а фундаментальный про- цесс £(£) = {£; (г)}7= — получается из £(£) линейным
§ 4. Общая формула линейной экстраполяции 75 преобразованием со спектральной характеристикой ф(Х) = = Удовлетворяющей уравнению 1|>(%)ф(Х) = 7т; (4.10) где ф (Л)—граничное значение матрицы Г(з), a Jm — единичная матрица порядка тп, (см. § 9 гл. I). Относи- тельно матрицы Г(з) нам известно пока лишь то, что она удовлетворяет граничному__условию (4.1). Пусть Г(з) ^{r/ij(z)}^=1-— — произвольная аналитиче- ская матрица, разложение в ряд которой суть Г(2) = 2?(г)Л (4.11) О и компоненты которой 1\Дз) являются функциями клас- • са Яг. Предположим, что граничное значение ф(Х)== = {ф« WKZiTS этой матрицы, = (4.12) О удовлетворяет условию (4.1). По теореме 9.1 гл. I, мат- ричной функции ф(Л) отвечает некоторый некоррелиро- ванный процесс £ (t) = {£; такой, что E(O = S c(t-sK(S). (4.13) — оо Из (4.13) видно, что стационарный процесс £(£) подчи- нен этому некоррелированному процессу £(0? т- е- ЯГ(;)еЯ~(/). (4.14) В силу фундаментальности процесса £(£) подпростран- ства Н% (t) и (t) совпадают, откуда вытекает, что ЯГ(О = Я:~(0. (4.15) Соотношение (4.15) позволит нам установить следующий аналитический факт. Теорема 4.2. Аналитическая матрица Г (и) = = {1\; (z)}j~^, соответствующая фундаментальному процессу £(£), является максимальной среди аналити-
76 Гл. II. Экстраполяция процессов с дискретным временем ческих матриц Г (z) = {rfej(z)}^=j~ с компонентами из класса Нъ, удовлетворяющих граничному условию (4.1): Г(О)Г (0)>Г(0)Г(0)*). (4.16) Доказательство. Пусть ai, ..., ап — произволь- ные комплексные числа. Рассмотрим перпендикуляр %, п опущенный из точки т] = 2а/А(1) на подпространство fe=i Я^(0). В аилу представления (4.13) п m пт h= 2 = fUO)X-(l), (4.17) /1=1 j=l fe=l J=1 и n m _____ II h ||2 = 2 Гм(О)Гу(О). (4.18) M=1 j=l Рассмотрим перпендикуляр h, опущенный из той же точ- ки на подпространство (0). Из соотношения (4.15) имеем: п т IIh||2 = 2 зд 2Г„(0)Г„.(0)> fe,/=l 3=1 п т _____ > S rw(0)rftJ-(0) = ||A||2. (4.19) k,l=l 3=1 Полученное неравенство эквивалентно условию (4,16). Теорема доказана. Теорема 4.3. Пусть £ (/) = ~ п-мерный линейно регулярный процесс со спектральной плот- ностью /(X) = {/ы (Х)}^1^, а Г (г) = {Fw (z)}^1^ — неко- торая максимальная аналитическая матрица, удовлетво- ряющая граничному условию (4.1). Тогда некоррелиро- ванный процесс С(0 = {£j(0}j=Hn’ отвечающий матри- це <р(Х) = Г(е_гХ), является фундаментальным для про- цесса £(£). *) То есть разность Г (0) Г (0) — Г (0) Г (0) положительно определена.
§ 4. Общая формула линейной экстраполяции 77 Доказательство. В силу максимальности матри- цы Г (г) величины IIЛЛН перпендикуляров hk, опущенных из точек £ь(1) на подпространство (0), являются макси- мальными (см. соотношение (4.19)), т. е. совпадают с ^соответствующими величинами И|л(1) — 1)11 перпен- дикуляров gft(l)—gA(0, 1), опущенных из тех же точек gft(l) на подпространство (0). Но поскольку (U) (0), очевидно, должны совпадать сами перпенди- куляры: Aft-Ul)-i(0,l),^U Это значит, что совпадают подпространства А(1) и Dc(l), и, следовательно, процесс £(£) является фунда- ментальным. Теорема доказана. Из полученных выше результатов видно, что макси- мальная матрица Г (z) единственна с точностью до посто- янного множителя (унитарной матрицы), и задача о наи- лучшей экстраполяции регулярного стационарного про- цесса = {lh(t)}k==Y^n со спектральной плотностью /(М = {fki сводится к следующей аналитической задаче: найти максимальную аналитическую матрицу Г(г), граничное значение которой ф(Х)==Г(е“,х) удов- летворяет условию (4.1). Действительно, если матрица Г(г) известна, то ста- ционарный процесс %(t, т) ={Sfe(Z, т)}й=—, служащий наилучшим линейным прогнозом (на время т вперед) процесса £(£), получается из него следующим линейным преобразованием: 1 (t, т) = f ешф (X, т) Ф (dX); (4.20) —Л здесь Ф= {Ф/г}/г=——случайная спектральная мера про- цесса спектральная характеристика ф(Х, т) имеет вид ф(Х, т) = фт(М 1р(Х), (4.21) где матричная функция фх(Х) определяется рядом Фурье: Фт (М — 2 с (5 + т) e~iKs, (4.22) о
78 Гл. II. Экстраполяция процессов с дискретным временем коэффициенты которого с (s) = {ckj совпадают с 'коэффициентами разложения в степенной ряд матри- цы Г (2), оо г (z) = 2c(s) zs, , О а матрица ip(?t) = {fe (Х)}^“Ь~ определяется из уравнения гр (X) <р (X) = Im, Ф (Л) = Г (e~iK). (4.23) В ряде случаев максимальная матрица Г (2) может быть найдена по спектральной плотности довольно эффективным путем. § 5. Линейная экстраполяция одномерных стационарных процессов В этом параграфе будут рассмотрены одномерные ста- ционарные процессы и будет дана их полная характери- стика с точки зрения задачи линейной экстраполяции. Теорема 5.1. Для того чтобы стационарный про- цесс %(t) был линейно регулярным, необходимо и доста- точно, чтобы он имел положительную почти всюду спектральную плотность /(X), такую, что л J log / (Л) й(%) >-оо. (5.1) —л Доказательство основывается на одной лемме. _ Лемма 5.1. Максимальная функция Г (2) не имеет нулей в единичном круге. Доказательство. Очевидно, Г(0)=/=0. В самом деле, если функция Г (2) имеет нуль в точке 2 = 0 (по- рядка к), то функция Г(г)= T(2)/2ft аналитична, удовлет- воряет тому же граничному условию, что и Г (2), но Г(0)=#0 и, следовательно, |Г(0) I > |Г(0) I = О, чего не может быть в силу максимальности функции Г(2). Аналогичным образом показывается, что Г(2о)=^О при любом 2о? I20I < 1; нужно лишь вместо функции zh взять b(z)=--и рассмотреть Г (2)=; Г(2)/&(2). 1 — V 1। Функция b(z) такова, что |&(^-гХ)1 = 1, |Ь(0) I < 1, и по- тому аналитическая функция Г (2) обладает тем свой-
§ 5. Линейная экстраполяция одномерных процессов 79 ством, что |Г(е-а)| = |Г(е-а) I, |Г(0) I > |Г(О) I, а это противоречит максимальности функции Г (г). Доказательство теоремы 5.1. Пусть стацио- нарный процесс £(£) регулярен. Тогда по теореме 4.1 он имеет положительную почти всюду спектральную плот- ность /(Л,)., допускающую факторизацию, т. е. существует аналитическая функция Г (2) класса Я2, такая, что /(Х) = -^|Г(^)р. (5.2) Пусть функция Г(з) максимальна. Она не имеет пу- лей внутри единичного круга, и потому функция B(z) = = log ^7=- будет аналитической, а функция Re5(z) = У 2л 1 |Г(и)| = log --------гармонической в единичном круге. ~у 2 л По- ложим если если log О О, log £ < 0. -_L f 210^4- |г(р^)1 ]о^|г<°>1< --2л J 2l0§ уГл d § У2л С —Л 1 f |r(pg-ix)|2 А 1 |Г(0)| J -----2S---log —л )/(Ч<а-1°г^Ж (5.3) J |/ 2л —л Поскольку lim |г(р;~гА)|2=/(Х)д (5.4)
80 Гл. II. Экстраполяция процессов с дискретным временем то из (5.3) получаем, что л л A- J' |log/(l)|<a<A J /(1)<а-1о8 liM!. (5.5) —л —л Функция /(А,) интегрируема, и неравенство (5.5) эквива- лентно неравенству (5.1). Пусть теперь спектральная плотность /(А,) стационар- ного процесса %(t) удовлетворяет условию нашей теоре- мы. Рассмотрим аналитическую в единичном круге функ- цию Г(з) вида Г (z) = 2п ехр Л I —л 1 (5.6) Имеем Л —л где z = ре"г\ а Рр(ц — Z)— ядро Пуассона: р (J* _ X) = 4--------2— —Р2----------« р г ' 2л 1 р2 _ 2р cos (и — %) (5.7) Как известно (см., например, монографию П р и в а л о- в а 1*’, с. 80), это ядро обладает тем свойством, что Л lim f log/(X)Pp(p — X)dA = log/(p) (5.8) p-<l -Л для почти всех ц, откуда следует, что lim |Г(Р*7^-==/(*) (5-9) р-^1 ZJT для почти всех X. Соотношение (5.9) показывает, что функция Г(г) принадлежит классу ffs, а ее граничное значение Г(е-гХ) удовлетворяет условию (5.2), и таким образом, спектральная плотность /(А,) допускает фактори- зацию. По теореме 4.1 этой главы отсюда вытекает ре- гулярность процесса %(t). Теорема доказана. Как было показано в предыдущем параграфе, задача линейной экстраполяции регулярного стационарного про- цесса со спектральной плотностью /(X) сводится к
§ 5. Линейная экстраполяция одномерных процессов 81 отысканию максимально аналитической функции Г (2), удовлетворяющей граничному условию (5.2). Теорема 5.2. Максимальная аналитическая функ- ция Г (2), удовлетворяющая граничному условию (5.2), может быть представлена в виде (л J log /(X) dK —л (5.10) Доказательство. То, что функция Г(2), опреде- ляемая формулой (5.10), удовлетворяет граничному усло- вию (5.2), было уже установлено при доказательстве пре- дыдущей теоремы. Чтобы установить ее максимальность, достаточно проверить, что | Г (0) |2=2лехр Г Л J log/(X)dX t —л л = inf [ |1 + P(e-U)\2f(k)dK (5.11) р -л где inf берется по всем полиномам P(z), Р(0)=0. Дей- ствительно, квадрат ошибки а2 при экстраполяции про- цесса %(t) на один шаг вперед, с одной стороны, есть о2 = infм 1^(0)- = C(S) J «0 I = inf f 11 — У с (s) e~’Xs l2f(k)dk = C(s) _?я | «СО J Л = inf f 11 + P(^)|2/(X)dX, (5.12) P -Л а с другой стороны, о2 совпадает с квадратом модуля значения в нуле максимальной функции (с квадратом мо- дуля первого коэффициента разложения Вольда). Поэто- му равенство (5.11) означает, что количество |Г(0) I2 бу- дет максимальным. Имеет место следующее соотношение: ехр Г л J logf(k,)dh —л inf л A- J »«»№)<&, —л (5.13) в Ю. А. Розанов
82 Гл. II. Экстраполяция процессов с дискретным временем где inf берется по всем (действительным) функциям хр(^), для которых л J Ip (X) dk = 0. —Л (5.14) Действительно, пользуясь неравенством между средним геометрическим и средним арифметическим, получим л 4 (* ехр "2л J log/(X)c/Xl = ' —л / л = ехр ' —л л (5.15) —л {л -L J jog с/х —л причем знак равенства в (5.15) имеет место при л 1|?(Х)= J log/(X) dX — log/(X). —Л Ясно, что равенство (5.13) не нарушится, если брать inf лишь по функциям 'ф(Х), которые являются действи- тельными тригонометрическими полиномами, поскольку любую функцию -ф(Х) можно ими аппроксимировать так, что соответствующие интегралы в правой части (5.13) будут отличаться сколь угодно мало. Далее, если гр(Х) есть действительный тригонометри- ческий полином, удовлетворяющий условию (5.14), то его можно представить в виде /ф(^)== Р(е~гК) + Р(е“гХ), где P(z) есть полином от z со свободным членом, равным нулю, и тогда = |ехр Р(е~гХ) |2. Функция (?(z) = == ер(2) — 1 аналитична и обращается в нуль в точке z = == 0. Из (5.13) получаем, что л ИР й —л л >infA- [ |i + e(e-*)|V(X)c/x. Q 1 —л (5.16) Очевидно, каждая из равномерно приближена функций С(е_<*) может быть полиномами Р(е_а), Р(0)=0, а
£ 5. Линейная экстраполяция одномерных процессов 83 и потому {л J log / (X) d'K —Л л >inf | |1 +P(e~^)|2/(Z)^. Р д —Л (5.17) Так как величина IГ (0)12 не превосходит квадрата модуля значения в нуле максимальной функции, равного правой части неравенства (5.17), то на самом деле в (5.17) имеет место знак равенства, что и требовалось доказать. Важным классом стационарных процессов являются процессы со спектральной плотностью, рациональной от- носительно е~*\ По формуле (10.1) гл. I рациональную относительно e~iK неотрицательную функцию можно пред- ставить в виде |р(*-а)|2 1с(^)|2 ’ (5.18) где полиномы P(z) и Q(z) не имеют нулей внутри еди- ничного круга *). Пусть ^(t)—стационарный процесс со спектральной плотностью /(X) вида (5.18). Очевидно, процесс |(£) ре- гулярен. Как выглядит для него максимальная функция? Рассмотрим r,(z) = /2S^g. ' (5.19) Эта функция является аналитической и не имеет нулей Г (z) в единичном круге. Функция В (z) = log—будет так- ф^ 2 л же аналитической в единичном круге, а ее действительная часть Re B(z) = log* у—~ будет гармонической, причем ф^ 2 л непрерывной на границе z = e~iK всюду, кроме, быть мо- жет, конечного числа точек в которых она обращается *) Выражения для Р и Q легко составляются, если известны пули и полюсы /(Z), лежащие вне единичного круга или па его границе. 6*
84 Гл. II. Экстраполяция процессов с дискретным временем в — оо. Поэтому*) л Re В (ре~’ц) = Д- [ Re В (е-^)---г 1-р---------dK = ‘ ' 2я J 1 + р — 2р cos (р — X) —л л = ~ f log /(X)----2 1 ~ р2-------dK, (5.20) 4л J SJV ’ 1 + Р2-2рсоз(р-П V > — Л откуда л ‘""W^ J108/(4 Л- (5-21) г —л Сравнивая (5.21) и (5.11), приходим к выводу, что функция r(z), определенная равенством (5.19), является максимальной. Полученные выше результаты резюмирует следующая теорема. Теорема 5.3. Пусть % (t) — линейно регулярный стационарный процесс со спектральной плотностью /(X), £(£) = J е^Ф(^). (5.22) —Л Тогда стационарный процесс %(t, т), являющийся наи- лучшим линейным прогнозом (на время т вперед) про- цесса £(£), получается из процесса %(t) линейным пре- образованием: f(t, т)= f е{«ф(%, т)Ф(Л). (5.23) —Л Спектральная характеристика <р(Х, т) определяется со- отношением ф (Л) - V е(.) , (5.24) где ф(Х)= Г(е~а) есть граничное значение аналитиче- ской в единичном круге функции T(z) вида, (5.10), а коэффициенты с ($) есть коэффициенты разложения этой *) См., например, книгу Привалова с. 34,
£ 5. Линейная экстраполяция одномерных процессов 85 функции в степенной ряд: г (z) = 2 C(s)zs. О Если спектральная плотность /(X) рациональна от- носительно е~гК, то выражение для Г(я) дается форму- лой (5.19). Рассмотрим некоторые примеры линейной экстраполя- ции стационарных процессов. Пример 5.1. Пусть стационарный процесс £(/) имеет кор- реляционную функцию В(0 = о2в-а^1, а > 0. Спектральная плотность /(X) процесса £(£) есть / (М = 2 В <0 | 2л ~ 2Л | ! _ |2 где р = е~а. Отсюда видно, что максимальной является функция г(г)=о/г^г4^. По теореме 5.3 наилучший прогноз £(£, т) процесса g(£) дается выражением я 2 Л f(t, т) = J Ф (<А) = J «ШРТФ (М), —Л —л где Ф — случайная спектральная мера стационарного процесса £(/), и, окончательно, l(t, т).= РЧ(0- Пример 5.2. Пусть стационарный процесс £ (t) имеет спект- ральную плотность /(X) вида где полином Q(z) не имеет нулей внутри единичного круга. Тогда функция будет максимальной. Если I (t) = J 0'0 —Л
86 Гл. II. Экстраполяция процессов с дискретным временем есть спектральное представление процесса £(£), то Q (e-ik) ф 1(1М Л J eiK(t+т) -^л п + т—1 с (S) <7fty-iXm+ 2 '^me-iKm J m=x ф(сад, где коэффициенты c(s) есть коэффициенты разложения в ряд оо функции 1/Q(z) = У с (s) zs, а о ът = - 2 с оо s+/t=m 1 Поскольку оо п оо 1 = 2 с (s) 2s 2 qkzh = 2 ( X с W ? J ztn> ООО ’s+/t=m / ТО «(0)9о=1, У c(s)gft = O. s+k=m Следовательно, наилучший прогноз т) процесса %(t) на время т вперед можно представить в виде л l(t, т)= J е’М«+т) —Л п + х— 1 2 ь Ф (rfZ) = = ^bs ( еад-8)Фй (X) = 21 b£(t-s). 0 —л 0 Рассмотрим произвольный стационарный процесс со спектральной мерой F(dX). Представим меру F(dh) в виде - F (d%) = / (X) d'K + 2 (<&), (5.25) где X (^) — сингулярная часть меры F(dX), сосредото- ченная на некотором множестве До лебеговой меры нуль. Теорема 5.4. Если плотность /(X) обращается в нуль на некотором множестве положительной лебеговой меры, или J log/(*,)<& = — ОО, (5.26) —Л
§ 5. Линейная экстраполяция одномерных процессов 87 то стационарный процесс %(t) со спектральной мерой F(dX) будет линейно сингулярным. Если же ' J Iog/(%)dX> — оо, (5.27) —Л то разложению (5.25) спектральной меры F(dK) соот- * ветствует разложение самого стационарного процесса %(t) на регулярную и сингулярную часть*)*. £(0=r)(0+U0, (5.28) где линейно регулярный процесс ц (tj есть г](0 = рмф^А.), (5.29) а линейно сингулярный— > £(0 = рмФ(<Д) (5.30) до (здесь Ф(йХ) — случайная спектральная мера стационар- ного процесса £(£), а множество До является дополнени- ем к До). Доказательство. Пусть стационарный процесс %(t) не сингулярен. Тогда по теореме 2.2 этой главы про- цесс ^(t) может быть представлен в виде суммы некорре- лированных между собой регулярного процесса ц(0 11 сингулярного процесса £(£). Очевидно, корреляционная функция B^ft) процесса i(t) также есть сумма соответ- ствующих корреляционных функций: 555(0 = j eiMF^(dK) = —Л = В™ (0 + Вк (0 = J eiM [Г”1 (dX) + (dX)], —Л и, следовательно, F (dK) = F* (<&) = F™ (dZ) + F“ (dk). Спектральная мера F'm(dK) регулярного процесса r](t) абсолютно непрерывна, а его спектральная плотность *) См. теорему 2.2 этой главы.
88 Гл. II. Экстраполяция процессов с дискретным временем /’’"(Х) положительна почти всюду и, кроме того, по теоре- ме 5.1 Л J log /’1’1 (X) dK > — оо. —Л Отсюда получаем, что плотность /(X), положительна почти всюду и Л J log/(X)dX>—оо. —л Поэтому, если плотность /(X) спектральной меры F(dh) стационарного процесса i-(t) не удовлетворяет ус- ловию (5.27), то процесс g(£) будет сингулярным. Пусть, далее, условие (5.27) выполняется, и пусть процессы ц(£) и £(£) определены формулами (5.29) и (5.30). Спектральная плотность /ЛТ1(Х) совпадает с плот- ностью /(X). По теореме 5.1 этой главы стационарный процесс ц(£) будет регулярным; стационарный же про- цесс по только что доказанному выше свойству бу- дет сингулярным. Эти процессы ц(£) и £(£) не коррели- рованы между собой, так как их случайные спектраль- ные меры сосредоточены на непересекающихся множест- вах До и До. ~ Пусть, далее, ц(£) есть перпендикуляр, опущенйый из £(£) на подпространство 5g = Q Нj” (£). Как показано ~ t в теореме 2.2, величины ц(£) образуют регулярный ста- ционарный процесс. Поскольку случайная спектральная мера сингулярного процесса сосредоточена на мно- жестве До лебеговой меры нуль, то процессы т](£) и £(£)’ являются некоррелированными, и величины t,(t) принад7 лежат пространству 8^ Отсюда заключаем, что регулярный процесс ц (t) = | (t) — t; (t) подчинен про- цессу £(£), т- е- — (0- Таким образом, мы получили разложение (2.7) стационарного процесса g(£) на регулярную и сингулярную части. Теорема доказана.
§ 6. Процессы максимального ранга 89 § 6. Линейная экстраполяция регулярных процессов максимального ранга Будем называть n-мерный стационарный процесс — {%k( процессом максимального ранга, если его ранг совпадает с размерностью (другими славами, ес- ли процесс^ (t) имеет спектральную плотность /(А) = невырожденную для почти всех %). Пусть процесс U0 = максимального ран- га является регулярным. Тогда его спектральная плот- ность /(2i)= {fki допускает факторизацию: 2^Г(е-^)Г(е-% (6.1) где Г(е-гЛ) есть граничное значение аналитической в еди- ничном круге матрицы Г (z) = {rM(z)}^Z^. Определитель det T(z) матрицы T(z) является анали- тической функцией, удовлетворяющей граничному ус- ловию ^|detr(e-^)P = det./(X). (6.2) Соотношение (6.2) вытекает из одного общего свойства аналитических функций класса Яг. Именно, если 7(z) — функция из класса Яг, то, как мы видели ранее (см. соот- ношение (4.6) этой главы), ^(ре-^) сходится в среднем квадратичном при р -> 1 к своему граничному значению у(е-а); если же y(z) есть произведение п функций Yi(z), * • ln(z) класса Яг, то lim f | у(ре~а) — у(е~а)| п dK = О, Р"*1 -л где y(e~iK) есть произведение граничных значений функций yh(z), к =» 1, п. Очевидно, это соотноше- ние сохраняет силу и для линейных комбинаций функ- ций y(z) описанного типа. Но именно такой функцией является определитель detT(z). Лемма 6.1. Аналитическая матрица r(2)={rftj(z)X:g, удовлетворяющая граничному условию (6.1), макси- мальна тогда и только тогда, когда максимально зна- чение I det Г(0) I.
90 Гл. II. Экстраполяция процессов с дискретным временем Доказательство. Пусть матрица Г(z) максималь- на. Поскольку для любой аналитической матричной функ- ции Г(г), удовлетворяющей граничному условию, анало- гичному (6.1), Г(О)Г(О)-Г(О)Г (0)>0, то собственные числа тп{ > тп2 > ... > шп матрицы * Г(0)Г(0) не меньше соответствующих собственных чи- сел 7П1 m2 > ... > шп матрицы Г (0) Г (0) (см., напри- мер, книгу Гельфанда 1*\ с. 151). Отсюда следу- ет, что I det Г (0) |2 = ft > П mh = | det Г (0) |2. h=l Полученное неравенство показывает также, что макси- мальность значения I det Г (0)1 влечет за собой макси- мальность соответствующих собственных чисел тп\ > т2 > ... > тпп, и тем самым максимальность матрицы T(z). Лемма доказана. Лемма 6.2. Максимальная матрица Г (2) является невырожденной при всех z, |z| <1. Доказательство. Предположим, что zq является нулем порядка р определителя detT(z). Воспользуемся полярным разложением матрицы Г(г0): Г(го)=Г1Я, где Vi — некоторая унитарная матрица, а Я = [Г (z0) Г (z0) ]v’ (см., например, книгу Гантмахера [*], с. 225). Положительно определенную матрицу Н при помощи унитарной матрицы V2 можно привести к диагональному виду: V2HV2 — D. В силу того обстоятельства, что detr(zo)= 0, диагональная матрица D будет иметь на главной диагонали хотя бы один нуль. Не ограничивая общности, можно считать, что он находится в левом верх- нем углу. Рассмотрим матрицу 6(z) = (6.3) где диагональная матрица имеет в левом верхнем уг- лу элемент z~l (если zq = U) или --(если zQ=/= z~zo Pol ¥=0), а остальные диагональные элементы равными 1. Легко проверить, что матрица Г(з)= Г(я)Ь(з) будет ана-
§ 6. Процессы максимального ранга 91 литической и будет удовлетворять тому же граничному условию, что и Г (2), но зато функция det Г(2) будет иметь в точке 2о нуль меньшего порядка, чем det Г (2). Таким путем мы можем «избавиться» от всех нулей и прийти к матрице Г (2), для которой det Г (2) #= 0 при всех 2, I2I <1. Очевидно, I det Г (0)1 > I det Г (0)1, чего не может быть в силу максимальности Г (2). Лемма до- казана. Лемма 6.3. Пустъ£(к) = ~ положитель- но определенная интегрируемая матричная функция. Тогда л л log det f logdetg(X) dl. (6.4) —Л —Л Доказательство. Если А и В являются положи- тельно определенными матрицами порядка п, то по не- равенству Минковского (см., например, книгу Харди, Литлвуда и Полна1*1, с. 48) 1 1 1 [det (Л + 5)] п > [det А] п + [det В] п, и, следовательно, для любых неотрицательных чисел mk и положительно определенных матриц gA, к = 1, N, / N \ N г det I 2 mkgh > 2 [det \ 1 J J 1 Отсюда вытекает, что г п з— л 4 (• I П 4 Р _£ det^Jg(X)^ >ij[detg(X)]n^ —Л J —л и, применяя к правой части неравенство для логарифми- ческой функции, получим соотношение (6.4) нашей леммы. Теорема 6.1. Для линейной регулярности стацио- нарного процесса = {lk(l)}k=— максимального ран- га со спектральной плотностью / (X) = {fki
92 Гл. II. Экстраполяция процессов с дискретным временем необходимо и достаточно, чтобы л J log det /(X) d'K —оо. —Л (6.5) Доказательство. Пусть процесс (0\=ni регулярен и Г(я) есть максимальная аналитическая мат- рица, удовлетворяющая граничному условию (6.1). По- скольку Г(г) невырождена при всех z, |zl <1 (см. лем- 1 му 6.2), функция d(z) = [det Г (z)] п аналитична в еди- ничном круге и принадлежит классу Н2. Функция d(z) « Y 11^ (*&) I не имеет нулей, и поэтому функция log -•>—- является у 2 л гармонической в единичном круге. Используя неравен- ства, аналогичные (5.3), получаем 1 | det Г (ре~гХ) | п 1/2л dl^ < f [det / (X)] » dX - log J |/2л —л при всех р, 0 р < 1, и, переходя к пределу при р -> 1, по теореме Фату имеем: |det r(g~ix)|n }/2л л х = HogdeW)|”a< —Л ± J [det / (X)] « d\ - log l-d-t^°)|W —л r что доказывает необходимость условия (6.5) нашей те- оремы. Рассмотрим теперь n-мерный стационарный процесс 1(0 = (0\=1^? спектральная плотность /(Z) = = {fki которого удовлетворяет условию (6.5). Заметим, что соотношение (5.11) этой главы и теоре- ма 6.2 гл. I позволяют утверждать, что для любой поло- жительной почти всюду интегрируемой функции т(К)
§ 6. Процессы максимального ранга 93 имеет место следующий факт: inf р j |1 + P(e-^)|2zn(X)dX = —л 2л ехр г Л j logm(X)dX , ‘ —л л (6.6) где inf берется по всем полиномам P(z), Р(0)=0. Пусть 7?ii(X)^= ?П2(Х)> ... т (X) есть соб- ственные значения матрицы /(X)— спектральной плотно- сти процесса £(£). Очевидно, п log det /(X) = У log mk (Х)^ log m (X) + (n 1) log т1 (X), fe=i и так как Л Л г ft —л —л L k—1 rfX < ОО, то при условии (6.5) получаем, что л J log т (X) dX —л л л J log det /(X) rfX — (n — 1) У log т1 (X) dX > — oo. —Л —Л Рассмотрим величину ц вида Т|= 2 алЬ(О). k=l Величину перпендикуляра h, опущенного из точки ц на подпространство (—1), можно определить по фор- муле I'*" л р * 11— 3 =infJ 1ф/ф]^» (6.7) fc=ls^l I ф _л где ф(Х) = {q>ft(X)}fe-1’n есть векторная функция с компо- нентами Фь (X) = ah — У ah (s) e~iKs. Из соотношения (6.6) s>l
94 Гл. II. Экстраполяция процессов с дискретным временем имеем: л II h ||2 = inf f [<р(Х)/(Х)ф(Х)] Ф -л 71 те п л inf f m (Z) У, | cp/j (2i) |2 dk = inf ) m (X) | cp/? (Z) |2 dk = Ф —Л /1 = 1 /1=1 _л = 2л ехр Л п Г logm(X)dV I aft|a. -л h=l (6-8) Отсюда видно, что размерность подпространства 1^(0)— ортогонального дополнения к (—1) в (0)—рав- на п. Действительно, если hk, к = 1, п — проекции вели- те. чин £Д0) в подпространстве Z^(0), и 2а/Л/1 = 0при пе- /1=1 те которых числах ai, ..., ап, У | &h |2 #= 0, то это будет fe=i противоречить полученному неравенству (6.8), в котором л J log dk> — оо# —л Далее, поскольку размерность подпространства Z^(0) равна п, некоррелированный процесс С(0 = участвующий в разложении Вольда регулярной части процесса £(£), имеет размерность, также равную п. По- этому процесс t>(t) получается из стационарного процес- са %(t) при помощи линейного преобразования с невы- рожденной матрицей яр, так как при этом ф/ф ^-По формуле (8.14) гл. I процесс £(0, в свою очередь, мо- жет быть получен линейным преобразованием из процес- са £(£), а это означает, что т. е. пространство значений нашего процесса совпадает с простран- ством значений, его регулярной части, и, следовательно, стационарный процесс £(£) сам регулярен. Теорема 6.1 полностью доказана. Как было показано в § 4 этой главы, экстраполяция регулярного стационарного процесса g(£) со спектраль- ной плотностью /(^) сводится к нахождению максималь- ной аналитической матрицы Г(г), удовлетворяющей гра- ничному условию (6.1). К сожалению, сколько-нибудь
§ 6. Процессы максимального ранга 95 простой формулы, дающей возможность эффективно вы- числять матрицу Г (2) но спектральной плотности /(А,), аналогичной (5.10), в многомерном случае не существу- ет, но значение I det Г(0) I2, позволяющее выделить среди всех аналитических матриц, удовлетворяющих гранично- му условию (6.1), максимальную матрицу Г (2), можно довольно просто выразить через определитель det/(Z) спектральной плотности. Теорема 6.2. Пусть g(0= {£fe(0}/i=—— линейно регулярный процесс максимального ранга со спектраль- ной плотностью /(А,) = {jM (А0}&”|^. Аналитическая матрица Г (2) = {1\, (я)}£“р^, удовлетворяющая гранич- ному условию (6.1), будет максимальной тогда и только тогда, когда {л j* log det/(Z)dA, •. —л (6.9) Доказательство. Пусть матрица Г(2) максималь- на. Тогда ее определитель не обращается в нуль внутри 1 единичного круга, и функция d (z)= [det Г (2)] п являет- ся аналитической класса Я2, удовлетворяющей гранично- му условию, аналогичному (6.2): JL | d (e~iK) |2= 2л [det / (70]71. Значение Iб7(0) I не превосходит соответствующего значения максимальной функции: {Л 1 J [log /(X)] ” dX —Л (6.10) Пусть, далее, — оо есть разложение Вольда процесса £(£). Определим вели- чины T](f) = как r|(i) = U0)- 8—1
96 Гл. II. Экстраполяция процессов с дискретным временем Очевидно, lim = с (0) £(0) t-*oo и lim{M4V)IIzH= Г(°)Г(О). t-*oo ’ Имеем: " J __ _ л {MV*}= f Р/(X) Р (е-*) dK, —Л где матричная функция P(e~iK) есть t Р (e~iK) = 1п— 2 с (5) e~iKs. 8 = 1 Положив g(X) = Р(е~гК)/(Х)Р(е~а), из леммы 6.3 полу- чаем, что л л log det J g (X) dK > J log [det g (X)] dX = —Л —Л Л Л = 4- f log|detP(e-ix)|2dX + f log det/(X) —Л —Л Л Л log I det P (0) |2 + I log det /(X)tZX = -i- f logdet/(X)dX, —Л —Л так как P(0)=/n. Переходя здесь к пределу при t -> оо, получаем, что л log^fldetr(0)l2>^ Jlogdet/(M- —л Это неравенство вместе с (6.10) и леммой 6.1 дока- зывает нашу теорему. Как указывалось, важным классом стационарных Про- цессов являются процессы со спектральными плотностя- ми /(^) = {fki элементы(%) которых рацио- нальны относительно e~iK. Если ^(/)=={Bfe(Z)}fe=— есть такой процесс, причем его спектральная плотность /(X)
§ 6. Процессы максимального ранга 97 невырождеиа, то он будет регулярным ранга п, поскольку рациональная функция detf(X) удовлетворяет условию (6.5) теоремы 6.1. Предположим, что нам удалось найти аналитическую в единичном круге матрицу Г (z) = = , удовлетворяющую граничному условию (6.1), элементы которой Tw(z) рациональны относитель- но z, а определитель detT(z) не обращается в нуль вну- три единичного круга. В этом случае функция п log (2л) 2 det Г (z) будет также аналитической в единичном „ 1 |detr(z)| круге, а ее действительная часть, равная log - будет гармонической, причем непрерывной на границе z = e~iK всюду, кроме, быть может, конечного числа то- чек, в которых она обращается в —Поэтому, анало- гично (5.21), («.и) Отсюда по теореме 6.2 заключаем, что матрица T(z) бу- дет максимальной. Чтобы найти эту матрицу T(z), вос- пользуемся леммой 10.3 предыдущей главы. По этой лемме спектральная плотность /(X) представима в виде где элементы матрицы В (z) = {Bkj (z)}£2~£ рациональ- ны относительно z и аналитичны в единичном круге |z| < 1. Если определитель detB(z) имеет нули внутри единичного круга, то от них можно избавиться умноже- нием на матрицу b(z) вида (6.3). Итак, имеет место следующее предложение: Теорема 6.3. Пусть l(t) = {^k(t)}k==— — линейно регулярный стационарный процесс максимального ранга со спектральной плотностью спектраль- ное представление которого суть л £(£) = J —л (6.12) Тогда стационарный процесс £(/, т) = {£&(£, т)}Л==1^, служащий наилучшим линейным прогнозом (на время т •7 ю. А. Розанов
98 Гл. II. Экстраполяция процессов с дискретным временем вперед} процесса £(£)’, получается из него линейным преобразованием: л Г(£, т) = J (X, т) Ф (dX). (6.13) —Л Спектральная характеристика ср (А,, т) имеет вид ср (X, т) = eiKx т—1 ф (X) — 2с ($) e~iKs о <р-1(Ч (6.14) где ф(А,) = Г(е“а) есть граничное значение аналитиче- ской в единичном круге матрицы T(z), удовлетворяющей условиям (6.1) и (6.9), а коэффициенты c(s) = = {ckj естъ коэффициенты ее разложения в сте- пенной ряд: г (z) = о В случае, если элементы спектральной плотности* f (К) = = {fhi рациональны относительно e~iK, то эта матрица Г(г) является рациональной (и может быть найдена путем алгебраических операций, описанных в лемме 10.3 гл. I, и лемме 6.2 гл. II). § 7. Линейная экстраполяция стационарных процессов, значения которых образуют базис Пусть g(£) = {^(£)}fe=— — ^-мерный стационарный процесс, 1Ц — пространство его значений. Будем гово- рить, что значения £ft(£) образуют базис, если любую ве- личину h из 1Ц можно представить в виде ряда А= 2 (7-1) 71=1 —оо который сходится в среднем квадратичном, причем такое представление единственно, а сумма в (7.1) не меняется при любой перестановке слагаемых. Теорема 7.1. Если стационарный процесс £(£) = = {£ (0}fe=i^ имеет спектральную плотность f =
§ 7. Экстраполяция процессов, образующих базис 99 = удовлетворяющую условию *) С\1п (7.2): для почти всех X при некоторых постоянных ci и С2, О < ci С2 < 00, то его значения , k = 1, п; —«> < t < < о©, образуют базис в пространстве Н^. Доказательство. Каждый элемент h простран- ства /А может быть представлен в виде л л== J <р(%)Ф(а), (7.3) —л где Ф — {Фь}к=Тп “-случайная спектральная мера стацио- нарного процесса £(£), а Ф = {<p&}fe=1,n— некоторая век- торная функция пространства L2^), т. е. такая, что л J [ф/ф] < оо. —л В силу условия (7.2) dIIф (X) II2 ф (X) f (X) ф (X) с2Иф (X) II2, откуда видно, что каждая компонента фДХ), к — i, п, векторной функции ф(Х) интегрируема в квадрате, а л л q J IIф(Х)||2М\h|2<с2 J ||ф(Х)|МХ. (7.4) —л —л Рассмотрим разложение функций фДХ), к = 1, п, в ря- ды Фурье: оо _______ Фй d = 2 «й (t) eiKt, к = ТГп. (7.5) — оо Применяя неравенства, аналогичные (7.4) , к разности п N h- 2 2М0М0, k=l-N получим, ЧТО п N h=l—N М 2 п <2лс22 2 1«й(012- fe=l|t|>N *) Напомним, что неравенство А В означает положительную определенность разности А — В. 7*
100 Гл. II. Экстраполяция процессов с дискретным временем Отсюда видно, что величина h представляется в виде (7.1). С другой стороны, если (7.1) есть некоторое раз- ложение величины h в ряд по значениям процесса £(£), то п N 0 = lim М h — 22 (0 (0 k=l-N 2 откуда видно, что коэффициенты ah(t} этого разложения совпадают с коэффициентами Фурье функций фА(%), к = = 1,п, фигурирующих в представлении (7.3) величины h. Для полного доказательства нашей теоремы остается заметить, что ряды в (7.5) сходятся в среднем квадра- тичном к функциям (%), Л = 1, п, при любой переста- новке их членов. Вернемся к задаче линейной экстраполяции стацио- нарного процесса = {lk(t)}k==—- Пусть его спектраль- ная плотность /(Л) удовлетворяет условию (7.2). Не ограничивая общности, можно считать - спектральную плотность /(Л,) такой, что = + (7.6) где \\М (%) II q < 1. В противном случае можно решать задачу экстраполяции для процесса ц(£)= V2(ci + с2)~1/2£(0, спектральная плотность g (%) = 2 (ci + cz) -1/(%) которого уже отвечает требованию (7.6): Л __ /» С2 ^С1 Очевидно, . F(^T)=|/'^±ian(t1T). (7.7) Итак, пусть спектральная плотность / = удов- летворяет условию (7.6). Рассмотрим пространство L2 матричных функций Ф (X) = {фу (Х)}^“1^, для которых л J || ф (X) ||2 dK < оо (7.8) —л
§ 7. Экстраполяция процессов, образующих базис 101 (каждая их компонента ср^(Х) интегрируема в квад- рате). Матричная функция ф из L2 представляется в виде сходящегося в среднем квадратичном ряда Фурье: ф(Х) = 2 а(0 —оо « (7.9) ' = J сШ<р(^Ж. —л причем °° Л = J ИфО2л. -°° -л Если ввести в L2 скалярное произведение как*) л (ф, = f Sp d%, (7.10) —Л то оно станет гильбертовым пространством с нормой Ikpll = (ф, ф) 1/2. Обозначим ф-(Х), ф-о(^), фо(М, фое(Х) и ф/(Х) мат- ричные функции, получающиеся из ф(Л), ф(Х) = — оо следующим образом: оо оо гр-(Х)« 2а(«)е-% гр-о (X) = 2 «(0 1 о <ро(Х) = а(О), (7.11) О —1 <р0+ (X) = <р+ (X) = 2а(0е-ш- —оо —оо Совокупность всевозможных матриц описанного вида обозначим соответственно Ll, L2_0, L§, Lq+ и 1Д. Оче- видно, Ы, Lq и 1Д являются ортогональными под- *) Напомним, что Sp А означает след матрицы 4.
102 Гл. II. Экстраполяция процессов с дискретным временем пространствами в L2: L2 = Li ф 14 ф Li, Т2 т2 Т2 т2 т2 т2 (7Л2) L—o = L_ ф Lo, L0+=L0© L+. Определим, далее, на пространстве L2 операторы В+ и В- равенствами (713) й+(ф) = [М(Х)ф(Х)]+. Лемма 7.1. Операторы В- и В+ таковы, что < q, (7.14) где q — постоянная, фигурирующая в условии (7.6). Доказательство. Поскольку матричная функция ЛГ(Х) ограничена, произведение Ф = фМ принадлежит пространству L2 при любой ф из L2, причем благодаря условию (7.6) НТ* (X) II2 д2Пф (X) II2 для почти всех X и, следовательно, л л ll^ll2 = i f ||YWIi2a<?2-L J ||ф(*)||2^ = <7211ф112- —л —л (7-15) Пусть ¥(%) = —оо есть разложение в ряд Фурье матричной функции Т* (X). Тогда оо т2= — оо и из неравенства (7.15) получаем оо || (<р) ||2 = || ¥_ ||2 = 2 || Ъ (0||2 < </2|| Ф ||2, 1 что и доказывает утверждение леммы в отношении опе- ратора В-. Точно так же доказывается соотношение (7.14) и для оператора В+.
§ 7. Экстраполяция процессов, образующих базис 103 Из леммы 7.1 вытекает, что существуют операторы (£4-В-)”1 и (Е + В+)~\ где Е означает единичный опе- ратор: (Е + В-)-1 = Е - В~ + (В-)2-(В-)3 +... (7.16)’ (Е + Б+)"> = Е - В+ + (В+)2 - (7?+)3 +... (ряд в (7.16) сходится равномерно). Положим То (e-iX) = (Е + В_) -7„ = 7„ - М_ + (М_>) _ - -[(Л7_Л7) (7.17) То+ (е’х) = (Е + В+)-7„ = 7„ - М+ + (ЛШ+) + - -[>(Л7#+)+] + + ... Лемма 7.2. Имеют место следующие соотношения: 1°. (7п + М)То^ = 7„ + (МТо+)-о; 2°. Т_о(7п + Л7) = 7„ + (Т-оМ)о+; (7 18). 3°. G = Т-о(7п + М)То+=7„ + (Л7То+)о= ' = 7„ + (Т-оМ)о = Go. Доказательство. Легко видеть, что (7„ + М) То+ =* То+ + Wo+ = То+ + (MW0+) + + + (МТ0+) -о = То+ + В+ (То+) + (МТо+) -о = = (Е + В+) ~Чп + В+ (Ё + В+) ~'1п + + (МТо+)_о = 7п + (МТо+)'-о. Аналогично проверяется равенство 2°. Далее, воспользо- вавшись уже доказанными соотношениями 1° и 2°, имеем G = Т-о(7„ + М) То+ = Т-о [7„ + (Л/То+) -о] = = [7п + Т_оМ)оДТо+, откуда видно, что матрица G принадлежит одновременно обоим подпространствам Ыо и Lq+, а это может быть лишь в случае, когда матрица G(X) постоянна, G(X) = Go, что и требовалось доказать. Лемма 7.3. Матричные функции Т-о(е-л) и Yo+(ea) невырождены при почти всех X. Доказательство. Пусть Т_о Н) = 2с(«)г«
104 Гл. II. Экстраполяция процессов с дискретным временем есть разложение в ряд Фурье матричной функции ЧСо (Л,). Тогда, поскольку оо о матричная функция T-ofz) вида оо 4,-o(z) = 2c(0z‘ о будет аналитической в единичном круге. Ее определитель detT’-o^) также будет аналитической функцией, отлич- ной от тождественного нуля, поскольку det Чг-о(О) = 1. Поэтому*) граничное значение det Чг-о(е“гХ) отлично от нуля почти всюду, что и требовалось доказать. Совершенно аналогично доказывается невырожден- ность матрицы Чго+(егХ). Матрица же G является произ- ведением матриц 4S, 1п + М и Т’оч-, невырожденных для почти всех X, и потому сама невырождена. Лемма до- казана. Из соотношений (7.18) получаем, что 4CJ (е-^) = [1п + (Г1'о+Ы G-1 е= 1Д0, Ч7+1 (eiK) = G-1 [1п + (Т_0Л/)0+] е= L02+. Лемма 7.4. Имеют место следующие равенства*. J log I det V-o (е~^) | dK = J log | det To+ (e^) | dK = 0, —л —л (7.20) J log det (In + M)dK = log | det G |. —Л Доказательство. Рассмотрим аналитическую мат- рицу Чг-о(^) (ее компоненты принадлежат классу Н%) и максимальную матрицу T(z), удовлетворяющую тому же граничному условию что и W-ofz): Г(с"а)Г (с"гХ)= Чг_о(е”/х)Т-о(б"а). *) См., например, уже цитированную книгу Привалова f*], с. 70 и 82.
что § 7. Экстраполяция процессов, образующих базис 105 Из результатов предыдущего параграфа вытекает, что л | det Т-о (0) К | det Г (0) | = exp -L J log | det Т_о (е~^) | •. —л Поскольку det4r-o(O)= 1, отсюда получаем, что 0< J log | det Т_о (e-ix) | d'K. ' —л Рассматривая теперь функцию 4Cj(z), совершенно аналогично приходим к следующему: 0 < J log I det YZj (е-а) | = - J log | det ¥_0 (е~^) | dK. —л —л Последние два соотношения позволяют заключить, J log I det Y-o (<?-**) | dK = 0. —Л Точно такими же рассуждениями можно доказать ство нулю второго интеграла в (7.20). Наконец, из определения матрицы G{G = Gq) что det Go = det Т-о (e~iK) det (In + M) det T0+ (eiK), откуда Л JL J log|det(/n + M)|dX = —Л Л = J log I det T-o (e“^) det (In + M) det Ч%+ (e^) | dK = —Л равен- видно, л = 2Г f 10g । det G» I dX = log I det G« I’ —л что и требовалось доказать. Лемма 7.5. Матричная функция является сопряженной к Ч7о+(еа): Ф-о(в-а) = ^о+Ю. (7.21) Матрица же Gq является положительно определенной.
106 Гл. II. Экстраполяция процессов с дискретным временем Доказательство. Так как матрица Л/(Х) само- сопряженная, Л/(Х)==Л7 (Z), то Л/_(Х) = #+(Х), следовательно, zl(Zn) = Z?+(Zn), откуда B™(Zn) = B™(Zn)> что и доказывает равенство (7.21) ввиду соотношений (7.16), (7.17). Положительность же матрицы Go оче- видна: Go = Т-о (Zn + М) То+ = Т-о (1п + М) ЧГ-о., Лемма доказана. Обозначим G0/2 положительный квадратный корень из матрицы Gq. Приведенные выше леммы показывают, что аналитическая матрица Г(и)= /2^4Cj(2)Go/a (7.22) удовлетворяет граничному условию Г (е-**) Г (е-*) = (In + М) = / (X) (7.23) и, кроме того, Г (0) 2 16 log detT7=- = log det Go = и-- log det/(A,) dZ. (7.24) у £31 ,7 —Л Равенства (7.23) и (7.24) (см. теорему 6.2 предыду- щего параграфа) означают, что матрица Г(г), определен- ная формулой (7.22), является максимальной. Итак, доказано следующее предложение: Теорема. 7.2. Если спектральная плотность f(^)== = {fki (^)}feZj^ отвечает требованию (7.6), то максималь- ную аналитическую матрицу Г(и), удовлетворяющую гра- ничному условию (7.23), можно найти по формуле (7.22). Принимая во внимание тот факт, что значения соот- ветствующего процесса £(0 = образуют базис
§ 8. Общий критерий регулярности 107 в пространстве как следствие теоремы 6.3, получим следующую теорему. Теорема 7.3. Пусть l(t) = {^h(t)}k=s— —стационар- ный процесс со спектральной плотностью /(X) = = {fki (М)1=п? удовлетворяющей условию (7.6). Тогда стационарный процесс т) = т)}^—, служащий наилучшим линейным прогнозом {на время т вперед) процесса £(£), получается из него скользящим суммиро- ванием'. £(*, т) = 2 a\t — s)g(s), (7.25) Коэффициенты a{s) = (s)}^=^, 5^0, в (7.25) сов- падают с коэффициентами Фурье матричной функции Ф (Z,, т) = е'1>л т—1 ф(Х)— 2 e(s)e-iXs о ф-ЧЧ (7.26) где Ф (X) = V2л \1п + (МТо+)_о] Go 1/2, То+ (е*) = 1п - М+ + (ММ+)+ - -[М(ММ+)+]+4-.... (7.27) С = Фо+/(Х)^о+, а коэффициенты c{s) есть коэффициенты Фурье матрич- ной функции ф(Х). § 8. Общий критерий регулярности и линейная экстраполяция процессов ранга 1 Как мы уже видели, аналитический критерий линей- ной регулярности стационарного процесса максимального ранга, даваемый теоремой 6.1, довольно прост и эффек- тивен. В общем случае, к сожалению, это далеко не так. Для того чтобы сформулировать общий критерий регу- лярности, нам понадобятся некоторые определения. Мы уже ввели класс Яб аналитических функций *y(z) , обладающих тем свойством, что л J I т(рг~а)|б<^<яб(у)< оо (8.1) —л
108 Гл. II. Экстраполяция процессов с дискретным временем при всех р, 0 р < 1. Будем говорить, что функция 7(2) комплексного переменного 2, Ы < 1, принадлежит клас- су М, если ее можно представить в виде отношения (8.2) функций 71(2) и 72(2), принадлежащих классу Яб. Свойства функций классов Яб и N6 хорошо изучены (см., например, книгу Привалова1*1), и потому, хотя нам и потребуется знание некоторых этих свойств, мы не будем их доказывать, а ограничимся ссылкой на специ- альную литературу*). Из теоремы единственности для аналитических функ- ций вытекает, что функция у (z) класса М, имеющая ра- диальные граничные значения ц(е~*к) для почти всех К, у (e~iK) = lim у (pe-u), (8.3) p-^i однозначно ими определяется (Привалов1*1, с. 70, 82). Теорема 8.1. Чтобы стационарный процесс |(i) = = {Ik (f)}h==Yn был линейно регулярным ранга т, необхо- димы и достаточны следующие условия-. 1°. Существует спектральная плотность /(^) = = имеющая ранг тп для почти всех X. 2°. Существует главный минор М (К) = матрицы /(X,), отличный от нуля почти всюду, для ко- торого J log Л/(X) > — 00. —л 3°. Функции yhj(e~iK) = Mhj(K), (где Mhj(k) озна- чает определитель, получающийся из М (Л) заменой его ]-й строки на строку р = 1, тп) являются гранич- ными значениями функций класса N6 при некотором б>0**). *) Полное доказательство нужных нам свойств функций из классовII& потребовало бы написания отдельной главы, а посколь- ку эти свойства будут использованы лишь в этом параграфе, пред- ставляется целесообразным отослать читателя к специальной ли- тературе. **) Как мы увидим, если процесс |(£) регулярен, то автомати- чески 6 = 2/т.
f 8. Общий критерий регулярности 109 Отметим сразу, что, к сожалению, нет общего способа, определяющего принадлежность некоторой функции 7(2) к классу М по ее граничному значению 7(e~^), что де- лает нашу теорему, хотя и выясняющую аналитическую природу регулярности стационарного процесса, недоста- точно эффективной. Доказательство. Пусть стационарный процесс g (t) = {%h регулярен. Тогда по теореме 4.1 этой главы процесс имеет спектральную плотность /(Х) = = удовлетворяющую условию 1°, и кроме того, допускающую факторизацию: /(Х)=Г(е“Л)Т(^х)\ г(8.4) где Г(г) = есть аналитическая в единичном круге матрица. Из (8.4) видно, что всякий главный ми- нор М(К) = det матрицы /(%) имеет вид M(X)-|deqr,p; Is, (8.5) и поскольку функция det аналитична в еди- ничном круге, М (Л) либо тождественно равен нулю, либо отличен от нуля для почти всех %. Ранг положительно определенной матрицы /(X) равен иг, и потому сумма всех ее главных миноров порядка m отлична от нуля почти всюду; следовательно, существует некоторый глав- ный минор М (X), также отличный от нуля почти всюду. Имеем, далее, 771 (8.6) р-1 для всех к и ] при некоторых функциях 0^(Х), так как все строки матрицы /(X) линейно выражаются через ее Ш строк {/гр?(^)}г=1’П7 р = 1, ГП. Из соотношений (8.4) и (8.6) видно, что m m m £ гйде-^)Гь.(е-^)= 2 Гм(е-^)Г^9 = 5=1 р=1 v 5=1 v m m = 2 2Ч(Ь)Гм(е-^) 5=1 4>=1 (8.7)
НО Гл. II. Экстраполяция процессов с дискретным временем при Z = ii, £2, ..im. Но определитель матрицы {Г$р; связан соотношением (8.5) с минором Л/(Л), который, по нашему предположению, отличен от нуля и, следовательно, этот определитель также отличен от нуля. Поэтому должны иметь место следующие ра- венства: m = 2 0«р (V ГМ (e-ix) (8.8) Р=1 при всех к и у. По известному правилу Крамера, из усло- вий (8.6) и (8.8) находим, что ~ Ж “ М(е-Ы) ’ (8’9) где M(z) = det a Mkj(z) получается из XI (z) заменой его j-й строки на к-ю строку матрицы Г(^). Так как элементы Tftj(z) матрицы Г(з) являются функциями класса Яг, то функции M(z) и XI ^(z) при- надлежат классу Я2/ш*), и из равенства (8.9) заключа- ем, что Yw(e"a) = 0W(A) являются граничными значения- ми функций 4kj(z) класса Я2/т- Таким образом, необходи- мость условия 3° нашей теоремы доказана. Условие же 2° также выполняется, поскольку 7И(Х) совпадает с квадратом модуля граничного значения XI(e~iK) аналитической функции XI (z) класса Я2/т (см. Привалов1*1, с. 83). Перейдем к доказательству достаточности условий 1°—3°. Если они выполнены, то имеют место соотноше- ния (8.6), где ®kip(ty = 4kip(e~iK) являются граничными вначениями функции Vkip(z) класса N&. Далее, по теореме 6.1 стационарный процесс будет регулярным, и потому его спектраль- ная плотность [fipiqдопускает факторизацию: тп ________ fipiq W = S f jpJ (e-ix) Гм (е-^). (8.10) *) Это следует из того обстоятельства, что если функция а(г)еЯб,, а функция 0 (г) <= Н6,„ то у(г) =a(z)0(z) еЯв, где . 6'6" °-6' +б"-
§ 8. Общий критерий регулярности 111 Следовательно, m m р=1 р г=1 = 2 2 0mpwTmH) (8.И) j=i Lp=i J Из параметрического представления функций класса Н6 (см., например, книгу Привалова1*1, с. 107) вы- текает существование такой ограниченной аналитической функции [3(z), |£(е-Л)1=1 (8.12) для почти всех %, что произведения akj(z) = р (2)^(2)’ (где Yfej(z)—функции из класса Nd, фигурирующие в ус- ловии 3° нашей теоремы) будут аналитическими из не- которого линейного класса, обладающего тем свойством, что если произведение П(я) функций из этого класса л таково, что J | П (е~гК) |б dK < 00 , то П(г)еЯб* —л Положим Р (2) Гkj (z), к = ir, .. ., Г^)= ™ \ F / \ b 2 'YMp(z)ripj(z) при остальных к. Принимая во внимание, что у^(в“гХ)= 0/у (X), из соот- ношений (8.10) —(8.12) выводим: m __ 2 rw Tej (e~iK) = fhe (X). (8.13) 3=1 Полученное равенство показывает, что аналитические функции I\j(z) на самом деле принадлежат классу Я2, m __ так как элементы Д&(^)= 2 |Г«(е-‘*)|2, к = 1, п спект- j=i ральной плотности /(Л) интегрируемы. Таким _образом, спектральная плотность /(X) = = стационарного процесса |(£) допускает факторизацию, что означает регулярность процесса £(£)’• Теорема полностью доказана.
112 Гл. II. Экстраполяция процессов с дискретным временем Замечание 1. Как видно из доказательства теоре- мы 8.1, если стационарный процесс £(0 = {%k ре- гулярен, то условия 3° теоремы 8.1 должны выполняться для всех функций ^ko(e~iK), отвечающих любому главному минору М(Л), удовлетворяющему условию 2°. Замечание 2. Очевидным следствием теоремы 8.1 является следующий факт: стационарный процесс £(/) = = (Ik (t)}k==-^n со спектральной плотностью / (^) = = {fhi элементы которой рациональны от* носителъно e~iK, всегда регулярен. Действительно, миноры матрицы /(Л) будут рациональны относительно вме- сте с функциями а рациональная функция всег- да принадлежит классу N6 при некотором б > 0. Остановимся подробнее на случае, когда п-мерный стационарный процесс £(£) имеет ранг, равный 1. В этом случае теорему 8.1 можно переформулировать следующим образом: Теорема 8.2. Стационарный процесс = Ранга 1 со спектральной плотностью /(Х)^ = {fki линейно регулярен тогда и только тогда, когда л 1°. J log /jj (X) dX> — оо при некотором j. —л 2°. Отношения являются гра- ничными значениями функций класса N6 при некотором б > 0 для всех к = 1, п. Очевидно, если стационарный процесс £(/)== {lk(t)}k=^ регулярен, то и каждая его компонента является регулярным стационарным процессом, и по теореме 5.1 этой главы, л J log fa (X) dl > — оо —л при всех j = 1, п. Замечание 1 к предыдущей теореме 8.1 позволяет заключить, что условию 2° должны удовлетво- рять все функции (e~iK) вида (e~iK) = fkj(X) //л(X), к, j = 1, п. Теорема 8.3. Стационарный процесс £(£) = = (0}Л=Пг Ранга 1 либо линейно регулярен, либо ли* нейно сингулярен. _ . _
§ 8. Общий критерий регулярности 113 Доказательство. Стационарный процесс 5(t) = = {^(OJ^nr ранга 1 представляется в виде скользящего суммирования по некоторому некоррелированному про- цессу 5(0 (см. теорему 9.1 предыдущей главы). В слу- чае, когда процесс 5(0 не сингулярен, фундаментальный процесс его регулярной части и некоррелированный про- цесс 5(0 могут быть получены друг из друга линейным преобразованием (см. замечания к теореме 8.1 гл. I). Это означает, что на самом деле процесс 5(0 совпадает со своей регулярной частью. Теорема доказана. Рассмотрим, далее, регулярный стационарный процесс 5 (0 = {£& (0}fc=j^ ранга 1 со спектральной плотностью /(%) = Максимальная аналитическая матри- ца Г(г), удовлетворяющая граничному условию ^Г(е-^)Г(е-^) = /(Х)г (8.14) будет в этом случае вектором-столбцом: Г (z) = {I\(z)}/i=—? а условие (8.14) означает, что 2^Гй(е-^)Гг(е-^) = /йг(Х), к, 1 = (8.15) Ниже мы рассмотрим вопрос о том, как выражается максимальная матрица T(z) через элементы спектраль- ной плотности, если считать известными функции у# (z), /с = 1, п, фигурирующие в условиях 2° теоремы 8.2, ко- торые однозначно определяются своими граничными зна- чениями Yftj(^“ix): к=~п- <8лб> Из формулы (8.16) видно, что достаточно найти лишь одну функцию Fj(z), остальные же компоненты rft(z) матрицы-столбца Г (z) = {I\(z)}ft=;— выражаются через функции ГДг) и ^(z), k = i, n: ад = ^(г)ВД. (8.17): Условие максимальности, означающее, что разность * ^, * Г (0) Г (0) — Г (0) Г (0) есть положительно определенная матрица для любой аналитической матрицы-столбца Г(и) = {rfe(z)}fe==— класса Яя, удовлетворяющей гранич- 8 Ю. А. Розанов
114 Гл. 11. Экстраполяция процессов с дискретным временем ному условию (8.14), в нашем случае эквивалентно сле- дующему: ___ |ГДО)| > |ГДО)1, /=1, п. (8.18) Действительно, с одной стороны, диагональные эле- менты 1ГД0) I2 — |ГДО) I2, / = 1, п, положительной разно- * ~ £ сти Г (0) Г (0) — Г (0) Г (0) должны быть неотрицательны. С другой стороны, если выполнено требование (8.18), то некоторый элемент ГДО)=^О*) и, как это следует из со- отношения (8.17), матрица Г(О)Г (О)-Г(О)Г(О)== = (I Г; (0) |2 - | Г; (0) |2) {Yw (0) является положительно определенной. Соотношения (8.17) показывают, что достаточно най- ти лишь одну компоненту ГДг) максимальной матрицы, T(z). Для нахождения ГДз) нам понадобится теорема о параметрическом представлении функций класса /Л (см., например, книгу Привалова1*1, с. 107): каждую функцию *y(z) класса Н6 можно представить в виде у (и) = zm JJ а(р) -—Z 1 — |а<р) 1 Wex₽ 1 2л o(dX) X егКо exp л . ‘ —л j (8.19) X где тп есть кратность нуля z = 0 функции уО), а(р) — ее остальные нули, считаемые столько раз, какова их крат- ность, a ofd'k) есть некоторая положительная сингуляр- ная**) мера, причем бесконечное произведение в (8.19) сходится абсолютно и равномерно. Лемма 8.1. Пусть аналитическая функция ц (z) представляется в виде V(Z) = exp е z e~iK — z o(dX) *) Значения ГДО), / = 1, п максимальной матрицы, очевидно, не могут одновременно обращаться в нуль, если /(X) не равна тождественно нулю. ** ) Сингулярность меры o(dX) означает, что она целиком сосредоточена на некотором множестве лебеговой меры нуль.
§ 8. Общий критерий регулярности 115 где ofdJCj есть некоторая мера ограниченной вариации, и пусть интервал A =(Xi, ^2) таков, что а(Аг1) = 0(^2) = 0. Тогда ^2 о(А) = lim f log I у(ре~а) I Як. (8.20) Доказательство. Имеем л log IV (pe-iX) I = Д- f-»—1 ~ P------о (ф) S,nl л 2л J 1 4-p2 — 2p cos (X — p) —Л и ^2 j* log I у (pe~iK) I dX = kl Г x Л Л2 = j a(^) 2И —л 1-p2 1 + p2 — 2p cos (A, — p) dK Л |” Л "i - J»») f • <8'21> —Л L —jt -J где (1 при X e A, Хд(М —|q при x^A. Из известных свойств интеграла Пуассона (см., напри- мер, книгу Привалова1*1, с. 52) вытекает, что л Ит f ХД W / 7-2 j~P\ .п Л (|Л) (8'22) ! a J 1 + р — 2р cos (X — р) —л во всех точках ц, отличных от Xi и Z2. Поскольку функ- л Ц™ *(₽. И) - a- J ХА W , + р. ц Л при р и ц не превосходит 1, то, переходя к пределу при р-> 1 в обеих частях равенства (8.21), получим соотно- шение (8.20) нашей леммы, так как в силу того, что <з(Х1) = 0(^2) = 0, поведение подынтегральной функции в (8.21) при |1 = А,1 и ц = Х2 несущественно. 8*
116 Гл. II. Экстраполяция процессов с дискретным временем Вернемся к определению максимальной матрицы- столбца Г (z) = {I\ (z)}ft==— по спектральной плотности В соответствии с теоремой о параметрическом пред- ставлении Г;й- -*"<П IP пусть а^ —z а(.р> 3 _ ’ 3'- ехр 1-а(Р)г а-*» ау <• Л 1 С е~^ + z 2л J q — z оДФ)| X {л 4^- J 10g /я(М —Л е + z е~г^ — z dK (8.23) Ясно, что полюсы функций фигурирующих в условии 2° теоремы 8.2, ^(г)= ГА(г)/Г;(г), находятся среди нулей а^р) функции ГДг). Если же а есть нуль функции ГДг) кратности тп, то хотя бы для одной из функций Y^(z), Л = 1, п, он является полюсом той же кратности. Действительно, в противном случае все функ- ции I\(z) = обращались бы в точке z = a в нуль, что приводит к противоречию со свойством макси- мальности матрицы T(z). Таким образом, в параметрическом представлении (8.23) функции Fj(z) число mj есть максимальная крат- ность полюса в точке z = 0 функций ^hj(z}, k = l, n, a a^p) есть остальные полюсы этих функций, считаемые столько раз, какова их максимальная кратность. Пусть, далее, mkj — кратность полюса в точке 2 = 0 функции Yfej(z), а — остальные ее полюсы, считае- мые столько раз, какова их кратность. Положим М*) = ^‘П р „(Р) — Z ahj z 1 — a9pz aw {Л . 1 4^- J log fkh (М 7^777 —Л (8.24) Далее, функции akj(z), akj (z) = (z) (8.25)
$ 8. Общий критерий регулярности 117 можно представить в виде {Л — 2}Г J °k} <8-26) —Л где oAj(dA) = oft(dA) —оДйА). (8.27) Зная функции 4ki(z), мы можем найти ^(z), а значит, и меры oftj(dZ). Действительно, по лемме 8.1, если интер- вал A =(Xi, Аг) таков, что Оаз(А1) = о^(А2) = 0, ^2 ohj (A) = lim f log I ah-j (pe~i%) | dK. (8.28) Теперь остается по а«(б?А), & = !, п, восстановить по- ложительную меру оДйА). Пусть и (tZA,) будут положительной и отрицательной частями разложения в смысле Хана—Жордана меры aw(dA), определяемой со- отношением (8.28): (Тад (Л.) = Над (Л) - Сад (d%). (8.29) Как известно (см., например, книгу Халмоша1*1, это разложение обладает тем свойством, что J (dX)< J о£(Л), J (Тад((Д)< J a^(dk), (8.30) —зт —Л —Л л каковы бы ни были положительные меры стад (cZX) и o^(cZA.), разность которых составляет ow(dX). Положим 2+(^)= 2 а^(^), ' + \ (8.31) Phi = v+ = тах 2/ (A) k и, наконец, а+(Л) = рДХ)2;(Л). (8.32) w Так как меры сц(йА), к = 1, тг, фигурирующие в пара- метрическом представлении (8.23), сингулярны, то этим же свойством обладают и меры ofej(6ZA), а значит, и меры Gkj(dh) вместе с (dA), к = 1, п. Если в формулу (8.23)
118 Гл. II. Экстраполяция процессов с дискретным временем вместо оДс/Х) подставить о/" (cZX), то получим функцию Г* (z) класса Яг, такую, что функции (z) = у/г7- (z) г+ (z) являются аналитическими также класса Яг. Действитель- но, поскольку YAj(z) = I\(z)/rj(z), то функции r^"(z) можно представить в виде Ц(г) = ^П р akp)-z 1 — z ИТ “fep) х X exp Л f log/faft(X) g ,^ + z 4л J f е—гК___z —л X (л 2^ J “ aft> — Л (8.33) где сингулярные меры oj"(<A)— <Tfej(dX), &=l,n, очевид- но, положительны. Кроме того, функции Г^" (z), к=1,п, удовлетворяют граничному условию (8.15): Г+ (е-^)Г/-(е-^) = yki (e-ix) | Г,+ |2 = = = к,1 = Т~п. Далее, в силу неравенства (8.30) л л J a£(dX)< j аДЛ) —л —л для всех к = 1, лг, поэтому также и л л j j аД^), (8.34) —л —л что означает максимальность функции Г^" (z): |ГЛО)|>|ГДО)|. (8.35) Неравенство (8.35) показывает, что матрица-столбец Г+(И) = {Ц- (2) }h=— на самом деле является искомой максимальной матрицей T(z).
§ 8. Общий критерий регулярности 119 Итак, нами доказана следующая теорема: Теорема 8.4. Пусть £(£) = {gft(Z)}ft=i>n — линейно регулярный стационарный процесс со спектральной плот- ностью / (^) = {Л/Ранга 1- Тогда максимальная матрица-столбец Г (z) = {I\(z)}fe=~, удовлетворяющая граничному условию (8.14), может быть найдена из фор- мулы (8.23), где mj есть максимальная кратность полю- са в точке z = 0 функций q)w(z), к = 1, п, фигурирующих в условии 2° теоремы 8.2, а<р) есть остальные полюсы этих функций, считаемые столько раз, какова их макси- мальная кратность, а положительная сингулярная мера °э определяется соотношениями (8.32). Из этой теоремы на основании общих результатов § 4 этой главы вытекает следующий факт относительно ли- нейной экстраполяции стационарных процессов ранга Г. Теорема 8.5. Пусть % (I) = {%k(t)}k^—~ линейно регулярный стационарный процесс ранга 1 со спектраль- ной плотностью /(^) = {Аг(^)}^2|“? спектральное пред- ставление которого суть _ г \ £(/)= J е’«Ф(Л). (8.36) Стационарный процесс £ (t, т) = {^k (Z, ?)}fe==—, служа- щий наилучшим линейным прогнозом (на время т впе- ред) процесса ^(t), получается из него линейным преоб- разованием: л т) = J егШ+ъ) —Л Т—1 ф (^) — 2 с ($) e~iKs о ф(Х)Ф(Л). (8.37) Здесь <p(Z) = T(e гК) есть граничное значение максималь- ной матрицы-столбца Г (z) = {I\(z)}ftfe—, определяемой формулами (8.17) и (8.23), коэффициенты c(s) = {ck(s)}h==Y~n естъ коэффициенты разложения в степен- ной ряд матрицы T(z), а матрица-строка i|)(X) = = {'Фл (^)}ft==1,n находится из уравнения: п 21>ЖМ = 1- (8.38) k—1
120 Гл. II. Экстраполяция процессов с дискретным временем § 9. Линейная фильтрация стационарных процессов Довольно часто возникает задача предсказать поведе- ние стационарного процесса g (t) = {%k (0)ft==— на основе наблюдения другого процесса П (0 = {Пй стацио- парно связанного с %(t). Если сам способ предсказания является линейным, то эта задача носит название линей- ной фильтрации. Более точно, задача линейной фильтра- ции состоит в нахождении величин т), & = 1, п, яв- ляющихся проекциями неизвестных значений ^(^ + т) в подпространстве Как мы видим, линейная фильт- рация довольно схожа с уже рассмотренной выше ли- нейной экстраполяцией стационарных процессов. пусть AM-iACg н /"(ч-(/;?(<!§ есть спектральные плотности стационарных процессов £(£) и ц(£), а /Л(Х) = — их взаимная спект- ральная плотность. Предположим, что стационарный процесс ц(£) имеет максимальный ранг, т. е. его спектральная плотность У1™ (Л) невырождена для почти всех X. Тогда проекции Л = 1, п, величин ^h(t) ъ пространстве /Д, образую- щие стационарный процесс получают- ся из процесса т)(0, T](Z) = J е^Ф(Л), (9.1) —Л линейным преобразованием: л |(/)= J е^ф(Х)Ф(Л); (9.2) —Л спектральная характеристика этого преобразования есть Ф(м=т[пмг. (9.з) Действительно, {м [^(0-1(01 = j (X) dK - j еад-8)ф (X) у*1” (X) = о —л —л при любых t И S, „ , _ .
§ 9. Линейная фильтрация стационарных процессов i21 Очевидно, проекции величин £/(£ + ?) и £Л(£ + т) на подпространство H^(t) совпадают между собой. Это про- стое замечание и позволяет решить задачу линейной фильтрации. Предположим, что стационарный процесс ц (£) линей- но регулярен, и пусть С (О = (0};=^ есть его фунда- ментальный процесс, £(£)= J (9.4) —л Как было показано в § 4 этой главы, случайные спек- тральные меры Ф(Л)={ФЙ(Л)}Й=— и Л (Л)= {Л/йХ)};=— стационарных процессов ц(0 и £(£) связаны между со- бой следующим соотношением: Ф(а) = ф(%)Л(а)', '(9.5)' где <р (X) = {<pw (A')}£lj^ есть граничное значение макси- мальной матрицы Г (z) = {ГйДз)}’~^, удовлетворяющей условию ±r(^)f(^) = fW. (9.6) Из соотношений (9.2) и (9.5) получаем, что Ш = I е{«<р(Х)<р(Х)Л(Л) = 2 (9.7) < -л -°° где коэффициенты a(s) = {^(^)}^р~ совпадают с ко- эффициентами Фурье матричной функции [ф (X) ф (X) ]: л «(*) = 2Г J* (Л) ф (X) (9.8) —л Представление (9.7) процесса %(t) в виде скользя- щего суммирования по фундаментальному процессу £(£), обладающего тем свойством, что подпространство (t) совпадает с (t) при всех t, позволяет найти проекции т) величин ^(^ + т) на подпространство (Z). Именно, стационарный процесс £ (t, т) = {%k (t, n)}k==—
122 Гл. II. Экстраполяция процессов с дискретным временем может быть представлен в виде Г(I, т) = 2 a(t + г — S)Z(*)' S^t (9.9) Отсюда находим, что л ^(f, т) = f У a(t + т— $)гш]л(бА) = , J р ~ 00 = f еш ^a(s+x)e~^s <p~i (X) Ф (<Д), (9.10) Л Ь=о J —л L- - Л —л поскольку матричная функция ср(Х) в (9.5) невырождена для почти всех Л. Таким образом, имеет место следующее предложение: Теорема 9.1. Стационарный процесс £(/, т) = — являющийся наилучшим линейным про- гнозом процесса ^(0 = {^(^)}fe=— пРи помощи стацио- нарно связанного с ним линейно регулярного процесса т)(О = {'Пл(О}А= =— максимального ранга, получается из последнего линейным преобразованием вида (9.10). Пример 9.1. Пусть одномерные процессы £(£) и ц(£) имеют спектральные плотности вида e—ih Тогда функция <р(Х), фигурирующая в формуле (9.10), есть , л 1 — Имеем /&”&) В 1-ае-^ В (х) Ф W - А 1 _ ае» ~ А — ае гК + (1 — а2) aselKs о откуда находим, что коэффициенты a(s) в (9.10) суть В , 2ч В во = ^~(1~а'> а1 = аТ’ «2 = «3= ... =0.
§ 10. Интерполяция стационарных процессов 123 Поэтому f~(Z, 0) = — f еш ~ “2 ~ ае ~ Ре Ф (с/А.) = A2 J (1 — ае-"2^) —л = (l-a2)U0-(a3+₽(l~a2))U*-l) + + а (Р — а) 2 ~ «) s=2 § 10. Линейная интерполяция стационарных процессов Родственной задачам линейной экстраполяции и филь- трации является линейная интерполяция стационарных процессов. Предположим, что известны все значения £fc(0 мно- гомерного стационарного процесса £(0 = {£fc(Ok=iJ? КР°“ ме лишь конечного числа £А(£), гДе моменты времени th образуют множество Th, и требуется «проинтерполиро- вать» эти неизвестные значения £*(£)• Если мерить ошибки в среднем квадратичном, то наи- лучший линейный способ интерполяции заключается в нахождении проекции значений на ли- нейное замыкание известных величин |ft(£), t^Tk, к = = 1, /г, которое мы обозначим Н(Т). Отметим сразу, что при рассмотрении задачи линейной интерполяции, не ограничивая общности, можно считать, что процесс имеет спектральную плотность /(^) = = {fhi (^Z^; это легко можно понять, если обратиться к результатам § 5 гл. II, касающимся сингулярности про- цессов с сингулярными спектральными мерами. Пусть А есть тг-мерное векторное пространство, а ВК — его подпространство векторов b = {feft(h)}ft=1»n вида Ь = а/(Х), а^А. (10.1) Будем понимать под элементом &/-1(Х), Ь^ВК, любой из векторов а^А, удовлетворяющих уравнению (10.1). Очевидно, если векторы а\ и «2 удовлетворяют одному и тому же уравнению (10.1), то * * а\Ъ' = а^Ъ' (10.2)
124 Гл. II. Экстраполяция процессов с дискретным временем для любого Ъ' е=Вк, b' = af(%), поскольку в силу самосо- пряженности матрицы /(X), (ах — а2) V = («! — а2) КДХ)] = = [(«1 — а2) / (*-)] «' = (& — Ь) а' = 0. Определим В(Т) как пространство векторных функ- ций Ь(Х) = компоненты Ък{К) которых явля- ются тригонометрическими полиномами вида (Ю.З) таких, что b(L)^BK для почти всех %, со скалярным про- изведением л (Ь, &')= J [Ь(Х)/-1(Х)] CZX, —л (10.4) и нормой 11611= (6, Ь)1/2. Обозначим А (Г) подпростран- ство, натянутое на разности Лемма 10.1. Подпространство А(Т) изометрично пространству векторных функций В(Т). Доказательство. Пусть Ф (dX) = {Ofe (dK)}k==— есть случайная спектральная мера процесса ^(t). Эле- менты h пространства А (Т) можно представить в виде л А = j Ф(Х)Ф(<А), (10.5) —Л где векторная функция ср = принадлежит про- странству L2(F), т. е. л J [ф/ф] оо. (10.6) —Л Условие ортогональности величины h к подпространству Н(Т) означает, что л МА|ДТ) = J е-ш —Л 2 VkWfkdK) Lfe=i <Д = 0 (10.7)
J 10. Интерполяция стационарных процессов 125 для всех I (Z = 1, n), t(—оо<£<оо), за исключением Если положить 6(А) = ф(Х)/(Л), то равенство (107) показывает, что векторная функция 6 (%) = {bk(k)}h==1>nпринадлежит пространству В(Т): bh (%) = 2 Ф/ W ilk (X) = 2 ak (О *4 к = Т~^, 1=1 tf=Tk л II И2 = J = —л = J [<р(>.)/(Х)ф(%)]йХ = М|А|2, —л С другой стороны, если взять произвольную функцию 6(Х) из В(Т) и положить ф(А)= 6(A)/-1 (А), (10-81 то J [ф(Х)/(Х)ф(Х)] d'K = J [6(X)/-1(X)&(X)]dX<oo , (10.9) —л —л и случайная величина h вида л h = J ф (А,) Ф (еА) —л ортогональна к подпространству Н(Т]: л Mhh (0 = J е-ш —Л 2 tPkWhaW dK = J e-^b^dk^ h=l J —л при всех l и Z, за исключением t^Tt. Но это означает, что величина h принадлежит подпространству А (Г), и кроме того, в силу равенства (10.9), M\h\2==W\\ (10.10) Лемма доказана. Очевидным следствием этой леммы является следую- щая теорема: Теорема 10.1. Для безошибочной линейной интер- поляции стационарного процесса ^(0= с0
126 Гл. II. Экстраполяция процессов с дискретным временем спектральной плотностью /(X) необходимо и достаточно, чтобы = (10.11) В случае, когда спектральная плотность /(X) невы- рождена для почти всех X, условие (10.11) можно сфор- мулировать следующим образом: для любой векторной функции == {bk(K)}hz=1\n, &(Х)е=£О, с компонентами ви- да (10.3), j [&(%)/“1(X,)6(X)]d%= оо. (10.12) —л Могут мости, в (10.12). представиться и другие случаи интерполируе- которых нет аналитического условия типа Пример 10.1. Пусть g (J) — есть двумерный стационарный процесс со спектральной плотностью /м=№СВ компоненты которой имеют вид: /11 = /22 = 1; /12 — /21 = eiK. Очевидно, матрица /(Л) вырождена. Пусть значения процесса неизвестны в некоторый момент t = f0, т. е. Th = {М при k == 1, 2. {iZf ikt 1 а1е °» а2в °J К П°ДПР°“ странству Вь означает, что ранг расширенной матрицы / (X) = = {hl г«е при к, I = 1, 2, 7зг (X) = ikt ’ =ate °, I == 1, 2, совпадает с рангом самой спектральной плот- ности /(X). Но как легко видеть, в нашем случае ранги матриц / (X) и /(X) совпадают для почти всех X, лишь когда аЛ = = 0. Таким образом, В(Т) = 0, и процесс может быть проинтерпо- лирован безошибочно. С точки зрения задачи линейной интерполяции пред- ставляет интерес вопрос о том, когда всякая отдельная величина gA(f) не принадлежит линейному замыканию всех остальных величин — значений данного стационар- ного процессу £(/)== {£fe(£)}fe==j-^. Условимся называть та- кой процесс минимальным. Теорема 10.2. Для минимальности стационарного процесса ^(0 = {gA(Z)}fe=— со спектральной плотностью
§ 10. Интерполяция стационарных процессов 127 /(А,) = {fhi необходимо и достаточно, чтобы*) л J Sp/-1(X)d%< оо. (10.13) —л Доказательство. Условие минимальности эквива- лентно тому, что разность = (здесь Tk = = {t), Tt = 0 при 1^к) должна быть отлична от нуля. Как следует из леммы 10.1, величинам hk, к = 1, п, от- вечают в соответствующих пространствах В(Т) вектор- ные функции bk(k) = {&fej(Az)p*=1’n с компонентами вида bkj(h) = O при 7#= к; feft/(X) = akeiU, ah^Q. Принадлеж- ность feft(A) к соответствующему пространству В (Т) оз- начает, что присоединение к матрице /(X) еще одной строки вида (X)}j=1*n не увеличивает ее ранга ни при каком к = 1, п. Легко сообразить, что это может быть лишь в случае невырожденности матрицы /(X) и, таким образом, для почти^всех Л существует обратная матрица /-1(Х) = Далее, по формуле (10.10) Л М|М2 = 11Ы2 = И12 J Pkk(K)dK<oo (10.14) —Л при всех к = 1, п, откуда и следует условие (10.13) на- шей теоремы. Достаточность же этого условия в силу соотношения (10.14) представляется очевидной. Теорема доказана. Перейдем теперь к непосредственному отысканию ве- личин £ft(0, дающих наилучший прогноз при линейной интерполяции. Как мы уже знаем, величину £ft(£o) можно предста- вить в следующем виде: л Ш) = f iMW)- (Ю-15) —л Задача линейной интерполяции, по существу, состоит в отыскании векторной функции Ф^(А<) = {ф^(Х)р=1»п. ♦) Напомним, что Sp А означает след матрицы ’ к=1
128 Гл. II. Экстраполяция процессов с дискретным временем Поскольку разность &,.Оо) = 1л(М принадлежит про- странству \(Т), из леммы 10.1 получаем, что векторная функция . __ bh (X) = [ ЛЧ - (%)] f (X) - {bhi ( принадлежит пространству 5(7), в частности, bkAty= ahj(t)eiU, ]' = 1,п. t(=Tj Таким образом, векторная функция cpfe(X) имеет вид % (X) = eiMo8h - bh (X) Г1 W, (10.16) и задача линейной интерполяции сводится к нахождению коэффициентов ahj(t) тригонометрических полиномов Эти коэффициенты akj(t) могут быть легко най- дены из линейной системы уравнений, выражающих факт ортогональности величины |fe(Zo) к подпространству Д(Г). Мы не будем выписывать эту систему уравнений в общем случае, а ограничимся рассмотрением лишь мини- мального процесса |(Z) =={£&(£) }fe=—, спектральная плот- ность которого удовлетворяет условию (10.13). В этом случае векторные функции вида eiKt8h t^Th 1=1, п, об- разуют базу в пространстве 5(7), и если обозначить hl>t соответствующие им величины в пространстве Д(7), ус- ловие ортогональности величины |ft(£o) к Д(7) эквива- лентно следующему: ___ л Mlh (Zo) /Iм = f e~iM (%) f (X) *Pl (X)] dK = 0, t^Th l = i~, (10.17) где р/(X) = {р/;(А,)}7,:=1’п есть Z-я строка матрицы /”1(М = = обратной к /(XJ. Принимая во внимание вид (10.16) векторной функции ср/ДХ), систему (10.17) можно переписать в виде п S S Рц (s — t) ahj (s) = 0 при t<=Tt, t^=t0, l=£k, (10.18)' S S pjh (s — *0) ak, («) = 1 j=i ser-
§ 10. Интерполяция стационарных процессов 129 Здесь Pji(s) есть коэффициенты Фурье элементов Рл(Л) матрицы 1 (Л,): л = J <^Pjl(K)dK. (10Л9) —л Итак, доказано следующее предложение: Теорема 10.3. Пусть спектральная плотность / (А,) = = стационарного процесса удовлетворяет условию (10.13/. Тогда величины £ft(£o), дающие наилучшую линейную интерполяцию, могут быть найдены по формуле (10.15), в которой векторные функ- ции (pft(2v) находятся при помощи системы уравнений (10.18). Особенно простой вид система (10.18) принимает в случае, когда значения £ft(£) процесса £(£) неизвестны в моменты времени t из одного и того же множества Т, т. е. все Th совпадают между собой: Tk = T. Обозначим £(£о) совокупность величин I (i0) = {%k Имеем: л l(t0) = J ф(Х)Ф(^), (10.20) —л где матричная функция q^ (h) = {b силу (10.16) имеет вид ф(2с) - eiuHn- 2 eiKsa(s) f"1 (ty- (Ю.21) ser Для матричных коэффициентов a (s) = {akj (б‘)}&“~- из (10.18) получаем следующую систему уравнений: J] a(s)P(s — t) = 0, при t^=tQ, Т (Ю.22) 2 а (s) Р ($ t0) = 1п, SGT где л —л Рассмотрим один важный случай, когда множество Т состоит лишь из одного значения t, t — t$. Система (10.22) 9 ю. А. Розанов
130 Гл. II. Экстраполяция процессов с дискретным временем будет тогда выглядеть как аР = 1, (10.23) где _ Находим, что а = Р-\ (10.24) Таким образом, величины £(£0) = (^о)\=^ можно пред- ставить в виде Ш = J ешо [/п - Р-'Г1 (*)] Ф №). (10.25) —Л Положим hh = - £ W, = Mhfo. (10.26) Из представления (10.25) легко находится матрица «ошибок» о2 = линейной интерполяции: <? = 2яР-'. (10.27) Остановимся подробнее на линейной интерполяции од- номерного стационарного процесса %(t) со спектральной плотностью /(X). Теорема 10.1 позволяет заключить, что безошибочная линейная интерполяция любого конечного числа значе- ний одномерного процесса %(t) возможна тогда и только тогда, когда пс ISvfAft|2 ' * . 1 dK = оо (10.28) J J \h) —л для любого тригонометрического полинома ^akeilkh=£$. k Условие (10.28) выражает собой свойство нулей спек- тральной плотности /(X) процесса £(£). Назовем число Ло нулем функции конечного по- рядка к (к — целое), если —я ИЧГ1 /ад Н-Ч1Ь /W d'h = оо, dX <Z оо. (10.29)
§ 10. Интерполяция стационарных процессов , 131 При нарушении условия (10.28) спектральная плот- ность /(X) имеет, очевидно, конечное число нулей, при- чем каждый из них имеет конечный порядок. Пусть есть нуль порядка Nh a N есть число всех нулей функции /(X). Тригонометрический полином N b0 (Ь) = П (eiX - (10.30) j=l где к, = [V2(Nj + 1)], обладает тем свойством, что f (10-31) J J W —л Очевидно, полином &о(^) минимален в том смысле, что каждый тригометрический полином &(Z), удовлетворяю- щий условию, аналогичному (10.31), обязан иметь нули в точках Zj = е э кратности по меньшей мере и сле- довательно, должен делиться на Ьо(к): b(k) = b0{k)^ake^h. (10.32) Пусть значения %(th) одномерного процесса £(/) неиз- вестны в моменты времени t из некоторого «интервала» Т = {£*, t* + 1, ..., t* + р — 1}. Поскольку элементы &(Z) пространства В (Т) должны иметь вид (10.32), то В(Т)~ = 0, если число р неизвестных значений £(£), Т, не превосходит степени Q = 2 минимального полинома j=i Ьо(к). Как легко понять, если p>q, то размерность про- странства В(Т), изометричного «пространству ошибок» Л(Т), есть р — q. Далее, условие минимальности (10.13) стационарного процесса £(/) в одномерном случае выглядит очень просто: л Jra><- <10-33> —л * Формулы (10.15) — (10.19), позволяющие находить паилучшую интерполяцию, были получены при условии минимальности процесса £(£). Для одномерного процесса %(t) аналогичные формулы выглядят достаточно просто и в общем случае, когда условие (10.33) может быть и 9*
132 Гл. II. Экстраполяция процессов с дискретным временем не выполнено; в этих формулах фигурирует минималь- ный полином Ьо(^), определяющий по нулям спектраль- ной плотности /(X) соотношением (10.30). Именно, ана- логично (10.15) —(10.19), л У ФМФ(<Л), (10.34) —л где функция <р(Х) имеет вид (10.35) Ф<Х) = akeiKh L k=i Очевидно, функции b\K) = eiKt*bQ (X) eiu9 s = 1, р — q, образуют базу в пространстве В(Т), и условие ортого- нальности величины £(£q) к подпространству \{Т) дает нам р — q линейных уравнений для определения неиз- вестных коэффициентов ah, к=1, р — q в выражении (10.35): = f feix(/o-«*-s) _ >2 = fe=l s = 1, p — q, (10.36) где величины hs есть элементы пространства A(7"), отве- чающие функциям bs (X). Если положить р 1 С m 2л J /(X) —л eiKm dK, (10.37) то систему линейных уравнений (10.36) можно перепи- сать в виде P-Q 2 akPk—s k=i го (i при при 5 I*, S = tQ — £*, (10.38) s = 1, р — q. В случае, когда процесс минимален и Т = из (10.34) — (10.38) получаем формулу наилучшей интерпо-
$ 11. Процессы, Значения которых образуют базис 133 ляции: 2л 1 * Tw ( dp. J /(и) -л _ Ф (Л); (10.39) при этом о = [М | £ (i0) - ШI2]1/* = ;-я ^-iT. (10.40) / С dk \ I J / W I л / § 11. Стационарные процессы, значения которых образуют базис В свете рассмотренных выше задач линейной аппрок- симации величин h из пространства значений стацио- нарного процесса ?(^) = становится естествен- ным вопрос о том, когда эти величины h в каком-то ра- зумном смысле могут быть представлены в виде ряда 2 Емомо- /1=1 t (11.1) Пусть Н(Т)~ замкнутая линейная оболочка значений t^Th (k = l, п) многомерного стационарного про- цесса £(/) = {£Н0}ь=Гп’ Скажем, что эти значения обра- зуют в пространстве Н(Т) условный базис, если каждой величине h из этого пространства можно сопоставить ряд п L(h) = 2 2 (11-2) k=l t^Tk обладающий следующими свойствами: 1° если ряд L(h) сходится по норме, то его сумма и есть А; 2° соответ- ствие h ~ L(h) взаимно однозначно и линейно, т. е. L (aihi + СХ.2А2) = aiL(fei)+ 0L2L (Т^) (11.3) для любых hi, h2^H(T) и произвольных чисел он, аг. ) Суммирование по t производится в порядке возрастания |i|.
134 Гл. II. Экстраполяция процессов с дискретным временем Обозначим Ht(T) подпространства в Я(Т), образован- ные элементами gA(s), s^Tk (i = l, в),у которых |s| > Как мы увидим ниже, если значения i>k(t), t^Tk (k = 1, п) образуют в Н(Т) условный базис, то = (11.4) t а ряды в (11.2) сходятся в том смысле, что Л-2 2 ак(№(*)еЯ*(П (11.5) fe=l st=Tk ls|<i Очевидно, эта сходимость сильнее, чем обычная слабая сходимость элементов гильбертова пространства. Теорема 11.1. Система значений gA(Z), t^Tk = 1, п) образует условный базис тогда и только тогда, когда она минимальна в Н{Т), т. е. каждая из величин %>k(t) этой системы не принадлежит линейному замыка- нию всех остальных величин, и, кроме того, выполняется требование (11.4). Доказательство. Пусть система значений £&(£), t^Tk (/г = 1, п) образует условный базис. Тогда каждый из коэффициентов ak(t) в (11.2) представляет собой ли- нейный функционал, определенный на всем Н(Т), и сле- довательно, в Н(Т) существует элемент цА(г) такой, что ak(t) = (h, (11.6) В силу единственности ряда L(h) для h = ^{s) имеем: |1 при 1 = к, s = t, М0 = (М4пН0) = л (Н.7) 7 ' 7 1 (0 в противном случае. 4 7 Соотношение (11.7) показывает, что отличная от ну- ля величина ть(£) из пространства Н(Т) ортогональна всем величинам g3(s) при &¥=/ или t¥=s. Очевидно, это может быть лишь в том случае, когда элемент £А(£) не принадлежит линейному замыканию этих величин £Д$). Таким образом, система £А(£), t^Th (k = i, п) по необ- ходимости является минимальной. Система величин цА(£), tt=Tk (к = 1, п), обладающих свойствами (11.7), называется сопряженной. Условие (11.4), очевидно, эквивалентно полноте этой системы в пространстве Н[Т\.
§ 11. Процессы, значения которых образуют базис 135 Если сопряженная система не полна в Я (Г) (т. е. су- ществует элемент h, =/= О, ортогональный всем величи- нам из этой системы), то соответствующий ряд L(h) имеет коэффициенты ah(t) = (h, т]ДО) равные нулю, а это противоречит условию взаимной однозначности, посколь- ку fc¥=0. Следовательно, если значения £ь(£) образуют условный базис, то имеет место соотношение (11.4). Об- ратно, если система gft(£), t^Th (k = l, п) минимальна, то существует сопряженная система элементов е= Th, k = i, n (каждая из величин щ(0 «направлена» по перпендикуляру, опущенному из точки gft(£) на линейное замыкание остальных значений &($)). Эта система в силу условия (11.4) полна в ЩТ), и каждый элемент h из пространства Н(Т) однозначно определяется коэффици- ентами ah(t) = (h, щ(0), а РЯД LW удовлетворяет тре- бованиям, предъявляемым к условному базису. Теорема доказана. Мы остановимся подробнее на двух важных случаях. Рассмотрим систему всех значений ^(0» —00<^<00, k = 1, п. Как следует из ^результатов предыдущего параграфа, эта система минимальна и удовлетворяет условию (11,4) тогда и только тогда, когда спектральная мера процесса £(£) абсолютно_непрерывна, а спектральная плотность /(X) = {fki (Х)}^!^ невырождена почти всюду и л f (11-8) —л (здесь Sp (X) есть след обратной матрицы При этом элементы щ(£), < t < °о (jfc = 1? и) сопряжен- ной системы образуют стационарный процесс т] (t) = = {ns(O}ft==i^ вида Л п(0 = 2Г (11.9) —л где Ф(й1) = {Ф& —случайная спектральная мера процесса £(«)• Если Л h = J <р(Х)Ф(б?Х) (11.10) —л
136 Гл. II. Экстраполяция процессов с дискретным временем есть спектральное представление элемента h из то его спектральная характеристика ср (А,) = {<pfe (X,)}fe=1’n имеет интегрируемые элементы cpfe(X), а коэффициенты ak(t) в разложении (11.2) есть просто их коэффициенты Фурье: л ah(t} =j в~шф^ (X) fZX, —oo<Z<oo, А = 1,тг. (11.11) Итак, имеет место следующее предложение: Теорема 11.2. Значения £Л(£), —(& = = 1, п) стационарного процесса образуют в пространстве Н\ условный базис тогда и только тогда, когда выполня- ется условие (11.8). При этом коэффициенты разложения в ряд (11.2) определяются формулой (11.11). Рассмотрим теперь систему из значений £fe(£), гДе пробегает лишь целые неположительные числа. Как сле- дует из результатов § 6 этой главы, данная система бу- дет минимальной и будет удовлетворять условию (11.4) тогда и только тогда, когда стационарный процесс 1(0 = == имеет максимальный ранг п и линейно ре- гулярен; спектральное условие этого есть ( logdet/(Z)dZ>> — оо. (11.12) —л Заметим сразу, что в данном случае сопряженная си- стема не имеет сколько-нибудь простого выражения. По- этому мы попытаемся найти коэффициенты разложения (11.2) для произвольного элемента, минуя формулу (11.6), выведенную при доказательстве теоремы 11.1. Пусть ср (Z) = {<Pfe(^)}ft==1’n—спектральная характеристи- ка элемента h в_его представлении (11.10), а Г (e~iK) = = (е~а)}£~~; —граничное значение максимальной аналитической матрицы, удовлетворяющей условию Г (e~iK) Г (e~iK) =2^/(Х) (11.13) для почти всех X (см. § 6 этой главы) .
£ 11. Процессы, значения которых образуют базис 137 Пусть л п Ъ, W = 2F J 2 (Ь) Г« W d^ —Л k=l t 0, 7 = 1, и; . пс (11.14) %• (О = 2JT J e-iwrW (х) —Л t 0; к, / = 1, и; и £(7) = {£;(/)}^.= — есть фундаментальный процесс для l(t). Тогда Я по h= j ф(%)Ф(^) = 2 2 момо, -л j=l-~ Ik (0 = 2 S cki (s) Cj (t + s)> k = l, n, j = l —oo И , К _ ; fc=l H-1 no ПО Г n О 1 = 22 bAs)^As)— 2 2 M*) 2 2^(«)^(« +«) = j = l — OO k=l /+1 Lj=l —00 J no n n = 2 2 bj(s)^(s)-2 2 b-ts^ts), (ti.i5) j=l—OO — OO где n 0 bj(*) = 2 2 ak(u)ckj(u — s), fe=l U=s о 0 Чтобы разность h — 22 ak (5) Ik ($) принадлежала k=i t+i подпространству [t) при всех Z, необходимо и доста- точно, как это видно из соотношения (11.15), условие: М0 = ь;(0= 2 2 cw(s —Z)afe(s), 7 = 1, п, (11.16), k = 18=t при всех t, t 0. Полученные уравнения для коэффици-
138 Гл. II. Экстраполяция процессов с дискретным временем ентов aA(s), (Л = 1, п), разложения (11.2) имеют «треугольный» вид и могут быть решены последователь- но при £ = 0, —1, ... Полезно записать эти уравнения в более рельефном виде: 2 аь (0) Ckj (0) = ъ} (0), j = 1, nt fc=l 2 ah(t)ckj(O) = 2 2 «ft(«)Chj(s — 0» (H-17) fc=l h=ls=t+l j = 1, П, t = —1, 2, ... Из § 6 этой главы мы уже знаем, что матрица с (0) = = {%• (°))1=г^ невырождена: det с (0) = (2л)п ехр л J log det / (X) =# 0 —Л и каждое из уравнений в (11.17) относительно ah(t), к = = 1, п, имеет, и притом единственное, решение. Итак, доказано следующее предложение: Теорема 11.3. Для того чтобы значения £А(£), =^0 (Л = 1, п) образовывали условный базис в подпро- странстве Н% (0), необходимо и достаточно, чтобы стаци- онарный процесс %(t) = имел максимальный ранг п и был линейно регулярен, т. е. чтобы выполнялось условие (11.12). При этом коэффициенты ah(t) разложе- ния (11.2) произвольного элемента h могут быть опреде- лены из систем (11.17) линейных уравнений.
ГЛАВА Ш ЛИНЕЙНОЕ ПРОГНОЗИРОВАНИЕ СТАЦИОНАРНЫХ ПРОЦЕССОВ С НЕПРЕРЫВНЫМ ВРЕМЕНЕМ § 1. Линейная экстраполяция. Постановка задачи Задача линейной экстраполяции стационарного процес- са £(£) = с непрерывным временем J ешФ((А) (1.1) —оо ничем не отличается от дискретного случая (см. пре- дыдущей главы) и состоит в нахождении проекций т) величин ^ft(t+x), fc=l, п, на подпространство (t), ко- торое, как и прежде, есть линейное замыкание значений £ft(5), к = 1, п, —оо < s ^zt. Величины £ (t, т) = {£& (t, T)}ft==— образуют стационар- ный процесс i (t, т) = J ешФ (1, т) Ф (<&) (1.2) — оо (получающийся из процесса £(£) линейным преобразова- нием со спектральной характеристикой ср (^, т) = = {tyki (М Т)}/Хгч)’ который служит наилучшим линейным прогнозом на время т вперед для £(£). § 2. Регулярность и сингулярность стационарных процессов Так же как и в случае дискретного времени, стацио- нарный процесс %(t) = {lkW}k==Yn называется линейно сингулярным, если Шт)=ш), = (2.1)
140 Гл. III. Прогнозирование непрерывных процессов при всех т и t, и линейно регулярным, если lim 1k(t, т) = (0, к = iji. (2.2) T->CKD Будем по-прежнему считать, что ЛЛ;/г(£) = 0, fc = l, п. Теорема 2.1. Стационарный процесс | (£) = ~ линейно регулярен тогда и только тогда, когда = = Q (2.3) t и соответственно линейно сингулярен, когда Si = H,. (2.4) Теорема 2.2. Всякий стационарный процесс | (О = =Тп может быть представлен, и притом одно- значно, в виде = (2-5) где стационарные процессы р (t) = (t)}k==— и ^(0 = = {£fe(£)}fe= — подчинены процессу ^(t): Н- (0 <= Hl (t), Hl (0 <= Hl (0; (2.6) некоррелированы между собой'. = к, j = Т^~п, (2.7) при любых t и s, причем процесс т](0—линейно регу- лярен, а £(/)—линейно сингулярен. Величины r\k{t) яв- ляются перпендикулярами, опущенными из £fe(0 на под- пространство Si, а величины £ft(0—соответствующими проекциями (Zc =1, и). (Доказательство этих теорем ни- чем не отличается от доказательства таких же теорем для дискретного случая, установленных в § 2 гл. II.) Пусть оо £(£) = J ешФ((А) (2-8) есть спектральное представление стационарного процесса £(0 == {^(0}^—. Рассмотрим стационарный процесс £(0 = {gfe(0}ft=s— с дискретным временем, получающий-
§ 2. Регулярность и сингулярность 141 ся следующим образом: л £(£) = J е{и«Ф(йр), —Л (2.9) где ф(йи)=ф(й%), р, = 2 arctg X. (2.1D) Лемма 2.1. Имеют место следующие равенства: Щ = яг, Я5-(О) = Я6-(О). (2.11) Доказательство. Первое из равенств (2.11) оче- видно, поскольку Н* и совпадают с линейным замы- канием значений случайных спектральных мер Ф/Дсй) и ФДйц) ,к = 1, п. Далее, если p, = 2arctgA,, то о ^=ГХ# = -1 + ППх = -1 + 2 \eiKtetdt, (2-12) 1 s 1 -f- 1Л о откуда видно, что функцию е*8, где s — целое отрицатель- ное число, можно аппроксимировать равномерно в каж- дом конечном интервале (—А, А) тригонометрическими функциями ф(Х) вида ф(^) = Г—1 + 2 2 ’ \ tp-^o у Поэтому количество оо J | - <р(Х)|2 Fhhm —оо где Fhh(dV) — спектральная мера /с-й компоненты процесса £(£), может быть сделано сколь угодно малым при надлежащем выборе функции <р(Х), и, следовательно, величины Л оо = J е^фй(ф)= J (2.13) —Л —оо могут быть аппроксимированы в среднем квадратичном сколь угодно точно величинами оо hh = J ,<р (X) Фй (dX) —00
142 Гл. III. Прогнозирование непрерывных процессов из подпространства (0). Это означает, что сами значе- ния £ь($), Л = 1, п, принадлежат этому подпространству и тем самым Я^(0) = ЯЕ-(0). t^—^7 Далее, функция# 1+z от ?, Izl < ческой в единичном круге и не превосходит единицы при любом фиксированном t^O: е 1+2 (2.14) 1 является аналити- модулю ПО Если принять во = 2 о (s) ps#~i|AS, z = 8=0 (2.15) внимание, что 1 - е~^ ik =-------- 1 + «-гц то окажется, что lim е = е*™. (2.16) и по теореме Лебега л lim f p-i Л 2 gikt____ 1+ z (2.17) (здесь /\Л(йц) есть спектральная мера Л-й компоненты процесса £(£)). Из соотношений (2.15) и (2.17) л fi—Т видно, что величины J е 1+г Фк(с![1) принадлежат под- —л пространству 7/^(0), а ОО Л lh(t)= f е^Фй(Л)= J е*‘Фй(ф) = — ОО —л = lim f Л+~ Ф/г (ф). (2.18) Р-1 -Я Следовательно, значения £Д/), & = 1, п, принадлежат подпространству Я~(0). Таким образом, (2.19)
§ 2. Регулярность и сингулярность 143 Полученные соотношения (2.14), (2.19) и доказывают нашу лемму. Лемма 2.2. Стационарный процесс ц(£) подчинен процессу £(£) тогда (и только тогда), когда соответствую- щие им по формуле (2.9) стационарные процессы v](t) и g(f) находятся в том же отношении. Доказательство. Утверждение леммы очевидно, поскольку т](0)== т](0),Я^(0)=Я|;(0), а условие подчинен- ности эквивалентно тому, что 1](0)еЯГ (0) (соответствен- но ц (0) е (0) j. Лемма 2.3. Стационарные процессы ^(t) и |(£) мо- гут быть линейно сингулярны лишь одновременно. Доказательство. Сингулярность означает, что (0) = (соответственно Н^(0) = но, по лемме 2.1, всегда Щ- (0) == (0) и IF = откуда и следует наше утверждение. Лемма 2.4. Стационарные процессы %(t) и ^(t) мо- гут быть линейно регулярны лишь одновременно. Доказательство. Если процесс ^(t) не регуля- рен, то по теореме 2.2 существует сингулярный процесс £(£), подчиненный £(£). Из лемм 2.2 и 2.3 вытекает, что соответствующий процесс £>(1) также сингулярен и под- чинен процессу £ (t) *. (t) (t). Поскольку (I) = = при всех t, пространство S~ = (/) содержит, во всяком случае, не тривиальное подпространство Hg, а это означает, что процесс £(£) также не регулярен. Поменяв в этих рассуждениях процессы %(t) и |(£) ме- стами, получим, что из нерегулярности |(£) вытекает не- регулярность £(£), и, таким образом, процессы £(/) и %(t) могут быть регулярны лишь одновременно. Лемма до- казана. Спектральные меры F и F процессов 1-(t) и %(t) свя- заны между собой соотношением: ?(d[i) = F(dX), (2.20)
144 Гл. III. Прогнозирование непрерывных процессов Если стационарный процесс £(£) регулярен, то по лемме 2.4 регулярен и процесс £(£); следовательно, спектральная мера абсолютно непрерывна вместе с а соответствующие спектральные плотности 7(ц) и /(Z) связаны между собой соотношением 7М = Ц^Ж- (2.21) По теореме 4.1 предыдущей главы спектральная плот- ность f (ц) имеет один и тот же ранг т для почти всех ц, и существует аналитическая в единичном круге мат- рица Г(z) = с компонентами I\j(z) из клас- са //2, такая, что 7(И) = Аг(е-«и)Г(е-ш). (2.22) Рассмотрим матрицу r(z) = rrV^’ (2-23) где Преобразование (2.24) переводит внутренность еди- ничного круга |zl < 1 в нижнюю полуплоскость Imz<0, причем z = i (2.25) Z + 1 Из соотношений (2.21) — (2.23) видн.0, что аналитиче- ская в нижней полуплоскости матрица Г (z) = {1\; (z)}^”^- удовлетворяет граничному условию /(Х) = А-Г(%)Г(1). (2.26) Далее, _______ /_ оо г<ч-т>хг<‘-‘“)-ттк 2 о оо “ (2-27) Q X1 "Г"
§ 2. Регулярность и сингулярность 145 а (1 - а)8 у Ан (i + a)s+1 оо = (2.28) о ад = о Поскольку функции eigs, —оо < $ < оо? образуют полную ортогональную систему на отрезке [—л, л] и d\k = 2 X V2 Ills (1 - =------« ак, функции г , — ег^8 = у 2 ----- образуют i + z2 * + (i+a)s+1 аналогичную систему на прямой —оо<Х<о°; таким об- разом, всякая интегрируемая в квадрате функция ф(Х) разлагается в следующий ряд: оо а(*)=4 J fW — оо (1 + a)s+1 (2.29) (ряд этот сходится в среднем квадратичном). Следова- тельно, суммирование в (2.27) и интегрирование в (2.28) можно поменять местами, что дает нам представление матрицы Г(з) в виде оо Г(%)= J e~iMc(t)dt, о (2.30) где оо с(/) = /2 2?(«)В,(Г), о оо оо J || с (/) ||2 dZ = 2^- J || г (%) IP dX. —оо —оо (2.31) В свою очередь, если спектральная плотность /(X) до- пускает представление (2.26) с матрицей Г(Х) вида Ю Ю. А. Розанов
146 Гл. III. Прогнозирование непрерывных процессов (2.30), Г(Л) разлагается в ряд (2.27), и матрица Г(г), связанная с Г(я) соотношением (2.23), будет аналити- ческой в единичном круге с компонентами из класса Яг, причем ее граничное значение Г(е“ги) будет удовлетво- рять условию (2.22). Скажем, что спектральная плотность /(X) допускает факторизацию, если ее можно представить в виде (2.26). Принимая во внимание теорему 4.1 предыдущей гла- вы, заключаем, что имеет место следующий факт: Теорема 2.3. Для линейной регулярности стацио- нарного процесса £ (t) = {Е& (0\=ГЧ необходимо и доста- точно, чтобы он имел спектральную плотность /(А,) = = {fke (A)}^Zp^ постоянного для почти всех К ранга, до- пускающую факторизацию. На основании результатов § 8 гл. II можно дать об- щий аналитический критерий регулярности стационарного процесса. Именно, преобразование Y(z)=r^Y(z), ~ l~iz (2-32) 1 + iz’ переводит аналитические в единичном круге функции у (и) в функции у (и), аналитические в нижней полупло- скости; при этом преобразовании класс Н&, определенный в § 4 гл. II, переходит в некоторый класс функций, ко- торый мы также обозначим Яй. Этот класс аналитических в нижней полуплоскости функций хорошо изучен в спе- циальной литературе (см., например, Крылов1*1). Ана- логично определяется и класс N&. Теорема 2.4. Для линейной регулярности стацио- нарного процесса необходимы и доста- точны следующие условия: i°. Существует спектральная плотность /(Х) = — Uki WJiZn? имеющая для почти всех X один и тот же ранг пг. 2°. Существует главный минор М (X) = det [fipiq X X (^)}pZ|~ матрицы /(X), отличный от нуля почти всю-
§ 2. Регулярность и сингулярность' 147 ду, для которого' 10gM(k)-^-2>-oo. 1 Т Л 3°. Функции = где М^(К) означает определитель, получающийся из М(Х) заменой его j-й строки на строку являются граничными значениями функций класса N& при некотором 6>0. Утверждение этой теоремы очевидным образом выте- кает из теоремы 8.2 гл. II и леммы 2.4 настоящего па- раграфа. В частности, для линейной регулярности стационар- ного процесса максимального ранга необходимо и доста- точно, чтобы оо Г log det /(X)> — оо. ” 1 "г Л —оо (2.33) Из теоремы 2.4 вытекает также, что стационарные процессы с рациональными относительно % спектральны- ми плотностями всегда регулярны. В заключение отметим один важный факт, касающий- ся одномерных процессов (ср. теорему 5.4 гл. II). Пусть F (<&) = / (X) а + 2 (<&) (2.34) есть разложение спектральной меры стационарного про- цесса В(£) на абсолютно непрерывную и сингулярную части. Если плотность /(X) обращается в нуль на неко- тором множестве положительной меры или (2.35) —00 то процесс £(£) будет сингулярным-, если же f log/(X)-^>-oo, J 1 + Л (2.36) то регулярная и сингулярная части T](t) и % (t) в 10*
148 Гл. III. Прогнозирование непрерывных процессов разложении (2.5) стационарного процесса %(t) есть т»(0 = [ешФ(йХ), д0 (2.37) * (z) = Р^Ф(бЛ), до где Ф(JZ) — случайная спектральная мера процесса До — множество лебеговой меры нуль, на котором сосре- доточена мера S(dAJ, а До — его дополнение. § 3. Разложение Вольда Как мы увидим ниже, линейно регулярный стацио- нарный процесс U0 = {&(0}ft=pj можно представить в виде «скользящего суммирования»: t l(t)= j c(t — s)t,(ds), — OO (''•I/ Здесь является некоррелированной мерой, M\^(dt)\2 = dt, м^^йдэ^о при для любых измеримых множеств Д и Д'; эту меру можно выбрать так, что линейное замыкание (t) значений £ДД), 7 = 1, где множества Д лежат на по- лупрямой (—°°, /), совпадает с подпространством Н% (t) значений процесса £(£): ^’(О = ЯГ(О. (3.2) Будем называть такую меру £(бй) фундаментальной для процесса £(/), а представление (3.1)—его разложе- нием Вольда. Как мы уже знаем, спектральная плотность / (^) = = {/fez(^)}^Zf^ регулярного стационарного процесса £(£) = = {^>h (0}^=Гп Д0ПУскает представление в виде /O.) = lr(?.)f(Z), (3.3)
§ 3. Разложение Вольда 149 где матрица Г (z)={rftj(z)};-^ аналитична в нижней полуплоскости (ее компоненты Г«(г) являются функция- ми класса Яг). Так же, как и в случае дискретного вре- мени t, среди таких матриц существует максимальная*) (это сразу вытекает из самого -определения класса Н% в случае непрерывного t и соотношения (2.23)). Если Г(Х) есть матрица с компонентами из класса Яг, то, как видно из формулы (2.30), ее преобразования Фурье c(i) обращаются в нуль при отрицательных t Пусть Ф = {Ф/г}fe==-- — случайная спектральная мера процесса £(£), а матричная функция t|9(X) = удовлетворяет уравнению ф(Х)Г(Х) = Лп (3.4) для почти всех X. Тогда по теореме 9.1 гл. I, процесс %(t) можно представить в виде (3.1), где некоррелированная мера t>(dt) = (dt)}.=^ определяется как р° Ш2 UA)= е ~е ШФ(<Д) (3.5) — 00 для любого интервала A ==(£i, £2). Пусть матрица Г(з) будет максимальной. Обозначим Т* == случайную меру, определяе- мую равенством ' = (3 6) Мера V (<Д) такова, что (3.7) (А) (А') = 0 при для любых измеримых множеств А и А'. Если *) То есть Г (—i)T(—i) — Г(—i)T(—i) для любой анали- тической в нижней полуплоскости матрицы Г (z) с компонентами из класса Н2, удовлетворяющей тому же граничному условию (3.3), что и Г (z).
150 Гл. III. Прогнозирование непрерывных процессов A =(<1, t2), то 1 С UA) = p=J 2__±_(i + a)T(dX) = * —OO = 1 J eiM,Y(a)_ 1 J e’4T(dX) + ™ * — rv-» Положим 'F(dX). OO ц(0 = j eW(dX). — OO (3-8) (3-9) Из равенства (3.8) видно, что значения £ДД) случайной меры £ — принадлежат пространству (t) при всех J=l, т, и Д = (£i, ^2), когда t\ /2 t Отвечающий процессу 7](£) стационарный процесс ц(£) с дискретным временем ц(0 = J е*ипр(ф), (3.10) —я где Y(dp)=T(dX), р. = 2 arctg %, будет некоррелированным, поскольку МI Т,- (ф) I2 = М |Т,- (dX) |2= - (3.11) л Ц + X ) Мы сейчас увидим, что я(0^= {ч? (СЬ'=Т7т является фундаментальным процессом для g (t) — {Ы0}й=ьй: g(i) = J eW$(dp). (3.12) —Л Действительно, матричная функция 'ф(Р') = {%ь $(Н) = 1-^7ГФ(Ч
§ 3. Разложение Волъда 151 удовлетворяет уравнению ф(ц)Т (е~*) = 1т, (3.13) где Г (г)—максимальная аналитическая матрица, соот- ветствующая процессу |(/): Г(е-^) = Г(X); фунда- ментальность процесса ц (t) следует из равенства Ф(^) = ф(и)Ф(йИ) (3.14) (по этому поводу см. теоремы 4.2 и 4.3 предыдущей главы). Фундаментальность процесса ц(£) означает, что Я~(0) =Л^(0), откуда, принимая во внимание лемму 2.1 этой главы, получаем: (0) = (0). Следовательно, значения £ДА) некоррелированной меры t(dt) в пред- ставлении (3.1) при всех j == 1, т и A=(£i, fo) принад- лежат подпространству когда t\ =С fe Те же рас- суждения, но проведенные в обратном порядке, показы- вают, что если некоррелированная мера t>(dt) в (3.1) фундаментальна, то аналитическая в нижней полупло- скости матрица r.(z) = е~ыс (t) dt (3.15) о будет максимальной. Итак, нами доказана следующая теорема: Теорема 3.1. Линейно регулярный стационарный процесс g(l) = {gfe (0}й-П« g(0= J ешФ(с/Х), —oo co спектральной плотностью /,(^) == {fki ранга m представляется в виде «скользящего суммирования» (3.1) по некоторой некоррелированной мере которая фундаментальна тогда и только тогда, когда матричная функция c(t) в этом представлении (3.1) яв- ляется преобразованием Фурье максимальной матрицы
152 Гл. III. Прогнозирование непрерывных процессов Г(Х). Сама мера ^(dt) может быть определена по фор- мулам (3.5). Предоставляем читателю доказать, что в виде (3.1) может быть представлен лишь только линейно регу- лярный процесс. § 4. Линейная экстраполяция стационарных процессов Разложение Вольда (3.1) линейно регулярного ста- ционарного процесса %(t) = {Sfe(/)}fe=— позволяет найти проекции %h(t, т) величин %h(t + x), /с = 1, п, на подпро- странство (t). Именно, t l(t, т) = {?ft (/, т))А=1- = J. с (t + т - я) с (ds). (4.1) — оо Пусть £(/)== J eM<D(dV) (4.2) — оо — спектральное представление процесса £(£) и /(^) = — {fki (^)}lZf7T— его спектральная плотность. Применяя преобразование Фурье к подынтегральной матричной функции с($) и фундаментальной мере выраже- ние (4.1) можно представить в виде £(/, т)= J ешф(А, т)Ф(йА). (4.3) — оо Здесь матричная функция Ф (A, t) = (А^ т)}*"^ опре- деляется равенством ф(А, т) = фг(А)ф(А), где оо срт (X) = J ($ + т) ds& (4Л) о оо Ф) = -^ J ^Г(А)^ (4.5)
£ 4. Экстраполяция стационарных процессов 153 а Г(Z) — граничное значение максимальной матрицы Г (z) = {I\j удовлетворяющей граничному, усло- вию Г (X) Г (Л) = 2 л/(%); (4.6) матричная же функция ф (^) = удовлетворя- ет уравнению Ш)Г(Х) = 7т (4.7) (для почти всех Z). Вопрос о восстановлении максимальной матрицы по спектральной плотности стационарного процесса был под- робно рассмотрен ранее для случая дискретного времени. Мы видели, что сравнительно простые формулы получа- ются лишь для одномерных процессов (см. § 5 предыду- щей главы). Хотя благодаря возможности свести случай непрерыв- ного времени к дискретному, указанной в § 2 этой главы, можно сразу указать несколько способов нахождения максимальной матрицы Г(з) из условия (4.6) в довольно различных ситуациях, мы ограничимся рассмотрением этого вопроса лишь для одномерных процессов. Итак, пусть £(£) есть регулярный стационарный про- цесс со спектральной плотностью /(Z) и пусть Г(г) есть максимальная функция, удовлетворяющая граничному условию -^|Г(Х)Р = /(%). (4.8) Рассмотрим аналитическую в единичном круге функцию f(z): Г(г) = 1-±^Г(2), (4.9) где ~ 1 — iz Z = А Г •"« 1 + iz Эта функция в силу максимальности Г(з) будет также максимальной, и кроме того, Х|Г(е-*)|2 = 7(и), (4.10) где 7(н) = ЦЛ/(^), n=2arctg^
154. Гл. III. Прогнозирование непрерывных процессов По формулам (5.10) предыдущей? главы функция Г(г) может быть представлена в виде Г (z) = Y2л ехр г Л . ' J log^) ‘ —Л J Принимая во внимание, что функция 1 + 1 = 1 2 1 + iz (4.11) (4-12) может быть представлена в виде Z + 1 — =ехр ’ л i J log —л е i(i + l I2 е + Г , I = ехр - оо 2S J 10g - —ОО 1 1 + A.Z А 1 + X2 z - X 1 + X2 (4.13) (см. по этому поводу соотношения (5.19) — (5.21) гл. II), имеем г(г) = гИ2_Г(г) = ' ' 1 + IZ ' ' = 2 М— V 2л ехр л if] 77 \ е~Щ + 7 to J —Л ' = 1^2 ехр 1 + А/2 dh z~h 1 + %2 X У 2л ехр > оо 1 f 1„„/(М(1 + Х2) 1 + Хг <*Х 2л1 J l g 2 ‘ z - X 1 + х2 • —оо J = У л ехр г ОО 2Hi f 10g/W ь —оо 1 + Xz dX г - х 1 + X2 (4.14) Таким образом, если одномерный стационарный про- цесс Щ), оо g(i)= J е«мф(йХ), (4.15) —оо
$ 4. Экстраполяция стационарных прбцессов 155 линейно регулярен, то стационарный процесс %(t, т), даю- щий наилучший линейный прогноз (на время т вперед) процесса ^(t), получается из него линейным преобразо- ванием вида оо р ОО -1 f(i, т)= f fe-ttsc(s +r)c?s I Ф (rfX), (4.16) J 1 (Л) I J I —oo L 0 J где функция Г (А,) есть граничное значение аналитиче- ской функции Г(и), определяемой формулой (4.14), а оо C(s) = J- f e^Y^dK. (4.17) & ЭТ J —оо Рассмотрим один важный случай, когда спектральная плотность /(X) стационарного процесса £(£) рациональна относительно X. Как было показано в § 10 гл. I, /(Х) = (4.18) где полиномы Р и Q не имеют нулей в нижней полупло- скости. ___ Рассмотрим максимальную функцию Г (z), связанную с искомой Г(г) соотношением (4.9). Поскольку при пре- образовании |i==2arctgX рациональные относительно X функции переходят в рациональные относительно функция f (ц) в (4.10) будет рациональной относительно е~*, и поэтому Г(г) есть единственная с точностью до постоянного множителя аналитическая в единичном кру- ге функция, удовлетворяющая граничному условию (4.10), не имеющая в нем нулей и рациональная относительно z (см. формулу (5.19) гл. II). Следовательно, максималь- ная функция Г (z) является также единственной анали- тической в нижней полуплоскости функцией, удовлетво- ряющей граничному условию (4.8), не имеющей нулей и рациональной относительно z. Но такая функция, как вытекает из представления (4.18), дается формулой*): Г(г) = /2^>. (4.19) *) Полиномы P(z) и Q(z) легко могут быть определены по нулям и полюсам спектральной плотности /(А).
156 Гл. 111. Прогнозирование непрерывных прбцессов Пример 4.1. Пусть стационарный процесс 6(0 имеет кор- реляционную функцию B(t) = о2е-а|/1, а > 0. Спектральная плотность /(X) процесса есть 2л J л a2-]- X Легко видеть, что максимальная функция Г(з) равна оо Г (г) =~|//2схсг —— = ~\/2а<5 V е zzte at dt. а + iz J Следовательно, величины g(£, т), дающие наилучший прогноз про- цесса 6(0, можно представить в виде оо Г(', т) = У —оо - оо eiM 1 f e-iXsg-a(s+T) ds ос + iZ J Lo ф(<а), где Ф есть случайная спектральная мера нашего процесса Не- окончательная формула для наилучшего прогноза очень проста: !(*, т) = e~ax^(t). В формуле (4.16) наилучшего линейного прогноза со- оо держится функция вида J (s + т) ds. Покажем, что о эта функция рациональна относительно X в случае, когда рациональна спектральная плотность /(Z). Рассмотрим произвольную рациональную функцию г (А), являющуюся правильной дробью, Q(KY Как известно, ее можно представить в виде линейной комбинации простых дробей вида 1/(A — a)v, где а —ко- рень полинома а целое и положительное v не пре- восходит кратности этого корня. Будем считать поэтому, что сама функция г(Х) есть - (X - a)v ’ Если функция г(Z) интегрируема в квадрате, то соот- ветствующий корень а не может быть действительным;
$ 4. Экстраполяция стационарных процессов 157 в этом случае о (v — 1)! gV—Igias ds, когда Ima > О, и о г (X) = J e~iXs — Yv Il"TjT $v-<l£ias ds, —oo когда Ima<0. Пусть Ima>0. Тогда преобразование Фурье a(s) функции г (%) таково, что при т>0 оо оо J e~iKsa(s + x)ds = У e~~iks о о (v — 1)! (g + T)v-1 ега(з+т) fa = v » = eiar У /v-лfcJg C^hv-ft----—T. (4.20) (v-l)l 1 (X-a)ft v ' Если же Ima < 0, то при т > 0, очевидно, оо J e~iua (s + т) ds = 0, о (4.21) поскольку функция a(s) в этом случае равна нулю для положительных значений 5. Формулы (4.20) — (4.21) позволяют заключить, что для произвольной рациональной функции r(Z), интегри- руемой в квадрате, ее преобразование Фурье a(s), оо a(s)==^J —оо обладает тем свойством, что функция гх(Х) вида rx (X) = J е -ilsa (s + т) ds (4.22) о является рациональной относительно X. Это верно, в частности, для r(Z)=T(Z), поскольку максимальная функция Г(г), отвечающая рациональной спектральной плотности /(X), сама рациональна относи- тельно z.
158 Гл. III. Прогнозирование непрерывных процессов Таким образом, спектральная характеристика ф(Х, т) линейного преобразования, с помощью которого дается наилучший прогноз, оо <р(Х, т) = J e~iuc(s + x)ds, (4.23) О является рациональной функцией Л, аналитической в нижней полуплоскости (Г(%) не имеет там нулей). Усло- вие ортогональности величин £(т)—£(0, т) к подпрост- ранству НТ (0) означает, что М[^(т)~ио,т)]Т(Г) = = J e-aqeiu_ ф(Х) т)]/(Х)</Х = 0 (4.24) —оо при всех s 0, а это в свою очередь показывает, что функция гр(Х, т), г|?(Х, т) = [егМ-5(Х, т)]/(Х), (4.25) должна быть аналитической в верхней полуплоскости Действительно, спектральная плотность /(Z), будучи ра- циональной относительно X и интегрируемой на всей пря- мой, равномерно ограничена: Функция же cp(Z, т) удовлетворяет условию [ | ф(Х, т)|2/(Х)^Х<; оо, — оо и потому J |ф(Х, T)|2/2(X)dX<C J I ф(Х,т)|2/(Х)Л<оо, . —оо —оо откуда видно, что функция if)(X, т), интегрируема в квад- рате. В силу соотношения (4.24) она представима в виде оо ф (X, т) = J (5, т) ds. о Тем более эта функция аналитична в верхней полупло- скости Im X > 0.
§ 4. Экстраполяция стационарных процессов 159 Пусть где полиномы Д(Х) и QX(K) несократимы. В силу анали- тичности функции (p(Z, т) полином Qx(h) не имеет нулей в нижней полуплоскости. Из соотношения (4.25) немед- ленно вытекает, что нули полинома (\(Х) обязательно должны находиться среди пулей спектральной плотности /(Z), лежащих в верхней полуплоскости. Как уже отмечалось, спектральная плотность /(X) всегда имеет вид У(Л)= (4.27) I <2 (X) I где полиномы Р и Q не имеют .нулей в нижней полупло- скости. Следовательно, спектральную характеристику ср (Л, т) следует искать в виде N (4,28) где степень N полинома в числителе должна быть мень- ше степени знаменателя ()(Х) в выражении (4.27) спек- тральной плотности /(X). Неопределенные коэффициенты ah следует подобрать так, чтобы функция tf)(Z, т) в (4.25) была аналитической в верхней полуплоскости. Имеем N егК%р ahKh Ж Т) = --------------------/(Ч (4.29) Если 7 = 1, п — нули полинома каждый крат- ности nq, то для коэффициентов ak1 7г = 1, N, получаем следующую систему линейных уравнений: N Ч eiZqXP (zq) — 2 = О, О J 7 = 0, nq— 1, 7 = 1, п (4.30) (как нетрудно заметить, число неизвестных ah не превос- ходит числа уравнений, равного степени полинома С(^))-
160 Гл. III. Прогнозирование непрерывных процессов Формулы (4.28) и (4.30) позволяют находить спек- тральную характеристику ср(Х, т), не вычисляя преобра- оо зование Фурье c(s) = ^f J ешГ(Х)йХ, фигурирующее в —оо основной формуле (4.16). Конечно, подобный метод для нахождения спектральной характеристики <р(Х, т) при- меним и в случае дискретного времени. Пример 4.2. Пусть g (t) есть стационарный процесс со спект- ральной плотностью /(X) вида /<х) = I <? (X) I3’ Из формулы (4.28) видно, что в этом случае спектральная харак- теристика <р(Х, т) величин £(£, т) есть просто полином: _ N ф(а, т) = У, о Таким образом, Р° N f («, т) = J (А, т) Ф (ЙА) = 2 (- ahlW (0, т. е. наилучший прогноз дается линейной комбинацией производ- ных процесса %(t) в последний момент t. Коэффициенты ад, к — 0, N определяются из системы линейных уравнений (4.30), которая в нашем случае выглядит следующим образом: (zg, q = 1, п, есть нули полинома Q(h)). § 5. Линейная фильтрация стационарных процессов Решение задачи линейной фильтрации стационарных процессов с непрерывным временем мало чем отличается от соответствующего решения в случае дискретного вре- мени, рассмотренного в § 9 гл. II. Именно, пусть £(t) = {lk(t)}k=— и *1(0 = {Пь являются многомерными стационарно связанными между собой процессами со спектральными плотностями /"(О-(/!?(<!§ ..
§ 5. Линейная фильтрация стационарных процессов 161 В случае, когда стационарный процесс ц(£) линейно регулярен и имеет максимальный ранг, величины |*(£, т) = T)}ft==—, дающие наилучший линейный прог- ноз для £(/ + т) (при помощи значений щ($), k~ = 1, пг), можно представить в виде £(^т) = J eiu J e~iua(s + x)ds I ф~1(Х)Ф(Л), (5.1) где Ф (dX) = {ФЛ (йХ)}д=— — случайная спектральная ме- ра процесса ц (t), матричная функция ф(20 = есть граничное (при z = %) значение максимальной мат- рицы Г(я), удовлетворяющей условию X г (%) г (%) = ГМ, (5.2) а матричная функция a (s) = {ahi ($)}£=|~ есть преобра- зование Фурье^ произведения /5т,(/’И1)~1(р: <Ф) = i f ' (5.3) Доказательство формулы (5.1) совершенно аналогич- но случаю дискретного времени, рассмотренному в § 9 гл. II, и потому мы его опускаем. Остановимся подробнее на линейной фильтрации про- цессов с рациональными спектральными плотностями. Для таких процессов спектральная характеристика ф(Х, т) в (5.1), Ф (X, т) = [ e~iKsa (s + т) ds ф”1 (X), (5.4) может быть найдена путем решения некоторой системы линейных алгебраических уравнений (подобно тому как это было сделано в предыдущем параграфе при решении задачи экстраполяции). Мы ограничимся рассмотрением лишь одномерных ста- ционарных процессов, так как при переходе к многомер- ным процессам хотя и не возникает принципиальных трудностей, но сам метод выглядит довольно громоздко. Итак, пусть стационарные процессы ^(t) и г|(0 имеют рациональные спектральные плотности. И Ю. А. Розанов
162 Гл. III. Прогнозирование непрерывных процессов Как и в случае линейной экстраполяции, спектральная характеристика (5.4) величин т) является рацио- нальной функцией %, аналитической в нижней полупло- скости. Условие ортогональности величин £(т) — g(0, т) к подпространству (0) означает, что м [Е(т) — f(0, е)] T](s) = W — у(Х, т) ГП(М = оо = j e-^[eixyT’(X)-$(X,T)/’n,(X)]dX = 0 (5.5) —оо при всех s 0. Отметим еще раз, что функции /*П(Х), <р(%, т) и /ПП(Х) рациональны относительно X, и соотно- шение (5.5) показывает, что Ш т) = е^(Х)-5(Х, т)/™(Х) (5.6) является аналитической в верхней полуплоскости функ- цией X. Пусть угт(Х) = РО)Р, (5.7) 1С(МГ где нули wp, p = l, m, и zq, q — i, n, полиномов P(X) и Q(K) лежат в верхней полуплоскости, Р(Ь) = сП(*-«Л р=1 , ” ' „ (5-8) <?(X) = II(X-Zg)V g=i Предположим, что (X) ---------------------тг--т----гг, (5.9) (л —Т1)...р, —Tft)(A_Т1)... (х —Т/) где Л (X) есть полином от Л, числа у3- = 1, Л, лежат в верх- ней полуплоскости, а у7-, / = 1, Z,— в нижней. Очевидно, особенности функции <p(Z, т) могут быть лишь в точках % = wp, р = 1, mr и X = у = 1, так как
J 5. Линейная фильтрация стационарных процессов 163 функция т) должна быть аналитической в верхней полуплоскости. Таким образом, спектральную характери- стику следует искать в виде jv <510) здесь степень N полинома в числителе меньше, чем /с, поскольку требуется, чтобы J |ф(Ь, T)|2/nV)<&<00. (5.11) —оо Чтобы функция ф(Х, т) не имела особенностей в точ- ках X = j = 1, А, разность N А (к) = е^А (X) Q (К) — (X — yQ ... (X — yj) Р (к) 2 (5.12) должна обращаться в этих точках в нуль, что и дает нам к уравнений для определения,коэффициентов ah\ Л(Ъ) = 0, / = ГТ (5.13) (в случае, если нули все простые). Если же некоторый нуль у из Чэ имеет кратность Z, то к уравнениям (5.13) следует добавить еще Z — 1 уравнений вида ^iA(X)l = 0, i = i7Ti. (5.14) .J x=v Пример 5.1. Пусть спектральные плотности стационарных процессов £(0.и ц(0 имеют вид 1 (х)“х2+т2’ 1 w-aa+₽w+v2)’ где постоянные а, ц положительны. Мы видим, что в представ- лении (5.7) спектральной плотности полиномы Р и Q суть Р(Х) = с(Х — га), Q W - (Х-ф) (Х~гТ). Следовательно, в формуле (5.9) нужно положить Л(%)==Л, 71 = ^7» 72 = —*7- И*
164 Гл. III. Прогнозирование непрерывных процессов Из соотношения (5.10) вытекает, что спектральная характери- стика ф(Х, т) наилучшей линейной фильтрации есть Т) - а _ iay где коэффициент а определяется из уравнений (5.15): Таким образом, оо оо f (i, т) = [ ешф (%, т) Ф (dk) = a f ф (<&), J J л — ia — 00 —00 где Ф(йЛ) — случайная спектральная мера процесса £(£). Прини- мая во внимание, что оо IzzlP = 1 + JLzZ = 1 + (Р - a) f е~^е~а} ds, k-ia а+а u ' J О окончательно получаем: i(t, т) =4 с - оо e-Vt Р Н? п Щ (р _ а) f e-as^ _ s) ds а ~r P J L 0 § 6. Линейная интерполяция стационарных процессов Пусть ^(t) = есть многомерный стационар- ный процесс, значения %k(t) которого известны во все мо- менты времени t, —<*><£< % за исключением некото- рого интервала Tk, к = 1, п. Задача линейной интерполяции неизвестных значений t^Th, состоит в нахождении проекций ^k(t) этих величин на подпространство Н(Т) — линейное замыкание известных величин t^Th, к = 1, п. Так же, как и в случае дискретного времени, можно, не ограничивая общности, считать, что процесс £(£) имеет спектральную плотность /(X) = {fki Обозначим Вь совокупность векторов Ъ = {bh}h=zl>n вида & = а/(Л), (6.1) являющихся произведением произвольного вектора а =‘
§ 1>. Линейная интерполяция стационарных процессов 165 = {ak}k==1>n и спектральной плотности /(X). Как и прежде (см. § 10 предыдущей главы), под величиной бу- дем понимать любой из векторов а, удовлетворяющий уравнению (6.1). Рассмотрим гильбертово пространство В(Т) векторных функций b(X) = {&fc(^)}ft==1,n с компонентами bk(h) вида ММ= f eiKtah(t)dt, (6.2) таких, что Ь(Х)^Вх для почти всех ли J [&(^)/-1(X)6(X)]dX<oo (6.3) —оо со скалярным произведением оо (&,&') = J [^(Х)/-1^)^^)]^. (6.4) — оо Аналогично дискретному случаю имеет место следую- щее предложение. Лемма 6.1. Линейное замыкание А(Т) «ошибок» (t) — (t), t Th, к == 1, n, изометрично пространст- вУ В{Т). Доказательство. Пусть Ф = {Фл}й=р^ — спек- тральная случайная мера стационарного процесса £(£). Величины h из А (Г) можно представить в виде оо А = J ф(Х)Ф((/Х), —оо (6-5) где векторная функция ф = {ф/г}^1’71 отвечает требованию оо j [ф(Х)/(Х)ф(Х)НХ<оо. — 00 (6.6) Условие ортогональности величин h к подпространству Н(Т) означает, что оо лтйо= j — ©о п е-ы 2ф/(Х)/№(Х) U=i dX = O (6-7)
166 Гл. 111. Прогнозирование непрерывных процессов при всех t^Tk, к = 1, п. Если положить Ь(М = ф(М/(М, (6.8) то из равенства (6.7) вытекает, что преобразование Фурье п функций bk (X) = 2 Ф/ (М fik W — компонент вектора _________________i=i b (М = {^(M}ft=1,n — обращается в нуль вне интервала Th, и таким образом, функции &ft(Z) имеют вид (6.2). Кроме того, вектор 6(Х), очевидно, принадлежит совокупности ВК по самому определению. Скалярное же произведение дается следующим выражением: (h, h') = Mhh' = J [ф(А,)/(Х)ф'(Х)]бМ = — оо = .[ ь'(Ь)] (6-9) —оо здесь &' (А,) есть векторная функция, соответствующая по формуле, аналогичной (6.8), величине h' из А (7). Мы видим, что векторные функции й(А) и Ъ'(к) принадле- жат пространству В(Т). В свою очередь, если взять произвольный элемент Ь(Х) из В(Т), случайная величина Л, связанная с &(А) соотношениями (6.8) и (6.5), в силу равенства (6.7) бу- дет ортогональна подпространству Н(Т) и, следовательно, будет принадлежать А (Г). Лемма доказана. Заметим, что класс функций у (А), представляющихся в виде т у{\)= \ e^a{t)dt, (6.10) —т аналогичном (6.2), достаточно подробно изучен (см., на- пример, книгу Ахиезера1*1). В частности, каждая из функций y(z) является целой экспоненциального типа с показателем т, т. е. такой, что ly(z)l (6.11) Из леммы 6.1 сразу вытекает следующая общая теорема. Теорема 6.1. Безошибочная линейная интерполя- ция неизвестных значений £*(£), t^Tk, к=1, п стацио-
§ 6. Линейная интерполяция стационарных процессов 167 парного процесса %(t) = (t)}k==— со спектральной плот- ностью /(X) = {/ftZ(X)}^j~ возможна тогда и только тог- да, когда B(T) = Q. (6.12) В частности, в случае одномерного стационарного процес- са £(£) со спектральной плотностью /(X) условие (6.12) его безошибочной линейной интерполяции на интервале Т = (—т, т) формулируется следующим образом: для лю- бой не равной нулю целой функции у(Х) экспоненциаль- ного типа с показателем т ivWI2 м = оо. (6.13) Нужно сказать, что в отличие от задач линейной экстраполяции и фильтрации, решение которых для не- прерывного времени t вполне аналогично случаю дискрет- ного /, метод решения задачи линейной интерполяции многомерного стационарного процесса %(t) = {£&(0}ft==i“^ изложенный в § 10 гл. II для дискретного времени t, в случае непрерывного t приводит к сложным интеграль- ным уравнениям, и пока не найдено сколько-нибудь эф- фективного решения этой задачи во всей ее общности. Поэтому при ее решении мы ограничимся лишь рассмот- рением случая,_когда элементы спектральной плотности Ж)= стационарного процесса £(£) рацио- нальны относительно X. _____________ Пусть множества Th, к = 1, п, значений параметра £, для которых неизвестны величины gfe(0, представляют собой один и тот же интервал Т, и пусть £&(£) есть, как и прежде, проекция элемента на подпространство Н(Т). Будем искать величины £Л(/) в виде 2 J (6.14) i—1 —оо где оо J I <МЬ) I2 Ш (6.15) — 00
dX = O (6.17) 168 Гл. III. Прогнозирование непрерывных процессов при всех к, / = 1, п. При этом достаточно ограничиться лишь интервалом Т = [—т, т]. Для определенности рассмотрим лишь п ™ Г1(0= 2 J фДЛ)ФДйХ). (6.16) 5=1 -оо Ортогональность разности £i(£)—£i(£) к подпростран- ству Н(Т) эквивалентно тому, что [eiM - Ф1 (X)] /1й (X) - £ (X) (X) 5=2 при всех fc = l, ли т, Условия (6.17) будут выполнены, если фй (X) = [е^ - Ф1 (X)] /1й (X) - 2 Ф; (М Л-fe (X), Л = 1Ги, 5=2 (6.18) будут целыми аналитическими функциями, представимы- ми в виде фй (X) = (X) + е^2) (X), (6.19) где фд1' (X) и фй2)(Х) являются рациональными функциями, убывающими при |Х| 00 не медленнее чем 1X1 “2. Действительно, в этом случае функции егМфЛ(Х) при любом s, $ —т ($>т) будут аналитическими в нижней (соответственно в верхней) полуплоскости, убывающими там при 1X1 -> о° не медленнее, чем |Х|~2; применяя теоре- му Коши к этим функциям, получим, что J eas4>fe(X) dk = —оо ' Л = lim j (X) dX = lim J eiuipfe(X) dX = 0 (6.20) Л-*оо _Л Л-»оо при s —т, $ > т, где Ra означает полуокружность радиу- са Л в соответствующей полуплоскости, построенной на отрезке [—А, Л] действительной прямой —оо<х<°© как на диаметре.
§ 6. Линейная интерполяция стационарных процессов 169 Далее, величина в правой части равенства (6.16) бу- дет принадлежать пространству Н(Т), если функции фДХ) представимы в виде (X) = е-^ф(1) (X) + е<%Тф(2)(X), j = (6.21) где ф/\Х) аналитичны в нижней полуплоскости, a ф$2)(Х)— в верхней, причем они рациональны и возрастают при I Л, I -> оо в соответствующей полуплоскости не быстрее, чем некоторая степень IZK В самом деле, функции вида г — целое1 г > q + 1 ? интегрируемы в квадрате и аналитичны в соответствую- щей полуплоскости, и потому оо = J (t) dti О оо = J e™a<£>n(t)dta О (6.22) откуда t = lim f [а$ (s) ^ (— т — s) + afy (s) (т + «)] ds = *-»«> 0 ОО = j [аЛп(s) (— Т — s) + («)& (T + s)] ds. (6.23) 0 Предел в соотношении (6.23) нужно понимать в среднем квадратичном. Этот предел существует, поскольку функ- ции ^n(s) и ctfn^s) интегрируемы в квадрате, а спект- ральные плотности ограничены. Переходя в (6.23)
170 Гл. III. Прогнозирование непрерывных процессов к пределу при п -> оо, нетрудно получить, что величины оо J. (X) + (X)] Ф; (dX), / = Т^п, (6.24) —оо принадлежат подпространству Н(Т). Коротко остановимся на приеме, который в случае, когда det/(X)>0, позволяет определить рациональные функции (pj1) (X) и Ф;2)(А,)в (6.21) таким образом, что со- ответствующие функции фДА.) и xpfe(Z), fc = l, п, будут удовлетворять надлежащим требованиям аналитичности. Чтобы полюсы функций ф;1^) и Ф;2)(А,) не были одно- временно полюсами функций x|?ft(Z), fc = l, п, вида (6.18), которые мы желаем иметь аналитическими, определим числители (X) И С0;2) (X) ИСКОМЫХ ф;1} И ф;2) так, чтобы S о)^(е)/^(е)=о, fc = i77l, * = 1,2, (6.25) j=i в полюсах 0 этих функций Ф;1^), ф;2)(А,). Уравнения (6.25) могут иметь нетривиальное решение, лишь когда 0 яв- ляется нулем определителя det/(Z). Принимая во вни- мание аналитичность ф)г) (А,) в нижней полуплоскости, Ф^2)(Х)—в верхней полуплоскости, и положительность функции det/(Z) на действительной оси, найдем, что ф?)м = (x-e^.^x-e,)’ <pj2)W = <oj2) (X) (х-01)...(х-ё/) Im 0fe > 0, (6.26) где 0А, к = 1, I,— нули функции det/(X) в верхней полу- плоскости. Поскольку мы хотим, чтобы оо J (6.27) — оо степень полиномов (X) должна быть не выше, чем L + irtj— 1, где 2тП] — разность степеней знаменателя и числителя функции fjjCk). Неизвестные коэффициенты полиномов (А,) можно определить из условия отсутст- вия полюсов у функций г|^(Х), fc = l, п, в точках ajk —
£ в. Линейная интерполяция стационарных процессов 171 полюсах элементов спектральной плотности /(X), а кроме того, из условий (6.25). Функции и1ф>2)(^) можно представить в виде m —1 [fe=O (6.28) Ф?)М= 2 W^(iKf + wj<2(K), h=0 где и Tyjfe2 — некоторые полиномы, а функции шц и Wj,2 интегрируемы в квадрате. В силу расположения полюсов этих функций в соот- ветствующей полуплоскости, преобразование Фурье Cj,i(s) функции обращается в нуль на отрицательной полуоси, Cj2(s)—на положительной: mj—1 оо Ф?> (М = 2 + J ds, k—o 0 mj~i °°p (6.29) ф^(Х)= 2 W^2W + \e-^cj2(s)ds. й=о % Окончательно получаем следующее выражение для наилучшего линейного прогноза: n (mj-l £(*) = S' 2 [W®w(-т) + w®ft)(T)J + S=i k=o OO - ' + J (ci,l (S) & (— T — s) + C3,2 (s) (T + S)] ds 0 J (6.30) Пример 6.1. Пусть стационарный процесс |(i) имеет спект- ральную плотность /(X) вида В / (X) = TTJ—2 (« > 0) Л ~г а (в примере 4.1 этой главы мы нашли для него лучшие экстрапо- ляционные формулы). Поскольку в нашем случаем спектральная плотность /(%) не имеет нулей, функции ф{1)(Х) и ф(2>(Х) в представлении (6.21) спектральной характеристики ф(Х) являются просто постоянными: Ф<1>(%) == Ф<2>(Л) =(о<2\
172 Гл. III. Прогнозирование непрерывных процессов Их нужно подобрать так, чтобы функция ф (Z) в (6.18) : ф (X) - [еш - - eaW2)] / W = ' = В — е iA/tg(i) — ^iZ,Tw(2) (X + fa) (X — fa) была целой. Это условие дает нам два уравнения для определения ©О) и оЛ2); еато(1) е-атю(2) = ^-af? Решая их, получим: е~4“ еатсо<2) = eaf. ^(i) _ sh а (т — t) sh 2ат m(2) = sha<T+0 sh 2ат ’ и, следовательно, интерполяционная формула имеет вид е-гЬт sh а (т — t) sh 2ат । ЛКх sh а (т + t) ~Г е ----- sh 2ат Ф (<Гк) = sh а (т — t) г sh а (т 4- t) - ,1,2а-. sh2«T 5 « § 7. Линейное прогнозирование по значениям на конечном интервале С точки зрения практических приложений наиболее интересна, по-видимому, задача линейного прогнозирова- ния в случае, когда значения стационарного процесса | (£) = {^k известны лишь на конечном временном интервале Т. Состоит она в том, чтобы в подпространстве Н(Т) (ли- нейном замыкании величин £*(£), Л=1, n, значе- ния которых известны) найти величины £(s) = {|ft(s)}ft=—, s^T, обладающие тем свойством, что Mg(s)-|(s)ll2==min. (7.1) Каждая из величин gft(s) является основанием пер- пендикуляра, опущенного из £ft(s) на подпространство Я(П. Так же, как и ранее, задача заключается, по су- ществу, в отыскании спектральной характеристики
§ 7, Прогнозирование по значениям на интервале 173 Ф = величин |(s): оо g(s)= J ф(1)ф(а), (7.2) —оо где Ф = {ФА}Й==——спектральная случайная мера стацио- нарного процесса £(£). О матричной функции ф(А,) изве- стно лишь, что ее строки Ф& = {ф^}7^1’11 являются эле- ментами подпространства Lp (F) в L2(7^)*), порожденного функциями вида eiKt8k, к = 1, п, t^T. Условие ортогональности разностей ($) — £&($), &== = 1, п, подпространству Н(Т) приводит к следующему интегральному уравнению для спектральной характери- стики ф: J e-iw<p(X)F(£&) = £(«-/), te=T, (7.3) — оо где F = {Fki}1^^—спектральная мера стационарного процесса £(£), а В = {Вш}1^-^ — его корреляционная функция. К аналогичному уравнению сводится и более общая задача линейного прогноза неизвестных значений процес- са £(£) по значениям (на интервале 7) стационарно свя- занного с ним процесса ц(^); вместо F и В нужно взять взаимные спектральную и корреляционную функции Рп и В*\ При решении вопроса об отыскании матричной функ- ции ф(Х) мы остановимся лишь на одном важном слу- чае, когда имеется спектральная плотность, рациональная относительно %. В этом случае уравнение типа (7.3) мо- жет быть решено методами, развитыми в предыдущем параграфе. Мы не будем останавливаться на подобного рода решении, а рассмотрим один весьма эффективный метод, сводящий интегральное уравнение (7.3) к некото- рому линейному дифференциальному уравнению с по- стоянными коэффициентами (а в конечном счете, к не- которой линейной системе алгебраических уравнений). При этом мы для простоты ограничимся лишь одномер- ным случаем. Итак, пусть спектральная плотность /(Z) *) Определение пространства L2(F) было дано в § 7 гл. I.
174 Гл. III. Прогнозирование непрерывных процессов рациональна. Она допускает представление вида /(Х)= (7.4) м ’ IQ (а) г где тп п р (z) = 5 PkZk, Q (z) = S ?feZft о 0 есть полиномы, корни которых лежат в левой полупло- скости. Мы будем предполагать, что /(Х) = /(—X), как это бывает в случае действительных процессов, так что по- линомы P(z) и Q(z} будут иметь действительные коэф- фициенты*). Кроме того, мы будем предполагать, что /(А,) не обращается в нуль. Это требование вызвано тем обстоятельством, что в противном случае интегральное уравнение (7.3) будет иметь решения особого типа, не описывающиеся общей формулой, которая выводится ниже. Не ограничивая общности, можно считать, что Т = = (—т, т). Рассмотрим интегральное уравнение вида оо J (X)/(X)dX = Л(0, — r<Z<r, (7.5) —оо где функция A(t), определенная на интервале (—т, т), имеет по крайней мере 2(п — тп) непрерывных производ- ных. Следует отметить здесь, что корреляционная функ- ция B(t) стационарного процесса £(£) с рациональным спектром имеет производные всех порядков в каждой точке t, отличной от нуля; в интегральное же уравнение (7.5), возникающее в задаче линейного прогноза, войдет функция A(t) = B(s — Z), где либо $ < —т, либо £>т; следовательно, она будет даже бесконечно дифференци- руемой на интервале (—т, т). Как будет показано ниже, решение <р(Х) (из прост- ранства Lt(F)) интегрального уравнения (7.5) выглядит следующим образом**): ' *) См §10 гл. I. **) Нетрудно показать, что интегральное уравнение (7.5) имеет решение в Lt(F) тогда и только тогда, когда при некотором М, М < оо, |£с («) а (0 |2<м J |2с(0«ш|2^М для произвольных чисел с (£), —т < t < %.
§ 7. Прогнозирование по значениям на интервале 175 п—т—1 п—т—1 ф (X) = e~iKx 2 ck (^)fe + eiKt ck + fe=O k=0 x + § eiMc(t)dt. (7.6) В этом выражении (7-8) n ' 1 V Гл 7 d Ск ~ 2л M dt J=m4-fc+l L 4 „ i \ I d\ т (7-7) J=m4-fe+l L \ / J /с = 0, n — m — 1, где функция %(t), — x<t<x в случае тп = 0 есть #(£) = = p^2A(t), a в случае m>0 является решением диффе- ренциального уравнения с постоянными коэффициентами с граничными условиями c(-4Pft)(-T+0>=0’ Перейдем к выводу формулы (7.6), Предварительно уста- новим параметрическое представление для элементов под- пространства Lt(F). Теорема 7.1. Если спектральная плотность /(%) такова, что ci^(l+V)r/W^2 (7.10) для некоторого целого г и положительных С\ и С2, то подпространство L? (F), где Т~(~х, т), состоит из все- возможных функций вида ф(Л) = Р1(Х) + Р2(Х) j (7.11) (7-9)
176 Гл. III. Прогнозирование непрерывных процессов где Р\(К)—произвольный полином (г—1)-й степени, Рг(М—произвольный полином степени г, a c(t), —т < < t < т,— любая интегрируемая в квадрате функция. Доказательство. Функции ф(Х) вида (7.11) при- надлежат подпространству L} (F). Действительно, ему принадлежат функции (ikf = lim(zZ)"“, k = 1, r-1, h-0 11 И <p(X)= j elUc(t)dt, — T а для гладких c(t), обращающихся в нуль вместе со своими производными в концах интеграла (—т, т), и функции (-iX)ft(p(X)= j eiUcw(t)dt. —X При k = 0, г можно предельным переходом от функций (—ih)h ф(Л), отвечающих гладким c(t), перейти к произ- вольным c(t), интегрируемым в квадрате. Далее, рассмотрим элементы вида TtW = 2 chezMk, ь=о где различные между собой t\, ..., tr фиксированы, a to = t пробегает все значения интеграла (—т, т), кроме = t\, tt. Определим соответствующие коэффициенты ch из условий (Z) = о, к = 0, г-1. (7.12) Пусть М — замкнутая линейная оболочка этих эле- ментов срДЛ). Очевидно, М есть подпространство в Lt(F) конечного индекса, не превосходящего г. Оказывается, подпространство М состоит из всевозможных функций ф(Л) вида X 1|>(Ь) = (1 + ik)r J eiuc(t)dt. (7.13)
§ 7. Прогнозирование по значениям на интервале 177 Действительно, по самому определению каждая из функций ф(%) подпространства М есть предел в среднем квадратичном с весом /(X) линейных комбинаций фп(Х) элементов срДХ). Но в силу условия (7.10) эта сходи- мость эквивалентна сходимости с весом (1 + Х2)-г. Имеем оо lim J .|ф(Х)-ф„(Х)|2(1 + Х2)г^ = -оо оо = lim f П-»оо J — 00 4 (%) W 2 (1 + iff (1 + iX)r Очевидно, линейные комбинации функций <р( (X) удов- летворяют условиям (7.12), а это значит, что отношения i|)n(X)/(l + й)г являются целыми аналитическими функ- циями % экспоненциального типа, интегрируемыми в квадрате на действительной прямой. Известная теорема Палея — Винера дает нам их представление в виде О + а)2 % = J eiMcn(t)dt, —т где cn(t)— некоторые интегрируемые в квадрате функ- ции, обращающиеся в нуль вне интервала (—т, т). Из этого представления немедленно вытекает, что и отноше- ние г|ДХ)/(1 + ih)r, как предел в среднем квадратичном функций г|9п(Х)/(1 +/Х)г, есть Ш) (1 + а)г т = j eiMc(t)dt, —% где c(t) является пределом в среднем квадратичном со- ответствующих функций cn(t). В итоге для элементов *ф(Х) подпространств^ М мы получаем выражение (7.13). Для доказательства теоремы остается заметить, что каждая функция ср(Х) из М обращается в нуль в точке % = i вместе со своими г — 1 производными, следователь- но, никакая линейная комбинация из г линейно незави- симых элементов ф(Х) = М, Л: = 0, г—1, не принадлежит подпространству М, т. е. эти элементы дополняют его до всего пространства Lt(F). 12 ю. А. Розанов
178 Гл. III. Прогнозирование непрерывных процессов Лемма 7.1. Пусть ф(Х) = j eiw+x}c(t)dt, —т где c(t) интегрируема в квадрате. Если оставаясь в верхней полуплоскости Im X О, то ф(Х)->0 равномерно относительно arg X (О arg л). Доказательство. Утверждение леммы очевидно для гладких функций с(£), обладающих тем свойством, что с'(—т) = с(т) = 0, поскольку для всех X имеет место соотношение т <р (%) = _!_ Г eiM+x}c'(t)dt. th t) — т Каждая интегрируемая в квадрате функция c(t) мо- жет быть аппроксимирована в среднем квадратичном гладкими функциями cn(t) сколько угодно точно. Если т фп(Х)= J еш/+тМ)<й, —т ТО |ф(Х)-ф„(Х)|<(2т)1/2 откуда видно, что разность cp(Z) — фп(М может быть сде- лана произвольно малой при соответствующем выборе cn(t) равномерно для всех X, ImZ>0. Этот факт и то обстоятельство, что -фп(^)-* 0 при °° равномерно по X, Im X > 0, и доказывают справедливость нашей леммы. Пусть ф(Х) есть решение из класса Lt (F) интеграль- ного уравнения (7.5). Определим функцию x(t) ра- венством оо ^(^)= J е“гК*ф(Х) —оо (7.14) I Q (^) Г Очевидно, существует для всех /, —оо < t < оо, и всю- ду имеет (п + т— 1) непрерывных производных. При-
§ 7. Прогнозирование по значениям на интервале 179 меним к функции x(t) дифференциальный оператор (--£-)• Имеем \ at ] \ at j оо р(4)р(-4)а:^= f \ / V V*'1, / —оо 1^Ц<а IО (11) I при всех t. Поскольку ф(Х) есть решение интегрального уравнения (7.5), функция x(t) при —x<t<x должна удовлетворять дифференциальному уравнению (7.8) (при 772 — 0 это уравнение обращается в тождество x(t) = = —А (£)). Пусть 772 > 0. Рассмотрим выражения °° е (-4pw w - а, —оо к = 0, 772 — L Так как корни полинома Q(—iK) лежат в нижней полу- плоскости, подынтегральная функция ср (X) (—£X)ft/(? (~гХ) аналитична в верхней полуплоскости. Из представления функции ср (Л,) в виде (7.11) и леммы (7.1) вытекает, что eiKx Ф k = 0,m-i, Q (— *Х) х при X равномерно по X, Im X > 0. Следовательно, по известной лемме Жордана, -----X™ (t) = 0 При t<Z — Т, & = 0, 772 — 1. (7.15) \ о с J Благодаря непрерывности первых (72 + 772 —1) производ- ных функций x(t), в соотношении (7.15) можно перейти к пределу при t —т, в результате чего мы получим первое из краевых условий (7.9), которому должна удов- летворить рассматриваемая функция x(t). По совершенно аналогичным соображениям, (£) == 0 ПРИ к = 0,т — 1, (7.16) и, переходя здесь к пределу при t -> т, получаем второе из условий (7.9). Далее, если понимать x(t) как обобщенную в смыс- ле Шварца < функцию, и применить к ней оператор 12*
180 Гл. III. Прогнозирование непрерывных процессов [ d । I d । v hr V —тг b то очевидно получим \ ал j \ ал j оо (7.17) к ЦЬ 1 \ Uh J — ОО Равенство (7.17) показывает, что решение <р(Х) ин- тегрального уравнения (7.5) является преобразованием Фурье обобщенной функции »w-e(4)e(- Найдем эту функцию. Положим 4Ь'>- И (0 = <?(“ x(t). (7.18) (7-19) При т>0 это есть обычная (даже непрерывная) функ- ция /. Если при т = 0 понимать ее в обобщенном смысле, то аналогично тому, как были получены соотношения (7.15), легко установить, что и(£) = 0 при t<—x. На ин- тервале —т < t < т эта функция совпадает с обычной функцией p^2A(t)» Следовательно, при любых т функция u(t) для t<x является обычной, причем u(t) = O при £<—т. Таким образом, при y(t) = при — т < t < т, (7.20) и в качестве несобственных компонент (на полупрямой Кх) y{t) содержит лишь 6-функции и ее произведение в концевой точке t = —т интервала Т. Именно, п—т—1 Г п У (— Т) = 2 6(ft) (t + т) 2 qjU(3~k~r> (— т + 0) . h=0 и=7п+&+1 (7-21) Совершенно аналогичное положение имеет место при t > —т. В этом случае _Н-4)“W "Р” (7.22) I 0 при t > Ti
§ 7. Прогнозирование по значениям на интервале 181 а п—m~ I Г п л Т’ У(т) = — 2 sw(t — т) 2 (— IXgjP0’-6-1’ (т - 0) , fe=0 L;=m+A+1 J (7.23) где Переходя от функции y(t) к ее преобразованию Фурье, получаем выражение (7.6) для решения ф(Х) интеграль- ного уравнения (7.5). Пример 7.1. Рассмотрим стационарный процесс ^(0 с ха- рактеристиками В (t) = а>0, о2 а =1Г-а2 + %2. Найдем наилучший прогноз g (s) для величины £ (s), s > т, по значениям £(£), — т < t < т. Согласно формуле (7.6) спектральная характеристика ф(Х) величины £(s) будет иметь вид ф(Х) == е“а(в~т)егХ\ Таким образом, что и следовало ожидать ввиду уже полученной (в примере 4.1 этой главы) экстраполяционной формулы.
ГЛАВА IV СТАЦИОНАРНЫЕ В УЗКОМ СМЫСЛЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ § 1. Основные понятия. Примеры Как и прежде, под «-мерным случайным процессом £(/) будем понимать вектор-столбец Ш = (1.1) состоящий из п случайных процессов £fe(£), к = 1, п. Пусть £(£) есть n-мерный случайный процесс. Назо- вем функцию множеств = Р (Zx) еГр .. (Zjv) <= гл), (1.2) заданную на всевозможных борелевских множествах Г1, ..., Гд- комплексной плоскости R, конечномерным распределением случайного процесса £(£). Назовем n-мерный случайный процесс %(t) = {tk (0}*=^ стационарным в узком смысле, если его конечномерные распределения инвариантны относительно сдвига по па- раметру t, т. е. ₽ VX <г‘........г»> - РК'- ХГ <г>......г») -3> при любых N, t\, ..., tN и Гь ..Гл. Очевидно, в случае, когда значения Zk(t) стационар- ного в узком смысле процесса ? (О = {ife (0}ft=ni имеют вторые моменты (МI2 < °°, к = 1, п), этот процесс является стационарным и в широком смысле, т. е. ма- тематические ожидания к = 1, п, не зависят от t, а корреляционные функции Вы(t, s) = M%h(t)(s), к} I = 1, n, зависят лишь от разности t — s.
§ 2. Непосредственное задание случайных процессов 183 Пример 1.1. Бесконечная в обе стороны последовательность В(-1), В(0), В(1),... независимых одинаково распределенных величин есть ста- ционарный в узком смысле процесс. Пример 1.2. Случайный процесс вида = peW+0)? где р и X есть некоторые постоянные, а величина 0 равномерно распределена на отрезке [—л, л], является стационарным в узком смысле. Это вытекает из совпадения вероятностных распределе- ний величин Xfi -f- 0,..., Мм 4~ 0 и Xfi 4~ О'» • • •? Мм 4“ О', 0х = 0 4“ Х£ при всех tN (для любого f). § 2. Непосредственное задание случайных процессов Пусть = {lk(t)}k==— есть n-мерный случайный процесс. Обозначим наименьшую о-алгебру со-мно- жеств соответствующего пространства Q элементарных событий со, относительно которой измеримы все случай* ные величины £ft(f) = £ft(co, t), Эта о-алгебра порождает- ся (о-множествами А вида А = [со: (f)e Гр (2-1) где Г1, ..Гл — произвольные борелевские множества комплексной плоскости. Будем называть 91^ о-алгеброй случайного процесса £(£), а множества А вида (2.1) — цилиндрическими. Во всем дальнейшем нас будут интересовать лишь события, которые определяются to-множествами из Многомерный случайный процесс Jj (t) мож- но представлять себе как семейство векторных случай- ных величин I (а>, £)= {?й (tt>3)}ft==—, зависящих от пара- метра t. При каждом фиксированном со это семейство определяет векторную функцию со = {#(£)} параметра t: #(f)=£((o, f); будем называть ее выборочной функцией или траекторией случайного процесса £(£)• Рассмотрим пространство Q всех измеримых функций co=={rr(f)} параметра t, принимающих значения в тг-мер- ном комплексном пространстве (^(0 = и наименьшую о-алгебру §1 со-множеств, содержащую
184 Гл. IV. Стационарные в узком смысле процессы множества вида А = {<о: (*!)<= Гц ...,zftjV(£л) е= Tjv}, (2.2) где Г1, ..., Гя — произвольные борелевские множества комплексной плоскости. Их также назовем цилиндриче- скими. Рассмотрим отображение А пространства Q элемен- тарных событий в Q, при котором каждое со переходит в соответствующую выборочную функцию #(£)=£ (со, t). Лемма 2.1. Совокупность ^-множеств А вида А = {(о:АоеД 4е=Я, (2.3} образует в-алгебру, совпадавшую с 9(g. Доказательство. Поскольку 51 есть о-алгебра множеств, прообразы А множеств Л из И при отображе- нии А также образуют о-алгебру. Обозначим ее 9Г. По- кажем, что И' является минимальной о-алгеброй, содер- жащей все прообразы цилиндрических множеств А вида (2.2). Для этого достаточно показать, что каждая а-ал- гебра S3, в которую входят прообразы цилиндрических множеств А, содержит Я'. Рассмотрим такую о-алгебру S3 и совокупность S3 всех множеств в пространстве Q, прообразы которых при отображении А входят в S3. Оче- видно, S есть о-алгебра, содержащая 91, поскольку она содержит все цилиндрические множества. Следовательно, все прообразы множеств из 91, образующие о-алгебру 9Г, входят в S3, и 91' является минимальной из всех а-алгебр, содержащих прообразы цилиндрических множеств А. Но этими прообразами являются цилиндрические множества А вида (2.1), и потому 91' =91£. Лемма доказана. Если теперь на о-алгебре 91 при помощи соотношений Р(А) = Р(Аг'А) (2.4) (где P(de>) есть вероятностная мера на исходном про- странстве Q, а А-1Л означает прообраз множества А при отображении А) задать вероятностную меру P(dco), и определить случайные величины £(со, t) при каждом t как £(со, t) = x(t), если со == (2.5) то их совокупность g (t) = будет п-мерным случайным процессом, конечномерные распределения ко-
§ 2. Непосредственное задание случайных процессов 185 торого совпадают с соответствующими распределениями исходного процесса £(£)• В этом смысле можно сказать, что случайные процессы ^(t) и обладают одинако- выми вероятностными свойствами. Будем говорить в дальнейшем о процессе £(£) = = что он непосредственно задан, если про- странство Q элементарных событий со представляет со- бой соответствующее пространство Q функций со = = {^(Z)}, x(t) = {xn(t)}k=s—, а значения g(co, £)= ^(со, t) имеют вид (2.5). Случайный процесс £(0 = {^(£)}fes=— можно непо- средственно задать при помощи согласованного набора функций , 1\) борелевских множеств Г1, ..., комплексной плоскости (индексы к\, ..., kN пробегают номера от 1 до n; t\, ..., tN — произвольные значения параметра, N — любое целое число). По каж- дому из аргументов эти функции являются вероятност- ными мерами, при одновременной перестановке индек- сов и аргументов их значения остаются неизменными, т. е. <гч.....г,„) = <г,....г„>, и, кроме того, (гр ..., rw_x, R)= = (2.7) Именно, при помощи этих функций можно задать ве- роятностную меру P(dco) в пространстве Q всех вектор- ных функций a) = {x(t)} параметра t (х(£) = {xk(t)}k==—} со значениями в «-мерном комплексном пространстве, определив ее на наименьшей о-алгебре Я, содержащей все цилиндрические множества, причем так, что*) р(g)еrltxkN(tN)(= Tjvj = (гх,...,г\). (2-8) Многомерные случайные величины | (со, t) = (со, в совокупности образующие случайный процесс *) См. по этому поводу книгу Колмогорова [*].
186 Гл. IV. Стационарные в узком смысле процессы £(/), определяются соотношениями, аналогичными (2.5). При этом конечномерные распределения случайного процесса g (t) совпадают с соответствующими функциями множеств Tjv). Пример 2.1. Гауссовский стационарный действительный процесс. Пусть имеется действительная матричная функция В (t) = [Bkl параметра t, удовлетворяющая следую- щему условию положительной определенности: при любом нату- ральном N N 2 <2-9) Р,9=1 для любых ti. ..., tN; fa ..., fa и произвольных действительных чисел ci, .. Ввиду того, что матрица [&kpkq (*р “ М}р— является положительно определенной, функция Ф(и1? ..., uN) = exp ’ N — 4 2 UPU4Bhpliq{tp~tq) p,q=i (2.10) может служить характеристической функцией некоторого 2У-мер- ного гауссовского распределения с функцией распределения ... TV ' 1 / Если матрица [Bhpkq(tp - ность этого распределения имеет вид fk^''.!kN(xv 2D 2 exp певырождена, то плот- N 1 4 2 <2л1) p,g=l J где матрица {лрд}р_является обратной к матрице {Shpkq (zp ~ и D ость определитель последней. Очевидно, соотношения ••’ Г*)= f ••• У -.М (2.12) Г1 fa определяют согласованный набор функций (Г1? ..., Г^) борелевских множеств Гь ..Г# действительной прямой. Вейлу зависимости матриц [Bkpkq (*р “ лишь от разностей tp — tq определяемый матричной функцией B(t) гаус-
§ 2. Н епосредственное задание случайных процессов 187 совский процесс будет стационарным в узком смысле, т. е. будет выполняться требование (1.3) предыдущего параграфа. Среднее значение так определенного «процесса £(£) будет рав- но нулю, а его корреляционная функция совпадает с исходной мат- рицей. Пример 2.2. Гауссовский комплексный стационарный про- цесс. Пусть матричная функция В (/) = удов- летворяет условию, аналогичному (2.9): м=1 . Тогда при помощи этой матрицы можно непосредственно задать комплексный случайный процесс g (t) = , стацио- нарный в узком смысле, такой, что (0 =±= О, (0g,(s) = В (t - $), (2.14) и совместные конечномерные распределения его вещественной и мнимой частей (t) = {Ц (t)}ft=— п (t) = (z)lA=j^ яв- ляются гауссовскими; кроме того, М& (0 g i (s) =. О, к. I = 177, (2.15) при всех t и s. Для этого достаточно непосредственно задать 2я-мерный дей- ствительный процесс Отметим, что если случайный процесс g (t) удовлетворяет ус- ловиям (2.14) и (2.15), то 1 МЦ (t) (S) = М1* % = 2 Re ВМ (* - s)> (2-16) - Mil (О % (?) = M^k (0 w = У Im BM « - *)• Как легко заметить, из соотношений (2.16) в свою очередь вытекают равенства (2.14) и (2.15). Следовательно, для непосредственного задания 2п-мерного случайного процесса (0}fe_—. 2 при помощи согла- сованного набора гауссовских распределений, как это было сде- лано в предыдущем примере, достаточно проверить свойство (2.9) «положительной определенности» матричной функции В' (t) = = \В’ (0}^ь^г ' I hl ' z^=i,2n (1 -тт Re В (Г) ~2 Im В (t) 1 — у Im В (f), 1 у Re Я (/)
188 Гл. IV. Стационарные в узком смысле процессы Очевидно, это свойство можно проверить лишь для N' = 2JV, tp =х tp+N и kp = kp+N (р = 1, N), поскольку за счет увеличения числа соответствующих индексов всегда можно добиться, чтобы они образовывали набор указанного вида 2N 2 cpcQBkphq (*р ~ *д) = 1М=1 N 2 (СР*~ icN+p)(cq + lcN+q)Bkpkq{tp^’ 0 РЛ=1 в силу «положительной определенности» матричной функции B(t). Читателю может показаться странным требование (2.15), которое мы накладываем на комплексный гауссовский процесс £(£). Требование это вызвано желанием сохранить очень важное свойство действительных гауссовских величин, равносильное их независимости. В комплексном случае это свойство сохраняется лишь при условии типа (2.15). § 3. Преобразования сдвига, связанные со стационарными процессами Пусть £(0 = {МОК=Гп— многомерный стационар- ный в узком смысле случайный процесс. Рассмотрим отображение Л пространства Q элемен- тарных событий со в пространство Q всех векторных функций со = {#(£)} параметра t (£'(/) = при котором каждое со переходит в соответствующую выборочную функцию, и отображение Sx пространства Q на себя, SX(O = {x(t + т)}, CD = {~t(Z)}. (3.1) Легко видеть, что при каждом т преобразование 8^ взаимно однозначно и образ SXA любого множества А из а-алгебры Я, порождаемой цилиндрическими множе- ствами, принадлежит Я; в частности, {w: xki (tj) е= Гп ..., xhN (tN) е ГЛ-] = = {<•>: г*1(<17т)еГ1,...,а:^(<я-т)еГя). (3.2) Как преобразование множеств о-алгебры Я, Sx также взаимно однозначно отображает эту о-алгебру на себя,
§ 3. Преобразования сдвига 189 сохраняя отношения между множествами: / °° \ 00 Sx I П = n (W, \fe=l / fe=l / оо \ оо Sx U - U (ЗД), (3.3) М?1 J Sx{Q\A) Sx3li 8x^2, если Ai Лг. Кроме того, преобразования 8Х при различных т свя- заны между собой групповьш соотношением: sXi-&2 = sw М Определим теперь преобразования 5Т множеств из а-алгебры §1* стационарного процесса Именно, каж- дое co-множество А из 81* есть прообраз некоторого св- множества А из 91; положим Sx(A) = A~'(SxA). (3.5) Вообще говоря, соотношение (3.5) определяет преобра- зование Sx неоднозначно, т. е. одному и тому же А мо- гут отвечать различные StA, но, как мы увидим ниже, любые множества Л1 = 5/Л и Л2 = StA отличаются друг от друга лишь на св-множество вероятности нуль. Заметим, что цилиндрические множества переходят в цилиндрические же: {со: (^i) ..., 1~kN (Zjv) Г„) = = {*>: — t)ge Гг .. ,,%hN(tN — т)е= 1\). (3.6) Назовем преобразование Sx сдвигом. Лемма 3.1. Преобразование сдвига Sx сохраняет меру P(StA) = Р(А) (3.7) для любого StA (Л ^910. Доказательство. Очевидно, достаточно показать, что Р(5Л) = Р(Л^, А^%, (3.8) где мера Р(йсв) определяется на 91 как Р(Л) = Р(А’1Л), Л^Я.
190 Гл. IV. Стационарные в узком смысле процессы В силу стационарности (в узком смысле) случайного процесса соотношение (3.8) выполняется для ци- линдрических множеств Л. В общем случае P(4) = infSP(X), Аа а где inf берется по всем цилиндрическим множествам Ла, в сумме покрывающих А, и р (ЗД) < inf 2 р (ЗтХ) = р (2), StAa “ поскольку цилиндрические^ множеств а вида 3\Ла в сумме покрывают 8ХА^ и Р(3\Аа) = Р(Аа). Применяя преоб- разование S-x к множеству SX*A, получим, что Р(5_Т(5Д)) = Р(Л)^Р(О). Таким образом, на самом деле Р(5Д)=Р(Л) для любого А, А 91. Лемма доказана. Лемма 2.3. Преобразование сдвига Sx определено однозначно с точностью до ^-множеств меры нуль, т. е. если Ai и Л2 являются образами одного и того же мно- жества А: A i — S х А, А2 — S х А, то (3.9) Р(А{ ° А2)=0*). Доказательство. Если множества А\ и А2 не совпадают, то это означает, что существуют различные множества А' и А" из 91, прообраз которых при отобра- жении А есть А: А =Д“1Л', А = Д"1А", и такие, что Ai=A~\SxA'), А2 = Л~] (8ХА"). Но тогда, конечно, А =А-1(А'П А") *) Симметричная разность А\ о 42 есть Л1оЛ2= (Л1\Л2) U И2М1).
§ 3, Преобразования сдвига 191 И = Л-1 (ЗЦА' П А")) = Л-1 (&А') П Л-1 (5Л ") = =' А1 А А%, Поскольку Р(5ТЛ) = Р(Л)==Р(Л1) = Р(42) = Р(Л1ПЛ2), очевидно, РЦ! °Л2)=0. Лемма доказана. В силу свойств (3.3) можно сказать, что преобразо- вание сдвига Sx сохраняет отношения между множе- ствами: П = П \fe=i / k=i sx\U A) = u (SxAk\ (3.10) / k=l 5T(Q\H) = Q\5T4, 5ТЛ1 5ТЛ2, если Л ^Л2, но с той оговоркой, что равенства (3.10) верны лишь с точностью до со-множеств меры пуль. Очевидно, что с той же оговоркой выполняется групповое соотношение sXi-sX2 = sw (3.11) Отождествив, далее, все случайные величины, отли- чающиеся друг от друга лишь с вероятностью, равной нулю, определим преобразование сдвига Ux величин, из- меримых относительно о-алгебры 9^ процесса £(£). Именно, для величин (1 при со е Л, ^«Но при соSА <ЗЛ2> положим : '.с (3.13) если же n = 2^XAft, (3.14) то Ux определим как ^14 = 2c^tXav- (3.15)
192 Гл. IV. Стационарные в узком смысле процессы Из равенства (3.13) вытекает, что {со : е Г) = 5г{со : т] Г) (3.16) для любой величины т] вида (3.14). Пусть последовательность щ, k = 1, 2, .. ., величин указанного вида сходится по вероятности. Рассмотрим соответствующую последовательность щ, к = 1, 2, ... «сдвинутых» величин V{h—Uxx\h. В силу инвариантности вероятностной меры Р(сйо) и свойства (3.16) — п/1 >6) = ^{|пь — т1И>е}^° (3-17) при /с, I -> оо для любого е > О, т. е. последовательность 1]^, к = 1, 2, ..., также сходится (по вероятности). Всякая случайная величина щ измеримая относитель- но и-алгебры может быть представлена как предел по вероятности величин щ, к = 1, 2, ..., вида (3.14). При этом «сдвинутые» величины будут схо- диться по вероятности же к некоторой случайной ве- личине т)'; положим , Uxx\ = x\. (3.18) Очевидно, определение (3.18) преобразования Ux кор- ректно в том отношении, что если взять другую после- довательность щ, к = 1, 2, ..., величин вида (3.14), схо- дящуюся по вероятности к т], то соответствующая по- следовательность = Uxx\k,k = 1, 2, .. ., будет сходиться к той же самой величине т), что и прежняя последо- вательность. Конечно, свойство (3.16) преобразования сдвига Ux переносится на произвольные величины т), измеримые относительно 9^. Если преобразование Sx сохраняет отношения между множествами (см. равенства (3.10)), то преобразование Ux сохраняет отношения между величинами. Именно, Ux (С1Щ + С2Т)2) = С1(С7?тц)+ с2(СМ]2), £Л(П1П2) = (£М]1) (£Лт]2), (3.19) ^п=(ад. Эти свойства очевидны, если в качестве щ и т]2 взять величины вида (3.12) (доказать их в общем случае пре- доставляем читателю). Очевидно также, что uxuX2 = uw (3-2°)
§ 4. Вопросы измеримости группы сдвига 193 Легко видеть, далее, что величины ц(£)“Ц(со, £), зависящие от параметра t, П(*)=СДп, . (3.21) где ц есть произвольная случайная величина, измеримая относительно о-алгебры 21g, образуют стационарный в уз- ком смысле случайный процесс. Если £(£)== {£ft(£)}ft=— есть исходный случайный процесс, то, очевидно, S*(0=^(0), * = 17^. (3.22) Из последнего равенства выводим, что для любой вели- чины ц, являющейся измеримой по Борелю функцией от значений Ц(^), .. .,^(^) процесса £(£), n(0 = c/tn = *Ап[Ц(М> • ••> W^)] = = n[^1(*i + 0- •••> + (3-23) Отметим еще одно свойство преобразований сдвига ST и Ux. Идейно, j* n(<o)P (do>)= j C7TT](co)P(dco) (3.24) А 8ХА для любой случайной величины ц = ц(со) (измеримой относительно о-алгебры 51g) и произвольного множества А из Это свойство очевидно для величин вида (3.12) и лег- ко переносится на общий случай. § 4. Вопросы измеримости группы преобразований сдвига Обозначим Hg гильбертово пространство случайных величин Л, Л/|Л|2<оо, измеримых относительно о-алгеб- ры 51g, со скалярным произведением (hi, 7^) = Mhji2. (4.1) Описанные выше свойства преобразований сдвига Ut показывают, что эти преобразования образуют в про- странстве Н5 группу унитарных операторов. Нам будет важно выяснить вопрос о том, какие про- стые требования, наложенные на случайный процесс £(£), приводят к сепарабельности гильбертова простран- 13 ю. А. Розанов
194 Гл. IV. Стационарные в узком смысле процессы ства Hs и измеримости семейства унитарных операто- ров Ut. Пусть %(t) = {%k(t)}k==Yn есть действительный процесс с дискретным временем (t принимает лишь целые зна- чения). Рассмотрим произвольную непрерывную функ- цию ф(яь .. ., xN), обращающуюся в нуль вне некоторой ограниченной области. Очевидно, совокупность всевоз- можных функций ф[£ь ОМ, • • ВСЮДУ плотна в пространстве Hs. Выберем в TV-мерном действительном пространстве R{N) переменных #i, ..., xN куб со сторонами Г1, .. длины 2nL (L— целое) столь большим, чтобы он вклю- чал в себя область, в которой функция ф(я1, . .., xN) отлична от нуля, и, кроме того, удовлетворял условию РУ-'Х (4.2) где б мы укажем позднее. В этом кубе функцию ф можно равномерно аппрок- симировать тригонометрическими полиномами Р ~ л ( ixN\ ~ Р(е , . .е ) вида N iL”1 Р = 2 c(^i, ..., uN)e fe=1 (4.3) ur...,uN с рациональными коэффициентами c(u\ - ..., uN) (ui, ... ..., uN — целые). Для любого e > О найдется полином Р, такой, что I/ ТЧ / ф(^, .. Р\е \ при всех х\ е Гц ..xN е Гх. Выбрав б в неравенстве (4.2) равным -у шах | ф (хг, ..., xN) | + fy ) ,2 получим, что М| ф (А), • • •, hNЫ] - Р[Л1(<1),..., |2 = = .1 |ф — (45). nW) 1
§ 4. Вопросы измеримости группы сдвига 195 Действительно, величина |ср — Р\2 внутри куба Г1Х...Х1\ не превосходит е/2, вне его |<р —Р|2 = = |Р|2, что не превосходит [max 1<р| + (е/2)1/2]2 (по- скольку функция Р (е *, . ..,е м) периодическая), а ве- роятностная мера Р1 ’ N области, дополняющей рас- сматриваемый .куб до всего R{N\ не превосходит б = = -у[тах|<р| + (е/2)1/а] 2. Таким образом, мы видим, что ство «тригонометрических полиномов» . . ., е kN^ )] всюду плотно в пространстве Н^. В случае /г-мерного комплексного процесса % (0 = = сепарабельность пространства Н5 доказыва- счетное множе- ется точно так же, нужно лишь вместо процесса §(/) рассмотреть 2п-мерный действительный процесс, состоя- щий из его действительной и мнимой частей: Итак, мы установили, что для дискретного парамет- ра t пространство Ht всегда сепарабельно. Иначе обстоит дело, когда параметр t пробегает все действительные значения. В этом случае сепарабельно- сти уже может не быть, и, для того чтобы она имела место, мы вынуждены наложить на процесс %(t) = = {?fe(0}fe=Xn некоторые требования. Одним из них яв- ляется стохастическая непрерывность-, для любого 8>0 limP{h(S)-g(i)||>8} = О s—>t (4.6) при всех t (формально свойство (4.6) всегда выполня- ется для дискретного параметра t). В самом деле, если кр(^1, .. ., xN) есть произвольная ограниченная непрерывная функция, то при стохастиче- ской непрерывности процесса £(£) случайные величины Ф (5i), • • •» £&jv(5iv)] сходятся по вероятности к ф[Ц (*i), • • •, ^йД^)], когда si -> fi, ..-* tN. Но для ограниченных величин сходимость по вероятности сов- падает со сходимостью в среднем: lim (sx), ...,gftw(sw)l- ...,^(fN)]|2 = 0. (4.7) 13*
196 Гл. IV. Стационарные в узком смысле процессы Отсюда заключаем, в частности, что пространство Н5 порождается величинами, являющимися функциями значений = t и, взятых лишь в рациональных точках t. Таким образом, при условии (4.6) случай непрерыв- ного параметра t сводится к случаю дискретного t, так что при этом условии пространство Hg будет сепара- бельным. Далее, назовем процесс £(£)=£ (со, t) измеримым, если функция £((о, t) измерима относительно пары пе- ременных (со, t). Конечно, всякий процесс ^(t) с дискретным пара- метром t является измеримым. Оказывается, если случайный процесс £(£) с непре- рывным параметром t стохастически непрерывен, то его значения можно так «подправить», изменив каждое из них лишь на (о-множестве вероятности нуль, что «под- правленный» процесс будет уже измеримым. Для дока- зательства этого утверждения разобьем произвольный отрезок [fi, t2] на равные части точками £°, t\ . . ., tm (£° = £i, . . ., tm = t2), и рассмотрим случайные процессы ^m(t), тп = 1, 2, ..., вида £т(со, £)== £(со, £*), th~{<t^th, к=1,тп. (4.8) Пусть ц (йсо, dt) == Р (d®) • dt. Благодаря стационарности процесса ^(t) и его стохастической непрерывности Р {(©, 0: II (со, t) — g™2 (со, t) II > е} < <(i2-Zx) sup P{||U*W(s)ll>e} + 0 (4.9) 1t— s |< max при mi, ш2 °°, откуда видно, что последовательность измеримых функций gm(co, t), ш = 1, 2, . . ., сходится по мере ц к некоторой измеримой же функции £((о, t). При почти каждом фиксированном t £((o, t) является случайной величиной, с вероятностью 1 совпадающей со значением ^(t) нашего процесса. Заменив, наконец, для остальных t (образующих мно- жество лебеговой меры нуль) £((о, t) на £(со, t), мы в
J 4. Вопросы измеримости группы сдвига 197 итоге получим измеримый случайный процесс, значения которого с вероятностью 1 совпадают со значениями ис- ходного процесса §(^). Далее, если случайный процесс £(£) измерим, то любой процесс ц(£) вида т)(0 = ф[Ц(^ + + 0] = = (4-ю) (где функция ф(^1, .. ., xN), скажем, непрерывна и ог- раничена) является также измеримым. Так как случайные величины вида <p[£fc (£i), ... . ..,^N(^)] всюду плотны в пространстве Н6, отсюда, в частности, вытекает измеримость семейства Ut унитар- ных операторов*, числовая функция (Uth\, Л2) измерима относительно t, каковы бы ни были элементы h\, из Hfc. Более того; если случайный процесс стохасти- чески непрерывен, то любой процесс v\(t)=UtT\, является непрерывным в среднем квадратичном*. —п(5)И = °- (4.И) s—^t Действительно, в силу унитарности семейства Ut каж- дый такой процесс ц(7) есть равномерный по t предел в среднем квадратичном процессов вида (4.10), для ко- торых свойство непрерывности (4.11) мы уже устано- вили выше (см. соотношение (4.7)). Из свойства (4.11) вытекает, что значения каждого стационарного процесса ц(£)— Utx\ могут быть выбраны таким образом, что он будет измеримым. Траектории такого процесса с вероятностью 1 будут измеримыми функциями t, интегрируемыми на каждом конечном ин- тервале [^i, tz]. Это вытекает из теоремы Фубини, по- скольку .[ МIТ) (01 dt < (t2 -tj [МIТ] (0) pf/a (4.12) *1 *3 *2 §Mr\(t)dt = M$x\(<d,t)dt (4.13)
198 Гл. IV. Стационарные в узком смысле процессы / *2 (сам интеграл £)ей с вероятностью 1 совпадает со значением интеграла ^r\(t)dt, определенного в § 2 гл. I для стационарных в широком смысле процессов I® § 5. Эргодическая теорема В случае, когда пространство сепарабельно, а се- мейство Ut операторов сдвига измеримо, существует спектральное разложение этого семейства: Ut = JeW(dX), - (5.1) где E(dh) — соответствующее семейство проекционных операторов (операторная мера), а интегрирование про- изводится в пределах —л < л в случае дискретного времени t и в пределах — оо < % < оо в случае непрерыв- ного t *). Этому разложению отвечает спектральное представ- ление Т)(0 = (5.2) стационарного процесса ц(г)=СЛг| (ц е Н%) в виде сто- хастического интеграла по случайной мере Фп(<^) = =^E(dk)r}. Такое представление для стационарных в широком смысле процессов нами уже было рассмотрено в гл. I, и там же в § 4 было показано, что «временные средние» 7^7 H(S, 0 = s t 7=7 J n(w) du s (5-3) сходятся в среднем квадратичном к величинам Фп(0). *) См. уже цитированную книгу Рисса и Надя [*], с. 408.
J 5. Эргодическая теорема 199 Для стационарных в узком смысле процессов вопрос о сходимости «временных средних» • — Н (s, t) может быть значительно уточнен. Для полной формулировки соответствующей теоремы нам понадобится одно новое понятие: множество А, А <= ^ 51^ назовем инвариантным, если StA = А (5.4) (с точностью до множеств вероятностной меры нуль) при любом t. Совокупность всех инвариантных множеств образует, очевидно, о-алгебру, которую мы будем обозначать 3. Аналогичным образом определяется свойство инвари- антности случайной величины ц: С7(т] = т1 (5.5) с вероятностью 1 при всех t. Легко видеть, что случайная величина ц инвариантна тогда и только тогда, когда она измерима относительно и-алгебры 3 инвариантных множеств. Теорема 5.1. Пусть ц — произвольная случайная величина, причем такая, что она измерима относитель- но 91g и у нее существует математическое ожидание (МIцI < оо). Положим ?)(£) = СЛт]. Тогда с вероятностью 1 lim -1~Н(М) = ЛГ(т]|5), (5.6) t-S~>oo f — 5 где Н($, ^определяется равенствами (5.3), а М(ц13) есть условное математическое ожидание*) величины ц относительно алгебры 3 инвариантных множеств. Более того, если при некотором б > 1 то М|ц|б < оо? (5.7) lim М | — Н (5, t) — М (ц 13)6 = 0. t-s_>oo р — s (5.8) Доказательство этой теоремы проведем по частям. Отметим прежде всего, что процесс ц(£) можно счи- тать действительным, рассматривая в отдельности его *) Читатель, незнакомый с понятием условного математиче- ского ожидания, может прочитать о нем, например, в книге Дуба с. 22.
200 Гл. IV. Стационарные в узком смысле процессы действительную и мнимую части. Кроме того, в силу стационарности можно ограничиться случаем 5 = 0. Пусть параметр t принимает лишь целые значения. Покажем, что у последовательности — Н(0,/), t = 1, 2, ..., с вероятностью 1 существует некоторый предел. Предположим, что это не так. Тогда найдутся два числа а и р, а < р, для которых вероятность одновре- менного выполнения соотношений lim-4-H(0, £)<а, , (5.9) 1пп4-Н(0, о>₽ t—>оо 1 будет положительна. Действительно, если обозначить Аа& тот случай, когда неравенство (5.9) выполняется для рациональных а, р, то случай А несуществования пре- дела lim — Н (0, /), очевидно, входит в объединение все- возможных (их лишь счетное число), и о<Р(Л)<2Р(лар), а,р откуда следует, что Р(Лар)>0 для некоторых а, р. Остается показать, что предположение Лар о справед- ливости (с положительной вероятностью) неравенств (5.9) приведет нас к противоречию. Итак, пусть Р(ЛаР)>0. Обозначим Л^р случай нера- венств (5.9), соединенный с существованием такого to. to 5, для которого ~т~ Н (0, £0)> р. Очевидно, % lim = Ла₽, lim Р (Л„р) = Р (Лар), S->oo S-»oo и Р(Лар)> 0 при достаточно больших 5. Если наступает событие Лар, то существует первый после нуля момент т*, т* С 5, при котором Н (0, т*) > Р Н (0, t) Р при всех t, 0 t а среди значений т, 0 т т* — s, обладающих тем свойством, что ^5Г=^Н(Т, Т*)> Р, Г^Н(т,
§ 5. Эргодическая теорема 201 при всех t, т < t < т*, существует наименьшее (его мы обозначим также т). В свою очередь в случае Лар существование значений т и т*, обладающих только что указанными свойствами, гарантирует наступление события Л^р. Действительно, Н(т, т*)-Н(т, 0)+Н(0, т*), где, по условию, Н(т, т*) > (т* — т) р, Н(т, 0) С -тр, 0 < т* s, 0 > т > т* — откуда по необходимости вытекает, что Н(0, т*)>т*рг а это и означает наступление события Asa$> Таким образом, событие Л^р есть сумма непересека- ющихся событий Bpq == Лар П {т = —р, т* = —р + g}, q » — 1, s, р = 0, q — 1: = U Byq. V,Q Множество Л«р, очевидно, инвариантно, а UPH(-p, -p + g)~ Н(0, д). Поэтому SpBpq = Boq, и в силу свойства (3.24) имеем: J яр(ло) = 2 J т^(<М=2 ,f п(рИ(ж>) = А«р P’’SP9 Р’’В09 = 2 f H(O,g)P(<to)>SgPP(Pe,) = ’ в09 q = (5.io> &,q (в случае Boq, по условию, H(0, g)> gP). Переходя в неравенстве (5.10) к лределу при получим, что f TlP(dG))>P(y4ap)₽. (5.11) Совершенно аналогично доказывается обратное нера- венство вида [ х\Р^)^Р(Аа^а. (5.12)
202 Гл. IV. Стационарные в узком смысле процессы Соотношения (5.11) и (5.12) противоречивы, так как, но условию, а < р и Р(АаР)> 0. К этому противоречию нас привело предположение о том, что существование с вероятностью 1 предела lim — Н (0, t) не имеет места; следовательно, это пред- е-»оо 1 положение ошибочно. Пусть теперь параметр t принимает непрерывные значения. Очевидно, t N—1Ь+1 1 r\(u)du= lim —г 2 I i\(u)du, t^oo 1 •' 2V->oo ~ < 0 0 k t N—lk+1 lim Ji](u)du= lim J Y](u)du, t^>oo 0 N-+00 0 k (5.13) где N есть целая часть £, t -> «>. Но верхний и нижний пределы в правой части соотношений (5.13), как мы только что показали, с вероятностью 1 совпадают между fe+i собой, поскольку интегралы ц'(А:)= j* ц (и) du образуют k стационарный в узком смысле процесс с целочисленным t 1 С параметром к, т&к что lim— I ц(и)йн существует с ве- о роятностью 1. 1 Нетрудно понять, далее, что lim — Н (0, t) есть вели- чина инвариантная: с вероятностью 1 Us lim Н (0, t) = lim Н (s, t + s) = lim H (0, t) при любом фиксированном 5. Предположим сначала, что величина ц ограничена с вероятностью 1: I ц I С N. Тогда, очевидно, также и 1ц(£) I N, и -~|Н(0, В этом случае для лю- бого инвариантного множества А, с одной стороны, lim f t-»oo j г H(0, t)P(d(t>) = lim t-»oo t)] P(d&),
§ 5. Эргодическая теорема 203 а с другой, I О А 0 А А t t -Lj* J y](u)P(d(d) = 4-J J •n(0)pW= fn-PW- ( о A 0 A A Полученные равенства показывают, что с вероятностью 1 lim4-H(0,0 = М(п13). (5.14) t-+oo 1 В случае ограниченных величин ц, конечно, должно выполняться соотношение (5.8). Пусть теперь лишь 71/1 ц16 < оо при некотором б>1. Для любого 8 > 0 найдется ограниченная величина г|е, такая, что М|т] — ЦеР е. Обозначим «временные средние», относящиеся к ве- 1 1 личинам т] и г]е, — Щ0, t) и — Н8(0, t) соответственно. По неравенству Гёльдера имеем: j-Г [Н(0, i)-H8(0, /)] |е = /-1 4 ShW-neW, О t -Г J \п(и) — r\e(u)\6 du, О и в силу стационарности процессов т](£) и це(£) М14- Н (0, t) - 4- Н8 (0,0У < м I Т) - Т]8 |б < е. (5.15) Наконец, М\М(ц13)- МЫЗ) Iе - М\М(ц - П.13) I’ М[М(|Т] - Г],|в|3)] = М1ц - ц.1’ < 8, (5.16)
204 Гл. IV. Стационарные в узком смысле процессы а по только что доказанному м|^-Не(0, 0-М(п8|3)/«<е (5.17> при достаточно больших t, t^ts. Сопоставляя полученные выражения (5.15), (5.16) и (5.17) по неравенству Минковского, получим: Г I 1 11/б ри|-±-Н(0,0-M(nlS)6] < < [м 14 н (0, о - 4- не (0, о |б|1/б + + [м|4н£(0?0“-^(пе|3)| ] + + [МIМ (Т)е 13) — М (Т) 13) |6]1/б < 381/6 при всех t > te. Следовательно, ввиду произвольности 8 имеет мест» соотношение (5.8), а вместе с ним й сама теорема 5.1, поскольку из (5.8), конечно, вытекает справедливость равенства (5.14) для любых величин т], 7И|т)| < оо. Из теоремы 5.1 может быть выведено важное след- ствие. Именно, для любой величины т], 2И|т]| с ве- роятностью 1 t-i lim 4? 2 e~ixA](w) = п(Ч) t~ s-^oo 1 8 с (5.18) (в случае дискретного времени t), t lim 4? f (и) du = x\ (Xo) (5.19) t—S-^oo 1 S J (в случае непрерывного t) при всяком действительном fa. Предельная величина г] (Хо) является «собственной функцией» преобразований сдвига Ut: с вероятностью 1 (5.20) при всех t. Если М|г)|б < оо при некотором 6 > 1, то
§ б. Метрическая транзитивность. Примеры 205 и соответственно lim М t-S-^OO Очевидно, если предел ц (Хо) существует, то он удов- летворяет требованию (5.20). Для доказательства соотношений (5.18) — (5.22) вве- дем новую случайную величину 0, равномерно распре- деленную на отрезке [—л, л], не зависящую от процес- са 5(0- Точнее говоря, введем новое пространство Q'= = ЙХ[л, л] с вероятностной мерой P'(dco') = P(d(&)X Xl(dk), со'=(со, X), где Z(dX) есть нормированная лебе- товская мера на отрезке —л % л, и случайную вели- чину 0(со'), 0(0)') = X при о)' = (со, X). Рассмотрим на этом новом пространстве Q' случай- ный процесс T]'(Z) = ц (Z). Очевидно, он стацио- нарен в узком смысле, и ЛЛц'(£) I == Л/|ц(£) I < °°. По теореме 5.1, с вероятностью 1, t-i t-i lim т/(«) = e~ie lim 7-^7 5 e-A““n(u), t-S^oo 1 ~' S “ t-S-^oo S & и, соответственно, t t lim —f n'(u)du = e~i0 lim ~—\ e~^QUv\(u)du. t-s-^oo S J t~S—^oo t S J 8 8 Отсюда и из самой теоремы 5.1 уже легко выводят- ся соотношения (5.18) — (5.22). § 6. Метрическая транзитивность. Примеры Стационарный в узком смысле процесс называется метрически транзитивным, если всякое мно- жество, инвариантное относительно преобразований сдви- га St, имеет вероятностную меру, равную либо нулю, либо 1. Очевидно, требование метрической транзитивности процесса ? (О = {^(Z)}fe=— эквивалентно тому, что вся- кая инвариантная величина с вероятностью 1 является постоянной.
206 Гл. IV. Стационарные в узком смысле процессы В случае метрической транзитивности процесса 1 I (0 = {Ik (0}А==1^ «временные средние» Н (5, t), фигурирующие в эргодической теореме 5.1, сходятся про- сто к математическому ожиданию Мч\ случайной вели- чины Т]. Как легко сообразить, верно и обратное, т. е. если lim -J— H(s, 0 = М(т||5) = Мт| (6.1) t— s-^oo 1 — S для любой случайной величины ц, имеющей конечное математическое ожидание, то алгебра 3 инвариантных множеств тривиальна — состоит лишь из множеств веро- ятностной меры нуль или 1, а это и означает метриче- скую транзитивность процесса £(/)• Отметим некоторые свойства инвариантных величин. Обозначим 212, о-алгебру, порожденную множествами вида{®: Гх (£;v)e Tjv}, где и С th С v при всех к = 1, N, и положим ST = lim 8С-те, , в"“°° (6.2) Sl+ = lim С- oo Лемма 6.1. Каждая инвариантная величина почти наверное совпадает с некоторой величиной, измеримой относительно обеих в-алгебр 51“ и 51+. Доказательство. Для доказательства леммы до- статочно показать, что каждая инвариантная величина ц с вероятностью 1 совпадает с некоторой величиной, из- меримой относительно о-алгебр Slloo и 51^° (для лю- бых и, v). Возьмем произвольные положительные числа 8 и б. Для всякой величины ц, измеримой относительно о-ал- гебры 51g, найдутся числа s и t и величина тр, измеримая относительно 51*, такие, что -Р{|Т] ~ Т]е1 > 6} < 8. Если величина ц инвариантна, то также и Р{ I Ц — Z7^T]e| > 6} < 8; Р{|Ц “ Е/и-зЦе! > 6} < 8. Но, очевидно, случайные величины и CZu_sr}8 измеримы относительно алгебр Slloo и соответствен-
§ 6. Метрическая транзитивность. Примеры 207 но. Ввиду произвольности е и 6, из последнего неравен- ства можно заключить, что т] является пределом по ве- роятности величин, измеримых относительно о-алгебр Slloo и С и поэтому ц должна с вероятностью 1 совпа- дать с некоторой величиной, измеримой относительно этих о-алгебр, что и требовалось доказать. Пример 6.1. Пусть | (t) есть бесконечная в обе стороны последовательность независимых, одинаково распределенных ве- личин. Рассмотрим произвольное множество А из 91. Подберем для каждого 8 > 0 множество А8 из 91*, отличающееся от А лишь на множество вероятностной меры не больше 8 (конечно, 5 и t зави- сят от е). Очевидно, lta Р (А Л 48) = Р(4). 8->0 ' События, определяемые со-множествами А и Ае, независимы, и Р(Л п Л£)=Р(Л)Р(Ле), lim Р (А Л Ле) = Р (Л) lim Р (Ле) = [Р (Л)]2. е-*о е-»о Сопоставляя полученные выражения для ИтР(Л Л Ле)г е-»о 7 убеждаемся, что они могут быть верны одновременно лишь тогда, когда Р(Л) есть либо нуль, либо 1. Вместе с леммой 6.1 это пока- зывает, что алгебра 3 инвариантных множеств тривиальна, а наша последовательность образует метрически транзитивный про- цесс. В частности, если у величин %(t) существует математическое ожидание m то с вероятностью 1 t-i lim У g (w) = m. (6.3) t—s->oo t — S s Факт этот выражает собой известный закон больших чисел. Пример 6.2. Пусть g (t) = {£ (£)}&_— —гауссовский ста- ционарный процесс с нулевым средним. Как было показано в § 2 этой главы, такой процесс задается своей корреляционной функцией B(t) или спектральной мерой P(d%), связанной с B(t) уже знакомым нам соотношением: В (0 = ешВ (А). Покажем, что для метрической транзитивности процесса ^(t) необходимо и достаточно, чтобы спектральная мера F(dK) была непрерывной, т. е. F(%) ,=>0 в отдельных точках %. ~ Метрическая транзитивность означает, что для любой случай- ной величины ц из пространства Щ «временные средние» 1 7 _ s Н (s, t), определяемые формулой (5.3), сходятся к матема- тическому ожиданию Мц. Для доказательства, нашего утвержде-
208 Гл. IV. Стационарные в узком смысле процессы ния мы и проверим это свойство величин ц из Щ. Очевидно, его достаточно проверить лишь для некоторого всюду плотного в Н6 множества величин, йричем, не ограничивая общности, можно считать процесс %(t) действительным. Мы уже видели (см. § 4 этой главы), что всюду плотным в Щ является, например, множество «тригонометрических полино- мов» вида ( N п= 2 с(иг •••-Мех₽ uv...,uN I J Благодаря линейности операции «осреднения по времени» доста- точно рассмотреть лишь одночлены ( N т] = ехр р2 Wj)Bj I j=l Будем считать, далее, что процесс В(0 является одномерным (доказательство нашего утверждения о метрической транзитивно- сти в многомерном случае, оставаясь в принципе тем же самым, было бы чисто внешне более громоздким из-за обилия неизбежных обозначений). Итак, рассмотрим величины ц вида ( N ' П = ехр «2 I J Как хорошо известно*), тп = Мт] = М ехр ' N 1 ехр 2 в(гй-^-)мЛ . hj=l где B(t)—корреляционная функция нашего стационарного про- цесса Положим ЦО = Г| —m, 4](t)=Utr\, По(О = utr\o. Корреляционная функция B0(t) процесса Цо(0 есть B0(t) = 7Ицо(^)цо = Л/ц(£)ц — тп2. Если мы покажем, что Во (t) = J eW0 (dX), где мера Fo(^%) непрерывна в нуле, т. е. Fo(0) = 0, то, как это следует из результатов § 6 гл. I, мы тем самым докажем эргодич- *) 7Ит| есть значение характеристической функции Димерного нормального распределения величин
§ 6. Метрическая транзитивность. Примеры 209 пость процесса т]о(0» а поскольку ц есть произвольная величина рассматриваемого вида, это будет означать метрическую транзи- тивность самого процесса В(0« Имеем ( N ? Мл (0 л = м exp f 2 a + 0 - S (М) »k ( Ь=1 1 = exp N _ “ь11} k,]_1 где сы (0 = м [g (th + i) - g (th)] [g (t. + i) - s Легко подсчитать, что Ckj(i) = 2B(tk — tj) — B(t + tk — tj) — B(t + tj — tk). Далее, Dhi (/) = В (t + th - t.) + В (t + t. - th) = = j eiM -j- = = 2 J eiM cos X (th-t})F(dX) (здесь F(tZ%) есть спектральная мера процесса £(0), и N D(t)=i V Z>bi(t)ubw4 = ' ' 2 JU Aj ' ' k J ~ N .M=i Функция cos Xt является положительно определенной. Пусть G (dk) = [N 2 «fe“^osX(<ft-^) h,j=l F(dX). Тогда D (i) = J eiMG (dX), Mt\ — exp {D (/)} и 00 ь Bn(t) = n? [eW)-U = m2y PJO. ° Ar! 14 ю. А, Розанов
210 Гл. IV. Стационарные в узком смысле процессы Функцию Dh(t) можно представить в виде Dh (t) = J eiMGh (dX), где Gk(dk) есть к-я свертка меры G(dh): Gh+i (д) = j G (Д - М Gk G = G w для любого измеримого множества Д. Имеем: 5о W = "2 2 лг’ = т2 2 If eiUGh = k=l ’ h=l ’ d откуда оо f0W=m^±-Gk(dX). k=l Если спектральная мера F(dk) процесса £(£) непрерывна, то меры Gk(dh), очевидно, также непрерывны, а вместе с ними не- прерывна и спектральная мера F0(dX) процесса ц0(г). Тем самым мы доказали, что непрерывность спектральной меры гауссовского процесса g (t) является достаточным условием для его метрической транзитивности. Если же в некоторой точке Хо спектральная мера F гауссов- ского процесса с нулевым средним отлична от нуля, Е(Х0) =/= 0, то значение Ф(Х0) случайной спектральной меры этого процесса является «собственной функцией» оператора сдвига Ut: Л *1 / Если бы процесс был метрически транзитивным, то (см. ниже лемму 7.1) величина |Ф(Х0) |2 должна была быть постоянной (почти наверное). Но Ф(Х0) есть предел гауссовских величин 1 _2^ — Я(0, t) — «временных средних» процесса Ц (t) = е и поэтому сама является гауссовской величиной. Следовательно, |Ф(%о) |2 не есть постоянная, и процесс §(£) не может быть мет- рически транзитивным. Вернемся к рассмотрению общего стационарного про- цесса %(t). Оказывается, свойство метрической транзитивности есть спектральное свойство семейства унитарных опера- торов сдвига Ut в пространстве Н^. Напомним, что действительное X называется собствен- ным числом группы унитарных операторов Ut, если в
§ 7. Метрически транзитивные процессы 211 пространстве существует отличный от нуля элемент ц (собственная функция), для которого UtT\ = (6.4) при всех t. Совокупность элементов, удовлетворяющих равенству (6.4), образует некоторое подпространство в Нъ. и в том случае, когда это подпространство имеет раз- мерность, равную 1, собственное число X называется простым. Теорема 6.1. Для того чтобы стационарный про- цесс ^(t) был метрически транзитивным, необходимо и достаточно, чтобы каждое собственное число X семей- ства операторов сдвига Ut было простым. Доказательство. Достаточность этого условия тривиальна, так как величины, равные постоянной, яв- ляются инвариантными, т. е. О является собственным числом, а поскольку оно простое, то инвариантных вели- чин, отличных от постоянных, быть не может. Пусть процесс ^(t) метрически.транзитивен, и неко- торому собственному числу К отвечают две линейно не- зависимые собственные функции i]i и т]2: UtT\h = eiKtT]k. * = 1,2. (6.5) Из равенств (3.19) получаем, что Ut (ЦЩ2) = UtT\JJtT\2 = Ц1Ц2, (6.6) т. е. произведение Ц1Ц2 является инвариантной величи- ной; следовательно, вместе с каждой из величин Irjil, lr|2l она есть постоянная (см. лемму 7.1), чего не мо- жет быть в силу линейной независимости сомножителей Ц1 и т|2- Следовательно, процесс %(t) не может быть метрически транзитивным. Полученное противоречие показывает, что на самом деле каждое собственное число Л метрически транзитив- ного процесса должно быть простым. Теорема доказана. § 7. Метрически транзитивные стационарные процессы с дискретным спектром Остановимся вначале на некоторых свойствах соб- ственных функций операторов сдвига Ut метрически транзитивного стационарного процесса £(£) = {£k(t)}h=^- 14*
212 Гл. IV. Стационарные в узцом смысле процессы Пусть ц(Л) есть такая функция, отвечающая соб- ственному значению Л: (7Л) Лемма 7.1. Величина p(Az)= 1ц(Х) I является по- стоянной (почти наверное). Доказательство. В силу свойств (3.19) С^=е~*Я(Г), (72) СЛр(М.2 = ^П(Х)т](Ь) = [р(*)]2, и мы видим, что величина р(А,)2 является инвариантной. В силу метрической транзитивности стационарного про- цесса она с вероятностью 1 является постоянной. Сле- довательно, p(AJ также постоянная. Лемма доказана. Таким образом, если 7](%)=р(*Ие<м (7.3) есть полярное разложение собственной функции ц(Х), то ^'n(M=P(M^W+ewl- (7.4) Рассмотрим, далее, произвольный конечный набор AN собственных чисел Z, при некоторых целых т(Х), удов-, летворяющих соотношению 2 = 0 (mod 2л) (7.5) XeAjy (в случае целочисленного параметра £), 2 тп'(Х)Х = О ' (7.6) XeAjy (в случае непрерывного t). Лемма 7.2. Если собственные числа %, % е AN, удов- летворяют соотношению (7.5)—в случае целочисленно- го или соотношению (7.6)—в случае непрерывного и ц(Х), Z Ajy, есть соответствующие собственные функ- ции, то величины 0(А,) = arg ц(Х) с вероятностью 1 удов- летворяют соотношению 2 m(A,)0(X) = cp (mod 2л), (7.7) XeAjy где ф — некоторая постоянная.
J 7. Метрически транзитивные процессы 213 Доказательство. Величина ц вида 1] = exp р 2 m (^) 0 (^)1 ~ П [ei0(z)]m(X) ( ХеЛдг J ХеЛдг является инвариантной, поскольку Utx\ = exp [i 2 m (X) [О (X) + М] = ( Xt= Л дг J ==ехрр7 2 ап(Х)Цц = т], Хе Л jy J и потому должна быть постоянной. Следовательно, долж- на быть постоянной и величина <p = argri=e= 2 иг(Х)0(%) (mod 2л). хеЛдг Лемма доказана. Рассмотрим одномерный стационарный процесс %(t) с дискретным спектром, т. е. такой, что М(t) I2 < °°, и спектральное представление которого имеет вид g(0= (7.8) ЛеЛ (здесь суммирование производится по некоторому диск- ретному множеству Л точек X — спектру процесса £(£)). Теорема 7.1. Для метрической транзитивности про- цесса необходимы и достаточны следующие усло- вия: с вероятностью 1 при любом к из А модуль р(Х) = = 1Ф(%)| есть постоянная, а величины 0(X)=argO(Z) при любых Л, Х'^Л, и целых тп(Х), для которых выпол- нены равенства (7.5)—в случае целочисленного t, и ра- венства (7.6)— в случае непрерывного t, удовлетворяют соотношению (7.7). Доказательство. Значения Ф(^) случайной спектральной меры стационарного процесса £(£) при- надлежат пространству ЕЦ и являются собственными функциями семейства унитарных операторов Ut. В силу этого обстоятельства и леммы 7.2, условия теоремы яв- ляются необходимыми. Далее, поскольку значения Ф(Х) определены лишь с вероятностью 1, можно считать, что величины 0(Х) из- меримы относительно о-алгебры процесса %(t). В этом случае величины ц вида ц=ехрр 2 ап (20 0(^)1, (7.9)
214 Гл. IV. Стационарные в уеком смысле процессы где Лл- — произвольный конечный набор точек спектра, измеримы относительно $1^ а их линейная оболочка всю- ду плотна в пространстве Н^. Действительно, в нем бу- дут всюду плотны, например, непрерывные функции от конечного числа аргументов е70(М, X <= AN, а такие функ- ции разлагаются в равномерно сходящиеся ряды из ве- личин ц вида (7.9). Ввиду сказанного, для доказательства метрической транзитивности процесса %(t) нам достаточно показать, что каждый стационарный процесс т](^)= где ц имеет вид (7.9), является эргодическим. Пусть, например, t принимает целочисленные значе- ния. Тогда все точки к спектра процесса лежат на отрезке [—л, л]. Очевидно, случайная величина ц яв- ляется собственной функцией операторов сдвига Ut, от- вечающая собственному значению Хо: Ао= 2 (mod 2л). Корреляционная функция стационарного процесса ц(0 есть /?(£)= откуда видно, что соответствующая спектральная мера целиком сосредоточена в точке Хо и по теореме 6.2 гл. I стационарный процесс ц(£) являет- ся эргодическим, если %о 0. Если же Ло = 0, то вели- чина ц является постоянной, поскольку в силу соот- ношения (7.7) постоянным является arg ц, argr]== 2 /п(Х)0(Х) (mod 2л). Эти же рассуждения остаются в силе и для непре- рывного t, лишь Ло = 2 иг(А,)Х. Теорема доказана. Мы видим, что вероятностная мера P(cZco) на 0-ал- гебре метрически транзитивного стационарного про- цесса вида (7.8) (с дискретным спектром Л) одно- значно определяется заданием положительных. чисел р(М= 1Ф(М I, (7.10) для которых s P(Z)2 = M|H0I2<oo>. ХеЛ
§ 7. Метрически транзитивные процессы 215 и конечномерными распределениями величин 0(Х) = argW(X), Х^Л. (7.11) Выясним характер этих распределений. Наиболее эф- фективно это можно сделать, обратившись к основным понятиям коммутативных локально-компактных тополо- гических групп*). Обозначим К одномерный тор (аддитивную тополо- гическую группу действительных чисел 0, отождествлен- ных между собой, если они сравнимы mod 2л). Занумеруем точки X спектра Л стационарного про- цесса 5(0 в последовательность {Xj, k = 1, 2, ..., и обо- значим КА прямое произведение (в счетном числе) групп К. Счетномерный тор КА представляет собой ад- дитивную топологическую группу всех последовательно- стей 0 = {0J, k = 1, 2, . . ., действительных чисел 0fe, не- различимых между собой, если они сравнимы mod 2л. Системой окрестностей топологического пространства КА является система цилиндрических множеств Г вида Г = {0:0Л1еГ1,...,0^еГ4 (7.12) где ki, . . ., kN — произвольный конечный набор индек- сов, а Г1, . . ., ГЛ представляют собой всевозможные ок- рестности одномерного тора. Последовательность случайных величин {0(Xfe)}, к = == 1, 2, . . ., индуцирует вероятностную меру P(d0) на пространстве КА'. р (Г) = Р {0 (Xs) ее 1\, ..., 0 (XN) е 1\} для произвольной окрестности Г вида (7.12). Задача со- стоит в том, чтобы выяснить характер этой меры. Обозначим G замыкание множества точек 0 = {Xft£}, где t пробегает все значения параметра (все целые или все действительные числа). Очевидно, G есть замкнутая подгруппа счетномерно- го тора КА. Вероятностная мера Р(^0) является инва- риантной относительно сдвигов на элементы этой под-' группы, поскольку в силу стационарности конечномер- ные распределения величин {0(Xft)}, k = 1, 2, ..., и ве- личин {0(Xft)-r %ht}, к = 1, 2, . . ., одинаковы при любом *) Читателю, незнакомому с этими понятиями, мы рекомен- дуем книгу Понтрягина [*],
216 Гл. IV. Стационарные в узком смысле процессы t. Описание меры P(cZ9), по существу, сводится к опи- санию подгруппы G. Обратимся к группе характеров М счетномерпого то- ра КА, которая представляет собой аддитивную группу целочисленных последовательностей тп = {mJ, k = 1, 2, ..лишь с конечным числом отличных от нуля ком- понент. Каждый элемент тп из М определяет некоторый го- моморфизм счетпомерного тора КА в группу Кл т(9) = (7.13) h Подгруппа G однозначно определяется своим аннуля- тором (Л/, G), т. е. совокупностью характеров т, таких, что т(9)=0 при 9 — G. (7.14) Если структуру подгруппы G описать довольно затруд- нительно, то структура ее аннулятора (М, G) очень проста. Именно, (М, G) состоит, очевидно, из тех и толь- ко тех точек тп = {тпк}, для которых ^mkXk = 0 (mod 2л) (7.15) k — в случае целочисленного параметра t, 2>Л = 0 (7.16) k — в случае непрерывного t. Далее, поскольку стационарный процесс £(£) метри- чески трапзитивен (т. е. инвариантные относительно преобразования сдвига множества имеют вероятностную меру либо пуль, либо 1), множества- Г группы КА, ин- вариантные относительно сдвигов па элементы 9 под- группы G, должны иметь меру, равную нулю или 1. Но инвариантные множества Г группы КА исчерпыва- ются классами смежности Ge = G + 9 по подгруппе G (каждый класс смежности GQ получается путем сложе- ния элементов подгруппы G с некоторым элементом 9, 9^КЛ). Итак, вероятностная мера P(dQ) целиком сосредото- чена на одном из классов смежности GQ = G + 9 и ин- вариантна относительно сдвигов па элементы подгруп- пы G. Хорошо известно, что такая мера единственна. Именно, если Ро(<^9) есть мера Хаара па подгруппе G,
J 8. Метрически транзитивные компоненты 217 то Р(Г) = Ро(Г-0) (7.17) для любой окрестности Г в классе смежности Ge (Г — 0 есть окрестность в подгруппе Go). В частности, если точки спектра стационарного про- цесса 5(0 не имеют рациональных соотношений (т. е. ни при каких целых т(Х), не всех равных нулю, не- возможны равенства (7.15)—в случае целочисленного t, и (7.16)—в случае непрерывного t), то подгруппа G совпадает со всей группой КА (ее аннулятор (Л/, G) состоит лишь из одного пуля), и мера Р(с/0) есть мера Хаара па счетпомерпом торе К\ Это означает, что ве- личины 0(Xfa), k = 1, 2, . . ., равномерно распределены на отрезке [—л, л] и независимы между собой. Мы рассмотрели одномерные стационарные процес- сы с дискретным спектром. В случае многомерных ста- ционарных процессов 5(0 = не возникает ни- чего нового. Только величины Фк(Х), отвечающие раз- ным компонентам 5Д0 и одному и тому же X, А^Л, должны отличаться друг от друга лишь постоянным множителем. § 8. Разложение стационарного процесса на метрически транзитивные компоненты Пусть 5(0 —стационарный в узком смыс- ле случайный процесс, Q — соответствующее простран- ство элементарных событий со, P(dco)—вероятностная мера па о-алгебре (наименьшей о-алгебре со-множеств, относительно которой измеримы все значения 5?i(0== = 5Д°>, О этого процесса). Предположим, что существует (определенное па а- алгебре ?1^) семейство вероятностных мер Р(йсо, со'), со' Q, обладающих следующими свойствами. Во-первых, при любом 4, 4^31^, функция Р(Л, со') от со' измерима по отношению к о-алгебре 3 инва- риантных множеств, причем Р(ЛР)= [Р(Л,ю')Р(с/со') (8.1) В для всякого В из 3. Другими словами, P(cZco, со'), со' е Q, есть условные распределения вероятностей отно- сительно о-алгебры 3. Во-вторых, меры Р(с7со, со')
218 Гл. IV. Стационарные в уеком смысле процессы и P(dco, со") при любых со', со" либо тождественно сов- падают, либо взаимно сингулярны (т. е. «сосредоточе- ны» на некоторых непересекающихся между собой со-множествах А' и А"-.Р(А', со')= 1, Р(А", cd ,z) = 1). В-третьих, если рассматривать функции £fe(co, t) от со как случайные величины по отношению к вероятно- стной мере P(dco, со'), то при каждом со', совокупность этих величин образует многомерный стацио- нарный в узком смысле процесс. В отличие от перво- начального процесса обозначим его G)- В-чет- вертых, каждый из определенных таким образом стационарных процессов (t), со' е Q, является метри- чески транзитивным. В случае, когда на 51^ существует описанное выше семейство вероятностных распределений P(dco, со')? со' е Q, будем говорить, что имеет место разложение = (8.2) стационарного процесса %(t) на метрически транзитив- ные компоненты (£), со' е Q. Чтобы сформулировать условия, достаточные для су- ществования такого семейства, нам понадобится несколь- ко определений. Будем говорить, что некоторая о-алгебра множеств 81 имеет счетное число образующих, если она порожда- ется счетной системой множеств А^ 7 = 1, 2, ... (т. е. 81 совпадает с наименьшей о-алгеброй, содержащей все Л, 7 = 1, 2, ...). Мы скажем далее, что о-алгебра множеств 8Г, 81' 81, совпадает mod 0 с о-алгеброй 31, если для любого Л, А е 81, найдется Л', Л'^ЗГ, отличающееся от Л лишь па множество вероятности нуль: Р(Л°Л')=0. Далее, определенная на о-алгебре 31 вероятностная мера P(d(d) называется совершенной, если всякая (дей- ствительная) случайная величина ц (т. е. измеримая относительно 51 функция ц(со) обладает следующим свойством: для любого множества Г действительной прямой, такого лишь, что со-мпожество {со : ц (со)е Г} является измеримым, : ц(со)е Г) = шШц(о))е Г'}, (8.3) где inf Г' берется по всем борелевским множествам Г', содержащим Г.
§ 8. Метрически транзитивные компоненты 219 Теорема 8.1. В случае, когда измеримый стацио- нарный процесс = {Zk(t)}k==— таков, что о-алгебра 91^ имеет счетное число образующих, а вероятностная мера P(d&)), рассматриваемая на 91g, является совер- шенной, он всегда допускает разложение на метрически транзитивные компоненты. Замечание. Следует отметить, что требования тео- ремы 8.1, предъявляемые к стационарному процессу | (0 = {^k (0}fe==ni, автоматически выполнены в случае, когда время t дискретно, а сам процесс g(£) задан не- посредственно. В случае же непрерывного t выполнения этих требований можно добиться (для стохастически не- прерывных и непосредственно заданных процессов) пу- тем изменения каждого из значений £&(£)== 0 са- мое большее на некотором со-множестве вероятно- сти нуль. Доказательство теоремы 8.1 опирается на ряд лемм, справедливость которых устанавливается в предположе- ниях этой теоремы. Лемма 8.1. Относительно любой ъ-алгебры ^-мно- жеств S3, 53^ 91g, существуют условные распределения вероятностей P(deo, (j/), о/ е Q. Доказательство. Заметим, что о-алгебра 91g со счетным числом образующих порождается некоторой случайной величиной ц (т. е. наименьшая о-алгебра, относительно которой измерима ц = ц((о), совпадает с самой 91g). Например, в качестве такой величины можно взять так называемую характеристическую функцию по- следовательности множеств Aj, 7 = 1, 2, . . ., порождаю- щих 9lg I оо •_ где Х> = ХаД<о)—характеристические функции отдель- ных множеств Aj (Aj есть прообраз подмножества то- чек канторовского множества, у которого на у-м месте в троичном разложении стоит 2). Если мера Р(йо) совершенна, то существует о-мно- жество Q' полной вероятности (P(Q')= 1), такое, что область значений {ц((о), o' Q'} величины ц(о>) явля- ется борелевской. Это замечание позволяет провести дальнейшее доказательство пашей леммы точно так же, как это сделано в книге Дуба[*], с. 35.
220 Гл. IV. Стационарные в узком смысле процессы Лемма 8.2. Существует в-алгебра инвариантных множеств 3' со счетным числом образующих, совпада- ющая mod 0 с а-алгеброй 3 всех инвариантных множеств. Доказательство. Обозначим Но подпространство инвариантных величин в гильбертовом пространстве 1Ь. Поскольку сепарабельно (см. § 4 этой главы), сепа- рабельным будет и подпространство Но. Пусть k = 1, 2, некоторая полная в Но по- следовательность величин. Обозначим 3' наименьшую о-алгебру, относительно которой измеримы все функции T]fe(co), к = 1, 2, ... Очевидно, 3' имеет счетное число образующих и совпадает mod 0 с 3; поскольку каждая функция т] (со) из Но является пределом в среднем квад- ратичном линейных комбинаций r](7V) (со) = c^x\k (со), k то, изменив г)(со) самое большее па со-мпожестве веро- ятности нуль, можно добиться того, что опа станет из- меримой относительно 3'. Лемма доказана. Очевидно, условные распределения P(cZco, со'), со' Q, относительно 3' одновременно являются условны- ми распределениями и относительно 3. Лемма 8.3. Условные относительно а-алгебры 3' (со счетным числом образующих) распределения Р(с1ы, сох), о/ <= Q, при почти каждом со' обладают тем свой- ством, что [1 при со' е В, Р(В,ы') = \ г (8.4) 7 (0 при со е В 7 для всех В, В е 3'. Доказательство. Для любого множества В из 3' имеет место следующее соотношение: f P(5,(o')P(dw') = Р(Р). в Из него непосредственно видно, что при фиксиро- ванном В равенство (8.4) выполняется для почти всех со'. Пусть Bh, к = 1, 2, .. ., есть последовательность мно- жеств, порождающих 3'. При каждом Bh равенства (8.4) могут нарушаться лишь для со' из некоторого исклю- чительного множества Nk вероятности пуль. Положим N = U Очевидно, соотношения (8.4) распространя- k ются на все множества В (и их дополнения), являю-
§ 8. Метрически транзитивные компоненты 221 щиеся пересечениями конечного числа Bk, к = 1, 2, ..., и все св', о)' еЛ'. В самом деле, если В = Г) Bkj и о/ е j <= В, то о/ принадлежит каждому множеству а по- скольку в этом случае P(Bhj, о/)=1 для каждого то и Р(В, со')= 1; при о'ёВ мы приходим аналогич- ным путем к равенству Р(В, g/)= 0. Далее, если В — произвольное множество из S', то, как известно, P(5,©') = inf 2Р(В0),®')« B<j) э где В0) являются множествами только что рассмотрен- ного типа, покрывающими в сумме все В. При g/^-Z? хотя бы одно из 50) содержит со', и значит, Р(В0), со') = = 1. Следовательно, Р(В, со')= 1. Если же со'еД, то со' е Q\5, а, как мы только что доказали, в этом случае P(Q\B, со')=1. Следовательно, Р(5, о)') = О. Лемма доказана. Лемма 8.4. Условные распределения P(d(d, со')", G)' Q, относительно о-алгебры 3' инвариантных мно- жеств обладают тем свойством, что отвечающий веро- ятностной мере P(d(t>, со') случайный процесс £(£) = = io' (0 будет стационарным в узком смысле для почти всех G)'. Доказательство. Для простоты мы ограничимся случаем, когда счетную систему «образующих» Ak, к = = 1, 2, ..., о-алгебры 91^ можно выбрать из цилиндриче- ских множеств вида *) А = {со : (со, $)< х) (стационарный процесс £(£) будем считать одномерным). Нам достаточно показать, что для любого цилиндри- ческого множества А этого вида P(At, со') = Р(Л, со') при почти каждом со' и всех t, где At = {со : £(со, s — fj< < х}. Для определенности остановимся на более труд- ном случае непрерывного параметра t. *) Заметим, что это всегда можно сделать для стационарного процесса %(t) с дискретным параметром f, а в случае непрерыв- ного t, если не для самого^(t), то, по крайней мере, для некоторого стационарного процесса £(/), значения которого почти наверное совпадают со значениями £(£) (правда, в предположении стоха- стической непрерывности последнего).
222 Гл. IV. Стационарные в узком смысле процессы Рассмотрим прямое произведение Q X R, где R — пространство значений параметра t (действительная прямая), и распределение вероятностей РХ(Я'} = = P(da) X Q(dt) на о-алгебре §1^X8, где 8 — совокуп- ность измеримых множеств прямой, a Q(dt) — некоторая вероятностная мера, определенная на 8. Пусть Q(dt, t') — семейство вероятностных мер, каж- дая из которых сосредоточена в соответствующей точ- ке t': (1 при А э <?(Aj')=L Л— , 7 [0 при А э t . Легко проверить, что распределения вероятностей РХ(?{-, (со', £')} =P(dco, со')Х(?(сЙ, t') являются условными относительно о-алгебры S' X 8. Положим Г = {(со, £):£(со, t)<x}. Множество Г является измеримым, и если, Г< = {со :(со, Г}, то Рх<?{Г,(®',0}= J Р (Vt, a’) Q(dt,t') = P (Г — оо Очевидно, на самом деле Г/ = At, и Р(Гг, со') = Р(ЛГ, со'). Пусть В — любое инвариантное множество, В е 3', и А — произвольное измеримое множество прямой, А е е 8. С одной стороны, Рх(?{ГГ1(ВхЛ)}= [ P(TtB)Q(dt) = д = \p(AtB)Q(dt) = P(AB).Q(b), д а с другой, Р X Q {Г П (В X А)} = J f Р х <?{ Г, (®t')} Q (dt') Р (Ло') = В д = P(At,,^)Q(dt')P(d(»’). В д
§ 8. Метрически транзитивные компоненты 223 Мы видим, что J f [Р(ЛГХ) —Р(Л,ю')]С(<Г)Р(Л<)')==0 В Д при всех й е 3' и Д 8. Отсюда немедленно вытекает, что при почти каждом с/ (за исключением со' из не- которого множества NA вероятности нуль) Р(Лг,со') = Р(Л,со') для почти всех t'. Пусть Ak, k = 1, 2, .. .,— счетная система цилиндри- ческих множеств, порождающая 9^. Положим Nh = =NAh и N = U yVfet Установленное нами для фиксиро- А k ванного множества А соотношение легко распространя- ется на все множества Ak, к = 1, 2, .. ., и со', со'ёУ, а вместе с ними и на все множества из 91^, в частно- сти, на все цилиндрические множества вида А = = {со : (со, $)< х}. Поскольку это соотношение имеет место при почти всех f, а для произвольного t всегда найдутся t± и t'2, такие, что t = lr + t2, имеем: р (Ль со') = Р ((Л^) ,, со'^ = Р (Л^, со') = Р (Л, со') при почти каждом со', co'^TV. Лемма доказана. Лемма 8.5. Если а-алгебра 3' со счетным числом образующих совпадает mod 0 с а-алгеброй 3 всех инва- риантных множеств, то условные (относительно 3') рас- пределения P(d(B, со'), со'е Q, обладают тем свойством, что при почти каждом со' стационарный процесс (О является метрически транзитивным. Доказательство. Как и при доказательстве пре- дыдущей леммы, мы будем считать, для простоты, что систему «образующих» Ak, к = i, 2, . . ., о-алгебры §1^ можно выбрать из цилиндрических множеств. Не огра- ничивая общности, можно считать, что линейная оболоч- ка характеристических функций этих множеств всюду плотна в каждом из пространств поскольку этого всегда можно добиться, добавив к исходной системе мно- жеств Ak, к = 1, 2, .. ., всевозможные их пересечения, суммы (в конечном числе) и дополнения к ним. Возь- мем произвольное множество из этой системы, для оп- ределенности, скажем, Л = {со:£(со, s\<x}r is. положим
224 Гл. IV. Стационарные в узком смысле процессы ц(^)= Xa^g)), где ?1z = {(d:£((d, s — t)<x}. Установим эргодичность стационарного процесса Цю' (t), означаю- щую, что т Ит \ Т-+00 2 J О J* Т]<0' (G))P(d(O,(O') Q почти всюду относительно P(d(o, <о'). Обращаем внима- ние па то обстоятельство, что случайная величина Цс/ (g>) как функция от со одна и та же при всех со': ц(0/ (со) = = tj(g)). Положив ц (g>) = #{ц/3'}, имеем: О = lim I T-.00J 2 P(dG))-= т di —T)(®) О Отсюда видно, что последовательность функций 2 Р (da, G)') от g/ сходится по вероятности к нулю при Т -> оо. Сле- довательно, существует последовательность Tk, к = \, 2, ..., для которой 2 jP(dG),(o') = О с вероятностью 1. Это соотношение показывает, что для почти всех G)' в качестве предельной величины г lim у J Л®' (О (как функции от (о) может быть взята ~ о ц (со) = ЛЛц/З'}. Но функция ц((о) измерима относи- тельно 3', а почти каждая из вероятностных мер P(d(o, <о') на множествах из 3' принимает лишь крайние зна- чения нуль или 1. Это значит, что при почти каждом (о' величина Цю' (g>) постоянна почти всюду относитель- но P(d(o, со'). Таким образом, «временные средние»
§ 9. Регулярные стационарные процессы 225 т 1 С у I цО'(£) Л почти каждого стационарного процесса, о ц(1)' (t) имеют пределом постоянную (свою по отношению к соответствующему распределению P(cZco, со')). Ввиду произвольности выбранной величины ц, отсюда можно заключить, что для почти каждого со' стационарный про- цесс Но' (/) является метрически транзитивным. Лемма доказана. Приведенные выше леммы в совокупности и доказы- вают справедливость теоремы 8.1. Пример 8.1. Для иллюстрации теоремы о разложении рас- смотрим метрически транзитивный стационарный процесс ц(£) с нулевым средним и независимую от него случайную величину ц0 (это значит, что /’(До П А) == P(AQ)P(A) для любых событий До е 91л0 и Де^). Сумма g (t) = ц0 + ц (t) представляет собой стационарный процесс, причем о-алгебра 9Ц0 совпадает mod 0 с (1-алгеброй 3 отвечающих ому инвариантных множеств. Заметим, что и 91п0 и 9(п содержатся в о-алгебре поскольку с вероятностью 1 т Т) = lim 4г (0 dt. 0 Т->оо Т J О Болес того, 91g представляет собой наименьшую о-алгебру, со- держащую и 9Цо и 9Ц. Поэтому всякая о-аддитивная вероятност- ная мера па 91g однозначно определяется лишь по значениям на множествах вида До П Д, где До е Дп0, Д е 9Ц. Условные относи- тельно 3 распределения вероятностей P(dco, o'), g)zeQ. по отно- шению к которым стационарные процессы (t) будут метриче- ски транзитивными, определяются следующим образом: !Р (Д) при А э со', л л ~ > О при До э со для любых До е 91п0 и Д е 91я. § 9. Регулярные стационарные процессы Пусть есть стационарный в узком смысле случайный процесс; назовем его регулярным, ес- ли соответствующая ему о-алгебра определенная ра- венством (6.2) как = lim Qlloo, (9.1) —оо является тривиальной, т. е. содержит со-множества лишь вероятности нуль или 1. 15 Ю. А. Розанов
226 Гл. IV. Стационарные в узком смысле процессы Примером регулярного процесса, как мы уже видели в предыдущем параграфе, может служить последователь- ность независимых одинаково распределенных величин. Условие регулярности имеет простой геометрический смысл. Именно, если Н* обозначить подпространство в гиль- бертовом пространстве ЕЦ, образованное величинами, из- меримыми относительно о-алгебры $1* и имеющими нуле- вые математические ожидания, то условие регулярности процесса £(£) эквивалентно, очевидно, следующему: fl н1те=0. (9.2) t Соотношение (9.2) напоминает условие линейной ре- гулярности стационарных в широком смысле процессов (см. § 2 гл. II) и фактически является его значительным усилением; в частности, каждый процесс x](t)=Utx], от- вечающий величине ц из любого подпространства 5 < °°, должен быть линейно регулярным. Для гауссовских процессов понятия регулярности и ли- нейной регулярности эквивалентны друг другу. В самом деле, если гауссовский процесс £(0 = {Sfe(O}fe=f^ (с Дис~ кретным «временем») линейно регулярен, то значения процесса фундаментального для g(£), буду- чи гауссовскими и некоррелированными между собой, яв- ляются независимыми. На основании равенства (3.8) гл. II можно заклю- чить, что о-алгебра 9Г процесса %(t) порождается множе- ствами вида [Ц^)е ГГ°°, ..., где Г1, ..., Гдг — борелевские множества прямой (или комп- лексной плоскости), a при всех й = 1, 7V, и следо- вательно (см. пример 6.1 предыдущего параграфа), ал- гебра 81“ тривиальна. В случае непрерывного времени о-алгебра SlLoo про- цесса порождается множествами вида {^(Ai)^ еГ1? ..., ^n(Ajv) е 1\}, где £jfe(Afe) — независимые меж- ду собой значения случайной меры £ (dt) = {£j (dt)}.=— (фундаментальной для процесса £(£)) на непересекаю- щихся интервалах Aft, расположенных на полуоси (--°°, t). Рассуждения в примере 6.1, применимые и к этому слу- чаю, также приводят к заключению о тривиальности ал- гебры 81“.
§ 9. Регулярные стационарные процессы 227 Вернемся к рассмотрению произвольного регулярного процесса g(£). Проекция тр_оо каждой случайной величины ц из Нь имеющей пулевое математическое ожидание на подпро- странство HLqq, обладает тем свойством, что lim = 0 (9.3) — оо (см. лемму 2.1 гл. II). Для любой величины £ из П1сх; имеем: M = (9.4) Пусть А есть произвольное ю-множество из П = Хл--Р(Л), Ъ = %в~Р(В), где В Применяя к этим величинам г] и £ пера- венство (9.4), получим |Р(Л5)- Р(А)Р(В)\^т^\\, Отсюда вытекает, что регулярный процесс £(/) обла- дает следующим свойством: sup | Р (АВ) - Р (Л) Р (В) | -> 0 (9.5) при t -> — оо для любого А из 0^. Нетрудно убедиться, что на самом деле условие (9.5) эквивалентно условию регулярности. Действительно, пусть В — произвольное ю-множество из о-алгебры 21“ (оно принадлежит всем о-алгебрам 2lLoo)« Условие (9.5) для множеств А(А=В) и В приводит к равенству Р(В) = Р(В)Р(В), которое может выполняться в случае, когда либо Р(В) = = 0, либо Р(В)=1, т. е. когда о-алгебра 21“ является тривиальной. В итоге, нами доказано следующее предложение. Теорема 9.1. Для регулярности стационарного про- цесса %(t) необходимо и достаточно условие (9.5). 15*
228 Гл. IV. Стационарные в узком смысле процессы Будем называть, далее, стационарный процесс £(£) = = {^k(fy}h==.Vn вполне регулярным, если*) а(т)== sup |Р(ЛВ)-Р(Л)Р(5)|->0 (9.6) оо В^х при т -> оо. Здесь, как и прежде, $°и означает о-алгебру to-множеств, порожденную величинами u^t^v. Условие (9.6) полной регулярности процесса g(£) оз- начает, что с течением времени события, относящиеся к «будущему» процесса, становятся почти независимыми от событий «прошлого». Это условие будет нами использовано при доказатель- стве центральной теоремы. § 10. Условия полной регулярности гауссовских стационарных процессов Для любых двух систем {V} = ЭЙ' и {^,z} дей- ствительных случайных величин и %", имеющих вто- рые моменты, введем показатель Р(2Г,ЗГ)= sup (101) [М (Г - М1')2М (Г - М£")2] /2 Если Эй' и Эй" являются совокупностями всех величин с конечными вторыми моментами, измеримых относитель- но а-алгебр 91' и 91" соответственно, то р(9Г, 9Г) = р(ЗЙ', Эй") (10.2) назовем максимальным коэффициентом корреляции меж- ду алгебрами 91' и 91". Если положить а(9Г,9Г) = sup |Р(Д'Л")-Р(Л')Р(Л")|, (10.3) А'е^Г то, очевидно, всегда «(91', 91")< р(Г, 91"). (10.4) *) В силу стационарности процесса £(£) выражение в левой части соотношения (9.6) не меняется при одновременном «сдви- ге» алгебр $(Loo и и потому зависит лишь от т.
,§ 10. Условия полной регулярности 229 Пусть теперь {£') и {£"}—две совокупности случай- ных величин, имеющих (для любого конечного набора . . ., • • •> £п) гауссовские совместные распреде- ления; ЗЬ/ и есть о-алгебры, порожденные соответст- венно событиями {£'е Г'} и {g,z еГ"}, где Г' и Г"— произвольные борелевские множества на прямой, и, нако- нец, Hv и есть замкнутые (в среднем квадратичном) линейные оболочки совокупностей {£'} и {£„ Ь Теорема 10.1. Имеет место следующее равенство: р(адад = р(адад. (10.5) Теорема 10.2. Максимальный коэффициент корре- ляции удовлетворяет следующим неравенствам: а (?1^, ад < р (ад ад < 2ла (ад ад. (10.6) Доказательство этих теорем опирается на ряд лемм. Лемма 10.1. Пусть {£'} и {£"} есть две совокуп- ности конечного числа гауссовских величии с нулевыми средними. В соответствующих пространствах и можно выбрать базисные элементы и таким образом, чтобы среди них были зависимы лишь величины и с одинаковыми индексами. Доказательство. Пусть Н есть линейная оболоч- ка всех случайных величин из {§0 и U"}. Как обычно, введем на Н скалярное произведение: (h', h" ) = Hh'h". В определенном таким образом унитарном пространстве Н рассмотрим операторы Р' и Р" проектирования па под- пространства и соответственно. Положим Р = Р'Р”Р'. Оператор Р — симметричен и у него существует орто- гональная база из собственных элементов. Пусть ц' — один из этих элементов, отвечающий собственному числу Л(Л^О), и ц" = P"v\. Имеем: Р'т\ = j- Р'Рт\ = Рт\ = ц', Р'ц" = Р'Р”^ = Р'Р"Р\' = ад Пусть щ, . . ., т|г — ортогональная система всех собст- венных элементов с собственными числами Zi, ..., Хг, от- личными от пуля. Положим Vfc = P"v]k, k = i,r.
230 Гл. IV. Стационарные в узком смысле процессы Имеем: (пл> пЭ = (пл- = (рПл> пЭ = К (rife, гр) = о, (пл, nJ) = (ил, Р"П1) = (p\k, 1b) = (пл, Hi) = 0 при всех к ¥= /. Далее, пусть т]', т]'е —произвольный элемент, ор- тогональный всем величинам г^, ...,тр. Этот элемент г/ ортогонален подпространству Н^. Действительно, (P'V, Р" <) = (П\ P"rf) = (^V Р"Р'т]') = = (т)', Р' Р" Pr v\) = (r)z, Рт]')=='О, так как, очевидно, Рт/ = 0. Точно так же, если элемент т]", if е ортогонален всем т)1, • • •, Лг » то он ортого- нален подпространству Н^.Ъ самом деле, элемент Р'т)" ортогонален всем гц,..., т]г: (^'п"- Пл) = (п"> Пл) = (р"п"> Ил) = = (n"> P'nD = (п"> Пл) = °, к = 1>г; следовательно, как мы только что доказали, величина т/, ортогональна подпространству и потому (Р'т)", Р'т]'')=(п", Р'п") = 0. Очевидно, любые полные ортогональные системы . . ., и £i, • • •, в Н^г и первые г элементов которых есть r)i, . .., г)г и гц, . . ., тр соответственно, обла- дают свойством, указанным в нашей лемме. Лемма 10.2. Пусть случайные величины и V' имеют совместное гауссовское распределение и р есть их коэффициент корреляции. Тогда suptf/(£')g(r) = |p| (10.7) 1,g где sup берется по всех функциям fug, для которых Доказательство. Имеем: >/(Н?(Г)= J J f(x)g(y)p(x,y)dxdy,
§ 10. Условия полной регулярности 231 где р(х, у) = 1 ex J— + у2 ~ 2руу 1 2л /1 - р2 ₽( 2(1-р2) f Воспользуемся разложением плотности вероятностей р(х, у) в ряд по полиномам Эрмита: Р(х,У)= 2^ехр[— * j/- ] 1 } vo я„(^)= (-1)V2/2—/-ж2/2, v = 0, 1,... Эти полиномы, как известно, образуют полную ортого- нальную систему в пространстве функций, интегрируемых _х2/2 в квадрате на всей действительной оси с весом е : -М ададе-^-j;: ”Р" Т/2л J (0 при v^=u. v —оо Поскольку оо М[/(В')]2= 1 J [/(Ж)]2^2/2^=1, ' —оо оо М[?(П]2 = Ч7= f [g«e-x2/2^=l, у' 2 зт функции f(x) и g(x) также могут быть разложены в ряд по полиномам Эрмита: оо У = 0 £(*) = оо Сг) VI 1 У=0 где av = оо -~= j* f(x)Hv (х) е-ж2/2 dx; — оо оо |% = —7= f g(x)Hv(x)e~x‘2 dx; v = 0,1,... Т/ 2 л J — оо
232 Гл. IV. Стационарные в узком смысле процессы Из полученных разложений нетрудно вывести, что оо о Условие нормировки величин /(V) и g(&") означает, что «0 = Ро = О, 1 1 Используя неравенство Коши — Буняковского, имеем: >/(£') g (Г) 1 = 2£«vPv 1 Это неравенство превращается в равенство при /(Г) = g(H = Лемма доказана. Лемма 10.3. Пусть пространство Q с вероятностной мерой P(da) есть прямое произведение пространств Qi и Q2 с мерами P\(d&\) и Р2(^<о2): Q = Qi XQ2, P(dcD) = Pi(d(Di)XP2(dcD2). (10.8) Пусть и 912 есть некоторые о-алгебры измери- мых множеств пространств Qi и Q2 соответственно. Тог- да для любой случайной величины т] с вероятностью 1 имеет место следующее равенство', м[м(т]|я1х^)Кхз2] = = Mpl/Gjsilxsjlsij’xsj, (10.9) где 3 — тривиальная о-алгебра пространства Q2. Доказательство. Используя простейшие свойства условных математических ожиданий (см., например, кни- гу Дуба стр. 22), для любого можно на-
$ 10. Условия полной регулярности 233 писать следующие равенства: J f М [м (п| хSQI я;х32] P(d®) = А й2 q2 aq2 «2 J = П М [М (n|^X32) I <XS2] откуда легко вытекает соотношение (9.9) пашей леммы. Доказательство теоремы 10.1. Очевидно, всег- да р(81g', 31g") >p(Hg', Докажем обратное неравенство. Поскольку функциями от конечного числа величин из со- вокупностей {£') и {£"} аппроксимируются любые вели- чины, измеримые относительно о-алгебр 81g' и 31g", можно считать, что эти совокупности состоят лишь из конечно- го числа величин. В соответствии с леммой 10.1 выберем в пространст- вах и базисные элементы . . ., и , £п таким образом, чтобы среди них были зависимы лишь величины и с одинаковыми индексами, причем = = DZk = D^ = l, к = Т?т; /=1^. Произвольные величины / = / (£i, . . ., 5m) и g = = g (^, . . ., £n) I Mf = Mg = 0, Z>/= Dg= 11 можно пред- ставить в виде та п • • •, ^). g = 2 g> • • • > l-)> (lo-io) /<^1 где ...Х)-«(/Х—й-1). »-м(»1й,...,б)-м(<|Й......ЬХ). На основании леммы 10.3 заключаем, что м[л/(/|^,..,Х)|Й,.. .д"] = = м[мШ,...лЖ,(10.11)
234 Гл. IV. Стационарные в узком смысле процессы при к > /, м [м (ж, ...,йЖ ...Х] = = МмШ,...,Ж...Х] (Ю.12) при к /. Из этих соотношений вытекает, что (10.13) при к ¥= /. Действительно, = лЫм(/0й,...,Й)] = = Mgj {М [М (/|Й, • ••, Й)| Й, ..., Й] - - М [М (J IЙ, ..., Й-i) IЙ,..., ЙП = о (10.14) при k~>j] точно так же равенство (10.13) при /с</ мож- но вывести из соотношения (10.12). Считая для определенности тп п, имеем: Mfg = 2 Mfkgh = %м h=l k=l (10.15) Далее, из леммы 10.3 без труда выводим, что = м (gJ й, • • •, Й-ъ Й, • • •, Й-1) = о (Ю.16) для всех к. При фиксированных . . ., Bi, ... Вь-i величи- ны fk и gk являются функциями ЛИШЬ ОТ Ik и и, при- меняя к ним лемму 10.2, получим, что 1 М (fhgk I В1» • • • 1 B/t-n 11» • • • 1 Bfe-1) I (10.17) где 4 = ^(/ЛЙ, Й, ^ = м(^11й>...>Й-ьЙ, а р = р(Я^,Я^,).
§ 10. Условия полной регулярности 235 По неравенству Коши — Буняковского, \Mfg |< р 2 Mahbh < Р 2 (Ма2У* (МЪ$'* С 1 1 <р m 1 1/в 2X4 m (10.18) 1 поскольку m m 2^4=2ХД+ мр = i, 1 1 m m Ж = Ж« = 1. 1 1 (10.19) Таким образом, теорема 10.1 доказана. Доказательство теоремы 10.2. Возьмем про- извольное 8 (е > 0) и величины (£е е /Д'), (?е Н^), такие, что г = — е- Рассмотрим события Х=1ёе>0] 4 = {Й>о). Для гауссовских величин |е и нетрудно подсчитать (см., например, Крамер [*], с. 321), что Р (Agd'e) = 4“ + “Ы arCsin Г’ р(л;)₽(Х) = 4 <10-20> и X arcsin г = Р (А'А;) - Р (X) Р (4) < а j Если то неравенство р С 2ла тривиально; ес- . 1 ли же -г-, то 4 р — 8 г sin 2ла, р^2ла+е (10.21)
236 Гл. IV. Стационарные в узком смысле процессы и, ввиду произвольности 8, р 2ла, (10.22) что и требовалось доказать. Из теорем 10.1 и 10.2 вытекает, что гауссовский ста- ционарный процесс == {^k(t)}k=— обладает свой- ством (7.5) полной регулярности тогда и только тогда, когда р (т) = р [ЯГ (0, Н% (t + т)] -> 0 (10.23) при т -> оо (здесь Ht (I) и (t + т) есть замкнутые в среднем квадратичном линейные оболочки значений ^(s), к—Л, п, процесса £(s) при s^t и s^t + x соответ- ственно) . Ниже мы исследуем свойство (10.23) показателя р(т) для одномерного стационарного в широком смысле про- цесса £(£) в зависимости от свойств его спектральной меры F(dh). Если выполнено свойство (10.23), то процесс ко- нечно, линейно регулярен и, в частности, у пего сущест- вует спектральная плотность /(X). Нам понадобятся несколько общих фактов из функ- ционального анализа. Лемма 10.4. Пусть L — некоторое банахово про- странство, L* — сопряженное к нему. Пусть Н есть под- пространство в L, a Lo—совокупность линейных функ- ционалов, обращающихся на Н в нуль. Для любого линейного функционала Z* А* имеет место следующее соотношение'. supZ*(A) = inf ||Z* — Zo*||. /lG H __- * (10.24) T-r ' * T * Доказательство. Поскольку для любого /0 из i* (h) - z* (Д) = T (h) при h^H, to |iz*(/0||<||z*-zo*||||M, и потому sup IIZ* (h) || < inf IIZ* — Zo||. teH (10.25)
$ 10. Условия полной регулярности 237 Далее, по известной теореме Хана — Банаха о продол- жении линейного функционала, существует функционал /г, совпадающий на подпространстве Н с данными Z*, причем Р*И= su₽ b* WII- Леи 11 h ||=1 Разность Z* — Z* принадлежит подпространству Lq, а IIZ* _(/*_/*) || = || г*||= sup || Г (7г)|. (10.26) /?ен IIЛ 11=1 Сопоставление соотношений (10.25) и (10.26) приво- дит нас к равенству (10.24). Лемма доказана. Лемма 10.5. Пусть £(Z)— стационарный в широком смысле процесс со спектральной плотностью /(X). Пока- затель р(т) = р[М). ^(i + T)] может быть найден по формуле р(т) = inf vrai sup [ | /(Z) — eiA/Tcp (Z) | /-1(^)], (10.27) ф x где inf берется no всем интегрируемым функциям ср (Z), удовлетворяющим следующему требованию*): J (X) dK = 0, Z>0. (10.28) Доказательство. Мы рассмотрим лишь случай дискретного параметра, так как случай непрерывного па- раметра совершенно аналогичен. Очевидно, р (т) = sup f е-^Ру (e~iK) Р2 (е~‘*) / (X) dK, (10.29) PVI>2 -я где sup берется по всем полиномам P\(z) и ^2(2), J \Pk(e-^)\2f(K)dK^ 1, fc=l, 2. —Л *) Интегрирование в (10.28) производится в пределах —л X л для случая дискретного параметра t и в пределах — оо < X < оо для случая непрерывного t.
238 Гл. IV. Стационарные в узком смысле процессы Конечно, в выражении (10.29) можно в качестве Pi(e~A) и Р% брать не только полиномы, но и любые функции, являющиеся граничными значениями аналити- ческих в единичном круге функций Pi(z) и А(^), огра- ниченных при всех z, Izl 1. Возьмем произвольный полином P(z), удовлетворяю- щий условию л j | P(e-^)|/(X)dX< 1. —Л (10.30) Как мы видели (см. § 5 и 8 гл. П), полином P(z) можно представить в виде Р (z) = Ъ (z) exp S J log («-<>) I d>. —Л где b (z) есть рациональная аналитическая функция от z, такая, что |&(е"гЛ) I = 1. Функции Р± (z) = &(z) exp J log I1-^1 А —л P2(z) = exp ± Jiog|P(e-«.)|£±±ia —Л (10.31) аналитичны внутри единичного круга, ограничены, а зна- чения Р1(е~гК) и Pz(e~iK) таковы, что 1Л(в"а)12= |Р2(в-а)12= |Р(е-а)| для почти всех %. Очевидно, если в выражении (10.29) брать sup лишь по функциям Pi и Р2 вида (10.31), то sup может лишь уменьшаться, и потому на самом деле p(x) = sup ( (e~a)/(7v)^X, (10.32) р -л где sup берется по всем полиномам P(z), удовлетворяю- щим условию £10.30).
§ 10. Условия полной регулярности 239 Пусть, далее, L есть пространство функций Z(2i), ин- тегрируемых с весом /(20, л —л Рассмотрим в L подпространство Я, являющееся замкнутой линейной оболочкой функций P(e~iK) = e~iK\ к>0. Каждый линейный функционал Z* на L имеет вид Z*(Z) = J Z* (%) Z(X)/(%) (10.33) —л причем || Z* || = vrai sup | Z* (20 | (10.34) x (см. по этому поводу книгу Рисса и Надя [*], с. 83). Если линейный функционал Zo обращается в нуль на подпространстве Я, то отвечающая ему функция Z(* (Л) в представлении (10.33) должна удовлетворять следую- щему требованию: J e-“Zo(X)/(X)(ZX = 0 (10.35) —л при всех к > 0. Положим Zo (20/(20 == <р (Z). Рассмотрим функционал Z*, отвечающий функции Z* (20 = е~г1\ Из равенства (10.24) леммы 10.4 получаем: л sup f е~^хР (^-гХ) /(2^) = inf vrai sup | e~ikz — Z* (20 | = P /0* " = inf vrai sup [ | /(20 — еатср (X) | /-1(A,)], (10.36) ф % где inf берется по всем функциям <p, отвечающим усло- вию (10.28), и для которых отношение ср// ограничено почти всюду. Очевидно, последнее требование можно опустить. Лемма доказана. Лемма 10.6. Если существует функция фо (20, удо- влетворяющая условию (10.28), такая, что отношение //фо является равномерно непрерывной функцией от %,
240 Гл. IV. Стационарные в узком смысле процессы причем |//фо1 8 > 0 для почти всех X при некотором 8, то р(т)->0 (10.37) при тоо. Если существует фо, такая, что 1//фо1^8 и производная отношения {f/<po){h) равномерно ограниче- на, то р(т)=^ Стг\ (10.38) Доказательство. Пусть ф(z) есть функция, яв- Г т 1 ляющаяся полиномом степени не выше в случае Сл дискретного параметра t (или аналитической функцией т экспоненциального типа с показателем не выше-й, огра- А ниченной на действительной оси, в случае непрерывно- го t), удовлетворяющая условию (10.28). Тогда произведе- ние ф(Х) = фо(Х)ф(е_а) (соответственно ф(Х) =фо(^)'ф(Х)) также удовлетворяет этому условию. Имеем: inf vrai sup [ |/(Z) — еитф | / Ч^)]^ ф х inf vrai sup [ | //ср0 — 11 <р017] Ф X — inf sup | //ф0 — | 0 8 Ф х при т -> оо, так как отношение //фо можно равномерно приблизить тригонометрическими полиномами в случае дискретного параметра (или аналитическими функциями экспоненциального типа в случае непрерывного пара- метра)*). Лемма доказана. Отметим, что свойство (10.37) выполняется, если спектральная плотность /(X) непрерывна и не обращает- ся в нуль {случай дискретного параметра) или если /(X) равномерно непрерывна на всей прямой, не обращается в нуль и удовлетворяет неравенству m IF м (10.39) при достаточно больших X для некоторых положительных тп, М и целом к {случай непрерывного времени). *) См. по этому поводу книгу Ахиезера [*], с. 207.
§ 11. Центральная предельная теорема 241 Это сразу вытекает из леммы 10.6; в случае непрерыв- ного параметра условиям леммы удовлетворяет функция фо(Х) = (1 + а)Л § И. Центральная предельная теорема Мы уже неоднократно рассматривали вопрос об асимп- тотическом при t — s -> оо поведении «временных сред- них» H(s, t) стационарного процесса %(t) Щм) = 2 Ш s<u<Zt в случае целочисленного параметра t, t Н (s, t) = j* du s в случае непрерывного параметра, и видели, в частности, что для эргодических процессов lim [H(s, t) — MH(s, 01 ” °- Z-S^oo 1 ~ S В этом параграфе нас будет интересовать поведение ве- личин n(M = —* [Н(м)-мЩм)]. (И.1) (t — s) /2 Будем говорить, что к многомерному стационарному процессу %(t) = применима центральная пре- дельная теорема, если существует предел lim Mx\(s, t) ц* (s, t) = Ъ (11.2) t — S-»OO и функция распределения (ж), х {xk}k_^ слу- чайной величины r|(s, t) такова, что lim F^Sft)(x) = Ф(^), (И-З) t—8->ФО где Ф(.г) — функция многомерного гауссовского распре- деления с нулевыми средними и матрицей Ъ == вторых моментов. Теорема 11.1. Пусть стационарный процесс = вполне регулярен и имеет ограниченную 16 Ю. А. Розанов
242 Гл. IV. Стационарные в узком смысле процессы непрерывную в нуле спектральную плотность = == значение /(0) которой является невы- рожденной матрицей. Для применимости к процессу %(t) центральной пре- дельной теоремы необходимо и достаточно следующее условие: при любом г > 0 должны найтись такие числа Ne и Те, что ||x||>Ne (11.4) когда t — s>Te. При этом матрица вторых моментов Ъ == в соотношении (11.2) есть - & = 2л/(0). (11.5) Теорема 11.2. Пусть показатель а(т) в условии (9.6) полной регулярности процесса %(t) убывает доста- точно быстро, а сам процесс имеет моменты доста- точно высокого порядка, именно, а (т) - О (т-1"6), М\\% (t) Н2+б < оо (11.6) при некоторых 8 > 0, б > 4/е. Пусть также спектральная плотность /(Х) = — {fki (Х)}^^ процесса ограничена, непрерывна и невырождена в нуле. Тогда к стационарному процессу ^(t) применима центральная предельная теорема и, кроме того, выпол- няется соотношение (11.5). Приступим к доказательству этих, теорем. Лемма 11.1. Положим а' (Т) = sup | Mx\Z - Мх\М^ |, (11.7) ть£ где sup берется по всем величинам т], измеримым отно- сительно о-алгебры | т] I С 1, и величинам измери- мым относительно | £ | ^ 1. Имеют место следующие неравенства: а(т)<а'(т)^ 16а(т). (11.8)
§ 11. Центральная предельная теорема 243 Доказательство. Первое из неравенств (11.8) очевидно. Рассмотрим действительные ц и £. Имеем: - Мч\М^ = М [М (r|^L) - пЖ] = = м [nM (:/2боо) - Т)Ж] = Ж [М U/Slloo) - ж] , I - жж к | [м (s/siioo) - ж]1 = = |Ж'£-ЖЖ|, - где [ 1, если M^/SlLoo) —Л/£>0, Г|' = / f ч 1-1, если М (^_оо)-Ж<0. Совершенно аналогично 1Ж'£-Ж'£1 < ЖТ-ЖЖ'!, где r/ 1, если М (т]'Д«+т)—Мт/>0, “ (- 1, если М (п'Жт) - Ж' < °- Отсюда видно, что sup в выражении (11.7) можно брать лишь по величинам вида П=>2%л-1, 5 = 2%в-1, где /а и Хв есть характеристические функции множеств Л, /IgeSILoo, и В. Ведада таких величин - Мт\М^ = 4 [Р (АВ) - Р (И) Р (В) ]. Чтобы доказать неравенство а'(т) 16а (т). теперь остается лишь заметить, что для произвольных комплексных величин ц, |т]| 1 и £, |£| 1, | Л/т]£ — Мт\М^ | sup 41 MtfQ — Мц'М^' п'Л' где sup берется уже лишь по действительным величинам ц' и |ц'| 1, |£'| 1. Лемма 11.2. Пусть случайные величины тц, I цл| 1 (А = 1, п), измеримы относительно а-алгебр причем si < ... < sa^tn, sk+\ — tk^ % при всех к. Тогда |М(щ, ..., ^)-Мп1...Мцы1 ^(ДГ-1)а'(т). (И.9) 16*
244 Гл. IV. Стационарные в узком смысле процессы Доказательство. При N =• 2 соотношение (1-1.9) выполнено. Предположим, что оно выполняется для (2V — 1) величин, и докажем его для N величин. Имеем: |7И(т]1... т^) —Л/тр.. .#r]N| < |7И(т]1 ... t]n) — Л7(т]1 ... + + |7И(тц ... ти-и)“^П1 • • • а' (т) + (N - 2) а' (т) = (N - 1) а' (т), что и требовалось доказать. Лемма 11.3. Пусть случайные величины т] и £ из- меримы относительно SlLoo и соответственно, и име- ют вторые моменты. Тогда \Mt\Z-Mt\MZ\ ^W'(t)+6o8, (11.10) где о2 = max (М | т] |2, М | £ |2), 82 = max ( J х2 dF^x), J x2dF^(x)\. \|*|>N |x|>N J Доказательство. Положим jr] при 11] | N, 111 (0 при | Г] I > N, tl2 = Tl — ’ll, и аналогично, (£, если |£K7V, = 10, если |q>2V, £2 = £-£о- Используя неравенство Коши — Буняковского, получаем: \Мт^-Мт\М^\ < I + + IMTI1S2I + + 1ЛШ11 + |Мт]2ВД + + IMt^I + 1Л/П2ВД W'(r)+6O8, что и требовалось доказать. Лемма 11.4. Пусть показатель а(т) в условии (9.6) полной регулярности убывает достаточно быстро: ос(т) = <9 [т-1-е], 8 > 0. (11.11) Тогда для любых величин т] и £, имеющих ограничен- ный момент порядка 2 + 6, 6 > 4/е, измеримых относи-
J 11. Центральная предельная теорема 245 телъно SlLoo и Slf+т соответственно, справедливо следу- ющее неравенство: | - Мх\М^ \ < С , (11.12) где ъ' > 0 и С, С < есть некоторые постоянные. Доказательство. Поскольку j x2dF(x)^N~6 J |x|2+MF(z), |Х|>ЛТ —оо неравенство (11.10) предыдущей леммы позволяет заклю- чить, что \Мх\£-Мх\М^\ ^Жа'(т)+С'ЛМ/2. ТЭ Г' ЛТ а 2 (1 + с) Выбирая N = x, а = и учитывая соотноше- ние (11.8), получим неравенство (11.12) пашей леммы, в котором , е<5 — 4__ я 4 8 = 7-гт> 0 ПРИ —• 4 + 6 г е Лемма 11.5. Пусть имеются случайные величины (к — 1, п), такие, что 71/1^1r С М$ при всех п + 1. Тогда 7l/|gi + ... + ^ir^^o7V\ (11.13) Доказательство. Используя неравенство Гёль- дера, легко получить, что м | \ + • • • + I < [МI lkl Г р/'... [М | f рл- < м0, откуда М|^1+ ... +^|2< 2 M\tk.%kN\<M0Nr. Доказательство теоремы 11.1. Пусть = = 0. Если у процесса £(/) = {1й(^)}й=гй существует спек- тральная плотность / (X) = {fhi т0 . р sin2 -у (t — s) Мц (6’, I) ц* (s, I) = --- -г--/ (М dk " id . 2 “ —л sin. "2“
246 Гл. IV. Стационарные в узком смысле процессы в случае целочисленного параметра £, и оо о Az , р 4 sin -у (£-—s) АГ Л <s, t) n* (s, 0 = J ----------------/ W dl --OO в случае непрерывного t. Поскольку 1 р sin (t — s) ! р 4 sin -Tj- (i — s) dk — 2л, t — s t — s J . 2 Az -Л Sin -y и при любом 8 > О sin2 -у (t — 5) 4 dX = %2 lim —1 ----------z- /_5_>oo & — 5 J . 2 ’ |%|>8 Sin ~2 2 Az 4 sin у (t — s) 2 =0. lim r-i— j t-s^oo S |%|>8 %2 то, как легко понять, для ограниченной и непрерывной в нуле спектральной плотности /(X), lim t) ц* (5, Г) = 2л/(0). (11.14) t—s->oo Покажем, что условие (11.4) является необходимым. Пусть rN = {х : lxkl N, k = 1, п}. Из слабой сходимости распределений F^s>t) (х) и непрерывности предельного распределения Ф(я) (оно является гауссовским) выте- кает, что lim J ||a:||2d^r)(s,i)(a:) = J || я||2 t/Ф (я), rjv rjv Далее, как показывает соотношение (11.14), lim J ||x||2dFt](s>i)(a:)= J || я:||2 йФ (х). t—S-»OO Отсюда, если обозначить внешность «прямоуголь- ника» 1\, имеем: lim j || х ||2 dF^s>t)(x) = J || x ||2 йФ {x).
§ 11. Центральная предельная теорема 247 Интервал в правой части этого равенства при доста- точно большом N может быть сделан сколь угодно ма- лым, что и гарантирует выполнение условия (11.4). Чтобы не загромождать дальнейшее доказательство второстепенными деталями и связанными с ними обеспе- чениями, мы изложим его лишь для одномерного слу- чая — доказательство в многомерном случае принципи- ально ничуть не сложнее. Пусть выполнено условие (11.4). ______ Разобьем интервал [s, t) точками sk, tk (к = 1, Л"—1) на интервалы Aft=[sft, tk), к = 1,7V И ~ Vk’) $fe+l)i tjt Sk = T, $k + l = ? таким образом, чтобы — ----------> оо, т —> оо,------> О, Т + т' ’ ’ т 7Vsup|Mp(Afe)p(Aj)|->0, (11.15) k^j N sup | Mt] (As) p (&') | 0 при oo (здесь p(Д0 = p(sft, fft),p(Afe) = r\(tk, sft+i)). Это можно сделать в силу следующих обстоятельств: при любых т и т', стремящихся к бесконечности, из условия (11.4) и леммы (11.3) вытекает, что sup IМр (Aft)p (Д;) I -> 0, sup I Мр (Aft) р (Д') I О, и, выбирая разбиение «достаточно крупным», т. е. выбирая т и т' не очень малыми по сравнению с t — s (в результа- те чего оценка типа (11.10) количеств |Л/г| (Afe) г| (Aj) I и | 7Ит|(Д^)ц(Д;) |может лишь уменьшиться), получим тре- буемые соотношения (11.15). Представим величины ц($, t) в виде N N-1 р($, 0 = 2^+ 2 пл- h=l k=l
248 Гл. IV. Стационарные в узком смысле процессы где Ял = ,2 Я (Ал), Ял = («ттт) /а Я (Ал) • Из соотношений (11.15) имеем: ~ N—1 м 2 лл _ h=l " < S М (rift)2 + N2 sup I I h=l h^j c[]Vx' + N sup I MT] (X) Я (ДЭ I ]-* 0 (11-16) f s л#; J при I — s -> °°. Поэтому асимптотическое поведение рас- пределения величин T](s, t) такое же, как и величин N &V = 5 ПЛ- h = l Далее, из лемм (11.1), (11.2) и соотношений (11.15) получаем, что N MeiutN — П Meiu^h k=l 167Уа(т')->0 при t — s -> оо, и следовательно, благодаря соответствию между характеристическими функциями распределения, асимптотическое поведение распределения суммы та- кое же, как если бы слагаемые были независимы меж- ду собой. Далее, N Г N "[2 2 = м 2 - 2 МплЯ^2л/(0) k=i Lfe=i J при t — s oo? Так как в силу (11.15) и (11.16) ’ N 12 lim М 2 Ль Л^Л2(5’ О = 2л/(0), t—S-*oo k = l J t—S->oo 2 мЯаЯ; I < N2 -r~s sup 1MЯ ( да) Я (Aj) I 0. I ~s Поэтому для применимости к процессу £(£) централь- ной предельной теоремы достаточно, чтобы слагаемые т]к удовлетворяли известному условию Линдеберга (см., на- пример, обзорную статью Б. В. Гнеденко Е*]): при любом е > 0 lim 2 I ^0° Ixl^E х2 dF^k (x) = 0.
§ 11. Центральная предельная теорема 249 Это условие выполняется: n N 2 J г=<г/ч.м- 2 7-Ь J fe—1 |х|>е h—1 sW/a |Х|>Е^ — j < f ^2^П(О.Т)(^)->0 при t—s-+°° благодаря требованию (10.4). Таким обра- зом, теорема 10.1 доказана. Доказательство теоремы 11.2. Будем считать, что ЛЦ(£) = 0. Как и ранее, разобьем интервал [s, t) точ- ками sk, th па интервалы Ак = [sft, th) и Aft = Дли- ны Т — th Sk И Т S/14-1 th- По лемме 10.4, \МЦи)Ци)\^С\и-и\-^'ч отсюда | МН (Afe) Н (Afe+Z) | < Ст2 (т')-!-'/’1-8', I МН (Д') Н (д;+/) I С (т')3 т-1-2' Г1^'. Имеем: 1 t — S 2мН(Дй)Н(Д;) N N-k /1=1 1=1 оо < C т2 (т')-1”8' 2 ^1-EZ < (т')-1-8' -> о 5 1=1 при t — s -> <», если выбрать тит' так, чтобы т(т')-1-е'-^0. (11.17) Аналогично, 1 t — s если 2мн(д')н(д)) h^j <Ст'т~1-е'->0, (11.18)
250 Гл. IV. Стационарные в узком смысле процессы при £ — S оо. Поэтому 2V-1 ^2Ин(а;()]2=С<-° /1=1 и, следовательно, при t — 5 -> оо. Отсюда заключаем, что асимптотически распределение величии r](s, t) такое же, как и величин /V / 1/ = 2 Яь Пй = (нН) 2 Л (++ /1=1 х 7 Выбрав разбиение интервала [s, t) так, чтобы кроме соотношений (11.17) и (11.18) имело место 2V->oo, Ж(т')->0 (11.19) при t — 8 -> 0, мы можем считать, что слагаемые T]ft в сум- ме независимы между собой, поскольку по лемме 11.2 N MeiuiN — П MeiuX]h /1=1 ^7Va(T')->0. Для сумм же Zn выполняется известное условие Ляпу- нова: 2 + 6 N (t-8) а 2 ^|Н(Дй)|2+б< h=l 2+6 < С (t — 5) 2 jVT2 + 6 Ст1+6 _ s)-6/2 _> 0 при t — sесли выбрать т=(£ —8)а, а <6/2(1 + 6) (легко видеть, что такой выбор т при 6 > 4/е совместим с требованиями (11.17) — (11.19)). Теорема доказана.
ДОПОЛНЕНИЕ Условия регулярности *) 1. Общий критерий регулярности. Введем аналитиче- ские классы Нб, 6 = 1,2, операторных функций 1\, — оо < X < оо? значения которых суть линейные операторы в гильбертовом пространстве (I\: R' -> R"). Будем гово- рить, что функция Га,, — °° < X < °°, принадлежит классу Нб, если для всех я <= 7?', у е 7?" скалярное произведение {Г^, у} как функция от V принадлежит пространству L6 оо (на прямой) и J y}dX = 0 при 7<0**). Нашим исходным пунктом будет теорема о факториза- ции, согласно которой стационарный процесс —оо < < t < оо, со спектральной плотностью Д, — °° < X < °° (в гильбертовом пространстве 7?) является регулярным тогда и только тогда, когда существует операторная функ- ция ф%, — °0 < X < °о? класса Н2 такая, что А=Фх*Ф* п-в- (Д-1) По сравнению с ранее предложенным условием (2.11) мы * * поменяли местами фх и ф%, так что теперь ф% — линей- ный ограниченный оператор из гильбертова пространства R в 717-мерное гильбертово пространство RM. Поскольку всегда dim7? >717 (717 = dim fKR п. в.), то можно считать, *) См. Розанов Ю. А. Теория обновляющих процессов,— М.: Наука, 1974. **) По поводу определения классов Нб и их свойств см., напри- мер, книгу Гофмана К. Банаховы пространства аналитических функций,—М.: ИЛ, 1963, и обзор Крылова В. И. О функциях, регулярных в полуплоскости Ц Матем. сб.— 1938.— Т. 4, № 46.— С. 9—30. См. также Привалов И. И. Граничные свойства ана- литических функций,—М,—Л.: Гостехиздат, 1950; Секефаль- в и - II а д ь Б., Ф о я ш Ч, Гармонический айализ операторов в гильбертовом пространстве,— М.: Мир, 1970,
252 Дополнение что RM^R, и доопределить оператор Фх, = (ф*)*на всем пространстве R, положив фД2? © Rm) = 0. Введем оператор положив К (/ГМ = фМ xf=R. Из равенства (Д.1) видно, что П*/Г2^||2 = ИфМ2’ и, таким образом, У* изометрично отображает подпро- странство fy2R на подпространство ф%^?. Следователь- но, сопряженный к нему оператор V\: Ух,(ф*^)=/Г2 x<=R, также является изометрическим; при этом Поскольку <р* = 7*/Г2, то для сопряженного оператора Ф% = (ф*)* получаем, что ФхУ = 1ь2У%У при у е <р*Д, и ес- ли доопределить оператор так, чтобы V\(R Q cp*Z?) = = 0, то будем иметь Фх = fl/2VK, поскольку ортогональное дополнение R Q ф*/? к подпро- странству ф*7? состоит из «нулей» оператора фХ, сопря- женного к фх,. Очевидно, ф,я <= rt2R, /r17W = tv?=7F^? (здесь и в дальнейшем /Г1/2 обозначает обратный опе- ратор к сужению ///2 на подпространстве /Г2-??)- Ясно, что функция 'Фх = Г=Пл ' (Д-2) удовлетворяет условиям а кроме того, j II/х 1/2ФхИ2 ^ < °°> Х(=Н,
Дополнение 253 поскольку /Г1/2Ф?« = рЦт IIIK II * II- При этом функция фх, —00 < X < °°, принадлежит классу н1 Л н2, потому что для любых х, у R скалярное произ- ведение {ср^, у} как функция класса Н2 есть преобразо- вание Фурье некоторой функции с(/) из L2 (на прямой — оо < ^ < оо), c(t)=^ 0 при t < 0, а оо 1-..- = I еше~~1 dt, i — iK J о и, следовательно, оо {фх?, у} = Л 1 И {ФаА у} = f eiMc * e~f Н3, о где с * е~\ t > 0, обозначает свертку указанных функций. Докажем теперь следующее предложение*). Теорема. Стационарный процесс со спектральной плотностью /к является регулярным тогда и только тог- да, когда существует операторная функция класса Н1 такая, что /КЧй п. в. (Д.З) и при любом х R функция /х 1/2фл^, — ОО < Х< ОО, при- надлежит пространству L2(R): оо J ||/Г1/2ш||2^“< 00• (Д-4) — оо (При этом необходимым является существование опера- торной функции фх, удовлетворяющей условиям (Д.З) — (Д.4), которая принадлежит не только классу Н1, но од- новременно также и классу Н2.) *) При доказательстве мы следуем методу, который был фак- тически предложен в одной нашей работе о стационарных процес- сах с дискретным временем (Розанов Ю. А. О линейном интер- полировании стационарных процессов с дискретным временем Ц ДАН СССР.— 1957.—Т. 116.—С. 923—926; см. также Roza- nov Yu. A. Some Approximation Problems in the Theory of Statio- nary Processes Ц J. of Multivariate Analysis.— 1972.— V. 2, № 2.— C. 135-144).
254 Дополнение Мы уже убедились выше, что если стационарный про- цесс регулярен и, следовательно, его спектральная плот- ность Д допускает факторизацию Д = Фх’Фх с помощью операторной функции фх класса И2, то определенная фор- мулой (Д.2) функция принадлежит обоим классам Н1, Н2 и удовлетворяет всем условиям нашей теоремы. Таким образом, эти условия являются необходимыми. Докажем, что они являются достаточными. Регулярность имеет место тогда и только тогда, когда выполняется условие = П [ V = о. t J Рассмотрим в пространстве Я = V e^f^RsL^n) —оо<8<оо ортогональное дополнение А = н е я0 к подпространству Яо=<\/ eiKsfy2R. Очевидно, все под- ало пространства ешА (состоящие из функций вида е’’и#(Л), — оо < ^ < оо, Где х(К), — оо < ^ < оо? принадлежит А) ортогональны определенному выше подпространству Я-оо, поскольку ешА ортогональны соответствующим подпро- странствам Я( = V e*’ft/2R = е^Н0. Ясно, что если ____________________ ~V ё^А = Я, — oo<Zt<Z°o (Д.5) то Я-оо = 0. ____ Определим пространство-функцию 4(Z), — об1 < X < <», для любого подпространства Л^£2(/?), выбрав в А полную систему функций {ai(Z), ^(Z), ...} = S и поло- жив Л(Х) = Л8(Х), где As (А) есть замкнутая линейная оболочка в гильбертовом пространстве R всех значений ai(X), а2(М, ... Поскольку для любой функции а(Х)^Л найдется последовательность линейных комбинаций вида 2здь(^)» сходящаяся в L2(R) к а(Х), то некоторая под-
Дополнение 255 последовательность 2^а(М сходится к а (К) п. в., так k что а (20 Л s (20 при почти всех X, и поэтому для любой другой полной системы S' = а2 (2«), . . . J в А ^Z2(7?) имеем (20 = Л8(20 п. в. В этом смысле рассматриваемая п. в. пространство-функ- ция A (K)f — оо < X < оо, определяется равенством А = = AS(V) однозначно. Лемма. Подпространство L = V eiuA £= 7? (7?) —оо</<оо (Д-6) состоит из всех функций х(к), — °° < X < °°, принадлежа- щих Л2 (7?), значения которых удовлетворяют условию х(К)^А(К) п.в> (Д-7) Доказательство. По определению подпростран- ства L^L2(R) всякая функция x(K)^L есть предел функций вида где ah(K)^A, и, очевидно, А значения #(20 удовлетворяют условию (Д.7). Далее за- метим, что для любой функции й(л)еЛ и скалярной (оо \ J | с (Z)|21| а (X) ||2d% < сю I произведение я (20 = с (20 а (20 есть функция из под- пространства L, поскольку функция с (20 может быть сколь угодно точно аппроксимирована в среднем (с весом g (20 = На (20II2) линейными комбинациями вида ^скеШ]1 А и для некоторой последовательности вида 3^Х/^аЯ (20 А в L2(7?) имеем j Р (Ь) - S eUfftcfta (X) ||а dK *= -о© II & II ш*|а g(A)d%->0.
256 Дополнение Аналогично, для любых функций ai(X), ..., лг(Л) из А и векторной измеримой функции c(Z) = {ci(X), .. ., cr(X)}, оо z удовлетворяющей условию J с (X) g (X) с (Z)* dk < оо (где , g(Z) — положительная матричная функция с компонента- ми gPq(k) = UP(X), ag(X)}, р, q = 1, ..., г), функция г х (к) =« У ср(к) ар(к) принадлежит подпространству L, по- p=i скольку векторная функция с (X) может быть сколь угодно точно аппроксимирована в среднем (с весом g(k)) линей- ными комбинациями вида ^elKthck (с векторными ко- h эффициентами ck = {cAi, . . ., сАг}), и для некоторой после- довательности функций 2 в L2(R) k Р=1 имеем 2 chpap(K) k Р=1 '2 I = g (Х)Гс (Л) - 2 k ->0. Возьмем теперь произвольную функцию х №L2(R), удовлетворяющую условию (Д.7), и полную систему функций 6Zi (2t), &2(Х), .. . из Л, значения которых порож- дают подпространство A(k)^R при п. в. X. Проекция (в гильбертовом пространстве R) величины х(а)е/1(/,) на подпространство, порожденное конечным числом вели- чин Д1(Х), . . ., &Г(Х), имеет вид Хг (к) =* 2 Ср(к) (1р (к), Р=1 где коэффициенты Ci(X), . . ., сг(к) как функции от к яв- ляются измеримыми в силу того, что для любых функций х(к), у (к) из L2(R) скалярное произведение tc(Z), у (к)} является измеримой функцией от к. Мы показали выше, что xr(k)^L. Но при каждом фиксированном к II# (X) — Xr (X) II2 -> 0 при Г -> оо?
Дополнение 257 причем Их (А.)— хг(А)И2 С Их (А) II2, и, следовательно, J || х (А)— хт (X) ||2 dk -> 0 при г—>-оо, — оо так что х(к)^ L. Лемма доказана. Согласно этой лемме подпространство н = V е*«Л/27? Е L2 (7?) — оо<7<оо состоит из всех тех функций х(А)^ L2(R), значения ко- торых удовлетворяют условию х(А)е/Л? и. в., (Д.8) и условие регулярности (Д.5) можно выразить следую- щим образом ДД) = Л7Гй и.-в., (Д.9) где А(Х), — оо < х < оо, обозначает пространство-функ- цию, порождаемую подпространством А = Н © Но L2(R). Предположим теперь, что существует некоторая опера- торная функция х|д класса Н1: оо J е~^-г{Арх.г, у} dk = 0 при t < О —оо для всех х, у из /?, удовлетворяющая требованиям (Д.З), (Д.4). Очевидно, функция х (Z) = е L2 (R) удов- летворяет условию (Д.8) и, следовательно, принадлежит подпространству н = ~V еш/1/2Я- — ЭО</<ОО Кроме того, j e~iu (х(А), dk = j e-iX({i|)xx, y}dk = 0 при i<0, --OO -OO т. e. функция #(Z), — оо < X < оо, ортогональна подпрост- 17 ю. А. Розанов
258 Дополнение ранству Яо = V иначе гойоря, функция х (X) = /<о = /Г1/2Фхж> — оо < X < оо, принадлежит подпространству А = Н © Но. Поэтому п. в., и в силу соотношений (Д.З) получаем, что А(^) = Я/2^ п- в-, откуда следует условие регулярности (Д.5). Теорема полностью доказана.
ПРИЛОЖЕНИЕ ГЛАВА I § 1 Понятие стационарного процесса введено Хинчи- ны м’ (2, 1934). §§ 2-3 Стохастические интегралы, описанные в § 2, по-види- мому, были впервые рассмотрены Винером; в неявной форме они встречаются в работе Винера (1, 1923). Стохастические интегралы этого типа являются част- ным случаем интегралов по мере со значениями в гиль- бертовом пространстве, являющихся общепринятыми в спектральной теории операторов (см., например, книгу Рисса иСекефальви—Надя1*1). Интегралы от случайных функций по обычной мере, рассмотренные в § 2, представляют собой обобщение ин- теграла Лебега на абстрактные функции, данное Бох- нером (1, 1933). § 4 Спектральное представление стационарного процесса впервые появилось, по-видимому, в работах Колмого- рова (1, 1939), (2, 1941), (3, 1941); изложенное в § 4 доказательство теоремы 4.1 о спектральном представле- нии дано в работе Колмогорова (2,1941). Теорема 4.1 может быть получена и непосредственно, без использования результатов о спектральном разложе- нии однопараметрических групп унитарных спектров (см. Карунен (1, 1947)]. 17*
260 Приложение § 5 Свойства корреляционных функций стационарных про- цессов, описанные в § 5, были исследованы впервые X и н- чиным (2,1934) для непрерывного времени. Получен- ные им результаты были перенесены на случай дискрет- ного времени Воль дом (1,1938) и на многомерный случай — Крамером (1,1940). Общие свойства поло- жительно определенных функций были исследованы еще Бохнером (2,1933). § 6 Результаты § 6 принадлежат Хин чину (2,1934). Интересное уточнение этих результатов было дано Лоэвом (1,1945). Разложение типа (6.22) стационарного процесса с ог- раниченным спектром часто используется в радиотехни- ческой литературе. §§ 7-9 Результаты §§ 7—9 являются обобщением на много- мерный случай, а также на случай непрерывного времени некоторых фактов, содержащихся в работе Колмого- рова (2, 1941). § Ю Лемма 10.3 о факторизации положительно определен- ной матричной функции с рациональными элементами яв- ляется, по-видимому, новой; доказательство ее было пред- ложено Поляком (1, 1959). ГЛАВА П § 1 Задача линейной экстраполяции была поставлена и полностью решена для одномерных стационарных процес- сов с дискретным временем Колмогоровым (1,1939), (2,1941), (3,1941).
Приложение 261 § 2 Результаты § 2 являются многомерным обобщением соответствующих результатов, содержащихся в работе Колмогорова (1,1941). § 3 Разложение (3.7) было введено Вольдом (1,1938) для одномерных процессов [см. также Колмогоров (2, 1941), Засухин (1,1941)]. § 4 Теорема 4.1 о факторизации коротко формулируется в книге Дуба [*3. Связь задач линейной экстраполяции и граничных за- дач для аналитических матриц отмечалась Крейном; в частности, о связи максимальной матрицы и фундамен- тального процесса им было рассказано в лекциях, прочи- танных в Московском университете в 1958 г., в них же была подробно доказана теорема Засухина (см. ниже § 6). Подробное изложение этого круга вопросов можно найти bi работах Розанова (2,1958), (8,1960). Граничные свойства аналитических матриц довольно подробно освещены в ряде работ (см., например, статью Потапова (1,1955)),в частности, известно, что макси- мальная матричная функция может быть представлена в виде мультипликативного интеграла [Потапов (1,1955), Мазани (4,1959)]. Общий вид максимальной матрицы в случае рацио- нального спектра был найден Розановым (8,1960). § 5 Теоремы 5.1, 5.3, 5.4 принадлежат Колмогорову (2, 1941). Основное соотношение (5.11) является следствием од- ной теоремы Сеге (1, 1920). Доказательство теоремы 5.2 с небольшими изменения- ми взято из работы Хелсона и Лауденслегера (1,1958). § 6 Критерий линейной регулярности стационарных про- цессов максимального ранга, даваемый теоремой 6.1, впер- вые появился в заметке Засухина (1,1941).
262 Приложение Основное соотношение (6.9) было впервые получено, по-видимому, Винером и Мазани (1,1957). § 7 Вопрос о стационарных процессах, образующих базис, подробно рассматривается в работе Розанова (6, 1960); в частности, в этой работе доказывается, что условие (7.2) теоремы 7.1 является не только достаточным, но и необ- ходимым для того, чтобы значения соответствующего ста- ционарного процесса образовывали базис. Формула (7.22) для максимальной матрицы принад- лежит Винеру и Мазани (1, 1958). Некоторые обоб- щения этой формулы получены Мазани (2,1958). § 8 Критерий регулярности для стационарных процессов с вырожденными спектральными плотностями впервые был получен для двумерных процессов Винером и Мазани (2, 1959) и для произвольных процессов ранга 1 — Розановым (3, 1959). Обобщение этого критерия на случай любого ранга было дано Матвеевым (1, 1959). Решение задачи линейной экстраполяции и других вопросов спектральной теории стационарных процессов ранга 1 было дано Розановым (3,1959). § 9 Общее решение задачи фильтрации, содержащееся в § 9, излагается, по-видимому, впервые. §§ Ю-11 Задача линейной интерполяции рассматривалась в ра- ботах Колмогорова (3, 1941), Я г л о м а (1,1949), Розанова (1, 1957), (7, 1960) и др. Интерполяционные формулы этого параграфа предло- жены Розановым (7,1960). Условие (10.13) минимальности стационарного про- цесса получено в одномерном случае Колмогоровым (2, 1941), а в многомерном Розановым (1, 1957), Ма- зани (1, 1958). Условие (10.28) интерполируемое™ стационарного процесса принадлежит Яг л ому (1,1949).
Приложение 263 ГЛАВА III § 1 Задача линейной экстраполяции стационарных процес- сов с непрерывным временем рассматривалась в книге Винера (1, 1949) [см. также Крейн (1,1944), Ка- ру н е н (2, 1950)]. Чрезвычайно интересные результаты, обнаруживаю- щие связь задачи линейного прогнозирования с задачами дифференциальных уравнений, получены Крейном (2, 1954). § 2 Аналитический прием, позволяющий свести случай не- прерывного «времени» к дискретному, описанный в § 2, был использован Крейном (1,1944) и затем обобщен на многомерный случай Гладышевым (1,1959). § 3 Разложение Вольда для стационарных процессов с не- прерывным временем было получено впервые Ханне-, ром(1, 1949), причем это разложение было получено им без использования спектрального представления процесса. Исходя из спектрального представления, к такому же результату пришел Карунен (2,1950). §§ 4 и 5 Формула (4.14), определяющая максимальную функ- цию, принадлежит Крейну (1,1944). Излагаемое решение задач линейной экстраполяции и фильтрации стационарных процессов с рациональными спектральными плотностями является небольшой _модифи- кацией решения, предложенного Яг л омом (2,1952), (3, 1955), (4, 1960). § 6 Задача линейной интерполяции стационарных процес- сов с непрерывным «временем» впервые рассматривалась Каруненом (3,1952); в частности, ему принадлежит условие (6.13) интерполируемости стационарных про- цессов.
264 Приложение Решение задачи линейной интерполяции многомер- ных процессов с рациональными спектральными плотно- стями было предложено Ягломом (4.1960). § 7 Задача линейного прогнозирования по значениям на конечном интервале в общем случае рассматривалась Крейном (2,1954). Специальный случай рационально- го спектра рассмотрен Ягломом (4, 1960). Предлагаемый в § 7 метод решения интегральных уравнений типа (7.5) с его различными приложениями излагается в работе Писаренко и Розанова (1,1962) [см. также Долф и Вудбери (1,1952)]. ГЛАВА IV § 1 Понятие стационарного в узком смысле случайного процесса было введено Xинчиным (2, 1934). § 2 Возможность задания случайного процесса при помо- щи согласованного набора конечномерных распределений дается известной теоремой Колмогорова. § 3 Связь теории стационарных в узком смысле процессов с общей теорией, сохраняющих меру преобразований, бы- ла давно ясна специалистам. § 4 Об измеримости случайных процессов см., например, книгу Дуба[*]. § 5 Эргодическая теорема впервые была доказана Б и р к- гофом (1, 1931) для некоторого специального класса со- храняющих меру преобразований. Общий случай был рас- смотрен Хинчиным (1,1932).
Приложение 265 Излагаемое в § 5 доказательство эргодической теоре- мы является перефразировкой доказательства Колмогоро- ва (4, 1938). § 6 Условие метрической транзитивности гауссовских про- цессов впервые получил Маруяма (1, 1949), см. также Гренандер (1,1950). § 7 Описание метрически транзитивных стационарных про- цессов, даваемое в § 6, находится в довольно близкой свя- зи с теоремой Неймана (1, 1932) о динамических систе- мах с дискретным спектром; см. также книгу Блан- Лапьера и Форте (1,1953). § 8 Разложение на метрически транзитивные компоненты динамических систем классического типа было указано Нейманом (1,1932). Общий случай был рассмотрен Рохлиным (1,1949). § 9 Свойство регулярности стационарных процессов рас- сматривалось в работе Винокурова (1,1956). Условие (9.6) было введено в одной работе Розен- блата (1, 1956) для случая стационарной последова- тельности. § 40 Свойство полной регулярности гауссовского стацио- нарного процесса было исследовано Колмогоровым и Розановым (1,1960). Предложение леммы 10.1, играющее важную роль во многих вопросах, содержится в работе Обухова (1, 1938). Различного рода свойства спектральной плотности вполне регулярного гауссовского стационарного процесса установлены Ибрагимовым (2,1961). Понятие максимального коэффициента корреляции двух случайных величин было введено Гебелейном
266 Приложение (1, 1941); из его же результатов вытекает лемма 8.2 [см. также Сарма нов (1,1958)]. Показатель р (1) = р (О, Ht(t +1)] ВЫЧИСЛЯЛСЯ в работе Хе л со и а и Сеге (1,1960). § И Центральная предельная теорема для слабозависимых величин общего типа была получена еще Бернштей- ном (1, 1927). Теоремы 11.1 и 11.2 принадлежат Розанову [см. Волконский.и Розанов (1, 1959)]. Довольно близ- кие результаты получены Ибрагимовым (1,1960). Различные уточнения центральной предельной теоре- мы (асимптотические разложения и большие уклонения) даны для вполне регулярных процессов Статуляви- чусом (1, 1962). Важные результаты конкретного характера (касаю- щиеся геодезических потоков на поверхностях отрица- тельной кривизны) были получены Синаем (1,1960).
СПИСОК ЛИТЕРАТУРЫ ОБЩАЯ ЛИТЕРАТУРА А х и е з е р И. И. Лекции по теории аппроксимации.— М.; Л., 1947. Гантмахер Ф. Р. Теория матриц.—4-е изд.— М., 1988. Гельфанд И. М. Лекции по линейной алгебре.— 4-е изд.— М., 1971. Гнеденко Б. В. Предельные теоремы для сумм независимых случайных величин / УМН.— 1944.— Т. 10.— С. 115—165. Колмогоров А. Н. Основные понятия теории вероятностей.— 2-е изд. — М., 1974. Крамер Г. Математические методы статистики.— 2-е изд.— М., 1975. Крылов В. И. О функциях, регулярных в полуплоскости Ц Мат. сборник - 1938 - Т. 4,'№ 46 - С. 9-30. Лаврентьев М. А., Шабат Б. В. Методы теории функций комплексного переменного.— 5-е изд.— М., 1988. Понтрягин Л. С. Непрерывные группы. 4-е изд,— М., 1984. Привалов И. И. Граничные свойства аналитических функций— 2-е изд.— М., 1950. Рисе Ф., Секефальви-Надь Б. Лекции по функциональ- ному анализу.— 2-е изд.— М., 1979. X а л м о ш П. Р. Теория меры.— М., 1953. Харди Г. Г., Литтлвуд Д. Е., Полна Г. Неравенства.— М., 1948. СПЕЦИАЛЬНАЯ ЛИТЕРАТУРА Бернштейн С. Н. 1. Распространение предельной теоремы теории вероятностей на суммы зависимых величин Ц УМН.— 1944.— Т. 10.— С. 65—114 (впервые эта статья опубликована в 1927 г. на французском языке). Б и р к г о ф (G. D. Birkhoff) 1. Proof of the ergodic theorem ]/ Proc. Nat. Acad. Scr. USA.— 1931.— T. 17.— C. 656—660. Блан-Лапьер, Форте (A. Blane-Lapierre, R. Fortet) 1. Theorie des fonctions aleatoires.— Paris, 1953. Бохнер (S. Bochner) 1. Integration von Functionen, deren Verte die Elemente eines Vektorraumes sind Ц Fund. Math.— 1933.— T. 20.— C. 262—276. 2. Monotone Funktionen, Stiltjessche Integrate und harmonische Analyse Л Math. Ann.— 1933.— T. 108.— C. 378—410.
268 Список литературы Винер (N. Wiener) 1. Extrapolation interpolation and smoothing of stationary time series. With engineering applications.— Cambridge — New York, 1949. 2. On the factorisation of matrices // Comm. Mat. Helv.— 1955.— T. 29.— C. 97—111. Винер, Мазани (N. Wiener, P. Masani) 1. The prediction theory of multivariate stochastic processes, I Ц Acta Math.— 1957.—T. 98.—C. 111—150; II, Acta Math.— 1958.— T. 99.— C. 93—137. 2. On bivariate stationary processes and the factorization of mat- rixvalued functions Ц Теория вероятн. и ее примен.— 1959.— Т. IV, в. 3.— С. 322-331. Винокуров В. Г. 1. Условия регулярности вероятностных процессов Ц ДАН СССР.- 1957.-Т. 113, № 5. ВолконскййВ. Н., Розанов Ю. А. 1. Некоторые предельные теоремы для случайных функций, часть I Ц Теория вероятн. и ее примен.— 1959.— Т. 4, в. 2.— С. 186-207. В о л ь д (Н. Wold) 1. A study in the analysis of stationary time series.— Uppsala, 1938. Гебеле йн (H. Gebelein) 1. Das statistische Problem der Korrelation als Variations und Eigenwetproblem und sein Zusammenhang mit der Ausglech- srech. Ц Z. angew. Math, und Meeh.— 1941.— T. 21.— C. 364. Гладышев E. Г. 1. О многомерных стационарных случайных процессах Ц Теория вероятн. и ее примен.— 1958.— Т. III, в. 4.— С. 458— 462. Гренандер (U. Grenander) 1. Stochastic processes and statistical Inference Ц Ark. for Mat.— 1950.— T. 1, 4. 3.—C. 195—227. Д о л ф, Вудбери (C. L. D о 1 p h, H. A. W о d b u r y) 1. On the relation between Green’s functions and covariances of certain Stochastic processes and its application to unbiased lenear prediction Ц Trans. Amer. Math. Soc.— 1952.— T. 72.— C. 519-550. Заде, Рагазини (L. A. Zadeh, R. Ragazzini) 1. Extension of Wiener’s theory of prediction // J. Appl. Phys.— 1950.— T. 21.— C. 645-655. ЗасухинВ. H. 1. К теории многомерных стационарных процессов Ц ДАН СССР.— 1941.— Т. 33.— С. 435—437. Ибрагимов И. 1. Некоторые предельные теоремы для стационарных в узком смысле вероятностных процессов Ц ДАН СССР.— 1959.— Т. 125.—С. 711—714. 2. О спектральных функциях некоторых классов стационар- ных гауссовских процессов Ц ДАН СССР.—1961.— Т. 137.— С. 1046—1048. Карунен (К. Karhunen) 1. Uber lineare Methoden in der Wahrscheinlichkeit srechnung Ц Ann. Acad. Sci. Fennicae. Ser. A. Math. Phys.— 1947.— T. 37.— C. 3-79.
Список литературы 269 2. Uber die Struktur stationaren zufalligen Funktionen Ц Ark. Mat.— 1950.— T. 1.— C. 141—160. 3. Zur interpolation von stationaren zufalligen Funktionen Ц Ann. Acad. Sci. Fennicae. Ser. A. Math, Phys. 1952.— T. 142.— C. 3-8. Колмогоров A. H. 1. Sur 1’interpolation et extrapolation des suites stationnaries Ц C. R. Acad. Sci. Paris.— 1939.— T. 208.— G. 2043—2045. 2. Стационарные последовательности в гильбертовом простран- стве // Бюлл. МГУ.— 1941.— Т. 2, № 6.— С. 1—40. 3. Интерполирование и экстраполирование стационарных слу- чайных последовательностей // Изв. АН СССР. Сер. мат.— 1941.—Т. 5.—С. 3—14. 4. Упрощенное доказательство эргодической теоремы Биркго- фа —Хинчина // УМН.—1951.-Т. 5.-С. 52-59. Колмогоров А. Н., Розанов Ю. А. 1. Об условиях сильного перемешивания гауссовского стацио- нарного процесса Ц Теория вероятн. и ее примен.— I960.— Т. V, в. 2.— С. 222-227. Крамер (Н. Cramer) 1. On the theory of stationary random processes Ц Ann. Math. 1940.— T. 41.— G. 215—230. Крейн M. Г. 1. Об одной экстраполяционной проблеме А. Н. Колмогорова Ц ДАН СССР.— 1944.— Т. 46.— С. 306—309. 2. Об основной аппроксимационной задаче теории экстраполя- ции и фильтрации стационарных случайных процессов Ц ДАН СССР.- 1954.- Т. 94.- С. 13-16. Л о э в (М. L о ё v е) 1. Sur les fonctions aleatoires stationnaires de second ordre Ц Rev. Sci.— 1945.- T. 83.— G. 297-303. Мазани (M. P. M a s a n i) 1. Sur les processus vectoriels minimaux de rang maximal Ц Comptes rendus.— 1958.— T. 246.— C. 2215—2217. 2. Sur la prevision lineaire d’un processes vectoriel a densite spectrale non bornee Ц Comptes rendus.—1958.— T. 246.— C. 2337—2339. 3. Sur la fonction generatrice d’un processus stochastique vecto- riel Ц Comptes rendus.— 1959.— T. 249.— C. 360—362. 4. Sur les fonctions matricielles de la classe de Hardy H2 Ц Comptes rendus.— 1959.— T. 249.— C. 906—907. Маруяма (G. Maruyama) 1. The harmonic analysis of stationary stochastic processes // Mem. Fac. Sci. Kyusyi. Univ. A.— 1949,— T. 4.— C. 45—106. M а т в e e в P. Ф. 1. О регулярности многомерных стационарных процессов Ц ДАН СССР.— 1959.- Т. 126, № 5. Нейман (J. V. Neumann) 1. Zur Operatorenmethode in der klassischen Mechanic Ц Ann. of Math.— 1932.— T. 33.— C. 587. Обухов A. M. 1. Нормальная корреляция векторов Ц Изв. АН СССР. Отдел мат. и естеств. наук.— 1938, № 3,— С. 339—370. Пинскер М. С. 1. Теория кривых в гильбертовом пространстве со стационар-
270 Список литературы пыми n-ми приращениями Ц Изв. АН СССР. Сер. мат.— 1955.— Т. 19.— С. 319—345. Писаренко В. Ф., Розанов Ю. А. 1. О некоторых задачах для стационарных процессов, приво- дящих к интегральным уравнениям, родственным уравне- нию Винера — Хопфа Ц Проблемы передачи информации,— 1962.- В. 14. II о л я к Д. Г. 1. Дипломная работа.— МГУ, 1959. Потапов В. П. 1. Мультипликативная структура Z-нерастягивающих матрич- нозначных функций Ц Тр. Моск. мат. о-ва.— 1955.— Т. 5.— С. 125—237. Розанов Ю. А. 1. О линейном интерполировании стационарных процессов с дискретным временем Ц ДАН СССР.— 1957.— Т. 116.— С. 923—926. 2. Спектральная теория многомерных стационарных случай- ных процессов с дискретным временем Ц УМН.— 1958.— Т. XIII, в. 2(80).- С. 93-142. 3. Линейная экстраполяция многомерных стационарных процес- сов ранга 1 с дискретным временем Ц ДАН СССР.— 1959.— Т. 125, № 2.— С. 277-280. 4. К экстраполяции обобщенных случайных стационарных процессов Ц Теория вероятн. и ее примен.— 1959.— Т. IV, в. 4.— С. 465—472. 5. О центральной предельной теореме для аддитивных случай- ных функций Ц Теория вероятн. и ее примен.— 1960.— Т. V, в. 2.— С. 243-246. 6. О стационарных последовательностях, образующих базис Ц ДАН СССР.- I960.— Т. 130, №; 6.— С. 1199-1202. 7. Об интерполировании стационарных процессов с дискретным временем Ц ДАН СССР.— I960.— Т. 130 — С. 730—733. 8. Спектральные свойства многомерных стационарных процес- сов и граничные свойства аналитических матриц Ц Теория вероятн. и ее примен.— 1960.— Т. V, в. 4.— С. 399—414. 9. On application the central limit theorem Ц Proceedings of the Tourth Berkeley Symposium on Mathematical Statistical and Probability.— 1960. Розенблат (M. Rosenblatt) 1. A central limit theorem and a strong mixing condition Ц Proc. Nat. Acad. Sci.— 1956 — T. 42, N 1. P о x л и н B. A. 1. Избранные вопросы метрической теории динамических си- стем // УМН.— 1949.— Т. IV, в. 2.— С. 57—128. Сарманов О. В. 1. Максимальный коэффициент корреляции Ц ДАН СССР.— 1958.— Т. 120.— С. 715—719. Сеге (G. S z е g б) 1. Beitriige sur Theorie der Toeplizschen Formen Ц Math. Zeitschr.— 1920.— T. 6.— C. 167—202. Синай Я. Г. 1. Центральная предельная теорема для геодезических потоков на многообразиях постоянной отрицательной кривизны Ц ДАН СССР.—I960.—Т. 133.—С. 1303-1306.
Список литературы 271 Статулявичус В. А. 1. Об уточнениях предельных теорем для слабо зависимых слу- чайных величин Ц Тр. VI Всесоюзного совещания по теории вероятности и математич. статистике.— Вильнюс, 1962. Ханнер (О. Н a n п е г) 1. Deterministic and non-deterministic stationary random proces- ses Ц Ark. Mat.- 1950.-T. 1.—C. 161. Хелсон, Лауденслегер (H. Helsan, D. Lowdenslager) 1. Prediction theory and Fourier series in several variables, I Ц Acta Math.— 1958.—T. 99.—C. 165—202; II. Acta Math.— 1961.— T. 106.— C. 175—213. Хелсон, Сеге (H. Helson, G. S z e g 6) 1. A problem in prediction theory Ц Ann. Mat. pura ed appl. I960.— T. 51.- C. 107—138. X и н ч и н А. Я. 1. Zur Bickhoffs Losung des Ergodenproblems Ц Math. Ann.— 1932.— T. 107.— C. 485—488. 2. Теория корреляции стационарных случайных процессов Ц УМН.— 1938.— Т. 5.— С. 42—51 (впервые эта статья была опубликована в 1934 г. на немецком языке). Я г л о м А. М. 1. К вопросу о линейном интерполировании стационарных слу- чайных последовательностей и процессов Ц УМН.— 1949.— Т. 4, в. 9.—С. 171—178. 2. Введение в теорию стационарных случайных функций Ц УМН.- 1952.- Т. 7(5).- С. 3-168. 3. Экстраполирование, интерполирование,и фильтрация стацио- нарных случайных процессов с рациональной спектральной плотностью Ц Тр. Моск. мат. о-ва.— 1955.— Т. 4.— С. 237— 278. 4. Эффективные решения линейных аппроксимационных задач для многомерных стационарных процессов с дискретным спектром Ц Теория вероятностей и ее применения.— I960.— Т. V, в. 3.— С. 265—292.
Научное издание Розанов Юрий Анатольевич СТАЦИОНАРНЫЕ СЛУЧАЙНЫЕ ПРОЦЕССЫ Теория вероятностей и математическая статистика выпуск 42 Заведующий редакцией А. П. Баева Редактор В. В. Абгарян Художественный редактор Г. М. Коровина Технический редактор С. Я. Шкляр Корректоры М. Н. Дронова, Л. С. Сомова ИБ № 41113 Сдано в набор 30.03.89. Подписано к печати 18.06.90. Фор- мат 84X108/32. Бумага кн.-журнальная. Гарнитура обык- новенная новая. Печать высокая. Усл. печ. л. 14,28. Усл. кр.- отт. 14,28. Уч.-изд. л. 13,86. Тираж 4450 экз. За- каз № 662. Цена 2 р. 80 к. Издательско-производственное и книготорговое объединение «Наука» Главная редакция физико-математической литературы 117071 Москва В-71, Ленинский проспект, 15 Четвертая типография издательства «Наука» 630077 Новосибирск 77, Станиславского, 25