Оглавление
ПРЕДИСЛОВИЕ К РУССКОМУ ИЗДАНИЮ 5
ПРЕДИСЛОВИЕ " 'О
ПЛАН КНИГИ 13
Глава 1. введение и краткое содержание 15
1.1. Три важные практические проблемы 15
1.2. Стохастические и детерминированные динамические математиче-
математические модели 21
1.3. Основные понятия в построении моделей 32
Ч а<\ТЬ I. СТОХАСТИЧЕСКИЕ МОДЕЛИ И ОСНОВАННОЕ НА НИХ
ПРОГНОЗИРОВАНИЕ
Глава 2. автокорреляционная функция и спектр 39
2.1. Автокорреляционные свойства стационарных моделей .... 39
2.2. Спектральные свойства стационарных моделей 52
Приложение П2.1. Связь между выборочным спектром и оценкой ав-
автоковариационной функции 61
Глава 3. линейные стационарные модели 63
3.1. Общий линейный процесс 63
3.2. Процессы авторегрессии 70
3.3. Процессы скользящего среднего 84
3.4. Смешанные процессы авторегрессии — скользящего среднего . 91
Приложение П3.1. Автоковарвации. Производящая функция авто-
ковариаций и условия стационарности общего линейного про-
процесса 98
Приложение П3.2. Рекуррентный метод вычисления оценок парамет-
параметров авторегрессии 99
Глава 4. линейные нестационарные модели 102
4.1. Процессы авторегрессии — проинтегрированного скользящего
среднего 102
4.2. Три формы представления модели авторегрессии — проинтегри-
проинтегрированного скользящего среднего 111
4.3. Процессы проинтегрированного скользящего среднего .... 121
Приложение П4.1. Линейные разностные уравнения 132
Приложение П4.2. Процесс ПСС @, 1, 1) с детерминированным
дрейфом нуля 137
Приложение П4.3. Свойства конечного оператора суммирования . . 138
Приложение П4.4. Процессы АРПСС с добавленным шумом . . . J3?
Оглавление
405
Глава 5. прогнозирование 144
5.1. Прогнозы с минимальной среднеквадратичной ошибкой и их
свойства 144
5.2. Вычисление и подправление прогноза 150
5.3. Прогнозирующая функция и веса прогноза 157
5.4. Примеры прогнозирующих функций и их подправления . . . 162
5.5. Резюме 175
Приложение П5.1. Корреляция между ошибками прогноза .... 177
Приложение П5.2. Веса прогноза для произвольного упреждения . . 180
Приложение П5.3. Прогнозирование при помощи общего проинтегри-
проинтегрированного представления 182
.Часть II. ПОСТРОЕНИЕ СТОХАСТИЧЕСКИХ МОДЕЛЕЙ
Глава 6. идентификация моделей 193
6.1. Цели идентификации 193
6.2. Методика идентификации 194
6.3. Начальные оценки параметров 209
6.4. Многозначность моделей 218
Приложение П6.1. Среднее значение выборочной автокорреляцион-
автокорреляционной функции нестационарного процесса 224
Приложение П6.2. Общий метод получения начальных оценок пара-
параметров смешанного процесса авторегрессии — скользящего сред-
среднего 225
Приложение П6.3. Прямой и возвратный процессы ПСС порядка
@, 1, 1) 229
Глава 7. оценивание модели. 232
7.1. Исследование функций правдоподобия и суммы квадратов . . 232
7.2. Нелинейное оценивание 257
7.3*. Результаты оценивания для некоторых частных моделей . . 270
7.4*. Оценивание при помощи теоремы Байеса 278
Приложение П7.1. Обзор теории нормального распределения . . . 286
Приложение П7.2. Обзор линейной теории наименьших квадратов . 293
Приложение П7.3. Примеры влияния ошибок оценивания параметров
на вероятностные пределы прогнозов 295
Приложение П7.4. Точная функция правдоподобия для процесса
скользящего среднего 297
Приложение П7.5. Точная функция правдоподобия для процесса ав-
авторегрессии 302
Глава 8. диагностическая проверка модели 313
8.1. Проверка стохастических моделей 313
8.2. Диагностические проверки, применяемые к остаточным ошибкам 317
8.3. Использование остаточных ошибок для изменения модели . . 327
Глава 9. модели сезонных рядов 330
9.1. Экономичные модели сезонных временных рядов 330
9.2. Представление данных об авиаперевозках мультипликативной
моделью @, 1, 1)Х@, 1, 1I2 336
9.3. Некоторые аспекты более общих моделей сезонных рядов . . 353
Приложение П9.1 , \ , 361

406 Оглавление
ВСПОМОГАТЕЛЬНЫЕ МАТЕРИАЛЫ
ОПИСАНИЕ ПРОГРАММ ДЛЯ ЭВМ 366
Программа 1. Идентификация стохастической модели 367
Программа 2. Предварительное оценивание стохастической модели 369
Программа 3. Оценивание стохастической модели 372
Алгоритм Марквардта для нелинейного метода наименьших квад-
квадратов 376
Программа 4. Прогнозирование с помощью стохастической модели . 377
СБОРНИК ТАБЛИЦ И ДИАГРАММ 381
СБОРНИК ВРЕМЕННЫХ РЯДОВ, АНАЛИЗИРУЕМЫХ В КНИГИ 388
ЛИТЕРАТУРА. 397
ПРЕДМЕТНЫЙ УКАЗАТЕЛЬ ., .402

14
План книги
В гл. 11 обсуждаются методы идентификации, оценивания и
диагностической проверки модели передаточной функции в при-
присутствии шума. Глава оканчивается описанием способов исполь-
использования таких моделей в прогнозировании.
Часть IV. Проектирование дискретных схем регулирования
(гл. 12 и 13)
В этих двух главах мы показываем, как ранее введенные сто-
стохастические модели и модели передаточных функций можно
объединить при проектировании простых схем управления с пря.
мой и обратной связями.
Первый вариант рукописи книги был завершен в 1965 г. и
издан в 1966—1967 гг. как технические доклады № 72, 77, 79,
94, 95, 99, 103, 104, 116, 121 и 122 факультета статистики уни-
университета шт. Висконсин и № 1—4, 6—11 и 13 факультета си-
системной техники университета в Ланкастере.
Июнь 1969 г.
Дж. Бокс, США
Г. М. Дженкинс, Великобритания
6ЛАВА 1
Введение и краткое содержание
В этой книге мы предложим методы построения, идентифика-
идентификации, подгонки и проверки моделей временных рядов и динами-
динамических систем. Эти методы будут удобны для дискретных систем
с выборкой данных, т. е. таких систем, в которых возможность
произвести наблюдение и предпринять регулирующие действия
возникает через равные интервалы времени.
Мы продемонстрируем использование этих моделей времен-
временных рядов и динамических систем в трех важных прикладных
областях.
1) Прогнозирование будущих значений временного ряда по
его текущим и прошлым значениям.
2) Определение передаточной функции системы — определе-
определение динамической модели вход — выход; с помощью этой мо-
модели можно найти эффект на выходе инерционной системы по
произвольно заданным рядам на входе.
3) Проектирование простых регулирующих схем с прямой и
обратной связями, при помощи которых можно в максимально
допустимых пределах компенсировать потенциальные отклоне-
отклонения выхода системы от желаемого номинала.
1.1. ТРИ ВАЖНЫЕ ПРАКТИЧЕСКИЕ ПРОБЛЕМЫ
1.1.1. Прогнозирование временных рядов
Использование доступных к моменту времени t наблюдений
временного ряда для прогнозирования его значения в некоторый
момент времени в будущем t + I может явиться основой для
а) планирования в экономике и торговле; б) планирования вы-
выпуска продукции; в) складского контроля и контроля выпуска;
г) управления и оптимизации промышленных процессов. Как
описано Холтом и др. [1], Брауном [2] и в монографии фирмы
ICI по краткосрочному прогнозированию [3], существует необ-
необходимость в прогнозе вперед на интервал, называемый временем
упреждения и зависящий от конкретной проблемы. Например,
время упреждения в проблеме складского контроля определено,

16
Гл. 1. Введение и краткое содержание
Гаррисоном [4] как период, начинающийся с момента передачи
заказа на пополнение склада с завода и длящийся до тех пор,
пока заказ не доставлен на склад.
Предполагается, что наблюдения доступны в дискретные,
равноотстоящие моменты времени. Например, в проблеме про-
прогнозирования сбыта сбыт zt, в текущем месяце / и сбыт zt-i
zt-2, ..., zt-z в предыдущие месяцы могут быть использованы
для прогноза сбыта с упреждением / = 1, 2, 3, ..., 12 мес. Обр-
значим через zt(l) сделанный в момент / прогноз сбыта zt+i
в некоторый момент / + / в будущем, т. е. с упреждением I.
28-
26-
22
20
18
16
It
Рис. 1.1. Значения временного ряда (точки) вместе с прогнозирующей функ-
функцией A) и 50%-ными вероятностными пределами B).
Функция zt(l), I = 1, 2 дающая в момент / прогнозы для
всех будущих времен упреждения, будет называться прогнози-
прогнозирующей функцией в момент t. Наша цель — получить такую
прогнозирующую функцию, у которой среднее значение квадрата
отклонения zt+i — it(l) истинного от прогнозируемого значения
является наименьшим для каждого упреждения I.
В дополнение к вычислению наилучшего прогноза необхо-
необходимо также указать его точность, чтобы, например, можно было
оценить риск, связанный с решениями, основанными на прогно-
прогнозировании. Точность прогноза может быть выражена вероят-
вероятностными пределами по обе стороны от каждого прогнозируе-
прогнозируемого значения. Эти пределы можно вычислить для любого удоб-
удобного набора вероятностей, например для 50 и 95%. Смысл этих
пределов в том, что значение временного ряда, которое появится
в соответствующее время, с указанной вероятностью будет ле-
лежать внутри этих пределов. Для иллюстрации на рис. 1.1 пока-
•
* •
-
1
/
Момент
i -
i
Члрешценае
прогноза
- 2
*-*+)
-2-
Гл. 1. Введение и краткое содержание
17
заны 20 последних значений временного ряда, обрывающегося
на времени t. Там же показаны прогнозируемые величины на мо-
момент t для упреждений /=1,2, ..., 13 вместе с 50%-ными
вероятностными пределами.
Методы прогнозирования и оценки вероятностных пределов
подробно обсуждаются в гл. 5.
1.1.2. Оценивание передаточных функций
Изучение динамики процессов представляет большой интерес
для промышленности [5, 6]. Такие исследования проводятся,
чтобы
а) улучшить управление существующим производством,
б) улучшить проектирование новых производств.
к
Щ
-•»¦
Рис. 1.2. Входной и выходной временнйе ряды в динамической системе.
1 — функция отклика, 2 — вход (скорость подачи воздуха), 3 — динами-
динамическая система (печь), 4 — выход (концентрация СО2).
В частности, предложено несколько методов оценивания пе-
передаточных функций производственных единиц по записям про-
процессов, состоящим из входных временных рядов Xt и выходных
временных рядов Yt. Участки таких записей показаны на
рис. 1.2, где вход Xt — количество поступающего воздуха, а вы-
выход Yt — концентрация двуокиси углерода, образующегося
в печи. Наблюдения производились через 9-секундные интер-
интербалы. Гипотетическая функция отклика системы на единичный
импульс, определяющая передаточную функцию системы, пока-
показана на рисунке вертикальными отрезками.
Классические методы оценивания модели передаточных
(Ьункций, основанные на детерминированных возмущениях входа,
|аких, как дельта-импульс, ступенька или синусоида, не всегда
|цают хорошие результаты. Это связано с тем, что при разумных,
И допустимых по величине возмущениях реакция системы может
|ыть замаскирована неконтролируемыми возмущениями, сово-
совокупность которых рассматривается как шум. Статистические ме-
методы оценивания моделей передаточных функций с учетом шума

18
Гл 1 Введение и краткое содержание
описаны в главе 11. Оценка динамических реакций представляет
значительный интерес в экономике, технике, биологии и многих
других областях.
Проблема выбора формы статистического входа, обеспечи-
обеспечивающего хорошую оценку передаточной функции при минималь-
минимальном возмущении системы, кратко рассмотрена в главе 11. Во
многих задачах хороший компромисс достигается использова-
использованием в качестве входного возмущения источника некоррелиро-
некоррелированных входных флуктуации, например псевдослучайных двоич-
двоичных последовательностей, используемых Хэммондом [7] и дру-
другими.
Другое важное приложение моделей передаточных функций—
область прогнозирования. Если, например, можно определить
динамическое соотношение между двумя временными рядами У(
и Xt, то значения обоих рядов, принадлежащие прошлому, мож-
можно использовать для прогнозирования Yt. В некоторых ситуа-
ситуациях этот подход может привести к значительному уменьшению
ошибок в прогнозировании.
1.1.3. Проектирование дискретных регулирующих систем
В прошлом слово «control» (контроль, регулирование, управ-
управление) для статистиков означало обычно методику контроля
качества, разработанную Шьюхартом [8] в США и Дадингом и
Дженнетом [9] в Великобритании.
Недавно повысился интерес к применению принципов после-
последовательного анализа для контроля качества, что привело к вве-
введению диаграмм кумулятивных сумм [10—12] и диаграмм гео-
геометрического скользящего среднего [13].
Слово «control» имеет другое значение для инженера по ре-
регулированию. Он подразумевает под ним контуры прямых и
обратных регулирующих связей, вопросы динамики и устойчи-
устойчивости системы и конкретные устройства для выполнения регу-
регулирующих действий. Эти регулирующие устройства являются
автоматическими в том смысле, что информация о процессе
поступает к ним автоматически и информация на регулирование
входов процесса автоматически выбирается из них.
В этой книге мы описываем статистический подход к прогно-
прогнозированию временных рядов и к разработке регулирующих схем
прямой и обратной связей, развитый в предшествующих статьях
[14—20]. Обсуждаемые методы регулирования ближе к исполь-
используемым инженерами по регулированию, чем к стандартным опе-
операциям по контролю качества, развитым статистиками. Это не
означает, что мы считаем традиционные диаграммы контроля
качества ненужными; простб они выполняют функции, которые
мы не рассматриваем в этой работе. Важная функция стандарт-
Гл. 1 Введение и краткое содержание
19
ных диаграмм контроля качества — обеспечить способ непре-
непрерывного просмотра для обнаружения возможных причин откло-
отклонения. Удобное изображение данных о продукции позволяет ли-
лицам, управляющим процессом, быстро обнаружить изменения.
Зная ответ на вопрос: «Когда произошли изменения этого ти-
типа?», мы можем спросить: «Почему они произошли?». Это соз-
создает непрерывно действующий стимул к улучшению процесса,
часто ведущий к его переосмысливанию.
Напротив, регулирующие схемы, обсуждаемые в этой книге,
предназначены для периодических, оптимальных регулировок
управляющего переменного, влияние которого на некоторые ха-
характеристики качества выхода уже известно. Это позволяет
уменьшить отклонения этой характеристики качества от неко-
некоторой желаемой величины.
Причина, по которой необходимо регулирование, заключается
в неизбежном присутствии в процессе возмущения или шума.
Когда мы можем измерять эти возмущения, возникает возмож-
возможность провести необходимые компенсирующие изменения неко-
некоторых других переменных. Такой способ называется регулиро-
регулированием с прямой связью. Вместо этого или в дополнение к этому
мы можем использовать отклонения от желаемого значения, или
«сигнал ошибок» выходной характеристики, для вычисления
компенсирующих изменений. Такой способ называется регулиро-
регулированием с обратной связью. В отличие от первого способа этот
вид коррекции может быть использован даже тогда, когда источ-
источник возмущений не известен достаточно точно или величина
возмущения не измерена. В общем плане может оказаться це-
целесообразным использование регулировок как с прямой, так и
с обратной связью; первая может быть использована для ком-
компенсации измеряемых возмущений, а вторая — для компенса-
компенсации неизмеряемых.
Принятый здесь подход к регулированию заключается в вы-
выборе для описания возмущений соответствующего временного
ряда, или стохастической модели, и для описания инерциаль-
ных характеристик системы — подходящей модели передаточной
функции.
Тогда появляется возможность вывести уравнение регулиро-
регулирования. Это уравнение позволяет рассчитать необходимые дей-
действия в любой момент времени по заданным настоящему и пре-
предыдущему состояниям системы. Под «оптимальным» действием
"Понимается такое, которое приводит к минимальной среднеквад-
среднеквадратичной ошибке на выходе.
Выполнение регулирующего действия, указываемого уравне-
уравнением регулирования, может быть достигнуто различными путями
?в зависимости от уровня технологии. В этой книге мы не бу-
будем указывать, какие средства должны быть использованы в

20
Гл. 1. Введение и краткое содержание
конкретных ситуациях. Однако стоит упомянуть, что на одном
полюсе мы имеем регулирование, осуществляемое с применением
ЭВМ; действие, указываемое уравнением регулирования, вычис-
вычисляется на ЭВМ. Оно автоматически реализуется соответствую-
соответствующими датчиками, например, открывающими и закрывающими
клапаны, регулирующие переменные процесса: температуру,
давление, скорость потока. На промежуточном уровне суще-
существуют автоматические регуляторы, использующие для выпол-
выполнения регулирующих действий различные пневматические и
электрические устройства. На другом полюсе действие, предпи-
предписываемое уравнением регулирования, определяется по соответ-
соответствующей номограмме или диаграмме. Оператор периодически
берет один или несколько отсчетов, наблюдений или определе-
определений, справляется по номограмме, какое действие необходимо
предпринять, и затем вручную вводит необходимые изменения
в процесс.
Даже в современной промышленности часто встречаются си-
ситуации, где используется ручное регулирование, которое может
быть улучшено. В гл. 12 кратко рассматривается подготовка
диаграмм и номограмм, по которым в простых случаях можно
определить оптимальные регулирующие действия. Например,
верхняя диаграмма на рис. 1.3 показывает ряд измерений вяз-
вязкости полимера, выполняемых с часовым интервалом в течение.
42 ч. Вязкость должна поддерживаться вблизи значения 90 еди-
единиц. После каждого измерения вязкости оператор процесса ис-
использует номограмму, показанную в середине рисунка, для вы-
вычисления необходимой оптимальной регулировки управляемой
переменной (подачи газа). На нижней диаграмме рис. 1.3 по-
показана регулировка, сделанная в соответствии с номограммой.
На практике точная природа стохастических моделей и мо-
моделей передаточных функций, пригодных для любой конкретной
ситуации и необходимых для разработки схем оптимального
регулирования, обычно неизвестна. Далее, неизвестны соответ-
соответствующие численные значения параметров этих моделей. По-
Поэтому, как это почти всегда бывает при построении моделей, нам
приходится использовать итеративный метод.
Любые доступные записи и дополнительная информация мо-
могут использоваться для разработок пробной регулирующей схе-
схемы, которая должна управлять процессом в течение некоторого
периода. Данные рис. 1.3 были получены при реализации такой
схемы. В гл. 12 показано, как по данным такой регулирующей
схемы, состоящим из отклонений от требуемого значения харак-
характеристики качества и соответствующих регулировок, может быть
проведен статистический анализ. В результате можно изменить
модель и оценки параметров, что приведет к улучшению регули-
регулирующей схемы.
Гл. 1. Введение и краткое содержание
21
Хотя наши приложения часто имели отношения к ручным
|емам регулирования, обсуждаемые методы могут быть с успе-
m использованы в процессах, управляемых вычислительной
|шшной, как'описано, например, Офтоном [21]. При этом удает-
f следить одновременно за большим числом регулируемых пе-
пененных, используя для каждой свой управляющий алгоритм.
ри помощи ЭВМ может быть также обеспечено взаимодействие
вязкость
38
90
82
Предыдущая
Вязкость
110 г
Контрольная
номограмма
Запись
Подача
газа
100
п
-50
-то
wo
90
80
70
текущая
Вязкость
30
во
70
Регулировка
подачи газа
100
50
О
50
100
1с. 1.3. Контроль вязкости. Запись наблюденной вязкости и регулировка
подачи газа согласно номограмме.
жду несколькими контурами управления. Многие современ-
|е схемы прямого цифрового управления (ПЦУ), использую-
jjjk ЭВМ, основаны на замене стандартных одно-, двух- и трех-
|денчатых регуляторов соответствующими численными алго-
Цмами. Подход, который мы опишем здесь, может привести
Целее общим управляющим алгоритмам, чем те, которые при-
причлись до сих пор, и более гибкому использованию цифровой
рислительной машины.
СТОХАСТИЧЕСКИЕ И ДЕТЕРМИНИРОВАННЫЕ
ДИНАМИЧЕСКИЕ МАТЕМАТИЧЕСКИЕ МОДЕЛИ
Идея использования математических моделей для описания
ведения физических объектов является общепризнанной,
.частности, иногда удается получить модель, основанную на

22
Г л 1. Введение и краткое содержание
Гл. 1 Введение и краткое содержание
23
физических законах, что дает возможность вычислить почти
точное значение какой-либо зависящей от времени величины
в любой момент времени. Например, мы можем вычислить траек-
траекторию ракеты, запущенной в известном направлении с извест-
известной скоростью. Если были бы возможны точные вычисления,
такая модель была бы целиком детерминированной.
Вероятно, эта задача не является целиком детерминирован-
детерминированной, потому что в ней может участвовать ряд неизвестных фак-
факторов, например переменная скорость ветра, которая может
слегка отклонить ракету от курса. Во многих проблемах мы
должны исследовать объекты, зависящие от времени, например,
такие, как месячный сбыт газетной бумаги, в которых действует
большое число неизвестных факторов. Для таких объектов
нельзя предложить детерминированную модель, допускающую
точное вычисление будущего поведения объекта. Тем не менее
можно предложить модель, позволяющую вычислить вероят-
вероятность того, что некоторое будущее значение будет лежать в оп-
определенном интервале. Такая модель называется вероятностной
или стохастической. Модели временных рядов, необходимые для
получения оптимального прогнозирования и регулирования,
в действительности являются стохастическими. В дальнейшем
необходимо различать вероятностную модель, или (как она
иногда называется) стохастический процесс, и наблюденный
временной ряд. Так, временной ряд z\, z% ..., zN из N последо-
последовательных наблюдений рассматривается как выборочная реа-
реализация из бесконечной популяции таких временных рядов,
генерируемых стохастическим процессом. Очень часто, говоря
о стохастическом процессе, мы будем опускать слово «стохасти-
«стохастический».
1.2.1. Стационарные и нестационарные стохастические модели
для прогнозирования и регулирования
Важный класс стохастических моделей для описания времен-
временных рядов, который привлек большое внимание, — так называе-
называемые стационарные модели. Они основаны на предположении,
что процесс остается в равновесии относительно постоянного
среднего уровня. Однако в индустрии, коммерции и экономике,
где прогнозирование имеет особо важное значение, многие
временные ряды часто лучше описываются как нестационарные
и, в частности, как не имеющие естественного среднего значе-
значения. Поэтому не удивительно, что методы экономического про-
прогнозирования, предложенные Холтом [1, 22], Винтерсом [23],
Брауном [2] и в монографии ICI [3], пользуются экспоненциально
взвешенными скользящими средними; можно показать, что та-
такой подход соответствует одному частному виду нестационар-
о процесса. Хотя такие методы слишком частные, чтобы эф-
ктивно применяться ко всем временным рядам, тот факт, что
и обеспечивают правильную прогнозирующую функцию, ука-
ает на характер нестационарной модели, пригодной для этого
асса проблем.
Стохастическая модель, для которой прогнозирование экспо-
циально взвешенным скользящим средним является опти-
ьным, относится к классу нестационарных процессов, назы-
емых процессами авторегрессии — проинтегрированного сколь-
щего среднего (АРПСС), которые обсуждаются в гл. 4. Этот
Ярокий класс процессов обеспечивает множество как стацио-
рных, так и нестационарных моделей, которые адекватно опи-
опивают многие встречающиеся на практике временные ряды.
|аш подход к прогнозированию заключается в отыскании вна-
йле адекватной стохастической модели для исследуемого вре-
ro ряда. Как показано в гл. 5, когда подходящая модель
йда найдена, с ее помощью немедленно находится оптималь-
прогнозирующая методика. Частным случаем таких методик
рляется прогнозирование экспоненциально взвешенным сколь-
рщим средним.
Некоторые простые операторы. Мы будем широко пользо-
Эться оператором сдвига назад В, определяемым как Bzt~zt-i;
рсюда Bmzt = 2(_m. Обратная операция выполняется операто-
"рм сдвига вперед F = В~\ задаваемым как Fzt = zt+\; следо-
ательно, Fmzt = Zt+m. Еще один важный оператор — разност-
ый оператор со сдвигом назад V, который можно выразить че-
»ез В как
W свою очередь оператор, обратный V, — это оператор суммиро-
|ания S, выражаемый как
Модель линейного фильтра. Применяемые нами стохастиче-
кие модели используют тот факт [24], что временные ряды, в ко-
|>рых последовательные значения сильно зависимы, целесооб-
*^зно рассматривать как генерируемые последовательностью
^зависимых импульсов at. Эти импульсы — реализации слу-,
" "чых величин с фиксированным распределением, которое обыч-
предполагается нормальным с нулевым средним и диспер-
jieS a2a. Такая последовательность случайных величин at, at-U
|_g, ... называется в технической литературе белым шумо.ц.

24
Гл. 1. Введение и краткое содержание
Предполагается, что белый шум at можно трансформировать
в процесс zt при помощи линейного фильтра, показанного на
рис. 1.4а. Операция линейной фильтрации заключается в вычис-
вычислении взвешенной суммы предыдущих наблюдений, так что
zt = ц + Щ + тМг-i + Ьа1-2 + ••• =Ц + Ф(Я)а<. A.2.1)
В общем ц — параметр, определяющий «уровень» процесса, и
Гл. 1. Введение и краткое содержание
25
— линейный оператор, преобразующий at в zt и называемый пе-
редаточной функцией фильтра.
белый шум
Линейный,
фильтр
Рис. 1.4а. Представление временного ряда как выхода линейного фильгра.
Последовательность $i, тр2, • • •, образованная весами, теоре-
теоретически может быть конечной или бесконечной. Если эта после-
последовательность (конечная или бесконечная) сходящаяся, фильтр
называется устойчивым, а процесс zt будет стационарным. Па-
Параметр ц будет тогда средним, вокруг которого процесс варьи-
варьирует. В других случаях zt нестационарен, и ц не имеет какого-
либо особого смысла, кроме как некой точки отсчета уровня про-
процесса.
Модели авторегрессии. Так называемая модель авторегрессии
является исключительно полезной стохастической моделью для
описания некоторых встречающихся на практике рядов. В этой
модели текущее значение процесса выражается как конечная
линейная совокупность предыдущих значений процесса и им-
импульса at. Обозначим значения процесса в равноотстоящие мо-
моменты времени t, t—1, / — 2, ... как zt, zt-\, zt-2, ¦¦¦ ¦ Пусть
zt, zt-u zt-2, ¦¦¦ будут отклонениями от ц, например zt = zt — ц.
Тогда
называется процессом авторегрессии (АР) порядка р. Такое на-
название объясняется тем, что линейная модель
связывающая «зависимое» переменное z с множеством «незави-
«независимых» переменных хи х^ хр, плюс член а, описывающий
(рибку, часто называется моделью регрессии; говорят, что г
регрессирует» на хи х2, ..., хр. В A.2.2) переменная z регрес-
Щ>ует на своих предшествующих значениях; поэтому модель
щторегрессирующая. Если мы определим оператор авторегрес-
Ыи порядка р как
=1-ф1В-ф2В2- ... -фрВр,
модель авторегрессии можно сжато описать как
1та модель содержит р + 2 неизвестных параметра: ц, фь
Фр ••-, р, о2а, которые на практике следует оценить по на-
наблюдениям. Дополнительный параметр а2а — дисперсия белого
шума at.
Нетрудно заметить, что модель авторегрессии является част-
|ым видом модели линейного фильтра A.2.1). Например, zt-i
|ожно исключить из правой части A.2.2) подстановкой
|налогичным образом можно исключить z(_2 и т. д., получив
'i результате бесконечный ряд из а.
Символически это можно записать как
fro эквивалентно
Процессы авторегрессии могут быть стационарными или неста-
нестационарными. Чтобы процесс был стационарным, нужно выбрать
Ф так, чтобы веса if>i, гр2, • •. в ар(б) = Ф~1(В) образовывали схо-
сходящийся ряд. Эти модели будут подробно обсуждаться в гл. 3 и 4.
Модели скользящего среднего. Модель авторегрессии A.2.2)
Сражает отклонение zt процесса в виде конечной взвешенной
|мы р предыдущих отклонений процесса zt-\, zt-2 z(_p
юс случайный импульс at. Равным образом, как было только
показано, она выражает zt как бесконечную взвешенную"
му а.
Другой тип моделей, имеющий большое значение в описании
блюдаемых временны^ рядов, — это так называемый процесс
ользящего среднего. Пусть zt линейно зависит от конечного

26
/V». /. Введение и краткое содержйние
Гл. 1 Введение и краткое содержание
27
числа q предыдущих а. Такой процесс
A.2.3)
называется процессом скользящего среднего (СС) порядка q.
Название «скользящее среднее» слегка вводит в заблуждение,
так как веса 1, —8ь —82, ..., —Qg, на которые умножаются а,
не обязаны давать в сумме единицу или хотя бы быть положи-
положительными. Однако из-за общеупотребительности этого термина
мы будем его придерживаться.
Если мы определим оператор скользящего среднего порядка
q как
8 (В) = 1 - 8tS - 82В2 - ... - QqB",
то модель скользящего среднего можно сжато записать как
Она содержит q + 2 неизвестных параметра: ц, 6, 6 , а2а,
которые должны на практике оцениваться по наблюдениям.
Смешанные модели авторегрессии — скользящего среднего.
Для достижения большей гибкости в подгонке моделей к на-
наблюдаемым временным рядам иногда целесообразно объеди-
объединить в одной модели и авторегрессию, и скользящее среднее.
Это приводит к комбинированной модели авторегрессии — сколь-
скользящего среднего
zt = hzt-\ + • • • + Фр2{-р + at- 8^! - ... - в,а,_,, A.2.4)
или
в которой имеется р -\- q + 2 неизвестных параметра: ц; ф{, ...
..., ф ; 6j, ..., 6 ; а2а, оцениваемых по наблюдениям.
На практике часто оказывается, что адекватное описание на-
наблюдаемых временных рядов достигается при помощи моделей
авторегрессии, скользящего среднего или комбинированной мо-
модели, в которых р и q не больше, а часто и меньше 2.
Нестационарные модели. Многие ряды, практически встре-
встречающиеся в промышленности или торговле (например, бирже-
биржевые цены), обнаруживают нестационарный характер и, в част-
частности, не колеблются относительно фиксированного среднего.
Тем не менее их свойства могут быть в некотором смысле
однородными. Например, хотя уровень, относительно которого
происходят флуктуации, может быть разным в разные времена,
поведение рядов с учетом различий в уровне оказывается во
многом сходным Мы покажем в гл. 4, что такой ряд может быть
представлен обобщенным оператором авторегрессии ф(б), в ко-
котором один или несколько нулей полинома ф(#) [т. е. один или
несколько корней уравнения qp(fi) = O] равны единице. Тогда
оператор ц>(В) можно записать
|де ф(В) —стационарный оператор. При этом обобщенная мо-
модель, описывающая однородный нестационарный процесс, имеет
t. e.
где
В)"zt =
A.2.5)
A.2.6)
Таким образом, однородный нестационарный процесс можег
быть описан моделью, которая требует, чтобы d-я разность про-
процесса была стационарной. На практике d обычно равно 0, 1 или
Максимум 2.
е(в)
Ф-Щ
Вельш ш.ум\
wt
Временной, ряд
Рис. 1.46. Диаграмма модели авторегрессии—проинтегрированного скользя-
скользящего среднего.
/ — фильтр скользящего среднего, 2 — стационарный фильтр авторегрессии,
3 — нестационарный фильтр суммирования.
Процесс, определенный A.2.5) или A.2.6), представляет со-
собой эффективную модель для описания стационарных и неста-
нестационарных временных рядов и называется процессом авторе-
авторегрессии— проинтегрированного скользящего среднего (АРПСС)
порядка (р, d, q). Процесс определен как
— 8,a,_, — ... —6,0/-, A.2.7)
с wt = Vdzt. Заметим, что если заменить wt наг( — ц при d = О,
модель A.2.7) будет содержать как частный случай и стацио-
стационарную комбинированную модель A.2.4), а также модели ав-
авторегрессии A.2.2) и скользящего среднего A.2.3).
Причина для включения в название АРПСС слова «проин-
«проинтегрированный» (более точно, вероятно, было бы говорить «сум-

28
Гл. 1. Введение и краткое содержание
Гл. 1. Введение и краткое содержание
29
мированный») заключается в следующем. Соотношение, обрат-
обратное A.2.6), имеет вид
zt = Sdwt; A.2.8)
напомним, что S — оператор суммирования, определенный как
Swt = 2 Щ-i = wt + wt-i + wt-2 +
/=о
Следовательно, обобщенный процесс авторегрессии — проинте-
проинтегрированного скользящего среднего (АРПСС) можно получить
из белого шума at с помощью трех операций фильтрации, как
показано на рис. 1.46. Первый фильтр имеет вход аи передаточ-
передаточную функцию 8 (В) и выход et, где .
et = at-Qyat.x — ... -$qat_q = %{B)at. A.2.9)
Второй фильтр имеет вход еи передаточную функцию ф~1{В) и
выход wt, где
и>, = Аи>,_,+ ... +фрт^р + е{ = ф-1(В)е{. A.2.10)
Наконец, третий фильтр, согласно A.2.8), имеет вход wt и вы-
выход Zt с передаточной функцией Sd.
Как указано в гл. 9, для описания сезонных временных рядов
можно использовать специальную форму модели A.2.7).
1.2.2. Модели передаточных функций
Важный тип динамического соотношения между непрерыв-
непрерывными входом и выходом, для которого можно найти много фи-
физических примеров, — это такой тип, у которого отклонения
входа X и выхода Y от соответствующих средних значений свя-
связаны линейным дифференциальным уравнением вида
A + S.D+ ... + 2RD«)Y(t) =
= (#„+#,?+ ... + HsDs)X(t-r), A.2.11)
где D —дифференциальный оператор d/dt, 2 и Я — неизвестные
параметры и т — параметр, измеряющий холостое время, или
чистое запаздывание, выхода относительно входа. Простейшим
примером A.2.11) является система, у которой скорость изме-
изменения выхода пропорциональна разности между входом и выхо-
выходом, т. е.
отсюда
(l+SD)Y = X.
аналогично для дискретных данных в гл. 10 мы описываем си-
тему, где вход X и выход У, измеряемые через равные интер-
шлы времени,связаны разностным уравнением
A + I.V+ ... +irVO*Wrb + rhV+ ... +4sV)Xt-b, A.2.12)
в котором дифференциальный оператор D заменен разностным
оператором V. Выражение вида A.2.12), содержащее малое
число параметров (г =<; 2, s ^ 2), часто можно использовать как
аппроксимацию динамического соотношения более сложной при-
природы.
Линейную модель A.2.12) можно эквивалентным образом
писать с помощью прошлых значений входа и выхода, подста-
ив в A.2.12) V= 1 — В
или
- ... -v>sBb+s)Xt, A.2.13)
б (В) Yt = со (В) BbXt = Q (В) Xt.
Другими словами, выход Yt и вход Xt связаны линейным
фильтром
Yt = v0Xt + vxXt.x + v2Xt,2 + ... = v (В) Xt, A.2.14)
передаточная функция которого
v (В) = со + о,В + v2B2 + ... A.2.15)
может быть выражена как отношение двух полиномов
v (В) = Q (В)/6 (В) = б (В) Q (В).
Линейный фильтр A.2.14) называют устойчивым, если ряд
A.2.15) сходится при |?| «с: 1. Ряд весов о0» »i, v2, ..., появ-
аяющихся в передаточной функции A.2.15), называется функ-
функцией отклика на единичный импульс. Заметим, что для модели
A.2.12) первые Ь весов Со, t»i, ..., уь-i равны нулю. Гипотетиче-
ркая функция отклика для системы, показанной на рис. 1.2, изоб-
изображена в центре этого рисунка.

30
Г л 1 Введение и краткое содержание
Модель передаточной функции A.2.13) позволяет иначе ин-
интерпретировать стохастические модели A.2.4) и A.2.5). Часто
возмущения выхода z вызываются возмущениями некоторой пе-
переменной, с которой z динамически связано уравнением вида
A.2.12). Поэтому можно ожидать, что сложное стохастическое
поведение случайной переменной zt может быть выражено через
другую случайную переменную а< с более простыми свойствами
соотношением
Гл. 1 Введение и краткое содержание
31
Если допустить возможность существования неустойчивого
фильтра, у которого один или более корней уравнения б (В) — 0
равны единице, то, пользуясь ранее введенными обозначениями,
можно получить
t = Q(B)at. A.2.16)
Стохастические модели, рассмотренные выше, как раз при-
принадлежат к этому типу, причем at — источник белого шума. По-
Поскольку A.2.16) можно записать в виде
то считается, что zt можно получить пропусканием белого шума
через линейный фильтр с передаточной функцией ф"!(В)в(В).
Выводы
1) Мы часто можем описать динамическое соотношение вы-
выхода У и входа X с помощью линейного фильтра
Yt = v0Xt + vlXt^ + v2Xi_2 + ... =v(B)Xt,
где v(B) —передаточная функция фильтра.
2) В свою очередь v(B) часто можно компактно и достаточно
точно представить в виде отношения двух полиномов малых сте-
степеней от В:
так что динамическое уравнение вход — выход можно записать
как
3) Мы будем считать, что ряд zt с сильно зависимыми после-
последовательными значениями может быть представлен как резуль-
результат пропускания белого шума at через динамическую систему,
в которой отдельные корни уравнения б (В) = 0 могут быть еди-
единицами. Это позволяет получить модель процесса авторегрес-
авторегрессии — проинтегрированного скользящего среднего
Модели с наложенным шумом. Мы видели, что задача оце-
оценивания подходящей модели, связывающей выход Yt и вход Xt,
эквивалентна оцениванию передаточной функции у(В) =
= 6~'(B)Q(B). Однако эта задача на практике усложняется
присутствием шума Nt, искажающего истинное соотношение ме-
между входом и выходом следующим образом:
где Nt и Xt независимы. Положим, как показано на рис. 1.5, что
шум Nt может быть описан нестационарной стохастической
Рис 15 Модель передаточной функции динамической системы с наложенным
шумом
/ — линейный фильтр, 2 — линейная динамическая система.
моделью вида A 2.5) или A.2.7), т. е.
Nt^$(B)at = <Vl(B)Q(B)at.
Тогда наблюдаемое соотношение между входом и выходом бу-
будет иметь вид
Yt = v(B)Xt-\-^(B)at = b"l(B)Q(B)Xt-i-q>~l(B)e(B)at. A.2.17)
На практике необходимо оценить передаточную функцию
ty(B) = ф~1(В)в(В) линейного фильтра, описывающего шум,
8 дополнение к передаточной функции у(В)= б (В) Q (В), опи-
описывающей динамическое соотношение между входом и выходом.
Методы получения таких оценок обсуждаются в гл. 11.

32
Гл. 1. Введение и npatnoe содержание
Гл. 1. Введение ипраткое содержание
33
1.2.3. Модели дискретных систем регулирования
Как указывалось в разд. 1.1.3, регулирование — это попытка
компенсировать возмущения, вносимые в систему. Некоторые
из этих возмущений доступны для измерений, другие недоступны
—»
h
г
X.
1
'Bhd''(B)il(L
г
3
V
V(B)Xt^ ,
Шум Nt*
\ Yi
¦ф(В)а
- Тноминал
Рис. 1.6. Схема регулирующей обратной связи для компенсации неизмеряемых
возмущений Nt.
1 — линейный фильтр, 2 — контролируемый процесс, 3 — регулятор.
и проявляют себя только как необъяснимые отклонения от же-
желаемого значения управляемой характеристики.
Для иллюстрации основных принципов регулирования рас-
рассмотрим один частный случай, когда на выход Yt системы
влияют недоступные для измерений возмущения. Предположим,
что для поддержания выхода максимально близким к желае-
желаемому значению используется регулирование с обратной связью,
осуществляющее коррекцию входного переменного Xt. Это ил-
иллюстрируется блок-схемой на рис. 1.6. Пусть Nt— влияние на
выход различных неидентифицированных возмущений внутри
системы; в отсутствие регулирования оно может вызывать
отклонения выхода от желаемого значения, или номинала, Т.
Тогда, несмотря на коррекцию, вносимую в процесс, будет су-
существовать ошибка
дающая отклонение выхода от номинала Т. Цель заключается
в таком выборе уравнения регулирования, чтобы ошибки е были
бы наименьшими в среднеквадратичном смысле. Уравнение ре-
регулирования описывает коррекцию xt = Xt — Xt-\, предприня-
предпринятую в момент t, как функцию текущего отклонения ги преды-
предыдущих отклонений е<-ь et-2, ... и предыдущих коррекций xt-\,
xt-2 ¦¦¦ ¦ Механизм (ручной, электрический, пневматический или
электронный), выполняющий регулирующее действие, требуемое
уравнением регулирования, называется регулятором.
Оказывается, что процедура проектирования оптимальной
схемы эквивалентна прогнозированию отклонений от номинала,
происходящих в отсутствие регулирования, и затем вычислению
коррекции, необходимой для ликвидации отклонения. Следова-
Следовательно, прогнозирование и проблемы регулирования тесно свя-
связаны. Для прогноза отклонений от номинала, происходящих
в отсутствие регулирования, необходимо построить модель воз-
возмущения
tff = l> (В)а{ = <?~1 (В) 9 (В) щ.
Вычисление коррекции xt входного переменного в момент t, не-
необходимой для ликвидации предсказанного изменения выхода,
требует построения динамической модели с передаточной функ-
функцией
связывающей вход и выход. Результирующая коррекция xt бу-
дет-в общем состоять из линейной комбинации предыдущих кор-
коррекций, текущей и прошлых ошибок регулирования. Уравнение
регулирования будет иметь вид
+ •••, (Ь2.18)
где ?и &2i • • •» Хо» Хь Хз> • • ¦ — постоянные. Эти идеи обсуждаются
в гл. 12.
1.3. ОСНОВНЫЕ ПОНЯТИЯ В ПОСТРОЕНИИ
МОДЕЛЕЙ
1.3.1. Экономия
Мы видели, что математические модели, которые нам нужно
использовать, содержат определенные константы или параметры,
значения которых должны оцениваться По наблюдениям. На
практике существенно, чтобы мы использовали наименьшее воз-
возможное число параметров для адекватного представления мо*
дели. Значение этого принципа экономии (parsimony) [25] в ис*
пользовании параметров станет яснее в дальнейшем. В качестве
предварительной иллюстрации мы рассмотрим следующий про-
простой пример.

Гл. 1. Введение и краткое содержание
Гл. 1 Введение и краткое содержание
35
Положим, мы подогнали динамическую модель A.2.12) вида
t, A.3.1)
работая с системой, адекватно описываемой следующим соот-
соотношением:
(\+\4)Yt=*Xt. A.3.2)
Модель A.3.2) содержит только один параметр %, но для доста-
достаточно большого s может быть приближенно представлена мо-
моделью A.3.1). Из-за присутствия экспериментальных ошибок мы
можем не распознать правильное соотношение между коэффи-
коэффициентами подгоняемого уравнения. Это значит, что мы можем
без нужды подогнать модель соотношением, содержащим s па-
параметров, в то время как гораздо более простая форма A.3.2),
содержащая только один параметр, была бы вполне адекватной.
Это может, например, привести к тому, что точность оценок вы-
выхода Yt по данным значениям входа Хи Xt-U ... будет далека от
достижимой.
Наша цель состоит в получении не только адекватной, но и
экономичной модели. Прогнозирование и регулирующие про-
процедуры могут быть весьма неэффективными, если эти модели не
адекватны или излишне расточительны в использовании пара-
параметров. Поэтому выбор модели требует осторожности и боль-
больших усилий. Процесс выбора по необходимости итеративен;
иначе говоря, это процесс эволюции, адаптации, или проб и
ошибок.
1.3.2. Итеративные этапы в выборе модели
Если физический механизм явления полностью ясен, можно
вывести математическое выражение, точно описывающее явле-
явление. Тогда мы получаем механистическую, или теоретическую,
модель. Хотя для получения адекватной механистической модели
вначале может не хватать информации, применение адаптивных
методов [26] иногда приводит к такой модели.
Во многих случаях для получения механистической модели
нужны подробные сведения или значительные эксперименталь-
экспериментальные возможности, которых может не быть, и приходится прибе-
прибегать к эмпирической модели. Конечно, точная механистическая
и чисто эмпирическая модели представляют собой крайности.
Обычно используемые модели занимают промежуточное поло-
положение. В частности, можно использовать неполные теоретиче-
теоретические представления для указания подходящего класса матема-
ПостулироВание
оЕщего класса моделей
Идентификаци я
пробной модели
Оценка параметров
пробной модели
Диагностическая
проверка
(аденВатлна ли модель ?)
НетпГ \м
тических функций, которые могут быть затем эмпирически
подогнаны. Это означает, что число параметров модели и их чис-
численные значения оцениваются по экспериментальным данным.
Такой подход принят в этой книге.
Как мы указывали ранее, описы-
описываемые здесь стохастические и ди-
динамические модели могут быть об-
обоснованы, по крайней мере частич-
частично, с теоретической точки зрения
как имеющие правильные основные
свойства.
Обычно полагают, что для ана-
анализа доступны последовательные
значения членов изучаемого вре-
временного ряда или данных о входе —
выходе. Следует провести не менее
50, а предпочтительнее 100 и более
наблюдений. В случаях, где данные
о 50 и более наблюдениях в прош-
прошлом недоступны, действуют, исполь-
используя опыт и прошлую информацию
для получения предварительной мо-
модели. Эта модель может время от
времени корректироваться по мере
поступления большего числа дан-
данных.
При подгонке динамических мо-
моделей теоретический анализ не
только указывает на подходящий
вид модели, но может дать и хорошие оценки численных значе-
значений ее параметров. Эти значения можно потом проверить, ана-
анализируя реальные данные.
На рис. 1.7 показан итеративный подход к построению мо-
моделей для прогнозирования и управления, используемый в этой
книге.
1) Из взаимодействия теории и практики выбирается по-
полезный класс моделей (для достижения поставленной
цели).
2) Так как этот класс слишком обширен для непосредствен-
непосредственной подгонки к данным, развиваются грубые методы идентифи-
идентификации подклассов этих моделей. Такие методы идентификации
моделей используют имеющиеся данные и знание системы, и
дают для опробования соответствующие экономичные подклассы
моделей. Кроме того, процесс идентификации может быть ис-
использован для получения грубых предварительных оценок па-
параметров модели.
Использование модели
для прогноза
или упрабления
Рис. 1.7. Этапы итеративного
подхода к построению моде-
моделей.

36
Гл. 1. Введение и краткое содержание
3) Пробная модель подгоняется к данным; оцениваются ее
параметры. Грубые оценки, получаемые на этапе идентифика-
идентификации, теперь можно использовать как начальные значения в бо-
более точных итеративных методах оценивания параметров.
4) Диагностические проверки позволяют выявить возможные
дефекты подгонки и диагностировать их причины. Если такие де-
дефекты не выявлены, модель готова к использованию. Если об-
обнаружено какое-либо несоответствие, итеративные циклы иден-
идентификации, оценок и диагностической проверки повторяются до
тех пор, пока не будет найдено подходящее представление мо-
модели.
Идентификация, оценивание и диагностическая проверка мо-
моделей временных рядов обсуждаются в гл. 6, 7, 8 и 9; те же про-
процедуры для моделей передаточных функций — в гл. 11.
Часть I
Стохастические модели
и основанное на них
прогнозирование

В первой части этой книги, включающей гл. 2—5, описан
важный класс стохастических моделей и их использование в про-
прогнозировании.
Модель, описывающая вероятностную структуру последова-
последовательности наблюдений, называется стохастическим процессом.
Временной ряд из N наблюдений г' = (zu z2, ..., zN) рассма-
рассматривается как выборочная реализация из бесконечной популя-
популяции выборок, которые могли бы генерироваться процессом. Глав-
Главная цель статистического исследования — узнать свойства попу-
популяции по свойствам выборки. Например, сделать прогноз — это
значит узнать вероятностное распределение будущих наблюде-
наблюдений популяции по выборке z значений из прошлого. Чтобы сде-
сделать это, нам необходимо уметь описывать стохастические про-
процессы и временные ряды и знать классы стохастических моде-
моделей, пригодных для описания встречающихся на практике си-
ситуаций.
Важный класс стохастических процессов, рассмотренный
в гл. 2, — стационарные процессы. Предполагается, что они на-
находятся в определенном статистическом равновесии и в част-
частности колеблются относительно фиксированного среднего значе-
значения. Полезным инструментом для описания поведения стацио-
стационарных процессов являются автокорреляционная функция и
спектр.
Частным случаем стационарных стохастических процессов,
особенно важным при моделировании временных рядов, яв-
являются процессы авторегрессии, скользящего среднего и смешан-
смешанные процессы авторегрессии — скользящего среднего. Свойства
этих процессов и в частности их корреляционная структура опи-
описаны в гл. 3.
Поскольку многие встречающиеся на практике временные
ряды (например, биржевые цены и данные о сбыте) имеют
нестационарные характеристики, стационарные модели, введен-
введенные в гл. 3, обобщаются в гл. 4 для получения полезного класса
нестационарных моделей, называемых моделями авторегрес-
авторегрессии— проинтегрированного скользящего среднего (АРПСС).
Использование всех этих моделей в прогнозировании временных
рядов обсуждается и иллюстрируется примерами в гл. 5.
ГЛАВА
Автокорреляционная функция и спектр
Главная особенность ё разработке Моделей временных ря-
рядов — предположение о некоторой форме статистического равно-
равновесия. Частное предположение такого рода (и, как будет пока-
показано позднее, излишне жесткое) — предположение о стационар-
стационарности. Обычно стационарный временной ряд можно удобно опи-
описать его средним значением, дисперсией и автокорреляционной
функцией, или, что эквивалентно, средним значением, диспер-
дисперсией и спектральной плотностью. В этой главе мы рассмотрим
свойства этих функций и в частности свойства автокорреляцион-
автокорреляционной функции, которая многократно используется в последующих
главах.
2.1. АВТОКОРРЕЛЯЦИОННЫЕ СВОЙСТВА
СТАЦИОНАРНЫХ МОДЕЛЕЙ
2.1.1. Временные ряды и стохастические процессы
Временные ряды. Временной ряд — это множество наблюде-
наблюдений, генерируемых последовательно во времени. Если время не-
непрерывно, временной ряд называется непрерывным. Если время
изменяется дискретно, временной ряд дискретен. Наблюдения
Дискретного временного ряда, сделанные в моменты времени
Ть Тг, ..., тг, ..-, тлг, могут быть обозначены через z (ti),
2(гг), ••-, z(xt), ..., z(xN). В этой книге рассматриваются
только дискретные временные ряды, в которых наблюдения де-
делаются через фиксированный интервал h. Когда имеется ./V по-
последовательных значений такого ряда, доступных для анализа,
мы пишем z\, z2, ... zt, ..., zN, обозначая так наблюдения, сде-
сделанные в равноотстоящие моменты времени То + Л, то + 2Л, ...
..., то + th, ..., to + Nh. Во многих случаях значения т0 и h не
важны, но если необходимо точно определить времена наблюде,-
ний, нужно указать эти два значения. Если мы принимаем т0 за
иачало и h за единицу времени, мы можем рассматривать zt как
наблюдение в момент времени t.
Дискретные временные ряды могут появляться двумя пу-
путями»

40
Часть I Стохастические модели и прогнозирование
1) Выборкой из непрерывных временных рядов, например,
в ситуации, показанной на рис. 1.2, где значения непрерывных
входа и выхода газовой печи считываются с интервалом 9 с.
2) Накоплением переменной в течение некоторого периода
времени; примерами могут служить дождевые осадки, которые
обычно накапливают за такие периоды, как день или месяц, или
выход партий продукта, накапливающегося за время цикла На-
Например, на рис. 2.1 показан временной ряд, состоящий из зна-
значений выхода 70 последовательных партий продукта химиче-
химического процесса.
60
60
Выход
20
Ю 20 30 40
Номер партии t •
50
60
70
Рис. 2 1. Выход 70 последовательных партий продукта химического про-
процесса
Дет-ерминированные и случайные временные ряды. Если бу-
будущие значения временного ряда точно определены какой-либо
математической функцией, например, такой, как
zt = cos Bя//),
временной ряд называют детерминированным. Если будущие
значения могут быть описаны только с помощью распределения
вероятностей, временной ряд называют недетерминированным,
или просто случайным. Данные о партиях продукта на рис. 2.1 —
это пример случайного временного ряда. Хотя в этом ряду
имеется отчетливая тенденция к чередованию «вверх — вниз»,
невозможно точно предсказать выход следующей партии. В этой
книге мы будем исследовать именно такие случайные времен-
временные ряды.
Стохастические процессы. Статистическое явление, разви-
развивающееся во времени согласно законам теории вероятности, на-
Г л 2 Автокорреляционная функция и спектр
41
зывается стохастическим процессом. Мы часто будем называть
его просто процессом, опуская слово «стохастический» Подле-
Подлежащий анализу временной ряд может рассматриваться как одна
V
25
t
27
23
31
Рис 22 Наблюденный временной ряд (жирная линия) и другие временные
ряды, являющиеся реализациями одного и того же стохастического процесса.
частная реализация изучаемой системы, генерируемая скрытым
вероятностным механизмом. Другими словами, анализируя вре-
временной ряд, мы рассматриваем его как реализацию стохастиче-
стохастического процесса.
изолинии двумерного распределения
маргинальное
распределение
Рис 2 3 Изолинии плотности двумерного распределения вероятности, опи-
описывающего стохастический процесс в моменты времени /i и h, там же мар-
маргинальное распределение в момент ti
Например, анализируя данные о выходе партии продукта на
рис 2 1, мы можем представить себе другие множества наблю-
наблюдений (другие реализации порождающего эти наблюдения сто-
стохастического" процесса), которые могут быть генерированы той
же самой химической системой, за те же п = 70 циклов. Так,
например, на рис. 2 2 показаны выходы партий продукта с
t = 21 по / = 30 (жирная линия) вместе с другими временными

42
Часть I. Стохастические модели и прогнозирование
рядами, которые могли бы быть получены из популяции времен-
временных рядов, определяемых тем же стохастическим процессом. От-
Отсюда следует, что мы можем рассматривать наблюдение zt
в данное время t, скажем t = 25, как реализацию случайной ве-
величины zt с плотностью вероятности p(zt).
Подобным образом наблюдения в любые два момента вре-
времени, ti = 25 и h = 27, могут рассматриваться как реализации
двух случайных величин zt и zti с совместной плотностью ве-
вероятности p(zf, zt^. Например, на рис. 2.3 показаны изолинии
плотности для такого совместного распределения вместе с мар-
маргинальным распределением в момент времени U. В общем на-
наблюдения, образующие временной ряд, могут быть описаны все-
всевозможными Af-мерными случайными величинами (гь z2, ..., Zn)
с плотностью вероятности р (zu гг. .... zN) ¦
2.1.2. Стационарные стохастические процессы
Весьма специальный класс стохастических процессов, назы-
называемых стационарными процессами, основывается на предполо-
предположении, что процесс находится в определенном статистическом
равновесии. Стохастический процесс называется строго стацио-
стационарным, если его свойства не зависят от изменения начала от-
отсчета времени. Иными словами, если совместное распределение
вероятностей m наблюдений zfl, zti, ..., zt , сделанных в лю-
любые моменты времени t\, t2, ..., tm, такое же, что и для m на-
наблюдений zti+k, zt2+k, ..., zfm+k, сделанных в моменты вре-
времени tx -f k, t2 + k, ..., tm -f k. Поэтому, чтобы дискретный про-
процесс был строго стационарным, взаимное распределение любой
совокупности наблюдений не должно изменяться при сдвиге всех
времен наблюдений вперед или назад на любое целое число k.
Среднее значение и дисперсия стационарного процесса. Когда
m = 1, из предположения о стационарности следует, что рас-
распределение вероятности p{zt) одинаково для всех времен t и
может быть записано как p(z). Отсюда стохастический процесс
имеет постоянное среднее значение
J zp(z)dz,
B.1.1)
определяющее уровень, относительно которого он флуктуирует,
и постоянную дисперсию
B.1.2)
Гл. 2. Автокорреляционная функция и спектр
измеряющую его размах относительно этого уровня. Поскольку
распределение вероятности p(z) одинаково для всех времен t,
его форма может быть оценена по гистограмме наблюдений
Z\, z2, ..., zN временного ряда. Кроме того, среднее значение ц
стохастического процесса мож-
можно оценить с помощью выбо-
выборочного среднего временного
ряда
N
t=l
а дисперсию а\ стохастиче-
стохастического процесса — с помощью
выборочной дисперсии
Автоковариация и коэффи-
коэффициенты автокорреляции. Из
предположения о стационарно-
стационарности следует также, что совмест-
совместное распределение вероятно-
вероятностей р {zto zt) одинаково для
всех времен t\, t%, разделенных
одним и тем же интервалом.
Следовательно,' природу этого
совместного распределения
можно оценить по диаграмме
рассеяния, построенной по па-
парам значений zt, zt+k времен-
временного ряда, разделенных по-
постоянным интервалом, или задержкой k. Диаграммы рассеяния
на рис. 2.4 построены по данным циклического процесса. На
рис. 2.4, а показаны данные для задержки k = 1 (по одной оси
отложено zt+u по другой zt). На рис. 2.4, б показаны данные для
задержки k = 2 (по одной оси отложено zt+2, по другой zt). Мы
видим, что соседние значения временных рядов коррелированы;
корреляция между zt и zt+x отрицательная, а между zt и zt+2 по-
положительная. Ковариация между значениями zt и zt+k, отделен-
отделенными k интервалами времени, называется автоковариацией с за-
задержкой k и определяется как
Рис. 2.4. Диаграммы разброса при
задержках 1 и 2 для данных о выхо-
выходе партий продукта на рис. 2.1.
=;cov[zt, zt+k\ = E[(Zt-\>.)(zt+k- ц)].
B,1.5)

44
Часть I. Стохастические модели и прогнозирование
Аналогично автокорреляция с задержкой k равна
Pk
поскольку для стационарного процесса дисперсия a\ = yQ в мо-
момент времени / -f- k та же, что и в момент времени t.
Таким образом, автокорреляция с задержкой k равна
B.1.6)
откуда вытекает, что р0 = 1.
2.1.3. Положительная определенность и автоковариационная
матрица
Ковариационная матрица, связанная со стационарным про-
процессом, для наблюдений (zi, Zi, ..., zn), сделанных в п после-
последовательных моментов времени, имеет вид
Yo Yi Y2
Yi Yo Yi
Y2 Yi Yo
Y«-2
Y«-3
.Yn-iYn-2Y«-3 ••• Yo _
1 Pi P2 • • • Pn-l
Pi 1 Pi • • • Prt-2
p2 Pi 1 • • • Pn-3
_Рл-1 Рл-2Рл-3
1
B.1.7)
Ковариационная матрица Г„ такого вида (симметричная и с од-
одними и теми же элементами на любой диагонали) называется
автоковариационной матрицей; соответствующая корреляцион-
корреляционная матрица Р„ называется автокорреляционной матрицей. Рас-
Рассмотрим любую линейную функцию случайных переменных
B.1.8)
Гл. 2. Автокорреляционная функция и спектр
45
Так как для стационарного процесса cov [г,, z}] = yI j «I» Диспер-
Дисперсия Lt равна
var ]Lt\= 2j 2ihhy,i-n
' J i=i /=1 ' |; '
и всегда больше нуля, если не все tt равны нулю. Отсюда сле-
следует, что и автоковариационная, и автокорреляционная матрицы
любого стационарного процесса положительно определенные*).
Условия, которым удовлетворяют автокорреляции стационар-
стационарного процесса. Положительная определенность автокорреляцион-
автокорреляционной матрицы BJ.7) требует, чтобы определитель и все главные
миноры этой матрицы были положительны. В частности, для
п = 2
1 Pi
Р. 1
так что 1 — р^ > О
и, следовательно,
Аналогично для п = 3 должно выполняться
из чего следует
1 Pi
Р. 1
1 Р2
Р2 1
1 Pi P2
Pi I Pi
Р2 Pi 1
К4<1
l-Pt
и т. д. Так как Р„ должна быть положительно определенной для
всех п, автокорреляции стационарного процесса должны удовле-
удовлетворять очень большому числу условий. Как будет показано
в разд. 2.2.3, все эти условия могут быть объединены в опреде-
определении спектра.
Стационарность линейных функций. Из определения стацио-
стационарности следует, что процесс Lt, полученный выполнением ли-
линейной операции B.1.8) над стационарным процессом zt, также
стационарен. В частности, стационарны первая разность Vzt =
= zt — zt-\ и высшие разности Sldzt. Этот результат особенно
*) Точнее, эти матрицы — положительно полуопределенные. — Прим. ред.

46
Часть I. Стохастические модели и прогнозирование
важен для исследования свойств нестационарных временных ря-
рядов, рассматриваемых в гл. 4.
Гауссовские процессы. Если распределение значений процесса
для любого множества моментов времени — многомерное нор-
нормальное распределение, процесс называется нормальным, или
гауссовским. Так как многомерное нормальное распределение
полностью описывается его моментами первого и второго поряд-
порядков, существование постоянного среднего значения ц и автокова-
автоковариационной матрицы Гп вида B.1.7) для всех п достаточно, что-
чтобы обеспечить стационарность нормального процесса.
Слабая стационарность. Для того чтобы процесс был строго
стационарным, вся его вероятностная структура должна зави-
зависеть только от разностей времен. Менее жесткое требование,
называемое слабой стационарностью порядка /, заключается
в том, чтобы моменты до некоторого порядка / зависели только
от разностей времен. Например, существование среднего зна-
значения ц и автоковариационной матрицы Г„ вида B.1.7) доста-
достаточно для получения стационарности второго порядка. Тогда
стационарность второго порядка плюс предположение о нор-
нормальности обеспечивают строгую стационарность.
2.1.4. Автоковариационные и автокорреляционные функции
В разд. 2.1.2 было показано, что автоковариационный коэф-
коэффициент Yft Для задержки k измеряет ковариацию между двумя
величинами zt и zt+k, разделенными интервалом k. Функция ya
от задержки k называется автоковариационной функцией {yk\
стохастического процесса. Аналогично функция р& от задержки k
называется автокорреляционной функцией {ph\ стохастического
процесса. Заметим, что автокорреляционная функция безраз-
безразмерна, т. е. независима от масштаба измерения временных ря-
рядов. Так как yk =9ka\, знание автокорреляционной функции
{рй} и дисперсии а^ эквивалентно знанию автоковариационной
функции {yh}.
Автокорреляционная функция, представленная на рис. 2.5 как
график диагональных элементов автокорреляционной матрицы,
показывает, как изменяется корреляция между двумя любыми
членами ряда по мере изменения расстояния между ними. Так
как pft = p_ft, автокорреляционная функция должна быть сим-
симметричной относительно нуля и на практике необходимо изобра-
изображать только правую половину функции (для положительных k).
На рис. 2.6 показана правая половина автокорреляционной
функции, приведенной на рис. 2.5. В дальнейшем, когда будем
говорить об автокорреляционной функции, мы часто будем
иметь в виду ее правую половину. В прошлом автокорреляцион-
автокорреляционную функцию иногда называли коррелограммой.
Гл. 2. Автокорреляционная функция и спектр
47
Из ранее сказанного следует, что нормальный стационарный
процесс zt полностью описывается его средним значением ц и
'1.0
ОЙ
ом
0,2
-0,1
-0J
0,8
10
0.8
ол
0.2
-01
0,''
ОЙ
1,0
0.8
0,'t
0?
02
04
0.8
1.0
0.8
04
-0.1
пг
ол
0,8
1,0
08
01
-0.1
0,1
ом
0,8
10
\
\ ^ч
S s ч v ч
\ * ч ч
Рис. 2.5. Автокорреляционная матрица и соответствующая автокорреляцион-
автокорреляционная функция.
его автоковариационной функцией {yh}, или, что эквивалентно,
его средним значением ц, дисперсией а\ и автокорреляционной
функцией {рй}.
2.1.5. Оценивание автоковариационной и автокорреляционной
функций
До сих пор мы рассматривали только теоретическую автокор-
автокорреляционную функцию, которая описывает математически опре-
определенный стохастический процесс. На практике мы имеем
конечный временной ряд ги г2, ..., zN из N наблюдений, по
которому мы можем найти только 'выборочные оценки автокор-
автокорреляций.

48
Часть 1. Стохастические модели и прогнозирование
Гл. 2. Автокорреляционная функция и спектр
49
В статистике имеется несколько оценок автокорреляционной
функции, их свойства в деталях рассмотрены в [27]. Там сделан
вывод, что наиболее удовлетворитель-
удовлетворительной оценкой автокорреляции pft при за-
задержке k является
BЛ.9)
10
где
N-k
г з
Рис. 2.6. Автокорреляцион-
Автокорреляционная функция с рис. 2.5 для
неотрицательных задержек.
Ch = ~W -J B< ~~
= 0, 1, 2,
, К B.1.10)
— выборочная оценка автоковариа-
ции Yft. a. z — среднее значение вре-
временного ряда. Мы проиллюстрируем
B.1.10), вычислив rt по 10 первым значениям химического про-
процесса на рис. 2.1, приведенным в табл. 2.1. Среднее значение
первых десяти значений таблицы равно 51, и отклонения от сред-
среднего равны —4, 13, —28, 20, —13, 13, 4, —10, 8, —3.
Таблица 2.1
Ряд из 70 последовательных выходов партий
продукта химического процесса.
Этот ряд имеется также под названием
«ряд F» в сборнике временных ридов
в коиде данного выпуска
1-15
47
64
23
71
38
64
55
41
59
48
71
35
57
40
58
J6-30
44
80
55
37
74
51
57
50
60
45
57
50
45
25
59
31-45
50
71
56
74
50
58
45
54
36
54
48
55
45
57
50
46-60
62
44
64
43
52
38
59
55
41
53
49
34
35
54
45
61-70
68
38
50
60
39
59
40
57
54
23
Тогда
2j(z,-
Отсюда
(-4) A3)+ A3) (-28)+ ... + (8)(-3) = -1497.
- 1497 .,_ _
Ci = —iq- =-149,7.
Аналогично находим, что с0 = 189,6. Отсюда
, - ci _ -149,7 7q
1 с0 189,6 ~~ и>/У'
так как для практических целей достаточно округлять автокор-
автокорреляцию до двух знаков после запятой. Вычисления, приведен-
/г
I L,
W
15
-71-
Р и с. 2.7. Выборочная автокорреляционная функция данных о партиях
продукта.
ные выше, чисто иллюстративны. На практике для получения по-
полезной оценки автокорреляционной функции нам нужно по мень-
зней мере 50 наблюдений, и выборочные автокорреляции rk дол-
должны быть вычислены для k = 0, 1, ..., К, где К не больше чем
примерно ./V/4.
Первые 15 значений rk, полученные по всей серии из 70 на-
наблюдений, приведены в табл. 2.2 и показаны на рис. 2.7. Выбо-
Выборочная автокорреляционная функция характеризуется знакопе-
знакопеременной корреляцией с тенденцией к затуханию по мере роста
задержки. Такие автокорреляционные функции встречаются
в данных о выпуске продукции и являются следствием эффек-
эффектов «переноса». Б этом частном примере высокий выход цикла

52
Часть I. Стохастические модели и прогнозирование
Гл. 2. Автокорреляционная функция и спектр
53
В предположении, что ряд полностью случайный, имеем q = 0.
Тогда для всех задержек B.1.13) дает
Соответствующая стандартная ошибка равна 0,07 = @,005I/з.
Так как значение г\ = —0,38 в 5 раз превосходит по модулю
стандартную ошибку, можно заключить, что р( не равно нулю.
Далее выборочные автокорреляции для задержек, больших 1,
малы; следовательно, разумен вопрос, соответствует ли ряд при-
принятой гипотезе (ее соответствие явлению мы обсудим позднее),
что pi не равно нулю, a pft = 0(^^2). Используя B.1.13)
с q = 1 и подставляя г\ вместо рь находим, что при такой гипо-
гипотезе выборочная дисперсия для больших задержек равна
var [г*] ~ -^о [ 1 + 2 (- 0,38J] = 0,0064, k > 1,
что дает стандартную ошибку 0,08. Поскольку выборочные ав-
автокорреляции для задержек, больших чем 1, малы по сравне-
сравнению с этой стандартной ошибкой, нет причин сомневаться в адек-
адекватности модели pi Ф 0, рй = 0(k ^ 2).
i=\, 2, ..., q,
N
фициентов ссо и (аг-, рг) будут
ао = г, B.2.2)
B.2.3)
B.2.4)
B.2.5)
где /(/ч) называется интенсивностью на частоте ft.
Когда N четно, мы полагаем N = 2q, и B.2.2) — B.2.5) при-
применимы для ?=1,2 <7 ~ 1-
Для i — q имеем
N
: == -дТ 2j ZtSit'
t=l
Тогда периодограмма состоит из q = (N—l)/2 значений
2.2. СПЕКТРАЛЬНЫЕ СВОЙСТВА СТАЦИОНАРНЫХ
МОДЕЛЕЙ
2.2.1. Периодограмма
Другой способ анализа временного ряда основан на предпо-
предположении, что он образован синусоидами и косинусоидами раз-
различных частот. Способ реализации этой идеи, предложенный
в 1898 г. Шустером [30], основан на применении периодограммы
(см. также [31]). Периодограмма вначале использовалась для
обнаружения и оценок амплитуды синусоидальной компоненты,
скрытой шумом. Мы будем пользоваться ею в дальнейшем для
контроля случайности ряда (обычно ряда из остаточных оши-
ошибок после подгонки какой-либо модели), в котором периодиче-
периодические компоненты неизвестной частоты могут еще сохраниться.
Для иллюстрации вычислений периодограммы положим, что
число наблюдений N нечетно: N — 2q -{- \. Если мы подгоняем
модель ряда Фурье
zt = <х0 + 2 (aiCit + p,sK) + et, B.2.1)
ii
где сц — cos 2nfit, su — sin 2я/J, fi = i/N — i-я гармоника оч-
новной частоты l/N, то оценки (наименьших квадратов) коэф-
коэфI (f q) = I @,5) = Na2q.
Заметим, что наиболее высокая частота составляет 0,5 цикла за
временной интервал, поскольку наименьший период равен двум
интервалам.
2.2.2. Дисперсионный анализ
Из таблицы дисперсионного анализа, относящейся к линей-
линейной регрессии B.2.1) для нечетного N, устранив среднее значе-
значение, мы можем выделить (jV — 1)/2 пар степеней свободы. Они
связаны с парами коэффициентов (аи b{), (a2, b2), ..., (aq, bq)
и, следовательно, с частотами 1/jV, 2/N q/N. Очевидно, что
значение периодограммы / (J () = (N/2) (а\ + &f) есть просто
«сумма квадратов» пар коэффициентов {аи 6г), а следователь-
следовательно, связано с частотой fi = i/N. Таким образом,
2 (zt -zf= 2 I (ft). B.2.6)
Когда N четно, существует (N — 2)/2 пар степеней свободы и
еще одна одиночная степень свободы, связанная с коэффициен-
коэффициентом aq.

54
Часть I. Стохастические модели и прогнозирование
Гл. 2. Автокорреляционная функция и спектр
65
Если ряд действительно случаен и не содержит регулярной
синусоидальной компоненты, т. е.
zt = Оо + et,
где ао — фиксированное среднее значение, а е — независимые,
нормально распределенные случайные величины с нулевым сред-
средним значением и дисперсией а2, то каждая компонента /(/г)
имеет математическое ожидание 2а2 и будет распределена как
а2Х2B) независимо от всех других компонент*). Напротив, если
ряд содержит регулярную случайную компоненту с частотой fu
амплитудой А и фазой F, так что
Zt = «о + a cos {2nftt) + p sin Bnftt) + et,
где а = A sin F и р = Л cos/7, то сумма квадратов 7(fj) будет
иметь тенденцию к увеличению, так как ее математическое ожи-
ожидание равно 2а2 + N {а2 + р2)/2 = 2а2 + М42/2.
Практически мало вероятно, чтобы частота / неизвестной
регулярной синусоидальной компоненты точно совпадала с ка-
какой-либо из частот fi, для которых могут быть вычислены интен-
интенсивности. В этом случае на периодограмме будет наблюдаться
увеличение интенсивности в непосредственной близости от /•
Пример. При построении периодограммы обычно использует-
используется большое число наблюдений. Однако для иллюстрации про-
процедуры построения мы воспользуемся набором из 12 среднеме-
среднемесячных температур (в градусах Цельсия) для центральной Анг-
Англии в 1964 г., приведенным в табл. 2.3.
Таблица 2.3
Среднемесячные температуры в центральной Англии в 1964 г.
t
Си
1
3,4
0,87
2
4.5
0,50
3
4,3
0,00
4
8,7
-0,50
5
13,3
-0,87
6
13,8
-1,00
7
16,1
-0,87
8
15,5
-0,50
9
14,1
0,00
10
8,9
0,50
11
7,4
0,87
12
3,6
1,00
Третья строчка в табл. 2.3 содержит значения си =
= cos B:^/12), необходимые для вычисления а, по формуле
а, = 1 [C,4) @,87)+ ... +C,6)A,00)]=-5,30.
*) Подразумевается, что х2(/п)—случайная переменная, имеющая
^-распределение с m степенями свободы. Точное определение см., например,
в приложении П7.1.
Значения ait bit i= 1, 2, ... 6, даны в табл. 2.4; им соответ-
соответствует табл. 2.5 дисперсионного анализа. Как и ожидалось,
главная компонента этих температурных данных имеет 12-месяч-
12-месячный период с частотой Vi? цикла в месяц.
Таблица 2.4
Амплитуды синусоидальных и
косинусоидальных компонент
для температурных данных
1
1
2
3
4
5
6
а1
—5,30
0,05
0,10
0,52
0,09
—0,30
"l
—3,82
0,17
0,50
—0,52
—0,58
—
Таблица 2.5
Таблица дисперсионного анализа температурного ряда
1
1
2
3
4
5
6
Частота
h
V.
7з
7,2
V»
Период
12
6
4
3
'7*
2
Периодо-
Периодограмма
Hft)
254,96
0,19
1,56
3,22
2,09
1,08
Всего 263,10
Число
степеней
свободы
2
2
2
2
2
1
11
Среднее
квадратич-
квадратичное
127,48
0,10
0,78
1,61
1,05
1,08
23,92
2.2.3. Спектральная плотность и нормированный спектр
Для полноты мы кратко обсудим ниже понятия спектра и
спектральной плотности. Применение этих важных понятий бо-
более полно описано в [27]. Мы не используем их для анализа вре-
временных рядов в этой книге, поэтому при первом чтении этот
раздел можно опустить.
Выборочный спектр. При определении периодограммы B.2.5)
предполагается, что частоты ff = i/N являются гармониками

66
Часть 1. Стохастические модели и прогнозирование
основной частоты l/N. Вводя спектр, мы ослабляем это предпо-
предположение и позволяем частоте / изменяться непрерывно в диапа-
диапазоне 0—0,5 Гц. Определение периодограммы может быть изме-
изменено следующим образом:
4-. B-2.7)
где /(/) называется выборочным спектром [27]. Подобно перио-
периодограмме, он может быть использован для обнаружения и оценки
амплитуд синусоидальной компоненты неизвестной частоты f,
скрытой в шуме, и действительно это даже удобнее, если только
не известно, что частота / связана гармонически с длиной ряда,
т. е. f = ilN. Более того, он является отправным пунктом для
теории спектрального анализа, использующей важное соотноше-
соотношение, приведенное в приложении П2.1. Это соотношение устанав-
устанавливает связь выборочного спектра /(/) и оценок ch автоковариа-
автоковариационной функции:
I j. B.2.8)
Таким образом, выборочный спектр — это косинус-преобразова-
косинус-преобразование Фурье выборочной автоковариационной функции.
Спектр. Периодограмма и выборочный спектр — удобные по-
понятия анализа временных рядов, образованных смесью сину-
синусоид и косинусоид с постоянными частотами, скрытыми в шуме.
Однако стационарные временные ряды такого типа, как описан-
описанные в разд. 2.1, характеризуются случайными изменениями
частоты, амплитуды и фазы. Для таких рядов выборочный
спектр /(/) сильно флуктуирует и не допускает какой-либо раз-
разумной интерпретации [27].
Предположим, однако, что выборочный спектр был вычислен
для временного ряда из N наблюдений, являющегося реализа-
реализацией стационарного нормального процесса. Как уже говори-
говорилось выше, такой процесс не имеет никаких детерминированных
синусоидальных или косинусоидальных компонент, но мы мо-
можем формально провести анализ Фурье и получить значения а#,
bf для любой частоты /. Если повторные реализации N наблю-
наблюдений порождены стохастическим процессом, мы можем собрать
популяцию значений af, bf и I(f). Тогда мы можем найти сред-
среднее значение /(/) по повторным реализациям *) длины N,
а именно
Е [I (/)] = 21Е [с0] + 2 Д Е [ck] cos 2nfk j . B.2.9)
ред.
*) Т. е. среднее по ансамблю, идн математическое ожидание. — Прим.
Гл. 2. Автокорреляционная функция и спектр
57
Для больших N можно показать (см., например, [27]), что сред-
среднее значение автоковариации Ch в повторных реализациях стре-
стремится к теоретической автоковариации, т. е.
lim
Переходя к пределу в B.2.9) для N -+ со, определяем спектр
мощности *) как
/00 \
p{f)= lim ?[/(/)] = 2 Yo +2 1lykcos2nfk), 0<f<V2. B.2.10)
Отметим, что так как
ft—1
, B.2.11)
то для сходимости спектра y& должно убывать с ростом k на-
настолько быстро, чтобы обеспечивать сходимость ряда B.2.11).
Так как спектр мощности — это косинус-преобразование Фурье
автоковариационной функции, знание автоковариационной функ-
функции математически эквивалентно знанию спектра мощности и
наоборот. Далее мы будем называть спектр мощности просто
спектром.
Интегрируя B.2.10) в пределах от 0 до 1/2, найдем диспер-
дисперсию процесса
p(f)df.
B.2.12)
Следовательно, так же как периодограмма /(/) показывает, ка-
каким образом дисперсия B.2.6) ряда, состоящего 1из смеси си-
синусоид и косинусоид, распределена между различными гармони-
гармоническими компонентами, спектр p(f) показывает, как дисперсия
стохастического процесса распределена в непрерывном диапа-
диапазоне частот. Можно интерпретировать p(f)df как приближенное
значение дисперсии процесса в частотном диапазоне от f до
f + df.
Нормированный спектр **). Иногда более удобно определять
спектр B.2.10) при помощи автокорреляций pk, а не автокова-
*) В математической литературе чаще используется термин «спектраль-
«спектральная плотность». — Прим ред
**) В оригинале spectral density function (спектральная плотность). В на-
нашей литературе спектральной плотностью называют функцию p(f), По-
9гому мы будем называть определяемую ниже функцию g(f) = /?(/)/сгг* нор*
шрованным спектром. — Прим. ред,

58
Часть 1. Стохастические модели и прогнозирование
риаций \ft. Результирующая функция
g{f) = P (f)/°l = 211 + 2 2 Pk cos 2nfk ), 0 < f < >/2 B.2.13)
называется нормированным спектром. Из B.2.12) вытекает, что
эта функция имеет свойство
Поскольку g(/) положительна, она обладает теми же свойства-
свойствами, что и обычные плотности вероятности. Аналогия распростра-
распространяется и на оценивание этих двух функций, к обсуждению кото-
которого мы переходим.
0,5
Рис. 2.8. Выборочный спектр мощности данных о партиях продукта.
Оценивание спектра. Казалось бы, что оценка спектра может
быть получена из B.2.10) заменой теоретических автоковариа-
ций \ft их выборочными оценками ck. Согласно B.2.8), это
означает, что выборочный спектр принимается за оценку p(f).
Однако можно показать (см. [27]), что выборочный спектр
стационарного временного ряда сильно флуктуирует вокруг тео-
теоретического спектра. Интуитивное объяснение этого факта за-
заключается в том, что выборочный спектр соответствует исполь-
использованию слишком узкого интервала в частотной области. Это
аналогично использованию слишком узкого интервала группи-
группирования для гистограммы при оценке обычного распределения
вероятностей. Используя модифицированную, или сглаженную,
оденку
Р (/) = 2 ( с0 + 2 It Кск cos 2nfk }, B.2.14)
где hh — специально подобранные веса, называемые корреля-
корреляционным окном, можно увеличить «ширину полосы» оценки и
получить сглаженную оценку спектра.
Гл. 2. Автокорреляционная функция и спектр
59
На рис. 2.8 показана выборочная оценка спектра данных
о партиях продукта. Видно, что дисперсия ряда сконцентриро-
сконцентрирована в основном на высоких частотах. Это вызвано быстрыми
осцилляциями исходного ряда, показанного на рис. 2.1.
2.2.4. Простые примеры автокорреляционных функций
и нормированных спектров
Для иллюстрации мы приведем ниже эквивалентные пред-
представления двух простых стохастических процессов при помощи
1) их теоретических моделей,
2) их теоретических автокорреляционных функций,
3) их теоретических спектров.
Рассмотрим два процесса
zt= 10 + at-\-ai-u zt=l0 + at — at-.1,
где at, at-\, ..., — последовательность некоррелированных, слу-
случайных нормальных величин с нулевым средним значением и
единичной дисперсией, т. е. белый шум. Используя определение
B.1.5)
yk = cov [zt, zt+k] = Е [(zt — ц) (zt+k — цI
где E[zt] = E[zt+h] = ц = 10, находим, что автоковариации этих
двух статистических процессов равны
( 2,0, k = 0 ( 2,0, k = 0
Yfc = j 1,0, k = \, Yfc—| —1,0, k=l
Тогда теоретические автокорреляционные функции равны
0,5, k = \, _f-°'5> k = l>
0,0, &>2; Pk~ 1 0,0,
~ 1
и, используя B.2.13), получаем, что теоретические нормирован-
нормированные спектры имеют вид
g (f) = 2 A + cos 2nf), g (f) = 2 A - cos 2nf).
Автокорреляционные функции и нормированные спектры пока-
показаны на рис. 2.9 вместе с выборками из временных рядов для
каждого процесса.
1. Следует отметить, что для этих двух стационарных про-
процессов знание либо автокорреляционной функции, либо норми-
нормированного спектра (со средним значением и дисперсией) экви-
эквивалентно знанию модели (при условии, что процесс нормаль-
нормальный) .

60
Часть 1. Стохастические модели и прогнозирование
Гл. 2. Автокорреляционная функция и спектр
61
2. Очевидно, что автокорреляционная функция объясняет 'не-
'некоторые свойства ряда. Сравнительная гладкость первого ряда
объясняется положительной связью между последовательными
значениями; знакопеременный характер второго ряда объяс-
объясняется отрицательной связью между последовательными значе-
значениями.
МодельО) zt = ?o+at+at-, МодельB) zt=ro+at-at-f
б 1
1
О
-1
W
модель A)
ю
модель B)
gin
1/8 /Д 3/8 1/2
Г >
модель A)
7/4 1/8 3/8 1/2
Модель B)
Рис. 2 9 Две простые стохастические модели (а), соответствующие им тео-
теоретические автокорреляционные функции (б) и спектральные плотности (в).
3. Спектральная плотность отражает другие, но эквивалент-
эквивалентные характеристики ряда. Преобладание низких частот в пер-
первом ряде и высоких частот во втором проявляется в соответ-
соответствующих спектрах.
2.2.5. Преимущества и недостатки автокорреляционных
функций и нормированных спектров
Поскольку автокорреляционная функция и нормированный
спектр являются взаимными трансформантами, они математи-
математически эквивалентны. Поэтому вопрос об их сравнительных преи-
преимуществах и недостатках не математический, а связан с тем,
что мы хотим нагляднее представить. Поскольку, как мы ви-
видели, каждая из этих функций характеризует разные свойства
данных, их следует рассматривать не как соперников, а как
союзников. Каждая из них способствует пониманию изучаемого
стохастического процесса.
Получение выборочных оценок автокорреляционной функции и
спектра — неструктурные *) подходы, аналогичные представле-
представлению эмпирической функции распределения гистограммой. Оба эти
подхода позволяют данным из стационарных рядов «говорить
Самим за себя» и являются первым шагом в анализе временных
рядов; точно так же гистограмма, являясь первым шагом в ве-
вероятностном анализе данных, указывает путь к отысканию под-
подходящей параметрической модели для последующего анализа.
Параметрические модели временных рядов такого типа, как
рассмотренные в разд. 2.2.4, не обязательно имеют простую ав-
автокорреляционную функцию или простой спектр. Используя лю-
любой из этих неструктурных подходов, мы, возможно, будем вы-
руждены оценивать значения корреляции при большом числе
Задержек или находить большое число ординат спектра, хотя
данные могут быть описаны параметрической моделью всего
С одним-двумя параметрами. Поскольку каждое значение кор-
корреляции или каждая ордината являются оцениваемыми пара-
параметрами, такие неструктурные методы очень расточительны в от-
кошении параметров, в то время как подход, основанный на
ррямом отыскании модели, мож'ет быть более экономичным.
С другой стороны, вначале мы, вероятно, не знаем, какова под-
подходящая модель; поэтому использование того или другого не-
|труктурного подхода оказывается необходимым для идентифи-
идентификации нужного типа модели. Аналогично, нарисовав гисто-
рамму, легче выбрать подходящий тип распределения. Выбор
1ежду спектром и автокорреляционной функцией как сред-
ггвами построения модели зависит от природы моделей, ока-
алвающихся практически полезными. Те модели, которые мы
1ашли полезными и которые будут рассмотрены в последующих
Яавах этой книги, проще описываются с помощью автокорре-
(яционной функции. Именно этим инструментом мы пользуемся
|дя идентификации рядов.
приложение п2.1. связь между выборочным
щектром и оценкой автоковариационной
Функции
Ниже будет дан вывод формулы B.2.8):
*) Т. е. непараметрическне.

62
Часть I. Стохастические модели и прогнозирование
связывающей выборочный спектр /(/) и оценки Си автоковариа-
автоковариационной функции. Пусть выборочные оценки a/,v bf метода наи-
наименьших квадратов для синусоидальной и косинусоидальной
компонент ряда на частоте / объединены в df=af — ibf, где
г = /:ГГ. Тогда
где d* комплексно сопряжено с df. Тогда, используя B.2.3) и
B.2.4), получим
N
df = -тт- V zt (cos 2nft — г sin 2nft) =
N N
=ir ? z*e~imt=4 S B< -2>
Подставляя (П2.1.2) в (П2.1.1), получаем
N N
=4 S ? <* - *> <2<' -*>
-*'). (П2.1.3)
Так как
N-k
t=i
замена k = t — t' преобразует (П2.1.3) в
N-l I ЛГ-I \
I (f) = 2 S ске-12я& = 2 j c0 + 2 2 ^ cos2nfA j, 0 </<'/«,
что и требовалось доказать.
ГЛАВА 3
Линейные стационарные модели
Описана общая линейная Стохастическая модель, основан-
основанная на предположении о том, что временной ряд генерируется
совокупностью случайных импульсов. Для практических целей
удобно пользоваться моделями, описываемыми малым числом
параметров. Часто удается достигнуть экономии, представляя
линейный процесс при помощи небольшого числа членов типа
авторегрессии или скользящего среднего. Будут рассмотрены
свойства результирующих моделей авторегрессии — скользя-
скользящего среднего (АРСС), используемых в дальнейшем в проце-
процедурах построения моделей.
3.1. ОБЩИЙ ЛИНЕЙНЫЙ ПРОЦЕСС
3.1.1. Две эквивалентные формы линейного процесса
В разд. 1.2.1 мы рассматривали представление стохастиче-
стохастического процесса как выход линейного фильтра, на вход которого
поступает белый шум at, т. е.
оо
Zf — dt "f" tylat~l ~t~ §2at-2 "Г" ••• == at ~f" 2 i|>i#f-/> C.1.1)
/=l
?де zt = zt — fi — отклонение процесса от некоторого начального
уровня или, если процесс стационарен, от своего среднего зна-
значения. Общий линейный процесс C.1.1) позволяет нам предста-
представить zt как взвешенную суТмму настоящего и прошлых значений
другого процесса — белого шума *) at. Наиболее важная ли-
литература по теории линейных стохастических моделей — это [24,
28, 29, 32, 44, 92, 97—100, 102, 103]. Белый шум at можно рас-
рассматривать как серию импульсов, которые приводят в движение
систему. Он состоит из последовательности некоррелированных
*) В математической литературе процесс C.1.1) называется линейным,
|сли at независимы, одинаково распределены, имеют конечную дисперсию,
того, 2 Ф/< °°" ~ Прим ред.
/-о

64
Часть I. Стохастические модели и прогнозирование
Гл. 3. Линейные стационарные модели
65
случайных переменных с нулевым средним значением и по-
постоянной дисперсией:
x.
Так как случайные переменные некоррелированы, их автокова-
автоковариационная функция должна иметь вид
k = О,
(ЗЛ-2)
a2,
Поэтому автокорреляционная функция белого шума имеет очень
простую форму:
р*={<1; — (зл-з)
Модель C.1.1) может быть записана иначе, а именно, как
взвешенная сумма прошлых значений z плюс добавочный
импульс йй
zt =
n2zt-2
at.
C.1.4)
В форме C.1.4) процесс можно объяснить как регрессию теку-
текущего отклонения zt от уровня ц на прошлые отклонения про-
процесса 2(.|,г(-2, ....
Соотношения между весами я|> и я. Соотношения между ве-
весами i|> и я можно получить при помощи введенного ранее опе-
оператора сдвига назад
Позднее нам понадобится также оператор сдвига вперед F=B~l,
такой, что
Как пример использования оператора В рассмотрим модель
zt = at - ваг_, — A - Щ at,
в которой t|)i = —9, яр,- =* 0 при / > 1. Выражая at через z, по»
лучим
{ll
Отсюда
и, выражая Отклонение zt через прошлые отклонения в виде
C.1.4), получаем
Вообще C.1.1) можно записать в виде
или
где
Е
zt =
C.1.5)
/=о
с 1|зо = 1. Как отмечалось в разд. 1.2.1, г|)E) называется пере-
передаточной функцией линейного фильтра, связывающего zt с at.
Она может рассматриваться также как производящая функ-
функция весов 1|з, где В следует рассматривать как фиктивную пе-
переменную, чья /-я степень есть коэффициент при tp,-.
Аналогично C.1.4) можно записать
(i -
или
Тогда
n(B)zt =
C.L6)
— это производящая функция весов я. Применяя к обеим ча-
частям C.1.6) оператор ty(B), получим
Отсюда
л(В) = $~1(В). C.1.7)
Соотношение C.1.7) можно использовать для получения весов я
по заданным весам гр и наоборот.
3.1.2. Производящая функция автоковариаций линейного
процесса
Основным инструментом анализа данных для идентификации
Моделей в гл. 6 будет автокорреляционная функция. Поэтому
нам важно знать автокорреляционную функцию линейного про-
процесса. В приложении П3.1 показано, что автоковариационная
функция линейного процесса C.1.1) имеет вид
Так что для этой модели щ = — QK
C.1.8)

66
Часть I. Стохастические модели и прогнозирование
В частности, принимая в C.1.8) & = 0, мы находим, что дис-
дисперсия процесса равна
S
,C.1.9)
Отсюда следует, что если процесс имеет конечную дисперсию,
веса 1|K- должны уменьшаться достаточно быстро, для того чтобы
ряд в правой части C.1.9) сходился.
Часто более удобным способом получения автоковариаций
линейного процесса оказывается использование производящей
функции автоковариаций
= 2
C.1.10)
в которой Yo (дисперсия процесса) —это коэффициент при
5° = 1, в то время как \h (автоковариация для задержки k) —
это коэффициент как при В*, так и при В'' — FK В приложении
П3.1 показано, что
Y (В) = о*ф (В) ф {В-1) = о*ф (В) ф (F).
C.1.11)
Например, положим
так что г|)E)= 1—05. Подставляя это в C.1.11), получим
Y (В) = а2а A - 95) A - QB-1) = ol [- QB~l + (l + 92) - 95].
Сравнивая с C.1.11), находим, что автоковариаций равны
v, - - во»,
Y* = 0, k>2.
В дальнейшем 5, рассматриваемая как фиктивная переменная
в производящей функции, будет принимать и комплексные зна-
значения. В частности, иногда необходимо рассматривать отдельно
случаи, когда |5|<1, |5|=1 или |Б|>1, т. е. когда ком-
комплексное число В лежит внутри, на или вне единичной окруж-
окружности.
3.1.3. Условия стационарности и обратимости линейного
процесса
Стационарность. Сходимость рядов C.1.9) обеспечивает ко-
конечное значение дисперсии процесса. Мы видели также в разд.
2.1.3, что автоковариаций и автокорреляции должны удовлетво-
Гл 3. Линейные стационарные модели
67
рять ряду условий, обеспечивающих стационарность. Для ли-
линейного процесса эти условия могут быть объединены в одно,
а именно, что ряд i|>E) — производящая функция для весов г|) —
должен сходиться при \В\^. 1, т. е. для В, лежащих внутри
или на единичной окружности. Этот результат обсуждается
в приложении П3.1.
Спектр линейного стационарного процесса. В приложении
П3.1 показано, что, если мы подставим 5 в виде 5 = e~i2Tff, где
1=У—\, в производящую функцию автоковариаций C.1.11),
то получим уменьшенный в 2 раза спектр мощности. Отсюда
спектр линейного процесса равен
p(f) = 2о2ау> (е-'2л0 Ф (е'2л0 = 2а\ | г|>(е~г2лО Р 0<f<'/2. C.1.12)
В действительности C.1.12)—хорошо известное выражение [27],
связывающее спектр p(f) выхода линейной системы с равно-
равномерным спектром 2а2 входного белого шума, умноженным на
квадрат коэффициента усиления системы G2(f) = \ty(e-l2Tlf) |2.
Обратимость. Выше было показано, что веса я|) линейного
процесса, если он стационарен, должны удовлетворять условию
сходимости г|)(В) внутри или на единичной окружности. Рас-
Рассмотрим теперь ограничения, налагаемые на веса я, для полу-
получения свойства, называемого «обратимостью». Условие обрати-
обратимости не зависит от условий стационарности и применимо также
к нестационарным линейным моделям, которые мы введем
в гл. 4.
Для иллюстрации смысла понятия обратимости рассмотрим
снова модель
5< —A—вВ)а<. C.1.13)
Выражая а через I, получим из C.1.13)
т. е.
а, = 5, + е2/_, + е22м+ ... C.1.14)
или
2,= — 9^-1 — Q%-2— ... +at> C.1.15)
и веса я модели в форме C.1.15) равны щ = —Q1. При любом
значении 6 C.1.13) описывает обычный стационарный процесс.
Однако, если |6|^1, веса в разложении C.1.14), выражаю-
выражающем at через текущее и прошлые значения г, образуют рас-
расходящийся ряд. Это означает, что текущее отклонение ?t в
момент t в C.1.15) зависит от zt-i,Zt-z, ¦.., zt-b ••• с весами,
растущими по мере роста /. Мы избегаем этой ситуации, требуя,
чтобы веса я3 в «обращенном» разложении C.1.14) образовы-
образовывали сходящийся ряд, т. е. чтобы |0|< 1. В этом случае МЫ

68
Часть I. Стохастические модели и прогнозирование
будем называть ряд обратимым. Это условие будет, очевидно,
выполняться, если ряд
сходится при |В|^1, т. е. внутри или на единичной окруж-
окружности.
В гл. 6, где мы рассмотрим вопрос о единственности этих
моделей, мы увидим, что сходящееся разложение для щ воз-
возможно и в случае, когда |6| ^ 1; при этом at выражается только
через ги zt+\, zt+i, ..., т. е. через настоящее и будущее значения
процесса. Требование обратимости необходимо, если мы заинте-
заинтересованы в разумной связи текущих событий с событиями
в прошлом.
В общем линейный процесс
я (В) zt = at
обратим, если веса щ таковы, что ряд п(В) сходится внутри или
на единичной окружности.
Подводя итоги, отметим, что линейный процесс стационарен,
если 1|зE) сходится внутри или на единичной окружности, и
обратим, если я (В) сходится в той же области.
3.1.4. Првцессы авторегрессии и скользящего среднего
Представления общего линейного процесса C.1.1) и C.1.4)
не будут практически полезными, если они содержат неограни-
неограниченное число параметров 1|з3- и щ. Мы рассмотрим теперь, как
добиться экономии и все же сохранить достаточно представи-
представительные модели.
Процессы авторегрессии. Рассмотрим частный случай C.1.4),
когда только первые р весов ненулевые. Эта модель может быть
записана как
z, = M_, + M-2+ ••• +M<-P + fl" (злл6)
где мы используем символы фи ф2, ¦ • ¦, Фр Для конечного набора
весовых параметров. Процесс C.1.16) называется процессом ав-
авторегрессии р-ro порядка, или сокращенно процессом АР(р).
В частности, большое практическое значение имеют процессы
авторегрессии первого (р = 1) и второго порядка (р = 2)
Zt ~
Теперь мы можем записать C.1.16) в эквивалентной форме
Гл. 3. Линейные стационарные модели
69
ИЛИ
Так как из C.1.17) вытекает, что
C.1.17)
то процесс авторегрессии можно трактовать как выход zt ли-
линейного фильтра с передаточной функцией ф~х(В), входом кото-
которого служит белый шум щ.
Процессы скользящего среднего. Рассмотрим частный слу-
случай C.1.1), когда только первые q из весов г|) ненулевые. Про-
Процесс имеет вид
= at — 6,аг_, — е2а,_2
C.1.18)
где символы —0Ь —02, ..., —Qg используются для обозначения
конечного Набора весовых параметров. Процесс C.1.18) назы-
называется процессом скользящего среднего *) порядка q, который
иногда будет сокращенно обозначаться CC(q). В частности, осо-
особенно важны для практики процессы первого (q = 1) и второго
порядка (<7 = 2):
zt = at — Э,^.,
Мы можем также записать C.1.18) в эквивалентной форме
^ = A-е,Я-е2В2- ... -%B")at,
или
z, = 6EH,. C.1.19)
Отсюда- следует, что процесс скользящего среднего можно
трактовать как выход zt линейного фильтра с передаточной
функцией Q(B), на вход которого поступает белый шум at.
Смешанные процессы авторегрессии — скользящего сред-
среднего. Мы видели в разд. 3.1.1, что конечный процесс скользящего
среднего
zt == at —Qictt-x = A — 9,5) at
может быть записан как бесконечный процесс авторегрессии
^==-0А-,-efo_2- ... +at.
Поэтому, если процесс действительно типа ССA), его пред-
представление в виде процесса авторегрессии неэкономично. Ана-
Аналогично процесс АРA) не может быть экономично представлен
*) Как отмечалось в гл. 1, термин «скользящее среднее» не вполне
точен, поскольку сумма весов не равна 1. Однако этот термин общепринят,
И мы будем им пользоваться,

70
Часть I. Стохастические модели и прогнозирование
с помощью процесса скользящего среднего. На практике для
получения экономичной параметризации иногда бывает необ-
необходимо включить в модель как члены, описывающие авторегрес-
авторегрессию, так и члены, моделирующие скользящее среднее.
Такой процесс
или
C.1.20)
называется смешанным процессом авторегрессии — скользящего
среднего порядка (р, q) и иногда сокращенно обозначается нами
АРСС(р, q). Например, процесс АРССA,1) имеет вид
zt — PiZf-i = at 61^-1.
Так как C.1.20) можно записать в виде
_ в(В) 1 — в,в — ... -%в«
смешанный процесс авторегрессии — скользящего среднего
можно интерпретировать как выход zt линейного фильтра, пе-
передаточная функция которого есть отношение двух полиномов,
на вход которого подается белый шум at.
В следующих разделах мы обсудим важные характеристики
моделей авторегрессии, скользящего среднего и смешанного
типа. Мы исследуем их дисперсии, автокорреляционные функции,
спектры, а также условия стационарности и обратимости, на-
. кладываемые на их параметры.
3.2. ПРОЦЕССЫ АВТОРЕГРЕССИИ
3.2.1. Условия стационарности для процессов авторегрессии
Набор регулируемых параметров фи ф2, ..., ФР процесса
АР(р)
zt = M-i + • • • + Фрг(-р + at
или
должен удовлетворять определенным условиям для того, чтобы
процесс был стационарен.
Например, процесс авторегрессии первого порядка
может быть записан в виде
Гл. 3. Линейные стационарные модели
71
Отсюда
C.2.1)
В разд. 3.1.3 указывалось, что стационарность будет выпол-
выполняться, если ty(B) сходится при \В\<^. 1. Из C.2.1) вытекает,
что параметр ф\ стационарного процесса АРA) должен подчи-
подчиняться условию |^i|< 1. Так как уравнение 1 —ф\В =0 имеет
корень В = ф~\ это эквивалентно условию, что корень урав-
уравнения 1 — ф\В = 0 должен лежать вне единичного круга.
Для произвольного процесса АР(р) 2( = ^-'E)аг мы полу»
чаем
ф(В) = A- GtB) A - G2B) ... A - GPB)
и, разлагая на элементарные дроби, получим
Отсюда, для того чтобы ряд ^{В)= ф~1(В) был сходящимся
при \В\^. 1, необходимо |Сг|< 1, где i = 1, 2, ..., р. Это эк-
эквивалентно тому, что корни уравнения Ф(В) = 0 должны лежать
вне единичного круга. Корни уравнения ф(В)=0 можно рас-
рассматривать как нули полинома ф(В). Следовательно, условие
стационарности заключается в том, что нули ф(В) должны ле-
лежать вне единичного круга. Аналогичные рассуждения приме-
применимы в случае, когда не все нули ф(В) различны. Уравнение
ф(В) = 0 называется характеристическим уравнением процесса.
Так как ряд
я (В) = ф (В) = 1 - &В — ф2В2 ¦
-ФРвр
конечен, обратимость процесса авторегрессии обеспечена без
каких-либо дополнительных ограничений на его параметры.
3.2.2. Автокорреляционная функция я спектр процессов
авторегрессии
Автокорреляционная функция. Важное рекуррентное соотно-
соотношение для автокорреляционной функции стационарного про-
процесса авторегрессии может быть найдено следующим образом.
Умножим
zt =
на zt..k й получим
2t-kat- C.2.2)

72
Часть I. Стохастические модели и прогнозирование
Переходя к математическим ожиданиям величин в C.2.2), по-
получаем разностное уравнение
Y* = *iY*-i + Ф2П-2 + • • • + ФРП-Р, k>0. C.2.3)
Отметим, что математическое ожидание E[zt-nat] равно нулю
при k > О, так как zt-h может включать лишь импульсы а, до
момента t — k, не коррелированные с at. Поделив все члены
C.2.3) на Yo» находим, что автокорреляционная функция удо-
удовлетворяет аналогичному разностному уравнению
P* = *iP*-i + &P*-2+ ••• +ФРРк-р. k>0. C.2.4)
Заметим, что это уравнение аналогично уравнению, которому
удовлетворяет сам процесс zt.
Запишем теперь C.2.4) в виде
где Ф(В)~ 1 — фхВ —... — фрВР, и В действует на k, но не
на t. Тогда, записав ф(В) в виде
получаем общее решение C.2.4) в виде
pk = Afi\ + A2Gk2 + ... + ApG%, C.2.5)
где GT\ G21, ••-, Gp1 — корни характеристического уравнения
Стационарность требует, чтобы | G, |< 1. Отсюда, если мы пред-
предположим, что все корни G,- не кратные, то на практике возмож-
возможны два случая.
1) Корень G, действителен, в силу чего член AiGt в C.2.5)
убывает с ростом номера k как член геометрической прогрес-
прогрессии. Мы будем называть этот случай затухающей экспонентои.
2) Пара корней G{, G} комплексно сопряжена, в силу чего
они образуют в ра член
Adk sin Bnfk + F)
вида затухающей синусоиды.
В общем автокорреляционная функция стационарного про-
процесса авторегрессии состоит из совокупности затухающих экс-
экспонент и затухающих синусоид.
Параметры авторегрессии, выраженные через автокорреля-
автокорреляции: уравнения Юла — Уокера. Если мы подставим в C.2.4)
значения k — 1, 2 р, то получим систему линейных урав-
Гл. 3 Линейные стационарные модели
73
нений для фи Ф2, •¦¦, фр, со свободными членами рь Рг, • • •, рр-
р1=ф1 +&Pi' + ••• +ФРРр-\,
Р2 = Ф1Р1 +Ф2 + • • • + ФрРр-2, C.2.6)
Они обычно называются уравнениями Юла — Уокера [24, 32].
Оценки Юла — Уокера для параметров процесса получим, за-
заменив теоретические значения автокорреляции рй выборочными
автокорреляциями rh. Если мы перейдем к матричным обозна-
обозначениям
ф:
Фг
Р2
1
Pi
Pi
1
Р2
Pi
рр-1
Рр-2
1
_Рр_ _ Рр-1 Рр-2 Рр-3
решение системы C.2.6) — выражения для параметров ф через
автокорреляции — можно записать в виде
0 = р-'рр. C.2.7)
Дисперсия. Когда k = О, вклад члена Е [zt-hat] в C.2.2)
(после перехода к математическим ожиданиям) равен ?[a'^J =
= а\, так как единственный член в ги коррелированный с аи—.
это самый последний импульс at. Отсюда при k = О У0 — ф1у_1-{-
+ Ф2У-2 + • • • + ФрУ-р + а1- Поделив все члены на у0 = о\ и
заменив у-л на уи, получим выражение для'дисперсии
C.2.8)
ф{В)=\- фхВ - ф2В* - ... - фрВр.
Отсюда, используя C.1.12), получим выражение для спектра
процесса авторегрессии
z I — Pj01 — р2Фг — ...
Спектр. Для процесса АР(р)
¦ф(В) = ф~1(В)
/>(/) = (
2ai
Vh- C.2.9)
Рассмотрим теперь два наиболее важных процесса авторегрес-
авторегрессии, а именно процессы первого и второго порядка,

74
Часть 1. Стохастические модели и прогнозирование
Гл. 3 Линейные стационарные модели
75
3.2.3. Процесс авторегрессви первого порядка (марковский
процесс)
Процесс авторегрессии первого порядка имеет вид
*« = tfr-i + at = at + i>iat-\ + ^\at-2 + ¦ • • • C-2.10)
Как было показано в разд. 3.2.1, для стационарности процесса
необходимо, чтобы —1< фг < 1.
i
/г
Illl,.... I
5 Ю 1
[ . I
L9
gin
0.5
Рис. З.1. Реализации процессов авторегрессии первого порядка (а), соответ-
соответствующие им автокорреляционные функции (б) и спектральные плотности (в).
Автокорреляционная функция. Согласно C.2.4), автокорре-
автокорреляционная функция процесса удовлетворяет разностному урав-
уравнению первого порядка
Pft = ^iP*-i> k>0, C.2.11)
которое при р0 = 1 имеет решение
C-2-12)
Как показано на рис. 3.1, автокорреляционная функция экспо-
экспоненциально затухает до нуля монотонно при положительном фи
меняя знак, когда ф\ отрицательно.
В частности, отметим, что
Pi = *i- C.2.13)
Дисперсия. Согласно C.2.8), дисперсия процесса имеет вид
или, заменяя pi на
— P101 '
„2
1-0?*
C.2.14)
Спектр. Наконец, используя C.2.9), найдем спектр процесса:
2ai
2ai
;-. C.2.15)
На рис. 3.1 показаны реализации процесса для случаев
Фг = 0,8, ф\ = —0,8, а также соответствующие автокорреля-
автокорреляционные функции и спектры. Видно, что в случае большого по-
положительного параметра ф\ = 0,8 соседние значения ряда
близки и наблюдается заметный тренд Это отражается на виде
автокорреляционной функции, которая медленно спадает к нулю
по экспоненциальному закону, и на виде спектра, в котором пре-
преобладают низкие частоты. В случае же, когда параметр ф\ при-
принимает большое по модулю отрицательное значение —0,8, ряд
быстро осциллирует. Это находит отражение в поведении авто-
автокорреляционной функции, — она экспоненциально спадает до
нуля, осциллируя с изменениями знака, — ив форме спектра —
в нем преобладают высокие частоты.
3.2.4. Процесс авторегрессви второго порядка
Условие стационарности. Процесс авторегрессии второго по-
порядка записывается в виде
Щ.
C.2.16)
Для стационарности процесса необходимо, чтобы корни уравне-
уравнения
Ф(В)=1-ф1В-ф2В2 = 0 C.2.17)

76
Часть 1. Стохастические модели и прогнозирование
лежали вне единичного круга, т. е. чтобы параметры ф\ и ф2 на-
находились в треугольной области
C.2.18)
показанной на рис. 3.2.
-\<Ф2<и
Л
-I
Рис. 3.2. Типичные автокорреляционные и частные автокорреляционные
функции ра и ф^к для различных стационарных моделей АР B).
Автокорреляционная функция. Из C.2.4) получаем разност-
разностное уравнение второго порядка, которому удовлетворяет авто-
автокорреляционная функция рассматриваемого процесса:
Pfe = Ф\9к-1 + &Pft-2, k > 0. C.2.19)
Начальные значения р0 = 1 и pi = ф\1{\ — ф2). Из C.2.5) сле-
следует, что общее решение разностного уравнения C.2.19) имеет
вид
Pk =
C.2.20)
-,-1
причем GJ' и С/г" — корни характеристического уравнения
C.2.17). Когда корни действительны, автокорреляционная функ-
функция состоит из совокупности затухающих экспонент. Это проис-
происходит, когда ф?-\- 4ф2^0, и соответствует областям / и 2,
лежащим выше параболической границы на рис. 3.2 (заимство-
(заимствованном из работы [33]). Конкретнее в области / автокорреля-
автокорреляционная функция затухает, оставаясь положительной, что соот-
соответствует положительному доминирующему корню в C.2.20).
В области 2 затухающая функция автокорреляции знакопере-
менна, что соответствует отрицательному доминирующему корню.
Гл. 3. Линейные стационарные модели
77
Если корни Gi и G2 комплексные (ф\ + Аф2 < 0), процесс ав-
авторегрессии второго порядка ведет себя как псевдопериодиче-
псевдопериодический. Это поведение отражается на функции автокорреляции,
так как заменой G1=dei2jlf' и G2 = de-'2nf<> в C.2.20) получаем
C.2.21)
smF
где sign(^i)=+1, если ф% > 0, и sign(^>i) = —1, если ф\ < 0.
В любом случае мы называем C.2.21) затухающей синусоидой
с параметром затухания d, частотой /0 и фазой F. Они связаны
с параметрами процесса следующим образом:
и имеет тот же знак, что и ф\,
cos 2л/0 = ¦
1*1
C.2.22)
C.2.23)
C.2.24)
Как показано на рис. 3.2, автокорреляционная функция в обла-
областях 3 и 4 — затухающая синусоида, причем фазовый угол F
меньше 90° в области 4 и лежит между 90 и 180° в области 3.
Это означает, что в области 4 автокорреляционная функция вна-
вначале (для нескольких первых задержек) положительна, а в об-
области 3 всегда меняет знак при переходе от задержки 0 к за-
задержке 1.
Уравнения Юла — Уокера. Подставляя р = 2 в C.2.6), по-
получим уравнения Юла — Уокера в виде
C.2.25)
Решив C.2.25) относительно ф\ и ф2, получим
j, _ PiC — Рг)
2
P2~Pl
1—Р?
C.2.26)
Диаграмма В в сборнике таблиц и диаграмм в конце книги по-
позволяет найти значения ф\ -и ф2 для любых данных значений pi
и р2. Эта диаграмма используется в гл. 6 и 7 для получения оце-
оценок ф по значениям выборочных автокорреляций г\ и гг.

78
Часть I Стохастические модели и прогнозирование
Уравнения C.2.25) могут быть решены также относительно
pi и р2) что дает
Pi = i Д2 •
01
C.2.27)
Отсюда получаем начальные значения р в C.2.19), указанные
выше. Выражения для представления автокорреляционной функ-
функции в форме C.2.20) или C.2.21) удобны для объяснения
Ф,-
Рис 33. Допустимые области значений а — Ф^ 02; б — р4,
нарного процесса АР B).
для стацио-
стациосвойств различных типов практически встречающихся процес-
процессов. Однако для вычисления автокорреляций процесса АРB)
при данных значениях <j>\ и <f>2 удобнее пользоваться непосред-
непосредственно разностным уравнением C.2.19).
Используя условия стационарности C.2.18) и выражения
C.2.27) для pi и р2, можно показать, что допустимые значения pi
Гл. 3. Линейные стационарные модели
и рг для стационарного процесса АР B) должны лежать в об-
области
На рис. 3.3, а показана область допустимых значений параме-
параметров <l>i и ф2, а на рис. 3.3, б — соответствующая область допу-
допустимых значений pi и рг.
t
ю
го
30
50 60
Р и с. 3.4 Временной ряд, генерируемый процессом авторегрессии второго
порядка.
Дисперсия. Из C.2.8) следует, что дисперсия процесса равна
1 — р, Фх — р2Фг
Спектр. Согласно C.2.9), спектр выражается как
Р(П =
2o'i
C.2.28)
г з г~^\ . 0</<-. C.2.29)
*j + *j —2*,(l - 02) cos 2я/- 202 cos 4nf 2

80
Часть I. Стохастические модели и прогнозирование
Спектр также отражает псевдопериодическое поведение ряда
в случае, когда корни характеристического уравнения ком-
комплексны. Для иллюстрации на рис. 3.4 показаны 70 членов ряда,
7г
¦ 0,5
J>k 0
-0,5
10
ттт
Рис. 3.5. Теоретическая автокорреляционная функция процесса авторегрессии
второго порядка zt = 0,75z(_i — 0,50z(_2 + at.
генерируемого моделью авторегрессии второго порядка
zt = 0,75zt_, — 0,50z,_2 + at,
полученной подстановкой в C.2.16) ф\ = 0,75 и фч = —0,50. На
рис. 3.5 показана соответствующая теоретическая автокорреля-
автокорреляционная функция, вычисленная по
формуле C.2.19) с начальными значе-
значениями ро=1 и pi=0,75/[l —(—0,5)]=
= 0,5. Корни характеристического
4 / \ уравнения
I / \ 1 — 0,75В + 0,5В2 = 0
комплексны, так что наблюдаемую
псевдопериодичность реализации ряда
можно было предугадать. Это поведе-
поведение четко проявляется в теоретической
автокорреляционной функции на
рис. 3.5; средний кажущийся период
близок к 6.
Параметр затухания d и частота /0
согласно C.2.22) и C.2.23) равны
8 Ь 2,6 2
1/f-neptlog >
i i i i 1
0,125 0,25 0,375 0,5
f- частота >
Рис. 3.6. Теоретическая
спектральная плотность
процесса авторегрессии вто-
второго порядка Z(=0,75iZ(_i—
— 0,50z(_2 + at.
arccos 0,5303- _J_
— 6,2'
2я
Таким образом, основной период функции автокорреляции ра-
равен 6,2.
Наконец, теоретический нормированный спектр, рассчитан-
рассчитанный по формуле C.2.29) и приведенный на рис. 3.6, показывает,
что дисперсия ряда обусловлена в основном частотами, близ-
близкими к fo-
Гл. 3. Линейные стационарные модели
81
3.2.5. Частная автокорреляционная функция
Вначале мы можем не знать, каков порядок процесса авто-
авторегрессии, удовлетворительно описывающего наблюденный ряд.
Эта задача аналогична задаче о числе независимых перемен-
переменных, которые нужно учесть при множественной регрессии.
Использование частной автокорреляционной функции для
анализа основано на том, что хотя процесс АР(р) имеет беско-
бесконечно протяженную функцию автокорреляции, тем не менее он
может быть описан при помощи р ненулевых функций от авто-
автокорреляций. Обозначим /-й коэффициент процесса авторегрес-
авторегрессии порядка k через фк], так что последний коэффициент будет
равен фш- Согласно C.2.4), фщ удовлетворяет системе уравне-
уравнений
P/ = AnP/-i+ ••• + йк*-оР/-*+1 + #**Р/-*, C.2.30)
/=1, 2 k,
что приводит к уравнениям Юла — Уокера C.2.6) в виде
1
Pi
Pi
1
Pz
Pi
-Pft-l Pfe-2 Pft-3 • • • 1
pfe-Г
Pa-2
1
~фкГ
L
Pi
P2
_Pa_
C.2.31)
или
P*0* = P*- C.2.32)
Решая эти уравнения последовательно для k = 1, 2, 3, получаем
033 =
1
Pi
1
Pi
1
Pi
P2
Pi
Pz
Pi
1
Pi
1
Pi
Pi
P2
Рз
2
P2 ~Pl
J-P?
/
/
j
1
Pi
P2
*
Pi
1
Pi
P2
Pi
1
C.2.33)
В общем определитель в числителе состоит из тех же элемен-
элементов, что и в знаменателе, но последний столбец заменен столб-
столбцом рА. Величина фки, рассматриваемая как функция задержки k,
называется функцией частной автокорреляции.
Для процесса авторегрессии порядка р частная автокорре-
автокорреляционная функция фък будет ненулевой для Кр и нулем для
k > р. Другими словами, частная автокорреляционная функция

82
Часть I- Стохастические модели и прогнозирование
процесса авторегрессии р-го порядка обрывается на задержке,
следующей за р. Частные автокорреляционные функции фы
этого процесса показаны в каждой из четырех областей рис. 3.2.
3.2.6. Оценивание частной автокорреляционной функции
Частные автокорреляции можно оценивать последовательной
подгонкой процессов авторегрессии порядка 1, 2, 3, ... методом
наименьших квадратов (эта процедура будет^ описана в гл. 7)
и нахождением выборочных оценок фп, fe, Фгг, • • • последнего
коэффициента, подгоняемого на каждом этапе. Возможен и дру-
другой путь — если значения параметров не слишком близки к гра-
границам нестационарное™, можно использовать приближенные
оценки Юла — Уокера. Выборочные частные автокорреляции
Гл. 3. Линейные стационарные модели
можно получить, подставляя значения
автокорреляций (в 3.2.30), что дает
г,- вместо теоретических
О =
+ + Фк (k-if,-k+i
/=1, 2, .... *,
C.2.34)
и решая получающиеся уравнения для k=\, 2, ... . Простой
рекуррентный метод такого расчета, предложенный Дарбином
[34], приведен в приложении П3.2. Однако оценки, найденные по
C.2.34), очень чувствительны к ошибкам округления и не дол-
должны использоваться в случаях, когда значения параметров
близки к границам нестационарности. Программы 1 и 3 в сбор-
сборнике программ-для ЭВМ в конце книги включают подпрограммы
для вычисления выборочных автокорреляционной и частной ав-
автокорреляционной функций.
3.2.7. Стандартные ошибки оценок частной автокорреляции
Кенуй [35] показал (см. также [36] и [37]) в предположении,
что порядок процесса авторегрессии равен р, что выборочные
частные автокорреляции порядка р + 1 и выше приближенно
независимы и имеют дисперсию
Тогда стандартная ошибка (СО.) выборочной частной автокор-
автокорреляции фы равна
С.О.[&»]=1//«. k>p+\. C.2.35)
В табл. 3.1 приведены первые 15 значений выборочных част-
частных автокорреляций для данных циклического процесса из
Таблица 3.1
Выборочные частные автокорреляционные функции
для процесса из табл. 2.1
к
1
2
3
4
б
***
—0,40
0,19
0,01
—0,07
-0,07
k
6
7
8
9
10
—0,15
0,05
0,00
—0,10
0 05
k
11
12
13
14
15
*fcfe
0,18
—0,05
0,09
0,18
0,01
-
-
1 .
1 1
5 .
1
. 1
1 .
15
табл. 2.1; они получены прямой подгонкой*) процессов авто-
авторегрессии возрастающего порядка. Эти частные автокорреляции
1,0
0,8
0,6
Пределы 12 6 для {z, ARdj]
0,2
о
-О,*
-0,6
-0,8
-1,0
Рис. 3.7. Выборочная частная автокорреляционная функция данных о пар-
партиях продукта (рис. 2.1) и пределы, равные удвоенной стандартной ошибке,
рассчитанные в предположении, что модель типа АРA).
показаны на рис. 3.7 и могут быть сопоставлены с автокорре-
автокорреляциями на рис. 2.7. Эти функции имеют примерно такое же по-
поведение, как и для процесса АРA) при отрицательном фх (см.
рис. 3.1) или, возможно, для процесса АРB) с доминирующим
отрицательным корнем (см. область 2 рис. 3.2). Пунктиром на
рис. 3.7 показаны пределы в 2 СО. для ф22, фзз, вычисленные по
формулам C.2.35) в предположении, что процесс есть АРA).
Поскольку <f>22 — вторая по величине частная автокорреляция
нз всех рассмотренных, можно рассчитывать на то, что процесс
является АРB). Использование частной автокорреляционной
функции для идентификации моделей более детально рассмо-
рассмотрено в гл. 6.
*) Приближенные величины, согласующиеся до первого знака после
запятой, могут быть получены из решения уравнения C.2.34).

84
Часть I Стохастические модели и прогнозирование
Гл 3 Линейные стационарные модели
85
3.3. ПРОЦЕССЫ СКОЛЬЗЯЩЕГО СРЕДНЕГО
3.3.1. Условия обратимости для .процессов скользящего среднего
Выведем условия, которым должны удовлетворять пара-
параметры 8i, 02, .... 8, процесса CC(q)
zt = at— в,а*_, — ... — Qqat-q =
= A-0,5- ... -%B")at = Q(B)at, C.3.1)
чтобы этот процесс был обратимым.
В разд. 3.1.3 было показано, что процесс ССA)
обратим, если |0i|< 1, т. е. ряд
1]
/=0
сходится в единичном круге. Однако это эквивалентно утверж-
утверждению, что корень В = 0Г' уравнения A — 0]В) = 0 лежит вне
единичного круга.
Условия обратимости для процессов СС более высокого по-
порядка могут быть получены, если записать C.3.1) как
at = Q-l(B)zt.
Отсюда, если
то, разлагая на частные дроби л(В)= Q~](B), получим
1 ж.
ID
/=!
Этот ряд сходится, если \Hj\ <* 1 при / = 1, 2 q. Так как
корни уравнения 0E) = 0 равны HJ1, отсюда следует, что усло-
условия обратимости процесса CC(q) состоят в том, что корни ха-
характеристического уравнения
8 (В) = 1 - 8ifi - 0252 - ... - 0,5" = 0 C.3.2)
лежат вне единичного круга. Отметим, что так как ряд
конечен, процесс скользящего среднего является стационарным
без каких-либо ограничений на параметры.
3.3.2. Автокорреляционная функция и спектр процесса
скользящего среднего
Автокорреляционная функция. Как следует из C.3.1), авто-
автоковариационная функция процесса CC(q) равна
yk = E[(at — Qlat_1— ... — Qqat_q) X
X (at-k — 01^-ft-i — ... — Qqat-k-q)].
Следовательно, дисперсия процесса равна
Yo = A + 0j + 02+ ••• +9^)<у| C.3.3)
Yfe=l0, ' k>q.
Отсюда автокорреляционная функция имеет вид
fc + i + • ¦ • dq-k0q
о,
k=l, 2, ..., q,
k>q.
C.3.4)
Мы видим, что автокорреляционная функция процесса СС(^)
равна нулю для значений k, больших порядка процесса q. Дру-
Другими словами, автокорреляционная функция процесса СС(<?)
обрывается на задержке q.
Параметры скользящего среднего, выраженные через авто-
автокорреляции. Если pi, р2, ..., pq известны, q уравнений C.3.4)
можно разрешить относительно параметров 0Ь 02, .... Qq. Од-
Однако в отличие от линейных уравнений Юла — Уокера C.2.6)
для процесса авторегрессии, уравнения C.3.4) нелинейны. По-
Поэтому, за исключением простого случая q = \, который мы
кратко обсудим здесь, эти уравнения решаются итеративно спо-
способом, рассмотренным в приложении П6.2. Подставляя в C.3.4)
вместо Рй их оценки rk и решая получившиеся уравнения, можно
найти начальные оценки параметров скользящего среднего. В от-
отличие от соответствующих оценок авторегрессии, полученных
при такой же замене рА на rh в уравнениях Юла — Уокера, ре-
результирующие оценки могут не обладать высокой статистиче-
статистической эффективностью. Тем не менее они могут оказаться по-
полезными при грубых оценках параметров на этапе идентифика-
идентификации, рассматриваемом в гл. 6. Кроме того, они могут быть
использованы как начальные приближения в итеративной про-
процедуре (рассматриваемой в гл. 7), сходящейся к эффективным
оценкам максимального правдоподобия.
Спектр. Для процесса СС(^)

86
Часть I. Стохастические модели и прогнозирование
9 (В) = 1 - 9,5 - 0,В2 - ... - QqB".
Используя C.1.12), получаем отсюда выражение для спектра
процесса СС(^)
l | i2f i4nf - ... -в,е-|2я" |2, C.3.5)
р (/) =
Обсудим Чеперь подробнее процессы скользящего среднего пер-
первого и второго порядков, имеющие большое практическое зна-
значение.
3.3.3. Процесс скользящего среднего первого порядка
Мы уже встречались с этим процессом, записанным в форме
zt = at — 8,at_, = A — QiB) at.
В разд. 3.1.3 было показано, что для обратимости процесса не-
необходимо, чтобы 9i находилось в диапазоне —1 < 9i < 1. Прр-
цесс стационарен, конечно, для любых 6ь
Автокорреляционная функция. Используя C.3.3), получим
выражение для дисперсии процесса
и из C.3.4) — выражение для автокорреляционной функции
C.3.7)
0,
Из C.3.6) для k = 1 находим
82 + 8,^+1=0.
Так как произведение корней есть единица, видно, что если
01 — решение, то и 8Г1— тоже решение. Далее если 8i удовле-
удовлетворяет условию обратимости |8i|<l, то другой корень 0Г
больше, чем единица, и этому условию не удовлетворяет. На-
Например, если pi = —0,4, C.3.7) имеет два решения: 8i = 0,5 и
92 == 2,0, но только решение 8i = 0,5 обеспечивает обратимость
процесса. Табл А в сборнике таблиц и диаграмм в конце книги
дает соответствующие обратимому процессу значения 8i во всем
диапазоне возможных значений pi'(—0,5 < pi < 0,5).
Спектр. Согласно C.3 5), спектр процесса имеет вид
<338)
Гл. 3. Линейные стационарные модели
87
В общем когда 8i отрицательно, то pi положительно и в спектре
доминируют низкие частоты. Напротив, при 8i положительном pi
отрицательно, и в спектре доминируют высокие частоты.
Частная автокорреляционная функция. Из системы C.2.31)
при р, = — 8,/A + 82) и рй = 0 для k>l после ряда алге-
алгебраических преобразований можно получить
Таким образом, |0Afe|<8J, и в частной автокорреляцион-
автокорреляционной функции преобладающим членом является затухающая экс-
экспонента. Если pi положительно и, следовательно, 8i отрица-
отрицательно, частная автокорреляционная функция осциллирует с пе-
переменами знака. Если же pi отрицательно и, следовательно,
0i положительно, все значения частной автокорреляции отрица-
отрицательны.
Отметим теперь взаимность процессов АРA) и ССA). В то
время как автокорреляционная функция процесса ССA) обры-
обрывается после задержки 1, автокорреляционная функция про-
процесса АРA) экспоненциально затухает с ростом задержки. Об-
Обратно, в то время как частная автокорреляционная функция
процесса ССA) затухает и имеет доминирующим членом зату-
затухающую экспоненту, частная автокорреляционная функция про-
процесса АРA) обрывается после задержки 1. Оказывается, что
аналогичная приближенная взаимность имеет место и в общем
случае.
3.3.4. Процесс скользящего среднего второго порядка
Условия обратимости. Процесс скользящего среднего второго
порядка определен как
zt — at — 9ia(_j — 82a(_2
и стационарен для всех значений 8i и 8г. Однако он обратим
только тогда, когда корни характеристического уравнения
1-0,5-02В2 = О
лежат вне единичного круга', т. е.
02+0!<1,
02-01<1,
C.3.9)
C.3U0)
Эти условия аналогичны условиям C.2.18) стационарности про-
процесса АР B).

88
Часть I. Стохастические модели и прогнозирование
Автокорреляционная функция. Из C.3.3) следует, что дис-
дисперсия процесса равна
и из C.3.4) —что автокорреляционная функция равна
р1~
i + e2-
-в.
1 + в? + в|
| *
C.3.11)
Таким образом, автокорреляционная функция обрывается после
задержки 2.
Из C.3.10) и C.3.11) вытекает, что первые две автокорреля--
ции обратимого процесса ССB) должны лежать внутри пло-
площади, ограниченной отрезками кривых
Р2 + Pj = — 0,5,
р2 — Pi = — 0,5,
р2 = 4р2A-2р2).
C.3.12)
Область обратимости C.3.10) для параметров процесса пока-
показана на рис. 3.8, а, и соответствующая область C.3.12) значе-
значений автокорреляций — на рис. 3.8, б. Последний рисунок позво-
позволяет оценить, согласуется ли данная пара значений рь рг с ги-
гипотезой, что модель — процесс ССB). Если согласие имеется,
значения 8i и 82 можно найти, решив нелинейные уравнения
C.3.11). Для облегчения такого расчета можно использовать
диаграмму С в конце книги;, она позволяет прямо находить зна-
значения 8i и 8г по данным pi и р2.
Спектр. Из C.3.5) находим спектр
= 2ага 11 - 8,e-'2"f - 8/-'4"f |2 =
C.3.13)
Заметим, что этот спектр с точностью до постоянного множи-
множителя 2<т2 обратен спектру C.2.29) процесса авторегрессии вто-
второго порядка.
Частная автокорреляционная функция. Точное выражение
для функции частной автокорреляции процесса ССB) оказы-
оказывается сложным, но главную роль в нем играет либо сумма
двух экспоненциальных членов [если корни характеристического
Рис. 3.8. Допустимые области значений а — 9i,
процесса ССB).
б — р4, р2 для обратимого
Л
Рис. 3.9. Автокорреляционная и частная автокорреляционная функции р»
и Ф^ для различных моделей ССB).

90
Часть !. Стохастические модели и прогнозирование
уравнения C.3.9) действительны], либо затухающая синусоида
[если корни C.3.9) комплексны]. Таким образом, эта функция
ведет себя так же, как автокорреляция процесса АР B).
На рис. 3.9 (заимствованном из [33]) показаны автокорреля-
автокорреляционные функции (кривые слева) и частные автокорреляционные
функции (кривые справа) для различных значений параметров
из области обратимости. Сравнение с рис. 3.2, на котором
приведены соответствующие автокорреляции и частные ав-
автокорреляции, иллюстрирует взаимность процессов ССB) и
АРB).
3.3.5. Взаимность процессов авторегрессии и скользящего
среднего
Результаты предыдущего раздела выявили новые аспекты
взаимности процессов авторегрессии и скользящего среднего.
Как показано в табл. 3.2 в конце этой главы, из этой взаимности
вытекает ряд следствий.
1) Для конечного процесса авторегрессии порядка р at мо-
может быть представлено как конечная взвешенная сумма пред-
предшествующих 2, или zt может быть представлено как бесконеч-
бесконечная взвешенная сумма
1
предшествующих а. Обратно, в конечном процессе скользящего
среднего порядка q zt может быть представлено как конечная
взвешенная сумма предшествующих а или at — как бесконеч-
бесконечная взвешенная сумма
Q~l(B)zt = at
предшествующих г.
2) Конечный процесс СС имеет автокорреляционную функ-
функцию, обращающуюся в нуль после некоторой точки, но так как
он эквивалентен бесконечному процессу АР, его частная авто-
автокорреляционная функция бесконечно протяженная. Главную
роль в ней играют затухающие экспоненты и (или) затухающие
синусоиды. Обратно, процесс АР имеет частную автокорреля-
автокорреляционную функцию, обращающуюся в нуль после некоторой
точки, но его автокорреляционная функция имеет бесконечную
протяженность и состоит из совокупности затухающих экспо-
экспонент и (или) затухающих синусоид.
3) Параметры процесса авторегрессии конечного порядка р
не должны удовлетворять каким-нибудь условиям, для того
чтобы этот процесс был обратимым. Однако, чтобы процесс был
стационарен, корни ф(В)=0 должны лежать вне единичного
круга. Обратно, параметры процесса СС не должны удовлетво-
удовлетворять каким-нибудь условиям для того, чтобы процесс был ста-
Гл 3 Линейные стационарные модели
91
ционарным. Однако, для того чтобы процесс СС был обрати-
обратимым, корни 9E)= 0 должны лежать вне единичного круга.
4) Спектр процесса скользящего среднего обратен спектру
соответствующего процесса авторегрессии.
3.4. СМЕШАННЫЕ ПРОЦЕССЫ АВТОРЕГРЕССИИ -
СКОЛЬЗЯЩЕГО СРЕДНЕГО
3.4.1. Свойства стационарности и обратимости
Мы уже заметили в разд. 3.1 4, что для достижения эконо-
экономичности может оказаться необходимым включить в модель как
члены с авторегрессией, так и члены со скользящим средним.
Таким образом, мы будем вынуждены использовать смешанную
модель авторегрессии — скользящего среднего (АРСС)
at -
C.4.1)
т. е.
= A-9,В-92В2- ... —QqBq)at
или
где ф(В) и в(В)— полиномы В степени р и q.
В дальнейшем мы будем пользоваться для этого процесса
обозначением АРСС (р, q). Его можно трактовать двумя спосо-
способами, а именно:
а) как процесс авторегрессии порядка р
где et подчиняется процессу скользящего среднего порядка q
б) как процесс скользящего среднего порядка q
где bt подчиняется процессу авторегрессии порядка р
так что
Очевидно, что члены со скользящим средним в правой части
C.4.1) не повлияют на выводы разд. 3 2.1, определяющие усло-
условия стационарности процесса авторегрессии. Поэтому ф(В)г{ =
= Q(B)at определяет стационарный процесс при условии, что

92
Часть I. Стохастические модели и прогнозирование
Гл. 3. Линейные стационарные модели
93
все корни характеристического уравнения ^>(Б) = € лежат вне
единичного круга. Аналогично, если процесс должен быть обра-
обратимым, корни уравнения 8(fi) = 0 должны лежать вне единич-
единичного круга.
3.4.2. Автокорреляционная функция и спектр смешанных
процессов
Автокорреляционная функция. Выражение для автокорреля-
автокорреляционной функции смешанного процесса может быть получено
способом, аналогичным способу, использованному в разд. 3.2.2
для процессов авторегрессии. Умножив все члены в C.4.1) на
Zt-k и перейдя к математическим ожиданиям, мы найдем, что
автокойариационная функция удовлетворяет разностному урав-
уравнению
+ \га (k) ~
- 1) - ... - Qq\za (k - q), C.4.2)
где yza(k) —это взаимная ковариационная функция z и а, оп-
определяемая как yza(k) = E[zt-hCit]. Так как zt-h зависит только
от импульсов, которые произошли до момента t — k, очевидно,
что
Из C.4.2) следует
Yfe
C.4.3)
или
Pk = fi9k-i + &>P*-2 + • • • +
f(B)Pk = 0, k>q+\.
Это означает, что для процесса АРСС (р, q) существует q
автокорреляций рд, рд-ь ..., рь значения которых связаны за-
зависимостью C.4.2) с q параметрами скользящего среднего в и
р параметрами авторегрессии ф.
Далее, р значений pq, pg_b ..., pg-p+i необходимы как на-
начальные значения для решения разностного уравнения
<t>(B)ph = 0, k~^.q-\-\, полностью определяющего автокорре-
автокорреляции при больших задержках. Если q — р < 0, вся автокорре-
автокорреляционная функция р3 для / = 0, 1, 2 ... будет состоять из
совокупности затухающих экспонент и (или) затухающих сину-
синусоид, и ее свойства определяются полиномом Ф(В) и началь-
начальными значениями. Если же q — р ^ 0, имеется q — р + 1 на-
начальных значений ро, pi, ..., рд-р, не укладывающихся в эту
общущ картину. Эти факты важны при идентификации смешан-
смешанных рядов.
Дисперсия. При k = 0 получаем уравнение
C.4.4)
решая которое вместе с р уравнениями C.4.2) для & = 1, 2, ..,
.... р, найдем усYi> •••• Yp-
Спектр. Из C.1.12) найдем выражение для спектра смешан-
смешанного процесса
T C-4-5)
Частная автокорреляционная функция. Процесс C.4.1)
можно записать в виде
где Q~l(B) —бесконечный ряд из степеней В. Отсюда частная
автокорреляционная функция бесконечна по протяженности.
При больших задержках она ведет себя как частная автокорре-
автокорреляционная функция чистого процесса скользящего среднего;
в ней преобладают члены типа затухающих экспонент и (или)
затухающих синусоид, соотношение между которыми зависит
от порядка скользящего среднего и значений параметров про-
процесса.
3.4.3. Процесс авторегрессии первого порядка —
скользящего среднего первого порядка
важный для практики смешанный процесс авторегрессии
первого порядка — скользящего среднего первого порядка
АРССA,1) описывается формулой
C.4.6)
или, что равносильно,
Эыведем некоторые важнейшие свойства этого процесса.
Условия стационарности и обратимости. Прежде всего заме-
заметим, что процесс стационарен, если —1 <С ф\ <С 1, и обратим,
если —1 <С 9i <C 1. Обусловленная этим область допустимых
значений параметров показана на рис. 3.10, а,

94
Часть 1 Стохастические модели и прогнозирование
Автокорреляционная функция. Из C.4.2) и C.4.4) мы полу-
получаем
Y,
Умножив все члены C.4.6) на at-\ и переходя к математическим
ожиданиям, получим
Отсюда автоковариационная функция процесса равна
Yo =
Yi
l-0t
(l-0i9Q@i-9Q
1-0?
C.4.7)
Отсюда следует, что автокорреляционная функция экспонен-
экспоненциально убывает от начального значения рь зависящего от 9i
и ft*). Как показано на рис. 3.11, это затухание монотонное,
если ft положительно, и колебательное, если ft отрицательно.
Далее, знак pi определяется знаком (ft— 0i) и указывает, про-
происходит ли затухание в области положительных или отрица-
отрицательных значений.
Пользуясь C.4.7), можно выразить две первые автокорреля-
автокорреляции через параметры процесса, а именно
0 _
Pl
I + Bj - 20,9,
p2 = ftpi-
C-4.8)
Диаграмма D в конце книги построена так, что позволяет на-
находить решения уравнений C.4.8) для ft и 0i по заданным р]
и рг. Используя оценки Г\ и Гг вместо pi и рг, можно получить
таким образом исходные выборочные оценки параметров ft и 0ь
Из C.4.8) и условий стационарности и обратимости выте-
вытекает, что р, и ф должны лежать в области
I P2 К I
Pllr
p2 > Pi Bp, + 1). Pi < 0,
P2 > Pi Bp, - 1), Pi > 0.
C.4.9)
*) Автокорреляционная функция процесса АРA) экспоненциально уби-
убирает от начального значения ро = 1.
Ф,
-I
-I О 1
в, >
PfP,Bp, + D
\
-1
-1
Рис. ЗЛО. Допустимые области значений а — 9i, 0i; б — Pi,
нарного и обратимого процессов АРССA,1).
в,
для стацио-
стацио-1,0
1,0
у VT у " /
/ 1 " ' 1 V *
0
1,0
-ко
Рис. 3.11. Автокорреляционные и частные автокорреляционные функции р*
и Ач. пля пячггииных мплрггрй ДРГГП 1^

96
Часть 1 Стохастические модели и прогнозирование
Область допустимых значений pi и рг показана на рис. 3.10,6,
она ограничивает диапазон допустимых комбинаций pi и рг для
стационарного обратимого процесса АРССA,1).
Частная автокорреляционная функция. Частная автокорре-
автокорреляционная функция смешанного процесса АРССA,1), описывае-
описываемого C 4 6), состоит только из одного начального значения
фп = рь Поэтому она ведет себя подобно функции частной ав-
автокорреляции чистого процесса ССA), и в ней преобладает за-
затухающий экспоненциальный член. Как показано на рис. 3.11,
при положительном 9i она монотонно затухает от значения рь
знак которого совпадает со знаком (^i — 9i). При отрицатель-
отрицательном 01 в ней преобладает экспоненциально затухающий осцил-
осциллирующий член, амплитуда которого убывает от значения рь
Знак pi определяется знаком {j>\ — 9i)-
3.3.4. Резюме
На рис. 3.12 приведены допустимые области значений пара-
параметров и корреляций рь рг для процессов АР B), ССB),
а-
а
APIZ)
ест
АРССA,1)
Рис. 3 12 Допустимые области значений параметров и величин pi, рг для
стационарных обратимых процессов АРB), СС B) и АРССA,1).
АРССA, 1) при условии, что они стационарны и обратимы.
В табл. 3.2 дана сводная характеристика смешанных процессов
авторегрессии — скользящего среднего и приведены также все
важные результаты для процессов авторегрессии, скользящего
среднего и смешанных процессов, которые будут нужны в гл. 6
a
№
m
л
Ч
о eg
о S
„ о
К «
s 3
U О
и о.
а X
о 3
8
XX
О. V
V X
о
eg
;ссы
tr
а
с
О)
3
и
Смеша
?
о
к
:сы сколь
среднего
и
Е
ессии
о.
и
3doi
со
3
роцесс
С
•с
53
II
II
*—'
¦е-
CD
II
CD
5?
II
II
•*»
IN
s
¦6.
CO
<D
С
&•
аженная
выр
«
ч
о
ачения г
X
я
прош
*—•
ф
од
и
IN*
'—»
2.
CD
I
SJ
I
I
ОТ
о.
3"
аженная
выр
I
5-
ачения а
X
со
О
3
Ч
прош
К
о.
•в
я
есконечн
й
ый ряд
я
а*
(У
аз
ЮНЭЭ
Й
с
:ЧНЫЙ
я
о
к
¦веса
ч
к
о.
SB
3
есконечн
й
ряд
iX
я
я
онеч
к
к
&
:ый
онечн
нээ
й
-веса
<и
ежат в
о
о
II
'—
S
я
о
к
я
&
ев
Я
о
в
ч
се
Ч
t-
<i>
Ш
се
леж
|
В
Я
о.
о
&
S
и
о
X
с
се
о
стаци
а
СЛОВИ
¦?•>>
>>
S*
о
единичн
руга
м
ого
я
нич
е еди
я
я
ажат в
||
орни 9 (
к
си
я
га
си
1
CD
орни
§
я
рат
ца об
сег,
оа
гнмости
обра-.
слови
се
>>
о^
м
о
о
единичн
се
о
и
о
и
а*
еди!
х
•я
перв(
си
о
с
се
есконечн
й
к
:ТС
обрывае
се
онеч:
s
S
се
[зат
се
онечн
нээ
й
к
S
в
я
ионная ф;
реляш
о.
втоко
<;
Q
затуха]
<и
cd
от
1
-э:
т
я
s
S
:поне]
S
S
B
я
си
о
с
CU
в
g
2
туха:
ее
со
о
я
аль
ипнэн
о
соиды]
S
о
S
затухаю
i i
ч
О
ie сщ
s
nepet
си
Ч
о
о
е.
ее
есконечн
й
S
VO
с
се
я
&•
юнээ
Й
"в?
о
1вае
а
обр
:чна (
оне
к
CS
се
я
о
я
корреляц
я
га
к
астна
V
1
преобл
s b — d
я
ент:
я
g
си
в
ее
зату
я
>,
(
О
3 ЭКСП
в
2
се
X
дают за
о
льн
се
S
Я
К
экспоне
^ ^
я
ч
S
(
и
кспоне
т
's
ч
к
ненты и
, ,
1
о
щие си]
2
ев
ев
со
(
S
щие с
2
а
ев
со
циально
я
ч
1

98 Часть I. Стохастические модели и прогнозирование
для идентификации моделей по наблюденным временным ря-
рядам. В следующей главе мы обобщим модель АРСС и получим
модели, которые могут описывать часто встречающийся на
практике тип нестационарного поведения.
ПРИЛОЖЕНИЕ П3.1. АВТОКОВАРИАЦИИ.
ПРОИЗВОДЯЩАЯ ФУНКЦИЯ АВТОКОВАРИАЦИЙ
И УСЛОВИЯ СТАЦИОНАРНОСТИ ОБЩЕГО ЛИНЕЙНОГО
ПРОЦЕССА
Автоковариации. При задержке k автоковариация линейного
процесса
с г|H=1, очевидно, равна
yk = E [ztzt+k] =
[ОО ОО
/=0 Л=0 ' h
*-*] =o\ 2
(П3.1.1)
Здесь использовано свойство C.1.2) автоковариационной функ-
функции белого шума.
Производящая функция автоковариации. Результат (ПЗ. 1.1)
может быть подставлен в выражение для производящей функ-
функции автоковариации
(ПЗ.1.2)
2
к——оо
что приводит к
-<*2
так как i(-ft = 0 при h < 0. Обозначим j~\-k = h, так что
k = h — \. Тогда
y (в) = <r2a 2 2 ч>Afi/W = аа 2 V*'1 2 ф в-'
0 ft0 0
ft=O
/=0
или
Y (В) =
(ПЗ.1.3)
что совпадает с приведенной в тексте формулой C.1.11).
Условия стационарности. Если мы сделаем замену В = e~l2nf
и учтем, что F = B~l = elinf, то из выражения (ПЗ.1.2) для про-
производящей функции автоковариации мы найдем уменьшенный
в 2 раза спектр мощности. Отсюда спектр мощности линейного
Гл. 3. Линейные стационарные модели
99
процесса имеет вид
Следовательно, дисперсия процесса равна
¦А 'А
о\ = | р (/) d/ = 2а2а J г|)(е
о
y. (ПЗ.1.4)
(ПЗ. 1.5)
Можно показать [98], что для сходимости интеграла (ПЗ.1.5)
требуется сходимость бесконечного ряда i|)(fi) на единичном
круге.
ПРИЛОЖЕНИЕ П3.2. РЕКУРРЕНТНЫЙ МЕТОД
ВЫЧИСЛЕНИЯ ОЦЕНОК ПАРАМЕТРОВ
АВТОРЕГРЕССИИ
Покажем теперь, что оценки Юла — Уокера для параметров
процесса АР(р+ 1) можно получить, если известны оценки для
процесса АР(р), подогнанного к тому же наблюденному вре-
временному ряду. Как было описано в разд. 3.2.6, эгот рекуррент-
рекуррентный метод можно использовать для получения приближенной
частной автокорреляционной функции.
Чтобы проиллюстрировать этот метод, рассмотрим уравне-
уравнение C.2.34). Оценки Юла — Уокера получены для случая
k = 2, 3 из
г, =
'"з =
(ПЗ.2.2)
Коэффициенты ^3i и ф32 можно выразить через <?3з, использую
последние два уравнения (ПЗ.2.2). Решение можно записать
в матричном виде
где
(ПЗ.2.3)

100
Часть I. Стохастические модели и прогнозирование
Теперь (ПЗ.2.3) можно записать иначе:
Используя то, что (ПЗ.2.1) теперь можно представить в виде
получаем из (ПЗ.2.4)
или
(ПЗ.2.5)
Чтобы завершить вычисление fax и фъь нам нужно знать $>3з-
Подставляя (ПЗ.2.5) в первое из уравнений (ПЗ.2.2), получим
(ПЗ.2.6)
— 02l'l —
Таким образом, частная автокорреляция $3з вычисляется вна-
вначале по $2i и $22 с помощью (ПЗ.2.6), а затем два других коэф-
коэффициента $31 и $32 могут быть найдены из (ПЗ.2.5).
В общем случае рекуррентные формулы, заимствованные
у Дарбина [34], имеют вид
$D+../ = fP/-$P+.,0+.f0.D-/+I. /=1. 2, .... Р, (ПЗ.2.7)
fp + Up + l — '
/=1
-,?,*>'
(ПЗ.2.8)
Пример. В качестве примера рассмотрим вычисление оценок
^зь $32 и <?зз — параметров процесса АРC), подогнанного к чис-
числам Вольфа для солнечных пятен. Выборочные автокорреляции
с точностью до трех значащих цифр после запятой равны г\ =
Гл. 3. Линейные стационарные модели
101
= 0,806; г2 = 0,428; г3 = 0,070. Тогда
$22=-
¦=-0,632.
Из (ПЗ.2.6) получим
Т _ 0,070 - A,316 • 0,428 + 0,632 • 0,806) __ п п?_
Рзз— 1_ A,316) @,806)+ @,632) @,428) ~~и>и/Л
Подставляя значения $2ь $22, $зз в (ПЗ.2.5), получим
$31 = 1,316+ @,077) @,632) =1,365,
$32 = - 0,632 - @,077) A,316) = - 0,733.
Напомним читателю, что эти оценки частных автокорреляции
несколько отличаются от оценок максимального правдоподобия,
полученных подгонкой процессов авторегрессии последователь-
последовательно растущих порядков. Они очень чувствительны к ошибкам
округления, в особенности когда процесс близок к нестационар-
нестационарному.

ГЛАВА 4
Линейные нестационарные модели
Многие эмпирические временные ряды (например, цены на
бирже) ведут себя так, как будто они не имеют фиксирован-
фиксированного среднего значения. Но даже при этом они выглядят одно-
однородными в том смысле, что если не учитывать локальный уро-
уровень или, возможно, локальный уровень и тренд, любая часть
временного ряда по своему поведению во многом подобна лю-
любой другой. Модели, описывающие такое однородное нестацио-
нестационарное поведение, можно получить, предположив, что некая
подходящая разность процесса стационарна. Рассмотрим теперь
свойства важнейшего класса моделей, в которых d-я разность
есть стационарный смешанный процесс авторегрессии — сколь-
скользящего среднего. Эти модели называются процессами авторе-
авторегрессии— проинтегрированного скользящего среднего (АРПСС).
4.1. ПРОЦЕССЫ АВТОРЕГРЕССИИ -
ПРОИНТЕГРИРОВАННОГО СКОЛЬЗЯЩЕГО СРЕДНЕГО
4.1.1. Нестационарность процесса авторегрессии первого
порядка
На рис. 4.1 показаны участки четырех временных рядов, по-
полученных практически. Эти ряды наблюдались в задачах про-
прогнозирования и контроля и уже по виду кажутся нестационар-
нестационарными. Ряды А, С и D представляют собой «нерегулируемые*
выходные данные (концентрацию, температуру и вязкость) трех
различных химических процессов. Эти ряды были выбраны,
чтобы показать, как на выходные данные влияют такие нерегу-
нерегулируемые и неизмеряемые возмущения, как вариации расхода
сырья и окружающей температуры. Температурный ряд С был
получен временным отсоединением регуляторов на опытном за-
заводе с записью последующих температурных флуктуации. Оба
ряда А и D получены в промышленных процессах, где необхо-
необходимо было поддерживать некую выходную характеристику ка-
качества продукта как можно ближе к заданному уровню. Чтобы
достигнуть такого регулирования, управляли другой переменной
18
17
/6
550
525
500
47.5
1*50
28
26
2h
22
20
Ю
Ю
3
в
20
60
80
100
>ис. 4 1. Некоторые типичные временные ряды, встречающиеся в задачах
прогноза и регулирования
а—ряд А. «Нерегулируемая» концентрация, отсчет каждые два часа хими-
химический процесс.
б —ряд В. Биржевые цены акций IBM, ежедневные данные
в —ряд С «Нерегулируемая» температура, отсчет каждую минуту химиче-
химический процесс.
г—ряд D. «Нерегулируемая» вязкость, отсчет каждый час, химический про-
процесс. v

104
Часть I. Стохастические модели и прогнозирование
360
320
280
ViO
200
160
120
80
процесса — это позволяло приближенно устранять вариации
выхода. Однако эффект этих регулирующих действий на выход
в каждом случае был точно известен., так что можно было
ввести численную поправку за регулирующее воздействие. Это
означает, что можно было с хорошей точностью рассчитать зна-
значения ряда, которые могли бы быть получены при отсутствии
корректирующих действий. Здесь
показаны именно эти компенсиро-
компенсированные величины; они в дальней-
дальнейшем называются «нерегулируемы-
«нерегулируемыми» рядами. Ряд В состоит из су-
суточных цен акций компании IBM за
период, начинающийся с мая 1961 г.
Полные данные по каждому ряду
приведены в сборнике временных
рядов в конце этой книги. На рис.
4.1 показаны по 100 последователь-
последовательных наблюдений каждого ряда;
точки соединены прямыми ли-
линиями.
Существует неограниченное чис-
число различных проявлений нестацио-
нестационарности процесса. Однако те типы
экономических и индустриальных
рядов, которые мы хотим анализи-
анализировать, часто проявляют весьма
специфическую однородную нестационарность. Такая неста-
нестационарность может быть представлена стохастической моделью,
являющейся модифицированной формой модели АРСС.
В гл. 3 была рассмотрена модель авторегрессии — скользя-
скользящего среднего
ф(В)г< = в(В)а{, D.1.1)
где ф(В) n.Q(B)—полиномы от В степеней р и q. Для того
чтобы процесс был стационарным, нужно, чтобы корни ф(В)=0
лежали вне единичного круга. Естественный путь получения не-
нестационарного процесса заключается в ослаблении этого огра-
ограничения.
Для лучшего понимания возможностей этого подхода рас-
рассмотрим модель авторегрессии первого порядка
A-фВJ{~а„ D.1.2)
стационарную при \ф\<. 1. Изучим поведение этого процесса
при значении ф = 2, лежащем вне диапазона стационарности.
В табл. 4.1 показано множество случайных величин нор-
нормального процесса с единичной дисперсией и соответствующие
0?23Ь5б?89W t
Рис. 4.2. Реализация неста-
нестационарного процесса авторе-
авторегрессии первого порядка.
Гл. 4. Линейны$ нестационарные модели
105
значения ряда zt, генерируемого моделью zt = 2zt-i -\- at при
го = 0,7.
Таблица 4,1
Первые 11 значений нестационарного процесса авторегрессии
первого порядка
t
at
0
0,7
1
0,1
1,5
2
— 1,1
1,9
3
0,2
4,0
4
-2,0
6,0
5
-0,2
11,8
6
-0,8
22,8
7
0,8
46,4
8
0,1
92,9
9
0,1
185,9
10
-0,9
370,9
Ряд представлен графиком на рис. 4.2. Видно, что после ко-
короткого вступительного периода ряд «срывается» и, по суще-
существу, следует экспоненциальному закону; причем генерируемые
значения а практически не играют никакой роли в дальнейшем
ходе графика. Поведение рядов, генерируемых процессами выс-
высшего порядка, у которых нарушено условие стационарности,
сходно. Далее, это поведение остается существенно тем же вне
зависимости от того, включены ли в модель члены, описываю-
описывающие процесс скользящего среднего.
4.1.2. Общая модель для нестационарного процесса,
проявляющего однородность
Модель авторегрессии — проинтегрированного скользящего
среднего. Хотя нестационарные модели рассмотренного выше
типа могут представлять определенный интерес для описания
взрывного или эволюционного поведения (такого, как размно-
размножение бактерий), ситуации, которыми мы занимаемся в этой
книге, существенно иные. Мы видели, что процесс АРСС ста-
стационарен, если корни уравнения ф(В)= 0 лежат вне единичного
круга, и нестационарен, если корни лежат внутри единичного
круга. Единственный нерассмотренный возможный случай —
когда корни уравнения <?(Б)=0 лежат на единичной'окруж-
единичной'окружности. Оказывается, что соответствующие модели очень важны,
так как позволяют описывать однородные нестационарные вре-
временные ряды. В частности, несезонные ряды могут нередко хо-
хорошо описываться моделями, у которых один или несколько
корней равны единице; эти модели и рассматриваются в настоя-
настоящей главе *).
*) В гл. 9 мы рассмотрим модели, способные описывать сезонные коле-
колебания периода s, у которых характеристическое уравнение имеет корни на
единичной окружности, равные корню s-n степени из единицы,

106
Часть 1. Стохастические модели и прогнозирование
Рассмотрим модель
<?(B)zt = e(B)at, D.1.3)
где cp(fi) —нестационарный оператор авторегрессии, такой, что
d корней уравнения ср(Б)=О равны единице, а остальные ле-
лежат вне единичного круга. Тогда модель D.1.3) можно пред-
представить в виде
Q(B)at, D.1.4)
где ф(В)—стационарный оператор авторегрессии. Так как
= Wdzt для d ;> 1, мы можем представить модель в виде
t. D.1.5)
Эквивалентное определение процесса можно дать двумя урав-
уравнениями
j>(B)wt = Q(B)at D.1.6)
И wt = ldzt. D.1.7)
Таким образом, мы видим, что модель соответствует предполо-
предположению, что d-я разность ряда может быть представлена стацио-
стационарным обратимым процессом АРСС. Другой способ трактовки
этого процесса *) при d > 1 получим, обратив D.1.7):
zt = Sdwu D.1.8)
где 5 — бесконечный оператор суммирования, определенный
как
SXt= i xh=(i + B + B2+ ...)*, = (i-sr4=v-V
ft=— °O
Таким образом,
1 1
Оператор S2xt определен аналогично:
S2xt = Sx, + Sx,-i + Sxt-2 + ...
Далее
—oo ft=—oo
/=— OO
—OO ft= —OO
xh и т. д.
Уравнение D.1.8) указывает, что процесс D.1.5) можно по-
получить суммированием, (или интегрированием) процесса D.1.6)
d раз. Поэтому процесс D.1.5) мы будем называть процессом
авторегрессии — проинтегрированного скользящего среднего
*) См. предисловие.
Г л 4 Линейные нестационарные модели
107
(АРПСС). Модели АРПСС для нестационарных временных ря-
рядов, рассмотренные также Ягломом [38], имеют фундаменталь-
фундаментальное значение в проблемах прогнозирования и управления [14—
20]. Для дальнейшей дискуссии о нестационарных процессах мы
отсылаем к Заде и Рагаззини [39] и Калману [40, 41]. Еще ра-
ранее Тинтнером [91] была тшисана процедура анализа рядов, ис-
использующая разностный подход, получивший название «метода
случайных разностей». Однако мотивы, методы и цели этой
процедуры были весьма отличны от рассматриваемых здесь.
Как указывалось в гл. 1, модель D.1.5) эквивалентна опи-
описанию процесса zt как выхода линейного фильтра (если d Ф 0,
это неустойчивый линейный фильтр), на входе которого белый
шум at. Иначе мы можем рассматривать его как средство для
преобразования сильно зависимых и, возможно, нестационар-
нестационарных членов zt процесса в последовательность некоррелирован-
некоррелированных случайных переменных аи т. е. для преобразования про-
процесса в белый шум.
Если в D.1.5) оператор авторегрессии имеет порядок р,
взята d-я разность и оператор скользящего среднего 8(В) имеет
порядок q, мы говорим, что имеем модель АРПСС порядка
(р, d, q) или просто процесс АРПСС (р, d, q).
Две интерпретации модели АРПСС. Покажем теперь, что
D.1.5) —интуитивно оправданная модель для тех типов встре-
встречающихся в эксперименте временных рядов, которые мы хотим
изучать. Прежде всего отметим основную особенность процесса
авторегрессии первого порядка D.1.2) для |</>|<1 и для
|^>|> 1. Она заключается в том, что локальное поведение ряда,
генерируемого моделью, существенно зависит от уровня zt. На-
Напротив, локальное поведение рядов такого типа, как показан-
показанный на рис. 4.1, кажется не зависящим от уровня.
Если нам нужны модели, у которых поведение процесса не
зависит от его уровня, следует выбрать*оператор авторегрес-
авторегрессии ф(В) таким, что
где с — любая константа. Отсюда <((В) должно иметь вид
Следовательно, класс процессов, имеющих желаемое свойство,
должен иметь вид
где Wt = V2t = Vzj. Далее, нельзя допустить, чтобы раз-
разность wt неконтролируемо росла. Это означает, что либо <f>i(B)
должен быть стационарным оператором авторегрессии, либо
fi(B) = ф2(В) A — В), где 4>2(В)—стационарный оператор

108
Часть 1. Стохастические модели и прогнозирование
авторегрессии. В последнем случае то же рассуждение можно
применить ко второй разности и т. д.
В результате мы приходим к заключению, что для представле-
представления нестационарных, но однородных временных рядов оператор
в левой части C.1.3) должен иметь вид <j>(B)Vd, где ф(В) —
стационарный оператор авторегрессии. Таким образом, мы при-
приходим опять к модели D.1.5). Смысл этой модели можно пояс-
пояснить и с несколько другой точки зрения. Рассмотрим случай,
когда в D.1.4) d = 0, так что <j>{B)zt = Q(B)at. Требование,
Рис. 4.3. Два типа однородного нестационарного поведения.
а — ряд с нестационарностью уровня, представимый моделью Ф (В) V zt =
= Q(B)at; б — ряд с нестационарностью уровня и наклона, представимый
моделью Ф{В) V2z( = Q(B)at
чтобы нули функции ф(В) лежали вне единичного круга, приво-
приводит к тому, что не только процесс zu но и процессы Vzt, W2zt,
V3Zt и т. д. стационарны и имеют нулевые средние значения.
На рис. 4.3, а показан один тип нестационарных рядов, ко-
которые бы мы хотели описать моделью. Этот ряд однороден, если
не принимать во внимание уровень; иными словами, отдельные
участки ряда, за исключением смещения по вертикали, выгладят
одинаковыми. Такое поведение можно описать, выдвинув тре-
требование, чтобы каждая разность была стационарна с нулевым
средним значением, и допустив «свободные» изменения уровня *).
Этого можно добиться, используя модель
") Приведенные рассуждения неприменимы на тех участках временного
ряда на рис. 4.3, а, где уровень резко изменяется. — Прим ред
Гл. 4. Линейные нестационарные модели
109
На рис. 4.3, б показан второй тип нестационарности, часто встре-
встречающийся на практике. Этот ряд не имеет ни фиксированного
уровня, ни фиксированного наклона, но его поведение однородно,
если мы допускаем различие в этих характеристиках. Такое пове-
поведение можно описать моделью
которая обеспечивает стационарность и нулевое среднее значение
для всех разностей, кроме первой и второй, но допускает «сво-
«свободные» изменения уровня и наклона *).
4.1.3. Общий вид процесса авторегрессии — проинтегрированного
скользящего среднего
По причинам, которые будут рассмотрены ниже, иногда целе-
целесообразно рассматривать слегка обобщенную форму модели
АРПССD.1.5), полученную добавлением постоянного члена 9о.
Итак, довольно общий вид модели, которой мы будем пользо-
пользоваться для описания временных рядов, это процесс авторегрес-
авторегрессии — проинтегрированного скользящего среднего
Ф (В) г, = ф (В) Vdzt = 0О + 9 (В) аи D.1.9)
где
\-ф1В-ф2В^- ... -фрВ",
1-9,Я-92Я2- ... -QqB".
В дальнейшем изложении
1) ф(В) будет называться оператором авторегрессии; пред-
предполагается, что этот оператор стационарен, т. е. корни ф(В)= 0
лежат вне единичного круга.
2) (f(B) = Vdf(B) будет называться обобщенным операто-
оператором авторегрессии; это нестационарный оператор, у которого d
корней уравнения ср(Б) = 0 равны единице.
3) 0(В) будет называться оператором скользящего сред-
среднего; предполагается, что он обратим, т. е. что корни 9(fi) = 0
лежат вне единичного круга.
Когда d = 0, модель D.1.9) описывает стационарный про-
процесс. Требования стационарности и обратимости накладываются
независимо, и в общем случае операторы ф(В) и Q(B) имеют
разные порядки. Примеры областей стационарности для про-
простых случаев р— 1,2 и идентичных областей обратимости для
q — 1,2 были приведены в гл. 3.
Стохастические и детерминированные тренды. Мы видели
в разд. 4.1.2, что когда постоянный член 9о опущен, модель
*) Приведенные рассуждения неприменимы на тех участках временного
ряда на рис. 4.3, б, где наклон резко изменяется — Прим ред

по
Часть 1 Стохастические модели и прогнозирование
D.1 9) может описывать ряды со стохастическими трендами,
например случайным уровнем или наклоном ряда. В общем
же случае мы можем включить в модель детерминированную
функцию времени f(t). В частности, автоматический учет де-
детерминированного полиномиального тренда степени d обеспе-
обеспечивается условием, что 9о не равно 0. Например, когда d — 1,
мы можем использовать модель с 9о ф 0 для оценок возможного
детерминированного линейного тренда в присутствии нестацио-
нестационарного шума Поскольку условие 9о ф 0 эквивалентно усло-
условию, что
не равно нулю, другой способ описания этой более общей мо-
модели D 1 9) осуществляется в виде стационарного обратимого
процесса АРСС, в котором wt = wt — Ци>, т. е.
D.1.10)
В тех случаях, когда нет физических причин для существования
детерминированной компоненты, среднее значение w может
предполагаться нулевым, если только это не противоречит дан-
данным. Ниже, в случаях, когда d > 0, мы часто будем полагать,
ЧТо (Лц, = 0, или, эквивалентно, 90 = 0, если только сами дан-
данные или смысл задачи не будут указывать на то, что необхо-
необходимо учитывать ненулевое среднее или в более общей форме
детерминированную компоненту известного вида
Некоторые важные специальные случаи модели АРПСС.
В гл 3 мы познакомились с некоторыми важными специаль-
специальными случаями модели D 19), соответствующими стационар-
стационарной ситуации d = 0. Следующие модели являются частными
случаями нестационарной модели (d^l), которая, по-види-
по-видимому, часто встречается на практике:
1) Процесс @, 1, 1)
Az, = at — 0,a,_, = A — 9,5) at,
для которого р — 0, rf=l, q=A, ф{В)=1, Q(B)= I —Q\B.
2) Процесс @, 2, 2)
W2zt = at — в,а,_, - 92а,_2 = A — 8,В — 02В2) at,
для которого р = 0, d = 2, q = 2, ф (В) = 1, 9 (В) = 1 - 8,В -92?2.
3) Процесс A, 1, 1)
t-! = at —
или
для которого р= l,d=l, 9=1, ф(В)=1—ф1В, 8(В)=1-8,В.
Гл 4 Линейные нестационарные модели
111
При описании несезонных временных рядов (сезонные мо-
модели рассмотрены в гл 9) мы редко встречаемся с ситуацией,
при которой р, d или q должны быть больше 2 Часто оказы-
оказывается, что этим параметрам достаточно придать значения 0
или 1 Например, мы покажем, что ряды А, В, С, D, показанные
на рис 4 1, могут быть хорошо описаны *) простыми моделями,
приведенными в табл 4 2
Таблица 4.2
Сводка простых нестационарных моделей, подогнанных
к временным рядам на рис. 4.1
Ряд
А
В
С
D
Модель
Vzt= A—0,75)
V2, = (l+0.1B)
A—0,8В) Vz,=
Vz, = (l-0,lB)
at
at
at
at
Порядок
@, 1,
@, 1,
A, 1.
@, 1,
модели
1)
1)
0)
1)
Нелинейное преобразование процесса zt Область полезнык
приложений модели D 1 9) может быть значительно расширена,
если можно заменить zt в D 1 9) на zf\ где zf> — некоторое не-
нелинейное преобразование zt, включающее один или несколько
параметров преобразования X. Вид преобразования, которое
следует применить, часто подсказывается ситуацией или может
быть оценен из данных. Например, если мы интересуемся сбы-
сбытом недавно введенного товара, мы можем выяснить, что объем
сбыта быстро увеличивался и что нестационарную устойчивость
проявляли относительные, а не абсолютные флуктуации В та-
таком случае, очевидно, целесообразно анализировать логарифм
объема сбыта Когда преобразование должно оцениваться по
да-нным, один из способов такой оценки — использование под-
подхода, описанного Боксом и Коксом [42]
4.2. ТРИ ФОРМЫ ПРЕДСТАВЛЕНИЯ МОДЕЛИ
АВТОРЕГРЕССИИ - ПРОИНТЕГРИРОВАННОГО
СКОЛЬЗЯЩЕГО СРЕДНЕГО
Рассмотрим теперь три «явных» представления общей мо-
модели D.1.9). Каждое из них имеет свои достоинства
*) Как будет подробнее рассмотрено дальше, в спорных случаях неста-
нестационарные модели часто удобнее использовать, чем стационарные В част-
частности, ни для одной из подгоняемых к этим рядам моделей не предпола!а-
лось,, что zt имеет фиксированное среднее Однако в гл 7 мы покажем, что
в некоторых случаях стационарные модели даюг несколько лучшее согласие.

112
Часть I. Стохастические модели и прогнозирование
Итак, текущее значение zt процесса можно выразить
а) через предыдущие значения z и текущее и предшествую-
предшествующие значения а; это достигается прямым использованием раз-
разностного уравнения;
б) только через текущий и предшествующие импульсы а{-3;
в) через взвешенную сумму предшествующих значений zt-3
процесса и текущий импульс at.
В этой главе мы в основном интересуемся нестационарными
моделями, у которых Vdzt — стационарный процесс и d больше
нуля. Для таких моделей можно без потери общности опустить |л
или, что то же самое, заменить zt на zt. Результаты этой главы
будут, однако, приложимы и к стационарным моделям, у кото-
которых d = 0 при условии, что zt интерпретируется как отклонение
от среднего \ь.
4.2.1. Представление модели в виде разностного уравнения
Прямое использование разностного уравнения позволяет нам
выразить текущее значение zt процесса через предшествующие
значения z и текущее или предшествующие значения а. Так,
если
общая модель D.1.9) при 9о — 0 может быть записана в виде
zt = cp.z,-., + • • • + Чр+аЬ-р-а—йМ-х - ... - 8,at_, + at. D.2.1)
В качестве примера рассмотрим процесс, описываемый моделью
порядка A,1,1):
{l-4>B)(l-B)zt = {l-
(индексы 1 в <f>i и 9i опущены для краткости). Тогда этот про-
процесс можно записать в виде
г, = A + ф)г1-1-фг,-2 + а,-ва,-1. D.2.2)
Для многих целей, и в частности для вычисления прогнозов
в гл. 5, разностное уравнение D.2.1) является наиболее удоб-
удобным описанием модели.
4.2.2. Представление модели, использующее случайные импульсы
Представление модели через текущий и предшествующие
импульсы. Мы видели в разд. 3.1.1, что линейная модель может
быть представлена как выход линейного фильтра
= at
2
,а,_, = ф (В) at, D.2.3)
Гл 4. Линейные нестационарные модели
113
входом которого является белый шум, или последовательность
некоррелированных импульсов а(. Иногда полезно представлять
модель АРПСС в форме D.2.3); в частности, веса ф потре-
потребуются в гл. 5 для вычисления дисперсии прогнозов. Покажем
теперь, что веса ф процесса АРПСС можно получить прямо из
представления модели в виде разностного уравнения.
Общее выражение для весов ф. Если применить к обеим сто-
сторонам D.2 3) обобщенный оператор авторегрессии фE), по-
получим
Однако, так как
отсюда следует, что
D.2.4)
Следовательно, веса ф можно получить, приравнивая коэф-
коэффициенты при одинаковых степенях В в уравнении
8,В«). D.2.5)
= A-8,В
Заметим, что для /, больших, чем p + d— 1 и q, т. е. для таких,
что
/ > р + d—1, если p + d—l^q,
j > q, если p + d— Kq,
веса ip удовлетворяют разностному уравнению, определенному
обобщенным оператором авторегрессии, т. е.
- Bf гр, = 0, D.2.6)
где В действует на индекс /. Тогда для достаточно больших /
веса §3 представлены совокупностью полиномов, затухающих
экспонент и затухающих синусоид от аргумента /'.
Пример. Чтобы показать, как пользоваться D.2.5), рассмо-
рассмотрим процесс D.2 2) порядка A, 1, 1), для которого
9 (В) = 1 — 8В.
Подстановка в D.2.5) приводит к

114
Часть I. Стохастические модели и прогнозирование
И отсюда
D.2.7)
где
-л,=
е-»
и ^о = Ло + Л! = 1. Отсюда мы можем представить модель
D.2.2) эквивалентным выражением
/=о
D.2.8)
Так как |^|< 1, веса \р} при больших / стремятся к Ло, так что
импульсы at-j, которые внесли свой вклад в отдаленном прош-
прошлом, получают постоянный вес Ло.
Усеченная форма представления модели через случайные
импульсы. В некоторых задачах удобнее использовать выраже-
выражение для модели, слегка отличающееся от D.2.3). Пусть мы хо-
хотим выразить текущее значение процесса г% через t — k импуль-
импульсов at, at-\, ..., flfe+i, вошедших в систему после некоторого мо-
момента времени k < t. Этот момент времени k может, например,
быть моментом первого наблюдения процесса.
Общая модель
t D.2.9)
— это разностное уравнение с решением
zt = Ck{t — k) + Ik{t—k). D.2.10)
Краткое рассмотрение линейных разностных уравнений прове-
проведено в приложении П4.1. Напомним читателю, что решение та-
таких уравнений весьма сходно с решением линейных дифферен-
дифференциальных уравнений. Функция Ch(t — k)—это общее решение
однородного разностного уравнения
(f(B)Ck(t — k) = O. D.2.11)
В общем случае это решение состоит из линейной комбинации
некоторых функций времени: степеней V, действительных экспо-
экспонент G* и комплексных экспонент df sin Bnfot-{- F), где кон-
константы G, /о, F — функции параметров модели (ф, 8). Частное
решение Ih(i — k)—это любая функция, удовлетворяющая
Тл. 4. Линейные нестационарные модели
115
уравнению
Ф (Я)/*('-*) = 6EH,. D.2.12)
Не следует забывать, что в этом выражении В действует на t,
а не на k. В приложении П4.1 показано, что этому уравнению
при t— k > q удовлетворяет функция
Ik(s-k)={ % Ъча, = а. + Ъа.-1+ ... D.2.13)
I ... +i|3s_ft-iaft+,. s> k.
Рассмотрим в качестве иллюстрации рис. 4.4. Из вышесказан-
вышесказанного вытекает, что любое наблюдение zt можно связать с лю-
любым предшествующим временем k и представить в виде суммы
Рис. 4.4. Роль функции Ck(t-k) и частного решения hit — k) в описании
поведения временного ряда.
двух слагаемых. Первое слагаемое Ch(t—k) — это компонента zt,
уже определенная в момент времени k. По нему можно оценить,
как сказываются на значении ряда в момент / наблюдения,
предшествующие моменту k -\~ 1. Иными словами, оно указы-
указывает, что было бы с процессом, если в момент времени k источ-
источник импульсов at был бы «выключен». Второе слагаемое
Ih(t — k) —это добавочная компонента, не предсказуемая в мо-
момент времени k, которая представляет результирующий эффект
импульсов, образовавшихся после времени k.
Пример. Для иллюстрации рассмотрим опять пример
A - фВ) A - В) zt = A — 85) а,.
Общее решение Ck(t — k) соответствующего однородного раз-
разностного уравнения
(l-4>B)(l-B)Ck(t-k) = Q

116
Часть I. Стохастические модели и прогнозирование
имеет вид
где bf\ Mft)— коэффициенты, зависящие от прошлого процесса
и, что существенно, изменяющиеся с номером k.
Частное решение D.2.13) при помощи формул D.2.7) для
весов ф представимо в виде
Таким образом, модель D.2.8) можно записать в эквива-
эквивалентном виде:
i Ло+Л.^-'К D.2.14)
Связь между усеченной и полной формой представления мо-
модели через случайные импульсы. Вернемся теперь к общему
случаю. Мы всегда можем предполагать, что начало процесса
находится в бесконечно далеком прошлом, так что функцию
С_о<,@ без потери общности можно считать равной нулю.
В этом случае
2
/=—0
D.2.15)
— это полное выражение D.2.3), описывающее модель.
Функция Ch(t — k) также может быть выражена через
веса тр, так как, вычитая D.2.10) из D.2.15), мы получим для
t — k>q
2
/=-оо
D-2.16)
Можно показать, что функция Ch(t — k) в форме D.2.16) удо-
удовлетворяет D.2.11), так как
ФE)[/_.(/) -Ik{t- k)] = [8(В) - 8(В)]at = 0.
Итак, для общей модели D.2.9):
1) Значение процесса zt может быть выражено как беско-
бесконечная взвешенная сумма текущего и предшествующих импуль-
импульсов at:
t
2
/=—оо
/=0
2) Для t — k > q значение zt можно представить как взве-
взвешенную конечную сумму t — k текущего и предшествующих им-
импульсов, возникающих после момента времени k плюс функция
Ch(t — к)—общее решение однородного разностного уравне-
уравнеГл. 4 Линейные нестационарные модели
117
ния D.2.1). Первое слагаемое состоит из первых t — k членов
00
бесконечной суммы 2
/-о
-/. так что
= Ck{t-k)+ 2
/=?+1
D.2.17)
Наконец, функция Ch(t—k) может быть принята равной усе-
усеченной бесконечной сумме, так что
k
Ck(t~k)= Ц ypt_jaj. D.2.18)
/
/=-оо
В качестве примера рассмотрим еще раз модель
Мы можем выразить zt либо как бесконечную взвешенную
сумму а3
«/= S (Ao+Arf'-^a,,
/=-оо
либо при помощи конечной взвешенной суммы
Далее, функция Ck(t — k) — это усеченная сумма
/=-оо
которую можно представить в виде
где
/=-00
/=-00
/=—оо
/=— оо
Общее решение однородного разностного уравнения как ус-
условное математическое ожидание. Одним из следствий соотно-
соотношения D.2.18) является (при m > 0)
-ia*-m+i, D.2.19)

118
1 Стохастические модели и прогнозирование
что показывает, как изменяется функция Ch(t — k) при измене-
изменении начала отсчета k. Обозначим теперь условное математиче-
математическое ожидание zt в момент времени k через Ek[zt].
Это есть математическое ожидание при условии, что известно
все прошлое процесса вплоть до момента k, а то, что произой-
произойдет после момента k, неизвестно. При отыскании Eh[zt] следует
учесть, что
1-
ah
Это означает, что в момент времени k ожидаемые значения а
в будущем равны нулю, и математические ожидания тех а, ко-
которые уже реализовались, равны этим реализовавшимся значе-
значениям.
Беря условные математические ожидания в момент k от
обеих частей D.2.17), получаем Eh[zt] = Ch(t — k). Отсюда для
(t — k) > q функция Ch(t — k) выражает ожидаемое в момент
времени k значение Zt процесса в будущем, основанное на зна-
знании прошлого. Частное решение Ih(t — k) показывает, как это
математическое ожидание изменится последующими событиями,
представленными последовательностью импульсов ah+i, а^+2, • • ¦
..., at. В задаче прогнозирования, которую мы рассмотрим
в гл. 5, окажется, что функция Ch{t — k) —это прогноз zf в мо-
момент времени k с минимальной среднеквадратичной ошибкой.
Уравнение D.2.19) можно использовать для «подправления»
этого прогноза.
4.2.3. Обращенное представление модели
Модель, выражающая zt через at и предшествующие г.
В разд. 3.1.1 было показано, что модель
можно записать также в обращенной форме:
ф-' (В) zt = at,
или
n{B)zt = [\ —
7=1
D.2.20)
Здесь zt равно бесконечной взвешенной сумме предыдущих
значений z плюс случайный импульс, т. е.
zt = ni2,_, + n.Zt-2-h •¦• +at.
Согласно условию обратимости, веса я в D.2.20) должны об-
образовывать сходящийся ряд, т. е. п(В) должйо сходиться на
единичной окружности или внутри нее.
Гл. 4. Линейные нестационарные модели
119
Общее выражение для весов п. Чтобы вывести формулу для
весов я общей модели АРПСС, мы подставим D.2.20) в урав-
уравнение
и получим
Отсюда веса п могут быть явно выражены приравниванием
коэффициентов при В в левой и правой частях уравнения
<р (Я) = 8 (Я) я (Я),
D.2.21)
или, в развернутом виде,
~ЩВ-П212- ...). D.2.22)
Нужно отметить, что для /, больших чем р + d и q, т. е. для
таких, что
}> p + d, если р + d > q,
j > q, если р + d < q,
веса я удовлетворяют разностному уравнению, определяемому
оператором скользящего среднего
9 (В) п, = О,
где В действует теперь на /. Отсюда для достаточно больших /
веса я будут вести себя сходно с автокорреляционной функцией
C.2.5) процесса авторегрессии, т. е. состоять из суммы зату-
затухающих экспонент и затухающих синусоид.
Другой интересный факт з-аключается в том, что при d ^ 1
веса я в D.2.20) в сумме равны 1. Это можно проверить, под-
подставив в D.2.21) значение В=\. Поскольку ф(В) =ф(В) A— B)d
равно нулю при В = 1, то 0A) =И= 0, так как корни уравнения
8(В)=0 лежат вне единичного круга. Тогда из D.2.21) сле-
следует, что я A) = 0 и
оо
= 1. D.2.23)
2
Поэтому при d ^ 1 процесс можно представить в форме
D.2.24)
где
¦взвешенное среднее предыдущих значений процесса,

120
Часть I. Стохастические модели и прогнозирование
Гл 4, Линейные нестационарные модели
121
Пример. Рассмотрим опять в качестве примера процесс
АРПССA, 1,1)
9В
Тогда, пользуясь D.2.21), получим
n(B) = <?(B)Q-l(B) = {l -A + ф)В
так что
Первые семь весов л, соответствующие ф = —0,3 и 9 = 0,5,
приведены в табл. 4.3. Итак, t-e значение процесса может быть
Таблица 4.3
Первые семь весов процесса АРПСС A, 1, 1) при
ф = —0,3, 9 = 0,5
п1
1
0,2
2
0,4
3
0,2
4
0,1
5
0,05
6
0,025
7
0,0125
найдено как взвешенное среднее предшествующих значений
плюс дополнительный импульс по формуле
zt = @,2z,_, + 0,4z,_2
0,lz,_4
at.
Отметим, в частности, что веса п уменьшаются для удаляю-
удаляющихся значений zt-}. Это свойство является следствием требо-
требования обратимости ряда, которое в данном случае равносильно
требованию —1 < 9 < 1. Кстати, заметим, что для статистиче-
статистических моделей, описывающих практически встречающиеся вре-
временные ряды, сходящиеся веса обычно сравнительно быстро
убывают до нуля. Поэтому, хотя zt теоретически зависит от от-
даленного'прошлого, представление
оо
zt = 2 njZt-i + at
;='
обычно показывает, что zt существенно зависит только от срав-
сравнительно недавних предшествующих значений временного ряда
zt-j. Это остается справедливым, несмотря на то что для неста-
нестационарных моделей с d > 0 веса ф в представлении процесса
з виде «взвешенных импульсов»
Zt = 2 %0-t-f
не сходятся. Это связано с тем, что вся информация zu постав-
поставляемая значениями давно возникших импульсов at-3, содержится
в недавних значениях ряда zt-\, zt-2 В частности, условное
математическое ожидание Ek[zt], теоретически определяемое че-
через все значения процесса вплоть до момента k, может быть до-
достаточно точно вычислено по нескольким недавним значениям
временного ряда Этот факт особенно важен при практическом
прогнозировании.
4.3. ПРОЦЕССЫ ПРОИНТЕГРИРОВАННОГО
СКОЛЬЗЯЩЕГО СРЕДНЕГО
Нестационарная модель, полезная для описания некоторых,
часто встречающихся рядов, — это процесс @, 1, 1):
Модель содержит только два параметра 9 и а\. На рис. 4.5 по-
показаны два временных ряда, генерированных этой моделью по
т
в-
= 0,4)
о=о,о(л=1,о)
Рис. 4 5 Два временнйх ряда, генерированных процессом ПСС@,1,1).
одной и той же последовательности случайных гауссовских ве-
величин at. Для первого ряда 9 = 0,6 и для второго 9 = 0. Мо-
Модели этого типа часто оказываются полезными в задачах склад-
складского контроля (inventory control), в описании некоторых воз-
возмущений, возникающих в промышленных процессах, и в эконо-
эконометрике. В гл. 7 будет показано, что этот простой процесс мо-
может при правильном подборе параметров хорошо аппроксими-
аппроксимировать ряды А, В и D, показанные на рис. 4.1.
Другая весьма полезная модель — это процесс @, 2, 2)
= at — e,a^, — е^-г,

122
Часть 1. Стохастические модели и прогнозирование
содержащий три параметра, а именно бь бг и а2а. На рис. 4.6
показаны два ряда, генерируемые моделью, использующей одну
и ту же последовательность гауссовских случайных чисел. Для
первого ряда параметры (9ь бг) = @, 0), а для второго (9ь 92) =
= A,5; —0,8). Эти ряды в целом более гладкие, чем генерируе-
генерируемые процессом @, 1, 1). Модели @, 2, 2) полезны в описании
1
@,,ег) = A,5,-0,8)
(Л0,А,)=(ОЛ,0,3)
Рис. 4.6. Два временнйх ряда, генерированных процессом ПСС@,2,2).
возмущенных систем с большой инерцией (таких, как ряд С).
Обе модели @, 1, 1) и @, 2, 2) —частные случаи процессов
класса
d i. D.3.1)
Мы называем такие модели, как D.3.1), процессами проинтегри-
проинтегрированного скользящего среднего (ПСС) порядка @, d, q), их
свойства будут рассмотрены в следующем разделе.
4.3.1. Процесс проинтегрированного скользящего среднего
порядка @, 1, 1)
Представление разностным уравнением. Процесс @, 1, 1)
оказывается весьма полезным при описании экспериментальных
рядов, и мы исследуем теперь его свойства более детально. Мо-
Модель может быть описана через 2 и а в виде
— 8а,-,.
D.3.2)
Представление через случайные импульсы. Мы можем также
выразить 2; только через at, суммируя обе стороны D.3.2). Пе-
Перед тем как это сделать, воспользуемся выражением для опера-
оператора в правой части через V, а не через В. Тогда можно запи-
запиГл. 4. Линейные нестационарные модели
123
сать
где Я = 1 — 9, и интервал обратимости для X определен нера-
неравенствами 0 < Я< 2. Отсюда
V2, = Kat_x
и при суммировании получаем
S/at,
at,
D.3.3)
откуда в представлении 2^=2 ¦»!>/«*-/ веса 1150=1. 'Ф/ = Л
1=0
для />1.
Если мы опишем модель с помощью импульсов а, появляю-
появляющихся в системе после момента времени k, то получим, как
в D.2.17),
2, = &<*> + Л JJ^ + a,, D.3.4)
где функция Ck(t — k) = bok) (своя константа Ьо для каждого
k) — это общее решение однородного разностного уравнения
A — В) Cft (t — k) = 0. Далее, так как
t-i
5af_, = 2 a-i + Sak,
мы можем записать
k
2
/=-oo
a,.
Для этой модели, как мы видим, функция Ch(t — k)—просто
константа (т. е. полином от t нулевой степени), показывающая
текущий «уровень» процесса и связанная с выбранной точкой
отсчета k. Если точка отсчета переносится из k — 1 в k, то Ьо
подправляется согласно формуле
Обращенное представление модели. В заключение мы можем
рассмотреть модель в виде
я (В) zt = at
или, что эквивалентно, в виде
оо
zt = 2 я/2,-/ + at = zt-x (я) + at,
где zt-i(я)— взвешенное скользящее среднее предыдущих зна-
значений процесса

124
Часть I. Стохастические модели и прогнозирование
Гл. 4. Линейные нестационарные модели
125
Используя D.2.21), можно определить веса я для ПСС
(О, 1,1) из уравнения
A -Щп(В)=1 -В,
т. е.
(п\ _ '-Д _ 1 - ев - A - е) в _
nW>— i-qb ~ 1 - ев
откуда
Таким образом, процесс можно записать в виде
2( = гмИ + а, D.3.5)
Взвешенное скользящее среднее предыдущих значений про-
процесса
— Я' 2,_
t-l
D.3.6)
в этом случае — экспоненциально взвешенное скользящее сред-
среднее (ЭВСС).
Скользящее среднее D.3.6) называется экспоненциально
(или геометрически) взвешенным потому, что веса
Я Я A-Я) Я A-ЯJ Я A-ЯK...
убывают по степенному закону (т. е. как члены геометрической
прогрессии). Весовая функция ПСС порядка @, 1, 1) с Я = 0,4
(9 = 0,6) показана на рис. 4.7.
¦ /?Л
I
У >
Рис. 4.7. Веса я процесса ПСС@,1,1) при Я. = 1 — 9 =0,4.
Хотя условие обратимости выполняется для 0 < Я < 2, на
практике наиболее часто сталкиваются со значениями Я в диа-
диапазоне между 0 и 1. Отметим, что если Я = 1, весовая функция
содержит только одно ненулевое значение п\ = 1. По мере того
как Я приближается к нулю, экспоненциальные веса затухают
все медленнее и ЭВСС захватывает все большую часть прош-
прошлого процесса. Наконец, при Я = 0 и 9 = 1 модель A — B)zt =
= A — B)at эквивалентна zt = 0о + аи где 0О —-Это среднее
всех прошлых значений.
Из сравнения D.3.3) и D.3.5) становится очевидным, что
2<_1(Я) = Я5а<_1. D.3.7)
Отсюда следует, в частности, что для этого процесса функция
bf] = Ck{t — k) в D.3.4) равна
т. е. экспоненциально взвешенному среднему значению процесса
до начала отсчета k, так как D.3.4) можно представить как
Мы видим, что функция Ch(t — k) как бы говорит нам, что
известно о будущем значении процесса в момент t на базе дан-
данных о прошлом, имеющихся к моменту времени k. Для ПСС
@, 1, 1) она содержит в себе информацию об «уровне» или по-
положении процесса bp = zk (Я). В момент k наше знание буду-
будущего поведения процесса заключается в том, что он будет от-
отклоняться от этого уровня «случайным блужданием», описывае-
описываемым членом, математическое ожидание которого равно нулю,
и поведение его мы не можем предсказать. Как только посту-
поступает новое наблюдение, т. е. как только начало отсчета пере-
переносится на момент времени &+1, уровень должен быть под-
подправлен по формуле bff+1) = zk+l (Я).
Важные свойства ПСС (О, 1, 1). Так как этот процесс не-
нестационарен, у него нет среднего значения. Однако экспонен-
экспоненциально взвешенное скользящее среднее г((Я) можно рассма-
рассматривать как измерение положения или «уровня» процесса в мо-
момент времени t. Из определения-D.3.6) мы получаем хорошо из-
известную рекуррентную формулу для ЭВСС
zt{k) = kzt + (l — Я)г,_,(Я). D.3.8)
Из этого выражения следует, что для модели ПСС @, 1, 1)
каждый новый уровень достигается интерполяцией между но-
новым наблюдением и предыдущим уровнем. Если Я=1, zt{k)=zt,
что означает игнорирование всех указаний о положении про-
процесса, полученных из предыдущих наблюдений. С другой сто-
стороны, если Я близко к нулю, г<(Я) будет сильно зависеть от
предыдущего значения zt-\(k), входящего с весом 1-Я- Но-
Новому наблюдению будет дан малый вес Я.
Рассмотрим теперь два уравнения
zt = 2,_! (Я) -f at,
D.3.9)

126
Часть I Стохастические модели и прогнозирование
второе из них получено подстановкой D.3.5) в D.3 8); его
можно также вывести непосредственно из D 3.7).
Мат [43] указал на то, что два уравнения D.3 9) открывают
удобный способ трактовки генерирования рассматриваемого
процесса. Первое уравнение показывает, как при «уровне» си-
системы 2,_i (Я) в момент t добавляется импульс at и образуется
значение Zt. Однако второе уравнение показывает, что только
Л-я доля импульса фактически «усваивается» уровнем и влияет
на будущее; остающаяся доля 9=1 — X импульса рассеивает-
рассеивается. Далее, после того как в результате «усвоения» импульса at
установился новый уровень zt(X), в момент t-\- 1 в систему по-
поступает новый импульс at+i.
Уравнения D 3 9) с увеличенными на единицу индексами по-
покажут тогда, как этот новый импульс вызывает появление zt+\
и как его Х-я доля «усваивается» системой при выработке но-
нового уровня zt+i (X) и т. д.
Способ «подправления» текущего значения и уровня демон-
демонстрируется также записью уравнений D 3.9) в виде бесконеч-
бесконечных сумм импульсов а, а именно
(aoW\
i + Of,
XSat = KSat-t + Xat.
Свойства ПСС @, 1, 1) с детерминированным смещением нуля
обсуждаются в приложении П4.2.
4.3.2. Процесс проинтегрированного скользящего
среднего порядка @, 2, 2)
Представление разностным уравнением. Процесс
V2z, = (l - 6,В - 92В2) а, D.3.11)
весьма удобен для описания рядов, имеющих стохастический
тренд (например, на рис. 4.6), и мы исследуем теперь его об-
общие свойства внутри диапазона обратимости
-1<92<1, е2+9,<1, 92-9,<1.
Как и ранее, можно явно выразить zt через предшествующие
z n а:
zt = 2zt_x — zt_2 + at — 9,0^1 — e2a,_2.
Представление модели через случайные импульсы. Для того
чтобы выразить zt через а, мы должны представить оператор
в правой части в разностном виде:
1 - 8,5 - 92В2 = (Хо\ + Л,) В + V2.
Гл 4 Линейные нестационарные модели
12?
Приравнивая коэффициенты, найдем выражения для 8 через А,
и наоборот, а именно
D.3.12)
6, = 2 — Хо — Ки Xa = 1 + 92,
б2 = Ад 1 , Л| = 1 9) 62.
Модель D 3 11) можно тогда записать в виде
V2zt = (X0V + Xl)at^l + V2at. D.3.13)
Дважды суммируя D.3.13), получаем
zt = KoSat-l + KlS2at-i + at, D.3.14)
так что веса 1|э для этого процесса оказываются равными
Важное преимущество использования для рассматриваемой мо-
модели выражений D3 13) или D3 14) по сравнению с D.3.11)
становится очевидным, если по-
положить в D 3 13) Х\ = 0 Тогда
что соответствует процессу
(О, 1, 1) с 9 = 1 —Ко. Однако, если
мы положим в D.3 11) 92 = 0, по-
получаем | _ \\комплексные
корни
Действительные
Далее, в гл 5, будет показано, I „ , \ \ I корни
что для рядов, генерируемых
процессом @, 2, 2), оптимальные
прогнозы лежат вдоль прямой
линии, уровень и наклон которой
непрерывно подправляются по
мере поступления новых данных Ло *
Напротив, ряд, генерируемый D . Q „, ,
r ' /л i , ч r rj Рис 48 Область обратимости
процессом @, 1, 1), может давать для параметров Л„ и ^процесса
информацию только для непре- ПСС@,2,2).
рывного подправления уровня,
а не наклона. Во многих случаях весьма важно, можно ли
предсказать и подправить линейный тренд и уровень Если
необходимо сделать выбор в пользу одной из этих моделей,
то вопрос сводится к тому, равно или не равно нулю Х\ в
D.3.14).
Область обратимости для ПСС @, 2, 2) та же, что и для
ССB) в гл 3. Она может быть определена в координатах 9 или

128
Часть I. Стохастические модели и прогнозирование
D.3.15)
I как
82 + 8,<1, 0 < 2Я0 + Я, < 4,
е2 —е,<1, я,>о,
-1<82<1, Я0>0.
Треугольная область для 9 была показана на рис. 3.8; соот-
соответствующая область для Я показана на рис. 4.8.
Усеченная форма представления модели через случайные им-
импульсы. При помощи D.3.14) усеченная формула для модели
D.2.17) может быть представлена в виде
zt = Ck(t-k) + X0 2 а, + Я, S 2 а, + о„ D.3.16)
где функция Ch(t — k)—общее решение однородного уравне-
уравнения
(l-BfCk(t-k) = O,
т. е.
и является полиномом от (t — k) первой степени с коэффициен-
коэффициентами, зависящими от положения начала отсчета k.
В приложении П4.3 показано, что эта функция может быть
явно выражена через а:
Ck (t-k) = [(Яо - Я,) Sak + ^аь] + [к^аД (t - k), D.3.17)
так что
Из рассмотрения разностей bb® — bok~l) и b\k) — b\ ~1) следует,
что если начало отсчета перенесено из k— 1 в k, то bo и Ъ\ кор-
корректируются согласно формулам
Мы видим, что если эта модель подходит для описания про-
процесса, математическое ожидание будущего поведения ряда по
данным, доступным к моменту k, представляется прямой ли-
линией D.3.17) с начальным положением Ь$] и наклоном bf\
Фактически в момент времени t процесс отклонится от этой ли-
линии из-за влияния случайной компоненты
t-\ t~\ i
К 2 а/ + A-i 2 2 сц + af,
Гл. 4. Линейные нестационарные модели
непредсказуемой в момент времени k. Далее, при переносе на-
начала отсчета из k — 1 в k данные о начальном положении и на-
наклоне прямой должны быть скорректированы, согласно D.3.18).
Обращенное представление модели. Наконец, рассмотрим
модель в обращенном представлении
zt =
2
t = z,_, (я) + at.
Пользуясь D.2.22) и приравнивая коэффициенты при одинако-
одинаковых степенях В в
находим, что п-веса процесса ПСС@, 2, 2) равны
Я] = 2 — 9] = Яо + А1,
я2 = 8, B - 8,) -A + 82) = Я0 + 2А-, - (Яо+ Я,J, D,3.19)
A —8,5 — 82В2)я/ = 0,' />3,
где В действует на /.
Если корни характеристического уравнения 1 —QiB — 82В2 =
= 0 действительны, я-веса предшествующих z являются нало-
наложением двух затухающих экспонент. Если корни комплексные,
7,2
W
0,8
¦ 0,6
I
j 0,2
О
-0,2
5 В
Т7Т7
8 3
Рис. 4.9. Веса я процесса ПСС@,2,2) с Яо = 0,5, А* = 0,6.
веса ведут себя, как затухающая синусоида. На рис. 4.9 пока-
показаны веса для процесса при 8i = 0,9 и 82 = —0,5 (соответствен-
(соответственно при Хо = 0,5 и A,i = 0,6).
Из рис. 3.9 и 4.8 видно, что при этих значениях коэффициен-
коэффициентов характеристическое уравнение имеет комплексные корни
(так как его дискриминант 8i + 482= — 1,19 < 0). Отсюда веса
на рис. 4.9 должны вести себя как значения затухающей сину-
синусоиды, как это и происходит на самом деле.

130
Часть I. Стохастические модели и прогнозирование
4.3.3. Общий процесс проинтегрированного скользящего
среднего порядка @, й, q)
Представление разностным уравнением. Общий процесс про-
проинтегрированного скользящего среднего порядка @, d, q) имеет
вид
D.3.20)
где нули функции 8 (В) должны лежать вне единичного круга,
если процесс обратим. Модель D.3.20) может быть выражена
в явном виде через прошлые значения z и а:
Представление через случайные импульсы. Для того чтобы
выразить zt через а, запишем оператор в правой части D.3.20)
через V — 1 — В. Получаем
= {hd-qY-1 + ...+ ЯУ + ... + Л„_,) В + Vd, D.3.21)
где К, как и прежде, можно явно выразить через б, приравни-
приравнивая коэффициенты при одинаковых степенях В.
Подставляя D.3.21) в D.3.20) и суммируя d раз, получаем
zt = {Kd-q
k0S
at. D.3.22)
При q > d из D.3.22) следует, что в дополнение к d суммам
мы получили q — d дополнительных членов вида Vi~d-lat-\, со-
содержащих а,_Ь Щ-2, ..., CLt+d-q.
Если мы представим это решение в виде конечных сумм им-
импульсов а, поступающих в систему, начиная с некоторого мо-
момента k, мы получим уравнение в той же форме, но с дополни-
дополнительным членом в виде функции, являющейся общим решением
однородного уравнения
fU (t -
которое представляет собой полином
\k)
b\k) (t~k)
(t ~ kf
Как и ранее, функция Ch{t — k) описывает ту составляющую
процесса, которая предсказуема в момент времени k. Анало-
Аналогично коэффициенты bf] могут быть представлены бесконеч-
бесконечными суммами до момента времени k, т. е. Sah, S2uh, ..., Sdak.
Мы опять-таки можем найти, как изменятся эти коэффициенты
при сдвиге начала отсчета из k — 1 в &.
Гл. 4. Линейные нестационарные модели
131
Обращенное представление модели. Наконец, модель может
быть представлена обращенной формулой
или
zt = z(_, (я) + at.
Веса я могут быть найдены приравниванием коэффициентов
при одинаковых степенях В в D.2.22), а именно
D.3.23)
Для данной модели их удобнее находить подстановкой числен-
численных значений в D.3.23), нежели с помощью общей формулы.
Рис. 4.10. Область обратимости для параметров A,-i, A.o и
ПСС @,2,3).
процесса
Заметим, что из D.3.23) вытекает, что для /, больших чем d
и q, веса я удовлетворяют разностному уравнению
9(В)я; = 0,
определяемому оператором скользящего среднего. Отсюда сле-
следует, что для достаточно больших / веса щ ведут себя как зна-
значения суммы затухающих экспонент и синусоид.
Процесс ПСС порядка @, 2, 3). Наконец, рассмотрим еще
один достаточно интересный пример — процесс ПСС порядка
@,2,3):
t = A — 8,Д - Q2B2 - 83В3) щ.

132
Часть I. Стохастические модели и прогнозирование
Тем же способом, что и ранее, можно записать процесс в проин-
проинтегрированной форме как
zt = Я_,^_, + Я05а,_, +
где соотношения между Я и 0 имеют вид
01 = 2 — Я_1 — Яо — Я), Я_1 = — 0з,
в3 = -Л_„ Я, = 1-0,-02-03.
Можно также воспользоваться усеченным представлением
zt = ф + bp (t-k) + Я_Л_,'+ Яо Д i а, + Я, Д j Д а, + at.
Наконец, область обратимости определена неравенствами
-0, + 02-03<1,
е3(в3 — в,) —е2< 1,
2Я0
я,я_ь
и показана на рис. 4.10.
В гл. 5 мы покажем, как можно оптимально предсказывать
будущие значения временного ряда для модели АРПСС. При
изучении способов прогноза мы будем широко пользоваться
различными формами представления моделей, рассмотренными
в этой главе.
ПРИЛОЖЕНИЕ П4.1. ЛИНЕЙНЫЕ РАЗНОСТНЫЕ
УРАВНЕНИЯ
В этой книге мы часто рассматриваем линейные разностные
уравнения. В частности, модель АРПСС связывает выход zt со
входом at с помощью разностного уравнения
= at — 0,а(_, — Q2at-2 — ••• — %
где p' = p + d.
Уравнение (П4.1.1) можно также записать в виде
где
0(В) = 1 — 0,В -02?2- ... -%ВЯ.
Гл. 4. Линейные нестационарные модели
133
Ниже мы дадим вывод общего решения разностного уравнения
(П4.1.1) с начальными условиями, заданными в момент времени
k>t.
1) Вначале будет показано, что общее решение можно запи-
записать в виде
где Ch(t — k)— общее решение соответствующего однородного
уравнения и Ih(t — k)—частное решение нашего уравнения.
2) Будет получена общая формула для функции Ck(t — k).
3) Наконец, будет выведена общая формула для частного
решения Ih(t — k).
Общее решение. Наши рассуждения аналогичны применяе-
применяемым при выводе решения линейных дифференциальных или
линейных алгебраических уравнений. Положим, что z't —любое
частное решение уравнения
т. е.
(П4.1.2)
(П4.1.3)
Вычитая (П4.1.3) из (П4.1.2), получаем
Таким образом, z" = zt — z't удовлетворяет уравнению
Тогда
Ф (Я) 2^ = 0.
(П4.1.4)
и, следовательно, общее решение (П4.1.2) есть сумма г" общего
решения однородного разностного уравнения (П4.1.4) и z't —
произвольного частного решения (П4.1.2). В дальнейшем мы
обозначаем г" как Ck(t — k), a z't как Ik(t — k).
Вычисление функции Ch(t — k). Простые корни. Рассмотрим
однородное разностное уравнение
(П4.1.5)
..(l-GP'B), (П4.1.6)
где
и предположим вначале, что G\, G%, ..., Gp> все отличны-друг
от друга. Тогда, как будет показано ниже, общее решение
(П4.1.5) в момент t для ряда, начинающегося в момент k, имеет
вид
zt = Aft-* + A,G<-* + ... + Apl&p7\ (П4.1.7)

134
Часть I. Стохастические модели и прогнозирование
где Аг — константы. Тогда действительный корень уравнения
ф(Б) = 0 создает затухающее экспоненциальное слагаемое G'~ft
в (П4.1.7). Пара сопряженных комплексных корней создает за-
затухающее синусоидальное слагаемое в (П4.1.7).
Чтобы убедиться, что (П4.1.7) действительно удовлетворяет
(П4.1.5), подставим (П4.1.7) в (П4.1.5) и получим
}\-к+А2&2~к+ ... +ЛР'Ор-*) = 0. (П4.1.8)
Рассмотрим теперь
Ф (В) G\~R = A — Ц>{В — Ф2В — ... — фрд
= Gi KGi ~%Gi - ••• -ад-
Видно, что <$(B)G\~k обращается в нуль для каждого /, если
т. е. если В = 1/G,- является корнем уравнения ф(В) = 0. Так
как из (П4.1.6) следует, что корни ф(Б) = 0 — это В = l/Gu то
ф(Б)О,--* = 0 при всех / и, следовательно, справедливо (П4.1.8).
Это подтверждает, что (П4.1.7) есть общее решение уравне-
уравнения (П4.1.5)*).
Чтобы доказать (П4.К7) непосредственно, рассмотрим част-
частный случай уравнения второго порядка
(l-G^Hl-G^z^O,
которое можно записать как
yt = (l-G2B)zt.
где
Из (П4.1.9) вытекает
(П4.1.9)
(П.4.10)
и, следовательно,
— П G*-k
— uu
\
*) Нужно еще доказать, что функции G\ в*р k линейно незави-
независимы. Это следует из того, что определитель, составленный из р после-
последовательных значений этих функций, является определителем Вандермонда,
отличным от нуля из-за того, что Gx, ..., GP различны. —Прим. ред.
Гл. 4. Линейные нестационарные модели
135
где Di = уи — константа, определяемая начальным значением г/й.
Поэтому (П4.1.10) можно записать как
Dl
= AiG'rk + А2&2-к, (П.4.1.11)
где Ль А2 — константы, определяемые начальными значениями
ряда. Эти рассуждения можно продолжить и показать, что об-
общее решение (П4.1.5) при простых корнях ф(Б) = 0 опреде-
определяется формулой (П4.1.7).
Кратные корни. Примем теперь, что ф(?) = 0 имеет d-крат-
ный корень Go-', так что ф(Б) содержит множитель A — GQB)d.
В частности, рассмотрим решение (П4.1.11) уравнения второго
порядка, у которого Gt = G2 = Go. Тогда (П4.1.11) перейдет в
или
В общем случае, если имеется d-кратный корень Go, как можно
проверить пр-ямой подстановкой в (П4.1.5), общее решение
имеет вид
zt = [Ао + Л, (t - k) + A2 (t - kf + ... + Лй_, (t - kf~l] Gf.
(П4.1.12)
В частности, когда Go = 1, как в процессе ПСС@, d, q), решение
принимает вид
г, = Л0+ Л,(f-ft)+ ... +Ad.,{t-k)d-\ (П4.1.13)
т. е. является полиномом по t — k степени d — 1.
В общем случае, когда ф(Б) можно разложить на множи-
множители
A - G,B)A - G2B) ... A - GPB)(\ - G0B)d,
общее решение однородного уравнения Ch(t — k) имеет вид
Ck(t - k) = G\-k %A,(t- kI + 2J Dfi\-k,

136
Часть I. Стохастические модели и прогнозирование
т. е. состоит из суммы затухающих экспоненциальных членов
G'-ft, полиномиальных членов (t—k)i, затухающих синусои-
синусоидальных членов dl~h sinBitfo^ + F) и их комбинаций.
Нахождение частного решения. Покажем теперь, что частное
решение h(t — k), удовлетворяющее уравнению
— k>q,
есть
Ik{s — &) = 0,
Ik(t — &) = af + iM<-i + />M<-2+ ••• + b-h-iah+i, t>k,
где веса -ф те же, что и в представлении модели D.2.3). Они
удовлетворяют уравнению
Левая часть уравнения (П4.1.17) может быть представлена
в виде
at
—Фг(
*—ft—i«ft + •••
а правая часть (П4.1.17) имеет вид
(П4.1.18)
—Qqat-
r
Отсюда следует, что первые q -\- 1 столбцов в этой таблице дают
при суммировании по столбцу суммы at, —8ia*-i, ..., —%at-q.
Далее, левая часть в (П4.1.15), где /^(s — k) определено ра-
равенствами (П4.1.16), равна сумме членов в первых (t — k)
столбцах (отделенных справа вертикальной линией). Следова-
Следовательно, если t — k > q, т. е. вертикальная линия проведена за
q-u столбцом, сумма всех членов до вертикальной линии равна
Q(B)at. Это и показывает, что (П4.1.16)—частное решение раз-
разностного уравнения.
Пример. Рассмотрим процесс ПСС@, 1,1)
Гл. 4. Линейные нестационарные модели
137
у которого -ф/ = 1 —0 для />1. Имеем
4@) = О,
(П4.1.20)
) 2
/=ft+i
а„ t-k>2.
Если zt = Ik (t — k) — решение (П4.1.19), то
и, как легко проверить, эта функция удовлетворяет (П4.1.20)
при t — k > 1, т. е. при t >-~k > q.
ПРИЛОЖЕНИЕ П4.2. ПРОЦЕСС ПСС @, 1, 1)
С ДЕТЕРМИНИРОВАННЫМ ДРЕЙФОМ НУЛЯ
Общая модель ф(В) Vdzt = 0О + B(B)at может быть также
представлена в виде
где импульсы е< имеют ненулевое среднее значение | =
= 0о/A — 01 —...—0д). Например, модель ПСС@, 1,1) будет
иметь вид
причем E[ei\ = | = 0о/A — 0). В таком виде zt может пред-
представлять выходную температуру реактора, тепло к которому по-
поступает от нагревательного элемента с постоянной скоростью.
Если
e( = g + a<t (П4.2.1)
где at — белый шум с нулевым средним значением, тогда по от-
отношению к началу отсчета k проинтегрированная форма пред-
представления модели будет
Z, =*<*>
t-i
/=ft+l
e/ + e;
(П4.2.2)
с К= 1— 0. Подставляя (П4.2.1) в (П4.2.2), выразим модель
через а:
t-i
zt = bQ + kl(t-k-l) + l + X 2 а, + щ. (П4.2.3)
Видно, что zt содержит детерминированный наклон, или
дрейф, описываемый членом ll(t — k— 1). Далее, если обозна-

138
Часть I. Стохастические модели и прогнозирование
чить «уровень» процесса в момент t— 1 как lt-\, где
Щ — h-i + <*t>
то при переходе от времени t — 1 к t уровень изменится со-
согласно формуле
/, = /,_, + Я| + Яа,.
Изменение уровня содержит, таким образом, детерминирован-
детерминированную компоненту Л|, а также стохастическую компоненту Kat.
ПРИЛОЖЕНИЕ П4.3. СВОЙСТВА КОНЕЧНОГО
ОПЕРАТОРА СУММИРОВАНИЯ
Соотношение между конечной и бесконечной суммами.
В ряде приведенных ниже простых случаев можно проверить не-
непосредственно, что соотношение между бесконечной и конечной
суммами, первый член которых имеет индекс k -\- 1, где / ^
;=г k + 1, имеет вид
t
= 2
Sxk,
s%= 2 2
(П4.3.1)
Последнее равенство можно также записать в виде
= 21 2
k k
В общем d-кратная бесконечная сумма будет равна d-кратной
конечной сумме плюс полином от / степени d — 1
k)(t-k+l\ /t-k + d-
2 У" "' "^ d Ч d—\
Применение к процессу ПСС@, 2, 2). Проинтегрированная
форма представления D.3.14) процесса ПСС@, 2, 2) имеет вид
zt = kgSat-i + liS2at-i + at\
используя (П4.3.1), это равенство можно преобразовать к
) f S
: [(Яо — ™i) *
t-\
¦ Гцг\ ^^ Ctu
(t-k)
t-\
(П4.3.2)
л. 4. Линейные нестационарные модели
139
Усеченная форма представления модели через случайные им-
импульсы имеет вид
t-\
t-l t
4 2 2-
t; (П4.3.3)
приравнивая (П4.3.2) и (П4.3.3), можно получить выражение
для функции Ck(t — k) в виде бесконечной суммы случайных
импульсов
Ck (t-k) = [(Яо - Я,) Sak
- й),
что совпадает с формулой D.3.17), приведенной в основном
тексте.
ПРИЛОЖЕНИЕ П4.4. ПРОЦЕССЫ АРПСС
С ДОБАВЛЕННЫМ ШУМОМ
В этом приложении мы рассмотрим эффект добавления к об-
общему процессу АРПСС (р, d, q) шума (например, ошибок изме*
рений).
П4.4.1. Сумма двух независимых процессов скользящего
среднего
В качестве необходимого введения ниже нам понадобится
следующий факт. Рассмотрим стохастический процесс wt, яв-
являющийся суммой двух независимых процессов скользящего
среднего порядков q\ и q% соответственно:
wi = Qi(B)at-\-Q2(B)bt, (П4.4.1)
где 0i (В) и 02 (В) —полиномы от В порядка q\ и q2, процессы at
и bt — взаимно независимые белые шумы с нулевыми средними
значениями.
Обозначим q = max(^i, q2); ясно, что автоковариационная
функция Yj процесса wt должна быть равна нулю при / > q.
Отсюда следует, что существует представление wt как единого
процесса скользящего среднего порядка q
wt = 03 (В) щ,
(П4.4.2)
где процесс щ — белый шум с нулевым средним значением.
Итак, сумма двух независимых процессов скользящего сред-
среднего — это еще один процесс скользящего среднего, порядок ко-
которого совпадает с максимальным порядком слагаемых про-
процессов.

140
Часть 1. Стохастические модели и прогнозирование
П4.4.2. Эффект добавления шума к общей модели
Коррелированный шум. Рассмотрим общую нестационарную
модель порядка (р, d, q)
d (П4.4.3)
Предположим, что мы не можем наблюдать zt в чистом виде,
а только Zt = zt + bt, где bt представляет собой некоторый
внешний шум (например, измерительную ошибку) и может быть
коррелирован. Мы хотим определить природу наблюдаемого
процесса Zt.
В общем случае мы имеем
ф (В) ?zt = В(В)а{ + ф (В) V%.
Если шум является стационарным процессом АРСС порядка
(ри 0, Ч\)
ф(В)Ь В1(В)а1, (П4.4.4)
где процесс at — белый шум, независимый от процесса at, то
= фх(В)Ъ{В)щ + Ф (В) 0, (В) V\, (П4.4.5)
Pi+Q
р + <?, + d
где выражения под скобками показывают степени различных
полиномов от В. Правая часть (П4.4.5) имеет теперь форму
(П4.4.1). Пусть Р = р\ -\- р и Q равно большему из чисел
(pi + <?) и (Р + <7i + d) . Тогда можно записать
где Ut — белый шум, Zt — процесс порядка (Р, d, Q).
Белый шум. Если, как это может оказаться в некоторых при-
приложениях, добавленный шум белый, тогда в (П4.4.4) ^>i(B) =
= 9,E)= 1 и мы получаем
ф(В)У% = В2(В)щ (П4.4.6)
ПРИ
имеющем порядок (р, d, Q), где Q — наибольшее из?и (р + d).
Если р + d s^ <7, порядок процесса с шумом тот же, что у пер-
первоначального процесса. Единственный эффект дополнительного
белого шума ¦—изменение значений 0 (но не qp).
Эффект добавления белого шума к процессу проинтегриро-
проинтегрированного скользящего среднего. В частности, процесс ПСС по-
порядка @, d, q) с добавленным белым шумом остается процессом
того же порядка, если d ^ q; в^противном случае он становится
процессом ПСС порядка @, d, d). В любом случае параметры
процесса изменяются при добавлении шума. Природа этих из-
Тл. 4. Линейные нестационарные модели
141
менений может быть выяснена приравниванием автоковариаций
процесса с добавленным шумом автоковариациям простого про-
процесса ПСС. Пример такой процедуры приводится ниже.
П4.4.3. Пример процесса ПСС @, 1, 1) с добавленным белым
шумом
Рассмотрим свойства процесса Zt = zt + bt, когда
оо
zt = Я 2 at-, + at (П4.4.7)
и bt и at — взаимно независимые процессы типа белого шума.
Процесс Zt имеет первую разность Wt = Zt — Zt-\ вида
Wt = [l —A — k)B]at + (l —B)bt. (П4.4.8)
Автоковариаций для первых разностей Wt имеют вид
(П4.4.9)
Тот факт, что все у}, кроме первого, равны нулю, подтверждает,
что процесс с добавленным к нему шумом является, как и ожи-
ожидалось, процессом ПСС порядка @, 1, 1). Для того чтобы явно
выписать параметры этого процесса, предположим, что он может
быть представлен в виде
, = —о|A — Л) —<^,
щ,
(П4.4.10)
где процесс щ — белый шум. Процесс (П4.4.10) имеет автоко-
автоковариаций
4(
Y/ = 0,
Приравнивая (П4.4.9) и (П4.4.11), мы можем найти явные вы-
выражения для Л и а2и. Отсюда
Л2 Я2
1_А 1-Х + оЦвУ
9
= <
(П4.4.12)
Положим, например, что первоначальный ряд имеет Л = 0,5
и о2ь = о2а, тогда Л = 0,33 и о2и = 2,25о2а.

142
Часть I. Стохастические модели и прогнозирование
П4.4.4. Связь между процессом ПСС @, 1, 1) и случайным
блужданием
Процесс
2
(П4.4.13)
который является процессом ПСС@, 1, 1) с Я = 1, иногда на-
называется случайным блужданием. Если at — шаги, сделанные
вперед или назад в момент времени t, тогда zj представляет по-
положение блуждающего объекта в момент t.
Любой процесс ПСС @, 1, 1) можно трактовать как случайное
блуждание, скрытое в белом шуме bt, который не коррелиро-
коррелирован с прошлыми импульсами at. Если обозначить «зашумлен-
ный» процесс Zt = zt + bt, где zt определено (П4.4.13), то, ис-
используя {П4.4.12), получим
2
где
1-л
щ,
(П4.4.14)
П4.4.5. Автоковариационная функция общей модели
с добавленным коррелированным шумом
Предположим, что основной процесс типа АРПСС порядка
(Р, d, q)
d
и что наблюдается процесс Zt = zt + bu где bt — стационарный
процесс с автоковариационной функцией \j(b), независимый от
процесса at и, следовательно, от zt. Пусть \i(w)—автоковариа-
\i(w)—автоковариационная функция для wt — Vdz( = <j>-1(B)Q(B)at, и пусть Wt =
= VdZt. Мы хотим найти автоковариационную функцию для Wf
Имеем
где
Отсюда
= wt-\- vt,
Гл. 4. Линейные нестационарные модели
143
и, следовательно,
(П4.4.15)
В качестве примера рассмотрим случай, когда коррелиро-
коррелированный шум bt добавлен к процессу ПСС@, 1, 1), определен-
определенному как wt = Vzt = A —0S)a/. Тогда автоковариации первых
разностей Wt «зашумленного процесса» будут
Y, (W) = - <т20 + [2Yl (b) - у0 (Ь) - y2 Щ
У! {Щ = [2у/ (b) - Y/-i (b) - Y/+I (*)], / >
В частности, если bt — процесс авторегрессии первого порядка,
т. е.
bt — фЬ^ + щ,
то
Согласно (П4.4.5), результирующий «зашумленный» процесс
Zt = zt-\-btB этом случае определен как
- QB)at + (I - B)at,
(\ -
т. е. имеет порядок A, 1, 2),

ГЛАВА 5
Прогнозирование
Рассмотрев в гл. 4 некоторые свойства моделей АРПСС, мы
покажем теперь, как они могут быть использованы для прогноза
будущих значений наблюденного временного ряда. Во второй
части книги мы рассмотрим проблему подгонки модели к фак-
фактическим данным. Здесь же мы будем считать модель известной
точно, полагая, что ошибки в оценках параметров не будут за-
заметно влиять на прогноз, что выполняется, если только число
данных, используемых для подгонки модели, не слишком мало.
В этой главе мы рассмотрим несезонные временные ряды.
Прогнозирование сезонных временных рядов описано в гл. 9.
Мы покажем, как прогнозы с минимальной среднеквадратичной
ошибкой можно получить непосредственно из представления
модели в виде разностного уравнения.
Дальнейший рекуррентный расчет позволяет оценить дове-
доверительные интервалы прогнозов. Нужно подчеркнуть, что для
практических вычислений прогнозов подход, основанный на ис-
использовании представления модели разностным уравнением,—
простейший и наиболее изящный. Однако для лучшего понима-
понимания природы прогнозов мы должны исследовать их и с других
позиций.
5.1. ПРОГНОЗЫ С МИНИМАЛЬНОЙ
СРЕДНЕКВАДРАТИЧНОЙ ОШИБКОЙ И ИХ СВОЙСТВА
В разд. 4.2 мы рассмотрели три способа представления об-
общей модели АРПСС
t = Q(B)at, E.1.1)
где <р(В) = <j>(BLd. Мы начнем с того, что напомним эти три
представления, так как каждое освещает различные стороны
проблемы прогнозирования.
Мы займемся прогнозированием значения zt+i, I ^ 1, в те-
текущий момент времени t. Про такой прогноз будем говорить,
что он делается в момент t с упреждением I. Подытожим теперь
результаты разд. 4.2, заменив t на t + / и k на t.
Гл. 5. Прогнозирование
145
Три явные формы представления модели. Наблюдение zt+i,
генерируемое процессом E.1.1), можно выразить следующим
образом:
1) Непосредственно при помощи разностного уравнения
q + at+l. E.1.2)
2) Как бесконечную взвешенную сумму текущего и пред-
предшествующих импульсов uj
t+l оо
Zt+i= 2 Ь+i-i^i = 2 $№+1-{> E.1.3)
/=-оо /=0
где ф0 = 1, и, как в D.2.5), веса ф можно найти приравнива-
приравниванием коэффициентов в
ф(?)A+гМ? + ф2В2+ ...) = 6(?). E.1.4)
Для I > q модель может быть эквивалентно представлена в усе-
усеченной форме
_l+ ... -f ф,_,а/+1, E.1.5)
где функция Ct{l) равна усеченной бесконечной сумме
(О =
2
/=-о
2
/=0
E.1.6)
3) Как бесконечную взвешенную сумму предыдущих наблю-
наблюдений плюс случайный импульс
Если d~^\, то
2j
E.1.7)
E.1.8),
будет взвешенным средним, так как при этом 2я/=1. Как
и в D.2.22), веса л можно получить из равенства
E.1.9)
5.1.1. Вывод формулы для прогнозов с минимальной
среднеквадратичной ошибкой
Положим теперь, что, находясь в начале отсчета t, мы
должны сделать прогноз zt(l) величины zt+h который был бы
линейной функцией текущего и предшествующих наблюдений

146
Часть I. Стохастические модели и прогнозирование
zt, zt-u Zt-2, .... Тогда он будет также линейной функцией те-
текущего и предшествующих импульсов at, #j-i, at-ч ....
Предположим, что наилучший прогноз — это
t @ = '
-i
где веса -ф^, iJ>J+1, ... должны быть определены. Тогда, учиты-
учитывая E.1.3), находим, что среднеквадратичная ошибка прогноза
равна
E.1.10)
Она может быть минимизирована приравниванием ^]+i = %+r
Этот вывод является частным случаем более общих результатов
теории прогнозирования, развитой Волдом [44], Колмогоровым
[45—47], Винером [48] и Уиттлом [49]. В результате имеем
= (at+i + bat+t-i + • • • + b-i^t+i) + (bat + b+iat-i +•••).
E.1.11)
= et(l) + zt(l), E.1.12)
где et(l)—ошибка прогноза zt(l) с упреждением I.
Отсюда вытекает ряд важных выводов. Как и ранее, обозна-
обозначим условное математическое ожидание zt+i при условии, что
все z до момента t известны, через Et[zt+i]. Тогда
*-i+ ••• =Et[zt+l\. E.1.13)
Это значит, что прогноз с минимальной среднеквадратичной
ошибкой в момент t с упреждением / есть условное математи-
математическое ожидание zt+i в момент t. Когда zt(l) рассматривается
как функция / при фиксированном t, мы будем называть ее про-
прогнозирующей функцией для момента t.
2) Ошибка прогноза для упреждения / равна
E.1.14)
Так как
E.1.15)
прогноз будет несмещенный. Далее, дисперсия ошибки про-
прогноза равна
.. +СК EЛ 16>
Гл. 5. Прогнозирование
147
3) Легко показать, что не только zt(l) —прогноз zt+i с ми-
минимальной среднеквадратичной ошибкой, но и любая линейная
функция
1=1
прогнозов — это прогноз с минимальной
среднеквадратичной ошибкой соответствующей линейной функ-
функции 2 wi%t+i будущих наблюдений. Например, положим, что
мы получили при помощи E.1.13) по ежемесячным данным про-
прогнозы с минимальной ошибкой zt{\), zt{2) и ztC) сбыта товара
на один, два и три месяца вперед. Тогда справедливо, что
zt(\)-\- ztB)-{- zt{3)—это прогноз с минимальной среднеквад-
среднеквадратичной ошибкой сбыта товара zt+i + zt+2 + zt+z в течение сле-
следующего квартала.
4) Остаточные ошибки как ошибки прогноза на один шаг
вперед. Из E.1.4) следует, что ошибка прогноза на один шаг
вперед есть
E.1.17)
Следовательно, остаточные ошибки, генерирующие процесс, ко-
которые до сих пор вводились как множество независимых слу-
случайных величин или импульсов, оказываются ошибками про-
прогноза на шаг вперед.
Отсюда следует, что для прогноза с минимальной средне-
среднеквадратичной ошибкой ошибки прогноза на шаг вперед дол-
должны быть некоррелированы. Это весьма разумно, так как если
бы ошибки прогноза на шаг вперед были коррелированы, тогда
ошибка прогноза at+i могла бы до некоторой степени быть пред-
предсказана по известным ошибкам прогноза at, at-\,at-2 Если
предсказанная таким путем величина была бы ut+i, то ^A) +
'+ ut+i было бы лучшим прогнозом zt+i, чем zt{\).
5) Корреляция между ошибками прогноза. Хотя оптималь-
оптимальные ошибки прогноза с упреждением 1 (на шаг вперед) не-
некоррелированы, ошибки прогноза с большим упреждением бу-
будут, вообще говоря, коррелированы. В разд. П5.1.1 мы выве-
выведем общее выражение для корреляции между ошибками про-
прогноза et(l) и et-j(l), сделанными при том же самом упреждении
с различных моментов времени t и t — /.
Далее справедливо также, что ошибки прогноза et(l) и
et(l + j), сделанные для разных упреждений с одного и того
же момента времени t, тоже коррелированы. Одно из следствий
этого состоит в том, что часто функции прогноза лежат либо
целиком выше, либо целиком ниже фактических значений ряда.
В разд. П5.1.2 мы приведем общее выражение для корреляции
между ошибками прогноза et(l), et{l-\-i), сделанными с того
же момента времени.

Часть I Стохастические модели и прогнозирование
5.1.2. Три основных представления прогноза
Мы видели, что прогноз с минимальной среднеквадратичной
ошибкой zt(l) для упреждения I — это условное математическое
ожидание Et[zt+i] случайной величины гш в момент t.
Используя этот факт, мы можем записать выражения для
прогноза любым из трех различных способов, соответствующих
трем способам представления модели, приведенным в начале
этого раздела. Для простоты обозначений временно примем,
что квадратные скобки означают взятие условного математиче-
математического ожидания в момент времени t. Именно
[аш] = Et [at+l], [zi+l] = Et
Для I > 0 имеются три различных способа выражения прогно-
прогнозов.
Прогнозы, полученные из разностного уравнения. Переходя
в E.1.2) к условным математическим ожиданиям в момент t,
получаем
- 0, [0,+t-i] ... - в, [ам-я] + [аш]. E.1.18)
Прогноз в проинтегрированном виде. Пользуясь E.1.3), по-
получаем
E-1.19)
что совпадает по форме с выражением E.1.13), с которым мы
уже встречались. Можно также воспользоваться усеченной фор-
формой представления модели E.1.5) и при положительных l~>q
получить
E.1.20)
где Ct(l) —общее решение соответствующего однородного раз-
разностного уравнения в момент t.
Прогноз как взвешенное среднее предшествующих наблюде-
наблюдений и прогнозов, сделанных в тот же момент с меньшими упреж-
упреждениями. Наконец, перейдя в E.1.7) к условным математиче-
математическим ожиданиям, получим
оо
E.1.21)
Нужно отметить, что прогноз с минимальной среднеквадратич-
среднеквадратичной ошибкой определен через условное математическое ожида-
Гл. 5. Прогнозирование
149
ние
^ Et[zt+l\= E[zt+l\zt, z,_i,
для которого теоретически требуется знание всех прошлых z до
бесконечности. Однако условие обратимости, которое мы на-
наложили на общую модель АРПСС, требует, чтобы веса я
E.1.21) образовывали сходящийся ряд. Отсюда для вычисления
прогноза с заданной точностью, начиная с некоторого k, влия-
влиянием zt-j, j > k, можно пренебречь. На практике веса я обычно
затухают довольно быстро, так что, какое бы представление мо-
модели ни использовалось в вычислениях, только умеренная часть
ряда zt, Zt~i, ..., Zt-h необходима для вычисления прогноза
с достаточной точностью.
При вычислении условных математических ожиданий, вхо-
входящих в выражения E.1.18) — E.1.21), мы должны учесть, что,
если / — неотрицательное целое, то
[zt4] = Et [zt_,] = zt-i, / = 0,1,2,...,
[z<+/] =
=1, 2, ...,
= 0, 1,2,
E.1.22)
=1, 2,
I
Следовательно, чтобы получить прогноз zt(l), нужно выразить
модель для zt+i с помощью любого из трех рассмотренных выше
явных представлений и действовать с членами в правой части
согласно следующим правилам:
Члены zt-}(j = 0, 1, 2, ...), известные уже к моменту t,
оставить без изменения.
zt+}(j = 1, 2, ...), еще не известные, заменить их прогнозами
Zt(j) на момент t.
Члены at-3(j = 0, 1, 2, ...), уже известные, определить по
zt_, —z-t_,_i(l).
Члены at+3(j = 1,2,...), еще не известные, заменить нулями.
Для массовых расчетов удобнее пользоваться непосредственно
представлением модели разностным уравнением E.1.18).
Пример: прогнозирование с использованием представления
модели разностным уравнением. В гл. 7 будет показано, что
ряд С хорошо описывается моделью
(l-0,8B)(l-B)zt+l = at+t,
A- 1,8В + 0,8В2) zt+l =
или
1.8Z/-H-! — 0,8гж_2 + at+t.

ISO
Часть I. Стохастические модели и прогнозирование
Прогнозы в момент t будут иметь вид
zt(l)=l,8zt-0,8zt-i,
z<B)=l,8z<(l)-0,8z<> E.1.23)
zt(l) = l,8zt(l-l)-0,8zt(l-2), / = 3,4,5, ....
Видно, что прогнозы легко вычисляются рекуррентным спосо-
способом, начиная с it(l),ztB)
Хотя в приведенном выше примере в модели не имелось чле-
членов скользящего среднего, такие члены не вносят дополнитель-
дополнительных трудностей. Так, далее в этой главе мы рассмотрим ряд,
возникающий в проблеме регулирования, модель которого в мо-
момент t -J- I имеет вид
Тогда
V2zt+l = A-0,95 + 0,5В2) аш.
. + аш — 0,9а/+/_, + 0,5а(+/_2,
2t(l) = 2zt- zt-i - 0,9at + 0,5а,-!,
&tB) = 2it(l)-Zt + 0,5ai,
zt(l) = 2zt(l-l)-zt(l-2), 1 = 3,4.
Вспомним, что в этих выражениях at = zt— ^_i(l), a<_i =
= zt-i — i(_2(l), и процесс прогнозирования может быть начат
подстановкой вместо неизвестных а значений их безусловных
математических ожиданий, равных нулю.
В общем, если оператор скользящего среднего Q(B) имеет
q-u порядок, уравнения прогноза для ?*A), ?tB), ..., zt{q) бу-
будут зависеть непосредственно от а, но для прогнозов с большим
упреждением такой прямой зависимости уже не будет. Не сле-
следует, конечно, думать, что влияние этих а не сказывается на
прогнозах с большим упреждением. В рассмотренном примере
i(C) зависит от ?/B) и i((l), а они в свою очередь зависят от
at и at-u
5.2. ВЫЧИСЛЕНИЕ И ПОДПРАВЛЕНИЕ
ПРОГНОЗА
5.2.1. Удобная схема для вычисления прогнозов
Во многих случаях необходимо делать прогноз на 1, 2, 3 ...
шагов вперед. Такие прогнозы легко получать один из другого
при помощи вычислительной схемы, показанной в табл. 5.1, ко-
которая иллюстрирует расчет прогнозов для ряда С на момент
t = 20 с упреждениями / = 1, 2, 3 14.
а-
а
О
S
U
о
о.
в
№
S
S
v
ч
Ч
и
S
ю
о
sR
"d4
-S
"З4
СО
со =Я
•ч*
to
S5
to °i
СО
СО
to
СО
о
—*
1
|1
if
ао
•ч
7 «¦-
«г
1
«г
12)
т
,01
1
«Г
о
о
т
«г
(9)
1
*г
то
(С
¦—*
1
1
«Г
{?
ю
1
"N*
S
1
*?*
Ш
~м
1
К
CJ
н
О.
X
югноз
с
Что
Ч-.
т —
So
Sfe
(NO
©CO
w о
сч о
12 S
—"o
—• о
1Л СЛ
oo"
1Л СЛ
o"d
ss
o'o
¦H-H
II
с с
s s
гэо
C3
ЧЧ к
"f-t о
CM
Ю
CM
1
ем
s
CM*
ем
см
см
CD
CO
см
r
I 23,4
23,1
22,9
22,8
22,7
22,6
22,4
22,2
tr
a
Ю
CM
h-
CM
CM
oo
ем"
CM
о
CO
см
CM
2,32
CM
ем
CM
о
см
21,8
21,4
20,9
20,3
19,7
19,4
19,3
^ сч оо со со со оф со

152
Часть I Стохастические модели и прогнозирование
Диагональное расположение в таблице позволяет каждому
прогнозу появляться против того значения ряда, которое он
предсказывает. Так, z2oF) — 22,51, и этот прогноз, сделанный
в момент t = 20, является прогнозом z%% и появляется против
этой величины. Истинные значения Zt при t = 21, 22 и т. д. пока-
показаны курсивом для того, чтобы напомнить, что они не были из-
известны в момент, когда делался прогноз.
Вычисления легко осуществляются при помощи формулы
E.1.23). Например,
^2оA) = A>8Х23L)-(О,8Х23,7) = 23,16,
z20 B) = A,8 X 23,16) - @,8 X 23,4) = 22,97
и т. д. Как только становится доступным новый элемент дан-
данных Z2i, мы можем немедленно вычислить новую совокупность
прогнозов, которая заполнит диагональ непосредственно ниже
показанной в табл. 5.1. Используя то, что at = zt — zt-i{l), при
каждом появлении нового zt можно вычислить и ввести в таб-
таблицу at как разность ближайшего к нему справа и слева эле-
элементов таблицы. Например, как только становится известным
Z2i = 23,1, мы можем записать значение а2! = —0,06 = 23,10—
23,16.
5.2.2. Вычисление весов г|з
Положим, что необходимы прогнозы с упреждением 1, 2,
3, ..., L. Чтобы найти доверительные пределы для этих прогно-
прогнозов и уметь вычислять новые прогнозы путем коррекции старых,
нужно найти веса ifr, i|J ^l-\- Это осуществляется при по-
помощи E.1.4), а именно из уравнения
<р(В)Ч>(В) = 8(В), E-2.1)
т. е. приравнивая коэффициенты при одинаковых степенях В в
A_ф1В_ ... -%+dBp+d)(Н-^Б + ^БЧ ...) =
= A - 8,Я - 62fi2 - ... - QqB"). E.2.2)
Зная значения ф и 8, получаем в результате выражения для if:
— 0
2,
E.2.3)
где -ф0 = 1; i|>, = 0 при / < 0 и 6, = 0 при / > q. Если К — наи-
наибольшее из целых р -\- d—\ и q, тогда при j > К веса ф удо-
Гл 5 Прогнозирование
553
влетворяют разностному уравнению
¦Ф/ = Ф1-Ф/-1 + ф2"Ф/-г + ••• + qW>IV-p-d- E.2.4)
Следовательно, ip легко вычисляются рекуррентным способом.
Например, для модели A —0,8Б + 0,8В2) zt = at, описывающей
ряд С, имеем
A - 1,8В + 0,8Б2)A + Ч,,Я + о|>2Б2+ .. .)= 1.
Прямым приравниванием коэффициентов при Bi или же исполь-
используя E.2.3) и E.2.4) при ф! = 1,8 и ф2 = —0,8, получаем
Отсюда
ф; = 1,811)/., - 0,8%_2, / == 2, 3, 4
1|J = A,8X1,8)-@,8X1,0) = 2,44,
¦фз = A,8 X 2,44) г- @,8 X 1,8) = 2,95
и т. д. i|) для этого примера приведены во второй строке
табл. 5.1.
5.2.3. Использование весов я|з при подправлении прогнозов
Интересно рассмотреть еще один способ вычисления прогно-
прогнозов. Используя E.1.13), можно выразить прогнозы zt+\{l) и
tt(l -f 1) будущего наблюдения zt+i+u сделанные в моменты
t -f- 1 и t, как
\ @ = Ь at+l +
Вычитая второе уравнение из первого, получим
E.2.5)
Отсюда видно, что если прогноз величины zt+i+i, сделанный в мо-
момент t, подправить добавлением ошибки прогноза на шаг впе-
вперед at+\ с коэффициентом %, то получится прогноз той же ве-
величины Zt+i+i, но в момент t -j- 1.
Это ведет к очень интересному выводу. Положим, что мы
делаем прогнозы в момент t с упреждениями 1, 2, ..., L За-
Затем, как только становится известным zt+u мы можем найти
at+\ = zt+i — zt{\) и пропорционально подправить прогнозы
zt+\{l) — zt(l + 1) + tyiat+i в момент ?+1 для упреждений
1,2, ..., L—1. Новый прогноз zt+\{L) для упреждения L этим
способом найти нельзя, но он легко вычисляется по прогнозам
с меньшими упреждениями из разностного уравнения.

e
a-
a
e
§
I
|
n
CO
td
o.
§
о
ng
""V
-s
00 Я
^¦*"
to^
CO*
«8
n
M
00^
w
is
«
Врем
Коэф
7
со
7
§
7
=^
7
о"
7
«г
F)
о>
00
?
т
to
ю
(Л1
D) .
1
\
\^
еч
s
J-
к
и
н
?
гнозирз
Е
Что 1
;,77
,29
00 (М
S2
СО —
SS
«-"
2,84
0,97
О, СО
м о
se
«о
*g
tN*O
KS
to о
— о
2а
— о
«а
о о
Jg2
оо
С* О
ОО
¦Н+1
(- ?
преде
преде,
Я Я
s s
ю о
to Ю
См
Cvf N
0O IO
CO
oq
CD
О
Гл. 5. Прогнозирование
155
Вернемся еще раз к прогнозированию ряда С. В табл. 5.2
к прогнозам, показанным в табл. 5.1, добавлены прогнозы для
t = 21. Они могут быть получены либо непосредственно (как
были получены прогнозы для ? = 20), либо путем использова-
использования корректирующего уравнения E.2.5). Чтобы сделать этот
расчет удобным, значения ip расположены во второй строке.
Конкретно, как только мы узнаем z2\ = 23,1, можем вычис-
вычислить «21 — 23,1 — 23,16 = —0,06. Тогда
г21 A) = 22,86 = 22,97 + A,8)(-0,06),
z2l B) = 22,67 = 22,81 + B,44) (-0,06),
М3) = 22,51 =22,69 + B,95) (-0,06)
и т. д.
5.2.4. Вычисление вероятностных пределов прогнозов при
произвольном упреждении
Из выражения E.1.16) следует, что в общем дисперсия
ошибки прогноза на / шагов вперед для любого момента t, опре-
определяемая как математическое ожидание величины
равна
|
Например, по весам из табл. 5.1 были рассчитаны значения
функции V(l)/a2a для ряда С, приведенные в табл. 5.3.
Таблица 5.5
Дисперсии ошибок прогноза для ряда С
I
10
1,00 4,24 10,19 18,96 30,24 43,86 59,46 76,79 95,52 115,41
Из предположения, что о подчиняются нормальному закону,
следует, что при известных значениях процесса до момента t
условное распределение вероятности p(zt+i\zu zt-u ...) буду-
будущего значения процесса zt+i будет также нормальным со средним
11
р
l=i ') а
\
значением zt{l) и стандартным отклонением 1 1 +
У l
На рис. 5.1 показаны условные распределения вероятно-
вероятности будущих значений z2i, z22, z23 для ряда С при наличии ин-
информации о ряде до момента t = 20,

156
Часть I. Стохастические модели и прогнозирование
Мы покажем в гл. 7, как можно получить оценку s2 дис-
дисперсии а2а из наблюденных временных рядов. Когда число на-
наблюдений, на которых основывается такая оценка, будет, ска-
скажем, не меньше 50, sa можно заменить на аа, и приближенные
A — е)%-ные вероятностные пределы zt+i{—\ и zt+i{ + ) для zt+i
будут иметь вид:
г i-i у/,
Zt+l (±) = Zt(l)± Ые/2 \ 1 + S Ч>/ j «a, E.2.6)
где Ые/2 — это квантиль уровня 1 — е/2 стандартного нормаль-
нормального распределения.
17 18
19
20 27 22 23
Рис. 5.1. Распределение условных вероятностей будущих значений z2i, z&
и 223 для ряда С при известной информации до момента t = 20.
В табл. 7.13 показано, что sa = 0,134 для ряда С; следова-
следовательно, 50%-ные и 95%-ные пределы, например для ztB),
равны:
50%-ные пределы: z,B)±@,674) A + l,82)'/*@,134)=z(B)±0,19,
95%-ные пределы: ztB)± 1,96A + 1,82)'/.@,134) = ztB)± 0,55.
Величины, которые нужно прибавить и вычесть из прогноза,
чтобы получить 50- и 95%-ные пределы, показаны в 4-й и 5-й
строках головок табл. 5.1 и 5.2. Они относятся к значениям про-
прогнозов, расположенным непосредственно ниже их.
На рис. 5.2 показан участок ряда С вместе с прогнозами на
несколько шагов вперед (крестики) для моментов t = 20 и
t = 67. Там же показаны 50- и 95%-ные вероятностные пределы
для z2o+i при /, меняющемся от 1 до 14. Пределы zt+i(—) и
zt+i{-\-) интерпретируются следующим образом. Если известна
информация о временном ряде к моменту t, то с вероятностью
1 — е наблюденное значение Zt-н будет заключено в этих преде-
пределах, т. е,
() гш (+)} =1-6.
Гл. 5. Прогнозирование
157
Необходимо также пояснить, что эти вероятности относятся
только к индивидуальным прогнозам, а не к совокупности про-
прогнозов с различными упреждениями. Например, справедливо,
что с 95%-ной вероятностью значение zt+w будет заключено
28-
26
24
' 22
20
18
16
74
72
-
, l-
/3
г
^xxxxxx-^ /
\7
—>
!
...xxxxx*-*
к *'•
®
1
1
1
20
ВО
80
Рис. 5.2. Прогнозы и вероятностные пределы для ряда С.
1—прогнозирующая функция, 2 — 50%-иые пределы, 3 — 95%-ные пределы.
в пределах для упреждения 10. Но нельзя ожидать, что ряд ока-
окажется одновременно внутри всех пределов с этой же вероят-
вероятностью.
5.3. ПРОГНОЗИРУЮЩАЯ ФУНКЦИЯ И ВЕСА
ПРОГНОЗА
Наиболее просто вычислять прогнозы только что описанным
способом — прямым использованием разностного уравнения.
С чисто вычислительной точки зрения другие представления мо-
модели менее удобны. Однако для изучения природы прогнозов
полезно рассмотреть более подробно другие представления мо-
модели, приведенные в разд. 5.1.2, и в частности рассмотреть явное
выражение для прогнозирующей функции.
5.3.1. Эвентуальная прогнозирующая функция, определенная
оператором авторегрессии
В момент t -f / модель АРПСС может быть представлена
в виде
zt+l —
= ам -
E.3.1)

158
Часть I. Стохастические модели и прогнозирование
где подразумевается, что zt(—/)= zt~j при /^
уравнение E.3.2) имеет решение
zt(l) = b«%(l) + bWfl(l)+ ... +
Беря от обеих частей E.3.1) условные математические ожи-
ожидания при фиксированном до момента t прошлом, получим для
/ > q, E.3.2)
0. Разностное
О E.3.3)
для / > q— р— d. Отметим, что zt(l) имеет ту же форму, что
и функция С, введенная в гл.4. В E.3.3) Ы0>Ы0> ¦••> fp+d-i(O
есть функции упреждения на время /. В общем случае они могут
включать полиномы, экспоненты, синусы и косинусы и произве-
произведения этих функций. Для заданного момента t коэффициенты
6/° постоянны для всех упреждений /, но они изменяются о г
данного момента к следующему, подстраиваясь к соответствую-
соответствующей части рассматриваемого ряда. Всюду далее мы будем на-
называть функцию, определенную E.3.3), эвентуальной функцией
прогноза; «эвентуальной» потому, что в случае, когда q > p +'
-\-d, она дает прогнозы только для упреждений / > q—р — d.
Из E.3.2) мы видим, что математическая форма функции
прогноза определяется общим оператором авторегрессии фE),
т. е. свойствами / в E.3.3). Конкретнее, он определяет, является
ли функция прогноза полиномом, набором экспонент, набором
синусов и косинусов или некоторой комбинацией этих функций.
5.3.2. Роль оператора скользящего среднего в определении
начальных величин
В то время как оператор авторегрессии определяет природу
эвентуальной прогнозирующей функции, оператор скользящего
среднего отвечает за то, как эта функция должна быть «подо-
«подогнана» к данным, и, следовательно, как надо вычислять и под-
подправлять коэффициенты Ьо\ Ь\\ ..., Ьр+а-\- Например, рассмот-
рассмотрим процесс ПСС@, 2, 3)
Используя трактовку условного математического ожидания,
данную в разд. 5.1.2, определим прогнозирующую функцию:
zt{\) = 2zt — zt-x — Q1at —
zt B) = 2zt A) - zt
2,C) = 22,B)-**(
,_, — Q3at_
3at_2,
Гл. 5. Прогнозирование
159
Следовательно, эвентуальная прогнозирующая функция будет
состоять из одной прямой линии
которая проходит через zt{2) и ztC), как показано на рис. 5.3.
Однако заметим, что если член 03 опущен, тогда q — р — d = 0
Опорные прогнозы
I ( Г
Рис. 5.3. Эвентуальная прогнозирующая функция процесса ПСС@,2,3).
Весобые
Функции <
лрогнозов
I I
-ai
Рис. 5.4. Зависимость прогнозирующей функции от наблюдений для про-
процесса A,1,3) A — ФВ) V zt = A — QiB — е2В2 — 6зВ3) at. Прогнозирующая
функция проходит через p-\-d=2 опорных значения zt(q) и it{q—1), q=3.
и прогноз для всех упреждений будет задаваться прямой ли-
линией, проходящей через it(l) и itB).
В общем поскольку только одна функция вида E.3.3) может
проходить через р + d точки, то эвентуальная функция про-
прогноза— это единственная кривая вида ф(?), которая проходит

160
Часть 1. Стохастические модели и прогнозирование
через р + d «опорные» величины ^t(q), %t(q—1),
.... zt(q — p — d-\- 1), где zt(— /) = zt-h / = 0, 1, 2. В пре-
предельном случае, когда q = 0, т. е. модель есть чистая авторе-
авторегрессия вида q(B)zt = at, кривая проходит через точки zu
Zt~\, ..., Zt-p-d+i- Таким образом, опорные величины могут со-
состоять из прогнозов или действительных значений ряда; они по-
показаны на рисунках кружками.
Члены скользящего среднего, появляющиеся в представлении
модели, помогают выбрать путь использования прошлого ряда
для подгонки функции прогноза, определенной оператором ав-
авторегрессии ф(#). Рис. 5.4 иллюстрирует ситуацию для модели
порядка A, 1, 3), заданной как A — <pB)Vzt = A — 6iB — 62В2—
— Q3B3)at. Гипотетические весовые функции указывают линей-
линейную функциональную зависимость трех прогнозов zt(l), it{2)
и ztC) от zt,zt-\, zt-2, ¦¦• • Поскольку прогнозирующая функция
содержит р + d = 2 коэффициентов, она однозначно опреде-
определяется прогнозами Z(C) и ZtB), т. е. it{q) и zt(q— 1). Мы рас-
рассмотрим далее, как определяются упомянутые выше весовые
функции прогноза.
5.3.3. Веса прогноза для упреждения t
Тот факт, что общая модель прогноза может быть также за-
записана в обращенной форме
at = л (В) zt = A - щВ - п2В2 — л3В3 - ...)zt, E.3.4)
позволяет нам записать прогноз в форме E.1.21).
Подставляя в E.1.21) условные математические ожидания,
получаем
Тл. 5. Прогнозирование
161
МО =2 «А (/-/).
E.3.5)
где, как и раньше, ?t(—К) — zt-h для h = 0, 1, 2 Отсюда
вообще
zt(l) = nlzt(l - 1)+ ... + Щ-&{\) + ntzt + лг+1г,_, + ... E.3.6)
и, в частности,
Zt A) = UxZt + J122,_, + Я32;_2 + . • . .
Прогнозы для больших упреждений могут быть также представ-
представлены непосредственно в виде линейных функций наблюдений Zt,
Zt-i, zt-2, .... Например, прогноз с упреждением 2 в момент t
равен
zt B) = nxzt A) + n2zt
где
, 2 V-/+1 + j§ ni+lt~!+l S
nf = nlnl + я/+1, /==1,2....
Продолжая таким же образом, нетрудно показать, что
E.3.7)
E.3.8)
где
\l-h) i —
2,...,
и яФ = я.. Другие способы вычисления тех же весов приве-
приведены в приложении П5.2.
Как следует из D.2.22) и E-1.9), сами веса щ могут "быть
получены в явном виде прирав-
приравниванием коэффициентов в Таблица 5.4
г, г, \ Веса я для модели V2z< =
— Я,В — Я2В —...)= = A_о,9 В+0,5 В2) at
Когда эти величины известны, яФ
можно легко определить при по-
помощи E.3.9) или способами, ука-
указанными в приложении П5. 2.
В качестве примера рассмот-
рассмотрим опять модель
S/% = A - 0,95 + 0,5В2) at,
подогнанную к ряду, часть кото-
которого показана на рис. 5.5. При-
Приравнивая коэффициенты в
A - 0,9В + 0,5В2) X
ХA-я,В-я2В2...) =
= 1 - 2В + В2,
получаем веса я^я'Д по которым с помощью E.3.7) можно
вычислить веса л^2). Эти две последовательности весов для
/= 1, 2, .... 12 приведены в табл. 5.4.
/
1
2
3
4
5
6
7
8
9
10
11
12
1,100
0,490
—0,109
—0,343
—0,254
—0,057
0,076
0,097
0,049
—0,004
—0,028
—0,023
«f
1,700
0,430
—0,463
—0,632
—0,336
0,013
0,181
0,156
0,050
—0,032
—0,054
—0,026

162
Часть I. Стохастические модели и прогнозирование
В этом примере прогнозы на один и два шага вперед, выра-
выраженные через наблюденные данные ги г%-\, .... равны
2,A)= 1,102, + 0,492^ - 0,1 lzt-2 - 0,34z,_3 - 0,25z,_4 - ...
z, B) = 1,702, + 0,43z,_i — 0,462,-2 — 0,63z,_3 — 0,342,_4 + ... .
Как показано на рис. 5.5, веса ведут себя как значения зату-
затухающей синусоиды.
68
v66
61
50%-ный предел
95%-ный предел
Рис. 5.5. Часть ряда, к которому подогнана модель V2z(= A — 0,9В+0,5В2) а,,
с прогнозирующей функцией для момента t = 30, весами прогноза и вероят-
вероятностными пределами.
5.4. ПРИМЕРЫ ПРОГНОЗИРУЮЩИХ ФУНКЦИЙ
И ИХ ПОДПРАВЛЕНИЯ
Рассмотрим теперь прогнозирующие функции для некоторых
специальных случаев общей модели АРПСС. Мы представим ич
тремя различными способами, обсуждавшимися в разд. 5.1.2.
Как уже отмечалось, легче всего вычислять прогнозы при по-
помощи разностного уравнения. Другие формы представления по-
полезны, так как помогают лучше понять в конкретных случаях
природу прогнозирующей функции.
5.4.1. Прогнозирование процесса ПСС@, 1, 1)
Модель этого процесса Vzt = A — QB)at.
Способ разностного уравнения. Для момента t -\-1 модель
можно представить в виде
*t+i = zt+i-i + at+i ~ ®at+i-i-
Гл. 5. Прогнозирование
163
Беря условные математические ожидания при известном до мо-
момента t прошлом, получаем
\1{1) 12G-1), />2. E>4Л)
Следовательно, для всех упреждений прогнозы в момент t бу-
будут следовать прямой линии, параллельной временной оси.
Пользуясь тем, что 2, = it-i A) + аи можно записать E.4.1)
одним из двух удобных способов.
Первый из них
zt (I) — %t-i @ + ^at, E.4.2)
где Я = 1 — 8. Он говорит о том, что, если наш предыдущий
прогноз Zt-i(l) отличается от фактического значения на аи мы
должны подправить его на Яа,. Напомним, что, согласно
разд. 4.1.3, Я указывает долю данного импульса а,, входящую
в «уровень» процесса. Поэтому разумно увеличить прогноз на
часть Яа, от аи которая, как мы ожидаем, войдет в «уровень».
Второй способ записи E.4.1) имеет вид
2, (/) = Яг, + A — Я) 2,_! (/). E.4.3)
Видно, что новый прогноз — это линейная интерполяция по ар-
аргументу Я между старым прогнозом и новым наблюдением. Вы-
Выражение E.4.3) ясно показывает, что если X очень мало, мы
в основном полагаемся на взвешенное среднее данных о прош-
прошлом и почти пренебрегаем новым наблюдением zt. Напротив,
если Я = 1, данные прошлого полностью игнорируются, г, A) =
= zt, и прогноз на все будущие времена равен текущему зна-
значению. При Я > 1 мы скорее вводим экстраполяцию, чем ин-
интерполяцию, между 2,_1 (/) и 2,. Ошибка прогноза в E.4.2)
должна увеличиться, что показывает изменение в прогнозе.
Прогнозирующая функция в проинтегрированном виде. Эвен-
Эвентуальная прогнозирующая функция — это решение уравнения
A — ВJ,(/)== 0. Отсюда zt\i)==b4\ и, так как q~p — d = 0,
этим обеспечивается прогноз для всех упреждений, т. е.
zt(l) = b4\ />0. E.4.4)
Для любого фиксированного момента Ь^ — константа, и про-
прогнозы для всех упреждений будут следовать прямой линии, па-
параллельной временной оси. Однако коэффициенты Ь^ будут
скорректированы, когда станут доступными новые наблюдения,
и момент t, в который делается прогноз, сдвинется вперед. По-
Поэтому прогнозирующую функцию можно трактовать как полином
нулевой степени от упреждения / с коэффициентом, скорректи-
скорректированным в соответствии с положением исходной точки t.

164
Часть I. Стохастические модели и прогнозирование
вид
то
Так как проинтегрированное представление модели имеет
zt — XSat-i + at,
tt (I) = ft' = KSat.
Отметим также, что \jp, = A(/ = 1, 2, ...), отсюда регулируемый
коэффициент бо* может быть скорректирован при переходе от
момента t к t -(- 1, согласно формуле
E.4.5)
Прогнозы как взвешенное среднее предыдущих наблюдений.
Поскольку для этого процесса веса п(р в E.3.8) являются также
весами прогноза на один шаг вперед, мы можем записать
^(/) = ^> = Az, + A(l-A)z,_I + A(l-AL_2+ •••• E-4.6)
Отсюда для модели ПСС@, 1, 1) прогноз для всех времен в бу-
будущем — это экспоненциально взвешенное скользящее среднее
настоящего и предшествующих значений г.
90%-ный предел
Рис. 5.6. Часть ряда А с прогнозами на моменты t = 39, 40, 41, 42, 43 и 79.
Пример. Прогнозирование ряда А. В гл. 7 будет показано,
что ряд А хорошо описывается моделью
На рис. 5.6 показаны прогнозы в точках t = 39, 40, 41, 42 и 43,
а также в точке t = 79 для упреждений 1, 2, ..., 20. Веса я,,
которые для этой модели являются весами прогноза для любого
упреждения, даны в табл. 5.5.
Эти веса для прогноза %(/) показаны на диаграмме в верх-
верхней части рис. 5.6.
Гл. 5. Прогнозирование
165
Таблица 5.5
Веса прогноза, на которые умножаются
предшествующие значения г для любого
упреждения
(веса использованы при прогнозировании
ряда А с помощью модели Vzt=( 1—0,76) at)
1
1
2
3
4
5
6
я/
0,300
0,210
0,147
0,103
0,072
0,050
/
7
8
9
10
11
12
я/
0,035
0,025
0,017
0,012
0,008
0,006
Функции дисперсии. Поскольку для этой модели ip; = A
(/= 1, 2 ...), выражение E.1.16) для дисперсии прогноза с уп-
упреждением / будет
{ 2}. E.4.7)
Значение оценки s^ = 0,101, соответствующей ряду А, было
подставлено в формулу E.4.7); с ее помощью были рассчитаны
50- и 95%-ные вероятностные пределы, показанные на рис. 5.6
(для момента t = 79).
5.4.2. Прогнозирование процесса ПСС@, 2, 2)
Модель имеет вид процесса V2z4=(l— Bjfi — Q2B2)at.
Способ разностного уравнения. В момент t -f I модель пред-
представлена в виде
Zt + l — *zt + l-l zt+l—2 ~Ь at+l — 6ia<+/_j — ^2at + l-2-
Беря условные математические ожидания при известном до мо-
момента / прошлом, получаем
= 2?t(l)-zt-03at.
откуда можно вычислять прогнозы. Прогнозирование при по-
помощи этого способа ряда на рис. 5.5 было продемонстрировано
в разд. 5.1.2. Другой возможный способ генерирования первых
L — 1 прогнозов — подправление формулы E.2.5)
E.4.8)

166
Часть I. Стохастические модели и прогнозирование
Проинтегрированное представление модели имеет вид
zt = A0Sa,_, + AjS2^., + at, h = 1 + 02> A, = 1 - 6, - 82, E.4.9)
так что г|э_, = Ao + /Ai(/ = 1, 2, ...). Следовательно, скорректи-
скорректированная функция для этой модели равна
zt+1 @ = zt(/+ 1) + (Яо + /A,)a,+I. E.4.10)
Прогноз при помощи проинтегрированного представления.
Эвентуальная прогнозирующая функция — это решение урав-
уравнения A — BLt{l)=Q, т. е. zt{l) = bM + b(*4. Поскольку
q — р — d — 0, эвентуальная прогнозирующая функция дает
прогноз для любого упреждения, т. е.
*№ = Ь$ + ЩЧ, />0. E.4.11)
Следовательно, прогнозирующая функция — это линейная функ-
функция упреждения / с коэффициентами, подстраивающимися в со-
соответствии с положением исходной точки t. Стохастическая мо-
модель в проинтегрированном представлении имеет вид
= a
t+i
и, переходя к условным математическим ожиданиям при из-
известном к моменту / прошлом, получаем
zt @ = {K0Sat +
Подстраивающиеся константы можно тогда определить как
а формулы, указывающие способ подстройки, будут
E.4.13)
Дополнительный член 6(/ 1}, входящий в формулу для наклона
Ьо\ представляет поправку, которую необходимо ввести в па-
параметр положения bo, чтобы приспособить его к новой исходной
точке.
Нужно также отметить, что Ло и Ai — доли импульса аи ко-
которые перейдут в параметры, описывающие положение и наклон
соответственно.
Прогноз как взвешенное среднее предыдущих наблюдений.
Для этой модели прогнозирующая функция — это прямая ли-
линия, проходящая через значения прогнозов &t(\) и zt{2). Иллю-
Иллюстрацией служит рис. 5.5, где показаны прогнозы, сделанные
Гл. 5 Прогнозирование
16?
в момент t = 30, и соответствующие весовые функции. Мы уви-
увидим, что зависимость всей прогнозирующей функции от преды-
предыдущих г отражает зависимость zt(\) и zt{2) от этих значений.
Весовые функции для it(l) и itB), показанные на этом ри-
рисунке, приведены в табл. 5.4.
Этот пример еще раз демонстрирует, что в то время как
АР-оператор ф(В) определяет вид используемой функции
(в этом случае прямая линия), оператор СС существен при оп-
определении способа, которым эта функция «подгоняется» к дан-
данным о прошлом.
I
' I
...¦¦¦ I I
Рис. 5.7. Веса, приданные предыдущим г, определяющие положение и на-
наклон ряда для модели V2Zt = A—0,9 + 0,5В2) at.
а — веса для параметра положения Ьо , б—веса для параметра наклона b\*K
Зависимость подстраивающихся коэффициентов прогнози-
прогнозирующей функции от предшествующих г. Поскольку для общей
модели значения подстраивающихся коэффициентов прогнози-
прогнозирующей функции определяются величинами &i{q), it(q— 1), ...
..., zt(q — р — d -f 1), которые в свою очередь могут быть вы-
выражены через наблюденные величины, ясно, что через наблюде-
наблюдения можно выразить и сами подстраивающиеся коэффициенты.
Например, в случае модели V2zt = A — 0,9В -f 0,5fi2) at,
изображенной на рис. 5.6, мы имеем
/—I
так что
2
*</> = zt B) - zt
Эти весовые функции приведены на рис. 5.7:

168
Часть I. Стохастические модели и прогнозирование
Дисперсия ошибки прогноза. Пользуясь E.1.16) и тем, что
¦ф.,- = я,0 + /Ль получаем формулу для дисперсии прогноза с
упреждением /:
E.4.14)
На рис. 5.5 показаны 50- и 95%-ные вероятностные пределы
для прогноза при t = 30 (использовались значения Ло = 0,5 и
Л, = 0,6 и значение выборочной оценки s2a = 0,032).
5.4.3 Прогнозирование общего процесса ПСС@, d, q)
В качестве примера рассмотрим процесс порядка @, 1,3)
A - В) zt+t = A - 8,Я - 62Д2 - 93Д3) аш.
Беря условные математические ожидания при известном до мо-
момента t прошлом, мы получаем
zt(\) — zt = — Qlat — 62а,_, — %at_2,
ztC)-ztB)=-Q3at,
zt{l)-zt(l-\) = Q, 1 = 4, 5, 6, ... .
Отсюда zt A) — zt C) = b® для всех / > 2, как и следовало
ожидать, так как q —р — d = 2. Как показано на рис. 5.8, про-
1
-* к к
12 3^567
I >
Рис. 5.8. Прогнозирующая функция для процесса ПСС@,1,3).
гнозирующая функция делает два начальных «скачка», завися-
зависящих от предыдущих а, прежде чем выравняться до эвентуаль-
эвентуальной прогнозирующей функции.
Для процесса ПСС@, d, q) эвентуальная прогнозирующая
функция удовлетворяет уравнению A — B)dzt(t)= 0; его реше-
решение — полином от / степени d — 1:
zt(t) = bu -f- b\ I -f- 62 I -f- • • • ~f~ ba—it
Это выражение дает прогнозы tt(t) для l> q — d. Коэффициен-
Коэффициенты bo\ Ь[*\ ..., ba-i должны последовательно корректироваться по
Гл. 5. Прогнозирование
169
мере продвижения момента прогноза. Прогноз для момента /
сделает q—d начальных «скачков», зависящих от а>, at-u ¦¦•
и затем перейдет в приведенный выше полином.
5.4.4. Прогнозирование процессов авторегрессии
Рассмотрим процесс порядка {р, d, 0)
Эвентуальная прогнозирующая функция в этом случае есть ре-
решение уравнения y(B)zt{l)= 0. Она применима ко всем упреж-
упреждениям и проходит через последние р + d известных значений
ряда. Например, модель ряда цен акций IBM (ряда В) очень
близка к
(l-B)zt = at,
так что
Лучший прогноз на будущее оказывается очень близким к теку-
текущему значению цены. Весовая функция для zt(t) сосредоточена
в точке t, и не происходит никакого осреднения по прошлому.
Стационарные модели авторегрессии. Процесс <f>(B)zt = at
порядка (р,0,0), где Ф(В)—стационарный оператор и zt =
= zt — (ic E[zt] = fi, будет в общем случае иметь прогнозирую-
прогнозирующую функцию, являющуюся совокупностью экспонент и зату-
затухающих синусоид.
В частности, при р = 1 модель порядка A, 0, 0)
{\-$B)zt = at, -\<ф<\
имеет прогнозирующую функцию,. которая при любых /> 0 яв-
является решением уравнения A—<pB)it(l) — 0/Отсюда
E.4.15)
Кроме того, zt{\) = <pzu так что bof) = zt
Следовательно, прогноз с минимальной среднеквадратичной
ошибкой предсказывает, что текущее отклонение от среднего
должно экспоненциально спадать до нуля. На рис. 5.9, а пока-
показан временной ряд, генерируемый процессом A—0,5В) zt = аи
с его прогнозирующей функцией для момента t = 14. Поведе-
Поведение этой функции целиком определяется только отклонением Iu.
Аналогично минимальная среднеквадратичная ошибка прогноза
для процесса авторегрессии второго порядка такова, что теку-
текущее отклонение от среднего убывает до нуля как затухающая

170
Часть I. Стохастические модели и прогнозирование
синусоида или сумма двух экспонент. На рис. 5.9, б показан
временной ряд, генерируемый процессом A—0,75fi+0,50fi2)z* =
= аи и его прогноз для момента /=14. Поведение прогнози-
прогнозирующей функции для момента t целиком определяется послед-
последними двумя отклонениями z^ и г4з.
\
V/
Рис. 5.9. Прогнозирующие функции процессов авторегрессии первого и вто-
второго порядка.
а — выборка из процесса авторегрессии первого лорядка A—0,5ВJ( = at
и прогнозирующая функция для момента t = 14.
б — выборка из процесса авгорегрессии второго порядка
A _ 0,75В + 0,5В2) it = at и прогнозирующая функция иа момент t = 14.
1 — ход прогноза, определяемый только по текущему отклонению, 2 — ход
прогноза, определяемый по текущему и предпоследнему отклонениям.
Функция дисперсии для прогноза процесса A,0,0). Чтобы
полнее проиллюстрировать использование E.1.16), выведем
функцию дисперсии для процесса авторегрессии первого поряд-
порядка. Так как модель в момент t -\-1 может быть представлена
в виде
'4 %
то из E.4.15) следует, что
Отсюда
- E-4.16)
Гл. 5. Прогнозирование
171
Мы видим, что для этого стационарного процесса при стремле-
стремлении / к бесконечности дисперсия растет до постоянного значе-
значения cra/(l — ф% равного среднеквадратичному отклонению
процесса относительно окончательного прогноза и. Это поведе-
поведение существенно иное, чем у нестационарных моделей, у кото-
которых функция дисперсии прогноза при больших упреждениях не-
неограниченно растет.
_| 1 i i
Рис. 5.10. Прогнозирующая функция для двух процессов A,1,0).
а —прогнозы процесса A,1,0) A — 0,8В) V г, = аи б—прогнозы процесса
A,1,0) A— 0,8B)(Vz, — 0,2) = at.
Нестационарные модели авторегрессии порядка (р, d, 0).
Для модели
затухать до своего среднего значения при прогнозировании на
несколько шагов вперед будет уже d-я. разность процесса. Сред-
Среднее VdZt будет, как правило, предполагаться нулевым, если
только не появится каких-либо свидетельств в пользу против-
дого. Если это необходимо, можно, как указывалось в гл. 4,
ввести ненулевое среднее, заменив в модели Vdzt на VdZt — fi.
Например, рассмотрим модель
A — <j>B)(Vzt — ii) = at. E.4.17)
После замены / на t -f /, переходя к условным математическим
ожиданиям при известном на момент / прошлом, легко получим

172
Часть I Стохастические модели и прогнозирование
(ср. с E.4.15) и следующими за ним)
4* (/) ~ *t (/ - 1) - I* = ? fe - **-1 - I*)-
Эта формула показывает, что прогнозируемая разность экспо-
экспоненциально убывает от начального значения zt— zt-\ до своего
среднего значения ц. Суммируя такие выражения для /, изме-
изменяющегося от 1 до /, получаем прогнозирующую функцию
(zt - z,_, -
ф у z
которая асимптотически приближается к прямой линии
На рис. 5.10 показаны прогнозы для двух случаев ф = 0,8,
ц = 0 и ф = 0,8, ц = 0,2. Мы увидим в гл. 7, что модель E.4.17)
с ф = 0,8 и |i = 0 хорошо описывает ряд С; прогнозы, основан-
основанные на этой модели, уже демонстрировались на рис. 5.1 и 5.2.
Рассмотрим теперь прогнозирование некоторых важных смешан-
смешанных моделей.
5.4.5. Прогнозирование процесса A, 0, 1)
Способ разностного уравнения. Рассмотрим стационарную
модель
E.4.18)
Прогнозы легко вычисляются из
$A) = фг
Прогнозы спадают к среднему, как члены геометрической про-
прогрессии, аналогично процессу авторегрессии первого порядка,
но прогноз на один шаг изменен введением множителя, завися-
зависящего от at = zt — it-i(\)- Веса ip равны
отсюда, используя E.2.5), получаем правило для подправления
прогнозов с упреждением 1,2,...,/. — 1 по значениям преды-
предыдущих прогнозов с упреждением 2, 3, ..., L:
Проинтегрированное представление. Эвентуальная прогнози-
прогнозирующая функция для всех / > 0 — это решение уравнения
Гл. 5 Прогнозирование
173
A—^I,@=0, т.е.
<V
=&<V,
но
и отсюда
E.4.19)
Следовательно, прогноз отклонения с упреждением / экспонен-
экспоненциально затухает от своего начального значения, полученного
линейной интерполяцией между предыдущим отклонением про-
прогноза на шаг вперед и текущим отклонением. Когда ф = 1, про-
прогноз для всех упреждений принимает знакомый вид экспонен-
экспоненциально взвешенного среднего, и E.4.19) становится равным
E.4.3).
Веса, приданные предыдущим наблюдениям. Веса п, а зна-
значит, и веса, приданные предыдущим наблюдениям для получе-
получения прогнозов на шаг вперед, равны
Заметим, что сумма весов для этого стационарного процесса
равна (Ф — 9)/A —9), а не 1. Если бы ф было равно 1, про-
процесс стал бы нестационарным процессом ПСС@, 1,1), сумма ве-
весов равнялась 1, а поведение генерируемого ряда не зависело
от уровня zt.
Например, к ряду А будет позднее подогнан процесс A,0, 1)
с Ф = 0,9 и 9 = 0,6, и, следовательно, веса будут равны щ =
= 0,30, Jt2 = 0,18, лз = 0,11, я4 = 0,07 ... с суммой 0,75. Про-
Прогнозы E.4.19) очень медленно спадают к среднему и для малых
упреждений практически неотличимы от прогнозов, получае-
получаемых из процесса ПСС@,1, 1) для модели Vzt = at — 0,7at-i, для
которой веса равны Jti = 0,30; jt2 = 0,21; л3 = 0,15; я4 = 0,10
с суммой 1. Последняя модель имеет то преимущество, что не
привязывает процесса к фиксированному среднему значению.
Функция дисперсии. Так как веса гр даны выражением
1, /=1,2
отсюда вытекает, что функция дисперсии равна
V (/) = ol { 1 + (ф - 9J ('~_У) } E.4.20)
8 асимптотически растет до значения al(\ — 2^9 + 92)/0 — ф2)>

174
Часть /.. Стохастические модели и прогнозирование
5.4.6. Прогнозирование процесса A, 1, 1)
Другой важной смешанной моделью является нестационар-
нестационарный процесс A, 1, 1)
Способ разностного уравнения. В момент / + / модель мож-
можно представить в виде
Беря условные математические ожидания от обеих частей, полу-
получаем
о. ,^, E-4.21)
Представление в проинтегрированном виде. Так как q<lp-\-d,
эвентуальная прогнозирующая функция для всех / > 0 — это
решение уравнения A —-фВ) A — B)zt(l) = 0, равное
Подставляя выражения для
явные выражения
и 2tB) в E.4.21), получаем
"' - \-Ф
Таким образом,
%Л1) = г(-\-ф ~*(zt — zt^1) —8 ~" а,.
E.4.22)
o
Очевидно, что с ростом / прогноз стремится к bo .
Веса, приданные предшествующим наблюдениям. Исключая
at из E.4.22), получаем другой вид выражения прогноза через
предшествующие г:
} {^}^ф), E-4.23)
где zt-i (8) — это экспоненциально взвешенное скользящее сред-
нее с параметром 8, т. е. гн(9) = A-8Jб'~1г(_/. Отсюда
веса я процесса состоят из «пика» в момент / и ЭВСС, начи-
начинающегося в момент t — 1. Если мы будем трактовать
A—а)х-\-ау как линейную интерполяцию между х и у для
значения аргумента а, то прогноз E.4.23)—это линейная интер-
интерполяция между zt и Zi_iF). Аргумент для единичного упрежде-
Гл. 5. Прогнозирование
175
ния равен 8 — ф, но по мере роста упреждения аргумент стре-
стремится к (8 — фI{\— Ф). Например, когда 8 = 0,9 и # = 0,5,
прогноз на шаг вперед будет
а для больших упреждений
г, (°о) = 0,2z,+ 0,82,-1 (в).
5.5. РЕЗЮМЕ
Результаты этой главы сводятся к следующему. Пусть Zt
будет отклонением наблюденного ряда от любой известной де-
детерминированной функции f(t). В частности, для стационарного
ряда f(t) может быть равно среднему значению ряда ц или
нулю, так что Zt образуют наблюденный ряд. Рассмотрим те-
теперь общую модель АРПСС
или
Прогноз с минимальной среднеквадратичной ошибкой. Пусть
известны значения ряда до момента t. Тогда прогноз ?,(/)
(/ > 0) с минимальной среднеквадратичной ошибкой — это
условное математическое ожидание величины zt+i при заданных
значениях Zt, Zt~\
t, г,_„ ...].
Ошибки прогноза на шаг вперед. Отсюда следует, что ошиб-
ошибки прогноза с упреждением, равным единице (на шаг вперед),—
это не коррелированные между собой импульсы, генерируемые
моделью.
Вычисление прогнозов. На практике простейший способ вы-
вычисления прогнозов — непосредственное использование разност-
разностного уравнения, а именно
+ [at+i\ - О, [at+t-i] - ... -в,[а<+/_,]. E.5.1)
Для вычисления условных математических ожиданий в E.5.1)
вместо г, известных к этому моменту, подставляются их значе-
значения, вместо будущих значений z — их прогноз, вместо извест-
известных а — их значения и вместо будущих а — нули. Процесс про-
прогнозирования может быть начат аппроксимацией неизвестных а
нулями; практически удобные представления моделей и оценки
параметров получаются методами, описанными в гл. 6f 7 и 8.

176
Часть I. Стохастические модели и прогнозирование
Вероятностные пределы для прогнозов. Их можно получить
а) вычислением вначале весов гр по формулам
е,,
+ Ф2 —
E.5.2)
где 8, = 0 для /> q;
б) подстановкой весов т|з в
± ) = Zt (/) ±
1-1
21
E.5.3)
для каждого нужного уровня вероятности е и для каждого
упреждения /; здесь аа можно заменить практически его оцен-
оценкой sa — выборочным стандартным отклонением белого шума at,
а иг/г — квантиль уровня 1 —е/2 стандартного нормального рас-
распределения.
Подправление прогнозов. Когда становится известным новое
отклонение Zt+u прогноз для момента t -f- 1 может быть скоррек-
скорректирован. Для этого нужно вычислить новую ошибку прогноза
at+i = zt+i — zt(l) и использовать разностное уравнение E.5.1),
где t заменено на t-\- 1. Другой возможный метод — использо-
использовать прогнозы zt{\), ztB), ..., zt(L) на момент t, получить
первые L—1 прогнозов zt+i(\), Zt+iB), ..., zt+i(L— 1) на мо-
момент t -f 1 из формулы
zt+l {l)=-zt(l -f- 1) -f- ip/fl/+i E.5.4)
и затем найти последний прогноз Zt+i(L), используя разностное
уравнение E.5.1).
Другие способы представления прогнозов. Способы, описан-
описанные выше, охватывают все, что нужно для практического про-
прогнозирования. Однако описанные ниже альтернативные пред-
представления позволяют углубить теоретическое понимание приро-
природы прогнозов, генерируемых разными моделями.
1) Прогнозы в проинтегрированной форме. Для l> q — р — d
прогнозы задаются одной кривой
bf
h (I) = bfh(I) + bTfi (/)+..-+ b(p\d-xfp+,_, @, E.5.5)
определяемой «опорными» значениями zt(q),zt{q—1), ...
..., ?t(q — p — d+ 1), где ?t(—j)= zt4 (j = 0, 1, 2, ...). Если
q > p -f- d, первые q—p — d прогнозов не лежат на этой кри-
Гл. 5. Прогнозирование
177
вой. В общем стационарный оператор авторегрессии приводит
к появлению в E.5.5) затухающих экспоненциальных и сину-
синусоидальных членов, а нестационарный оператор Vd — полино-
полиномиальных членов.
Подстраивающиеся коэффициенты Ь{/' в E.5.5) при пере-
переходе от момента t к моменту t -\- 1 могут быть скорректированы
на величину, зависящую от последней ошибки прогноза на шаг
вперед at+u согласно общей формуле
и -\- gfl/+i> (э.о.о)
выведенной в приложении П5.3.
2) Прогноз как взвешенная сумма прошлых наблюдений.
С теоретической точки зрения полезно представить прогноз как
взвешенную сумму прошлых наблюдений. Так, если модель
представлена в обращенной форме
прогноз с упреждением 1 равен
Zf \ I) ^i^t ~l~ ^2^/— 1 "Т" • * • f \& * О • ' /
а прогнозы для больших упреждений можно получить из
~ / t\ «™Г.зг II— Г* II /г г о\
Zf yl) == 7t\ \Zf+i—\\ ~t" JX2 \Zt + i—2\ \ • • •» (O.O.oj
где условные математические ожидания известных z надо за-
заменить их значениями, а для будущих z — их прогнозом.
Прогноз для любого упреждения можно записать и иначе, а
именно как линейную функцию имеющихся наблюдений. Тогда
где nf — функции весов я.
ПРИЛОЖЕНИЕ П5.1. КОРРЕЛЯЦИЯ
МЕЖДУ ОШИБКАМИ ПРОГНОЗА
П5.1.1. Автокорреляционная функция ошибок прогноза,
сделанных в различные моменты времени
Хотя справедливо, что для оптимального прогноза ошибки
прогноза с упреждением 1 некоррелированы, это, вообще гово-
говоря, не верно для прогнозов с большим упреждением. Рассмо-
Рассмотрим прогнозы для упреждения /, сделанные в моменты t и
t — /, где / — положительное целое число. Тогда, если / = /,
/+'1, / + 2, ..., ошибки прогноза не будут содержать общих

178
Часть I Стохастические модели и прогнозирование
компонент; однако для /=1,2,...,/ — 1 некоторые из а будут
входить в ошибки обоих прогнозов. Конкретно
et(/) = 2Ш — it(I) = at+1
et4 (I) = zt+i-j — zt-i (I) = at-,
"о1
01 23 456789
\H5\-
-
6
0 1 2 3b 5 В 78 Э Ю п 12 13 to 15 16
J >
Рис. П5.1. Корреляция между различными ошибками прогноза для ряда С.
а — автокорреляции ошибок прогноза ряда С для различных моментов с
упреждением / = 6 б — корреляция между ошибками прогноза ряда С для
одного и того же момента / при упреждениях 3 и j
и для / <С / автоковариация ошибок прогноза с упреждением /
для задержки / равна
„ (П5.1.1)
t^(t)]
(П5.1.2)
где ifo = 1. Соответствующие автокорреляции равны
i-i
2 ¦«¦«-/
t=l
i-i
2^
1=0
О, j>l.
В гл. 7 будет показано, что ряд С (рис. 4.1) хорошо описывается
моделью A,1,0): A—0,85)Уг( = at. Для иллюстрации фор-
Гл 5 Прогнозирование
179
мулы (П5.1.2) мы вычислили автокорреляционные функции оши-
ошибок прогноза для упреждения / = 6 в этой модели. В разд. 5.2.2
было показано, что веса г|)ь г|J, ..., гр5 для этой модели равны
1,80; 2,44; 2,95, 3,36; 3,69. Отсюда автоковариация для задерж-
задержки 1 равна
? К F)^,F)]=
= а2а {A,80 XI, 00) + B,44X1.80)+...+ C,69 X 3,36)} = 35t70a|.
Делением на Е[е2{(Щ = 43,86о2а получаем р[егF), et-iF)] =
= 0,81. Первые 6 автокорреляций приведены в табл. П5.1 и на
рис. 115.1, а. Как ожидалось, автокорреляции для задержек
больше 5 равны нулю.
Таблица П5.1
Автокорреляции ошибок прогноза с упреждением 6 для ряда С
/
Р [et F), et-i F) ]
0
1,00
1
0,81
2
0,61
3
0,41
4
0,23
5
0,08
6
0,00
П5.1.2. Корреляция между ошибками прогноза в один и тот же
момент времени при разных упреждениях
Положим, что мы сделали серию прогнозов для различных
упреждений в один и тот же момент t. Тогда ошибки таких
прогнозов будут коррелированы. Для /= 1, 2, 3 ... имеем
так что ковариация между прогнозами на момент / с упрежде-
i-i
ниями / и / + / равна а2а
1, гДе фо = 1- Отсюда коэффи-
0
циент корреляции между ошибками прогноза на момент / с
упреждениями / и / + / равен
(D, et
2
ft=0
2
g=0
(П5.1.3)
Для того чтобы проиллюстрировать формулу (П5.1.3), мы вы-
вычислили для прогнозов ряда С, сделанных в один и тот же

180
Часть I Стохастические модели и прогнозирование
момент, корреляцию между ошибкой прогноза с упреждением 3
и ошибками с упреждениями /= 1, 2, 3, 4, ..., 16. Например,
пользуясь (П5.1.3) и весами if из разд. 5.2.2, получаем
E[etC)etE)] =
= а2{A)ооХ 2,44) + A,80 X 2,95) + B,44 X 3,36)} = 15,94<т2а.
Корреляции для упреждений /= 1, % ..., 16 приведены в
табл. П5.2 и на рис. П5.1, б.
Таблица П5.2
Корреляция между ошибками прогноза с упреждением 3 и упреждениями /,
сделанными в один и тот же момент времени (ряд С)
/
Р[«<C). «,(/)]
1
Р let C), ег (/)]
1
0,76
9
0,71
2
0,94
10
0,67
3
1,00
11
0,63
4
0,96
12
0,60
5
0,91
13
0,57
6
0,85
14
0,54
7
0,80
15
0,52
8
0,75
16
0,50
Как и ожидалось, прогнозы, сделанные на один и тот же
момент времени с различными упреждениями, сильно коррели-
рованы.
ПРИЛОЖЕНИЕ П5.2. ВЕСА ПРОГНОЗА
ДЛЯ ПРОИЗВОЛЬНОГО УПРЕЖДЕНИЯ
В этом приложении мы рассмотрим альтернативную про-
процедуру вычисления весов прогноза nf, придаваемых предыду-
предыдущим z, для любого упреждения /. Чтобы получить этот резуль-
результат, мы используем тождество C.1.7), а именно
откуда можно выразить веса п через веса tp и наоборот.
Приравнивая коэффициенты, получаем для / ^ 1
S
(П5.2.1)
Так, например,
я, = ifr,
Я2 = 1|>2 —
Щ,
Гл. 5. Прогнозирование
181
Из E.3.6) получаем
+ .... (П5.2.2)
Так как каждый из прогнозов в (П5.2.2) сам является функ-
функцией наблюдений zu zt-u zt-%, ..., можно представить it(l) как
где веса прогноза с упреждением / могут быть вычислены из
весов прогноза на шаг вперед л'1> = я.. Покажем теперь, что
веса я'" можно получить, используя тождество
S
Например, веса для прогноза с упреждением 3 равны
(П5.2.3)
и т. д. Чтобы вывести (П5.2.3), мы запишем
Вычитанием второго уравнения из первого получаем
Отсюда
it (I) =
Из соотношений (П5.2.1) следует, что каждый из коэффициентов
Zt+i-u ¦•¦I Zt+i равен нулю, и после приведения подобных членов
получаем доказываемую формулу (П5.2.3). Можно представить
эту формулу и иначе, в рекуррентном виде
я'/^я^ + ^я,. (П5.2.4)
Пользуясь в качестве примера моделью V2z;=(l—0,95 +
-{-0,5В2)at, мы вычислили веса для упреждения 2. Уравнение

182
Часть I. Стохастические модели и прогнозирование
(П5.2.4) дает
и, пользуясь весами в табл. 5.4 при ifi = 1,1, мы получаем, на-
например,
я<2> = я2 + %nl = 0,490 + A,1) A,1) =1,700,
nf) = я3 + %п2 = - 0,109 + A,1)@,49) = 0,430
и т. д. Первые 12 весов приведены в табл. 5.4.
ПРИЛОЖЕНИЕ П5.3. ПРОГНОЗИРОВАНИЕ
ПРИ ПОМОЩИ ОБЩЕГО ПРОИНТЕГРИРОВАННОГО
ПРЕДСТАВЛЕНИЯ
П5.3.1. Общий метод получения проинтегрированного
представления
Подчеркнем еще раз, что для практического вычисления
прогнозов использование разностного уравнения — наиболее
простой путь. Нижеследующее общее рассмотрение проинтегри-
проинтегрированного представления нужно, чтобы совершенствовать уже
полученные прогнозы. В этом рассмотрении вместо того, чтобы
получить явное выражение для функции прогноза, как мы де-
делали в примерах из разд. 5.4, будет удобнее выписать общее
выражение для эвентуальной прогнозирующей функции, вклю-
включающее р -\- d подстраиваемых коэффициентов. Мы затем пока-
покажем, как нужно изменять эвентуальную прогнозирующую функ-
функцию, чтобы получать первые q— р — d прогнозов при q>p-\-d.
В завершение будет показано, как корректировать подстраивае-
подстраиваемые коэффициенты при переходе от момента t к моменту t-{- 1.
Поскольку очевидно,- что it(—/) = Zt-j для / = 0, 1, 2, ...,
то, используя рассуждения об условных математических ожида-
ожиданиях в разд. 5.1.2, легко прийти к разностному уравнению для
прогнозов
2,B) —
2,@-
— ... — Фр+„2(B—/>—<0 = —в8в*— ... —
(П5.3.1)
— p — d) = — Qqat,
Гл. 5. Прогнозирование
183
Эвентуальная прогнозирующая функция — это решение послед-
последнего уравнения и может быть представлена как
P+d-i
2
f—0
p+d-\
= 2 b<pf.(l), i>q-p-d_ (П5.3.2)
Когда q ^ p -f- d, эвентуальная прогнозирующая функция дает
прогнозы zt{\), i(B), 2tC), • ¦ ¦ Для всех упреждений / > 1.
Как пример такой модели с q ^ p -f d рассмотрим
так что
= 5 и q=l. Тогда
Bfzt(l) = 0, / = 2,3,4, ...,
где В действует теперь на /, а не на /. Решение этого разност-
разностного уравнения дает функцию прогноза
12
12
Если q > р + d, то для упреждения / ^ q — р — d прогнозирую-
прогнозирующая функция будет иметь дополнительные члены, содержащие а.
Отсюда
P+d-i j
it (I) = -2 bfft A) -f 2 duOt-t, l^q-p-d, (П5.3.3)
1=0
где j = q—p — d — / и d можно выразить явно, подставив
(П5.3.3) в (П5.3.1). Например, рассмотрим стохастическую мо-
модель
V% = A - 0,8В + 0,5Я2 - 0,4Я3 + 0, IB4) at,
в которой р + d = 2, q — 4, q — p — d = 2 и q>i = 2, qp2 = —1,
9i = 0,8, 82 = —0,5, 93 = 0,4, 84 = — 0,1. Пользуясь рекуррент-
рекуррентным соотношением E.2.3), получаем ipi = 1,2, ip2 = 1,9, грз = 2,2,
гр4 = 2,6. Далее, из (П5.3.3) следует
(П5.3.4)

184
Часть 1. Стохастические модели и прогнозирование
Кроме того, (П5.3.1) дает
ztD) - 2zt{3)
так что из (П5.3.4) имеем
и, следовательно, dw = 0,1. Аналогично из (П5.3.1)
ztC)- 2ztB) + 2,A) = - 0,4а, + 0,1 а*-,,
и отсюда, пользуясь (П5.3.4), имеем
-0,2а, + dvflt + dnat_i = - Q,Aat + 0,laf_t
что приводит к
rfJ0=-0,2, </„ = 0,1.
Следовательно, прогнозирующая функция будет
П5.3.2. Коррекция общего проинтегрированного представления
Коррекцию формул для коэффициентов можно осуществить,
используя тождество E.2.5) с t + 1, замененным на t,
Тогда для / > q — р — d
p+d-l P+d—l
2 S
(П5.3.5)
Решив р -\- d таких уравнений для разных /, получим требуемую
формулу для коррекции в виде
p+d-i
Заметим, что коррекция каждого коэффициента функции про-
прогноза зависит только от ошибки прогноза на один шаг
at = zt—zt-i A). В качестве примера рассмотрим опять стоха-
стохастическую модель
Гл. 5. Прогнозирование
185
В разд. П5.3.1 было показано, что прогнозирующая функция
для этого примера равна
Ibf) cos -
¦№¦
Ism-
2я/
12
Удобно использовать тождество коррекции (П5.3.5) для част-
частных значений / = 6, 12, 24, 3, 9. Пользуясь рекуррентным соот-
соотношением E^.3), получаем веса гр для этих значений:
г|N = 25 + 9уз, гр12 = 317+184 ^3, г|J4 = 611 + 346/^3, ife —
= 4 + 7/3, 41)9 = 134 + 90/3. Отсюда, используя (П5.3.5), по-
получаем матричное уравнение
1
1
1
1
1
1
1
1
0
0
-6
12
24
0
0
0
0
0
1
-1
0
0
0
3
-9__
ь
Р
2
13 УН
2
25/3"
2
-2
1
¦ 2
1
2
1
2
/3"
2
7
2
13
2
25
2
2 /
5 -4- -5
X
25 + 9
317+ 184
611 + 346/3
4 + 7
134 + 90
Первые три уравнения легко решить относительно Ьо\ Ь('\
K а четвертое и пятое — относительно Ьз\ bT- Окончательное

186
Часть I. Стохастические модели и прогнозирование
решение
. f 4\
b\l)
ог
будет

л
0
0
0
0
СО|
2
0
1
2
0
0
V*
2
т
1
2
1
2
0
1
2
0
Кз
2
0
0
1
2
1
2
КЗ"
2
Кз"
2
&Г1»
' 195+112^3"
2
-149-68/3"
49 +
-244 - 113 УТ
2
19 + 5VT
2
что дает требуемую формулу коррекции для каждого из 5 коэф-
коэффициентов Ьо'\ Ь\\ ..., bf.
П5.3.3. Сравнение с методом взвешенных наименьших
квадратов Брауна
Хотя проинтегрированное представление приводит к услож-
усложнению вычисления прогнозов, оно позволяет нам сравнить рас-
рассмотренный здесь прогноз с наименьшей среднеквадратичной
ошибкой с другим достаточно известным типом прогноза.
Запишем
р =
7о@
/i(O
1)
P + d)
1)
fx(l
¦ d)
¦¦¦ fp+d-i (l)
••• fP+d-i(l+l)
fp+d-i'
i_ ?7p+d_i J
L%+P+dJ
Тогда, пользуясь (П5.3.5) для /, l-\-\, ..., I + p + d, получим
для / > q — p — d
что дает
или
(П5.3.6)
Гл 5. Прогнозирование
187
Это выражение имеет ту же алгебраическую форму, что и кор-
корректирующая функция, предлагаемая в методике «взвешенных
наименьших квадратов» Брауна [2, 50]. Для сравнения, если мы
обозначим ошибку прогноза, даваемую этим методом, еи то фор-
формулу коррекции Брауна можно записать в виде
p<(> = L/p('-1)+hef, (П5.3.7)
где Э<()—вектор настраиваемых коэффициентов. Та же матри-
матрица L появляется в (П5.3.6) и (П5 3.7). Это неизбежно, так как
первый множитель просто учитывает изменения в коэффициен-
коэффициентах, возникающие при переходе к новому начальному моменту,
и должен появиться в любой формуле такого типа. Рассмотрим,
например, функцию прогноза в виде прямой линии
г,_Л1)^ьГ1) + ьГ\
где Ьо~1}—ордината в момент t—1 начала прогноза Можно
также записать
)
где (bo~n-\-b['~l)) — теперь ордината в момент t. Очевидно,
если мы корректируем прогноз в момент t, коэффициент bo дол-
должен быть соответствующим образом подправлен, даже если бы
функция прогноза осталась неизменной.
В общем матрица L не изменяет прогнозирующую функцию,
а просто перемещает ее. Истинная корректировка производится
вектором коэффициентов g или h. Далее мы увидим, что коэф-
коэффициенты g, дающие прогнозы с минимальной среднеквадратич-
среднеквадратичной ошибкой, и коэффициенты h Брауна в общем полностью от-
отличны друг от друга.
Метод прогнозирования Брауна
1) Прогнозирующая функция выбирается из общего класса
линейных комбинаций и произведений полиномов, экспонент,
синусов и косинусов.
2) Выбранная прогнозирующая функция подгоняется к про-
прошлым значениям при помощи методики «взвешенных наимень-
наименьших квадратов». В этой методике коэффициенты оцениваются
и корректируются так, что минимизируется сумма
. = 2 ©/ {zi-f — z, (— /)}2
1=0
(П5.3.8)
взвешенных квадратов расхождения прошлых значений ряда и
значений, даваемых для соответствующих времен в прошлом
прогнозирующей функцией. Весовая функция «3 выбирается
произвольно, так чтобы она спадала по степенному закону
а, = A —аK, где константа а, обычно называемая константой
сглаживания, выбирается равной опять-таки произвольному
значению в диапазоне 0,1—0,3,

188
Часть I Стохастические модели и прогнозирование
Различие между прогнозами с минимальной среднеквадра-
среднеквадратичной ошибкой и прогнозами Брауна.
Чтобы проиллюстрировать эти замечания, рассмотрим про-
прогнозирование цен акций IBM, обсуждавшееся Брауном [2,
стр. 141]. В этом исследовании он использовал квадратичную
модель, которая в обозначениях этой книги может быть пред-
представлена как
Он применил к этой модели свой метод «взвешенных наимень-
наименьших квадратов», чтобы предсказать биржевые цены на три дня
вперед. Результаты, полученные его методом, показаны для
участка ряда IBM на рис. П5.2, где они сравниваются с прогно-
прогнозами с минимальной среднеквадратичной ошибкой.
Метод «взвешенных наименьших квадратов» можно подверг-
подвергнуть критике на следующих основаниях:
1) Вид прогнозирующей функции должен определяться опе-
оператором авторегрессии <р(В) стохастической модели, а не выби-
выбираться произвольно. В частности, его нельзя уверенно выбрать
в результате визуального просмотра ряда. Рассмотрим, напри-
например, биржевые цены акций IBM на рис. П5.2. Видно, что ква-
квадратичная функция может быть использована для подгонок ко-
коротких участков этого ряда к уже имеющимся значениям. Если
бы такая подгонка имела отношение к прогнозированию, мы
могли бы заключить, как и сделал Браун, что прогнозирующая
функция должна быть полиномом второй степени.
Наиболее общий линейный процесс, для которого квадра-
квадратичная функция давала бы прогнозы с наименьшей среднеква-
среднеквадратичной ошибкой при любом упреждении /, определяется мо-
моделью @,3,3)
которая на основании тех же рассуждений, что и в разд. 4.3.3,
может быть представлена в виде
Однако в гл. 7 будет показано, что если правильно подогнать
эту модель, оценки ее параметров, полученные методом наи-
наименьших квадратов, окажутся равными К± = Кг = 0 и Ко « 1,0.
Отсюда Vz; = A — QB)at с 8 = 1 — Ко, близкими к нулю, будет
подходящей стохастической моделью, и соответствующий про-
прогнозирующий полином будет zt{l)= p0(i), т. е. нулевой, а не
второй степени по /.
2) Выбор весовой функции a>j в (П5.3.8) должен также опре-
определяться стохастической моделью, а не быть произвольным.
Метод «взвешенных наименьших квадратов» будет давать про.*
Гл 5 Прогнозирование
189
гнозы с минимальной среднеквадратичной ошибкой только в
очень частном случае, когда
а) процесс имел порядок @, 1, 1), так что Vz< = A—QB)at;
б) подгонялся полином нулевой степени;
в) константа сглаживания а была принята равной нашему
К = 1 — 8.
600 г а
550
цена
500
600
550
Цена.
500
ПиюляШюля 5авг 19абг 2сент Шсент ЗОсент Понт 28омт
Рис. П52. Ряд биржевых цен акций IBM; сравнение с прогнозом на три
шага вперед, основанным на лучшей модели ПСС @,1,1), н квадратичным
прогнозом Брауна для периода, начинающегося 11 июля 1960 г
а — квадратичный прогноз Брауна, б — прогноз с минимальной среднеквадра-
среднеквадратичной ошибкой.
1 — данные; 2 — прогнозы на трн шага вперед.
В данном примере, даже если бы была выбрана правильная
степень полинома (нуль), значение а = К = 0,1, используемое
Брауном, оказалось бы весьма не подходящим к случаю. Пра-
Правильное значение Я для этого ряда близко к единице.
3) Методика экспоненциально взвешенных наименьших ква-
квадратов вынуждает все р -\- d коэффициентов в корректирующем
векторе h быть функциями одного сглаживающего параметра а.
Фактически же они должны быть функциями р -f- q независи-
независимых параметров (<j>, в).
Итак, различия между двумя методами нетривиальны, и ин-
интересно сравнить на данных IBM, как они действуют. Прогноз
с минимальной среднеквадратичной ошибкой равен zf(/) = 6J/> c
корректировкой Ьо] = Ьц~1)-{-Xat, где К « 1,0. Если взять К

190
Часть I. Стохастические модели и прогнозирование
точно равным единице, это эквивалентно использованию
Часть II
т. е. лучший прогноз цен акций для всех будущих моментов
времени есть текущая цена*). Идея, что биржевые цены ведут
себя так, конечно, не нова и восходит к Бейгельеру [51]. При
X = 1 zt = Sat, что свидетельствует, что Zt — случайное блуж-
блуждание.
Для сопоставления прогноза с минимальной среднеквадра-
среднеквадратичной ошибкой (СКО) с квадратичными прогнозами Брауна
было проведено прямое сравнение на базе ряда цен акций IBM
за период с 11 июля 1960 г. по 10 февраля 1961 г. A50 наблю-
наблюдений). Для этого участка ряда прогноз с минимальной СКО
был получен для модели \zt = at — Qat-\, 8 = 0,1, или К =
= 1 — 8 = 0,9. На рис. П5.2 показаны прогнозы с минимальной
СКО для упреждения 3 и соответствующие значения квадратич-
квадратичного прогноза Брауна. Видно, что прогнозы с минимальной
СКО, которые, по существу, эквивалентны использованию сегод-
сегодняшней цены для предсказания цены на 3 дня вперед, значи-
значительно лучше, чем полученные с помощью существенно более
сложной методики Брауна.
Среднеквадратичные ошибки прогноза при разных упрежде-
упреждениях, вычисленные прямым сравнением значений ряда и их про-
прогнозов с упреждением /, показаны в табл. П5.3 для двух типов
прогнозов. Видно, что квадратичные прогнозы Брауна имеют
значительно большие среднеквадратичные ошибки, чем про-
прогнозы, полученные методом минимальной среднеквадратичной
ошибки.
Таблица П5.3
Сравнение среднеквадратичных ошибок прогнозов, полученных при
различных упреждениях, по наилучшему из процессов ПСС@, 1, 1)
и по методике Брауна
Упреждение /
СКО (Браун)
СКО (X = 0,9)
1
102
42
2
158
91
3
218
136
4
256
180
5
363
282
6
452
266
7
554
317
8
669
371
9
799
427
10
944
483
*) Этот результат приближенно справедлив, если предположить, что не
имеется никакой полезной информации, кроме прошлых значений ряда, и
что рассматривается прогнозирование на относительно короткий период вре-
времени. Для больших периодов становятся важными эффекты роста и инф-
инфляции.
Построение
стохастических моделей

Мы видели, что процесс АРПСС порядка (р, d, q) позволяет
получить класс моделей, пригодных для описания временных
рядов, которые не обязательно стационарны, но тем не менее
в некотором смысле статистически однородны.
Процесс АРПСС определен уравнением
где ф{В) и 0F)— операторы от В степеней ри</ соответственно,
нули которых лежат вне единичного круга.
Мы отмечали, что эта модель весьма общая н объединяет
модели авторегрессии, скользящего среднего, смешанные модели
авторегрессии—скользящего среднего и проинтегрированные
виды всех трех типов.
Итеративный подход к построению моделей. Увязка моделей
этого типа с данными обычно лучше всего достигается трехсту-
трехступенчатой итеративной процедурой, основанной на идентифика-
идентификации, оценивании и диагностической проверке.
Под идентификацией подразумевается использование данных
и любой информации о том, как был генерирован ряд, с целью
отыскания подкласса экономичных моделей, заслуживающих
опробования.
Под оцениванием подразумевается эффективное использова-
использование данных для получения выводов о параметрах, определяю-
определяющих адекватность опробуемой модели.
Под диагностической проверкой подразумевается проверка
согласования подогнанной модели с данными, чтобы вскрыть
недостатки модели и улучшить ее.
В последующей гл. 6 мы рассмотрим идентификацию, в
гл. 7 — оценивание и в гл. 8 — диагностическую проверку. Как
работают все эти методы, будет показано в гл. 9 на примере
моделирования сезонных временных рядов.
ГЛАВА 6
Идентификация моделей
В этой главе рассматриваются методы идентификации моде-
моделей несезонных временных рядов. Методы идентификации — это
довольно грубые процедуры, применяемые к множеству данных
для выявления типа моделей явления, которые имеет смысл ис-
использовать в дальнейших исследованиях. Конкретная цель со-
состоит в том, чтобы получить некоторое указание на то, какие
значения р, d и q нужны в общей линейной модели АРПСС, и
выбрать некоторые начальные значения параметров. Полученная
таким способом пробная модель является отправной точкой для
применения более формальных и эффективных методов оцени-
оценивания, описанных в гл. 7.
6.1. ЦЕЛИ ИДЕНТИФИКАЦИИ
6.1.1. Этапы процедуры идентификации
Прежде всего необходимо отметить, что идентификация и
оценивание с неизбежностью перекрываются. Так, мы можем
оценить параметры модели, которая оказалась более сложной,
чем ожидалось, чтобы решить, что именно поддается упроще-
упрощению. Здесь процедура оценивания выполняет роль идентифика-
идентификации. Нужно также пояснить, что идентификация неизбежно не-
неточна. Она неточна потому, что вопрос о том, какие типы
моделей встречаются на практике и в каких обстоятельствах —
это черта поведения физического мира, н она не может быть
решена чисто математическими рассуждениями. Далее, так как
на этапе идентификации нельзя точно сформулировать задачу,
приходится прибегать к статистически «неэффективным» мето-
методам. На этом этапе особенно полезны графические методы и
должны высказываться суждения. Однако следует помнить, что
предварительная идентификация не требует от нас ничего, кро-
кроме опробования класса моделей, который будет позднее эффек-
эффективно подгоняться и проверяться.
Наша задача — идентифицировать подходящий подкласс мо-
моделей из общего семейства моделей АРПСС
t, F.1.1)

194
Часть II. Построение стохастических моделей
который может быть использован для описания данного времен-
временного ряда. Наш подход состоит в следующем.
а) Мы будем брать конечную разность от Zt столько раз,
сколько необходимо, чтобы обеспечить стационарность, в на-
надежде свести изучаемый процесс к смешанному процессу авто-
авторегрессии — скользящего среднего
где
б) Идентифицировать результирующий процесс АРПСС.
Наш основной инструмент для реализации (а) и (б) — авто-
автокорреляционная и частная автокорреляционная функции. Они
используются не только, чтобы облегчить угадывание вида мо-
модели, но также для получения приближенных оценок парамет-
параметров. Такие приближения часто полезны на этапе оценивания,
чтобы получить начальные значения для используемых на этом
этапе итеративных процедур.
6.2. МЕТОДИКА ИДЕНТИФИКАЦИИ
6.2.1. Использование при идентификаций автокорреляционной
й частной автокорреляционной функций
Идентификация порядка разности. В разд. 3.4 2 было пока-
показано, что автокорреляционная функция стационарного смешан-
смешанного процесса авторегрессии — скользящего среднего удовлетво-
удовлетворяет разностному уравнению
f(B)pk = 0, k>q.
j>
Кроме того, если <j>(B) = JJ A — GtB), решение этого разност-
разностного уравнения для k-fr автокорреляции в предположении об от-
отсутствии кратности корней имеет вид
2Ок2 + • • • + ApG*p> k>q-p. F.2.1)
УсЛоЕие стационарности, требующее, чтобы нули Ф(В) лежали
вне единичного круга, приводит к тому, что корни Gi, О2, ..., Ор
лежат внутри единичного круга.
Из F.2.1) следует, что для стационарной модели, у которой
ни один из корней не лежит близко к границе единичного круга,
автокорреляционная функция быстро затухает при средних й
больших k. Положим теперь, что один действительный корень,
Гл 6 Идентификация моделей
195
например Gu приближается к 1, так что
G, = 1 - б,
где б малое положительное число. Тогда, поскольку для боль-
больших k
автокорреляционная функция не будет быстро затухать, а будет
спадать медленно и почти линейно. Подобные рассуждения
можно провести и в случае, когда к единице приближается не
один корень.
Следовательно, отсутствие у автокорреляционной функции
тенденции к затуханию может рассматриваться как свидетель-
свидетельство того, что существует корень, близкий к 1. Выборочная авто-
автокорреляционная функция похожа на теоретическую. Отсюда
отсутствие затухания выборочной автокорреляционной функции
логично истолковать в том смысле, что процесс Zi ведет себя
нестационарно, хотя возможно, его разность 4zt или какая-
либо более высокая разность стационарна.
Оказалось, что нестационарность подсказывается отсутствием
быстрого спада выборочной автокорреляционной функции. При
этом не обязательно, чтобы выборочные корреляции при малых
задержках были велики. Это иллюстрируется в приложении
П6.1, где вычислены ожидаемые значения выборочной автокор-
автокорреляционной функции для нестационарного процесса @, 1, 1)
Vzt = A — QB)at. Как н следовало ожидать, величина E[rh]
медленно убывает с k, ее начальное значение Е[г\] зависит от
значения 0 и числа наблюдений в выборке и не должно быть
близко к 1, если 0 близко к 1. Мы покажем это также в
разд. 6.3.4 для ряда А рис. 4.1.
По приведенным причинам предполагается, что необходимая
для получения стационарности степень разности d достигнута,
если автокорреляционная функция ряда Wi — Vdzt быстро за-
затухает. На практике d обычно равно 0, 1 или 2, и достаточно
просмотреть примерно 20 первых значений автокорреляции ис-
исходного ряда, его первых и вторых разностей.
Идентификация результирующего стационарного процесса
АРСС. Приняв предварительное решение о величине d, мы да-
далее изучаем общий вид выборочных автокорреляционной и част-
частной автокорреляционной функций соответствующего разностного
ряда, чтобы найти указания к выбору порядков рад операто-
операторов авторегрессии и скользящего среднего. При этом мы долж-
должны помнить характерные особенности поведения теоретической
автокорреляционной функции и теоретической частной автокор-
автокорреляционной функции для процессов авторегрессии, скользя-
скользящего среднего и смешанного процесса, рассмотренные в гл. 3,

196
Часть II. Построение стохастических моделей
В то время как автокорреляционная функция процесса авто-
авторегрессии порядка р спадает плавно, ее частная автокорреля-
автокорреляционная функция имеет обрыв после р-й задержки. Обратно,
автокорреляционная функция процесса скользящего среднего
порядка q обрывается после задержки q, в то время как ее
частная автокорреляция плавно спадает с ростом задержки. Да-
Далее, автокорреляционная функция смешанного процесса, содер-
содержащая компоненту авторегрессии порядка р и компоненту
скользящего среднего порядка q, после первых q—р задержек
представляется в виде суммы экспонент и затухающих сину-
синусоид. Обратно, частная автокорреляционная функция смешан-
смешанного процесса приближенно представляется суммой экспонент
и затухающих синусоид после р — q задержек (см. табл. 3.2).
В общем поведение автокорреляционной функции процесса
авторегрессии похоже на поведение частной автокорреляцион-
автокорреляционной функции процесса скользящего среднего и наоборот. На-
Например, автокорреляционная функция процесса авторегрессии
первого порядка экспоненциально затухает, в то время как част-
частная автокорреляционная функция обрывается после первой за-
задержки. Соответственно для процесса скользящего среднего
первого порядка автокорреляционная функция обрывается после
первой задержки. Частная автокорреляционная функция — не
точно экспоненциальная, но в ней преобладают экспоненциаль-
экспоненциальные члены, определяющие ее общий вид.
Особенно важны процессы авторегрессии и скользящего
среднего первого и второго порядков и простой смешанный про-
процесс A, d, 1). Свойства теоретических автокорреляционной и
частной автокорреляционной функций этих процессов сведены
в табл. 6.1, которая требует внимательного изучения и является
удобной справочной таблицей. Читатель должен также обра-
обращаться к рис. 3.2, 3.9 и 3.11, на которых показано типичное по-
поведение автокорреляционной и частной автокорреляционной
функций для процессов авторегрессии и скользящего среднего
второго порядка и простого смешанного процесса A, d, 1).
Соотношение между выборочными и теоретическими автокор-
автокорреляциями. Выборочные автокорреляции могут иметь довольно
большие дисперсии и быть сильно коррелированы друг с другом.
По этой причине, как указывал Кендалл [29], нельзя ожидать
детального сходства выборочной автокорреляционной функ-
функции с теоретической. В частности, умеренно большие значения
выборочной автокорреляции могут наблюдаться и после того,
как теоретическая автокорреляционная функция затухла; в вы-
выборочной функции могут наблюдаться всплески и тренды, не
имеющиеся в теоретической функции. При использовании вы-
выборочной автокорреляционной функции для идентификации
обычно можно быть уверенным в ее главных характеристиках,
Таблица 6.1
Поведение автокорреляционных функций для d-й разности
процесса АРПСС (р, d, q)
[Таблица А и диаграммы В, С и D, облегчающие вычисление приближенных
оценок параметров процессов скользящего среднего первого и второго
порядка, процесса автОрегрессии второго порядка и смешанного
процесса АРСС A,1), приведены в конце данного выпуска.]
Порядок
A. d. 0)
@. d, l)
Поведение pft
Поведение Фьь,
Предварительные
оценки
Допустимый диапазон
Экспоненциально зату-
затухают
Только Фи Ф 0
Ф\ = Pi
Только р, Ф 0
Доминирует экспонен-
экспоненциальное затухание
-8,
т
Pi
9
Порядок
B, d, 0)
(О, d, 2)
Поведение
Поведение
Предварительные
оценки
Наложение экспонент и
затухающих синусоид
Только
011 Ф 0, 022 Ф О
ф _^ Pi С — Рг)
1-Pl
Только pi ф 0, р2 ф 0
Доминирует наложение
экспонент и затухаю-
затухающих синусоид
Ф2=-
s-p?
Допустимый диапазон
1-Pi
- К Ф2 < 1
Ф2 + Ф{ < 1
Ф2 — Ф\ < 1
Р2 =
-92
1 + ef + е|
К92<1
92 - 9, < 1
Порядок
i, d,
Поведение р^
Поведение Ф^
Предварительные
оценки
Допустимый диапазон
Экспоненциально затухают, начиная с первой
задержки
С первой задержки доминирует экспоненциаль-
экспоненциальное затухание
A-8,»,) @,-6,)
1 -+- ef
Р2=

198
Часть II. Построение стохастических моделей
а более тонкие черты этой функции могут и не отражать реаль-
реальных эффектов. Поэтому может понадобиться подобрать и иссле-
исследовать далее на этапах оценивания и диагностической проверки
две или даже большее число возможных моделей процесса.
6.2.2. Стандартные ошибки выборочных автокорреляций
и частных автокорреляций
Поскольку мы не знаем теоретических автокорреляций и вы-
выборочные значения, которые мы вычисляем, несколько отличны
от соответствующих теоретических, важно иметь некоторые
представления о том, каковы могут быть эти отличия. В част-
частности, необходимо уметь оценить, становятся ли автокорреляции
и частные автокорреляции практически нулевыми при задерж-
задержках больше некоторого k. Для больших задержек мы можем
вычислить стандартные ошибки оцениваемых автокорреляций,
исходя из упрощенной формулы Бартлетта B.1.13), в которой
теоретические автокорреляции заменены выборочными оцен-
оценками. Имеем
-^ {1 + 2 (г
F.2r2)
Для частных автокорреляций мы воспользуемся результатом,
выраженным формулой C.2.35), а именно при гипотезе, что
процесс — авторегрессия порядка р, стандартная ошибка част-
частной автокорреляции порядка р + 1 и выше равна
б [j>kk] «4- k>p. F.2.3)
Андерсон показал [52], что даже для не слишком больших п вы-
выборочный коэффициент автокорреляции распределен примерно
нормально со средним значением нуль. Отсюда при гипотезе,
что теоретическая автокорреляция равна нулю, оценка гй, де-
деленная на ее стандартную ошибку, также будет распределена
примерно по нормальному закону с единичной дисперсией. То
же справедливо и для частных автокорреляций. Эти факты
можно использовать для получения нестрогих правил проверки,
являются ли теоретические автокорреляции и частные автокор-"
реляции при задержках, больших некоторой, практически нуле-
нулевыми. Обычно достаточно вспомнить, что для нормального рас-
распределения отклонения, превышающие одну стандартную ошиб-
ошибку в любом направлении, имеют вероятность около 7з, в то
время как отклонения, превышающие две стандартные ошибки,
Имеют вероятность около '/го-
Гл. 6. Идентификация моделей
199
6.2.3. Идентификация некоторых реальных временных рядов
В этом разделе описанные выше способы идентификации
применяются к шести временным рядам, обозначенным А, В, ...
..., F. Ряды А — D показаны на рис. 4.1, ряд Е — на рис. 6.1 и
ряд F — на рис. 2.1. Данные для всех этих рядов приведены
в сборнике временных рядов в конце этой книги. Ряды А, В, С
и D <5ылн описаны в гл. 4 и ряд F — в гл. 2. Ряд Е — ряд чисел
Вольфа солнечных пятен, каждый его член — это среднегодовое
150
100
50
1770 П90 '810 ШО >850 '870
Рис. 6.1. Ряд Е — числа солнечных пятен по Вольфу A770—1869).
число солнечных пятен за какой-либо год. Как отмечалось в
гл. 4, следует ожидать, что ряды А, С и D обладают нестацио-
нестационарными свойствами, так как они представляют собой «нерегу-
«нерегулируемое» поведение определенных выходов продукта.
Аналогично можно ожидать, что ряд биржевых цен В не
имеет фиксированного уровня. С другой стороны, ряд F скорее
всего стационарный, так как он представляет собой вариации
выхода партий продукта, получаемых при равномерно регули-
регулируемых условиях. Подобным образом можно ожидать, что ряды
солнечных пятен равновесны на больших интервалах.
Выборочные автокорреляции г, Vz и V22 для рядов А — F
приведены в табл. 6.2. В табл. 6.3 показаны соответствующие
выборочные частные автокорреляции. Графическое представле-
представление корреляционных функций очень помогает пониманию их по-
поведения; автокорреляции и частные автокорреляции ряда А по-
показаны на рис. 6.2 и 6.3, ряда С — на рис. 6.4 и 6.5.
Для ряда А автокорреляции Vz малы уже после первой за-
задержки. Это указывает на то, что этот временной ряд может
быть описан как процесс ПСС@,1,1). Однако рассмотрение

200
Часть II. Построение стохастических моделей
автокорреляционной функции г показывает, что при задержке
больше 1 корреляции спадают довольно монотонно. Следова-
Следовательно, имеется и другая возможность — что ряд описывается
смешанным процессом АРССA,0, 1). Частная автокорреляцион-
автокорреляционная функция г ведет себя соответствующим этому предположе-
предположению образом. Позднее мы увидим, что оба предположения при-
приводят по существу к одной и той же модели.
Автокорреляции ряда С, показанные на рис. 6.4, свидетель-
свидетельствуют о необходимости по меньшей мере одного взятия разно-
разностей. Приближенно экспоненциальный спад корреляций первой
1,0
V
г»
-1,0
1.0
1 1 I I 1 I I I I ¦
5
10
t
0
1,0
!'
-1,0
VZ
10
vh
ю
Рис. 6.2. Выборочные автокорреляции различных разностей ряда А.
разности указывает, что процесс имеет порядок A, 1,0) с пара-
параметром авторегрессин ф ~ 0,8. С другой стороны, из малости
автокорреляций V2z вытекает, что приемлем и процесс
ПСС @,2,0). К тем же выводам приводит рассмотрение частной
автокорреляционной функции. Для отсчетов z приходим к об-
обобщенному оператору авторегрессии второй степени; для V2 —
к оператору авторегрессни первого порядка, действующему на
Vzt с ф « 0,8; для V2zt — к некоррелированному шуму. Отсюда
следуют две возможности:
(l~0,8B)(l-B)zt = atl
Вторая модель очень похожа на первую, отличаясь только выбо-
выбором 0,8 вместо 1 для одного из коэффициентов авторегрессии.
При оценке свойств выборочных корреляционных функций
весьма полезно проводить «контрольные» линии, параллельные
о
-1,0"
1,0
-1,0
1,0
-1,0
I -.—.- r--¦ ^---.-
10
—Пределы ± г <здля{г, АРB)}
j ' 1—1-1-4--'-
10
10
l,AP(Z)}
—Пределы±1бдля$.,АРB)}
Рис, 6.3. Выборочные частные автокорреляции ряда А и его двух первых
разностей.
1
-1,0
10
о
-1,0
1,0
о
-1,0
Mill
ю
J_1_L
I I I ¦ ¦
5
10
5
к
10
Рис. 6.4. Выборочные автокорреляции ряда С и его двух первых разностей.

Таблица 6.2
Выборочные автокорреляции рядов А—F
Ряд А. Отсчеты концентраций в химическом процессе, каждые 2 часа
Автокорреляции
197 наблюдений
Z
Vz
V22
Задержки
Задержки
Задержки
1—10
11—20
1—10
11—20
1—10
11—20
1
0,57
0,19
—0,41
—0,05
—0,65
—0,02
2
0,50
0,16
0,02
—0,06
0,18
—0,02
3
0,40
0,20
—0,07
—0,01
—0,04
—0,04
4
0,36
0,24
—0,01
0,16
0,04
0,18
5
0,33
0,14
—0,07
—0,17
—0,04
—0,19
6
0,35
0,18
—0,02
0,03
—0,04
0,08
7
0,39
0,20
0,15
0,01
0,13
—0,03
8
0,32
0,20
—0,07
0,08
—0,11
0,09
9
0,30
0,14
0,04
—0,12
0,04
—0,17
10
0,26
0,18
0,02
0,15
0,02
0,20
Ряд В. Цены акций IBM к закрытию биржи, ежедневно с 17 мая 1961 г. по 2 ноября 1962 г.
Автокорреляции
369 наблюдений
Z
Vz
Vz2
Задержки
Задержки
Задержки
1—10
11—20
1—10
11—20
1—10
11—20
0,99
0,91
0,09
0,08
—0,45
0,04
0,99
0,91
0,00
0,05
—0,02
0,04
0,98
0,90
—0,05
—0,05
—0,04
—0,12
0,97
0,89
—0,04
0,07
0,00
0,13
0,96
0,88
—0,02
—0,07
—0,07
—0,17
0,96
0,87
0,12
0,12
0,11
0,10
0,95
0,86
0,07
0,12
—0,01
0,05
0,94
0,85
0,04
0,05
0,04
—0,04
0,93
0,84
—0,07
0,05
—0,10
—0,01
0,92
0,83
0,02
0,07
0,02
0,09
226 наблюдений
Ряд С. Отсчеты температур в химическом процессе, каждую мунуту
Автокорреляции
г
Vz
V*z
Задержки
Задержки
Задержки
1—10
11—20
1—10
11—20
1—10
11—20
0,98
0,47
0,80
0,10
—0,08
—0,12
0,94
0,41
0,65
0,09
—0,07
0,07
0,90
0,36
0,53
0,07
—0,12
—0,08
0,85
0,30
0,44
0,07
—0,06
0,03
0,80
0,25
0,38
0,07
0,01
—0,01
0,75
0,20
0,32
0,07
—0,02
—0,06
0,69
0,15
0,26
0,09
0,05
0,17
0,64
0,10
0,19
0,05
—0,05
—0,10
0,58
0,05
0,14
0,04
—0,12
—0,01
0,52
0,00
0,14
0,04
0,12
—0,02
310 наблюдений
Ряд D. Отсчеты вязкости химического процесса, каждый час
Автокорреляции
Z
Vz
V2z
Задержки
Задержки
Задержки
1—10
11—20
1—10
11—20
1—10
11—20
0,86
0,22
—0,05
—0,01
—0,50
0,00
0,74
0,20
—0,06
0,04
0,00
0,04
0,62
0,18
—0,07
0,02
0,00
0,03
0,53
0,15
—0,08
—0,07
—0,01
—0,06
0,46
0,14
—0,06
—0,03
—0,02
0,04
0,41
0,13
0,00
—0,09
0,04
—0,06
0,35
0,16
—0,02
—0,02
—0,01
0,00
0,31
0,19
—0,02
0,05
0,00
0,06
0,27
0,21
—0,03
—0,01
0,01
—0,06
0,24
0,23
—0,06
0,06
—0,04
0,06

Продолжение
100 наблюдений
70 наблюдений
Ряд Е. Числа солнечных пятен по Вольфу, каждый год
Автокорреляции
Z
Vz
V22
Задержки
Задержки
Задержки
1—10
11—20
1—10
11—20
1—10
11—20
0,81
0,39
0,55
0,29
0,15
0,13
0,43
0,29
—0,02
0,16
—0,31
0,09
0,07
0,14
—0,30
—0,03
—0,20
—0,10
-0,17
0,02
—0,40
—0,12
—0,11
—0,11
—0,27
—0,06
—0,40
—0,10
—0,09
0,04
—0,21
—0,10
—0,33
—0,09
—0,02
0,01
—0,04
—0,14
—0,20
—0,09
—0,11
0,00
0,16
—0,18
0,04
—0,12
—0,04
—0,03
0,33
-0,17
0,26
—0,14
0,19
—0,10
0,41
—0,10
0,31
—0,05
0,05
—0,04
Ряд F. Выход продукта циклического химического процесса
Автокорреляции
г
Vz
V2z
Задержки
Задержки
Задержки
1—10
11—20
1—10
11—20
1—10
11—20
—0,39
0,11
—0,74
0,11
—0,83
0,12
0,30
—0,07
0,43
—0,16
0,54
—0,16
—0,17
0,15
—0,27
0,12
—0,33
0,11
0,07
0,04
0,16
—0,01
0,21
0,00
—0,10
—0,01
—0,10
—0,08
—0,12
—0,10
—0,05
0,17
0,01
0,16
0,03
0,16
0,04
—0,11
0,05
—0,14
0,04
—0,15
—0,04
0,02
—0,05
0,08
—0,06
0,10
—0,01
—0,05
0,04
—0,07
0,06
—0,07
0,01
0,02
—0,05
0,03
—0,07
0,03
Выборочные частные автокорреляции *) рядов А — F
Таблица 6.3
197 наблюдений
Ряд А. Отсчеты концентраций в химическом процессе, каждые 2 часа
Частные автокорреляции
Z
Vz
V22
Задержки
Задержки
Задержки
1—10
11—20
1—10
11—20
1—10
11—20
0,57
—0,09
—0,41
0,02
—0,66
—0,07
0,25
—0,04
—0,19
—0,07
—0,43
—0,04
0,08
0,04
—0,17
—0,10
—0,33
—0,25
0,09
0,08
—0,14
0,13
—0,23
0 00
0,07
—0,15
—0,20
—0,09
—0,20
0,04
0,15
0,06
—0,23
—0,15
—0,36
—0,02
0,19
0,13
0,01
—0,11
—0,23
—0,16
—0,03
0,09
—0,04
0,04
—0,21
—0,03
0,01
—0,06
—0,01
—0,08
—0,23
—0,22
—0,01
0,07
0,06
0,12
—0,16
—0,03
369 наблюдений
Ряд В. Цены акций IBM к закрытию биржи, ежедневно с 17 мая 1961 г. по 2 ноября 1962 г.
Частные автокорреляции
2
V2
V22
Задержки
Задержки
Задержки
1—10
11—20
1—10
11—20
1—10
11—20
0,996
—0,05
0,09
0,09
—0,45
—0,09
—0,09
—0,09
—0,01
0,03
—0,28
0,02
0,01
—0,03
—0,05
—0,08
—0,24
—0,13
0,05
0,07
—0,03
0,08
—0,20
0,01
0,02
—0 08
—0,02
—0,06
—0,29
—0,19
0,02
0,06
0,13
0,14
—0,17
—0,13
—0,12
—0,14
0,05
0,10
—0,13
—0,03
—0,05
—0,10
0,02
0,00
—0,03
—0,10
—0,02
—0,01
—0,06
0,07
—0,14
—0,10
0,06
—0,08
0,05
0,08
—0,16
0,06
• Получены подгонкой процессов авторегрессии растущего порядка методом наименьших квадратов

Продолжение
226 наблюдений
310 наблюдений
Ряд С. Отсчеты температур в химическом процессе, каждую минуту
Частные автокорреляции
Z
Vz
Задержки
Задержки
Задержки
1—1в
11—20
1—10
11—20
1—10
11—20
0,99
—0,15
0,81
—0,14
—0,08
—0,14
—0,81
0,10
—0,01
0,10
—0,08
0,01
—0,03
—0,14
—0,01
—0,05
—0,14
—0,09
—0,02
0,01
0,06
0,05
—0,10
—0,02
—0,10
—0,10
0,03
0,02
—0,03
—0,05
—0,07
—0,02
—0,03
0,06
—0,05
—0,09
«—0,01
—0,07
—0,01
0,06
0,02
0,13
—0,03
—0,11
—0,08
—0,17
—0,06
—0,13
0,04
0,11
0,00
0,09
—0,16
—0,03
—0,04
—0,13
0,10
0,00
0,09
—0,05
Ряд D. Отсчеты вязкости в химическом процессе, каждый час
Частные автокорреляции
z
Vz
Задержки
Задержки
Задержки
1—10
11—20
1—10
11—20
1—10
11—20
0,86
0,05
—0,05
—0,05
—0,50
—0,15
—0,02
0,01
—0,06
0,01
—0,32
—0,12
0,00
—0,04
—0,07
—0,01
—0,24
—0,02
0,01
—0,03
—0,09
—0,10
—0,20
—0,06
6,03
0,07
—0,08
—0,07
—0,22
—0,01
0,03
0,04
—0,03
—0,13
—0,16
—0,07
—0,02
0,10
—0,05
—0,09
—0,14
—0,12
0,01
0,06
—0,05
—0,02
—0,11
—0,06
0,00
0,00
—0,05
—0,08
—0,07
—0,13
0,01
0,06
-0,09
0,00
-0,12
-0,07
100 наблюдений
Ряд Е. Числа солнечных пятеи по Вольфу, каждый год
Частные автокорреляции
Z
Vz
V2z
Задержки
Задержки
Задержки
1—10
11—20
1—10
11—20
1—20
11—20
0,81
0,14
0,57
0,13
0,15
—0,02
—0,71
—0,16
—0,48
—0,15
—0,35
—0,13
0,21
0,12
—0,06
—0,04
—0,10
—0,20
—0,15
0,03
—0,27
0,06
—0,21
—0,21
0,10
—0,08
—0,22
0,12
—0,16
—0,10
0,10
—0,14
—0,26
0,02
—0,17
—0,13
0,18
—0,06
—0,29
0,07
—0,36
0,00
0,23
—0,12
—0,05
—0,06
—0,26
0,03
0,01
0,00
—0,02
—0,09
—0,09
—0,01
0,00
0,05
—0,16
—0,06
—0,33
—0,08
70 наблюдений
Ряд F. Выход продукта циклического химического процесса
Частные автокорреляции
Z
Vz
Vz
Задержки
Задержки
Задержки
1—10
11—20
1—10
11—20
1—10
И—20
—0,40
0,18
—0,76
—0,02
—0,83
—0,12
0,19
—0,05
—0,32
—0,16
—0,52
—0,09
0,01
0,09
—0,19
—0,24
—0,38
—0,26
—0,07
0,18
—0,16
—0,06
—0,33
0,08
—0,07
0,01
—0,09
—0,44
—0,15
—0,38
—0,15
0,43
—0,24
—0,02
—0,24
—0,39
0,05
0,01
—0,15
0,12
—0,26
—0,07
0,00
—0,14
—0,06
—0,12
—0,14
—0,05
—0,10
0,11
—0,18
-0,17
—0,09
—0,03
0,05
0,18
—0,28
—0,24
—0,31
—0 30

208
Часть П. Построение стохастических моделей
оси абсцисс на уровнях ±ст или ±2ст. Их должно сопровождать
указание имеющейся гипотезы. Так, на рис. 6.5 надпись «пре-
«пределы ±2а для {г, АР B)}» на предельных линиях показывает,
т
о
-1.0
1,0
о
Фьъ
-1,0
10
—Пределы 11 &для{г, арB)}
VZ
5
к
10
\ч z,apB)}
1,0
О
Фи*
-1,0
\
10
—Пределы+Z6для \чгг,ЬРеп)
Рис. 6.5. Выборочные частные автокорреляции ряда С и его двух первых
разностей.
что использованное значение а приблизительно верно при гипо-
гипотезе, что процесс — авторегрессия второго порядка. Пробная
идентификация каждого из рядов А — F дана в табл. 6.4.
Таблица 6.4
Пробная идентификация моделей рядов А—F
Ряд
А
В
с
D
F
Степень
разности
ГО
1 1
1
| 1
1 2
1°
1 1
{ °
\о
0
Кажущаяся природа
разности ряда
Смешанный АР первого порядка
и СС первого порядка
СС первого порядка
СС первого порядка
АР первого порядка
Некоррелированный шум
АР первого порядка
Некоррелированный шум
АР второго порядка
АР третьего порядка
АР второго порядка
Идентификация
для г(
A- 0, 1)
@, 1, 1)
@, 1, 1)
A, 1, 0)
@, 2, 2) *)
A, 0, 0)
@, 1, 1)*)
B, 0, 0)
C, 0, 0)
B, 0, 0)
*) Порядок оператора скользящего среднего, по-вндимому, нулевой, но для даль-
дальнейшего обсуждения удобно сохранить более общие обозначения
Гл. 6. Идентификация моделей
209
Нужно остановиться на трех других вопросах, связанных с
процедурой такой идентификации.
1) Простое взятие разностей, которым мы пользуемся, не
дает стационарности в рядах, содержащих сезонные компонен-
компоненты. В гл. 9 мы обсудим подходящие модификацин исследования
таких рядов.
2) Как обсуждалось в гл. 4, ненулевое значение 60 в F.1.1)
указывает на существование систематического полиномиального
тренда степени d. Для нестационарных моделей в табл. 6.4 зна-
значение 9о = 0 вполне приемлемо для описания поведения ряда.
Однако иногда могут существовать реальные физические явле-
явления, требующие введения ненулевого 0о. В других случаях может
быть неясно, необходим ли такой член. Некоторые основанные
на наблюденных данных указания о необходимости включе-
включения 0о в модель можно получить на этапе идентификации,
сравнивая среднее значение w ряда Wt = VdZt с его прибли-
приближенной стандартной ошибкой, найденной по формуле ст2(да) =
= п-'а^[1 + 2г1(аУ) + 2г2(ш)+ ...].
3) В разд. 3.4.2 отмечалось, что для любого процесса
АРСС(р, q) с р— q > 0 вся положительная половина автокор-
автокорреляционной функции -будет суперпозицией затухающих сину-
синусоид и экспонент. Это, конечно, не мешает нам пробно иденти-
идентифицировать q, так как а) частная автокорреляционная функция
примет р — q «аномальных» значений, прежде чем начнет вести
себя как частная автокорреляция процесса СС(<7); б) q должно
быть таким, что автокорреляционная функция могла бы, соглас-
согласно общему правилу, принимать в качестве начальных значений
величины от рд до p_(p_g_i).
6.3. НАЧАЛЬНЫЕ ОЦЕНКИ ПАРАМЕТРОВ
6.3.1. Единственность оценок, получаемых по
автоковариационной функции
Хотя справедливо, что данная модель АРСС имеет однознач-
однозначно определенную автоковариационную функцию, обратное не
справедливо. Сначала кажется, что это не позволяет использо-
использовать выборочные автоковариации как средства идентификации.
Позднее, в разд. 6.4 будет показано, что выборочная автокова-
автоковариационная функция может быть использована в этих целях.
Причина в том, что, хотя существует множество моделей АРСС,
имеющих одну и ту же автоковариационную функцию, суще-
существует только одна модель, выражающая текущее значение
Vdzt = Wt через прошлое процесса в стационарной обратимой
форме.

210
Часть II. Построение стохастических моделей
6.3.2. Начальные оценки для процессов скользящего среднего
Из формулы C.3.4) следует, что первые q автокорреляций
процесса СС(<7) не равны нулю и могут быть выражены через
параметры модели
9k = "
= l 2 q. F.3.1)
Выражение F.3.1) для рь р2, ..., pq через 0i, 02, ..., 0д дает q
уравнений с q неизвестными. Предварительные оценки 0 можно
получить, подставив в F.3.1) ги вместо р& и решив получаю-
получающиеся нелинейные уравнения. Предварительную оценку а2а мож-
можно тогда получить из
заменив 0 их предварительными оценками и уо = а2 его оцен-
оценкой с0.
Предварительные оценки для процесса @, d, 1). Табл. А в
конце этой книги связывает pi и 0ь и, заменив pi на r^w), ее
можно использовать для получения начальных оценок любого
процесса @, d, 1): wt = A — QiB)at, где wt = Vdzt.
Предварительные оценки для процесса @, d, 2). Диаграм-
Диаграмма С в конце книги связывает pi и р2 с 0i и 02 и после подстанов-
подстановки Г](до) и г2(до) вместо pi и р2 может быть использована для по-
получения начальных оценок любого процесса @, d, 2).
При получении оценок этим способом необходимо помнить
следующее.
1) Автоковариации являются вторыми моментами совмест-
совместного распределения до. Отсюда, приравнивая выборочные мо-
моменты их теоретическим значениям, можно получать оценки
параметров. Хорошо известно, что метод моментов не всегда
эффективен, и можно продемонстрировать его малую эффектив-
эффективность в этих частных случаях. Однако грубые оценки этим
способом могут оказаться полезными для получения более эф-
эффективных оценок, поскольку они дают приближенное представ-
представление о том, где в пространстве параметров «стоит искать»
наиболее эффективные оценки.
2) В общем случае уравнения F.3.1), полученные приравни-
приравниванием моментов, имеют несколько решений. Например, для
F>3>2)
Гл. 6. Идентификация моделей
211
и отсюда находим как
0, = -
так и
f
2р. ^ I Bр,J
н'~ 2р, Щу Ч
F.3.3)
как возможные решения. Далее, из табл. 6.2 следует, что авто-
автокорреляция с задержкой 1 для первой разности ряда А равна
да—0,4. Подстановка этого значения в F.3.3) дает пару реше-
решений 9i да 0,5 ив!» 2,0. Однако выбранное значение 0i да 0,5 —
единственное, лежащее внутри интервала обратимости
—1 < 0i < 1. В разд. 6.4.1 показано, что только одно из воз-
возможных решений может удовлетворить условиям обратимости.
Примеры. Ряды А, В и D были идентифицированы в табл. 6.4
как возможные процессы ПСС@, 1,1 ). В разд. 4.3.1 было пока-
показано, что эта модель может быть описана различными спосо-
способами
Vzt = {l-QlB)at,
zt = Я05аг_, + at (Xo = 1 - 0,),
2
Приближенные оценки параметров были получены при по-
помощи табл. А в конце книги, они приведены в табл. 6.5.
Ряд С был пробно идентифицирован в табл. 6 4 как процесс
ПСС @,2, 2)
V2zt = (l-Q1B-B2B2)at,
или, что эквивалентно,
zt = K0Sat_i + Я,5Ч-1 + at.
Так как первые две автокорреляции V2zt, данные в табл. 6.2,
Таблица 6.5
Начальные оценки параметров рядов А, В и D
Ряд
А
В
D
г,
-0,41
0,09
-0,05
8,
0,5
-0,1
0,1
*.—г
0,5
1,1
0,9
приближенно нулевые, то, используя диаграмму С в конце кни-
книги, находим 0, = О, 02 = О, Яо= l-f02 = l, Я, = 1—01 —02 =

212
Часть //. Построение стохастических моделей
= 1. Отсюда ряд можно представить как
или
F.3.4)
Это означает, что вторая разность S/2zt очень близка к чисто слу-
случайному ряду.
6.3.3. Начальные оценки для процессов авторегрессии
Если предположить, что исследуемый ряд — процесс авто-
авторегрессии первого или второго порядка, начальные оценки ф\
и ф2 можно получить, заменив теоретические автокорреляции pj
в формулах табл. 6.1 их выборочными оценками г,, полученными
из уравнений C.2.6) Юла — Уокера. В частности, для процесса
АРA) фп = г{ и для АРB)
т гх A — г2)
F.3.5)
i>22 = -
№—Г=7Г
где фр} обозначает /-й авторегрессионный параметр процесса по-
порядка р. Соответствующая формула, вытекающая из уравнений
Юла — Уокера, для процессов высшего порядка может быть по-
получена заменой р., в C.2.7) на г,.
Отсюда
ф = Ър1гР, F.3.6)
где Rp — выборочная корреляционная матрица размером р X Р>
содержащая коэффициенты корреляции до порядка р — 1, и
Гр —вектор (ги г2,
имеет вид
рр р р
гр). Например, если р = 3, F.3.6)
F.3.7)
Итеративный метод получения оценок для АР(р) по оценкам
для АР(р — 1) был приведен в приложении П3.2.
В гл. 7 будет показано, что в отличие от ситуации, возникаю-
возникающей с процессами СС, параметры авторегрессии, получаемые из
F.3.6), весьма близки к эффективным оценкам максимального
правдоподобия.
Гл 6 Идентификация моделей
213
Пример. Ряд Е до взятия разностей *) похож на процесс ав-
авторегрессии второго порядка
Подставляя выборочные оценки г\ = 0,81 и г2 = 0,43, полу-
полученные из табл. 6.2, из F.3.5) находим ф\ = 1,34 и ф2 = —0,66.
В качестве второго примера рассмотрим опять ряд С, иденти-
идентифицированный либо как процесс A, 1, 0), либо как @,2,2). Пер-
Первая модель дает
с ф\ « 0,8, т. е. г\ для Vz равно 0,80.
Этот пример особенно интересен, потому что он ясно показы-
показывает, что две конкурирующие модели, идентифицированные для
этого ряда, тесно связаны друг с другом. В предположении, что
ряд — процесс порядка @, 2,2), мы получили модель
B)zt = at. F.3.8)
F.3.9)
Альтернативная модель
(l-0,8B)(l—BJt =
очень похожа на F.3.8).
6.3.4. Начальные оценки для смешанных процессов
авторегрессйи — скользящего среднего
В дальнейшем часто будет обнаруживаться, что либо сразу,
либо после взятия нужного числа разностей ряд wt = Vdzt бу-
будет наиболее экономично описываться смешанным процессом
АРСС
В разд. 6.2.1 отмечалось, что указанием на смешанный про-
процесс является тот факт, что автокорреляционная и частная
автокорреляционная функции затухают. Другой факт, выражае-
выражаемый формулами C.4.3) и помогающий идентифицировать сме-
смешанный процесс, заключается в том, что после q задержек
теоретические автокорреляции удовлетворяют разностному урав-
уравнению для чисто авторегрессионного процесса ф(В)г01 — at.
*) Ряд солнечных пяген неоднократно исследовался (см., например, ра-
работы Шустера [53], Юла [24] и Морана [54]). Этот ряд почти наверняка
не может быть адекватно описан процессом авторегрессии второго пйрядка.
Модель, исходящая из реального физического механизма явления, была бы,
конечно, наиболее подходящей. Недавно опубликованные работы указывают
на то, что эмпирически модель авторегрессии второго порядка можно было
бы лучше подогнать к ряду, если бы г подверглись сначала некоторому
преобразованию.

214
Часть П. Построение стохастических моделей
В частности, если автокорреляционная функция d-н разности
спадает экспоненциально (если не считать искажения в pi), сле-
следует предположить, что процесс имеет порядок A, d, 1), т.-е.
(l-i»iB)Wt = (l-QiB)at, F.3.10)
где wt = Vdzt.
Приближенные значения параметров процесса F.3.10) по-
получены подстановкой выборочных оценок r\(w) и r2(w) вместо
pi и р2 в выражения C.4.8) и приведены в табл. 6.1. Здесь
.._. (l-6i?i)(?i -ё,)
'~ 1 + Й?2#Л '
Диаграмма D в конце этой книги связывает рь рг и ф\, 9i и
может быть использована для получения начальных оценок па-
параметров любого процесса A, d, 1).
Например, рассмотрим опять ряд А, который был идентифи-
идентифицирован как процесс порядка @, 1,1) с 9] = 0,5. Рассматривая
автокорреляционную функцию от zt (а не от Wt = V2<, что ме-
менее удобно), мы видим, что начиная с г2 автокорреляции зату-
затухают примерно экспоненциально, хотя и довольно медленно.
Отсюда следует другая возможная идентификация ряда А как
стационарного процесса порядка A,0,1). Выборочные автокор-
автокорреляции и соответствующие начальные оценки параметров равны
при этом:
г, = 0,57, г2 = 0,50, ft » 0,87, 9, ~ 0,48.
Эта идентификация дает приближенную модель порядка A,0, 1):
A - 0,9В) zt = (l-0,5В) at,
в то время как ранее идентифицированная модель порядка
@, 1, 1), приведенная в табл. 6.5, имела вид
A- В) 2, = A-0,55) а,.
Мы видим, что опять альтернативные модели очень близки.
Более общий метод получения начальных оценок параметров
для смешанного процесса авторегрессии — скользящего среднего
приведен в приложении П6.2.
Взаимная компенсация операторов авторегрессии и скользя-
скользящего среднего. Альтернативные модели, идентифицированные
выше, на самом деле еще более похожи, чем это кажется. Это
вызвано тем, что малые изменения оператора авторегрессии сме-
смешанной модели могут быть почти точно скомпенсированы соот-
соответствующими изменениями оператора скользящего среднего.
В частности, если мы имеем модель
Гл. б. Идентификация моделей
215
где 6 мало и положительно, мы можем получить
(](),
=={1 — (9 + б) В) at + члены с а,_2, а,_3, ... порядка б.
6.3.5. Выбор между стационарными и нестационарными
моделями в спорных случаях
Произвол в идентификации рядов А, С, D в табл. 6.4 скорее
кажущийся, чем фактический. Он возникает во всех случаях,
когда корни ф(В)=0 приближаются к единице. В этих ситуа-
ситуациях не имеет существенного значения, включен ли корень,
близкий к единице, в Ф(В) или добавлена еще одна разность,
соответствующая единичному корню. Более точная оценка про-
проводится при помощи оценочных процедур, описанных в гл. 7;
однако необходимо помнить следующее.
1) По временным рядам неизбежно ограниченной длины ни-
никогда не удается доказать, что корень оператора авторегрессии
точно равен единице.
2) Не существует, конечно, резкого перехода от стационар-
стационарного поведения ряда к нестационарному. Это можно понять, рас-
рассматривая поведение простой смешанной модели
Ряды, генерируемые такими моделями, ведут себя все более не-
нестационарно по мере увеличения ф\ до единицы. Например, ряд
с 0i = 0,99 может отходить от своего среднего ц и не возвра-
возвращаться к нему на очень длительные периоды времени. Это вы-
выглядит так, как будто «притяжение», действующее на члены
ряда со стороны среднего значения, становится по мере прибли-
приближения <j>i к 1 все меньше и меньше, и, наконец, когда ф\ = 1,
ц, полностью перестает влиять на поведение ряда.
В спорных случаях некоторыми преимуществами может об-
обладать использование нестационарных моделей (например, если
оценка ф\ близка к единице, принятие ф\ равным единице). Это,
в частности, верно в задачах прогнозирования и регулирования.
Когда фх близко к единице, мы фактически не знаем, имеет ли
среднее значение ряда какой-либо смысл или нет. Следователь-
Следовательно, более удобно использовать нестационарную модель, которая
не содержит среднего значения ц. Если мы будем использовать
такую модель, прогнозы будущего поведения не будут ни в ка-
какой степени зависеть от выборочного среднего, найденного по
предыдущему периоду, которое может не иметь никакого отно-
отношения к будущему уровню ряда,

216
Часть II Построение стохастических моделей
Для сравнения с более эффективными методами оценивания,
описанными в гл. 7, интересно понять, какая дополнительная
информация о модели может быть извлечена на этапе идентифи-
идентификации. Мы уже показали, как находить начальные оценки пара-
параметров (ф, 8) в модели АРСС, идентифицированной для соот-
соответствующего разностного ряда wt = Vdzt. Чтобы завершить
описание, мы покажем теперь, как получить предварительные
оценки остаточной дисперсии сг2 и, если процесс стационарен,
предварительную оценку постоянного члена в модели.
6.3.6. Начальные оценки остаточной дисперсии
Начальная оценка остаточной дисперсии может быть полу-
получена подстановкой выборочной оценки с0 вместо Yo b выражения
из гл. 3. Так, подстановкой в C.2.8) можно получить начальную
оценку ст2 для процесса АР:
д1 = со 0 ~ f 1', ~Ф2г2- ... - Ф/р). F.3.11)
Аналогично из C.3.3) получаем начальную оценку для процесса
СС
К= ¦ , Д2,С° г*Г- F-3.12)
Выражение для оценки смешанного процесса более сложно, наи-
наиболее простой способ ее получения описан в приложении П6.2.
Для практически важного процесса АРССA, 1) она принимает
вид (см. 3.4.7)
""¦2
б2а = ~_ '- . с0. F.3.13)
Например, рассмотрим модель A,0,1), идентифицированную
для ряда А. Используя F.3.13) с fi = 0,87; §i =0,48 и с0 =
= 0,1586, получаем выборочную оценку
6° = 1 +@,48)*-2 @,87) @,48) °' *586 = °'098-
6.3.7. Приближенная стандартная ошибка для w
Общий процесс АРПСС, для которого среднее значение nw
ряда wt = S/dzt не обязательно равняется нулю, может быть
записан любым из трех способов:
B)at, F.3.14)
)at, F.3.15)
-I), F.3.16)
Гл 6 Идентификация моделей
217
где
A-в,-в,
1 — 0] — 02 — ••• — Фр
1 — ф —
Отсюда, если 1—ф\—ф%— ... — Фр Ф 0 и 1—9i — 82 — ...
... — 9g ф 0, из (х№ = 0 следует, что 90 = 0 и что | = 0. В об-
общем случае, когда d =0, |xz может быть и не равным нулю. Рас-
Рассмотрим эвентуальную функцию прогноза, связанную с общей
моделью F.3.14), в случае, когда d >¦ 0. При (xw = 0 эта функ-
функция прогноза уже содержит настраиваемую полиномиальную
компоненту степени d—1. Когда допускается ненулевое \iw,
в эту функцию вводится фиксированный полиномиальный член
степени d. Например, если d = 2 и (г Ф 0, функция прогноза
zt(l) включает квадратичную компоненту от /, коэффициент ко-
которой фиксирован и не подстраивается к ряду. Поскольку такие
модели при d > 0 часто неприемлемы, гипотеза, что \iw = 0, во
многих случаях не будет противоречить данным. Поэтому мы
предполагаем обычно \xw = 0, если не имеется каких-либо ука-
указаний на обратное.
На этом идентификационном этапе построения модели ука-
указание, нужно ли принять (хю равным нулю или нет, можно полу-
получить из сравнения w = Zw/n с его приближенной стандартной
ошибкой. Если имеется (п — d) разностей, то
21
а2 (Щ = л-'уо 23 Pi = Я 21 Y/.
т. е.
аг(т) = п у (I), F.3.17)
где у (В) —это производящая функция автоковариации, опреде-
определенная в C.1.10), и y@—ее значение при В = В~1 = 1.
В качестве примера рассмотрим процесс A, d, 0):
с wt = S/dzt. Из C.1.11) получаем
так что
Но 03 = 0^A -~ Ф2), так что
а2(ш) = -~
1-
П A-0)
П 1 —0

218
Часть II Построение стохастических моделей
Величины ст^и <? оцениваются соответственно по с0 и п, как
определено формулами B.1.9) и B.1.10). Отсюда для процесса
A, d, 0) искомая стандартная ошибка выражается как
Этим способом можно получить выражения для a(w), приведен-
приведенные в табл. 6.6.
Таблица 6.6
Приближенная стандартная ошибка w, где wt — 4dzt и zt —
процесс АРПСС (р, d, q)
0. d, 0)
f С О + г,) у/
I яО-г.) J
@, d, 1)
Со A + 2г.) у/,
» J
B, d, 0)
@, d, 2)
( пA—г,)A —г,)
2r, + 2r2) VA
пробная идентификация моделей А — F. В табл. 6.7 дана
сводка моделей, пробно идентифицированных по рядам А — F,
вместе с предварительными оценками параметров. Эти модели
используются как начальные приближения в более эффективных
методах оценивания, описываемых в гл. 7.
6.4. МНОГОЗНАЧНОСТЬ МОДЕЛЕЙ
6.4.1. Многозначность моделей авторегрессии — скользящего
среднего
В предположении о нормальности процесса знание первого и
второго моментов распределения вероятностей дает пблное зна-
знание распределения. В частности, если известны средние значения
процесса wt — Vdzt и его автоковариационная функция, вероят-
вероятностная структура tat полностью определена. Покажем теперь,
что хотя эта единственная вероятностная структура может быть
представлена множеством линейных моделей, тем не менее един-
Гл 6 Идентификация моделей
219
ственность модели достигается при введении соответствующих
ограничений, обеспечивающих стационарность и обратимость.
Положим, что wt имеет производящую функцию ковариаций
у (В) и представимо линейной моделью
ф(В)ьо1 = в(В)а(, F.4.1)
где нули ф(В) и 0(В) лежат вне единичного круга. Тогда эта
линейная модель может также быть представлена в виде
U
^Rd - H,B)at,
F.4.2)
где Gr' —корни ф(В) — 0 и Н, ' — корни Э(В) = 0; Gu H} ле-
лежат вне единичного круга. Пользуясь C.1.11), получим выра-
выражение для производящей функции ковариаций w
У (В) = П A -
1
A -
П A - Н,В)A ~ H,F)al
1
Многозначность в выборе параметров скользящего среднего.
Так как
A - Н,В)A - Н,Р) = #/2A - HJlB){\ - HJlF),
отсюда следует, что любая из стохастических моделей
может иметь ту же производящую функцию ковариаций при
надлежащем выборе константы k. В приведенных выше рассуж-
рассуждениях предполагалось, что для комплексных корней будут
взяты обратные значения каждого из членов сопряженной пары.
Однако, если действительный корень Н лежит внутри единич-
единичного круга, #-' будет лежать вне его, а если комплексная пара
Я] и #2 лежит внутри, то пара Н\~1 и Яг лежит вне единич-
единичного круга. Отсюда следует, что существует только одна ста-
стационарная обратимая модель вида F.4.2), имеющая данную ав-
автоковариационную функцию.
Возвратное представление. Заметим, что у (В) не изменится,
если в F.4.2) заменить A — GtB) на A — G%F) или {\—Н3В)
на A — HjF). Отсюда все стохастические модели
имеют идентичную ковариационную структуру. Однако пред-
представления моделей, содержащие оператор B~l = F, обращаются

Гл. 6. Идентификация моделей
221
V
Идентифицированная модель
ii
3
Степень
разности
Ряд
0,098
0,107
7
о"
00
о"
1
а
|7
[|
рТ 1
оо а"
п
0,1586
0,1364
17,06±0,10
0,002 ±0,011
о —
<
52,2
7
а"
о>
о
о"
1
а
n"
52,54
—0,28±0,41
-
0,019
0,020
I
а
о
о
^ 1
II а
^°"
t I
0,0532
0,0198
—0,035 ±0,047
—0,003 ±0,008
— см
и
0,093
0,096
а
см _
ц
7°
N 1
со ^
оо а
и
рГ>
0,3620
0,0965
9,13±0,04
0,004±0,017
о —
Q
а
со
ОТ 00
— о'
N рТ
со м*
СО h~
о" о"
I 7
<М [^
1 1
1382,2
1382,2
46,9 ±5 4
46,9±5,4
о о
Щ
115
а
со
00
ю
1
т
р?
00
о
1
7
о"
139,8
I
о
к будущим w и (или) к будущим а. Следовательно, хотя суще-
существуют стационарные и обратимые представления, в которых wt
выражено через будущие w и а, имеется только одно представ-
представление F.4.2), связывающее wt целиком только с прошлым ряда.
Практически важную форму представления модели получим
(хотя это и кажется несколько странным), заменив в F.4.1)
все В на F, т. е.
где et — последовательность независимо распределенных случай-
случайных переменных, имеющих нулевое среднее значение и диспер-
дисперсию о2е = а2а. Это означает, что существует стационарное обра-
обратимое представление, в котором wt выражено целиком через
будущие w и е. Мы будем называть его возвратным представле-
представлением или просто возвратным процессом.
Уравнение F.4.2) не является наиболее общей формой ста-
стационарной обратимой линейной модели, имеющей производящую
функцию ковариации \(В). Например, обе части F.4.2) могут
быть умножены на любой множитель A — QB). Отсюда про-
процесс
имеет ту же ковариационную структуру, что и F.4.2). Этот факт
не создает особых трудностей при идентификации, так как мы,
естественно, будем стремиться выбрать простейшее представле-
представление. Но в гл. 7 мы увидим, что нужно остерегаться возможности
появления одинаковых множителей при подгонке процессов.
Итак, мы приходим к заключению, что стационарная обра-
обратимая модель, в которой текущее значение wt выражено только
через прошлое, и не содержащая одинаковых множителей, оп-
определяется своей ковариационной структурой единственным об-
образом.
Четкое понимание многозначности модели важно по ряду
причин.
1) Как следует из проведенных рассуждений, ковариацион-
ковариационная функция может быть логически обоснованно использована
для идентификации линейной стационарной обратимой модели,
выражающей wt через прошлое процесса.
2) Выяснена природа многозначности решений для пара-
параметров скользящего среднего, полученных приравниванием- мо-
моментов.
3) Возвратный процесс

222
Часть II. Построение стохастических моделей
полученный заменой В на F в линейной модели, полезен при
оценке значения ряда в моменты времени, предшествующие пер-
первому наблюдению.
Рассмотрим теперь B) и C) более подробно.
6.4.2. Многозначные решения при оценке параметров
скользящего среднего методом моментов
При оценке в разд. 3.3 q параметров 9ь 02 Qq в модели
СС приравниванием ковариаций мы нашли, что решение неод-
неоднозначно. Каждой комбинации корней соответствует линейное
представление, но только одна такая комбинация дает обрати-
обратимое представление через прошлое процесса.
Например, рассмотрим процесс ССA) для wt
и положим, что yo(w) и Yi (w) известны, и мы хотим найти Э]
2
и а2а
Так как
то
— Yo/Yi = 01
и если @i = O, о2а — о) — решение для данных Yo и Yi> T0 имеется
решение @i = 8~\ аа = 9 а ). Тогда очевидно, что для данных Yo
и Yi существует пара возможных процессов
wt = (l — вВ) at
и
wt = (l— Q~lB)at F.4.4)
с а2 = ст202. Если — 1 < 0 < 1, то F.4.4) не является обратимым
представлением.
Однако модель можно представить как
wt = {(l — 0~'б)(- QP)) (— B~lBat).
Тогда после подстановки
модель принимает вид
wt = (l-BF)et, F.4.5)
где et имеет ту же дисперсию, что и at. Поэтому F.4.5) — это
возвратный процесс, взаимный прямому процессу
щ = [\— 9В) at. F.4.6)
Гл. 6. Идентификация моделей
223
Точно так же, как импульс at в F.4.6) представим в виде схо-
сходящейся суммы текущего и предыдущих значений w
импульс et в F.4.5) представим как сходящиеся суммы теку-
текущего и будущих значений w
Следовательно, корень 0~' действительно создает обратимый
процесс, но только если допустимо представление импульса et
через будущие значения wt.
Область обратимости, показанная в табл. 6.1, ограничивает
допустимые значения параметров при условии, что мы выра-
выражаем импульсы в терминах прошлого.
6.4.3. Использование возвратного процесса для определения
начальных значений
Положим, что нам известен временной ряд wu w2, ..., шп,
представляющий процесс
Ф (В) wt = 0 (В) at.
F.4.7)
В гл. 7 мы встретимся с задачами, где понадобятся оценки зна-
значений w0, W-i, w-2 и т. д. ряда в моменты времени, предшество-
предшествовавшие первому- наблюдению. Эта необходимость обусловлена
тем, что для определенных рекуррентных расчетов при оценках
параметров модели нужны начальные значения. Пусть мы хотим
оценить W-i по данным W\, ..., wn. Обсуждение в разд. 6.4.1 по-
показало, что вероятностная структура шь ..., wn может быть
объяснена как прямой моделью F.4.7), так и возвратной мо-
моделью:
1 = В(Р)е{. F.4.8)
Значение W-i имеет точно такие же вероятностные соотно-
соотношения с последовательностью W\, до2, . • •. wn, как значение wn+i+i
с последовательностью да„, wn_i, а>„_2, .... W\. Поэтому, чтобы
оценить значение в момент времени, на (/+1) опережающий
начало наблюдений, мы можем сначала рассмотреть, какова бу-
будет оптимальная оценка или прогноз на / + 1 шагов после окон-
окончания ряда, и затем применить эту процедуру к обращенному
ряду. Другими словами, мы «прогнозируем» обращенные ряды.
Мы называем это «прогнозированием назад».

224
Часть II. Построение стохастических моделей
Гл. 6. Идентификация моделей
22S
ПРИЛОЖЕНИЕ П6.1. СРЕДНЕЕ ЗНАЧЕНИЕ
ВЫБОРОЧНОЙ АВТОКОРРЕЛЯЦИОННОЙ ФУНКЦИИ
НЕСТАЦИОНАРНОГО ПРОЦЕССА
Пусть ряд из N наблюдений z\, z2,
стационарным процессом @, 1, 1)
zN генерируется не-
и вычисляются выборочные автокорреляции rh, где
S (*«-*) (**+*-*)
г — k —
k ~ со ~
N
В предположении, что с распределены нормально, rh = сй/с0
распределено независимо от с0> т. е. *)
Следовательно,
Е Ы = Е Ы1Е [cQ] =
zt - z) (zt+k - z)\ IS E [(zt - zf].
После очевидных, но громоздких алгебраических преобразований
находим
~бJ (Af2 - 1 + 2k* - AkN) - 66}
Для 9, близких к нулю, Е [rh] близко к единице, но для больших
значений 9 оно может быть значительно меньше единицы даже
при малых k. Рис. П6.1 иллюстрирует этот факт; на нем пока-
показано Е [rk] для 9 = 0,8 и N = 100' и 200 Хотя, как и полагается
для нестационарного процесса, математические ожидания не
затухают достаточно быстро, видно, что они не приближаются
к единице даже при очень малых задержках.
Подобный эффект может быть замечен всегда, когда пара-
параметры приближаются к значениям, при которых сокращение оди-
одинаковых множителей в обеих частях уравнения, описывающего
модель, приводит к стационарному процессу. Так, в примере,
приведенном выше, мы можем представить модель как
*) Это предположение является приближенным. В результате формулу
Щ6.1.1) и последующие выводы нельзя считать вполне обоснованными,—
Прим. ред,
где б = 0,2. Когда 6 стремится к нулю, поведение процесса бу-
будет все больше походить на поведение белого шума zt = at, для
которого автокорреляционная функция равна нулю для задер-
задержек k >¦ 0.
N=100
1,0
I
0,5
ЕЮ
0
N=200
I 0,5
I lllllllMii
ю
15
20
5
ни
10
15
20
Рис. П6 1. Математические ожидания величин г& для ряда, генери-
генерированного моделью Vzi = A—0,8В)а(.
ПРИЛОЖЕНИЕ П6.2. ОБЩИЙ МЕТОД ПОЛУЧЕНИЯ
НАЧАЛЬНЫХ ОЦЕНОК ПАРАМЕТРОВ СМЕШАННОГО
ПРОЦЕССА АВТОРЕГРЕССИИ - СКОЛЬЗЯЩЕГО
СРЕДНЕГО
В разд. 6.3 было показано, как получить начальные оценки
для параметров простых моделей АРСС. В частности, в конце
книги в сборнике таблиц и диаграмм приведены диаграммы В,
С и D, позволяющие быстро получить начальные оценки для
процессов АРB), ССB) и АРССA, 1). В настоящем приложе-
приложении будет описан пригодный для программирования общий ме-
метод получения начальных оценок процесса АРСС(р,q): $(B)wt=:
= Q(B)at. Соответствующая программа для ЭВМ описана под
заголовком «Программа 2» в сборнике программ в конце этой
книги.
В общем случае вычисление начальных оценок процесса
АРСС(р, q) основано на первых р-\-q-\-\ автоковариациях
с) U — 0. 1. • • •» (р + У)] от wt = Vdzt и проводится в 3 этапа.
1) Параметры авторегрессии фи ф2, ..., фР оцениваются по
автоковариациям cq-p+u ..., cg+1, cg+2, ..., cq+p.
2) На базе оценок^, найденных в A), вычисляются первые
q-\- 1 автоковариации с', (/ = 0, 1, ..., q) полученного ряда

226
Часть II. Построение стохастических моделей
Гл. 6. Идентификация моделей
227
3) Наконец, автоковариации с'о, с\, ..., с'ц используются
при итеративном расчете начальных оценок параметров сколь-
скользящего среднего 8ь 92 9, и остаточной дисперсии а2а.
Начальные оценки параметров авторегрессии. Пользуясь ре-
результатом C.4.3), можно получить начальные оценки парамет-
параметров авторегрессии, решив р линейных уравнений
= Ч>\С„
q—p + l'
(П6.2.1)
cq+p
Автоковариации найденного процесса скользящего среднего.
Обозначим теперь да? = ^> (B)wt и будем анализировать этот
процесс как процесс скользящего среднего
w't = B(B)at. (П6.2.2
Прежде всего необходимо выразить автоковариации с} процесса
w't через автоковариации с} процесса wt. Можно показать, что
<1, (П6.2.3)
где
0, 1,
cJ+t
Начальные оценки параметров скользящего среднего. Поль-
Пользуясь оценками автоковариации с',, можно получить начальные
оценки параметров скользящего среднего в найденном процессе
(П6.2.2) при помощи какого-либо одного из двух итеративных
процессов.
1. Линейно-сходящийся процесс. Из выражений
Для автоковариационной функции процесса CC(q), приведен-
приведенных в разд. 3.3.2, можно найти оценки параметров а2а, Qq,
9g_i, ..., 9i в том точно порядке, как здесь указано, при помощи
итераций
9/ — — I — —
— ®2®i+2 — ... — Qq-
(П6.2.4)
с условием, что 90 == 0. Параметры 9ь 92, ..., % приравниваются
нулю в начале итеративной процедуры; значения 9/ и а2, ис-
используемые в любом цикле вычисления, — это последние из до-
доступных оценок этих величин. Например, в случае q = 2 урав-
уравнения (П6.2.4) имеют вид
•ef+ef'
е, —D-
•е,е.
2. Квадратически сходящийся процесс. Алгоритм Ньютона —
Рафсона, обладающий более быстрой сходимостью, чем ме-
метод A), был предложен Вилсоном [55]. Обозначим х' — (то, Х\,...
».., xq), где
To = 0i е/ = -т//то. /=1,2,..., q. (П6.2.5)
Тогда, если х' — оценка т, полученная в результате t-й итерации,
новые значения в результате (t + 1)-й итерации будут получены
из формулы
т'+1==т* —(Т*)**. (П6.2.6)
где
? = (/о. /ь • • •. /,), // =
i=0
т, т2
Т2 Т3
х„ О
я °
О
0
0
0
т0 т, т2
0 т0 т,
0 0 т0
о о о
о
Имея значения т для каждой итерации, можно получить значе-
значения параметров из (П6.2.5).
Пример. Рассмотрим оценивание ф и 9 в модели АРСС
используя значения с0 = 1,25, Ci = 0,50, с2 = 0,40, соответствую-
соответствующие процессу с ф = 0,8, 6 = 0,5 и о2—1,000. Оценка ф полу-

228
Часть //. Построение стохастических моделей
Таблица П6.1
Сходимость предварительных оценок а~а и В{
Итерация
0
I
2
3
4
б
6
7
8
Для
процесса СС A)
Метод A)
«?
1,250
1,077
1,029
1,011
1,004
1,002
1,001
1,000
е
0,000
0,400
0,464
0,486
0,494
0,498
0,499
0,500
0,500
Метод B)
°1
1,250
2,250
1,210
1,012
1,000
—
—
—
—
в
0,0000
0,667
0,545
0,503
0,500
—
—
—
—
чена подстановкой р = q = 1 в (П6.2.1), в результате которой
—¦ с2 = фсь
так что ф = 0,8. Отсюда, пользуясь (П6.2.3), находим, что две
первые ковариации ряда
равны
Со =
с[ = A + Ф2) Ъ-ф (с2 + с,,) = - 0,50.
Подставляя эти значения в (П6.2.4), находим формулы, на ко-
которых основан итеративный процесс A):
1,25
Аналогично, подставляя их в (П6.2.6), получаем формулы, на
которых основан итеративный процесс B):
где
Гл. 6. Идентификация моделей
229
Дисперсия а\ и 9 могут быть теперь вычислены по фор-
формулам а2а = х%, 9 = — т,/т0.
Табл. П6.1 показывает, как сходятся итерации методами (I)
и B). Программа 2 в сборнике программ в конце книги может
быть использована для вычисления начальных оценок парамет-
параметров любого процесса АРПСС(р, d, q).
ПРИЛОЖЕНИЕ П6.3. ПРЯМОЙ И ВОЗВРАТНЫЙ
ПРОЦЕССЫ ПСС ПОРЯДКА @, 1, 1)
В разд. 6.4 мы встретились с прямой и возвратной моделями
стационарных процессов. Интересно также рассмотреть соответ-
соответствующие двойственные модели нестационарных процессов. В ка-
качестве примера рассмотрим процесс ПСС@, 1, 1). Пусть at и
et — последовательности случайного шума с дисперсией а2а = а\.
Процессы скользящего среднего
wt~{\—BB)at, щ = (\-
имеют одинаковые автоковариации. После введения обозначе-
обозначения е< = — et-i можно представить возвратный процесс как
Положим, что фактически делаются наблюдения zt, первые раз-
разности которых образуют wt, так что
Тогда можно выразить модель через z в одной из двух форм
следующим образом:
— B)zt = (l —BB)at,
_ 1 — В __
¦~ 1 - ев Zt ~
1 -F
i-ев
—у -r=w-]zt>
et=zt-(l-B)(zt+l +
+ Qzt+2 + B2zt+3 + .

230
Часть //. Построение стохастических моделей
где zt-\ — возвратное экспо-
экспоненциально взвешенное сред-
среднее, использующее значения г
до времени t. Следовательно,
где zt+\ — прямое экспонен-
экспоненциально взвешенное среднее,
использующее значения z
после времени L Следова-
Следовательно,
< <
zt+i — z+t2== (' 9) et+u
Положим, что имеются значения z в обе стороны от текущего
момента t, ковариации разностей которых удовлетворяют F.4.3).
,**>
\*
>2
<3
взаимная
нодориационноя
функция
7aeW=E[atet*n]
-5-4-3-2 -!
Рис. П6.2. Прямые и обратные экспоненциально взвешенные скользящие
средние (ЭВСС).
/ — ряд, генерированный процессом @,1,1), 2 — возвратные ЭВСС, 3 — пря-
прямые ЭВСС.
Из этого ряда можно построить два множества случайных ве-
величин
t-2y at-l at>
at+2>
t-u et, et+i, et+2, ...
где at, например, — разность между zt и zt~u возвратным ЭВСС,
вычисленным по предыдущим значениям Zt-i, zt-2, zt-z в то
<
время как et — разность между zt и zt+u прямым ЭВСС, вычис-
вычисленным по значениям zt+ъ zt+% г+3, ....
Гл. 6. Идентификация моделей
231
Связь между а и е. Для получения связи между а и е можно
написать
Наоборот,
(П6.3.1)
(П6.3.2)
где et и at — экспоненциально взвешенные скользящие средние
(ЭВСС), определенные ранее.
Легко показать, например, что если а — это последователь-
последовательность независимых случайных величин с нулевым средним зна-
значением и дисперсией а2, то е, генерируемые по ним согласно
(П6.3.2), обладают теми же свойствами.
Хотя между собой е независимы, а и е взаимно коррелиро-
ваны. Используя (П6.3.1), находим
_(i_92)e-(fe+V, k<o,
Эсг2, k = 0,
О, k > 0.
Возникающая ситуация иллюстрируется рис. П6.2. Вверху ри-
рисунка показана часть наблюдений процесса @, 1, 1) с 9 = 0,5,
соответствующие возвратные ЭВСС и получающиеся а. Ниже
показаны тот же ряд с прямыми ЭВСС и получающиеся е. Внизу
показана взаимная ковариационная функция yae(k) процессов
at и et+h-

ГЛАВА
Оценивание модели
После того как процесс идентификации привел к пробному
варианту модели, нам необходимо получить эффективные оцен-
оценки параметров. После этого подогнанная модель будет подверг-
подвергнута диагностической проверке и тестам на качество подгонки.
Как указывал Фишер, для того чтобы критерии согласия были
подходящими, необходимо эффективно использовать данные в
процессе подгонки. Если это не было сделано, неадекватность
найденной модели может быть вызвана неэффективностью про-
процедуры подгонки, а не тем, что неадекватен вид модели. Эта
глава содержит общее рассмотрение методов правдоподобия и
Байеса для оценок параметров стохастической модели. Всюду
в этой главе полужирные буквы обозначают векторы и матрицы.
Так, X = {xi3} — матрица с элементом хц в i-й строке и /-м
столбце и X' — транспонированная матрица.
7.1. ИССЛЕДОВАНИЕ ФУНКЦИЙ ПРАВДОПОДОБИЯ
И СУММЫ КВАДРАТОВ
7.1.1. Функция правдоподобия
Пусть мы имеем выборку из N наблюдений г, которую мы
считаем реализацией W-мерной случайной величины, для кото-
которой известное вероятностное распределение p(z||) зависит от
неизвестного 'параметра |. Вектор | мы используем для обозна-
обозначения общего множества параметров, и, в частности, он может
относиться к р + q + 1 параметрам (ф, 6, о) модели АРПСС.
До того как появились данные, p(z||) связывает плотность
вероятности с каждым конкретным выходом z эксперимента для
фиксированного |. После того как данные появились, наступает
момент для рассмотрения различных возможных значений |,
которые могли бы привести к заданному множеству г фактиче-
фактически полученных наблюдений. Для этих целей подходит функция
правдоподобия L(||z), которая имеет ту же форму, что и p(z\%),
но в которой теперь г зафиксировано, а | переменные. Обычно
важны только относительные значения L(||z), и поэтому функ-
функцию правдоподобия часто считают содержащей произвольную
мультипликативную константу.
Гл. 7. Оценивание модели
233
Часто удобнее работать с логарифмической функцией правдо-
правдоподобия In L(l\z) = l(l\z), содержащей произвольную аддитив-
аддитивную константу. Одна из причин, по которым функция правдопо-
правдоподобия имеет фундаментальное значение в теории оценивания,
связана с «принципом правдоподобия», выдвинутым с разных
позиций Фишером [56], Бернаром [57] и Бирнбаумом [58]. Этот
принцип гласит (при условии правильности предполагаемой мо-
модели): все, что данные могут сказать о параметрах модели,
содержится в функции правдоподобия, а все другие аспекты
данных не имеют отношения к делу. При байесовском подходе
функция правдоподобия также важна, так как она является той
компонентой апостериорного распределения параметров, кото-
которая зависит от данных.
Для полного понимания ситуации с оцениванием необходимо
проделать подробное аналитическое и графическое изучение
функции правдоподобия; в байесовском подходе мы должны
изучить апостериорное распределение параметров, которое в
рассматриваемых ситуациях определяется в основном правдопо-
правдоподобием. Во многих примерах с выборками средних и больших
размеров логарифмическая функция правдоподобия унимодаль-
унимодальна и в достаточно большой окрестности максимума может быть
аппроксимирована квадратичной функцией. Значения парамет-
параметров, максимизирующие функцию правдоподобия или, что экви-
эквивалентно, логарифмическую функцию правдоподобия, назы-
называются оценками максимального правдоподобия (МП).
Вторые производные логарифмической функции правдоподо-
правдоподобия дают меру «растянутости» функции правдоподобия и могут
использоваться для вычисления приближенных стандартных
ошибок оценок. Предельные свойства оценок максимального
правдоподобия обычно доказываются для независимых наблю-
наблюдений [59]. Но, как показано Уиттлом [87], они могут быть обоб-
обобщены на стационарные временные ряды.
В последующем изложении мы будем исходить из того, что
читатель знаком с некоторыми фундаментальными понятиями
теории оценивания. Приложения П7.1 и П7.2 содержат сводки
наиболее существенных результатов теории нормального рас-
распределения и линейного метода наименьших квадратов, необхо-
необходимых в этой главе. Некоторые из важных предшествующих ра-
работ по оценке параметров моделей временных рядов можно
найти в [34, 78, 88, 89, 93—95, 97—101].
7.1.2. Условное правдоподобие для процесса АРПСС
Пусть N = п-\- d исходных наблюдений z образуют времен-
временной ряд, который мы обозначим z-d+u • • •, z0, zu z%, ¦ ¦ ¦, zn.
Предположим, что этот ряд генерирован моделью АРПСС

234
Часть II Построение стохастических моделей
Гл. 7. Оценивание модели
235
порядка (p,d,q). По этим наблюдениям можно генерировать ряд
w из п = N — d разностей wu w2, ..., wn, где wt = S/dzt. От-
Отсюда общая задача подгонки параметров ф и 8 модели АРПСС
F.1.1) эквивалентна задаче подгонки к w стационарной сме-
смешанной модели АРСС(р, q), которую можно представить в виде
+ 62а,_2+ ... -\-dqat-4, G.1.1)
где wt = Vdzt и wt = wt — ц с E[wt] = |л.
Для d > 0 часто разумно предположить, что \х = 0 (см. об-
обсуждение этого вопроса в разд. 4.1.3, 6.2.3, 6.3.5 и 6.3.7). Когда
это не оправдано, мы полагаем, что |я можно заменить на
п
w = 2) wt/n. Для выборок такого объема, которые обычно рас-
рассматриваются в анализе временных рядов, эта аппроксимация
адекватна. Однако, если это нужно, можно включить |л в число
оцениваемых параметров. Описываемые здесь методики позво-
позволяют оценивать |л одновременно с другими параметрами.
Значения w не могут быть сразу подставлены в G.1.1) для
вычисления а из-за трудностей с начальными условиями раз-
разностного уравнения. Однако если мы предположим, что р зна-
значений w« ряда w и q значений а» ряда а даны до начала наблю-
наблюденного ряда w, то значения аи а2, ..., ап, обусловленные этим
выбором, можно вычислить по G.1.1).
Следовательно, для любого данного набора параметров
(ф, 8) и начальных значений (w*, а») мы можем последова-
последовательно вычислить множество значений аг{ф, 6|w*, a», w) для
t = 1, 2, ..., п. Далее, в предположении, что а распределены
по нормальному закону, получаем
p(av a2,..., ап) до-
довели дано множество величин w, то условная логарифмическая
функция правдоподобия для параметров (ф, 8, аа) при задан-
заданных (w*, а*) будет равна
/ (eS, 8, (т„) = —и In о„ t-^—, G.1.2)
куда, в согласии со сказанным ранее, не включена аддитивная
константа и где
G.1.3)
они зависят от выбора начальных значений. Заметим, что в
условное правдоподобие /» данные входят только через услов-
условную сумму квадратов. Очевидно, что изолинии функции /* для
любого заданного значения аа в пространстве (ф, 8, аа) совпа-
совпадают с изолиниями S*, т. е. оценки максимального правдоподо-
правдоподобия те же, что и оценки наименьших квадратов. Вообще говоря,
мы можем в предположении о нормальности изучать поведение
условного правдоподобия, исследуя условную сумму квадратов.
В частности, для любого фиксированного аа /* — линейная функ-
функция 5».
7.1.3. Выбор начальных значений для вычисления условного
правдоподобия
Рассмотрим вкратце способ расчета безусловного правдопо-
правдоподобия, которое в сущности и необходимо для оценивания пара-
параметров.
В ряде случаев, когда п не мало, достаточно хорошим при-
приближением к безусловной функции правдоподобия является
условная функция правдоподобия, в которой вместо элементов
w, и а, в G.1.3) подставлены подходящие численные значения.
Один из способов — приравнять элементы w» и а» их безуслов-
безусловным математическим ожиданиям. Безусловные математические
ожидания элементов а» — нули, и если модель не содержит де-
детерминированной части (в частности, при |j. = 0), безусловные
математические ожидания w, также будут равны нулю*).
Однако это приближение оказывается плохим, если некоторые
корни ф(В) = 0 близки к единичной окружности, т. е. процесс
приближается к нестационарному. В этом случае начальное зна-
значение данных Wi может значительно отклоняться от его безус-
безусловного математического ожидания, и введение начальных зна-
значений этого типа создаст переходный процесс большой ампли-
амплитуды, который будет медленно затухать. При подгонке модели
порядка (р, d, q) мы будем иногда пользоваться более надеж-
надежной процедурой аппроксимации. Она сводится к вычислению а,
начиная с ар+и и приравниванию предварительно предыдущих а
нулю. Таким образом, фактически имеющиеся значения полно-
полностью использованы для вычисления w.
Этим способом мы можем вычислить сумму квадратов только
для п — р = N — р — d значений ряда аи но для длинного ряда
небольшая потеря информации несущественна. В случаях когда
авторегрессионных членов не имеется, две описанные методики
эквивалентны. Для сезонных рядов, рассмотренных в гл. 9,
Выше мы использовали звездочки как нижние индексы в функ-
функциях правдоподобия и суммы квадратов, чтобы подчеркнуть, что
*) Если более приемлемо предположение Е [wt]
подставить w вместо каждого из элементов w».
ф 0, мы можем

236
Часть //. Построение стохастических моделей
условная аппроксимация не дает удовлетворительных результа-
результатов, и вычисление безусловного правдоподобия особенно необ-
необходимо.
Проиллюстрируем теперь на простом примере рекуррентный
расчет условных сумм квадратов 5».
Вычисление условной суммы квадратов для процесса @,1,1).
Ряд В был пробно идентифицирован в табл. 6.4 как процесс
ПСС @,1,1)
т. е.
G.1.4)
где wt = Vz< и Е [wt] = 0. Нужно напомнить, что в гл. 6 была
получена предварительная оценка методом моментов, из кото-
которой следовало, что для этих данных 8 близко к нулю.
Вычисление нескольких первых а было проведено в табл. 7.1
для частного значения параметра 0 = 0,5. Элементы а вычис-
вычислялись рекуррентным образом по формуле at = Wt + §,bat-\
с точностью до одного знака после запятой В соответствии со
сказанным выше, чтобы начать процесс вычислений, а0 прирав-
приравнивалось нулю. Это значение показано курсивом. Продолжая
вычисления указанным путем, мы нашли, что
368
S. @,5) = 2 at (В = 0,51 а0 = 0) = 27 694.
2
Рекуррентный расчет а для первых
ряда В при 8 = 0,5
Таблица 7.1
10 значений
t
0
1
2
3
4
5
6
7
8
9
zt
460
457
452
459
462
459
463
479
493
490
-3
-5
7
3
-3
4
16
14
-3
0
-3,0
—6,5
3,8
4,9
-0,6
3,7
17,8
22,9
8,4
Гл 7. Оценивание модели
237
Рекуррентный расчет особенно удобен для реализации на
ЭВМ. Перебирая значения 8 от —0,5 до +0,5 с шагом 0,1, мы
вычисляли значения условной суммы квадратов S»(8) (при
условии а0 = 0); результаты показаны в 3-й строке табл. 7.2.
Таблица 7.2
Сумма квадратов для модели Vz< = A—9В)я<, подгоняемой к ряду В
е
x = (i-e)
5* F)
S(9)
е
я = A —в)
5* (9)
5 (в)
-0,5
1,5
23 929
23 929
0,1
0,9
19 896
19 896
-0,4
1,4
21595
21594
0,2
0,8
20 851
20 849
-0,3
1,3
20222
20 222
0,3
0,7
22 315
22 315
-0,2
1,2
19483
19 483
0,4
0,6
24 471
24 478
-0,1
1,1
19 220
19 220
0,5
0,5
27 694
27 691
0,0
1,0
19 363
19 363
7.1.4. Безусловное правдоподобие; сумма квадратов;
оценки наименьших квадратов
В приложении П7.4 показано, что для N = n + d наблюде-
наблюдений, генерированных предполагаемой моделью АРПСС, безус-
безусловная логарифмическая функция правдоподобия имеет вид
^, G.1.5)
где 1{ф, 8) —функция ф ив. Безусловная сумма квадратов вы-
выражается как
, в)== 2]
t—— оо
G.1.6)
где [аг\ф, в, w] = Е[а{\ф, в, w] обозначает условное математи-
математическое ожидание at при фиксированных ф, 8 и w. В дальнейшем,
когда из контекста будет ясно, о чем идет речь, мы будем со-
сокращенно обозначать это условное ожидание [at].
Обычно f (ф, 8) значимо только при малых п. Для средних и
больших п в G.1.5) доминирует S(jS, 6)/2ог^,и поэтому изолинии
безусловной суммы квадратов в пространстве параметров (ф, 8)
Ьрактически совпадают с изолиниями функции правдоподобия и
логарифмической функции правдоподобия. Отсюда, в частности,
следует, что оценки параметров, полученные минимизацией суммы
квадратов G.1.6), которые мы называем оценками наимень-
наименьших квадратов, будут, как правило, очень близкими к оценкам

238
Часть П. Построение стохастических моделей
максимального правдоподобия. При байесовском подходе в
предположениях, рассмотренных в разд. 7.4, для всех процес-
процессов АР(р) и СС(<7) апостериорная плотность распределения по
существу есть функция только5(95, 8). Отсюда оценки наимень-
наименьших квадратов очень близки к оценкам, дающим максимум апо-
апостериорной плотности. Далее в этом разделе и в разд. 7.1.5 мы
главным образом будем заниматься расчетом, анализом и ис-
использованием безусловной суммы квадратов Э(ф, 0),определен-
0),определенной в G.1.6), и вычислением оценок наименьших квадратов.
При вычислении безусловной суммы квадратов [а] будем на-
находить по рекуррентной формуле, полученной из G.1.1) взятием
условных математических ожиданий от обеих частей. Предва-
Предварительный расчет в обратном направлении дает значения [w-j],
j = 0, 1, 2... (т. е. прогнозы назад), необходимые для начала
рекуррентных вычислений в прямом направлении.
Вычисление безусловной суммы квадратов для процесса
скользящего среднего. В качестве иллюстрации рассмотрим при-
пример биржевых цен акций IBM, используя опять 10 первых *)
значений ряда, приведенного в табл. 7.1. Для wt = S/zt в
разд. 6.4.3 было показано, что подгоняемая модель порядка
(О, 1, 1) может быть записана в прямой или в возвратной
форме:
wt = (\-QB)at, wt = (l
где |j, = E[wt] опять предполагается равным нулю. Отсюда мож-
можно записать
G.1.7)
G.1.8)
где [wt] = Wt для /= 1, 2, ..., п и является прогнозом wt
назад для t ^ 0. Эти два уравнения мы и используем в расче-
расчетах. Удобная схема вычислений показана в табл. 7.3.
Мы начинаем с внесения в таблицу известных величин. К ним
относятся
а) значения данных г0, г±, ..., z9, по которым мы можем вы-
вычислить первые разности ач, таг, ¦ ¦ ¦, wg;
б) значения [во], [e_i], ..., равные нулю, так как во, е_4, ...
распределены независимо от w;
в) значения [a_i], [a_2], ..., равные нулю, потому что для
любого процесса СС (q) a-q, a_g_b ... распределены независимо
от w. Однако следует помнить, что в общем случае [a0], [a_t], ...
..., [a_g+f] не равны нулю и должны быть получены прогнози-
прогнозированием назад. В этом примере таким путем получено [а0].
*) На практике, конечно, нельзя получить полезных оценок параметров
по столь малому числу наблюдений, как десять Мы используем это подмно-
подмножество данных просто дпя иллюстрации вычисления.
Г л 7. Оценивание модели
239
Таблица 73
Вычисление [а] по первым десяти значениям ряда В при 6 — 0,5
t
—1
0
1
2
3
4
5
6
7
8
9
zt
[458,4]
460
457
452
459
462
459
463
479
493
490
\at\
0
1,6
—2,2
-6,1
4,0
5,0
-0,5
3,8
17,9
23,0
8,5
0,5 [„,_,]
0
0
0,8
-1,1
-3,0
2,0
2,5
-0,2
1,9
9,0
11,5
[wt]
0
1,6
-3,0
-5,0
7,0
3,0
-3,0
4,0
16,0
14,0
-3,0
0
—1,6
-0,1
4,8
2,6
2,3
7,6
11,1
6,2
-1,5
0
Iе t)
0
0
—3,1
-0,2
9,6
5,3
4,6
15,1
22,2
12,5
-3,0
Начиная с конца ряда, используем G.1.7) для вычисления
[et] при t = 9, 8, 7, ... 1. Этот возвратный процесс начинается
при помощи той же аппроксимации, что описана ранее при вы-
вычислении условной суммы квадратов. В данном случае это при-
приводит к тому, что [ею] = 0. В общем эффект этой аппроксима-
аппроксимации состоит во внесении в систему переходного процесса. В силу
стационарности операторов ф(В) и 6(В) этот процесс для ряда
умеренной длины будет почти всегда пренебрежимо мал к мо-
моменту начала ряда и поэтому не повлияет на расчет а. Как мы
увидим далее, если необходимо, можно проконтролировать эф-
эффект этой аппроксимации в любом конкретном случае, проведя
второй итеративный цикл.
Далее, чтобы начать рекуррентное заполнение табл. 7.3, в
строку, соответствующую / = 9, мы вносим нуль (показан кур-
курсивом) в столбец 6 вместо неизвестной величины 0,5 [е10]. Затем,
пользуясь G.1.7), получаем
Ы = Ы + 0,5 [е10] = w9 + 0 = -3
н проставляем 0,5 [е9] = —1,5 в строке / = 8. Это позволяет нам
вычислить [е8] и т. д. В завершение получаем
т. е.
0 = [w0] -1,6,
что дает [w0] = 1,6 и, следовательно, [w-h] = 0, h = 1, 2, 3
Пользуясь G.1.8) при t = 0, получаем

240
Часть II Построение стохастических моделей
и можем продолжить вычисление вперед остающихся [а]. Срав-
Сравнение значений at в табл. 7.1 и 7.3 показывает, что в этом част-
частном примере переходный процесс, введенный изменением на-
начальной величины, не сказывается при t > 5. Вычисляя таким
образом члены всего ряда, находим безусловную сумму квадра-
квадратов
368
5 @,5) = 2 [а, | 0,5, w]2 = 27 691,
что для данного примера очень близко к значению условной
суммы S»@,5) = 27 694.
Безусловные суммы квадратов S@) для значений 8 между
—0,5 и +0,5 приведены в нижней строке табл. 7.2 и для этого
частного примера очень близки к значениям условных ^сумм
«•(в).
7.1.5. Общий способ вычисления безусловной суммы квадратов
В примере, приведенном выше, wt был процессом скользя-
скользящего среднего первого порядка с нулевым средним значением.
Оказалось, что все прогнозы для упреждений больше 1 равны
нулю, и, следовательно, только одно предварительное значение
(прогноз назад [w0] = 1,6) было необходимо для начала рекур-
рекуррентных вычислений. Для процесса скользящего среднего q-ro
порядка были бы необходимы q ненулевых предварительных
значений [w0], [w-i], ..., [wi-q]. Для оценки параметров авторе-
авторегрессии имеются специальные способы, которые мы рассмотрим
позже, в разд. 7.3.1. Однако в приложении П7.4 будет показано,
что описываемая здесь процедура позволяет вычислять безус-
безусловные суммы квадратов для любой модели АРПСС с любой
требуемой точностью аппроксимации.
Конкретнее, положим, что wt генерируются стационарной
прямой моделью
= в(В)<ь, G.1.9)
где Vdz4 = wt и wt = wt — [x. Тогда они с равным успехом
могли бы генерироваться возвратной моделью
j>(F)wt = Q{F)et. G.1.10)
Как й ранее, мы сначала используем G.1.10) для получения
прогнозов назад [й>-/\ф, 8, w]. Теоретически присутствие опе-
оператора авторегрессии обеспечивает бесконечно протяженный
ряд таких оценок Однако из-за стационарного характера этого
оператора на практике оценки [wt] в некоторый момент t = —Q
(где Q невелико) и для t < — Q практически равны нулю,
Г л 7 Оценивание модели
241
Тогда с достаточной точностью можно записать
= ф-1 (В) 8 (В) at=
2i
;=0
Q
/=о
Это означает, что первоначальный смешанный процесс может
быть заменен процессом скользящего среднего порядка Q, и
для этого можно использовать способ, описанный в разд. 7.1.4.
В общем двойной набор уравнений для вычисления условных
ожиданий [а*|^,в, w] получен взятием условных ожиданий от
обеих частей G.1.10) и G.1.9), т. е. из уравнений
] G.1.11)
находим прогнозы назад и затем из уравнений
G.1.12)
вычисляем [at]. Если мы найдем, что прогнозы для времен
упреждений, больших некоторого Q, становятся пренебрежимо
малыми, можно начинать рекуррентный расчет вперед по фор-
формулам
[е-,\ф, в, w] = 0, / = 0, 1, 2, ....
, в, w] = 0,
G.1.13)
Вычисление безусловной суммы квадратов для смешанного
процесса авторегрессии — скользящего среднего В качестве
примера рассмотрим следующие п — 12 последовательных зна-
значений Wt = Vdzt:
t
w,
1
2,0
2
0,8
3
-0,3
4
-0,3
5
-1,9
6
0,3
7
3,2
8
1,6
9
-0,7
10
3,0
11
4,3
12
1,1
Положим, что мы хотим вычислить безусловную сумму квадра-
квадратов 8(ф, 8), относящуюся к процессу АРПСС (l,d, 1),
где S/dZt = Wt или, что то же самое, к возвратному процессу
t = {l — QF)et
в предположении, что среднее значение w равно нулю.
Конечно, оценки, базирующиеся на 12 наблюдениях, не имеют
почти никакой ценности, но тем не менее этот короткий ряд по-
послужит для объяснения природы вычислений. Проиллюстрируем
Это для значений параметров f = 0,3, 8 = 0,7. Тогда G.1.11) и

242
Часть II Построение стохастических моделей
G.1.12) можно записать в виде
Ы = [Щ] - 0,3 [wt+l] + 0,7 [е(+1], G.1.14)
[at] = [wt]— 0,3 [w,_,] + 0,7 [at-x\, G.1.15)
где [wt} = wt (t=l, 2, ..., п).
Схема вычислений показана в табл. 7.4. Сначала в централь-
центральный столбец вносятся данные, затем в последний столбец вно-
вносятся нулевые значения для [е0], [e_i], [е_2], .... Возвратное
уравнение G 1.14) начинает использоваться точно таким же об-
образом, как описано в разд. 7.13 для расчета условных величин.
Из-за того что в модели имеется оператор авторегрессии пер-
первого порядка, мы начинаем в одном шаге от конца ряда и под-
подставляем 0 в строчку t = 11 вместо неизвестного значения 0,7
[е^] Рекуррентный расчет ведется вперед при помощи G.1.14).
В табл. 7.4 и 7.5 данные приведены с точностью до одного знака
после запятой; расчеты велись с точностью до двух знаков.
Прогнозы назад [ш_,] (/ = 0, 1, 2, ...) быстро затухают и при
нашей точности вычислений равны нулю для / > 4. На осно-
основании G.1.13) оценки [а_3] принимаются равными нулю для
/ > 4. Рекуррентный расчет вперед ведется по формуле G.1.15);
вычисляются [at].
Безусловная сумма квадратов S(^>, 8) находится суммирова-
суммированием квадратов всех вычисленных [аЦ. Отсюда
12
S@,3; 0,7)= 2 [a,]2 = 89,2.
i=-4
На практике второй итеративный цикл не нужен почти ни-
никогда. Однако, чтобы показать быструю сходимость этого про-
процесса даже для нереально короткого ряда из 12 наблюдений,
в табл. 7 5 был проведен второй цикл итераций. В нем значение
а\2 = 3,99, найденное в предыдущей итерации, использовалось
для начала новой итерации при вычислении прогнозов w впе-
вперед по G.1.15). Полученные величины подставлялись в возврат-
возвратные уравнения G.1.14) для получения новых прогнозов назад
[wo], [w-i], .... В общем для второго цикла вычислений мы ис-
используем соотношения
[е
п+{
ф, 8, w] = 0,
\ф, 9, w] = 0,
i=l, 2
G.1.16)
где Q' выбрано так, что [wn+l] пренебрежимо мало при i > Q'.
В табл. 7.5 показано, что второй цикл вычисления приводит
к [wQ] = —1,04, что совпадает со значением, полученным в пер-
первом цикле Поэтому дальнейшее вычисление а будет давать те
же результаты, что и ранее.
Таблица 7.4
Вычисление [а] и S @,3; 0,7) по 12 значениям ряда, предположительно
генерируемого процессом A—0,3В) wt =(l—0,7B)at
t
—4
-3
—2
—1
0
1
2
3
4
5
6
7
8
9
10
11
12
Ы
—0,01
—0,04
—0,11
—0,36
-1,20
1,47
1,23
0,32
0,02
— 1,80
—0,39
2,84
2,63
0,66
3,67
5,97
3,99
0.7 [«,_,]
0,00
—0,01
—0,03
—0,08
—0,25
—0,84
1,03
0,86
0,23
0,01
—1,26
—0,27
1,99
1,84
0,46
2,57
4,18
-0,3 [„,_,]
0,00
0,00
0,01
0,03
0,09
0,31
—0,60
—0,24
0,09
0,09
0,57
—0,09
—0,96
—0,48
0,21
—0,90
-1,29
—0,01
—0,03
—0,09
—0,31
—1,04
2,0
0,8
-0,3
—0,3
-1,9
0,3
3,2
1,6
—0,7
3,0
4,3
1,1
-0,3[ш< + ,]
0,01
0,03
0,09
0,31
—0,60
—0,24
0,09
0,09
0,57
—0,09
—0,96
—0,48
0,21
—0,90
—1,29
-0,33
0J[et+l]
0
0
0
0
1,64
0,58
—0,06
0,13
—0,09
1,86
3,32
2,02
1,08
3,14
2,78
0
\et]
0
0
0
0
0
2,34
0,83
—0,08
0,18
—0,13
2,66
4,74
2,89
1,54
4,49
3,97
12
S@,3, 0,7)= 2 [a/]2 = 89,2
/= — 4
Таблица 7.5
Вторая итерация вычислений, начатых в табл. 7.4
t
0
1
2
3
4
5
6
\at]
0.7 [«,_,]
-0,3 [t»f_,]
К)
—1,04
2,0
0,8
-0,3
—0,3
—1,9
0,3
-o,3[wt+l]
—0,60
-0,24
0,09
0,09
0,57
—0,09
—0,96
0,7[е{+1]
1,64
0,58
—0,06
0,12
—0,10
1,85
3,30
\еЛ
0
2,34
0,83
—0,09
0,17
—0,14
2,64

244
Часть II Построение стохастических моделей
Продолжение
t
7
8
9
10
11
12
13
14
15
16
17
18
[«/]
3,99
0
0
0
0
0
0
2,79
0
0
0
0
0
—0,33
0,74
0,22
0,07
0,02
0,01
3,2
1,6
-0,7
3,0
4,3
1,1
—2,46
—0,74
—0,22
—0,07
—0,02
—0,01
-o,3[wl+i]
—0,48
0,21
-0,90
—1,29
—0,33
0,74
0,22
0,07
0,02
0,01
0,00
0,00
o.7[et+1]
2,00
1,05
3,09
2,71
—0,10
—1,98
—0,60
—0,18
—0,06
—0,02
—0,01
[•«1
4,72
2,86
1,49
4,42
3,87
-0,14
—2,84
—0,85
—0,26
—0,08
—0,03
—0,01
S @,3, 0,7) = У. [et]2 = 89,3
Далее, как следует из приложения П7.4, S(95,8|w) также
быть может вычислено по сумме квадратов [et]. Пользуясь этим,
из табл. 7.5 находим, что
; 0,7)= SN2 = 89,3,
<i
что близко согласуется с величиной 89,2, найденной по at.
Мы видели, что при подгонке к ряду В стоимости акций IBM
процесса порядка @, 1, 1) условные суммы квадратов давали
очень точное приближение к безусловным суммам. Что это не
всегда верно, можно увидеть из данного примера.
Ранее, в разд. 7.1.3, упоминалось о двух условных суммах
квадратов, которые можно использовать как приближения к без-
безусловным суммам. Они были получены
1) началом рекуррентного расчета с первого доступного на-
наблюдения, приравниванием всех неизвестных а или е нулю и
всех w их безусловным математическим ожиданиям;
2) началом рекуррентного счета с р-го наблюдения при ис-
использовании только наблюденных значений для w и нуля вме-
вместо неизвестных а или е.
Две такие условные суммы квадратов и две безусловные суммы
квадратов,
Г л 7. Оценивание модели
245
3) полученные из [аЦ,
4) полученные из [et], сравниваются ниже.
3) Неизвестные w и е приняты равными нулю:
|0,3; 0,7,
= 0, wJ= 101,0.
2) Неизвестные е приняты равными нулю:
12
2 (е, |0,3; 0,7, ш12=1,1; е12 = 0, wJ = 82,4.
t—i
3) Расчет безусловных сумм, первая итерация:
12
2 [а,|0,3; 0,7; w]2 = 89,2.
=-4
4) Расчет безусловных сумм, вторая итерация:
18
2 [е,|0,3; 0,7, w]2=-89,3.
Сумма квадратов в A)—очень плохое приближение к C)
и D), хотя расхождение, превышающее для этого ряда из
12 чисел 10%, уменьшилось бы при большей длине ряда. Это
объясняется тем, что переходный эффект, вызванный выбором
начальных значений, практически исчезает после t= 12. С дру-
другой стороны, когда учтено, что условная сумма в B) основана
на 11, а не на 12 квадратах величин, B) дает лучшее прибли-
приближение, чем A). По уже обсуждавшимся причинам, если нужно
пользоваться условным приближением, лучше брать его в фор-
форме B), а не в форме A). Однако, как будет показано в гл. 9,
для сезонных рядов условная аппроксимация вообще неудов-
неудовлетворительна, и следует, как правило, вычислять безусловную
сумму квадратов.
7.1.6. Графическое исследование суммы квадратов
Сумма квадратов S@) для данных IBM, приведенных
в табл. 7.2, показана на рис. 7.1. Минимальная сумма квадратов
получается при В = — 0,09 (Я =1,09); это дает оценку наи-
наименьших квадратов, являющуюся хорошим приближением
(в предположении о нормальности) к оценке максимального
правдоподобия параметра б.
Графический анализ сумм квадратов легко обобщается на
случай двух параметров путем вычисления сумм квадратов
по подходящей сетке значений параметров и вычерчивания
изолиний. Как мы обсуждали в разд. 7.1 4, в предположении

S(B\Z)
ljt 1,2 1,0 0,8 0,6
* Л
Рис. 7.1. График S(Q) для ряда В.
I 4
I 3
I 2
1 !
10
09
08
0.7
06
05
04
03
02
0 I
О
566 505 569 452 455 482 545 690 1099 3843
544 458 416 396-390^400 430 494 633 Ю24 3595
16 39
562 452 40/ 375 1ЬЬ 37о"**38О 435 526 743 1550 33084
589 456 392 360 346 345 358 389 452 586 960 3375
620 467 338 349 330 325 332 353 389 486 694 1472 2883'
641 472 386 341 317 308 310 324 356^17 546 905 !И8
626 470 383 333 306У293 292>-30! 323 366V»52 652 1397
590 457 /375 326 296 281 276 281 296 328 387 5П 857
564 439 /364 31&/>86 269 262 262 274 297 240 422 615
1&Аш
!72ГЗОЗ
349 304 276 258 249 248 255 272ЛЗОЗ i6l\.48l
«I 974Y}
264 247/^557 235^*239. 251 274^316 397
276 гъУгьь гт&гп^пл
413 at ,292 260 338 224 214-210^211 218 2384255 29*6
393 317 / 273 28j' 225'2" ?пч |ЧЧ*™1ЯЯ- )П%\>\,
^(M! I «XI /-'40 /2-'(!y
426^ 528 ' 277 24i 228 2
0.3 0 4 0 5
212' 203 .199*88^204**»2ГО. 231Ч263
!09 199 194 192 195*202 21b 239
II 12 1.3 14 13
06 07 08 09 10
Рис. 7.2, Значения S(Ao,A,i)X Ю~2 для ряда В в узлах сетки ХоД| и при-
приближенные изолинии.
Гл 7. Оценивание модели
247
о нормальности поведение этих изолиний почти такое же, как
у функции максимального правдоподобия Для большинства
практических задач вполне пригодны приближенные карты изо-
изолиний, построенные на глаз по выходной таблице ЭВМ. На
рис. 7.2 показана таблица значений S(K0, Ai) для ряда В, к ко-
которому был подогнан процесс ПСС@, 2, 2)
, = A - 9,6 - В2В2) at = {1 - B - Яо - Л,) В - (Яэ - 1) В2} at
G.1.17)
или, в просуммированном виде,
zt = \uSat-x + Я^Ч-i + at.
Минимальное значение суммы квадратов на рис. 7.2 дости-
достигается при Яо ~ 1,09, Я-1 » 0,0. График подтверждает, таким об-
образом, что лучшей моделью в этом случае является процесс
Л0\Л,)
5
i
. \
S=8
S=6
-
л,
\\\ I
1 1 1 1
= 1,4
л, 7,a
1 Л,=0,6
11T
I J J
' 1 1 1 1
О 0,2 0,? 0,6 0,8 7,0 1,2 № 1,6 1,8 2,0
Ло >
Рис. 7 3 Графики S(Xo,Xi) как функции Ко для фиксированных значений Xi,
используемые при построении изолиний для ряда С.
ПСС @, 1, 1). Проиллюстрированный здесь способ подгонки не-
несколько более сложными моделями, чем нужно, может давать
полезное подтверждение правильности первоначальной иденти-
идентификации. Усовершенствования модели должны, конечно, делать-
делаться в тех направлениях, где ожидается их необходимость.
Проведение изолиний. Устройства для автоматического по-
построения графиков и карт по выходным таблицам ЭВМ стано-
становятся все более распространенными С их помощью легко полу-
получать карты изолиний по значениям функции на сетке. Если
необходимо построить изолинии аккуратно от руки, можно полу-
получить серию графиков S (Яо, Я]) с аргументом Яо при различных
значениях Aj. Проведя горизонтальные линии на выбранных

248
Часть II. Построение стохастических моделей
уровнях S, для которых будут строиться изолинии, перенесем
точки пересечения на плоскость карты. Если необходимо, можно
уточнить карту, повторив все построения для S как функции Л>
1,8
1,6
/Л
1.0
0,8
' 0,6
ОМ
0,2
S=6
О 0,2 0,t 0,6 0,8 1,0 1,2
1,6 1,8
Рис. 7.4. Построение изолинии S = 6 для ряда С.
при различных фиксированных значениях Хо. Методика построе-
построения иллюстрируется табл. 7.6 и рис. 7.3 и 7.4 для процесса
ПСС@, 2, 2), подгоняемого к данным ряда С. В табл. 7.6 по-
показана сетка Ло, h со значениями суммы квадратов, а на
Таблица 7.6
2,0
1,8
1,6
1,4
1,2
1,0
0,8
0,6
0,4
0,2
0,0
Значения
суммы квадратов
в предположении,
в узлах сетки для
что модель i
юрядка @, 2
ряда С
2)
0,0
381
217
571
277
949
180
761
474
443
887
3526
0,2
11,5
11,1
12,3
13,8
15,9
20,3
19,7
23,3
26,8
41,3
160
0,4
7,55
7,08
6,92
7,24
7,94
9,02
10,1
11,4
13,6
19,7
55,5
0,6
6,60
5,87
5,52
5,41
5,56
5,99
6,61
7,48
8,97
12,5
28,6
0,8
9,00
6,51
5,40
4,89
4,72
4,79
5,09
5,65
6,67
8,91
17,7
1,0
14,0
7,45
5,56
4,75
4,44
4,44
4,72
5,39
6,90
12,2
!,2
881
12,1
6,55
5,03
4,47
4,40
4,73
5,74
9,19
!,4
649
11,0
6,05
4,87
4,66
5,18
7,42
1,6
497
10,3
6,00
5,40
6,58
1,8
394
10,2
7,30
2,0
321
Гл. 7. Оценивание модели
249
рис. 7.3 показаны графики S(K0, X\) как функции Ло при раз-
различных значениях Ai. Абсциссы пересечения с линией S(A0, Xi)~-
= 6 используются для построения изолинии на рис. 7.4.
Три параметра. Если мы хотим изучить возможности сов-
совместной оценки трех параметров, можно построить набор дву-
двумерных диаграмм для различных фиксированных значений
третьего параметра. В качестве примера на рис. 7.5 показаны
некоторые диаграммы из соответствующих наборов для ря-
рядов А, С и D. В каждом случае подгонялась достаточно «слож-
«сложная» модель
= A - е,в - е2в2 - е3вз) at =
= {1 - B - Л_, - Яо - Л,) В - (Яо + 2Я_, - 1) В2 + Я^
или
zt = Я_,а,_,
at.
Результирующие лучшие модели этого типа показаны
в табл. 7.7*).
Таблица 7.7
Модели ПСС, подогнанные к рядам А, С, D
Ряд
А
С
D
?-.
0
0
0
0,3
1,1
0,9
0
0,8
0"
Подогнанный ряд
zt = 0,35а/ _, -
zt*=\,\Sat-t-
zt-WSat-t-
\-at
|-0,8S2at-,-
Vat
hat
Включение дополнительного параметра (в частности, A,_i)
в процесс подгонки не Являлось строго необходимым; это было
сделано для иллюстрации эффекта «переусложнения» модели и
того, как хорошо оправдывается наша идентификация этих ря-
рядов.
7.1.7. Описание «благоприятных» оценочных ситуаций;
доверительные области
Функция правдоподобия строится, конечно, не только для
того, чтобы показать максимальные значения правдоподобия.
Эта функция в целом содержит весь объем информации, прихо-
приходящей с данными. В некоторых проблемах возникает ситуация,
когда функция правдоподобия имеет два и более максимума
*) Позднее, в разд. 7.2.5, будет показано, что несколько лучшее согла-
согласие можно в ряде случаев получить для очень близких к рассматриваемым
моделей, содержащих члены с авторегрессией.

250
Часть II Построение стохастических моделей
(см, например, [60]), а также имеет острые «хребты» и «пики».
Все эти ситуации имеют разумную интерпретацию В каждом
случае функция правдоподобия содержит то, что нам следует
знать. Так, существование двух максимумов приблизительно
Ряд А Л г 05
Юг- у\20
А; = 0,0
Л-Г 0,5
Рис. 75 Изолинии сумм квадратов для рядов А, С и D (затененные части —
области, где ряды необратимы)
равной высоты указывает, что здесь имеются две группы зна-
значений параметров, которые могут объяснить данные Существо-
Существование косо ориентированных хребтов говорит о том, что значе-
значение одного из параметров, заметно отличное от его значения
в точке максимального правдоподобия, может объяснять данные,
если при этом изменить нужным образом значение другого па-
параметра. Характеристики такого рода определяют то, что можно
называть оценочной ситуацией. Чтобы лучше уяснить суть этого
понятия, нужно исследовать функцию правдоподобия и анали-
аналитически, и графически.
Гл 7 Оценивание модели
25!
Необходимость соблюдения осторожности при интерпретации
функции правдоподобия. Необходимо быть осторожным при ин-
интерпретации функции правдоподобия Например, результаты,
рассмотренные ниже и основанные на предположении, что ло-
логарифмическая функция правдоподобия вблизи ее максимума
близка к квадратичной функции, явно не применимы к ситуа-
ситуациям оценивания трех параметров, показанным на рис. 7.5. Од-
Однако эти примеры не типичны, поскольку мы умышленно пере-
переусложнили модель. Если справедлива более простая модель, мы
должны ожидать, что изолинии функции правдоподобия будут
fio
Рис. 7 6 Гипотетическая функция правдоподобия с ограничением Р >
усечены вблизи максимума некоторой границей в пространстве
параметров более высокой размерности. Квадратичная модель
может быть использована, если подгонялась более простая иден-
идентифицированная, а не излишне усложненная модель
Особая осторожность необходима, когда максимум функции
правдоподобия может лежать на границе или около нее Рас-
Рассмотрим ситуацию, показанную на рис. 7 6, и положим извест-
известным априори, что параметр р > E0. Максимальное правдоподо-
правдоподобие внутри допустимой области значения E достигается в точ-
точке В, где р = Ро, а не в Л или С. Отметим, что первая про-
производная функции правдоподобия в этом случае не равна
нулю в максимуме и квадратичная аппроксимация определенно
не является адекватным представлением функции правдопо-
правдоподобия.
Использование метода правдоподобия в прошлом часто было
не слишком умелым, и неопытность потребителя иногда оши-
ошибочно истолковывалась как слабость метода. Это использование
обычно включало

252
Часть П. Построение стохастических моделей
1) дифференцирование логарифмической функции правдопо-
правдоподобия и приравнивание первых производных нулю для получе-
получения оценок максимального правдоподобия (МП);
2) получение приближенных дисперсий и ковариаций этих
оценок по вторым производным логарифмической функции прав-
правдоподобия или их математическим ожиданиям.
Формальное применение этих приемов может привести к бес-
бессмысленным результатам. Это, во-первых, связано с тем элемен-
элементарным фактом, что приравнивание производных нулю может
не приводить нас к максимуму, и, во-вторых, с тем, что инфор-
информация, содержащаяся в функции правдоподобия, выражается
полностью оценками МП и вторыми производными этой функ-
функции, только если в интересующей нас области применимо квад-
квадратичное приближение. Узнать, выполняется ли это условие для
новой задачи оценивания, можно обычно только путем тщатель-
тщательного аналитического и графического исследования.
Когда исследуется некоторый новый класс задач оценивания
(например, возникающих при оценивании параметров модели
АРСС), следует широко пользоваться графическими представ-
представлениями функции правдоподобия. После того как поведение
данного класса моделей достаточно хорошо понято и представ-
представления о ситуации указывают на допустимость такого подхода,
мы можем действовать более прямыми методами, к рассмотре-
рассмотрению которых мы переходим. Эти результаты подробно описаны
в приложениях П7.4 и П7.5. Мы начнем с рассмотрения выра-
выражений для дисперсий и ковариаций оценок максимального прав-
правдоподобия, пригодных в случае, когда логарифмическая функ-
функция правдоподобия приближенно квадратичная и размер вы-
выборки сравнительно велик.
В последующем изложении удобно ввести вектор р, k =
= р + q элементов которого — параметры авторегрессии и
скользящего среднего ф и 0. Тогда полный набор р -f- q + 1 =
= k + 1 параметров процесса АРСС может быть представлен
как ф, 9, <за, или как р, аа, или просто как §.
Дисперсии и ковариаций оценок МП. Для правильно пара-
параметризованной модели АРСС часто оказывается, что в преде-
пределах значимой области пространства параметров *) логарифми-
логарифмическая функция правдоподобия будет примерно квадратичной
формой от компонент р (т. е. ф и 0), так что
GЛ.18)
i=\
*) Скажем, в пределах 95%-ной доверительной области.
Гл. 7. Оценивание модели
253
где в рассматриваемом приближении производные
, дЧ (Р, ва)
1=
G.1.19)
постоянны.
При больших п влиянием члена ${ф, 6) или, что то же са-
самое, /(Р) в G.1.5) в большинстве случаев можно пренебречь.
Отсюда, если 5(р) близко к квадратичной форме, и /(р, <та)
также будет близко к ней. Иначе говоря, /(Р, аа) будет близко
к квадратичной форме от р, если условные математические ожи-
ожидания [at|p, w] в G.1.6) локально близки к линейным функциям
компонент вектора р.
Для средних и больших выборок при условии, что допустимо
локальное квадратичное приближение G.1.18), можно получить
полезные приближенные выражения для дисперсий и ковариаций
оценок и для доверительных интервалов.
Информационная матрица для параметров р. Матрица
?'[Aj] = I(P) размером (k X k) названа в [56, 87] информацион-
информационной матрицей для параметров Р; здесь математическое ожида-
ожидание взято по распределению w. Для данного значения аа мат-
матрица ковариаций V(P) МП-оценок р при больших размерах
выборки является обратной к информационной матрице
V(fo~{-E[ltl]}
-1
G.1.20)
Например, если k = 2, матрица ковариаций для большой вы-
выборки имеет вид
\(й)=\ V(?l) COV<P"P2I _\E[lu] EVuU-1
Lcov(p!; p2) У(р2) J ~ [e[112\ E[122]\
Далее, используя G.1.5), получаем
U, - -
G.1.21)
где
Кроме того, если для больших выборок мы аппроксимируем ма-
математические ожидания величин /,3- или 5гз- фактически наблю-
наблюдаемыми значениями, то, используя G.1.20), получим
Отсюда для k~2
V (Р)
2ol

254
Часть II. Построение стохастических моделей
Если S(P) была бы точно квадратичной функцией р в рассма-
рассматриваемой области пространства параметров, то все производ-
производные Sij были бы постоянны во всей этой области. На прак-
практике StJ будут несколько варьировать, и мы будем предпола-
предполагать, что эти производные определяются в точке р либо вблизи
нее. В приложениях П7.4 и П7.5 показано, что оценка *) оа имеет
вид
62a = S($)/n G.1.23)
и что для больших выборок а2а и Р не коррелированы. Нако-
Наконец, элементы G.1.22) можно оценить, пользуясь тем, что
cov(p,-,
G.1.24)
где матрица
равна
-1
Выражение G.1.24) при j = i определяет дисперсию (p)
Приближенные доверительные области для параметров. Эти
результаты позволяют, в частности, получить приближенные
значения дисперсии наших оценок. Извлекая корень из диспер-
дисперсий, мы найдем стандартные отклонения, которые обычно на-
называют стандартными ошибками оценок. Стандартную ошибку
оценки pf мы будем обозначать СО [pj. Когда нужно рассма-
рассматривать несколько параметров одновременно, необходимо иметь
способ суждения о совместной точности оценок. Один из спосо-
способов осуществления такого подхода — определение доверитель-
доверительной области. Можно показать (см., например, [61]), что A — е)-я
доверительная область имеет следующее свойство: если делать
повторные выборки размера п из той же популяции и строить
доверительную область для каждой такой выборки, то A —е)*я
часть этих областей будет включать точку с истинным значе-
значением параметра.
Если для данного аа /(Р, <та)—приближенно квадратичная
функция р вблизи р, то, пользуясь G.1.20) (см. также приложе-
приложение П7.1), можно получить приближенную A—е)-ю довери-
доверительную область в виде
Ъ
- Р,) (р, - Р;) < х» (*),
G.1.25)
fc — это квантиль уровня A—е) распределения %2 с k
степенями свободы. Можно получить и другое приближенное
где
*) Можно высказать ряд доводов в пользу того, чтобы в знаменателе
G.1.23) вместо п стояло бы п — k = п — р— q, но для не слишком малых
размеров выборки эта замена практически не влияет на результат.
Гл. 7 Оценивание модели
255
выражение для доверительной области, если воспользоваться
G.1.22) и подставить туда оценку G.1.23) вместо а2а *):
G.1.26)
G.1.27)
Тогда, пользуясь G.1.23) и G.1.26), находим, что приближен-
приближенная A—е)-я доверительная область ограничена изолинией
суммы квадратов^ для которой
Однако если поверхность 5(Р) квадратичная, то
s (Р) - s (?)=4- 2 s,j (р, -
1 +
G.1.28)
Примеры вычисления приближенных доверительных интер-
интервалов и областей.
1) Ряд В. Значения S(K) и ее разностей для ряда В
приведены в табл. 7.8. Вторая разность S(X) не постоянна, и
поэтому S(K) не является строго квадратичной функцией. Од-
Однако на интервале от Я = 0,85 до К = 1,35 V2E) изменяется
Таблица 7.8
S (X) и ее первые и вторые разности
для различных значений X, ряд В
А,=1-е
1,5
1.4
1,3
1,2
1,1
1,0
0,9
0,8
0,7
0,6
0,5
23 929
21595
20 222
19483
19 220
19363
19 896
20 851
22 315
24 471
27 694
V(S)
2 334
1373
739
263
—143
—533
—955
—1464
—2156
—3223
V2(S)
961
634
476
406
390
422
509
692
1067
*) Можно вывести несколько более точное приближение, основанное
на F-распределеиии Фишера и учитывающее выборочное распределение о^
Однако это уточнение практически несущественно, если размер выборки ие
слишком мал.

256
Часть II Построение стохастических моделей
Гл 7 Оценивание модели
257
незначительно, так что можно считать G.1.28) достаточно хоро-
шим^приближением. Так как минимальное значение S(A) =
= 19 216, то критическое значение 5(А), определяющее прибли-
приближенно 95%-ный доверительный интервал, равно
= 19 416.
Считывая значение А, соответствующее 5(А)= 19 416 на рис. 7.1,
получаем приближенный доверительный интервал 0,98 < А <
< 1,19.
Можно поступить и по-другому, используя G.1.26). Поль-
Пользуясь второй разностью из табл. 7.8 при А = 1,1, чтобы оце-
оценить производную, получаем
5 =-?!?. ~ 390
Пользуясь G.1.23), находим, что 6^=19 216/369 = 52,3. От-
Отсюда 95%-ный доверительный интервал, согласно G.1.26), бу-
будет
-щ^г(Л - 1.09J < 2 X 52,3X3,84,
т. е.
| А- 1,09 |< 0,Ю.
Отсюда интервал равен 0,99 < А < 1,19, что хорошо согласуется
с предыдущими вычислениями.
В этом примере, где имеется только один параметр А, ис-
использование G.1.25) и G.1.26) эквивалентно использованию
интервала
А ± ие,2а (А),
где ые/2 — квантиль уровня A — е/2) стандартного нормального
распределения. Приближенная стандартная ошибка д(А) =
— V2alS7il находится из G.1.24). В этом примере
— = 0,00268,
и приближенная стандартная ошибка i равна
У') =0,052.
Отсюда приближенный доверительный интервал равен, как и
ранее,
А± 1,96а(А)==1,09-±0,10.
Наконец, в разд. 7.2 мы покажем, что для больших выборок
процесса ССA) можно оценить G.1.20) аналитически, что дает
В рассматриваемом примере, заменяя А на ^,= 1,09, находим
V{h)s* 0,00269,
что хорошо согласуется с предыдущими оценками, дает ту же
стандартную ошибку 0,052 и тот же доверительный интервал.
Рис. 7.7. Изолинии суммы квадратов для ряда С в предположении модели
порядка @,2,2); в центре заштрихована 95%-ная доверительная область.
2) Ряд С. При идентификации ряда С в качестве одной из
опробованных моделей использовался процесс @, 2, 2). Для ил-
иллюстрации использования формулы G.1.28) в случае, когда
число параметров больше 1, на рис. 7.7 заштрихована 95%-ная
доверительная область значения параметров Ао и Аь В этом
примере 5(А) = 4,20; п = 226, х2о,оз B) = 5,99, так что 95%-ная
доверительная область ограничена изолинией
5(А0,
4,31.
7.2. НЕЛИНЕЙНОЕ ОЦЕНИВАНИЕ
7.2.1. Общий подход
Графическое представление суммы квадратов особенно
важно при исследовании новых задач оценивания, так как по*
зволяет выявить любые специфические особенности ситуации.
Когда появляется уверенность, что какие-нибудь аномальные

258
Часть II Построение стохастических моделей
Гл. 7 Оценивание модели
259
явления маловероятны, можно воспользоваться другими ме-
методами.
Мы видели, что в большинстве случаев оценки максималь-
максимального правдоподобия хорошо приближаются оценками наимень-
наименьших квадратов, которые минимизируют
S@,e)= 2 [Ъ\ф,9. w]2= S [at]2.
f=—oo f=_oo
На практике бесконечную сумму можно заменить более удоб-
п
ной конечной суммой 2 [а*]2-
В общем значительные упрощения при минимизации по р
я
суммы квадратов 2{//(Р)}2 происходят, если каждое /t(P)
(t = 1, 2, ..., п) —линейная функция параметров р. Покажем
теперь, что линейность [at] имеет несколько различный смысл по
отношению к параметрам авторегрессии ф и параметрам сколь-
скользящего среднего в.
Для чистого процесса авторегрессии [at] = <j>(B)[wt] и
)> получаем приближенное выражение
Для и > О [wu] — wu и д[&и]/дф1 = 0, в то же время для и
как [wu], так и д[п)и]/дфг являются функциями $. Поэтому, если
пренебречь эффектом «начальных значений», [at] линейны от-
относительно ф. Напротив, для чистого процесса скользящего сред-
среднего
так что [at] — всегда нелинейные функции параметров.
В разд. 7.3 мы увидим, что для процесса авторегрессии
оценки наименьших квадратов и максимального правдоподобия
существенно упрощаются. В данном разделе будет показано,
как путем итеративного применения линейного метода наимень-
наименьших квадратов можно найти оценки для любой модели АРСС.
Линеаризация модели. В дальнейшем символ р будет по-
прежнему использоваться как общий символ для k = р + q па-
параметров (ф, 0). Наша задача — минимизировать
2 [*|F S Ы
Разлагая [at] в ряд Тейлора в окрестности точки, соответствую-
соответствующей предполагаемым значениям параметров Pg = (Pi о> Рз о» • • •
G.2.1)
где
в
= [a<lw, pQ]
x -
xi,t—
Если X — матрица {*,,'«} размера (л + Q)X#. то п + Q уравне>
ний G.2.1) можно представить в виде
[ао] = Х(р-ро) + [а],
где [а0] и [а] — векторы-столбцы с п + Q элементами. Поправка
Р — Ро. минимизирующая 5(Р) = 5(^, в) = [а]'[а], находится
теперь линейным методом наименьших квадратов, т. е. регрес-
регрессией [а0] на х. Поскольку [at] не точно линейная функция пара-
параметров р, однократная поправка не обеспечит получение оценок
наименьших квадратов. Поэтому полученные после первой по-
поправки значения используются как новые предполагаемые зна-
значения, и процедура повторяется до получения сходящихся ре-
результатов. Сходимость оказывается более быстрой, если исполь-
используются достаточно удачные начальные приближения, которые
можно получить на этапе идентификации. Если начальные при-
приближения неудачны, процесс вычисления параметров может ока-
оказаться расходящимся.
7.2.2. Численный метод нахождения производных
Как будет показано позднее, производные хг> t могут быть
получены непосредственно. Однако для машинных расчетов ока-
оказался весьма эффективным общий нелинейный метод наимень-
наименьших квадратов, в котором производные оцениваются численно.
Это делается поочередным возмущением одного из параметров.
Затем для данной модели вычисляются рекуррентным образом
значения [at\w, р); 0, 02, о, •••, fa, о] для t= I — Q я; при
этом используется необходимое число значений «прогнозов на-
назад». Затем вычисления повторяются для [at | w, р1> о + бь 02, о, ¦..
..., рй,о], затем для [at\w, р,, 0> р2, о + 62, .... ph, о] и т. д. Вели-
Величина, обратная по знаку требуемой производной, находится за-
затем достаточно точно по формуле
*i,/ = {[a<lw> Pi,о» •••> Pi,о Ра, о]"~
- [at I w, р,.о. .... Pi, о + **. • ¦ •. Р*. о0/*(. G -2.2)

260
Часть П. Построение стохастических моделей
Гл. 7. Оценивание модели
261
Описанный численный метод получения производных универсат
лен и требует только наличия программы для вычисления [at].
Общие стандартные программы нахождения нелинейных оценок,
нуждающиеся только в дополнительной Подпрограмме для вы-
вычисления [at], сейчас уже широко распространены [62]. В неко-
некоторых вариантах программы б необходимо указать заранее;
в других программа сама выполняет необходимые итерации для
выбора подходящего б. Некоторые программы включают спе-
специальные логические схемы, позволяющие избежать проскоков
области минимума и ускорить сходимость [63].
При условии, что решение наяменьших квадратов не лежит
вблизи границы или на границе области, значения Х=Х^ из
последней итерации можно использовать для вычисления при-
приближенных дисперсий, ковариаций и доверительных интервалов.
Конкретнее, (ХрХр) (^аппроксимирует матрицу ковариаций р,
а (Та оценивается по S(f$)/n.
Применение к процессу @, 1, 1). В качестве элементарного
примера рассмотрим подгонку к ряду А процесса @, 1, 1)
wt = (l —QB)at
с ц = Е [wi\ = 0. Начало вычислений для пробного значения
90 = 0,5 показано в табл. 7.9. Значения прогноза назад для [ао\
были получены приравниванием [е7] = 0 и применением воз-
возвратной рекуррентной формулы [et] = [wt] + 9 [e<+i]. Большая
точность могла бы быть достигнута применением этой рекуррент-
рекуррентной формулы к более далеким значениям ряда. Значения [at],
найденные последовательно из уравнения [at] = 0 [at-i] + [wt]
для 0 = 0,50 и 0 = 0,51, приведены в четвертом и пятом столб-
столбцах вместе со значениями отрицательных производных хи най-
найденных по формуле G.2.2). Для получения первой поправки для
в .вычислим
Таблица 7.9
Пример расчета производных по данным ряда А
(=0
В этом примере, используя весь ряд длиной в 197 наблюде-
наблюдений, мы получили сходящийся результат после четырех итера-
итераций. Расчет шел следующим образом:
Итерация
0
1
2
3
4
5
е
0,50
0,63
0,68
0,69
0,70
0,70
t
0
1
2
3
4
5
6
7
8
9
10
zt
17,0
16,6
16,3
16,1
17,1
16,9
16,8
17,4
17,1
17,0
16,7
—0,40
—0,30
—0,20
1,00
—0,20
—0,10
0,60
-0,30
—0,10
-0,30
Ко]=М°-5°]
0,2453
—0,2773
—0,4387
—0,4193
0,7903
0,1952
—0,0024
0,5988
—0,0006
—0,1003
-0,3502
0,2496
—0,2727
—0,4391
—0,4239
0,7838
0,1997
0,0019
0,6010
0,0065
—0,0967
—0,3493
х(*= 100 {[а, | 0,50]-[at | 0,51]}
—0,43
—0,46
0,04
0,46
0,65
—0,'45
—0,43
—0,22
—0,71
—0,36
-0,09
В общем значения ф и 0, минимизирующие S($, 0), могут
быть найдены этим методом с любой необходимой степенью
точности. Этот метод особенно удобен потому, что нам не нужно
специально программировать расчет производных; не требуется
никаких дополнительных процедур, кроме как для вычисле-
вычисления [at].
Программа 3, описанная в сборнике машинных программ
в конце этой книги, позволяет численно оценивать производные
и включает возможность прогнозирования назад. Она позволяет
найти оценки наименьших квадратов для параметров любого
(р, d, q) процесса.
Теперь мы покажем также, что производные можно получить
и непосредственно, но для этого нужны дополнительные рекур-
рекуррентные расчеты.
7.2.3. Прямой метод нахождения производных
Для того чтобы проиллюстрировать методику, достаточно
рассмотреть процесс АРССA, 1), который можно представить
как
либо как
В разд. 7.1.4 мы видели, что можно пользоваться обоими
Представлениями модели попеременно — одно из них дает началь-
начальные значения, которые используются для рекуррентного счета

262
Часть II Построение стохастических моделей
по другому представлению. Предположим, что первое вычисле-
вычисление уже было сделано и мы получили значения [et], [at], [wQ],
[w-i\, ..., [wi-q], как в разд. 7.1.5; значениями [w-q], [w-q-i], ...,
а значит, и [a-Q], [o-q-i], ..., можно пренебречь. Покажем, как
можно использовать такой двойственный подход для вычисления
производных.
Обозначая частную производную d[atjjdj> как af), полу-
получим
4-
а(Ф) e ww _
Имеем
af) = wf) - <j>wfl, + Bafi, + [a(_J.
/=1, 2, .... л,
wf) = wf) = 0,
., n.
G.2.3)
G.2.4)
G.2.5)
G.2.6)
G.2.7)
G.2.8)
Рассмотрим G.2.3) и G.2 4). Приняв в G.2.3) е<Д, = 0, можем
начать рекуррентный расчет назад, который при помощи G.2.7)
и G.2.8) позволит нам в результате найти пиЩ для / = 0, 1, ...
..., Q—1. Так как о^, o(*jj_,, ... можно принять равными
нулю, мы можем теперь использовать G.2.4) для рекуррентного
вычисления требуемых производных af). Аналогичным образом
можно использовать G.2.5) и G 2.6) для вычисления производ-
производных afK
Рассмотрим опять в качестве примера расчет производных
xt = —a\at]ldQ для первой части ряда А, выполненный полно-
полностью численным путем в табл. 7 9. В табл. 7.10 приведен соот-
соответствующий расчет по формулам
-xt= af) = wf)
Значения [at] и [et], которые уже были вычислены, введены
в таблицу, и вычисление ef) начинается в этом примере прирав-
приравниванием ер = 0. Видно, что значения xt очень близки к полу-
полученным в табл. 7.9 только численным способом.
Гл. 7 Оценивание модели
263
7.2.4. Общий алгоритм наименьших квадратов для условной
модели
При анализе длинных рядов мы нередко используем прибли-
приближение, заключающееся в приравнивании начальных значений а,
а следовательно, и х их безусловным математическим ожида*
ниям, т. е. нулю, и затем в непосредственном использовании
прямой рекуррентной формулы. Так, в предыдущем примере
можно использовать уравнения
wt,
t = — af) = Qxt_t — at_v
В результате в ряды at и xt вносится переходный процесс,
Для ряда xt этот процесс затухает несколько медленнее, так
как х зависит от а. В качестве иллюстрации этим способом были
вычислены значения а и х для рассмотренного примера. Оказа-
Оказалось, что, хотя в начале имеются расхождения, начиная с t = 4
для at и с t = 8 для xt два знака после запятой совпадают.
В некоторых примерах, где имеется большой объем данных
(скажем, 200 и более наблюдений) за счет некоторой потери ин-
информации (отбрасывания примерно 20 первых вычисленных зна-
значений) можно добиться очень высокой точности.
Если мы примем описанное выше приближение, то придем
к интересному общему алгоритму для этой условной модели.
Общая модель может быть представлена в виде
Таблица 7.10
Пример рекуррентного расчета производных для данных ряда А
t
0
1
2
3
4
5
6
7
8
9
10
te*-il
0,25
—0,28
—0,44
—0,42
0,79
0,20
0,00
0,60
0,00
—0,10
eaF)
0,22
0,24
—0,02
—0,23
—0,33
0,23
0,22
0,11
0,35
-0,18
X(~-af)
—0,43
—0,47
0,04
0,46
0,65
—0,46
—0,43
—0,22
—0,71
—0,35
-0,08
(-^ = -0,43)
0,12
0,60
0,73
—0,30
—0,10
0
eei+l
0,06
0,30
0,36
—0,15
—0,05
0
—0,49
—0,18
0,24
0,88
—0,25
—0,10

264
Часть П. Построение стохастических моделей
Гл 7 Оценивание модели
265
где wt = Vdzt, wt = wt — ц и
0(В)= 1-0,5- ...
ф(В)=\-ф1В- ...
Если начальные приближения для параметров
Ро = @о. ео)> то
1
(ф, 0) равны
dat
— xi,t — xt-i>
где
f-'(B)at0, G.2.9)
B)wt = -Q~1(B)ai 0. G.2.10)
Значения а, х и и можно вычислять рекуррентным образом, по-
положив начальные значения а, х и и равными нулю, а именно
" ¦¦¦'+%'оЩ-ч,о, G.2.11)
и • ft /v ' -J- -t- fl /v -f- fS) = f7 9 19^
= *i,o"«-i + ¦¦¦ +ФР, М-р + а*, о, G.2.13)
v Д v _[_ _| Q v /7 /7 О 1 Л\
Xt — Uj, QXf—1 ~Г" • • • I ^д, O^t~-q — ^, 0* V »?**^)
В соответствии с G.2.1) приближенное уравнение линейной ре-
регрессии принимает вид
at, о = S (Ф/ - Фи о) Щ-1 + S F, - 6г> 0) ^_! + а,. G.2.15)
Получаемые отсюда поправки — это коэффициенты регрессии
at} о на Щ-3 и xt-t. Прибавляй поправки к приближениям (ф0, 0О),
получаем «вторые приближения» и заменяем ими первые во
второй итерации, в которой вновь вычисляются значения at, о,
xt и щ до тех пор, пока результаты не начнут сходиться.
Другой вариант алгоритма. Выражение G.2.15) можно также
представить в виде
Т. е.
а(> G.2.16)
Приложение к процессу ПСС@, 2, 2). Чтобы проиллюстри-
проиллюстрировать расчеты для приближения с помощью условной модели,
рассмотрим оценки наименьших квадратов для 0Ь вз ряда С,
основанные на модели @,2, 2):
w,-=(l-e,S — Q2B2)a(
С
ви о = Щ + 9i, <A-i, о + 02, o«(-2, o.
xt == — at, О ~Ь 9l, O^-l "T , 0Xt~2'
Расчет для начальных значений 0i, о =0,1 и 9г. о = 0,1 приведен
в табл. 7.11.
Таблица 7.11
Нелинейная оценка в, и в2 для процесса ПСС @, 2, 2)
t
1
2
3
4
5
6
7
3
9
zt
26,6
27,0
27,1
27,2
27,3
26,9
26,4
26,0
25,8
_
0,4
0,1
0,1
0,1
—0,4
—0,5
—0,4
—0,2
V2zt*=w(
—
-0,3
0,0
0,0
—0,5
—0,1
0,1
0,2
at,o
0
О
—0,300
—0,030
—0,033
—0,533
—0,156
0,039
0,189
xt-\
0
О
О
0,300
0,060
0,069
0,546
0,218
0,038
Xt-2
0
О
О
0
0,300
0,060
0,069
0,546
0,218
что является другой трактовкой этого алгоритма.
Первые поправки 9i, о и 02, о были найдены «регрессией» at, о
на xt-i и xt-2, затем процедура повторялась до тех пор, пока не
была достигнута сходимость. Результаты итераций показаны
в табл. 7.12; использовались начальные значения 6i, о = 0,1 и
62,0 = 0,1.
7.2.5. Сводка моделей, подогнанных к рядам А — F
В табл. 7.13 дана сводка моделей, подогнанных к рядам А—F
итеративным методом наименьших квадратов, описанным
в разд. 7.2.1 и 7.2,2. Подгоняемые модели были идентифициро-
идентифицированы в гл. 6, и их свойства были описаны в итоговой табл. 6.4,
Из табл. 7.13 видно, что для рядов А, С и D были идентифици-
идентифицированы и подогнаны две возможные модели. Для рядов А и D
одна из конкурирующих моделей включает стационарный опе-
оператор авторегрессии A—фВ) вместо нестационарного опера-
оператора A — В) в другой. Рассмотрение табл. 7.13 показывает, что

Гл 7. Оценивание модели
267
Таблица 7.12
Сходимость итераций для 6, и 62
Итерация
0
1
2
3
4
5
6
7
8
8,
0,1000
0,1247
0,1266
0,1286
0,1290
0,1292
0,1293
0,1293
0,1293
е2
0,1000
0,1055
0,1126
0,1141
0,1149
0,1151
0,1152
0,1153
0,1153
Таблица 7.13
Сводка моделей, подогнанных к рядам А — F (значения под
каждой оценкой — стандартные ошибки этих оценок)
Ряд
А
В
С
D
Е
F
Число
наблюдений
197
369
226
310
100
70
Подгоняемая модель
2,-0,92*,-,
(±о',О4)
Vzt
Vzt
Vz, — 0,82Vzf-i
(±0,04)
V2z,
zt — 0,87zt-!
(±0,03)
Vz,
zt = 14,35 + l,42z
(±6,07)
z,= 11,31 + l,57z
(±0,10)
= 1,45 +a,— 0,58^-,
(±0,08)
= a, — 0,70a<-i
(±0,05)
= at + 0,090,-!
(±0,05)
= a,
= at — 0,13a,-! — 0,12a,_2
(±0,07) (±0,07)
= l,17 + o,
= a, — 0,06a,_!
(±0,06)
(_i — 0,73z,_2 + at
(±0,07)
,-x—l,02z,_2 + 0,21z,_3 + at
(±0,15) (±0,10)
zt = 58,87 — 0,34z,_i + 0,19z,_2 + at
(±0,12)
(±0,12)
Остаточная
дисперсия *)
0,097
0,101
52,2
0,018
0,019
0,090
0,096
228
218
113
в обоих случаях модель с авторегрессией дает несколько мень-
меньшую остаточную дисперсию, хотя, как уже отмечалось, модели
очень близки. Хотя стационарная модель подгоняется несколько
лучше, модель ПСС@, 1, 1) предпочтительней в этих случаях,
поскольку в отличие от стационарной модели она свободна от
предположения, что ряд имеет фиксированное среднее значение.
Это особенно важно для прогноза будущих членов ряда. Если
уровень в действительности изменится, модель с d > 0 отреаги-
отреагирует на его изменение, в то время как модель с d = 0 будет
тяготеть к устаревшему среднему уровню.
Пределы, указанные под коэффициентами в табл. 7.13, —
это стандартные ошибки выборочных оценок, полученные из ко-
ковариационной матрицы (Х^Ху) д2а, как описано в разд. 7.2.1.
Отметим, что оценка ^з процесса АРC), подогнанного к ряду Е
солнечных пятен, в 2,1 раза больше своей стандартной ошибки;
это свидетельствует о том, что улучшение, достигаемое подгон-
подгонкой процесса авторегрессии третьего порядка по сравнению
с процессом авторегрессии второго порядка, — на пределе зна-
значимости. Это согласуется с выводами Морана [54].
7.2.6*. Информационные матрицы при больших выборках
и оценки ковариаций
Обозначим через [U : X] матрицу размером n\(p-\-q) из
значений «их, определенных в G.2.13) и G.2.14), в случае,
когда элементы р0 — истинные значения параметров; пусть раз-
размер выборки п достаточно велик, так что можно пренебречь
концевыми эффектами. Тогда информационная матрица для сме-
смешанной модели АРСС будет
Г U'U ! U'X 1 _2
\{ф, е)=^хо|-,-—-jae =
'Пап2
Уии @)
¦¦¦VuuiP— l
G.2.17)
Уих(—1) . ..Y«*(l— i)
Vuu @)
[ Уии(р—2)... Ybb@)
Yk*(°) Yu*A) •¦¦Уих(р~ О
Ye*(-0 УихФ) ...Уих(р—2)
Уих A)
У"* f?~*
УххФ)
У xx (I)
Yxjc(I)
'"'У.их ^S)
¦¦4xx(q— 1)
...\xxD-2)
*) Получена из .
1—Ч) yaxB—q)...yux(p—q)':yxx(g—l) yxx(q—2)... yxx @) _
G.2.18)

268
Часть П. Построение стохастических моделей
ti. 7. Оценивание модели
269
где уии(К) и yxx(k) — автоковариации и а х a yUx(k) — взаим-
взаимные ковариации, определенные как
Vux (k) = Ухи (~k) = E [UtXt+k] = Е [*,«,_*].
Выборочная ковариационная матрица для оценок максималь-
максимального правдоподобия в случае больших выборок может быть по-
получена иЗ соотношения
Оценки \{ф, 9) и, следовательно, \(ф, 9) можно получить,
вычисляя и и х при Ро = Р и опуская знак математического
ожидания в G.2.17) или подстановкой стандартных вы-
выборочных оценок автокорреляций и взаимных корреляций
в G.2.18). Теоретические выражения для больших выборок
можно получить, используя тот факт, что когда элементы Ро
равны истинным значениям параметров, из уравнений G.2.13)
и G.2.14) следует, что производные щ и xt являются процес-
процессами авторегрессии:
Отсюда автоковариации, присутствующие в G.2.18), соответ-
соответствуют чистым процессам авторегрессии, а взаимные ковариа-
ковариации обратны по знаку взаимным ковариациям между этими
процессами, генерируемыми теми же а.
• Проиллюстрируем этот результат на нескольких примерах.
Ковариационная матрица оценок параметров для процессов
АР(р) и CC(q). Пусть Тр(ф)—автоковариационная матрица
размера р X Р Для р последовательных наблюдений процесса
АР(р) с параметрами ф'' = (Фи ф2- •••, ФР)- Пользуясь G.2.18),
находим ковариационную матрицу оценок ф размера р X Р
\(ф) = п-1а2аТ;1(ф). G,2.19)
Пусть ГдF)—автоковариационная матрица размера q X Q
q последовательных наблюдений процесса CC(q) с параметрами
9'= @1, 9г, ..., 9д). Тогда, пользуясь G.2.18), получаем ко-
ковариационную матрицу оценок 9 размера q X Я
V(9) = rt-VaIY'(e). G.2.20)
Иногда полезно параметризовать процесс АРСС через корни
многочленов ф(В) и 9E). В этом случае ковариационная ма-
матрица оценок параметров имеет особенно простую форму.
Ковариация корней многочленов, соответствующих процессу
АРСС. Рассмотрим процесс АРСС(р, q), параметризованный че-
рез корни многочленов Ф(В), 0E) (они предполагаются дей-
действительными), так что
П A - GtB) щ = П П ~ HiB) at
или
- П A - GtB) П A - Н,В)~1 щ.
Производные а тогда имеют вид
dat \-\
__ dat -1
Отсюда, пользуясь G.2.18), получаем для больших выборок
информационную матрицу для корней n~'I(G, H) =
G.2.21)
АР B). В частности, для процесса авторегрессии второго по-
порядка
A-G,fi)(l-G2B)^ =
В точности аналогичные формулы можно получить для процесса
скользящего среднего второго порядка.
АРССA,1). Таким же образом для процесса АРССA,1)

270
Часть It. Построение стохастических моделей
и, подставив ф = Gt и 0 = #i в G.2.21), получаем
1 A
ф () у
m , Г 0-**>"' -И-фвГТ1 _
, 0)«* п'Ч , . —
L-d-W1 A-е2)-1 J
Результаты для этих двух процессов иллюстрируют их двой-
двойственность, рассмотренную в приложении П7.5.
7.3*. РЕЗУЛЬТАТЫ ОЦЕНИВАНИЯ ДЛЯ НЕКОТОРЫХ
ЧАСТНЫХ МОДЕЛЕЙ
В приложениях П7.4 и П7.5 дан вывод некоторых результа-
результатов оценивания для ряда частных случаев. Ниже эти резуль-
результаты, а также полученные ранее в этой главе собраны вместе
для удобства просмотра.
7.3.1*. Процессы авторегрессий
Оценки параметров чистого процесса авторегрессии можно
получить, решив некоторые линейные уравнения. В приложении
П7.5 показано,
1) как можно получать точные оценки наименьших квадра-
квадратов, решая систему линейных уравнений (см. также разд. 7.4.3);
2) как, слегка изменив коэффициенты этих уравнений, мож-
можно получить хорошее приближение к точным уравнениям макси-
максимального правдоподобия;
3) как, используя выборочные автокорреляции в качестве
коэффициентов линейных уравнений Юла — Уокера, можно
найти приближенные оценки наименьших квадратов и макси-
максимального правдоподобия.
Оценки, полученные в A), конечно, идентичны тем, что на-
находятся прямой минимизаций 8(ф), описанной в общем виде в
разд. 7.2. Оценки C) — это хорошо известные приближения
Юла и Уокера. Они полезны как начальные оценки на этапе
идентификации, но в некоторых ситуациях могут заметно отли-
отличаться от оценок A) и B). Чтобы проиллюстрировать это, мы
сравним оценки C), полученные из уравнений Юла — Уокера,
с оценками A) наименьших квадратов, которые были сведены
в табл. 7.13.
Оценки Юла — Уокера. Оценки Юла — Уокера F 3.6) имеют
вид
Гл. 7. Оценивание модели
271
где
... г„
р-2
Г =
-ГР-
G.3.1)
-rp-\ rp-2 ••• 1
В частности, оценки для процессов авторегрессии первого и
второго порядков равны
): *,=!-„
АР B): &*= —
1-П
Г2-П
1-г2 '
G.3.2)
В приложении П7.5 показано, что приближенное значение
дает формула
и отсюда
G-3.3)
G.3.4)
где Со — дисперсия w. Выражение того же вида связывает а2 и
теоретическую дисперсию w [см. C.2.8)] уо, а именно
где элементы р и ф — теоретические значения. Отсюда из G.2.19)
вытекает, что ковариационная матрица для оценок^ имеет вид
V (ф) = п-1о1т~1 = /Г1 A - рф) Р~\ G.3.5)
где Г и Р — автоковариационная и автокорреляционная мат-
матрицы р последовательных значений процесса АР(р), определен-
определенные B.1.7).
В частности, для процессов авторегрессии первого и второго
порядков находим
G.3.6)
7)
АР B): У(фиф2) = п-
'J. G.3.
Оценки дисперсий и ковариаций получаем подстановкой в
G.3.5) оценок параметров. Отсюда
G.3.8)

272
Часть Ii Построение стохастических моделей
Примеры. Автокорреляции для задержек 1 и 2 для рядов С,
D, Е и F, идентифицированных как возможные процессы авто-
авторегрессии (в случае ряда С это относится к первым разностям),
показаны ниже.
Ряды
С
D
Е
F
Прйбная
идентификация
A, I. 0)
A, 0, 0)
B, 0, 0)
B, 0, 0)
Степень
разности
1
0
0
0
Выборочные
автокорреляции
П = 0,805
П= 0,861
г, = 0,806, г2 = 0,428
Т\ = —0,390, г2 = 0,304
п
226
310
100
70
Пользуясь G.3 2), получаем оценки Юла —Уокера, приве-
приведенные в табл. 7.14, вместе со стандартными ошибками, вычис-
вычисленными по G.3.6) и G.3.7).
Таблица 7.14
Оценки Юла—Уокера для рядов С—F
Drr IT
Ряд
с
D
E
F
i
{
Оценки и их стандартные
01
01
01
02
t1
02
ошибки
= 0,81
= 0,86
= l,32j
= -0,63
= -0,32
= 0,18
±0,04
±0,03
±0,08
±0,08
±0,12
±0,12
Коэффициенты корреляции
между оценками
—0,81
0,39
Из G.3.7) получаем выражение для коэффициента корре-
корреляции между оценками двух параметров процесса авторегрессии
второго порядка:
COV@i, 02) _ —01
¦ ~~ 1 - 02 ~~ '
Pi-
Заметим, что для ряда Е существует большая отрицательная
корреляция между оценками. Это означает, что доверительная
область для <j>t и <f2 будет вытягиваться вдоль диагонали, иду-
идущей из верхнего левого угла на плоскости (^1,^2). Отсюда сле-
следует, что эти оценки нестабильны; в этом заключается причина
относительно больших расхождений между оценками наимень-
наименьших квадратов из табл. 7 13 и оценками Юла — Уокера из
табл. 7.14 для этого конкретного ряда.
Гл 7 Оценивание модели
273
7.3.2.* Процессы скользящего среднего
Оценки максимального правдоподобия 8 для процессов
скользящего среднего можно в простых случаях получить гра-
графически, как это было показано в разд. 7.1.6, а в более общей
ситуации — итеративным расчетом, описанным в разд. 7.2.1.
Из G.2.20) следует, что для средних и больших выборок ко-
ковариационная матрица оценок параметров процесса скользя-
скользящего среднего q-ro порядка имеет ту же форму, что и соответ-
соответствующая матрица для процесса авторегрессии того же по-
порядка.
Отсюда для процессов скользящего среднего первого и вто-
второго порядков, согласно G.3 6) и G.3.7), получаем
ССA): У(9) = /г->A-02),
ССB): V(9,, 02) = /г-Ч
е22
1 — el
']. G.3.
G.3.9)
Ю)
7.3.3.* Смешанные процессы
Оценки максимального правдоподобия (ф, 9) для смешанных
процессов, как и для процессов скользящего среднего, в простых
случаях можно получить графически, а в более сложных — ите-
итеративным расчетом. Для выборок средних и больших размеров
ковариационную матрицу можно найти, оценив и обратив ин-
информационную матрицу G.2.18). В важном частном случае про-
процесса АРССA, 1)
(
G<ЗЛ1)
получаем, как и в G.2.23),
A-«/>2)A-«/>е) A-Ж1-92)
1-
-Ж1-92) ]
_e2)A-^в)J*
Заметим, что при <f> = 0 дисперсии ф и 0 бесконечны. Этого сле-
следовало ожидать, так как в этих случаях множители A—фВ) =
= A—0В) в обеих частях уравнения модели сокращаются и
оно приобретает вид
wt — at.
Это — частный случай избыточности параметров, которую мы
более подробно обсудим в разд. 7.3 5.
7.3.4. * Разделение линейных и нелинейных компонент
при оценивании
Иногда интересно провести анализ, в котором оценки пара-
параметров смешанной модели разделены на линейные и нелинейные
части. Рассмотрим общую смешанную модель, которую мы

274
Часть II. Построение стохастических моделей
представили как
или
где
G.3.12)
т. е.
ё( — в(В)(г{ |в). G.3.13)
Для любого данного набора 0 величину е можно вычислить ре*
куррентно при помощи формулы G.3.13), которую можно зате-
затесать в виде
Расчет можно начать, положив неизвестные е равными нулю.
Когда е вычислены, легко получить условные оценки фЛ. Это —
выборочные параметры авторегрессии в линейной модели
G.3.12), которую можно представить в виде
р. G.3.14)
Как уже объяснялось в разд. 7.3.1, оценки наименьших ква-
квадратов для параметров авторегрессии можно найти прямым ре-
решением простой системы линейных уравнений и приближенно
при помощи уравнений Юла — Уокера. В простых случаях мы
можем изучить поведение 5(^в, 8) и найти абсолютный мини-
минимум суммы квадратов вычислением этой суммы на сетке значе-
значений Э и построением изолиний.
Пример, относящийся к ряду С. В соответствии с одним из
вариантов пробной идентификации ряда С, приведенным в
табл. 6.4, этот ряд, возможно, генерируется моделью A, 1, 0)
с wt = Vzt и E[wt] = 0. Мы хотели изучить ситуацию оценива-
оценивания по этим данным в случае более сложной модели
A — фВ) wt = A - 8,В — 82В2) at.
Следуя проведенным выше рассуждениям, можно трактовать
этот процесс как комбинацию нелинейной модели
и линейной модели
= ш, -f 0,e,_, + в2е,_2
Последовательность значений е вычислялась рекуррентным об-
образом для каждого выбранного значения нелинейного парамет-
параметра 9 = (Эьвг) внутри области обратимости. Пользуясь прибли-
1 Оценивание модели
275
жением Юла — Уокера, можно найти оценку $e=ri(e)> а также
Эта сумма квадратов была вычислена для сетки значений 0t и
9г; ее рельеф показан на рис. 7.8. Видно, что минимум располо-
расположен близко к точке 04 = 02 — 0, в которой /•j(e) = 0,805. Таким
-, 7
-2
-7
в,
О
Рис. 7.8. Изолинии суммы S (Фл, 6), построенной над областью допустимых
значений параметров 6.
образом, подтверждено, что внутри всего класса моделей по-
порядка A, 1, 2) и ниже простейшая модель A, 1, 0)
обеспечивает хорошее описание наблюденного ряда.
7.3.5. Избыточность параметров
Модель
Ф(В)тг — Ъ{В)а1
идентична модели
A — аВ)ф(В)в)( = A~ aB)Q(B)at,
в которой операторы авторегрессии и скользящего среднего
умножены на один и'тот же множитель A —аВ). Значительные
трудности в процедуре оценивания могут быть вызваны тем фак-
фактом, что подгоняется модель с избыточным (лишним) множи-
множителем. Поэтому требуется позаботиться о том, чтобы в модели
не появлялись избыточные или почти избыточные множители.
Например, общий множитель в модели АРССB, 1)
A - 1,3В + 0,4В2) щ=*A— 0,5В) at
можно увидеть только после разложения левой части на мно»
жители
A - 0,5В) A - 0,8В) щ = {1- 0,5В) аи

276
Часть II Построение стохастических моделей
что приводит к
На практике трудности вызывает не только наличие одина-
одинаковых множителей в обеих частях уравнения, но и ситуация,
когда имеются почти одинаковые множители. Например, пусть
истинная модель была
A -0,4В) A -0,8В) щ = A -0,5В) щ. G.3.15)
Если делается попытка подогнать эту модель, можно ожидать
крайнюю нестабильность в оценках параметров из-за близости
множителей A —0,4В) и A —0,5 В) по разные стороны G.3.15).
В этой ситуации можно найти комбинации значений парамет-
параметров, дающих близкие [а] и, следовательно, близкие значения
правдоподобия; изменение значений параметра слева почти
компенсируется соответствующим изменением параметра спра-
справа. Поверхность суммы квадратов в трехмерном пространстве
параметров будет сходна с косоцилиндрической, и вместо четко
определенного минимума будет найдена линия «почти наимень-
наименьших квадратов».
С несколько иной точки зрения мы можем представить мо-
модель G.3.15) в виде бесконечного оператора авторегрессии.
Применяя необходимые разложения, находим
A - 0,700В - 0,030В2 — 0,015В3 - 0,008В4 - ...) wt = at.
Итак, модель весьма аккуратно описывается как
(I - 0,7В) wt = at. G.3.16)
Нестабильность оценок, полученных при попытке подогнать мо-
модель АРССB, 1), возникает потому, что мы пытались подогнать
три параметра в ситуации, где почти достаточно одного.
Предварительная идентификация как средство избежать из-
избыточности параметров. Главная цель применения идентифика-
идентификационной процедуры перед подгонкой модели — избежать труд-
трудностей, возникающих из-за избыточности параметров, или, в
более позитивном смысле, достичь экономичности параметриза-
параметризации. Так, в только что рассмотренном примере для временного
ряда в несколько сотен наблюдений выборочная автокорреля-
автокорреляционная функция по данным, генерируемым моделью G.3.15),
была бы неотличима от генерируемой простым процессом авто-
авторегрессии G.3 16).
Это привело бы нас к подгонке процесса АРA), в нормаль-
нормальной ситуации полностью адекватного наблюдениям. Только для
временного ряда в несколько тысяч наблюдений может потребо-
потребоваться более сложная модель, и имеющейся информации ока-
окажется достаточно для получения надежных оценок дополнитель-
дополнительных параметров.
Тл 7 Оценивание модели
277
Избыточность процесса АРССA, 1). Простейший процесс, в
котором возникает возможность прямого сокращения множите-
множителя,— это процесс АРССA, 1).
В частности, если ф = 0, то, каковы бы они ни были,
wt — at,
и это означает, что w генерируется белым шумом. Данные не
содержат информации об* общих параметрах, и в соответствии
с G.3.11) ф и 0 имеют бесконечную дисперсию. Далее, при лю-
любых значениях ф и 0 5(^,0) — константа на прямой ф — 0, как
1,0
Рис. 7 9 Изолинии суммы квадратов для ряда А.
это видно на карте рельефа суммы квадратов для ряда А, пока-
показанной на рис. 7.9. Для этих данных значения оценок наимень-
наименьших квадратов <f= 0,92, 0 = 0,58 соответствуют точке, которая
не слишком близка к прямой ф ~ 0, и в оценке этих параметров
трудностей не возникает.
На практике, если принять рекомендуемую нами методику
идентификации, трудностей, связанных с избыточностью, можно
избежать. Процесс АРССA, 1), у которого ф почти равно 6,
в нормальной ситуации будет идентифицирован как белый шум
или, если различие заметно, как процесс АРA) или ССA) с
одним небольшим коэффициентом. В итоге
1) следует избегать смешанных процессов, содержащих по-
почти одинаковые множители, и помнить о трудностях, которые
могут возникнуть, если такие множители имеются;
2) такие процессы будут исключаться автоматически, если
разумно пользоваться процедурами идентификации и оцени-
оценивания.

278
Часть It Построение стохастических моделей
7.4. ОЦЕНИВАНИЕ ПРИ ПОМОЩИ ТЕОРЕМЫ
БАЙЕСА
7.4.1.* Теорема Байеса
В этом разделе мы опять будем пользоваться обозначением §
для общего вектора параметров. Теорема Байеса гласит, что
если р(|)—априорное распределение вероятности для |, то апо-
апостериорное распределение вероятности p(?|z) для § после по-
получения данных z можно следующим образом выразить через
априорную вероятность и функцию правдоподобия:
J p(%)L(l\z)dl
G.4.1)
Знаменатель просто обеспечивает нормировку: интеграл от
p(||z) равен единице. Существенную роль в выражении играет
числитель — видно, что апостериорная'вероятность пропорцио-
пропорциональна априорной вероятности, умноженной на функцию прав-
правдоподобия. Сэведж [64] показал, что априорная я апостериорная
вероятности могут интерпретироваться как субъективные ве-
вероятности. В частности, во многих случаях до того, как появи-
появились данные, мы очень мало знаем о § и готовы согласиться,
что в интересующей нас области a priori любые значения § рав-
равновероятны. В этом случае р(\) можно считать в этой области
равномерным, и, следовательно, p(?|z) будет пропорционально
функции правдоподобия.
Следует заметить, что при этом не требуется, чтобы распре-
распределение | было равномерным во всем диапазоне, который для
некоторых параметров может быть бесконечным. Говоря о ло-
локальной равномерности, мы подразумеваем, что распределение
приближенно постоянно в области, где функция правдоподобия
существенна, и не принимает очень больших значений вне этой
области.
Так, если | —- вес стула, то мы определенно можем сказать
a priori, что он весит больше унции (~30г) и меньше тонны.
Также вероятно, что, когда мы сделаем наблюдение z, взвесив
стул на весах со стандартным отклонением о, мы можем честно
признаться, что нас равно удовлетворили бы любые априорные
значения \ в пределах z ± За. Исключение составил бы случай,
когда вес тяжелого по внешнему виду стула оказался бы, ска-
скажем, равным 10 унциям. В этом случае априорное распределе-
распределение и функция правдоподобия оказались бы несопоставимыми,
и мы, конечно, не стали бы применять теорему Байеса, а про-
проверили бы весы, и если бы они оказались правильными, иссле-
исследовали стул более внимательно.
Гл. 7. Оценивание модели
279
В этой идее есть, конечно, некий произвол. Пусть мы пред-
предположили, что априорное распределение | локально равномер-
равномерно. Отсюда следует, что распределение любой линейной функ-
функции I также локально равномерно. Однако априорное распре-
распределение некого нелинейного преобразования а = а(|) (например,
а = lgg) может и не быть локально равномерным. Этот произ-
произвол обычно не играет существенной роли, если мы можем
получить довольно точные оценки ?. Мы будем тогда рассма-
рассматривать ? только в весьма узком диапазоне, в котором преобра-
преобразование I (скажем, lgg) часто очень близко к линейному.
Джеффрис [65] указывал, что лучше выбрать преобразование
а(?) так, чтобы мера информации Фишера 1а = —Е[дЧ1даг\
была бы независимой от а и, следовательно, от |, Это эквива-
эквивалентно выбору a(Q таким образом, чтобы предельная диспер-
дисперсия ее оценки максимального правдоподобия была независима
от |, и достигается выбором априорного распределения |, про-
пропорциональным YJg.
Джеффрис оправдывал этот выбор, исходя из его инвариант-
инвариантности по отношению к используемой .параметризации. Тот же
результат-может быть получен [66] из следующих рассуждений.
Если для больших выборок функция правдоподобия для а{\)
приближается к нормальной кривой, то среднее значение и
дисперсия этой кривой заключает в себе всю информацию, кото-
которую можно рассчитывать извлечь из данных. Положим теперь,
что можно найти преобразование а(\), для которого аппрокси-
аппроксимирующая нормальная кривая имеет почти постоянную диспер-
дисперсию, какими бы ни были истинные значения параметров. Тогда
при этой параметризации единственная информация, на кото-
которую можно* рассчитывать, выражается в параметре, определяю-
определяющем положение функции правдоподобия. Не знать ничего суще-
существенного a priori об этой ожидаемой информации означает, что
любые возможные положения а мы a priori считаем равнове-
равновероятными. Иначе говоря, а следует считать локально равно-
равномерным.
Обобщение правила Джеффриса на случай нескольких пара-
параметров заключается в том, что совместное априорное распреде-
распределение параметров | считается пропорциональным
I1/»
G.4.2)
В [67] подчеркивалось, что саму функцию правдоподобия
лучше рассматривать й графически представлять в такой мет-
метрике а, для которой /а независимо от а. Если это сделано, то
функция правдоподобия и апостериорная функция плотности
распределения с равномерным априорным распределением про-
пропорциональны,

280
Часть П. Построение стохастических моделей
7.4.2.* Байесовское оценивание параметров
Рассмотрим теперь оценивание параметров в модели АРПСС
с байесовской точки зрения.
В приложении П7.4 показано, что точное выражение для
функции правдоподобия временного ряда г длиной N = п + d
для процесса АРПСС (p,d,q) имеет вид
где
L (ф, 9 | z) = a~*f (ф, 9) exp f - s(*e) 1, G.4.3)
[а(\г,ф,в]2= I [at\vf, ф, Qf. G.4.4)
Если априорная информация о аа, ф и 0 отсутствует, то, по-
поскольку информация о аа не дает нам информации о ф и 8,
рационально, следуя Джеффрису, принять априорное распреде-
распределение ф, 9 и (Та в виде
Отсюда следует, что апостериорное распределение имеет вид
р(ф, 9, aa|z)~a-<"+»|I(sS> Ъ)(Ч(ф, 9)ехр{-^^}. G.4.5)
Если теперь проинтегрировать G.4.5) от нуля до бесконечности
по оа, то мы получим точное совместное апостериорное распре-
распределение параметров ф и 9:
р(ф, в \г)
, 9)
G.4.6)
7.4.3.* Процессы авторегрессии
• Если zt есть процесс (р, d, 0), то wt = Vdz( будет чистым
процессом авторегрессии порядка р. В приложении П7.5 пока-
показано, что для такого процесса множители \\{ф){2 и Цф), ко-
которые во всех случаях являются существенно менее важными,
чем множитель Б(ф), практически взаимно сокращаются. Это
приводит к очень простому результату, что при данных предпо-
предположениях параметры ф процесса АР(р) для w имеют апостери-
апостериорное распределение
р(ф\г)~{8(ф)Гп12. G.4.7)
В этом случае рельеф суммы квадратов, приближенно совпа-
совпадающий с рельефом функции правдоподобия при отсутствии
априорной информации, совпадает также с рельефом апосте-
апостериорной вероятности,
Гл. 7. Оценивание модели
281
Совместное распределение параметров авторегрессии. В при-
приложении П7.5 показано, что для чистого процесса АР оценки
наименьших квадратов для ф, минимизирующие 8(ф) = ф'иИфи,
имеют вид
55 = Dp"'d, G.4.8)
где
1
, d =
D2
D
, р + 1
Г.4.9)
Di] = Dli = w{Wf + wi+li
Отсюда следует, что
S (ф) = vs2a +
где
s2a = S (ф)
и
Тогда мы можем записать
p<*i*)~{i+-!
{ф-ф)'Ьр{ф-
l/v, v = п —
i ^6 U ^D '¦¦ / х
vs2
-0),
Р.
-d'D;1
$) \~п12
J '
_i. G.4.10)
G.4.11)
G.4.12)
d. G.4.13)
G.4.14)
Это можно записать и иначе:
~ \-Л/2
1+—i-
vsl
, G.4.15)
где
Отсюда следует, что параметры процесса авторегрессии имеют
многомерное ^-распределение (П7.1.13) с v = п — р степенями
свободы.

282
Часть II. Построение стохастических моделей
На практике для частного случая р = 1 распределение
(ф — f)/s? точно совпадает с ^-распределением Стьюдента с
п— 1 степенями свободы, причем из общих результатов, полу-
полученных выше, следует, что
Величина s$ при больших выборках стремится к [A — фг)/п]'/2
И в рамках выборочной теории идентична со стандартной ошиб-
ошибкой для ф при больших выборках. Однако, используя это и по-
подобные выражения в рамках байесовского подхода, следует
помнить, что случайными переменными являются именно пара-
параметры (в этом случае ф). Такие величины, как f и s^-, являю-
являющиеся функциями уже полученных данных, рассматриваются
как фиксированные.
Приближение нормальным законом. Для выборок размером
п > 50, которыми мы обычно интересуемся, ^-распределение
может с достаточной точностью аппроксимироваться нормаль-
нормальным распределением. Это означает, что распределение ф очень
близко к р-мерному совместному нормальному распределению
Ы{ф, Dp'sa} со средним значением ф и матрицей ковариаций
Байесовские области наивысшей плотности вероятности.
Суммируя то, что можно узнать о вероятности различных зна-
значений ф по апостериорному распределению, полезно указать
область наивысшей плотности вероятности, кратко называемую
областью НПВ [104]. Байесовская A — е)-я область НПВ имеет
следующие свойства:
1) любое значение параметра внутри этой области имеет бо-
более высокое значение вероятности,-чем вне этой области;
2) апостериорная вероятность этой области равна 1 — е.
Так как ф имеет многомерное *-распределение, из (П7.1.4)
следует, что
Р {(ф ~фУВр(ф-ф)< ps2aFe (p, v)} = 1 - е G.4.17)
определяет точную A —е)-ю область НПВ для ф. Для
v = п — р> 100
рре(р, v)
Кроме того,
(ф - фУ Dp (ф - ф) = ~
i.I
Г л 7 Оценивание модели
283
Отсюда приближенно область НПВ, определенная G.4.17),
имеет вид
S S{, {фь - ф{) {ф} - f,) < ад (p) G.4.18)
и, если положить а\ = s\, идентична с доверительной областью,
определенной G.1.26).
Хотя эти приближенные области и идентичны, нужно по-
помнить, что их интерпретация различна. С точки зрения выбороч-
выборочной теории говорят, что если доверительная область вычислена
согласно G.1.26), то для каждой серии повторных выборок
A —е)-я часть этих областей будет включать точку с истинным
значением параметра. С байесовской точки зрения рассматри-
рассматривается результат единственной фактически наблюдавшейся вы-
выборки z. В предположении, что априорное распределение веро-
вероятности локально равномерно, область НПВ включает A — е)-ю
часть результирующего вероятностного распределения ф при
данном z, обладающую наивысшей плотностью. Другими сло-
словами, вероятность того, что значение ф, вызывавшее данные z,
лежит внутри НПВ, равна 1 — е.
Пользуясь G.4.11), G.4.12) и G.4.18) для больших выборок,
находим, что приближенная байесовская область НПВ ограни-
.чена изолинией, для которой
G.4.19)
т. е. точно соответствует доверительной области, определенной
G.1.28).
7.4.4.* Процессы скользящего среднего
Если г есть процесс проинтегрированного скользящего сред-
среднего порядка @, d, q), то w = Vdz является чистым процессом
скользящего среднего порядка q. В приложении П7.5 показано,
что в этом случае множители |I(9)|'/s и /(8) в G.4.6), которые
во всех случаях существенно менее важны, чем множитель с
S(9), для больших выборок взаимно сокращаются. Тогда, со-
согласно G.4.7), параметры 0 процесса CC(q) для w имеют апо-
апостериорное распределение
p(9|z)~{S(8)}
-ге/2
G.4.20)
и в этом случае рельеф суммы квадратов для не слишком ма-
малых выборок практически совпадает с рельефом апостериорной
плотности вероятности. Так как [at] не является линейной функ-
функцией 0, 5(Э) не является точно квадратичной функцией о, но
для больших выборок внутри изучаемой области обычно это

284
Часть II Построение стохастических моделей
приближенно верно. В таком случае имеем приближенно
и 1
где V5^ = S(8) и v = n — q. Отсюда, подставляя это выраже-
Таблица 7.15
Расчет приближеииой апостериорной
плотности р (к I z) для ряда В
Я
1,300
1,275
1,250
1,225
1,200
1,175
1,150
1,125
1,100
1,075
1,050
1,025
1,000
0,975
0,950
0,925
0,900
0,900
0,875
0,850
1057Х tS(fc)]-'84-5
4
33
212
1007
3 597
9 956
21 159
34 762
44 473
44 988
35 835
22 563
11277
4 540
1457
372
76
76
12
2
Всего 236 325
Р <*¦ 1 г)
0,001
0,006
0,036
0,171
0,609
1,685
3,582
5,884
7,528
7,615
6,066
3,819
1,908
0,769
0,247
0,063
0,012
0,012
0,002
0,000
40,000
площадь под
равна 1 *).
графиком которой
ние для 5(8) в G.4.20) и
используя экспоненциальное
приближение, получаем
1) для больших выбо-
выборок 8 приближенно распре-
распределено по многомерному
нормальному закону N {§,
2(Stl)-[sl};
2) приближенная область
НПВ определена формулой
G.4.18) или G.4.19), если
в них заменить р на q и
ф на 8.
Пример: апостериорное
распределение К = 1 — 0
для процесса ПСС@,1,1).
В качестве примера в табл.
7.15 приведены вычисления
приближенного апостериор-
апостериорного распределения плот-
плотности вероятности р(Цг)
по данным ряда В. Во вто-
втором столбце таблицы при-
приведены вычисленные орди-
ординаты {S(k)}~nl2X Ю57 для
значений Я с шагом h =
= 0,025. Их сумма 2 равна
236 325. Поделив ординаты
на ftS, получаем функцию
апостериорной плотности,
с достаточной точностью
*) Приближенное численное интегрирование для получения «нормиро-
«нормированной» кривой с единичной площадью, которое при желании можно вы-
выполнить и более точно, позволяет получить истинные плотности вероятности.
Почти для всех практических приложений этого делать не нужно — доста-
достаточно вычислить и построить в удобном масштабе {S{\)}-nP, пропорциональ-
пропорциональную истинной плотности.
Гл. 7. Оценивание модели
285
Распределение показано иа рис. 7.10. Видно, что оно при-
приближенно нормальное с модой Я = 1,09 и стандартным откло-
отклонением около 0,05. 95%-ный
байесовский интервал по- 8
крывает тот же диапазон
0,98 < Я< 1,19, что и дове- 7
рительный интервал.
6
7А.5* Смешанные процессы
Если z есть процесс
АРПСС(р, d,q), то w=Vdz
является процессом АРСС
(р, q) ф(В)щ = Q(B)at.
В приложении П7.5 показа-
показано, что для такого процесса
множители \1(ф, ®)\'12 и
[(ф, 6) в G.4.5) не сокра-
сокращаются точно. Вместо этого
мы показываем, что
т
G.4.21)
08 0,9 Ю U !,г 1.3 r.tf
А »>
Рис. 7.10. Апостериорная плотность
р(к\ г) для ряда В.
В G.4 21) ф*—это р + q параметров, полученных перемноже-
перемножением операторов авторегрессии и скользящего среднего
и / — якобиан преобразования ф* в (ф, 6), т. е.
р(ф, e|z)~/@*|0, e){S@, еГ"/2- G.4.22)
В частности, для процесса АРСС A,1) f\ = f + Q, ^1 = — ^,
l = \ j> — 0 | и
рЦ>, 0 \г) ~| <f> — 0 |{S(<?, 0)}~"/2. G.4.23)
В этом случае видно, что якобиан будет играть определяю-
определяющую роль в окрестности прямой <f> = 0 и будет давать нулевую
плотность на этой прямой. Это разумно, так как сумма ква-
квадратов S(f,Q) будет принимать одинаковое конечное значение
2
w2t для любого ф = 0 и соответствовать исследованию
возможности, что wt — белый шум. Однако в нашем выводе
мы не накладывали ограничений на диапазон параметров.

286
Часть II. Построение стохастических моделей
Возможность ф = 6 связана, таким образом, с неограниченным
диапазоном для (равных) параметров. Эффект ограничения про-
пространства параметров введением, например, условий стационар-
стационарности и обратимости (—1<^<1, —1<6<1) даст малые
положительные значения плотности, но это уточнение вряд ли
практически существенно.
Байесовский анализ еще раз подтверждает вывод разд. 7.3.5,
что при оценивании смешанных моделей могут встретиться
трудности; в частности, они могут встретиться при итеративном
поиске решений, когда близка избыточность параметров. Мы
уже видели, что использование предварительной идентификации
позволяет избежать этих трудностей.
ПРИЛОЖЕНИЕ П7.1. ОБЗОР ТЕОРИИ НОРМАЛЬНОГО
РАСПРЕДЕЛЕНИЯ
П7.1.1. Разбиение положительно определенной квадратичной
формы
Рассмотрим положительно определенную квадратичную фор-
форму Qp = x'S~'x. Пусть вектор х размера рХ 1 разбит на две
части после pi-го элемента, так что x' = (x':xQ = (*,, х2, ...
..., xpi-xpi+l, ..., хр), и пусть матрица 2 размера рХр также
разбита на части после ргп строки и pi-го столбца, так что
Тогда, так как
'v-l
X
Ь;У:
х
Qp = x'2 'x всегда может быть представлена как сумма двух-
квадратичных форм QPl и QP2, содержащих соответственно рг
и р2 элементов, где
QP = Qft
i2) (x2 — Si2Sn'xi).
Определитель 2 можно представить в виде
|2 |==|2П |Bг2 —2122П'212|
(П7.1.1)
(П7.1.2)
Гл. 7. Оценивание Модели
287
П7.1.2. Два полезных интеграла
Пусть z'Cz — положительно определенная квадратичная
форма от г из q элементов, так что г' = (zu z2,..., zQ), где
—оо < Zi < oo, i = 1, 2, ..., q, и пусть а, Ь и m — положитель-
положительные действительные числа. Тогда можно показать, что
, (п„3)
где ^-кратный интеграл берется по всему пространству R Воз-
Возможных z и
, 2'Cz
z'CzXlF,
¦jp(P\q,m)dF, (П7.1.4)
Fo
где функция p{F\q, m) называется F-распределением с q и m
степенями свободы и определена как
Если т->оо, то
и, обозначив
2, получаем из (П7.1.4)
J e-<z'
СО
¦= { P(t2\q)dx\ (П7.1.6)
где функция р(%2|<7) называется %2-распреДелением с q степе-
степенями свободы и определена как
е . (П7.1.7)
Здесь и далее р(х) используется как общее обозначение для
функции плотности вероятности случайной величины х.
П7.1.3. Нормальное распределение
Говорят, что случайная величина х распределена нормально
со средним ц и стандартным отклонением а или имеет распреде-
распределение N(\i,а2), если ее плотность вероятности равна
р (х) = BпГ'12 (аТ41 e-(x-m2Q\ (П7.1.8)

288
Часть П. Построение стохастических моделей
Отсюда нормированная величина и = (х— ц)/о имеет распреде-
распределение N@, 1). Табл. Е в конце книги дает ординаты р(и = ые)
и значения ие, для которых Р{н > ие} = е для заданного е.
Многомерное нормальное распределение. Говорят, что век-
векторная случайная величина х' = (х\, Хъ, . ¦., хр) имеет совмест-
совместное р-мерное нормальное распределение N{\x,, 2}, если плотность
вероятности равна
1 = Г2яГр/2|?
¦-'А в-(*-и
' (х-ц)/2
(П7.1.9)
Изоповерхности плотности вероятности — эллипсоиды, опреде-
определяемые уравнениями .(х — ц)'^^ —1-0 = const. В качестве
Р н с. П7.1. Изолинии двумерного нормального распределения A); там же
показаны маргинальное распределение pi(xi) B) и условное распределение
р(Хг\хм) при xi = Хц> C).
иллюстрации на рис. П7.1 показаны эллиптические изолинии для
двумерного нормального распределения.
В точке х = ц многомерное распределение имеет максималь-
максимальную плотность вероятности
Распределение %2 как вероятность непопадания в область,
Ограниченную изоповерхностью многомерного нормального рас-
распределения. Для р-мерного нормального распределения (П7.1.9)
вероятность непопадания в область, ограниченную поверхно-
поверхностью, заданной уравнением
Тл. 7. Оценивание модели
28Й
равна х2-интегралу с р степенями свободы
J P(%2\p)dx2,
«8
где плотность /^распределения определена формулой (П7.1.7).
В табл. F в конце книги приведены значения %| (р), для которых
при заданном е Р [%2 > у?(р)} — г.
Маргинальные и условные распределения для многомерного
нормального распределения. Положим, что вектор из p=pi + рг
случайных величин разбит на две части после pi-го элемента, так
ПТлт'==(т'.»'1=/(Г V
ковариаций имеет вид
2'
2 =
и матрица
Тогда, пользуясь (П7.1.1) и (П7.1.2), можно записать многомер-
многомерное нормальное распределение для р = р\ + р2 величин как
маргинальное распределение х4, умноженное на условное рас-
распределение х2 при данном xi, т. е.
p(x)=p(Xi, X2) = p(x,)p(x2|x,) =
= Bл)-р'/2| 2„ Г'А ехр {- (х, - Ц,)' V (х, - |i,)/2} X
X Bя)-р2/2| So.,, Г72 ехр { - (х, - Ц2.0' S5.Ju (х2 - ц2.0/2}, (П7.1.10)
где
222 —
и \tz. 1 — цг +
¦42
определяет
(П7.1.11)
гиперпло-
г. 1 (xi — fii) = Е (х21 X
скость регрессии в pi + р2-мерном пространстве, которая просле-
прослеживает точку среднего значения р2 элементов х2, в то время
как pi элементов х4 изменяются. Матрица коэффициентов ре-
регрессии размером Р2Х Pi определяется формулой Р2 j = Sj2S~ .
Как маргинальное, так и условное распределения для много-
многомерного нормального закона сами являются многомерными нор-
нормальными распределениями. Видно, что для многомерного нор-
нормального распределения условное распределение p(x2|xi) с точ-
точностью до сдвига сохраняется при любом х4.
Одномерные маргинальные плотности. В частности, марги-
маргинальная плотность для одного элемента Xi (i = 1, 2, ..., р)
равна N(y.{, оф — одномерной нормальной плотности со сред-
средним значением, равным t-му элементу ц, и дисперсией, равной
ч'-му диагональному элементу 2,

290
Часть tl Построение стохастических моделей
Двумерное нормальное распределение. В качестве примера
на рис. П7.1 показаны маргинальное и условное распределения
для двумерного нормального распределения. В этом случае мар-
маргинальное распределение х1 есть N(y,v о2), а условное распре-
распределение х2 при данном Xi равно
где р = @1/02) Рг. 1 — коэффициент корреляции между Xi и хг.
П7.1.4. Распределение Стьюдента
Говорят, что случайная величина х имеет нормированное
^-распределение Стьюдента t(\i,sz,v) со средним значением ц,
нормирующим параметром s и v степенями свободы, если
(П7.1.12)
Отсюда стандартное ^-отклонение t=(x — ц)/« имеет распре-
распределение t(O,l,v). В табл. G в конце книги приведены значения
tB, для которых при заданном вР(/><в)= е.
Переход к нормальному распределению. Для больших v про-
произведение
стремится к единице, в то время как крайний справа множитель
в (П7.1.12) стремится к г (И f*-^'. Поэтому если мы для боль-
больших v примем s2 = а2, то ^-распределение стремится к нормаль-
нормальному распределению (П7.1.8).
Многомерное t-распределение. Пусть ц' будет вектором
(ць ц2, •••, Цр) размером (рХ 1) и S — положительно опреде-
определенной матрицей размером (рХР)- Говорят, что векторная
случайная величина х [68, 69] имеет нормированное ^-распре-
^-распределение t(fi, S, v) с вектором средних значений ц, нормирующей
матрицей S и v степенями свободы, если
Изоповерхности плотности вероятности многомерного ^-распре-
^-распределения— эллипсоиды, определяемые уравнением
(х — ц)' S (х — fi) = const.
Гл. 7. Оценивание модели
291
Переход к многомерному нормальному распределению. Для
больших v произведение
\-р/2
стремится к единице; крайняя правая скобка в (П7.1.13) стре-
стремится к е~(х~^ s~ iz-ril2. Отсюда, если для больших v примем
S = 2, многомерное ^-распределение стремится к многомерному
нормальному распределению (П7.1.9).
F-распределение как вероятность непопадания в область,
ограниченную изоповерхностью многомерного t-распределения.
Пользуясь (П7.1.4), можно выразить вероятность непопадания
в область, ограниченную изоповерхностью р-мерного ^-распре-
^-распределения t(ii, S,v), заданную уравнением
как ^-интеграл с р и v степенями свободы
J p(F\p, v)dF,
где функция плотности для F определена формулой (П7.1.5).
Для больших v P[F>FE(p, v)} = Р (х2 > х|(р)}," где pF = х2.
Отсюда, как и следовало ожидать, вероятность непопадания в
область, ограниченную заданной изоповерхностью ^-распределе-
^-распределения, для больших v равна аналогичной вероятности для много-
многомерного нормального распределения, к которому стремится мно-
многомерное ^-распределение.
Маргинальное t-распределение. Если р — р\-\- р2-мерный
вектор х, распределенный, согласно уравнению (П7.1.13), раз-
разбить на две части после ргго элемента, так что x' = (Xj:X2),
и разбить S подобным образом, получим
Обозначив
получим
p(Xj, Х2)=1
So о' о — 1с
22.11 = 322 — Э12ДЦ ^12.
I = ^2 + P2.i (xi ~ **i)» P2.1 = '
S2,u r*(j
X
X f 1 + <x'~tt'>/s»'(x'~tt') +
i.i) r

292
Часть П. Построение стохастических моделей
Используя теперь предварительный результат (П7.1.3) с
а=1+ —— " *' **' ¦
1
b = v, m^v + p^ q = p2, C=S221II, получим
p (x,) - B-Г! S,, Г'- (|)" Г
x{
(П7.1.И)
Итак, если р-мерный вектор х имеет многомерное ^-распределе-
^-распределение (П7.1.13), маргинальное распределение любых pi перемен-
переменных, образующих вектор хь— это pi-мерное /-распределение
t(m, Su,v).
Одномерные маргинальные плотности. В частности, марги-
маргинальное распределение для одного элемента Xi (i = 1, 2, ..., р)
будет t(ni,su,\) — одномерное /-распределение со средним зна-
значением, равным ?-му элементу ц, нормирующим множителем,
равным положительному значению квадратного корня из ?-го
диагонального элемента S, и v степенями свободы.
Условное t-распределение. Условное распределение р(х2|х4)
можно получить как отношение совместного распределения
p(xi,x2) и маргинального распределения p(xt):
„/„ i_ \ Р (ХЮ' хг)
P(X2|Xlo) р (х10) '
Поделив, получаем
,х,0) = cons,{
(П7.1.15)
где c(xi0) (для данного х10 — это фиксированная константа)
равно
c(*io)=—Z Л? *¦,. ГТ- (П7Л.16)
= хю—-многомерное
Тогда распределение х2 при данном
^-распределение:
* {|*а + Рал (хю — »*j). c~'(xio)
где P2.i = Si2Su'-
Двумерное t-распределение. Как и раньше, некоторое пред-
представление об общей многомерной ситуации можно получить,
изучив двумерное распределение t(n, S, v). Диаграммное пред-
представление, аналогичное показанному на рис. П7.1, на первый
Гл. 7. Оценивание модели
293
взгляд подобно двумерному нормальному распределению. Одна-
Однако маргинальные распределения — это одномерные /-распреде-
/-распределения, имеющие v степеней свободы, в то время как условные
распределения — это /-распределения с v+1 степенями сво-
свободы. Далее нормирующий множитель для условного распреде-
распределения р{х2\хю), например, зависит от xw. Это — явное отличие
от условного распределения для нормального случая, где дис-
дисперсия не зависит от Хю-
ПРИЛОЖЕНИЕ П7.2. ОБЗОР ЛИНЕЙНОЙ ТЕОРИИ
НАИМЕНЬШИХ КВАДРАТОВ
П7.2.1. Нормальные уравнения
Предполагается, что модель имеет вид
Wi = Pi^j -f- $2Xf2 -f- . •. -\~ Pft^jft -\- ei, (П7.2.1)
где Wi (i = 1, 2, ..., ft)— наблюдения, полученные из экспери-
эксперимента, в котором независимые переменные xiU xi2, .... xik при-
принимали известные фиксированные значения; р,-—неизвестные
коэффициенты, которые нужно оценить из данных, и ?<-*- не-
некоррелированные ошибки с нулевыми средними значениями и
одинаковой дисперсией о2.
Уравнения (П7.2.1) можно представить в матричной форме
хи хХ2 ... xik р,
Х2\ А^22 • • • Х<ц
w2
-Wn_ _Xnl Xn2
P2
или
w = Xp-j-e, (П7.2.2)
где предполагается, что X имеет полный ранг k. Теорему наи-
наименьших квадратов Гаусса можно сформулировать так [70]:
оценки Р' = (Pi, р2, ..., Рй) параметров р, линейные относи-
относительно наблюдений и минимизирующие среднеквадратичную
ошибку любой линейной функции параметров A,iPi + Я2Р2 + ...
..., + A,ftPft, можно получить, минимизируя сумму квадратов
S (Р) = е'е = (w - Хр)' (w - ХР). (П7.2.3)
Для определения минимума S(P) разложим вектор w — Хр на
два вектора w — Хр и Х(р — р):
-Р). (П7.2.4)

294
Часть II Построение стохастических моделей
Гл 7 Оценивание модели
295
Если
то
мы
выберем
S(
Р
;р)
так,
= 5
что
(Х'Х)р =
- (Ю + (Р —
X'w,
Р)'Х'Х
(Р-Р)
(П7.2
(П7.2
.5)
.6)
и векторы w — ХР и Х(Р — Р) ортогональны. Так как второй
член в правой части (П7 2.6)—положительно определенная
квадратичная форма, отсюда следует, что минимум S(P) дости^
гается при Р = р, где р определяется нормальными уравне-
уравнениями (П7.2.5).
П7.2.2. Оценка остаточной дисперсии
Согласно (П7.2.3) и (П7.2.5), сумма квадратов в точке ми-
минимума равна
S (Р) = w'w - p'X'Xp. (П7.2.7)
Далее, если мы введем
-fc), (П7.2.8)
можно показать [71], что E[s2] — о2 и, следовательно, Sz — не-
смещеяная оценка с2.
П7.2.3. Ковариационная матрица оценок
Такая матрица определяется как
V(p) = cov[p\ Р'] =
X'Xr'X'w, w/X(X/X)"I] = (X/xrIoa, (П7.2.9)
так как cov(w, w')= Io2.
П7.2.4. Доверительные области
В предположении о нормальности [71] квадратичные формы
S(P) и (р — р)'Х'Х(р — р) в (П7.2.6) независимо распределены
как х2 соответственно с п — k и k степенями свободы. Отсюда
(Р-рУх'Х(Р-р) n-k
распределено как F(k, n — k). Из (П7.2.8) следует, что
(p-p)'(X'X)(p-p)<h2Fs(ij, n-k) (П7.2.10)
определяет A — е)-ю доверительную область для р.
П7.2.5. Коррелированные ошибки
Пусть ошибки имеют известную ковариационную ^матрицу V,
где V-1 = РР'/с2. Тогда (П7.2.2) можно записать иначе:
P'w = Р'ХР + Р'е
или
w* = X*p + e*. (П7.2.П)
Ковариационная матрица е* = Р'е равна
cov[P'e, е'Р] = P'VP = Iff2.
Следовательно, можно применять обычную теорию наименьших
квадратов с V = 1а2 к трансформированной модели (П7.2.11),
в которой w заменено на w* = P'w и X на X* = Р'Х.
ПРИЛОЖЕНИЕ П7.3. ПРИМЕРЫ ВЛИЯНИЯ ОШИБОК
ОЦЕНИВАНИЯ ПАРАМЕТРОВ НА ВЕРОЯТНОСТНЫЕ
ПРЕДЕЛЫ ПРОГНОЗОВ
Дисперсии и вероятностные пределы для прогнозов, указан-
указанные в разд. 5.2.4, основывались на предположении, что пара-
параметры (ф, в) модели АРПСС известны точно. На практике их
необходимо заменять выборочными оценками (ф,$). Для того
чтобы получить некоторое представление о влиянии ошибок
оценивания на дисперсию ошибок прогноза, мы рассмотрим
частный случай нестационарного процесса ПСС@, 1,1) и ста-
стационарного процесса АРA). Будет показано, что для этих про-
процессов в случае, когда оценки параметров основаны на рядах
не слишком малой длины, эффект ошибок оценивания мал.
Процессы ПСС@, 1, 1). Записав выражения S!zt = at — Qat-i
для t -\-1, t + I — 1 t -\- \ n сложив их, получим
zt+i — zt = at+i + {\
Обозначим через ?<(/|0) прогноз с упреждением I в случае,
когда параметр 8 известен точно. Взяв условные математиче-
математические ожидания в момент t для / ==J, 2, .... получим
Отсюда ошибка прогноза с упреждением / равна
и дисперсия ошибки этого прогноза имеет вид
V (I) = Et [е] (Л 9)] = о? {1 + (/ -
где А=1 — 9.
(П7.3.1)

296
Часть II. Построение стохастических моделей
Однако если заменить 9 ее выборочной оценкой 9, получен-
полученной по ряду из ft наблюдений wt = Vzt, то
Где dt = zt — zt-i(l |9). Отсюда ошибка прогноза с упреждением /,
использующего 9, будет
— zt + Ы, =
= et{l 19) - (9a, - Qdt). (П7.3.2)
Так как Vzf = (l — BB)at = (l — QB)dt, отсюда следует, что
и, исключая из (П7.3.2) dt, получим
Далее,
— ев
j - ед
е-е
-6)в
ев
е-е f, (е-6
(9 - 9)(fl, + 9а,_, + 94-2 + • ¦ •)
(9 - 9J (а,_, + 29а,_2+392а,_3+..
. (П7.3.3)
В предположении, что прогноз и оценка 9 по существу осно-
основаны на непересекающихся данных, б и at, at-\, ... будут неза-
независимы. Кроме того, для не слишком малых выборок 9 прибли-
приближенно нормально распределено относительно среднего значе-
значения 9 с дисперсией A—92)/п. При этом можно показать, что
дисперсия выражения (П7.3.3) имеет вид
1±
1-е2
При условии, что б не слишком близко к единице,
Var [et A19)] ~ tfia {1 + (t - 1) W + 4- •
(П7.3.4)
Ясно, что пропорциональное изменение дисперсии будет наи-
наибольшим для / = 1, когда точная ошибка прогноза уменьшается
Гл. 7. Оценивание модели
297
до а2а. В этом случае для выборочных оценок параметров, осно-
основанных на не слишком коротких рядах, вероятностные пределы
увеличиваются в (ft + 1)/я Раз.
Процессы авторегрессии первого порядка. Записав выраже-
выражения для модели zt = <j>zt-i + a,t для момента t -\-1 и перейдя
к условным математическим ожиданиям в момент t, получаем
прогноз с упреждением /, основанный на точном значении пара-
параметра,
Аналогично
. (П7.3.5)
1). (П7.3.6)
и, следовательно,
et(l\ft=et(l\4>)+(
Отсюда следует, что
Et \е\ (I \ф)} = Et \е\ (I | ф)] +
так что в среднем с учетом E.4.16)
var [,, (/1Щ - ol <fc=?L +
Когда /= 1,
var [et{\\ Щ « ol
Для / > 1 имеем
Итак, в среднем
var [е, (/1?)]~ var [е
и различие опять порядка п~К
ПРИЛОЖЕНИЕ П7.4. ТОЧНАЯ ФУНКЦИЯ
ПРАВДОПОДОБИЯ ДЛЯ ПРОЦЕССА СКОЛЬЗЯЩЕГО
СРЕДНЕГО
Чтобы получить функцию правдоподобия в этом случае, не-
необходимо найти выражение для функции плотности вероятности
ряда w'n = (wv w2, ..., шЛ в предположении, что он генери-
генерируется стационарной моделью скользящего среднего порядка q
— ... —Bqat-q, (П7.4.1)

298
Часть //. Построение стохастических моделей
где wt *= Wt — ц, \i «= ?[о){]. В предположении, что а и, следо-
следовательно, w распределены нормально, совместную плотность ве-
вероятности можно записать в виде
ехр
(П7.4.2)
где (fft®'q))~lol — ковариационная матрицам размером п X л.
Во многих приложениях, где а>» = Vd2t, d > О, разумно предпо-
предполагать, что ц = 0 и, следовательно, ш* = wt. Когда это не пред-
предполагается и, следовательно, E[wt] не известно, ц можно рассма-
рассматривать просто как дополнительный оцениваемый параметр,
входящий в вектор 8. Рассмотрим теперь удобный способ вы-
вычисления WnMn'^Wft И ДЛЯ ПрОСТОТЫ ПОЛОЖИМ, ЧТО JX — О И,
следовательно, wt = wt.
Пользуясь моделью (П7.4.1), можно написать п -f- q урав-
уравнений
а_, = <
а0 =(
а, =)
а2 =г
е,ао+02а-1+ ••¦ +<
9iai + 02ао + • • • +9,
wn
После подстановки выражения для d в выражение для аг, вы-
выражений для a.i и а2 — в а3 и т. д. мы можем записать n-\-q-
мерный вектор а' = (а%-ч, a2-q, .. ¦, ап) через га-мерный вектор
w^ = (a>,, te>2, ..., о>п) и через ^-мерный вектор предварительных
значений а'= (a,_g, a2_g а0). Имеем
где L — матрица размером (м-f q)X.n и X—-матрица размером
(« + Я) X <7» элементы которой — функции элементов 9, времен-
временно считающихся зафиксированными.
Совместное распределение n-\-q величин, являющихся эле-
элементами а, равно
а'а'
Гл. 7. Оценивание модели
299
Замечая, что наше преобразование имеет единичный якобиан,
находим совместное распределение wn и а»:
Р К> а, | 9, оа) = Bл^)-<— ехр ( -
где
S (9, а.) = (LwB + XaJ' (Lwn + XaJ. (П7.4.3)
Пусть а» — вектор значений, минимизирующих 5(9,а*). Тогда,
пользуясь (П7.2.6), получаем
5 (9, aJ = 5 (9) + (а. - ?.)' Х'Х (а, - aj,
S (9) = (Lwn + XaJ' (Lw* + XaJ (П7.4.4)
— функция только наблюдений wn, но не предварительных
значений а,. Итак,
ra, а,
ехр|
Однако, так как
Р (wn, а„ 19, аа) = р (wra 19, са) р (a, | wn, 9, аа),
то отсюда следует, что
Р (a. I wra, 9, о,,) =
Х'Х |'/2ехр [- Ja»
aj
(П7.4.6)
Мы приходим к следующим выводам.
1) Из (П7.4.5). видно, что а» — это условное ожидание а*
при данных wn и 9. Пользуясь обозначениями, введенными в
разд. 7.1.4, получаем
откуда [а] = Lwn -f X[aJ, и, пользуясь (П7.4 4), находим
= 2 Ш2. (П7.4.7)
Хотя а* можно получить непосредственно методом наименьших
квадратов, на практике их легче вычислять, используя тот факт,
что а» — [aj, и получая [а»] по методике «прогнозирования
назад», описанной в разд. 7.1.4 и 7.1.5,

300
Часть //. Построение стохастических моделей
2) Сравнивая (П7.4.6) и (П7.4.2), получаем
I х'х Г1 = I
3) Чтобы вычислить
s(9)= 2 М2,
t=l-q
можно получить величины [at] = [a<|wn, в], пользуясь оценками
[а,]' = {[ai-q], [а2-3], ..., [a0]) для предварительных значений,
найденных прогнозированием назад, и вычислив элементы
[fli], [пй] [ап] рекуррентным путем по формулам
где [wt] = wt (t = 1, 2, ..., м).
4) Наконец, пользуясь (П7.4.6) и (П7.4.7), получаем точное
выражение для безусловной функции правдоподобия
L С», "« | О =К)-П/21 Х'Х Г* ехр { - -V J [а,]2 ) . (П7.4.
.8)
Так, если <7= 1, легко показать, что X состоит из (ft + 1)-мер-
1)-мерного вектора-столбца с элементами 1, 8, 82, ..., 8П. Тогда
Х'Х = [1 — 92("+'>]/A — 92). Для ft > 50 членом 92<"+'> обычно
можно пренебречь, и мы получаем достаточно точный результат:
Обобщение на процессы авторегрессии и смешанные процес-
процессы. Описанный выше метод получения безусловной функции
правдоподобия легко обобщить на общую смешанную модель
t, (П7.4.10)
которая при wt = Vdzt определяет общий процесс АРПСС. За-
Заметим сначала, что эта модель может быть записана при по-
помощи бесконечного оператора скользящего среднего
Для процессов, представляющих интерес во многих задачах,
веса \|3i, г|>2, ••¦ быстро уменьшаются, так что (П7.4.11) с любой
желаемой степенью точности можно аппроксимировать конеч-
конечным процессом скользящего среднего некоторого порядка Q:
Гл 7. Оценивание модели
301
Подходящее значение Q можно выбрать, исходя из факта, что
для конечного скользящего среднего порядка Q наблюдения че-
через Q + 1 интервал некоррелированы, и, следовательно, прогно-
прогнозы [w] для упреждений, больших чем Q, будут равны нулю.
В процессе вычислений, описанных в разд. 7.1.5, находятся про-
прогнозы для времен 0,-1, —2, ..., —Q + 1, и Q выбирается как
точка, за которой прогнозируемые значения [w] становятся прак-
практически нулями. Поэтому не возникает необходимости в вычис-
вычислении г|з, так как рекуррентный расчет осуществляется прямо по
выражению для общей модели (П7.4.10). Пример расчета дан
в разд. 7.1.5.
Следовательно, в общем случае функция правдоподобия для
ряда z из ft + d значений, генерируемого любым процессом
АРПСС, имеет вид
где
, в) = 2 [at\z, ф, 9]2
t—-oo
. (П7.4.12)
(П7.4.13)
и значения [at\z, ф, 9] = {а/|\у„, ф, 9] практически можно вычис-
вычислить рекуррентным способом с суммированием, начинающимся
от некоторой точки t = 1 — Q, за которой [at] пренебрежимо
малы.
В качестве примера рассмотрим процесс авторегрессии пер-
первого порядка для wt:
wt~$wt_x-=ab (П7.4.14)
где wt может быть d-й разностью Vdzt истинных наблюдений,
и мы располагаем рядом z из ft + d наблюдений. Для того что-
чтобы вычислить функцию правдоподобия (П7.4.12), нам нужно
знать
5 (ф) = 2 [at Ып, ФТ = 2 [at \wn, ф]2 + 2 (Щ - M-iJ-
<=—оо t——°o <=2
Искомые условные ожидания (прогнозы назад) равны
[и>1Ып>ф]=*ф1~'ч>» / = 0. -1. -2, ....
поэтому
Ш*п,ф] = ф-'+1A-ф2)щ, /=1,0, -1, ... .
Отсюда
5 (ф) = A - ф2) w\ + 2 К ~ ^t-if (П7.4.15)
— результат, который может быть получен и более явными спо-
способами, рассмотренными в приложении П7.5.

302
Часть II. построение стохастических моделей
ПРИЛОЖЕНИЕ П7.5. ТОЧНАЯ ФУНКЦИЯ
ПРАВДОПОДОБИЯ ДЛЯ ПРОЦЕССА АВТОРЕГРЕССИИ
Положим, что данный ряд vi'n — (wv a>2, ..., о>п) генери-
генерируется стационарной моделью авторегрессии р-го порядка
Щ —
-l — j>2wt-2 — ... — j>pwt-p — at,
причем временно предполагается, что w имеют среднее значе-
значение jx = 0, но, как и прежде, допускается обобщение на случай
ц ф 0. Предполагая, что а, а следовательно, и w подчиняются
нормальному закону, получаем функцию совместной плотности
Вероятности:
из-за обратимости общего процесса матрица Мл 0) размером
п X п симметрична относительно обеих главных диагоналей.
Можно сказать, что такая матрица дважды симметрична. Имеем
р{угп\ф, aa) = p(wp+l, wp+2,
где w' =(a>,, w2, ..., w
1*>п
1\1гр,ф,оа)р(мгр\ф,оа),
X Первый множитель в правой части
можно получить, используя распределение
P(aP
(П7.5.2)
Для фиксированных wp (ap+i, ..., an) и (wp+i, ..., wn) свя-
связаны преобразованием
•Wn,< —9tWn— ... —i
с единичным якобианом. Отсюда имеем
p(a»p+i, ..-, a»n|wp, 0, аа) =
= Bл^)(""№ ехр { - JL
Кроме того,
РЫ *' °а) = /
expj -
j - ^ w^;-0)wp J.
Га 7. Оценивание модели
303
Тогда
Р К
ехр
, (П7.5.3)
где
р р
/=/>+!
Кроме того,
(П7.5.4)
Yo
Yi
Yo
Yp-i
Yp-2
_YP-i Yp-2 ••• Yo -
(П7.5.5)
где Yo> Yi> •••> Yp-i ~теоретические автоковариации процесса,
<?-0)
|M
<P'O)
а |МЬ . .
Пусть ft = p + 1 > так что
p p
- ... - ФРЩ?
Тогда
ФРЩ?,
M<f>
i 0
0
0 0 ... 0
А0)
I p ' рГр-
p
plp-l
рГр-1
2
p-1
и элементы Мрр) = МрА0) можно найти, пользуясь соображением
о двойной симметричности-как Мрр\ так и Мр+ь Так, например,
и после приравнивания_элементов двух матриц имеем

304
Часть II. Построение стохастических моделей
Продолжая действовать таким же образом, для процессов по-
порядка 1 и 2 находим
Например, для р = 1
<=2
что совпадает с результатом (П7.4.15). Эта процедура должна
привести к матрицам М*р\ элементы которых — квадратичные
функции ф.
Из (П7.5.4) очевидно, что S (ф) = w^IA^w а-- квадратичная
форма не только от w, но и от параметров ф. Если представить
Ф'и в виде ф'и = (\, ф1г ф2, ..., ^р), становится очевидным, что
для некоторой матрицы D размером (р + 1)Х(/? + 1), элемен-
элементы которой — квадратичные функции, справедливо равенство
Запишем теперь
и\\ ип — и\ь • • • —и
— /)|2 /?22 ^23 • • • &
'2, p+i
. (П7.5.6)
А,р+] &2, р+\ &3, р + 1 ••• ^р + 1, р+1
Рассмотрение (П7.5.4) показывает, что элементы Z),j — симмет-
симметричные суммы квадратов и произведения членов с задержками,
определяемые как
где сумма Z)i;- содержит п — (i— 1) — (/— 1) слагаемых.
Наконец, мы можем записать точное выражение для плотно-
плотности вероятности и, следовательно, для функции правдоподобия:
\
4 Г
(П7.5.8)
Гл. 7. Оценивание модели
305
где
s (ф) =
и логарифмическая функция правдоподобия равна
(П7.5.9)
(П7.5.10)
Оценки максимального правдоподобия. Дифференцируя по
оа и каждому из ф в (П7.5.10), получаем
dl = п |
5I ^
-3 •
(П7.5.11)
где
/=1, 2 р,
"ч — дф]
Отсюда можно получить оценки максимального правдоподо-
правдоподобия— для этого надо приравнять все производные нулю и ре-
решить получающиеся уравнения.
Из (П7.5.11) сразу получаем
ffa = S@)/n. (П7.5.13)
Оценкиф. При решении уравнения (П7.5.12) возникают труд-
трудности, так как в общем случае величины М} (/ = 1, 2, ..., р) —
сложные функции ф. Рассмотрим кратко три возможных при-
приближенных способа решения.
1) Оценки наименьших квадратов.
В то время как математическое ожидание Э(ф) пропорцио-
пропорционально п, значение [Мр \ от п не зависит; для средних и боль-
больших выборок в (П7.5.8) доминирует член, содержащий 8(ф), а
член с | Мр'Ч сравнительно мал.
Бхли мы пренебрежем влиянием этого члена, то
(П7.5.14)
и оценки ф параметров ф, полученные путем максимизации
(П7.5.14), совпадают с оценками наименьших квадратов, полу-
полученными минимизацией 5(^5). Так, из (П7.5.9) следует, что

306
Часть II. Построение стохастических моделей
и, где D — матрица симметричных сумм квадра-
квадратов и произведений размером (р+1)Х(Р+1). определенная
в (П7.5.7). Дифференцируя, находим значения, дающие мини-
минимум сумм
, р + 1г
A
s
(П7.5.15)
которые в очевидных матричных обозначениях можно записать
как
так что
Эти оценки наименьших квадратов максимизируют апостериор-
апостериорную плотность вероятности G.4.15).
2) Приближенные оценки максимального правдоподобия.
Вспомним полученный ранее результат C.2.3), который мож-
можно записать в виде
Y/ - &Y/-I - &Y/-2 - ••• - ^pY/-p = 0,
0. (П7.5.16)
Беря математические ожидания от обеих частей (П7.5.12) и
пользуясь тем, что Е[д1/дф3] = 0, получаем
- (ft - / - 2) &Y;_2 - ... —(n — i — p) фру1-р = 0. (П7.5.17)
Умножив (П7.5.16) на п и вычтя результат из (П7.5.17), получим
Mi< = /Y/ -0+1) *,Y,_, -..•-(/ + р) ФрУНр.
Далее, используя Dl+ul+l/(n — j — i) как оценку Y|/_*|> полу-
получаем естественную оценку М,а2а:
п D D
1 п _у u i / г 1 я _ у _ 1 • • • " + W тр п _ у _ р ¦
Подставляя эту оценку в (П7.5.12), находим
dl _2 f D, /+I Д2, /+1 pp+i./+i \
Т=Т~^я-/-1 ¦¦"¦ fpn-j-Pr
(П7.5.18)
(/=1, 2, ..., р),
1. 7. Оценивание модели
307
что ведет к системе линейных уравнений в форме (П7.5.15), в
которых вместо Dtj стоит
D'n = nD{//{n - (i - 1) - (/ - 1)}.
3) Оценки Юла —Уокера.
Наконец, если п не мало, мы можем приближенно заменить
симметричные суммы квадратов и произведений в (П7.5.15) со-
соответствующими оценками автоковариаций, умноженными на п.
n—k
Например, Di;-, где \i—/| =&, нужно заменить на пск = 2 &t&t+k-
Разделив все члены полученных уравнений на псй, получим сле-
следующие соотношения, содержащие выборочные оценки автокор-
автокорреляций гк = ск/с0:
f + • • • + ФрГр-и
+ ••• +ФрГр-2>
^ = ^1^-1 + ^-2+ ••• +fp.
Это хорошо известные уравнения Юла — Уокера.
В матричных обозначениях G.3.1) их можно записать как
г i= R^, и отсюда
^=R-'r, (П7.5.19)
что соответствует уравнению C.2.7), в котором рр заменено
на г, а РР на R.
Чтобы продемонстрировать различия трех оценок, рассмо-
рассмотрим случай р = 1. Тогда Мха\=^ — у,, и в соответствии с
(П7.5.12) точная оценка максимального правдоподобия для ф
будет решением уравнения
п я— 1
— Yi + 2 а>*а>/-1 — ^ 2 о>?=* 0.
Приближение A) полностью .игнорирует слагаемое yi. что дает
л
^
П-l
S2
2
2
^22*

308
Часть II. Построение стохастических моделей
Приближение B) соответствует подстановке вместо
п
борочной оценки 2 ЩЩ-i/in—1), что приводит к
<=2
его вы-
п — 2 Dl
я—1 7Г
22
Приближение C) заменяет числитель и знаменатель этой дроби
стандартными выборочными оценками автоковариаций B.1.10),
что дает
<=]
Обычно, как и в этом примере, для не слишком малых выборок
различия между оценками, получаемыми путем разных прибли-
приближений, малы. Как правило, мы пользуемся оценками наимень-
наименьших квадратов из приближения A). Эти оценки можно, ко-
конечно, вычислить и прямо по (П7.5.15). Однако, предполагая
возможность расчетов на ЭВМ, вряд ли стоит рассматривать
отдельно процессы авторегрессии; мы нашли, что более просто,
даже в случае подгонки процессов авторегрессии, пользоваться
общим итеративным алгоритмом, описанным в разд. 7.2.1, по-
позволяющим находить оценки наименьших квадратов для лю-
любого процесса АРСС.
Оценки а\. Пользуясь приближением C), а также (П7.5.9)
и (П7.5.13), находим
Выполнив умножение в правой части и учтя, что г—R^ = 0,
найдем
b\ = со A - г'ф) = с0 A - r'R-'r) = со A - ?'R^). (П7.5.20а)
Легко показать, что а2а можно аналогичным образом выразить
через теоретические корреляции
oS-YoU -P'*) = YoO -P'Pp'pHyoO-*%*). (П7.5.206)
что согласуется с результатом C.2.8). Сходные выражения для
а2а можно получить при помощи приближений A) и B).
Гл. 7. Оценивание модели
309
Информационная матрица. Дифференцируя (П7.5.11) и
(П7.5.18) второй раз, получим
__дЧ__ п .
<~ 2
дЧ
даа дф1
дЧ
-1 dl
(П7.5.21а)
(П7.5.216)
(П7.5.21в)
Далее, так как
отсюда следует, что для средних и больших выборок
Е з—г- » О
L даадф11
\Цф,оа)\~\\{ф)\Цоа),
2я
и
где
Далее, пользуясь (П7.5.21в), получим
(П7.5.22)
Отсюда
• (Р. 0)
i-i
Дисперсии и ковариации выборочных оценок параметров ав-
авторегрессии. При условиях, подробно рассмотренных в [87],
матрица, обратная информационной, является асимптотической
матрицей ковариации оценок максимального правдоподобия
(МП). Более того, если логарифмическая функция правдоподо-
правдоподобия приближенно квадратична и ее максимум не близок к гра-
границе, даже для выборки средних размеров элементы этой мат-
матрицы хорошо аппроксимируют дисперсии и ковариации оценок.
Пользуясь (П7.5.22) и (П7.5.206), находим
'. (П7.5.23)

310
Часть II Построение стохастических моделей
В частности, для процессов авторегрессии первого и второго по-
рядков
.
]¦
(П7.5.24)
Оценки дисперсий и ковариаций можно получить, заменив в
(П7.5.24) параметры их выборочными оценками. Например,
подставив г вместо ри^ вместо ф в (П7.5.23), получим
/TI(l-r'0)irI. (П7.5.25)
Распространение результатов для авторегрессий на более об-
общие процессы. Имеетсд интересное соотношение, позволяющее
нам распространить результаты оценивания для моделей авто-
авторегрессии на более общие модели. Пусть наблюдения генери-
генерируются моделью АРСС (р, q)
Q{B)at, (П7.5.26)
(П7.5.27)
где wt = Vdzt. Модель можно представить в виде
р д
ПA — GiB)wt = i[{l — HjB)at.
Пусть Яь Яг,..., Я" — значения параметров скользя-
скользящего среднего, несколько отличающиеся от Яь Яг, ..., Нд, и
положим, что делается преобразование
(П7.5.28)
Заменив неизвестные предварительные значения нулями, мы
можем использовать это выражение для генерирования соответ-
соответствующего ряда х для каждого временного ряда w из п наблю-
наблюдений, порождаемого моделью (П7.5.27). Обозначим это пре-
преобразование через Т-1х = w, так что х = Tw, и так как Т-1 —
треугольная матрица с диагональными элементами, равными 1,
|Т| = 1. Примем Я, = Я? + бь Я2=*Я? + 62, ..., Hq = H°q + 6q.
Тогда функция правдоподобия для параметров (G, Н), т. е. для
параметров (G, Н° + б), будет
L(G, H°
c2a|w,
Такой выбор параметров показывает, что wt генерируются мо-
моделью АРСС(р, q)
Гл. 7. Оценивание модели
311
и, следовательно, xt генерируются моделью
П A -* G,B) П A - H°,Bfxt = П {1 - (Н°, + б/) В) at,
i=l /=! /=.1
или с хорошей степенью приближения при малых б моделью
П A - GtB) Д {1 - (Я? - Ь,)В) xt = а,.
Соответствующая функция правдоподобия имеет вид
L{G,H°-6, аЦх, (р + q, 0)}.
Для средних и больших выборок приближения на концах ряда
не будут оказывать существенного влияния; функция правдопо-
правдоподобия мала для больших б, так что существенны только малые
отклонения. Отсюда следует, что
L (G, Н° + 6, а\ | w, (р, q)) « L (G, Н» - 6, о\ \ х, (р + q, 0)}.
(П7.5.29)
Немедленно получаем следующие результаты.
1) Положим, что информационная матрица для параметров
(G, Н), связанная с моделью АРСС(р, q)
П A ~ GtB) wt = П A - Н,В) at,
есть I{G, H| (p, q)}. Положим, что информационная матрица
для параметров (G, Н) чистой модели кР(р + q)
равна
il
Ш
I{G
, НЦр + q, 0)}= ¦..-.. ,
L lGH lHH J
где матрица разбита на части после р-х строки и столбца. Тог-
Тогда для средних и больших выборок
!
1он '¦ 1нн
(П7.5.30)
2) На рассмотренном уровне приближения отсюда следует,
что определители информационных матриц для процессов
АРСС(р, q) и АР(р + Я) идентичны.
3) Так как для средних и больших выборок матрица, об-
обратная информационной, является хорошим приближением

312
Часть II. Построение стохастических моделей
к ковариационной матрице параметров V(G, H), получаем
V {G, Н | (р, q)} « V {О, - Н i (p + q, 0)}. (П7.5.31)
4) Запишем теперь
П A - GtB) П A - HtB) = 1 - ф\в - ф;в2 - ... - ф;^".
Тогда, пользуясь (П7.5.22), находим
.(p+<7.0) I „Р+Ч\ *Л^'Ч)\~1
»P+9 I П "»* •
Кроме того,
где
I(G, H)| = l
/(**|G,H) =
i, H),
дф'
(П7.5.32)
(П7.5.33)
(П7.5.34)
d(G, H)
— якобиан преобразования.
Процессы скользящего среднего; дисперсии и ковариации
оценок МП. Легко показать, что для больших выборок кова-
ковариационная матрица оценок МП чистого процесса скользящего
среднего точно такая же, как для чистого процесса авторегрес-
авторегрессии того же порядка. Тогда, согласно (П7.5.24), для процессов
скользящего среднего первого и второго порядков имеем
„-о-
— е|
—е,{1 -т-в2)!
'J
Смешанные процессы авторегрессии — скользящего среднего;
дисперсии и ковариации оценок МП. Для того чтобы проиллю-
проиллюстрировать, как используется (П7.5.31), рассмотрим процесс
АРССA, 1)
{\
который мы сопоставим с процессом АР B)
A — фВ){1 — QB)xt= at. (П7.5.35)
Матрица ковариации для ф и в в модели авторегрессии (П7.5.35),
согласно G.2.22), имеет вид
\{ф, 8|B, 0)}«
Отсюда соответствующие дисперсии и ковариации для процесса
АРССA, 1) равны
ft П
-I 1-<
ГЛАВА 8
Диагностическая проверка модели
После того как модель идентифицирована и параметры оце-
оценены, подгоняемая модель подвергается диагностической про-
проверке. Один из полезных методов проверки модели состоит в ис-
использовании избыточного числа параметров, т. е. в оценивании
параметров для несколько более общей модели, чем ожидаемая.
Этот метод исходит из того, что мы можем угадать неадекват-
неадекватные свойства модели. Следовательно, полезно дополнить этот
подход более общими способами проверки, основанными на
остаточных ошибках после подгонки модели. Они позволяют
найти в данных указание, какие изменения модели необходимы.
Мы опишем две такие проверки, которые используют 1) авто-
автокорреляционную функцию остаточных ошибок; 2) кумулятив-
кумулятивную периодограмму остаточных ошибок.
8.1. ПРОВЕРКА СТОХАСТИЧЕСКИХ МОДЕЛЕЙ
8.1.1. Общие принципы
Предположим, что при помощи методов, описанных в гл. б
и 7, по конкретному временному ряду была идентифицирована
модель и оценены ее параметры. Остается решить вопрос, адек-
адекватна ли эта модель. Если будут обнаружены свидетельства
серьезной неадекватности, возникнет необходимость узнать, как
нужно изменить модель на следующем итеративном цикле. То,
что мы делаем, только -отчасти описывается словами «критерий
согласия». Нам нужно обнаружить, что именно неадекватно
в модели, чтобы узнать, как ее изменить. Например, среди из-
известных процедур, не относящихся к анализу временных рядов,
изучение остаточных ошибок в дисперсионном анализе, описан-
описанное Анскомбом и Тьюки [72, 73], диаграммы на нормальной ве-
вероятностной бумаге и другие методы, предложенные Даниелем
[74] на основе критики факторного анализа, могут быть названы
диагностическими проверками.
Никакая модель не может быть абсолютно правильной. От-
Отсюда следует, что при достаточном объеме данных статистиче-
статистическое испытание может отвергнуть модель, которая тем не менее

314
Часть П. Построение стохастических моделей
вполне адекватна решаемой задаче. Напротив, испытания мо-
могут не выявить серьезных отклонений от сделанных предполо-
предположений, потому что эти испытания нечувствительны к некоторым
видам отклонений. Лучший путь — разработать как можно бо-
более чувствительные статистические процедуры, но быть готовым,
если к тому имеются достаточные основания, использовать мо-
модели, в которых число параметров слегка занижено.
Ясно, что диагностические проверки должны ставить модель
«под угрозу», т. е. быть чувствительными к вероятным отклоне-
отклонениям. Никакая система диагностической проверки не может
быть всеобъемлющей, поскольку всегда можно просмотреть не-
некоторые необычные свойства данных. Однако, если тщательно
разработанные диагностические проверки были применены к мо-
модели, подогнанной к достаточно большому объему данных, и не
выявили серьезных отклонений, мы имеем большие основания
пользоваться этой моделью.
8.1.2. Введение избыточных параметров
Один из методов, который может быть использован для диаг-
диагностической проверки, — это введение в модель избыточных па-
параметров. Идентифицировав модель и считая ее правильной, мы
затем подгоняем более сложную модель. Это ставит под угрозу
идентифицированную модель, потому что более сложная модель
содержит дополнительные параметры, с помощью которых
можно ликвидировать возможные отклонения. Нужно тщатель-
тщательно продумать вопрос о том, как следует усложнить модель.
В частности, в согласии с дискуссией об избыточности модели
в разд. 7.3.5, было бы глупо добавлять множители в обе части
уравнения, описывающего модель АРСС, одновременно. Если
анализ не выявил, какие добавления нужны, это, конечно, не
означает, что наша модель верна. Модель может лишь выдер-
выдержать испытание. Все, что мы можем делать, — это «испыты-
«испытывать все, крепко держась за хорошее» (послание св. Павла
к фессалонянам).
Пример введения избыточности. В качестве примера рассмо-
рассмотрим опять данные о стоимости акций IBM. Для этого анализа
использовались данные, приведенные как ряд В' в сборнике
временных рядов в конце книги. Этот ряд состоит из биржевых
цен акций IBM за период *) с 29 июня 1959 г. по 30 июня
1960 г. Модель @, 1, 1)
*) Данные об акциях IBM, рассмотренные ранее и названные рядом В,
покрывают другой период, а именно с 17 мая 1961 г. по 2 ноября 1962 г.
Гл. 8. Диагностическая проверка модели
315
с Яо = 1 — § = 0,90 была идентифицирована и подогнана к
255 имевшимся наблюдениям.
Модель @, 1, 1) можно также представить в проинтегриро-
проинтегрированной форме D,3,3):
S
Волее общая модель, рассмотренная в процедуре введения из-
избыточных параметров, — это процесс @, 3, 3)
V3z, = A - 9,5 - 92Я2 -
или в проинтегрированной форме
zt — Я05а(_] -f-
^i -f-
_, -f at.
Непосредственной причиной такого усложнения модели было
желание проверить предположение, высказанное Брауном [2],
что ряд следует прогнозировать при помощи подстраивающейся
квадратичной прогнозирующей функции. В гл. 5 было показано,
что для процесса ПСС@, q, q) оптимальная прогнозирующая
функция — это подстраивающийся полином степени q = 1. Тогда
для указанной выше избыточной модели @, 3, 3) оптимальная
прогнозирующая функция с упреждением / — это квадратный
трехчлен от /:
a, W = tf>+ #
где коэффициенты Ьо\ Ь['\ bf подстраиваются по мере посту-
поступления новых данных.
Однако модель, идентифицированная нами как процесс
ПСС@, 1, 1), имеет прогнозирующую функцию
2,@ = С
(8.1.1)
Это «полином от I» нулевой степени. Следовательно, модель
указывает, что прогноз zt(l) не зависит от /, т. е. в любое
время t прогноз на шаг вперед, на два шага вперед и т. д. оди-
одинаков. Другими словами, ряд содержит информацию только
о своем будущем уровне, но не о наклоне или кривизне. На пер-
первый взгляд это странно, поскольку, оглядываясь в прошлое
ряда-i можно увидеть вполне явные линейный и криволинейные
тренды. Следовательно, целесообразно проверить, действительно
ли существуют ненулевые значения Xi и А,2, которые могли бы
вызвать тренды. Сетка с величинами суммы квадратов
S(^b^2|^o) для значений Ко = 0,7; 0,9; 1,1 показана на рис. 8.1;
можно видеть, что минимум близок к Яо = 0,9, Ai = 0, k2 = 0.
Также ясно, что значения Х\ > 0 и %2 > 0 приводят к большим
суммам квадратов и, следовательно, отклонения от иден-
идентифицированной модели ПСС@, 1, 1) в этом направлении

(a) Ao-0 7
Гл 8 Диагностическая -проверка модели
317
озо
025
t
0 20
00 005 0 10 0 15 020 025 030 035
0I5
010
(Ь)
035
030
0 25
0 20
0 15
0 10
005
00
41468
1493 4
281 15
12 78 I
19 6в/
1/
w
5 27
483 /
1,
172 /
Г4 /
121
.
0 67
2 50 X
/20
2 01
16S^
1 33 S
1 17
0 97 .
fX&
068
195
I 6IX"
139
120^
120
105
0-9*-
0 70
169
146
129
1 14
102
и и i -
080
0 72
1^
I 39
I 24 .
1 12
101
090
0 83
0 75
148
134
i и
I 01
092
^.
0 85
077^*ч^
(с) А„=1 1
0 35
озо
0.25
0,20
A, 015
005 0 10 0 15 0 20
0.0 0.05 010 015 0 20 0.Й 0.30 0,35
0 30 0 35
Рис 8 1. Сетка и изолинии суммы квадратов для ряда В' и расширенной
модели порядка @,3,3)
противопоказаны. В частности, это свидетельствует о том, что
квадратичная прогнозирующая функция будет ухудшать, а не
улучшать прогноз по сравнению с (8.1 1), что и было подтвер-
подтверждено в разд. П5 3 3.
8.2. ДИАГНОСТИЧЕСКИЕ ПРОВЕРКИ,
ПРИМЕНЯЕМЫЕ К ОСТАТОЧНЫМ ОШИБКАМ
Методы введения избыточных параметров путем обобщения
модели в некотором направлении хороши в том случае, если мы
знаем, какого рода отклонений следует бояться Методики, ме-
менее зависящие от таких представлений, основываются на ана-
анализе остаточных ошибок. Хотя некоторые представления о том,

318
Часть II. Построение стохастических моделей
чего искать, полезны и в этом случае, эти методы создают
больше возможностей находить способ изменения моделей не-
непосредственно из данных.
8.2.1. Проверка при помощи автокорреляций
Пусть подгонялась модель
Ф (В) щ = 9 (В) at
с wt = Vdzt, и были получены оценки МП параметров (ф, в).
Тогда величины
at = Q~l(B)<f(B)wt (8.2.1)
мы будем называть остаточными ошибками. Можно доказать,
что для адекватной модели
По мере увеличения длины ряда ut становится все ближе к бе-
белому шуму at. Следовательно, можно ожидать, что изучение ut
может выявить и указать природу неадекватности модели.
В частности, некоторые характерные черты выборочной автокор-
автокорреляционной функции at могут указать на необходимость опре-
определенных изменений модели. Этот вопрос рассмотрен подроб-
подробнее в разд. 8 3.
Предположим, что модель верна, и мы знали точные значе-
значения параметров $5 и в. Тогда, пользуясь B.1.13) и результатом
Андерсона [52], получаем, что выборочные автокорреляции г&(а)
ряда а должны быть некоррелированы и распределены прибли-
приближенно нормально относительно нулевого среднего значения
с дисперсией п~х и, следовательно, со стандартной ошибкой я-1'».
Эти факты можно использовать для оценки статистической зна-
значимости кажущихся отклонений этих автокорреляций от нуля.
На практике мы не знаем истинных значений параметров.
Мы располагаем только выборочными оценками (ф, в), по кото-
которым, пользуясь (8.2.1), мы можем вычислить не а, а й. Авто-
Автокорреляции rh(a) ряда а могут дать ценную информацию о не-
недостаточно хорошей подгонке и возможной природе неадек-
неадекватности модели. Однако, как указывал Дарбин [75], может
оказаться рискованным придавать статистическую значимость
кажущимся отклонениям этих автокорреляций Гъ(&) от их теоре-
теоретических нулевых значений исходя из стандартной ошибки пг'Ь,
соответствующей rh(a). Дарбин показал, например, что для про-
процесса АРA) с параметром ф дисперсия Г\{а) равна ф2п~1, что
может оказаться существенно меньше, чем л. Дисперсии и ко-
вариации всех автокорреляций а для больших выборок любого
Гл 8 Диагностическая проверка модели
319
процесса АРСС были выведены Боксом и Пирсом [77]. Эти ав-
авторы показали, что хотя во всех случаях для малых задержек
возможно уменьшение дисперсии и сильная корреляция rk(a),
при больших задержках эти эффекты быстро исчезают. По-
Поэтому использование п~'1г в качестве стандартной ошибки для
Ль (а) будет приводить к недооценке статистической значимости
5 б
2_Г 2 3 ь. 5 6 2 ' 2 3
> АР ft), Ф-0,3
й ССA), в=0,3
АРA), Ф=0,7
6 ССA), в =0,7
АРB], ФгО,5, Ф?-О,25
В СС{2),вгО,5, 6Y0,25
"Уп
АРB), Ф,=ЩФг<
8 СС12), вг/,0, В2=-0,75
Рис. 8.2. Пределы стандартных ошибок для остаточных автокорреляций
г*(Л).
кажущегося отклонения от нуля для автокорреляций при малых
задержках, но обычно вполне оправдано для средних и боль-
больших задержек.
В качестве примера на рис. 8.2 показаны пределы в одну и
две стандартные ошибки th(a) для большой выборки в случае
двух процессов авторегрессии первого порядка и двух процес-
процессов авторегрессии второго порядка. Эти графики пригодны
также для оценки стандартных ошибок процессов скользящего
среднего с теми же параметрами (как указано на рисунке).
Можно сделать вывод, что при не слишком больших задерж-
задержках можно рассматривать л~1/а как «верхнюю границу стандарт-
стандартных ошибок rk{&), а не как сами стандартные ошибки. Если мы
пользуемся л~1/г как стандартной ошибкой rh(a) при малых за-
задержках, то можем серьезно недооценить значимость кажу-
кажущихся расхождений.

320
Часть II. Построение стохастических моделей
8.2.2. Совокупный критерий согласия
Во многих случаях предпочтительнее не рассматривать от-
отдельные гк(й), а оценить неадекватность модели, например, по
первым 20 автокорреляциям, рассматриваемым как единое це-
целое. Положим, что мы располагаем первыми К автокорреля-
автокорреляциями *) любого процесса АРПСС(р, d, q). Можно показать
[77], что если подгоняемая модель удовлетворительна, то
к
^= П ^J Т\ (и) ^O.Z.Z)
распределено приближенно как у?(К — р — q), где n=N — d —
число значений w, используемых при подгонке модели. С другой
стороны, если модель не соответствует данным, среднее значе-
значение Q поднимется. Следовательно, общий, или «совокупный»,
критерий проверки гипотезы об адекватности модели, предло-
предложенный с учетом описанных выше трудностей, можно провести,
сопоставив наблюденное значение Q с таблицей х2-распределе-
ния (такой, как таблица F в конце книги).
Модель @, 2, 2), подогнанная к ряду С. Для иллюстрации
применения совокупного критерия (8.2.2) в табл. 8.1 приведены
первые 25 автокорреляций Гъ{й) остаточных ошибок процесса
ППС@, 2, 2) V2z(=(l —0,13В — 0,12?2)af — одной из моде-
моделей, подгонявшихся в гл. 7 к ряду С.
Таблица 8,1
Автокорреляции rs(a) остаточных ошибок модели V2^=(l—0,l3B—0,l2B2)at,
подогнанной к ряду С
k
1
2
3
4
5
rk{a)
0,020
0,032
—0,125
—0,078
—0,011
ft
6
7
8
9
10
rk(«)
—0,033
0,022
—0,056
—0,130
0,093
k
11
12
13
14
15
M3)
—0,129
0,063
—0,084
0,022
-0,006
ft
16
17
18
19
20
rk{a)
—0,050
0,153
—0,092
-0,005
—0,015
k
21
22
23
24
25
MS)
0,007
0,132
0,012
—0,012
—0,127
Так как число наблюдений п = 224, приблизительная верх-
верхняя граница стандартной ошибки автокорреляции равна
*) Здесь предполагается, что К достаточно велико, так что веса i|>j
в модели, представленной в виде
будут пренебрежимо малы для / > К.
Гл 8. Диагностическая Проверка модели
324
1 /1/224 « 0,07. По сравнению с этой границей стандартной
ошибки все величины г3(й)=—0,125, гд(й)=—0,130, Гц(а) =
= —0,129, гп{а)= 0,153, г22(а) = 0,132, г25(а) = —0,127 слиш-
слишком велики. Конечно, редкие большие отклонения могут встре-
встречаться даже в случайном ряде, но при рассмотрении этих ре-
результатов в целом должно появиться подозрение о недостаточ-
недостаточной подгонке модели.
Чтобы сделать более строгое заключение, сравним величину
Q = 224[@,020J + @,032J+ ... + (—0,127J] = 33,7
с таблицей х2 с 23 степенями свободы. 90- и 95%-ные квантили
для х2 с 23 степенями свободы равны соответственно 32,0 и 35,2.
Следовательно, возникает некоторое сомнение в адекватности
этой модели.
Модель A, 1, 0), подгоняемая к ряду С. Первые 25 автокор-
автокорреляций остаточных ошибок для модели A—0,82В) Vzt = at,
которая в гл. 7 была признана наиболее подходящей для описа-
описания ряда С, приведены в табл. 8.2. Для этой модели Q =
= 2252lLi4(d) = 28,9. Сравнение с таблицей х2 Для 24 степеней
свободы показывает, что нет оснований для сомнения в адекват-
адекватности этой модели.
Таблица S.2
Автокорреляции rk(a) остаточных ошибок для модели
A — 0,82В) Vz, = at, подгоняемой к ряду С
k
1
2
3
4
5
rk(a)
—0,007
—0,002
—0,061
—0,014
0,047
k
6
7
8
9
10
rkG)
0,019
0,073
—0,030
—0,097
0,133
k
11
12
13
14
15
MS)
—0,098
0,074
—0,054
0,034
0,002
k
16
17
18
19
20
MS)
—0,039
0,165
—0,033
—0,004
—0,009
k
21
22
23
24
25
MS)
0,001
0,129
0,014
—0,017
—0,129
В табл. 8.3 подытожены значения статистики Q, основанной
на 25 остаточных автокорреляциях для моделей из табл. 7.13,
подгоняемых к рядам A—F.
Рассмотрение табл. 8.3 показывает, что имеются только два
подозрительно больших значения Q. Одно из них — это значе-
значение 33,7, полученное после подгонки модели @, 2, 2) к ряду С,
которое мы уже обсуждали Другое значение Q = 37,1 полу-
получено после подгонки модели @, 1, 1) к ряду В. Оно свидетель-
свидетельствует о возможной неадекватности модели, так как 95- и

322
Часть II. Построение стохастических моделей
Таблица S.3
Сводка результатов совокупного критерия, примененного к остаточным
ошибкам различных моделей, подгоняемых к рядам А — F
Ряд
А
В
С
D
Е
F
n=N—d
197
196
368
225
224
310
309
100
100
70
zt —
Подгоняемая модель
zt — 0,92zt_i = 1,45 + at — 0,58a<-i
4zt = at — 0,70a/_|
Vzt = at + 0,09d/-,
Vzt — 0,82Vz<_i = at
y2z< _ at _ 0) i за(_, _ o, 12at^2
zt — Q,87zt-\ = 1,17 + at
Vz< = at — 0,06at_i
zt — l,42z,_, + 0,73z<-2 = 14,35 + at
l,57z/_, + l,02z;_2 — 0,21z/_3= 11,31 J
zt + 0,34z,_, — 0,l9zt-2 = 58,87 + at
Vat
Q
26,5
29,9
37,1
28,9
33,7
10,8
18,0
23,7
23,7
11,3
Число
степеней
свободы
23
24
24
24
23
24
24
23
22
23
97,5%-ные квантили для %2 с 24 степенями свободы равны
соответственно 36,4 и 39,3. Возможную природу этой неадекват-
неадекватности мы рассмотрим в следующем разделе.
8.2.3. Неадекватность модели, возникающая из-за изменения
значений параметров
Одна из возможных интересных форм неадекватности мо-
модели может быть связана с тем, что в течение продолжительного
интервала времени форма модели остается той же, а параметры
изменяются. Имеются основания считать, что такие явления мо-
могут объяснить неадекватность модели @, 1, 1), подгоняемой
к ряду данных IBM.
Таблица 3.4
Сравнение моделей ПСС @, 1, 1), подогнанных к первой и второй
половинам ряда В
Первая поло-
влна
Вторая поло-
половина
Полный ряд
п
184
183
368
Ъ
-0,29
-0,03
-0,09
5C-i e
1,29
1,03
1,09
л л ( Л A Л ) 1 '/г
\ п ]
±0,070
±0,074
±0,052
Q
22,6
33,9
37,1
Число
степеней
свободы
24
24
24
Гл. 8 Диагностическая проверка модели
323
Табл. 8.4 содержит результаты подгонки процесса @, 1, 1)
отдельно к первой и второй половинам ряда В, а также ко
всему ряду.
Обозначив оценки, полученные для двух половин Х{[) и ЯB),
находим, что стандартная ошибка ЯA) —ЯB) равна
f@,070J +@,074J =0,102.
Поскольку разность ЯA) — ЯB) = 0,26 в 2,6 раза больше ее
стандартной ошибки, весьма вероятно, что действительно про-
произошло, изменение X. Рассмотрение величин Q дает основание
предположить, что модель @, 1, 1) с параметрами, изменяемы-
изменяемыми для различных интервалов времени, может более точно
объяснить наблюдения.
8.2.4. Проверка при помощи кумулятивной периодограммы
В некоторых ситуациях, особенно при подгонке сезонных вре-
временных рядов, о которых мы будем говорить в гл. 9, можно
опасаться, что мы неадекватно учли периодический характер
ряда. Следовательно, мы должны исследовать периодичность
остаточных ошибок. Автокорреляционная функция не является
чувствительным индикатором таких отклонений от случайности,
поскольку эффект периодичности будет, как правило, распы-
распыляться на несколько значений автокорреляций. С другой сто-
стороны, периодограммы разработаны специально для обнаруже-
обнаружения периодичности на фоне белого шума.
Периодограмма временного ряда аи t = 1, 2, ..., п, со-
согласно разд. 2.2.1, — это
(8.2.3)
где fi = i/n — частота. Таким образом, это результат корреля-
корреляции at с синусоидами и косинусоидами различных частот. Пе-
Периодичность с данной частотой /„ имеющаяся в остаточных
ошибках, подчеркивается при корреляции с синусоидой или ко-
косинусоидой той же частоты и дает поэтому большое значе-
значение I(ft).
Кумулятивная периодограмма. Бартлетт [78] (см. также [27])
показал, что кумулятивная периодограмма является эффектив-
эффективным средством обнаружения периодического отклонения от слу-
случайности.
Спектр мощности /?(/) белого шума имеет постоянное зна-
значение 2а2а в частотном диапазоне 0—0,5 Гц. Следовательно,

324
Часть II Построение стохастических моделей
график кумулятивного спектра белого шума как функции f
P(f)=j p(g)dg
(8.2.4)
имеет вид прямой линии, идущей от точки @; 0) к точке
@,5; о2\, и, следовательно, график P(f)lo2a — прямая линия, иду-
идущая от @; 0) к @,5; 1).
Как упоминалось в разд. 2.2.3, I(f) дает оценку спектра на
частоте f. Действительно, для белого шума ?[/(/)] = 2а2а, и
/(/)—несмещенная оценка. Отсюда следует, что ~^
i=\
несмещенная оценка проинтегрированного спектра P(fj), и
2 i (ft)
(8.2.5)
— оценка Р(/)/0^, где s2 —оценка о2а. Мы будем называть
C(f,) нормированной кумулятивной периодограммой.
Если бы модель была адекватна, а параметры ее точно из-
известны, а, вычисляемые из данных, обладали бы свойствами
белого шума. Для белого шума график C(ft) имел бы разброс
относительно прямой, соединяющей точки @; 0) и @,5; 1).
С другой стороны, из-за неадекватности модели ряд а стано-
становится неслучайным, и его кумулятивная периодограмма должна
систематически отклоняться от этой линии. В частности, перио-
периодичности а приводили бы к появлению больших соседних зна-
значений I(fj). Эти большие ординаты усиливали бы друг друга
в C(fj) и образовывали бы заметное отклонение от ожидаемой
прямой линии.
На практике мы не знаем точно значений параметров н рас-
располагаем только их выборочными оценками. Мы не имеем зна-
значений а, а только выборочные остаточные ошибки й. Однако
для больших выборок периодограмма ряда й имеет свойства,
сходные со свойствами периодограммы белого шума а. Поэтому
внимательное изучение периодограммы ряда й может служить
полезной дополнительной диагностической проверкой, особенно
для выявления неучтенных периодичностей.
Пример: ряд С. Мы видим, что ряд С хорошо описывается
моделью A, 1,0)
A— 0,82В) Vzt = at
и несколько хуже — моделью ПСС @, 2, 2)
t = (l -0,13В - 0,12В2)аи
Гл 8 Диагностическая проверка модели
325
почти эквивалентной первой. Мы проиллюстрируем критерий ку-
кумулятивной периодограммы на примере анализа остаточных
ошибок а после подгонки к ряду неадекватной модели
ПСС@, 1, 1)
(
Для этой модели оценка наименьших квадратов для 0 равна
—0,65. График нормированной кумулятивной периодограммы
остаточных ошибок этой модели показан на рис. 8.3, а. Рас-
Рассмотрение этого рисунка показывает, что имеются существенные
отклонения кумулятивной периодограммы от линейности. Эти
отклонения очень заметны на низких частотах и похожи на то,
что должно было бы быть, например, при недостаточном взятии
разностей. На рис. 8.3,6 показан соответствующий график для
наилучшей модели ПСС@,2,2). Точки кумулятивной периодо-
периодограммы теперь весьма близки к ожидаемой прямой, хотя, как
мы видели в табл. 8.3, имеются свидетельства неадекватности
и этой модели.
Разумно иметь на графике как шкалу периодов, так и шкалу
частот. Это облегчает идентификацию отходов от прямой в слу-
случаях, когда остаточные ошибки имеют периодичность. Напри-
Например, в месячных ценах отклонения вблизи периодов 12, 24, 35
и т. д. месяцев могут свидетельствовать о неадекватном учете
сезонных явлений.
Вероятностное соотношение между кумулятивной периодо-
периодограммой и проинтегрированным спектром —точно такое же, как
между эмпирической и теоретической функциями распределения.
По этой причине мы можем оценить отклонения периодограммы
от ожидаемой для белого шума при помощи критерия Колмого-
Колмогорова [79]. Пользуясь этим критерием, мы можем провести около
теоретической прямой предельные линии. Они имеют следующий
смысл: если ряд at — белый шум, кумулятивная периодограмма
будет отклоняться от прямой настолько, чтобы пересечь эти пре-
предельные линии только с указанной вероятностью. Однако, по-
поскольку а — это подогнанные значения, а не точные а, они бу-
будут не точно следовать процессу белого шума даже для пра-
правильной модели. Поэтому использование в качестве теста не-
неадекватности модели пределов Колмогорова позволяет только
приближенно оценивать вероятности. Однако полезно указывать
эти пределы на кумулятивной периодограмме для грубых оце-
оценок, какие отклонения считать сомнительными, а какие иссле-
исследовать подробнее.
Эти предельные линии обладают тем свойством, что для чисто
случайных рядов кумулятивная периодограмма выходила бы
за них в 8-й части всех случаев. Они проводятся на расстоя-
расстояниях ± Ke{Vq выше и ниже теоретической прямой; здесь

Гл. 8. Диагностическая проверка модели
327
q= (п — 2)/2 для четных ли (и—1)/2 для нечетных. Прибли-
Приближенные значения Ке приведены в табл. 8.5.
Таблица 5.5
Коэффициенты для вычисления приближенных вероятностных
пределов в критерии кумулятивной периодограммы
е | 0,01
Кг 1 1,63
0,05
1,36
0,10
1,22
0,25
1.G2
Для ряда С q =B24—2)/2 = 111, и 5%-ные предельные
линии, проведенные на рис. 8.3, отстоят от теоретической пря-
прямой по ординате на ±1,Зб/|ЛП =±0,13. 25%-ные предель-
предельные линии отстоят от теоретической на ± 1,02/]А 11 = ± 0,10.
Выводы. Каждая из описанных выше проверочных процедур
имеет существенные преимущества и недостатки. Проверки, ос-
основанные на изучении выборочных автокорреляционных функ-
функций и кумулятивных периодограмм, могут указывать на особен-
особенности ряда, существование которых не подозревалось; однако
они не слишком чувствительны. Тесты на конкретный вид от-
отклонений, проводимые путем введения в модель избыточных па-
параметров, весьма чувствительны, но могут не выявить те несоот-
несоответствия, на которые они не рассчитаны.
8.3. ИСПОЛЬЗОВАНИЕ ОСТАТОЧНЫХ ОШИБОК
ДЛЯ ИЗМЕНЕНИЯ МОДЕЛИ
8.3.1. Природа корреляций остаточных ошибок при
использовании неверной модели
Если автокорреляционная функция остаточных ошибок отно-
относительно некоторой подогнанной модели указывает на неадек-
неадекватность модели, необходимо рассмотреть, каким образом сле-
следует изменить модель. В разд. 8.3.2 мы покажем, как использо-
использовать автокорреляции остаточных ошибок для определения Спо-
Способа изменения. Рассмотрим вкратце эффект подгонок неверной
модели при помощи автокорреляционной функции остаточных
ошибок.
Пусть верная модель имеет вид
а используется неверная модель

328
Часть II Построение стохастических моделей
Тогда остаточные ошибки bt относительно неверной модели бу-
будут коррелированы, и, так как
Ь, = Во (В) 9 (В) ф0 (В) ф'1 (В) аь (8.3.1)
производящая функция автоковариации b будет равна
ol {во1 (В) во (F) 0 (В) 6 (F) ф0 (В) ф0 (F) ф~1{В) ф'1 (F)}. (8.3.2)
Рассмотрим в качестве примера процесс ППС@, 1, 1), в ко-
котором вместо верного значения 6 мы пользуемся неким другим
значением 0О. Тогда остаточные ошибки bt будут следовать сме-
смешанному процессу A,0, 1)
и, пользуясь C.4.8), получаем
Pi
— ее0) (90 — е>
1 + е2 - 290о
Предположим, что в процессе ПСС@, 1, 1)
мы используем значение 60 = 0,8 вместо истинного значения
0 = 0. Тогда
00 = 0,8, 6 = 0,0,
р, = 0,8, Р/ = 0,8/.
Отсюда b сильно коррелированы и подчиняются процессу авто-
авторегрессии
(l
8.3.2. Использование остаточных ошибок для изменения модели
Предположим, что остаточные ошибки bt для модели
(8.3.3)
выглядят неслучайными. Используя автокорреляционную функ-
функцию bt, можно методами гл. 6 идентифицировать модель
Ф (В) Vdbt = 0 (В) at (8.3.4)
для ряда bt. Исключая bt из (8.3.3) и (8.3.4), получаем новую
модель _
6, (В) ф (В) VW4 = 90 (В) 0 (В) at, (8.3.5)
которая может быть подогнана и диагностически проверена.
Гл. 8. Диагностическая проверка модели
329
Например, предположим, что ряд был неверно идентифици-
идентифицирован как процесс ПСС@, 1,1) и после подгонки привел к мо-
модели
\Zt — (l+Q,6B)bt. (8.3.6)
Пусть также по ряду остаточных ошибок этой модели была иден-
идентифицирована модель
Wt = (l-0,8B)at. (8.3.7)
Тогда, исключив bt из (8.3.6) и (8.3.7), получим новую модель
V2zt = A - 0,2В - 0,48В2) аи
что указывает на необходимость опробования в качестве мо-
модели процесса ПСС@, 2,2).

ГЛАВА 9
Модели сезонных рядов
В гл. 4—8 мы рассмотрели свойства класса линейных стоха-
стохастических моделей, полезных для описания стационарных и не-
нестационарных временных рядов, и показали, как эти модели
можно использовать для прогнозирования. Мы рассмотрели да-
далее практические проблемы идентификации, подгонки и диаг-
диагностической проверки, возникающие при сопоставлении этих мо-
моделей с фактическими данными. В этой главе рассмотрено при-
применение описанных методов к прогнозированию сезонных вре-
временных рядов; в них продемонстрировано также совместное
использование принципов, изложенных в предыдущих главах.
9.1. ЭКОНОМИЧЕСКИЕ МОДЕЛИ СЕЗОННЫХ
ВРЕМЕННЫХ РЯДОВ
На рис. 9.1 показан график суммарного количества пасса-
пассажиров международных авиалиний США за 1952, 1953 и 1954 гг.
Это часть более длинного ряда (данные за 12 лет), описанного
Брауном [2] и приведенного в сборнике временных рядов в конце
этой книги как ряд G. Ряд обладает ярко выраженной сезонной
периодичностью, поскольку наибольшее количество путешествий
приходится на поздние месяцы лета; отмечается также весенний
пик. Подобные сезонные свойства имеют многие другие ряды,
например данные о сбыте.
В общем мы говорим, что ряд имеет периодичность с перио,-
дом s, когда сходные особенности ряда повторяются после s
цпорных временных интервалов. В приведенном выше примере
опорный временной интервал равен 1 мес, а период s = 12 мес.
Известны, однако, примеры, когда s принимает другие значения.
Так, для квартальных данных s = 4 означает сезонную перио-
периодичность в пределах года*). Иногда имеется несколько перио-
дичностей. Так, поскольку имеется тенденция оплачивать счета
ежемесячно, естественно ожидать, что еженедельные банковские
сводки имеют месячную периодичность s « 4, в то время как
месячные сводки имеют годовую периодичность s = 12.
*) Здесь опорный временной интервал равен одному кварталу. —
Прим. ред.
Гл §. Модели сезонных
9.1.1. Сопоставление подгонки и прогнозирования
Одной из причин неудач в анализе временных рядов в прош1
лом было смешение процедур подгонки и прогнозирования ряда.
Пусть, например, ряд имеет тенденцию к увеличению значений
в течение некоторого периода и, кроме того, проявляет сезонные
особенности. Общепринятый метод анализа — произвольно раз-
разделить ряд на три компоненты: «тренд», «сезонную компоненту»
и «случайную компоненту». Тренд можно подогнать полиномом^
а сезонную компоненту — рядом Фурье. Прогноз производится
путем экстраполяции этих подогнанных функций в будущее.
300-
325
Ь50
%22О
янв
1852
янв.
1953
янв.
1951+
янв.
19S5
Рис. 9.1. Суммарное число пассажиров международных авиалиний в тыея-
чах (часть ряда G).
Такие методы могут приводить к серьезным заблуждениям.
Например, мы видели ранее, что поведение биржевых цен акций
IBM (ряд В) хорошо аппроксимируется моделью случайного
блуждания
zt= 2 а„ (9.1.1)
из которой вытекает, что it(l) = zt. Другими словами, лучший
прогноз будущих значений стоимости акций — это сегодняшняя
цена. Правда, короткие участки ряда В выглядят так, что их
можно аппроксимировать кривыми второго порядка. Это просто
отражает тот факт, что сумма случайных отклонений может
иногда иметь подобный вид. Однако нет основания для исполь-
использования квадратичной прогнозирующей функции, поскольку она
дает очень плохие прогнозы. Конечно, истинные систематические
эффекты, имеющие естественное объяснение, следует учитывать
включением в модель соответствующей детерминированной ком-
компоненты. Например, если известно, что в систему регулярно

332
Часть It. Построение стохастических моделей
поступает тепло, было бы разумным объяснить результирующее
увеличение температуры при помощи подходящей детерминиро-
детерминированной функции времени, добавленной к стохастической ком-
компоненте.
9.1.2. Сезонные модели, включающие подстраивающиеся
синусоиды и косинусоиды
Общая линейная модель
at =
(9.1.2)
с подходящими значениями коэффициентов п} и i|)j вполне адек-
адекватна для описания многих временных рядов. Проблема заклю-
заключается в выборе экономичной параметризации для такой модели.
Как уже отмечалось выше, это не математическая проблема,
а вопрос о том, как узнать тенденции поведения всевозможных
явлений. Решать эту проблему можно, опробуя различные идеи
на наблюденных временных рядах и развивая концепции, даю-
дающие полезные результаты.
Мы видели, что для несезонных рядов обычно удается полу-
получить полезное и экономичное представление вида
t. (9.1.3)
Более того, обобщенный оператор авторегрессии ф(В) опреде-
определяет эвентуальную прогнозирующую функцию, являющуюся ре-
решением разностного уравнения
Ф (Я) *,(/) = О,
где подразумевается, что В действует на /. При описании се-
сезонных явлений прогнозирующая функция должна обладать
способностью к предсказанию периодичности. На первый взгляд
кажется, что ф(В) должно дать прогнозирующую функцию
в виде суммы синусоид и косинусоид, возможно, с добавлением
полиномиальных членов; такая функция позволит предсказать
изменения уровня и периодические (сезонные) изменения. Та-
Такая прогнозирующая функция может быть естественным обра-
образом получена в рамках общей модели (9 1.3). Например, для
ежемесячных данных прогнозирующая функция в виде сину-
синусоиды с 12-месячным периодом, подстраивающейся фазой и ам-
амплитудой удовлетворяет разностному уравнению
где В действует на /. Однако неверно, что экономичный способ
описания периодического поведения — это представление его
Гл §. Модели сезонных рядов
333
суммой синусоид и косинусоид. Например, потребуется много
гармонических компонент, чтобы описать данные о сбыте, на
которые влияют рождественские и пасхальные праздники и дру-
другие сезонные распродажи. В качестве экзотического примера
можно указать, что распродажа изделий для фейерверка в Ве-
Великобритании происходит в основном в недели, предшествующие
празднованию раскрытия «порохового заговора» Гая Фокса
5 ноября. Попытка описать отдельный «выброс» распродажи
изделий для фейерверка непосредственно при помощи синусоид
и косинусоид была бы крайне неэкономичной. Ясно, что тре-
требуется рассмотреть эту проблему более внимательно.
В нашем предыдущем анализе мы не всегда оценивали все
компоненты фE). Когда для получения стационарности нужно
было брать разности d раз, мы писали ф(В) = f(B) A — B)d,
что эквивалентно приравниванию d корней уравнения ф(В)= О
единице. Если такое представление оказывалось адекватным, мы
могли продолжать более простой анализ ряда wt = Vdzt. Таким
образом, мы использовали V = 1 — В как упрощающий опера-
оператор. В других задачах могут оказаться полезными другие типы
упрощающих операторов. Например, потребление нефти как
топлива зависит от внешней температуры, которая из-за вра-
вращения Земли вокруг Солнца меняется приблизительно как сину-
синусоида с периодом 12 мес. При анализе сбыта нефти может ока-
оказаться целесообразным введение упрощающего оператора
1 — Уз В 4 В2 в качестве одной из компонент обобщенного опе-
оператора авторегрессии фE). Если такое представление оказа-
оказалось полезным, мы можем продолжать дальнейший, более про-
простой анализ ряда wt =(l — УЗВ -+- B2)zt. Этот оператор, как
можно заметить, принадлежит к классу однородных нестацио-
нестационарных операторов и имеет нули е±<г2я/12) на единичной окруж-
окружности.
9.1.3. Общая мультипликативная модель сезонного ряда
Упрощающий оператор 1 — В\ Фундаментальным фактом,
относящимся к сезонным временным рядам, является сходство
наблюдений, разделенных интервалом s. Следовательно, можно
ожидать, что операция Bszt = zt-s будет играть особо важную
роль в анализе сезонных рядов; далее, так как в ряде zt, zt-s,
zt-2s, • ¦ ¦ можно ожидать нестационарности, может оказаться по-
полезным упрощающий оператор Vszt = A — Bs)zt = zt —zt-s.
Устойчивый нестационарный оператор A — Bs) имеет s нулей
еИ2ят (? — о, 1, ..., s — 1), равномерно распределенных на
единичной окружности. Далее, эвентуальная прогнозирующая
функция удовлетворяет уравнению A—Bs)zt(l) = 0 и поэтому

334
Часть tl Построение стохастических моделей
может (но не обязана) быть представлена в виде набора сину-
синусоид и косинусоид
t (I) = ftj°
cos
sin
где b — подстраивающиеся коэффициенты и [s/2] = -^s для
четных s, [s/2] = -^(s—1) Для нечетных s.
Мультипликативная модель. Когда мы имеем дело с рядом,
проявляющим сезонные особенности с известным периодом s,
полезно представить данные в виде таблицы, состоящей из s
столбцов, как, например, табл. 9.1, содержащая логарифмы
данных об авиаперевозках. (Перед анализом данных о распрода-
распродажах и других временных рядах этого типа часто переходят к ло-
логарифмам, поскольку сопоставимыми при разных объемах рас-
распродажи могут быть процентные флуктуации.)
Таблица 9.1
Натуральные логарифмы месячных количеств (в тыс.)
пассажирских перевозок на международных авиалиниях (ряд G)
Годы
1949
1950
1951
1952
1953
1954
1955
1956
1957
1958
1959
1960
Янв
4,718
4,745
4,977
5,142
5,278
5,318
5,489
5,649
5,753
5,829
5,886
6,033
Февр
4,771
4,836
5,011
5,193
5,278
5,236
5,451
5,624
5,707
5,762
5,835
5,969
Март
4,883
4,949
5,182
5,263
5,464
5,460
5,587
5,759
5,875
5,892
6,006
6,038
Апр
4,860
4,905
5,094
5,199
5,460
5,425
5,595
5,746
5,852
5,852
5,981
6,133
Май
4,796
4,828
5,147
5,209
5,434
5,455
5,598
5,762
5,872
5,894
6,040
6,157
Июнь
4,905
5,004
5,182
5,334
5,493
5,576
5,753
5,924
6,045
6,075
6,157
6,282
Июль
4,997
5,136
5,293
5,438
5,576
5,710
5,897
6,023
6,146
6,196
6,306
6,433
Авг
4,997
5,136
5,293
5,489
5,606
5,680
5,849
6,004
6,146
6,225
6,326
6,407
Сент
4,913
5,063
5,215
5,342
5,468
5,557
5,743
5,872
6,001
6,001
6,138
6,230
Окт
4,779
4,890
5,088
5,252
5,352
5,434
5,613
5,724
5,849
5,883
6,009
6,133
Нояб
4,644
4,736
4,984
5,147
5,193
5,313
5,468
5,602
5,720
5,737
5,892
5,966
Дек.
4,771
4,942
5,112
5,268
5,303
5,434
5,628
5,724
5,817
5,820
6,004
6,068
Структура табл. 9.1 подчеркивает, что в периодических дан-
данных важен не один, а два временных интервала. В этом примере
эти интервалы соответствуют месяцу и году. Конкретнее, мы
ожидаем, что существуют определенные соотношения между
а) наблюдениями за последовательные месяцы данного года,
б) наблюдениями того же месяца в последовательные годы. Си-
Ситуация несколько сходна с встречаемой при изучении таблиц
с двумя входами в дисперсионном анализе, где можно ожидать
Г л 9 Модели сезонных рядов
335
сходства между наблюдениями в одной и той же строке или
в одном и том же столбце.
Если рассмотреть с этой точки зрения табл. 9.1, то сезонный
эффект должен проявиться в ней так: наблюдения за какой-
либо месяц (скажем, апрель) некоторого года должны быть свя-
связаны с наблюдениями за тот же месяц предыдущего года. Пусть
t-e наблюдение zt относится к апрелю. Тогда мы можем связать
это наблюдение с наблюдением в предыдущем апреле моделью
вида
Ф (В8) Vf zt = 6 (В8) at, (9.1.4)
где s = 12, Vs = l — Bs и Ф(В$), 0(В8)—полиномы В8 степе-
степеней Р и Q соответственно, удовлетворяющие условиям стацио-
стационарности и обратимости. Подобным образом модель
O(?s)V?z,_i=e(?s)a,_i (9.1.5)
может быть использована для связи наблюдений за март этого и
предшествующего года и т. д. для любого из 12 мес. Кроме
того, обычно оказывается разумным предположение, что пара-
параметры Фив, содержащиеся в этих ежемесячных моделях, при-
примерно одинаковы для всех месяцев.
Ошибки аи at-\, ... этих моделей не обязательно должны
быть некоррелированы. Например, количество авиапассажиров
в апреле I960 г., будучи связанным с количеством пассажиров
в апреле предыдущего года, связано также с количеством пас-
пассажиров в марте, феврале, январе 1960 г. и т. д Поэтому можно
ожидать, что at в (9.1.4) связано с a(_i в (9.1.5), с а(_2 и т. д.
Следовательно, чтобы учесть эти связи, мы вводим вторую
модель
ф{В)У1щ = %{В)аь (9.1.6)
где at — белый шум, а ф(В) и 9(В) —полиномы В степеней /;
и q соответственно, удовлетворяющие условиям стационарности
и обратимости; V = V] = 1 — В.
Подставляя (9.1.6) в (9.1.4), получаем окончательную об-
общую мультипликативную модель
ф (В) ФР
zt = 9, (В) QQ (Bs) at,
(9.1.7)
где в этом частном примере s = 12. Индексы р, Р, q, Q в (9.1.7)
были введены, чтобы напомнить читателю о порядках различ-
различных операторов Говорят, что результирующий мультипликатив-
мультипликативный процесс имеет порядок (р, d, q)X(P, D, Q)s. Аналогичные
рассуждения можно использовать для получения моделей
с тремя и более периодическими компонентами, учитывающими
многообразие сезонных явлений.

336
Часть II. Построение стохастических моделей
9.2. ПРЕДСТАВЛЕНИЕ ДАННЫХ
ОБ АВИАПЕРЕВОЗКАХ МУЛЬТИПЛИКАТИВНОЙ
МОДЕЛЬЮ @, 1, 1)Х@, 1, 1),2
В дальнейшем в этой главе мы рассмотрим основные виды
моделей сезонных рядов введенного нами типа и их потенциаль-
потенциальные возможности при прогнозировании. Мы рассмотрим также
проблемы идентификации, оценивания и диагностической про-
проверки, возникающие пр» привязке таких моделей к данным. Для
этого мы не нуждаемся в каких-либо новых принципах, а будем
просто применять методики и идеи, которые подробно обсужда-
обсуждались в гл. 6—8.
В этом разделе мы детально рассмотрим частный пример.
В разд. 9.3 мы рассмотрим аспекты общей модели сезонных ря-
рядов, требующие специального внимания.
Детальный пример, рассматриваемый в этом разделе, заклю-
заключается в применении модели (О, I, 1)Х@, 1, I)i2 к данным об
авиаперевозках (ряду G). В разд. 9.2.1 будет рассмотрена оама
модель, в разд 9 2.2 — основанное на ней прогнозирование,
в разд. 9.2.3 — идентификация, в разд. 9.2.4 — подгонка и, на-
наконец, в разд. 9.2.5 — ее диагностическая проверка.
9.2.1. Мультипликативная модель @, 1, 1)Х@, 1, I)i2
Мы уже видели, что простая и и1ироко применимая стохасти-
стохастическая модель для нестационарных временных рядов, не содер-
содержащая сезонных компонент, — это процесс ПСС@, 1, 1). Поло-
Положим, что в соответствии с рассуждениями разд. 9.1.3 мы при-
пришли к модели
связывающей z, разделенные интервалом времени в 1 год. По-
Положим далее, что мы пришли к модели
связывающей а, отстоящие на один месяц, где 9 и в в общем
случае — разные величины. Комбинируя эти выражения, мы по-
получаем мультипликативную модель сезонного ряда
WI22, = A -6B)A -&В12)п1 (9.2.1)
порядка @, 1, 1)Х@, 1, I)i2- В явном виде эту модель можно
представить так:
zt — 2,_, — zt-12 + z,_I3 = at — 9a,_, — ва,_12 + 6ва,-13. (9.2.2)
Интервал обратимости для зтой модели, получаемый из усло-
условия, что корни уравнения A—QB) A — @В12) = 0 лежат вне
Гл. 9. Модели сезонных рядов
337
единичного круга, определен неравенствами
- ке< 1 и - 1 <е< 1.
Заметим, что оператор скользящего среднего
A - ея) A - ев12) = 1 - ев - ев12 + еев13
в правой части (9.2.1) порядка q + sQ = 1 + 12A) = 13.
В разд. 9.2.3—9.2.5 мы покажем, что прологарифмированные
данные об авиаперевозках хорошо описываются моделью вида
(9.2.1), где с достаточной точностью 6~= 0,4, в = 0,6, а2а =
= 1,34- 10" .Удобно вначале рассмотреть, как, пользуясь этой
моделью с этими значениями параметров, можно предсказать
будущие значения ряда.
9.2.2. Прогнозирование
В гл. 4 мы видели, что имеются три разных способа рассмо-
рассмотрения общей модели, каждый из которых привел в гл. 5 к раз-
различным взглядам на прогноз. Мы рассмотрим теперь, как эти
три подхода можно применить к прогнозированию с помощью
модели сезонного ряда (9.2.1).
Способ разностного уравнения. Прогнозы удобнее всего вы-
вычислять прямо из самого разностного уравнения.
Поскольку
Zt+l — zt+L-l + Zt-i 1-12 — Zt+l-13 + Qt+l —
- 8at+i_, - 6a,+/_I2 + eeai+/_13> (9.2.3)
после подстановки 6 = 0,4, в = 0,6 немедленно получаем про-
прогноз с минимальной среднеквадратичной ошибкой на момент I
с упреждением /:
zt @ = [zt+i-i + z<+z_12 — zt+i-l3 + аш — 0,4а,+г_, —
- 0,6at+i-i2 + 0,24a/+i_I3]. (9.2.4)
Как и в гл. 5, мы называем
, в.
t-u •••]
условным математическим ожиданием zt+t в момент t. В этом
выражении параметры считаются известными точно, и ряд zt,
zt-i, ... предполагается известным достаточно далеко в, прош-
прошлое.
Практическое применение зависит от ряда фактов:
а) обратимые модели после подгонок к реальным рядам
дают прогнозы, существенно зависящие только от сравнительно
недавних значений ряда;

338
Часть II. Построение стохастических моделей
б) прогнозы нечувствительны к малым изменениям значений
параметров, вносимым, например, ошибками оценивания.
Имеем
j < 0
/>«• (9>2'5)
\at+i\ =
(9.2.6)
Отсюда, чтобы получать прогнозы, как в гл. 5, мы просто за-
заменяем неизвестные z прогнозами, а неизвестные а — нулями.
Известные а — это, конечно, уже вычисленные ошибки прогноза
на шаг вперед, т. е. щ = zt — zt-\ A).
Например, для получения прогноза на три месяца вперед
имеем
zt+3 = zt+2 + z,_9 — zt-l0 + al+3 — 0,4at+2 — 0,6a,_9 + 0,24a,_I0,
Беря условные математические ожидания в момент t, получаем
&t C) = zt B) + zt-9 - z,_10 - 0,6a,,9 +
т. e.
zt C) = zt B) + zt-,, - Zt-,0 - 0,6 [z,_9 - z,_I0 A)] +
Следовательно,
zt C) = zt B) + 0,4zt-9 - 0,76zt_10 +
+ 0,6z,_10(l)-0,24z,_n(l). (9.2.7)
Здесь прогноз выражается через предыдущие z и предыдущие
прогнозы z. Хотя нетрудно записать отдельные выражения для
любого упреждения, вычисления прогнозов лучше вести, непо-
непосредственно используя единственное выражение (9.2.4), эле-
элементы в правой части которого определены в (9.2.5) и (9.2.6).
На рис. 9.2 показаны прогнозы для упреждений до 36 ме-
месяцев, сделанные на один и тот же произвольный момент —
июль 1957 г. Видно, что простая модель, содержащая только
два параметра, хорошо воспроизводит сезонные особенности и
дает превосходные прогнозы. Следует помнить, конечно, что,
как и все предсказания, получаемые из общей линейной стоха-
стохастической модели, прогнозирующая функция подстраивается
к данным. Когда происходят изменения в сезонных явлениях,
они соответствующим образом отражаются в прогнозе. Нужно
заметить, что если прогноз на месяц вперед дает завышенное
значение, у всех более отдаленных прогнозов на тот же момент
времени существует тенденция к завышению. Этого следовало
ожидать, потому что, как указано в приложении П5.1, ошибки
Гл. 9 Модели сезонных рядов
339
прогноза на один и тот же момент времени с различными упре-
упреждениями сильно коррелированы. Конечно, прогноз далеко впе-
вперед, скажем на 36 мес, неизбежно может содержать значитель-
значительную ошибку. Однако на практике первоначально отдаленный
прогноз будет непрерывно корректироваться, и по мере умень-
уменьшения упреждения будет достигаться все большая точность.
Описанная процедура прогнозирования устойчива к умерен-
умеренным изменениям значений параметров. Так, если мы используем
Т9Ч8 1950 195 J I952 1353 /95 f 1955 1956 1957 J958 1959 7960
Рис. 9 2 Ряд G с прогнозами на 1, 2, 3, ..., 36 месяцев вперед, сделанными
в один и тот же произвольный момент, июль 1957 г. По оси ординат —
натуральные логарифмы суммарного числа пассажиров за месяц (в тысячах).
вместо 6 = 0,4 и в = 0,6 значения 6 = 0,5 и 0 = 0,5, прогнозы
не сильно изменятся. Это верно даже для прогнозов на не-
несколько шагов вперед, например на 12 мес.
Прогнозирующая функция, ее коррекция и дисперсия ошибки
прогноза. Как говорилось в гл. 5, способ разностного уравнения
наиболее прост и удобен для фактического вычисления и кор-
коррекции прогнозов. Однако само разностное уравнение не объ-
объясняет в достаточной степени природу вычисляемых с его по-
помощью прогнозов и характер коррекции. Чтобы оценить эти
аспекты (а не предложить еще одну вычислительную процеду-
процедуру), рассмотрим теперь прогнозирование с других точек зрения.
Прогнозирующая функция. Используя E.1.12), получаем
(9.2.8)
где
@ =

340
Часть tl. Построение стохастических моделей
Оператор скользящего среднего в правой части (9.2.1) имеет
порядок 13. Отсюда, согласно E.3.2), для /> 13 прогнозы удов-
удовлетворяют разностному уравнению
(l-B)(l-Bl2)zt(t) =
(9.2.9)
где В действует на /.
Пусть теперь г = 0, 1, 2, ..., m — 1, 2, ..., 12 и / = (г, т) —
упреждение в г лет и m месяцев, так что, например, / = 15 =
Рис. 9.3. Сезонная прогнозирующая функция, полученная по модели
VV.2, = A — 9В) X A — ®В')а, при s = 5.
— A,3). Тогда прогнозирующая функция, являющаяся реше-
решением (9.2.9) с начальными условиями, определяемыми пер-
первыми 13 прогнозами, имеет вид
?t (/) = ?f (r, m) = b$m + rb\\ I > 0. (9.2.10)
Эта прогнозирующая функция содержит 13 регулируемых коэф-
коэффициентов бол, Ьо%, .. ., &ол2, Ь\*К Они представляют эффект
12 мес. и один годовой эффект и определяются первыми 13 про-
прогнозами. Природу этой функции лучше понять из рис. 9.3, на
котором показана прогнозирующая функция этого типа, но с пе-
периодом s = 5, так что имеется 6 регулируемых коэффициентов
*,Й &*?'.
Веса г|). Чтобы определить формулы коррекции и получить
дисперсию ошибки прогноза et(l), нам нужны веса г|) в выраже-
выражении для модели вида zt — 2™=ог|)/а<_/. Оператор скользящего
Гл. 9. Модели сезонных рядов
341
среднего в (9.2.1) можно записать
A - ев) A - ев12) = (V + щ (v12 + лв12),
где л=1-е, л = 1-е, vI2=i-s12.
Тогда модель (9.2.1) можно представить как
Суммируя, получим
zt = XSat-i
где S12 = 1 + В12 -f В24 +
цесса равны
at,
Таким образом, веса г|э этого про-
про= ^ + А,
= фм= ... = -фаз = Я A + Л),
Л,
и т. д. Представив tyj как \рг,т, где г = О, 1,2 ...ит=1, 2,3, ...
12 относятся соответственно к годам и месяцам, получаем
i|V,m = Ml +гЛ) + бЛ, (9.2.11)
где
f 1, когда т = 12,
~\ О, когда тф 12.
Коррекция. Общая формула для коррекции E.2.5) имеет вид
Тогда, если m ф s = 12, то
rb\t+1) - Ь$
at+1,
и, приравнивая коэффициенты при одинаковых степенях г, по-
получаем
Ой, т = DO, т+1 + ЛСЦ+1,
(92Л2)
В случае же если т = s = 12, то
в + г6</+1) = Ьй\ + (г
и в этом случае
(Я + Л +
(Я. + Л) at+I,

342
Часть II. Построение стохастических моделей
При анализе этих соотношений следует помнить, что
!^'откорректированное fiofm+i. Поэтому, если момент t,
в который делается прогноз, был январь какого-либо года, то-
тогда bo, 2 — это коэффициенты для марта. После того, как прошел
месяц, нужно передвинуть момент прогноза на февраль, и от-
откорректированный вариант коэффициента для марта теперь бу-
Дет ftilt".
Дисперсия ошибок прогноза. Зная веса г|), мы можем вычис-
вычислить дисперсию ошибок прогноза для любого упреждения /.
Воспользуемся для этого результатом E.1.16), а именно
V([) = [l+tf + ... +СК- (9.2.14)
Принимая X = 0,6, Л = 0,4, G* = 1,34 ¦ 10~3 в (9.2.11) и (9.2.14),
находим выборочные стандартные отклонения 6A) логарифмиче-
логарифмических ошибок прогноза для данных об авиаперевозках; резуль-
результаты для / от 1 до 36 приведены в табл. 9.2.
Таблица 9.2
Выборочные стандартные отклонения ошибок прогноза
с различным упреждением для логарифмов ряда авиаперевозок
Упреждения
<т(/)-10-2
Упреждения
а(/)-10-2
Упреждения
а(/)..О-2
1
3,7
13
9,0
25
14,4
2
4,3
14
9,5
26
15,0
3
4,8
15
10,0
27
15,5
4
5,3
16
10,5
28
16,0
5
5,8
17
10,9
29
16,4
6
6,2
18
11,4
30
17,0
7
6,6
19
11,7
31
17,4
8
6,9
20
12,1
32
17,8
9
7,2
21
12,6
33
18,3
10
7,6
22
13,0
34
18,7
11
8,0
23
13,3
35
19,2
12
8,2
24
13,6
36
19,6
Прогнозы как взвешенные средние предыдущих наблюдений.
Если представить модель в виде
zt = 2
прогноз на шаг вперед будет
at,
Веса л можно получить, приравнивая коэффициенты при оди-
одинаковых степенях В в уравнении
A - В){1 - В12) = A - ЩA - 6В12)A -ЩВ - щВ2 - ...).
Гл. 9. Модели сезонных рядов
343
Отсюда
= в/~1A — в), /=1, 2, ..., 11,
(9.2.15)
На рис. 9.4 показаны эти веса для значений параметров 8 = 0,4
и G = 0,6. Почему весовая функция имеет такой вид, как
J
I
42 36 30
18 12 В
- j
Рис. 9.4. Веса я для процесса @,1,1)X@,1,1) 12, подогнанного к ряду Q
(9 = 0,4, 6 = 0,6).
на рис. 9.4, можно понять из следующего. Процесс (9.2.1) можно
описать как
at+i
_ев12
(9.2.16)
Используем теперь символ ЭВССхBг) для обозначения экспо-
экспоненциально взвешенного скользящего среднего с параметром Я
от значений zt, zt~i, zt-2, . ¦ ¦, так что
(zt) = -j-^qj ^ = Xzt
Аналогично пусть символ ЭВССлB() обозначает экспоненциаль-
экспоненциально взвешенное среднее с параметром Л от значений zt, zt-i2,
Zt-2i, ..-, так что
ЭВССл (zt) = ) _qB,2 zt = Kzt + Лвг,_12 + ЛвVm + • • • •
Подставляя в (9.2.16) zt(\) =zt+i—at+i, получаем
&t(\) — ЭВСС„ (zt) + ЭВССл (zt-u - 3BCCxzt_u). (9.2.17)
Таким образом, прогноз —это ЭВСС, взятое по предыдущим ме-
месяцам, измененное вторым ЭВСС от расхождений между такими
ежемесячными ЭВСС и фактически наблюденными в предыду-
предыдущие годы.

344
Часть II Построение стохастических моделей
Например, пусть мы пытались предсказать сбыт универсаль-
универсального магазина в декабре. Большая доля распродажи приходится
на рождественские подарки. Первый член в правой части (9 2.17)
будет ЭВСС за предыдущие месяцы по ноябрь включительно.
Однако мы знаем, что эта величина существенно ниже реальной,
и мы поправили ее, прибавив к ней второе ЭВСС за предыдущие
годы, взятое по расхождениям между фактической распродажей
в декабре и соответствующими ежемесячными ЭВСС, взятыми
по предыдущим месяцам в эти годы.
Прогнозы для упреждений / > 1 можно генерировать непо-
непосредственно по весам л, подставляя прогнозы для меньших упре-
упреждений вместо неизвестных величин. Так,
Можно поступить и иначе — вычислить явные значения ве-
весов, придаваемых непосредственно zt, zt-u zt~2 по фор-
формуле E.3.9) или (П5.2.3).
9.2.3. Идентификация
Идентификация несезонного процесса ПСС@, 1, 1) опирается
на тот факт, что после взятия первых разностей автокорреляции
для всех задержек, больших единицы, равны нулю. Для муль-
мультипликативного процесса @, 1, 1) X @, 1, 1) 12 (9.2.1) ненулевые
автокорреляции W\2Zt соответствуют только задержкам 1, 11,
12 и 13.
Действительно, эти автоковариации равны
Y,, =
(9.2.18)
В табл. 9.3 приведены выборочные автокорреляции логариф-
логарифмированных данных авиаперевозок для
a) исходного прологарифмированного ряда zt,
b) ряда Vzt, полученного из (а) взятием разностей с шагом
в месяц,
c) ряда V\2zt, полученного из (а) взятием разностей с шагом
в год,
d) ряда V4i2Zt, полученного из (а) взятием разностей через
месяц и через год.
S
я
m
о
я
о>
а.
а>
с
я
S
я
я
о
с
X
X
S
я
г=С
х
X
X
я
и
о
а.
s
S
•&
а.
я
U
О
Ч
•Я
а>
(-
о
о
х
«
я
о.
X
X
ВТ
S
ч
«
я
о.
S
S
я
ё.
о.
о
к
о
е-
я
«
4>
X
ВТ
о
о.
о
ю
0
к
к
к
рел
о
f-
<
к
Заде{
CD
N-
О
CD
О
тн
о
CO
о
CO
о
o
CD
о
00
о
00
о
ю
00
о
90
о
о
1—12
N
в
см
ю
о
eg
ю
о
о
ю
о
о
ю
о
О5
о
о
ю
о
eg
ю
о
ю
о
00
ю
о
62
о
18
о
см
N.
о
13—24
eg
со
о
31
о
о
со
о
о
со
о
29
о
о
со
о
со
о
ct
о
36
о
40
о
44
о
00
о
eg
со
о
eg
о
.—1
О
О
о
о
о
|
<—
о
eg
о
ю
о
о
eg
о
24
о
37—48
¦ф
00
о
eg
о
|
*—i
о
eg
о
1
с%
о
1
_
<—
о
1
со
о
о
00
о
о
1
32
о
ю
о
1
eg
о
1
о
eg
о*
1—12
N
—
N-
о
о
о
00
о
о
-
о
55
о
1
t
.—1
о
1
_,
о
о
ю
о
о
1
00
eg
о
eg
о
1
2
о
1
0,22
13—24
$
о
in
о
¦ф
о
о
со
о
О5
О
1
см
о
1
eg
о
о
CD
О
о
1
eg
о
о
о
1
eg
о
1
о
CN
гт>
ю
о
eg
о
со
о
о
-
о
1
00
eg
о
1
| ,
О
1
о
о
8
о
1
CD
о
CD
О
о
1
со
о
1
О5
О
37—48
см
о
1
eg
о
1
|
о
—0
ю
о
О5
О
¦ф
eg
о
eg
со
о
о
о
00
о
62
о
-
о
1—12
IN
in
о
о
1
8
о
§
о
-
о
1
CD
о
1
¦ф
о
1
__,
1—1
о
1
о
о
1
in
о
1
о
о
о
1
о
1
13—24
eg
eg
о
1
о
со
eg
о
1
eg
о
1
ю
о
1
О5
О
1
о
eg
о
1
О5
О
1
ю
о
со
о
1
8
о
1
о
о
25—36
со
о
О5
eg
о
eg
eg
о
ю
о
о
о
¦ф
о
о
eg
о
о
ю
о
о
1
о
о
о
CD
о
1
00
о
1
37—48
со
о
1
CD
О
о
00
о
о
00
о
8
о
СО
о
о
1
со
о
о
8
о
8
о
о
о
1
-
о
f
о
1
1—12
N
еч
О
о
2.
eg
о
о
1
я
о
О5
О
о
О
о
eg
о
1
^
о
о
1
eg
о
о
&
о
о
ю
о
CD
О
о
1
ю
о
13-24
о
о
1
ю
о
00
о
о
см
о
о
ю
о
о
1
ю
о
о
1
§
о
1
05
о
8
о
8
о
о
о
1
25—36
ю
о
о
1
о
¦ф
о
о
S
о
1
03
о
8
о"
1
о
о
07
о
1
со
о
о
§
о
1
со
о
о
о
37-48

346
Часть II. Построение стохастических моделей
Автокорреляции z велики и не затухают при больших за-
задержках. В то время как взятие простых разностей в общем
уменьшает корреляцию, сохраняется очень сильная периодиче-
периодическая компонента. Об этом свидетельствуют очень большие
корреляции при задержках 12, 24, 36 и 48. Взятие разностей с пе-
периодом 12 приводит к корреляциям, стабильно положительным,
а затем стабильно отрицательным. Наконец, взятие комбиниро-
комбинированных разностей VV12 заметно уменьшает корреляцию всюду.
В предположении, что модель имеет вид (9.2.1), дисперсии
выборочных автокорреляций для больших задержек аппрокси-
аппроксимировались формулой Бартлетта B.1.13), которая в этом случае
имела вид
H )
var [rk]
> 13. (9.2.19)
Заменяя р в (9.2.19) выборочными корреляциями и полагая
п = 144— 13 = 131, где п = 131 —число разностей VV^z*, по-
получаем стандартную ошибку 6 (г) «0,11.
В табл. 9.4 наблюДенные частоты значений 35 автокорреля^
ций гн, k > 13, сравниваются с частотами нормального рас-
распределения с нулевым средним значением и стандартным
отклонением 0,11. Эта грубая проверка показывает, что модель
заслуживает дальнейших исследований.
Таблица 9.4
Сравнение наблюденных и ожидаемых частот автокорреляций
VV!2Z{ длят задержек, больших 13
0<М<0,11
0,11 <| г |< 0,22
0,22 < | г |
Ожидаемые для нормального
распределения с нулевым
средним значением
и станд. откл. 0,11
23,9
9,5
1,6
35,0 .
Наблюденные •)
27,5
7,0
0,5
35,0
* Наблюдения на границе двух ячеек гистограммы приписываются как
Vi каждой из соседних ячеек.
Предварительные оценки. Как и для несезонных моделей,
Приравнивая наблюденные корреляции их математическим ожи-
ожиданиям, можно получить приближенные оценки для параметров
8 и 0. Подставляя выборочные оценки Г\ — —0,34 и г12 = —0,39
в выражения
- 9 _ -6
Pi — T+TF' Pl2"~ l+в2 '
Гл. 9. Модели сезонных рядов
34
получаем грубые оценки 6 « 0,39 и в « 0,48. В приложении
П9.1 дана таблица, суммирующая поведение автокорреляцион-
автокорреляционной функции для некоторых видов моделей сезонных рядов; эта
таблица полезна для идентификации и получения предваритель-
предварительных оценок параметров.
9.2.4. Оценивание
На рис. 9.5 показаны изолинии суммы квадратов S(8, в) для
данных об авиаперевозках, к которым подгонялась модель
80
60
I
в 40
20
252
219
232
224
.239
.208
187
.185
.187
192
ч
2О2>
179
.180
185
194
184
488
4180
,175
.177
182
190
178
па
182_
189
212
198V
190
186,
185
188
J93
.229
213
204
198
196
197
210
365
332
315
306
305
309
320
20
.40
60
80
1 0
Рис. 9.5. Подгонка модели VVi2Zj = A—Gfi) (I—@Bl2)at к ряду G: изо-
изолинии S(9, ©); заштрихована 95%-ная доверительная область.
(9.2Д); там же показана соответствующая 95%-ная доверитель-
доверительная область.
Оценки наименьших квадратов очень близки к 9 = 0,4 и
в = 0,6. Значения 5(8,6) в узлах сетки были вычислены по ме-
методике, описанной в гл. 7. Там было показано, что если дано
п наблюдений w линейного процесса, описываемого формулой
Ф (В) wt = B {В) at
или эквивалентной формулой

348
Часть II. Построение стохастических моделей
квадратичная форма w'/V\nw, стоящая в показателе функции
правдоподобия, всегда может быть выражена как сумма квад-
квадратов условных математических ожиданий а или е, т. е.
где
w'Mrew = S (ф, в) = 2 Ы2 = 2 Ы\
[a<] = [a^|w, ф, 6],
[^] = [e<|w, #, в].
Далее там было показано, что 5(^,6) играет главную роль в
оценивании параметров как в теории выборочных распределений,
так и в методе правдоподобия или в байесовском подходе.
Вычисления для моделей сезонных рядов осуществляются
точно так же, как описано в разд. 7.1.5 для несезонных моделей.
Мы покажем, как проводятся вычисления оценок для данных
об авиаперевозках по модели
VVl2zt = wt = (l-QB){l-№i2)at.
Схема вычислений [а] показана в табл. 9.5. Если имеется N на-
наблюдений z, то в общем случае с разностным оператором VdV?
можно вычислить п = N — d — sD значений w. Поэтому удобно
использовать такие обозначения, чтобы первое наблюдение в
Таблица 9.5
Данные по авиаперевозкам.
Вычислительная таблица для [а] и, следовательно, для SF, в)
zt
г-12
г-н
го
г2
t
— 12
—11
0
2
131
Ы
0
[а-1г]
lfl-nJ
[flol
[а,]
ш
[-11
0
1^ , |||
[й>о]
W\
w2
...
ы
0
0
0
0
w
Г л 9 Модели сезонных рядов
349
ряду z имело индекс 1—d — sD. Первое наблюдение в ряду w
будет тогда иметь индекс 1, а последнее п. В ряду данных об
авиаперевозках имеется N = 144 наблюдений. В соответствии
с этим в табл. 9.5 они обозначены как z_12, г_ц, ..., гш. Ве-
Величины w, полученные взятием разностей, образуют ряд
w\, w2 ., ш„, где п = 131. Эти значения приведены в центре
таблицы.
Фундаментальные рекуррентные формулы для расчета в пря-
прямом и обратном направлениях можно получить, перейдя к услов-
условным математическим ожиданиям в соответствующих представле-
представлениях модели. В этом примере получаем
(9.2.20)
(9.2.21)
Ы = Ы + в [et+i] + в [et+12] - ев[е,+13],
Ы = [wt] + 6 [а,_,] + в [at_12] - ев [а,_13].
В общем случае модель сезонных рядов может включать ста-
стационарный оператор авторегрессии f(B)<D(Bs) степени (р + sP).
Если мы хотим, чтобы расчет в обратном направлении, описан-
описанный в разд. 7.1.5, уходил в прошлое как можно дальше, нужно
начинать рекурсию с вычисления приближенного значения
[en~i-sP], получаемого приравниванием всех неизвестных [е]
нулю. В данном примере р = Р — 0, и отсюда, пользуясь
(9.2.20), можно начинать с
[em] = M»i3i + {e X 0} + {в X 0} - {60 X 0},
[em] = a-130 + {6 X [е,3,]} + {в X 0} - {0в X 0}
и т. д. до получения [е4]. Поскольку [е_;] = 0 при / 35s 0, мы мо-
можем использовать (9.2.20) для вычисления прогнозов назад:
[адо], [^-i]. ..., [w-i2]. Далее, все значения [ад-J для / > 12
равны нулю, и, поскольку каждое [at] — это функция ранее на-
наблюдавшихся [w], отсюда следует (это вытекает и непосред-
непосредственно из представления модели), что [a_j] = 0 при / > 12. По-
Поэтому (9.2.21) теперь может быть использовано непосредственно
для вычисления [а] и, следовательно, для вычисления
131
SF, в)= 2 [atf- Почти во всех интересных случаях переход-
переходные процессы, введенные аппроксимацией в начале обратной
рекурсии, будут пренебрежимо слабо влиять на вычисление пре-
предыдущих [w]. Поэтому вычисленное этим способом SF, 6) бу-
будет весьма точным. Однако, как указывалось в разд. 7.1.-5, мож-
можно еще больше повысить точность, повторив итерации «вперед
и назад». Следующая итерация включает повторное вычисле-
вычисление [е] и начинается с использования прогнозов [twn+i], [адп+2]. ...
..., [Шп+1з], полученных по уже вычисленным [а].

350
Часть II. Построение стохастических моделей
Итеративное вычисление оценок наименьших квадратов 8, в.
Как уже обсуждалось в разд. 7.2, в каждой новой ситуации или
при появлении каких-либо трудностей полезно рисовать изоли-
изолинии сумм квадратов, но в простых случаях можно прямо вос-
воспользоваться методикой итеративной линеаризации для получе-
получения оценок наименьших квадратов и их приближенных стан-
стандартных ошибок. Процедура вычислений была описана в
разд. 7.2.1, и при оценке параметров сезонных моделей не воз-
возникает новых трудностей.
В настоящем примере можно приближенно записать
= @ - во) хи t + (в — ео) Ч t + а„
где
да,{
Ж
•о. во
д®
в„, в0
и где 6о и во — предполагаемые значения, a at, о = [at | 60, во].
Как было показано в разд. 7.2.2, производные легче всего рас-
рассчитывать численно. Действуя таким образом и пользуясь в ка-
качестве начальных значений предварительными оценками Э =
= 0,39, в = 0,48, полученными в разд. 9.2.3 по выборочным ав-
автокорреляциям, продолжаем итерации (см. табл. 9.6).
Таблица 9.6
Итеративное оценивание в и в по логарифмиро-
логарифмированным данным авиаперевозок
Итерация
Начальные значения
1
2
3
4
е
0,390
0,404
0,395
0,396
0,396
в
0,480
0,640
0,612
0,614
0,614
В результате трех итераций можно получить значения пара-
параметров с точностью до двух знаков после запятой, удовлетво-
удовлетворяющей все практические требования. Выборочная дисперсия
остаточных ошибок равна аа=1,34- 10~ . Матрица, обратная
матрице сумм квадратов и произведений х, полученная на по-
последней итерации, используется для вычисления стандартных
ошибок оценок. Оценки наименьших квадратов и соответствую-
Гл. 9. Модели сезонных рядов
351
щие стандартные ошибки равны
6 = 0,40 ± 0,08,
0 = 0,61 ±0,07,
что хорошо согласуется со значениями, полученными на рис. 9.5.
Процедура оценивания может быть кратко описана следую-
следующим образом. Имея достаточно хорошие оценки параметров,
полученные по автокорреляциям, можно, как и ранее, вы-
вычислить прогнозы w назад. Полученные начальные значения
используются на всех итерациях, пока процесс не сойдется.
В этот момент еще одна итерация, использующая подправлен-
подправленные значения прогнозов назад, обычно обеспечивает окончатель-
окончательную сходимость. Однако, располагая быстродействующей ЭВМ,
вряд ли целесообразно пользоваться такими ухищрениями. Дей-
Действуя другим способом (как в разд. 7.2.3.), путем рекуррентного
счета можно получить производные с любой желаемой точ-
точностью.
Дисперсии и ковариации оценок, сделанных по большим вы-
выборкам. Как и в разд. 7.2.6, можно получить формулы для дис-
дисперсий и ковариации оценок параметров по большим выборкам.
В этом случае
оо
*«_(!_ 0?)-' Щ-х = - 2 е'я Vi,
- О - @512Г
(=0
:-12-
Отсюда для больших выборок информационная матрица имеет
вид
A
- ©2г' J"
Если |б| не близко к единице, элементы, не лежащие на диаго-
диагонали, малы, и приближенные значения дисперсий и ковариации
9 и в равны
кF)«л-1 A-е2), ^(ё^я-'О-в2),
cov(8, в)«0. (9.2.22)
В данном примере, подставляя в (9.2.22) значения 8 = 0,40,
в = 0,61 и п = 131, получаем величины
V (9) « 0,0064, У (в) « 0,0048,
а (в) ~ 0,08, а (в) «0,07,

352
Часть II. Построение стохастических моделей
которые при данной точности совпадают со значениями, полу-
полученными непосредственно при итерациях. Интересно отметить
также, что оценки параметров бив, связанных соответственно
с месяцами и годами, практически не коррелированы.
9.2.5. Диагностическая проверка
Перед тем как перейти к дальнейшему, проверим адекват-
адекватность модели путем анализа остаточных ошибок после поДгонки
модели.
Проверка по автокорреляциям. Выборочные автокорреляции
остаточных ошибок
dt = VV12z, +
приведены в табл. 9.7.
_! -f 0,61d,_I2 - 0,24d(-.13
Таблица 9.7
Выборочные автокорреляции остаточяых ошибок при подгонке модели
WKZ/ = A—0,40В) A—0,61В12) а< к данным авиаперевозок (ряд G)
гржка к
я
СП
1-12
13-24
25-36
37-48
0,02
0,03
-0,02
0,11
0,02
0,04
0,06
0,07
-0,13
0,05
-0,04
-0,02
-0,14
-0,16
-0,05
-0,05
Автокорреляции Г)
0,05
0,03
-0,05
-0,10
0,06
0,00
-0,08
-0,02
-0,07
-0,11
-0,05
-0,04
кD)
-0,04
-0,10
0,12
0,00
0,10
-0,03
-0,13
-0,08
-0,08
-0,03
0,00
0,03
0,02
0,22
-0,06
0,04
-0,01
0,01
-0,02
0,06
ндартная
бка{верх-
граиица)
ш
0,09
0.09
0,09
0,09
48
0,2726
Некоторые автокорреляции кажутся довольно большими по
сравнению с верхней границей их стандартных ошибок, в осо-
особенности велико значение г23 = 0,22, в 2,5 раза превышающее
эту верхнюю границу. Однако следует ожидать, что среди 48 от-
отклонений могут встретиться и большие отклонения.
Общая проверка осуществляется при помощи статистики
48
Q = rt2'i(<z), которая (см. разд. 8.2.2) приближенно распре-
распределена как х2 с 46 степенями свободы (подгоняются два пара-
параметра). Наблюденное значение Q = 131 -0,2726 = 35,7, и, если
данная модель верна, значений Q, больших этого, следует ожи-
ожидать в 86% случаев. Эта проверка не дает никаких свидетельств
о неадекватности модели.
Гл. 9. Модели сезонных рядов
353
Проверка по периодограмме. Кумулятивная периодограм-
периодограмма остаточных ошибок показана на рис. 9.6. 5- и 25%-ные
вероятностные пределы критерия Колмогорова, как указывалось
Г.Г
0,25
15
частота
Р н с. 9.6. Проверка остаточных ошибок модели
A — 0,405) A—0,6lBi2)at, подогнанной к ряду G, при помощи
кумулятивной периодограммы.
в разд. 8.2.4, дают лишь очень грубые указания значимости слу-
случайных отклонений; в этом примере они не выявляют значимых
отклонений от предложенной модели.
9.3. НЕКОТОРЫЕ АСПЕКТЫ БОЛЕЕ ОБЩИХ
МОДЕЛЕЙ СЕЗОННЫХ РЯДОВ
9.3.1. Мультипликативные и немультипликативные модели
В предыдущих разделах мы обсудили методы анализа сезон-
сезонных временных рядов, и в частности рассмотрели пример муль-
мультипликативной модели. Мы видели, что эта модель может хо-
хорошо описывать наблюдения с помощью довольно малого числа
параметров. Нам остается рассмотреть некоторые другие мо-
модели сезонных рядов этого типа и при необходимости связанные
с ними процедуры идентификации, оценивания, диагностической
проверки и прогнозирования.
Предположим в общем случае, что имеется сезонный эффект
с периодом s. Тогда общий класс мультипликативных моделей
можно описать способом, продемонстрированным в табл. 9.8.

354
Часть П. Построение стохастических моделей
В мультипликативной модели предполагается, что «периодиче-
«периодический» ход ряда описывается моделью
в то же время «внутри цикла» а связаны соотношением
Очевидно, можно изменить порядок рассмотрения моделей и
в любом случае прийти к общей мультипликативной модели
(в) фр
? zr, m=
(9.з.
где аТ,т — процесс белого шума с нулевым средним значением.
Практическая ценность модели (9.3.1) зависит от того, удается
ли с ее помощью экономично параметризовать фактические на-
наблюдения. Имеется много примеров удачного использования та-
таких моделей для описания разнообразных сезонных рядов, отно-
относящихся к совершенно различным проблемам [80].
Таблица 9.8
Таблица с двумя входами дли мультипликативных моделей
сезонных рядов
Внутри циклов— >
Между
циклами
Параметры скользящего среднего (8Ь 82, ..., 8?)
Параметры авторегрессии (Фи Ф2 Фр)
Параметры скользящего
среднего
(в„ е2 eQ)
Параметры авторег-
ресснн
21.1
22,1
21,2
22, 2
г1,т
г2,т
. . .
. . .
22.S
2Г
1
2
1 1
2г.
1
1
1
1
Все же получить полностью адекватное описание всех сезон-
сезонных временных рядов при помощи мультипликативных моделей
невозможно. Иногда оказывается полезной модификация, остав-
оставляющая смешанный оператор скользящего среднего немульти-
немультипликативным. Это означает, что мы заменяем оператор
Qg(B)QQ(B8) в правой части (9.3.1) более общим оператором
скользящего среднего 9*, {В). Вместо (или кроме) этого может
Гл. 9. Модели сезонных рядов
355
оказаться необходимым заменить оператор авторегрессии
фр(В)фР(В*) слева более общим оператором авторегрессии
f*p, (В). Некоторые типы немультипликативных моделей приве-
приведены в приложении П9.1. Им даны номера 4, 4а, 5 и 5а.
Но даже в тех случаях, когда оказалось необходимым при-
применить немультипликативную модель, из имеющегося опыта
следует, что в качестве начального приближения полезна наи-
наилучшим образом подогнанная мультипликативная модель; этот
прием позволяет построить лучшую немультипликативную мо-
модель. Подобная ситуация встречается при использовании таблиц
дисперсионного анализа, имеющих два входа, где предположе-
предположение об аддитивности строк и столбцов может быть верным или
неоправданным, но во всех случаях полезно как начальное при-
приближение.
Общая стратегия для привязки мультипликативных или не-
немультипликативных моделей к данным та же, что описана и
проиллюстрирована с некоторыми подробностями в разд. 9.2. Ру-
Руководствуясь видом автокорреляционной функции, приходим к
следующему:
1. Применяем к наблюденному ряду разностные операторы V
и Vs для достижения стационарности.
2. По виду автокорреляционной функции разностного ряда
выбираем пробную модель.
3. По значениям соответствующих автокорреляций разност-
разностного ряда получаем предварительные оценки параметров. Их
можно использовать как начальные значения при поиске оце-
оценок наименьших квадратов.
4. После подгонки диагностическая проверка остаточных
ошибок может либо подтвердить правильность модели, либо ука-
jaTb пути ее улучшения, что приводит к новой подгонке и по-
повторению диагностических проверок.
9.3.2. Идентификация
Полезные сведения для идентификации моделей содержатся
в приложении П9.1, где показана структура ковариаций
xsot = VdVf zt для нескольких простых моделей сезонных рядов.
Этот перечень не претендует на исчерпывающий охват возмож-
возможных моделей. Однако мы полагаем, что он включает некоторые
наиболее употребительные модели, и читателю будет нетрудно
определить характеристики других моделей, которые могут ока-
оказаться полезными. Нужно подчеркнуть, что довольно простые
модели (такие, как модели 1 и 2 в приложении П9.1) адекватно
описывают многие сезонные ряды.
Полезность получения автоковариаций мультипликативного
процесса объясняется тем, что в таком процессе производящая

356
Часть II. Построение стохастических моделей
функция автоковариаций C.1.11) есть произведение производя-
производящих функций компонент. Поэтому, если компоненты в (9.3.1)
4>р (В) Vdzt = 9, (В) щ, Фр (Bs) V?a, = 6Q (Bs) at
имеют производящие функции автоковариаций у (В) и Г (В8), то
производящая функция автоковариаций z в модели (9.3.1) равна
У(В)Г(В°)-
Нужно также помнить, что может оказаться полезным параме-
параметризовать более общие модели как отклонения от подогнанных
к рядам мультипликативных форм иллюстрируемым ниже спо-
способом.
Трехпараметрический немультипликативный оператор
1 — е,в —е12в12 —е13в13, (9.3.2)
применяемый в моделях 4 и 5, можно записать как
A - е,д) о - е,2512) - хв13, х = е,е12 - (- е13).
Если оценка х велика по сравнению с ее стандартной ошибкой,
это указывает на необходимость введения немультипликатив-
немультипликативной модели, в которой 9i3 никак не связано с 9i и 8i2- С другой
стороны, если % мало, то, приняв 6i = 8, 9^ = G, мы аппрокси-
аппроксимируем этой моделью мультипликативную модель @, 1, IV X
X @, 1,1), 2-
9.3.3. Оценивание
При оценивании параметров общих моделей сезонных рядов
не возникает новых проблем. Безусловная сумма квадратов вы-
вычисляется теми же общими методами, описанными в разд. 7.1.5
и проиллюстрированными на примере в разд. 9.2.4. Как всегда,
построение графиков может упростить трудные ситуации. В про-
простых случаях итеративная процедура метода наименьших квад-
квадратов с численным расчетом производных обеспечивает быструю
сходимость к оценкам наименьших квадратов и дает прибли-
приближенные дисперсии и ковариации оценок. В случае необходимости
всегда можно предложить рекуррентную процедуру для прямого
вычисления производных.
Дисперсии и ковариации оценок по большим выборкам. Ин-
Информационная матрица 1@,8,Ф, в), относящаяся к большой
выборке, может быть получена вычислением Е[Х'Х], где, как и
в разд. 7.2.6, X — это матрица производных с обратным знаком
размером пХ (p + 7 + ^ + Q)- Итак, для общей мультиплика-
мультипликативной модели
at *- в (В)в~1(в$)ф(В) Ф (Bs) wt,
Гл. 9. Модели сезонных рядов
357
где
нужные производные равны
C9..
Q-l(B)Blat, ^ =
dat
Приближенные значения дисперсий и ковариации оценок по-
получаем, как и ранее, обращением матрицы 1@, 9, Ф, в).
9.3.4. Эвентуальные прогнозирующие функции для различных
моделей сезонных рядов
Рассмотрим теперь характеристики эвентуальных прогнози-
прогнозирующих функций для моделей сезонных рядов. Для модели се-
сезонного ряда с одной периодичностью s эвентуальная прогно-
прогнозирующая функция на момент t с упреждением / — это решение
разностного уравнения
В табл. 9.9 приведено это решение для различных разностных
уравнений и указано также число начальных значений, от ко-
которых зависит прогнозирующая функция.
На рис. 9.7 показано' поведение каждой прогнозирующей
функции для s = 4. Удобно рассматривать время упреждения
I = rs + m как относящееся к прогнозу на г лет и m кварталов
вперед. На рис. 9.7 необходимое число начальных значений (тре-
(требуемых для начала прогноза), показанных крупными точками,
было выбрано произвольно, и ход прогнозирующей функции был
прослежен до конца четвертого периода. В случаях, когда раз-
разностное уравнение включало параметр авторегрессии, его зна-
значение было принято равным 0,5.
Константы bo,m, b\ и др., появляющиеся в табл. 9.9, строго
говоря, должны обозначаться как Ь^т, &/' и т. д., так как ка-
каждая из них зависит от момента t прогноза и перестраивается
при каждом изменении t. Индекс t был временно опущен для
упрощения записи. Оператор под номером A) стационарен и
содержит среднее значение \i. Он является оператором авторе-
авторегрессии по отношению к сезонной компоненте, затухающей с ка-
каждым периодом и приближающейся к среднему значению.
Оператор B) нестационарен по отношению к сезонной ком-
компоненте. Прогнозы для конкретного квартала разных лет свя-
связаны полиномиальной зависимостью нулевой степени. Поэтому

358
Часть И Построение стохастических моделей
исходный прогноз сезонной компоненты точно повторяется в
прогнозах на будущие годы.
Оператор C) нестационарен по отношению к опорному ин-
интервалу, но стационарен по отношению к сезонной компоненте.
На рис. 9.7 C) показан общий уровень прогноза, асимптотиче-
асимптотически переходящий в новый уровень bo-\~bi/(l — Ф), где в то же
Пператор авторегрессии.
П)
1-O,5BS
(г)
1-BS
C)
A-S)f!-O,SBS)
Рис. 9.7. Поведение сезонной прогнозирующей функции при различных ви-
видах общего сезонного оператора авторегрессии.
время накладывающаяся предсказуемая компонента сезонного
эффекта экспоненциально затухает.
Оператор D)—это предельный случай оператора C) при
стремлении Ф к 1. Оператор нестационарен как по отношению
к опорному интервалу, так и к периодической компоненте. Ис-
Исходный начальный прогноз воспроизводится в последующие
годы, в то время как годовой уровень возрастает. Этот вид про-
прогнозирующей функции дает модель мультипликативного про-
процесса @,1,1) X @.1, 1) 12, подогнанная к данным по авиапе-
авиаперевозка 1.
а
а-
1
т в
О. S
ч к
n в
is
2
It
1
si
<и n
V
«a
а
ЛЬНЫ
кото
ГИО31
нкци
Ifll
га
к
Ы
фуи
к
и
я
о >
в
№
на!
л
ч
я
>.
X
си
&
ресс
.per
щ
я
doxi
«в
О.
«
8
1
1
g
о
в
1
—
A)
g
О
oq
|
с?
и
Q
1
в
1
+
в
1
+
о
I
1
о
°Т
1
(е)
СО
•сГ"
g
о
oq
1
¦=-
о?
1
Я-
7
со
^—-
i
—~ч
со
•в-
1
1
"•"
о
oq
1
О
о?
¦в-
1
1
ю
С?
^^
7
5
g
-
со
oq
1
¦^
оТ
1
<—i
со
+
со
|
со
— |<М
V.
•О
7
_
g
о
1
^г
1

360
Часть It Построение стохастических моделей
Оператор E) нестационарен по отношению к сезонной ком-
компоненте, но стационарен по опорному интервалу. Ход прогноза
экспоненциально приближается к асимптотическому ходу про-
прогноза по опорному интервалу
Оператор F) нестационарен До отношению к опорному ин-
интервалу и сезонной компоненте. С годами заметен общий квад-
квадратичный тренд, а сезонный ход испытывает мелкие измене-
изменения. Отдельные кварталы имеют не только свой собственный
уровень Ьа, т, но и собственную скорость изменения уровня Ъ^ т-
Поэтому в случаях, когда этот вид прогнозирующей функции
удобен, могут возникать интересные ситуации. Например, при
увеличении упреждения может одновременно предсказываться
величина разницы в сбыте товаров летом и зимой от года к году
и уменьшение разницы сбыта товаров осенью и летом
Оператор G) опять-таки нестационарен как по опорному
интервалу, так и по сезонной компоненте, и здесь опять имеется
квадратичный тренд при переходе от года к году плюс линейные
изменения прогнозов при переходе от квартала к кварталу. Од-
Однако в этом случае квартальные приращения имеют постоянную
скорость изменения.
С)
С
ы
S
X
W
О
ПРИ.
и
о
с*
(X
X
Ь—1
>Д
Е
Е
О
го
Ы
и
К
W
W
п
О
"*¦
X
о,
О
о
W
Е
S
S
S
Си
CQ
О
О
CQ
Я
ш
о
g
о
0)
Особы
к
S
Я1
я
§.
я
ш
о
о
f-
ffl
J3
ч
0)
о
о.
со О
?- о.
Со Со
7- о.
+
+ ф ®
с I $ I
S
S
и
о
га
о.
га
s
о.
га
о
о
Я
в
л
03
1
1)(
03
ф
ш
¦ +
®
|
т
в"
ф
I I
3 3
(N
в
®
_, е
+
+
в
в
ё I
в
- I
. ®
+
i—-
ф
I
®
, i
+
1
ф
03 I
Т в~
11 II
^ 1
03 S
S
S
я
а
+
СО
Л\
i т 1Г
I ^ I" Л\
со —
+ -¦&

Продо 1ж. прилож. П9.1
Модель
(Автокоаариации wAJaa
Особые свойства
C) wt = (l - 9,В - 92В2) A - в,В5 - e2B2s) at
62eiai-s-2 ~ B2at-
2s
Yo = (i + e? + e*)(i + <-
Y1 = -e,(i-e2)(i + «
Y2 = — S2 (l + 6| + Э2)
YS-2 = 920lA-e2)
_, __ A (Si /1 fl \ /1 Ci \
Ys = _e,(i + e2 + e2)(i-
s + 1 Ys-1
S+2 's—2
Y2s-2~e2e2
Y2,-l=e,e2(l-e2)
Y2s = ~ W2 V1 т "i т o2;
Y2s +2
Все остальные автоковариации
равны нулю
(b) YS_!=YS+1
^C' Y2s—2~Y2s+2
(d)Y2s_,=Y2,+1
Продолж.'прилож. П9.1
Модель
^Автоковариации w
Особые свойства
(За) Частный случай модели C)
wt = A - е,В - е2В2) A - &BS) a
s>5
Y2 — e2 (i + e2
,-2=e2e
,-, =6,0A-e2)
ys — e(i + e2
Все остальные автоковариации
равны нулю
(a) Ys_2 = Ys+2
(b) YS_,=YS+1
Cb) Частный случай модели C)
wt = A - 9В) (l - QXBS -
s>3
y, —
V . = V
¦s—1 "s+1
Y2i—1 == Y2s+1
Y2s+1 =Y2s-l
Все остальные автоковариации
равны нулю

Продолж. прилож. П9.1
Модель
(Автоковариации ш
Особые свойства
s>3
(а) В общем
YS-,^YS+1
ViYs * Ys+1
Все остальные автоковариации
равны нулю
<4а) Частный случай модели D)
(а) В отличие от модели D)
v, = - е,
Все остальные автокова-
автоковариации равны нулю
Продолж. прилож. П9.1
Модель
(Автоковариации wAl<5a Особые свойства
E) (l -OBs)wt^(l-QlB-esBs-Qs+lBs+l)a
s>3
~ Owt-s = at~
-Qs+lat-s-l
(b)
s_,=(в, - ф) [в, + ф (е7!_
Д
/ ,S
Для s>4 v2, .... ys_2 все равны нулю
Eя) Частный случай модели E)
A - OBS) wt = A - 9,B - QSBS) at
wt ~ ®wt-s = at ~ Q\at-\ ~ QsUt-s
s>3
Vo=l
l — ф2
(а) В отличие
от модели E)
_ ф2
, /S
Для s^4 y2, ..., vs_2 все равны нулю

Вспомогательные материалы
Эта часть книги — сборник вспомогательных материалов,
полезных при анализе временных рядов. Она содержит ряд про-
программ для ЭВМ, необходимых для анализа временных рядов,
таблицы и диаграммы для получения предварительных оценок
моделей авторегрессии — скользящего среднего вместе со стан-
стандартными таблицами уровйей значимости нормального, х2" и
^-распределений. Далее следует полная сводка всех временных
рядов, анализировавшихся в этой книге.
Описание программ для ЭВМ
Программа 1. Идентификация стохастической модели.
Программа 2. Предварительное оценивание стохастической мо-
модели.
Программа 3. Оценивание стохастической модели.
Программа 4. Прогнозирование с помощью стохастической мо-
модели.
Использование ЭВМ при построении модели
ЭВМ обладает большим быстродействием и высокой точно-
точностью, и по сравнению с ней человеческий ум медлен и неточен.
Однако ум обладает способностью к критическим и индуктив-
индуктивным умозаключениям, практически отсутствующей у современ-
современных машин. Это позволяет внести удачное разделение труда,
согласно которому мозг и машина делают то, к чему каждый из
них лучше приспособлен. Модели, построенные вычислительной
машиной чисто автоматически, вряд ли будут очень хороши,
и даже могут быть очень плохими. Описанные ниже программы
не нацелены на автоматическое построение моделей. Скорее,
при правильном их использовании они дают исследователю
большую свободу в экспериментировании с данными и могут
породить идеи, нужные для плодотворного итерирования. Когда
форма пробной модели выбрана, часто можно достичь исключи-
исключительно быстрой сходимости в получении окончательной модели,
Описание программ для ЭВМ
367
пользуясь нелинейной итер'атнвной процедурой, даже в тех слу-
случаях, когда использовались довольно неудачные начальные зна-
значения. Это позволяет обойтись без этапа предварительного оце-
оценивания, реализуемого программой 2. В благоприятных случаях
после пробной идентификации формы модели при помощи про-
программы 1 исследователь может прямо переходить к оцениванию
при помощи программы 3.
Программы, описанные ниже, были составлены на АЛГОЛе
в Ланкастерском университете Дж. Хэмптоном, Г. Вилсоном,
Э. Ходжкинсон и П. Блант. Они представлены здесь в виде вы-
вычислительных алгоритмов. Хотя необходимые входные и желае-
желаемые выходные данные полностью указаны, организация про-
программ здесь не обсуждается, так как она будет сильно зависеть
от конкретных условий применения и требований, предъявляе-
предъявляемых потребителем.
ПРОГРАММА 1.
ИДЕНТИФИКАЦИЯ СТОХАСТИЧЕСКОЙ МОДЕЛИ
1.1. Общее описание
Программа вводит временной ряд, соответствующим образом
трансформирует каждое наблюдение, производит разностные
операции и затем вычисляет следующие величины и функции:
1) среднее значение w и дисперсию s2w,
2) автоковариационную функцию (acvf)Ch,
3) автокорреляционную функцию (acf)rh,
i) частную автокорреляционную функцию (рас[)фц.
1.2. Входные данные
Минимальной входной информацией, необходимой для вы-
вычислений, являются
значения временного ряда {zt},
число наблюдений N,
порядок операции взятия
несезонных разностей
порядок операции взятия
сезонных разностей
период сезонности s^l,
максимальная задержка
acvf, acf К,
максимальная задержка
pacf L < К
параметры преобразова-
преобразования К, т.
— 1, z., . . ., i\,
N-d-sD>

368
Сборник вспомогательных материалов
1.3. Вычисления
Преобразование и взятие разностей. Для каждого набора
значений (d, D, А,, т) ряд преобразуется следующим образом:
t
\ In (Zt
где, если К ф 0, параметр т выбран так, что Zt-\- m положи-
положительно для всех t, и, если X = I, m приравнивается нулю, так
что z остаются неизменными. Затем находится разностный ряд,
такой, что
Wi = VdVsZt, t=\, 2, ..., п,
где
п = N — d — sD.
Далее вычисляются следующие величины.
Среднее значение и дисперсия
t=\
со определено ниже.
Автоковариационная функция
п-к
(=1
где k = О, I, ..., К.
Автокорреляционная функция
где k = 0, 1, .... К.
Частная автокорреляционная функция
1 = 1
г и
1-1
i-i
где
1 = 2, 3, ...,
/=1» 2,..., /—
Описание программ для ЭВМ
369
Частная автокорреляционная функция может быть оценена
более точно при помощи программы 3 путем вычисления оценки
наименьших квадратов последнего из параметров авторегрессии
<f>u в последовательности процессов авторегрессии АР(/), / =
= 1,2 подгоняемых к данным.
1.4. Выход
Выходная информация должна включать
ные, а также
параметры преобразования
значения разностного преобразо-
преобразованного ряда
число значений Wt
среднее значение ряда w
дисперсию ряда w
acvf ряда w
acf ряда w
pacf ряда w
%, tn
Ы,
n,
w,
S2
ck, k
rk, k
Фи, I
все
у
t=l
= 0,
= 0,
= 1,
входные
, 2, ...,
1, ....
1
2, ...,
дан-
га,
К,
К,
L.
1.5. Дополнения
В целях обеспечения наибольшей общности следует ввести
управляющие параметры, определяющие режим работы про-
программы.
ПРОГРАММА 2.
ПРЕДВАРИТЕЛЬНОЕ ОЦЕНИВАНИЕ
СТОХАСТИЧЕСКОЙ МОДЕЛИ
2.1. Общее описание
Пользуясь полученными по программе 1 автоковариациями,
эта программа вычисляет для несезонной модели
идентифицированной по надлежащим образом преобразованно-
преобразованному разностному ряду, следующие величины:
1) начальные оценки ф0 = (^ю, <fw, ••-, фро) несезонных пара-
параметров авторегрессии,
2) начальные оценки 90 — (8ю, 92о, .... 0до) несезонных пара-
параметров скользящего среднего,
3) начальную оценку Йо общего постоянного члена,
4) начальную оценку ol дисперсии белого шума.

370
Сборник вспомогательных Материалов
2.2. Входные данные
Минимальная входная информация включает
число параметров авторегрессии
число параметров скользящего сред-
среднего q>0, p + q>0,
среднее значение ряда ш< до,
автоковариации ряда Wt Ck, k — 0, 1, ..., К,
где ел и w вычислены по программе 1.
2.3. Вычисления
Оценки параметров авторегрессии ф. Если р > 0, решим си-
систему из р линейных уравнений
где
= С\ q+i-/
/, / = 1, 2, .... р.
Оценки параметров скользящего среднего 8. 1) По извест-
известным автоковариациям сь. ряда wt вычисляется следующая моди-
модифицированная последовательность ковариаций c'f.
р р ~ Л
2 2 ФюФк
i=0 fe=0
где / = 0, 1, .... q.
2) При помощи алгоритма Ньютона — Рафсона
где
вычисляется вектор тш на (t+ 1)-й итерации по его значению
t1 на 1-й итерации, где
Т = (т0, Т[, . . ., Tq),
f' = (/о> fu •••> fq)>
Описание программ для ЭВМ
371
т0 т, .
т0 т.
с начальными значениями
"Со _
3) Когда \fj\ < е, / = 0, 1, ..., q, для некоторого заданного
значения е, итеративная процедура считается завершенной, и по
последнему значению т находятся оценки параметров согласно
формуле
<Э/о = - VTo> /=1. 2» •••» q-
Оценка общей константы бад
S
l w,
Оценка дисперсии белого шума dl
«7 = 0,
где то вычислено согласно пункту 2.
2.4. Выход
Выходная информация должна включать все входные дан-
данные, а также
начальные оценки несезонных
параметров авторегрессии Фо=(Фю> Фя» •••¦¦
начальные оценки несезонных
параметров скользящего сред-
среднего 80 = (9|о, бго, • • •, "оо/>
начальную оценку общей кон-
константы в,,,),
начальную оценку дисперсии
белого шума д2а.

372
Сборник вспомогательных материалов
Вычисления и выдача данных могут быть проведены для не-
нескольких порядков взятия разностей и для всех моделей (р, q)
от A, 0) и @, 1) до (р, q) включительно.
2.5. Дополнения
В целях большей общности следует ввести управляющие па-
параметры, определяющие режим работы программы. На прак-
практике вычислительные алгоритмы программ 1 и 2 могут быть
объединены в единую программу, позволяющую, если необхо-
необходимо, идентифицировать и предварительно оценивать парамет-
параметры стохастической модели.
ПРОГРАММА 3.
ОЦЕНИВАНИЕ СТОХАСТИЧЕСКОЙ МОДЕЛИ
3.1. Общее описание
Программа вводит начальные оценки параметров. Они могут
быть получены при помощи программы 2 для несезонных моде-
моделей и по методике, описанной в гл. 9, для сезонных моделей.
Программа вычисляет
1) оценки наименьших квадратов ц, ф, Ф, 8, в и <?-а в сезонной
модели
$ (В) Ф (В*) (wt - ц) = 9 (В) 0 (В*) щ,
где wt =
2' — преобразованный временной ряд, определенный в про-
программе 1,
\х — среднее значение ряда w,
2) стандартные ошибки оценок и оценку корреляционной мат-
матрицы ошибок;
3) автокоррелядионную функцию остаточных ошибок, соответ-
соответствующих оценкам наименьших квадратов, и связанную с
ними ^-статистику.
3.2. Входные параметры
Минимальная информация, необходимая для расчетов, вклю-
включает
{zi\, N,d,D,s, К, X, m', определены в программе 1,
р, qy определены в программе 2,
число сезонных пара-
Описание программ для ЭВМ
373
метров авторегрессии
число сезонных пара-
параметров скользящего
среднего Q>0, P + Q>0,
управляющий пара-
параметр для среднего зна- М = 1 (ц включено в модель)
чения ц М = 0 (ц не включено в модель),
начальную оценку ц w, если Af=l,
0, если Af = O,
начальные оценки не-
несезонных параметров
авторегрессии ф = (ф10, ф20, ..., фр0),
начальные оценки се-
сезонных параметров ав-
авторегрессии Ф=(ф10, ф20 фро),
начальные оценки не-
несезонных параметров
скользящего среднего в = (в10, в20, ¦••, 8,0),
начальные оценки се-
сезонных параметров
скользящего среднего в = (вю, в20, ..., 6q0),
максимально допусти-
допустимое число итераций I.
3.3. Вычисления
Вычисление суммы квадратов остаточных ошибок. 1) При
наличии начальных w, «спрогнозированных назад», вычисление
остаточных ошибок для заданного набора параметров прово-
проводится в два этапа:
р я
щ = (ю - ц) - 2 ф1 (»<_! - ц.) + S
щ = щ — 2 $>№-{* +
где мы воспользовались сокращенным обозначением at «=•
-=[а{\»,ф,Ф,в, в, w],
ц присутствует, только если М = 1,
t = Q', Q'+l ...,n,
Q — отрицательное значение момента,- времени t; для времен
меньше Q значения прогнозируемых назад величин пренебре-
пренебрежимо малы.

374
Сборник вспомогательных материалов
2) Для того чтобы начать рекуррентные вычисления в прямом
направлении в A), используется процедура из программы 4 для
прогнозирования назад значений доо, яу-ь ... до таких значений
времени, при которых wt — А пренебрежимо мало.
3) Для данных значений параметров (ц, ф, Ф, 8, в) сумма
квадратов остаточных ошибок вычисляется как
5(ц, ф, Ф, 9, в)= 2 а].
Вычисление оценок наименьших квадратов. Значения пара-
параметров, минимизирующих сумму квадратов остаточных ошибок,
получены методом оптимизации с ограничениями, предложен-
предложенным Марквардтом [63]. Этот метод описан в конце программы.
Входной параметр I определяет максимально допустимое число
итераций.
Стандартные ошибки и корреляционная матрица. Оценка
остаточной дисперсии получается из оценки суммы квадратов
на последней итерации по формуле
> 6, в),
"a — n-.p-q- p-Q-i
ковариационная матрица оценок V находится по формуле
где X — регрессионная матрица в линеаризованной модели, вы-
вычисленная на последней итерации в процедуре Марквардта.
Стандартные ошибки равны
а элементы Rij корреляционной матрицы вычисляются как
Наконец, оценка 60 общей константы равна
где
Диагностические проверки. Остаточные автокорреляции вы-
вычисляются по остаточным ошибкам dt, соответствующим оцен-
оценкам наименьших квадратов, согласно формуле
га {k) = сйй (k)/cM @),
Описание программ для ЭВМ
375
где
n-k
~ a)
t=i
k=o, l,.... /с.
Наконец, статистика х2 вычисляется как
и сравнивается с ^-распределением с
v = K —ЛГ — p — q — P-Q
степенями свободы.
3.4. Выход
Выходная информация должна включать все входные дан-
данные и
А, ф, ф, в, в, S(A, Ф, ф, в, в)
на каждой итерации, а также следующую информацию на по-
последней итерации (т.е. когда процедура привела к сходящемуся
результату, или поиск оказался неудачным, или число выпол-
выполненных итераций достигло заданного максимального числа I, a
сходимость не достигнута):
остаточные ошибки, соот-
соответствующие оценкам наи-
наименьших квадратов
оценку остаточной диспер-
дисперсии (белого шума)
ковариационную матрицу V,
оценок
матрицу
{dt}, t=l, 2 п,
да,
V,
s = (s,, s2 sM+p+g+p+Q),
корреляционную
оценок
оценку общей константы
R,
90,
остаточные автокорреляции r&& (k),
%2-статистику %2,
= l, 2, ..., /С,

376
Сборник вспомогательных материалов
3.5. Дополнения
Для достижения большей общности следует ввести управ-
управляющие параметры, определяющие режим работы программы.
Можно включить в программу табулирование S(n, ф, Ф, 9, в)
в окрестности минимума путем расчета этой функции по сетке
с центром, соответствующим оценкам наименьших квадратов.
АЛГОРИТМ МАРКВАРДТА ДЛЯ НЕЛИНЕЙНОГО
МЕТОДА НАИМЕНЬШИХ КВАДРАТОВ *)
1. Задаваемые параметры
Обозначим через р = (Pi, f$2,..., рь) все параметры модели,
т. е. р = (ц, ф, Ф, 9, в); необходимо задать начальные значения
Ро, а также параметры п и F2, ограничивающие поиск, и пара-
параметр сходимости е. Во время поиска необходимо оценивать зна-
значения at = [at | Р, w] и производные
да(
да(
на каждом шаге итерации.
2. Вычисление производных
Производные находятся по остаточным ошибкам, вычислен-
вычисленным в соответствии с разд. 3.3 программы 3, согласно формуле
Хн = fat (Pi. о. • • • • Рг, о> • • • > Pft, о) ~
— a*(Pi.о Р/,о+ 5/, .... Р*.0)}/в|.
3. Итерация
Этап 1. По известным аи xht, найденным для текущих зна-
значений параметров, находятся следующие величины:
1) матрица размером k X k
где
2) вектор g с элементами gu gz, ..., gh, где
п
1
Si
1i
t, tat;
•) Алгоритм слегка модифицирован Г. Внлсоном.
Описание программ для ЭВМ
377
3) нормирующие величины
Этап 2. Модифицированные (введением нормирующих мно-
множителей и наложением ограничений) линеаризованные урав-
уравнения
AV = g'
конструируются согласно формулам
A\t = Ai,IDtDh i ф I,
Уравнения решаются относительно h*; этот вектор денорми-
руется для получения поправок параметров
Вычисляются новые значения параметров
и оценивается сумма квадратов остаточных ошибок 5(р).
Этап 3. 1) Если S(p)<S(p0), исследуются поправки па-
параметров h. Если они все меньше в, достигнута сходимость, и
матрица А размером k X k используется для вычисления кова-
ковариационной матрицы оценок согласно программе 3. В против-
противном случае р0 принимает значение р, я уменьшается в F2 раз и
продолжаются вычисления на этапе 1.
2) Если S(P)>S(p0), ограничивающий параметр я увеличи-
увеличивается в F2 раз и вычисления продолжаются в соответствии с
этапом 2. Почти во всех случаях удается найти наименьшую
сумму квадратов. Однако п имеет верхнее граничное значение,
и если оно превышено, поиск прекращается. Когда поиск закон-
закончился успешно, либо в соответствии с критерием 1 этапа 3, либо
(предположительно) после заданного числа итераций, по про-
программе 3 вычисляются остаточная дисперсия и ковариационная
матрица оценок.
ПРОГРАММА 4. ПРОГНОЗИРОВАНИЕ
С ПОМОЩЬЮ СТОХАСТИЧЕСКОЙ МОДЕЛИ
4.1. Общее описание
Г1рограмма вводит оценки наименьших квадратов (§о, ф, Ф",
9, в) параметров общей модели, подогнанной при помощи про-
программы 2, вместе со значениями временнбго ряда,

378
Сборник вспомогательных материалов
Программа вычисляет
1) прогнозирующую функцию iN-b(l), /=1,2,...,L для
каждого момента времени, отстоящего на b временных единиц
Ъ = О, 1, ..., В от конца ряда. Прогнозы вычисляются вначале
для преобразованного временного ряда г'и а затем переводятся
в прогнозы для исходного ряда zt;
2) верхний и нижний вероятностные пределы г<(+) и Zt(—)s
вероятность для некоторого будущего значения zt находиться
между этими пределами P{zt(—)<zt<zt( + )} р#авна задан-
заданной величине а.
определены в программе 1,
определены в программе 2,
4.2. Входные параметры
Минимальная информация, необходимая для выполнения
расчетов, включает следующие величины:
{zt}, N, d, D, s, К
p, P, q, Q, M
управляющий параметр для М=\ (постоянная соста-
постоянной составляющей вляющая включена),
Af = O (постоянная соста-
составляющая не включена),
максимальное упреждение
прогнозирующей функции L,
оценки наименьших квадра-
квадратов постоянной составляю-
составляющей в0,
оценки наименьших квадра-
квадратов несезонных параметров
авторегрессии ^i, ^2, ..., фр,
оценки наименьших квадра-
квадратов сезонных параметров
авторегрессии Ф*1, Ф2, ..., Фр,
оценки наименьших квадра-
квадратов несезонных параметров
скользящего среднего 8], §2, •••> 8,,,
оценки наименьших квадра-
квадратов сезонных параметров
скользящего среднего 01( 02, ..., 0Q,
оценка наименьших квадра-
квадратов остаточной дисперсии до-
Описание программ для ЭВМ
379
4.3. Вычисления
Разъединение операторов. Для целей прогноза сезонная мо-
модель представляется в виде
-1 + • • • + ф;^_р. + в0 + at-Q\at_x - ... ~&Q.at_Q,,
zt =
где неизвестные параметры заменены их оценками. Для полу-
получения Ф) сначала находятся параметры Ф{ Ф?, оператора
ф'(В)=ф(В5)^(Я)=1— Ф\В- ... — Ф'Р'ВР',
где p' = p + sP.
Для этого используется формула
2 2
двойная сумма находится суммированием по всем / = О, ..., Р}
и всем t = 0,-..., Р. Константы Фо и ф0 принимаются равными
— 1. Далее, параметры Ф], ..., Ф*» оператора
ф* (в)=vdvfф' (в) = 1 - ф]в - ... - ф;.вр*
с р* = р' + d + sD получаются в результате следующей трех-
трехступенчатой процедуры:
1)
ф;, о < / < s,
2) Этап 1 повторяется D раз с заменой Ф^ на Ф", р' на
р" = р'' + s на каждой итерации для получения коэффициентов
3) Аналогично применяем d раз этап 1 с 5 = 1 к значениям,
полученным на этапе 2, для нахождения окончательных оценок
коэффициентов Ф^ Ф*».
Операторы скользящего среднего 0^ находятся таким же спо-
способом, как и Ф', по формуле
где / = 0, 1, ..., Q; / = 0, 1, ..., ц, 0fl=-l, 90 = -

380
Сборник вспомогательных материалов
Генерирование прогнозов. 1) Для трансформированного
ряда г\ прогнозы z'N_b(l) вычисляются по формуле
= е0
p+sP+a+sD q+SQ
/=»
где
O,
/>/,
/= 1, 2, .... L и г' определены в программе 1. Прогнозы нахо-
находятся для каждого отодвигаемого назад момента времени Ъ =
= 0,1, ...,Ви
2) Прогнозы 2jv_j(/) для исходного ряда находятся по формуле
Точность прогнозов. 1) Для прогнозов преобразованного ряда
верхний и нижний вероятностные пределы равны
ZN-b+l (±) = ZN-b @ ± U /Щ
где м = 0,68; 1,65; 1,96 или 2,58 в зависимости от того, лежит ли
будущее значение между этими пределами с вероятностью в ин-
интервале 0,50, 0,90; 0,95 или 0,99 соответственно
Функция дисперсии равна
где
для j=\, 2, .... L и
ф;=о,
е; = о,
d-\-sD,
Сборник таблиц и диаграмм
381
2) Для прогнозов исходного ряда верхний и нижний пре-
пределы равны
4.4. Выход
Выходная информация должна содержать все входные дан-
данные, а также
параметры обобщенного оператора
авторегрессии
параметры обобщенного оператора
скользящего среднего
веса \р
прогнозы и их вероятностные пре-
пределы для данного вероятностного
уровня
Ф*,
в*,
^,/=1,2 L,
zN-b+[(+),
*N-b(l),
ZN-b+t( )
для 1=1, 2, ..., L и выбранных начальных моментов, за-
заданных значениями b = 0, 1, ..., В.
4.5. Дополнения
Для целей большей общности полезно ввести управляющие
параметры, определяющие режим работы программы. Практи-
Практически удобно получать прогнозы в виде матрицы, в которой
каждый элемент какого-либо столбца соответствует прогнози-
прогнозируемому значению zt.
СБОРНИК ТАБЛИЦ И ДИАГРАММ
Таблица А. Таблица связи автокорреляции pi с параметром
9 процесса скользящего среднего первого по-
порядка.
Диаграмма В. Диаграмма связи автокорреляций pi и рг с пара-
параметрами ^i и ф2 процесса авторегрессии второго
порядка.
Диаграмма С. Диаграмма связи автокорреляций pi и рг с пара-
параметрами 9t и 9г процесса скользящего среднего,
второго порядка.

382
Сборник вспомогательных мащшлов
Диаграмма D. Диаграмма связи автокорреляций pi и р2 с пара-
параметрами ф и 9 смешанного процесса авторегрес-
авторегрессии — скользящего среднего первого порядка.
Таблица Е. Уровни значимости и ординаты стандартного
нормального распределения.
Таблица F. Уровни значимости ^-распределения.
Таблица G. Уровни значимости ^-распределения.
Диаграммы В, С и D (в слегка измененном виде) приво-
приводятся с согласия авторов работы [33]. Таблицы Е, F и G (в
уплотненной форме) взяты из «Таблиц биометрики для стати-
етиков», т. I, с разрешения правления журнала «Биометрика».
Таблица А
Таблица связи Pi и 0 для процесса скользящего
среднего первого порядка
е
0,00
0,05
0,10
0,15
0,20
0,25
0,30
0,35
0,40
0,45
0,50
0,55
0,60
0,65
0,70
0,75
0,80
0,85
0.90
0,95
1,00
р.
0,000
—0,050
—0,099
—0,147
—0,192
—0,235
—0,275
-0,315
—0,349
—0,374
-0,400
—0,422
—0,441
-0,457
—0,468
—0,480
—0,488
—0,493
—0,497
-0,499
—0,500
е
0,00
-0,05
—0,10
—0,15
—0,20
-0,25
-0,30
-0,35
—0,40
-0,45
-0,50
—0,55
—0,60
—0,65
-0,70
—0,75
-0,80
-0,85
—0,90
—0.95
-1,00
Pi
0,000
0,050
0,099
0,147
0,192
0,235
0,275
0,315
0,349
0,374
0,400
0,422
0,441
0,457
0,468
0,480
0,488
0,493
0,497
0,499
0,500
Таблица может быть использована для получении первичных оцеиок па-
параметров @, d, 1) процесса ш,=A—9В) а,, где wt=liZl, заменой р, на
Г>№) tit I
Диаграмма В
Диаграмма связи р, и р2 с *, и Фг для процесса авторегрессии
второго порядка
100
-B.1-0,3 -0,8-0,7-0,6 -0,5-Of -0,3-0,2 -0,1 0 0,1 0.2 0.3 Ofi 0.5 0,6 0,7 0,8 0,3 1,0
i i i l i i i i i i i I I I l 1 \<P,
'ZJOO -1,75 -1,50 -1,25 -ЦЮ -0,75 -0.50 -0,25 0 0,25 0,50 0,75 1,00 1,25 1.50 1,75 2<Ю
Диаграмма может использоваться для получения первичных оцеиок
параметров процесса B, d, 0) A — Ф\В — Ф2В2) wt = at, где ie>f = V z*. за-
заменой pi и р2 на тх (w), r2 (w).
Диаграмма С
Диаграмма связи автокорреляций р, и р2 с параметрами в, и 62 процесса
скользящего среднего второго порядка
-1 -1.00
-2J0B-t,T5 -1,50 -1,25 -1,00 -0,75 -0.50 0,25 0 0,25 0,50 0.75 1,00 1,25 1,50-1,75 2,00
в, *
Диаграмма Может использоваться для получения первичных оценок пара-
параметров процесса @, d, 2) ш, = A — 6,? — Q2B2)at, где wt = VdZt, заменой
р, н р2 на г,(ш) н n(w).

Диаграмма D
Диаграмма связи автокорреляций 0, и р2 с параметрами Ф и в
смешанного процесса авторегрессии — скользящего
среднего первого порядка
100
Об
Of
и г
02
0.4
/О
О.<1 06 0,8 1.0
Диаграмма может быть использована для получения первичных оценок па-
параметров процесса A, d, 1) A — <t>B)wt = (I — Щаи где wt = Vdzt, заме-
заменой р, и р2 на rt(w) и r2(w).
а
I
= g ё 8 s
о" о о" о о"
8 §
о о о
о о о о _, _
о* о" о" о о о о
к
X
X
о
к
о
V
а.
I
а.
о
х
л
ев
а.
§
о
ь.
о
в
i
1
о
о
X
В"
ев
X
а
и
о
to ю со о^ со оо ^* ^~<
(^ ^j ^5 сэ ^5 ^5 ^Э ^Э
о о о о о о о" о"
о о о"
о о
of of cj et et
cf et со
а
О) О) О Tl* CO - (N
00 CD ¦—« «—« 00 <М <N
фсиоооююсо-1
еососососососоео
с> о о о" о о" о о
O5CDCs4h^'^(^-tO5Ol
(MC^tMtM-—«¦—«¦—«.—«
оос5о"оооо
ю««мппяп1м- — — — ооо
о" о о" о* о о о" о" о" о о" о о" о о о"
о" о* о о о о"
о о
со

Уровни значимости
^-распределения
р
1
2
3
4
5
6
7
8
9
10
И
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
0,995
0,010
0,072
0,207
0,412
0,676
0,989
1,34
1,73
2,16
2,60
3,07
3,57
4,07
4,60
5,14
5,70
6,26
6,84
7,43
8,03
8,64
9,26
9,89
10,5
11,2
11,8
12,5
13,1
13,8
0,99
0,020
0,115
0,297
0,554
0,872
1,24
1,65
2,09
2,56
3,05
3.57
4,11
4,66
5,23
5,81
6,41
7,01
7,63
8,26
8,90
9,54
10,2
10,9
11,5
12,2
12,9
13,6
14,3
15,0
0,975
—
0,051
0,216
0,484
0,831
1,24
1,69
2,18
2,70
3,25
3,82
4,40
5,01
5,63
6,26
6,91
7,56
8,23
8,91
9,59
10,3
11,0
11,7
12,4
13,1
13,8
14,6
15,3
16,0
16,8
В
0,95
—
0,103
0,352
0,711
1,15
1,64
2,17
2,73
3,33
3,94
4,57
5,23
5,89
6,57
7,26
7,96
8,67
9,39
10,1
10,9
11,6
12,3
13,1
13,8
14,6
15,4
16,2
16,9
17,7
18,5
0,9
0,016
0,211
0,584
1,06
1,61
2,20
2,83
3,49
4,17
4,87
5,58
6,30
7,04
7,79
8,55
9,31
10,1
10,9
11,7
12,4
13,2
14,0
14,8
15,7
16,5
17,3
18,1
18,9
19,8
20,6
0,75
0,102
0,575
1,21
1,92
2,67
3,45
4,25
5,07
5,90
6,74
7,58
8,44
9,30
10,2
11,0
11,9
12,8
13,7
14,6
15,5
16,3
17,2
18,1
19,0
19,9
20,8
21,7
22,7
23,6
24,5
0,5
0,455
1,39
2,37
3,36
4,35
5,35
6,35
7,34
8,34
9,34
10,3
11,3
12,3
13,3
14,3
15,3
16,3
17,3
18,3
19,3
20,3
21,3
22,3
23,3
24,3
25,3
26,3
27,3
28,3
29,3
0,25
1,32
2,77
4,11
5,39
6,63
7,84
9,04
10,2
11,4
12,5
13,7 ~
14,8
16,0
17,1
18,2
19,4
20,5
21,6
22,7
23,8
24,9
26,0
27,1
28,2
29,3
30,4
31,5
32,6
33,7
34,8
0,1
2,71
4,61
6,25
7,78
9,24
10,6
12,0
13,4
14,7
16,0
17,3
18,5
19,8
21,1
22,3
23,5
24,8
26,0
27,2
28,4
29,6
30,8
32,0
33,2
34,4
35,6
36,7
37,9
39,1
40.3
0,05
3,84
5,99
7,81
9,49
П,1
12,6
14,1
15,5
16,9
18,3
19,7
21,0
22,4
23,7
25,0
26,3
27,6
28,9
30,1
31,4
32,7
33,9
35,2
36,4
37,7
38,9
40.1
41,3
42,6
43,8
е
0,025
5,02
7,38
9,35
11,1
12,8
14,4
16,0
17,5
19.0
20,5
21,9
23,3
24,7
26,1
27,5
28,8
30,2
31,5
32,9
34,2
35,5
36.8
38,1
39,4
40,6
41,9"
43,2
44,5
45,7
47,0
0,01
6,63
9,21
11,3
13,3
15,1
16,8
18,5
20,1
21,7
23,2
24,7
26,2
27,7
29,1
30,6
32,0
33,4
34,8
35,2
37,6
38,9
40,3
41,6
43,0
44,3
45,6
47,0
48,3
49,6
50,9
0,005
7,88
10,6
12,8
14,9
16,7
18,5
20,3
22,0
23,6
25,2
26,8
28,3
29,8
31,3
32,8
34,3
35,7
37,2
38,6
40,0
41,4
42,8
44,2
45,6
46,9
48,3
49,6
51,0
52,3
53,7
0,001
10,8
13,8
16,3
18,5
20,5
22,5
24,3
26,1
27,9
29,6
31,3
32,9
34,5
36,1
37,7
39,3
40,8
42,3
43,8
45,3
46,8
48,3
49,7
51,2
52,6
54,1
55,5
56,9
58,3 •
59,7
р
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
ХдСлица таких х2(Р). что Р (х2(Р)>Хе(Р)]=8, где р—числе степеней свободы,

Уровни значимости t-распределения
Таблица G
V
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
30
40
60
120
oo
e
0,25 | 0,10
1,00
0,82
0,76
0,74
0,73
0,72
0,71
0,71
0,70
0,70
0,70
0,70
0,69
0,69
0,69
0,69
0,69
0,69
0,69
0,69
0,68
0,68
0,68
0,68
0,67
3,08
1,89
,64
,53
,48
,44
,42
,40
1,38
1,37
1,36
1,36
1,35
1,34
1,34
1,34
1,33
,33
,33
1,33
1,31
1,30
1,30
,29
,28
0,05
6,31
2,92
2,35
2,13
2,02
1,94
1,90
1,86
1,83
1,81
1,80
1,78
1,77
1,76
1,75
1,75
1,74
1,73
1,73
1,72
1,70
1,68
1,67
1,66
1,64
0,025
12,71
4,30
3,18
2,78
2,57
2,45
2,36
2,31
2,26
2,23
2,20
2,18
2,16
2,14
2,13
2,12
2,11
2,10
2,09
2,09
2,04
2,02
2,00
1,98
1,96
0,01
31,82
6,96
4,54
3,75
3,36
3,14
3,00
2,90
2,82
2,76
2,72
2,68
2,65
2,62
2,60
2,58
2,57
2,55
2,54
2,53
2,46
2,42
2,39
2,36
2,33
0,005
63,66
9,92
5,84
4,60
4,03
3,71
3,50
3,36
3,25
3,17
3,11
3,06
3,01
3,00
2,95
2,92
2,90
2,88
2,86
2,84
2,75
2,70
2,66
2,62
2,58
Таблица таких значении te (v), что P{<(v)Xe(v)}=e, где v —число степеней свободы.
СБОРНИК ВРЕМЕННЫХ РЯДОВ,
АНАЛИЗИРУЕМЫХ В КНИГЕ
Ряд А. Отсчеты концентраций химического процесса, каждые два часа
Ряд В. Биржевые цены акций IBM к закрытию биржи, ежедневно с 17 мая
1961 по 2 ноября 1962 г
Ряд В'. Биржевые цены акций IBM к закрытию биржи, ежедневно с 29 июня
1959 по 30 нюня 1960 г.
Ряд С. Отсчеты температур химического процесса, каждую минуту.
Ряд D Отсчеты вязкости химического процесса, каждый час
Ряд Е. Числа солнечных пятен Вольфа, ежегодно
Ряд F. Ряд 70 последовательных выходов партий продукта циклического
химического процесса (дан в табл 2 1 текста)
Ряд G. Пассажирские перевозки на международных авиалиниях — месяч-
месячные итоги (в тысячах пассажиров) с января 1949 по декабрь 1960.
Отсчеты коицеитраций химического процесса, каждые 2 часа *)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
170
16,6
16,3
16,1
17,1
16,9
168
17,4
17,1
17,0
16,7
17,4
17,2
17,4
17,4
17,0
17,3
17,2
17,4
16,8
17,1
17,4
17,4
17,5
17,4
17,6
17,4
17,3
17,0
17,8
17,5
18,1
17,5
17,4
17,4
17,1
17,6
17,7
17,4
17,8
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
17,6
17,5
16,5
17,8
17,3
17,3
17,1
17,4
16,9
17,3
17,6
16,9
16,7
16,8
16,8
17,2
16,8
17,6
17,2
16,6
17,1
16,9
16,6
18,0
17,2
17,3
17,0
16,9
17,3
16,8
17,3
17,4
17,7
16,8
16,9
17,0
16,9
17,0
16,6
16,7
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
ПО
111
112
ИЗ
114
115
116
117
118
119
120
16,8
16,7
16,4
16,5
16,4
16,6
16,5
16,7
16,4
16,4
16,2
16,4
16,3
16,4
17,0
16,9
17,1
17,1
16,7
16,9
16,5
17,2
16,4
17,0
17,0
16,7
16,2
16,6
16,9
16,5
16,6
16,6
17,0
17,1
17,1
16,7
16,8
16,3
16,6
16,8
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
16,9
17,1
16,8
17,0
17,2
17,3
17,2
17,3
17,2
17.2
17,5
16,9
16,9
16,9
17,0
16,5
16,7
16,8
16,7
16,7
16,6
16,5
17,0
16,7
16,7
16,9
17,4
17,1
17,0
16,8
17,2
17,2
17,4
17,2
16,9
16,8
17,0
17,4
17,2
17,2
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
17,1
17,1
17,1
17,4
17,2
16,9
16,9
17,0
16,7
16,9
17,3
17,8
17,8
17,6
17,5
17,0
16,9
17,1
17,2
17,4
17,5
17,9
17,0
17,0
17,0
17,2
17,3
17,4
17,4
17,0
18,0
18,2
17,6
17,8
17,7
17,2
17,4
•) 197 наблюдений

Ряд В. Биржевые цены акций IBM к закрытию биржи,
ежедневно с 17 мая 1961 г. по 2 ноября 1962 г.*)
460
457
452
459
462
459
463
479
493
490
492
498
499
497
496
490
489
478
487
491
487
482
479
478
479
477
479
475
479
476
476
478
479
477
476
475
475
473
474
474
474
471
467
473
481
488
490
489
489
485
491
492
494
499
498
500
497
494
495
500
504
513
511
514
510
509
515
519
523
519
523
531
547
551
547
541
545
549
545
549
547
543
527
540
542
538
541
541
547
553
559
557
557
560
571
571
569
575
580
584
585
590
599
603
599
596
585
587
585
581
583
592
592
596
596
595
598
598
595
592
592
588
582
580
579
584
581
581
577
577
578
580
586
583
581
576
571
, 575
575
573
577
582
584
579
572
577
571
560
549
556
557
563
564
567
561
559
553
553
553
547
550
544
541
532
551
551
552
553
557
557
548
547
545
545
539
539
535
537
535
536
537
543
548
546
547
548
549
553
553
552
551
550
553
554
551
551
545
547
547
537
239
538
533
525
513
523
516
511
518
517
520
519
519
519
518
513
499
485
454
462
473
482
485
475
459
451
453
446
455
452
457
449
450
435
415
398
399
361
383
393
385
360
364
365
370
374
333
330
336
328
316
320
332
320
333
344
339
350
351
350
345
350
359
375
379
376
382
370
365
367
372
373
363
371
369
376
387
387
376
385
385
380
373
382
377
376
379
394
393
409
411
409
408
393
391
388
396
387
383
388
382
384
382
383
383
388
395
392
386
383
377
364
369
355
350
353
340
350
349
358
360
360
366
359
356
355
367
357
330
340
339
331
345
352
346
352
357
Продолжение ряда В
465
466
467
471
8888
540
539
532
517
576
578
589
585
525
542
555
558
510
521
521
521
359
335
323
306
386
387
386
389
361
355
348
343
*) 369 наблюдений (читать сверху вниз)
Ряд В', Биржевые цены акций IBM к закрытию биржи,
ежедневно с 29 июня 1959 г. по 30 июня 1960 г.*)
445
448
450
447
451
453
454
454
459
440
446
443
443
440
439
435
435
436
435
435
435
433
429
428
425
427
425
422
409
407
423
425
421
414
410
411
406
406
413
411
410
405
409
410
405
401
401
401
414
419
425
423
411
414
420
412
415
412
412
411
412
409
406
407
410
408
408
409
410
409
405
406
405
407
409
407
409
425
425
428
436
442
442
433
435
433
435
429
439
437
439
438
435
441
437
427
423
424
428
428
431
425
423
420
426
418
416
419
418
416
419
425
421
422
422
417
420
417
418
419
419
417
419
422
415
420
420
424
426
423
423
425
431
436
436
440
436
443
445
439
443
445
450
461
471
467
462
456
464
463
465
464
456
460
458
461
463
463
461
465
473
473
475
499
485
491
496
504
504
509
511
524
525
541
531
529
530
531
527
525
519
514
509
505
513
525

Продолжение ряда В'
422
417
421
424
414
419
429
426
425
424
425
425
'424
407
408
415
413
413
410
405
410
412
413
411
411
409
433
437
437
444
441
440
441
439
439
438
437
441
442
423
422
421
421
419
418
421
420
413 •
413
408
409
415
453
453
449
447
453
450
459
457
453
455
453
450
456
519
519
522
522
Продолжение ряда С
*) 255 наблюдений (читать сверху вниз)
Ряд С. Отсчеты температур химического процесса,
каждую минуту *)
26,6
27,0
27,1
27,1
27,1
27,1
26,9
26,8
26,7
26,4
26,0
25,8
25,6
25,2
25,0
24,6
24,2
24,0
23,7
23,4
23,1
22,9
22,8
22,7
19,6
19,6
19,6
19,6
19,6
19,7
19,9
20,0
20,1
20,2
20,3
20,6
21,6
21,9
21,7
21,3
21,2
21,4
21,7
22,2
23,0
23,8
24,6
25,1
24,4
24,4
24,4
24,4
24,5
24,5
24,4
24,3
24,2
24,2
24,0
23,9
23,7
23,6
23,5
23,5
23,5
23,5
23,5
23,7
23,8
23,8
23,9
23,9
21,1
20,9
20,8
20,8
20,8
20,8
20,9
20,8
20,8
20,7
20,7
20,8
20,9
21,2
21,4
21,7
21,8
21,9
22,2
22,5
22,8
23,1
23,4
23,8
24,4
24,2
24,2
24,1
24,1
24,0
24,0
24,0
23,9
23,8
23,8
23,7
23,7
23,6
23,7
23,6
23,6
23,6
23,5
23,5
23,4
23,3
23,3
23,3
22,6
22,4
22,2
22,0
21,8
21,4
20,9
20,3
19,7
19,4
19,3
19,2
19,1
19,0
18,9
18,9
19,2
19,3
19,3
19,4
19,5
25,6
25,8
26,1
26,3
26,3
26,2
26,0
25,8
25,6
25,4
25,2
24,9
24,7
24,5
24,4
24,4
24,4
24,4
24,4
24,3
24,4
23,8
23,7
23,6
23,4
23,2
23,0
22,8
22,6
22,4
22,0
21,6
21,3
21,2
21,2
21,1
21,0
20,9
21,0
21,0
21,1
21,2
24,1
24,6
24,9
24,9
25,1
25,0
25,0
25,0
25,0
24,9
24,8
24,7
24,6
24,5
24,5
24,5
24,5
24,5
24,5
24,5
24,4
23,4
23,4
23,3
23,2
23,3
23,3
23,2
23,1
22j9
22,8
22,6
22,4
22,2
21,8
21,3
20,8
20,2
19,7
19,3
19,1
19,0
18,8
•) 226 наблюдений (читать сверху вниз)
Ряд D. Отсчеты вязкости химического процесса, каждый час*)
8,0
8,0
7,4
8,0
8,0
8,0
8,0
8,8
8,4
8,4
8,0
8,2
8,2
8,2
8,6
8,4
8,3
8,4
8,3
8,3
8,1
8,2
8,3
8,5
8,1
8,1
7,9
8,3
9,3
9,5
9,4
9,0
9,0
8,8
9,0
8,8
8,6
8,6
8,0
8,0
8,0
8,0
9,8
9,6
9,6
9,4
9,4
9,4
9,4
9,6
9,6
9,4
9,4
9,0
9,4
9,4
9,4
9,6
9,6
9,6
10,0
10,0
9,6
9,2
9,2
9,2
9,0
9,0
9,6
9,8
9,6
9,6
9,6
9,6
9,6
9,0
9,4
9,4
9,4
9,6
9,4
9,6
9,6
9,8
9,4
10,0
10,0
10,0
10,2
10,0
10,0
9,6
9,0
9,0
8,6
9,0
9,6
9,6

Продолжение ряда D
8,4
8,4
8,4
8,6
8,8
8,6
8,6
8,6
8,6
8,6
8,8
8,9
9,1
9,5
8,5
8,4
8,3
8,2
8,1
8,3
8,4
8,7
8,8
8,8
9,2
9,6
9,0
8,8
8,6
8.6
8,8
8,8
8,6
8,1
8,1
8,1
8,4
8,7
9,0
9,3
9,3
9,5
9,3
9,5
9,5
'9,5
9,5
9,5
9,5
9,9
9,5
9,7
9,1
9,1
8,9
9,3
9,1
9,1
9,3
9,5
9,3
9,3
9,3
9,9
9,7
9,1
8,6
8,0
8,0
8,0
7,6
8,6
9,6
9,6
10,0
9,4
9,3
9,2'
9,5
9,5
9,5
9,9
9,9
9,5
9,3
9,5
9,5
9,1
9,3
9,5
9,3
9,1
9,3
9,1
9,5
9,4
9,5
9,6
10,2
9,6
9,4
9,2
8,8
8,8
9,2
9,2
9,6
9,6
9,8
9,8
10,0
10,0
9,4
9,8
8,8
8,8
8,8
8,8
9,6
9,6
9,6
9,2
9,2
9,0
9,0
9,0
9,4
9,0
9,0
9,4
9,4
9,6
10,2
10,0
10,0
10,0
9,4
9,2
9,6
9,7
9,7
9,8
9,8
9,8
10,0
10,0
8,6
9,0
9,4
9,4
9,4
9,4
9,4
9,6
10,0
10,0
9,8
9,0
9,7
9,6
9,4
9,2
9,0
9,
9,6
9,8
9,8
9,6
9,2
9,6
9,2
9,2
9,6
9,6
9,6
9,6
9,6
9,6
10,0
10,0
10,4
10,4
9,8
9,0
9,6
9,8
9,6
8,6
8,0
8,0
8,0
8,0
8,4
8,8
8,4
8,4
9,0
9,0
9,0
9,0
8,9
8,8
8,7
8,6
8,3
7,9
8,5
8,7
8,9
9,1
9,1
9,1
*) 310 наблюдений (читать сверху вниз)
Ряд Е. Числа солнечных пятен Вольфа, ежегодно *)
1770
1771
1772
1773
1774
1775
101
82
66
35
31
7
1795
1796
1797
1798
1799
1800
21
16
6
4
7
14
1820
1821
1822
1823
1824
1825
16
7
4
2
8
17
1845
1846
1847
1848
1849
1850
40
62
98
124
96
66
Продолжение ряда Е
1776
1777
1778
1779
1780
1781
1782
1783
1784
1785
1786
1787
1788
1789
1790
1791
1792
1793
1794
*) 100
20
92
154
125
85
68
38
23
10
24
83
132
131
118
90
67
60
47
41
наблюдений
1801
1802
1803
1804
1805
1806
1807
1808
1809
1810
1811
1812
1813
1814
1815
1816
1817
18L8
1819
34
45
43
48
42
28
10
8
2
0
1
5
12
14
35
46
41
30
24
1826
1827
1828
1829
1830
1831
1832
1833
1834
1835
1836
1837
1838
1839
1840
1841
1842
1843
1844
36
50
62
67
71
48
28
8
13
57
122
138
103
86
63
37
24
11
15
1851
1852
1853
1854
1855
1856
1557
1858
1859
1860
1861
1862
1863
1864
1865
1866
1867
1868
1869
64
54
39
21
7
4
23
55
94
96
77
59
44
37
40
16
7
37
74
Ряд F. Ряд 70 последовательных
выходов партий продукта циклического
химического процесса*)
47
64
23
71
38
64
55
41
59
48
71
35
57
40
58
44
80
55
37
74
51
57
50
60
45
57
50
45
25
59
50
71
56
74
50
58
45
54
36
54
48
55
45
57
50
62
44
64
43
52
38
59
55
41
53
49
34
35
54
45
68
38
50
60
39
59
40
57
54
23
*) 70 наблюдений; этот ряд приведен так-
также в табл. 2.1 текста.

Ряд G. Пассажирские перевозки иа междуиародиых авиалиниях
(месячные итоги в тысячах пассажиров) с января 1949 по декабрь 1960 г. *)
Годы
1949
1950
1951
1952
1953
1954
1955
1956
1957
1958
1959
1960
янв
112
115
145
171
196
204
242
284
315
340
360
417
февр
118
126
150
180
196
188
233
277
301
318
342
391
март
132
141
178
193
236
235
267
317
356
362
406
419
апр
129
135
163
181
235
227
269
313
348
348
396
461
май
121
125
172
183
229
234
270
318
355
363
420
472
нюнь
135
149
178
218
243
264
315
374
422
435
472
535
июль
148
170
199
230
264
302
364
413
465
491
548
622
авг
148
170
199
242
272
293
347
405
467
505
559
606
сеит.
136
158
184
209
237
259
312
355
404
404
463
508
окт.
119
133
162
191
211
229
274
306
347
359
407
461
ноябрь
104
114
146
172
180
203
237
271
305
310
362
390
дек.
118
140
166
194
201
229
278
306
336
337
405
432
*) 144 наблюдения

Предметный указатель
Автоковариации 361
Автоковариационная матрица 44
— функция 46, 142
Автокорреляционная матрица 44
— функция 37, 46, 59
линейного процесса 65
— — нестационарного процесса 224
ошибок прогноза 177
процесса авторегрессии 71
АРПСС 197
АРСС 92
скользящего среднего 85
частная 81, 88, 93
Безусловное правдоподобие 237
Белый шум 23, 29, 63
Вероятностные пределы 155, 176 -
Веса прогноза 152, 160, 173
для произвольного упрежде-
упреждения 180
Возвратное представление 221, 229
Временные ряды 39
Время упреждения 15
Выборочный спектр 56
Информационная матрица 253, 267,
309
Итеративный подход 34
Ковариационная матрица оценок 268,
294
Кумулятивная периодограмма 323
Линейные разностные уравнения 132
Линейный процесс 63
— фильтр 24
Маргинальное распределение 289
Марквардта алгоритм 376
Марковский процесс 74
Метод Брауна 187
Многозначность моделей 218
Модели временных рядов 10, 22
— передаточных функций 28
Модель авторегрессии 24
— АРПСС 111
— мультипликативная 335, 353
Гауссовские процессы 46
Диагностическая проверка 11, 35, 313,
352, 374
Дисперсии и коваряации оценок МП
252, 309, 351
Дисперсионный анализ 53
Доверительная область 254, 294, 347
Идентификация моделей 11 34, 61,
192, 344, 355, 367
— реальных временных рядов 199,
220
цели и методика 193
Избыточность параметров 275, 314
Наивысшая плотность вероятности
(НПВ) 282
Начальные оценки параметров 209,
220, 225
Нормальное распределение 286
— уравнение 293
Обратимость 67, 84
Оператор суммирования 138
Остаточные ошибки 317, 327, 373
Оценивание 347, 356, 369
— передаточных функций 17
— спектра 58
Оценки максимального правдоподо-
правдоподобия (МП) 233, 245, 305
— Юла — Уокера 270, 307
Предметный указатель
403
Периодограмма 52
Подгонка моделей 11, 35
Подправление прогнозов 153, 176
Подстраивающиеся коэффициенты 166
Примеры временных рядов:
выходные данные химических
процессов 102, 202, 389
пассажирские перевозки 330, 348,
396
температурный ряд 54
цены акций компании IBM 104,
190, 205, 390
число солнечных пятен 199, 207,
394
Принцип экономии параметров 33
Прогнозирование назад 223, 259
— процессов ППС 162
авторегрессии 169
Прогнозирующая функция 16, 146,
162, 339, 357, 378
эвентуальная 157, 166, 182
Прогнозы с минимальной среднеква-
среднеквадратичной ошибкой 144, 175
подправление 153
способы представления
148, 176
Сравнение с методом
Брауна 186
— схема вычисления 150
Программы для ЭВМ 366
Производящая функция 65
автоковариации 66, 98
Проинтегрированное представление
182
Процессы авторегрессни (АР) 24, 68,
270, 280, 297
проинтегрированного скользя-
скользящего среднего (АРПСС) 23, 27, 102,
106
с добавленным шу-
шумом 139
скользящего среднего (АРСС)
26, 69, 91, 213
— проинтегрированного скользящего
среднего (ПСС) 121 '
с детерминированным
дрейфом нуля 137
— скользящего среднего (СС) 25, 69,
84, 273, 283, 297, 312
Распределение маргинальное 289
— нормальное 286
— Стьюдента 290
Регулирование с прямой и обратной
Связями 19, 3J
Ряд солнечных пятен 100, 394
Сборник временных рядов 388
Сводка моделей для рядов А — F 265
Сезонные процессы 6
Случайное блуждание 142
Смешанные процессы 273, 285, 300,
312
Совокупный критерий согласия 320
Спектр 37, 56
— нормированный 57
— процесса авторегрессии 71
АРСС 92
СС 85
Стандартные ошибки оценок автокор-
автокорреляций 50
выборочных 198
частных 82
Стохастические модели 22, 37
— процессы 40
Сумма квадратов 235, 245
безусловная 237
вычисление на ЭВМ 373
графическое представление
245, 275, 347
условная 236
Таблицы н диаграммы 381
Теорема Байеса 278
Тренды 109
Уравнения регулирования 19, 32
— Юла—Уокера 73, 81, 99
Уровни значимости 385
Условное правдоподобие 233
Формула Бартлетта 51, 198
Формы представления модели АРПСС
144
Функция отклика на единичный нм-
пульс 29
~ правдоподобия 232, 251, 297
Характеристическое уравнение 71
Холостое время 28
Экономичность параметризации 332
Экспоненциально взвешенное скользя-
скользящее среднее (ЭВСС) 124, 229

50
Часть I. Стохастические модели и прогнозирование
Гл. 2. Автокорреляционная функция и спектр
51
приводил к получению дегтярных остатков, которые не пол-
полностью устранялись из емкости и отрицательно влияли на выход
следующего цикла.
Таблица 2.2
Выборочная автокорреляционная функция данных о партиях продукта
к
1
2
3
4
5
rk
—0,39
0,30
—0,17
0,07
-0,10
к
6
7
8
9
10
тк
—0,05
0,04
—0,04
—0,01
0,01
к
11
12
13
14
15
гк
0,11
—0,07
0,15
0,04
—0,01
Программа для ЭВМ, позволяющая вычислить автоковариа-
автоковариационную и автокорреляционную функции, описана под номером 1
в сборнике программ в конце книги.
2.1.6. Стандартные ошибки оценок автокорреляций
Для идентификации модели временного ряда методами, ко-
которые будут описаны в гл. 6, необходимо иметь грубый способ
проверки того, является ли pfe практически нулем для задержек
больше некоторой. Для этой цели можно использовать следую-
следующее выражение для дисперсии выборочного коэффициента авто-
автокорреляции стационарного нормального процесса, предложенное
Бартлеттом [28]:
+ 0О
). B.
Например, если рь = 0|61 (—1 < Ф < 1), т. е. автокорреля-
автокорреляционная функция затухает экспоненциально, B.1.11) дает
var[rft]~ — [-
\-Ф2
ZR?
B.1.12)
и в частности
Для любого процесса, у которого все автокорреляции р„
равны нулю при v >- q, все члены, кроме первого, появляю-
появляющиеся в правой части B.1.11), равны нулю при k > q. Отсюда
для дисперсии выборочных автокорреляций rk с задержками к,
большими, чем некоторое значение ц, за которым теоретическую
автокорреляционную функцию можно полагать «затухшей», ап-
аппроксимация Бартлетта дает
v—l
, k>q.
B.1.13)
Например, если k увеличивается и при условии, что ф не близко
к 1, B.1.12) быстро сходится к своему предельному значению
так же определяемому B.1.13).
Чтобы практически использовать B.1.13), нужно вместо тео-
теоретических автокорреляций pk(k = 1, 2 q) подставлять вы-
выборочные автокорреляции rh; когда это сделано, квадратный ко-
корень из B.1.13) мы будем называть стандартной ошибкой при
больших задержках. В предположении, что теоретические авто-
автокорреляции ph практически равны нулю при задержках, больших
некоторой гипотетической задержки k = q, эта стандартная
ошибка аппроксимирует стандартное отклонение гъ. для боль-
больших задержек (k > q).
Подобные приближенные выражения для ковариации между
выборочными корреляциями rk и rk+s при двух различных за-
задержках k и к + s были даны Бартлеттом [28]. В частности, ап-
аппроксимация для больших задержек сводится к
COV [Гк, Гк+!] ~ -ft- J] PvPv+s
B.1.14)
Результат Бартлетта B.1.14) указывает, что индивидуальные
автокорреляции должны интерпретироваться с осторожностью,
поскольку между соседними значениями может иметь место зна-
значительная ковариация. Этот эффект в некоторых случаях может
искажать вид выборочной автокорреляционной функции, кото-
которая вопреки ожиданию может не затухать [27, 29].
Пример. Следующие выборочные автокорреляции были по-
получены из временного ряда длиной Af = 200 наблюдений, по-
порождаемых стохастическим процессом, о котором было известно,
что pi = —0,4 и pfe = 0 для k ^ 2:
k
k
Гк
1
—0,38
6
0,00
2
—0,08
7
0,00
3
0,11
8
0,00
4
—0,08
9
0,07
5
0,02
10
-0,08