第七章 平稳时间序列预测法
基本内容
一、概述
1、 时间序列 ty 取自某一个随机过程,如果此随机过程的随机特征不随时间变化,则我们称
过程是平稳的;假如该随机过程的随机特征随时间变化,则称过程是非平稳的。
2、 宽平稳时间序列的定义:设时间序列 ty ,对于任意的t , k 和 m ,满足:
yE
t
yE
mt
kt
cov
,
yy
t
则称 ty 宽平稳。
cov
y
mt
kmt
y
,
3、Box-Jenkins 方法是一种理论较为完善的统计预测方法。他们的工作为实际工作者提供了
对时间序列进行分析、预测,以及对 ARMA 模型识别、估计和诊断的系统方法。使 ARMA
模型的建立有了一套完整、正规、结构化的建模方法,并且具有统计上的完善性和牢固的理
论基础。
4、ARMA 模型三种基本形式:自回归模型(AR:Auto-regressive),移动平均模型(MA:
Moving-Average)和混合模型(ARMA:Auto-regressive Moving-Average)。
(1) 自回归模型 AR(p):如果时间序列 ty 满足
y
t
p
1
...
pt
y
y
1
t
t
其中 t 是独立同分布的随机变量序列,且满足:
0tE
,
Var
t
2
0
则称时间序列 ty 服从 p 阶自回归模型。或者记为
平 稳条 件 :滞 后 算子 多 项式
1
...
B
B
1
yB
t
y
kt
。
p B
p
的 根均 在 单位 圆 外, 即
0B
的根大于 1。
(2) 移动平均模型 MA(q):如果时间序列 ty 满足
ty
t
1
t
...
1
则称时间序列 ty 服从 q 阶移动平均模型。或者记为
y
t
平稳条件:任何条件下都平稳。
(3) ARMA(p,q)模型:如果时间序列 ty 满足
t
B
。
q
qt
y
t
1
y
t
1
...
p
y
pt
t
1
t
...
1
q
qt
则称时间序列 ty 服从(p,q)阶自回归移动平均模型。或者记为
yB
t
t
B
。
特殊情况:q=0,模型即为 AR(p),p=0, 模型即为 MA(q)。
二、时间序列的自相关分析
1、自相关分析法是进行时间序列分析的有效方法,它简单易行、较为直观,根据绘制
的自相关分析图和偏自相关分析图,我们可以初步地识别平稳序列的模型类型和模型阶
数。利用自相关分析法可以测定时间序列的随机性和平稳性,以及时间序列的季节性。
2、自相关函数的定义:滞后期为 k 的自协方差函数为:
r
k
cov
y
kt
,
t
y
,则 ty 的
自相关函数为:
k
r
k
y
y
kt
,其中
t
2
y
t
yE
t
yE
t
2
。当序列平稳时,自相关
函数可写为:
k
rk
0r
。
3、 样本自相关函数为:
ˆ
k
kn
t
1
y
t
yy
kt
y
y
t
2
y
n
t
1
,其中
y
n
t
1
t /
ny
,它可以说明
不同时期的数据之间的相关程度,其取值范围在-1 到 1 之间,值越接近于 1,说明
时间序列的自相关程度越高。
4、 样本的偏自相关函数:
1ˆ
1k
kkˆ
ˆ
k
k
1
ˆ
ˆ
k
,1
k
j
j
,...3,2k
k
1
j
1
ˆ
ˆ
k
,1
k
j
j
j
1
1
其中,
ˆ
ˆ
k
,
jk
,1
j
ˆ
k
kk
。
,1
k
j
5、 时间序列的随机性,是指时间序列各项之间没有相关关系的特征。使用自相关分析
图判断时间序列的随机性,一般给出如下准则:
①若时间序列的自相关函数基本上都落入置信区间,则该时间序列具有随机性;
②若较多自相关函数落在置信区间之外,则认为该时间序列不具有随机性。
6、 判断时间序列是否平稳,是一项很重要的工作。运用自相关分析图判定时间序列平
稳性的准则是:①若时间序列的自相关函数 kˆ 在 k>3 时都落入置信区间,且逐渐
趋于零,则该时间序列具有平稳性;②若时间序列的自相关函数更多地落在置信区
间外面,则该时间序列就不具有平稳性。
7、 ARMA 模型的自相关分析
AR(p)模型的偏自相关函数 kk 是以 p 步截尾的,自相关函数拖尾。MA(q)模型的自相
关函数具有 q 步截尾性,偏自相关函数拖尾。这两个性质可以分别用来识别自回归模型
和移动平均模型的阶数。ARMA(p,q)模型的自相关函数和偏相关函数都是拖尾的。
三、单位根检验和协整检验
1、单位根检验
①利用迪基—福勒检验( Dickey-Fuller Test)和菲利普斯—佩荣检验(Philips-Perron
Test),我们也可以测定时间序列的随机性,这是在计量经济学中非常重要的两种单位根
检验方法,与前者不同的事,后一个检验方法主要应用于一阶自回归模型的残差不是白
噪声,而且存在自相关的情况。
②随机游动
如果在一个随机过程中, ty 的每一次变化均来自于一个均值为零的独立同分布,即随
机过程 ty 满足:
...2,1t
1
t
t
,
y
y
t
0tE
,
Var
t
,其中 t 独立同分布,并且:
2
2
E
t
称这个随机过程是随机游动。它是一个非平稳过程。
③单位根过程
设随机过程 ty 满足:
,
并且
cov
0tE
,
st
t
s
,
...2,1,0s
。
y
t
y
1
t
t
,
...2,1t
,其中
1 , t 为一个平稳过程
2、协整关系
如果两个或多个非平稳的时间序列,其某个现性组合后的序列呈平稳性,这样的时间序
列间就被称为有协整关系存在。这是一个很重要的概念,我们利用 Engle-Granger 两步
协整检验法和 Johansen 协整检验法可以测定时间序列间的协整关系。
四、ARMA 模型的建模
1、模型阶数的确定
①基于自相关函数和偏相关函数的定阶方法
对于 ARMA(p,q)模型,可以利用其样本的自相关函数
kˆ 和样本偏自相关函数
kkˆ 的截尾性判定模型的阶数。
具体方法如下:
i、对于每一个 q,计算
ˆ q , 2
ˆ q ,…, Mqˆ (M 取为 n 或者 10/n ),考察其中满
1
足
ˆ
k
1
n
21
q
i
1
2ˆ
i
或者
ˆ
k
2
n
21
q
i
1
2ˆ
i
的个数是否占 M 个的 68.3%或
者 95.5%。如果
1
k
q
0
, kˆ 都明显地异于零,而 10
ˆ
q , 20
ˆ
q ,…, Mq 0
ˆ 均近似
于零,并且满足上述不等式之一的 kˆ 的个数达到其相应的比例,则可以近似的判定
kˆ 是 0q 步截尾,平稳时间序列 ty 为 MA(
0q )。
ii、类似,我们可通过计算序列
kkˆ ,考察其中满足
ˆ
kk
1
n
或者
ˆ
kk
2
n
的个
数是否占 M 个的 68.3%或者 95.5%。即可以近似的判定
kkˆ 是 0p 步截尾,平稳时间
序列 ty 为 AR(
iii、如果对于序列
0p ).
kkˆ 和
kˆ 来说,均不截尾,即不存在上述的 0p 和 0q ,此时属于
情况 iii,则可以判定平稳时间序列 ty 为 ARMA 模型。
此外常用的方法还有:②基于 F-检验确定阶数;③利用信息准则法定阶(AIC 准则和
BIC 准则)
2、模型参数的估计
①初估计
i、 AR(p)模型参数的 Yule-Walker 估计
ˆ , 对 于 二 阶 自 回 归 模 型 AR(2) ,
ˆ
1
1
特 例 : 对 于 一 阶 自 回 归 模 型 AR(1) ,
ˆ
1
ˆ
1ˆ
1
2
2
ˆ
1
1
,
ˆ
2
2
ˆ
ˆ
2
1
2
ˆ
1
1
。
ii、MA(q)模型参数估计
特例:对于一阶移动平均模型 MA(1),
1
ˆ
1
2
1
41
2
1
,对于二阶移动平均模型
MA(2),
1
2
1
21
2
1
2
1
,
2
2
2
2
1
2
1
。
iii、ARMA(p,q)模型的参数估计
模型很复杂,一般利用统计分析软件包完成。
②精估计
ARMA(p,q)模型参数的精估计,一般采用极大似然估计,由于模型结构的复杂性,无法
直接给出参数的极大似然估计,只能通过迭代方法来完成,这时,迭代初值常常利用初
估计得到的值。
3、ARMA(p,q)序列预报
设 平 稳 时 间 序 列 ty 是 一 个 ARMA(p,q) 过 程 , 则 其 最 小 二 乘 预 测 :
ˆ
ly
t
yE
1
y
,...,
。
y
T
1
T
i、AR(p)模型预测
ˆ
ly
1
T
ˆ
ly
t
1
...
p
ˆ
ly
T
p
,
,...2,1l
ii、ARMA(p,q)模型预测
p
j
j
1
ˆ
ly
T
j
q
j
1
ˆ
Tj
l
j
,其中
i
ˆ
T
E
iT
y
T
,...,
1
y
。
ˆ
ly
t
iii、预测误差
预测误差为:
le
t
y
t
l
ˆ
ly
t
t
1
0
l
t
...
l
1
l
。l 步线性最小方
1
1
l
差预测的方差和预测步长 l 有关,而与预测的时间原点 t 无关。预测步长 l 越大,预测
误差的方差也越大,因而预测的准确度就会降低。所以一般不能用 ARMA(p,q)作为长
期预测模型。
iv、预测的置信区间
预测的 95%置信区间:
ˆ
t ly
1
2
0
96.1
2
...
l
2
12
1
。