随机过程讲义
(内部交流)
目 录
目 录
1 Poisson 过程
舱舮舱 定义 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舱舮舲 另一个等价定义 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舱舮舳 艐良艩艳艳良艮过程的其它性质 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舱舮舳舮舱 顺序统计量 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舱舮舳舮舲 过程的稀疏 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舱舮舴 复合艐良艩艳艳良艮过程及应用 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舱舮舴舮舱 复合艐良艩艳艳良艮过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舱舮舴舮舲 复合艐良艩艳艳良艮过程在保险风险理论中的应用 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舱舮舵 艐良艩艳艳良艮 过程的其它扩展 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舱舮舵舮舱 非齐次 艐良艩艳艳良艮 过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舱舮舵舮舲 条件 艐良艩艳艳良艮 过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舱舮舵舮舳 艐良艩艳艳良艮 随机测度 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
2 离散时间马氏链
舲舮舱 定义与例 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舲舮舲 状态分类 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舲舮舲舮舱 状态空间的分解 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舲舮舲舮舲 状态的常返 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舲舮舲舮舳 状态的周期性 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舲舮舳 不变测度和平稳分布 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舲舮舴 极限定理 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舲舮舴舮舱 极限分布 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舲舮舴舮舲 比率定理 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舲舮舵 一些例子 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
3 连续时间马氏链
舳舮舱 定义 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舳舮舱舮舱 马氏性与等价条件 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舳舮舱舮舲 转移概率 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舳舮舲 标准转移矩阵的分析性质 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舳舮舳 Q 矩阵及其概率意义 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舳舮舴 向前与向后微分方程组 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舳舮舵 一类马氏链的构造 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舳舮舶 强马氏性 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
1
舱
舳
舵
舵
舶
舷
舷
舸
舱舰
舱舰
舱舰
舱舱
12
舱舲
舱舴
舱舴
舱舵
舲舰
舲舰
舲舳
舲舳
舲舶
舲舷
33
舳舳
舳舳
舳舵
舳舶
舳船
舴舳
舴舶
舴舸
舭 艩 舭
第一章 艐良艩艳艳良艮 过程
第一章 Poisson 过程
称随机变量 X 服从参数为 λ 的 艐良艩艳艳良艮 分布,若 P (X = k) = e−λ λk
k! 般 k = 0, 1, . . .舮
称随机变量 X 服从参数为 λ 的指数分布,若 P (X > t) = e−λt舮 此时,X 的密度
函数为 λe−λt般 t > 0般 分布函数为 1 − e−λt般 t > 0舮 指数分布满足无记忆性,即
P (X > t + s) = P (X > t)P (X > s).
引理 1.1 设随机变量 X, Y 独立,f : R × R → R 有界可测。令 g(x) = E[f (x, Y )].
则 g(X) 可积,且
E[f (X, Y )] = E[g(X)].
称 {N (t), t ≥ 0} 为计数过程,若 N (t) 表示在时刻 t 之前发生事件的次数。因
此,计数过程 N (t) 满足:
舨艩舩 N (t) ≥ 0舻
舨艩艩舩 N (t) 为整数值;
舨艩艩艩舩 对 0 ≥ s ≤ t般 N (s) ≤ N (t)舻
舨艩艶舩 对 0 ≤ s < t般 N (t) − N (s) 表在区间 (s, t] 发生事件的次数。
定义 1.1 称 {N (t), t ≥ 0} 为参数为 λ 的(齐次) Poisson 过程,若
§1.1 定义
(i) N (t)是计数过程,N (0) = 0;
(ii) N (t) 具有平稳独立增量,即对任意的 0 ≤ t0 < t1 < ··· < tn, t ≥ 0, h > 0, 有
N (t1)− N (t0), . . ., N (tn)− N (tn−1) 独立,且 N (t + h)− N (t) 与 N (h) 同分布;
(iii) 当 h ↓ 0 时,
P (N (h) = 1) = λh + o(h), P (N (h) ≥ 2) = o(h).
舨舱舮舱舩
定理 1.2 设 N (t) 是参数为 λ 的 Poisson 过程,则对任意的 h > 0,
P (N (t + h) − N (t) = k) = e−λt (λt)k
k!
,
k = 0, 1, . . . .
舨舱舮舲舩
舭 舱 舭
第一章 艐良艩艳艳良艮 过程
证明 记 pn(t) = P (N (t) = n) = P (N (t + s) − N (s) = n)舮
艩舩 先考虑 n = 0 的情形。对 h > 0般 有
p0(t + h) = P (N (t + h) = 0) = P (N (t) = 0, N (t + h) − N (t) = 0)
= P (N (t) = 0)P (N (t + h) − N (t) = 0) = p0(t)p0(h).
应用
得
p0(h) = P (N (h) = 0) = 1 − P (N (h) = 1) − P (N (h) ≥ 2) = 1 − λh + o(h),
p0(t + h) − p0(t) = (1 − p0(h))p0(t) = λhp0(t) + o(h).
从而 p0(t) 在 t 右可导,且右导数为 −λp0(t)舮 而
p0(t − h) − p0(t)
h
=
=
p0(t − h) − p0(t − h)p0(h)
1 − p0(h)
h
p0(t)
p0(h)
,
h
令 h → 0 可得 p0(t) 在 t 的左导数也存在,且为 −λp0(t)舮 这样
0(t) = −λp0(t),
p
p0(0) = 1,
于是 p0(t) = e−λt舮
艩艩舩 当 n > 0 时
pn(t + h) = P (N (t + h) = n)
= P (N (t) = n, N (t + h) − N (t) = 0) + P (N (t) = n − 1, N (t + h) − N (t) = 1)
+ P (N (t + h) = n, N (t + h) − N (t) ≥ 2)
= pn(t)p0(h) + pn−1(t)p1(h) + o(h)
= (1 − λh)pn(t) + λhpn−1(t) + o(h).
对 h > 0般 有
pn(t + h) − pn(t)
h
= −λpn(t) + λpn−1(t) +
o(h)
,
h
从而 pn(t) 在 t 的右导数为 −λpn(t) + λpn−1(t)舮 类似的可知 pn(t) 的左导数也存在。
这样
n(t) = −λpn(t) + λpn−1(t),
p
pn(0) = 0, n ≥ 1.
上面方程等价于
容易得到
(eλtpn(t)) = eλtpn−1(t).
pn(t) = e−λt (λt)n
n!
.
舭 舲 舭
第一章 艐良艩艳艳良艮 过程
这样,艐良艩艳艳良艮 过程有如下的等价定义。
定义 1.2 称 {N (t), t ≥ 0} 为参数为 λ 的 Poisson 过程,若
(i) N (t) 是计数过程,且 N (0) = 0;
(ii) N (t) 是独立增量过程;
(iii) 对任意的 t ≥ 0, h > 0, 有
P (N (t + h) − N (t) = k) = e−λt (λt)k
k!
,
k = 0, 1, . . . .
§1.2 另一个等价定义
设 N (t) 是参数为 λ 的 艐良艩艳艳良艮 过程。令 S0 = 0般 Sn = inf{t > 0, N (t) ≥ n}般
Tn = Sn − Sn−1般 n = 1, 2, . . .舮
定理 1.3 Tn, n = 1, 2, . . . 独立同分布且服从参数 λ 的指数分布。
证明 由
P (T1 > t) = P (N (t) = 0) = e−λt,
T1 服从参数为 λ 的指数分布。对 0 < t1 < t2 和充分小的 h1般 h2 > 0般
P (t1 − h1 < S1 ≤ t1 + h1, t2 − h2 < S2 ≤ t2 + h2)
=P (N (t1 − h1) = 0, N (t1 + h1) − N (t1 − h1) = 1, N (t2 − h2) − N (t1 + h1) = 0,
N (t2 + h2) − N (t2 − h2) = 1)
=e−λ(t1−h1) · λ2h1e−2λh1 · e−λ(t2−h2−t1−h1) · λ2h2e−2λh2
=4λ2h1h2e−λ(t2+h2).
所以,(S1, S2) 的联合密度函数为
g(s1, s2) =
λ2e−λs2, 0 < s1 < s2;
0,
其它。
由T1 = S1般 T2 = S2 − S1般 (T1, T2) 的联合密度函数为
λ2e−λ(t1+t2),
0,
f (t1, t2) =
ti ≥ 0;
其它。
这样,T1般 T2 独立同分布。一般的情形类似可证。
舭 舳 舭
舨舱舮舳舩
第一章 艐良艩艳艳良艮 过程
定理 1.4 设 T1, T2, . . . 独立同分布且同服从参数为 λ 的指数分布。令 S0 = 0,
Sn = T1 + ··· + Tn, n = 1, 2, . . .. 则 N (t) = sup{n : Sn ≤ t} 是参数为 λ 的 Poisson
过程。
证明 当 h → 0 时,有
P (N (h) ≥ 2) = P (S2 ≤ h) =
h
0
λ2se−λsds ≤ λ2h
h
0
e−λsds = o(h).
及
P (N (h) = 1) = P (S1 ≤ h < S2) = P (S1 ≤ h) + o(h) = 1 − e−λh + o(h) = λh + o(h),
为使得定理成立,只需要再证明 N (t) 具有平稳独立增量。我们只证明对任意的
n般 k般
P (N (t + s) − N (t) = k, N (t) = n) = P (N (s) = k, N (t) = n).
一般情形类似可证。注意到
{S(n) ≤ t} = {N (t) ≥ n}.
舨舱舮舴舩
我们分下面几种情况来讨论。
舨艩舩 设 k = 0般 n = 0舮 由指数分布的无记忆性,
P (N (t + s) − N (t) = 0, N (t) = 0) = P (N (t + s) = 0) = P (S1 > t + s)
=P (S1 > s)P (S1 > t) = P (N (s) = 0)P (N (t) = 0).
舨艩艩舩 设 k = 0般 n ≥ 1舮
P (N (t + s) − N (t) = 0, N (t) = n) = P (Sn ≤ t < t + s < Sn+1)
=P (Sn ≤ t < t + s < Sn + Tn+1) =
P (t + s < u + Tn+1)dP (Sn ≤ u)
P (S1 > s)P (Tn+1 > t − u)dP (Sn ≤ u) = P (N (s) = 0)P (N (t) = n).
0
t
=
t
0
舨艩艩艩舩 设 k ≥ 1般 n = 0舮
P (N (t + s) − N (t) = k, N (t) = 0) = P (t < S1 ≤ Sk ≤ t + s < Sk+1)
=P (t < S1 ≤ S1 +
Ti ≤ t + s < S1 +
k
k+1
Ti)
s
k
=
P (
k+1
i=2
Ti ≤ s − u <
0
i=2
i=2
i=2
Ti)dP (S1 ≤ t + u).
舭 舴 舭
第一章 艐良艩艳艳良艮 过程
由
dP (S1 ≤ t + u) = −dP (S1 > t + u) = −P (S1 > t)dP (S1 > u) = P (S1 > t)dP (S1 ≤ u),
可得
P (N (t + s) − N (t) = k, N (t) = 0)
Ti ≤ s − u <
k
k+1
=P (S1 > t)
P (
s
0
i=2
i=2
=P (N (s) = k)P (N (t) = 0).
Ti)dP (S1 ≤ u)
舨艩艶舩 设 k ≥ 1般 n ≥ 1舮
P (N (t + s) − N (t) = k, N (t) = n) = P (Sn ≤ t < Sn+1 ≤ Sn+k ≤ t + s < Sn+k+1)
=
P (t − u < S1 ≤ Sk ≤ t + s − u < Sk+1)dP (Sn ≤ u)
P (N (t − u) = 0)dP (Sn ≤ u) = P (N (s) = k)P (N (t) = n).
0
§1.3 Poisson过程的其它性质
§1.3.1 顺序统计量
假定 艐良艩艳艳良艮 过程在时刻 t 之前恰好有一次事件发生,即 N (t) = 1舮 由于 N (t) 具
有独立增量,事件发生的时刻应服从 (0, t] 上的均匀分布。事实上,
P (S1 < s|N (t) = 1) =
P (N (s) = 1, N (t) − N (s) = 0)
P (S1 < s, N (t) = 1)
P (N (t) = 1)
λse−λse−λ(t−s)
λte−λt
=
P (N (t) = 1)
=
=
s
t
.
为推广这一结果,我们引入顺序统计量的概念。
设 Y1般 Y2般 . . .般 Yn 是 n 个随机变量,{Y(1), Y(2), . . . , Y(n)} = {Y1, Y2, . . . , Yn}般 且
Y(1) ≤ Y(2) ≤ ··· ≤ Y(n)般 则称 Y(1)般 . . .般 Y(n) 为对应于 Y1般 Y2般 . . .般 Yn 的顺序统计量。若
Y1般 . . .般 Yn 独立同分布,且具有密度函数 f (x)般 则 Y(1)般 . . .般 Y(n) 的密度函数为
t
t
0
=P (N (s) = k)
n
f (y1, . . . , yn) = n!
f (yi),
y1 < ··· < yn.
特别的,当服从 (0, t) 上均匀分布时,密度函数为
i=1
f (y1, . . . , yn) =
n!
tn ,
0 < y1 < ··· < yn < t.
舭 舵 舭
第一章 艐良艩艳艳良艮 过程
定理 1.5 假设在时间 t > 0 前已经发生了 n 次事件,即已知 N (t) = n, 则随机向量
(S1, S2, . . . , Sn) 的分布与区间 [0, t] 上 n 个独立均匀分布的顺序统计量具有相同的分
布,即它的联合密度函数为
f (t1,··· , tn) =
n!
tn ,
0 < t1 < ··· < tn < t.
证明 我们只对 n = 2 证明。由于 S1般 . . .般 Sn 的联合密度为
g(s1, . . . , sn) = λne−λsn,
s1 < ··· < sn,
所以
因此,
P (S1 ≤ s1, S2 ≤ s2, N (t) = 2) = P (S1 ≤ s1, S2 ≤ s2, S2 ≤ t < S3}
s1
s2
∞
λ3e−λx3dx3dx2dx1
=
=λ2e−λt(s1s2 − s2
x1
0
t
1/2).
P (S1 ≤ s1, S2 ≤ s2|N (t) = 2) =
λ2e−λt(s1s2 − s2
λ2t2e−λt/2
1/2)
=
2
t2 (s1s2 − s2
1/2).
§1.3.2 过程的稀疏
定理 1.6 设 Poisson 过程 N (t) 表示到 t 时刻发生的事件个数。如果每个事件被记
录的概率为 p, 且是否被记录是独立的,则被记录的事件个数 N1(t) 是强度为 λp 的
Poisson 过程。
证明 由全概率公式,
∞
m=0
P (N1(t) = n|N (t) = m + n)P (N (t) = m + n)
P (N1(t) = n) =
∞
m + n
∞
=
m=0
n
=e−λt (λpt)n
n!
m=0
=e−λpt (λpt)n
n!
.
pn(1 − p)me−λt (λt)m+n
(m + n)!
(λt(1 − p))m
= e−λt (λpt)n
n!
m!
eλt(1−p)
下面假设事件被记录的概率与发生的时间有关。具体的说,若某次事件发生在时
刻 t般 则以概率 p(t) 被记录,并且与其它事件是否被记录独立。记 N1(t) 为到时刻 t
被记录的事件个数,N2(t) = N (t) − N1(t) 为未记录事件的个数。
舭 舶 舭