logo资料库

随机过程讲义(南开大学内部).pdf

第1页 / 共50页
第2页 / 共50页
第3页 / 共50页
第4页 / 共50页
第5页 / 共50页
第6页 / 共50页
第7页 / 共50页
第8页 / 共50页
资料共50页,剩余部分请下载后查看
1 Poisson 过程
1.1 定义
1.2 另一个等价定义
1.3 Poisson过程的其它性质
1.3.1 顺序统计量
1.3.2 过程的稀疏
1.4 复合Poisson过程及应用
1.4.1 复合Poisson过程
1.4.2 复合Poisson过程在保险风险理论中的应用
1.5 Poisson 过程的其它扩展
1.5.1 非齐次 Poisson 过程
1.5.2 条件 Poisson 过程
1.5.3 Poisson 随机测度
2 离散时间马氏链
2.1 定义与例
2.2 状态分类
2.2.1 状态空间的分解
2.2.2 状态的常返
2.2.3 状态的周期性
2.3 不变测度和平稳分布
2.4 极限定理
2.4.1 极限分布
2.4.2 比率定理
2.5 一些例子
3 连续时间马氏链
3.1 定义
3.1.1 马氏性与等价条件
3.1.2 转移概率
3.2 标准转移矩阵的分析性质
3.3 Q 矩阵及其概率意义
3.4 向前与向后微分方程组
3.5 一类马氏链的构造
3.6 强马氏性
随机过程讲义 (内部交流)
目 录 目 录 1 Poisson 过程 舱舮舱 定义 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舮舲 另一个等价定义 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舮舳 艐良艩艳艳良艮过程的其它性质 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舮舳舮舱 顺序统计量 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舮舳舮舲 过程的稀疏 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舮舴 复合艐良艩艳艳良艮过程及应用 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舮舴舮舱 复合艐良艩艳艳良艮过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舮舴舮舲 复合艐良艩艳艳良艮过程在保险风险理论中的应用 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舮舵 艐良艩艳艳良艮 过程的其它扩展 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舮舵舮舱 非齐次 艐良艩艳艳良艮 过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舮舵舮舲 条件 艐良艩艳艳良艮 过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舮舵舮舳 艐良艩艳艳良艮 随机测度 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 2 离散时间马氏链 舲舮舱 定义与例 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舲舮舲 状态分类 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舲舮舲舮舱 状态空间的分解 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舲舮舲舮舲 状态的常返 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舲舮舲舮舳 状态的周期性 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舲舮舳 不变测度和平稳分布 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舲舮舴 极限定理 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舲舮舴舮舱 极限分布 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舲舮舴舮舲 比率定理 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舲舮舵 一些例子 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 3 连续时间马氏链 舳舮舱 定义 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舮舱舮舱 马氏性与等价条件 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舮舱舮舲 转移概率 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舮舲 标准转移矩阵的分析性质 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舮舳 Q 矩阵及其概率意义 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舮舴 向前与向后微分方程组 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舮舵 一类马氏链的构造 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舮舶 强马氏性 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 1 舱 舳 舵 舵 舶 舷 舷 舸 舱舰 舱舰 舱舰 舱舱 12 舱舲 舱舴 舱舴 舱舵 舲舰 舲舰 舲舳 舲舳 舲舶 舲舷 33 舳舳 舳舳 舳舵 舳舶 舳船 舴舳 舴舶 舴舸 舭 艩 舭
第一章 艐良艩艳艳良艮 过程 第一章 Poisson 过程 称随机变量 X 服从参数为 λ 的 艐良艩艳艳良艮 分布,若 P (X = k) = e−λ λk k! 般 k = 0, 1, . . .舮 称随机变量 X 服从参数为 λ 的指数分布,若 P (X > t) = e−λt舮 此时,X 的密度 函数为 λe−λt般 t > 0般 分布函数为 1 − e−λt般 t > 0舮 指数分布满足无记忆性,即 P (X > t + s) = P (X > t)P (X > s). 引理 1.1 设随机变量 X, Y 独立,f : R × R → R 有界可测。令 g(x) = E[f (x, Y )]. 则 g(X) 可积,且 E[f (X, Y )] = E[g(X)]. 称 {N (t), t ≥ 0} 为计数过程,若 N (t) 表示在时刻 t 之前发生事件的次数。因 此,计数过程 N (t) 满足: 舨艩舩 N (t) ≥ 0舻 舨艩艩舩 N (t) 为整数值; 舨艩艩艩舩 对 0 ≥ s ≤ t般 N (s) ≤ N (t)舻 舨艩艶舩 对 0 ≤ s < t般 N (t) − N (s) 表在区间 (s, t] 发生事件的次数。 定义 1.1 称 {N (t), t ≥ 0} 为参数为 λ 的(齐次) Poisson 过程,若 §1.1 定义 (i) N (t)是计数过程,N (0) = 0; (ii) N (t) 具有平稳独立增量,即对任意的 0 ≤ t0 < t1 < ··· < tn, t ≥ 0, h > 0, 有 N (t1)− N (t0), . . ., N (tn)− N (tn−1) 独立,且 N (t + h)− N (t) 与 N (h) 同分布; (iii) 当 h ↓ 0 时, P (N (h) = 1) = λh + o(h), P (N (h) ≥ 2) = o(h). 舨舱舮舱舩 定理 1.2 设 N (t) 是参数为 λ 的 Poisson 过程,则对任意的 h > 0, P (N (t + h) − N (t) = k) = e−λt (λt)k k! , k = 0, 1, . . . . 舨舱舮舲舩 舭 舱 舭
第一章 艐良艩艳艳良艮 过程 证明 记 pn(t) = P (N (t) = n) = P (N (t + s) − N (s) = n)舮 艩舩 先考虑 n = 0 的情形。对 h > 0般 有 p0(t + h) = P (N (t + h) = 0) = P (N (t) = 0, N (t + h) − N (t) = 0) = P (N (t) = 0)P (N (t + h) − N (t) = 0) = p0(t)p0(h). 应用 得 p0(h) = P (N (h) = 0) = 1 − P (N (h) = 1) − P (N (h) ≥ 2) = 1 − λh + o(h), p0(t + h) − p0(t) = (1 − p0(h))p0(t) = λhp0(t) + o(h). 从而 p0(t) 在 t 右可导,且右导数为 −λp0(t)舮 而 p0(t − h) − p0(t) h = = p0(t − h) − p0(t − h)p0(h) 1 − p0(h) h p0(t) p0(h) , h 令 h → 0 可得 p0(t) 在 t 的左导数也存在,且为 −λp0(t)舮 这样 0(t) = −λp0(t), p p0(0) = 1, 于是 p0(t) = e−λt舮 艩艩舩 当 n > 0 时 pn(t + h) = P (N (t + h) = n) = P (N (t) = n, N (t + h) − N (t) = 0) + P (N (t) = n − 1, N (t + h) − N (t) = 1) + P (N (t + h) = n, N (t + h) − N (t) ≥ 2) = pn(t)p0(h) + pn−1(t)p1(h) + o(h) = (1 − λh)pn(t) + λhpn−1(t) + o(h). 对 h > 0般 有 pn(t + h) − pn(t) h = −λpn(t) + λpn−1(t) + o(h) , h 从而 pn(t) 在 t 的右导数为 −λpn(t) + λpn−1(t)舮 类似的可知 pn(t) 的左导数也存在。 这样 n(t) = −λpn(t) + λpn−1(t), p pn(0) = 0, n ≥ 1. 上面方程等价于 容易得到 (eλtpn(t)) = eλtpn−1(t). pn(t) = e−λt (λt)n n! . 舭 舲 舭
第一章 艐良艩艳艳良艮 过程 这样,艐良艩艳艳良艮 过程有如下的等价定义。 定义 1.2 称 {N (t), t ≥ 0} 为参数为 λ 的 Poisson 过程,若 (i) N (t) 是计数过程,且 N (0) = 0; (ii) N (t) 是独立增量过程; (iii) 对任意的 t ≥ 0, h > 0, 有 P (N (t + h) − N (t) = k) = e−λt (λt)k k! , k = 0, 1, . . . . §1.2 另一个等价定义 设 N (t) 是参数为 λ 的 艐良艩艳艳良艮 过程。令 S0 = 0般 Sn = inf{t > 0, N (t) ≥ n}般 Tn = Sn − Sn−1般 n = 1, 2, . . .舮 定理 1.3 Tn, n = 1, 2, . . . 独立同分布且服从参数 λ 的指数分布。 证明 由 P (T1 > t) = P (N (t) = 0) = e−λt, T1 服从参数为 λ 的指数分布。对 0 < t1 < t2 和充分小的 h1般 h2 > 0般 P (t1 − h1 < S1 ≤ t1 + h1, t2 − h2 < S2 ≤ t2 + h2) =P (N (t1 − h1) = 0, N (t1 + h1) − N (t1 − h1) = 1, N (t2 − h2) − N (t1 + h1) = 0, N (t2 + h2) − N (t2 − h2) = 1) =e−λ(t1−h1) · λ2h1e−2λh1 · e−λ(t2−h2−t1−h1) · λ2h2e−2λh2 =4λ2h1h2e−λ(t2+h2). 所以,(S1, S2) 的联合密度函数为 g(s1, s2) = λ2e−λs2, 0 < s1 < s2; 0, 其它。 由T1 = S1般 T2 = S2 − S1般 (T1, T2) 的联合密度函数为 λ2e−λ(t1+t2), 0, f (t1, t2) = ti ≥ 0; 其它。 这样,T1般 T2 独立同分布。一般的情形类似可证。 舭 舳 舭 舨舱舮舳舩
第一章 艐良艩艳艳良艮 过程 定理 1.4 设 T1, T2, . . . 独立同分布且同服从参数为 λ 的指数分布。令 S0 = 0, Sn = T1 + ··· + Tn, n = 1, 2, . . .. 则 N (t) = sup{n : Sn ≤ t} 是参数为 λ 的 Poisson 过程。 证明 当 h → 0 时,有 P (N (h) ≥ 2) = P (S2 ≤ h) = h 0 λ2se−λsds ≤ λ2h h 0 e−λsds = o(h). 及 P (N (h) = 1) = P (S1 ≤ h < S2) = P (S1 ≤ h) + o(h) = 1 − e−λh + o(h) = λh + o(h), 为使得定理成立,只需要再证明 N (t) 具有平稳独立增量。我们只证明对任意的 n般 k般 P (N (t + s) − N (t) = k, N (t) = n) = P (N (s) = k, N (t) = n). 一般情形类似可证。注意到 {S(n) ≤ t} = {N (t) ≥ n}. 舨舱舮舴舩 我们分下面几种情况来讨论。 舨艩舩 设 k = 0般 n = 0舮 由指数分布的无记忆性, P (N (t + s) − N (t) = 0, N (t) = 0) = P (N (t + s) = 0) = P (S1 > t + s) =P (S1 > s)P (S1 > t) = P (N (s) = 0)P (N (t) = 0). 舨艩艩舩 设 k = 0般 n ≥ 1舮 P (N (t + s) − N (t) = 0, N (t) = n) = P (Sn ≤ t < t + s < Sn+1) =P (Sn ≤ t < t + s < Sn + Tn+1) = P (t + s < u + Tn+1)dP (Sn ≤ u) P (S1 > s)P (Tn+1 > t − u)dP (Sn ≤ u) = P (N (s) = 0)P (N (t) = n). 0 t = t 0 舨艩艩艩舩 设 k ≥ 1般 n = 0舮 P (N (t + s) − N (t) = k, N (t) = 0) = P (t < S1 ≤ Sk ≤ t + s < Sk+1) =P (t < S1 ≤ S1 + Ti ≤ t + s < S1 + k k+1 Ti) s k = P ( k+1 i=2 Ti ≤ s − u < 0 i=2 i=2 i=2 Ti)dP (S1 ≤ t + u). 舭 舴 舭
第一章 艐良艩艳艳良艮 过程 由 dP (S1 ≤ t + u) = −dP (S1 > t + u) = −P (S1 > t)dP (S1 > u) = P (S1 > t)dP (S1 ≤ u), 可得 P (N (t + s) − N (t) = k, N (t) = 0) Ti ≤ s − u < k k+1 =P (S1 > t) P ( s 0 i=2 i=2 =P (N (s) = k)P (N (t) = 0). Ti)dP (S1 ≤ u) 舨艩艶舩 设 k ≥ 1般 n ≥ 1舮 P (N (t + s) − N (t) = k, N (t) = n) = P (Sn ≤ t < Sn+1 ≤ Sn+k ≤ t + s < Sn+k+1) = P (t − u < S1 ≤ Sk ≤ t + s − u < Sk+1)dP (Sn ≤ u) P (N (t − u) = 0)dP (Sn ≤ u) = P (N (s) = k)P (N (t) = n). 0 §1.3 Poisson过程的其它性质 §1.3.1 顺序统计量 假定 艐良艩艳艳良艮 过程在时刻 t 之前恰好有一次事件发生,即 N (t) = 1舮 由于 N (t) 具 有独立增量,事件发生的时刻应服从 (0, t] 上的均匀分布。事实上, P (S1 < s|N (t) = 1) = P (N (s) = 1, N (t) − N (s) = 0) P (S1 < s, N (t) = 1) P (N (t) = 1) λse−λse−λ(t−s) λte−λt = P (N (t) = 1) = = s t . 为推广这一结果,我们引入顺序统计量的概念。 设 Y1般 Y2般 . . .般 Yn 是 n 个随机变量,{Y(1), Y(2), . . . , Y(n)} = {Y1, Y2, . . . , Yn}般 且 Y(1) ≤ Y(2) ≤ ··· ≤ Y(n)般 则称 Y(1)般 . . .般 Y(n) 为对应于 Y1般 Y2般 . . .般 Yn 的顺序统计量。若 Y1般 . . .般 Yn 独立同分布,且具有密度函数 f (x)般 则 Y(1)般 . . .般 Y(n) 的密度函数为 t t 0 =P (N (s) = k) n f (y1, . . . , yn) = n! f (yi), y1 < ··· < yn. 特别的,当服从 (0, t) 上均匀分布时,密度函数为 i=1 f (y1, . . . , yn) = n! tn , 0 < y1 < ··· < yn < t. 舭 舵 舭
第一章 艐良艩艳艳良艮 过程 定理 1.5 假设在时间 t > 0 前已经发生了 n 次事件,即已知 N (t) = n, 则随机向量 (S1, S2, . . . , Sn) 的分布与区间 [0, t] 上 n 个独立均匀分布的顺序统计量具有相同的分 布,即它的联合密度函数为 f (t1,··· , tn) = n! tn , 0 < t1 < ··· < tn < t. 证明 我们只对 n = 2 证明。由于 S1般 . . .般 Sn 的联合密度为 g(s1, . . . , sn) = λne−λsn, s1 < ··· < sn, 所以 因此, P (S1 ≤ s1, S2 ≤ s2, N (t) = 2) = P (S1 ≤ s1, S2 ≤ s2, S2 ≤ t < S3} s1 s2 ∞ λ3e−λx3dx3dx2dx1 = =λ2e−λt(s1s2 − s2 x1 0 t 1/2). P (S1 ≤ s1, S2 ≤ s2|N (t) = 2) = λ2e−λt(s1s2 − s2 λ2t2e−λt/2 1/2) = 2 t2 (s1s2 − s2 1/2). §1.3.2 过程的稀疏 定理 1.6 设 Poisson 过程 N (t) 表示到 t 时刻发生的事件个数。如果每个事件被记 录的概率为 p, 且是否被记录是独立的,则被记录的事件个数 N1(t) 是强度为 λp 的 Poisson 过程。 证明 由全概率公式, ∞ m=0 P (N1(t) = n|N (t) = m + n)P (N (t) = m + n) P (N1(t) = n) = ∞ m + n ∞ = m=0 n =e−λt (λpt)n n! m=0 =e−λpt (λpt)n n! . pn(1 − p)me−λt (λt)m+n (m + n)! (λt(1 − p))m = e−λt (λpt)n n! m! eλt(1−p) 下面假设事件被记录的概率与发生的时间有关。具体的说,若某次事件发生在时 刻 t般 则以概率 p(t) 被记录,并且与其它事件是否被记录独立。记 N1(t) 为到时刻 t 被记录的事件个数,N2(t) = N (t) − N1(t) 为未记录事件的个数。 舭 舶 舭
分享到:
收藏