logo资料库

深入浅出的应用随机过程教程.pdf

第1页 / 共507页
第2页 / 共507页
第3页 / 共507页
第4页 / 共507页
第5页 / 共507页
第6页 / 共507页
第7页 / 共507页
第8页 / 共507页
资料共507页,剩余部分请下载后查看
应用随机过程教程 – 及其在算法和智能计算中的应用 龚光鲁 钱敏平 著 清华大学出版社 i
龚光鲁,钱敏平著 应用随机过程教程及其在算法与智能计算中的应用 清华大学出版社,2003 内容提要 本书概述了应用随机过程的基本内容以及近代的重要进展与重要方法.我们并不假定读 者具有测度论的知识.在更多地使用不严格的推理时,我们尽最大的努力做到理论与算法兼 顾. 第 1 章是概率论与数理统计的复习.第 2 章典型分布的随机数的生成方法, 第 3 章 Poisson 过程, Brown 运动与随机徘徊. 第 4 章介绍更新过程. 第 5 章是离散时间的 Markov 链, 得到的 Markov 链的遍历性定理, 是与 Markov 链的初始状态无关的, 这样就满足了统计 物理中的 “各态历经性” 的要求.第 6 章连续时间的 Markov.第 7 章介绍排队理论梗概.第 8 章致力于在实际应用中有力的随机模拟方法, 即 Markov Monte Carlo 方法的基本原理.第 9 章介绍以图像处理为背景的随机场与用随机迭代系统方法处理图像的方法.第 10 章是隐 Markov 模型, 这是近年来强有力的建模工具.第 11 章的内容为 Gauss 系,更多的内容是时 间序列的常用模型.第 12 章 Markov 过程, 鞅论, 随机微分方程与扩散过程,包括随机微分 方程的数值近似解法.第 13 章介绍金融数学中的证券模型与其衍生金融工具的定价.第 14 章扼要地介绍保险中的集体风险理论.第 15 章中的算法, 包括 EM 算法, 人工神经网络, 遗 传算法与自组织算法.第 16 章为离散时间的 Markov 决策的梗概.第 17 章介绍 Poisson 随 机微积分与自激点过程. 本书适合于作大学工科, 理科非数学专业, 应用数学的非概率统计方向, 医学, 心理, 经济金融等本科高年级学生和研究生的教材或参考书;也是教师, 研究人员, 工程师, 设计 师以及使用应用随机过程分析数据资料工作者的重要参考书. ii
龚光鲁,钱敏平著 应用随机过程教程 – 与在算法和智能计算中的应用 清华大学出版社,2004 <应用随机过程教程– 及其在算法和智能计算中的应用> 前言 作者在 5 年前向读者奉献了一本教科书<应用随机过程> , 它是由北京大学出版社出版 的. 那本书主要是为理科, 特别是为数学与概率统计专业学生而设计的. 该书与当时市面上 的应用随机过程教科书相比, 其长处在于着重强调随机过程在各科学领域的新的应用, 提供 了不少在应用领域中用随机过程建模的例子. 然而, 当作者之一向工科研究生与高年级本科生授课时, 发现该教材开始所涉及的内 容,以及后面章节中的个别内容颇为艰难. 顾及工科, 经济类, 管理类等领域不同读者对象 的需要, 我们想到应该更多地扩展与应用方面有关的内容哦内容,模型与概念, 甚至应该介 绍一些常用的算法, 即使有些算法不全直接出自随机过程.凡此考虑, 就成为我们再写一本 主要为工科设计的 <应用随机过程教程>教材的动机. 本书是主要为广大的工科, 理科非数学专业, 应用数学的非概率统计方向, 医学, 心理, 经济金融等诸多领域的本科生, 研究生, 教师, 研究人员, 工程师, 设计师等撰写的.在本书 中,我们并不假定读者知道测度论的知识.鉴于选用本书的对象对概率统计的了解程度与时 限很不一致, 根据读者的建议, 我们在本书中将与应用随机过程有关的概率统计的基本要点 (但并不完全概括一般概率统计课程所涉的内容), 略去其证明与概念的解释, 写成一个纲要, 作为第 1 章, 以便使用者能作 “在线的” 温习与查阅. 但是, 我们在第 1 章中所引述的内容, 在个别地方会比一般工科概率论的基本课程的要求略为超出一些, 这是为一些有余力的读 者准备的, 以便这一部分读者能得到更深一些的领会. 我们建议使用本书的教师, 不要把第 1 章放在应用随机过程课程的教学内容中, 而只把它作为学习其他章节时的参考温习材料. 由于我们希望有较宽的适应性, 本书与某些针对个别专门方向应用的应用随机过程教 科书相比, 增加了不少内容. 当然我们也舍去了, 或改写了某些经典的内容, 例如关于平稳 过程的遍历论, 二阶矩过程与宽平稳过程的谱理论等等,我们基本上并没有展开,而只作了 必要的论述.我们冀望使用本书授课的教师和自学的读者, 可以根据学生或读者自身的情况 与需要, 把本书的素材分成几个不同的层次, 选用其中的一部分或几个部分, 即尽量不要把 本书当作 ”套餐”(menu du jour), 而努力把它作为 ”点菜” (a la carte) 的菜单.在使用本书 学习时, 要学会熟悉本书的目录与符号表,经常浏览并翻阅本书最后所附的名词索引, 以便 能更好地使用 “点菜技术”. 需要强调的是, 由于作者希望本书包容一些常见的应用层面, 以及经过简化后的典型应用例子, 并由此安排分析它们的各种工具或算法, 这就使本书的某 些内容不可能完全按照一维的次序展开, 也就不可避免地会出现材料使用上的交叉.特别地, 在后面的几章中就明显地出现了这种交叉.这就使 “点菜技术” 更有必要. 本书中带 * 的部分和小字的部分, 只是用作参考与注释, 完全可以略去. 不要因为它 们而影响讲授或学习的主线. 本书的撰写原则是,着重与强调想法, 背景与思路.为了使读者更便于理解, 对于命题 与定理, 我们只给出简单的证明, 或者直观的证明, 而不追究其严格性.对于非常重要的内 ii
容, 例如 Markov 链的与初始值无关的遍历定理, 我们不吝冗余, 在各种不同的情形反复叙 述它的各种形式, 以使原来并不熟悉的读者能逐步领会其实质. 随着内容的逐步发展, 我们 也加进了一些对数学背景要求较多的一些概念与论述.对此感到不习惯或者并不需要的读者, 完全可以跳过它们, 或者代之以更直观的理解. 本书的第 1 章是复习材料.第 2 章是通向实际模拟计算的桥梁.第 3 章, 第 5 章, 第 6 章和第 12 章是基本理论.第 4 章, 第 7 章, 第 8 章, 第 9 章, 第 11 章, 第 13 章和第 16 章是 应用基本理论.第 10 章和第 15 章是应用中的最常见算法, 第 14 章是应用.第17章则是 拓广性的介绍. 更具体地,我们把本书的材料组织如下: 第 1 章是概率论与数理统计复 习.第 2 章讲述典型分布的随机数的生成方法, 这是 Monte Carlo 算法(即随机模拟算法)的 基础.第 3 章阐述随机过程的一般概念, 及独立增量过程的重要的例子, 包括 Poisson 过程, Brown 运动与离散的随机徘徊. 第 4 章介绍更新过程, 它是一种在应用中常见的计数随机 过程.在本章中, 我们以解释概念为主, 较少论及证明.第 5 章是离散时间的 Markov 链.我 们从更新序列返回的周期现象来理解 Markov 链的常返态的周期性.在本章中论述 Markov 链的极限性质时, 采取了与传统著作中不同的方法, 用转移矩阵的平均极限作为支点, 避免 了细致繁琐的讨论, 这一章的侧重点是可逆性和不变分布, 用以求非周期的正常返的不可约 Markov 链的平稳分布.由此得到的 Markov 链的遍历性定理是与 Markov 链的初始状态无关 的, 这就满足了统计物理中的 “各态历经性” 的要求.第 6 章是连续时间的 Markov 链,它 在我国学术界有一个特殊的称谓, 即所谓Q 过程.在实际应用中,连续时间的 Markov 链比 离散时间的 Markov 链更为常见.在应用问题中, 其转移概率速率矩阵Q 是常常可以实际测 量到的.在相当一般的条件下(这些条件在实际应用中总是能满足的), 可逆分布和平稳分布 所满足的方程都可以由转移速率阵 Q 表达.这一章的侧重点也是可逆性和不变分布, 用以求 时间连续的 Markov 链的平稳分布, 并得到与 Markov 链的初始状态无关的遍历性定理. 第 7 章介绍排队理论梗概.主要点是了解这类问题的提法与关心的问题.第 8 章阐述 Markov Monte Carlo 方法, 其主要功能是对非常高维数的随机向量作取样.着重介绍了 Gibbs 取样 法与 Metropolis 取样法及其理论依据.最后讲述了优化的模拟退火的基本思想.第 9 章致力 于以图像处理为背景的随机场.在叙述时间离散状态连续的 Markov 链的基础上, 简要地介 绍了用随机迭代系统方法处理图像.第 10 章论述近代在语音识别, 手写体文字识别, DNA 序列信息采挖等实际问题中广有成效的隐 Markov 模型, 分析了这种模型的优点与它在应用 中的潜力.在叙述用它建模的有效算法时, 着重指出其与 EM 算法的联系.第 11 章在论述 Gauss 系的基础上,从应用的角度阐述了时间序列的各种常用的模型, 着重于介绍算法. 第 12 章是向基本理论的回归, 其内容包括 Markov 过程, 鞅论浅介, 随机微分方程与扩散过程 的要义, 这是近年来在应用中极为活跃的建模工具.最后还提供了随机微分方程的数值近似 解法.第 13 章论及金融数学中的证券模型与其衍生金融工具的定价.特别介绍了二叉模型 与随机利率的期限结构. 第 14 章着重介绍保险中的集体风险理论. 第 15 章介绍各种算法, 主要包括 EM 算法, 人工神经网络, 遗传算法, Kohonen 自组织算法, 适应最小二乘法. 第 16 章给离散时间的 Markov 决策以一个概括性的陈述. 第17章介绍 Ito 随机微积分的推广, 主要是 Poisson 过程的随机微积分,它对处理电子学,金融经济学中的一些理论问题,是一 个很有用的工具.最后还扼要地介绍自激点过程. 为了查阅方便,本书对定理,定义,引理,命题,例子等,都采用统一的计数系统. iii
由于本书篇幅较大,我们建议一些初学的基本内容:例如,第3章,第4章的第1节, 第3.2段,第4.1段;第5章;第6章;第7章的第1节和第2节,第3.2段;第9 章的第2节; 第10章的第1节和第2节;第11章的第0节到第4节;第12章的第1 节至第3节,第4.1段. 我们把应用方面的学习内容,留给授课的教师与自学的读者, 让他们根据需要选取. 本书主要章节后面的习题是这样配置的: 第 1 章后设置一些复习题.因为第 3 章至第 6 章, 第 11 章和第 12 章是主体, 所以安排了较多的习题, 第 2 章, 第 7 章, 第 9 章也附有一 些习题, 而对第8章,第 10 章与第 13 章, 则仅有少量习题.此外,第17章也有一些习题. 本书与我们献给教育界的前一本书一样, 同样以强调应用作为宗旨. 希望应用随机过程 的思想方法,能成为各界朋友在实践与应用中帮助思维有力的工具.我们希望各界朋友能提 供反馈的意见与不同的观点, 以及适合在教学中运用的材料, 以便在本书再版时, 能够在各 界朋友的帮助下, 更上一个台阶. 以应用为背景的随机过程,已经经过了近百年的发展,从各个领域应用中萃取出的典型 模型,典型方法,在一本入门的教科书中是难以概括的.况且,哪一些材料,哪一些思想更 值得选取,也没有判断标准.作者希望自己的判断尽量与实际接近.对于应用例子,我们也 不可能写得很具体,而只指出一些思路,更多的填补与链接,需要读者自己去完成.本书撰 写的理念,是以国际前沿为目标的,在这方面,我们更需要各领域的使用者的合作. 清华大学数学科学系 龚光鲁 glgong@math.tsinghua.edu.cn 北京大学数学科学院 钱敏平 qianmp@math.pku.edu.cn iv
龚光鲁, 钱敏平著 应用随机过程教程 – 及其在算法和智能计算中的应用 清华大学出版社,2004 目录 前言 符号说明 第 1 章 概率论精要回顾与补充 1 基本框架与典型分布 1. 1 概率 1. 2 随机变量 1. 3 d 维随机向量 1. 4 独立性 1. 5 Chebyshev 不等式 1. 6 基本极限与基本极限定理(大数定律与中心极限定理) 1. 7 典型分布 1. 8 次序随机变量的分布 2 条件概率,条件分布,条件(数学)期望 2. 1 条件概率 2. 2 条件分布 2. 3 条件(数学)期望 2. 4 期望与方差的 Wald 等式 3 统计简要 3. 1 用样本作矩估计 3. 2 最大似然估计 3. 3 线性模型的最小二乘估计及其推广 习题1 第 2 章 随机样本生成法 1 一维随机数 1. 1 均匀随机变量的计算机模拟 1. 2 分布函数 F(x)的随机数 1. 3 正态随机数 1.4 Poisson 随机数 1.5 混合分布随机数 1. 6 Von Neuman 取舍原则 1. 7 Gamma 随机数与 Beta 随机数的生成 2 多维随机数 2. 1 连续型多维随机数 2. 2 离散型多维随机数 2. 3 多维正态随机数 2. 4 多维 Beta 随机数(Dirichlet 随机数)的生成 3.附录 - 用 Matlab 生成随机数 3.1 Matlab 语言的简单提示 3.2 Matlab 生成随机数的语句 习题2 v
第 3 章 随机过程的一般概念与独立增量过程 1 一般概念 1. 1 随机过程与有限维分布族 1. 2 独立增量过程 2 Poisson 过程与复合 Poisson 过程 2. 1 事故申报次数的概率模型与 Poisson 过程 2. 2 Poisson 过程与指数流的关系 2. 3 与指数流有关的一些随机变量与分布 2. 4 常见的推广 2. 5 复合 Poisson 过程 3 Brown 运动(Wiener 过程)及其函数 3. 1 历史背景与物理模型 3. 2 Brown 运动 (数学模型) 3. 3 Brown 运动的简单性质 3. 4 Brown 运动的反射原理及首达性质 3. 5 与 Brown 有关的几个简单随机过程 3. 6 漂移 Brown 运动 3. 7 几何 Brown 运动 4 简单随机徘徊 4. 1 双侧吸收壁的吸收概率 4. 2 随机徘徊的对称原理 4. 3 随机徘徊的首达时刻 4. 4 简单随机徘徊与首达时 习题3 第 4 章 更新现象及其理论 1 Stieltjes 积分 2 更新过程的概念 2. 1 作为 Poisson 过程推广的更新过程 2. 2 更新函数的更新方程 2. 3 年龄与剩余寿命 3 更新定理与更新次数的正态近似 3. 1 更新定理 * 3. 2 更新过程的正态近似 * 3.3 Blackwell 定理与主更新定理 3. 4 更新间隔为正整值随机变量的更新过程 4 更新过程的变种模型 4.1 交错更新过程 4.2 延迟更新过程 4.3 带酬更新过程 5 再生过程与其相系的更新过程 5.1 再生过程的概念 vi
5. 2 与再生过程相系的更新过程 5. 3 比例极限定理在再生过程中的应用 5. 4 存储模型的一个例子 * 6 Erlang 更新过程 6.1 Erlang 更新过程的定义 6.2 Erlang 更新过程的矩母函数 习题4 第 5 章 离散时间的 Markov 链 1 Markov 链的概念 1. 1 定义与 Markov 性质 1. 2 概率转移矩阵 1. 3 时齐的 Markov 链 1. 4 Markov 链的例 2 Markov 链的状态分类 2.1 首达分解, n 步转移概率的递推式,矩母函数, 常返性 2.2 常返性再访与 Markov 链的基本结构 2.3 平均回访时间与正常返性 3 Markov 链的转移概率的极限与不变分布 3.1 不变分布与平稳 Markov 链 3.2 有限状态 Markov 链的的不变分布与极限分布 3.3 转移矩阵的平均极限 4 Dobrushin 不等式与指数收敛性 4. 1 Dobrushin 不等式 4. 2 Dobrushin 收敛定理 5 与常返态相系的延迟更新流, 互通常返 Markov 链的极限定理 5.1 与常返态相系的延迟更新流 5.2 互通常返链的极限定理 6 停时与强 Markov 性 6.1 停时 6.2 强 Markov 性 7 禁忌概率与首达分布 7.1 禁忌概率 7.2 首达时与首达分布 7.3 禁忌概率, 首达分布与平均首达时间 8 可逆 Markov 链与可逆分布 8.1 可逆 Markov 链 8.2 例 8.3 可逆初分布存在性判别法 9 分支 Markov 链(Galton-Watson 简单分支过程) 习题5 第 6 章 连续时间的 Markov 链 (Q-过程) 1 时间连续的 Markov 链及其转移矩阵 1.1 定义与等价性叙述 vii
分享到:
收藏