随机过程超详细讲义（可充当参考书）-国科大.pdf-资料库

中科院研究生院 2009～2010 第一学期随机过程讲稿孙应飞第一章随机过程及其分类在概率论中，我们研究了随机变量，n 维随机向量。在极限定理中我们研究了无穷多个随机变量，但只局限在它们之间相互独立的情形。将上述情形加以推广，即研究一族无穷多个、相互有关的随机变量，这就是随机过程。 1．随机过程的概念定义：设 ( PΣΩ , , ) 是一概率空间，对每一个参数 Tt ∈ ， ,( ωtX ) 是一定义在概率空间 ( PΣΩ , , ) 上的随机变量，则称随机变量族 X T = { ,(tX ω Tt ∈); } 为该概率空间上的一随机过程。其中 T ⊂ 是一实数集，称为指标集或参数集。 R 随机过程的两种描述方法：用映射表示， TX tX :) ,( ω T →Ω× R 即 ),( ⋅⋅X 是一定义在 Ω×T 上的二元单值函数，固定 Tt ∈ ， ⋅tX ),( 是一定义在样本空间Ω 上的函数，即为一随机变量；对于固定的 Ω∈ω ， ,( ω⋅X ) 是一个关于参数 Tt ∈ 的函数，通常称为样本函数，或称随机过程的一次实现，所有样本函数的集合确定一随机过程。记号 ,( ωtX ) 有时记为 (ωtX ) 或简记为 )(tX 。参数T 一般表示时间或空间。常用的参数一般有：（1） = NT = },2,1,0{ L 0 ；（2） L±±{=T },2,1,0 ；（3） T = ],[ ba ，其中可以取或 a 0 ∞− ，b 可以取 ∞+ 。当参数取可列集时，一般称随机过程为随机序列。随机过程{ tX ( ); Tt ∈ 可能取值的全体所构成的集合称为此随机过程的状 } 态空间，记作 S 。 S 中的元素称为状态。状态空间可以由复数、实数或更一般的抽象空间构成。例 1：抛掷一枚硬币，样本空间为 TH=Ω },{ ，借此定义：

中科院研究生院 2009～2010 第一学期随机过程讲稿孙应飞 t π ， , 当出现当出现时时 −∞∈t ( , ∞+ ) = tX )( cos   t 2  TP 2/1}{ = H T ( 其中 HP }{ = ，则{ tX ,)( −∞∈t , ∞+ )} 是一随机过程。试考察其样本函数和状态空间。例 2：设 tX )( = A cos( ,) θω + t t −∞∈ ( , ∞+ ) 其中 A 和ω是正常数， θ U )2,0(~ π 。试考察其样本函数和状态空间。例 3：设正弦随机过程{ tX ( ); } +∞<<∞− t ，其中： tX )( = A t ωcos ， ω 是常数， ]1,0[~ UA 。试求：（1）画出 )(tX 的样本函数；（2）确定过程的状态空间；（3）求 ,0=t ωπωπωπωπ ,4/3,4/ 2/ / , 时 )kt(X 的密度函数。例 4：质点在直线上的随机游动，令为质点在时刻时所处的位置，试 n nX 考察其样本函数和状态空间。例 5：考察某“服务站”在[ ],0 t 时间内到达的“顾客”数，记为 )(tN ，则 tN ({ ), ≥t }0 是一随机过程，试考察其样本函数和状态空间。若记为第 n 个 nS “顾客”到达的时刻，则{ , =nSn },2, L1 的情况以及它与随机过程{ }L,2,1 =nSn ,{ 机过程作为一个整体来研究其概率特性（统计特性）。例 6：布朗运动。 tN ( ≥t ), }0 为一随机序列，我们自然要关心的关系，这时要将两个随 2．随机过程的分类随机过程的分类一般有两种方法：（1）以参数集和状态空间的特征来分类；（2）以统计特征或概率特征来分类。我们分述如下：（一）以参数集和状态空间的特性分类：

中科院研究生院 2009～2010 第一学期随机过程讲稿孙应飞以参数集T 的性质，随机过程可分为两大类：（1）T 可列；（2）T 不可列。以状态空间 S 的性质，即 )(tX 所取的值的特征，随机过程也可以分为两大类：（1）离散状态，即 )(tX 所取的值是离散的；（2）连续状态，即 )(tX 所取的值是连续的。由此可将随机过程分为以下四类：（a）离散参数离散型随机过程；（b）连续参数离散型随机过程；（c）连续参数连续型随机过程；（d）离散参数连续型随机过程。（二）以随机过程的统计特征或概率特征分类：以随机过程的统计特征或概率特征来进行分类，一般有以下一些：（a）独立增量过程；（b） Markov 过程；（c）二阶矩过程；（d）平稳过程；（e）鞅；（f）更新过程；（g） Poission 过程；（h）维纳过程。注意：以上两种对随机过程的分类方法并不是独立的，比如，我们以后要讨论的 Markov 过程，就有参数离散状态空间离散的 Markov 过程，即 Markov 链，也要讨论参数连续状态离散的 Markov 过程，即纯不连续 Markov 过程。在下面几章中，我们将研究几种重要的、应用非常广泛的随机过程。 3．随机过程的数字特征（一）单个随机过程的情形

中科院研究生院 2009～2010 第一学期随机过程讲稿孙应飞设{ tX ( ); Tt ∈ 是一随机过程，为了刻画它的统计特征，通常要用到随机过 } 程的数字特征，即随机过程的均值函数、方差函数、协方差函数和相关函数。下面我们给出它们的定义。（a）均值函数：随机过程{ tX ( ); Tt ∈ 的均值函数定义为：（假设存在） } （b）方差函数：随机过程{ Tt ∈ 的方差函数定义为：（假设存在） } = tXE )}({ tmtX ˆ)( )( =µ tX ( ); σ 2 X tDt ˆ)( )( = X = tXE {[ )( − µ X t ( 2 })] （c）（自）协方差函数：随机过程{ tX ( ); Tt ∈ 的（自）协方差函数定 } 义为： tsC ˆ),( = X sXE {[ )( − µ X ( tXs )][ )( − µ X t ( )]} （d）（自）相关函数：随机过程{ tX ( ); Tt ∈ 的（自）相关函数定义为： } tsRX )({ˆ),( tXsXE = )}( （e）特征函数：记： , uu ( , tu ; t , , , φ X n 2 1 2 1 L L , t n ˆ) = E {exp{ tXuj [ )( 1 1 + L + tXu ( n n )]}} 称 { φ X uu , ( 1 2 , L } 为随机过程{ tX ( ); Tt ∈ 的有限维特征函数族。 , tu ; n 1 , t 2 , , t n ), t 1 , t 2 , , t n L L ∈ nT , ≥ }1 数字特征之间的关系： ˆ),( = tsC X sXE {[ )( − ( tXs )( )][ − = tXsXE )({ − µµ X s )( ⋅ X µ X )}( t ( µ X t )( )]} = tsR ),( X tDt )( )( s )( t )( µµ ⋅ − X X ttR ttC ),( ),( X = = = X X σ 2 X − [ µ X t ( )] 2 例 7：考察上面的例 1，（1）写出 )(tX 的一维分布列 X ),2/1( X )1( ；（2）写出 )(tX 的二维分布列 X( ),2/1( X ))1( ；（3）求该过程的均值函数和相关函数。

中科院研究生院 2009～2010 第一学期随机过程讲稿孙应飞例 8：求例 2 中随机过程的均值函数和相关函数。（二）两个随机过程的情形 Tt 设{ ∈ 是两个随机过程，它们具有相同的参数集， Tt ∈ 、{ tX ( tY ( ); ); } } 对于它们的数字特征，除了有它们自己的数字特征外，我们还有：（a）互协方差函数：随机过程{ tX ( ); 数定义为： Tt ∈ 和{ } tY ( ); Tt ∈ 的互协方差函 } tsC ˆ),( = XY sXE {[ )( − µ X ( tYs )][ )( − µ Y t ( )]} （b）互相关函数：随机过程{ tX ( ); 义为： Tt ∈ 和{ } tY ( tsRXY )}()({ˆ),( tYsXE = 互协方差函数和互相关函数有以下的关系： tsC ),( XY = tsR ),( XY − µµ ⋅ Y s )( X ); Tt ∈ 的互相关函数定 } t )( 如果两个随机过程{ tX ( ); Tt ∈ 和 } tY ({ ); Tt ∈ ，对于任意的两个参数 } Tts ∈, ，有或 tsR ),( XY = =tsC XY 0),( µµ Y s )( ⋅ X t )( = sXE )}({ ⋅ tYE )}({ 则称随机过程{ tX ( ); Tt ∈ 和{ } tY ( ); Tt ∈ 是统计不相关的或不相关的。 } （三）有限维分布族设{ tX ( ); Tt ∈ 是一随机过程，对于 } Nn∈∀ ， ∈∀ ti T 1( ≤≤ ni ) ，记 xxF , ( X , , tx ; n 1 , t 2 , , t n ) ≤ x 2 , L , tX ( n ) ≤ x n } L ) 2 1 2 L tXP )({ 1 ≤ tXx ( , 1 = 其全体

中科院研究生院 2009～2010 第一学期随机过程讲稿孙应飞 { xxF , ( X 1 , , tx ; , t , , t ), t , t , 2 1 2 n L Tt } ∈ 的有限维分布族。它具有以下的性质： L L n n 2 1 , t ∈ nT , ≥ }1 称为随机过程{ tX ( ); （1）对称性：对( ,2,1 xxF , ( X 1 , 2 , L tx ; n 1 , 的任意排列 ) = n xF ( X , j 1 ( 1 2 , j j L , x x , , L j 2 j , n nj t ; ) j 1 ，则有： , t , j 2 L , t j n ) nL ), t , , t 2 L nm < x , , m （2）相容性：对于，有： xxF , ( X , 1 L xxF , 2 ( X 1 = +∞ , , ; +∞ t , t L t ; 1 , 2 L , x m , t 2 , L , , t m , t m 1 + , L , t n ) L 1 , 2 ) t m 注 1：随机过程的统计特性完全由它的有限维分布族决定。注 2：有限维分布族与有限维特征函数族相互唯一确定。问题：一个随机过程{ tX ( ); Tt ∈ 的有限维分布族，是否描述了该过程的全 } 部概率特性？解决此问题有以下著名的定理，此定理是随机过程理论的基础。定理：（Kolmogorov 存在性定理）设分布函数族{ tx ; xxF , ( , , X 1 n 2 L , t 2 , , t n ), t 1 , t 2 , , t n L L ∈ nT , ≥ }1 满足以 1 上提到的对称性和相容性，则必存在唯一的随机过程 { { 限维分布族，即： xxF , 恰好是{ ∈ nT }1 L L L ), ≥ x ( t t t t t t ; , , , , , , , , , X n n n 2 1 1 2 1 2 tX ( ); }Tt ∈ ，使 tX ( ); }Tt ∈ 的有 xxF , ( X , 1 2 L tXP )({ 1 = , tx ; n , t , 2 tXx ( 1 , L ) 2 1 ≤ , t n ) ≤ x 2 , L , tX ( n ) ≤ x n } 注：定理说明了随机过程{ tX ( ); Tt ∈ 的有限维分布族包含了{ } tX ( ); Tt ∈ } 的所有概率信息。因此，研究随机过程的统计特征可以通过研究其有限维分布函数族的特性来达到。（四）两个随机过程的独立性 Tt ∈ 是两个随机过程，它们具有相同的参数集， Tt ∈ 、{ tX ( tY ( ); ); } } 设{ 任取 Nm∈,n ，以及 t t , 2 1 L , t ∈, n T ， t t , 2 ′ ′ 1 L , , t m ∈′ T ，则称 mn + 维随机向量

中科院研究生院 2009～2010 第一学期随机过程讲稿孙应飞 ( tXtX ( ), ( 1 ), 2 , L tYtYtX ( ), ), ( ( ′ 1 n ), ′ 2 L , tY ( )) ′ m 的联合分布函数： xxF , ( XY , , tx ; n , t 2 L 1 tXP )({ 1 = ≤ x 1 , , L tX ( t n n ) 2 , 1 , L ; yy , , 1 2 L tYx ) ( ′ 1 , n ≤ , ty ; n ≤ y 1 ′ 1 , , t ′ 2 , , L , L tY ( t ) ′ m ) ≤′ m y m } 为随机过程{ tX ( ); Tt ∈ } 和{ tY ( ); Tt ∈ } 的 m 维联合分布函数。 n + 如果对于任取的 Nmn ∈, ，以及任意的t 1 t, 2 ,L tn ∈, T ， t t , 2 ′ ′ 1 L , , t m ∈′ T ，随机过程{ tX ( ); Tt ∈ } 和{ tY ( ); Tt ∈ } 的联合分布函数满足： xxF , ( XY , , tx ; n , t , , t n ; yy , 1 2 , , ty ; , t ′ 2 , L yF ( Y 1 n , ′ 1 , y 2 L , t L ty , ; n ′ m ′ 1 ) , t ′ 2 , L , t ′ m ) 1 2 L xxF , ( X 1 2 = 1 2 tx ; n L t , 1 2 , L , , L , t n ) ⋅ 则称随机过程{ tX ( ); Tt ∈ } 和{ tY ( ); Tt ∈ } 是独立的。注：随机过程 { tX ( ); Tt ∈ } 和 tY ({ ); t ∈ }T 独立可以得到随机过程 tX ({ ); Tt ∈ } 和{ tY ( ); Tt ∈ } 统计不相关，反之不对。但对于正态过程来说是等价的，这一点我们以后将看到。 4．－函数及离散型随机变量分布列的δ－函数表示 δ （1）－函数（Dirac 函数）的定义及性质 δ 定义：对于任意的无穷次可微的函数 f )(t ，如果满足： ∫ 其中： ∞+ δ t )( ∞− f =tdt )( lim ∞−→ 0 ε ∫ ∞+ δ ε t )( f tdt )( δε t )( = t ,0 0,1 ε t ,0      0 < t ≤ > ε ≤ε 则称 )(tεδ 的弱极限为－函数，记为 δ )(tδ 。显然，对于任意的 0>ε ，有：

中科院研究生院 2009～2010 第一学期随机过程讲稿孙应飞 ∫ ∞+ δ ε ∞− tdt )( = ∫ 即 1 ε ε 0 td = 1 ∫ ∞+ ∞− tdtδ )( = 1 注 1 ： )(tδ 在 0=t 点的取值为 ∞ ，在 0≠t 点的取值为，并且满足 0 ∫ ∞+ ∞− tdtδ )( 1= 。注 2：工程（信号处理等）上δ－函数也称为单位脉冲函数或单位冲激函数。 δ－函数的筛选性质：若 )(t f 为无穷次可微的函数，则有： ∫ δ I t )( f tdt )( = f )0( 其中 I 是包含点 0=t 的任意区间。特殊地，有： )0( tdt )( t )( = f f ∫ ∞+ δ ∞− 更一般地，我们有： ∫ ∞+ t ( δ ∞− − t 0 ) f tdt )( = f t ( 0 ) （2）离散型随机变量分布列的δ－函数表示 xXP { } 设离散型随机变量的分布列为： X = i = p i i = L,2,1 ，则由δ－函数的筛选性质可以定义离散型随机变量的分布密度（离散型分布密度）为： X xf )( = ∑∞ i 1 = p ( δ i x − x i ) 因为，由δ－函数的筛选性质，离散型随机变量的分布函数可以表示为： X xF )( = xXP { } ≤ = p i = ∑ ≤ x x i ∞ x ∫ ∑ ∞− i 1 = p u ( δ i − udx ) i 注：工程上，常用离散型随机变量分布列的δ－函数表示法。它将离散型随机变量的分布列表示成分布密度的形式，因此与连续型随机变量的概率分布密度函数一样，可以进行统一处理。在下面的例子中我们将看到它的应用。

资料库

随机过程超详细讲义（可充当参考书）-国科大.pdf

相关推荐

课程资源

热门标签

最新资料