第一章 随机过程的基本概念与基本类型
一.随机变量及其分布
1.随机变量 X , 分布函数
)(
xF
(
XP
x
)
离散型随机变量 X 的概率分布用分布列
p
k
(
XP
x
k
)
分布函数
xF )(
kp
连续型随机变量 X 的概率分布用概率密度 )(xf
分布函数
)(
xF
x
f
)(
t
dt
2.n 维随机变量
X
(
XX
,
1
,
,
nX
)
2
其联合分布函数
)(
xF
,
xxF
(
1
,
,
x
n
)
2
(
XP
1
Xx
1
,
2
x
2
,
,
X
n
x
n
),
性质:对称性、相容性
离散型 联合分布列 连续型 联合概率密度
3.随机变量的数字特征
数学期望:离散型随机变量 X
EX
k px
k
连续型随机变量 X
EX
xf
)(
x
dx
方差:
DX
XE
(
EX
)
2
EX
2
(
EX
)
2
反映随机变量取值的离散程度
协方差(两个随机变量 YX , ):
BXY
[(
XE
EX
)(
Y
EY
)]
XYE
(
)
EX
EY
相关系数(两个随机变量 YX , ):
XY
BXY
DX
DY
若
0 ,则称 YX , 不相关。
独立 不相关
0
4.特征函数
)(
tg
itXeE
(
)
离散
)(
tg
e
itx p
k
k
连续
)(
tg
itx
e
)(
xf
dx
重要性质:
g
1)0(
,
)( tg
1
,
(
tg
)
)(
tg
,
k
g
)0(
k
EXi
k
5.常见随机变量的分布列或概率密度、期望、方差
0-1分布
(
XP
)1
,
XPp
(
)0
q
EX
p
DX
pq
二项分布
(
XP
)
k
k
qpC
k
n
kn
EX
np
DX
npq
泊松分布
(
XP
k
)
k
e
!
k
正态分布
2aN
,(
)
)(
xf
EX
DX
均匀分布略
(
2
)
ax
2
2
1
2
e
EX
a
2DX
指数分布
)(
xf
,
x
e
,0
x
x
0
0
1EX
DX
1
2
6.N维正态随机变量
X
(
XX
,
1
,
,
nX
)
2
的联合概率密度
BaNX
,(
~
)
(
,
xxf
1
2
,
,
x
n
)
1
n
2
1
2
|
B
|
exp{
1
2
(
)2(
axBax
)
T
1
(
)}
a
(
,
aa
1
2
,
,
na
)
,
x
(
,
xx
1
2
,
,
nx
)
,
B
(
ijb
)
nn
正定协方差阵
1. 随机过程的基本概念与基本类型
(1) 随机过程的基本概念
(2) 随机过程的分布律和数字特征
1 求解随机过程的一维、二维分布函数 ( 或者 概率密度函数 )
2 数字特征 :均值函数 mx(t),方差函数 Dx(t),协方差函数 Cx(t1, t2) ,相关函数
Rx(t1, t2) ,特征函数 gx(u) = E{ exp( j•u•x(t) ) }
2. 平稳随机过程(宽平稳)
(1) 平稳随机过程的定义 ,根据定义判断随机过程是否平稳
(2) 平稳随机过程的相关函数性质
3. 平稳随机过程的谱分析(宽平稳)
(1) 平稳过程的总能量 ,平均功率 ,平均功率谱密度 (以下均简称 : 谱密度) 三
者的定义 ;以及这三者之间的关系
(2) 谱密度的性质
1 平稳过程的谱密度与相关函数是对应的傅里叶变换
(3) 平稳过程通过线性系统的分析
输入 X(t)是平稳过程 ,
1 均值函数 :my(t) = mx(t) * h(t) = 常数
2 相关函数 : Ry(t , t +τ) = Rx(t , t +τ)* h(τ) * h(-τ)
= Rx(τ)* h(τ) * h(-τ)
3 综合 ① 、② , 输出 Y(t) 也是平稳过程
4 功率谱密度 : Sy(ω ) = Sx(ω ) · |H(jω)|2
4. 马尔柯夫链
(1) 马尔柯夫链的定义
(2) 一步转移概率 ,一步转移概率矩阵 P ;
k 步转移概率 ,k 步转移概率矩阵 P(k) ;
及其关系 : P(k) = Pk
(3) 马尔柯夫链遍历性的判断和平稳分布的求解
5. 泊松过程
(1) 泊松过程的定义
(2) 泊松过程的基本性质
P 40
第二章.随机过程的基本概念
1.随机过程的一般定义
设
(
P
,
)
是概率空间,T 是给定的参数集,若对每个 Tt ,都有一个随机变量 X 与之对应,
则称随机变量族
TtetX
,(
),
是
(
P
,
)
上的随机过程。简记为
(
tX
Tt
),
。
含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规
律性。另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。
当 t 固定时,
),( etX
是随机变量。当 e 固定时,
),( etX
时普通函数,称为随机过程的一个样本
函数或轨道。
分类:根据参数集T 和状态空间 I 是否可列,分四类。 也可以根据 )(tX 之间的概率关系分类,
如独立增量过程,马尔可夫过程,平稳过程等。
2.随机过程的分布律和数字特征
用有限维分布函数族来刻划随机过程的统计规律性。
定义 2.2:
随机过程
(
tX
Tt
),
的一维分布,二维分布,…, n 维分布的全体称为有限维分布函数族。随
机过程的有限维分布函数族是随机过程概率特征的完整描述。在实际中,要知道随机过程的全部有限
维分布函数族是不可能的,因此用某些统计特征来取代。
(1)均值函数:
)(
tmX
)(
tEX
表示随机过程
(
tX
Tt
),
在时刻t 的平均值。
(2)方差函数:
)(
tD
X
[
(
tmtXE
)(
X
2)]
表示随机过程在时刻t 对均值的偏离程度。
(3)协方差函数:
),(
tsB
X
[(
(
tmtXsmsXE
)(
)(
))(
(
X
[
(
)]
tXsXE
)(
X
)(
tmsm
)(
X
X
))]
且有
),(
ttB
X
)(
tD
X
(4)相关函数:
),(
tsRX
[
(
tXsXE
)(
)]
(3)和(4)表示随机过程在时刻 s ,t 时的线性相关程度。
(5)互相关函数:
(
tX
Tt
),
,
(
tY
Tt
),
是两个二阶距过程,则下式称为它们的互协方差函
数。
B
YX
),(
ts
[
()(
tYsXE
X
)]
[(
(
tmtYsmsXE
)(
)(
))(
(
Y
)(
tmsm
)(
X
Y
))]
,那么
RXY
),(
ts
[
()(
tYsXE
)]
,称为互相关函数。
若
[
()(
tYsXE
)]
X
)(
tmsm
)(
Y
,则称两个随机过程不相关。
若:
(
tXETt
(
,
2))
存在,称 TX 为二阶矩过程,二阶矩过程的协方差和相关函数一定存在,且:
3.复随机过程
Z
t
X
t
jY
t
均值函数:
tm
)(
Z
EX
t
jEY
t
方差函数:
)(
tD
Z
[|
tmZE
|])(
2
Z
t
[(
(
tmZE
Z
t
())
(
tmZ
t
Z
]))
),(
tsB
Z
[(
ZE
s
协方差函数:
(
tmZsm
())
(
]))
Z
Z
t
[
ZZE
s
t
]
)(
tmsm
)(
Z
Z
相关函数:
),(
tsR
Z
[
ZZE
s
t
]
4.常用的随机过程
(1)二阶距过程:实(或复)随机过程
(
tX
Tt
),
,若对每一个 Tt ,都有
2)(tXE
(二
阶距存在),则称该随机过程为二阶距过程。
(2)正交增量过程:设
Tt
),
(
tX
是零均值的二阶距过程,对任意的
t
1
t
2
t
3
t
4
[(
(
tXE
)
2
(
tX
1
())
(
tX
4
)
(
tX
3
]))
0
,则称该随机过程为正交增量过程。
其协方差函数
),(
tsB
X
),(
tsR
X
2
X
(min(
,
ts
))
(3)独立增量过程:随机过程
(
tX
Tt
),
,若对任意正整数 2n ,以及任意的
t
1
2
t
T
,有
n
t
T
,
随机变量
(
tX
2
)
(
tXtX
),
(
1
)
(
tX
),
,
(
tX
n
3
4
)
(
tX
n
1
是相互独立的,则称
(
tX
Tt
),
)
是独立
增量过程。进一步,如
(
tX
Tt
),
是独立增量过程,对任意 t
s ,随机变量
)(
tX
)(
sX
的分布仅
依赖于 s
t ,则称
(
tX
Tt
),
是平稳独立增量过程。
( 4 ) 马 尔 可 夫 过 程 : 如 果 随 机 过 程
(
tX
Tt
),
具 有 马 尔 可 夫 性 , 即 对 任 意 正 整 数 n 及
t
1
t
2
(
tXP
)
n
n
t
T
,
(
(
tXP
)
1
x
1
,
,
(
tXx
n
1
)
x
1
,
,
(
tX
n
1
)
x
(
tX
1
n
n
1
n
)
x
(
tXP
)
0
1
,都有
)
n
(
tXx
n
n
1
)
1
x
n
,则则称
(
tX
Tt
),
是马尔可夫过程。
( 5 ) 正 态 过 程 : 随 机 过 程
(
tX
Tt
),
, 若 对 任 意 正 整 数 n 及
t
, 2
t
1
,
n ,
t
T
,
(
(
tXtX
),
(
1
)
(
ntX
)
2
) 是 n 维 正 态随 机 变 量, 其 联 合分 布 函 数是 n 维 正 态分 布 函 数, 则 称
Tt
),
是正态过程或高斯过程。
(
tX
(6)维纳过程:是正态过程的一种特殊情形。
设
为实随机过程,如果,①
t
tW ),
(
W
)0(
0
;②是平稳独立增量过程;③对任意 ts, 增
量
)(
sWtW
)(
服 从 正 态 分 布 , 即
sWtW
)(
~)(
N
,0(
2
s
t
)
2
0
。 则 称
tW ),
(
t
为维纳过程,或布朗运动过程。
另外:①它是一个 Markov 过程。因此该过程的当前值就是做出其未来预测中所需的全部信息。
②维纳过程具有独立增量。该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间
上变化的概率。③它在任何有限时间上的变化服从正态分布,其方差随时间区间的长度呈线性增加。
(7)平稳过程:
严(狭义)平稳过程:
(
tX
Tt
),
,如果对任意常数和正整数 n 及
t
, 2
t
1
,
n ,
t
T
,
t
1
, 2
t
,
,
t
n
T
,
(
(
tXtX
),
(
1
)
(
ntX
)
2
) 与 (
(
tX
1
),
(
tX
)
(
ntX
2
)
) 有 相 同 的 联 合 分 布 , 则 称
(
tX
Tt
),
是严(狭义)平稳过程。
广义平稳过程:
随 机 过 程
(
tX
Tt
),
, 如 果 ①
(
tX
Tt
),
是 二 阶 距 过 程 ; ② 对 任 意 的 Tt ,
s
X
)(
tEX
)(
tmX
t 有关。则满足这三个条件的随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程。
s
[
(
tXsXE
),(
tsR
Tt
,
;③对任意
常数
(
tR
)(
)]
,
s
)
X
,或仅与时间差
第三章 泊松过程
一.泊松过程的定义(两种定义方法)
1,设随机计数过程
是具有参数的泊松过程。
( ),
X t
0
t ,其状态仅取非负整数值,若满足以下三个条件,则称:
(
tX
Tt
),
① (0) 0
;
X
② 独 立 增 量 过 程 : 对 任 意 正 整 数 n , 以 及 任 意 的
t
相互独立,即不同时间间隔
(
tXtX
(
tX
(
tX
(
tX
(
tX
),
),
T
)
(
)
)
)
2
n
t
,
n
1
2
2
1
3
n
t
1
的计数相互独立;
③在任一长度为 t 的区间中,事件A发生的次数服从参数
t 的的泊松分布,即对任意
0
t s ,有
,
(
P X t
0
)
( )
s X s
n
e
t
(
t
n
n
)
!
n
0,1,
E X t
( )]
[
t ,
,表示单位时间内时间A发生的平均个数,也称速率或强度。
E X t
( )]
[
t
0
2,设随机计数过程
( ),
X t
t ,其状态仅取非负整数值,若满足以下三个条件,则称:
( ),
X t
t
0
是 具 有 参 数 的 泊 松 过 程 。 ① (0) 0
X
; ② 独 立 、 平 稳 增 量 过 程 ; ③
(
(
)
)
P X t h X t
P X t h X t
第三个条件说明,在充分小的时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事
( ) 1
( ) 2
( )
h o h
( )
o h
。
件同时发生,也称为单跳性。
二.基本性质
1,数字特征 (s