前三周随机过程笔记
经典学派:频率代替概率
贝叶斯学派:乘法公式,全概率公式,贝叶斯公式
样本
样本空间:一个试验的所有可能结果的集合;
事件:样本空间上的任意子集称为事件;
基本事件:掷色子,基本事件分别为点数 1,点数 2,点数 3,点数 4,点数 5,
点数 6,就是不能再分割的事件。
随机事件:掷色子点数为奇数。
乘法公式:
(
)
)
(
ABpAp
ABp
(
(
)
)
ABp
BApBp
(
(
(
/
/
CPABpAp
p
(
...
/
AAAAP
n
)
)
)
ABC
(
(
)
/
/
)
)
2
1
3
2
1
)
(
(
AAAPAApAp
2
AB
)
(
)
(
/
1
1
3
)...
(
...
AAAAP
n
/
2
1
n
)
1
概率的三大性质
1. 非负性 p(A)>=0
2. 规范性 0<=p(A)<=1
3. 可列可加性
条件概率公式:
(
BAp
/
)
(
)
ABP
/
)
(
ABP
(
)
Bp
(
)
ABP
(
)
AP
构成了完备事件组
全概率公式:
B
i
.B1
i
n
.2
B
i
B
j
i
1
(
)
Ap
(
AP
)
(
AP
n
i
1
B
i
)
n
i
1
(
ABP
i
)
n
i
1
(
BApBp
i
(
)
/
i
)
贝叶斯公式(知道结果找原因):
(
)
ABp
/
i
(
)
ABP
i
)
(
AP
i
/
)
(
(
)
BAPBP
i
n
(
(
BpBAp
i
)
/
i
i
1
)
(
Ap
i
1
i
1
p
(
...
B
2
B
n
)]
[(
BAp
1
)
BA
2
(
)...(
BA
n
)]
B
i
)
[
(
BAp
1
AB
i
)
根据有限可加性
AB
i
p
)
(
n
n
(
ABp
i
)
i
1
i
1
可列可加性可以推出有
限可加性
有限可加性在什么条件
下连续性
:
p
lim(
n
A
n
)
离散随机变量
下可以推出可列可加性
lim
n
(
Ap
n
)
1. 伯努利分布(0-1 分布)
2. 二项分布(n 重伯努利试验中事件发生的次数)
3. 几何分布(无记忆性,首次成功的概率)
4. 泊松分布(随机服务系统,超市排队)
5. 超几何分布(首次成功 k 次的概率)
连续随机变量
1. 均匀分布
2. 指数分布
对于某个>0
0
,0
x
x
,
e
x
)(
xf
0
2(
)
1
2
e
(
ux
2 2/)
2
,
x
3. 正态分布
)(
xf
4. 卡方分布
5.
6.
t 分布
F 分布
7.
),( ba
分布
8. 伽玛分布
伽玛函数:
0
(
n
(
)
)(
n
1
x
e
)!1
贝塔函数
x
dx
a
1
x
1(
x
)
b
1
dx
1
0
),(
ba
数学期望
XF
XF
(
(
)
)
(
xXp
(
xXp
)右连续
)
左连续
连续随机变量的数学期望和条件数学期望
)(
xE
yxE
(
/
)
dx
)(
xf
x
xf
(
/
yx
)
dx
离散随机变量的数学期望和条件数学期望
)(
xE
x
i
n
i
1
(
Xp
x
i
)
/0
Y
y
(*1)
xp
1
/1
Y
y
)
1
(*0
/
)
(
xp
YxE
y
1
(*1
/1
)
xp
y
Y
1
)
(
,1
xp
Y
y
1
(
)
Yp
y
(
,1
xp
x
1
1
(
xp
x
1
,1
(
xp
x
1
2
(
xp
x
1
1
y
y
*
pCp
1
n
y
pC
n
...
x
x
2
n
)
...
x
y
2
n
)1
...
x
y
n
...
)
x
y
2
n
(
)1
()1
n
y
1(
)
p
1(
)
p
yn
y
y
)
y
n
性质 1:若 x 与 y 相互独立时
YXE
XE
)
(
)
(
/
性质 2:条件数学期望的平滑性
YYXhE
/)(
(
)
)(
YXEYh
(
/
)
证明过程:
YYXhE
(
)(
YXEYh
/)(
(
/
)
y
)
YyXhE
/)(
(
y
)
条件期望代入原理
(
XYp
/3
Y
y
)
(
Xp
/3
y
Y
y
)
性质 3:双期望公式
)(
YXEyh
(
/
y
)
YXEE
(
(
/
))
XE
(
)
y
y
(
证明过程:
/
)
(
YXE
(
))
(
YGE
(
y
x
y
(
Xp
x
(
XE
x
)
x
x
x
Xxp
Xxp
(
(
Xp
)(
YG
(
YPYG
y
YXE
(
)
Ypy
)(
/
y
)
y
)
/
Yx
(
)
Ypy
y
)
,
Yx
y
)
,
Yx
y
)
x
)
对 x 的求和和对 y 的求和什么时候可以交换次序,当一致收敛的时候。
:性质
ZYYXEE
YZYXEE
YXE
/)
/)
(
)
(
)
(
(
)
/
/
/
,
,
)
y
(
ZB
,
Zy
z
/
Yx
z
/
4
YXE
(
证明过程:
(
(
/
,
/)
YZYXEE
/
(
,
)
YXE
Zy
(
(
/)
)
YZBE
y
(
x
x
z
(
Xxp
x
(
YXE
Xpx
Xxp
(
Xp
/
Yx
(
(
/
x
x
z
z
y
)
YXEE
(
(
/
,
YZy
/)
y
)
)
(
()
ZPZB
/
Yz
y
)
()
ZPz
/
Yz
y
)
,
Zy
()
ZPz
/
Yz
y
)
/
Yz
y
)
,
Yz
y
/)
(
Yp
y
)
,
Zx
,
Zx
)
(
Xg
))
2
2
(})]
xXp
)
x
2
2
2
2
/
(
(
)
)
y
,
yx
))
))
/
)
5
()
()
(
2
))
(
xgy
))
((
XgYE
xXpxX
/
xXpxXy
[
cYV
/))
)
(
))
((
/
(
(
XgYE
XYVE
XYEE
:性质
2
(
(
(
,
(
))
(
XgYE
xgy
YxXp
,
yx
(
Yp
(
)
(
cYE
({
(
xgYV
(
(
))
)(
xgYV
YV
2
)
/
(
(
xXYV
X
2
(
(
))
{
X
xXXgYE
(
xXXgYE
)(
xH
2
(
E
2
(
E
2
)
(
)]
cYE
[
(
)
xX
xXXgYE
/)
(
)(
xg
(
))
X
))
(
X
(
)(
xHE
(
/
(
XYEE
))
(
Xg
xXp
(
xg
)
2
(})]
)
/)
/)
))
)
(
)
(
[
2
x
x
(
xXxgExXYE
/)((
)
/
)
为什么要写的这么复杂,因为 X,Y 的概率分布不一定全知道。
:性质
6
)(
YV
XYVE
(
(
/
)
XYEV
(
(
/
))
性质 6 中一般 Y 是不可观测的,它的概率分布无法知道。
生存函数:
XF
(
1)
XF
(
)
(
XP
x
)
马尔可夫链
随机向量 X(w)是关于样本点的函数
X(w,t)称为随机过程,t 可能是离散的也可能是连续的。
X(t)表示在 t 时刻所处的状态。
)1(
*:
SSf
X
n
){2(
n
{
X
则
,
n
}
是马尔可夫链。
S
1
n
为独立同分布随机序列
,且
(
Xf
}1
),1
n
)(
n
,
n
X
与
,{
n
0
n
}1
相互独立,
马尔可夫链:时间和状态都是离散的,只取有限个和可列个值。
(
Xp
1
n
(
Xp
n
1
/
Xj
1
/
Xj
n
,
Xx
2
1
)
i
,...
x
2
)(
np
ij
X
n
1
x
,
X
n
i
)
n
1
将来的状态 Xn+1 的条件分布与过去的状态无关,只与现在的状态有关。比如说
明天天气预报仅仅与今天有关,与前天无关。
(
Xp
1
/
Xj
i
)
{X n
=n,
0,1,2,...}
n
n
为 Markov 链
条件概率
ijp 。
)(npij 只与状态 i,j 有关,与 n 无关时,称为时齐 Markov 链;与 n 有关时,称
的一步转移概率,记为
为非时齐的。
例 1:带吸收壁的随机游动
总共有 1,2,3,4,5 五个状态,到达状态 1 和 5 时将一直保持在该状态,在状态 2,3,4
时,分别以 q 和 p 的概率沿着直线向左和向右移动一步,则它的一步概率矩阵为:
1
q
0
0
0
p
0
q
0
0
0
p
0
q
0
0
0
p
0
q
0
0
0
p
1
例 2:带反射壁的随机游动
总共有 1,2,3,4,5 五个状态,到达状态 1 和 5 状态时不停留,反射到 2 和 4 状态,,
在状态 2,3,4 时,分别以 q 和 p 的概率沿着直线向左和向右移动一步,则它的一
步概率矩阵为:
0
q
0
0
0
p
0
q
0
0
0
p
0
q
0
0
0
p
0
q
0
0
0
p
0
例 3:总共有 1,2,3,4,5 五个状态,到达状态 1 和 5 状态时不停留,分别反射到 2
和 4 状态,,在状态 2,3,4 时,分别以 q 和 p 的概率沿着直线向左和向右移动一步,
停留在原地的概率为 r,则它的一步概率矩阵为:
0
q
0
0
0
p
r
q
0
0
0
p
r
q
0
0
0
p
r
q
0
0
0
p
0
排队论(随机排队系统)
X1/X2/X3
X1:到达过程
X2:服务过程
X3:几个窗口也就是几个服务员
G/M/1
G:到达过程服从一般的分布 Mi~F(X)
M:服务的间隔服从参数为 1/u 的指数分布,指数分布具有无记忆性。
1:只有一个窗口
设 Xn 是第 n 个顾客来到时见到系统中的顾客数
Yn 是第 n+1 个顾客来之前服务完的顾客数
假设到来过程和服务过程是相互独立的(虽然现实生活中可能并不是这样)
X
1
n
X
n
1
Y
n
则有
(系统中的顾客数+一个正在服务的顾客-)
...
n
1
1
n
1
X
1
i
n
1
)
i
1
...
i
n
...
i
1
n
...
X
1
1
X
X
1
i
1
i
1
)
)
)
i
1
n
n
1
证明{Xn,n 1}是马氏链。
(
Xp
i
1
1
n
n
(
,
Xi
Xp
(
,
Yp
Xi
n
,
(
Yp
Xi
n
(
Yp
n
(
Xp
1
n
(
Yp
n
(
Xp
,
/
Xi
Xj
n
1
/
Y
Xj
n
n
/
1
X
Xj
n
n
/
1
Xj
i
1
)
j
i
)
/
Xj
i
/
Xj
X
n
/
)
Xj
i
n
1
1
n
n
n
1
n
n
)
(
Xp
i
n
(
Xp
1
Y
n
(
Yp
n
/
Xj
n
1
n
/
Xj
n
1
X
n
,
Xi
n
1
)
i
)
j
i
n
1
,...
X
1
i
1
)
/ GM
1/
M:到来过程为泊松过程,到来的间隔为参数为的指数分布
G:服务过程服从一般分布
假设顾客依照参数的指数分布来到一个单服务员的服务中心,来客发现服务员
空着即刻得到服务,其他人排队等他们,相继的顾客的服务时间假定是独立的随
机变量。
在服务中的顾客已经服务了多长时间不知道,克服困难的方法是在顾客离去时刻
考察系统。
设 Xn 记第 n 个顾客离开时留下的顾客数
Yn 记第 n+1 个顾客接受服务期间来到的顾客数