《概率论与数理统计》
第一章概率论的基本概念
§ 2.样本空间、随机事件
1.事件间的关系
B
A
则称事件 B 包含事件 A ,指事件 A 发生必然导致事件 B 发生
BA
xx{
或A
x
B}
称为事件 A 与事件 B 的和事件,指当且仅当 A , B 中至少有
一个发生时,事件
A
B
发生
BA
xx{
且A
x
B}
称为事件 A 与事件 B 的积事件,指当 A, B 同时发生时,事
件
A
B
发生
A
—
B
xx{
A
且
x
B}
称为事件 A 与事件 B 的差事件,指当且仅当 A 发生、 B 不发
生时,事件
A — 发生
B
BA
,则称事件 A 与 B 是互不相容的, 或互斥的, 指事件 A 与事件 B 不能同时发生,
基本事件是两两互不相容的
且SBA
BA
,则称事件 A 与事件 B 互为逆事件,又称事件 A 与事件 B 互为
对立事件
2.运算规则交换律
A
B
B
A
A
B
B
A
结合律
(
BA
)
C
A
(
CB
)
(
CBA
)
CBA
(
)
分配律
A
(
CB
)
(
A
)B
(
CA
)
A
(
CB
)
(
CABA
)(
)
徳摩根律
BA
A
—
B
BABA
§ 3.频率与概率
定义在相同的条件下,进行了
n 次试验,在这 n 次试验中,事件 A 发生的次数 An 称为事件
A 发生的 频数 ,比值
n A 称为事件 A 发生的 频率
n
概率:设 E 是随机试验, S 是它的样本空间, 对于 E 的每一事件 A 赋予一个实数, 记为 P(A),
称为事件的概率
1.概率
( AP 满足下列条件:
)
( 1) 非负性 :对于每一个事件 A
0
AP
)
(
1
( 2) 规范性 :对于必然事件 S
1)S(P
1
( 3)可列可加性 :设
AA
1
2
,
,
,
nA
是两两互不相容的事件, 有
n
P
(
A
k
)
k
1
n
k
1
AP
k
(
( n 可
)
以取 )
2.概率的一些重要性质:
( i )
(P
)
0
( ii )若
AA
1
2
,
,
,
nA
是两两互不相容的事件,则有
n
P
(
A
k
)
k
1
n
k
1
AP
(
k
)
( n 可以取 )
( iii )设 A , B 是两个事件若
A
B
,则
ABP
)
(
BP
(
)
AP
)
(
,
P
)B(
P
)A(
( iv )对于任意事件 A,
( AP
)
1
( v)
AP
(
1)
AP
(
)
(逆事件的概率)
( vi )对于任意事件 A, B 有
BAP
(
)
AP
(
)
BP
(
)
ABP
(
)
§ 4 等可能概型(古典概型)
等可能概型:试验的样本空间只包含有限个元素,试验中每个事件发生的可能性相同
若 事 件 A 包 含 k 个 基 本 事 件 , 即
A
{
e
i
]1
}
{
e
i
2
}
{
e
ki
}
, 里
i
,
1
i
,2
AP
(
)
,是,
2,1
i
k
中某
n
k
个不同的数,则有
k
1j
eP
i
{
}
j
k
n
A
S
包 含 的 基 本 事 件 数
中 基 本 事 件 的 总 数
§ 5.条件概率
( 1) 定义: 设 A,B 是两个事件,且
( AP
)
0
,称
件下事件 B 发生的 条件概率
( 2) 条件概率符合概率定义中的三个条件
ABP
)
(
|
)
(
ABP
AP
)
(
为事件 A 发生的条
。
1
非负性:对于某一事件 B ,有
ABP
)
(
|
0
。规范性:对于必然事件 S,
2
ASP
(
|
)
1
3 可 列 可 加 性 : 设
1 BB
2
,
,
是 两 两 互 不 相 容 的 事 件 , 则 有
P
(
AB
i
)
i
1
i
1
ABP
(
i
)
( 3) 乘法定理设
( AP
)
0
,则有
ABP
(
)
2
BAPBP
(
(
)
|
)
称为乘法公式
( 4) 全概率公式:
AP
)
(
n
i
1
BAPBP
(
)
(
|
i
)
i
贝叶斯公式:
ABP
)
(
|
k
(
)
BAPBP
k
n
(
|
k
)
BAPBP
i
(
)
(
|
i
)
i
1
§ 6.独立性
定义 设 A , B 是两事件,如果满足等式
ABP
(
)
BPAP
(
)
(
)
,则称事件 A,B 相互独立
定理一设 A ,B 是两事件,且
( AP
)
0
,若 A ,B 相互独立,则
ABP
)
(
|
BP
定理二若事件 A 和 B 相互独立,则下列各对事件也相互独立:
A 与
第二章随机变量及其分布
§ 1 随机变量
——
AB
与,与,
—
AB
—
B
定义设随机试验的样本空间为
S
{e}.
X
X(e)
是定义在样本空间 S 上的实值单值函数,
称
X
X(e)
为随机变量
§ 2 离散性随机变量及其分布律
1. 离散随机变量:有些随机变量,它全部可能取到的值是有限个或可列无限多个,这种随
机变量称为离散型随机变量
xXP
(
k )
p
k
满足如下两个条件( 1)
kp
0
,( 2)
kP =1
1k
2. 三种重要的离散型随机变量
( 1) 0 - 1 分布
设 随 机 变 量 X 只 能 取 0 与 1 两 个 值 , 它 的 分 布 律 是
XP
(
)k
k
p-1p
,)(
k-1
k
1,0
0
(
p
)1
,则称 X 服从以 p 为参数的 0 - 1 分布或
两点分布。
( 2)伯努利实验、二项分布
设实验 E 只有两个可能结果: A 与
—
A ,则称 E 为伯努利实验 .设
P(A)
p
(
0
p
1)
,
—
)AP(
此时
p-1
.将 E 独立重复的进行 n 次,则称这一串重复的独立实验为 n 重伯努利实验。
P
)kX(
n
k
k-n
k
qp
,
k
2,1,0
,
n
满足条件( 1)
kp
0
,( 2)
kP =1 注意到
1k
3
n
k
k-n
k qp
是二项式
(
nqp )
的展开式中出现
kp 的那一项,我们称随机变量 X 服从参数为
n, p 的二项分布。
( 3)泊松分布
设 随 机 变 量 X 所 有 可 能 取 的 值 为 0,1,2 … , 而 取 各 个 值 的 概 率 为
P
)kX(
-
k
e
k!
,
k
2,1,0
,
其中
0 是常数,则称 X 服从参数为 的泊松分布记为
)(~X
§ 3 随机变量的分布函数
定义设 X 是一个随机变量, x 是任意实数,函数
)x(F
P{X
x},
-
x
称为 X 的分布函数
分 布 函 数
xF
(
)
XP
(
x
)
, 具 有 以 下 性 质 (1)
( xF
)
是 一 个 不 减 函 数 ( 2 )
0
xF
(
1)
,且
F
(
)
,0
F
(
)
1
( 3)
xF
(
)0
xF
(
),
即
xF
(
)
是右连续的
§ 4 连续性随机变量及其概率密度
连续随机变量:如果对于随机变量
X 的分布函数 F( x),存在非负可积函数
( xf
)
,使对于
任意函数 x 有
)x(F
x
-
f
)(
t
,dt
率密度函数,简称概率密度
则称 x 为连续性随机变量,其中函数 f(x) 称为 X 的概
1 概率密度
( xf
)
具有以下性质,满足( 1)
,0)(
xf
(2)
)(
dxxf
1
;
-
( 3)
(
xP
1
xX
2
)
x
2
x
1
2,三种重要的连续型随机变量
(1)均匀分布
)(
dxxf
;( 4)若
( xf
)
在点 x 处连续,则有
)(F x,
( xf
)
若连续性随机变量 X 具有概率密度
xf
(
)
均匀分布 .记为
(2)指数分布
),( baU~X
若连续性随机变量 X 的概率密度为
)
(
xf
服从参数为 的指数分布。
( 3)正态分布
1
a-b
0
,
a
x
b
,其他
,则成 X 在区间 (a,b)上服从
x-
e
,
.
x
0
,其他
其中
0 为常数,则称 X
1
0
4
若 连 续 型 随 机 变 量 X 的 概 率 密 度 为
xf
)(
2
)
2
(
x
2
-
,
e
1
2
x
,
(,其中
)0
为常数,则称
X
服从参数为
,
的正态分布或高斯分布,记为
N~X
),(
2
特别,当
0,
1
时称随机变量 X 服从标准正态分布
§ 5 随机变量的函数的分布
定理设随机变量
X 具有概率密度
(x
-)
f ,
x
x
,
又设函数
( xg
)
处处可导且恒有
)(, xg
0
, 则 Y=
( Xg
)
是 连 续 型 随 机 变 量 , 其 概 率 密 度 为
f
Y
(
y
)
yhyhf
X
(
)
(
,
0
y
,)
其他,
第三章多维随机变量
§ 1 二维随机变量
定义设 E 是一个随机试验,它的样本空间是
S
{e}.
X
X(e)
和
Y
Y(e)
是定义在 S 上
的随机变量,称
X
X(e)
为随机变量,由它们构成的一个向量(
X ,Y)叫做二维随机变量
设 ( X , Y ) 是 二 维 随 机 变 量 , 对 于 任 意 实 数 x , y , 二 元 函 数
xF
),(
y
P{(X
x)
(Y
y)}
记成
P{X
Yx
,
y}
称为二维随机变量( X , Y)的
分布函数
如果二维随机变量 ( X ,Y )全部可能取到的值是有限对或可列无限多对,
则称( X ,
Y )是离散型的随机变量。
我们称
xXP
(
,
i
)yY
j
p
ij
,,
i
2,1j
,
为二维离散型随机变量( X, Y )的
分布律。
对于二维随机变量 ( X ,Y )的分布函数
xF
),( y
,如果存在非负可积函数 f( x,y),
使对于任意 x,y 有
xF
),(
y
y
x
-
-
f
),(
u
v
dudv
,
则称(X ,Y )是连续性的随机变量,
函数 f( x, y)称为随机变量( X , Y )的概率密度,或称为随机变量
度。
§ 2 边缘分布
X 和 Y 的 联合概率密
二维随机变量 ( X ,Y )作为一个整体, 具有分布函数
xF
),( y
.而 X 和 Y 都是随机
变量, 各自也有分布函数, 将他们分别记为
),xFX
(
5
)(
YF
y
,依次称为二维随机变量 ( X ,Y )
关于 X 和关于 Y 的边缘分布函数。
ip
p
ij
P{X
}x
i
,
2,1i
,
jp
p
ij
P{Y
}y
i
,
2,1j
,
分别称
1j
1i
ip
jp 为( X, Y )关于 X 和关于 Y 的 边缘分布律。
f X
(
x
)
),(
yxf
dy
fY
(
y
)
),(
yxf
dx
分别称
f X
)(x
,
fY
)( y
为 X ,Y 关
于 X 和关于 Y 的 边缘概率密度 。
§3 条件分布
定义设( X , Y )是二维离散型随机变量,对于固定的
j,若
{
jyYP
}
,0
则称
yYxXP
{
i
}
j
XP
{
yYx
i
,
j
}
yYP
{
j
}
p
ij
p
j
,
i
,2,1
为在
jyY
条件下
随机变量 X 的条件分布律, 同样
XyYP
{
j
X
i
}
yYxXP
{
,
i
xXP
{
i
}
}
j
p
ij
p
i
,
j
,2,1
为在
ixX
条件下随机变量 X 的条件分布律。
设二维离散型随机变量( X ,Y )的概率密度为
yxf
,(
)
,( X ,Y )关于 Y 的边缘概
率密度为
f Y
( y
)
,若对于固定的 y,
fY
)( y
〉 0,则称
,(
yxf
)
)
f
y
(
Y
为在 Y=y 的条件下 X 的条件
概率密度,记为
f
YX
( yx
)
=
,(
yxf
)
)
f
y
(
Y
§ 4 相互独立的随机变量
定义设
xF
),( y
及
(F xX
)
,
(F yY
)
分别是二维离散型随机变量( X ,Y )的分布函
数及边缘分布函数 .若对于所有 x,y 有
XP
{
,
yYx
}
{
XP
}P{Y
x
y}
,即
,{F
yx
)F(F}
Y
X x
(y)
,则称随机变量 X 和 Y 是相互独立的。
对于二维正态随机变量( X ,Y ),X 和 Y 相互独立的充要条件是参数
0
§5 两个随机变量的函数的分布
1,Z=X+Y 的分布
设 (X,Y) 是二维连续型随机变量, 它具有概率密度
,(
yxf
)
.则 Z=X+Y 仍为连续性随机
变量,其概率密度为
f
YX
)(
z
(
zf
),
yy
dy
或
f
YX
)(
z
,(
zxf
)
x
dx
又若 X 和 Y 相互独立,设( X ,Y )关于 X ,Y 的边缘密度分别为
f
X
(
),
fx
Y
(
y
)
则
6
f
YX
z
)(
f
X
(
z
y
()
Y
f
y)
dy
和
f
YX
z
)(
f
X
(
x
)
f
Y
(
z
dxx
)
这两个公式称为
f
X
, 的卷积公式
f
Y
有限个相互独立的正态随机变量的线性组合仍然服从正态分布
2,
Z
Y
X
的分布、
Z
XY
的分布
设 (X,Y) 是二维连续型随机变量,它具有概率密度
,(
yxf
)
,则
Z
Y
X
,
Z
XY
仍为连续性随机变量其概率密度分别为
f
XY
z
)(
xzxfx
)
,(
dx
f XY
(
z
)
1
x
xf
,(
)
dx
z
x
又若 X 和 Y 相互独立,设( X , Y )关于 X , Y 的边缘密度分别
为
f
X
(
fx
),
(
y
)
Y
则可化为
f
XY
z
)(
f
X
fx
)(
Y
(
xz
dx
)
f
XY
z
)(
1
x
f
X
)(
fx
Y
(
z
x
)
dx
3
M
{Xmax
及,
Y}
N
min{
YX
}
的分布
,
设 X , Y 是两个相互独立的随机变量,它们的分布函数分别为
yFxF
)(
),
(
Y
X
由于
M
{Xmax ,
Y}
不大于 z 等价于 X 和 Y 都不大于 z 故有
P{M
z}
P{X
Yz,
z}
又
由于 X 和 Y 相互独立,得到
M
{Xmax ,
Y}
的分布函数为
F
)(max
z
N
min{
YX
}
,
的分布函数为
11)(min
F
z
F
X
1)(
z
第四章随机变量的数字特征
§ 1.数学期望
zF
(
Y
)
)(
zFzF
)(
Y
X
定义设 离散型随机变量 X 的分布律为
xXP
{
k
}
p
k
, k=1,2 ,…若级数
k px
k
绝对收
1k
敛,则称级数
k px
k
的和为随机变量 X 的数学期望,记为
( XE
)
,即
XE
(
)
k px
k
1k
i
设 连续型随机变量
X 的概率密度为
( xf
)
,若积分
xf
)(
dxx
绝对收敛,则称积分
xf
(
dxx
)
的值为随机变量 X 的数学期望,记为
( XE
)
,即
XE
(
)
dxxxf
)(
定理设 Y 是随机变量 X 的函数 Y=
( Xg
)
(g 是连续函数 )
7
( i )如果 X 是 离散型随机变量 ,它的分布律为
XP
{
}x
k
kp
,k=1,2,…若
k pxg
( )
k
绝对收敛则有
)Y(E
( XgE
(
))
k pxg
( )
k
k
1
( ii )如果 X 是 连续型随机变量 ,它的分概率密度为
( xf
)
,若
dxxfxg
)(
)(
k
1
绝对收敛则
有
)Y(E
( XgE
(
))
数学期望的几个重要性质
dxxfxg
(
)(
)
1 设 C 是常数,则有
CE )
(
C
2 设 X 是随机变量, C 是常数,则有
CXE
(
)
XCE
(
)
3 设 X,Y 是两个随机变量,则有
YXE
(
)
XE
(
)
YE
(
)
;
4 设 X, Y 是相互独立的随机变量,则有
XYE
(
)
YEXE
(
)
(
)
§ 2 方差
定义设 X 是一个随机变量,若
2XEXE
{
)
(
}
存在,则称
2XEXE
{
)
(
}
为 X 的方差,
记为 D( x)即 D( x) =
标准差或均方差。
2XEXE
{
)
(
}
,在应用上还引入量
)(xD
,记为
( x ,称为
)
XD
(
)
XEXE
(
(
2
))
XE
(
2
)
2
(
EX
)
方差的几个重要性质
1 设 C 是常数,则有
(CD
)
,0
2 设 X 是随机变量, C 是常数,则有
CXD
(
2
(C)
XD
)
,
CXD
(
)
D(X)
3 设 X,Y 是两个随机变量,则有
YXD
(
)
D(X)
D(Y)
2E{(X
-
E(X))(Y
-
E(Y))}
特
别,若 X,Y 相互独立,则有
YXD
(
)
XD
(
)
YD
(
)
4
( XD
)
0
的充要条件是 X 以概率 1 取常数 E(X) ,即
XP
{
XE
(
)}
1
切比雪夫不等式 :设随机变量 X 具有数学期望
(XE
)
2
,则对于任意正数
,不等式
-XP{
}
2
2
成立
§ 3 协方差及相关系数
8