第 一 章 预 备 知 识
概 率 空 间
随机试验是概率论的基本概念,试验的结果事先不能准确地
预言,但具有如下的三个特性:
)可以在相同的条件下重复进行;
每次试验的结果不止一个,但预先知道试验的所有可能
的结果;
每次试验前不能确定哪个结果会出现
随机试验所有可能结果组成的集合称为这个试验的样本空间
或基本事件空间,记为
中的元素
称为样本点或基本事件,
的子集
称为事件,样本空间
称为必然事件,空集
称为不可
能事件
由于事件是集合,故集合的运算(并、交、差、上极限、下极限、
极限等)都适用于事件
在实际问题中,我们不是对所有的事件(样本空间
的所有子
集)都感兴趣,而是关心某些事件(
的 某 些 子 集 ) 及 其 发 生 的 可
能性大小(概率)
这 样,便 导 致
代数
和
上的概率的概念
定义
设
是一个集合,
是
的某些子集组成的集合
族
如果
,则
)若
)若
,则
则 称
为
代 数(
域 )
)称为可测空间
中的元素
称 为 事 件
由定义易知:
)
)若
)若
,则
定 义
设(
是可测空间, (
) 是 定义 在
上 的 实
值函数
如 果
)任意
)
;
)对两两互不相容事件
( 当
时 ,
)有
则 称
是(
) 上 的 概 率,
)称为概率空间,
)为 事
件
的概率
由定义易知:
)
;
)若
率具有单调性;
,则
)
)一
,即 概
)设
,则
定 义
设(
)是概率空间,
,如果对任意
则 称 为独立事件族
随机变量及其分布
随机变量是概率论的主要研究对象 ,随机变量的统计规律用
分布函数来描述
定 义
设(
)是概率空间
上 的实 函 数 ,如 果对 任 意实 数
是
上 的 随机 变量
,简记为随机变量
称
为 随 机变 量 的 分布 函数
分 布 函 数
) 具有 下列 性 质:
,
)是非降函数:即当
时 ,有
(
)是 右 连 续 ,即
是 定 义 在
,则 称
;
可以证明,定义在
(
)上实值函数
,若 具 有
上述三个性质,必存在一个概率空间(
)及其上的随机变
量 ,其分布函数是
在应用中,常见的随机变量有两种类型:离散型随机变量和连
续 型 随 机 变 量
离 散 型 随 机 变 量 的概率分布用分布列描述:
,
,
,
…
其分布函数
连 续 型 随 机 变 量
的概率分布用概率密度
) 描述 ,其 分布 函
数
常见随机变量的分布参见表
下 面 我 们 讨 论 维随机变量及其概率分布
定 义
设(
) 是 概 率 空间 ,
是 定 义 在
上 的
维空间
中 取 值 的 向 量 函 数 如 果
对 于 任 意
,则 称
)为 维随机变量或 维随机向量 称
,
…
, …
,
为
,
…
)的联合分布函数
维联合分布函数
对 于 每 个 变 元
函 数;
续 的 ;
)对于每个变元
)具 有下列 性质:
)是非降
)是右连
) 对于
中的任意区域(
,其 中
,
,
…
,
可以证明,对于定义在 上 具 有 上 述 性 质 的 实 函 数
,必存在一个概率空间(
)及其上的
维 随 机 变 量
,其联合分布函数为
在应用中,常见的
维随机变量 也有两种类型 :离 散型和连续
型
若随机向量
)的每个分量
,都是离散型随 机变量,则称 是离散型随机向量
对于离散型随机向量
),其 联 合 分 布 列 为
其中
是离散集,
,
的联合分布函数
若 存 在 定 义 在 上 的非 负函 数
,
,
,对于任意(
,随机向量
)的联合分布函数
则称
是连续型随机向量,
)称 为
的联合概率密
度
和
则称
价于
定义
设
是一族随机变量,若对于任意
,有
是独立的
如 果
}是一族独立的离散型随机变量,
式 等
其中
是
的任意可能值,
如 果
}是一族独立的连续型随机变量,
式 等
价于
其中
是随机向量
… , )的 联 合 概
率密度,
)是随机变量
的 概 率 密 度 ,
独立性是概率中的重要概念 在实际问题中,独立性的判断通
常是根据经验或具体情况来决定的
随机变量的数字特征
随机变量的概率分布完全由其分布函数描述,但是如何确定
分布函数却是相当麻烦的 在实际问题中,我们有时只需要知道随
机变量的某些特征值就够了
定 义
设 随 机 变 量
的 分 布 函 数 为
, 若
为
的数学期望或均值 上式右边的积分称为
积分
则
若 是离散型随机变量,分布列
,
,
, …
若
是连续型随机变量,概率密度为
,则
随机变量的数学期望是随机变量的取值依概率的平均
定 义
设
是随机变量,若
,则 称
一
为
的 方差
随机变量的方差反映随机变量取值的离散程度
定义
设
是 随 机变 量
,则 称
为
的 协 方 差,而
为
的相关系数
,则 称
若
相关系数
随机变量的数学期望和方差具有如下性质:
不相关
表示
之间的线性相关程度的大小
) 若
维 随机 变量 (
) 的 联 合 分 布 函 数 为
)是
维 连续 函数,则
)
独 立 ,则
独 立 ,则
)
若
)若
是 常 数;
,其中
是 常 数;
,其 中
不等式)若
,则
( 单调 收敛 定理 )若
,则
引 理 )若
,则
有关的证明可参考
特征函数、母函数和拉氏变换
特 征函 数是 研究 随机 变量 分 布律 的一 个重 要工 具
由于分布
律和特征函数之间存在一一对应关系,因此在得知随机变量的特
征函数之后,就可以知道它的分布律
用特征函数求分布律比直接
求分布律容易得多,而且特征函数具有良好的分析性质
为 此 ,我
们首先介绍特征函数
定 义
设随机变量的分布函数为
(
),称
为
的特征函数
特 征 函 数
是 实 变 量
的复值函数,由于
,故 随 机
变量的特征函数必然存在
当
是离散型随机变量,分布列
则
,
,
,
…
当
是连续型随机变量,概率密度为
,则
随机变量的特征函数具有下列性质:
)
,
)在(
(
)上一致连续
)若 随机 变量
的
阶矩
存 在 ,则 的 特 征函 数
可微分 次 ,且 当
时 ,有
是 非 负 定 函 数
即 对 任 意 正 整 数
及 任 意 实 数
和 复 数
,有
)若
是相互 独立的随机变 量 ,则
…
的特征函数
)
…
其 中
是随机变量
的 特 征 函 数 ,
,
…