8
张诗 挂 ,朱立 新 ,赵 义 正
粒 子 滤波 算 法 研 究现 状 与 发 展趋 势
电 子 信息 对 抗 技术 ·第 25卷
2010年 9月 第 5期
中图 分 类号 :TN971.1
文 献标 志码 :A
文 章 编 号 :1674—2230(2010)05—0008—09
粒 子 滤波算 法 研究 现状 与 发展 趋 势
张诗 桂 ,朱 立 新 ,赵 义 正
(电 子工 程 学 院 ,合 肥 230037)
摘 要 :粒 子 滤 波 是 解 决 非 线 性 非 高斯 动 态 系统 最 优 估 计 问 题 的 研 究 热 点 。介 绍 了粒 子 滤 波 算
法基 本 原 理 ,分 析 了存 在 的 几 个 关键 问 题 和 解 决 方 法 ,进 而 总 结 归 纳 了 当前 15种 主 要 改 进 的
粒 子滤波 算法 ,同时介 绍 了粒 子滤 波 目前主要 应用领域 ,最后 对粒子 滤波 的发展 提 出了展 望 。
关键 词 :非线 性估计 ;序 贯 Monte Carlo方法 ;粒子 滤波
The Research Status and Developm ent Trend of Particle Filtering
ZHANG Shi— gui,ZHU Li— xin,ZHAO Yi— zheng
(Electronic and Engineering Institute,Hefei 230037,China)
Abstract:Particle filtering is investigated widely to solve optimal estim ations of nonlinear and non—
Gaussian dynamic system .The principle of particle filtering is expatiated,and its key problems and
countermeasures are analyzed.Furtherm ore,fifteen improved methods of particle filtering algorithm is
summed up. Meanwhile,applications are concluded.Finally,the prospect of particle filtering is pre-
sented.
K ey words:nonlinear estimation; sequential Monte Carlo methods; particle filtering
l 引 言
在 自动控 制 、信号处 理 、跟踪 导航及 工业生产
等领域 中 ,越 来 越多 地 遇 到 “估 计 ”问题 。 由于对
复杂 系统认识 的不 断深 化 ,以及 估 计乃 至控 制 任
务要求 的 日益 提 高 ,使 得 对复 杂 系统 的估 计 越 来
越不 能 回避非 线性和非 高斯情 况… 。传 统的扩展
Kalman滤 波器 (EKF)、高阶 EKF、迭代 EKF等方法
只能处理 弱非线 性系统及 高斯噪声 条件下 的估计
问题 。 基 于 网 格 的 逼 近 方 法 ,通 过 沿 离 散 变 量 求
和代 替积分 ,为 了得到 连 续状 态 空 问 比较 好 的逼
近 ,网格 必须 足 够 密 集 ,随 着 状 态空 间维 数 的增
加 ,计算量也 急剧 增加 。高斯 和逼近方 法 ,通过 选
择适 当的高斯 混合 个数 得 到要 求 的逼 近 精度 ,当
个 数可能 随 时 问呈 指 数 增 加 。无 味 Kalman滤 波
(UKF)方法 ,是 建立 在初 始 状 态分 布 和 系统 噪声
以及 量 测 噪声 分 布 均 为 Gauss的 假 设 条 件 下 进 行
的E2-4]。为 了有 效地处 理系统 的非线性 非高斯 问
题 ,粒子 滤波 (Particle Filter)方 法逐 渐受 到人 们 的
关 注 。粒 子滤波 过程不依 赖 于系统模 型或观测方
程 的线性程度 和 状 态 的分 布 ,克服 了以往 基 于线
性 高斯滤波 方法 的缺点 ,适 用于难 以进行 线性化 ,
难 以高 斯近似 处 理 以及 处理 后 性 能较 差 的情 况 。
粒子滤 波 以其 突 出的优 点成 为当 前非 线性估计 领
域 的一 个热 门研 究方 向 ,并取 得 了重 大进展 _5一 ¨。
2 基本 粒 子 滤 波算 法
后 验 分 布 是 多峰 值 时 ,这 种 逼 近 是很 合 理 的 ,然
粒 子滤 波是基 于序 贯重要 性采 样 (SIS)思 想 ,
而 ,很难 在线计算各 个高斯 分布权重 ,并且混 合的
通过 寻找一组 在状 态空 间传播 的 随机样本对 概率
收 稿 日期 :2010—02—09:修 回 日期 :2010—04—26
作 者 简介 :张诗 桂 (1983一 ),男 ,硕 士研 究 生 ,研 究 方 向 为非 线 性 滤 波技 术 、目标 跟 踪 ;朱 立 新 (1963一 ),女 ,副 教 授 ,硕士 生 导 师 ,研 究 方 向
为信 息 处 理 、最优 控 制 、目标跟 踪 等 ;赵 义正 (1977一 ),男 ,讲 师 ,博 士 ,研 究 方 向为 信 息处 理 、惯 性 导航 、自适 应 滤 波技 术 等 。
电子 信 息 对 抗 技 术 ·第 25卷
2010年 9月 第 5期
张 诗 桂 ,朱 立 新 ,赵 义 正
粒 子 滤 波 算 法 研 究 现 状 与发 展 趋 势
9
密度 函数 进行 近似 ,以样本 均值 代替 积分 运算 ,从
P( 0: I Y1: ):
而 获 得 状 态 最 小 方 差 估 计 的 过 程 ,是 一 种 通 过 非
参数 化 的 Monte Carlo模 拟 方 法 实 现 递 推 贝 叶 斯
p(x0: I Yl:k) ∑ 二 · ( 一 i ) (8)
‘= 1
Ⅳ
估计 的算 法 ,这 些 样 本 即称 为“粒 子 ”。随着 粒 子
其 中 6~0 为归一 化权 值 :
数 目的增 加 ,粒 子 的 概 率密 度 函数 逐 渐逼 近 状 态
的概 率密 度 函数 ,粒 子 滤波 估 计 即达 到 了最 优 贝
。c 糍等
叶斯 估计 的效果 _8 J。
2.1 最 优 贝 叶 斯 原 理
状 态 方 程 : = 一1( 一l, 一1)
量 测 方 程 :Y = h ( ,n )
(1)
(2)
采用 转移 概率 矩阵 的形式 可 描述为 :
P( ^I 一1)= I艿( 一
r
为得 到权 值递 推方 程将后 验概 率密度 函数 分
解 :
P( 0: I Y1: )=
P(Y I Y1:k-1)
P(Y l )P( I 一1)P( o: ~1 l Yl: 一1) (10)
其 中(10)式 中做 了如 下假设 :
一 l( 一1, 一1)P( 一1)dv 一l (3)
P(y l 0: ,yo: 一1)= P(Yk l Xk),
P(Y l )= I (Y 一h ( ,n )P(n ))dn (4)
r
是 马 尔 可 夫 过 程 , 一。为 系 统 噪 声 ,n 为 量 测
噪声 。k一 1时 刻 先 验 概 率 密 度 函 数 P( 一1 I
Y。: )已知 ,通 过 时间更 新 可 以求得 k时刻 先验
概率密 度 函数 :
P( l Yl:^一1)= l P( l 一1)·
r
P( 一l l Y1: 一1)d 一1 (5)
获得 k时刻 测量信 息 Y 后 ,就 可 以根 据 贝叶 斯原
理进行 测量更 新 ,获得 后验 概率密 度 函数 :
P( J o: 一1,Yo: 一1)= P( J 一1)。
将 重要 密度 函数分 解为 :
q( o: l Y1: ) = q( l 0: 一1,Yl: )·
q( 0: 一1 l Y1: 一1) (11)
则 有 :
: O)k _l
半
(12)
进一 步 假 定 q( I 0: 一1,Y1: )= q( l 一1,
Y : ),则 重要 性密 度仅仅 依赖 于 一。及 Y ,每一
步仅 需滤 波估计 P( I Y-: ),那么权 值修 改为 :
=
—
P(Y^I )P( I Yl: 一1)
lP(Y I )P( I Y1:k-1)dx (6)
— —
方 程 (5)和 (6)的 循 环 进 行 就 构 成 了基 本 的 递
Ⅳ
后 验 分 布 近 似 解 为 :
p( I Yl:k) ∑ 二 · ( 一 ) (14)
: 1
(13)
一
推 贝叶斯估 计方 法 。但 是方 程 (5)和 (6)需要 在 整
个 状 态 空 问 积 分 ,对 某 些 动 态 系 统 可 以 获 得 解 析
序 贯 重 要 性 采 样 (SIS)实 现 步 骤 如 下 :
解 ,对 非高 斯非线 性 系统 ,始 终没 有较 好 的解 决 办
已知 k一1时刻 样本 {( 一1, 一 ),i=1,2,
法 。
2.2 序 贯 重 要 性 采 样 (SIS)
…
…
, Ⅳ},当 k时 刻 测 量 值 Y 到 达 时 ,对 i=1,2,
, N :
序贯 重 要 性 采 样 方 法 由 Hammersley等 人 提
1)采 样 2~ q( I 一1,Y1: )得 到 Ⅳ个 k时
出 [ 。如 果 能 从 P( 0: l Y。: )中 抽 取 Ⅳ 个 独 立
刻 样本 :{ ,i= 1,2,… ,Ⅳ)
同分 布 的样 本 { 6: , 6: ,… , : },则 状 态 的
PDF可 以 用 经 验 分 布 逼 近 为 :
2)权 值权值 更新 :
i.计算 p( I X‘k一1)和 P(Y l )
P( 0: I Y )一 1∑ ( 0: 一 : ) (7)
¨
i : l
1
通 常 不 可 能 直 接 从 状 态 的 PDF中 采 样 ,从 一
个 容易采 样 的 已知 的重要 分 布 函数 q( 0: l Yo: )
中独 立抽 取 Ⅳ 个样 本 ,对 采 样点 加 权求 和来 近 似
计 算 0.1 = 2—1 P(Yk I Xk )·P( I Xk 一】)
q( :I
iii.归一 化权值 二 :
60k
Ⅳ
∑ 叫t
J=1
10
张 诗桂 ,朱 立新 ,赵 义 正
粒 子 滤 波算 法 研 究现 状 与 发 展趋 势
电子信 息 对 抗 技 术 ·第 25卷
2010年 9月第 5期
2.3 基本 的 粒 子滤 波 算 法流 程
SIS存 在 一个 很 严 重 的 问 题 :经 过 几 次 迭 代
粒 子滤波算 法是在 SIS算法 的基 础上 加 了重
后 ,权值 的方差 不断增 大 ,即其 中几个甚 至一个粒
采样算法 ,具体步骤 如下 ,m]:
子 的权重 很大 ,其 它粒子 的权重会 变得很小 ,几乎
步 骤 一 :初 始 化 (k = 0)
从 初 始 分 布 P( 。) 中 采 样 Ⅳ 个 样 本 :
{ ,i=1,2,… ,Ⅳ),对 应 的所 有 权 值 相 同: =
,令 k=1。
步 骤 二 :重 要 性 采 样
可 以忽 略不计 ,这就是 “权值退 化”(Weight Degen.
eracy)现象 _2 J。导 致 大量 的计 算 浪费 在对 计 算 结
果 贡献很小 却 占粒 子总数绝 大部分 的小权值粒 子
上 。权 值 退 化 程 度 可 用 有 效 样 本 数
=
轰 来度黾,通常该式无法精确计算,
1)采样 ~ q( l 一1,Y )得 Ⅳ个 时刻
采 用估计 ,r= — 来近似 ,当有效样本 数
样本 :{ ,i= l,2,… ,』)、『)。
2)计 算 出权值 :
—
—
P( I )·P( J 一I)
q _f 1 Y l II—
I 一, .
3)归一 化权值 :
~
∞ k
。。 一
∑ t
步 骤 三 :判 断 是 否 重 采 样
奸 志 ’如果
N ,则 执行 步骤 四 ;否则执行 步骤五 。
步 骤 四 :重 采 样
根据 权 值 大 小 从 粒 子 集 合 中抽 取 新 粒 子
, 满足 概率 P,( : ≮)=二{,i: 1,2,… ,
N ,并 设 置 2= , - i= 1
步 骤 五 :输 出
∑ ( )
越小 ,则退化 越 严 重。解 决 办法 是选 用 好 的重要
概 率 密 度 函数 和 重 采 样 办 法 。
3.2 选 择 重 要 概 率密 度 函数
选 择 最 优 重 要 概 率 密 度 函数 的 标 准 是 最 小 化
重 要性权 的方 差 ,从 而 限制 粒子 退化 _3 J。已经 证
明 ,最 优 的重 要 密 度 函 数 为 :q( I 一1,Y。: ):
P( l 一1,Yl: ),此时权值为: 。C叫 一l l P(Y
r
J )P( J t—I)dx ,在 给定 一 的条 件下 ,权值
方差为 0,但是 面临两个 困难 :一 是要 有从 P( I
,Yl: )采样 的能 力 ;二 是 要 对 整个 状 态 空 间
一
积分 。除 了线 性 高斯 或 有 限状 态 空 间模 型 ,这 个
积分 通常没有 解析解 。但还可 以通过 构造次优 重
要密度 函数 :把 P( l ㈦t , )近似高斯 分 布 ,
用 EKF或 UKF估计 高斯分 布作为重 要密度 函数 。
为 了 计 算 方 便 ,通 常 选 择 q( f 一1,yl: ) =
输 出一 组 粒 子 {(z , ),i= 1,2,… ,Ⅳ),
P( I 一1),此 时 = ∞ t P(Y 1 )。
并得 到当前各种 估计 。
后验 概率估 计 :
p(Xk I Yl:k) ∑ · ( 一 )
3.3 重 采 样
抑 制退化 的另 一 种办 法是 加 入 重采 样 步骤 ,
繁殖权值 大 的粒 子 ,舍 去权 值小 的粒子 ,从 而减小
权 值方差 。主要 做法 :当 < N,时 ,从后 验
状态估计:量 :∑ - i i
概率p( I Y : ) ∑ · ( 一 )中重新采
方差估计:P :∑ 二 ( 一X k)( i一互 )
样 Ⅳ次 ,根据 概率 P ( = )= 得 到新粒
步 骤 六 :当 下 一 时 刻 测 量 值 到 来 时 ,令 k=
子集 { ,i=1,2,… ,Ⅳ),同 时权 值 更 新 为m =
七+1,返 回步骤二 。否则 结束 。
。 典 型 的 重 采 样 方 法 有 :多 项 式 重 采 样 l_】。。,残
3 存 在 的 几 个 关 键 问 题 及 改 进 方 法
3.1 权 值 退 化 问 题
差 重 采 样 l1 ,分 层 重 采 样 ,系 统 重 采 样 [ ]。 文 献
[13—16]对常见 重采样 算法在 有效 性和 时 间复杂
度 等方面进 行 了对 比分 析。总 体来 看 ,分层 重采
电子 信 息 对 抗 技 术 ·第 25卷
2010年 9月 第 5期
张 诗 桂 ,朱 立 新 ,赵 义正
粒 子 滤 波 算 法 研 究 现 状 与 发展 趋 势
样和 系统重 采样 对 粒 子 顺 序 敏感 ,如果 在 重 采 样
的缺陷 ,Freitas、Doucet等研 究 人 员 尝试 用 EKF方
之前 随机地 打 乱粒 子 顺 序 ,将 会 改 变重 采 样 产 生
法 生 成 重 要 密 度 函 数 ,称 为 扩 展 卡 尔 曼 粒 子 滤 波
的新 粒子集 的分 布 。而残差 重采 样与 基本 的多 项
器 (EKF—PF) 。主 要 做法 是 :对 k一1时 刻每
式 重 采 样 方 法 一 样 ,对 粒 子 顺 序 不 敏 感 。
个 粒 子 2一】,结 合 新 观 测 值 Y 利 用 EKF方 法 求
3.4 样 本 贫 化 问题
出 k时刻 的每个 粒子 的均值 2和方差 P ,用高斯
重采样 解决 了权 值退 化 问题 ,然 而 也 带 来 了
分 布近似 重要 性分 布 :
新 的 问 题 :样 本 多 样 性 损 失 ,称 为 样 本 贫 化 (Sam.
q( I 一l,Y1: )= N( ; ,P )
ple Impoverishment)[17,18]。 其 原 因 是 ,重 采 样 时 ,复
并 从 中 采 样 ,其 它 过 程 与 SIR 滤 波 相 同 。这 种 改
制保 留了权值 大的粒 子 ,权 值小 的粒 子被剔 除 ,这
进思 路 由于充 分 利用 了新 的观测 值 ,使 得 重 要性
样导 致重 采样后 的粒 子几 乎都 是少数 几个 粒子 的
概率 分布 更 接 近后 验 概 率 分布 。但 是 ,EKF只 能
后代 ,粒子 多样 性 明显减弱 ,不 能充分 表征 后验 密
精 确到一 阶水 平 ,对 于高 度非线 性情 况 ,线 性化误
度 。 过 程 噪 声 较 小 时 ,贫 化 问 题 更 为 严 重 ,甚 至 会
差 大 。
造 成 样 本 枯 竭 ,即 经 过 几 个 反 复 变 成 只 有 一 个 点 。
3.5.3 无 迹 粒 子 滤 波 (UPF)
为 解 决 粒 子 贫 化 问 题 ,无 限 增 大 采 样 的 粒 子
由于 UKF对于粒 子均 值 和方差 P 的估 计
个数 显然 不现实 ,Gordon等 人 提 出对 每个 样 本 点
精度 比 EKF方 法 更 高 [23],Merwe等 人 提 出 使 用
增加 高斯 扰动 ,或者 每次 采样 kN 个样 本 ,再 从 中
UKF方 法 产 生 PF的重 要 性 分 布 ,称 为 Unscented
重采 样 Ⅳ个粒 子ll ,虽然 增加 粒子 的多 样性 ,但
粒 子 滤 波 器 (UPF)[24,25],其 他 过 程 与 EKF—PF相
存在 着计 算量过 大甚 至滤 波器 发散 的 问题 。
同。优点 :UKF生 成 的重 要 分 布 与 真实 的后 验概
实 际 上 ,除 了 样 本 贫 化 ,重 采 样 还 会 带 来 其 它
率 分布更 接 近 ,从而 能够 提高 采样 的质量 ,改善 滤
问题 _1 I2 。如 :粒子 之 问 不再 独 立 ,限制 了并 行
波 算法 的性 能 。缺 点 :引 入 uT算 法 使 运 算 量 急
实 现 ;简单 的收敛 性结果 不再 成立 等 。
剧 增 大 l 。
3.5 主 要 的改 进 粒 子 滤 波 器
3.5.4 辅 助 变量 粒 子 滤 波 器 (APF)
在研 究 和发展 过程 中 ,根据 SIS算法 ,粒子 滤
APF滤 波器是 1999年 由 Pitt和 Shephard_29_提
波 器得到 许 多改进 ,这些 改 进 主要 围绕 增 加粒 子
出的 ,其 基本 思想 是 在采样 之 前 ,先做 重采 样 ,利
的多样性 和重 要性 分布 函数 的选 择 ,形 成 了许 多
用 k时刻 的量测 信息 ,将 k一1时刻最 有前 途 (预
不 同 的 粒 子 滤 波 器 。 本 文 归 纳 总 结 了 15种 粒 子
测 似 然 度 大 )的 粒 子 扩 展 到 k时 刻 ,从 而 增 加 了
滤 波 器 。
粒 子 的 多 样 性 ,减 小 了 重 要 性 权 的 方 差 。
3.5.1 序 贯 重 采 样 (SIR)粒 子 滤 波 器
辅 助 粒 子 滤 波 的 原 理 :引 入 辅 助 变 量 i,选 择
SIR粒 子 滤 波 器 Il 0_主 要 包 含 两 个 方 面 :
重 要性 函数 ,满足
一 是选 用重要 密度 函数 等 于先验 概率密 度 函
q( ,i I Yl: )OC P(Y l t)P( l 一1)(u t一1
数 :
其 中辅 助变 量 i表示 k一1时刻 采样粒 子 的索引 ,
q( 1 t一1,Y1: )= P( I 一1)。
为状态 转移先 验概 率 的均值 = E[ I 一1]
二 是每 一步都 加入 重采 样步 骤 。
或 某 个 样 本 2 ~ P( I 一 )。 则 样 本
该 方法 于 1993年 Gordon提 出 ,是第 一个 可操
{ , ) 的权值 为 :
作 的 Monte Carlo滤波 器 。优 点 :计 算 简洁 ,重要 性
权 值 容 易 求 出 :∞I= P(Y I ),重 要 概 率 密 度
函数 容易采 样 。缺点 是重要 密度 函数 未包 含新 的
观测信 息 ,当观测 传感 器精 度非 常高 ,或者 观测 数
据发 生突变 ,就 可 能 导 致 滤波 的发 散 。而 且 每 一
步都 采用重 采样 ,很快 就会 导致 样本贫 化 。
3.5.2 扩 展 卡 尔 曼 粒 子 滤 波 (EKF—PF)
)
/1I)
其 中 表示 粒子 的父 代为 粒子 i。
APF算 法 步 骤 :
[{ ,叫 ) 】: APF[{
一 ) 。,Y 】
(1)i= 1:Ns
为 了有 效 利用 观 测 信 息 ,克 服 SIR滤 波 算 法
计算
12
张 诗 桂 ,朱 立 新 ,赵义 正
粒 子 滤 波 算 法研 究 现 状 与发 展 趋 势
电子 信 息对 抗 技 术 ·第 25卷
2010年 9月 第 5期
计算 (U = g(i l yl: )。C P(Yk I )(U 一1
移动 , i =(三 : 一 , ),否则 拒 绝 移 动 , : :
(2)归 一 化 权 值
一
i
x 0:k O
=
— 一
∑ ≮
= 1
(3)重 采 样
[{ ,叫t, ) ]:Resampl { , ,) 。]
其 结果是 复制似然 度 P(Y I )大 的粒子父代 索
引 i,舍 去似然度 小 的粒 子父代索 引 。
(4)采 样
j: 1:N s
采 样 ~ q(
赋予 权值 :
P( J )
P( J )
(5)归 一 化 权 值
t = 1:Ns
09
叫
— 一
∑ t
采用 MCMC方法 改进 后 ,可 以选 择 比较 容 易
采样 的分布 函数 ,同时也 改善 了滤 波 性能 。其 缺
陷就 是 由 于加 人 MH方 法 或 Gibbs方 法 ,运 算 量
大 ,实 时性成 问题 。如 何 减少 运算 量 以满 足 实 时
性 ,这将 成为粒 子滤波算 法研究 的重要 内容 。
3.5.6 正 则 滤 波 器 (RPF)
导致 粒 子 丢 失 多样 性 (Loss of diversity)的根
本原 因 :重采样 是 在离 散 分 布 中采样 而 不是 从 连
续分 布 中采样 ,经过 多次反复 之后 ,所有 粒子就 可
能都 变 为 一 个 相 同 的 值 。 为 了 解 决 这 个 问 题
Musso等提 出 了一种 改 进 的粒 子滤 波 器 :RPFL 。
和 SIR不同 的是 ,在重采 样 阶段 ,RPF从后 验 概率
P( 1 YⅢ )的近似 连续分 布 中采样 ,缓解 了粒子
贫 化 问题 。 根 据 密 度 估 计 理 论 :
p(札I Yl:k) j;(钆 J fl:k)=∑ 09~i)Kh(x 一
l ’)
该算 法在过 程 噪声较 小 时 ,采样 的粒 子更 接
近 k时 刻 的 真 实 状 态 ,从 而 可 获 得 比标 准 粒 子 滤
波更高 的滤 波精度 ;但 当过程 噪声较大 时 ,滤波 效
果不 如 SIR粒 子滤波算 法 。
其中gh( )=去K( )是尺度可调节核密度函
数 (Kernel density),h> 0为核带宽 , 为 的维
数 。K(·)为 标 准 的核 密度 函数 。文 献 [2,34]给
3.5.5 马 尔可夫 蒙特 卡 罗(MCMC)改进 策略
出了最优 核密 度 函数 和 相应 核 带宽 的选 择 ,为减
MCMC改 进 策 略 _3。I3 ]是 在 重 采 样 后 对 粒 子
少运算量 ,一般 采用 高斯 核 。
做 移动处理 ,从 而增 加粒子 的多样性 。主要原 理 :
RPF关 键 步 骤 :
对 重 采 样 后 的 每 个 粒 子 : 运 用 一 个 Markov转
移 核 函 数 KernelK( 0: I )生 成 新 粒 子 : ,
用 以 替 代 : ,核 函 数 ( 。: I 0: )满 足 :
1)计算 = —L
,
∑ ( )z
: l
如果 J7、r < N 则计算 { , )NbS 1的经验协
f K(X0: } 0: )p( o:^f yl: )dxo: = P( o: f
方 差 矩 阵 S ,并 将 它 进 行 Cholksky 分 解 ,即
Y1: ),则新 粒 子 { : )与 { : }服从 相 同 的分
e T= S
, 计算 。
布 [伸j,在 每次 SIS迭 代 中 ,结 合 MCMC使 粒 子 能
2)重 采 样 :
够移 动到不 同地 方 ,从 而可 以避 免贫化现 象 ,而且
[{ , ,一) ]= Resample[( ,cc, ,} ]
Markov链 能 将 粒 子 推 向 更 接 近 状 态 PDF的 地 方 ,
对 i= 1,2,… , 从 Epanechnikov核 或 高 斯 核 中
使样本分 布 更 合理 。MCMC有 许 多方 法 ,常用 的
采 样 e‘~ ,令 = + homDk~
有 Gibbs采 样 器 和 MH(Metropolis Hastings)方 法 。
RPF与 SIR相 比 ,因为要从核 密度 K(·)中采
MH方 法 :在 k时 刻 对 重 采 样 后 的 每 个 粒 子
样 次 ,从 而 增 加 了 复 杂 性 ,理 论 上 的 不 足 是 不
{ : ,i= 1,… ,Ⅳ),从 [0,I_上 的均匀 分 布采样
能保 证样本 都近似 表示状态 的后验 概率分 布。在
~ u[o,1],从 转 移 先 验 分 布 中 采 样 ~P(
实 际 场 合 ,当 在 过 程 噪 声 较 小 时 ,RPF比 SIR效 果
i
,妞果 n{1,
接受
好 ,可有 效缓解 重 采样 过 程造 成 的粒 子 多样 性 匮
乏 问 题 ,可 获 得 较 好 的 滤 波 精 度 。
电子 信 息 对 抗 技 术 ·第 25卷
2010年 9月 第 5期
张 诗 桂 ,朱 立 新 ,赵 义 正
粒 子 滤 波 算 法 研 究 现 状 与 发 展 趋 势
13
3.5.7 高 斯 粒 子 滤 波 器 (GPF)及 高 斯 和 粒 子 滤
生 成新 粒子 直到 似然 函数值 的 和达到某 一 门限为
波 器 (GSPF)
止 。优 点是 实现 简 单 ,缺 点 是权 值 方 差 对确 定 粒
高斯 与高斯 和粒 子滤 波属 于免 重采 样粒子 滤
子 数影 响很 大 ,而且还 会增 强粒子 间 的相关性 ,增
波 l驯 。GPF的 关 键 是 将 P( l Y1: )和 p( l
加 了 并 行 实 现 的 难 度 。 二 是 基 于 Kullback.Leibler
Y 一】)均 用高 斯 分 布 近似 。高 斯 粒 子滤 波器 3
距 离 采 样 的 PF(KLD—AdPF)[45,46],即 粒 子 数 要
采 用 粒 子 的 方 法 计 算 后 验 概 率 密 度 函 数 的 均 值 和
满 足基 于最 大似 然估计 (MLE)的样 本 与后 验概 率
方差 ,该方 法 比其 他 的 高斯 滤 波 器 对 均值 和方 差
的真值 之 间的误 差不 超过预 定 的门 限值 。这 种误
的估 计精度 更 高 ,比 EKF、UKF的均 方 误 差 更 小 ,
差 用 K—L距 离 表 示 :
比标 准 的 PF容易 执 行 ,不 需 要 重采 样 ,避免 了退
化 问题 ,可 以 采用 并 行 序 贯 采 样 算 法 (Parallel SIS
algorithm),满 足 实 时 性 的 需 要 。但 是 ,考 虑 DSS
(dynamic state space)模 型状 态 估计 中更 为 复 杂 的
概率 分布情 况 时 ,用 单一 的 高斯 分 布来 近 似 P(
l Y1: )和 P( l Y1: 一1)是 远 远 不 够 的 ,此 时 ,GPF
不 能 满 足 需 求 。 Kotecha和 Djuric借 用 高斯 和 滤
波 器 (GSF)H 的 思 想 提 出 了 高 斯 和 粒 子 滤 波
(GSPF)算法 3 。用 一 批 高斯 粒 子 滤 波器 通 过 加
权 和来逼 近 目标 后验 分 布 ,结 合 了高 斯 混合 滤 波
器 及 PF的优点 ,其 难 点 在 于 :GPF数 目和参 数 的
确 定 以及加 权系数 的更 新计算 。
3.5.8 Rao—Blackwellised粒 子 滤 波 器 (RBPF)或 边
缘 化 粒 子 滤 波 器 (MPF)【 一4o]
虽然理 想 的粒子 滤波估 计精 度 与状 态 维数无
关 ,但 在维数 较 高时 ,滤波所 需 的实 际粒子 数仍 随
着维数 的增 高而 迅速 增 长 ,PF的效率 很 低 。对某
些状 态空 间模 型 ,某些 变量 是条 件线性 高斯 模 型 ,
可用 Kalman滤 波 器得 到 条 件 后 验 分 布 ,对 另 外
部分 状态 用 PF,从 而得 到一种 混合 滤波 器 ,降低
了 PF采 样空 间 的维数 ,由于维 数 的降 低 ,所 以用
同样 的 粒 子 数 一 般 可 以 获 得 更 好 的 性 能 。 RBPF
样 本 的 重 要 性 权 的方 差 远 远 低 于 SIR方 法 的 权 的
方 差 。
K(p,g)=∑p( )l。g
-/ 一
K—L距 离 是 两 种 概 率 密 度 函 数 P 和 q之 间
不 同 程 度 的 度 量 。 KLD —AdPF 比 L—AdPF效 果
好 ,缺 点 是 实 现 较 为 复 杂 。
3.5.10 裂 变 自举 粒子 滤波 器(FBPF)
裂 变 自举 粒 子 滤 波 l4 是 对 SIR 滤 波 的 一 种
改进 ,采用裂 变繁 殖 粒 子 的方 法 代 替 重采 样 。具
体做 法是 :将 粒 子按 照权值 大小 排序 ,从 高权 值粒
子 的某种分 布 (简 单 的做 法 就 是选 用 以原 粒子 值
为均值 的一 种 高斯 分 布 )中进 行 随机 采 样 生成 新
粒子 ,覆盖 权 值小 的粒 子 。繁 殖 的子 代 粒 子数 正
比于 父代粒 子 的权 值 ,另 外 还 需 对原 粒 子 及再 生
粒子 的权 值进 行重新 分 配 。该 方法避 免 了样本枯
竭 问题 ,但 是 收敛性 问题 不能得 到很 好保 证 ,即不
能保 证粒 子都 逼近后 验 概率分 布 。
3.5.11 进 化 粒 子 滤 波 器 (EPF)
将 进化规 划 中的遗 传算法 思想 引入 粒子滤 波
算法 ,称 为进 化粒子 滤 波 (EPF)[48,49],主 要 改进 在
重采 样 之前 ,先将 预测 的粒 子 { ,i=1,2,… ,Ⅳ}
进 行 正 态 变 异 :
= + ·N (0,1)
其中 =√ ·P(Y l t)+y , 和 7 为
待定参 数 ,一般 取 = 1,7 =0;变异 后 的粒 子
3.5.9 自适 应 粒 子 滤 波 器 (AdPF)
和原 粒子通 过 比较似 然概率 密度 函数值 进行 竞争
在粒 子滤 波 器 中 ,为 了达 到 一 定 的 精度 要 求
选择 ,选 出似然 度 大 的一半 粒子 。该 算 法 能够 提
需 要 大量 的粒子数 。然 而 ,粒 子数 越多 ,则计 算代
高粒 子 的多样性 ,达 到很好 的效 果 ,但 是 由于进化
价 越 大 ,为 了 减 少 计 算 代 价 ,FOX D.提 出 了 自适
规 划 方 法 的 引 入 使 得 算 法 的 运 算 量 大 大 增 加 导 致
应粒 子滤波 器 ¨4 ,就是 自适应 改 变粒 子 数 。它 的
实 时 性 变 差 。
思想是 :当 目标 跟踪 比较 精 确 地 时候 选 择 粒 子数
3.5.12 粒 子 群 优 化 粒 子 滤 波 器 (PSO—PF)
少一 点 ,当 目标 跟踪 误 差 大 的时候 选 择 粒 子 数 多
由于重要 密度 函数 无 法选 取 最 优 ,就 有 可能
一 些 _42 J。主要方 法有 两类 :一是 基 于似 然 函数 的
导致 重要 性采 样生成 的粒 子没 有分 布在真 实状态
AdPF(L—AdPF)l , ,所 需 的粒 子 数应 能保 证 非
附近 ,迭 代几 次后 ,容易造 成样 本贫 化 。粒 子群优
归一 化似然 函 数值 的和 超 过某 一 预 定 的 门限 ,即
化 粒子 滤波器 _5。’ 刈是利 用粒 子 群优 化算 法 (PSO)
14
张 诗 桂 ,朱 立 新 ,赵 义正
粒 子 滤 波算 法研 究 现 状 与发 展 趋 势
电子 信 息对 抗 技 术 ·第 25卷
2010年 9月 第 5期
对粒子集 进行 优化 ,驱 动所 有 粒 子往 高 似然 概率
的分 布 比简 单重采样 粒子 的分布更接 近真实 的后
区域运 动 。当粒 子群 中每 个粒子 的个体最 优值 以
验概 率分布 。
及粒子群 的全局 最 优值 都很 低 时 ,说 明粒 子 没有
3.5.15 交 叉 采 样 粒 子 滤 波 器 (CSPF)
分 布 在 真 实 状 态 附 近 ,此 时 粒 子 群 开 始 优 化 ;当 粒
交 叉 采 样 粒 子 滤 波 (Cross Sampling PF)是 在
子群 的全 局最优值 符合 某 阀值 e时 ,说 明粒子 群
选择重要性 密 度 函数 时 ,混合 使 用两 种不 同 的重
已经分布 在真实状 态附近 ,那 么粒子群停 止优化 。
要 性密度 函数 ,如 UPF和 SIR混合 J,APF和 SIR
这种 方法解决 了样本 贫 化 问题 ,提 高 了每个 粒 子
混 合 _5 ,达 到性能 互相弥 补 。交叉 采样 有两 种转
的作 用 ,从 而降低 了所 需要 的粒 子数 。
换 方法 :一 种是硬性 转换 ,一 种是软 性转换 。硬性
3.5.‘l3 人 _Y-鱼群 优 化 粒 子 滤 波 器 (AFS—PF)
转换 是 :当估 计方差 大于设 定 门限时 ,选择估计 精
人 工鱼群算 法是通 过更新方 向和步 长寻找食
度较 高但运 算 量较 大 的 UPF或 APF的重 要 性 密
物 的高浓 度区域 ,若 当前 位 置 食物 浓 度小 于感 知
度 函数 ,当估计 方差小 于 门限时 ,选择计 算简单 的
位置 的食 物 浓度 ,则 向该 方 向 前进 ~ 步 ,若 不 满
SIR的重 要密 度 函数 。软 性 转 换是 :根 据 估 计方
足 ,则 随 机 移 动 一 步 ,直 到连 续 几 次 均 方 误 差 小 于
差 大 小 ,动 态 地 选 择 从 不 同 的 重 要 性 密 度 函 数 中
预期误差 ,或迭 代 次数 限制 而 终 止。把 鱼 当成 粒
采 样 的粒子数 。如 当方差 大 时 ,从 UPF或 APF的
子 ,高 似 然度 当成 浓 度 ,鱼 群算 法 融 人 到 粒 子 滤
重 要密度 函数 中采 样 的粒 子 数 多 ,从 SIR中采 样
波 ,粒 子 集 通 过 似 然 函 数 调 节 自己 不 断 向 真 实 状
的粒 子 数 少 ,粒 子 随 着 方 差 变 小 逐 渐 平 滑 过 度 到
态值移 动 ,即人 工鱼群 优化粒 子 滤波器 l5 。浓 度
从 SIR 中采 样 。
函数定义为:Y:exp[一去 ( 一;) ],其中 为
最新 观测值 ,;为 预测 值 。则 粒 子 通过 比较 浓 度
4 应 用
函数 不断更新 自己向真实状态 靠近 :
4.1 目标 跟踪
互
,
。
: 互 . 一
+r。nd·s·__厂
对 目标 进行定 位和跟 踪是典 型的动态 系统状
态 估 计 问 题 ,涉 及 到 车 辆 、移 动 机 器 人 、火 箭 和 导
其 中 :互 1为 k一 1时刻 对 k时 刻 的 预 估 值 ;
弹等 多种现象 ,都是非 线性 、非 高斯环 境 ,因此 ,粒
互
. … 为低 似然度 的估值 向相对 高 似然 度对 应 值
子滤 波算法得 到 了广 泛应用 。粒子滤 波用于 目标
移动后 的新 预估值 。然后再 对粒子用 最新观 测值
跟踪 的成果表 明 ,粒子滤 波能较 好处理测 量断续 、
作 权值更新 。
群 目标 跟踪 、雷 达跟踪多 路径等传 统难题 ,因此它
该方法在局 部 极值 不 是很 严 重 的情 况 下 ,可
是 目标跟踪 中非线性 问题 的数学支 撑工具之 一 。
以解 决粒子权值 退化 问题 ,提 高粒 子利用效 率 ,节
4.2 状 态 监视 与 故 障诊 断
省计算 时间 ,增强 系统鲁棒 性 ,从 而使得粒子 滤波
状 态 监 视 的 实 质 是 状 态 的 在 线 估 计 ,故 障 诊
对粒子量 需求大不 再成为 困难 。
断是一定 准则 下 的状 态 异 常检 测 .文献 [56]研究
3.5.14 权 值 优 化 组 合 粒 子 滤 波 器 (OCRPF)
了 采 用 粒 子 滤 波 方 法 对 复 杂 工 业 过 程 中 的 热 交 换
权值优化 组 合粒 子滤 波 器 是 对 简 单 重 采
器 特征参数 ,结合 EM算法 进行 辨识 ,获 得 了满 意
样 算 法 的 一 种 改 进 ,通 过 对 被 复 制 的 粒 子 和 被 抛
的实 时 控 制 效 果 ;文 献 [57]给 出 了 粒 子 滤 波 在 汽
弃 的粒子 进行 一定 的线性 组合 来 产 生新 的粒 子 ,
车辅助 避碰 系统 中的应 用 ;文 献 [58]研 究 了不 完
= +KL(z。一 ),其 中 是产 生 的新 粒子 ,
全量测 信息下 非线性模 型采用 粒子滤 波进行人体
是重采样 时采 到 的粒 子 , 。是 被抛 弃 的粒 子 ,
行为异 常检 测 ,并 以机 场停 机 坪 旁行 人 的异 常行
K为步长 系数 , 为 ( 一 )方 向的合适 步 长。
走路 线为例 ,说 明 了采 用粒 子 滤波 方 法处 理 判定
通 过调节 产生不 同的新粒 子 ,比较新 粒子 和
状 态“缓慢 ”变化 的有效性 。因此 ,在非线性 、非高
当前 复制 的粒子 的权值 ,选 择权 值大 的新 粒子
斯条件 下 ,粒 子滤 波 在状 态 监视 与 故 障检测 中的
来代替 复制 的粒 子 ,从 而避免粒子 的重复选 取 ,增
应 用 具 有 重 要 的 现 实 意 义 。
加 了粒子 多样性 ,并 且这 种 组合 能使 得 到 的粒 子
4.3 计 算 机 视 觉
电 子 信 息对 抗 技 术 ·第 25卷
2010年 9月 第 5期
张 诗桂 ,朱 立 新 ,赵 义 正
粒 子 滤 波算 法研 究现 状 与 发 展 趋 势
15
复杂 背景 下 ,在 目标 运 动 区域 提 取 目标 和 目
5)粒 子滤 波 方 法 的计 算 量 相 当 繁重 ,在 估 计
标 被 障碍物 遮挡使 测量 数据 出现 断续 现象是 图像
精度 满足 要求 的情 况下 ,减 少计 算量 ,提高粒 子滤
跟 踪 的难 点 ,对于 上述 问题 ,采用粒 子 滤波算 法 实
波实 时性 ,仍有 待于 今后深 入 的研究 。
现 目标 的轮廓 跟 踪 已成 为计 算 机 视 觉 的研 究 、发
6)将 粒 子 滤 波 算 法 与 现 有 的 其 它 滤 波 算 法 、
展 趋 势 。
4.4 金 融领 域 数 据分 析
现代 优化算 法 相结合 ,提高 粒子 滤波性 能 ,解 决更
加 复杂 的问题 ,从 而 拓展具 体应 用领 域 。
金融 领域 的很 多 问题都 可归结 为模 糊 随机 系
统估 值 问题 。粒子 滤波算 法 在计算 模 型参数 方 面
参 考 文 献 :
存 在 明显 的优势 ,因此 ,对 于处理 基于 随机 波动模
[1] 梁 炎 ,潘 泉 .复 杂 系统 的 现代 估 计 理 论 及 应 用 [M].
型和风 险估值 的金 融数 据有 着 良好 的应 用前 景 。
北 京 :科 学 出版 社 ,2009.
4.5 粒 子 滤 波 用 于参 数 估 计 与 系统 辨识
12 J ARuL~MPAI|AM M S,MASKELL S,GORDON N J,et
粒子 滤波 是估计 现代 复 杂非线 性模 型 中未知
a1.A Tutorial on Particle Filters for Online Nonlinear/Non
参数 的普 遍工 具 ,将 系 统 参数 视 为 随机 变量 进行
建 模 ,在 这些 系统 中 ,首先 将 系统分 为线 性部 分 和
非 线 性 部 分 进 行 处 理 ,拓 宽 了 粒 子 滤 波 在 更 复 杂
系统 的 应 用 范 围 ,同 时 也 减 少 了 那 些 用 线 性 滤 波
可 以处 理 的 变 量 。
— Gaussian Bayesian Tracking【J j.IEEE Trans on Signal
Process,2002,50(2):174—187.
13 J CAPPE B 0,GODSILL S J,MOULINESE.An Overview of
Existing M ethods and Recent Advances in Sequential Monte
Carlo[Jj.IEEE Proceedings,2007,95(5):899—921.
14 J JULIER S J,UHLMANN J K. A New Extension of the
除此 以外 ,粒 子滤 波在语 音信 号处 理 、生物学
Kalman Filter to Nonlinear Systems [c]// Proc of
与生物 化学 、地球 科学 等领域 中也 有相 关应 用 。
Aerosense: The 1 lth Int. Symp on Aerospace/ Defense
5 结 论 和 展 望
Sensing,Simulation and Controls,1997: 182— 193.
[5] 胡 士 强 ,敬 忠 良 .粒 子 滤 波算 法综 述 [J].控 制 与 决
策 ,2005,20(4):361—365.
粒 子滤 波方 法作 为一种 基 于贝 叶斯估计 的非
[6] 杨 小 军 ,潘 泉 .粒 子 滤 波 进 展 与 展 望 [J].控 制 理 论
线 性 滤 波 算 法 。 在 处 理 非 高 斯 非 线 性 时 变 系 统 的
与 应 用 ,2006,23(2):261—265.
参 数 估 计 和 状 态 滤 波 问 题 方 面 有 独 到 的 优 势 ,因
[7] 程 水 英 ,张 剑 云 .粒 子 滤 波 评 述 [J].宇 航 学 报 ,
此获 得 了很 大 的发展 。但 由于粒 子滤 波是 近年 来
2oo8,29(4):1099一 l109.
出现 的新算 法 ,算 法本 身还 不很 成熟 ,仍有 大量 的
问题 需要解 决 ,主要 体现在 以下 几个 方面 :
1)权值 退化 和样本 贫化 一直 是粒 子滤 波算 法
的重 要 问题 ,如 何 有 效地 克服 是 粒 子 滤 波算 法 改
进 和 发 展 的 重 点 。
[8] 李 铫 ,刘 文 .基 于 粒 子 滤 波 器 的 非 线 性 估 计 方 法
[J].现代 电 子 技术 ,2009,291(4):141—144.
[9] 杨 小 军 .基 于 粒 子 滤 波 的 混合 估 计 理 论 与 应 用 [D].
西 安 :西北 工业 大 学 ,2006.
[10] GORDON N J,SALMOND D J,SMITH A F M.Novel
Approach to Nonlinear/ Non— Gaussian Bayesian State
2)如何 选 择 重 要 密 度 函数 问 题 。理 论 最 优
Estimation~j].IEE Proceedings— F,1993,140(2):
的重要 密度 函数无 法 应 用 ,实 现 困 难 。如何 寻找
107一 ll3.
更 有效 的次优 的重 要密 度 函数 。
[11] LIU J S,CHEN R.Sequential Monte Cado Methods for
3)改进 重 采 样 方 法 。 目前 的重 采 样 算 法 带
Dynamic Systems[J].Journal of the American Statistical
来 了许 多 问 题 :样 本 贫 化 、粒 子 不 再 独 立 、限 制 并
行 实 现等 。如何进 行更 有效 地重 采样 或寻 找更有
效 的免 重采 样算 法也是 今后 发展 的一 个重 点 。
4)收敛 性 问题 ,各 种改 进方 法 都是 为 解决 某
一 方 面问题 而牺 牲 其 他 方 面 的代 价 ,最 终 该 粒 子
Association,1998,443 (93):1032— 1044.
[12] DOUCET A,GODSILL S J,ANDRIEU C.On Sequential
Monte Cado Sampling Methods for Bayesian Filtering[J].
Statistics and Computing,2000,lO(3):197—208.
[13] DOUC R,CAPPE O.Comparison of Resampling Schemes
for Particle Filtering[C]//Proceedings of the 4th Inter—
滤 波 器 的 收 敛 性 能 好 不 好 ,如 何 检 验 判 别 ,将 需 要
national Symposium on Image and Signal Processing and
继 续 研 究 和 完 善 。
Analysis.2005:64 —69.