第1页 / 共7页
第2页 / 共7页
第3页 / 共7页
第4页 / 共7页
第5页 / 共7页
第6页 / 共7页
第7页 / 共7页
基于EM算法的极大似然参数估计探讨.pdf
第 !" 卷 第 # 期
"**" 年 +" 月
河南大学学报（ 自然科学版）
,%-./0& %1 23/0/ 4/563.7589（ )08-.0& :;53/;3）
$%&’ !"( )%’ #
<3;’ "**"
基于 => 算法的极大似然参数估计探讨
（+’ 河南大学计算机与信息工程学院，河南 开封 #?@**+；"’ 中国科学院自动化所模式识别国家重点实验室，北京 +***A*）
孙大飞+，陈志国+，刘文举"
摘( 要：首先介绍了 => 算法，然后研究了基于 => 算法的混合密度极大似然参数估计，最后利用计算机仿真验证
了此算法的收敛性和有效性’
关键词：参数估计；似然函数；极大似然参数估计；完全数据似然函数；=> 算法
中图分类号：(
(
( 文献标识码：B
文章编号：+**! C #D?A（"**"）*# C **!@ C *?
!"#$%##"&’ &( )*+",%, -"./0"1&&2 3*4*,/5/4 6#5",*5"&’ 7*#/2
8’ 6) 90:&4"51,
:4) <0E135+ L I2=) MN5EO-%+ L PQ4 R3/ES-"
T +! "#$%&%’%( )* +),-’%(. /#0 "#*).,/%&)# 1#2&#((. 4(#/# 5#&6(.$&%73 8/&*(#2 #?@**+3 4(#/# +9&#/:
"! ;/%&)#/< =/>)./%).7 )* ?/%%(.# @(A)2#&%&)# "#$%&%’%( )* B’%),/%&)# +BC3 D(&E +***A*3 +9&#/U
9;#54*$5< Q/ 8N57 V0V3.L W3 5/8.%X-;3 8N3 3773/;3 %1 8N3 0&O%.58NYL 78-X9 8N3 Y38N%X %1 Y5Z8-.3 X3/758537 V0.0Y383.
3785Y085%/ [073X %/ => B&O%.58NYL 0/X O563 0 ;%YV-83. 3Y-&085%/ 3Z0YV&3 8% 5&&-78.083 ;%/63.O3/;3 0/X 60&5X589 %1 =>
0&O%.58NY’
=/> ?&42#< V0.0Y383. 3785Y085%/\
&5]3&5N%%X 1-/;85%/\ Y0Z5Y-Y &5]3&5N%%X V0.0Y383. 3785Y085%/\
5/;%YV&383 X080
&5]3&5N%%X 1-/;85%/\ => 0&O%.58NY
*( 引言
由于极大似然估计［+，"，# ^ D］的渐进最优性质，它已经成为参数估计的一种常用方法，并且已经在众多领
域中广泛得到应用，例如系统辨识、语音处理、图像处理及模式识别等等’ 但是，对于似然函数方程的求解却
没有一般的理论方法，而实际应用中还主要借助于数字最优化方法’ 似然函数最大化可以通过梯度方法实
现，这往往要求似然函数有较好的解析性质，但在大多数情况下很难满足这种要求，因此必须寻求别的解决
方法，正是在这种情况下，人们提出了 => 算法［# ^ F］
’ => 算法主要用于非完全数据参数估计，它是通过假设
隐变量的存在，极大地简化了似然函数方程，从而解决了方程求解问题’ 对于一些特殊的参数估计问题，利用
=> 算法可以较容易地实现’
+( 极大似然估计
极大似然估计是一种常用的参数估计方法，它是以观测值出现的概率最大作为准则’
设 F 为连续随机变量，其分布密度函数为 -（ F G !），! H ｛!+
，…!I
｝，这个密度函数由参数 ! 完全决定! 已
知 ; 个观测值 F+
，…F;
，假设它们是从分布密度为 -（ F G !）的总体中独立抽取的! 记 J H ｛F+
-（ J G !） H ;
;
& H +
-（ F& G !）< =（ ! G J）!
，…F;
｝，则
（+! +）
( 收稿日期："**"E*DE!*
( 基金项目：国家自然科学基金（F*+?#*++）、河南省杰出青年科学基金（*!+"**+D**）、河南省高校杰出人才创新工程项目
（"**"GHIJ**?）
( 作者简介：孙大飞（+D?F C ），男，硕士生 K
˝
•
‰
˚
!"###
河南大学学报（ 自然科学版），$%%$ 年，第 !$ 卷第 & 期
函数 !（ ! " #）称为似然函数$ 当 # 固定时，!（ ! " #）是 ! 的函数$ 极大似然参数估计的实质就是求出使 !（ ! "
#）达到极大时 ! 值，即
其中 " 表示参数空间$ 为了便于求出使 !（ ! " #）达到极大的 %!，通常对式（,$ ,）两边取对数，即
"
%! & ’() *’+
!（ ! " #），
将式（,$ !）分别对 !(
-.（ !（ ! " #）） & 7
( & ,
求偏导，令偏导数等于零，得方程组
’
-.（ )（ *( " !）），
-.（ !（ ! " #）） & %，( & ,，…，+，
#
#!(
（,$ $）
（,$ !）
（,$ &）
求解方程组（,$ &），可以得到极大似然估计值 %!$
但是，极大似然估计存在的问题是，对于许多具体问题不能构造似然函数解析表达式，或者似然函数的
表达式过于复杂而导致求解方程组（,/ &）非常困难，因此须借助于其它方法/ 下面将要介绍的 01 算法就是
实际应用中的一种有效方法/
$# 01 算法
01 算法是进行极大似然估计的一种有效方法，它主要应用于下面两种非完全数据参数估计：第一，观
测数据不完全，这是由于观测过程的局限性所导致；第二，似然函数不是解析的，或者似然函数的表达式过于
复杂从而导致极大似然函数的传统估计方法失效，第二种情况在模式识别中经常遇到$
假设 # 是服从某一分布的非完全观测数据集，且存在一个完全数据集 , &（ #，-），则 , 的密度函数为
（$$ ,）
# 从式（$$ ,）可以看出，密度函数 )（ . " !）是由边沿密度函数 )（ * " !）、隐变量 / 的假设、参数 ! 初始估计
)（ . " !） & )（ *，/ " !） & )（ / " *，!）)（ * " !）$
#
值以及隐变量与观测变量之间的关系决定$
下面讨论密度函数 )（ . " !）的具体形式$
由式（$/ ,）给出的密度函数可以定义一个新的似然函数
称此函数为完全数据似然函数$ 由于隐变量 - 未知，因此似然函数 !（! " ,）是随机的，且由隐变量 - 所决定$
01 算法的第一步 0 2 3456：即给定观测 # 和当前参数估计值，计算完全数据对数似然函数 -7) )（ #，- "
!（ ! " ,） & !（ ! " #，-）< )（ #，- " !），
（$$ $）
!）关于未知数据 - 的期望$ 为此，定义对数似然函数的期望
0（ !，!( 1, ） & 2［ -7) )（ #，- " !）" #，!
（ ( 1,）］，
（$$ !）
其中 !( 1, 为已知的当前参数估计值$
在式（$$ !）中，# 和 !( 1, 为常数，! 为待优化的参数$ - 为一随机变量，并假设它服从某一分布 3（·），
因此，式（$/ !）可写为
/ 4 3（ / " #，!( 1, ），
0（ !，!( 1, ） & 2［ -7) )（ #，- " !）" #，!
（ ( 1,）］
& (/’5
-7) )（ #，/ " !）3（ / " #，!( 1, ）8/，
（$$ &）
（$$ 9）
其中 3（ / " #，!( 1, ）是不可观测数据 - 的边沿分布密度函数，并且依赖于观测数据 # 和当前参数 !( 1, ，5 为 / 的
取值空间$ 在一些特殊情况下，边沿分布 3（ / " #，!( 1, ）是 # 和 !( 1, 的简单解析函数，但通常这个函数很难得
到$ 由乘法公式，得
（$$ "）
由于因子 3（ * " !( 1, ）与 ! 无关，所以在实际问题处理中，用 3（ /，# " !( 1, ）代替 3（ / " #，!( 1, ）不影响式（$$ 9）中
似然函数的最优化$
定义二元函数
3（ /，# " !( 1, ） & 3（ / " #，!( 1, ）3（ # " !( 1, ）$
6（ !，-）< -7)!（ ! " #，-），
（$$ :）
其中 / 服从某一分布 3-
（ /）$ 那么
˝
•
‰
˚
孙大飞，等：基于 !" 算法的极大似然参数估计探讨
#$%%%
（’( (）
［ #（ !，"）］是关于 ! 的函数，以通过简单的最优化方法得到参数 ! 的估计值 )!( 期望值
［ #（ !，"）］ $ (%
!"
（ %）&% < ’（ !）(
#（ !，"）&"
从式（’( (）可知 !"
［ #（ !，"）］的计算也就是 !" 算法的 ! ) *+,-(
!"
!" 算法的第二步 " ) *+,-：最大化期望值 *（ !，!+ ,. ），即找到一个 !
（ +），满足
其中 " 代表参数空间(
（ +）
!
$ /01 2/3
"
*（ !，!+ ,. ），
（’( 4）
!" 算法是一种迭代算法，每一步迭代都能保证似然函数值增加，并且收敛到一个局部极大值［5］
6
#% 混合密度参数估计
，…，./
设样本集 - $ ｛..
｝，每个样本的类别未知，但可以知道它们是从混合密度为
0（ .，!） $ 7
1
+ $ .
（ . 2 !+
#+ 0+
）
（#( .）
的总体中独立抽取的，其中参数 ! $（ #.
，…，#1
，!.
，…，!1
#+ $ .( 观测样本对数似然函数表达式为
781（ 3（ ! 2 -））$ 781;
0（ .+ 2 !） $ 7
781 0（ .+ 2 !）
/
+ $ .
1
），且7
+ $ .
/
+ $ .
/
$ 7
+ $ .
1
(
781 7
4 $ .
（ .+ 2 !4
#404
)） (
（#( ’）
极大似然估计就是求使式（#( ’）中的函数 3（ ! 2 -）达到极大时参数 ! 的值( 最大化这个似然函数是很困难
的，因为它包含和式取对数( 在第二节中已经提到，通过假设隐变量的存在可以大大简化似然函数方程的求
解( 下面讨论基于 !" 算法的混合密度参数估计问题(
假设 - 为非完全数据，并且存在一个不可观测的数据 " $ ｛%+
｝/
+ $ .
，它的取值表示某一个观测数据来自某一
类，由此隐变量假设可知，%+ ’｛.，…，1｝，%+ $ 5 表示第 + 个观测数据属于第 5 类( 如果知道 % 的取值，那么
781（ 0（ -，" 2 !））$ 781;
0（ .+
，%+ 2 !）
/
+ $ .
/
$ 7
+ $ .
781（ 0（ .+
，%+ 2 !%+
）） $ 7
781（ 0（ .+
，%+ 2 !%+
）0%+
（ %+ 2 !%+
））
/
+ $ .
（#( #）
% 如果知道类条件密度函数形式，那么估计问题可以得到解决( 但是目前这个问题还不能解决，问题就在
（ .+ 2 !%+
0%+
781（ #%+
$ 7
））(
+ $ .
/
%
于并不知道 % 的取值( 下面确定 % 分布(
设初始的参数估计值为
由贝叶斯公式，得
!6 $（ #6
.
，…，#6
1
，!6
.
，…，!6
1
），
0（ %+ 2 .+
，!6） $
（ .+ 2 !6
）
#6
0%+
%+
0（ .+ 2 !6） $
%+
进而可得
#6
%+
（ .+ 2 !6
0%+
%+
）
，
1
7
5 $ .
#6
（ .+ 2 !6
5 05
5
）
0（ % 2 -，!6） $ ;
0（ %+ 2 .+
，!6），
/
+ $ .
（#( 5）
（#( 9）
（#( :）
其中 % $ ｛%.
假设存在隐变量 %，由式（#( :）就得到 % 的边沿分布密度函数(
，…，%/
｝是隐变量 " 的一次样本实现，且独立同分布( 由此可知，如果给出参数初始估计值，并且
由式（’6 9）、（#6 #）、（#6 :）可知，完全数据的似然函数为
*（ !，!6） $ 7 %’7
781（ 3（ ! 2 -，%））0（ % 2 -，!6）
˝
•
‰
˚
!"###
河南大学学报（ 自然科学版），$%%$ 年，第 !$ 卷第 & 期
$
! 7 "’#7
% ! ’
(
()* !"%
+
…7
"
! ’
$
7
% ! ’
+
+
! 7
"’ ! ’
7
"$ ! ’
+
+
! 7
"’ ! ’
7
"$ ! ’
$
+
! 7
% ! ’
7
, ! ’
$
+
"
! ’
…7
(
$
（ ’% ( ""%
&"%
(
()* !"%
$
) ! ’
)） ;
（ ’% ( ""%
&"%
(
)） 7
()* !, &,
7
+
+
"’ ! ’
"$ ! ’
$
+
7
% ! ’
7
, ! ’
#,，"%
()* !, &,
（ ’% ( ",
&（ ") ( ’)
)） ;
$
) ! ’
，"*）
&（ ") ( ’)
)） ;
$
) ! ’
，"*）
（ ’% ( ",
&（ ") ( ’)
，"*）
+
…7
"
! ’
$
#,，"%;
) ! ’
&（ ") ( ’)
，"*）-
（!- +）
$
对于 , ’｛’，…，+｝，
+
+
7
"’ ! ’
7
"$ ! ’
+
…7
"
! ’
$
$
#,，"%;
) ! ’
&（ ") ( ’)
，"*）
+
(
! 7
"’ ! ’
+
… 7
"% .’ ! ’
+
7
"% ! ’
+
$
…7
"
! ’
$
;
) ! ’，)3%
&（ ") ( ’)
)） &（ , ( ’%
，"*
，"*）
$
! ;
) ! ’，)3%
(
+
7
") ! ’
&（ ") ( ’)
，"*
)） &（ , ( ’%
，"*）
! &（ , ( ’%
，"*）-
由式（!, +）和式（!, "），得
（!- "）
/（ "，"*）! 7
+
, ! ’
$
7
% ! ’
()*（ !, &,
（ ’% ( ",
））&（ , ( ’%
，"*）
()*（ !,
）&（ , ( ’%
+
$
! 7
, ! ’
7
% ! ’
! 1’ 0 1$ -
+
，"*）0 7
, ! ’
$
7
% ! ’
()*（ &,
（ ’% ( ",
））&（ , ( ’%
，"*）
（!- -）
，因此最大化似然函数 /（ "，"*）可分
由式（!- -）明显看到，第一项 1’
别最大化式（!- -）中的两项 1’
只含有参数 !,
和 1$ -
，第二项 1$
只含有参数 ",
为了得到参数重估 2!,
，只需最大化式（!- -）中的项 1’
，这是一个条件极值问题，因此需要引入一个拉格
朗日乘子 $，解方程
得
[
%
%!,
+
$
7
, ! ’
7
% ! ’
()*（ !,
）&（ , ( ’%
，"*）0 $（7
+
, ! ’
]） ! %，, ! ’，…，+
!, . ’
2!, !
$
’
$ 7
% ! ’
&（ , ( ’%
，"*），, ! ’，…，+-
（!- ’%）
（!- ’’）
为了得到参数重估 2",
，’,
为 ’,
，即 ", !（ &,
，须知道观测 ’ 的类条件概率密度函数形式- 这里假设 ’ 服从高斯分布，均值为 &,
）- 这样有，
（ ’ ( &,
，’,
&,
{
（$(）3 4 $ ( ’, ( ’ 4 $ ./0 .
’
（ ’ . &,
$
}） ，
（ ’ . &,
）5’ .’
） !
’
,
（!- ’$）
，方差
忽略与 ",
无关的项，将式（!- ’$）代入式（!- -），得
（ ’% ( ",
））&（ , ( ’%
，"*）
+
$
7
, ! ’
7
% ! ’
+
()*（ &,
(
$
式（!- ’!）两边对 &,
7
()*（ ( ’, ( ）.
! 7
求导，并令导函数等于零，得
% ! ’
, ! ’
.
’
$
’
（ ’% . &,
$
）5’ .’
（ ’% . &,
,
进而，得 ˝
$
7
% ! ’
’ .’
（ ’% . &,
,
）&（ , ( ’%
，"*） ! %，
)） &（ , ( ’%
，"*）-
（!- ’!）
（!- ’&）
•
‰
˚
孙大飞，等：基于 !" 算法的极大似然参数估计探讨
$
7
% # &
$
!!" #
式（#* &#）两边对 # +&
"
求导，并令导函数等于零，得
7
% # &
&% ’（ " ( &%
’（ " ( &%
，")）
*
，")）
#$%%%
（#* &’）
其中 $"，% #（ &% + !"
）（ &% + !"
$
7
）,* 进而，得
% # &
’（ " ( &%
，")）（ #" + $"，%
） # (，
（#* &)）
$
7
% # &
#* " #
’（ " ( &%
，")）（ &% + !"
）（ &% + !"
）,
$
7
% # &
’（ " ( &%
，")）
综上所述，参数的重估方程为式（#, &&）、式（#, &’）和式（#, &+）,
-% 仿真
*
（#* &+）
利用随机噪声发生器产生两组二维观测数据 -&
（ .）和 -.
（ .），均为 ’ ((( 点，它们服从正态分布，均值 !&
]
[
#［(，(］,，!. #［.* ’，.* ’］,，方差 #& # #. # (* .’· &% (
(% &
，混合系数 !$& # !$. # (* ’，混合后的训练数据如
图 &（ /）所示*
迭代
次数
&
.
混合系数重估
均值重估
方差重估
表 &% !" 算法的参数重估（#( 次迭代）
%
!$&
%
!$.
%
!!&
%
!!.
% #* &
% #* .
#&, 0)+ #(0
(, ((( (((
(, ’(( (((
(, ’(( (((
(, ’)0 $((
(, (-( #&-
&(+, ’#( ’#&
(, ((( (((
1 (, .’’ )-’
(, )++ (0$
(, ((( (((
)., +.& &-0
(, ((( (((
&&+, #-+ ’-&
(, -#& 0)0
(, ’)0 &#.
&, ..$ $00
&, .’# #$$
&, 0(+ +.)
(, ((( (((
&, +00 0+.
(, ((( (((
&, .-+ 0’)
&, .)$ +&#
(, ((( (((
&, +$’ +-(
(, ((( (((
&, 0(& +-0
=
=
=
=
=
=
=
&’
(, ’(( (&-
(, -$$ $0)
1 (, ((. #++
., -0. )-&
(, .’# (#$
(, ((( (((
(, .’# )(#
(, ((( (((
(, (&& (+)
., ’(# ’0&
(, ((( (((
(, .#) ’.+
(, ((( (((
(, .’’ +.-
=
=
=
=
=
=
=
.$
(, ’(( (&-
(, -$$ $0)
1 (, ((. #++
., -0. )-&
(, .’# (#$
(, ((( (((
(, .’# )(#
(, ((( (((
(, (&& (+)
., ’(# ’0&
(, ((( (((
(, .#) ’.+
(, ((( (((
(, .’’ +.-
#(
!, "!! !#$
!, $%% %&’
( !, !!) *++
), $&) ’$#
!, )"* !*%
!, !!! !!!
!, )"* ’!*
!, !!! !!!
!, !## !+’
), "!* "&#
!, !!! !!!
!, )*’ ")+
!, !!! !!!
!, )"" +)$
% 注：似然函数变化情况见图 & 中曲线 &,
%
、$.
，方差 #&
混合密度参数估计的 !" 算法描述：
&* 初始化混合系数 $&
、!.
、#.
；
., 利用式（#, &&）、（#, &’）、（#, &+）实现参数重估；
#, 循环终止条件：当似然函数的增加不明显时，停止循环；否则，转入第 . 步,
算法的收敛性和有效性从图 & 和表 &、.、# 中可以明显看出, 图 &（ 2）中迭代初值都是随机选取的，我们
做了 &(( 次仿真试验，选取具有代表性的三次仿真，给出了似然函数和参数重估的变化情况, 图 &（ 2）中每一
，均值 !&
˝
•
‰
˚
!"###
河南大学学报（ 自然科学版），$""$ 年，第 %$ 卷第 ! 期
步迭代的似然函数对应于表 &、$、% 中相应的参数重估’ 从图 & 中可以看出当迭代次数小于 &( 时，似然函数
的增长比较明显，这意味着此时重估对参数的优化程度较大，当迭代次数大于 &( 时，似然函数增长不明显，
这说明此时参数几乎没有得到优化，即估计值基本上接近于真实值，这从表 &、$、% 中可以明显看出’
迭代
次数
&
$
表 $# )* 算法的参数重估（%" 次迭代）
混合系数重估
均值重估
方差重估
#
!!&
#
!!$
#
!"&
#
!"$
# #+ &
# #+ $
"’ ("" """
"’ ("" """
, &’ ((- !.$
, $’ 00& (((
-"’ !". "/0
"’ """ """
%-’ !!- -%"
"’ """ """
, %’ %(" ./(
, $’ -0( &.&
"’ """ """
0"’ ..( "$!
"’ """ """
!/’ (.$ !.$
"’ -"" $((
"’ %.. /!(
&’ $"! &(%
&’ $.! "/!
&’ 0"" ".$
"’ """ """
&’ /.& .(/
"’ """ """
&’ $&/ %&!
&’ %&/ %%"
"’ """ """
&’ 0"& %&&
"’ """ """
&’ /.% .&%
=
=
=
=
=
=
=
&(
"’ ("" "&!
"’ !.. .0-
, "’ ""$ %//
$’ !0$ -!&
"’ $(% "%.
"’ """ """
"’ $(% -"%
"’ """ """
"’ "&& "/-
$’ ("% (0&
"’ """ """
"’ $%- ($/
"’ """ """
"’ $(( /$!
=
=
=
=
=
=
=
$.
"’ ("" "&!
"’ !.. .0-
, "’ ""$ %//
$’ !0$ -!&
"’ $(% "%.
"’ """ """
"’ $(% -"%
"’ """ """
"’ "&& "/-
$’ ("% (0&
"’ """ """
"’ $%- ($/
"’ """ """
"’ $(( /$!
%"
!’ "!! !#$
!’ $%% %&’
( !’ !!) *++
)’ $&) ’$#
!’ )"* !*%
!’ !!! !!!
!’ )"* ’!*
!’ !!! !!!
!’ !## !+’
)’ "!* "&#
!’ !!! !!!
!’ )*’ ")+
!’ !!! !!!
!’ )"" +)$
# 注：似然函数变化情况见图 & 中曲线 $’
#
表 %# )* 算法的参数重估（%" 次迭代）
迭代
次数
&
$
混合系数重估
均值重估
方差重估
#
!!&
#
!!$
#
!"&
#
!"$
# #+ &
# #+ $
"’ ("" """
"’ ("" """
%’ .!" 0."
%’ -$% $%!
$$’ .-% 0$(
"’ """ """
-!’ 0.( /%.
"’ """ """
$’ ""/ ."0
%’ /.. "!.
"’ """ """
!’ !&& (!.
"’ """ """
&$’ /-/ &/.
"’ !/% !$-
"’ ($- (/!
"’ /0/ !$/
&’ -!/ "0$
&’ -$% !!0
"’ """ """
&’ -"& $"0
"’ """ """
"’ /($ !%%
&’ /&& $"$
"’ """ """
&’ (!. ("%
"’ """ """
&’ (.% "%&
=
=
=
=
=
=
=
&(
"’ ("" "&!
"’ !.. .0-
, "’ ""$ %//
$’ !0$ -!&
"’ $(% "%.
"’ """ """
"’ $(% -"%
"’ """ """
"’ "&& "/-
$’ ("% (0&
"’ """ """
"’ $%- ($/
"’ """ """
"’ $(( /$!
=
=
=
=
=
=
=
$.
"’ ("" "&!
"’ !.. .0-
, "’ ""$ %//
$’ !0$ -!&
"’ $(% "%.
"’ """ """
"’ $(% -"%
"’ """ """
"’ "&& "/-
$’ ("% (0&
"’ """ """
"’ $%- ($/
"’ """ """
"’ $(( /$!
%"
!’ "!! !#$
!’ $%% %&’
( !’ !!) *++
)’ $&) ’$#
!’ )"* !*%
!’ !!! !!!
!’ )"* ’!*
!’ !!! !!!
!’ !## !+’
)’ "!* "&#
!’ !!! !!!
!’ )*’ ")+
!’ !!! !!!
!’ )"" +)$
# 注：似然函数变化情况见图 & 中曲线 %’
#
˝
•
‰
˚
孙大飞，等：基于 !" 算法的极大似然参数估计探讨
#$%%%
% （ &）训练数据
%
（ ’）每步迭代似然函数
图 $% 混合密度参数估计 !" 算法仿真结果
(% 结论
针对传统的极大似然参数估计方法解决实际问题的不足，人们提出了 !" 算法，并且这种算法越来越收
到人们的重视) 本文介绍了 !" 算法解决的基本问题，重点讨论了利用 !" 算法实现混合密度极大似然参数
估计的具体思路，并给出参数估计的仿真，从而可以深入地理解 !" 算法的本质) 另外，从计算机的仿真试验
中可以明显看出算法的有效性和收敛性) 基于这样的试验结果，我们下一步将从理论上论证混合密度极大似
然估计 !" 算法的收敛性)
参考文献：
［$］陈新海) 最佳估计理论［ "］) 北京：北京航空航天大学出版社，$*+()
［,］边肇祺，等) 模式识别［ "］) 北京：清华大学出版社，,---)
［.］钱颂迪，等) 运筹学［ "］) 北京：清华大学出版社，$**-)
［#］/0123405 6，7&859 :，;<’8= /) "&>81<1 ?8@0?8ABB9 08481&48B= C5B1 8=DB12?040 9&4& E8& !" &?FB584A1［ G］) G) ;BH&? I4&48348D&?
IBD804H I05803 J，$*KK，.*：$ L .+)
［(］MA&A5&1&18 N，GB59&= ") 70&5=8=F C5B1 8=DB12?040 9&4&［ ;］) O0DA=8D&? ;02B54 6P 7&’ "01B :B) $(-*，QJQ7 R&205 :B)
$-+，"PO 6P 7&’，64<50 &=9 A8990= 1&5@BE
1B90?［ ;］) O; T *K T -,$，6258?，$**+) A442：U
U VVV) D3) ’05@0?0H) 09< U L ’?8103)
［K］杨晓艺，侯玉华) 一种两步 W"O 文本图像分割方法［ G］) 河南大学学报（ 自然科学版），,--,，.,（,）：., L .()
［+］刘先省 X 运动目标统计模型下的传感器管理方法［ G］X 河南大学学报（ 自然科学版），,--,，.,（,）：,- L ,.X
［*］李爽，丁圣彦，许叔明 X 遥感影像分类方法比较研究［ G］X 河南大学学报（ 自然科学版），,--,，.,（,）：K- L K.X
˝
•
‰
˚
相关推荐
2023年江西萍乡中考道德与法治真题及答案.doc
2012年重庆南川中考生物真题及答案.doc
2013年江西师范大学地理学综合及文艺理论基础考研真题.doc
2020年四川甘孜小升初语文真题及答案I卷.doc
2020年注册岩土工程师专业基础考试真题及答案.doc
2023-2024学年福建省厦门市九年级上学期数学月考试题及答案.doc
2021-2022学年辽宁省沈阳市大东区九年级上学期语文期末试题及答案.doc
2022-2023学年北京东城区初三第一学期物理期末试卷及答案.doc
2018上半年江西教师资格初中地理学科知识与教学能力真题及答案.doc
2012年河北国家公务员申论考试真题及答案-省级.doc
2020-2021学年江苏省扬州市江都区邵樊片九年级上学期数学第一次质量检测试题及答案.doc
2022下半年黑龙江教师资格证中学综合素质真题及答案.doc
