logo资料库

模式识别第三章 答案.doc

第1页 / 共9页
第2页 / 共9页
第3页 / 共9页
第4页 / 共9页
第5页 / 共9页
第6页 / 共9页
第7页 / 共9页
第8页 / 共9页
资料共9页,剩余部分请下载后查看
1、 答:该模式需要的判别函数的最小数目为 3+7*6/2=24 2、 (1) (2) (3)
3、 答:若他们是线性可分的,则权向量至少需要 4 个系数分量。 假如需要建立 2 次性多项式判别函数,至少需要 10 个系数分量。 4、 解:将属于 w2 的训练样本乘以(-1),并写成增广向量的形式; X1=(0 0 0 1)T,X2=(1 0 0 1)T, X3=(1 0 1 1)T,X4=(1 1 0 1)T X5=(0 0 -1 -1)T, X6=(0 -1 -1 -1)T, X7=(0 -1 0 -1)T, X8=(-1 -1 -1 -1)T 第一轮迭代:取C=1,w(1)=(0 0 0 0)T 因wT(1)X1=(0 0 0 0)(0 0 0 1)T=0≯0,故w(2)=w(1)+X1=(0 0 0 1)T 因wT(2)X2=(0 0 0 1)(1 0 0 1)T=1>0,故w(3)=w(2)=(0 0 0 1)T 因wT(3)X3=(0 0 0 1)(1 0 1 1)T=1>0,故w(4)=w(3)=(0 0 0 1)T 因wT(4)X4=(0 0 0 1)(1 1 0 1)T=1>0,故w(5)=w(4)=(0 0 0 1)T 因wT(5)X5=(0 0 0 1)(0 0 -1 -1)T=-1≯0,故w(6)=w(5)+X5=(0 0 -1 0)T 因wT(6)X6=(0 0 -1 0)(0 -1 -1 -1)T=1>0,故w(7)=w(6)=(0 0 -1 0)T 因wT(7)X7=(0 0 -1 0)(0 -1 0 -1)T=0≯0,故w(8)=w(7)+X7=(0 -1 -1 -1)T 因wT(8)X8=(0 -1 -1 -1)(-1 -1 -1 -1)T=3>0,故w(9)=w(8)=(0 -1 -1 -1)T 需进行第二轮迭代。 第二轮迭代: 因wT(9)X1=(0 -1 -1 -1)(0 0 0 1)T=-1≯0,故w(10)=w(9)+X1=(0 -1 -1 0)T 因wT(10)X2=(0 -1 -1 0)(1 0 0 1)T=0≯0,故w(11)=w(10)+X2=(1 -1 -1 1)T 因wT(11)X3=(1 -1 -1 1)(1 0 1 1)T=1>0,故w(12)=w(11)=(1 -1 -1 1)T 因wT(12)X4=(1 -1 -1 1)(1 1 0 1)T=1>0,故w(13)=w(12)=(1 -1 -1 1)T 因wT(13)X5=(1 -1 -1 1)(0 0 -1 -1)T=0≯0,故w(14)=w(13)+X5=(1 -1 -2 0)T 因wT(14)X6=(1 -1 -2 0)(0 -1 -1 -1)T=3>0,故w(15)=w(14)=(1 -1 -2 0)T 因wT(15)X7=(1 -1 -2 0)(0 -1 0 -1)T=1>0,故w(16)=w(15)=(1 -1 -2 0)T 因wT(16)X8=(1 -1 -2 0)(-1 -1 -1 -1)T=2>0,故w(17)=w(16)=(1 -1 -2 0)T 需进行第三轮迭代。 第三轮迭代: 因wT(17)X1=(1 -1 -2 0)(0 0 0 1)T=0≯0,故w(18)=w(17)+X1=(1 -1 -2 1)T 因wT(18)X2=(1 -1 -2 1)(1 0 0 1)T=2>0,故w(19)=w(18)=(1 -1 -2 1)T 因wT(19)X3=(1 -1 -2 1)(1 0 1 1)T=0≯0,故w(20)=w(19)+X3=(2 -1 -1 2)T 因wT(20)X4=(2 -1 -1 2)(1 1 0 1)T=3>0,故w(21)=w(20)=(2 -1 -1 2)T 因wT(21)X5=(2 -1 -1 2)(0 0 -1 -1)T=-1≯0,故w(22)=w(21)+X5=(2 -1 -2 1)T 因wT(22)X6=(2 -1 -2 1)(0 -1 -1 -1)T=2>0,故w(23)=w(22)=(2 -1 -2 1)T 因wT(23)X7=(2 -1 -2 1)(0 -1 0 -1)T=0≯0,故w(24)=w(23)+X7=(2 -2 -2 0)T 因wT(24)X8=(2 -2 -2 0)(-1 -1 -1 -1)T=2>0,故w(25)=w(24)=(2 -2 -2 0)T 需进行第四次迭代。 第四次迭代: 因wT(25)X1=(2 -2 -2 0)(0 0 0 1)T=0≯0,故w(26)=w(25)+X1=(2 -2 -2 1)T 因wT(26)X2=(2 -2 -2 1)(1 0 0 1)T=3>0,故w(27)=w(26)=(2 -2 -2 1)T 因wT(27)X3=(2 -2 -2 1)(1 0 1 1)T=1>0,故w(28)=w(27)=(2 -2 -2 1)T 因wT(28)X4=(2 -2 -2 1)(1 1 0 1)T=1>0,故w(29)=w(28)=(2 -2 -2 1)T 因wT(29)X5=(2 -2 -2 1)(0 0 -1 -1)T=1,故w(30)=w(29)=(2 -2 -2 1)T 因wT(30)X6=(2 -2 -2 1)(0 -1 -1 -1)T=3>0,故w(31)=w(30)=(2 -2 -2 1)T 因wT(31)X7=(2 -2 -2 1)(0 -1 0 -1)T=1>0,故w(32)=w(31)=(2 -2 -2 1)T 因wT(32)X8=(2 -2 -2 1)(-1 -1 -1 -1)T=1>0,故w(33)=w(32)=(2 -2 -2 1)T
需进行第五次迭代。 第五次迭代: 因wT(33)X1=(2 -2 -2 1)(0 0 0 1)T=1>0,故w(34)=w(33)=(2 -2 -2 1)T 因wT(34)X2=(2 -2 -2 1)(1 0 0 1)T=3>0,故w(35)=w(34)=(2 -2 -2 1)T 因wT(35)X3=(2 -2 -2 1)(1 0 1 1)T=1>0,故w(36)=w(35)=(2 -2 -2 1)T 因wT(36)X4=(2 -2 -2 1)(1 1 0 1)T=1>0,故w(37)=w(36)=(2 -2 -2 1)T 因wT(37)X5=(2 -2 -2 1)(0 0 -1 -1)T=1,故w(38)=w(37)=(2 -2 -2 1)T 因wT(38)X6=(2 -2 -2 1)(0 -1 -1 -1)T=3>0,故w(39)=w(38)=(2 -2 -2 1)T 因wT(39)X7=(2 -2 -2 1)(0 -1 0 -1)T=1>0,故w(40)=w(39)=(2 -2 -2 1)T 因wT(40)X8=(2 -2 -2 1)(-1 -1 -1 -1)T=1>0,故w(41)=w(40)=(2 -2 -2 1)T 该轮迭代全部正确,因此解向量w=(2 -2 -2 1)T,相应的判别函数为: d(x)=2x1-2x2-2x3+1 5、 感知器程序: clear all; close all; w1=[0 0 0 0]'; w2=[0 0 0 0]'; w3=[0 0 0 0]'; w4=[0 0 0 0]'; w5=[0 0 0 0]'; w6=[0 0 0 0]'; w7=[0 0 0 0]'; w8=[0 0 0 0]'; x1=[0 0 0 1]'; x2=[1 0 0 1]'; x3=[1 0 1 1]'; x4=[1 1 0 1]'; x5=[0 0 -1 -1]'; x6=[0 -1 -1 -1]'; x7=[0 -1 0 -1]'; x8=[-1 -1 -1 -1]'; k=1 while(w1'*x1<=0|w2'*x2<=0|w3'*x3<=0|w4'*x4<=0|w5'*x5<=0|w6'*x6<=0| w7'*x7<=0|w8'*x8<=0) if(w1'*x1>0) w2=w1 else w2=w1+x1 end if(w2'*x2>0) w3=w2 else end w3=w2+x2
if(w3'*x3>0) w4=w3 else w4=w3+x3 end if(w4'*x4>0) w5=w4 else w5=w4+x4 end if(w5'*x5>0) w6=w5 else w6=w5+x5 end if(w6'*x6>0) w7=w6 else w7=w6+x6 end if(w7'*x7>0) w8=w7 else w8=w7+x7 end if(w8'*x8>0) w9=w8 w9=w8+x8 else end w1=w9; k=k+1 end 6、解:给出三类模式迭代初始训练样本:ω1: (-1 -1)T ,ω2:(0 0)T ,ω3:(1 1)T 将模式样本写成增广形式:X1=(-1 -1 1)T,X2=(0 0 1)T,X3=(1 1 1)T 初始值取w1(1)=w2(1)=w3(1)=(0 0 0)T,C=1 第一轮迭代:以X1=(-1 -1 1)T作为训练样本。 T(1)X1=(0 0 0)(-1 -1 1)T=0 d1(1)=w1 T(1)X1=(0 0 0)(-1 -1 1)T=0 d2(1)=w2 T(1)X1=(0 0 0)(-1 -1 1)T=0 d3(1)=w3 因 d1(1)≯d2(1),d1(1)≯d3(1),故 w1(2)= w1(1)+X1=(-1 -1 1)T w2(2)=w2(1)-X1=(1 1 -1)T
w3(2)=w3(1)-X1=(1 1 -1)T 第二轮迭代,以X2=(0 0 1)T作为训练样本。 T(2)X2=(-1 -1 1)(0 0 1)T=1 d1(2)=w1 T(2)X2=(1 1 -1)(0 0 1)T=-1 d2(2)=w2 T(2)X2=(1 1 -1)(0 0 1)T=-1 d3(2)=w3 因 d2(2)≯d1(2),d2(2)≯d3(2),故 w1(3)= w1(2)-X2=(-1 -1 0)T w2(3)=w2(2)+X2=(1 1 0)T w3(3)=w3(2)-X2=(1 1 -2)T 第三轮迭代,以X3=(1 1 1)T作为迭代样本。 T(3)X3=(-1 -1 0)(1 1 1)T=-2 d1(3)=w1 T(3)X3=(1 1 0)(1 1 1)T=2 d2(3)=w2 T(3)X3=(1 1 -2)(1 1 1)T=0 d3(3)=w3 因 d3(3)>d1(3),d3(3)≯d2(3),故 w1(4)= w1(3)=(-1 -1 0)T w2(4)=w2(3)-X3=(0 0 -1)T w3(4)=w3(3)+X3=(2 2 -1)T 第四轮迭代:以X1=(-1 -1 1)T作为训练样本。 d1(4)=w1 d2(4)=w2 d3(4)=w3 因 d1(4)>d2(4),d1(4)>d3(4),故 w1(5)= w1(4)=(-1 -1 0)T w2(5)=w2(4)=(0 0 -1)T w3(5)=w3(4)=(2 2 -1)T 第五轮迭代,以X2=(0 0 1)T作为训练样本。 T(5)X2=(-1 -1 0)(0 0 1)T=0 d1(5)=w1 T(5)X2=(0 0 -1)(0 0 1)T=-1 d2(5)=w2 T(5)X2=(2 2 -1)(0 0 1)T=-1 d3(5)=w3 因 d2(5) ≯d1(5),d2(5) ≯d3(5),故 w1(6)= w1(5)-X2=(-1 -1 -1)T w2(6)=w2(5)+X2=(0 0 0)T w3(6)=w3(5)-X2=(2 2 -2)T 第六轮迭代,以X3=(1 1 1)T作为迭代样本。 d1(6)=w1 d2(6)=w2 d3(6)=w3 因 d3(6)>d1(6),d3(6)>d2(6),故 w1(7)= w1(6)=(-1 -1 -1)T w2(7)=w2(6)=(0 0 0)T w3(7)=w3(6)=(2 2 -2)T 第七轮迭代,以X1=(-1 -1 1)T作为迭代样本。 d1(7)=w1 d2(7)=w2 T(6)X3=(-1 -1 -1)(1 1 1)T=-3 T(6)X3=(0 0 0)(1 1 1)T=0 T(6)X3=(2 2 -2)(1 1 1)T=2 T(4)X1=(-1 -1 0)(-1 -1 1)T=2 T(4)X1=(0 0 -1)(-1 -1 1)T=-1 T(4)X1=(2 2 -1)(-1 -1 1)T=-5 T(7)X1=(-1 -1 -1)(-1 -1 1)T=1 T(7)X1=(0 0 0)(-1 -1 1)T=0
T(7)X1=(2 2 -2)(-1 -1 1)T=-6 T(8)X2=(-1 -1 -1)(0 0 1)T=-1 T(8)X2=(0 0 0)(0 0 1)T=0 T(8)X2=(2 2 -2)(0 0 1)T=-2 d3(7)=w3 因 d1(7)>d2(7),d1(7)>d3(7),故 w1(8)= w1(7)=(-1 -1 -1)T w2(8)=w2(7)=(0 0 0)T w3(8)=w3(7)=(2 2 -2)T 第八轮迭代,以X2=(0 0 1)T作为迭代样本。 d1(8)=w1 d2(8)=w2 d3(8)=w3 因 d2(8)>d1(8),d2(8)>d3(8),故 w1(9)= w1(8)=(-1 -1 -1)T w2(9)=w2(8)=(0 0 0)T w3(9)=w3(8)=(2 2 -2)T 分类结果正确,权向量不变。 由于六、七、八次迭代中,X1,X2,X3 均已正确分类,所以权向量的解为: w1= (-1 -1 -1)T w2=(0 0 0)T w3=(2 2 -2)T 三个判别函数为: d1(x)=-x1-x2-1, d3(x)=2x1+2x2-2 d2(x)=0, 6、 解:准则函数式为: ), ( bxwJ ,  1 x 8 2   bxwbxw    T T 2 则 J 对 w 的微分式: J  w    bxw   1 x T 2 4 定义:    bxw  T   sign ( T bxw   (*) x x  sign ( T bxw  )) sign ( T bxw  )       1 1 T xwif T xwif   b b 则由梯度法中 w(k+1)和 w(k)的关系有: ( kw  )1  )( kw ( x k  x k  sign (  C 4 x k )( xkw T  )( xkw T [ k    )( xkw T k    b  b 2 sign ( T )( xkw k  b *)]  b )) k 其中 xk 是训练模式样本,k 是指第 k 次迭代。 ( kw )1  )( Ckw       T 0  )( xkw k x k  xb  2 k T  bxwif bxwif  T 7、 解:(1)Hermite 多项式前面几项的表达式为 H0(x)=1, H1(x)=2x, H2(x)=4x2-2,
H3(x)=8x3-12x, H4(x)=16x4-48x2+12 (2)建立二维的正交函数集 二维的正交函数集可由任意一对一维的正交函数组成,这里取四项最低阶 的二维的正交函数  1 )( x  1  ( , xx 1 2 )   2 )( x  2 ( , xx 1 2 )   3 )( x  3 ( , xx 1 2 )   4 )( x  4 ( , xx 1 2 )   5 )( x  5  ( , xx 1 2 )   6 )( x  6  ( , xx 1 2 )   7 )( x  7  ( , xx 1 2 )   8 )( x  8  ( , xx 1 2 )   9 )( x  9  ( , xx 1 2 )  ( xHxH ) ( 0 1 0 1)  2 ( xHxH ) ( 0 1 1 )  2 x 1 2 ( xHxH ) ( 1 1 0 ( xHxH ) ( 1 1 1 ( xHxH ) ( 2 1 0 )  2 x 2 2 )  4 xx 21 )  4 x 2 2  2 2 2 ( xHxH ) ( 0 1 2 )  2 2 4 x 1  2 ( xHxH ) ( 2 1 1 )  2 2(4 x 1 x 2 ( xHxH ) ( 1 1 2 )  2 2(4 x 2 x 1 2 2  )1  )1 ( xHxH ) ( 2 1 2 )  2 2 2(4 x 1  2)(1 x 2 2  )1 (3)生成势函数 按第一类势函数定义,得到势函数 ,( xxK k  j )( x i 41)( x  xx 1 k 1  4 xx 2 k 2  16 xxxx 21 k 1 k 2  9 )   1 i  2)(1 x  k 1 2 2( x  1 2 2(4 16 x 1 xx 2 k 2 2 )1  2 2)(1 x k 1 2(4 x 2 )1  2  2(16 2)(1 x k 2 x  1 2 2 )1  2 2)(1 x 2 16  2( xx x 1 2 k 1 2 2)(1 x  k 1 2  2)(1 2)(1 x k 2 )1 x 2 2  )1 2 k  其中 x 1 Txx ) ( , 2 , x k  ( x k 1 , x k 2 T ) 通过训练样本逐步计算累积位势 K(x) 给定训练样本:ω1 类为 x1=(0 1)T, x2=(0 -1)T ω2 类为 x3=(1 0)T, x4=(-1 0)T 累积位势 K(x)的迭代算法如下: 第一步:取 x1=(0 1)T∈ω1,故 K1(x)=K(x,x1)= 1+4x2-4(2x1 2-1)+4(2x2 2-1)-16x2(2x1 2-1)-16(2x1 2-1)(2x2 2-1) 第二步:取 x2=(0 -1)T∈ω1,故 K1(x2)=5 因 K1(x2)>0 且 x2∈ω1,故 K2(x)=K1(x)= 1+4x2-4(2x1 2-1)-16x2(2x1 2-1)+4(2x2 2-1)-16(2x1 2-1)(2x2 2-1) 第三步:取 x3=(1 0)T∈ω2,故 K2(x3)=9 因 K2(x3)>0 且 x3∈ω2,故 K3(x)=K2(x)-K(x,x3)=
20x2+16x2 2-20x1-16x1 2+32x1x2 2-32x2x1 2 第四步:取 x4=(-1 0)T∈ω2,故 K3(x4)=4 因 K3(x4)>0 且 x4∈ω2, 故 K4(x)=K3(x)-K(x,x4)=15+20x2-56x1 2-8x2 2-32x2x1 2+64x1 2x2 2 将全部训练样本重复迭代一次,得 第五步:取 x5=x1=(0 1)T∈ω1,K4(x5)=27>0 2-8x2 故 K5(x)=K4(x)= 15+20x2-56x1 2-32x2x1 第六步:取 x6=x2=(0 -1)T∈ω1,K5(x6)=-13<0 2+64x1 2x2 2 2+32x2 第七步:取 x7=x3=(1 0)T∈ω2,K6(x7)=-32<0 故 K6(x)=K5(x)+K(x,x6)=-32x1 2 故 K7(x)=K6(x)= -32x1 2+32x2 2 第八步:取 x8=x4=(-1 0)T∈ω2,K7(x8)=-32<0 故 K8(x)=K7(x)= -32x1 2+32x2 2 第九步:取 x9=x1=(0 1)T∈ω1,K8(x9)=32>0 故 K9(x)=K8(x)= -32x1 2+32x2 2 第十步:取 x10=x2=(0 -1)T∈ω1,K9(x10)=32>0 故 K10(x)=K9(x)= -32x1 2+32x2 2 对全部训练样本都能正确分类,故算法收敛于判别函数 d(x)= -32x1 2+32x2 2 8、解:取 1 ,在二维情况下,势函数为 x K X X 2 || } exp{ [(  exp{ ||  X X     x ( ) , 1 k k 2 ) 1  ( x  x 2 k 2 2 ) ]} k 以下为势函数迭代算法: X 第一步:取 1  0     1   w 1 ,故 K X 1 ( )  exp{  2 x 1  ( x 2  2 1) } X 第二步:取 2  X 第三步:取 3  K X ( 3 )  0     1  1     0   K X ( 2  w 1 , 1 K X  ( ) 2 exp{ 4} 0   ,故 2 K X ( )  K X 1 ( ) w 2 )  , 2 K X  ( ) 3 exp{ 1} 0   ,故 K X X ( , )  exp{  2 x 1  ( x 2  3 2 1) } exp{ (   x 1 2  1)  2 } x 2 X 第四步:取 4  1   0      w 2 , 3 K X  ( ) 4 exp{ 2} exp{ 4} 0   ,故   K X ( 4 )  K X ( 3 )  K X X ( , )  exp{  2 x 1  ( x 2  4 2 1) } exp{ (   x 1  1) 2  2 } exp{ ( x   2 x 1  1) 2  2 } x 2 X 第五步:取 5  0     1   w 1 , 4 K X   ) 1 exp{ 2} exp{ 2} 0     ,故 5 K X ( ( 5 )  K X ( 4 ) X 第六步:取 6  0     1   w 1 , 5 K X  ( ) 6 exp{ 4} exp{ 2} exp{ 2} 0   ,故    
分享到:
收藏