1、 答:该模式需要的判别函数的最小数目为 3+7*6/2=24
2、 (1)
(2)
(3)
3、 答:若他们是线性可分的,则权向量至少需要 4 个系数分量。
假如需要建立 2 次性多项式判别函数,至少需要 10 个系数分量。
4、 解:将属于 w2 的训练样本乘以(-1),并写成增广向量的形式;
X1=(0 0 0 1)T,X2=(1 0 0 1)T, X3=(1 0 1 1)T,X4=(1 1 0 1)T
X5=(0 0 -1 -1)T, X6=(0 -1 -1 -1)T, X7=(0 -1 0 -1)T, X8=(-1 -1 -1 -1)T
第一轮迭代:取C=1,w(1)=(0 0 0 0)T
因wT(1)X1=(0 0 0 0)(0 0 0 1)T=0≯0,故w(2)=w(1)+X1=(0 0 0 1)T
因wT(2)X2=(0 0 0 1)(1 0 0 1)T=1>0,故w(3)=w(2)=(0 0 0 1)T
因wT(3)X3=(0 0 0 1)(1 0 1 1)T=1>0,故w(4)=w(3)=(0 0 0 1)T
因wT(4)X4=(0 0 0 1)(1 1 0 1)T=1>0,故w(5)=w(4)=(0 0 0 1)T
因wT(5)X5=(0 0 0 1)(0 0 -1 -1)T=-1≯0,故w(6)=w(5)+X5=(0 0 -1 0)T
因wT(6)X6=(0 0 -1 0)(0 -1 -1 -1)T=1>0,故w(7)=w(6)=(0 0 -1 0)T
因wT(7)X7=(0 0 -1 0)(0 -1 0 -1)T=0≯0,故w(8)=w(7)+X7=(0 -1 -1 -1)T
因wT(8)X8=(0 -1 -1 -1)(-1 -1 -1 -1)T=3>0,故w(9)=w(8)=(0 -1 -1 -1)T
需进行第二轮迭代。
第二轮迭代:
因wT(9)X1=(0 -1 -1 -1)(0 0 0 1)T=-1≯0,故w(10)=w(9)+X1=(0 -1 -1 0)T
因wT(10)X2=(0 -1 -1 0)(1 0 0 1)T=0≯0,故w(11)=w(10)+X2=(1 -1 -1 1)T
因wT(11)X3=(1 -1 -1 1)(1 0 1 1)T=1>0,故w(12)=w(11)=(1 -1 -1 1)T
因wT(12)X4=(1 -1 -1 1)(1 1 0 1)T=1>0,故w(13)=w(12)=(1 -1 -1 1)T
因wT(13)X5=(1 -1 -1 1)(0 0 -1 -1)T=0≯0,故w(14)=w(13)+X5=(1 -1 -2 0)T
因wT(14)X6=(1 -1 -2 0)(0 -1 -1 -1)T=3>0,故w(15)=w(14)=(1 -1 -2 0)T
因wT(15)X7=(1 -1 -2 0)(0 -1 0 -1)T=1>0,故w(16)=w(15)=(1 -1 -2 0)T
因wT(16)X8=(1 -1 -2 0)(-1 -1 -1 -1)T=2>0,故w(17)=w(16)=(1 -1 -2 0)T
需进行第三轮迭代。
第三轮迭代:
因wT(17)X1=(1 -1 -2 0)(0 0 0 1)T=0≯0,故w(18)=w(17)+X1=(1 -1 -2 1)T
因wT(18)X2=(1 -1 -2 1)(1 0 0 1)T=2>0,故w(19)=w(18)=(1 -1 -2 1)T
因wT(19)X3=(1 -1 -2 1)(1 0 1 1)T=0≯0,故w(20)=w(19)+X3=(2 -1 -1 2)T
因wT(20)X4=(2 -1 -1 2)(1 1 0 1)T=3>0,故w(21)=w(20)=(2 -1 -1 2)T
因wT(21)X5=(2 -1 -1 2)(0 0 -1 -1)T=-1≯0,故w(22)=w(21)+X5=(2 -1 -2 1)T
因wT(22)X6=(2 -1 -2 1)(0 -1 -1 -1)T=2>0,故w(23)=w(22)=(2 -1 -2 1)T
因wT(23)X7=(2 -1 -2 1)(0 -1 0 -1)T=0≯0,故w(24)=w(23)+X7=(2 -2 -2 0)T
因wT(24)X8=(2 -2 -2 0)(-1 -1 -1 -1)T=2>0,故w(25)=w(24)=(2 -2 -2 0)T
需进行第四次迭代。
第四次迭代:
因wT(25)X1=(2 -2 -2 0)(0 0 0 1)T=0≯0,故w(26)=w(25)+X1=(2 -2 -2 1)T
因wT(26)X2=(2 -2 -2 1)(1 0 0 1)T=3>0,故w(27)=w(26)=(2 -2 -2 1)T
因wT(27)X3=(2 -2 -2 1)(1 0 1 1)T=1>0,故w(28)=w(27)=(2 -2 -2 1)T
因wT(28)X4=(2 -2 -2 1)(1 1 0 1)T=1>0,故w(29)=w(28)=(2 -2 -2 1)T
因wT(29)X5=(2 -2 -2 1)(0 0 -1 -1)T=1,故w(30)=w(29)=(2 -2 -2 1)T
因wT(30)X6=(2 -2 -2 1)(0 -1 -1 -1)T=3>0,故w(31)=w(30)=(2 -2 -2 1)T
因wT(31)X7=(2 -2 -2 1)(0 -1 0 -1)T=1>0,故w(32)=w(31)=(2 -2 -2 1)T
因wT(32)X8=(2 -2 -2 1)(-1 -1 -1 -1)T=1>0,故w(33)=w(32)=(2 -2 -2 1)T
需进行第五次迭代。
第五次迭代:
因wT(33)X1=(2 -2 -2 1)(0 0 0 1)T=1>0,故w(34)=w(33)=(2 -2 -2 1)T
因wT(34)X2=(2 -2 -2 1)(1 0 0 1)T=3>0,故w(35)=w(34)=(2 -2 -2 1)T
因wT(35)X3=(2 -2 -2 1)(1 0 1 1)T=1>0,故w(36)=w(35)=(2 -2 -2 1)T
因wT(36)X4=(2 -2 -2 1)(1 1 0 1)T=1>0,故w(37)=w(36)=(2 -2 -2 1)T
因wT(37)X5=(2 -2 -2 1)(0 0 -1 -1)T=1,故w(38)=w(37)=(2 -2 -2 1)T
因wT(38)X6=(2 -2 -2 1)(0 -1 -1 -1)T=3>0,故w(39)=w(38)=(2 -2 -2 1)T
因wT(39)X7=(2 -2 -2 1)(0 -1 0 -1)T=1>0,故w(40)=w(39)=(2 -2 -2 1)T
因wT(40)X8=(2 -2 -2 1)(-1 -1 -1 -1)T=1>0,故w(41)=w(40)=(2 -2 -2 1)T
该轮迭代全部正确,因此解向量w=(2 -2 -2 1)T,相应的判别函数为:
d(x)=2x1-2x2-2x3+1
5、 感知器程序:
clear all;
close all;
w1=[0 0 0 0]';
w2=[0 0 0 0]';
w3=[0 0 0 0]';
w4=[0 0 0 0]';
w5=[0 0 0 0]';
w6=[0 0 0 0]';
w7=[0 0 0 0]';
w8=[0 0 0 0]';
x1=[0 0 0 1]';
x2=[1 0 0 1]';
x3=[1 0 1 1]';
x4=[1 1 0 1]';
x5=[0 0 -1 -1]';
x6=[0 -1 -1 -1]';
x7=[0 -1 0 -1]';
x8=[-1 -1 -1 -1]';
k=1
while(w1'*x1<=0|w2'*x2<=0|w3'*x3<=0|w4'*x4<=0|w5'*x5<=0|w6'*x6<=0|
w7'*x7<=0|w8'*x8<=0)
if(w1'*x1>0)
w2=w1
else
w2=w1+x1
end
if(w2'*x2>0)
w3=w2
else
end
w3=w2+x2
if(w3'*x3>0)
w4=w3
else
w4=w3+x3
end
if(w4'*x4>0)
w5=w4
else
w5=w4+x4
end
if(w5'*x5>0)
w6=w5
else
w6=w5+x5
end
if(w6'*x6>0)
w7=w6
else
w7=w6+x6
end
if(w7'*x7>0)
w8=w7
else
w8=w7+x7
end
if(w8'*x8>0)
w9=w8
w9=w8+x8
else
end
w1=w9;
k=k+1
end
6、解:给出三类模式迭代初始训练样本:ω1: (-1 -1)T ,ω2:(0 0)T ,ω3:(1 1)T
将模式样本写成增广形式:X1=(-1 -1 1)T,X2=(0 0 1)T,X3=(1 1 1)T
初始值取w1(1)=w2(1)=w3(1)=(0 0 0)T,C=1
第一轮迭代:以X1=(-1 -1 1)T作为训练样本。
T(1)X1=(0 0 0)(-1 -1 1)T=0
d1(1)=w1
T(1)X1=(0 0 0)(-1 -1 1)T=0
d2(1)=w2
T(1)X1=(0 0 0)(-1 -1 1)T=0
d3(1)=w3
因 d1(1)≯d2(1),d1(1)≯d3(1),故
w1(2)= w1(1)+X1=(-1 -1 1)T
w2(2)=w2(1)-X1=(1 1 -1)T
w3(2)=w3(1)-X1=(1 1 -1)T
第二轮迭代,以X2=(0 0 1)T作为训练样本。
T(2)X2=(-1 -1 1)(0 0 1)T=1
d1(2)=w1
T(2)X2=(1 1 -1)(0 0 1)T=-1
d2(2)=w2
T(2)X2=(1 1 -1)(0 0 1)T=-1
d3(2)=w3
因 d2(2)≯d1(2),d2(2)≯d3(2),故
w1(3)= w1(2)-X2=(-1 -1 0)T
w2(3)=w2(2)+X2=(1 1 0)T
w3(3)=w3(2)-X2=(1 1 -2)T
第三轮迭代,以X3=(1 1 1)T作为迭代样本。
T(3)X3=(-1 -1 0)(1 1 1)T=-2
d1(3)=w1
T(3)X3=(1 1 0)(1 1 1)T=2
d2(3)=w2
T(3)X3=(1 1 -2)(1 1 1)T=0
d3(3)=w3
因 d3(3)>d1(3),d3(3)≯d2(3),故
w1(4)= w1(3)=(-1 -1 0)T
w2(4)=w2(3)-X3=(0 0 -1)T
w3(4)=w3(3)+X3=(2 2 -1)T
第四轮迭代:以X1=(-1 -1 1)T作为训练样本。
d1(4)=w1
d2(4)=w2
d3(4)=w3
因 d1(4)>d2(4),d1(4)>d3(4),故
w1(5)= w1(4)=(-1 -1 0)T
w2(5)=w2(4)=(0 0 -1)T
w3(5)=w3(4)=(2 2 -1)T
第五轮迭代,以X2=(0 0 1)T作为训练样本。
T(5)X2=(-1 -1 0)(0 0 1)T=0
d1(5)=w1
T(5)X2=(0 0 -1)(0 0 1)T=-1
d2(5)=w2
T(5)X2=(2 2 -1)(0 0 1)T=-1
d3(5)=w3
因 d2(5) ≯d1(5),d2(5) ≯d3(5),故
w1(6)= w1(5)-X2=(-1 -1 -1)T
w2(6)=w2(5)+X2=(0 0 0)T
w3(6)=w3(5)-X2=(2 2 -2)T
第六轮迭代,以X3=(1 1 1)T作为迭代样本。
d1(6)=w1
d2(6)=w2
d3(6)=w3
因 d3(6)>d1(6),d3(6)>d2(6),故
w1(7)= w1(6)=(-1 -1 -1)T
w2(7)=w2(6)=(0 0 0)T
w3(7)=w3(6)=(2 2 -2)T
第七轮迭代,以X1=(-1 -1 1)T作为迭代样本。
d1(7)=w1
d2(7)=w2
T(6)X3=(-1 -1 -1)(1 1 1)T=-3
T(6)X3=(0 0 0)(1 1 1)T=0
T(6)X3=(2 2 -2)(1 1 1)T=2
T(4)X1=(-1 -1 0)(-1 -1 1)T=2
T(4)X1=(0 0 -1)(-1 -1 1)T=-1
T(4)X1=(2 2 -1)(-1 -1 1)T=-5
T(7)X1=(-1 -1 -1)(-1 -1 1)T=1
T(7)X1=(0 0 0)(-1 -1 1)T=0
T(7)X1=(2 2 -2)(-1 -1 1)T=-6
T(8)X2=(-1 -1 -1)(0 0 1)T=-1
T(8)X2=(0 0 0)(0 0 1)T=0
T(8)X2=(2 2 -2)(0 0 1)T=-2
d3(7)=w3
因 d1(7)>d2(7),d1(7)>d3(7),故
w1(8)= w1(7)=(-1 -1 -1)T
w2(8)=w2(7)=(0 0 0)T
w3(8)=w3(7)=(2 2 -2)T
第八轮迭代,以X2=(0 0 1)T作为迭代样本。
d1(8)=w1
d2(8)=w2
d3(8)=w3
因 d2(8)>d1(8),d2(8)>d3(8),故
w1(9)= w1(8)=(-1 -1 -1)T
w2(9)=w2(8)=(0 0 0)T
w3(9)=w3(8)=(2 2 -2)T
分类结果正确,权向量不变。
由于六、七、八次迭代中,X1,X2,X3 均已正确分类,所以权向量的解为:
w1= (-1 -1 -1)T
w2=(0 0 0)T
w3=(2 2 -2)T
三个判别函数为:
d1(x)=-x1-x2-1,
d3(x)=2x1+2x2-2
d2(x)=0,
6、 解:准则函数式为:
),
(
bxwJ
,
1
x
8
2
bxwbxw
T
T
2
则 J 对 w 的微分式:
J
w
bxw
1
x
T
2
4
定义:
bxw
T
sign
(
T
bxw
(*)
x
x
sign
(
T
bxw
))
sign
(
T
bxw
)
1
1
T
xwif
T
xwif
b
b
则由梯度法中 w(k+1)和 w(k)的关系有:
(
kw
)1
)(
kw
(
x
k
x
k
sign
(
C
4
x
k
)(
xkw
T
)(
xkw
T
[
k
)(
xkw
T
k
b
b
2
sign
(
T
)(
xkw
k
b
*)]
b
))
k
其中 xk 是训练模式样本,k 是指第 k 次迭代。
(
kw
)1
)(
Ckw
T
0
)(
xkw
k
x
k
xb
2
k
T
bxwif
bxwif
T
7、 解:(1)Hermite 多项式前面几项的表达式为
H0(x)=1,
H1(x)=2x,
H2(x)=4x2-2,
H3(x)=8x3-12x,
H4(x)=16x4-48x2+12
(2)建立二维的正交函数集
二维的正交函数集可由任意一对一维的正交函数组成,这里取四项最低阶
的二维的正交函数
1
)(
x
1
(
,
xx
1
2
)
2
)(
x
2
(
,
xx
1
2
)
3
)(
x
3
(
,
xx
1
2
)
4
)(
x
4
(
,
xx
1
2
)
5
)(
x
5
(
,
xx
1
2
)
6
)(
x
6
(
,
xx
1
2
)
7
)(
x
7
(
,
xx
1
2
)
8
)(
x
8
(
,
xx
1
2
)
9
)(
x
9
(
,
xx
1
2
)
(
xHxH
)
(
0
1
0
1)
2
(
xHxH
)
(
0
1
1
)
2
x
1
2
(
xHxH
)
(
1
1
0
(
xHxH
)
(
1
1
1
(
xHxH
)
(
2
1
0
)
2
x
2
2
)
4
xx
21
)
4
x
2
2
2
2
2
(
xHxH
)
(
0
1
2
)
2
2
4
x
1
2
(
xHxH
)
(
2
1
1
)
2
2(4
x
1
x
2
(
xHxH
)
(
1
1
2
)
2
2(4
x
2
x
1
2
2
)1
)1
(
xHxH
)
(
2
1
2
)
2
2
2(4
x
1
2)(1
x
2
2
)1
(3)生成势函数
按第一类势函数定义,得到势函数
,(
xxK
k
j
)(
x
i
41)(
x
xx
1
k
1
4
xx
2
k
2
16
xxxx
21
k
1
k
2
9
)
1
i
2)(1
x
k
1
2
2(
x
1
2
2(4
16
x
1
xx
2
k
2
2
)1
2
2)(1
x
k
1
2(4
x
2
)1
2
2(16
2)(1
x
k
2
x
1
2
2
)1
2
2)(1
x
2
16
2(
xx
x
1
2
k
1
2
2)(1
x
k
1
2
2)(1
2)(1
x
k
2
)1
x
2
2
)1
2
k
其中
x
1
Txx
)
(
,
2
,
x
k
(
x
k
1
,
x
k
2
T
)
通过训练样本逐步计算累积位势 K(x)
给定训练样本:ω1 类为 x1=(0 1)T, x2=(0 -1)T
ω2 类为 x3=(1 0)T, x4=(-1 0)T
累积位势 K(x)的迭代算法如下:
第一步:取 x1=(0 1)T∈ω1,故
K1(x)=K(x,x1)=
1+4x2-4(2x1
2-1)+4(2x2
2-1)-16x2(2x1
2-1)-16(2x1
2-1)(2x2
2-1)
第二步:取 x2=(0 -1)T∈ω1,故 K1(x2)=5
因 K1(x2)>0 且 x2∈ω1,故 K2(x)=K1(x)=
1+4x2-4(2x1
2-1)-16x2(2x1
2-1)+4(2x2
2-1)-16(2x1
2-1)(2x2
2-1)
第三步:取 x3=(1 0)T∈ω2,故 K2(x3)=9
因 K2(x3)>0 且 x3∈ω2,故 K3(x)=K2(x)-K(x,x3)=
20x2+16x2
2-20x1-16x1
2+32x1x2
2-32x2x1
2
第四步:取 x4=(-1 0)T∈ω2,故 K3(x4)=4
因 K3(x4)>0 且 x4∈ω2,
故 K4(x)=K3(x)-K(x,x4)=15+20x2-56x1
2-8x2
2-32x2x1
2+64x1
2x2
2
将全部训练样本重复迭代一次,得
第五步:取 x5=x1=(0 1)T∈ω1,K4(x5)=27>0
2-8x2
故 K5(x)=K4(x)= 15+20x2-56x1
2-32x2x1
第六步:取 x6=x2=(0 -1)T∈ω1,K5(x6)=-13<0
2+64x1
2x2
2
2+32x2
第七步:取 x7=x3=(1 0)T∈ω2,K6(x7)=-32<0
故 K6(x)=K5(x)+K(x,x6)=-32x1
2
故 K7(x)=K6(x)= -32x1
2+32x2
2
第八步:取 x8=x4=(-1 0)T∈ω2,K7(x8)=-32<0
故 K8(x)=K7(x)= -32x1
2+32x2
2
第九步:取 x9=x1=(0 1)T∈ω1,K8(x9)=32>0
故 K9(x)=K8(x)= -32x1
2+32x2
2
第十步:取 x10=x2=(0 -1)T∈ω1,K9(x10)=32>0
故 K10(x)=K9(x)= -32x1
2+32x2
2
对全部训练样本都能正确分类,故算法收敛于判别函数 d(x)= -32x1
2+32x2
2
8、解:取 1 ,在二维情况下,势函数为
x
K X X
2
|| } exp{ [(
exp{ ||
X X
x
(
)
,
1
k
k
2
)
1
(
x
x
2
k
2
2
) ]}
k
以下为势函数迭代算法:
X
第一步:取 1
0
1
w
1
,故
K X
1
(
)
exp{
2
x
1
(
x
2
2
1) }
X
第二步:取 2
X
第三步:取 3
K X
(
3
)
0
1
1
0
K X
(
2
w
1
, 1
K X
(
)
2
exp{ 4} 0
,故 2
K X
(
)
K X
1
(
)
w
2
)
, 2
K X
(
)
3
exp{ 1} 0
,故
K X X
(
,
)
exp{
2
x
1
(
x
2
3
2
1) } exp{ (
x
1
2
1)
2
}
x
2
X
第四步:取 4
1
0
w
2
, 3
K X
(
)
4
exp{ 2} exp{ 4} 0
,故
K X
(
4
)
K X
(
3
)
K X X
(
,
)
exp{
2
x
1
(
x
2
4
2
1) } exp{ (
x
1
1)
2
2
} exp{ (
x
2
x
1
1)
2
2
}
x
2
X
第五步:取 5
0
1
w
1
, 4
K X
) 1 exp{ 2} exp{ 2} 0
,故 5
K X
(
(
5
)
K X
(
4
)
X
第六步:取 6
0
1
w
1
, 5
K X
(
)
6
exp{ 4} exp{ 2} exp{ 2} 0
,故