% 采用贝叶斯正则化算法提高 BP 网络的推广能力。在本例中,我们采用两种训练方法,即
L-M 优化算法
%(trainlm)和贝叶斯正则化算法(trainbr),
% 用以训练 BP 网络,使其能够拟合某一附加有白噪声的正弦样本数据。其中,样本数据可
以采用如下
% MATLAB 语句生成:
% 输入矢量:P = [-1:0.05:1];
% 目标矢量:randn(’seed’,78341223);
% T = sin(2*pi*P)+0.1*randn(size(P));
% MATLAB 程序如下:
close all
clear all
clc
% NEWFF——生成一个新的前向神经网络
% TRAIN——对 BP 神经网络进行训练
% SIM——对 BP 神经网络进行仿真
% 定义训练样本矢量
% P 为输入矢量
P = [-1:0.05:1];
% T 为目标矢量
randn('seed',78341223); T = sin(2*pi*P)+0.1*randn(size(P));
% 创建一个新的前向神经网络
net=newff(minmax(P),[20,1],{'tansig','purelin'});
disp('1.
L-M 优化算法 TRAINLM'); disp('2. 贝叶斯正则化算法 TRAINBR');
choice=input('请选择训练算法(1,2):');
if(choice==1)
% 采用 L-M 优化算法 TRAINLM
net.trainFcn='trainlm';
% 设置训练参数
net.trainParam.epochs = 500;
net.trainParam.goal = 1e-6;
% 重新初始化
net=init(net);
pause;
elseif(choice==2)
% 采用贝叶斯正则化算法 TRAINBR
net.trainFcn='trainbr';
% 设置训练参数
net.trainParam.epochs = 500;
% 重新初始化
net = init(net);
pause;
end
% 调用相应算法训练 BP 网络
[net,tr]=train(net,P,T);
% 对 BP 网络进行仿真
A = sim(net,P);
% 计算仿真误差
E = T - A;
MSE=mse(E)
% 绘制匹配结果曲线
figure
plot(P,A,'o',P,T,'+',P,sin(2*pi*P),':');
legend('网络输出','目标值-带噪声','目标值-不带噪声')
结果:
采用 L-M 优化算法(trainlm):
采用贝叶斯正则化算法(trainbr):
可以看到,经 trainlm 函数训练后的神经网络对样本数据点实现了“过度匹配”,而经
trainbr 函数训练的神经网络对噪声不敏感,鲁棒性较好。(