供配电 ! !"#$% &’()%’*+)’",
基于优化最小二乘支持向量机的负荷预测
! 针对交叉验证法确定 "# $ #%& 参数存在盲目性的问
!
题,提出了一种自动选择正规化参数和核参数,建立负荷
预测模型的方法。该方法把参数选择问题转化为优化问
题,采用全局寻优能力强、收敛速度快的量子遗传算法,
自动寻找最小二乘支持向量机的最优参数并建立负荷预测
模型。
刘红文" 张葛祥" 方" 纯 # 西南交通大学电气工程学院
" 负荷预测是电力系统运行和调度工
"
作的重要任务之一,随着价格竞争机制
引入电力系统形成电力市场之后,对负
荷预测的精度提出了更高的要求。通过
几十年来对负荷预测的研究,已形成了
很多负荷 预 测 的 理 论 和 方 法[$]。支 持
向 量 机 ( %&’’()* +,-*() ./-012,3,
%+.) 是 由 贝 尔 实 验 室 的 +/’214
[5]等
在统计学习理论的基础上提出的一种新
文献[>] 采取交叉验证的方式确定 %+.
的参数,具有一定的盲目性而且很费时。
为此,文献[?] @ 文献[A] 分别采用
遗传算法寻找 %+. 的参数,其预测精度
有所提高,但遗传算法在寻优过程中容易
陷入“ 早熟”,全局寻优能力较差。
量子遗传算法( B&/2*&CDE23’1),F G,D
2,*1- HIJ()1*0C,BGH)是一种基于量子计
算概念[K]的优化算法,能很好地维持种群
的多样性且不易陷入早熟。文献[$<] 采
用文献[$$] 提出的 BGH 寻找 %+. 的参
数,在分类和函数逼近问题中的应用表明,
使用 BGH 能更好地寻找 %+. 的参数;文
献[$5]对 BGH 进行改进,提出新量子遗
传算法,其全局寻优能力及收敛速度均优
于文献[$$] 的 BGH。因此,本文采用全
局寻优能力强、收敛速度快的新量子遗传
的学习方法,它同时最小化了经验风险
与 +6 维的界以取得较小的实际风险,
即对未来的样本有较好的泛化能力。对
算法[$5],自动寻找最小二乘支持向量机的
正规化参数 ! 和核参数 !,建立 8% : %+.
预测模型用于电力负荷预测。
关键词!"#$%&’()
负荷预测·
最小二乘支持向量机·
参数选择·
量子遗传算法·
样本的训练等效为求一个凸二次规划问
题,具 有 唯 一 解。 文 献 [ $ ] 和 文 献
[7] 分别将 %+. 用于短期负荷预测取
得了 较 好 结 果。 而 最 小 二 乘 向 量 机
( 8,/3* %9&/),3 %&’’()* +,-*() ./-012,,
8% : %+.) 是标准支持向量机的 一 种
新的扩展,优化目标选取了误差的二范
数,同时将标准支持向量机的不等式约
束改为等式约束,将凸二次规划问题转
化为线性方程组求解,提高了求解的速
度,更具有实际的意义。把 8% : %+.
用于电力负荷预测时,负荷预测的精度
直接受正规化参数 ! 和核参数 ! 的影响。
国 家 自 然 科 学 基 金 项 目 ( 项 目 编 号:
;<=<5<5;)
!!"""
·冶金电气·*+,+ 年第 *- 卷第 . 期
基于 /01 优化最小二乘支持向量机
参数的负荷预测模型
,2 最小二乘支持向量机回归算法
,
具有 " 个数据的训练集表示为:{#$
,第 $ 个输入数据 #$"&’,第 $ 个输
}"
%$
出数据 %$"&。最小二乘支持向量机回归
算法就是要求解优化问题
$ L $
C12 (( !,") )
$
5
"
!M! * !#
$ ) $
($)
+5
$
式($) 的约束条件为
%$ L !M"( #$
) N # N +$
( $ L $,…,")
其对偶问题的 8/J)/2J, 多项式为
,( !,#,",!) ) (( !,")- #
#$ .
"
$ ) $
{!M"( #$
)* # * +$ - %$
}
基于优化最小二乘支持向量机的负荷预测
!"#$% &’()%’*+)’", ! 供配电
式中,!!
为 #$%&$’%( 乘子。最优解的条件为
“ 过学习” 和“ 欠学习”。
$
) *$! ) #
! ) +
!! #( %!
)
$
) *$ , #
! ) +
!! ) *
) *$!! ) (’!
( ! ) +,-,…,$)
) *$!.#( %!
)/ " / ’! , )! ) *( ! ) +,-,…,$
)
""
"#
""
"&
""
"’!
""
"!!
改写为线性方程组的形式:
*
*
*
*
, $.
, + *.
!
"
*
*
)
#
*
*
(-)
* (#
#
*
ß&
, #
ß*
%
ß!
)…#( %$
)].,% )[ ’+ ’-
)#( %-
].,#* )[ + …+ ].,! )[ !+
…
…
$ #*
式中,$ )[ #( %+
… )$
].,& )[ )+
’$
].。
!$
消去 % 和 !,再利用 0(&1(& 条件
!+, ) #( %+
)) $( %+
).#( %,
,%,
)2 +,, ) +,…,$
得
[
#*.
*
#* " / ( , +
#
]
]
"[
!
]
*[
&
)
设 ’ ) " / ( , + #,由于 ’ 是一个对称半正定矩阵,
’ , + 存在,解线性方程组,得到如下解
#*.’ , + &
#*.’ , + #* 2 ! ) ’ , +( & , "#*)
" )
于是,回归函数便写成
$
-( %) . #
! . +
!! $( %,%!
)/ "
(3)
) 为满足 0(&1(& 条件的任意对称
核函数 $( %,%!
函数。常用 的 核 函 数 有:" 线 性 核:$( %,)))
%)。#多项 式 核:$( %,) ))( %) / + )0。$ 456
核:$( %,))) (78[ ,( % , ))- 1(-%- )]。
本文核函数选取 456 核,此时 #9 , 9:0 有
两个参数需要选择,即正规化参数 ( 和核参数 %。
( 的作用是调节 #9 , 9:0 置信范围和经验风险的
比例,以使其泛化能力最好。( 的取值小表示对
经验误差的惩罚小,#9 , 9:0 的复杂度小而经验
风险值较大,反之亦然。前者为“ 欠学习”,后
者为“ 过学习”,且核参数 % 的取值也同样和正
规化参数 ( 一样,取值不当也会引起 #9 , 9:0 的
), -. / .01 参数优化的预测模型
如上节所 述, 正 规 化 参 数 (, 核 参 数 % 是
影响 #9 , 9:0 学习和泛化能力的重要因素。如
何选择 这 两 个 参 数, 目 前 尚 缺 乏 有 效 的 方 法,
一般 采 取 交 叉 验 证 方 法 试 探, 具 有 一 定 盲 目
性。本文把对参数选 择 转 化 为 优 化 问 题, 采 用
寻优能力强的量子遗传算法自 动 寻 找 #9 , 9:0
参数,以平 均 相 对 误 差 即 式 ( ; ) 为 寻 找 最 优
参数的优化目标。
20<=> .
3
+
3 #
! . +
)! 4 )%
!
)!
5 +**6 (;)
表示平均相对误差;3 表示测试样本
式中,20<=>
的数量;)!
表示 第 ! 个 测 试 样 本 的 实 际 负 荷 值;
表示第 ! 个测试样本的预测负荷值。利用 ?@<
)%
!
寻找最优参数,建立负荷预测模型的流程如下:
步骤 +:获取数据,并对数据进行预处理。
步骤 -:以正规化参数 (、核参数 % 为优化变
量,进行 ?@< 的种群 7( 8)初始化。
步骤 3:对 7( 8)进行观测,得到一组观测态
9( 8),并把 9( 8)中的染色体解码为实数,以获取
到的训练样本数据进行训练,建立式(3) 回归
模型,用测试样本进行检测,并以式(; ) 为检
验的目标,对个体进行评价,保存最优参数。
步骤 ;:对 ?@< 的种群 7( 8)进行量子门的
更新。
步骤 A:是否满足结束条件。满足则转入步
骤 B;否则迭代次数加 +,返回步骤 3 继续寻优。
步骤 B:由上述找到的最优参数,建立 #9 ,
9:0 预测模型,对未来的负荷进行预测。
需要说明的是:
+) 步骤 + 中对历史负荷数据进行平滑和归一
化处理,构成训练样本和测试样本。
-) 步骤 - 的 ?@< 中,染色体采用量子比特
( 量子位) 表示。一个量子比特不仅可以表示 *、
+ 两个状态,而且表示了 *、+ 两种状态之间的任
意状态。一个量子比特的状态[++]可表示为
$〉) ! *〉/ & +〉
复数 !、 & 表 示 相 应 状 态 出 现 的 概 率,
! - 、 & - 分别表示通过观测,量子比特处于
!!!" "#$"" %&’" %(
)*+* 年 ) 月下·冶金电气·
!"###
Ø
Œ
Œ
Œ
Œ
º
ø
œ
œ
œ
œ
Ø
Œ
Œ
Œ
Œ
º
ø
œ
œ
œ
œ
Ø
Œ
Œ
Œ
Œ
º
ø
œ
œ
œ
œ
供配电 ! !"#$% &’()%’*+)’",
状态 " 和 # 的概率,且 !、" 满足归一化条件
! $ % " $ & #
本文用 $" 个量子比特表示一条量子染色体,
其形式为
[
!# !$
]
… !$"
… "
( ! & #,$,…,$" ) 全
$"
"#
初始化时,所有 !!
都取 # " !$。
"$
和 "!
’) 在步骤 ’ 中得到观测态 #( $)的具体方法
为:对每一个量子比特,在[",#] 之间,由计
算机产生一个随机数 ()*+,若 ()*+& ! $ ,则该
位取 ",否则取 #。
!
]
[
!$ % #
在步骤 , 中:种群 %( $)的量子门更新公式为
[
& &· !$
"$
式中,[ !$
] 分别为染色体中
第 $ 代和第 $ % # 代的第 ! 个量子比特;& 为量子
旋转门
]/,[ !$ % #
. "$ % #
! . "$
"$ % #
]
!
!
!
!
!
!
(-)
[
& &
012 #
3 24* #
24* #
012
#
]
式中,# 为旋转角,取值 # & ’(( !,"),(( !!
,
) 的取值为 5 #,控制旋转方向,取值通过函数
"!
(( !,") 表 查 询 如 表 # 所 示。根 据 文 献[ #$ ]
对量子位相位定义,#"[ 3 ! " $,! " $],同文献
[ #’ ], ’ 定 义 为: ’
89:
[
#"") 表示 $ 与 #"" 取余,’ 最大值取 "6 -!,随着
进化代数增加而减小。
,其中 $ 为进化代数,;1+( $,
]
;1+( $,#"")
"6 -! 7
#"
3
&
表 #& 函数 !(!,") 查询表
$# < "
$$ < "
/(>8
/(>8
?)@28
/(>8
?)@28
/(>8
?)@28
?)@28
,$$ & "1(! " $
$#
(( !,")
$# ’$$
% #
$# = $$
3 #
)
,!$
,!$
)
24A*( !#
3 24A*( !#
,!$
24A*( !#
) . 3 24A*( !#
,!$
)
5 #
.
. 注:表中 $# & )(0B)*( "# " !#
),$$ & )(0B)*( "$ " !$
为到目前为止搜索到的最优解的概率幅,!$
"#
当前与最优解相比较的概率幅,24A* 为符号函数。
),!#
和 "$
和
为
!"###
·冶金电气·!"#" 年第 !$ 卷第 % 期
算例分析
#’ 数据来源
$""# 年斯洛伐克东部电力公司组织了一次全
球性负荷预测,组织方提供了 #CCD、#CCE 年每隔
’" ;4* 的负荷数据、每天的平均气温以及节假日
信息,根据这些信息,预测 #CCC 年 # 月份的每日
最大负荷。
!’ 输入属性的选择
电力负荷预测问题是一个多变量复杂预测问
题,影响负荷 大 小 的 因 素 有 很 多,如 历 史 负 荷、
气候季节变化、温度变化和预测日的日期属性等。
温度信息和气象信息是影响负荷的一个复杂因素。
文献[#,] 指出,当天温度过高或者过低、天气
的阴晴变化和风速等都会影响负荷的大小,并且
是一个不确定非线性关系。而已知数据信息中,
对温度和天气情况的描述过于简略,因此忽略此
属性。本文选择过去 D 天的最大负荷和日期类型
作为输入的属性。把 #CCD 年和 #CCE 年的数据分
为两组,#CCE 年 # 月份的数据作为测试样本,剩
下的数据作为训练样本。由于本文的目的是预测
#CCC 年 # 月份每日最大负荷,当预测出 #CCC 年 #
月 # 日的最大负荷后,以该日的预测值为属性预
测 # 月 $ 日的最大负荷,其他日依次类推。
(’ 实验结果与分析
本文在 FG 3 GHI 工具箱的基础上,用 I)B@)J
编程进行实验仿真。由不同参数组合,得到 #CCC
年 # 月的平均相对误差如表 $ 所示。
表 !& 不同参数组合下的预测精度
%
#
#
#
#
#"
#"
#"
)
#
#"
$-
,-
#
#"
$-
*IKLM
( N )
#6 C$- E
$6 "E" $
-6 #-C #
##6 -,’
#6 CE, ’
$6 -$" #
$6 O,’ ,
%
$-
$-
$-
$-
,-
,-
,-
)
#
#"
$-
,-
#
#"
$-
*IKLM
( N )
$6 "CD "
$6 -"E $
$6 ,C" $
$6 ,OO ’
$6 $,O E
$6 -,D C
$6 O"C C
,-
$6 D#D -
#"
. 表 $ 结果表明,固定正规化参数 ),取不同
.
核参数 %,预测精度不同;固定核参数 %,预测精
$6 -D, #
,-
,-
基于优化最小二乘支持向量机的负荷预测
!"#$% &’()%’*+)’", ! 供配电
度亦随正规化参数 ! 的不同而不同,说明负荷预
测的精度直接受这两个参数影响。
用本文的方法进行实验仿真时,由 #$% 找到
的最优参数组合为:! & ’" (,! & )" *。建立好负
荷预测模型后,预测 +((( 年 + 月份的每日最大负
荷。每日最大负荷预测曲线与真实最大负荷曲线
的比较如图所示。
图, 预测结果与实际数据的比较曲线图
与 ,-./0, 讨 论 会 的 最 优 结 果[+*]以 及 文 献
[+1 ] 提 出 的 模 糊 神 经 网 络 的 结 果 比 较 如 表 2
所示。
[ 3]9 .CN OGFA:P>F?@LCF,+((19
[2] 潘峰,程浩忠,杨镜非,等9 基于支持向量机的电
力系统短 期 负 荷 预 测 [ :]9 电 网 技 术,6))*,67
(6+):2(; *69
[*] QB=>CKKC R,<=>@?A <,SGEITECD R,CD =+9 QBGGI?@L
UEKD?>KC >=F=UCDCFI HGF IE>>GFD VCJDGF U=JB?@CI[ :]9
3=JB?@C WC=F@?@L,6))6,*’(+):+2+;+1(9
[1] 王定成,汪懋华9 基于 $% 的 P<3X 预测控制研究
[ :]9 控制与决策,6))*,+((():+ )’7;+ )Y)9
[’] 刘隽,周涛,周佩玲9 $% 优化支持向量机用于混
沌时间系列预测[ :]9 中国科技大学学报,6))1,
21(6):617;6’29
[Y] 牛东晓,刘达,陈广娟,等9 基于遗传优化的支持
向量机 小 时 负 荷 滚 动 预 测 [ :]9 电 工 技 术 学 报,
6))Y,66(’):+*7;+129
[7] 高异,杨延西,刘军9 模糊遗传滚动优化的 WP Z
P<3 预测控制研究[ :]9 系统仿真学报,6))Y,+(
(’):+ 6YY;+ 67)9
[(] [CM 09 #E=@DEU JGU>ED=D?G@:=@ ?@DFG\EJD?G@[ :]9
QGU>ED?@L ] ,@L?@CCF?@L :GEF@=K, +((’, +) ( 2 ):
表 -, 不同方法预测误差的比较
+)1;++69
方法
预测误差 "3,%4
( 5 )
,-./0, 讨论会的最优结果
模糊神经网络
本文方法
6" +*7 (
+" ((
+" 721 1
8 图表明预测曲线与真实负荷曲线基本吻合。
8
表 2 表明,本文提出的方法与 ,-./0, 讨论会的
最优结果以及文献[+1] 方法相比,具有更高的
预测精度,说明本文方法的有效性和优越性。
结束语
最小二乘支持向量机用于电力负荷预测时,
其参数的选择直接影响负荷预测的精度。本文提
出了用收敛速度快且全局寻优能力强的 #$% 自动
选择最小二乘支持向量机的最优参数,建立负荷
预测模型用于负荷预测。
参考文献
[+] 李元诚,方廷健,于而铿9 短期负荷预测的支持向
量机方法研究[ :]9 中国电机工程学报,6))2,62
(’):11;1(9
[6] <=>?@A < .9 0BC @=DEFC GH ID=D?ID?J=K KC=F@?@L DBCGFM
[+)] WEG ^B?M?@L,_=@L 4?@L,W? O?@LEG,CD =K9 #E=@DEU
Z ?@I>?FC\ CVGKED?G@=FM DE@?@L GH P<3 >=F=UCDCFI[ :]9
PJ?C@JC, 6))7, * ( +) ):
?@ .=DEF=K
4FGLFCII
*Y1; *7)9
[++] [=@ ‘ [,‘?U [ :9 #E=@DEU Z ?@I>?FC\ CVGKED?G@=FM
=KLGF?DBU HGF = JK=II GH JGUa?@=DGF?=K G>D?U?b=D?G@[ :]9
/,,, 0F=@I=JD?G@I G@ ,VGKED?G@=FM QGU>ED=D?G@,6))6,
’(’):17);1(29
[+6] 张葛祥,李娜,金炜东,等9 一种新量子遗传算法
及 其 应 用 [ : ]9 电 子 学 报, 6))*, 26 ( 2 ):
*Y’; *Y(9
[+2] ^B=@L $Cc?=@L, XG@L [=?@=, :?@ _C?\G@L9 %@ ?U;
>FGVC\ TE=@DEU Z ?@I>?FC\ LC@CD?J =KLGF?DBU =@\ ?DI =>;
>K?J=D?G@ DG D?UC Z HFCTEC@JM =DGU \CJGU>GI?D?G@[ :]9
dM@=U?JI GH QG@D?@EGEI, d?IJFCDC ] /U>EKI?VC PMI;
DCUI,6))Y,+*(2):Y’*;YY+9
[+*] e=@ P,QBC@ W9 PBGFD Z DCFU KG=\ HGFCJ=ID?@L a=IC\ G@
=@ =\=>D?VC BMaF?\ UCDBG\[ :]9
PMIDCU,6))’,6+(+):2(6; *)+9
/,,, 0F=@I9 G@ 4GNCF
[+1] 于海燕,张凤玲9 基于模糊神经网络的电力负荷短
期预测[ :]9 电网技术,6))Y,2+(2):’7;Y69
( 收稿日期:6))( )7 6)) !"
!!!" "#$"" %&’" %(
)*+* 年 ) 月下·冶金电气·
!"###