1/31
2/31
决策树算法
• ID3 (J. Ross Quinlan-1975)
核心:信息熵 (信息增益算法)
• C4.5—ID3的改进
核心:信息增益比
• CART(Breiman-1984)
核心:基尼指数
3/31
ID3 (J. Ross Quinlan-1975
)
核心:信息熵 (信息增益
算法)
4/31
5/31
Number
1
2
3
4
5
6
7
8
9
10
11
12
13
14
天气
晴朗
晴朗
多云
雨天
雨天
雨天
多云
晴朗
晴朗
雨天
晴朗
多云
多云
雨天
表1 实例数据集
湿度
温度
风力
高
高
高
适中
冷
冷
冷
适中
冷
适中
适中
适中
高
适中
高
高
高
高
正常
正常
正常
高
正常
正常
正常
高
正常
高
弱
强
弱
弱
弱
强
强
弱
弱
弱
强
强
弱
强
Play
No
No
Yes
Yes
Yes
No
Yes
No
Yes
Yes
Yes
Yes
Yes
No
6/31
7/31
8/31