第一章
1、数据仓库就是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合。
2、元数据是描述数据仓库内数据的结构和建立方法的数据,它为访问数据仓库提供了一个
信息目录,根据数据用途的不同可将数据仓库的元数据分为技术元数据和业务元数据两类。
3、数据处理通常分成两大类:联机事务处理和联机分析处理。
4、多维分析是指以“维”形式组织起来的数据(多维数据集)采取切片、切块、钻取和旋
转等各种分析动作,以求剖析数据,使拥护能从不同角度、不同侧面观察数据仓库中的数据,
从而深入理解多维数据集中的信息。
5、ROLAP 是基于关系数据库的 OLAP 实现,而 MOLAP 是基于多维数据结构组织的 OLAP
实现。
6、数据仓库按照其开发过程,其关键环节包括数据抽取、数据存储管理和数据表现等。
7、数据仓库系统的体系结构根据应用需求的不同,可以分为以下 4 种类型:两层架构、独
立型数据集合、依赖型数据集市和操作型数据存储、逻辑型数据集市和实时数据仓库。
8、操作型数据存储实际上是一个集成的、面向主题的、可更新的、当前值的(但是可“挥
发”的)、企业级的、详细的数据库,也叫运营数据存储。
9、“实时数据仓库”意味着源数据系统、决策支持服务和仓库仓库之间以一个接近实时的速
度交换数据和业务规则。
10、从应用的角度看,数据仓库的发展演变可以归纳为 5 个阶段:以报表为主、以分析为主、
以预测模型为主、以运营导向为主和以实时数据仓库和自动决策为主。
11、什么是数据仓库?数据仓库的特点主要有哪些?
数据仓库通常是指一个数据库环境,而不是支一件产品,它是提供用户用于决策支持的
当前和历史数据,这些数据在传统的数据库中通常不方便得到。
数据仓库就是一个面向主题的(Subject Oriented)、集成的(Integrate)、相对稳定的
(Non-Volatile)、反映历史变化(Time Variant)的数据集合,通常用于辅助决策支持。
数据仓库的特点包含以下几个方面:(1)面向主题。操作型数据库的数据组织是面向事务
处理任务,各个业务系统之间各自分离;而数据仓库中的数据是按照一定的主题域进行组织。
主题是一个抽象的概念,是指用户使用数据仓库进行决策时所关心的重点领域,一个主题通
常与多个操作型业务系统或外部档案数据相关。(2)集成的。面向事务处理的操作型数据
库通常与某些特定的应用相关,数据库之间相互独立,并且往往是异构的。而数据仓库中的
数据是在对原有分散的数据库数据作抽取、清理的基础上经过系统加工、汇总和整理得到的,
必须消除源数据中的不一致性,以保证数据仓库内的信息是关于整个企事业单位一致的全局
信息。也就是说存放在数据仓库中的数据应使用一致的命名规则、格式、编码结构和相关特
性来定义。(3)相对稳定的。操作型数据库中的数据通常实时更新,数据根据需要及时发
生变化。数据仓库的数据主要供单位决策分析之用,对所涉及的数据操作主要是数据查询和
加载,一旦某个数据加载到数据仓库以后,一般情况下将作为数据档案长期保存,几乎不再
做修改和删除操作,也就是说针对数据仓库,通常有大量的查询操作及少量定期的加载(或
刷新)操作。(4)反映历史变化。操作型数据库(OLTP)主要关心当前某一个时间段内的
数据,而数据仓库中的数据通常包含较久远的历史数据,因此总是包括一个时间维,以便可
以研究趋势和变化。数据仓库系统通常记录了一个单位从过去某一时点(如开始启用数据仓
库系统的时点)到目前的所有时期的信息,通过这些信息,可以对单位的发展历程和未来趋
势做出定量分析和预测。
12、简述数据仓库 4 种体系结构的异同点以其适用性。
(1)两层架构(Generic Two-Level Architecture)。
(2)独立型数据集市(Independent Data Mart)。
(3)依赖型数据集市和操作型数据存储(Dependent Data Mart and Operational Data
Store)。
(4)逻辑型数据集市和实时数据仓库( Logical Data Mart and Real-Time Data
Warehouse)。
13、简述你对数据仓库未来发展趋势的看法。
数据仓库技术的发展包括数据抽取、存储管理、数据表现和方法论等方面。在数据抽取
方面,未来的技术发展将集中在系统集成化方面。它将互连、转换、复制、调度、监控纳入
标准化的统一管理,以适应数据仓库本身或数据源可能的变化,使系统更便于管理和维护。
在数据管理方面,未来的发展将使数据库厂商明确推出数据仓库引擎,作为数据仓库服务器
产品与数据库服务器并驾齐驱。在这一方面,带有决策支持扩展的并行关系数据库将最具发
展潜力。在数据表现方面,数理统计的算法和功能将普遍集成到联机分析产品中,并与
Internet/Web 技术紧密结合。按行业应用特征细化的数据仓库用户前端软件将成为产品作为
数据仓库解决方案的一部分。数据仓库实现过程的方法论将更加普及,将成为数据库设计的
一个明确分支,成为管理信息系统设计的必备。
14、请列出 3 种数据仓库产品,并说明其优缺点。
(1)IBM 公司提供了一套基于可视化数据仓库的商业智能(BI)解决方案,包括:Visual
Warehouse(VW),Essbase/DB2 OLAP Server 5.0、IBM DB2 UDB,以及来自第三方的前
端数据展现工具(如BO)和数据挖掘工具(如SAS)。其中,VW 是一个功能很强的集成
环境,既可用于数据仓库建模和元数据管理,又可用于数据抽取、转换、装载和调度。
Essbase/DB2 OLAP Server 支持“维”的定义和数据装载。Essbase/DB2 OLAP Server 不是
ROLAP(Relational OLAP)服务器,而是一个(ROLAP 和MOLAP)混合的HOLAP 服务
器,在Essbase 完成数据装载后,数据存放在系统指定的DB2 UDB 数据库中。它的前端数
据展现工具可以选择Business Objects 的BO、Lotus 的Approach、Cognos 的Impromptu 或
IBM 的Query Management Facility;多维分析工具支持Arbor Software 的Essbase 和IBM(与
Arbor 联合开发)的DB2 OLAP 服务器;统计分析工具采用SAS 系统。
(2)Oracle 数据仓库解决方案主要包括Oracle Express 和Oracle Discoverer 两个部分。
Oracle Express 由四个工具组成:Oracle Express Server 是一个MOLAP(多维OLAP)服务器,
它利用多维模型,存储和管理多维数据库或多维高速缓存,同时也能够访问多种关系数据库;
Oracle Express Web Agent 通过CGI 或Web 插件支持基于Web 的动态多维数据展现;
Oracle Express Objects 前端数据分析工具(目前仅支持Windows 平台)提供了图形化建模
和假设分析功能,支持可视化开发和事件驱动编程技术,提供了兼容Visual Basic 语法的语
言,支持OCX 和OLE;Oracle Express Analyzer 是通用的、面向最终用户的报告和分析工具
(目前仅支持Windows 平台)。Oracle Discoverer 即席查询工具是专门为最终用户设计的,
分为最终用户版和管理员版。在Oracle 数据仓库解决方案的实施过程中,通常把汇总数据
存储在Express 多维数据库中,而将详细数据存储在Oracle 关系数据库中,当需要详细数据
时,Express Server 通过构造SQL 语句访问关系数据库。
(3)Microsoft 将OLAP 功能集成到SQL Server 数据库中,其解决方案包括BI 平台、BI 终
端工具、BI 门户和BI 应用四个部分,如图1.1。
① BI 平台是BI 解决方案的基础, 包括ETL 平台SQL Server 2005 Integration
Service(SSIS)、数据仓库引擎SQL Server 2005 RDBMS 以及多维分析和数据挖掘引擎SQL
Server 2005 Analysis Service、报表管理引擎SQL Server 2005 Reporting Service。
② BI 终端用户工具,用户通过终端用户工具和Analysis Service 中的OLAP 服务和数据挖
掘服务进行交互来使用多维数据集和数据挖掘模型,终端用户通常可使用预定义报表、交互
式多维分析、即席查询、数据可视化、数据挖掘等多种方法。
③ BI 门户提供了各种不同用户访问BI 信息的统一入口。BI 门户是一个数据的汇集地,集
成了来自不同系统的相关信息。用户可以制定个性化的个人门户,选择和自己相关性最强的
数据,提高信息访问和使用的效率。
④ BI 应用是建立在 BI 平台、BI 终端用户工具和 BI 统一门户这些公共技术手段之上的满
足某个特定业务需求的应用,例如零售业务分析、企业项目管理组合分析等
第二章
1、调和数据是存储在企业级数据仓库和操作型数据存储中的数据。
2、抽取、转换、加载过程的目的是为决策支持应用提供一个单一的、权威数据源。因此,
我们要求 ETL 过程产生的数据(即调和数据层)是详细的、历史的、规范的、可理解的、
即时的和质量可控制的。
3、数据抽取的两个常见类型是静态抽取和增量抽取。静态抽取用于最初填充数据仓库,增
量抽取用于进行数据仓库的维护。
4、粒度是对数据仓库中数据的综合程度高低的一个衡量。粒度越小,细节程度越高,综合
程度越低,回答查询的种类越多。
5、使用星型模式可以从一定程度上提高查询效率。因为星型模式中数据的组织已经经过预
处理,主要数据都在庞大的事实表中。
6、维度表一般又主键、分类层次和描述属性组成。对于主键可以选择两种方式:一种是采
用自然键,另一种是采用代理键。
7、雪花型模式是对星型模式维表的进一步层次化和规范化来消除冗余的数据。
8、数据仓库中存在不同综合级别的数据。一般把数据分成 4 个级别:早期细节级、当前细
节级、轻度综合级和高度综合级。
9、什么是数据仓库的 3 层数据结构?
数据是从企业内外部的各业务处理系统(操作型数据)流向企业级数据仓库
(EDW)或操作型数据存储区(ODS),在这个过程中,要根据企业(或其他组织)的数据模
型和元数据库对数据进行调和处理,形成一个中间数据层,然后再根据分析需求,从调和数
据层(EDW、ODS)将数据引入导出数据层,如形成满足各类分析需求的数据集市。
10、什么是数据仓库的数据 ETL 过程?
数据的ETL 过程就是负责将操作型数据转换成调和数据的过程。如上面的2.3.1 小节所
述,这两种数据具有明显的区别,因此,数据调和是构建一个数据仓库中最难的和最具技术
挑战性的部分。在为企业级数据仓库填充数据的过程中,数据调和可分为两个阶段:一是企
业级数据仓库(EDW)首次创建时的原始加载;二是接下来的定期修改,以保持EDW 的当
前有效性和扩展性。
整个过程由四个步骤组成:抽取、清洗、转换、加载和索引。事实上,这些步骤可以进行不
同的组合,如,可以将数据抽取与清洗组合为一个过程,或者将清洗和转换组合在一起。
通常,在清洗过程中发现的拒绝数据信息会送回到源操作型业务系统中,然后将数据在源系
统中加以处理,以便在以后重新抽取。
11、什么是星型模式?它的特征是什么?
在星模式中,事实表居中,多个维表呈辐射状分布于其四周,并与事实表连接。位于星
形中心的实体是事实表,是用户最关心的基本实体和查询活动的中心,为数据仓库的查询活
动提供定量数据。位于星模式四周的实体是维度实体,其作用是限制和过滤用户的查询结果,
缩小访问范围。每个维表都有自己的属性,维表和事实表通过关键字相关联。
12、为什么时间总是数据仓库或数据集市的维?
因为数据仓库或数据集市的数据总是历史的数据,需要时间维来区别。
第三章
1、SQL Server SSAS 提供了所有业务数据的同意整合试图,可以作为传统报表、在线分析
处理、关键性能指示器记分卡和数据挖掘的基础。
2、数据仓库的概念模型通常采用信息包图法来进行设计,要求将其 5 个组成部分(包括名
称、维度、类别、层次和度量)全面地描述出来。
3、数据仓库的逻辑模型通常采用星型图法来进行设计,要求将星型的各类逻辑实体完整地
描述出来。
4、按照事实表中度量的可加性情况,可以把事实表对应的事实分为 4 种类型:事务事实、
快照事实、线性项目事实和事件事实。
5、确定了数据仓库的粒度模型以后,为提高数据仓库的使用性能,还需要根据拥护需求设
计聚合。
6、在项目实施时,根据事实表的特点和拥护的查询需求,可以选用时间、业务类型、区域
和下属组织等多种数据分割类型。
7、当维表中的主键在事实表中没有与外键关联时,这样的维称为退化维。它于事实表并无
关系,但有时在查询限制条件(如订单号码、出货单编号等)中需要用到。
8、维度可以根据其变化快慢分为无变化维度、缓慢变化维度和剧烈变化维度三类。
9、数据仓库的数据量通常较大,且数据一般很少更新,可以通过设计和优化索引结构来提
高数据存取性能。
10、数据仓库数据库常见的存储优化方法包括表的归并与簇文件、反向规范化引入冗余、表
的物理分割(分区)。
11、什么是信息包图法?它为什么适用于数据仓库的概念模型的设计?
信息包图法,也叫用户信息需求表,就是在一张平面表格上描述元素的多维性,其中的
每一个维度用平面表格的一列表示,通常的维度如时间、地点、产品和顾客等;而细化本列
的对象就是类别,例如时间维度的类别可以细化到年、月、日,甚至小时;平面表格的最后
一行(代表超立方体中的单元格)即为指标度量值,例如,某年在某销售点的某类产品的实
际销售额。创建信息包图时需要确定最高层和最低层的信息需求,以便最终设计出包含各个
层次需要的数据仓库。
总之,信息包图法是一种自上而下的数据建模方法,即从用户的观点开始设计(用户的
观点是通过与用户交流得到的),站在管理者的角度把焦点集中在企业的一个或几个主题上,
着重分析主题所涉及数据的多维特性,这种自上而下的方法几乎考虑了所有的信息源,以及
这些信息源影响业务活动的方式。
12、简述数据仓库系统设计过程?
收集、分析和确认业务分析需求,分析和理解主题和元数据、事实及其量度、粒度和维
度的选择与设计、数据仓库的物理存储方式的设计等。
13、一个数据仓库系统的建立通畅需要经过哪些步骤?
(1)收集和分析业务需求;(2)建立数据模型和数据仓库的物理设计;
(3)定义数据源;(4)选择数据仓库技术和平台;
(5)从操作型数据库中抽取、清洗及转换数据到数据仓库;
(6)选择访问和报表工具,选择数据库连接软件,选择数据分析和数据展示软件;
(7)更新数据仓库。
14、运行 SQL Server 的 Adventure Words DW 示例数据库,建立多维数据模型练习。
参考 3.3 节的过程。
第四章
1、关联规则的经典算法包括 Apriori 算法和 FP-growth 算法,其中 FP-grownth 算法的效率更
高。
2、如果 L2={{a,b},{a,c},{a,d},{b,c},{b,d}},则
连接产生的 C3={{a,b,c},{a,b,d},{a,c,d},{b,c,d}}
再经过修剪,C3={{a,b,c},{a,b,d}}
3、设定 supmin=50%,交易集如
则 L1={A},{B},{C} L2={A,C}
表 4.8
交易号 TID
T1
T2
T3
T4
4、什么是关联规则?关联规则的应用有哪些?
顾客购买商品 Items
A B C
A C
A D
B E F
关联规则挖掘最初由R.Agrawal 等人提出,用来发现超级市场中用户购买的商品之间的
隐含关联关系,并用规则的形式表示出来,称为关联规则(Association Rule)。关联规则除了
可以发现超市购物中隐含的关联关系之外,还可以应用于其他很多领域。
关联规则的应用还包括文本挖掘、商品广告邮寄分析、网络故障分析等。
5、关联规则的分类有哪些?关联规则挖掘的步骤包括什么?
关联规则的分类:
(1)基于规则中涉及到的数据的维数,关联规则可以分为单维的和多维的。
(2)基于规则中数据的抽象层次,可以分为单层关联规则和多层关联规则。
(3)基于规则中处理的变量的类型不同,关联规则可以分为布尔型和数值型。
关联规则挖掘的步骤:
(1)找出交易数据库中所有大于或等于用户指定的最小支持度的频繁项集;
(2)利用频繁项集生成所需要的关联规则,根据用户设定的最小可信度进行取舍,产生强
关联规则。
第五章
1、分类的过程包括获取数据、预处理、分类器设计和分类决策。
2、分类器设计阶段包含三个过程:划分数据集、分类器构造和分类器测试。
3、分类问题中常用的评价准则有精确度、查全率和查准率和几何均值。
4、支持向量机中常用的核函数有多项式核函数、径向基核函数和 S 型核函数。
5、什么是分类?分类的应用领域有哪些?
分类是指把数据样本映射到一个事先定义的类中的学习过程,即给定一组输入的属性向
量及其对应的类,用基于归纳的学习算法得出分类。
分类问题是数据挖掘领域中研究和应用最为广泛的技术之一,许多分类算法被包含在统
计分析工具的软件包中,作为专门的分类工具来使用。分类问题在商业、银行业、医疗诊断、
生物学、文本挖掘、因特网筛选等领域都有广泛应用。例如,在银行业中,分类方法可以辅
助工作人员将正常信用卡用户和欺诈信用卡用户进行分类,从而采取有效措施减小银行的损
失;在医疗诊断中,分类方法可以帮助医疗人员将正常细胞和癌变细胞进行分类,从而及时
制定救治方案,挽救病人的生命;在因特网筛选中,分类方法可以协助网络工作人员将正常
邮件和垃圾邮件进行分类,从而制定有效的垃圾邮件过滤机制,防止垃圾邮件干扰人们的正
常生活。
第六章
1、聚类分析包括连续型、二值离散型、多值离散型和混合类型 4 种类型描述属性的相似度
计算方法。
2、连续型属性的数据样本之间的距离有欧氏距离、曼哈顿距离和明考斯基距离。
3、划分聚类方法对数据集进行聚类时包含三个要点:选种某种距离作为数据样本减的相似
性度量、选择评价聚类性能的准则函数、选择某个初始分类,之后用迭代的方法得到聚类结
果,使得评价聚类的准则函数取得最优值。
4、层次聚类方法包括凝聚型和分解型两中层次聚类方法。
5、什么是聚类分析?聚类分析的应用领域有哪些?
聚类分析是将物理的或者抽象的数据集合划分为多个类别的过程,聚类之后的每个类别
中任意两个数据样本之间具有较高的相似度,不同类别的数据样本之间具有较低的相似度。
聚类分析是数据挖掘应用的主要技术之一,它可以作为一个独立的工具来使用,将未知
类标号的数据集划分为多个类别之后,观察每个类别中数据样本的特点,并且对某些特定的
类别作进一步的分析。此外,聚类分析还可以作为其他数据挖掘技术(例如分类学习、关联
规则挖掘等)的预处理工作。聚类分析在科学数据分析、商业、生物学、医疗诊断、文本挖
掘、Web 数据挖掘等领域都有广泛应用。在科学数据分析中,比如对于卫星遥感照片,聚
类可以将相似的区域归类,有助于研究人员根据具体情况做进一步分析;在商业领域,聚类
可以帮助市场分析人员对客户的基本数据进行分析,发现购买模式不同的客户群,从而协助
市场调整销售计划;在生物学方面,聚类可以帮助研究人员按照基因的相似度对动物和植物
的种群进行划分,从而获得对种群中固有结构的认识;在医疗诊断中,聚类可以对细胞进行
归类,有助于医疗人员发现异常细胞的聚类,从而对病人及时采取措施;在文本挖掘和Web
数据挖掘领域中,聚类可以将网站数据按照读者的兴趣度进行划分,有助于网站内容的改进。
6、请描述 k-means 聚类算法的操作步骤。
参考图 6.1。
8、请描述凝聚型层次聚类算法的操作步骤。
根据给定的数据集,设定数据样本之间的距离采用欧氏距离,聚类集合之间的相似性度
量采用最小距离,聚类结果如下图所示
第七章
1、对本章图7.1所示的叶贝斯网络,计算有酒精味、头疼、X射线检查呈阳性时,患脑瘤的
概率,也就是计算P(BT|SA,HA,PX)。
由SA 发生得知,HO 发生/不发生的概率为0.56566/0.43434;由PX 发生得知,BT 发生/不
发生的概率为0.0891/0.9109。根据表7.6 中给出的联合条件概率分布,可得HA 发生/不发生
的概率是0.4533/0.5467。再根据条件概率公式,P(+BT|+HA) = P(+HA|+BT) P(+BT) /P(+HA) =
0.9509 × 0.0891 / 0.4533 = 0.1869。
2、例7.5中计算得到:已知头疼的情况下,患脑瘤的概率是0.007867;而例7.7中计算得到:
已知有酒精味、头疼的情况下,患脑瘤的概率是0.002347.为什么“有酒精味”这个现象出现
能够影响患脑瘤的状况?
事实上,从“有酒精味”到“患脑瘤”之间没有任何的因果关系,也就是说,“有酒精味”并
不能影响到脑瘤的产生。但是,“有酒精味”能够影响“患脑瘤”的诊断概率。这是因为,“有
酒精味”使得引起“头疼”的更多因素归为喝酒,而不是患脑瘤,从而使得“患脑瘤”的概率大
大降低。
3、贝叶斯网络的三个主要议题是什么?
贝叶斯网络的3 个主要议题分别是:预测、诊断和历史数据训练。
4、怎样从历史数据中训练出结点之间的条件概率或联合条件概率?
要训练条件概率P(B|A),可以在历史数据中统计A 发生的次数T(A),然后统计在A 发生
的数据中B 发生的次数T(A,B),条件概率P(B|A) = T(B)/T(A)。要训练联合条件概率P(C|A,B),
可以在历史数据中统计A、B 共同发生的次数T(A,B),然后在A、B 共同发生的数据中统计
C 发生的次数T(A,B,C),联合条件概率P(C|A,B)=T(A,B,C)/T(A,B)。以上的符号A、B、C 可
以表示某个事件,也可以表示该事件的相反事件。
5、如果叶贝斯网络的各个结点都没有任何证据,从历史数据中如何用两种不同的方法得到
各个结点的发生概率?
可以用两种方式从历史数据中得到各个节点的发生概率:(1)用各节点的发生次数除以总
的数据条数,就是各个节点的发生概率。(2)首先,用第一种方法计算原因节点的发生概
率,然后计算原因节点到中间节点或结果节点的条件概率,最后根据原因节点的概率和这些
条件概率计算结果节点的概率。