logo资料库

hbase简介ppt.pptx

第1页 / 共51页
第2页 / 共51页
第3页 / 共51页
第4页 / 共51页
第5页 / 共51页
第6页 / 共51页
第7页 / 共51页
第8页 / 共51页
资料共51页,剩余部分请下载后查看
HDFS简介 IBM GCG STG Lab 1
IBM GCG STG Lab 2
IBM GCG STG Lab HDFS的主要设计理念 • 存储超大文件     这里的“超大文件”是指几百MB、GB甚至TB级别的文件。 • 最高效的访问模式是 一次写入、多次读取(流式数据访问)     HDFS存储的数据集作为hadoop的分析对象。在数据集生成后,长时间在此数据集 上进行各种分析。每次分析都将设计该数据集的大部分数据甚至全部数据,因此 读取整个数据集的时间延迟比读取第一条记录的时间延迟更重要。 • 运行在普通廉价的服务器上 HDFS设计理念之一就是让它能运行在普通的硬件之上,即便硬件出现故障,也可 以通过容错策略来保证数据的高可用。 3
IBM GCG STG Lab HDFS的缺点 • 将HDFS的响应延迟较大     由于HDFS是为高数据吞吐量应用而设计的,必然以高延迟为代价。 • 不适合存储大量的小文件     HDFS中元数据(文件的基本信息)存储在namenode的内存中,而 namenode为单点,小文件数量大到一定程度,namenode内存就吃不消 了。 4
IBM GCG STG Lab HDFS基本概念 • 数据块(block): 大文件会被分割成多个block进行存储,block大小默认为64MB。每一个 block会在多个datanode上存储多份副本,默认是3份。 • NameNode: NameNode负责管理文件目录、文件和block的对应关系以及block和 DatanNde的对应关系。 • DataNode: DataNode就负责存储了,当然大部分容错机制都是在DataNode上实现 的 5
IBM GCG STG Lab HDFS的架构图 Rack 是指机柜的意思,一个block的三个副本通常会保存到两个或者两个以 上的机柜中(当然是机柜中的服务器),这样做的目的是做防灾容错,因为 发生一个机柜掉电或者一个机柜的交换机挂了的概率还是蛮高的 6
IBM GCG STG Lab HDFS写文件流 7 http://static.oschina.net/uploads/space/201 2/1128/233251_vL4I_146046.png
IBM GCG STG Lab HDFS的读文件流 8
分享到:
收藏