Hbase体系结构理解
admin
2023-02-08 04:40:05
0

1. Hbase的集群架构

    首先hbase是hadoop的一个组件.而hadoop内部有很多的组件,这些组件几乎都依赖于hadoop最核心的两个东西建立起来的,一个是hdfs文件系统,另一个是mapreduce。当然hbase也不例外。

    hbase其实就是一个非关系型的数据库系统,可以将他和关系型数据库mysql类比一下,可能会便于

理解。


Hbase体系结构理解                                                                                                (此图引用于百度百科)

    Hbase有3种搭建方式:本地模式,伪分布模式和集群模式。那么一般情况下,我们便于学习Hbase的各种特性,只需要搭建伪分布模式即可。伪分布模式和集群模式的区别就是,hbase这个系统的所有守护进程全部运行在一个物理节点上和真正的分布在不同的物理节点之上。

    那么不论是伪分布和集群模式。其集群都包含几个主要的守护进程:HMaster,HRegionserver,zookeeper,以及client。那么我们通过命令行或者JavaApi或其他方式来使用Hbase时,都是通过client向hbase发送命令的。

    简单理解一下各个守护进程的作用:HMaster并不像hdfs中的Namenode那样,维护了整个系统的元数据,负责与client交互以实现对分节点的管理控制等全部统筹功能。Hmaster不负责与client有太多的交互,大部分情况下是由zookeeper来与client通信,然后实现对hbase的使用和管理。同时元数据也是由zookeeper来维护的,包括各个regionserver的地址等等。

    下面是一个简单的总结这两者各自的分工:

  • Zookeeper

    保证任何时候,集群中只有一个running master

    存贮所有Region 的寻址入口

    实时监控Region Server 的状态,将Region server 的上线和下线信息,实时通知给Master

    存储Hbase 的schema,包括有哪些table,每个table 有哪些column family

  • Master可以启动多个HMaster,通过Zookeeper的Master Election机制保证总有一个Master运行

    为Region server 分配region

    负责region server 的负载均衡

    发现失效的region server 并重新分配其上的region

2. Hbase的存储方式和结构

    要讲Hbase的存储方式,我们从两方面来描述,一个是逻辑存储方式和物理的存储方式。(比如mysql中的二维关系表就是关系型数据库的逻辑存储结构,而这些表在硬盘上实际的存储形式便是所谓的物理存储方式)。

     Hbase的逻辑存储方式:

     Hbase体系结构理解    表是稀疏表,所以可以类别mysql的关系表来理解,但是实际上并不是一回事。首先表有行健,列簇,列名,时间簇等几个概念。一个表定义之初,应该给出其表名,列簇信息。一行中,有多个固定的列簇,每个列簇下在插入数据时可以设置任意的列名。由一个行健,一个列簇+列名可以标定一个表中的单元格,而一个单元格中有由时间戳区分不同版本的值。表中的所有信息实际上都是以二进制形式存储的。不像关系表中支持那么多的数据类型。所以如果要用各种数据类型,只能由自己在程序中进行维护。

   Hbase的物理存储方式:

   Hbase的数据其实是由Hmaster进行配置,实际上存在各个Hregionserver中的。一个稀疏表是按行健进行排序和存储。这些表会按行被拆分为多个region存储道不同的regionserver中,一个regionserver中可以存储多region。这些region对应了表中的不同部分的行,而这些行实际也被划分为不同的文件存储,划分方式即是列簇,一个列簇一个文件,所以称之为面向列的数据库。那么这些文件实际上是放在hdfs里的,也就是以block的形式存储在硬盘上的。

   那么表是按rowkey的字典顺序来存储的,简单来说,就是对于rowkey,从左到右,译成ascii码来比大小排序。所以呢由于这个原因,在设计rowkey时,最好不要直接把时间戳这样的数据直接作为rowkey,因为这样会导致新产生的数据由于其时间戳都在一个范围内,导致存储的时候全部拥挤到某一个regionserver中。一般可以在时间戳前面加上散列值,设计成:(散列值:时间戳)这样的形式

    





相关内容

热门资讯

【第一财经】“熊猫来了.怎么开... 有 亲,根据资深记者爆料熊猫来了是可以开挂的,确实有挂(咨询软件无需打开...
今日重大通报“圣盛晃晃麻将.真... 网上科普关于“圣盛晃晃麻将有没有挂”话题很是火热,小编也是针对圣盛晃晃麻将作*弊开挂的方法以及开挂对...
最新引进“天天十三水.到底有挂... 最新引进“天天十三水.到底有挂吗?”必胜开挂神器您好,天天十三水这个游戏其实有挂的,确实是有挂的,需...
终于了解“湘乐.究竟有挂吗?”... 您好:湘乐这款游戏可以开挂,确实是有挂的,需要了解加客服微信【9784099】很多玩家在这款游戏中打...
【今日要闻】“旺旺福建麻将.究... 您好:旺旺福建麻将这款游戏可以开挂,确实是有挂的,需要了解加客服微信【9784099】很多玩家在这款...
印度航空找到“遗忘”13年的波... 【环球网报道 记者 赵建东】据新加坡《海峡时报》等多家外媒18日报道,印度航空近日承认,该公司一架波...
我来教教您“浙衢麻将.开挂神器... 我来教教您“浙衢麻将.开挂神器?”原来真的有挂您好,浙衢麻将这个游戏其实有挂的,确实是有挂的,需要了...
视频|这场大赛 聚青创之力绘“... 当“双碳”目标绘就发展蓝图,当绿色创新点燃时代引擎,聚青春之力赋能绿色低碳产业高质量发展正当时。 江...
构建多元治疗场景技术平台 企业的发展轨迹,总是深植于特定时代的需要与使命的召唤之中。微电生理创立于2010年,自诞生之初便将目...
今日重大发现“白金岛.开挂器?... 网上科普关于“白金岛有没有挂”话题很是火热,小编也是针对白金岛作*弊开挂的方法以及开挂对应的知识点,...