hbase中的缓存分了两层:memstore和blockcache。 其中memstore供写使用,写请求会先写入memstore,regionserver会给每个region提供一个memstore,当 memstore满64MB以后,会启动flush刷新到磁盘。当memstore的总大小超过限....
分类:
其他好文 时间:
2015-12-10 18:41:06
阅读次数:
132
Hbase—Memstore
HBase上Regionserver的内存分为两个部分,一部分作为Memstore,主要用来写;另外一部分作为BlockCache,主要用于读数据;这里主要介绍写数据的部分,即Memstore。
当RegionServer(RS)收到写请求的时候(writerequest),RS会将请求转至相应的Region。每一个Region都存储着一些列(a
set of...
分类:
其他好文 时间:
2015-08-25 14:16:17
阅读次数:
369
HBase表的结构如下:
每个Table由若干个Region组成,每个Region由若干个Store组成(每个列组构成一个Store),每个由一个MemStore和若干个StoreFiles(HFiles)组成,每个StoreFile由若干个Blocks组成。HBase对表进行split有三种方式:Pre-splitting,Auto splitting,Forced Splits。Pre-s...
分类:
其他好文 时间:
2015-08-04 13:36:44
阅读次数:
347
Table of Contents
Region恢复逻辑
配置参数
Region恢复逻辑
RegionServer出现宕机以后,其上部署的Region将会被Master重新分配处理,由于在宕机前,某些Region的memStore数据可能还没有做flush操作,因此,需要对这部分数据做还原处理,还原过程通过读取HLog文件来实现。
截至到目前为止(1....
分类:
其他好文 时间:
2015-07-31 10:33:51
阅读次数:
120
HBase是基于LSM树存储模型的分布式NoSQL数据库。LSM树对比普遍的B+树来说,能够获得较高随机写性能的同时,也能保持可靠的随机读性能(可参考这里)。在进行读请求的时候,LSM树要把多个子树(类似B+树结构)进行归并查询,对于HBase来说,这些子树就是HFile(还包括内存上的树结构MemStore)。因此归并查询的子树数越少,查询的性能就越高。
Compact的作用
...
分类:
其他好文 时间:
2015-07-29 21:30:15
阅读次数:
11172
本文结合MemStoreFlusher分析了MemStore刷写的触发机制及内部实现...
分类:
编程语言 时间:
2015-05-13 16:49:37
阅读次数:
175
(一)HBase之简介*概念*HBase是一个高可靠性、高性能、面向列、可伸缩、支持版本控制、稀疏的、多维度的和排序的分布式数据库。*高可靠性:*(1):在数据的写入过程中,数据首先会写到预写日志WAL(writeaheadlog)中,再写到memstore(内存)中,一旦HRegionServer宕机,可以回..
分类:
其他好文 时间:
2015-03-10 19:51:44
阅读次数:
164
(一)HBase之简介* 概念 * HBase是一个高可靠性、高性能、面向列、可伸缩、支持版本控制、稀疏的、多维度的和排序的分布式数据库。 * 高可靠性: * (1): 在数据的写入过程中,数据首先会写到预写日志WAL(write ahead log)中,再写到memstore(内存)中,一旦 H....
分类:
其他好文 时间:
2015-03-10 10:08:12
阅读次数:
156
HBase是Google Big Table的一个开源实现,关于其基础和架构网上很多,这里就不一一说明,转一篇,这里主要谈谈我个人对Hbase的看法
1、查询:都知道HBase查询快,因为其实基于内存查询,Hbase在写入的时候,优先写入MemStore,这个MemStore就是内存了,查询的时候也就是从内存中返回,所以从这个方面Hbase可以理解为一个分布式缓存,跟平时的缓存没有差别...
分类:
其他好文 时间:
2015-03-07 18:44:06
阅读次数:
148
简介:HStore存储是HBase存储的核心了,其中由两部分组成,一部分是MemStore,一部分是StoreFiles。MemStore是Sorted Memory Buffer,用户写入的数据首先会放入MemStore,当MemStore满了以后会Flush成一个StoreFile(底层实现是HFile),当StoreFile文件数量增长到一定阈值,会触发Compact合并操作,将多个Stor...
分类:
其他好文 时间:
2015-01-13 17:42:11
阅读次数:
274