以下的介绍是基于Apache Hbase 0.94版本: 从HBase的架构图上可以看出,HBase中的存储包括HMaster、HRegionServer、HRegion、Store、MemStore、StoreFile、HFile、HLog等,本篇文章统一介绍他们的作用即存储结构。 以下是HBas ...
分类:
其他好文 时间:
2017-09-24 02:54:25
阅读次数:
146
找了几个,终于找到一个好用的 function GetDLLFileExports( szFileName: PChar; mStrings: TStrings): Boolean;var hFile: THANDLE; hFileMapping: THANDLE; lpFileBase: Poin ...
Table of ContentsHFile存储格式Block块结构HFile存储格式HFile是參照谷歌的SSTable存储格式进行设计的。全部的数据记录都是通过它来完毕持久化,其内部主要採用分块的方式进行存储,如图所看到的:每一个HFile内部包括多种不同类型的块结构,这些块结构从逻辑上来讲可归 ...
分类:
其他好文 时间:
2017-07-08 21:57:47
阅读次数:
385
HBase是基于LSM树存储模型的分布式NoSQL数据库。LSM树对照普遍的B+树来说,可以获得较高随机写性能的同一时候,也能保持可靠的随机读性能(可參考这里)。在进行读请求的时候。LSM树要把多个子树(类似B+树结构)进行归并查询,对于HBase来说,这些子树就是HFile(还包含内存上的树结构M ...
分类:
其他好文 时间:
2017-05-18 11:31:18
阅读次数:
450
1、如何将MySQL数据批量导入HBase? 一、加快批量写入的方法:新建一些空的regoins; 这样当数据写入HBase时,会按regoins的分区情况,集群内部负载均衡。 二、hbase 中有一个 hfileoutputformat 类,他的实现可以将数据转换成 hfile格式,通过 new ...
分类:
其他好文 时间:
2017-05-08 00:19:03
阅读次数:
146
之前介绍了关于Mapreduce是进行输入处理的。这一篇将会介绍如何从Hfile中获取内容。这里和一般获取hbase的数据过程不太一样,不会去创建HTable对象而是直接去读取HFile文件。闲话不多说,直接上代码。先写一个单进程读取HFile的程序 接着实现一个从HFile中获取数据的Record ...
分类:
其他好文 时间:
2017-04-25 00:47:19
阅读次数:
432
1.简介 将数据插入HBase表中的方法很多,我们可以通过TableOutputFormat以Mapreduce on HBase的方式将数据插入,也可以单纯的使用客户端API将数据插入。但是以上方法效率并不高。 而使用BulkLoad特性能够利用MR计算框架将源数据直接生成内部的hfile格式,然 ...
分类:
其他好文 时间:
2017-02-15 00:41:31
阅读次数:
238
HBase中删除一张表 先disable ‘tableName’ 再drop ‘tableName’来删除表 问:如果region非常多(但没有访问量了),对线上会有什么影响吗? 答:disable只是改了一下ZK里面table的状态。drop也不是现场就把hfile删掉了,只是迁移到.archiv ...
分类:
其他好文 时间:
2017-02-08 11:54:42
阅读次数:
494
shell表达式-dfile是否存在而且为目录-ffile文件是否存在,且为普通文件-wfile文件是否存在且可写-sfile文件是否存在且非空-nstring字符串长度非0string1=string2字符串相等-eq等于-gt大于-lt小于-efile文件是否存在-rfile文件是否存在且可读-xfile文件是否存在且可执行-hfile..
分类:
系统相关 时间:
2016-12-11 18:47:39
阅读次数:
192
HFile文件是不定长的。 HFile里才是想要的真正数据,实际存储的位置,是在HDFS上。 ...
分类:
其他好文 时间:
2016-12-08 09:56:52
阅读次数:
238