一、Split触发条件
1、 有任一一个Hfile的大小超过默认值10G时,都会进行split
2、 达到这个值不在拆分,默认为int_max,不进行拆分
3、compaction时,如果compact的store的大小超过了,则进行split
4、 flush之前会检测区域中HStoreFile数目是否超过hbase.h...
分类:
其他好文 时间:
2014-09-10 10:52:00
阅读次数:
266
#include "stdafx.h"#include "stdafx.h"#include #include #include void FindDir(char* parent){ HANDLE hFile = NULL; WIN32_FIND_DATAA fd = {0}; ...
分类:
其他好文 时间:
2014-08-28 23:53:26
阅读次数:
249
1 BOOL CreateFileDemo(TCHAR* pFileName, DWORD dwSize) 2 { 3 HANDLE hFile; 4 HANDLE hMapFile; 5 6 hFile = CreateFile( 7 pFileName...
分类:
其他好文 时间:
2014-07-29 21:09:42
阅读次数:
212
static int MapLogFile(void){ hFile = CreateFile(".\\db.bin", GENERIC_READ | GENERIC_WRITE, 0, NULL, OPEN_ALWAYS, ...
//判断文件是否存在
bool FileExistsW(const wstring &fn)
{
WIN32_FIND_DATAW fd;
HANDLE hFile = FindFirstFileW(fn.c_str(),&fd);
if (hFile != INVALID_HANDLE_VALUE)
{
::FindClose(hFile);...
主要看Roger的文档,这里作为文档的补充HFile的格式-HFile的基本结构Trailer通过指针找到Meta index、Data index、File info。Meta index保存每一个元数据在HFile中的位置、大小、元数据的key值。Data index保存每一个数据块在HFile...
分类:
其他好文 时间:
2014-07-12 08:26:39
阅读次数:
606
在执行MR将HDFS转换为HFile的时候,出现了如下异常:
14/07/09 18:02:59 INFO mapred.JobClient: map 83% reduce 0%
14/07/09 18:02:59 INFO mapred.JobClient: Task Id : attempt_201401091245_59030413_m_000001_0, Status : FAILE...
分类:
其他好文 时间:
2014-07-10 23:32:44
阅读次数:
323
在使用Bulkload向HBase导入数据中, 自己编写Map与使用KeyValueSortReducer生成HFile时, 出现了下面的异常:
java.io.IOException: Non-increasing Bloom keys: 201301025200000000000003520000000000000500 after 20131119510000000000000001...
分类:
编程语言 时间:
2014-06-03 05:55:44
阅读次数:
359
在讲完之后HFile和HLog之后,今天我想分享是Put在Region
Server经历些了什么?相信前面看了《HTable探秘》的朋友都会有印象,没看过的建议回去先看看,Put是通过MultiServerCallable来提交的多个Put,好,我们就先去这个类吧,在call方法里面,我们找到了这句...
分类:
其他好文 时间:
2014-05-17 22:54:25
阅读次数:
397
从这一章开始要讲Region Server这块的了,但是在讲Region
Server这块之前得讲一下StoreFile,否则后面的不好讲下去,这块是基础,Region
Sever上面的操作,大部分都是基于它来进行的。HFile概述HFile是HBase中实际存数据的文件,为HBase提供高效快速的...
分类:
其他好文 时间:
2014-05-14 11:42:39
阅读次数:
314