1、插入HBase表传统方法具有什么问题?我们先看下HBase的写流程:通常MapReduce
在写HBase时使用的是TableOutputFormat方式,在map/reduce中直接生成put对象写入HBase,该方式在大量数据写入时效率低下,因为HBase会block写入,频繁进行flush、split、compact等大量IO操作,这..
分类:
其他好文 时间:
2014-12-25 06:44:40
阅读次数:
223
在对HBase数据库的查询中,用到了SingleColumnValueFilter用于实现对于时间列中某一段时间记录的过滤,并且使用scan.addColumn获取结果中的某一列,具体使用如下:Scan scan = new Scan(); List filters = new ArrayList(...
分类:
其他好文 时间:
2014-12-24 17:45:34
阅读次数:
371
概念 ????????注解@Retention可以用来修饰注解,是注解的注解,称为元注解。 ????????Retention注解有一个属性value,是RetentionPolicy类型的,Enum RetentionPolicy是一个枚举类型, ?????...
分类:
其他好文 时间:
2014-12-24 16:31:24
阅读次数:
212
1. 进入hbase命令行 ./hbase shell
2. 显示hbase中的表 list
3. 创建user表,包含info、data两个列族
create 'user', 'info1', 'data1'
create 'user', {NAME => 'info', VERSIONS => '3'}
4. 向表中插入信息:
向user表中插入信息,row...
分类:
系统相关 时间:
2014-12-23 22:42:14
阅读次数:
299
在最新发布的Hortonworks HDP Sandbox 2.2版本上,HBase启动时会报错,原因是新版本的HBase的存放路径与过去有所不同,而启动脚本依然沿用了旧有的命令行启动HBase,导致无法找到hbase-daemond.sh文件,进而启动失败。看得到,2.2版本的Sandbox发布有些仓促,这样明显而简单的错误是不应该出现的。下面来说一下如何修复这个问题:最负责启动HBase的命令...
分类:
数据库 时间:
2014-12-23 22:41:55
阅读次数:
562
package com.ok.hbase.export; import java.io.File; import java.io.FileOutputStream; import java.io.IOException; import java.io.PrintStream; import java...
分类:
其他好文 时间:
2014-12-23 22:28:53
阅读次数:
307
本文不是技术收集贴,就是记录一下,因此没有收集所有的HBase表导入导出方式,只是记录一下自己用过的一种。数据表的导出:1 $ bin/hbase org.apache.hadoop.hbase.mapreduce.Driver export [ [ []]]需要注意的是,outputdir指的.....
分类:
其他好文 时间:
2014-12-23 22:23:15
阅读次数:
195
1.1. 相关类和接口
1.1.1. JobEntryTrans
实现了JobEntryInterface的execute()方法,被job执行。由JobEntryTrans实例化Trans,并执行。
1.1.2. TransGraph
当点击trans面板的run时,由TransGraph实例化Trans,并执行。
Trans主要成员有:
private TransMeta tran...
分类:
其他好文 时间:
2014-12-23 12:33:50
阅读次数:
325
进入hbase shell console
$HBASE_HOME/bin/hbase shell
如果有kerberos认证,需要事先使用相应的keytab进行一下认证(使用kinit命令),认证成功之后再使用hbase shell进入可以使用whoami命令可查看当前用户
hbase(main)>
whoami
表的...
分类:
系统相关 时间:
2014-12-23 12:25:23
阅读次数:
281
本系列文章主要索引如下:一、ETL利器Kettle实战应用解析系列一【Kettle使用介绍】二、ETL利器Kettle实战应用解析系列二 【应用场景和实战DEMO下载】三、ETL利器Kettle实战应用解析系列三 【ETL后台进程执行配置方式】本文主要阅读目录如下:1、Kettle概念2、下载和部署...
分类:
其他好文 时间:
2014-12-23 12:19:52
阅读次数:
199