1.概要1.1HBase的使用场景? 大数据量 (100s TB级数据) 且有快速随机访问的需求。? 例如淘宝的交易历史记录。数据量巨大无容置疑,面向普通用户的请求必然要即时响应。? 容量的优雅扩展。? 大数据的驱使,动态扩展系统容量的必须的。例如:webPage DB。? 业务场景简单,不需要关系...
分类:
其他好文 时间:
2015-02-04 16:25:30
阅读次数:
215
1. downloadhttp://124.202.164.13/files/1244000005C563FC/www.eu.apache.org/dist/hbase/stable/hbase-0.98.9-hadoop2-bin.tar.gz2. copy to /opt3. cp /opt ....
分类:
其他好文 时间:
2015-02-03 00:29:26
阅读次数:
450
package test;import java.io.IOException; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.hbase.Cell;import org.apache.hadoop.hba...
分类:
编程语言 时间:
2015-02-02 22:57:23
阅读次数:
286
图1java操作hbase,连接数据库方式如图1然后问题来了!!!!!!!!!!!!从开始连接数据库到连接完毕(HTableh=newHTable(config,tablename))竟然用了20秒。。。发生了什么????图2图3再看看之后getscanner。用了9秒,经过几次测试发现不管是取10条还是10000条还是100..
分类:
其他好文 时间:
2015-02-02 20:05:38
阅读次数:
134
一、应用线程导入1、创建put方法publicclassmmm{
publicstaticConfigurationconfig=newConfiguration();;
static{
config.set("hbase.zookeeper.property.clientPoint","2181");
config.set("hbase.zookeeper.quorum","hbase");
config.set("dfs.socket.timeout","1800..
分类:
其他好文 时间:
2015-01-31 19:32:37
阅读次数:
398
2、DedicatedFilters 2.1SingleColumnValueFilter √ 2.2SingleColumnValueExcludeFilter √ 2.3PrefixFilter √ 2.4PageFilter √ 2.5KeyOnlyFilter √ 2.6FirstKeyOnlyFilter √ 2.7TimestampsFilter × 2.8RandomRowFilter √ 2.1SingleColumnValueFi..
分类:
其他好文 时间:
2015-01-31 19:30:19
阅读次数:
216
在安装hbase中出现问题如下:ERROR: Can't get master address from ZooKeeper; znode data == null解决办法:1、删除namenode目录中/data/hadoop/tmp/dfs/namesecondary/current的文件2、为...
分类:
其他好文 时间:
2015-01-31 00:18:13
阅读次数:
119
普通开发电脑,如果没有网络查询步骤,kettle正常的速度应该在3000~20000条/秒。如果速度在2000条/秒一下,就可能需要调优。性能优化的方式包括如下几种:1.通过改变开始复制的数量(针对查询控件,这种方式比较简单,需要多长尝试合理的复制数量)2.在查询的控件中,条件是相等查询的话,可以使...
分类:
其他好文 时间:
2015-01-30 20:53:11
阅读次数:
781
使用Gora写入数据的关键步骤
1、根据要处理的数据,创建用于描述数据结构的json文件,并由此生成java类。
2、创建gora-hbase-mapping.xml,用于注明描述了数据库表的结构,以及java类中的属性与数据库中字段的对应关系。
3、创建主类,用于创建对象,并写入数据库。
即前2步建立了用于描述数据的java类及数据库表,以及它们之间的映射关系。第三步首先将内容读入java程序中,然后通过gora写入数据库。...
分类:
其他好文 时间:
2015-01-30 10:49:22
阅读次数:
241
文本类型在kettle中作为数据源的时候,需要注意的几点,ktr的机构如下图1:txt文本的格式2:文本输入控件的设置--2.1:选择文件所在物理位置--2.2:设置分隔符,注意头部数量去掉,不然第一行可能会丢掉,当然也可以根据这里设置从第几行开始抽取--2.3:设置数据类型和字段名PS:需要特别注...
分类:
其他好文 时间:
2015-01-29 19:28:27
阅读次数:
167