码迷,mamicode.com
首页 >  
搜索关键字:kettle hbase    ( 4514个结果
hbase和zookeeper的安装和部署
1.概要1.1HBase的使用场景? 大数据量 (100s TB级数据) 且有快速随机访问的需求。? 例如淘宝的交易历史记录。数据量巨大无容置疑,面向普通用户的请求必然要即时响应。? 容量的优雅扩展。? 大数据的驱使,动态扩展系统容量的必须的。例如:webPage DB。? 业务场景简单,不需要关系...
分类:其他好文   时间:2015-02-04 16:25:30    阅读次数:215
安装hbase-0.98.9-hadoop2
1. downloadhttp://124.202.164.13/files/1244000005C563FC/www.eu.apache.org/dist/hbase/stable/hbase-0.98.9-hadoop2-bin.tar.gz2. copy to /opt3. cp /opt ....
分类:其他好文   时间:2015-02-03 00:29:26    阅读次数:450
HBase(0.96)新的Java API操作
package test;import java.io.IOException; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.hbase.Cell;import org.apache.hadoop.hba...
分类:编程语言   时间:2015-02-02 22:57:23    阅读次数:286
hbase出大事了!!!!!!
图1java操作hbase,连接数据库方式如图1然后问题来了!!!!!!!!!!!!从开始连接数据库到连接完毕(HTableh=newHTable(config,tablename))竟然用了20秒。。。发生了什么????图2图3再看看之后getscanner。用了9秒,经过几次测试发现不管是取10条还是10000条还是100..
分类:其他好文   时间:2015-02-02 20:05:38    阅读次数:134
HBase Filter使用方法(三)------批量put导入
一、应用线程导入1、创建put方法publicclassmmm{ publicstaticConfigurationconfig=newConfiguration();; static{ config.set("hbase.zookeeper.property.clientPoint","2181"); config.set("hbase.zookeeper.quorum","hbase"); config.set("dfs.socket.timeout","1800..
分类:其他好文   时间:2015-01-31 19:32:37    阅读次数:398
HBase Filter使用方法(二)
2、DedicatedFilters 2.1SingleColumnValueFilter √ 2.2SingleColumnValueExcludeFilter √ 2.3PrefixFilter √ 2.4PageFilter √ 2.5KeyOnlyFilter √ 2.6FirstKeyOnlyFilter √ 2.7TimestampsFilter × 2.8RandomRowFilter √ 2.1SingleColumnValueFi..
分类:其他好文   时间:2015-01-31 19:30:19    阅读次数:216
hadoop中hbase出现的问题
在安装hbase中出现问题如下:ERROR: Can't get master address from ZooKeeper; znode data == null解决办法:1、删除namenode目录中/data/hadoop/tmp/dfs/namesecondary/current的文件2、为...
分类:其他好文   时间:2015-01-31 00:18:13    阅读次数:119
kettle性能优化
普通开发电脑,如果没有网络查询步骤,kettle正常的速度应该在3000~20000条/秒。如果速度在2000条/秒一下,就可能需要调优。性能优化的方式包括如下几种:1.通过改变开始复制的数量(针对查询控件,这种方式比较简单,需要多长尝试合理的复制数量)2.在查询的控件中,条件是相等查询的话,可以使...
分类:其他好文   时间:2015-01-30 20:53:11    阅读次数:781
Gora快速入门
使用Gora写入数据的关键步骤 1、根据要处理的数据,创建用于描述数据结构的json文件,并由此生成java类。 2、创建gora-hbase-mapping.xml,用于注明描述了数据库表的结构,以及java类中的属性与数据库中字段的对应关系。 3、创建主类,用于创建对象,并写入数据库。 即前2步建立了用于描述数据的java类及数据库表,以及它们之间的映射关系。第三步首先将内容读入java程序中,然后通过gora写入数据库。...
分类:其他好文   时间:2015-01-30 10:49:22    阅读次数:241
Kettle中txt类型数据源作为输入需要注意的地方
文本类型在kettle中作为数据源的时候,需要注意的几点,ktr的机构如下图1:txt文本的格式2:文本输入控件的设置--2.1:选择文件所在物理位置--2.2:设置分隔符,注意头部数量去掉,不然第一行可能会丢掉,当然也可以根据这里设置从第几行开始抽取--2.3:设置数据类型和字段名PS:需要特别注...
分类:其他好文   时间:2015-01-29 19:28:27    阅读次数:167
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!