码迷,mamicode.com
首页 > 数据库 > 详细

利用HaoheDI从数据库抽取数据导入到hbase中

时间:2018-10-15 11:55:10      阅读:556      评论:0      收藏:0      [点我收藏+]

标签:spl   产生   ref   tar.gz   alt   img   url   blog   bubuko   

下载apache-phoenix-4.14.0-HBase-1.4-bin.tar.gz

将其中的

phoenix-4.14.0-HBase-1.4-client.jar

phoenix-core-4.14.0-HBase-1.4.jar

2个jar文件导入到lib目录下,不要使用hbase1.2的驱动,连接时会有异常错误产生。

需要将phoenix-4.14.0-HBase-1.4-client.jar中的javax目录删除,否则和tomcat中的包冲突。

在数据驱动中增加Phoenix-hbase的驱动设置:(如果使用系统中的驱动文件导入,导入后需要重启HHDI应用)

技术分享图片

类名:org.apache.phoenix.jdbc.PhoenixDriver

URL:jdbc:phoenix:{host}:{port}

数据连接设置:

技术分享图片

数据抽取任务判断如果使用了Phoenix的驱动,则将INSERT INTO 语句替换为UPSERT INTO 语句

示例:Oracle To Hbase

技术分享图片

任务配置和其它数据库没有区别,源的SELECT中的字段类型需要与目标Hbase表的字段类型一致

技术分享图片

执行结果:每秒1万行左右,

技术分享图片

利用HaoheDI从数据库抽取数据导入到hbase中

标签:spl   产生   ref   tar.gz   alt   img   url   blog   bubuko   

原文地址:https://www.cnblogs.com/haohedi/p/9789219.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!