1. 关系型数据库到hive 2. hive到关系型数据库 ...
分类:
其他好文 时间:
2018-05-14 19:53:18
阅读次数:
138
简介 Sqoop是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql…)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据 ...
分类:
其他好文 时间:
2018-05-10 23:28:43
阅读次数:
216
1. 背景介绍 1.1 离线计算是什么 离线计算:批量获取数据、批量传输数据、周期性批量计算数据、数据展示; 代表技术:Sqoop批量导入数据、HDFS批量存储数据、MapReduce批量计算数据、Hive批量计算数据 1.2 流式计算是什么 流式计算:数据实时产生、数据实时传输、数据实时计算、实时 ...
分类:
其他好文 时间:
2018-05-06 18:55:57
阅读次数:
203
HDFS 体系结构 mapreduce 体系结构和算法 haddop 集群 zookeeper 操作;HBase 体系结构Hive /Sqoop 体系结构和基本操作; mapreduce 逻辑处理数据;HDFS 存放海量数据; 结构与非结构化数据structured data ( RDBMS ) & ...
分类:
其他好文 时间:
2018-05-04 19:31:14
阅读次数:
145
Hadoop家族学习路线图 Hadoop家族系列文章,主要介绍Hadoop家族产品,常用的项目包括Hadoop, Hive, Pig, HBase, Sqoop, Mahout, Zookeeper, Avro, Ambari, Chukwa,新增加的项目包括,YARN, Hcatalog, Ooz ...
分类:
其他好文 时间:
2018-04-16 20:37:04
阅读次数:
193
Hadoop基础,HDFS,MapReduce,分布式集群,Hive,Hbase,Sqoop,Pig,Storm实时数据处理平台,Spark平台 ...
分类:
其他好文 时间:
2018-04-08 19:46:50
阅读次数:
159
视频课程包含: 十八掌徐培成老师就业班全套大数据视频共86G包含:Hadoop、Hive、Linux、Hbase、ZooKeeper、Pig、Sqoop、Flume、kafka、Scala、Spark、R语言基础、Storm基础、Redis基础、项目 等等! 2018最火的可能就数大数据了,这里给大 ...
分类:
编程语言 时间:
2018-04-07 17:44:18
阅读次数:
534
猜测出现该问题的原因是sqoop工具用的是执行sqoop工具所用的本地用户名。 如果远程hdfs用的用户是hdfs,那么我本地还需要建一个名为hdfs的用户? 其实不需要,只要为用户增加一个环境变量就可以了,环境变量名为 HADOOP_USER_NAME。 假如远程用的用户是hdfs,在shell中 ...
分类:
其他好文 时间:
2018-03-28 12:25:50
阅读次数:
178