小结本次课程学习了 Hive QL 基本语法和操作。一、实验环境说明1. 环境登录无需密码自动登录,系统用户名shiyanlou,密码shiyanlou2. 环境介绍本实验环境采用带桌面的Ubuntu Linux环境,实验中会用到桌面上的程序:XfceTerminal: Linux命令行终端,打开后...
分类:
其他好文 时间:
2015-07-05 19:54:16
阅读次数:
184
《Programming Hive》读书笔记(两)Hive基础知识:第一遍读是浏览。建立知识索引,由于有些知识不一定能用到,知道就好。感兴趣的部分能够多研究。以后用的时候再具体看。并结合其它资料一起。Chapter 3.Data Types and File Formats原始数据类型和集合数据类型...
分类:
其他好文 时间:
2015-07-05 11:00:26
阅读次数:
144
简介SQOOP是用于对数据进行导入导出的。
(1)把MySQL、Oracle等数据库中的数据导入到HDFS、Hive、HBase中
(2)把HDFS、Hive、HBase中的数据导出到MySQL、Oracle等数据库中安装sqoop
解压sqoop
tar -zxvf sqoop-1.4.3.bin__hadoop-1.0.0.tar.gz
重命名
mv sqoop-1.4.3.b...
分类:
其他好文 时间:
2015-07-05 09:47:25
阅读次数:
117
hive里,同一sql里,会涉及到n个job,默认情况下,每个job是顺序执行的。
如果每个job没有前后依赖关系,可以并发执行的话,可以通过设置该参数 set hive.exec.parallel=true,实现job并发执行,该参数默认可以并发执行的job数为8。...
分类:
其他好文 时间:
2015-07-04 21:05:05
阅读次数:
378
执行hiveql时报错:SemanticExceptionColumnxxFoundinmorethanOneTables/SubqueriesHive中有两张表中拥有同一个字段名称,在这两个表做关联的时候会报这个错误将其中一个表的重复字段加上别名,然后进行关联查询selectcity.city,hotel.hotel,hotel.hotelnamefromcitycity,(sele..
分类:
其他好文 时间:
2015-07-02 01:20:17
阅读次数:
1507
FROM :http://www.cnblogs.com/ggjucheng/archive/2013/01/03/2842855.html目前hive不支持 in或not in 中包含查询子句的语法,所以只能通过leftjoin实现。假设有一个登陆表login(当天登陆记录,只有一个uid),和一...
分类:
其他好文 时间:
2015-07-01 14:06:01
阅读次数:
105
LinkedIn Cubert安装指南
Understanding Cubert Concepts(一)Partitioned Blocks
Understanding Cubert Concepts(二)Co-Partitioned Blocks...
分类:
其他好文 时间:
2015-07-01 12:15:40
阅读次数:
143
首先,概览下任务图: 流程是,先用tHDFSDelete将hdfs上的文件删除掉,然后将oracle中的机构表中的数据导入到HDFS中;建立hive连接-》hive建表-》tJava获取系统时间-》tHiveLoad将hdfs上的文件导入到hive表中。 下面介绍每一个组件的设置: tHDFSDel...
分类:
数据库 时间:
2015-07-01 09:46:42
阅读次数:
271
学习DDL语句创建对象的语句Create/Drop/Alter DatabaseCreate DatabaseCREATE (DATABASE|SCHEMA) [IF NOT EXISTS] database_name
[COMMENT database_comment]
[LOCATION hdfs_path]
[WITH DBPROPERTIES (property_name=pro...
分类:
其他好文 时间:
2015-06-30 22:09:28
阅读次数:
282
Hive的介绍和安装Hive是什么Hive是一个数据仓库,使用sql脚本就可以了
Hive包含几个引擎
解释器,编译器,优化器等接触hive首先我们进入到相应的官方文档中,接触hive的命令使用https://cwiki.apache.org/confluence/display/Hive/LanguageManual然后我们打开命令行的模式usage: hive -d,--define <ke...
分类:
其他好文 时间:
2015-06-30 18:17:49
阅读次数:
132