https://cwiki.apache.org/confluence/display/Hive/LanguageManual+Joins
LanguageManualJoins
Join Syntax
Hive支持下面的表join语法结构:
join_table:
table_reference JOIN table_factor[join_condition]
| ta...
分类:
其他好文 时间:
2015-06-21 13:12:16
阅读次数:
209
样例:
select * from tab1 limit 10;
结果:
id num
a 1
a 2
a 3
b 4
b 3
·····
现在想实现把id一样的数据在一条数据中展现。
结果示例:
a 1 2 3
b 4 3
实现方案有多种,在Oracle中LISTAGG函数可以满足...
分类:
其他好文 时间:
2015-06-20 18:30:34
阅读次数:
275
数据倾斜
概念:数据倾斜是指,map /reduce程序执行时,reduce节点大部分执行完毕,但是
有一个或者几个reduce节点运行很慢,导致整个程序的处理时间很长,这是因为某一
个key的条数比其他key多很多(有时是百倍或者千倍之多),这条key所在的reduce
节点所处理的数据量比其他节点就大很多,从而导致某几个节点迟迟运行不完。
执行操作:
1...
分类:
其他好文 时间:
2015-06-20 11:56:58
阅读次数:
131
本文以例子的形式介绍一下Hive内表和外表的区别。例子共有4个:不带分区的内表、带分区的内表、不带分区的外表、带分区的外表。
1 不带分区的内表
#创建表
create table innerTable(id int,name string) row format delimited fields terminated by '|';(show tables发现没有innerTabl...
分类:
其他好文 时间:
2015-06-20 11:54:34
阅读次数:
137
胜还是平? Pig vs Hive!!!
这篇文章讨论了pig和hive的特性。
开发者通常处于选择满足业务需求的技术体系。 在hadoop体系中,pig和hive很相似,并能给出几乎相同的结果,但是那种技术更适合特殊的业务场景了?这里列出了pig和hive的一些对比。
PIG and Hive:
流类型:
Pig是过程式数据流语言。过程式语言通常按照一步一步的执行方式去编写...
分类:
其他好文 时间:
2015-06-19 15:26:17
阅读次数:
326
前几天往HDFS写文件写的时候把文件名起成了.aaa.txt,这样本来是可以的,上传到HDFS也是没有任务问题的,但是将这个文件与Hive进行关联的时候却出现问题了,并不是导入的时候报错了,是导入的时候什么也没有报,默...
分类:
其他好文 时间:
2015-06-19 12:04:54
阅读次数:
117
在用控制台学习hive和spark的时候,总是打印出来的各种日志烦得不行(对我而言)。所以就想把着写我不关心的信息屏蔽掉,只保留错误信息。其实输出的日志信息还是很有用的,因为里面的日志信息可以清楚的...
分类:
其他好文 时间:
2015-06-19 12:01:57
阅读次数:
129
在cdh5.3中的spark,已经包含了sparksql,只需要做以下几步配置,就可以在使用该功能1)确保hive的cli和jdbc都可以正常工作2)把hive-site.xml 复制到 SPARK_HOME/conf目录下3)将hive的类库添加到spark classpath中:编辑SPARK_...
分类:
数据库 时间:
2015-06-19 01:25:51
阅读次数:
425
FROM :http://hugh-wangp.iteye.com/blog/1472371自己写代码时候的利用到的模板UDF步骤:1.必须继承org.apache.hadoop.hive.ql.exec.UDF2.必须实现evaluate函数,evaluate函数支持重载Java代码package...
分类:
其他好文 时间:
2015-06-18 23:47:50
阅读次数:
138
安装Mysql数据库数据库的安装顺序(1)Mysql-server(2)mysql-client(3)启动mysql服务(4)用root用户登录,以授权方式创建hive元数据库,和hive用户grantallonhive.*to‘hive‘@‘%‘identifiedby‘hive‘;这个hive数据库,及其用户和密码,是后面配置hive要用到的!!!备注:RedHatlinu..
分类:
其他好文 时间:
2015-06-18 20:10:04
阅读次数:
151