码迷,mamicode.com
首页 >  
搜索关键字:hive 认证类    ( 5967个结果
Hive Join
https://cwiki.apache.org/confluence/display/Hive/LanguageManual+Joins LanguageManualJoins Join Syntax Hive支持下面的表join语法结构: join_table:     table_reference JOIN table_factor[join_condition]   | ta...
分类:其他好文   时间:2015-06-21 13:12:16    阅读次数:209
hive之实现列转行
样例: select * from tab1 limit 10; 结果: id  num a  1 a  2 a  3 b  4 b  3 ····· 现在想实现把id一样的数据在一条数据中展现。 结果示例: a  1  2  3 b  4  3   实现方案有多种,在Oracle中LISTAGG函数可以满足...
分类:其他好文   时间:2015-06-20 18:30:34    阅读次数:275
hive如何应对数据倾斜
数据倾斜 概念:数据倾斜是指,map /reduce程序执行时,reduce节点大部分执行完毕,但是 有一个或者几个reduce节点运行很慢,导致整个程序的处理时间很长,这是因为某一 个key的条数比其他key多很多(有时是百倍或者千倍之多),这条key所在的reduce 节点所处理的数据量比其他节点就大很多,从而导致某几个节点迟迟运行不完。 执行操作:   1...
分类:其他好文   时间:2015-06-20 11:56:58    阅读次数:131
hive-内部表与外部表的区别
本文以例子的形式介绍一下Hive内表和外表的区别。例子共有4个:不带分区的内表、带分区的内表、不带分区的外表、带分区的外表。 1 不带分区的内表 #创建表 create table innerTable(id int,name string) row format delimited fields terminated by '|';(show tables发现没有innerTabl...
分类:其他好文   时间:2015-06-20 11:54:34    阅读次数:137
胜还是平? Pig vs Hive!!!
胜还是平? Pig vs Hive!!! 这篇文章讨论了pig和hive的特性。 开发者通常处于选择满足业务需求的技术体系。 在hadoop体系中,pig和hive很相似,并能给出几乎相同的结果,但是那种技术更适合特殊的业务场景了?这里列出了pig和hive的一些对比。 PIG and Hive: 流类型: Pig是过程式数据流语言。过程式语言通常按照一步一步的执行方式去编写...
分类:其他好文   时间:2015-06-19 15:26:17    阅读次数:326
向Hive中导入HDFS上文件时要注意的问题
前几天往HDFS写文件写的时候把文件名起成了.aaa.txt,这样本来是可以的,上传到HDFS也是没有任务问题的,但是将这个文件与Hive进行关联的时候却出现问题了,并不是导入的时候报错了,是导入的时候什么也没有报,默...
分类:其他好文   时间:2015-06-19 12:04:54    阅读次数:117
关于hive和spark日志问题
在用控制台学习hive和spark的时候,总是打印出来的各种日志烦得不行(对我而言)。所以就想把着写我不关心的信息屏蔽掉,只保留错误信息。其实输出的日志信息还是很有用的,因为里面的日志信息可以清楚的...
分类:其他好文   时间:2015-06-19 12:01:57    阅读次数:129
cdh5.3中配置sparksql
在cdh5.3中的spark,已经包含了sparksql,只需要做以下几步配置,就可以在使用该功能1)确保hive的cli和jdbc都可以正常工作2)把hive-site.xml 复制到 SPARK_HOME/conf目录下3)将hive的类库添加到spark classpath中:编辑SPARK_...
分类:数据库   时间:2015-06-19 01:25:51    阅读次数:425
[转]HIVE UDF/UDAF/UDTF的Map Reduce代码框架模板
FROM :http://hugh-wangp.iteye.com/blog/1472371自己写代码时候的利用到的模板UDF步骤:1.必须继承org.apache.hadoop.hive.ql.exec.UDF2.必须实现evaluate函数,evaluate函数支持重载Java代码package...
分类:其他好文   时间:2015-06-18 23:47:50    阅读次数:138
Hive安装
安装Mysql数据库数据库的安装顺序(1)Mysql-server(2)mysql-client(3)启动mysql服务(4)用root用户登录,以授权方式创建hive元数据库,和hive用户grantallonhive.*to‘hive‘@‘%‘identifiedby‘hive‘;这个hive数据库,及其用户和密码,是后面配置hive要用到的!!!备注:RedHatlinu..
分类:其他好文   时间:2015-06-18 20:10:04    阅读次数:151
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!