在hive的源码中经常可以看到shims相关的类，shims相关类是用来兼容不同的hadoop和hive版本的，以HadoopShims为例org.apache.hadoop.hive.shims.HadoopShims是一个接口，具体的实现类为org.apache.hadoop.hive.shims.Hadoop20Shims
org.apache.hadoop.hive.shims.Hadoop20SShims..
分类：
其他好文 时间：
2014-10-16 04:34:52
阅读次数：
234
1、先决条件要求必须已经安装完成Hadoop，Hadoop的安装在之前的博文《VMware下Hadoop2.4.1完全分布式集群平台安装与设置》有详细介绍过。2、下载Hive安装包当前最新版本为0.13.1，可以到官网下载最新版，下载地址为：http://archive.apache.org/dist/hive/下载完之后，将安装包..
分类：
其他好文 时间：
2014-10-16 04:00:22
阅读次数：
375
一、安装Hive1.下载并解压Hive[root@node1soft]#tar-zxfapache-hive-0.13.1-bin.tar.gz-C/usr/local/
[root@node1soft]#ln-s/usr/local/apache-hive-0.13.1-bin//usr/local/hive
[root@node1soft]#2.配置hive环境变量[root@node1soft]#cat/etc/profile.d/hive.sh
HIVE_HOME=/us..
分类：
其他好文 时间：
2014-10-15 14:36:51
阅读次数：
260
Create EXTERNAL table obd_data_2( imei string, ts timestamp, fuel_instant float, gps_speed float, gps_status string, gps_longitude float, ...
分类：
其他好文 时间：
2014-10-15 12:25:10
阅读次数：
231
最近在debughive的一个bug,之前都是使用打印日志来跟踪源码，这种方式效率比较低（每次更改了源码都要重新编译并替换线上的jar包）,java的应用可以支持remotedebug的，hive也不例外，主要是通过hive--debug来实现.在运行hive--debug时遇到如下问题：ERROR:CannotloadthisJVMTIa..
分类：
其他好文 时间：
2014-10-15 04:36:00
阅读次数：
209
错误一：
Hive的where中不能用别名，
错误二：
hive的groupby中不能用自定义函数，否则报错（用嵌套select代替）
错误三：
执行：$ ./hive_game_operationstatis5.sh
报错信息如下：
./hive_game_operationstatis5.sh:line 11: [: missing `]'
./hive_ga...
分类：
数据库 时间：
2014-10-14 22:10:29
阅读次数：
240
今天微博大数据平台发邮件来说，他们有一个hql运行失败，但是从gateway上面的日志看不出来是什么原因导致的，我帮忙看了一下，最后找到了问题的原因，以下是分析过程...
分类：
其他好文 时间：
2014-10-13 19:48:57
阅读次数：
211
如图，这里只能看到简单的一段SQL，几乎看不出具体在执行什么任务。
此时可以点开一个application，点击Tracking URL:
ApplicationMaster
进入到MapReduce Job job_1409xxxx，Job页面
点击左侧的Configuration
这里有此Job对应的所有参数，在 右上角的搜索框中输入string,
其中key为 hive....
分类：
数据库 时间：
2014-10-13 13:40:59
阅读次数：
220
反垃圾rd那边有一个hql，在执行过程中出现错误退出，报java.io.IOException: Broken pipe异常，hql中使用到了python脚本，hql和python脚本近期没有人改过，在10.1号时还运行正常，但是在10.4号之后运行就老是出现相同的错误，而且错误出现在stage-2的reduce阶段，gateway上面的错误提示如下：...
分类：
编程语言 时间：
2014-10-10 17:46:44
阅读次数：
520
