hive权限有两层,hive本身的验证和hadoop的验证。自定义hive的proxy功能时,hive层面的相关验证更改在http://caiguangguang.blog.51cto.com/1652935/1587251中已经提过,这里说下hive和hadoop以及本地文件系统相关的几个出现用户的地方:1.job的log文件session初始化时会初始化..
分类:
其他好文 时间:
2014-12-15 06:43:13
阅读次数:
254
hive在hdfs中的job中间文件是根据当前登陆用户产生的,其默认值为/tmp/hive-${user.name},这就导致实现proxy的功能时会遇到临时文件的权限问题,比如在实现了proxy功能后,以超级用户hdfsproxy到普通用户user时,在hdfs中的临时文件在/tmp/hive-user目录中,而目录的属主是hdf..
分类:
其他好文 时间:
2014-12-15 06:42:31
阅读次数:
445
使用proxy之后,目录名为proxy之后的用户名目录,但是生成的文件属主是当前登陆用户,导致不能正常写入,日志目录的创建在org.apache.hadoop.hive.ql.history.HiveHistoryImpl类中,更改后的构造方法(增加了proxy之后的代码):publicHiveHistoryImpl(SessionStatess){
try{
c..
分类:
其他好文 时间:
2014-12-15 06:40:26
阅读次数:
186
Centos搭建Eclipse C/C++环境只需要CDT即可,解压运行,新建工程,运行报 program g++ not found in path : eclipse 的window--》preference--》c/c++--》 build --》 setting --》discovery--...
分类:
数据库 时间:
2014-12-14 18:22:10
阅读次数:
321
Hive自定义函数UDAF开发
Hive支持自定义函数,UDAF是接受多行,输出一行。
通常是group by时用到这种函数。
其实最好的学习资料就是官方自带的examples了。
我这里用的是0.10版本hive,所以对于的examples在
https://github.com/apache/hive/tree/branch-0.10/contri...
分类:
其他好文 时间:
2014-12-14 00:46:21
阅读次数:
202
1.到http://www.apache.org/dyn/closer.cgi/hive/ 上下载hive0.14.0的版本2.使用cp命令拷贝到Linux主机的hadoop用户下我这里使用的hadoop用户为qhg3.使用tar -zxvf 命令进行解压,解压完后由于名字太长,使用mv进行重命名4...
分类:
其他好文 时间:
2014-12-13 17:41:23
阅读次数:
324
使用 DB2 触发器和Java UDF实现业务通知
分类:
数据库 时间:
2014-12-12 14:43:06
阅读次数:
172
上一篇介绍了hadoop2.4.1的编译过程,以及hive和spark的编译,这次简单介绍hbase的编译过程。hbase0.98.8默认使用hadoop2.2.0进行编译,笔者的hadoop环境是2.4.1版本,为避免包不一致引发的各种错误,需要对hbase进行重新编译。1、生成编译使用的pom文件修改$HBASE_HOME/pom.xm..
分类:
其他好文 时间:
2014-12-11 19:24:03
阅读次数:
245