最近升级cdh版本,从4.5 升级到 5.0.0 beta-2
但是升级后,发现/etc/alternatives 路径下的软链接还是只想旧的4.5 版本,而且hadoop环境也是沿用4.5
的版本conf,导致hive不能正常使用,报错为hdfs 的版本不对。 后面使用strace工具查看,发现它...
分类:
其他好文 时间:
2014-06-07 02:44:21
阅读次数:
248
这么个标题多少有点蛋疼的感觉,两个都是互联网时代的语言,学习成本和执行效率也差不多,之所以会产生这种需求,多半是想在python中引用java的类,例如安卓和hadoop的生态圈,基本是java代码的天下,虽然python大数据有不错的接口,但直接调用java的需求总是有的。这个目前已经有解决方案,...
分类:
编程语言 时间:
2014-06-04 20:52:14
阅读次数:
261
一、案例分析Oracle Report Builder
因落伍的技术和糟糕的交互性,特别是无法随心所欲的进行排版,逐渐被淘汰,而BI(XML) Publisher 也是其中的一种替代技术,
此文介绍了如何将Report Builder建立的RDF文件转换成最新的XML Publisher所使用的xm...
分类:
其他好文 时间:
2014-06-04 18:40:23
阅读次数:
254
布了几个项目。竟然天天会自己主动的挂掉。急了。花时间攻克了一下。总结方案例如以下:1.磁盘满了。这大家都懂,清一下2.tomcat在关闭的或是重新启动的时候,经常后台进程没有被关闭。须要用ps
aux|grep java 这个命令查一下,把多余的进程关掉,再启动startup.sh3.这样的情况比較...
分类:
编程语言 时间:
2014-06-03 14:09:07
阅读次数:
404
Hadoop2.0是对Hadoop1.0全面升级,诞生了通用的计算框架YARN,很多计算框架或者应用程序不再基于传统的操作系统开发,而是基于YARN这个云操作系统。典型的代表是DAG计算框架Tez,当然还有一些其他知名的自运行的计算集群系统也在YARN上有开源版本,比如Storm-on-yarn,S...
分类:
其他好文 时间:
2014-06-03 13:09:44
阅读次数:
336
1. 概要web容器在做集群配置时,有3点需要注意:1.1. 负载均衡配置;1.2.
session复制;1.3. 若做的是单机集群(多个tomcat安装在同一台机器上),需要注意端口冲突问题。2.
负载均衡在本案例中是使用Apache来做的,下边用到的mod模块和Apache版本需要兼容才行。文中...
分类:
其他好文 时间:
2014-05-30 09:16:35
阅读次数:
226
在wordcount
程序的main函数中,没有读取运行环境中的各种参数的值,全靠hadoop系统的默认参数跑起来,这样做是有风险的,最突出的就是OOM错误。
自己在刚刚学习hadoop编程时,就是模仿wordcount程序编写。在数据量很小,作为demo程序跑,不会有什么问题,但当数据量激增,变成...
分类:
其他好文 时间:
2014-05-30 08:32:02
阅读次数:
176
题目描述:输入一个链表,输出该链表中倒数第k个结点。(hint:
请务必使用链表。)输入:输入可能包含多个测试样例,输入以EOF结束。对于每个测试案例,输入的第一行为两个整数n和k(0#include typedef
struct node{ int number; struct nod...
分类:
其他好文 时间:
2014-05-30 00:29:13
阅读次数:
325
a.
在hadoop解压目录下,找到src\contrib\eclipse-plugin\build.xml,增加如下几行: b. 在build.xml增加如下:c.
在build.xml,修改如下:d. 找到src\contrib\build-contrib....
分类:
系统相关 时间:
2014-05-29 20:48:43
阅读次数:
439
1. 概要web容器在做集群配置时,有3点需要注意:1.1. 负载均衡配置;1.2.
session复制;1.3. 若做的是单机集群(多个tomcat安装在同一台机器上),需要注意端口冲突问题。2.
负载均衡在本案例中是使用Apache来做的,下边用到的mod模块和Apache版本需要兼容才行。文中...
分类:
其他好文 时间:
2014-05-29 08:16:51
阅读次数:
283