环境:CentOS
鉴于语句描述苍白无力,用例子直接说明...
分类:
系统相关 时间:
2014-05-09 02:19:30
阅读次数:
380
介绍
Spork是Pig on Spark的highly experimental版本,依赖的版本也比较久,如之前文章里所说,目前我把Spork维护在自己的github上:flare-spork。
本文分析的是Spork的实现方式和具体内容。
Spark Launcher
在hadoop executionengine包路径下,写了一个Spark启动器,同MapReduceLauncher类似,会在launchPig的时候,把传入的物理执行计划进行翻译。
MR启动器翻译的是MR的操作,以及进一步的MR...
分类:
其他好文 时间:
2014-05-09 02:08:17
阅读次数:
358
hadoop 启动的时候datanode报错 Problem connecting to server 解决方案...
分类:
其他好文 时间:
2014-05-09 02:07:46
阅读次数:
313
很久不写 BO-KE 了,来一篇吧,记住这个成功的一刻,把几个主要文件贴出来:
core-site.xml:
fs.defaultFS
hdfs://fc20:9000
hadoop.tmp.dir
/home/ljq/hadoop/tm...
分类:
其他好文 时间:
2014-05-09 00:35:27
阅读次数:
342
版本:cdh5.0.0+hadoop2.3.0+hbase0.96.1.1+Spoon5.0.1一、HBase数据导入HBase数据导入使用org.apache.hadoop.hbase.mapreduce.ImportTsv 的两种方式,一种是直接导入,一种是转换为HFile,然后再次导入。1. HDFS数据为(部分):[root@node33 data]# hadoop fs -ls /inp...
分类:
其他好文 时间:
2014-05-09 00:25:48
阅读次数:
515
http://blog.csdn.net/wangloveall/article/details/21407531摘要:MapReduce是Hadoop的又一核心模块,从MapReduce是什么,MapReduce能做什么以及MapReduce的工作机制三方面认识MapReduce。关键词:Hado...
分类:
其他好文 时间:
2014-05-08 23:03:55
阅读次数:
270
http://blog.csdn.net/wangloveall/article/details/22649331摘要:vi是类UNIX命令行接口的标准文字处理软件,也是进行shell脚本程序编写与服务器设置的非常重要的工具。本文介绍vi文字处理器,包括vi简介、vi怎么使用、vi的加强版vim。关...
分类:
其他好文 时间:
2014-05-08 22:58:07
阅读次数:
332
局部类型允许我们将一个类、接口或结构分成好几个部分,分别实现在几个不同的.cs文件中。
局部类型适用于以下情况:(1)类型特别大,不宜放在一个文件中实现。(2)一个类型中的一部分代码为自动化工具生成的代码,不宜与我们自己编写的代码混合在一起。(3)需要多人合作编写一个类。局部类型是一个纯语言层的编译...
分类:
其他好文 时间:
2014-05-08 22:56:44
阅读次数:
329
org.apache.hadoop.mapred.JobTracker类是个独立的进程,有自己的main函数。JobTracker是在网络环境中提交及运行MR任务的核心位置。
main方法主要代码有两句:1 //创建jobTracker对象2 JobTracker t...
分类:
其他好文 时间:
2014-05-08 22:51:48
阅读次数:
368