介绍
Spork是Pig on Spark的highly experimental版本,依赖的版本也比较久,如之前文章里所说,目前我把Spork维护在自己的github上:flare-spork。
本文分析的是Spork的实现方式和具体内容。
Spark Launcher
在hadoop executionengine包路径下,写了一个Spark启动器,同MapReduceLauncher类似,会在launchPig的时候,把传入的物理执行计划进行翻译。
MR启动器翻译的是MR的操作,以及进一步的MR...
分类:
其他好文 时间:
2014-05-09 02:08:17
阅读次数:
358
hadoop 启动的时候datanode报错 Problem connecting to server 解决方案...
分类:
其他好文 时间:
2014-05-09 02:07:46
阅读次数:
313
目前已完成支付测试,能够支付成功,支付逻辑自己实现;后台通知、发货通知、订单查询未测。
其中用的redis,可以不用
下载...
分类:
微信 时间:
2014-05-09 00:39:50
阅读次数:
626
很久不写 BO-KE 了,来一篇吧,记住这个成功的一刻,把几个主要文件贴出来:
core-site.xml:
fs.defaultFS
hdfs://fc20:9000
hadoop.tmp.dir
/home/ljq/hadoop/tm...
分类:
其他好文 时间:
2014-05-09 00:35:27
阅读次数:
342
1、导入其他项目进来时,它使用了使用android.support.v7库,所以导入之后报错,解决办法是,在Android studio的程序文件夹里有sdk文件夹,里面存放着下载好的这个库的工程,将它导入到eclipse里,然后再引用它就行了。具体步骤:
(1)import -> Existing Android Code Into Workspace
(2) 选择目录: ...
分类:
移动开发 时间:
2014-05-09 00:33:05
阅读次数:
409
本实例其实也比较简单,自己定义一个PullRefreshFn插件继承Ext.plugin.PullRefresh。
主要给其添加了refreshFn下拉监听事件。listpaging插件未做任何修改。再将这两个插件添加到 list中。
本例未采用MVC模式。
app.js代码如下:
Ext.require(['Ext.form.Panel',
'Ext.data....
分类:
其他好文 时间:
2014-05-09 00:32:00
阅读次数:
490
版本:cdh5.0.0+hadoop2.3.0+hbase0.96.1.1+Spoon5.0.1一、HBase数据导入HBase数据导入使用org.apache.hadoop.hbase.mapreduce.ImportTsv 的两种方式,一种是直接导入,一种是转换为HFile,然后再次导入。1. HDFS数据为(部分):[root@node33 data]# hadoop fs -ls /inp...
分类:
其他好文 时间:
2014-05-09 00:25:48
阅读次数:
515
经过近阶段sublime text 3的使用,对这款编辑器越来越喜欢,无论是外观还是功能,都已做到了编辑器中的顶级。如果你不是 emacs 和 vim 的死忠,那么这款编辑器你绝对不应该错过。虽说这是一款收费软件,listen有70$,但是未注册版也没有任何功能限制,只会在你 save 一定次数后弹出一次购买提示,按Esc即消失,真是业界良心。大家一定要多支持正版。这里推荐大家使用portable version,打好插件,设好配置,就可以压缩打包存储到网盘或U盘中,随时随地使用。我打了10多个插件后,其大...
分类:
其他好文 时间:
2014-05-09 00:22:51
阅读次数:
413
无论是控件还是插件,都是在一级API接口的基础上,进行二次开发,封装的一系列更加便于开发者使用,减少开发者工作量的二级API接口。除了官方通用的鱼骨、鹰眼控件,还有大量官方开发的地图插件,类似谷歌的lib。当然本文还会介绍自定义插件的使用。
org.apache.hadoop.mapred.JobTracker类是个独立的进程,有自己的main函数。JobTracker是在网络环境中提交及运行MR任务的核心位置。
main方法主要代码有两句:1 //创建jobTracker对象2 JobTracker t...
分类:
其他好文 时间:
2014-05-08 22:51:48
阅读次数:
368