注:本文主要参考自《快学Scala》 Java中的包 在讲这个问题之前,有必要先了解一下Java里面的类和成员变量的访问控制符(本人也有点模糊,顺便复习下) 一.首先说下Java中类的访问控制符: 在Java中类的访问控制符只有public和default两种 public访问控制符修饰的类,可以在...
分类:
其他好文 时间:
2014-09-06 00:57:32
阅读次数:
421
http://blog.csdn.net/oopsoom/article/details/23447317def/:[B](z:B)(op:(B,A)=>B):B=foldLeft(z)(op)def:\[B](z:B)(op:(A,B)=>B):B=foldRight(z)(op)
分类:
其他好文 时间:
2014-09-05 19:49:11
阅读次数:
302
需要的软件包:Spark1.0.2Scala2.10.4一、安装ScalaRpm–ivhscala-2.10.4.rpm#安装scalaScala–version#检查刚刚安装的scala版本Scalacoderunnerversion2.10.4--Copyright2002-2013,LAMP/EPFL[hadoop@hadoop2~]$scala#进入scala命令行交互模式做简单运算看下运行结果:至此,sc..
分类:
其他好文 时间:
2014-09-05 16:29:12
阅读次数:
199
注:1.本文主要参考自《快学Scala》2.使用jd-gui反编译 Scala的构造方法跟Scala很相似,也可以有任意多的构造器。在Scala中构造器分为主构造器和辅助构造器 在Scala中可以包括一个主构造器和任意多个辅助构造器 主构造器 在Scala中,每个类都有主构造器。而且主构造器的定义是...
分类:
其他好文 时间:
2014-09-05 16:05:21
阅读次数:
875
“决胜云计算大数据时代”Spark亚太研究院100期公益大讲堂 【第10期互动问答分享】Q1:Spark on Yarn的运行方式是什么?Spark on Yarn的运行方式有两种:Client和Cluster模 Client模式如下所示: ...
分类:
其他好文 时间:
2014-09-05 14:15:31
阅读次数:
177
背景
前段时间在为内部自研的计算框架设计算子层,参考对比了一些开源的计算框架的算子层,本文做一个粗粒度的梳理。
下面这张图是我对计算框架抽象层次的一个拆分,具体可以参考上周日杭州Spark meetup上我做的Spark SQL分享 slides。...
分类:
其他好文 时间:
2014-09-05 10:07:32
阅读次数:
157
openfire是一个即时通讯服务器,也称之为即时通讯平台。它是基于XMPP协议的,大家所熟悉的通讯软件QQ、MSN和Gtalk等等,其中Gtalk就是基于XMPP协议的实现。
在即时通讯中往往因为需要保存一些状态或者数据所以不能采用点对点通讯,而是需要搭建服务器来转发。
下载地址:http://www.igniterealtime.org/downloads/index.jsp
下载完...
分类:
其他好文 时间:
2014-09-05 10:04:11
阅读次数:
193
spark on yarn提交任务时一直显示ACCEPTED,过一个小时后就会出现任务失败,但在提交时shell终端显示的日志并没有报错,logs文件夹中也没有日志产生。注:spark?on?yarn是不需要启动spark集群的,只需要在提交任...
分类:
其他好文 时间:
2014-09-04 19:36:00
阅读次数:
562
“决胜云计算大数据时代” Spark亚太研究院100期公益大讲堂 【第10期互动问答分享】 ? Q1:Spark on Yarn的运行方式是什么? Spark on Yarn的运行方式有两种:Client和Cluster模式 Client模式如下所示: Cluste...
分类:
其他好文 时间:
2014-09-04 19:35:40
阅读次数:
326
1.部署环境OS:Red Hat Enterprise Linux Server release 6.4 (Santiago)Hadoop:Hadoop 2.4.1Hive:0.11.0JDK:1.7.0_60Python:2.6.6(spark集群需要python2.6以上,否则无法在spark集...
分类:
其他好文 时间:
2014-09-04 18:59:49
阅读次数:
267