码迷,mamicode.com
首页 >  
搜索关键字:spark sort-based shuffle内幕彻底解密    ( 7004个结果
Spark SQL源代码分析之核心流程
/**Spark SQL源代码分析系列文章*/ 自从去年Spark Submit 2013 Michael Armbrust分享了他的Catalyst,到至今1年多了,Spark SQL的贡献者从几人到了几十人,并且发展速度异常迅猛,究其原因,个人觉得有下面2点: 1、整合:将SQL类型的查...
分类:数据库   时间:2014-11-09 09:51:02    阅读次数:375
将assembly包添加到自己的maven仓库
mvn install:install-file -DgroupId=com.asiainfo -DartifactId=spark-assembly -Dversion=1.2.0 -Dpackaging=jar -Dfile=/home/spark/software/source/compile...
分类:其他好文   时间:2014-11-07 16:50:59    阅读次数:166
Linux搭建XMPP服务器Tigase(Spark客户端测试)
Tigase是一个基于Java开发的XMPP服务器,类似于Openfire,可用于搭建一个即时通讯(Instant Messaging,简称IM)的平台。1、准备在安装Tigase之前,首先需要准备Java环境以及数据库(本文使用MySQL)。Tigase下载:https://projects.tigase.org/projects/tigase-server/files下载:tigase-ser...
分类:系统相关   时间:2014-11-07 14:54:36    阅读次数:394
Spark wordcount 编译错误 -- reduceByKey is not a member of RDD
value reduceByKey is not a member of org.apache.spark.rdd.RDD[(String, Int)]
分类:其他好文   时间:2014-11-06 19:08:13    阅读次数:1293
Mesos介绍
Apache Mesos是一个集群管理器,提供了有效的、跨分布式应用或框架的资源隔离和共享,可以运行Hadoop、MPI、Hypertable、Spark。oschina.net -集群管理器 Apache Mesos
分类:其他好文   时间:2014-11-06 16:26:10    阅读次数:794
Spark HistoryServer之Jetty简单使用
这两天在看Spark HistoryServer的代码,发现里面使用了Jetty,下面简单描述下Jetty的使用有两个Servlet:HelloServlet和WorldServletpackage com.luogankun.servlet;import java.io.IOException;i...
分类:其他好文   时间:2014-11-06 12:51:02    阅读次数:188
ubuntu下hadoop,spark配置
转载来自:http://www.cnblogs.com/spark-china/p/3941878.html在VMWare 中准备第二、第三台运行Ubuntu系统的机器;在VMWare中构建第二、三台运行Ubuntu的机器和构建第一台机器完全一样,再次不在赘述。。与安装第一台Ubuntu机器不同的几...
分类:系统相关   时间:2014-11-05 19:38:56    阅读次数:1295
openfire+spark+smack 即时通讯(问题篇一)离线消息获取不到
即时通信功能已经开发完毕,现在还木有时间整理,打算后期抽时间整理后发一下源码跟教程。现在记录一下遇到的问题,首先是获取离线消息。 OfflineMessageManager是官方获取离线消息的,但是直接获取,是获取不到任何消息的,需要先设置离线,然后获取后,再上线。功能代码如下。 1、离线 // 初始化 public XMPPConnection init(LoginConfig lo...
分类:系统相关   时间:2014-11-05 13:07:21    阅读次数:322
spark 调优经验(续二)
如何配置高性能的spark集群?如何配置Hadoop的配置文件?如何对spark配置进行合理的优化?...
分类:其他好文   时间:2014-11-04 09:26:07    阅读次数:298
XMPP聊天之Openfire 的安装和配置---Mac OS
一、下载并安装openfire 1、下载最新的openfire安装文件 官方下载站点:http://www.igniterealtime.org/downloads/index.jsp#openfire   openfire是服务器,下面还有一个spark,这个是一个XMPP协议通信聊天的C...
分类:系统相关   时间:2014-11-04 01:40:50    阅读次数:219
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!