“决胜云计算大数据时代”Spark亚太研究院100期公益大讲堂
【第17期互动问答分享】Q1：为了加快sparkshuffle的执行速度是否可以把spark_local_dirs指向一块固态硬盘上面，这样做是否有效果。可以把spark_local_dirs指向一块固态硬盘上面,这样会非常有效的提升Spark执行速度；同..
分类：
其他好文 时间：
2014-10-17 19:00:33
阅读次数：
178
“决胜云计算大数据时代” Spark亚太研究院100期公益大讲堂 【第17期互动问答分享】 ? Q1：为了加快spark?shuffle?的执行速度是否可以把spark_local_dirs?指向一块固态硬盘上面，这样做是否有效果。 可以把...
分类：
其他好文 时间：
2014-10-17 17:02:15
阅读次数：
154
最近在上coursera上的proglang，用的是sml，但是在mac居然不能用up和down箭头键来回翻命令，还以为是sml的问题，今天在windows装了一个，居然可以使用，原来是mac的原因。用google搜索“sml mac command history...
分类：
系统相关 时间：
2014-10-17 03:30:33
阅读次数：
391
略微了解Spark源代码的人应该都知道SparkContext，作为整个Project的程序入口，其重要性不言而喻，很多大牛也在源代码分析的文章中对其做了非常多相关的深入分析和解读。这里，结合自己前段时间的阅读体会，与大家共同讨论学习一下Spark的入口对象—天堂之门—SparkContex。Spa...
分类：
Web程序 时间：
2014-10-16 20:33:13
阅读次数：
271
这几天试用了下openfire相关应用,搭建一个简单的在线咨询服务，有点类似阿里旺旺，可以web页面在线咨询，也可以加为好友在pc客户端中咨询 使用场景：企业业务咨询 1.在官网http://www.igniterealtime.org/index.j...
分类：
Web程序 时间：
2014-10-16 20:22:13
阅读次数：
427
7,在SparkWorker1和SparkWorker2上完成和SparkMaster同样的Hadoop 2.2.0操作，建议使用SCP命令把SparkMaster上安装和配置的Hadoop的各项内容拷贝到SparkWorker1和SparkWorker2上; 8,启动并验证Hadoop分布式集群 ...
分类：
其他好文 时间：
2014-10-16 18:12:13
阅读次数：
233
Whig history (or Whig historiography) is the approach to historiography which presents the past as an inevitable progression towards ever greater libe...
分类：
其他好文 时间：
2014-10-16 18:04:32
阅读次数：
362
7,在SparkWorker1和SparkWorker2上完成和SparkMaster同样的Hadoop 2.2.0操作，建议使用SCP命令把SparkMaster上安装和配置的Hadoop的各项内容拷贝到SparkWorker1和SparkWorker2上;8,启动并验证Hadoop分布式集群第一...
分类：
其他好文 时间：
2014-10-16 17:50:52
阅读次数：
226
GridGain最近在2014年的Spark峰会上发布了Hadoop内存片内加速技术，可以为Hadoop应用带来内存片内计算的相关收益。
该技术包括两个单元：和Hadoop HDFS兼容的内存片内文件系统，以及为内存片内处理而优化的MapReduce实现。这两个单元对基于磁盘的HDFS和传统的MapReduce进行了扩展，为大数据处理情况提供了更好的性能。...
分类：
其他好文 时间：
2014-10-16 17:15:42
阅读次数：
235
7,在SparkWorker1和SparkWorker2上完成和SparkMaster同样的Hadoop 2.2.0操作，建议使用SCP命令把SparkMaster上安装和配置的Hadoop的各项内容拷贝到SparkWorker1和SparkWorker2上;
8,启动并验证Hadoop分布式集群
第一步：格式化hdfs文件系统：
第二步：进入...
分类：
其他好文 时间：
2014-10-16 16:28:02
阅读次数：
269
