码迷,mamicode.com
首页 >  
搜索关键字:spark sort-based shuffle内幕彻底解密    ( 7004个结果
Spark技术内幕:Master的故障恢复
使用ZK作为HA方案的Master是如何快速故障恢复的呢?本文为你详细解读。最后给出的流程图,可以清楚的理解恢复过程的数据流程和处理逻辑。...
分类:其他好文   时间:2014-10-05 05:11:27    阅读次数:252
Spark技术内幕:Executor分配详解
当用户应用new SparkContext后,集群就会为在Worker上分配executor,那么这个过程是什么呢?本文以Standalone的Cluster为例,详细的阐述这个过程。...
分类:其他好文   时间:2014-10-05 03:14:47    阅读次数:258
spark视频-Spark SQL架构和案例深入实战
Spark亚太研究院决胜大数据时代公益大讲坛第五期:SparkSQL架构和案例深入实战,视频地址:http://pan.baidu.com/share/link?shareid=3629554384&uk=4013289088&fid=977951266414309王家林老师(邮箱:18610086...
分类:数据库   时间:2014-10-05 00:48:27    阅读次数:713
spark视频-第二期:Shark、SparkSQL
第2期Spark亚太研究院决胜云计算大数据时代:100期Spark公益大讲堂之Shark、SparkSQL,视频地址:http://pan.baidu.com/share/link?shareid=3629554384&uk=4013289088&fid=277083257568965王家林老师(邮...
分类:数据库   时间:2014-10-04 23:51:27    阅读次数:323
Spark视频第2期:Shark、SparkSQL
Spark视频第2期:Shark、SparkSQL地址:http://pan.baidu.com/share/link?shareid=3629554384&uk=4013289088&fid=277083257568965王家林老师(邮箱:18610086859@126.com QQ: 17404...
分类:数据库   时间:2014-10-04 01:05:45    阅读次数:266
Spark视频第5期:Spark SQL架构和案例深入实战
Spark SQL架构和案例深入实战 视频地址:http://pan.baidu.com/share/link?shareid=3629554384&uk=4013289088&fid=977951266414309王家林老师(邮箱:18610086859@126.com QQ: 174041554...
分类:数据库   时间:2014-10-04 00:18:35    阅读次数:359
spark+hadoop+sqoop+hive平台bug解决方法
bug集锦1. hadoop平台datanode无法启动:原因: 由于多次hdfs namenode -format导致dfs/data/current/version中的cluserID与当前的cluserID不统一,通过查看hadoop/logs中的datanode日志文件查看到此错误。解决方....
分类:其他好文   时间:2014-10-02 23:55:33    阅读次数:205
Spark系列(二) Spark Shell各种操作及详细说明
并行化scala集合(Parallelize)//加载数据1~10val num=sc.parallelize(1 to 10)//每个数据项乘以2,注意 _*2记为一个函数(fun) val doublenum = num.map(_*2) //内存缓存数据doublenum.cache() //...
分类:其他好文   时间:2014-10-02 22:54:43    阅读次数:266
Spark1.0.0源码编译及安装
最近想对自己学的东西做些回顾,想到写博客是个不错的方式,方便他人也有利自己,刚开始写不足之处大家多担待。 编译前需要安装JDK1.6以上、scala、Maven、Ant、hadoop2.20 如下图(/etc/profile): Spark编译有提供了两种方式: Maven 在 /etc/profi...
分类:其他好文   时间:2014-10-02 21:24:03    阅读次数:412
Spark SQL 源码分析之 In-Memory Columnar Storage 之 in-memory query
Spark SQL源码分析之如何查询cache后的table...
分类:数据库   时间:2014-10-02 14:51:33    阅读次数:491
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!