[Spark亚太研究院 决战云计算大数据时代 100期公益大讲堂 互动问答]Q1:我想问,hdfs的namenode挂了,怎么处理? 使用ZooKeeper; 使用Mesos; 使用Yarn;Q2:用python和scala区别大吗? 就代码的风格而言是不大的; 世界上也有很多人使用python开发...
分类:
其他好文 时间:
2014-07-16 19:09:29
阅读次数:
294
public class FileSplit extends InputSplit implements Writable { private Path file; private long start; private long length; private String[] hosts; pu...
分类:
其他好文 时间:
2014-07-16 18:32:45
阅读次数:
236
本文介绍了 Hadoop 自 0.23.0 版本后新的 map-reduce 框架(Yarn) 原理,优势,运作机制和配置方法等;着重介绍新的 yarn 框架相对于原框架的差异及改进;并通过 Demo 示例详细描述了在新的 yarn 框架下搭建和开发 hadoop 程序的方法。读者通过本文中新旧 h...
分类:
其他好文 时间:
2014-07-16 15:55:52
阅读次数:
325
有感于小米官网的中英文版本的差异
早上打开小米,因为操作系统是英文的,所以默认是英文版本的小米。居然跟我之前打开的小米界面不同!!!简洁的界面非常吸引人注意,只有六个菜单项和一个全屏宽度的slider。
.COM的精彩看点:
1.布局舒服,采用1+3,(苹果是1+4)
2.白底符合欧美人的阅读喜好
3.全宽度的slider视觉效果好,符合现在大屏炫彩的潮流
4.菜单项少,没有过多选择导致的无所适从,
5.首页没有搜索框,其实来这里的人往往都不是是从搜索框开始的,而是有明确的目标
6.按产品线制定菜单,不分散...
分类:
移动开发 时间:
2014-07-16 09:12:30
阅读次数:
267
public List getSplits(JobContext job) throws IOException { long minSize = Math.max(getFormatMinSplitSize(), getMinSplitSize(job)); long ...
分类:
其他好文 时间:
2014-07-16 00:19:43
阅读次数:
324
HBase提供基于单行数据操作的原子性保证
即:对同一行的变更操作(包括针对一列/多列/多column family的操作),要么完全成功,要么完全失败,不会有其他状态...
分类:
其他好文 时间:
2014-07-15 12:46:13
阅读次数:
367
一、概述本文将介绍ResourceManager在Yarn中的功能作用,从更细的粒度分析RM内部组成的各个组件功能和他们相互的交互方式。二、ResourceManager的交互协议与基本职能1、ResourceManager交互协议在整个Yarn框架中主要涉及到7个协议,分别是ApplicationClientProtocol、MRClientP..
分类:
其他好文 时间:
2014-07-15 12:18:57
阅读次数:
1022
yarn.resourcemanager.ha.enabled true yarn.resourcemanager.ha.rm-ids ...
分类:
其他好文 时间:
2014-07-14 19:48:02
阅读次数:
359
前言: 作为Hadoop生态系统中重要的一员, HBase作为分布式列式存储, 在线实时处理的特性, 备受瞩目, 将来能在很多应用场景, 取代传统关系型数据库的江湖地位. 本篇博文重点讲解HBase的数据导入, 描述三种方式, Client API, Bulkload, 以及Hive Over .....
分类:
其他好文 时间:
2014-07-14 15:51:39
阅读次数:
288