转自:闲扯大数据-Ⅱ上一篇说过大数据的用处,如分析顾客的各种属性、分析各种财务数据、精细化管理进销存等,但只是把数据拿过来做一次使用是远远不够的。有人拿这个故事来说明大数据的应用——美国一个大型超市,有一天收到一个怒气冲冲的老爸的投诉,说他女儿还在上高中,居然收到超市的孕婴用品的优惠券,简直是太离谱...
分类:
其他好文 时间:
2014-07-09 23:03:52
阅读次数:
214
override def preStart() { webUi = new WorkerWebUI(this, workDir, Some(webUiPort)) webUi.bind() //创建并绑定UI registerWithMaster() //注册到Master}d...
分类:
其他好文 时间:
2014-07-06 12:54:32
阅读次数:
220
Master.preStart(){ webUi.bind() context.system.scheduler.schedule(0 millis, WORKER_TIMEOUT millis, self, CheckForWorkerTimeOut) //定时任务检测是否有DEAD WORK.....
分类:
移动开发 时间:
2014-07-06 12:51:21
阅读次数:
249
我的CSDN专访。
摘要:EMC公司作为全球信息存储及管理产品方面的领先公司,不久前,EMC宣布收购DSSD加强和巩固了其在行业内的领导地位,日前我们有幸采访到EMC中国的张安站,他就大数据、商业存储、Spark等给大家分享了自己的看法。...
分类:
其他好文 时间:
2014-07-06 12:03:25
阅读次数:
225
CSDN开源夏令营 百度数据可视化实践 前言...
分类:
其他好文 时间:
2014-07-06 10:41:11
阅读次数:
279
本次演讲涉及几个方面的内容。首先是中国数据中心存储增长的源动力,另外就是全球其他地区的数据中心看到的共同发展趋势。依据这些趋势,进一步针对具体案例做出详细分析与阐述。最后就PMC在全球数据中心创新技术研发方面的概况做一个简短介绍。...
分类:
其他好文 时间:
2014-07-06 08:53:04
阅读次数:
190
问题
最近在学习Hadoop(2.2.0),打算写一个MapReduce的小程序在Ubuntu 64位的环境下测试一把,一切环境配置完毕后,执行的过程中,控制台输出下面的内容:
WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java clas...
分类:
其他好文 时间:
2014-07-06 00:46:04
阅读次数:
434
需要进一步学习hadoop、需要看看内部源码实现,因此需要将hadoop源码导入都eclipse中,简单总结一下,具体步骤如下:
首先确保已经安装了git、maven3、protobuf2.5、如果没有安装需要提前安装一下
1、下载hadoop源码
git clone git://git.apache.org/hadoop-common.git
2、进入hadoop-common目录,...
分类:
系统相关 时间:
2014-07-05 23:37:02
阅读次数:
288
随着云计算和大数据的发展,传统的基于主机的存储架构已逐渐向网络化、虚拟化、海量云存储发展,从分散走向集中,存储的性能、效率和扩展性、灵活性被企业普遍关注。从更高层次看,存储不仅需要提供数据的管理、数据复制、快照、镜像、迁移等例行性事物,更要能处理数据的灾难..
分类:
其他好文 时间:
2014-07-05 23:14:57
阅读次数:
298
DAGScheduler的主要功能1、接收用户提交的job;2、将job根据类型划分为不同的stage,并在每一个stage内产生一系列的task,并封装成TaskSet;3、向TaskScheduler提交TaskSet;以如下示例描述Job提交过程:val sc = new SparkConte...
分类:
其他好文 时间:
2014-07-05 21:16:38
阅读次数:
198