这一章要讲Spark Streaming,讲之前首先回顾下它的用法,具体用法请参照《Spark Streaming编程指南》。Example代码分析val ssc = new StreamingContext(sparkConf, Seconds(1));// 获得一个DStream负责连接 监听端...
分类:
其他好文 时间:
2014-07-22 08:01:34
阅读次数:
351
1.1 Spark交互式分析
运行Spark脚本前,启动Hadoop的HDFS和YARN。Spark的shell提供
了简单方式去识别API,同样也有一个强大的工具去交互式地分析数据。两种语言有这样的交换能力,分别是Scala 和 Python。下面将演示如何使用Python来分析数据文件。
进入Spark安装主目录,输入下面的命令,python命令行模式将会启动。
./bin/pysp...
分类:
其他好文 时间:
2014-07-22 00:29:38
阅读次数:
239
面对马化腾“挟微信以令诸侯”的威势,马云还了一记重拳反击。
7 月 18 日,阿里巴巴集团宣布此前收购的高德软件正式完成私有化进程,开始与阿里公司进行全面业务融合。未来,阿里将利用在大数据、电商、UC、神马搜索等移动互联网上的优势资源,帮助高德在地图、导航及移动生活服务领域继续深耕。
马云的棋局
显然,这是马云早就酝酿好的一盘棋。
不得不佩服,马云一盘棋下得...
分类:
其他好文 时间:
2014-07-22 00:29:36
阅读次数:
260
1:Spark生态和安装部署
Spark生态
Spark(内存计算框架)
SparkSteaming(流式计算框架)
Spark SQL(ad-hoc)
Mllib(Machine Learning)
GraphX(bagel将被取代)
安装部署
Spark安装简介
Spark的源码编译
Spark Standalone安装
Spark Standalone H...
分类:
其他好文 时间:
2014-07-22 00:27:35
阅读次数:
317
我们已经进入了大数据处理时代,需要快速、简单的处理海量数据,企业邮箱服务也面临着大数据处理,海量数据处理的三个主要因素:大容量数据、多格式数据和速度。DMCTextFilter和HTMLFilter是由北京红樱枫软件有限公司研制和开发的纯文本抽出和HTML转换通用程序库产品。本产品可以从各种各样的文档格式的数据中或从插入的OLE对象中,快速抽出纯文本数据信息和转换成HTML文件。便于用户实现对多种文档数据资源信息进行统一管理,编辑,检索和浏览。...
分类:
其他好文 时间:
2014-07-22 00:09:35
阅读次数:
373
我们已经进入了大数据处理时代,需要快速、简单的处理海量数据,企业邮箱服务也面临着大数据处理,海量数据处理的三个主要因素:大容量数据、多格式数据和速度。DMCTextFilter和HTMLFilter是由北京红樱枫软件有限公司研制和开发的纯文本抽出和HTML转换通用程序库产品。本产品可以从各种各样的文档格式的数据中或从插入的OLE对象中,快速抽出纯文本数据信息和转换成HTML文件。便于用户实现对多种文档数据资源信息进行统一管理,编辑,检索和浏览。...
分类:
其他好文 时间:
2014-07-22 00:06:35
阅读次数:
372
1. 前言2. 参考资料链接3. 使用介绍
3.1. 基本概念3.2. Tokyo Cabinet 简介3.3. 性能介绍3.4. tokyotyrant和Memcached的优势比较
3.4.1. 故障转移3.4.2. 日志文件体积小3.4.3. 超大数据量下表现出色
3.5. 安装
3.5.1. 编译安装tokyocabinet数据库3.5.2. 编译安装tokyotyra...
分类:
Web程序 时间:
2014-07-21 15:36:05
阅读次数:
471
今天说点题外话,说一说郭敬明和他的《小时代》,我知道大家会觉得这斯和大数据有毛关系,不过细细琢磨这里的道道或许也有值得我们这些做企业或职场的朋友深思和借鉴的东西。冯小刚拍了N部贺岁片总票房不过30亿,张艺谋到现在总票房也就20亿,但初出茅庐跨界做导演的小郭拍了《小..
分类:
其他好文 时间:
2014-07-21 12:45:53
阅读次数:
200
巴西世界杯,德国队夺冠,首推主教练勒夫功不可没,还有场上所有队员的精彩表现,相信大家都没二话,我今天就说一说德国队背后的另一个功臣"MatchIn-sights".哈,"MatchIn-sights"可不是一个人的名称,是SAP为德国队量身定制的一款基于大数据的足球解决方案的电脑系统,堪称德国队的第1..
分类:
其他好文 时间:
2014-07-21 01:41:24
阅读次数:
281