码迷,mamicode.com
首页 >  
搜索关键字:streaming 数据清理    ( 1344个结果
SRS配置HLS分发
一、HLS简介 ????HLS(HTTP Live Streaming) 是Appale公司在2009年发布的,可以通过普通的web服务器进行分发的新型流媒体协议。 HLS协议文件:http://tools.ietf.org/html/draft-pantos-http-live-streaming...
分类:其他好文   时间:2015-05-15 01:31:23    阅读次数:7320
streaming优化:并行接收数据
val numStreams = 5val kafkaStreams = (1 to numStreams).map { i => KafkaUtils.createStream(...) }val unifiedStream = streamingContext.union(kafkaStream...
分类:其他好文   时间:2015-05-14 11:39:28    阅读次数:154
spark streaming优化:spark.default.parallelism调整处理并行度
官方是这么说的:Cluster resources can be under-utilized if the number of parallel tasks used in any stage of the computation is not high enough. For example, ...
分类:其他好文   时间:2015-05-14 11:36:56    阅读次数:359
Darwin Streaming Server 核心代码分析
基本概念 首先,我针对的代码是Darwin Streaming Server 6.0.3未经任何改动的版本。 Darwin Streaming Server从设计模式上看,采用了Reactor的并发服务器设计模式,如果对Reactor有一定的了解会有助于对Darwin St...
分类:Windows程序   时间:2015-05-14 10:15:42    阅读次数:174
spark streaming中使用checkpoint
从官方的Programming Guides中看到的我理解streaming中的checkpoint有两种,一种指的是metadata的checkpoint,用于恢复你的streaming;一种是rdd的checkpoint的;下面的代码指的是第一种:// Function to create an...
分类:其他好文   时间:2015-05-14 09:55:54    阅读次数:130
Spark Streaming中向flume拉取数据
在这里看到的解决方法https://issues.apache.org/jira/browse/SPARK-1729请是个人理解,有问题请大家留言。其实本身flume是不支持像KAFKA一样的发布/订阅功能的,也就是说无法让spark去flume拉取数据,所以老外就想了个取巧的办法。在flume中其...
分类:Web程序   时间:2015-05-13 16:04:15    阅读次数:266
spark中使用flume数据源
有两种方式,一种是sparkstreaming中的driver起监听,flume来推数据;另一种是sparkstreaming按照时间策略轮训的向flume拉数据。最开始我以为只有第一种方法,但是尼玛问题在于driver起来的结点是没谱的,所以每次我重启streaming后发现尼玛每次都要修改flu...
分类:Web程序   时间:2015-05-13 12:23:56    阅读次数:207
Awstats +JAWstats 对日志分析
AWStats是一个免费、功能强大、特性丰富的日志分析工具,它能分析由WEB、STREAMING、FTP、MAIL等服务生成的日志,并生成先进的统计图表。AWStats作为CGI或从命令行运行,在数个图形网页中显示你日志中包含的所有可能信息。它利用一部分档案资料就能经常很快地处理大量日志档案..
分类:其他好文   时间:2015-05-13 06:28:15    阅读次数:177
RTSP - RTP over TCP
Normally, RTSP provide streaming over UDP. By nature, UDP is a better choice as it provides robust streaming capability for media. However, it is unli...
分类:其他好文   时间:2015-05-07 00:40:26    阅读次数:178
开源分布式计算系统框架比较
分布式计算在许多领域都有广泛需求,目前流行的分布式计算框架主要有 Hadoop MapReduce, Spark Streaming, Storm; 这三个框架各有优势,现在都属于 Apache 基金会下的顶级项目,下文将对三个框架的特点与适用场景进行分析,以便开发者能快速选择适合自己的框架进行开发...
分类:其他好文   时间:2015-05-06 14:51:36    阅读次数:174
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!