本篇博文将从如下几点组织文章:
一:案例演示
二:源码分析一:案例演示
这里只是贴出源码,后续会对改代码的实战和实验演示都会详细的补充。package com.dt.spark.sparkstreaming
import org.apache.spark.SparkConf
import org.apache.spark.sql.Row
import org.apache.spark.sql....
分类:
其他好文 时间:
2016-05-12 12:33:14
阅读次数:
265
1 spark streaming 程序代码实例 代码如下: [html] view plain copy object OnlineTheTop3ItemForEachCategory2DB { def main(args: Array[String]){ val conf = new Spark ...
分类:
其他好文 时间:
2016-05-11 13:29:37
阅读次数:
214
本讲内容:a. 在线动态计算分类最热门商品案例回顾与演示
b. 基于案例贯通Spark Streaming的运行源码注:本讲内容基于Spark 1.6.1版本(在2016年5月来说是Spark最新版本)讲解。上节回顾上节课主要从事务视角为大家探索Spark Streaming架构机制;Spark Streaming程序分成而部分,一部分是Driver,另外一部分是Executor。通过对Driv...
分类:
其他好文 时间:
2016-05-09 07:00:05
阅读次数:
154
本期内容:1、在线动态计算分类最热门商品案例回顾与演示2、基于案例分析SparkStreaming的运行源码第一部分案例:packagecom.dt.spark.sparkstreamingimportcom.robinspark.utils.ConnectionPoolimportorg.apache.spark.SparkConfimportorg.apache.spark.sql.Rowimportorg.apac..
分类:
其他好文 时间:
2016-05-08 20:05:59
阅读次数:
246
本章节内容: 一、在线动态计算分类最热门商品案例回顾 二、基于案例贯通Spark Streaming的运行源码 先看代码(源码场景:用户、用户的商品、商品的点击量排名,按商品、其点击量排名前三): package com.dt.spark.sparkstreaming import org.apac ...
分类:
其他好文 时间:
2016-05-08 13:38:42
阅读次数:
164
本期内容: 1、在线动态计算分类最热门商品案例回顾与演示 2、基于案例贯通Spark Streaming的运行源码 一、在线动态计算分类最热门商品案例回顾与演示 案例回顾: package com.dt.spark.sparkstreaming import com.robinspark.utils ...
分类:
其他好文 时间:
2016-05-08 13:37:20
阅读次数:
118
本期内容 : Spark Streaming+Spark SQL案例展示 基于案例贯穿Spark Streaming的运行源码 一、 案例代码阐述 : 在线动态计算电商中不同类别中最热门的商品排名,例如:手机类别中最热门的三种手机、电视类别中最热门的三种电视等。 1、案例运行代码 : 2、案例流程框 ...
分类:
其他好文 时间:
2016-05-08 11:55:46
阅读次数:
275
SparkStreaming的Job到底是如何运行的,我们下面以一个例子来解析一下:packagecom.dt.spark.streaming
importcom.dt.spark.common.ConnectPool
importorg.apache.spark.SparkConf
importorg.apache.spark.streaming.{Seconds,StreamingContext}
/**
*以网站热词排名为例,..
分类:
其他好文 时间:
2016-05-07 16:49:15
阅读次数:
254
本期内容: 1. Spark Streaming架构 2. Spark Streaming运行机制 Spark大数据分析框架的核心部件: spark Core、spark Streaming流计算、GraphX图计算、MLlib机器学习、Spark SQL、Tachyon文件系统、SparkR计算引 ...
分类:
其他好文 时间:
2016-05-03 17:37:53
阅读次数:
159
1、Storm全面、系统、深入讲解,采用最新的稳定版本Storm 0.9.0.1 ; 2、注重实践,对较抽象难懂的技术点如Grouping策略、并发度及线程安全、批处理事务、DRPC、Storm Trident均结合企业场景开发案例进行讲解, 让学员觉得简单易懂; 3、分享积累的经验和技巧,从架构的 ...
分类:
其他好文 时间:
2016-04-12 07:03:30
阅读次数:
294