import org.apache.spark.SparkConfimport org.apache.spark.streaming.{Seconds, StreamingContext}// 创建一个本地模式的StreamingContext, 两个工作线程, 1s的批处理间隔//Master要求 ...
分类:
其他好文 时间:
2021-07-02 16:32:11
阅读次数:
0
?简介: 我们在几年前决定引入 MQ 时,市场上已经有不少成熟的解决方案,比如 RabbitMQ , ActiveMQ,NSQ,Kafka 等。考虑到稳定性、维护成本、公司技术栈等因素,我们选择了 RocketMQ。 ? 背景介绍 ? 为何选择 RocketMQ ? 我们在几年前决定引入 MQ 时, ...
分类:
其他好文 时间:
2021-07-02 16:09:00
阅读次数:
0
【推荐系统算法实战】 基于网页的 Notebook:Zeppelin 交互式数据分析 如果有一个工具,可以让你在同一个Web页面上写Shell代码,Python代码,Scala代码,你想要么? 如果还可以执行PySpark代码和Spark代码呢?心动了吗? 如果还可以写Hive-SQL,Spark- ...
分类:
编程语言 时间:
2021-07-02 15:35:46
阅读次数:
0
SCRIPT 命令 Redis 提供了以下几个 SCRIPT 命令,用于对脚本子系统(scripting subsystem)进行控制: SCRIPT FLUSH :清除所有脚本缓存 SCRIPT EXISTS sha1 [sha1 …] :根据给定的脚本校验和,检查指定的脚本是否存在于脚本缓存 S ...
分类:
其他好文 时间:
2021-07-02 15:33:20
阅读次数:
0
高性能的Redis为我们提供了丰富数据数据,但是你知道这些类型是怎么实现的吗?来吧,让我们一起来学习下他们底层实现原理吧~ ...
分类:
其他好文 时间:
2021-07-02 15:31:40
阅读次数:
0
Redis数据类型:string 存储的数据:单个数据,最简单的数据存储类型,也是最常用的存储类型 存储数据格式:一个存储空间保存一个数据 存储内容:通常使用字符串,如果字符串以整数形式展示,可以作为数字操作使用 string类型数据基本操作: 添加/修改:set key value 获取数据: g ...
分类:
其他好文 时间:
2021-07-02 15:23:26
阅读次数:
0
https://kafka.apachecn.org/intro.html 一、kafka能做什么? 构造实时流数据管道,它可以在系统或应用之间可靠地获取数据。 (相当于message queue) 构建实时流式应用程序,对这些流数据进行转换或者影响。 (就是流处理,通过kafka stream t ...
分类:
其他好文 时间:
2021-07-01 17:05:23
阅读次数:
0
依赖包 <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-data-redis</artifactId> </dependency> 配置文件(application.pr ...
分类:
编程语言 时间:
2021-07-01 16:26:20
阅读次数:
0
摘要:CarbonData 在 Apache Spark 和存储系统之间起到中介服务的作用,为 Spark 提供的4个重要功能。 本文分享自华为云社区《Make Apache Spark better with CarbonData》,原文作者:大数据修行者 。 Spark 无疑是一个强大的处理引擎 ...
分类:
Web程序 时间:
2021-06-30 18:44:44
阅读次数:
0
kafka它们属于消息队列;celery它们属于任务队列。 消息队列和任务队列,最大的不同之处就在于理念的不同 -- 消息队列传递的是“消息”,任务队列传递的是“任务”。 我们可以放到具体的应用场景上: 消息队列用来快速消费队列中的消息。比如日志处理场景,我们需要把不同服务器上的日志合并到一起,这时 ...
分类:
其他好文 时间:
2021-06-30 18:33:26
阅读次数:
0