参考文档 "Flink科普系列之State(状态)" "Flink状态管理详解:Keyed State和Operator List State深度解析" "Flink 面试通关手册" "推荐两个不错的flink项目" ...
分类:
其他好文 时间:
2020-03-06 01:41:21
阅读次数:
37
先对数据分个类企业数据管理的内容及范畴通常包括交易数据、主数据以及元数据。(1)交易数据:用于纪录业务事件,如客户的订单,投诉记录,客服申请等,它往往用于描述在某一个时间点上业务系统发生的行为。(2)主数据:主数据则定义企业核心业务对象,如客户、产品、地址等,与交易流水信息不同,主数据一旦被记录到数据库中,需要经常对其进行维护,从而确保其时效性和准确性;主数据还包括关系数据,用以描述主数据之间的关
分类:
其他好文 时间:
2020-03-05 19:24:21
阅读次数:
185
先上一个架构图: Flink App : 通过report 将数据发出去 Pushgateway : Prometheus 生态中一个重要工具 Prometheus : 一套开源的系统监控报警框架 (Prometheus 入门与实践) Grafana: 一个跨平台的开源的度量分析和可视化工具,可以通 ...
分类:
其他好文 时间:
2020-03-04 19:13:42
阅读次数:
202
原文链接:一文弄懂Flink基础理论 Flink分布式程序包含2个主要的进程:JobManager和TaskManager.当程序运行时,不同的进程就会参与其中,包括Jobmanager、TaskManager和JobClient。 当 Flink 集群启动后,首先会启动一个 JobManger 和 ...
分类:
其他好文 时间:
2020-03-02 19:01:17
阅读次数:
68
2017年后,一大波网络喧嚣,说流式处理如何牛叉,如何高大上,抱歉,工作满负荷,没空玩那个; 今年疫情隔离在家,无聊,开始学习 KAFKA+Flink ,目前的打算是用爬虫抓取网页数据,传递到Kafka中,再用Flink计算。 个人性格原因,我不愿意过分沉迷于纸质或者电子教程材料,也不是特别喜欢网上 ...
分类:
其他好文 时间:
2020-03-02 01:04:26
阅读次数:
967
异常 java.lang.NoClassDefFoundError: org/apache/flink/streaming/util/serialization/DeserializationSchema ...
分类:
编程语言 时间:
2020-03-01 00:07:36
阅读次数:
305
Flink 1.10.0 于近期刚发布,释放了许多令人激动的新特性。尤其是 Flink SQL 模块,发展速度非常快,因此本文特意从实践的角度出发,带领大家一起探索使用 Flink SQL 如何快速构建流式应用。 本文将基于 Kafka, MySQL, Elasticsearch, Kibana,使 ...
分类:
数据库 时间:
2020-02-28 16:02:58
阅读次数:
85
一、Flink1.9.0的里程碑意义 二、重构 Flink WebUI Flink社区讨论了现代化 Flink WebUI 的提案,决定采用 Angular 的最新稳定版来重构这个组件。从Angular 1.x 跃升到了 7.x 。重新设计的 UI 是 1.9.0 的默认UI,不过有一个按钮可以切换 ...
分类:
其他好文 时间:
2020-02-25 21:48:34
阅读次数:
89
技术点:springcloud + kafka + hbase + mogodb 1、建立实体对象 浏览商品行为 ScanProductLog 收藏商品行为 CollectProductLog 购物车行为 BuyCartProductLog 关注商品行为 AttentionProductLog 2、 ...
分类:
其他好文 时间:
2020-02-23 14:57:19
阅读次数:
95
1.Job Managers、Task Managers、客户端(Clients) Flink 运行时包含两类进程: JobManagers (也称为 masters)协调分布式计算。它们负责调度任务、协调 checkpoints、协调故障恢复等。 每个 Job 至少会有一个 JobManager。 ...
分类:
其他好文 时间:
2020-02-23 11:54:37
阅读次数:
106