cd/opt/bigdata tar xzvf flink-1.4.0-bin-hadoop28-scala_2.11.tgz vi /etc/profile 添加: export FLINK_HOME=/opt/bigdata/ flink-1.4.0 export PATH=$FLINK_HOM ...
分类:
其他好文 时间:
2018-02-23 14:43:37
阅读次数:
493
本文是翻译作品,作者是Piotr Nowojski和Michael Winters。前者是该方案的实现者。 原文地址是https://data-artisans.com/blog/end-to-end-exactly-once-processing-apache-flink-apache-kafka ...
分类:
其他好文 时间:
2018-02-22 19:49:01
阅读次数:
177
作者:李呈祥 Flink项目是大数据处理领域最近冉冉升起的一颗新星,其不同于其他大数据项目的诸多特性吸引了越来越多的人关注Flink项目。本文将深入分析Flink一些关键的技术与特性,希望能够帮助读者对Flink有更加深入的了解,对其他大数据系统的开发者也能有所裨益。 注:本文假设读者对MapRed ...
分类:
其他好文 时间:
2018-02-05 10:42:05
阅读次数:
156
方 案 Filebeat->Logstash->Files Filebeat->Redis->Logstash->Files Nxlog(Rsyslog、Logstash)->Kafka->Flink(Logstash->ES-Kibana) 其他方案(可根据自己需求,选择合适的架构,作者选择了第二 ...
分类:
其他好文 时间:
2018-01-29 21:35:37
阅读次数:
1334
Flink中watermark主要解决保序问题.而保序问题的根本原因是多个任务同时从流中并行处理数据,顺序无法保证.<br/>上游:生成watermark一般在WINDOW操作之前生成WATERMARK,WATERMARK有两种:AssignWithPeriodicWatermarks:每隔N秒自动向流里注入一个WATERMARK时间间隔由ExecutionConfig.setAuto
分类:
其他好文 时间:
2018-01-09 14:37:53
阅读次数:
154
Flink 1.4没出来以前,一直使用Flink 1.3.2,感觉还算稳定,最近将运行环境升级到1.4,遇到了一些坑: 1.需要将可运行程序,基于1.4.0重新编译一次 2.对比了一下flink-conf.yml中的配置,发现一处不同点: # The port under which the web ...
分类:
其他好文 时间:
2017-12-18 18:37:12
阅读次数:
907
基于Flink进行秒级计算时,发现监控图表中CPU有数据中断现象,通过一段时间的跟踪定位,该问题目前已得到有效解决,以下是解决思路: 一、问题现象 以SQL02为例,发现本来10秒一个点的数据,有时会出现断点现象,会少1-2个点甚至更多: 二、问题定位 针对该问题,根据数据处理链路,制定了数据输出跟 ...
分类:
其他好文 时间:
2017-12-04 00:08:46
阅读次数:
203
分布式系统实践 1. 流计算框架 Flink 与 Storm 的性能对比 https://mp.weixin.qq.com/s/b8Jiqj_SXM1acckTPyv57g 摘要: 很详细的一个性能测试对比, 让我们更清楚的了解storm和flink的性能差异, 加深对流式计算系统的理解. 2. 在 ...
分类:
其他好文 时间:
2017-12-01 23:27:48
阅读次数:
204
如果你照着这样写,就会啥也调用不出来,织梦友情链接标签正确的调用格式如下:...分享几个织梦友情链接标签技巧。 下面是织梦官方对织梦友情链接标签的解释: 标签名称:flink 标记简介: 功能说明:用于获取友情链接 适用范围:全局使用 基本语法: {dede:flink row='24'/} 参数说 ...
分类:
其他好文 时间:
2017-11-04 11:25:03
阅读次数:
186
标记名称:flink[标签简介][功能说明]:用于获取友情链接,其对应后台文件为"includetaglibflink.lib.php".[适用范围]:全局标记,适用V55,V56,V57。[参数说明]:[1]type:链接类型,值:a. textall 全部用文字显示;b. textimage 文 ...
分类:
其他好文 时间:
2017-11-04 11:24:21
阅读次数:
172