前言 本文主要译自Flink Forward 2017的柏林站中Robert Metzger的有关集群规划的How to size your flink cluster一文。该文中主要是考虑网络资源,博主结合自己的使用经验对文中省略的做了一定补充,同时也非常欢迎大伙留言补充。 本文非直译,原文链接如 ...
分类:
其他好文 时间:
2019-12-03 01:52:40
阅读次数:
240
简述 WordCount(单词计数)作为大数据体系的标准示例,一直是入门的经典案例,下面用java和scala实现Flink的WordCount代码; 采用IDEA + Maven + Flink 环境;文末附 pom 文件和相关技术点总结; Java批处理版本 运行输出结果如下: Java流处理版 ...
分类:
编程语言 时间:
2019-11-28 19:14:57
阅读次数:
101
项目模板 Flink应用项目可以使用Maven或SBT来构建项目,Flink针对这些构建工具提供了相应项目模板。 Maven模板命令如下,我们只需要根据提示输入应用项目的groupId、artifactId、version和package路径即可。 目录结构和我们使用IDEA创建的目录结构基本一样, ...
分类:
其他好文 时间:
2019-11-26 23:06:12
阅读次数:
124
文章目录 一、概述 二、Window分类 1、TimeWindow与CountWindow 2、TimeWindow子类型 Tumble Window(翻转窗口) Hop Window(滑动窗口) Session Window(会话窗口) 三、Window分类及整体流程 四、创建WindowOper ...
分类:
数据库 时间:
2019-11-26 22:33:41
阅读次数:
113
1.环境准备: 1.搭建zookeeper和kafka 2.虚拟机上nc -l 9000方式产生数据 2.需求分析: 通过socket的nc -l 9000方式产生数据,然后将数据以字符串的形式存入到kafka中 3.代码实例 flink-kafka-example ...
分类:
其他好文 时间:
2019-11-26 17:49:18
阅读次数:
90
下载&启动 官网上下载安装包,执行下列命令即启动完成。 效果图 参考文档 "Flink官方文档" "Flink 实时数仓的应用" "Apache Flink 零基础入门(一&二):基础概念解析" "企业级数据仓库" ...
分类:
其他好文 时间:
2019-11-25 18:26:07
阅读次数:
189
Hadoop [翻译大象] 广义: 以apache hadoop软件为主的生态圈(hive sqoop spark flink....)狭义: apache hadoop软件 以后这些网站经常用到hadoop.apache.orghive.apache.orgspark.apache.org had ...
分类:
其他好文 时间:
2019-11-25 15:21:18
阅读次数:
134
基于上一步的代码和POM,flink1.8.0, scala 2.11.12 本地运行代码一直可以(pom中flink相关依赖的scope修改为compile) 打成jar包提交到本地local模式集群上运行一直报错,如下: org.apache.flink.client.program.Progr ...
分类:
Web程序 时间:
2019-11-25 09:19:47
阅读次数:
798
Bundled Examples Flink 不同的api详细例子 DataStream applications ( "Java" / "Scala" ) DataSet applications ( "Java" / "Scala" ) Table API / SQL queries ( "Ja ...
分类:
其他好文 时间:
2019-11-24 09:31:14
阅读次数:
73
下载并启动flink 运行flink,唯一的前置要求是就是安装了java8。 可以本地查看命令: 如果是安装了java8,则输出的命令则类似于: 对于mac系统,可以通过Homebrew来安装 启动本地的flink集群 你可以检查 http://localhost:8081,是否有页面正常可以访问。 ...
分类:
系统相关 时间:
2019-11-24 09:20:54
阅读次数:
95