Flink 1.10.0 于近期刚发布，释放了许多令人激动的新特性。尤其是 Flink SQL 模块，发展速度非常快，因此本文特意从实践的角度出发，带领大家一起探索使用 Flink SQL 如何快速构建流式应用。 本文将基于 Kafka, MySQL, Elasticsearch, Kibana，使 ...
分类：
数据库 时间：
2020-02-28 16:02:58
阅读次数：
85
set PATH=C:\Program Files\Java\jdk1.8.0_201\bin;@call kafka-consumer-groups.bat --bootstrap-server localhost:9092 --describe --group test-uat --comman ...
分类：
其他好文 时间：
2020-02-28 13:58:03
阅读次数：
59
1、kafka0.11版本之后的消息幂等 Kafka幂等性介绍与源码实现： https://www.jianshu.com/p/b1599f46229b Kafka幂等性原理及实现剖析 cnblogs.com/smartloli/p/11922639.html Kafka 事务和幂等详解： http ...
分类：
其他好文 时间：
2020-02-28 11:57:35
阅读次数：
53
一、Kafka概述1）消息队列1）点对点模式（一对一，消费者主动拉取数据，消息收到后消息清除）点对点模型通常是一个基于拉取或者轮询的消息传送模型，这种模型从队列中请求信息，而不是将消息推送到客户端。这个模型的特点是发送到队列的消息被一个且只有一个接收者接收处理，即使有多个消息监听者也是如此；2）发布/订阅模式（一对多，数据生产后，推送给所有订阅者）发布订阅模型则是一个基于推送的消息传送模型。发布订
分类：
其他好文 时间：
2020-02-28 09:13:22
阅读次数：
80
zookeeper依赖于java https://baike.baidu.com/item/yum/2835771?fr=aladdin http://yum.baseurl.org/ 去yum官网下载yum, 因为apt-get install 下载不到 update也不行 错误 yum基于pyt ...
分类：
其他好文 时间：
2020-02-27 18:53:24
阅读次数：
52
http://kafka.apache.org/ 国际网站 发布与订阅,处理,存储 http://kafka.apachecn.org/ 中文网站 中文网站中点击[发布与订阅]进去是错误的貌似,因为两个依赖都是clients 而我查了下maven repository站,里面是真的有producer ...
分类：
其他好文 时间：
2020-02-27 14:38:58
阅读次数：
73
1、消息中间件1、简介消息中间件也可以称消息队列，是指用高效可靠的消息传递机制进行与平台无关的数据交流，并基于数据通信来进行分布式系统的集成。通过提供消息传递和消息队列模型，可以在分布式环境下扩展进程的通信。当下主流的消息中间件有RabbitMQ、Kafka、ActiveMQ、RocketMQ等。其能在不同平台之间进行通信，常用来屏蔽各种平台协议之间的特性，实现应用程序之间的协同。优点在于能够在客
分类：
其他好文 时间：
2020-02-26 22:36:44
阅读次数：
70
前几天对接的同事因为没有时间，所以整个上传文件的流程除了对接接口这块，其它的我先开发完成了。今天对接接口，同事说使用接口传输，数据处理时间大约需要7、8s，接口回应时间太长了。然后我提出了异步对接的思路：使用kafka进行传输。 方案1为之前接口传输的方案，方案2为新的异步传输的模式。 方案1：接口 ...
分类：
Web程序 时间：
2020-02-26 20:35:51
阅读次数：
115
Resetting first dirty ofset to log start offset 2971862 since the checkpointed offset 12675089 is invalid reruirement failed 11302544 messages in segm ...
分类：
其他好文 时间：
2020-02-26 19:00:17
阅读次数：
129
项目总结57：使用阿里云性能测试-电商系统并发测试 第一步：部署测试环境 1-单独部署测试服务，是为了尽量不影响正式环境，并尽量保证硬件和软件上，测试环境和正式环境一致 2-目前一共4台服务器：一台阿里云SLB服务器，一台RDS数据库服务器，两台ECS服务器(tomcat、redis、kafka，m ...
分类：
其他好文 时间：
2020-02-24 15:20:54
阅读次数：
119
