在生产环境中,经常会遇到MySql与Redis数据不一致的问题。那么如何能够保证MySql与Redis数据一致性的问题呢?话不多说,咱们直接上解决方案。 如果对Canal还不太了解的可以先去看一下官方文档:https://github.com/alibaba/canal 首先,咱们得先开启MySql ...
分类:
数据库 时间:
2020-03-02 15:02:43
阅读次数:
165
We are getting random NetworkExceptions and TimeoutExceptions in our production environment: Brokers: 3 Zookeepers: 3 Servers: 3 Kafka: 0.10.0.1 Zooke ...
分类:
Web程序 时间:
2020-03-02 12:49:05
阅读次数:
90
缓存: 1、如何做到高可用? 2、持久化:RDB和AOF RDB的save和bgsave 3、缓存穿透 4、大key 5、整点密集推送方案 6、分布式锁 kafka: 1、kafka是如何保证消息的有序性? ...
分类:
其他好文 时间:
2020-03-02 10:40:38
阅读次数:
42
2017年后,一大波网络喧嚣,说流式处理如何牛叉,如何高大上,抱歉,工作满负荷,没空玩那个; 今年疫情隔离在家,无聊,开始学习 KAFKA+Flink ,目前的打算是用爬虫抓取网页数据,传递到Kafka中,再用Flink计算。 个人性格原因,我不愿意过分沉迷于纸质或者电子教程材料,也不是特别喜欢网上 ...
分类:
其他好文 时间:
2020-03-02 01:04:26
阅读次数:
967
消费者-生产者模式搭建 首先,下载zookeeper与kafka Zookeeper下载地址:https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/zookeeper-3.4.14/(本人推荐下载3.4.14版本,stable版本下的解压时会出现 ...
分类:
其他好文 时间:
2020-03-01 19:39:57
阅读次数:
79
1. 概述 Kafka是一个分布式、支持分区的、多副本的,基于zookeeper协调的分布式消息系统。 2. Kafka的特性 (1)高吞吐量、低延迟:Kafka每秒可以处理几十万条消息,它的延迟最低只有几毫秒,每个主题topic可以分为多个分区partition,消费者组consumer grou ...
分类:
其他好文 时间:
2020-03-01 19:38:00
阅读次数:
72
概述 zookeeper,拆开来就是zoo keeper,翻译就是动物管理员,为什么这么命名呢?因为当时yahoo开发zookeeper的时候,已经开发很多其他的产品,都是以动物命名的,而zookeeper的作用就是要协调这些产品,所以最后就命名为了动物管理员。相信每个人都不陌生,无论是阿里的dub ...
分类:
编程语言 时间:
2020-03-01 12:47:20
阅读次数:
60
异常 java.lang.NoClassDefFoundError: org/apache/flink/streaming/util/serialization/DeserializationSchema ...
分类:
编程语言 时间:
2020-03-01 00:07:36
阅读次数:
305
利用 Log Pilot + Kafka+Elasticsearch + Kibana 搭建 kubernetes日志解决方案 1、前提条件 已有kafka、elk、k8s集群,这3套集群搭建网上资料很多,这里不写,IP规划如下所示: kafka集群 10.6.11.22:9092 10.6.11. ...
分类:
Web程序 时间:
2020-02-29 13:03:35
阅读次数:
412
问题项目使用spring-kafka操作消费kafka近期出现消费速度变慢,consumer消费一条数据平均需要200ms的时间,并且频繁发生,consumer会停止消费十几秒。日志分析以下为日志记录,consumer会时长从消费组中掉出再重新加入o.a.k.c.c.i.AbstractCoordinator:542-Markingthecoordinator127.0.0.1:9092(id:2
分类:
其他好文 时间:
2020-02-28 19:02:51
阅读次数:
461