kafka 如何保证数据不丢失 https://www.cnblogs.com/MrRightZhao/p/11498952.html 一般我们在用到这种消息中件的时候,肯定会考虑要怎样才能保证数据不丢失,在面试中也会问到相关的问题。但凡遇到这种问题,是指3个方面的数据不丢失,即:producer ...
分类:
其他好文 时间:
2019-11-21 10:26:24
阅读次数:
59
replication相关概念: ISR(In-Sync Replicas):副本同步列表【包含Leader和Follower】 OSR(Outof-Sync Replicas):由于同步落后而被剔除的副本列表,阈值参数:replica.lag.time.max.ms AR(Assigned Rep ...
分类:
其他好文 时间:
2019-11-20 21:26:36
阅读次数:
103
1)解压安装包 [hadoop@mastersoftware]$ tar -zxvf kafka_2.11-0.11.0.0.tgz -C /opt/module/ 2)修改解压后的文件名称 [hadoop@mastermodule]$ mv kafka_2.11-0.11.0.0/ kafka 3 ...
分类:
其他好文 时间:
2019-11-20 21:18:35
阅读次数:
53
一、消息队列概述消息队列中间件是分布式系统中重要的组件,主要解决应用解耦,异步消息,流量削锋等问题,实现高性能,高可用,可伸缩和最终一致性架构。目前使用较多的消息队列有ActiveMQ,RabbitMQ,ZeroMQ,Kafka,MetaMQ,RocketMQ 二、消息队列应用场景以下介绍消息队列在 ...
分类:
其他好文 时间:
2019-11-20 19:18:21
阅读次数:
62
1.ERROR Exiting Kafka due to fatal exception (kafka.Kafka$)原因:找不到properties文件,或者配置文件路径指定错误 办法:指定配置文件路径 2.Configured broker.id 130 doesn’t match stored ...
分类:
其他好文 时间:
2019-11-20 15:25:49
阅读次数:
65
写在前面的 最近看了Kafka Summit上的这个分享,觉得名字很霸气,标题直接沿用了。这个分享源于社区的KIP-500,大体的意思今后Apache Kafka不再需要ZooKeeper。整个分享大约40几分钟。完整看下来感觉干货很多,这里特意总结出来。如果你把这个分享看做是《三国志》的话,那么姑 ...
分类:
其他好文 时间:
2019-11-20 12:39:08
阅读次数:
100
Spring Boot 快速入门 农师傅:老码农,xx年工作经验(洗头现在很省洗发水)。精通(xieguo)C、VC++、C#、Java等语言,熟悉(liaojie)SpringBoot,SpringCloud,ServiceMesh,Dubbo,Zookeeper,Kafka,Mysql,高并发等 ...
分类:
编程语言 时间:
2019-11-18 18:53:18
阅读次数:
76
Kafka概述 是基于点对点模式和发布订阅模式的分布式消息队列系统 为什么要用kafka,为什么要用消息队列 1)解耦: 2)冗余: 3)扩展性: 4)灵活性 & 峰值处理能力: 5)可恢复性: 6)顺序保证: 7)缓冲: 8)异步通信: kafka构架 1)Producer :消息生产者,就是向k ...
分类:
其他好文 时间:
2019-11-17 20:51:01
阅读次数:
114
最近公司项目需要用到kafka消息队列,所以特地花了一个周末的时间对kafka的搭建以及使用做了一个了解,特地记录一下。 kafka搭建需要依赖于zookeeper作为注册中心,前面两篇文已经介绍了zookeeper的环境搭建,现在将记录一下kafka的搭建,同样也是选取三个节点 如下: Node1 ...
分类:
其他好文 时间:
2019-11-17 18:19:16
阅读次数:
79
大数据从入门到入土 语言基础:java(Java se,javaweb) Linux 基础:Linux(shell,高并发架构,lucene,solr) 框架学习:Hadoop(Hadoop,HDFS,Mapreduce,yarn,hive,hbase,sqoop,zookeeper,flume) ...
分类:
其他好文 时间:
2019-11-16 21:47:53
阅读次数:
107