Kafka整体结构图 Producer :消息生产者,就是向 kafka broker 发消息的客户端。 Consumer :消息消费者,向 kafka broker 取消息的客户端 Topic :每条发布到Kafka集群的消息都有一个类别,这个类别被称为Topic。 Consumer Group ...
分类:
其他好文 时间:
2018-08-10 23:12:32
阅读次数:
224
参考:https://www.jianshu.com/p/9e72b3942c59 原因是在kafka集群kafka/config/server.properties文件中num.patitions = 1. 需要修改分区默认值。 partitions在是在创建topic的时候默认创建的partit ...
分类:
编程语言 时间:
2018-08-07 20:52:33
阅读次数:
1700
生产环境上的kafka服务发生多次挂掉的情况,所以搭建一个想对于稳定的kafka集群,利用docker容器,实际上也可以说是多节点
分类:
其他好文 时间:
2018-08-05 22:38:38
阅读次数:
240
一、简介 消息队列中间件是分布式系统中重要的组件,主要解决应用耦合,异步消息,流量削锋等问题。实现高性能、高可用、可伸缩和最终一致性架构。使用较多的消息队列有ActiveMQ、RabbitMQ、ZeroMQ、Kafka、MetaMQ、RocketMQ。 二、消息队列应用场景 以下介绍消息队列在实际应 ...
分类:
其他好文 时间:
2018-08-03 16:33:59
阅读次数:
192
1. 启动Server http://kafka.apache.org/quickstart For Kafka, a single broker is just a cluster of size one, so nothing much changes other than starting a ...
分类:
其他好文 时间:
2018-08-02 22:53:15
阅读次数:
272
1.Terminology Broker Kafka集群包含一个或多个服务器,这种服务器被称为broker Topic 每条发布到Kafka集群的消息都有一个类别,这个类别被称为Topic。(物理上不同Topic的消息分开存储,逻辑上一个Topic的消息虽然保存于一个或多个broker上但用户只需指 ...
分类:
其他好文 时间:
2018-08-01 11:54:16
阅读次数:
134
消息队列是分布式应用间交换信息的重要组件,消息队列可驻留在内存或磁盘上, 队列可以存储消息直到它们被应用程序读走。 通过消息队列,应用程序可以在不知道彼此位置的情况下独立处理消息,或者在处理消息前不需要等待接收此消息。 所以消息队列可以解决应用解耦、异步消息、流量削锋等问题,是实现高性能、高可用、可 ...
分类:
其他好文 时间:
2018-07-30 18:03:31
阅读次数:
145
我们往已经部署好的Kafka集群里面添加机器是最正常不过的需求,而且添加起来非常地方便,我们需要做的事是从已经部署好的Kafka节点中复制相应的配置文件,然后把里面的broker id修改成全局唯一的,最后启动这个节点即可将它加入到现有Kafka集群中。 但是问题来了,新添加的Kafka节点并不会自 ...
分类:
其他好文 时间:
2018-07-30 14:44:09
阅读次数:
133
Kafka架构组成:由producer(消息生产者)、consumer(消息消费者)、borker(kafka集群的server,负责处理消息读、写请求,存储消息,在kafka cluster这一层这里,其实里面是有很多个broker)、topic(消息队列/分类相当于队列,里面有生产者和消费者模型 ...
分类:
其他好文 时间:
2018-07-22 14:03:53
阅读次数:
245
删除Kafka集群中的数据:【1】第一步:删除Kafka中的数据 ./kafka-topic --zookeeper node3:2181,node4:2181,node5:2181 --delect --topic t0404 查看集群topic 会显示已标记删除,如果不管,一周之后自动删除【2】 ...
分类:
其他好文 时间:
2018-07-22 14:00:55
阅读次数:
157