晚上刚刚被媳妇骂,难过之余,还是要坚持继续写一篇kafka源码走读的博客,心情难过,原谅我开头发下牢骚。。。 源码版本依然是0.10.2.1,我们都知道,kafka在0.8版本前没有提供Partition的Replication机制,一旦Broker宕机,其上的所有Partition就都无法提供服务 ...
分类:
其他好文 时间:
2020-04-15 18:35:16
阅读次数:
81
# Flume 监控文本文件sink到kafka a1.sources = r1a1.sinks = k1a1.channels = c1 # Describe/configure the source a1.sources.r1.type = execa1.sources.r1.command = ...
分类:
Web程序 时间:
2020-04-15 18:06:21
阅读次数:
74
RabbitMQ是基于AMQP(Advanced Message Queue)标准协议规范的实现,由Erlang语言开发。 RabbitMQ结构图: 一、名词概念 Broker:消息队列服务器实体。 Exchange:消息交换机,它指定消息按什么规则,路由到哪个队列。 Queue:消息队列载体,每个 ...
分类:
其他好文 时间:
2020-04-15 00:53:38
阅读次数:
48
1.问题出现 搭完mq单主单从集群之后,美滋滋想发一下message, 没想到碰到一个坑爹的问题: com.alibaba.rocketmq.client.exception.MQBrokerException: CODE: 14 DESC: service not available now, m ...
分类:
系统相关 时间:
2020-04-10 00:36:42
阅读次数:
616
1.通过自建kafka的生产者来产生数据 /bin/kafka-console-producter.sh --broker-list 192.168.58.177:9092 --topic my_topic 数据 {"user_id": "543462", "item_id":"1715", "ca ...
分类:
数据库 时间:
2020-04-09 19:09:25
阅读次数:
458
常规配置 ================================================================= 默认监听器 基于证书的SSL / TLS支持 Pre shared key based SSL/TLS support 基于预共享密钥的SSL / TLS支持 ...
分类:
其他好文 时间:
2020-04-04 11:33:49
阅读次数:
85
broker: 指 mqtt 服务器 package mqtt import ( "crypto/tls" "net/http" "net/url" "regexp" "strings" "time" ) // 允许在重新连接之前更新用户名和密码。函数应该返回当前的用户名和密码。 type Cred ...
分类:
其他好文 时间:
2020-04-04 11:31:33
阅读次数:
71
/** *重置kafka消费进度 *参数中需要指定kafka集群中一台broker地址,要重置的topic名称,消费组,以及partition个数 */public static void seekLatest(String broker, String topic, String group, i ...
分类:
其他好文 时间:
2020-04-03 18:28:01
阅读次数:
109
kafka是可以保证同一个分区里面的消息写入是有序的。也就是说,如果生产者按照一定的顺序发送消息,broker就会按照这个消息顺序来将他们写入分区,消费者也会按照一定的顺序将他们写入分区,消费者也会按照同样的顺序读取它们。 在某些情况下,数据的顺序是很重要的,例如,在一个账户存入100元再取出来 和 ...
分类:
其他好文 时间:
2020-04-03 15:05:39
阅读次数:
225
常规配置 常规配置指的是一些在使用单机安装时可以直接使用的默认值,这可以满足大部分的开发需求。但是在部署到其他环境时,需要格外小心,这些参数是单个服务器最基本的配置,他们中的大部分需要经过修改之后才可以用在生产环境里 broker.id 每个broker都需要有一个标识符,使用broker.id来表 ...
分类:
其他好文 时间:
2020-03-30 23:04:44
阅读次数:
70