书接上回,继续分享。 通用报文解析服务,用C#开发,经历了三版更新,支撑起了关区内的绝大多数数据交换业务,截止至今,每日收发报文约20万,数据量约5G,平均延迟在1分钟内。 回想起那些半夜处理积压报文的场景,不胜唏嘘,决定把这个演进过程向大家讲述一下。回顾历史,展望未来,如果能给大家一些启发,是再好 ...
分类:
其他好文 时间:
2017-05-09 21:52:18
阅读次数:
202
kafka名词解释和工作方式: Producer :消息生产者,就是向kafka broker发消息的客户端。 Consumer :消息消费者,向kafka broker取消息的客户端 Topic :咋们可以理解为一个队列。 Consumer Group (CG):这是kafka用来实现一个topi ...
分类:
其他好文 时间:
2017-04-28 10:29:36
阅读次数:
189
通用报文解析服务,用C#开发,经历了三版更新,支撑起了关区内的绝大多数数据交换业务,截止至今,每日收发报文约20万,数据量约5G,平均延迟在1分钟内。 回想起那些半夜处理积压报文的场景,不胜唏嘘,决定把这个演进过程向大家讲述一下。回顾历史,展望未来,如果能给大家一些启发,是再好不过的了。 由于某些历 ...
分类:
其他好文 时间:
2017-04-15 23:38:57
阅读次数:
272
简介 首先简单说下对kafka的理解: 1、kafka是一个分布式的消息缓存系统; 2、kafka集群中的服务器节点都被称作broker 3、kafka的客户端分为:一是producer(消息生产者)负责往消息队列中放入消息;另一类是consumer(消息消费者)负责从消息队列中取消息。客户端和服务 ...
分类:
其他好文 时间:
2017-04-15 00:17:08
阅读次数:
288
1. 相关概念 1/kafka是一个分布式的消息缓存系统2/kafka集群中的服务器都叫做broker3/kafka有两类客户端,一类叫producer(消息生产者),一类叫做consumer(消息消费者),客户端和broker服务器之间采用tcp协议连接4/kafka中不同业务系统的消息可以通过t ...
分类:
其他好文 时间:
2017-03-27 10:48:27
阅读次数:
111
4.0.0 com.hashleaf kafka 0.0.1-SNAPSHOT org.apache.kafka kafka_2.9.2 0.8.2.1 log4j log4j ... ...
分类:
其他好文 时间:
2017-03-23 01:45:08
阅读次数:
459
package cn.xiaojf.kafka.consumer; import org.apache.kafka.clients.consumer.ConsumerConfig; import org.apache.kafka.clients.consumer.ConsumerRecord; im... ...
分类:
其他好文 时间:
2017-03-23 01:38:23
阅读次数:
420
1、redis 2、rabbitmq 安装python rabbitmq module pip install pika 最简单的消息队列通信 生产者生产消息向hello队列发送消息,消费者从队列hello接受消息进行消费 producer: consumer: Now we can try out ...
分类:
其他好文 时间:
2016-11-15 01:09:42
阅读次数:
181
本例使用topic接收警告、错误的日志,并根据匹配的路由规则发送给不同的Queue队列来处理的例子: 日志生产者SenderWithTopicExchange 消息消费者ReceiverWithTopicExchange 结果输出: 消息处理流程: ...
分类:
其他好文 时间:
2016-10-22 17:44:11
阅读次数:
228
概念: 生产者(Producer,简写P),负责发布消息。 “交换机”(Exchange, 简写X), 负责中转消息。 路由(Route, 简写R), 即 X->Q的路线名。 消息队列 (Queue, 简写Q), 负责临时存储消息。 消费者(Customer,简写C), 负责处理消息。 完整关系图解 ...
分类:
其他好文 时间:
2016-08-24 12:42:26
阅读次数:
140