Kafka是分布式发布-订阅消息系统。它最初由LinkedIn公司开发,之后成为Apache项目的一部分。Kafka是一个分布式的,可划分的,冗余备份的持久性的日志服务。它主要用于处理活跃的流式数据。 在大数据系统中,常常会碰到一个问题,整个大数据是由各个子系统组成,数据需要在各个子系统中高性能,低 ...
分类:
其他好文 时间:
2016-08-03 10:20:28
阅读次数:
236
阿里巴巴阿里的开源项目很多,这也跟@淘宝正明的开源态度密不可分。有很多重量级的项目,例如LVS、Tengine,或者很有实践价值的中间件,例如
MetaQ(分布式消息系统)、dubbo(RPC框架)、cobar(数据库中间件),或者是Java世界的工具,例如druid、fastjson。
都说国内Java公司的技..
分类:
其他好文 时间:
2016-07-19 02:31:09
阅读次数:
309
kafka是一个高吞吐量分布式消息系统,并且提供了持久化。其高性能的有两个重要特点:
利用了磁盘连续读写性能远远高于随机读写的特点;
并发,将一个topic拆分多个partition。
同一个ConsumerGroup内的Consumer和Partition在同一时间内必须保证是一对一的消费关系任意Partition在某一个时刻只能被一个Consumer Group内的一个Consumer消费(反过...
分类:
其他好文 时间:
2016-07-10 19:18:29
阅读次数:
1916
1.背景 起源于Linkedin,在apache开源,基于发布订阅的分布式消息系统。 1.背景 起源于Linkedin,在apache开源,基于发布订阅的分布式消息系统。 2.特点 高吞吐量:单机每秒几百MB的读写 消息持久化 高扩展性 高可靠性 支持多消费者(这个是比较重要的特点) 3.拓扑结构 ...
分类:
其他好文 时间:
2016-07-06 00:28:01
阅读次数:
196
备注:
1.如果您此前未接触过RocketMQ,请先阅读附录部分,以便了解RocketMQ的整体架构和相关术语
2.文中的MQServer与Broker表示同一概念
分布式消息系统作为实现分布式系统可扩展、可伸缩性的关键组件,需要具有高吞吐量、高可用等特点。而谈到消息系统的设计,就回避不了两个问题:
消息的顺序问题
消息的重复问题
RocketMQ作为阿里开源的一款...
分类:
其他好文 时间:
2016-06-29 11:33:12
阅读次数:
375
Jafka 是一个开源的/性能良好的分布式消息系统。在上一篇文章中有所简单介绍。下面是一篇简单的入门文档。更多详细的文档参考wiki。 Step 1: 下载最新的安装包 完整的安装指南在这里。最新的发行版地址在:https://github.com/adyliu/jafka/downloads 可选 ...
分类:
其他好文 时间:
2016-06-08 08:03:58
阅读次数:
918
国内知名互联网公司的开源项目 这里列出的开源内容由网络整理而来。 阿里 阿里的开源项目很多,这也跟@淘宝正明的开源态度密不可分。有很多重量级的项目,例如LVS、Tengine,或者很有实践价值的中间件,例如 MetaQ(分布式消息系统)、dubbo(RPC框架)、cobar(数据库中间件),或者是J ...
分类:
其他好文 时间:
2016-05-13 14:24:28
阅读次数:
236
kafka是一个分布式的,高吞吐量的、信息分片存储,消息同步复制的开源消息服务,它提供了消息系统的功能,但是采用了独特的设计。...
分类:
其他好文 时间:
2016-05-12 22:37:03
阅读次数:
133
摘要
Kafka是由LinkedIn开发并开源的分布式消息系统,因其分布式及高吞吐率而被广泛使用,现已与Cloudera Hadoop,Apache Storm,Apache Spark集成。本文介绍了Kafka的创建背景,设计目标,使用消息系统的优势以及目前流行的消息系统对比。并介绍了Kafka的架构,Producer消息路由,Consumer Group以及由其实现的不同消息分发方式...
分类:
其他好文 时间:
2016-05-12 13:33:19
阅读次数:
285
kafka是一个分布式的,高吞吐量的、信息分片存储,消息同步复制的开源消息服务,它提供了消息系统的功能,但是采用了独特的设计。kafka最初由LinkedIn设计开发,使用Scala语言编写,用作LinkedIn网站的活动流数据和运营数据处理工具,这其中活动流数据是指页面访问量、被查看内..
分类:
其他好文 时间:
2016-05-10 18:58:58
阅读次数:
120