1. 概述 Kafka是一个分布式、支持分区的、多副本的,基于zookeeper协调的分布式消息系统。 2. Kafka的特性 (1)高吞吐量、低延迟:Kafka每秒可以处理几十万条消息,它的延迟最低只有几毫秒,每个主题topic可以分为多个分区partition,消费者组consumer grou ...
分类:
其他好文 时间:
2020-03-01 19:38:00
阅读次数:
72
序言 主要学习方向 Kafka 分布式消息系统 Redis 缓存数据库 Storm 流式计算 1.Storm 的基本概念 2.Storm 的应用场景 3.Storm 和Hadoop的对比 4.Storm 集群的安装的linux环境准备 5.zookeeper集群搭建 6.Storm 集群搭建 7.S ...
分类:
其他好文 时间:
2020-02-23 11:38:34
阅读次数:
61
kafka 分布式,基于zookeeper协调的分布式消息系统,支持分区(partition)多副本(replica) 每秒10万的吞吐量,零拷贝,不经过内存 端口默认9092 1、消费者 producer 自己决定向哪个partition生产消息,两种机制:hash,轮询 2、partiton 分 ...
分类:
其他好文 时间:
2020-02-21 14:48:16
阅读次数:
76
https://blog.csdn.net/vegetable_bird_001/article/details/51858915 主要优化原理和思路 kafka是一个高吞吐量分布式消息系统,并且提供了持久化。其高性能的有两个重要特点: 利用了磁盘连续读写性能远远高于随机读写的特点; 并发,将一个t ...
分类:
其他好文 时间:
2020-01-28 23:05:24
阅读次数:
84
Pulsar简介 Apache Pulsar是一个企业级的分布式消息系统,最初由Yahoo开发并在2016年开源,目前正在Apache基金会下孵化。Plusar已经在Yahoo的生产环境使用了三年多,主要服务于Mail、Finance、Sports、 Flickr、 the Gemini Ads p ...
分类:
Web程序 时间:
2020-01-16 18:59:56
阅读次数:
101
前言Kafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流式处理引擎,web/nginx日志、访问日志,消息服务等等,用scala语言编写,Linkedi
分类:
其他好文 时间:
2019-12-09 18:50:02
阅读次数:
101
分布式开放消息系统(RocketMQ)的原理与实践 RocketMQ基础:https://github.com/apache/rocketmq/tree/rocketmq-all-4.5.1/docs/cn 分布式消息系统作为实现分布式系统可扩展、可伸缩性的关键组件,需要具有高吞吐量、高可用等特点。 ...
分类:
其他好文 时间:
2019-12-02 17:13:07
阅读次数:
131
Kafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop的批处理系统、低延迟的实时系统、storm/Spark流 ...
分类:
其他好文 时间:
2019-11-11 21:47:16
阅读次数:
85
Kafka Kafka是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica),基于zookeeper协调的分布式消息系统,它的最大的特性就是可以实时的处理大量数据以满足各种需求场景:比如基于hadoop的批处理系统、低延迟的实时系统、storm/ ...
分类:
其他好文 时间:
2019-10-02 01:05:35
阅读次数:
115
kafka是基于构建实时数据管道和数据流的应用。具有实时横向扩展、高吞吐量、支持大量堆积具有容错性和速度快等特点。它是一个高性能分布式消息系统。通常一个分布式流数据平台它具有三个特点: 发布和订阅功能,类似于消息系统 以容错的方式记录流 处理流 OpdenDJ 为企业提供了一个高性能,高可靠性的身份 ...
分类:
其他好文 时间:
2019-09-05 23:09:30
阅读次数:
100