码迷,mamicode.com
首页 >  
搜索关键字:kafka producer    ( 4768个结果
Apche Kafka 的生与死 – failover 机制详解
转自:http://www.cnblogs.com/fxjwind/p/4972244.html Kafka 作为 high throughput 的消息中间件,以其性能,简单和稳定性,成为当前实时流处理框架中的主流的基础组件。 当然在使用 Kafka 中也碰到不少问题,尤其是 failover 的
分类:其他好文   时间:2016-03-18 17:32:09    阅读次数:301
Kafka设计解析(三)- Kafka High Availability (下)
本文转发自Jason’s Blog,原文链接 http://www.jasongj.com/2015/06/08/KafkaColumn3 本文在上篇文章基础上,更加深入讲解了Kafka的HA机制,主要阐述了HA相关各种场景,如Broker failover,Controller failover,
分类:其他好文   时间:2016-03-17 21:22:40    阅读次数:302
kafka的环境搭建
kafka是一个高吞吐量的消息系统。隔离消息接收和处理过程(可理解为一个缓存) *发布和订阅通过zk实现,kafka设计就使用了zk     broker.id 唯一,数字 host.name 唯一,填服务器 zookeeper.connect=hadoop110:2181,hadoop111:21
分类:其他好文   时间:2016-03-15 06:20:04    阅读次数:139
Kafka深度解析(如何在producer中指定partition)(转)
Kafka是一种分布式的,基于发布/订阅的消息系统。主要设计目标如下: 解耦在项目启动之初来预测将来项目会碰到什么需求,是极其困难的。消息队列在处理过程中间插入了一个隐含的、基于数据的接口层,两边的处理过程都要实现这一接口。这允许你独立的扩展或修改两边的处理过程,只要确保它们遵守同样的接口约束 冗余
分类:其他好文   时间:2016-03-14 11:52:13    阅读次数:239
Kafka学习笔记
一、Kafka使用背景 1. Kafka的定义 是一个分布式消息系统,由LinkedIn使用Scala编写,用作LinkedIn的活动流(Activity Stream)和运营数据处理管道(Pipeline)的基础,具有高水平和高吞吐量。 2. ActiveMQ、RabbitMQ、Kafka   二
分类:其他好文   时间:2016-03-14 01:38:09    阅读次数:130
java实时监听日志写入kafka(转)
原文链接:http://www.sjsjw.com/kf_cloud/article/020376ABA013802.asp 目的 实时监听某目录下的日志文件,如有新文件切换到新文件,并同步写入kafka,同时记录日志文件的行位置,以应对进程异常退出,能从上次的文件位置开始读取(考虑到效率,这里是每
分类:编程语言   时间:2016-03-11 16:57:19    阅读次数:200
kafka集群扩容以及数据迁移
一 kafka集群扩容比较简单,机器配置一样的前提下只需要把配置文件里的brokerid改一个新的启动起来就可以。比较需要注意的是如果公司内网dns更改的不是很及时的话,需要给原有的旧机器加上新服务器的host,不然可能会产生controller服务器从zk上拿到域名但是解析不到新机器地址的情况。
分类:其他好文   时间:2016-03-10 18:39:15    阅读次数:167
关键字
1. hadoop、hbase、hive、spark、strom、mapreduce、mahout、zookeeper. 2.redis、dubbo、mongodb、memcache、kafka、sqoop. 3. autofac、unity、xunit. 4.serfj restlet httpc
分类:其他好文   时间:2016-03-09 23:48:33    阅读次数:171
Kafka消息的可靠性测试--针对直播业务的方案选择
转自:http://blog.csdn.net/bailove/article/details/44240303 业务场景 来疯直播互动平台,每天有数百万人上下线,有数十万人同时参与互动直播聊天。用户的登陆、退出及用户间的各种交互行为如聊天、送礼、关注、投票、抢沙发等等事件都会产生大量的消息。这些消
分类:其他好文   时间:2016-03-09 19:01:47    阅读次数:199
kafka单节点部署无法访问问题解决
场景:在笔记本安装了一台虚拟机, 在本地的虚拟机上部署了一个kafka服务: 写了一个测试程序,在笔记本上运行测试程序,访问虚拟机上的kafka,报如下异常: 2015-01-15 09:33:26 [kafka.producer.async.DefaultEventHandler]-[INFO]
分类:其他好文   时间:2016-03-09 17:43:48    阅读次数:329
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!