NimbusServer相当于hadoop里的JobTracker或yarn里的ResourceManager,在集群中属于首脑地位,负责分发任务,监控集群状态,与supervisor的通信主要通过Zookeeper。nimbus在启动过程中会做以下工作,以保证集群稳定运行:
1、清理无效topology
2、建立zk连接并创建相应znode
3、启动监控线程
4、启动httpserver...
分类:
Web程序 时间:
2015-01-13 15:58:30
阅读次数:
403
Kafkais a distributed publish-subscribe messaging system. It was originally developed at LinkedIn and became an Apache project in July, 2011. Today,Ka...
分类:
Web程序 时间:
2015-01-10 23:42:50
阅读次数:
367
官方地址:http://spring.io/blog/2014/12/23/spring-xd-1-1-m2-and-1-0-3-releasedOn behalf of the Spring XD team, I am very pleased to announce the second mil...
分类:
编程语言 时间:
2015-01-10 23:41:40
阅读次数:
340
1. Add Partition ToolPartitions act as unit of parallelism. Messages of a single topic are distributed to multiple partitions that can be stored and s...
分类:
其他好文 时间:
2015-01-10 23:37:04
阅读次数:
440
apache kafka中国社区QQ群:162272557apache kafka参考http://kafka.apache.org/documentation.html消息队列分类: 点对点:消息生产者生产消息发送到queue中,然后消息消费者从queue中取出并且消费消息。这里要注意:消息被消费...
分类:
Web程序 时间:
2015-01-09 12:30:22
阅读次数:
184
不要把第三方jar包放到容器的lib中,把容器不提供的第三方jar打包到项目中,容器提供的jar就不打包到jar包中。项目运行时,会先检测项目本身打入的jar包,然后再去容器的lib下面寻找jar包。 为什么不建议把第三方...
分类:
编程语言 时间:
2015-01-08 20:17:56
阅读次数:
354
apache kafka在数据处理中特别是日志和消息的处理上会有很多出色的表现,这里写个索引,关于kafka的文章暂时就更新到这里,最近利用空闲时间在对 kafka做一些功能性增强,并java化,虽然现在已经有很多这样的版本,但是根据实际需求来改变才是最适合的。首先当然推荐的是kafka的官网htt...
分类:
其他好文 时间:
2015-01-08 17:19:59
阅读次数:
119
如果你要利用代码来跑kafka的应用,那你最好先把官网给出的example先在单机环境和分布式环境下跑通,然后再逐步将原有的consumer、producer和broker替换成自己写的代码。所以在阅读这篇文章前你需要具备以下前提:1.简单了解kafka功能,理解kafka的分布式原理2.能在分布式...
分类:
其他好文 时间:
2015-01-08 17:16:27
阅读次数:
191
这篇文章将介绍如何搭建kafka环境,我们会从单机版开始,然后逐渐往分布式扩展。单机版的搭建官网上就有,比较容易实现,这里我就简单介绍下即可,而分布式的搭建官网却没有描述,我们最终的目的还是用分布式来解决问题,所以这部分会是重点。Kafka的中文文档并不多,所以我们尽量详细点儿写。要交会你搭建分布式...
分类:
其他好文 时间:
2015-01-08 17:12:08
阅读次数:
169
如果你第一次看kafka的文章,请先看《分布式消息系统kafka初步》之前有人问kafka和一般的MQ之间的区别,这个问题挺难回答,我觉得不如从kafka的实现原理来分析更为透彻,这篇将依据官网上给出的design来详细的分析,kafka是如何实现其高性能、高吞吐的。这一段应该会挺长的我想分两篇来写...
分类:
其他好文 时间:
2015-01-08 16:53:57
阅读次数:
226