一.入门 1.1 简介 Kafka is a distributed, partitioned, replicatedcommit log service. 它提供了类似于JMS的特性,但是在设计实现上完全不同,此外它并不是JMS规范的实现. kafka对消息保存时根据Topic进行归类,发送...
分类:
其他好文 时间:
2014-12-08 19:27:43
阅读次数:
229
1?Kafka操作日志的删除方法 Kafka0.8版本长时间运行过程中,在kafka_2.8.0-0.8.0/logs目录下产生了大量的kafka-request.log.*和server.log.*文件,其中*代表日期和时间,比如kafka-request.log.2014-12-08-03和s...
分类:
其他好文 时间:
2014-12-08 12:37:43
阅读次数:
308
出自:http://my.oschina.net/jinp/blog/350293一些常用命令:storm相关:storm nimbus >/dev/null 2>&1 &storm supervisor >/dev/null 2>&1 &storm ui >/dev/null 2>&1 &关闭st...
分类:
Web程序 时间:
2014-12-08 00:45:15
阅读次数:
346
主要的核心类如下:KafkaServer:根据相关的上下文,创建KafkaServer对象,负责启动broker对象启动过程zkClient初始化=>logManagerstart()=>socketServer
start()=>requestHandlerPool初始化=>replicaManagerstart()=>
kafkaControllerstart()=>topicConfigMa..
分类:
其他好文 时间:
2014-12-03 14:27:44
阅读次数:
208
主要的核心类如下:controller:根据相关的上下文,创建KafkaController对象,引入多个监听器监听broker,topic,partition以及副本的状态变化。ZookeeperLeaderElector:主要负责选举当前broker为lead的过程,同时,如果出现异常情况转移lead选举权。ReplicaStateMachine:主要..
分类:
其他好文 时间:
2014-12-02 12:02:38
阅读次数:
225
akka 并发编程框架
kafka 高吞吐量分布式消息系统
akka 是一个用 Scala 编写的库,用于简化编写容错的、高可伸缩性的 Java 和 Scala 的 Actor 模型应用。
Actor模型并非什么新鲜事物,它由Carl Hewitt于上世纪70年代早期提出,目的是为了解决分布式编程中一系列的编程问题。其特点如下:
...
分类:
其他好文 时间:
2014-12-01 17:37:20
阅读次数:
343
broker.id整数,建议根据ip区分 log.dirskafka存放消息文件的路径,默认/tmp/kafka-logsportbroker用于接收producer消息的端口 zookeeper.connnectzookeeper连接格式为 ip1:port,ip2:port,ip3:portme...
分类:
其他好文 时间:
2014-11-23 14:25:35
阅读次数:
210
http://blog.csdn.net/weijonathan/article/details/18301321一直以来都想接触Storm实时计算这块的东西,最近在群里看到上海一哥们罗宝写的Flume+Kafka+Storm的实时日志流系统的搭建文档,自己也跟着整了一遍,之前罗宝的文章中有一些要注...
分类:
Web程序 时间:
2014-11-19 10:32:28
阅读次数:
345