先上几个git地址,明天测试 https://github.com/linkedin/camus https://github.com/voyage-h/kafka-hadoop-consumer https://github.com/voyage-h/kafka-hadoop-consumer...
分类:
其他好文 时间:
2015-08-25 13:04:43
阅读次数:
152
当你编写kafka Producer时, 会生成KeyedMessage对象。 KeyedMessage<K,?V>?keyedMessage?=?new?KeyedMessage<>(topicName,?key,?message) 这里的key值可以为空,在这种情况下, kafka会将这个消息发送到哪...
分类:
其他好文 时间:
2015-08-25 13:03:42
阅读次数:
334
首先对象必须是可序列化的实现Serializable接口这里HashMap为例producer端HashMap<String,String>map=newHashMap<String,String>();
map.put("param1","姓名");
map.put("param2","年龄");
map.put("param3","性别");
ObjectMessagemessage=session.createObjectMe..
分类:
其他好文 时间:
2015-08-21 17:32:20
阅读次数:
541
这个问题是一个经典问题,https://github.com/alibaba/RocketMQ/issues/44? 这个里面也说明了如何去解决。 但是我遇到的问题这里面没有说明。 事情经过是这样的: 我在Producer 配置 对参数:createTopicKey 进行...
分类:
其他好文 时间:
2015-08-20 13:23:15
阅读次数:
14356
ZooKeeper
安装
#将ZooKeeper解压到/usr/local中
tar –zxvf zookeeper-3.4.6.tar.gz –C /usr/local
cd /usr/local
#重命名
sudo mv zookeeper-3.4.6 zookeeper
cd zookeeper/conf
sudo cp zoo_sample.cfg zoo.cfg
配置
...
分类:
其他好文 时间:
2015-08-19 13:35:19
阅读次数:
168
kafka的并行度与JStorm性能优化
> Consumers
Messaging traditionally has two models: queuing and publish-subscribe. In a queue, a pool of consumers may read from a server and each message goes to one of th...
分类:
Web程序 时间:
2015-08-18 01:20:54
阅读次数:
1040
转载自http://blog.chinaunix.net/uid-20196318-id-2420884.htmlKafka[1]是linkedin用于日志处理的分布式消息队列,linkedin的日志数据容量大,但对可靠性要求不高,其日志数据主要包括用户行为(登录、浏览、点击、分享、喜欢)以及系统运...
分类:
其他好文 时间:
2015-08-17 11:44:06
阅读次数:
105
转自:http://blog.csdn.net/honglei915/article/details/37564521原文地址:http://blog.csdn.net/honglei915/article/details/37564521介绍Kafka是一个分布式的、可分区的、可复制的消息系统。它...
分类:
其他好文 时间:
2015-08-16 18:16:02
阅读次数:
110
1.kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据
Step 1: Download the code
Download the
0.8.2.0 release and un-tar it.
> tar -xzf kafka_2.10-0.8.2.0.tgz
> cd kafka_2.10-0.8.2.0
Ste...
分类:
其他好文 时间:
2015-08-16 12:23:45
阅读次数:
179
http://www.aboutyun.com/thread-6855-1-1.html个人观点:大数据我们都知道hadoop,但并不都是hadoop.我们该如何构建大数据库项目。对于离线处理,hadoop还是比较适合的,但是对于实 时性比较强的,数据量比较大的,我们可以采用Storm,那么Stor...
分类:
Web程序 时间:
2015-08-14 11:27:12
阅读次数:
220