依旧和大家一起看一下官网的内容:
http://flume.apache.org/
·增加了apache kafka的sink和source两大组件
·增加了一个新的channel——kafka channel
·增加了hive的sink组件,需要hive streaming的支持
·端到端的认证
·简单的正则搜索和替换的拦截器
开始体验吧!...
分类:
Web程序 时间:
2015-06-16 19:18:23
阅读次数:
190
一、 JNI基础介绍
JNI is the Java Native Interface. It defines a way for managed code (written in the Java programming language) to interact with native code (written in C/C++).
JNI(Java本地接口):定义一种方式,使得Ja...
分类:
移动开发 时间:
2015-06-16 16:54:48
阅读次数:
127
Kafka为broker,producer和consumer提供了很多的配置参数。 了解并理解这些配置参数对于我们使用kafka是非常重要的。本文列出了一些重要的配置参数。官方的文档Configuration比较老了,很多参数有所变动, 有些名字也有所改变。我在整理的过程中根据0.8.2的代码也做了...
分类:
其他好文 时间:
2015-06-13 20:09:26
阅读次数:
113
apache kafka区QQ群:1622725571.依赖包 org.apache.kafka kafka_2.10 0.8.1 2.producer程序开发样例2.1 producer參数说明#指定kafka节点列表。用于获取metadata,不必所有...
分类:
编程语言 时间:
2015-06-13 11:13:23
阅读次数:
171
基础介绍异步消息处理线程是指,线程在启动后会进入一个无线循环体中,没循环一次,从内部的消息队列中取出一个一个消息,并回调相应的消息处理函数,执行完一个消息后则继续循环。如果消息队列为空,线程会暂停,知道消息队列中有新的消息。异步消息处理线程本质上仍然是一个线程,只不过这种线程的执行代码设置成如上所述...
分类:
移动开发 时间:
2015-06-12 17:01:11
阅读次数:
287
本文着重介绍几个常用的topic命令行命令,包括listTopic,createTopic,deleteTopic和describeTopic等。由于alterTopic并不是很常用,本文中就不涉及了。另外本文的代码分析是基于kafka_2.10-0.8.2.1的(虽然截图是Kafka 0.8.1的...
分类:
其他好文 时间:
2015-06-12 13:15:56
阅读次数:
121
回答几个网友提出的问题,不清楚的可以看上一篇内容。
1、
kafka的删除策略应该怎么配置?为了提升性能,我是不是应该1小时删除一次消费过的数据。
完全可以根据磁盘大小配置,只要磁盘足够用,完全没必要删除的那么着急。Kafka的吞吐量不会因为数据量的增长而降低。因为读写数据时,kafka完全是顺序的,只记录offset,时间复杂度是O(1),我曾经测试过上T的数据,完全不受影响。反倒是数...
分类:
其他好文 时间:
2015-06-12 10:11:11
阅读次数:
112
admin包定义了命令行的一些实现一、AdminOperationException.scala一个异常类,表示执行admin命令时候抛出的异常二、AdminUtils.scalaadmin一些常用工具方法:1. assignReplicasToBrokers:负责分配副本到不同的broker上。主...
分类:
其他好文 时间:
2015-06-11 16:20:59
阅读次数:
123
《Linux iptables:规则原理和基础》介绍了iptables的四表五链,简单说就是不同的网络层数据包会经过哪几个挂载点,在每个挂载点可以在哪张表进行规则定义。本篇沿着这个思路,更具体的介绍一条iptables规则的组成。Linux iptables:规则组成这是iptables一条规则的基...
分类:
系统相关 时间:
2015-06-10 20:55:18
阅读次数:
143
来自:http://blog.csdn.net/beitiandijun/article/details/40582541来源:http://kafka.apache.org/documentation.html#configuration3. ConfigurationKafka在配置文件中使.....
分类:
其他好文 时间:
2015-06-10 20:44:09
阅读次数:
192