0.8的官方文档提供了一个删除topic的命令:kafka-topics.sh--delete但是在运行时会报错找不到这个方法。kafka-topics.sh最终是运行了kafka.admin.TopicCommand这个类,在0.8的源码中这个类中没有找到有deletetopic相关的代码。在kafka的admin包下,提供了一个DeleteTopicComman..
分类:
其他好文 时间:
2014-09-03 02:42:26
阅读次数:
1415
scala支持关联映射,如可以用(key -> value)表示一个键值对 scala中的所有类型都是对象,包括基本数据类型 scala中的case语句用来判断接收的消息,比java中的switch...case...更专注 receive{????case msg =>...
分类:
编程语言 时间:
2014-09-02 20:04:25
阅读次数:
324
Scala语言中的隐式转换是一个十分强大的语言特性,主要可以起到两个作用:一.自动进行某些数据类型的隐式转换 String类型是不能自动转换为Int类型的,所以当给一个Int类型的变量或常量赋予String类型的值时编译器将报错。所以,一下语句是错误的。 valx:Int="100" 如果...
分类:
其他好文 时间:
2014-09-01 17:26:03
阅读次数:
233
如果你需要在Scala或是Java中调用C或C++函数库,就需要使用JNI, 这里就涉及到编译scala ,java 和C(C++)代码,在这里给出一个程序的框架,我们使用sbt 缺省的代码目录文件目录src—>main——–>java——–>scala——–>c其中目录c存放C++代码 ,java目录放置Java代码, scala目录放置Scala代码项目组用来编译的相关文件为build.sbt...
分类:
编程语言 时间:
2014-09-01 12:41:43
阅读次数:
244
The?JVM doesn’t support TCO natively, so tail recursive methods will need to rely on the?Scala compiler performing the optimization.----------"Scala in Depth" 3.5.2 Jvm本身是不支持尾递归优化得,...
分类:
其他好文 时间:
2014-08-29 22:47:58
阅读次数:
368
Spark GraphX宝刀出鞘,图文并茂研习图计算秘笈 ????? 大数据的概念与应用,正随着智能手机、平板电脑的快速流行而日渐普及,大数据中图的并行化处理一直是一个非常热门的话题。图计算正在被广泛地应用于社交...
分类:
其他好文 时间:
2014-08-29 18:37:08
阅读次数:
270
Spark GraphX宝刀出鞘,图文并茂研习图计算秘笈 大数据的概念与应用,正随着智能手机、平板电脑的快速流行而日渐普及,大数据中图的并行化处理一直是一个非常热门的话题。图计算正在被广泛地应用于社交网络、电子商务,地图等领域。对于图计算的两个核心问题:图存储模式和图计算模型,Spark Graph...
分类:
其他好文 时间:
2014-08-29 17:55:48
阅读次数:
338
安装Kafka集群
假设我们有集群中,需要配置4个broker,形成下面图表的Kafka集群。
2.1 配置文件
配置所有的Kafka的Producer文件,其中,brokerpid的值是独一无二的数字值。几个核心属性如下:
# The id of the broker.This must be set to a unique integer for each broke...
分类:
其他好文 时间:
2014-08-29 11:05:47
阅读次数:
293
编程
Producer是一个应用程序,它创建消息并发送它们到Kafka broker中。这些producer在本质上是不同。比如,前端应用程序,后端服务,代理服务,适配器对于潜在的系统,Hadoop对于的Producer。这些不同的Producer能够使用不同的语言实现,比如java、C和Python。下面的这部图表解释了消息producer的Kafka API.
下面将详...
分类:
其他好文 时间:
2014-08-29 11:03:57
阅读次数:
277
Apache Kafka是一个开源、分布式发布订阅消息系统,主要设计了下面这些特性:
l 持久化消息:从大数据中提取真正的数据值,任何类型的数据丢失都不能够再获取。Apache Kafka提供了持续时间存储大容量消息,其容量按顺心可以达到TB。
l 高吞吐量:为大数据而生,Kafka就是运行在商业硬件上而设计的,它支持每秒百万消息量。
l 分布式:A...
分类:
其他好文 时间:
2014-08-29 11:03:47
阅读次数:
235