转载:http://blog.csdn.net/odailidong/article/details/52571901 这是许多kafka使用者经常会问到的一个问题。本文的目的是介绍与本问题相关的一些重要决策因素,并提供一些简单的计算公式。 文章目录 1 越多的分区可以提供更高的吞吐量 2 越多的分 ...
分类:
其他好文 时间:
2016-11-15 20:04:02
阅读次数:
241
首先确认下环境变量配置是否成功。 如果配置成功《javac,javah》都没有问题,那就有可能是你安装了两个版本的jdk导致的,都卸载了,然后换一个目录按照一个jdk 在配置环境变量试下! ...
分类:
其他好文 时间:
2016-11-15 17:24:04
阅读次数:
184
kafka是一种分布式的,基于发布订阅的消息系统。具有以下几个方面的特性。 1.能够提供常数时间的消息持久化及访问性能。 2.高吞吐率。廉价的商用机器上能够达到每秒100k条的消息传输。 3.支持kafka server间的消息消息分区,分布式消费,分区内消息的顺序性。 4.支持水平扩展。 5.支持 ...
分类:
其他好文 时间:
2016-11-14 07:45:11
阅读次数:
235
Kafka深度解析 原创文章,转载请务必将下面这段话置于文章开头处(保留超链接)。本文转发自Jason’s Blog,原文链接 http://www.jasongj.com/2015/01/02/Kafka深度解析 背景介绍 Kafka简介 Kafka是一种分布式的,基于发布/订阅的消息系统。主要设 ...
分类:
其他好文 时间:
2016-11-14 01:22:56
阅读次数:
267
本位以最新版本kafka_2.11-0.10.1.0版本讲述分布式kafka集群环境的搭建过程。服务器列表: 1.下载kafka安装包 登录kafka官网http://kafka.apache.org/, 单击左侧“Download”按钮 选择对应的版本,版本2.11代表scala版本(kafka是 ...
分类:
其他好文 时间:
2016-11-13 19:46:00
阅读次数:
483
Kakfa分布式集群搭建 本位以最新版本kafka_2.11-0.10.1.0版本讲述分布式kafka集群环境的搭建过程。服务器列表: 1 2 3 172.31.10.1 172.31.10.2 172.31.10.3 1 2 3 172.31.10.1 172.31.10.2 172.31.10. ...
分类:
其他好文 时间:
2016-11-13 19:10:32
阅读次数:
312
Kafka简介 Kafka简介 转载请注明出处:http://www.cnblogs.com/BYRans/ Apache Kafka发源于LinkedIn,于2011年成为Apache的孵化项目,随后于2012年成为Apache的主要项目之一。Kafka使用Scala和Java进行编写。Apach ...
分类:
其他好文 时间:
2016-11-13 18:57:44
阅读次数:
250
之前写了一篇文章关于Active以及消息队列推拉模式的文章,可以参考:link 关于 Active 与 RabbitMQ以及其他的比较,有如下记录: 这篇文章 link 提到: 基本介绍RabbitMQ:基于AMQP协议(Advanced Message Queue Protocol)ActiveM ...
分类:
其他好文 时间:
2016-11-13 16:41:02
阅读次数:
395
SparkStreaming性能调优大全!一、日志已满:spark.executor.logs.rolling.maxSize下面三个日志rolling参数记得设置:spark.executor.logs.rolling.strategysizespark.executor.logs.rolling.maxSize134217728#defaultbytespark.executor.logs.rolling.maxRetainedFiles二、Spa..
分类:
其他好文 时间:
2016-11-12 02:41:38
阅读次数:
347
1、为什么要有Kafka? [出自 Hrq] Kafka是一个消息系统, 原本开发自LinkedIn,用作LinkedIn的活动流(activity stream)和运营数据处理管道(pipeline)的基础。现在主要用作数据管道(data pipeline)和消息系统 Kafka出现的原因: l ...
分类:
其他好文 时间:
2016-11-10 21:29:55
阅读次数:
223