Linux下查看某一个进程所占用的内存,首先可以通过ps命令找到进程id,比如 ps -ef | grep kafka 可以看到kafka这个程序的进程id 可以看到是2913,现在可以使用如下命令查看内存: 这样可以动态实时的看到CPU和内存的占用率,然后按q键回到命令行 也可直接使用ps命令查看 ...
分类:
系统相关 时间:
2016-04-19 11:46:39
阅读次数:
233
Kafka 协议实现中的内存优化 Kafka 协议实现中的内存优化 Jusfr 原创,转载请注明来自博客园 Request 与 Response 的响应格式 Request 与 Response 都是以 长度+内容 形式描述, 见于 A Guide To The Kafka Protocol Req ...
分类:
其他好文 时间:
2016-04-19 10:15:29
阅读次数:
155
参考:http://www.infoq.com/cn/articles/apache-kafka?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=global 存储分布式(用zookeeper协调); kafk ...
分类:
其他好文 时间:
2016-04-18 20:40:59
阅读次数:
121
Kafka 高性能吞吐揭秘 Kafka作为时下最流行的开源消息系统,被广泛地应用在数据缓冲、异步通信、汇集日志、系统解耦等方面。相比较于RocketMQ等其他常见消息系统,Kafka在保障了大部分功能特性的同时,还提供了超一流的读写性能。本文将针对Kafka性能方面进行简单分析,首先简单介绍一下Ka ...
分类:
其他好文 时间:
2016-04-18 18:51:06
阅读次数:
347
原文档地址:http://kafka.apache.org/documentation.html############################# System ##############################唯一标识在集群中的ID,要求是正数。broker.id=0#服务端口,... ...
分类:
其他好文 时间:
2016-04-18 15:36:53
阅读次数:
145
消息通信组件Net分布式系统的核心中间件之一,应用与系统高并发,各个组件之间解耦的依赖的场景。本框架采用消息队列中间件主要应用于两方面:一是解决部分高并发的业务处理;二是通过消息队列传输系统日志。目前业界使用较多的消息队列组件有RabbitMQ、ActiveMQ、MSMQ、kafka、zeroMQ等 ...
分类:
Web程序 时间:
2016-04-17 20:48:31
阅读次数:
369
broker的配置文件位于kafka的config/server.properties文件。Broker基本配置broker.id:代理Id,必须是唯一的整数。可以是0,1,2,3这样的自定义编号,也可以是IP地址的最后一位,如23,24,25,建议使用后面的编码方式。auto.leader.rebalance.enable:是否允许leader节点自..
分类:
其他好文 时间:
2016-04-17 18:03:56
阅读次数:
649
部署Flume在Window环境中,Kafka部署在Linux上,从Flume发送事件到Kafka始终有一下错误,经过长时间在网上搜索终于把问题解决,修改kafka中配置项,#advertised.host.name=<hostnameroutablebyclients>注释去掉,并配置上kafka所在linux的ip地址advertised.host.name=192..
分类:
其他好文 时间:
2016-04-16 19:37:08
阅读次数:
2479
Kafka是分布式发布-订阅消息系统。它最初由LinkedIn公司开发,之后成为Apache项目的一部分。Kafka是一个分布式的,可划分的,冗余备份的持久性的日志服务。它主要用于处理活跃的流式数据。
在大数据系统中,常常会碰到一个问题,整个大数据是由各个子系统组成,数据需要在各个子系统中高性能,低延迟的不停流转。传统的企业消息系统并不是非常适合大规模的数据处理。为了已在同时搞定在线应用(消息)...
分类:
其他好文 时间:
2016-04-16 19:20:26
阅读次数:
488
消息队列
消息队列技术是分布式应用间交换信息的一种技术。消息队列可驻留在内存或磁盘上, 队列存储消息直到它们被应用程序读走。通过消息队列,应用程序可独立地执行--它们不需要知道彼此的位置、或在继续执行前不需要等待接收程序接收此消息。在分布式计算环境中,为了集成分布式应用,开发者需要对异构网络环境下的分布式应用提供有效的通信手段。为了管理需要共享的信息,对应用提供公共的信息交换机制是重要的。常...
分类:
其他好文 时间:
2016-04-16 19:04:26
阅读次数:
250