server.properties配置文件参数说明 必配置属性 每个kafka broker中配置文件server.properties默认必须配置的属性如下: broker.id=0 num.network.threads=2 num.io.threads=8 socket.send.buffer ...
分类:
其他好文 时间:
2020-02-10 14:09:03
阅读次数:
115
Kafka是由Apache软件基金会开发的一个高吞吐量的分布式发布订阅消息系统,由Scala和Java编写。官网地址:http://kafka.apache.org 0.基本概念 Broker:Kafka集群包含一个或多个服务器,这种服务器被称为broker。 Topic:每条发布到Kafka集群的 ...
分类:
其他好文 时间:
2020-02-10 13:37:49
阅读次数:
83
"offset" "topic" "consumer group" "consumer" "producer" "producer golang" topic 工具 "https://cwiki.apache.org/confluence/display/KAFKA/Replication+tool ...
分类:
其他好文 时间:
2020-02-09 18:42:32
阅读次数:
243
增加了buffsize,生产者生产过多,wait #include <stdio.h> #include <unistd.h> #include <pthread.h> #define PRODUCER_SIZE 1 #define CONSUMER_SIZE 1 int products = 0; ...
分类:
其他好文 时间:
2020-02-09 16:28:51
阅读次数:
66
rabbitmq在centos 6/7下的安装请参考:https://www.cnblogs.com/zhjh256/p/10469732.html 由于rabbitmq不支持区分消费者组和消费者,因此建议使用kafka。 ...
分类:
编程语言 时间:
2020-02-09 16:26:16
阅读次数:
45
package com.itheima.cglib;import com.itheima.proxy.IProducer;import com.itheima.proxy.Producer;import com.sun.webkit.dom.ProcessingInstructionImpl;imp ...
分类:
其他好文 时间:
2020-02-08 00:44:32
阅读次数:
65
问题导读 Apache Kafka在全球各个领域各大公司获得广泛使用,得益于它强大的功能和不断完善的生态。其中Kafka动态配置是一个比较高频好用的功能,下面我们就来一探究竟。 动态配置是如何设计的? 动态配置优先级是怎样的? Broker初始化是如何读取配置的? 动态配置支持哪些特性功能? 动态配 ...
分类:
其他好文 时间:
2020-02-08 00:05:05
阅读次数:
80
.NET VS工具添加程序包源 在NuGet包管理中选择程序包源为上面添加的私有仓库。 搜索Data.Pipelines并安装。 在app.congif或者web.config中添加Kafka配置 <appSettings> <add key="kafka.ip" value="172.20.105 ...
分类:
Web程序 时间:
2020-02-07 22:23:20
阅读次数:
114
前言 在大量消息的情况下 Kakfa 是如何保证消息的高效及一致性呢? 正好以这个问题结合 Kakfa 的源码讨论下如何正确、高效的发送消息。 内容较多,对源码感兴趣的朋友请系好安全带??(源码基于 v0.10.0.0 版本分析)。同时最好是有一定的 Kafka 使用经验,知晓基本的用法。 简单的消 ...
分类:
其他好文 时间:
2020-02-07 12:40:43
阅读次数:
62
本次记录是用于:SparkStreaming对接Kafka、HBase记录 一、简介 ①HBase本身是一个菲关系型数据库,存储数据结构时以key-value结构来进行存储,HBase中的数据是稀疏的。 ②基于Hadoop运行,但是HBase的效率在秒级别 ③基于列存储:传统行存储方式在查询特定列时 ...
分类:
其他好文 时间:
2020-02-06 16:53:41
阅读次数:
101