大数据日志传输之Kafka实战本套课程围绕Kafka架构详细讲解kafka的核心架构组件,broker,consumer,producer,以及日志的分段存储,稀疏索引,副本平衡,重分区,数据同步,Kafka的核心组控制器和消费者控制器等机制.全面讲解java最新版的api,指定分区消费,流控制,手动commit,异步Callback,同步的按照Partition进行批量commit等.实战集成S
分类:
其他好文 时间:
2018-12-14 17:35:52
阅读次数:
178
1、什么是Redis? Redis本质上是一个Key-Value类型的内存数据库,很像memcached,整个数据库统统加载在内存当中进行操作,定期通过异步操作把数据库数据flush到硬盘上进行保存。因为是纯内存操作,Redis的性能非常出色,每秒可以处理超过 10万次读写操作,是已知性能最快的Ke ...
分类:
其他好文 时间:
2018-12-13 11:23:47
阅读次数:
118
nakadi 是zalando 开源的一款基于kafka 的event broker ,我们可以方便的使用http 协议进行操作 支持一些特性: stream 操作,我们可以流的方式订阅event event 支持基于json schema 我们可以对于event 进行数据校验,方便的schema ...
分类:
Web程序 时间:
2018-12-12 23:52:58
阅读次数:
479
Kafka安装: 下载kafka_2.10-0.8.2.1 1.关闭防火墙 2.修改配置文件 server.properties broker.id=1log.dirs= /usr/kafka_2.10-0.8.2.1/data //最后不要写logzookeeper.connect=master: ...
分类:
其他好文 时间:
2018-12-10 13:54:08
阅读次数:
155
create [-s] [-e] path data acl其中,-s或-e分别指定节点特性,顺序或临时节点,若不指定,则表示持久节点;acl用来进行权限控制。 创建永久节点 create /admin 123 create /broker 123 ...
分类:
其他好文 时间:
2018-12-10 13:53:29
阅读次数:
110
--is_broker_enabled为0未启用,为1启用SELECT name,is_broker_enabled FROM sys.databases WHERE name = 'DBNAME'ALTER DATABASE DbName SET NEW_BROKER WITH ROLLBACK ...
分类:
数据库 时间:
2018-12-09 23:41:12
阅读次数:
311
本教程主要说明kafka0.10.2.1集群的安装;hdp-02,hdp-03,hdp-04是我集群节点的名称,修改配置文件,请根据自身的节点名称进行修改。 基本概念 Broker : 安装Kafka服务的那台集群就是一个broker(broker的id要全局唯一) Producer :消息的生产者 ...
分类:
其他好文 时间:
2018-12-06 22:14:58
阅读次数:
147
参考 http://www.iocoder.cn/categories/RocketMQ/ ; https://www.jianshu.com/nb/16219849 首先上启动方法,分别启动namesrv/broker/procedure/consumer ...
分类:
其他好文 时间:
2018-12-05 20:58:30
阅读次数:
188
alterdatabaserecovermanagedstandbydatabasedisconnectfromsession;开启同步重做日志,(使用归档日志进行同步)管理模式ALTERDATABASERECOVERMANAGEDSTANDBYDATABASEUSINGCURRENTLOGFILEDISCONNECTFROMSESSION;开启同步重做日志,使用在线日志进行同步)管理模式alte
分类:
数据库 时间:
2018-12-03 19:52:55
阅读次数:
287
在配置DG broker之前需要确保Dataguard配置正常且主库和备库均使用spfile.1. 主库配置配置DG_BROKER_START参数检查主库dg_broker_start设置SQL> show parameter dg_broker_start;NAME TYPE VALUE ----... ...
分类:
数据库 时间:
2018-12-02 19:22:58
阅读次数:
236