zookeeper依赖于java https://baike.baidu.com/item/yum/2835771?fr=aladdin http://yum.baseurl.org/ 去yum官网下载yum, 因为apt-get install 下载不到 update也不行 错误 yum基于pyt ...
分类:
其他好文 时间:
2020-02-27 18:53:24
阅读次数:
52
http://kafka.apache.org/ 国际网站 发布与订阅,处理,存储 http://kafka.apachecn.org/ 中文网站 中文网站中点击[发布与订阅]进去是错误的貌似,因为两个依赖都是clients 而我查了下maven repository站,里面是真的有producer ...
分类:
其他好文 时间:
2020-02-27 14:38:58
阅读次数:
73
1、消息中间件1、简介消息中间件也可以称消息队列,是指用高效可靠的消息传递机制进行与平台无关的数据交流,并基于数据通信来进行分布式系统的集成。通过提供消息传递和消息队列模型,可以在分布式环境下扩展进程的通信。当下主流的消息中间件有RabbitMQ、Kafka、ActiveMQ、RocketMQ等。其能在不同平台之间进行通信,常用来屏蔽各种平台协议之间的特性,实现应用程序之间的协同。优点在于能够在客
分类:
其他好文 时间:
2020-02-26 22:36:44
阅读次数:
70
前几天对接的同事因为没有时间,所以整个上传文件的流程除了对接接口这块,其它的我先开发完成了。今天对接接口,同事说使用接口传输,数据处理时间大约需要7、8s,接口回应时间太长了。然后我提出了异步对接的思路:使用kafka进行传输。 方案1为之前接口传输的方案,方案2为新的异步传输的模式。 方案1:接口 ...
分类:
Web程序 时间:
2020-02-26 20:35:51
阅读次数:
115
Resetting first dirty ofset to log start offset 2971862 since the checkpointed offset 12675089 is invalid reruirement failed 11302544 messages in segm ...
分类:
其他好文 时间:
2020-02-26 19:00:17
阅读次数:
129
功能远超Sqoop、DataX、Flume、Logatash、Filebeat等采集工具 注:由于文章篇幅有限,完整文档可扫免费获取 深知其他组件的局限性,才能彰显DBus的优越感 当前有很多数据采集工具(Sqoop、DataX、Flume、Logatash、Filebeat等),他们或多或少都存在 ...
分类:
数据库 时间:
2020-02-25 19:43:18
阅读次数:
115
面试时间:2019年6月 深信服的效率是很快的,前一天晚上5点钟通知笔试,在7点就要进行笔试,9点笔试完11点钟通知第二天中午11点面试 所以我做完也没有来得及有所准备,就得去面试了 面经如下: 1.namenode和secondarynamenode的工作机制 2.谈谈对flume的理解, flu ...
分类:
其他好文 时间:
2020-02-24 20:59:36
阅读次数:
89
项目总结57:使用阿里云性能测试-电商系统并发测试 第一步:部署测试环境 1-单独部署测试服务,是为了尽量不影响正式环境,并尽量保证硬件和软件上,测试环境和正式环境一致 2-目前一共4台服务器:一台阿里云SLB服务器,一台RDS数据库服务器,两台ECS服务器(tomcat、redis、kafka,m ...
分类:
其他好文 时间:
2020-02-24 15:20:54
阅读次数:
119
综上所述,各种对比之后,我个人倾向于是: 一般的业务系统要引入MQ,最早大家都用ActiveMQ,但是现在确实大家用的不多了,没经过大规模吞吐量场景的验证,社区也不是很活跃,所以大家还是算了吧,我个人不推荐用这个了; 后来大家开始用RabbitMQ,但是确实erlang语言阻止了大量的java工程师 ...
分类:
其他好文 时间:
2020-02-23 20:01:10
阅读次数:
69
能与原理介绍在Kafka官网中这么描述AdminClient:The AdminClient API supports managing and inspecting topics, brokers, acls, and other Kafka objects. 具体的KafkaAdminClien... ...
分类:
编程语言 时间:
2020-02-23 16:36:20
阅读次数:
446