一、安装相应版本的logstash wget https://artifacts.elastic.co/downloads/beats/logstash/logstash-7.5.2-x86_64.rpm rpm -ivh logstash-7.5.2-x86_64.rpm 二、配置rsyslog接 ...
分类:
其他好文 时间:
2020-12-25 12:34:22
阅读次数:
0
K8s概述 ? 我清晰地记得曾经读到过的一篇博文,上面是这样写的: ? “云端教父AWS云端架构策略副总裁Adrian Cockcroft曾指出,两者虽然都是运用容器技术,但最大的差异是,Docker是要解决应用程序开发(Developing)问题,而Kubernetes是要解决更上层的应用程序运维 ...
分类:
其他好文 时间:
2020-12-25 11:50:50
阅读次数:
0
参考:尚硅谷相关课程 PPThttps://snailclimb.gitee.io/javaguide/#/docs/system-design/distributed-system/message-queue/Kafka%E5%B8%B8%E8%A7%81%E9%9D%A2%E8%AF%95%E9 ...
分类:
其他好文 时间:
2020-12-23 12:22:21
阅读次数:
0
最近项目上因为遇到数据量过大导致查询统计性能问题(oracle数据库、单表每月1亿多条车辆定位记录,由一个windows环境下的链路服务程序来接收车辆上传的定位数据写入oracle),急需使用大数据架构来解决。前期同事已经提出整体解决思路(修改链路服务程序,在写oracle的基础上同时写入kafka ...
ELK ELK是有Elastic(https://www.elastic.co/cn/)公司的三个组件配合进行日志收集,分别是: ElasticSearch:用于存储日志信息。 Logstash:用于收集、处理和转发日志信息。 Kibana:提供可搜索的Web可视化界面。 上面3个组件的关系,项目日 ...
分类:
编程语言 时间:
2020-12-22 12:09:59
阅读次数:
0
kafka安装机器初始化参考ES安装,安装java,关闭防火墙,selinux等安装zookeeperyuminstall-ywgetwgethttps://downloads.apache.org/kafka/2.6.0/kafka_2.13-2.6.0.tgz#下载zookeepermkdir/usr/share/kafkatarzxvfkafka_2.13-2.6.0.tgz-C/usr/s
分类:
其他好文 时间:
2020-12-22 11:49:19
阅读次数:
0
搭建kafka集群 一.要先搭建zookeeper集群 搭建伪集群来熟悉搭建步骤,也就是采用一台电脑和多台电脑的区别。 1.步骤 下载 zookeeper下载:https://downloads.apache.org/zookeeper/ 这里选用的是 我这里下载的是zookeeper-3.5.7, ...
建议在用Scala编写相关功能实现时,边学习、边应用、边摸索以加深对Scala的理解和应用 ...
分类:
其他好文 时间:
2020-12-21 11:32:22
阅读次数:
0
Scala是以JVM为运行环境的面向对象的函数式编程语言,它可以直接访问Java类库并且与Java框架进行交互操作 ...
分类:
其他好文 时间:
2020-12-19 13:14:39
阅读次数:
1
https://www.cnblogs.com/importbigdata/p/10765558.html 1.kfkstreaming只能接kfk,而sparkstreaming比较通用 2.两种读取方法:1.director 效率高 2.receiver 3.写入方法:包装成可序列化类,再广播到 ...
分类:
其他好文 时间:
2020-12-19 13:02:39
阅读次数:
2