一、日志收集端 1、nginx:nginx-1.16.1.tar.gz 为了kibana收集nginx日志获取字段，先将日志转化为json格式。格式样式如下： log_format access_json '{"@timestamp":"$time_iso8601",' '"host":"$serv ...
分类：
其他好文 时间：
2020-03-31 12:16:39
阅读次数：
95
mysql到es的全量更新方案可以通过 logstash来实现 logstash可以做基于全量的定时更新，也可以做基于时间的定时更新。 logstash的使用方式如下（本人用的是logstash-7.6.1,不同版本在使用上应该有细微区别,区别百度可解决） 1.https://artifacts.e ...
分类：
数据库 时间：
2020-03-29 16:39:49
阅读次数：
262
日志系统架构图 软件版本： filebeat 7.5.1 elasticsearch 7.5.1 logstash 7.5.1 kibana 7.5.1 redis 5.0.8 主机： system：Centos 7.7 host IP: 192.168.1.105 安装 elasticsearch ...
分类：
其他好文 时间：
2020-03-27 20:02:51
阅读次数：
93
原理 使用filebeat来上传日志数据，logstash进行日志收集与处理，elasticsearch作为日志存储与搜索引擎，最后使用kibana展现日志的可视化输出。所以不难发现，日志解析主要还是logstash做的事情。 从上图中可以看到，logstash主要包含三大模块： INPUTS: 收 ...
分类：
其他好文 时间：
2020-03-27 11:07:58
阅读次数：
212
logstash 是什么。 个人理解。就3个东西 输入input，输出output，过滤转换filter。 其中input可有有多种类型来源：beat网络传入，jdbc数据库查询来源，file来源文件。 什么时候用什么场景用。 因为logstash内存、cpu消耗非常大。所以每个机器上安装它去采集信 ...
分类：
其他好文 时间：
2020-03-26 12:26:47
阅读次数：
88
1、代码管理-->主要开源方案有gitlab、gerrit+repo、gogs 2、任务执行-->jenkins 3、自动化测试-->python 4、构件存储-->hdfs、nexus 5、日志管理-->ELK 6、部署工具-->ansible 7、系统集群高可用-->k8s 8、监控-->zab ...
分类：
其他好文 时间：
2020-03-26 01:39:44
阅读次数：
193
有时候我们需要监控一些网络上的变化，但是每次去刷新网页却又很麻烦，而且大部分刷新的时候网页并没有更新。那么有没有一个工具，可以监控网页变化，并将变化的结果推送到手机微信上呢？ 这里有很多应用场景，比如前一段时间很火的工具来监控JD、TB等口罩是否有货的状态、还有就是刷票、抢课、监听网页便也变化、爬虫 ...
分类：
微信 时间：
2020-03-24 14:34:19
阅读次数：
120
一、logstash结合kafka收集系统日志和nginx日志 架构图： 环境准备： A主机：kibana、elasticsearch，有条件可以将两个服务器分开：192.168.7.100 B主机：logstash主机:192.168.7.101/nginx服务器也在此主机上 C主机：logsta ...
分类：
其他好文 时间：
2020-03-23 09:48:02
阅读次数：
54
一、zookeeper介绍： ZooKeeper是一个分布式且开源的分布式应用程序协调服务。 zookeeper集群特性：整个集群种只要有超过集群数量一半的zookeeper工作只正常的，那么整个集群对外就是可用的，假如有2台服务器做了一个zookeeper集群，只要有任何一台故障或宕机，那么这个z ...
分类：
其他好文 时间：
2020-03-23 09:36:42
阅读次数：
73
