两种方法配置Spring项目输出JSON到LogStash或者使用FileBeat收集上传到ELK
分类：
编程语言 时间：
2020-04-02 01:20:53
阅读次数：
79
一、说说前因后果elasticsearch,kafka,zookeeper,kibana,elasticsearch-head,logstash，logstash是需要经常重启的，你上了点过滤规则或者修改点啥的，每次都尼玛杀进程，再nohup，还看不到日志，这太不符合人性了，人性的优点之一就是懒惰。打开web界面，点一下鼠标解决问题岂不是棒棒哒，还能通过web界面看看后台日志，故而用supervi
分类：
其他好文 时间：
2020-04-01 11:08:17
阅读次数：
74
一、日志收集端 1、nginx:nginx-1.16.1.tar.gz 为了kibana收集nginx日志获取字段，先将日志转化为json格式。格式样式如下： log_format access_json '{"@timestamp":"$time_iso8601",' '"host":"$serv ...
分类：
其他好文 时间：
2020-03-31 12:16:39
阅读次数：
95
mysql到es的全量更新方案可以通过 logstash来实现 logstash可以做基于全量的定时更新，也可以做基于时间的定时更新。 logstash的使用方式如下（本人用的是logstash-7.6.1,不同版本在使用上应该有细微区别,区别百度可解决） 1.https://artifacts.e ...
分类：
数据库 时间：
2020-03-29 16:39:49
阅读次数：
262
介绍了document的数据格式，并顺带讲解了一下Elasticsearch集群红黄绿三种状态的判定标准，重点是在kibana平台演示的CRUD小案例和bulk批处理示例，最为基础，可以多花一些时间熟悉熟悉
分类：
其他好文 时间：
2020-03-29 10:28:56
阅读次数：
68
日志系统架构图 软件版本： filebeat 7.5.1 elasticsearch 7.5.1 logstash 7.5.1 kibana 7.5.1 redis 5.0.8 主机： system：Centos 7.7 host IP: 192.168.1.105 安装 elasticsearch ...
分类：
其他好文 时间：
2020-03-27 20:02:51
阅读次数：
93
原理 使用filebeat来上传日志数据，logstash进行日志收集与处理，elasticsearch作为日志存储与搜索引擎，最后使用kibana展现日志的可视化输出。所以不难发现，日志解析主要还是logstash做的事情。 从上图中可以看到，logstash主要包含三大模块： INPUTS: 收 ...
分类：
其他好文 时间：
2020-03-27 11:07:58
阅读次数：
212
elasticsearch 安装 １．国内下载地址： https://mirrors.huaweicloud.com/elasticsearch/ ２．安装步骤： cd elasticsearch 5.4.1 / bin ./elasticsearch kibana 安装 １．下载地址： https ...
分类：
其他好文 时间：
2020-03-26 15:11:01
阅读次数：
91
logstash 是什么。 个人理解。就3个东西 输入input，输出output，过滤转换filter。 其中input可有有多种类型来源：beat网络传入，jdbc数据库查询来源，file来源文件。 什么时候用什么场景用。 因为logstash内存、cpu消耗非常大。所以每个机器上安装它去采集信 ...
分类：
其他好文 时间：
2020-03-26 12:26:47
阅读次数：
88
某天发现项目的kibana网页莫名其妙访问不了了 进入linux系统发现kibana进程没了，于是开始重启，发现重启的极其慢 进入控制台，发现索引报了一个错 Index lifecycle error cluster_block_exception: index [java-error-log-pe ...
分类：
其他好文 时间：
2020-03-23 18:33:57
阅读次数：
151
