ELK是对Elasticsearch、Logstash、Kibana整合平台的简称。在日常的运维工作中，要实时监控服务器的业务、系统和硬件状态，除了使用监控之外，还需要搜集大量的日志来进行分析。但是在面对海量的服务器和集群时，通过单台登录查询的方式显然是不可能的，对于不同时间段和集群日..
分类：
其他好文 时间：
2016-12-30 14:30:55
阅读次数：
379
一、rsyslog 介绍 ryslog 是一个快速处理收集系统日志的程序，提供了高性能、安全功能和模块化设计。rsyslog 是syslog 的升级版，它将多种来源输入输出转换结果到目的地，据官网介绍，现在可以处理100万条信息。 特性：1.多线程 2.支持加密协议：ssl，tls，relp 3.m ...
分类：
系统相关 时间：
2016-12-28 14:56:05
阅读次数：
1260
我们用ELK做日志分析系统，Elasticsearch1.7.3运行了近一年，最近已经将一个集群升级到ES5.1.1，但是遇到问题比较多。所以将另一个集群升级到社区推荐比较稳定的2.4.2。为了便于升级管理，操作都是用ansible来统一执行。一：停止monit守护进程#集群的所有logstash、es进程都是..
分类：
其他好文 时间：
2016-12-26 19:22:50
阅读次数：
342
ELK是一个日志分析和统计框架，是Elasticsearch、Logstash和Kibana三个核心开源组件的首字母缩写，实践中还需要filebeat、redis配合完成日志的搜集。 组件一览 名称 版本 说明 Elasticsearch 2.3 分布式搜索引擎，存储和搜索日志 Logstash 2 ...
分类：
其他好文 时间：
2016-12-23 18:36:09
阅读次数：
164
在logstash的输出中，每行开头都会加上timestamp因此，对于mysqlslowlog和javalog
多行输出格式，就显得画蛇添足了；不过，logstash提供了multiline功能
filter{
#如果是以#Time开头的就开始新一行
if[type]==‘slowlog‘{
multiline{
what=>next
pattern=>"^#Time:"
#如..
分类：
数据库 时间：
2016-12-22 20:41:34
阅读次数：
213
生产环境日志审计解决方案 所谓的日志审计，就是记录所有系统及相关的用户行为，并且可以自动分析、处理、展示（包括文本或者录像） 1) :通过环境变量以及rsyslog服务进行全部日志审计（信息太大，不推荐） 2) sudo配置rsyslog服务，进行日志审计（信息较少，效果不错） 3) 在bash解释 ...
分类：
系统相关 时间：
2016-12-22 13:52:36
阅读次数：
396
elastic使用lucene建立索引的步骤中，需要文件系统缓存需要同步到磁盘上。（多个segment->commit文件来维护） 当建立历史数据时，并不要求太高的实时性时，可以减小（默认1s）自动刷新时间。 curl -XPOST http://127.0.0.1:9300/logstash-20 ...
分类：
其他好文 时间：
2016-12-20 11:49:42
阅读次数：
162
新版插件:说明:从5.0开始,插件都独立拆分成gem包,每个插件可独立更新,无需等待Logstash自身整体更新,具体管理命令可参考./bin/logstash-plugin--help帮助信息../bin/logstash-pluginlist其实所有的插件就位于本地./vendor/bundle/jruby/1.9/gems/目录下扩展:如果GitHub上面(htt..
分类：
其他好文 时间：
2016-12-19 22:20:18
阅读次数：
284
新版插件:说明:从5.0开始,插件都独立拆分成gem包,每个插件可独立更新,无需等待Logstash自身整体更新,具体管理命令可参考./bin/logstash-plugin--help帮助信息../bin/logstash-pluginlist其实所有的插件就位于本地./vendor/bundle/jruby/1.9/gems/目录下扩展:如果GitHub上面(htt..
分类：
其他好文 时间：
2016-12-19 22:19:52
阅读次数：
393
我们通过Logstash收集的Nginx Access log中已经包含了客户端IP的数据（remote_addr），但是只有这个IP还不够，要在Kibana的显示请求来源的地理位置还需要借助GeoIP数据库来实现。GeoIP 是最常见的免费 IP 地址归类查询库，同时也有收费版可以采购。GeoIP ...
分类：
其他好文 时间：
2016-12-17 13:47:31
阅读次数：
356
