本文记录了三个配置文件:第一个:all.conf通过一个配置文件,配置输入输出,实例;第二个:shipper.conf配置logstash收集日志内容到redis里;第三个:indexer.conf配置logstash从redis里读取日志内容输出到Elasticsearch里。第二个跟第三个配置解耦收集日志ELK解耦logstash---..
分类:
其他好文 时间:
2017-07-12 15:20:58
阅读次数:
242
环境的困境(原因)1、开发人员不能登录线上服务器查看相信日志;2、各个系统都有日志,日志数据分散难以查找;3、日志数据量大,查询速度慢,或者数据不够及时。(状态码400的top10)收集->存储->统计->报警、、、ElasticSearch+Logstash+Kibana=ELKStack1、分布式全..
分类:
其他好文 时间:
2017-07-12 10:02:30
阅读次数:
474
先说背景,由于本人工作需要创建很多小应用程序,而且在微服务的大环境下,服务越来越多,然后就导致日志四分五裂,到处都有,然后就有的elk,那么问题来了 不能每个小应用都配置一个 logstash 服务来传输日志吧,把所有的日志都 输送到一个logstash里面 然后logstash会都输送到一个索引下 ...
分类:
其他好文 时间:
2017-07-11 19:34:41
阅读次数:
1190
OpenWAF是第一个全方位开源的Web应用防护系统; ELK 是比较火的开源日志分析系统; 本节主要介绍,ELK 的 docker 部署及与 OpenWAF 的结合 ...
分类:
其他好文 时间:
2017-07-07 17:25:30
阅读次数:
448
环境: centos7 jdk8 elasticsearch-5.4.3.tar.gz 1.下载包 https://www.elastic.co/downloads 2.上传并解压包 cd /elk tar -zxvf elasticsearch-5.4.3.tar.gz -C /elk 3.创建用 ...
分类:
其他好文 时间:
2017-07-06 20:36:56
阅读次数:
167
ELK简介 最近有个需求搭建一套日志系统用于集成几个业务系统的日志提供快速的检索功能,目前是用Log4net存数据库+Error级别发邮件方式,也算简单暴力好用,但历史日志的模糊查询确实很慢,所以使用ELK是比较理想的解决方案。三年前写过两篇文章log4net.NoSql +ElasticSearc ...
分类:
其他好文 时间:
2017-07-06 18:40:37
阅读次数:
395
ELK是指Elasticsearch+Logstash+Kibaba三个组件的组合。Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。Logstash是一个完全开源的工具,他可以对你的日志进行收集、过..
分类:
其他好文 时间:
2017-07-05 20:04:12
阅读次数:
452
先来张图,大致结构应该晓得,对吧! 安装jdk:至少1.8以上 yum -y localinstall jdk-8u73-linux-x64.rpm 安装elasticsearch5.2.1 用普通用户安装es: tar -zxvf elasticsearch-5.2.1.tar.gz [es@no ...
分类:
其他好文 时间:
2017-07-04 16:05:49
阅读次数:
1072
基于Heka,ElasticSearch和Kibana的分布式后端日志架构目前主流的后端日志都采用的标准的elk模式(Elasticsearch,Logstash,Kinaba),分别负责日志存储,收集和日志可视化。不过介于我们的日志文件多样,分布在各个不同的服务器,各种不同的日志,为了日后方便二次开发定制。..
分类:
其他好文 时间:
2017-07-04 13:28:20
阅读次数:
119