一、使用背景 当生产环境有很多服务器、很多业务模块的日志需要每时每刻查看时 二、环境 系统：centos 6.5 JDK：1.8 Elasticsearch-5.0.0 Logstash-5.0.0 kibana-5.0.0 三、安装 1、安装JDK 下载JDK：http://www.oracle. ...
分类：
其他好文 时间：
2016-11-13 19:03:07
阅读次数：
228
ELK是日志收益与分析的利器。 1、elasticsearch集群搭建 略 2、logstash日志收集 我这里的实现分如下2步，中间用redis队列做缓冲，可以有效的避免es压力过大： 1、n个agent对n个服务的log做日志收集(1对1的方式)，从日志文件解析数据，存入broker，这里用的是 ...
分类：
其他好文 时间：
2016-11-11 14:08:34
阅读次数：
213
官方的安装指令是:bin/plugininstalllogstash-output-webhdfs但是往往安装不成功，一般就是如下情况，然后卡着不动了:Validatinglogstash-output-webhdfs。。。原因是防火墙挡掉了logstash的默认gemsourcecatGemfile|grepsource
#source"https://rubygems.org"修改gemsource为..
分类：
其他好文 时间：
2016-11-10 21:49:17
阅读次数：
412
elk开源分布式日志分析平台一.简介1.核心组成2.三大组件3.elk的工作流程4.elk的帮助手册二.Logstash和elasticsearch(elasticsearch和logstash依赖java环境)1.java2.nginx的安装3.redis的安装4.安装elasticsearch5.安装logstash6.安装kibana三.检验elk的日志结果一.简介1.核心组..
分类：
其他好文 时间：
2016-11-07 08:27:40
阅读次数：
252
一、介绍mysqlsla是一个分析mysql慢日志的工具,可以分析出慢查询的原因，包括执行某条sql出现的次数及在slowlog数据的百分比、执行时间、等待销的时间等。公司的数据库有很多慢查询日志，导致的系统的负载很高，而mysql慢查询日志文件内容格式不太好看，经推荐使用mysqlsla；使..
分类：
数据库 时间：
2016-10-31 22:50:41
阅读次数：
320
因为发的时候，有些敏感信息没去除，所以大家发文的时候，切记要过滤。不然抓取的很厉害。这个脚本的作用是同步远程机器的少量log到一台机器上，然后通过logstash过滤显示犯了好几个错误local写错locals，locals是python特有定义变量的，不能重名sftp老报错，IOError:[Errno2]N..
分类：
编程语言 时间：
2016-10-29 02:38:19
阅读次数：
448
Master机器运行命令： Slave中只开启lagstash并将相关log指向主ELK服务器： 启动后logstash会报错，因为默认指向本地的elasticsearch服务，登录到docker更改配置文件： 此时slave的logstash可以正常运行。 添加监控文件： 使用以下命令启动logs ...
分类：
其他好文 时间：
2016-10-28 19:39:49
阅读次数：
220
今天介绍一下关于logstash的启动方式，以前说的都是使用/usr/local/logstash-f/etc/logstash.conf方式启动，这样就有一个麻烦，当你关闭终端，或者ctrl+c时logstash就会退出。下面介绍几种长期运行的方式。1、service方式使用rpm方式安装的，都可以/etc/init.d/logstash启动，..
分类：
其他好文 时间：
2016-10-28 15:59:12
阅读次数：
308
1、持续集成 jenkins 2、代码检测 SonarQube 3、日志： CAT、ELK Stack = Logstash+Elasticsearch+Kibana http://docs.sonarqube.org/display/SCAN/Analyzing+with+SonarQube+Sc ...
分类：
其他好文 时间：
2016-10-27 20:17:19
阅读次数：
224
