装完elk跑起来之后，我的内心几乎是崩溃的，16G内存16核cpu还经常报错。一、logstash和elasticsearch同时报错logstash出现大量报错，可能是es占用heap太多，没有优化es导致的retryingfailedactionwithresponsecode:503{:level=>:warn}toomanyattemptsatsendingevent.droppin..
分类：
其他好文 时间：
2016-06-30 14:40:01
阅读次数：
540
前段时间用ossec收集了一些系统的日志(syslog、secure、maillog等)，看了下elk这个架构，发现很适合ossec，也很好玩。介绍：elk官网https://www.elastic.co/downloadselk由elasticSearch、logstash和kiabana三个开源工具组成。ossec+redis+elk架构图：ossec：事件源、alert源re..
分类：
其他好文 时间：
2016-06-29 15:58:22
阅读次数：
516
ELKstack简介：ELKstack是Elasticsearch、Logstash、Kibana三个开源软件的组合而成，形成一款强大的实时日志收集展示系统。各组件作用如下：Logstash：日志收集工具，可以从本地磁盘，网络服务（自己监听端口，接受用户日志），消息队列中收集各种各样的日志，然后进行过滤分析..
分类：
其他好文 时间：
2016-06-28 18:49:57
阅读次数：
457
一应用场景描述现在我需要向50+数量的服务器分发Logstash新版本的rpm包，大概220MB左右，直接使用Ansible的copy命令进行传输，命令如下：ansibleall-mcopy-a"src=/opt/software/logstash/logstash-agent-2.3.3-fb.centos6.x86_64.rpmdest=/opt/software/logstash"在执行的过程..
分类：
其他好文 时间：
2016-06-27 00:08:28
阅读次数：
358
一、nginx访问日志，格式调整为json#cat/opt/config/tengine/nginx.conf|grepjsonlog_formatjson‘{"@timestamp":"$time_iso8601",‘‘"host":"$server_addr",‘‘"method":"$request_method",‘‘"url":"$request",‘‘"clientip":"$http_x_forwarded_for",‘‘"protocol":"$server_proto..
分类：
其他好文 时间：
2016-06-24 20:49:08
阅读次数：
250
线上ELK运行一段时间了，但是各种小问题不断，logstash经常挂掉，kibana查询缓慢等等，现在决定升级ELK组件到最新版本，看看效果。一升级ElasticsearchElasticsearch原来的版本是1.7.1，Elasticsearch最新版本是2.3.3在升级之前首先查看的就是官方文档关于升级的注意事项1.查看..
分类：
其他好文 时间：
2016-06-22 06:59:21
阅读次数：
486
从头开始搭建基于spring mvc+redis+logback+logstash+elasticsearch+kibana的分布式日志平台的docker环境，重点是分享其中遇到过的一些问题。 ...
分类：
其他好文 时间：
2016-06-21 19:13:21
阅读次数：
230
Logstash2.x版本kafka升级V1前言Logstash2.x版本output-kafka插件只支持kafka-0.8.x版本。但是工作中我们可能用到0.9.x版本的kafka。故而需要升级Logstash-output-kafka插件至3.x版本。安装依赖包yum-yinstallrubyrubygemsruby-devel
gemsources--addhttps://ruby.taobao.org/-..
分类：
其他好文 时间：
2016-06-20 22:30:36
阅读次数：
1057
Kibana+Logstash+Elasticsearch 日志查询系统 ...
分类：
其他好文 时间：
2016-06-20 18:35:53
阅读次数：
264
技术课题 Docker/Kubernetes Spring Boot / Spring Cloud Zookeeper Elasticsearch / Lucene /Solr Logstash Kibana Redis MongoDB Spark Storm / JStorm Dubbo/Thri ...
分类：
其他好文 时间：
2016-06-20 10:06:25
阅读次数：
219
