ELK ELK目前主流的一种日志系统,过多的就不多介绍了 Filebeat收集日志,将收集的日志输出到kafka,避免网络问题丢失信息 kafka接收到日志消息后直接消费到Logstash Logstash将从kafka中的日志发往elasticsearch Kibana对elasticsearch ...
分类:
其他好文 时间:
2018-10-10 14:13:37
阅读次数:
294
logstash-01.conf input { beats { port => 5044 host => "0.0.0.0" type => "logs" codec => "json" } } filter{ if ( [type] == "nginx-access" ) { grok { ma ...
分类:
其他好文 时间:
2018-10-01 21:36:48
阅读次数:
418
环境条件: 系统版本:centos 6.8 logstash版本:6.3.2 redis版本:2.4 logstash input配置: input { redis { host => "172.16.73.33" #redis ip port => "52611" #redis 端口 passwo ...
分类:
其他好文 时间:
2018-10-01 14:09:57
阅读次数:
680
启用和禁用启用和禁用X-Pack功能默认情况下,所有X-Pack功能都被启用。您可以启用或禁用特定的X-Pack功能elasticsearch.yml,kibana.yml以及logstash.yml 配置文件。设置 描述xpack.graph.enabled 设置为false禁用X-Pack图形功 ...
分类:
其他好文 时间:
2018-10-01 11:58:37
阅读次数:
695
官网关于kibana的学习指导网址是:https://www.elastic.co/guide/en/kibana/current/index.html Kibana是一个开源的分析和可视化平台,设计用于Elasticsearch。使用Kibana搜索、查看和与存储在Elasticsearch索引中 ...
分类:
其他好文 时间:
2018-09-30 19:54:18
阅读次数:
139
下载安装包时注意下载到指定文件夹 这里我放在OPT文件夹下一:安装logstash进入到opt文件夹打开终端 执行以下命令wget -c https://artifacts.elastic.co/downloads/logstash/logstash-6.4.0.zip 加上-c支持断点续传二:解压 ...
分类:
数据库 时间:
2018-09-29 15:28:25
阅读次数:
473
最近项目用到 jenkins ELK 也在一次重新学习了一次 jenkins 不用说了 玩得就是 插件 + base shell , ELK 这几年最流得log收集平台,当然不止我们运维在用!开发也在用来做client 位置定位 还有网站搜索 elasticsearch , logstash kib ...
分类:
其他好文 时间:
2018-09-28 11:11:06
阅读次数:
249
Kibana是Elastic Stack家族内的一部分,它是一个管理网站,与ES(Elastic Search)集成可以用来管理ES的索引,除ES外它还可以跟Elastic家族的其他组件进行整合如logstash、Elasticsearch-Hadoop等。 相比我们之前讲过的elasticsear ...
本文适合有一定大数据基础的读者朋友们阅读,但如果你没有技术基础,照样可以继续看(这就好比你看《葵花宝典》第一页:欲练此功,必先自宫,然后翻到第二页:若不自宫,也可练功,没错就是这种感觉→_→)。 大数据的数据采集工作是大数据技术中非常重要、基础的部分,数据不会平白无故地跑到你的数据平台软件中,你得用 ...
分类:
Web程序 时间:
2018-09-25 14:41:36
阅读次数:
228
(一)简述: filebeat:具有日志收集功能,是下一代的Logstash收集器,但是filebeat更轻量,占用资源更少,适合客户端使用。 redis:Redis服务器通常都是用作NoSQL数据库,不过logstash只是用来做消息队列。 logstash:主要是用来日志的搜集、分析、过滤日志的工具,支持大量的数据获取方式。一般工作方式为c/s架构,client端安装在需要收集日志的主机上
分类:
其他好文 时间:
2018-09-20 20:20:14
阅读次数:
343