本文适合有一定大数据基础的读者朋友们阅读,但如果你没有技术基础,照样可以继续看(这就好比你看《葵花宝典》第一页:欲练此功,必先自宫,然后翻到第二页:若不自宫,也可练功,没错就是这种感觉→_→)。 大数据的数据采集工作是大数据技术中非常重要、基础的部分,数据不会平白无故地跑到你的数据平台软件中,你得用 ...
分类:
Web程序 时间:
2018-09-25 14:41:36
阅读次数:
228
1.grafana的worldmmap面板插件Worldmap面板是世界的平铺地图,可以用表示查询数据点的圆圈覆盖。它可以与时间序列度量一起使用,包括来自Elasticsearch的geohash数据或表格格式的数据。2.grafana的数据源(1)一个位置的经纬度(geoip.location)(2)另一个是你要显示的field(geoip.city_name)3.理解一下插件的request的
分类:
其他好文 时间:
2018-09-21 12:28:00
阅读次数:
1822
(一)简述: filebeat:具有日志收集功能,是下一代的Logstash收集器,但是filebeat更轻量,占用资源更少,适合客户端使用。 redis:Redis服务器通常都是用作NoSQL数据库,不过logstash只是用来做消息队列。 logstash:主要是用来日志的搜集、分析、过滤日志的工具,支持大量的数据获取方式。一般工作方式为c/s架构,client端安装在需要收集日志的主机上
分类:
其他好文 时间:
2018-09-20 20:20:14
阅读次数:
343
利用 Filebeat去读取日志发送到 Logstash ,再由 Logstash 处理后发送给 Elasticsearch 。 一、Filebeat 1. 项目日志文件: 利用 Filebeat 去读取文件,paths 下面配置路径地址,Filebeat 会自动去读取 /data/share/bu ...
分类:
其他好文 时间:
2018-09-20 13:47:39
阅读次数:
208
一、基本概念 简单概述 最近在了解ELK做日志采集相关的内容,这篇文章主要讲解通过filebeat来实现日志的收集。日志采集的工具有很多种,如fluentd, flume, logstash,betas等等。首先要知道为什么要使用filebeat呢?因为logstash是jvm跑的,资源消耗比较大, ...
分类:
其他好文 时间:
2018-09-20 11:06:23
阅读次数:
1791
由于我们的项目是分布式,服务分布于多个服务器上,每次查看日志都要登录不同服务器查看,而且查看起来还比较麻烦,老大让搭一个集中化日志管理的东西,然后就在网上找到了这个东西ELK ELK就是elastic公司下的三款产品,elasticsearch,logstash,kibana 官网:https://... ...
分类:
其他好文 时间:
2018-09-19 23:34:02
阅读次数:
601
elk and redis installation and configuration ATTENSION + attention the version of all software(use the latest) node1 installed logstash, httpd + syste ...
分类:
其他好文 时间:
2018-09-18 00:21:56
阅读次数:
158
curl -XGET '192.168.1.102:9200/_cat/indices?v&pretty' curl -XDELETE 'http://192.168.1.102:9200/log*' curl -XGET "http://192.168.1.102:9200/logstash-20 ...
分类:
其他好文 时间:
2018-09-17 11:44:30
阅读次数:
261
一、ELK介绍ELK构建在开源基础之上,让您能够安全可靠地获取任何来源、任何格式的数据,并且能够实时地对数据进行搜索、分析和可视化。最近查看ELK官方网站,发现新一代的日志采集器Filebeat,他是Beats家族其中的一员,性能超越logstash,部署简单,占用资源少,可以很方便的和logstash,ES对接。从官方网站可以看出新一代ELK架构如下:1、BeatsBeats平台集合了多种单一用
分类:
其他好文 时间:
2018-09-16 20:50:45
阅读次数:
297