为什么用到ELK: 一般我们需要进行日志分析场景:直接在日志文件中 grep、awk 就可以获得自己想要的信息。但在规模较大的场景中,此方法效率低下,需要集中化的日志管理,所有服务器上的日志收集汇总。常见解决思路是建立集中式日志收集系统,将所有节点上的日志统一收集,管理,访问。 一般大型系统是一个分 ...
分类:
其他好文 时间:
2017-12-14 04:04:46
阅读次数:
236
问题如下:1.FileBeat日志报 "dial tcp 127.0.0.1:5544: connectex: No connection could be made because the target machine actively refused it"解决过程:A:修改FileBeat文件 ...
分类:
Windows程序 时间:
2017-12-12 21:34:26
阅读次数:
1131
安装流程: 稍后补充 参考内容:http://udn.yyuap.com/thread-54591-1-1.html ; https://www.cnblogs.com/yanbinliu/p/6208626.html 在搭建测试过程中遇到以下问题:1.FileBeat日志报 "dial tcp 1 ...
1:项目技术架构图: 2:流程图解析,整体流程如下: ETL即hive查询的sql; 但是,由于本案例的前提是处理海量数据,因而,流程中各环节所使用的技术则跟传统BI完全不同: 1) 数据采集:定制开发采集程序,或使用开源框架FLUME 2) 数据预处理:定制开发mapreduce程序运行于hado ...
分类:
Web程序 时间:
2017-12-09 23:50:23
阅读次数:
262
AWStats是使用Perl语言开发的一款开源日志分析系统,不仅可以用来分析Apache网站日志,也可以用来分析Samba、Vsftpd、IIS等服务的日志信息。结合crond等任务计划服务,可以对不断增长的日志内容定期进行分析
分类:
Web程序 时间:
2017-12-09 11:05:00
阅读次数:
314
PostgreSQL 9.5.4数据库快速INSERT大量数据研究 背景 在一些应用场景中,需要向Abase数据库中快速装入大量的数据,比如数据库迁移,SQL日志分析等。在PG上快速插入数据有几种方案,每种方案的效率怎么样?如何调优能加快的数据装载? 场景设定 SQL日志分析是一个采集JDBC日志、 ...
分类:
数据库 时间:
2017-12-06 20:00:01
阅读次数:
200
遇到一个问题,在查询日志时发现,服务器上打印的文件有很多个,每个都存储了一部分日志, 需要将日志按照时间排序,并显示所有日志 ...
分类:
系统相关 时间:
2017-12-05 01:07:49
阅读次数:
262
1、解压缩awstas软件2、建立配置文件3、在屏幕最下面输入/usr/local/httpd/conf/httpd.confyy4、修改站点统计配置文件修改下面的两项建立数据目录5、执行日志分析6、为了及时更新和更新方便,创建计划任务
分类:
Web程序 时间:
2017-12-03 13:55:13
阅读次数:
262
一、概述 ELK 已经成为目前最流行的集中式日志解决方案,它主要是由Beats、Logstash、Elasticsearch、Kibana等组件组成,来共同完成实时日志的收集,存储,展示等一站式的解决方案。本文将会介绍ELK常见的架构以及相关问题解决。1. Filebeat:Filebeat是一款轻 ...
分类:
其他好文 时间:
2017-12-03 13:54:23
阅读次数:
275