（一）Beats是什么？Beats是elasticsearch公司开源的一款采集系统监控数据的代理agent，它可以发送不同类型的数据到elasticsearch中，也可以行将采集完的数据发送到logstash中转，然后在推送到elasticsearch中，目前还在发展中，与成熟的监控系统zabbix和ganglia相比就界面看起..
分类：
其他好文 时间：
2016-07-20 13:39:52
阅读次数：
441
1.配置log4j.propertieslog4j.rootLogger=INFO,DEBUG,logstash
log4j.appender.logstash=org.apache.log4j.net.SocketAppender
log4j.appender.logstash.Port=4560
log4j.appender.logstash.RemoteHost=10.0.0.5
log4j.appender.logstash.ReconnetionDelay=60000
log4j.appende..
分类：
其他好文 时间：
2016-07-19 19:07:06
阅读次数：
2652
输入插件是Logstash从特定的数据源读取数据，Logstash可用插件包括，详情可见这里，下面说一些常见的输入插件：stdin插件：标准的输入插件，能够从命令行中读取事件。可选配置：add_fieldhash(哈希)｛｝codeccodec“line”tagsarray(数组)typestring（字符串）file插件：Logsta..
分类：
其他好文 时间：
2016-07-19 11:35:55
阅读次数：
401
参考：http://kibana.logstash.es/content/elasticsearch/template.html 在模板中定义的字段按照模板解析，没有定义的会按照ES的默认模板解析 Elasticsearch 是一个 schema-less 的系统，但 schema-less 并不代 ...
配置文件的基本格式，输入部分，过滤器部分和输出部分。#Thisisacomment.Youshouldusecommentstodescribe
#partsofyourconfiguration.
input{
...
}
filter{
...
}
output{
...
}每个部分都可以配置一个或多个插件。下面展示的是输入部分，有两个file插件。input{
file{
path=&..
分类：
其他好文 时间：
2016-07-15 17:24:57
阅读次数：
954
报错内如如下：
{"error":{
"root_cause":[{
"type":"query_phase_execution_exception",
"reason":"Resultwindowistoolarge,from+sizemustbelessthanorequalto:[10000]butwas[12000].Seethescrollapiforamoreefficientwaytoreques
tlargedatasets.Thislimitcanbesetbychanging..
需求;logstash运行在SUSE,LINUX,PPC LINUX,AIX机器上,并监控文件发送日志到KAFKA中去, 问题:在AIX机器上,file插件总是报异常,无法完成数据的读取 NotImplementedError: stat.st_dev unsupported or native s ...
分类：
其他好文 时间：
2016-07-10 23:09:45
阅读次数：
242
最近研究logstash。使用过程中发现logstashtimestamp记录的时间戳为UTC时间。比我们的时区早8个小时。造成发送到es里的数据每天早上8点才创建索引，发送的file的数据每天早上8点自动切割。不符合我们实际的需求。找了两周都没解决这个问题。功夫不负有心人。终于找到一个方法解..
分类：
其他好文 时间：
2016-07-07 22:45:43
阅读次数：
1176
Logstash管道可以配置一个或多个输入插件、过滤器插件和输出插件。其中，输入插件和输出插件是必选的，过滤器插件是可选的。下图是Logstash常见的使用场景。上一节的例子中我们使用标准的输入和输出插件做了简单的示例。接下来我们演示一些复杂的场景。如下图所示是Logstash的..
分类：
其他好文 时间：
2016-07-07 17:35:49
阅读次数：
167
前言：通常情况下，我们将Kafka的日志数据通过logstash订阅输出到ES，然后用Kibana来做可视化分析，这就是我们通常用的ELK日志分析模式。但是基于ELK的日志分析，通常比较常用的是实时分析，日志存个十天半个月都会删掉。那么在一些情况下，我需要将日志数据也存一份到我HDFS，..
分类：
其他好文 时间：
2016-07-06 18:47:15
阅读次数：
850
