logstash(1.4.2)是一个不错的日志监控与分析工具,数据通过logstash使用后端的ElasticSearch(1.1.1)集群完成数据索引,以供后续的查询、分析使用。版本必须保持兼容否则报一下错误 Upgrade?...
分类:
其他好文 时间:
2015-06-09 14:14:10
阅读次数:
400
在ElasticSearch实际使用中遇到了一个问题,就是在数据量很大的情况下做聚合查询(aggregation)会导致内存溢出。当时看了文档,猜测修改search_type能避免内存溢出。实际测试发现,在数据量相同的情况下,search_type设置为query_and_fetch的聚合查询不会导致内存溢出,而默认的query_then_fetch则会内存溢出。本文就从源码层面分析这两种searc...
分类:
其他好文 时间:
2015-06-08 23:26:46
阅读次数:
345
Why Elasticsearch?由于需要提升项目的搜索质量,最近研究了一下Elasticsearch,一款非常优秀的分布式搜索程序。最开始的一些笔记放到github,这里只是归纳总结一下。首先,为什么要使用Elasticsearch?最开始的时候,我们的项目仅仅使用MySQL进行简单的搜索,然后...
分类:
其他好文 时间:
2015-06-08 19:14:24
阅读次数:
195
#### 以下代码,若出现无法使用,请根据底下图片,更改参数。根据 apache 日志格式修改查看 apache 进程ps aux | grep httpd | grep -v grep | wc -l查看 80 端口的 tcp 连接netstat -tan | grep "ESTABLISHED"...
分类:
系统相关 时间:
2015-06-08 13:15:45
阅读次数:
178
众所周知,大访问量的情况下,可添加节点或改变架构可有效的缓解数据库压力,不过一切的原点,都是从单台mysql开始的。下面总结一些使用过或者研究过的经验,从配置以及调节索引的方面入手,对mysql进行一些优化。第一步应该做的就是排查问题,找出瓶颈,所以,先从日志入手开启慢查询日志mysql>show ...
分类:
数据库 时间:
2015-06-07 17:10:18
阅读次数:
196
http://www.docin.com/p-649515490.htmlhttp://wenku.baidu.com/link?url=kB-83fbl1Zc3Y6U2BYLj-lKMWShe8ZlbFNolbuB4MO1kSMqm1TRCuRW8Rp8fvh-AH6DNBMLfV3sX_CSy2...
分类:
Web程序 时间:
2015-06-06 11:52:48
阅读次数:
129
http://www.rising.com.cn/newsletter/news/2013-03-20/13380.html[Honeypot Alert] Inside the Attacker's Toolbox: Webshell Usage Logginghttps://www.trustw...
分类:
Web程序 时间:
2015-06-05 11:57:50
阅读次数:
128
操作系统和进程部分操作系统和进程部分的含义是很清楚的,这里不会描述的很详细。他们列出了基本的资源统计,例如CPU和负载。操作系统部分描述了整个操作系统的情况,进程部分只是描述了Elasticsearch的JVM进程的使用情况。这显然是很有用的统计, 但是往往会被忽视,一些统计包括如下部分:>CPU>...
分类:
其他好文 时间:
2015-06-04 11:22:50
阅读次数:
100
译自ES官方对于硬件设备的说明,原文见: [https://www.elastic.co/guide/en/elasticsearch/guide/current/hardware.html]
当你准备把ElasticSearch部署到生产服务器上的时候,这里有一些建议可供你参考。没有什么硬性的规则,ElasticSearch可以在很广泛的应用场景中使用,也可以在各种机器上跑起来。但...
分类:
其他好文 时间:
2015-06-03 13:46:55
阅读次数:
115
Hadoop在百度的应用领域主要包括:大数据挖掘与分析,日志分析平台,数据仓库系统,用户行为分析系统,广告平台等存储与计算服务。
分类:
其他好文 时间:
2015-06-03 06:18:03
阅读次数:
128