基本介绍程序开发者常常要分析程序日志，包括自己打印的日志及使用的其他软件打印的日志，如php,nginx日志等，linux环境下分析日志有一些内置命令能够使用，如grep,sort,uniq,awk等，当中最强大的是awk，是作为一门小巧的文本处理语言存在的，但由于它是一门语言，功能强大，但在命令行...
分类：
数据库 时间：
2014-07-22 22:39:55
阅读次数：
374
awstats来来回回也装了好多遍了，每次都是现装现查，隐约的记得整个配置比较麻烦，中间有几个需要特别注意的地方，又记不得那些需要特殊对待，只能边找资料边回忆，最终还是搞出来了，在此分享给大家。首先去官网下载最新的安装包。wget http://jaist.dl.sourceforge.net/pr...
分类：
其他好文 时间：
2014-07-22 00:34:37
阅读次数：
305
Apache日志不记录图片文件设置方法SetEnvIMAG 1CustomLog logs/access_log combined env=!IMAGApache日志，如果记录所有访问请求，文件会很大；如果使用日志分析软件，分析结果不一定准确。而且如果不安装cronolog工具来截断日志，会在一个整...
分类：
其他好文 时间：
2014-07-22 00:20:35
阅读次数：
397
1.下载spark和运行 wget?http://apache.fayea.com/apache-mirror/spark/spark-1.0.0/spark-1.0.0-bin-hadoop2.tgz 我这里下载的是1.0.0版,由于我们只是测试spark的用法所以不需要配置spark集群，只需把下好的文件...
分类：
Web程序 时间：
2014-07-21 10:21:45
阅读次数：
206
日志分析界面：logstash（分析端）+elashsearch（存储端）+kibana（展示端）工具：进行数据整理statsd1、diamond-->statsd-->graphite2、实时收集数据的做法：logstash-->statsd-->graphite日志收集可视化(LEK)：logstash+elasticsearch+kibanalegend:logstash--》..
分类：
其他好文 时间：
2014-07-20 23:38:43
阅读次数：
696
linux下常用的日志分析命令本文介绍下，在linux中常用的一些分析日志的命令行或脚本，有需要的朋友参考下。形如下面这样的access.log日志内容： 211.123.23.133 – - [10/Dec/2010:09:31:17 +0800] “GET /query/trendxml/dis...
分类：
系统相关 时间：
2014-07-18 23:28:43
阅读次数：
359
是不是经常要分析用户的行为？是不是经常遇到多台server上传的日志一起分析？是不是对数据统计的间隔时间要求非常短？还有木有由于日志文件过大，而须要分块处理？1、说明一点在日志写入的时候必须依照一种严格的格式，这样在做解析的时候，才好分割。比方 gameid：123 gameid：2333。分割统一...
分类：
数据库 时间：
2014-07-18 09:33:58
阅读次数：
337
最近几年日志分析这方面的人才需求越来越多，主要伴随数据挖掘的快速发展而迅速增长的。碰巧又在工作中又接触到一些日志记录方面的工作，就顺便了解一下日志系统的整个流程。下面这篇文章转自百度同学的一篇文章，针对大规模日志分析，联系到hadoop,hive的解决方案，阐述的比较全面。
另外就是阿里已经开发出类似的系统odps—通过sql语言进行数据的分析处理，详情见：http://102.alibab...
分类：
其他好文 时间：
2014-07-17 20:15:30
阅读次数：
301
微秒毫秒datetimeseek定位指针从行尾到行首fd.seek(-2,1)1当前位置fd.tell()fd.seek(-2,2)2最后位置fd.tell()fd.seek(0,0)0最前位置read（1）读一位read（）全部都读tac与cat行首到行尾reversed翻转字符串只读一部分通过时间判断200404503十分钟之内第八列apache.log1.首先匹配..
分类：
编程语言 时间：
2014-07-17 08:20:15
阅读次数：
466
nodejsnpminstall安装环境logstash日志分析，图形界面展示小的搜索引擎，图形界面展示ruby开发的工具，封装成java环境的jar包logstash分析读日志从后往前读实时elasticsearch存储kibana展示web页面java-jarlogstash-1.3.2-flatjar.jaragent-flogstash.conf--webhttp://192.168...
分类：
其他好文 时间：
2014-07-17 08:09:54
阅读次数：
441
