基本情况就是，媒体、试题、分类，媒体可能有多个试题，一个试题可能有多个分类，分类为三级分类加上一个综合属性。通过试题名称、分类等搜索查询媒体。 现在的问题为，搜索结果不精确，部分搜索无结果，ES的数据...
分类：
Web程序 时间：
2014-07-22 09:06:06
阅读次数：
388
1.下载spark和运行 wget?http://apache.fayea.com/apache-mirror/spark/spark-1.0.0/spark-1.0.0-bin-hadoop2.tgz 我这里下载的是1.0.0版,由于我们只是测试spark的用法所以不需要配置spark集群，只需把下好的文件...
分类：
Web程序 时间：
2014-07-21 10:21:45
阅读次数：
206
linux下常用的日志分析命令本文介绍下，在linux中常用的一些分析日志的命令行或脚本，有需要的朋友参考下。形如下面这样的access.log日志内容： 211.123.23.133 – - [10/Dec/2010:09:31:17 +0800] “GET /query/trendxml/dis...
分类：
系统相关 时间：
2014-07-18 23:28:43
阅读次数：
359
是不是经常要分析用户的行为？是不是经常遇到多台server上传的日志一起分析？是不是对数据统计的间隔时间要求非常短？还有木有由于日志文件过大，而须要分块处理？1、说明一点在日志写入的时候必须依照一种严格的格式，这样在做解析的时候，才好分割。比方 gameid：123 gameid：2333。分割统一...
分类：
数据库 时间：
2014-07-18 09:33:58
阅读次数：
337
最近几年日志分析这方面的人才需求越来越多，主要伴随数据挖掘的快速发展而迅速增长的。碰巧又在工作中又接触到一些日志记录方面的工作，就顺便了解一下日志系统的整个流程。下面这篇文章转自百度同学的一篇文章，针对大规模日志分析，联系到hadoop,hive的解决方案，阐述的比较全面。
另外就是阿里已经开发出类似的系统odps—通过sql语言进行数据的分析处理，详情见：http://102.alibab...
分类：
其他好文 时间：
2014-07-17 20:15:30
阅读次数：
301
微秒毫秒datetimeseek定位指针从行尾到行首fd.seek(-2,1)1当前位置fd.tell()fd.seek(-2,2)2最后位置fd.tell()fd.seek(0,0)0最前位置read（1）读一位read（）全部都读tac与cat行首到行尾reversed翻转字符串只读一部分通过时间判断200404503十分钟之内第八列apache.log1.首先匹配..
分类：
编程语言 时间：
2014-07-17 08:20:15
阅读次数：
466
nodejsnpminstall安装环境logstash日志分析，图形界面展示小的搜索引擎，图形界面展示ruby开发的工具，封装成java环境的jar包logstash分析读日志从后往前读实时elasticsearch存储kibana展示web页面java-jarlogstash-1.3.2-flatjar.jaragent-flogstash.conf--webhttp://192.168...
分类：
其他好文 时间：
2014-07-17 08:09:54
阅读次数：
441
set()-set()去掉公共部分set存放的元素不能重复list存放的元素可以重复logging模块定义日志格式importlogginglogging.debug(‘Thisisdebugmessage‘)logging.info(‘Thisisinfomessage‘)logging.warning(‘Thisiswarningmessage‘)屏幕上打印:WARNING:root:Thisiswarningmessage级别..
分类：
其他好文 时间：
2014-07-15 11:47:39
阅读次数：
265
JVM的GC日志的主要参数包括如下几个：
-XX:+PrintGC 输出GC日志
-XX:+PrintGCDetails 输出GC的详细日志
-XX:+PrintGCTimeStamps 输出GC的时间戳（以基准时间的形式）
-XX:+PrintGCDateStamps 输出GC的时间戳（以日期的形式，如 2013-05-04T21:53:59.234+0800）
-...
分类：
其他好文 时间：
2014-07-14 17:25:11
阅读次数：
357
#!/usr/bin/pythonimportredefbuffer_line():buf=open("/etc/sae/buffer_1").read()ifnotbuf:return0else:returnint(re.findall("^\d*",buf)[0])defset_last_pos(pos):open("/etc/sae/buffer_1","w").write(str(pos))if__name__==‘__main__‘:appname={}fh=open("/data0/l7.acce..
分类：
编程语言 时间：
2014-07-14 16:41:57
阅读次数：
319
