Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。Logstash是一个完全开源的工具,他可以对你的日志进行收集、分析,并将其存储供以后使用(如,搜索)kibana也是一个开..
分类:
其他好文 时间:
2016-12-03 02:39:30
阅读次数:
337
作为一个初中级php程序员,也许懂一点Linux知识,下面操作下nginx日志切割 当执行命令“kill -USR1 `cat /usr/local/nginx/logs/nginx.pid`”的时候(nginx.pid文件中保存的其实就是一个数字),nginx 将其主进程的 pid (进程号)写入 ...
分类:
其他好文 时间:
2016-12-01 02:33:32
阅读次数:
182
访问某些接口携带了奇怪的参数“*&^%$”如http://weidian.com/item.html?itemID=48335375&p=-1/*&^%$"使用URL解码工具解码无效,查看nginx日志:egrep‘itemID=‘/data/logs/nginx/20161129/*|grep-F‘*&^%$‘--color看到来源地址比较奇怪,使用ip138查看地址都是..
分类:
其他好文 时间:
2016-11-30 17:50:59
阅读次数:
141
Nginx的访问日志轮询切割 通常什么情况Nginx会把所有的访问日志生成到一个制定的访问日志文件access.log里面,但时间一长,日志个头很大不利于日志的分析和处理。 有必要对Nginx日志进行按天或按小时进行切割,分成不同的文件保存。 注意:脚本实现切割Nginx日志的思想为讲正在写入的Ng ...
分类:
其他好文 时间:
2016-11-28 20:49:45
阅读次数:
199
文章摘自:美团点评技术团队 Kafka文件存储机制那些事 Kafka是什么 Kafka是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多订阅者,基于zookeeper协调的分布式日志系统(也可以当做MQ系统),常见可以用于web/nginx日志、访问日志,消息服务等等,Linked ...
分类:
其他好文 时间:
2016-11-24 07:04:54
阅读次数:
205
awstats分析nginx日志文件,将生成的结果(为txt文件)保存在/var/www/awstats目录下,通过apche来显示生成的结果。nginx的域名为:www.a.com:80LogFile="/usr/local/mybin/nginx/logs/access.log"#nginx的日志文件路径DirData="/var/www/awstats/"#awstats生成结果的保存路径SiteDo..
分类:
其他好文 时间:
2016-11-21 20:49:14
阅读次数:
225
选择需求分类废话少说直接上图 第一张图: 2.此图搭配的日志格式是: log_format main '$remote_addr - $remote_user [$time_local] $http_host $request_method "$uri" "$query_string" ' '$st ...
分类:
其他好文 时间:
2016-11-20 23:08:04
阅读次数:
488
#防止ddos攻击,将此脚本放置到定时任务中。
#!/bin/bash
log=‘/usr/local/nginx/logs/nginx.log‘#日志绝对路径
DATE=`date-d‘1minutesago‘"+%d/%b/%Y:%H:%M"`#显示出日志格式的时间,方便匹配,%b简短#格式时间,-d显示设定的时间。
tmp=`date"+%s%N"`#秒要精确化
grep"$..
分类:
其他好文 时间:
2016-11-18 07:55:57
阅读次数:
191
日志分析系统 生成环境下有需求:要每搁五分钟统计下这段时间内的网站访问量、UV、独立IP等信息,用直观的数据表格表现出来 环境描述: 网站为Nginx服务,系统每日凌晨会对日志进行分割,拷贝到其他位置,当前日志清空 NGINX日志配置信息 日志access.log示例 221.1.204.218 - ...
分类:
编程语言 时间:
2016-11-15 14:30:48
阅读次数:
191
公司电脑从win7升级到win10,无法启动nginx,日志里输出:2016/05/3009:26:01[emerg]7024#5440:bind()to0.0.0.0:80failed(10013:Anattemptwasmadetoaccessasocketinawayforbiddenbyitsaccesspermissions)一看是80端口被占用了,问题就变成了杀掉占用80端口的进程。操作步骤:解..