有一个客户反映自己的网站时不时的不能访问或者是打开很慢,重启服务器或者服务后能正常访问一段时间,之后又会出现问题。首先查看服务器的情况,这台服务器是nginx+phpfpm的架构,top查看服务器负载不高,打开nginx的debug日志,看到有很多YisouSipder的访问日志,初步筛选了..
分类:
Web程序 时间:
2016-09-13 22:41:46
阅读次数:
235
在1分钟666次请求中,你占了445次,你大爷的想干啥呢? 42.156.254.30 - - [03/Feb/2016:11:46:00 +0800] "GET /thread-2206370-1-1.html HTTP/1.1" 200 21539 "-" "YisouSpider" 42.15
分类:
其他好文 时间:
2016-02-03 12:45:04
阅读次数:
300
#!/bin/bashread-p"whichsitedoyouwanttoAnalysis,xxx|xxx:"siteread-p"whichsitedoyouwanttoAnalysis,xxx.access.log.x:"logread-p"whichsitedoyouwanttoAnalysis,YisouSpider|Sogouwebspider|Baiduspider:"spiderread-p"whichcodewouldyouwanttoAnalysis,499|500|502|200|301..
分类:
其他好文 时间:
2015-06-24 16:41:58
阅读次数:
96
来源:http://www.0531s.com/content-46-1927014-1.htmlYisouSpider蜘蛛抓取网页能够导致CPU暴涨,影响其他蜘蛛和用户的访问,多次实验后,发现IIS自带的URL重写可以起到作用。首先选择需要进行屏蔽的网站,然后打开URL重写。打开入站规则打开添加规...
分类:
其他好文 时间:
2014-12-12 16:28:17
阅读次数:
236