码迷,mamicode.com
首页 >  
搜索关键字:yisouspider    ( 4个结果
YisouSipder导致的网站问题
有一个客户反映自己的网站时不时的不能访问或者是打开很慢,重启服务器或者服务后能正常访问一段时间,之后又会出现问题。首先查看服务器的情况,这台服务器是nginx+phpfpm的架构,top查看服务器负载不高,打开nginx的debug日志,看到有很多YisouSipder的访问日志,初步筛选了..
分类:Web程序   时间:2016-09-13 22:41:46    阅读次数:235
YisouSpider你想搞死我的服务器吗?
在1分钟666次请求中,你占了445次,你大爷的想干啥呢? 42.156.254.30 - - [03/Feb/2016:11:46:00 +0800] "GET /thread-2206370-1-1.html HTTP/1.1" 200 21539 "-" "YisouSpider" 42.15
分类:其他好文   时间:2016-02-03 12:45:04    阅读次数:300
按项目时间段,爬虫对状态码进行统计
#!/bin/bashread-p"whichsitedoyouwanttoAnalysis,xxx|xxx:"siteread-p"whichsitedoyouwanttoAnalysis,xxx.access.log.x:"logread-p"whichsitedoyouwanttoAnalysis,YisouSpider|Sogouwebspider|Baiduspider:"spiderread-p"whichcodewouldyouwanttoAnalysis,499|500|502|200|301..
分类:其他好文   时间:2015-06-24 16:41:58    阅读次数:96
II7/IIS8屏蔽YisouSpider蜘蛛
来源:http://www.0531s.com/content-46-1927014-1.htmlYisouSpider蜘蛛抓取网页能够导致CPU暴涨,影响其他蜘蛛和用户的访问,多次实验后,发现IIS自带的URL重写可以起到作用。首先选择需要进行屏蔽的网站,然后打开URL重写。打开入站规则打开添加规...
分类:其他好文   时间:2014-12-12 16:28:17    阅读次数:236
4条  
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!