ItemsItem objects are simple containers used to collect the scraped data.They provide a dictionary-like api with a convenient syntax for declaring the...
分类：
其他好文 时间：
2014-07-16 22:48:37
阅读次数：
186
新手学python，写了一个抓取网页后自动下载文档的脚本，和大家分享。 首先我们打开三亿文库下载栏目的网址，比如专业资料（IT／计算机／互联网）http://3y.uu456.com/bl-197?od=1&pn=0，可以观察到，链接中pn=后面的数字就是对应的页码，所以一会我们会用iurl =.....
分类：
编程语言 时间：
2014-07-12 13:28:16
阅读次数：
385
1)创建项目命令：scrapy startproject tutorial该命令将在当前目录下创建tutorial文件夹2）定义ItemItems are containers that will be loaded with the scraped data;They are declared b...
分类：
其他好文 时间：
2014-07-11 23:07:39
阅读次数：
314
1 m Queue import Queue 2 from gzip import GzipFile 3 from StringIO import StringIO 4 import time 5 import socket 6 class ContentEncodingProcess...
分类：
编程语言 时间：
2014-07-11 21:41:10
阅读次数：
217
本文记录下用来爬虫主要使用的两个库。第一个是requests，用这个库能很方便的下载网页，不用标准库里面各种urllib；第二个BeautifulSoup用来解析网页，不然自己用正则的话很烦。requests使用，1直接使用库内提供的get、post等函数，在比简单的情况下使用，2利用session...
分类：
编程语言 时间：
2014-07-11 18:51:34
阅读次数：
250
这是一个简单的c++爬虫，效率并不是很高... 1 #include 2 int s1[1000000],s2[1000000]; 3 void fun(int a, int b) 4 { 5 int i,ii; 6 bool t1,t2,t3,t4; 7 s1[0] = s...
分类：
编程语言 时间：
2014-07-11 18:05:16
阅读次数：
297
有的网站防采集，会在页面加上this.window.location.reload()
分类：
Web程序 时间：
2014-07-10 14:34:18
阅读次数：
310
搜索引擎技术之概要预览前言 近些天在学校静心复习功课与梳理思路（找工作的事情暂缓），趁闲暇之际，常看有关搜索引擎相关技术类的文章，接触到不少此前未曾触碰到的诸多概念与技术，如爬虫，网页抓取，分词，索引，查询，排序等等，更惊叹于每一幅精彩的架构图，特此，便有记录下来的冲动，以作备忘。 本文从最主要.....
分类：
其他好文 时间：
2014-07-09 20:04:15
阅读次数：
200
你是否苦恼于网上无法下载的“小说在线阅读”内容？或是某些文章的内容让你很有收藏的冲动，却找不到一个下载的链接？是不是有种自己写个程序把全部搞定的冲动？是不是学了 python，想要找点东西大展拳脚，告诉别人“哥可是很牛逼的！”？那就让我们开始吧！ 哈哈
好吧，我就是最近写 Yii 写多了，想找点东西调剂一下.... = =
本项目以研究为目的，所有版权问题我们都是站在作者的一边，以看盗版小说为目的的读者们请自行面壁！
说了这么多，我们要做的就是把小说正文的内容从网页上爬下来，我们的...
分类：
编程语言 时间：
2014-07-08 19:53:59
阅读次数：
311
