一、爬虫框架Scarpy简介Scrapy 是一个快速的高层次的屏幕抓取和网页爬虫框架，爬取网站，从网站页面得到结构化的数据，它有着广泛的用途，从数据挖掘到监测和自动测试，Scrapy完全用Python实现，完全开源，代码托管在Github上，可运行在Linux，Windows，Mac和BSD平台上，
分类：
编程语言 时间：
2016-03-19 06:17:12
阅读次数：
223
最近在自学爬虫框架scrapy，看了看官网文档，迫不及待动手安装。结果错误百出，惨不忍睹。网上搜了一篇文章，（原文链接http://www.tuicool.com/articles/URNVV3E）。首先，介绍下环境：1、Centos6.5x64安装在VMware虚拟机中，因为后期需要移植，遂选择了兼容vm10.0。#yum-yupd..
分类：
其他好文 时间：
2016-02-04 01:57:55
阅读次数：
379
最近实验室的项目中有一个需求是这样的，需要爬取若干个（数目不小）网站发布的文章元数据（标题、时间、正文等）。问题是这些网站都很老旧和小众，当然也不可能遵守Microdata这类标准。这时候所有网页共用一套默认规则无法保证正确抓取到信息，而每个网页写一份spider代码也不切实际。这时候，我迫切地希望...
分类：
编程语言 时间：
2015-08-29 16:57:23
阅读次数：
338
Linux 安装python爬虫框架 scrapy...
分类：
编程语言 时间：
2015-08-21 17:12:35
阅读次数：
163
Python入门网络爬虫之精华版Python学习网络爬虫主要分3个大的版块：抓取，分析，存储
另外，比较常用的爬虫框架Scrapy，这里最后也介绍一下。
先列举一下相关参考：宁哥的小站-网络爬虫 抓取这一步，你要明确要得到的内容是是什么？是HTML源码，还是Json格式的字符串等等。 1. 最基本的抓取一般属于get请求情况，直接从服务器上获取数据。
首先，Python中自带urllib及...
分类：
编程语言 时间：
2015-08-19 13:22:48
阅读次数：
220
前面十章爬虫笔记陆陆续续记录了一些简单的Python爬虫知识，用来解决简单的贴吧下载，绩点运算自然不在话下。不过要想批量下载大量的内容，比如知乎的所有的问答，那便显得游刃不有余了点。于是乎，爬虫框架Scrapy就这样出场了！Scrapy = Scrach+Python，Scrach这个单词是抓取的意...
分类：
其他好文 时间：
2015-08-07 07:02:47
阅读次数：
175
一，我是如何使用Python抓取网页的我知道Python有一个爬虫框架scrapy，但是目前还没有学习，并且也没有什么很棘手的的问题需要去使用一个爬虫框架，所以我就用Python自带的urllib，将目标网页爬下来，然后用正则过滤出自己需要的内容。二，效率问题上面的方法简单，真的是上手即用，但是问题是效率问题，如果一个网页一个网页的抓，显然带宽无法达到最高，浪费了大部分带宽，这时候大部分人都会想到，...
分类：
编程语言 时间：
2015-07-30 00:46:17
阅读次数：
253
我们使用dmoz.org这个网站来作为小抓抓一展身手的对象。首先先要回答一个问题。问：把网站装进爬虫里，总共分几步？答案很简单，四步：新建项目 (Project)：新建一个新的爬虫项目明确目标（Items）：明确你想要抓取的目标制作爬虫（Spider）：制作爬虫开始爬取网页存储内容（Pipeline...
分类：
其他好文 时间：
2015-07-30 00:25:03
阅读次数：
160
学习一门语言之前，要先搞清楚为什么要学习它，不能因为它火，就去学习，要明白火在哪里，优势在哪，在哪方面是其他语言无法取代的。那么我学习python的初衷就是因为它有一个出色的轻量级爬虫框架 scrapy，其实想应用框架是不需要学习python的，因为python的语法真的是很简单易懂，但既然接触了，就要系统的学习一下吧。...
分类：
编程语言 时间：
2015-05-24 14:16:53
阅读次数：
145
defprocess_item(self,item,spider):ifre.search(r‘***‘,item[‘lineContent‘].encode(‘utf8‘)):raiseDropItem("noneedin%s"%item[‘lineContent‘])else:ifspider.name==‘**‘:query=self.dbpool.runInteraction(self._conditional_insert,item)#query.addErrback(self.handle_err..
分类：
其他好文 时间：
2015-04-06 06:35:15
阅读次数：
1264
