Scrapy是一个开源的机遇twisted框架的python的单机爬虫，该爬虫实际上包含大多数网页抓取的工具包，用于爬虫下载端以及抽取端。安装环境:centos5.4python2.7.3安装步骤:1.下载python2.7http://www.python.org/ftp/python/2.7.3...
分类：
其他好文 时间：
2014-09-07 18:24:45
阅读次数：
317
最近手头上有一个项目，是关于新浪微博的，其中有一环要做新浪微博的爬虫。虽然之前把《Python学习手册》和《Python核心编程》都囫囵吞栆地通读完了，不过真正到做项目的时候还是什么都不会。于是在网上找了大量的资料。关于获取新浪微博的内容，大致有两种方法，一种是用纯爬..
分类：
编程语言 时间：
2014-09-07 03:22:35
阅读次数：
670
正则表达式和python的re模块
By 钟桓
9月 4 2014 更新日期:9月 4 2014
文章目录
1. 什么是正则表达式2. 元字符使用一览表：3. 字符转义4. 重复5. 字符类6. 分支条件7. 分组8. re模块
8.0.1. compile8.0.2. match和search8.0.3. split8.0.4. findall8.0.5. findite...
分类：
编程语言 时间：
2014-09-05 11:29:41
阅读次数：
309
引言记得几年前在做网页爬虫后的信息抽取时，针对网页源码中隐藏的要提取的信息，比如评论、用户信息等属性信息，直接利用HtmlParser得到。如此做倒是简单，不过利用的是网页的规范的tag标记。其实java中的正则表达式也可以用来实现这一功能。而且对于非tag的一些有规律的系列组合的字符串，正则表达式...
分类：
编程语言 时间：
2014-09-04 16:30:19
阅读次数：
186
python网络爬虫学习笔记
By 钟桓
9月 4 2014 更新日期:9月 4 2014
文章目录
1. 介绍：2. 从简单语句中开始:3. 传送数据给服务器4. HTTP头—描述数据的数据5. 异常
5.0.1. URLError5.0.2. HTTPError5.0.3. 处理异常5.0.4. info和geturl
6. Opener和Handler7. Ba...
分类：
编程语言 时间：
2014-09-04 15:04:19
阅读次数：
357
Robots协议（也称为爬虫协议、机器人协议等）的全称是“网络爬虫排除标准”（Robots Exclusion Protocol），网站通过Robots协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取。Robots协议的本质是网站和搜索引擎爬虫的沟通方式，用来指导搜索引擎更好地抓取网站内容，而不是作为搜索引擎之间互相限制和不正当竞争的工具。
找到wechall的robots.txt ht...
分类：
其他好文 时间：
2014-09-04 15:03:09
阅读次数：
542
re模块提供了一个郑则表达式的引擎接口，可以让你的Restring变异成对象并用它来进行匹配，这样效率比较高。附上例子让我们一块体验一下吧。以下是我写的类似与爬虫的小脚本，供大家参考#!/usr/bin/python#coding=utf-8importurllibimportreimportosdefgetHtmlData():returnurll..
分类：
编程语言 时间：
2014-09-04 03:05:28
阅读次数：
173
转自：http://guoyunsky.iteye.com/blog/1169912队列很常见,但大部分的队列是将数据放入到内存.如果数据过多,就有内存溢出危险,而且长久占据着内存,也会影响性能.比如爬虫,将要抓取的URL放到内存,而URL过多,内存肯定要爆.在读Heritrix源码中,发现Heri...
分类：
数据库 时间：
2014-09-03 14:45:16
阅读次数：
468
前言：python下的celery是啥东西大家应该有了解，是一个异步的任务框架。话说，我以前写过一个报警平台的项目，也需要任务的扩展成分布式，当时总是觉得用celery不是那么太靠谱，所以就自己写了一个分布式的任务派发的系统。今个和朋友聊起了分布式爬虫，这哥们说任务有时候经..
分类：
编程语言 时间：
2014-09-03 02:42:47
阅读次数：
1943
上一节我们通过爬虫工具爬取了近七万条二手房数据，那么这一节就对这些数据进行预处理，也就是所谓的ETL(Extract-Transform-Load) 一.ETL工具的必要性 数据分析的前提是数据清洗。不论如何高大上的算法，遇到错误数据，一个异常抛出来，绝对尸横遍野。而你不能指望核心算法为你处理错.....
分类：
其他好文 时间：
2014-09-01 22:32:33
阅读次数：
347
