码迷,mamicode.com
首页 > 编程语言 > 详细

Python天气预报采集器 python网页爬虫

时间:2014-04-28 15:31:09      阅读:712      评论:0      收藏:0      [点我收藏+]

标签:com   http   blog   class   style   div   code   size   tar   strong   art   

这个天气预报采集是从中国天气网提取广东省内主要城市的天气并回显。
本来是打算采集腾讯天气的,但是貌似它的数据是用js写上去还是什么的,得到的html文本中不包含数据,所以就算了

 爬虫简单说来包括两个步骤:获得网页文本、过滤得到数据。 
  1、获得html文本。 
  python在获取html方面十分方便,寥寥数行代码就可以实现需要的功能。 
def getHtml(url): 
page = urllib.urlopen(url) 
html = page.read() 
page.close() 
return html 

这么几行代码相信不用注释都能大概知道它的意思。 


  2、根据正则表达式等获得需要的内容。

  使用正则表达式时需要仔细观察该网页信息的结构,并写出正确的正则表达式。 
  python正则表达式的使用也很简洁。这里需要一个新的用法: 
def getWeather(html): 
reg = <a title=.*?>(.*?)</a>.*?<span>(.*?)</span>.*?<b>(.*?)</b> 
weatherList = re.compile(reg).findall(html) 
return weatherList 

其中reg是正则表达式,html是第一步获得的文本。findall的作用是找到html中所有符合正则匹配的字符串并存放到weatherList中。之后再枚举weatheList中的数据输出即可。 

  这里的正则表达式reg有两个地方要注意。 
  一个是“(.*?)”。只要是()中的内容都是我们将要获得的内容,如果有多个括号,那么findall的每个结果就都包含这几个括号中的内容。上面有三个括号,分别对应城市、最低温和最高温。 (脚本学堂 www.jbxue.com)
  另一个是“.*?”。python的正则匹配默认是贪婪的,即默认尽可能多地匹配字符串。如果在末尾加上问号,则表示非贪婪模式,即尽可能少地匹配字符串。在这里,由于有多个城市的信息需要匹配,所以需要使用非贪婪模式,否则匹配结果只剩下一个,且是不正确的。 

Python天气预报采集器 python网页爬虫,布布扣,bubuko.com

Python天气预报采集器 python网页爬虫

标签:com   http   blog   class   style   div   code   size   tar   strong   art   

原文地址:http://www.cnblogs.com/yes123/p/3695369.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!