码迷,mamicode.com
首页 > Web开发 > 详细

爬虫学习-urlparse之urljoin()

时间:2018-09-20 13:52:16      阅读:325      评论:0      收藏:0      [点我收藏+]

标签:str   join()   comment   javascrip   class   aaa   fragment   rom   void   

首先导入模块,用help查看相关文档

技术分享图片
>>> from urlparse import urljoin
>>> help(urljoin)
Help on function urljoin in module urlparse:

urljoin(base, url, allow_fragments=True)
    Join a base URL and a possibly relative URL to form an absolute
    interpretation of the latter.
    
技术分享图片

 

1
意思就是将基地址与一个相对地址形成一个绝对地址,然而讲的太过抽象

 

接下来,看几个例子,从例子中发现规律。

 

技术分享图片
>>> urljoin("http://www.google.com/1/aaa.html","bbbb.html")
‘http://www.google.com/1/bbbb.html‘
>>> urljoin("http://www.google.com/1/aaa.html","2/bbbb.html")
‘http://www.google.com/1/2/bbbb.html‘
>>> urljoin("http://www.google.com/1/aaa.html","/2/bbbb.html")
‘http://www.google.com/2/bbbb.html‘
>>> urljoin("http://www.google.com/1/aaa.html","http://www.google.com/3/ccc.html")
‘http://www.google.com/3/ccc.html‘
>>> urljoin("http://www.google.com/1/aaa.html","http://www.google.com/ccc.html")
‘http://www.google.com/ccc.html‘
>>> urljoin("http://www.google.com/1/aaa.html","javascript:void(0)")
‘javascript:void(0)‘
技术分享图片

 

规律不难发现,但是并不是万事大吉了,还需要处理特殊情况,如链接是其本身,链接中包含无效字符等

1
url = urljoin("****","****")<br><br>### find()查找字符串函数,如果查到:返回查找到的第一个出现的位置。否则,返回-1<br>if url.find("‘")!=-1:<br>    continue  <br><br>### 只取井号前部分<br>url = url.split(‘#‘)[0]<br><br>### 这个isindexed()是我自己定义的函数,判断该链接不在保存链接的数据库中<br>if url[0:4]==‘http‘ and not self.isindexed(url):<br><br>    ###newpages = set(),无序不重复元素集<br>    newpages.add(url)

?

爬虫学习-urlparse之urljoin()

标签:str   join()   comment   javascrip   class   aaa   fragment   rom   void   

原文地址:https://www.cnblogs.com/php-linux/p/9680193.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!