1.urllib 中的urlopen urllib.urlopen(url,data) 如果请求是json格式,则data是json.dumps(data_dict)形成的数据,注意,不能在进行urllib.urlencode编码了。 如果请求不是json,则data是 urllib.urlenco ...
分类:
Web程序 时间:
2016-04-12 12:57:43
阅读次数:
181
urllib2库做接口测试GET请求#coding=utf-8
importurllib2
response=urllib2.urlopen(‘http://localhost:8080/jenkins/api/json‘)
printresponse.read()POST请求importurllib2
importurllib
post_data=urllib.urlencode({})#传入POST请求所带的参数,此处若不需要传入参数则为..
分类:
编程语言 时间:
2016-04-05 14:12:49
阅读次数:
211
python urllib2使用心得 1、http GET请求 过程:获取返回结果,关闭连接,打印结果 f = urllib2.urlopen(req, timeout=10) the_page = f.read() f.close()print the_page 2、http GET请求 + 包头 ...
分类:
编程语言 时间:
2016-03-31 16:54:52
阅读次数:
215
项目需要继续爬点昵称~~~先上代码#coding=utf-8
importurllib,urllib2
importre
frombs4importBeautifulSoup
importtime
importsys
reload(sys)
sys.setdefaultencoding(‘utf-8‘)
#获取要下载图片的整个页面的信息
defgetHtml(url):
page=urllib2.urlopen(url)
html=page.read(..
分类:
Web程序 时间:
2016-03-11 22:35:00
阅读次数:
232
#coding=utf-8
importurllib2
importre
frombs4importBeautifulSoup
importsys
reload(sys)
sys.setdefaultencoding(‘utf-8‘)
defgetHtml(url):
page=urllib2.urlopen(url)
html=page.read()
returnhtml
url="http://www.yw11.com/html/mi/3-85-0-1.htm"
user_agent=‘Mozill..
分类:
其他好文 时间:
2016-03-11 17:18:30
阅读次数:
169
今天晚上弄了一个简单的爬虫,可以爬取网页的图片,现在现在做一下准备工作。 需要的库:urllib 和 re urllib库可以理解为是一个url下载器,其中的有两个重要的方法 urllib.urlopen()和urllib.read()这两个方法,具体使用可以在网上查到;re这个库提供对正则表达式支
分类:
编程语言 时间:
2016-03-11 01:12:18
阅读次数:
792
#!/usr/bin/pythonimporturllib2importjsondeflogin(username,password,url,data):request=urllib2.Request(url,data)forkeyinheader:request.add_header(key,header[key])try:result=urllib2.urlopen(request)exceptURLErrorase:print"urlerror:",e.codeelse:response=json.lo..
正常用Python抓取网页信息,需要用到urllib2,调用urllib2.urlopen(url),可以获得response 反馈信息,再用response.read()即可获得页面的源码。 最简单的抓包代码: import urllib2 response = urllib2.urlopen('
分类:
Web程序 时间:
2016-02-16 19:07:29
阅读次数:
192
学过python的帅哥都知道,爬虫是python的非常好玩的东西,而且python自带urllib、urllib2、requests等的库,为爬虫的开发提供大大的方便。这次我要用urllib2,爬一堆风景图片。先上重点代码1 response = urllib2.urlopen(url).r...
分类:
编程语言 时间:
2016-01-24 14:18:25
阅读次数:
186
import urllib.requestdef get_price(): page=urllib.request.urlopen("http://www.baidu.com") text=page.read().decode("utf8") where=text.find('="...
分类:
编程语言 时间:
2016-01-21 13:50:47
阅读次数:
252