码迷,mamicode.com
首页 >  
搜索关键字:requests    ( 4533个结果
接口框架 python+unittest+request+HTMLTestRunner
request的各种方法主要用来处理客户端浏览器提交的请求中的各项参数和选项。如POST,GET最常用的两种请求 官方文档:http://docs.python-requests.org/en/master/user/quickstart/# 安装方法:https://www.cnblogs.com ...
分类:编程语言   时间:2019-03-11 16:18:41    阅读次数:702
使用requests、re、BeautifulSoup、线程池爬取携程酒店信息并保存到Excel中
import requests import json import re import csv import threadpool import time, random from bs4 import BeautifulSoup from fake_useragent import UserAg... ...
分类:编程语言   时间:2019-03-11 13:15:16    阅读次数:174
从Web抓取信息的几个常用方法
1、Response 对象有一个 status_code 属性,可以检查它是否等于requests.codes.ok。 2、raise_for_status()方法是一种很好的方式,确保程序在下载失败时停止。 3、BeautifulSoup模块: (1)、BeautifulSoup()函数调用时需要 ...
分类:Web程序   时间:2019-03-11 09:16:54    阅读次数:213
用 requests 模块从 Web 下载文件
用 requests 模块从 Web 下载文件 requests 模块让你很容易从 Web 下载文件,不必担心一些复杂的问题,诸如网络错误、连接问题和数据压缩。requests 模块不是 Python 自带的,所以必须先安装。 requests.get()函数接受一个要下载的 URL 字符串。通过在 ...
分类:Web程序   时间:2019-03-11 09:12:05    阅读次数:219
爬虫入门-4-2.爬取豆瓣读书图片
一.利用lxml解析 二.利用beautifulSoup解析: 1 import os 2 3 import requests 4 from bs4 import BeautifulSoup 5 6 PROXY = { 7 'HTTPS': '116.209.55.208:9999' 8 } 9 1 ...
分类:其他好文   时间:2019-03-10 20:41:56    阅读次数:296
Nginx - keepliave 相关知识点
目录 - 1. 前言- 2. keepalive 介绍- 3. Nginx 与 keepalive 的关系 - 3.1 Nginx - keepalive_timeout - 3.2 Nginx - keepalive_requests - 3.3 Nginx - upstream - keepal ...
分类:其他好文   时间:2019-03-10 20:34:40    阅读次数:342
<爬虫>黑板爬虫闯关02
import requests from lxml import etree ''' 黑板爬虫闯关02 网址:http://www.heibanke.com/lesson/crawler_ex01/ ''' url = "http://www.heibanke.com/lesson/crawler_... ...
分类:其他好文   时间:2019-03-10 20:32:49    阅读次数:166
爬虫入门-4-3.爬取豆瓣电影
1 import requests 2 3 url = "https://movie.douban.com/cinema/nowplaying/changsha/" 4 proxy = { 5 'HTTP': '116.209.53.143:9999' 6 } 7 headers = { 8 'Us ...
分类:其他好文   时间:2019-03-10 20:31:45    阅读次数:206
爬虫入门-5-1.正则表达式在爬虫中的应用
1.爬取百思不得姐段子 1 import requests 2 import re 3 4 5 def parse_url(url): 6 headers = { 7 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) ' 8 'Appl ...
分类:其他好文   时间:2019-03-10 20:24:56    阅读次数:255
初阶爬虫(三)
来一段:importrequestsurl="https://en.wikipedia.org/wiki/Steve_Jobs"res=requests.get(url)print(res.status_code)withopen(‘a.html‘,‘w‘,encoding=‘utf-8‘)asf:f.write(res.text)保存一个网页,由于windows和python编码的原因,所以在o
分类:其他好文   时间:2019-03-10 19:09:04    阅读次数:145
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!