码迷,mamicode.com
首页 >  
搜索关键字:requests 、beautifulsoup    ( 5272个结果
下载中间件、爬虫中间件
组件以及执行流程 -引擎找到要执行爬虫,并执行爬虫的start_requests 方法, 并得到一个迭代器。 -迭代器循环时会获取Request对象,而Request对象中封装了要访问的URL和回调函数。 -将所有的Request对象(任务)放到调试器中,用于以后被下载器下载 -下载器云调试器中获取 ...
分类:其他好文   时间:2020-06-14 16:35:50    阅读次数:66
Python+unittest+requests 接口自动化测试框架搭建 完整的框架搭建过程 实战
一、Python+unittest+requests+HTMLTestRunner 完整的接口自动化测试框架搭建_00——框架结构简解 首先配置好开发环境,下载安装Python并下载安装pycharm,在pycharm中创建项目功能目录。如果不会的可以百度Google一下,该内容网上的讲解还是比较多 ...
分类:编程语言   时间:2020-06-14 01:23:20    阅读次数:290
Python基础——爬虫以及简单的数据分析
目标:使用Python编写爬虫,获取链家青岛站的房产信息,然后对爬取的房产信息进行分析。 环境:win10+python3.8+pycharm Python库: 1 import requests 2 import bs4 3 from bs4 import BeautifulSoup 4 impo ...
分类:编程语言   时间:2020-06-13 23:25:03    阅读次数:68
百度地图API调用
百度地图API调用 这次主要用到的是地理编码服务 1. 什么是地理编码服务 1.1 介绍 地理编码服务(又名Geocoder)是一类Web API接口服务; 地理编码服务提供将结构化地址数据(如:北京市海淀区上地十街十号)转换为对应坐标点(经纬度)功能; 地理编码服务当前未推出国际化服务,解析地址仅 ...
分类:Windows程序   时间:2020-06-13 17:26:02    阅读次数:228
httprunner系列04——环境变量env和脚本函数debugtalk.py的使用
前言: 一、环境变量的使用1.1 创建.env文件,将需要设置为环境变量的值,存储在env中 1.2 使用${ENV(变量名)}调用环境变量 二、脚本函数 debugtalk.py 2.1 创建一debugtalk.py文件,编写好脚本 import requests def get_token() ...
分类:Web程序   时间:2020-06-13 11:09:19    阅读次数:134
Requests 设置cookies方式
方法一: cookie是字典格式 import requests cookies_value = {'name1': 'value1', 'name2': 'value2'} response = requests.post(url=url, data=data, cookies=cookies_v ...
分类:其他好文   时间:2020-06-13 10:29:24    阅读次数:421
7.接口自动化-环境常用库搭建
一、安装接口需要用到的库 1、安装Requests库 pip install requestspip install --upgrade requestspip install -U requests由于robotframework-requests库依赖这个requests库,注意:安装的先后顺序 ...
分类:其他好文   时间:2020-06-12 14:51:18    阅读次数:104
Python3 requests模块实现模仿浏览器+代理访问
import requests def xiaodai(): url = 'http://erge1998.cn/' proxies = { 'http': 'http://149.28.38.64:1081', 'https': 'https://149.28.38.64:1081' } head ...
分类:编程语言   时间:2020-06-12 14:20:55    阅读次数:90
python爬虫之 Requests库的基本使用
注:requests不是python内置的库,需要单独安装,pip3 install requests 功能详解: 基本GET请求: import requests response = requests.get('http://httpbin.org/get') print(response.te ...
分类:编程语言   时间:2020-06-12 12:42:09    阅读次数:69
如何解决 Python print 输出文本显示 gbk 编码错误
恢复内容开始 前阵子想爬点东西,结果一直提示错误UnicodeEncodeError: ‘gbk’ codec can’t encode character ‘\xa0’ in position,在网上一查,发现是 Windows 的控制台的问题。控制台的编码是 GBK,Python 是 UTF-8 ...
分类:编程语言   时间:2020-06-12 12:39:06    阅读次数:61
5272条   上一页 1 ... 33 34 35 36 37 ... 528 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!