组件以及执行流程 -引擎找到要执行爬虫,并执行爬虫的start_requests 方法, 并得到一个迭代器。 -迭代器循环时会获取Request对象,而Request对象中封装了要访问的URL和回调函数。 -将所有的Request对象(任务)放到调试器中,用于以后被下载器下载 -下载器云调试器中获取 ...
分类:
其他好文 时间:
2020-06-14 16:35:50
阅读次数:
66
一、Python+unittest+requests+HTMLTestRunner 完整的接口自动化测试框架搭建_00——框架结构简解 首先配置好开发环境,下载安装Python并下载安装pycharm,在pycharm中创建项目功能目录。如果不会的可以百度Google一下,该内容网上的讲解还是比较多 ...
分类:
编程语言 时间:
2020-06-14 01:23:20
阅读次数:
290
目标:使用Python编写爬虫,获取链家青岛站的房产信息,然后对爬取的房产信息进行分析。 环境:win10+python3.8+pycharm Python库: 1 import requests 2 import bs4 3 from bs4 import BeautifulSoup 4 impo ...
分类:
编程语言 时间:
2020-06-13 23:25:03
阅读次数:
68
百度地图API调用 这次主要用到的是地理编码服务 1. 什么是地理编码服务 1.1 介绍 地理编码服务(又名Geocoder)是一类Web API接口服务; 地理编码服务提供将结构化地址数据(如:北京市海淀区上地十街十号)转换为对应坐标点(经纬度)功能; 地理编码服务当前未推出国际化服务,解析地址仅 ...
前言: 一、环境变量的使用1.1 创建.env文件,将需要设置为环境变量的值,存储在env中 1.2 使用${ENV(变量名)}调用环境变量 二、脚本函数 debugtalk.py 2.1 创建一debugtalk.py文件,编写好脚本 import requests def get_token() ...
分类:
Web程序 时间:
2020-06-13 11:09:19
阅读次数:
134
方法一: cookie是字典格式 import requests cookies_value = {'name1': 'value1', 'name2': 'value2'} response = requests.post(url=url, data=data, cookies=cookies_v ...
分类:
其他好文 时间:
2020-06-13 10:29:24
阅读次数:
421
一、安装接口需要用到的库 1、安装Requests库 pip install requestspip install --upgrade requestspip install -U requests由于robotframework-requests库依赖这个requests库,注意:安装的先后顺序 ...
分类:
其他好文 时间:
2020-06-12 14:51:18
阅读次数:
104
import requests def xiaodai(): url = 'http://erge1998.cn/' proxies = { 'http': 'http://149.28.38.64:1081', 'https': 'https://149.28.38.64:1081' } head ...
分类:
编程语言 时间:
2020-06-12 14:20:55
阅读次数:
90
注:requests不是python内置的库,需要单独安装,pip3 install requests 功能详解: 基本GET请求: import requests response = requests.get('http://httpbin.org/get') print(response.te ...
分类:
编程语言 时间:
2020-06-12 12:42:09
阅读次数:
69
恢复内容开始 前阵子想爬点东西,结果一直提示错误UnicodeEncodeError: ‘gbk’ codec can’t encode character ‘\xa0’ in position,在网上一查,发现是 Windows 的控制台的问题。控制台的编码是 GBK,Python 是 UTF-8 ...
分类:
编程语言 时间:
2020-06-12 12:39:06
阅读次数:
61