scrapy中使用selenium+webdriver获取网页源码,爬取简书网站 由于简书中一些数据是通过js渲染出来的,所以通过正常的request请求返回的response源码中没有相关数据, 所以这里选择selenium+webdriver获取网页源码 1. 设置需要爬取的数据 import ...
分类:
Web程序 时间:
2020-05-30 09:16:08
阅读次数:
129
前言 做 web 自动化的时候,我们希望用例失败了能截图,这是之前用 selenium 写 ui 自动化用例的时候经常遇到的问题。 cypress 可以说是业界良心了,不仅帮我们失败的时候自动截图保存下来,还把每个用例都录制成了mp4的小视频,方便追踪问题的时候回复视频 screenshots 失败 ...
分类:
Web程序 时间:
2020-05-29 21:12:14
阅读次数:
144
1.首先你要安装selenium库啦 pip install selenium 2.selenium查找元素就八种方法 from selenium import webdriver driver=webdriver.Chrome() #说明find_elements_by 多了一个s,返回的就是一个 ...
分类:
其他好文 时间:
2020-05-28 21:41:12
阅读次数:
304
web driver: (Windows环境下) Firefox(上一目录可以找其他浏览器的driver) : 1)http://npm.taobao.org/mirrors/geckodriver/ 2)https://github.com/mozilla/geckodriver/releases ...
分类:
Web程序 时间:
2020-05-28 13:14:18
阅读次数:
189
内容参考Chrome官网https://sites.google.com/a/chromium.org/chromedriver/downloads chromedriver可在下面链接中下载到(官网链接): http://chromedriver.storage.googleapis.com/in ...
分类:
其他好文 时间:
2020-05-28 12:46:56
阅读次数:
246
在Base包中新建一个BasePage.py 这个文件中,主要封装一些基础的操作,比如说打开url,关闭浏览器,点击,输入,获取元素等与业务逻辑无关的最底层的操作 这个类,可以根据不同的项目需求进行拓展,本文只是举了一个简单的例子 class BasePage(object): def __init ...
分类:
其他好文 时间:
2020-05-27 15:55:38
阅读次数:
125
org.openqa.selenium.WebDriverException: unknown error: Runtime.executionContextCreated has invalid 'context': {"auxData":{"frameId":"FCF1F193B7F00B925 ...
分类:
移动开发 时间:
2020-05-27 12:21:07
阅读次数:
74
滚动操作 可以先在console中调试好 from selenium import webdriver import time driver = webdriver.Chrome('D:\\tools\chromedriver.exe') driver.get('https://tieba.baid ...
分类:
其他好文 时间:
2020-05-26 18:33:31
阅读次数:
62
一、selenium模块和爬虫之间具有怎样的关联 便捷的获取网站中动态加载的数据 便捷实现模拟登录 二、什么是selenium模块 基于浏览器自动化的一个模块 三、selenium使用流程 1、环境安装:pip install selenium -i https://mirrors.aliyun.c ...
分类:
其他好文 时间:
2020-05-26 18:09:10
阅读次数:
85