码迷,mamicode.com
首页 > 其他好文 > 详细

爬虫,工具 - Splash

时间:2018-08-14 21:10:09      阅读:127      评论:0      收藏:0      [点我收藏+]

标签:ret   port   sts   table   splash   docke   sel   fun   渲染   

What is it?

Splash is a javascript rendering service. It’s a lightweight web browser with an HTTP API
http://splash.readthedocs.io/en/stable/

用途

爬虫方面可以抓取JS渲染的页面(selenium也可以解决此问题)

用法

  1. 用docker开启Splash服务(可以分布式,在多台机器上用docker开启Splash服务)
  2. Python中用拼接Lua脚本,请求Splash的API
import requests
from urllib.parse import quote

lua = ‘‘‘
function main(splash)
    return ‘hello‘
end
‘‘‘

url = ‘http://localhost:8050/execute?lua_source=‘ + quote(lua)
response = requests.get(url)
print(response.text)

爬虫,工具 - Splash

标签:ret   port   sts   table   splash   docke   sel   fun   渲染   

原文地址:https://www.cnblogs.com/allen2333/p/9477406.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!