一. requests库的介绍与安装 pip install requests 二. 请求数据场景 2.1 请求方式:GET, 请求类型:application/x-www-form-urlencoded # -*- coding: utf-8 -*- # @Time : 2021/5/11 23: ...
分类:
编程语言 时间:
2021-05-24 07:15:29
阅读次数:
0
最近做一个爬虫项目,需要curl请求第三方系统,其中一个请求放到postman的时候秒回,代码curl请超时,打印错误信息:empty reply from server 翻阅网上资料无果,只能用排除法,去掉请求的一些配置看是哪里影响了,最后发现去掉post data 后请求秒回,虽然返回的是请求失 ...
分类:
Web程序 时间:
2021-05-24 07:00:36
阅读次数:
0
python正则表达式 1、re简介 正则表达式re,是Regular Expression的简称。正则表达式通常被用来检索、替换那些符合某个模式(规则)的文本。 2、在python中使用正则表达式 在python中许多场合(本人是在使用爬虫时)正则表达式都能起到很关键的作用,在使用前,先引用re包 ...
分类:
编程语言 时间:
2021-05-24 06:44:03
阅读次数:
0
docker-py是Docker SDK for Python。docker-py主要利用了requests,使用http/socket协议连接本地的docker engine进行操作。对 docker 感兴趣,苦于工作中只用到 http 协议的同学,都建议阅读一下本文。话不多数,一起了解docke ...
分类:
其他好文 时间:
2021-05-24 06:20:47
阅读次数:
0
Scrapy 是一个通用的爬虫框架,但是不支持分布式,Scrapy-redis是为了更方便地实现Scrapy分布式爬取,而提供了一些以redis为基础的组件(仅有组件)。 一、Scrapy-Redis分布式策略: Master端(核心服务器):搭建一个Redis数据库,并开启redis-server ...
分类:
其他好文 时间:
2021-05-24 06:20:04
阅读次数:
0
一. 安装: 1. 安装py3,使用Homebrew: ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install)" brew install python3 2. 安装请求库,Pi ...
分类:
编程语言 时间:
2021-05-24 04:50:49
阅读次数:
0
直接上代码吧 中间件简单使用: # -*- coding: utf-8 -*- # Define here the models for your spider middleware # # See documentation in: # https://docs.scrapy.org/en/lat ...
分类:
其他好文 时间:
2021-05-24 03:01:58
阅读次数:
0
基于Flask的示例 Server端 from flask import Flask,render_template import time app = Flask(__name__) @app.route('/bobo') def index_bobo(): time.sleep(2) retur ...
分类:
其他好文 时间:
2021-05-24 02:55:58
阅读次数:
0
代码(仅限用于学习交流,未经允许不得用于商业获取非法利益): import requests from bs4 import BeautifulSoup import time import csv def get_url(start_num,end_num): url_list = [] #建立一 ...
分类:
其他好文 时间:
2021-05-24 02:50:08
阅读次数:
0
1.服务端渲染技术nuxt 1.1什么是服务器端渲染 服务端渲染又称SSR (Server Side Render)是在服务端完成页面的内容,而不是在客户端通过AJAX获取数据。 服务器端渲染(SSR)的优势主要在于:更好的 SEO,由于搜索引擎爬虫抓取工具可以直接查看完全渲染的页面。 如果你的应用 ...
分类:
其他好文 时间:
2021-05-24 02:40:40
阅读次数:
0