一、了解Statefulset1、Statefulset保证了pod在重新调度后保留它们的标识和状态。2、Statefulset做到每个pod对应相对的PV卷,每个POD都可以拥用一组独立的数据卷。3、提供稳定的网络标识,一个Statefulset创建的每个pod都有一个从零开始的顺序索引,这个体现在pod的名称和主机名上,同样还会体现在pod对应的固定存储上。4、让pod拥用可预知的名称和主机名
分类:
其他好文 时间:
2020-05-21 17:47:00
阅读次数:
59
1.我们爬虫一般使用的模块为urllib和requests模块,现在requests基本代替了urllib2.爬虫的基本步骤 第一步:获取指定的url(要爬取的数据发起的请求url) 第二步:发起请求(根据请求方式(POST,GET)发起请求)response = requsts.get(url) ...
分类:
其他好文 时间:
2020-05-21 13:23:27
阅读次数:
48
1、请求headers处理 我们有时请求服务器时,无论get或post请求,会出现403错误,这是因为服务器拒绝了你的访问,这时我们可以通过模拟浏览器的头部信息进行访问,这样就可以解决反爬设置的问题。 import requests # 创建需要爬取网页的地址 url = 'https://www. ...
分类:
编程语言 时间:
2020-05-21 00:33:50
阅读次数:
75
查询广东技术师范大学2018年最好大学排名以及科研质量。 import requests from bs4 import BeautifulSoup allUniv=[] def getHTMLText(url): try: r=requests.get(url,timeout=30) r.rais ...
分类:
其他好文 时间:
2020-05-21 00:16:47
阅读次数:
110
def write_report(url, excel_name, sheet_name): import re import ast import pandas as pd import openpyxl from copy import deepcopy resp = requests.get( ...
分类:
编程语言 时间:
2020-05-20 20:27:12
阅读次数:
438
1、requests模块常用方法 1、requests.request( ) 构造请求,是各方法的基础方法 2、requests.get() 发送get请求 3、requests.post() 发送post请求 4、requests.head() 发送head请求 上述各方法的基本使用个常用参数基本 ...
分类:
其他好文 时间:
2020-05-20 18:33:59
阅读次数:
49
# 爬取网易音乐 import requests from bs4 import BeautifulSoup import urllib.request headers = {"origin": "https://music.163.com", "referer": "https://music.1 ...
分类:
编程语言 时间:
2020-05-19 18:40:16
阅读次数:
107
功能描述 输入:大学排名URL链接 输出:大学排名信息的屏幕输出(排名,大学名称,总分) 技术路线:requests-bs4 定向爬虫:仅对输入URL进行爬取,不扩展爬取 程序的结构设计 步骤1:从网络上获取大学排名网页内容 getHTMLText() 步骤2:提取网页内容中信息到合适的数据结构 ...
分类:
其他好文 时间:
2020-05-19 12:31:40
阅读次数:
107
request封装 import requests class RequestsHandler: def __init__(self): self.session = requests.Session() def visit(self, url, method, params=None, data= ...
分类:
其他好文 时间:
2020-05-18 22:26:42
阅读次数:
64
import requests import json page=1 while True: url='http://www.kfc.com.cn/kfccda/ashx/GetStoreList.ashx?op=cname' data={ 'cname':'广州', 'pageIndex': pa ...
分类:
Web程序 时间:
2020-05-18 15:56:57
阅读次数:
63