码迷,mamicode.com
首页 > 编程语言 > 详细

python爬虫,一段完整的python爬虫批量下载网站图片资源的代码

时间:2020-01-29 16:22:10      阅读:107      评论:0      收藏:0      [点我收藏+]

标签:变量   target   微网站   images   中间   二进制   定义   div   odi   

# 本程序为爬虫学习代码,成功爬取了漫微网站上的全部图片内容
import re
import os
import requests

def getHTMLText(url):
    try:
        r=requests.get(url)
        r.raise_for_status()
        r.encoding=r.apparent_encoding
        return r.text
    except:
        print("request failed")

url = http://marvel.mtime.com/ # 漫微网址
web_data = getHTMLText(url)  # web_data保存目标url的html代码内容
res = re.compile(rsrc="(.+?.jpg)") # 定义查询规则,所有以src开头,中间包含任意多个字符的,并且结尾为.jpg的文件被
                                    #提取并保存
reg = re.findall(res, web_data) # 在web_data中找到并提取满足res规则的全部字符串,并保存在reg列表
for i in reg:
    target_url = url + i      # 变量target_url获得图片的url
    try:
        pic = requests.get(target_url).content # 从target_url下载了图片,并以二进制的形式保存在变量pic中
    except:
        print(target_url + can not open)
    res = re.compile(rimages/(.+?.jpg))
    pic_name = re.findall(res, i)[0]  #提取图片文件名,从结果数组第[0]个元素获得具体文件名
    print(pic_name)
    with open(pic_name, wb) as f:
        f.write(pic)

 

python爬虫,一段完整的python爬虫批量下载网站图片资源的代码

标签:变量   target   微网站   images   中间   二进制   定义   div   odi   

原文地址:https://www.cnblogs.com/iceberg710815/p/12240408.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!