【一、项目背景】豆瓣电影提供最新的电影介绍及评论包括上映影片的影讯查询及购票服务。可以记录想看、在看和看过的电影电视剧、顺便打分、写影评。极大地方便了人们的生活。今天以电视剧（美剧）为例，批量爬取对应的电影，写入csv文档。用户可以通过评分，更好的选择自己想要的电影。【二、项目目标】获取对应的电影名称，评分，详情链接，下载电影的图片，保存文档。【三、涉及的库和网站】1、网址如下：https://m
分类：
编程语言 时间：
2020-09-14 18:45:59
阅读次数：
35
【一、项目背景】[蜜柑计划-MikanProject]：新一代的动漫下载站。是一个专门为喜欢动漫的小伙伴们打造的动漫视频在线播放网站，为大家第一时间分享最新动漫资源，每日精选最优质的动漫推荐。【二、项目目标】实现获取动漫种子链接，并下载保存在文档。【三、涉及的库和网站】1、网址如下：https://mikanani.me/Home/Classic/{}2、涉及的库：reques**ts、lxml、
分类：
编程语言 时间：
2020-09-04 17:01:02
阅读次数：
58
网络爬虫： 网络爬虫（又称为网页蜘蛛，网络机器人，在FOAF社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。 以上是网络爬虫的百度，下面开始介绍使用Python进行网络爬虫来获取数据。 用来获取 ...
分类：
编程语言 时间：
2020-08-16 00:02:06
阅读次数：
130
【一、项目背景】百度贴吧是全球最大的中文交流平台，你是否跟我一样，有时候看到评论区的图片想下载呢？或者看到一段视频想进行下载呢？今天，小编带大家通过搜索关键字来获取评论区的图片和视频。【二、项目目标】实现把贴吧获取的图片或视频保存在一个文件。【三、涉及的库和网站】1、网址如下：https://tieba.baidu.com/f?ie=utf-8&kw=吴京&fr=search2、涉
分类：
编程语言 时间：
2020-08-13 12:23:55
阅读次数：
72
一、python爬虫环境与简介 二、认识HTTP 三、简单静态网页爬取 四、常规动态网页爬取 五、模拟登陆 六、PC客户端抓包 七、Scrapy爬虫 一、python爬虫环境与简介 1、认识爬虫 （1）爬虫的概念 网络爬虫也被称为网络蜘蛛、网络机器人，是一个自动下载网页的计算机程序或自动化脚本。 网 ...
分类：
编程语言 时间：
2020-07-25 09:28:47
阅读次数：
66
Python网络爬虫第三弹《爬取get请求的页面数据》 一.urllib库 urllib是Python自带的一个用于爬虫的库，其主要作用就是可以通过代码模拟浏览器发送请求。其常被用到的子模块在Python3中的为urllib.request和urllib.parse，在Python2中是urllib ...
分类：
编程语言 时间：
2020-07-11 17:38:07
阅读次数：
76
是什么？ 网络爬虫就是自动从互联网中定向或不定向地采集信息的一种程序 网络爬虫有很多种类型，常用的有通用网络爬虫、聚焦网络爬虫等。 做什么？ 通用网络爬虫可以应用在搜索引擎中，聚焦网络爬虫可以从互联网中自动采集信息并代替我们筛选出相关的数据出来。 网络爬虫经常应用在以下方面： 1、 搜索引擎 2、 ...
分类：
编程语言 时间：
2020-07-11 17:14:26
阅读次数：
69
08.Python网络爬虫之图片懒加载技术、selenium和PhantomJS 引入 今日概要 图片懒加载 selenium phantomJs 谷歌无头浏览器 知识点回顾 验证码处理流程 今日详情 动态数据加载处理 一.图片懒加载 什么是图片懒加载？ 案例分析：抓取站长素材http://sc.c ...
分类：
编程语言 时间：
2020-07-11 14:21:38
阅读次数：
98
1、简单的抓取网页 from urllib import requestreq=request.Request("http://www.baidu.com")response=request.urlopen(req)html=response.read()html=html.decode("utf- ...
分类：
编程语言 时间：
2020-06-26 21:59:22
阅读次数：
62
为了更好的进行网络爬虫，应对一些站点的反爬机制，我们通常都要使用一些反反爬策略，其中，构造UA池和IP代理池，每次抓取网页时都采用随机的UA和代理IP是非常实用的一种策略。因此，先来给大家打个样，可以少踩一些坑的。 目标：抓取百度首页源码 import requests import random ...
分类：
编程语言 时间：
2020-06-18 13:14:13
阅读次数：
61
