大数据的时代，网络爬虫已经成为了获取数据的一个重要手段。 但要学习好爬虫并没有那么简单。首先知识点和方向实在是太多了，它关系到了计算机网络、编程基础、前端开发、后端开发、App 开发与逆向、网络安全、数据库、运维、机器学习、数据分析等各个方向的内容，它像一张大网一样把现在一些主流的技术栈都连接在了一 ...
分类：
编程语言 时间：
2020-06-30 14:26:14
阅读次数：
46
爬虫基础 什么是爬虫？ 爬虫就是通过编写程序模拟浏览器上网，让其去互联网上抓取数据的过程。 抓取互联网上的数据，为我所用，有了大量的数据，就如同有了一个数据银行一样，下一步做的就是如何将这些爬取的数据产品化，商业化。 爬虫的合法性探讨 爬虫作为一种计算机技术就决定了它的中立性，因此爬虫本身在法律上并 ...
分类：
其他好文 时间：
2020-06-30 11:05:52
阅读次数：
63
源代码: import requests path = "D:\abc.jpg" #用\或/（老师用的）存疑 r.encoding = r.apparent_encoding kv = {'user-agent':'Mozilla/5.0'} url = "见列表" r = requests.get ...
分类：
编程语言 时间：
2020-06-29 15:37:10
阅读次数：
77
import re import requests from bs4 import BeautifulSoup from openpyxl import Workbook from openpyxl.styles import Alignment requests：网页爬取的第三方库 re：内容解析 ...
分类：
编程语言 时间：
2020-06-29 13:22:06
阅读次数：
66
python爬虫：BeautifulSoup 使用select方法详解 1 html = """ 2 <html><head><title>The Dormouse's story</title></head> 3 <body> 4 <p class="title" name="dromouse"> ...
分类：
编程语言 时间：
2020-06-28 20:23:17
阅读次数：
61
注：看不清的右键图片，在新标签页打开图片！ 基础知识1 基础知识2 数据类型 字符串 序列 条件循环 列表元组 字典集合 函数1 函数2 文件对象 模块 面向对象 错误&异常 常用标准库及扩展 标准库概述 正则表达式 日期时间 系统、文件 进程、线程 数据库 数学运算、简单结构 爬虫基础知识 req ...
分类：
编程语言 时间：
2020-06-28 15:31:18
阅读次数：
125
爬虫其实就是对网页内特定id、class、标签内容的提取，多是循环出来的，对我们爬取非常便利。 1.安装node node官网下载安装包安装，后在命令行工具中输入node -v查看node安装的版本。 2.实现项目 创建项目并进入 mkdir node-worm && cd node-worm 初始 ...
分类：
Web程序 时间：
2020-06-28 15:12:30
阅读次数：
69
import pandas a=pandas.read_excel(r'D:\scrapy网络爬虫\nba.xlsx') bins=[0,5000000,max(a['Salary'])] group_by=['底','高'] a['new_col']=pandas.cut(a['Salary'], ...
分类：
其他好文 时间：
2020-06-28 14:56:18
阅读次数：
120
基于管道的持久化存储 1.数据解析 2.将解析的数据存储封装到item类型的对象 属性类型：scrapy.Field() 3.将item提交给管道 4.管道类中的process_item负责接收item且对其进行任意形式的持久化存储 5.在配置文件中开启管道 字典，键值（class：300） 注意： ...
分类：
编程语言 时间：
2020-06-28 12:51:45
阅读次数：
54
前言首先介绍一下携程的职级和薪资待遇职类：T（技术）、P（业务）、M（市场）等级划分：tips：1.最近?年携程股票涨了很多倍，很多?员?股票都有?百万，不考虑在内。2.携程?职时可以??选择股票和现?哪个更多，越晚进去的?股票越少。?如Q1拿300股，Q2只能拿到240股。3.携程没有那么规范，会根据当前的股票价格去给股数，携程很多?员?出不来，就是因为?上股票太多了。年终奖：12薪+2-4个?
分类：
其他好文 时间：
2020-06-28 11:13:56
阅读次数：
115
