码迷,mamicode.com
首页 > 编程语言 > 详细

Python网页解析器使用实例详解

时间:2020-07-26 00:29:13      阅读:83      评论:0      收藏:0      [点我收藏+]

标签:website   ima   urllib   方式   text   headers   images   utf-8   class   

python 网页解析器

  1、常见的python网页解析工具有:re正则匹配、python自带的html.parser模块、第三方库BeautifulSoup(重点学习)以及lxm库。

技术图片
 

  2、常见网页解析器分类

  (1)模糊匹配 :re正则表达式即为字符串式的模糊匹配模式;

  (2)结构化解析: BeatufiulSoup、html.parser与lxml,他们都以DOM树结构为标准,进行标签结构信息的提取。

  3.DOM树解释:即文档对象模型(Document Object Model),其树形标签结构,请见下图。

  所谓结构化解析,就是网页解析器它会将下载的整个HTML文档当成一个Doucment对象,然后在利用其上下结构的标签形式,对这个对象进行上下级的标签进行遍历和信息提取操作。

# 引入相关的包,urllib与bs4,是获取和解析网页最常用的库

from urllib.request import urlopen

from bs4 import BeautifulSoup

# 打开链接

html=urlopen("https://www.datalearner.com/website_navi")

# 通过urlopen获得网页对象,将其放入BeautifulSoup中,bsObj存放的目标网页的html文档

bsObj=BeautifulSoup(html.read())

print(bsObj)

# soup = BeautifulSoup(open(url,‘r‘,encoding = ‘utf-8‘))

import requests

from bs4 import BeautifulSoup

headers={‘User-Agent‘: ‘Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.110 Safari/537.36‘,‘referer‘:"www.mmjpg.com" }

all_url = ‘http://www.mmjpg.com/‘

#‘User-Agent‘:请求方式

#‘referer‘:从哪个链接跳转进来的

start_html = requests.get(all_url, headers=headers)

#all_url:起始的地址,也就是访问的第一个页面

#headers:请求头,告诉服务器是谁来了。

#requests.get:一个方法能获取all_url的页面内容并且返回内容。

Soup = BeautifulSoup(start_html.text, ‘lxml‘)

#BeautifulSoup:解析页面

#lxml:解析器

#start_html.text:页面的内容

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。

Python网页解析器使用实例详解

标签:website   ima   urllib   方式   text   headers   images   utf-8   class   

原文地址:https://www.cnblogs.com/bobin123/p/13376462.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!