码迷,mamicode.com
首页 > 编程语言 > 详细

python爬取opgg的LOL英雄数据

时间:2020-01-04 14:45:03      阅读:236      评论:0      收藏:0      [点我收藏+]

标签:ring   title   item   style   界面   图片   inf   ext   htm   

完整源码链接: https://pan.baidu.com/s/1CWLXwlJGcq01jww8HXu3zg   (加入了部分图形界面)

由于爬取结果都是英语的版本,所以需要翻译。

另外的两个txt文件是翻译,已经完成了大部分基础的翻译,如想需要添加可以按格式填写

 

运行效果:

技术图片

 

 

 

代码思路和步骤

首先第一步,是获得所有英雄的名字和对应的url:

  先观察网页的html,就能发现 <div>的data-champion-key属性中的就是英雄的名字,然后<a>的href属性就是英雄对应url

技术图片

def weburl_get():
    url=http://www.op.gg
    addtion=/champion/statistics
    r=requests.get(url+addtion,headers=headers)
    soup=bs4.BeautifulSoup(r.text,html.parser)

    #获取到英雄列表
    championList=soup.find(div,class_=champion-index__champion-list)

    #单个英雄div格式匹配
    pattern1=re.compile((<div class="champion-index__champion-item .*?</div>))
    champion_list=re.findall(pattern1,str(championList))

    #将英雄名和网址作为一个字典
    web_champion={}
    for champion in champion_list:
        champion_soup=bs4.BeautifulSoup(champion,html.parser)
        if (champion_soup.div)!=None and (champion_soup.div.a)!=None:
            web_champion[champion_soup.div[data-champion-key]]=url+champion_soup.div.a[href]
    return web_champion

 

然后第二步就是进入对应英雄的网页爬取相关数据:

  先爬取召唤师技能,登场率和胜率

技术图片

    #获取召唤师技能和技能加点
    skill_tbody=champion_main.table.tbody   #得到第一个tbody也就是包含召唤师技能和加点
    #正则匹配召唤师技能名字
    skill_name=[]
    pattern2=re.compile((<img .*?>))
    user_skill=re.findall(pattern2,str(skill_tbody))
    for skill in user_skill:
        skill_soup=bs4.BeautifulSoup(skill,html.parser)
        skill_name_soup=bs4.BeautifulSoup(skill_soup.img[title],html.parser)
        name=skill_name_soup.b.string
        if name in item.keys():
            name=item[name]
        skill_name.append(name)
    #正则匹配召唤师技能的登场率和胜率
    skill_rate=[]
    pattern3=re.compile(<strong>(.*?)</strong>)
    rate_ls=re.findall(pattern3,str(skill_tbody))
    for rate in rate_ls:
        skill_rate.append(rate)
    #skill_rate为登场率胜率

  

  然后爬取英雄技能加点

技术图片

    #获取技能加点
    skillAdd=skill_tbody.find_next_siblings(tbody)
    pattern4=re.compile(r<td>([\s,\S]*?)</td>)
    skill_add=re.findall(pattern4,str(skillAdd))
    skill_add=‘‘.join(skill_add)
    pattern5=re.compile((\w*?))
    skill_add=re.findall(pattern5,skill_add)
    skill_add=‘‘.join(skill_add)
    skill_master=[skill_add[3],skill_add[10]]    #skill_master为主技能,副技能
    # 1 2 3 4 5 6 7 8 10 11 12 14 15  索引对应的等级

  

  再爬取装备

技术图片

    #获取装备信息
    equipment_tbody=champion_text.find_next_siblings(table)[0].tbody
    equipment=[]
    pattern6=re.compile(r(<tr[\s,\S]*?</tr>))
    equipment_text=re.findall(pattern6,str(equipment_tbody))
    for text in equipment_text:
        tmp=[]
        #获取装备名
        pattern6=re.compile((<li class="champion-stats__list__item tip"[\s,\S]*?</li>))
        tmp_equipment=re.findall(pattern6,text)
        ls=[]
        for i in tmp_equipment:
            temp=bs4.BeautifulSoup(i,html.parser)
            temp1=bs4.BeautifulSoup(temp.li[title],html.parser)
            if temp1.b.string in item.keys():
                ls.append(item[temp1.b.string])
            else:
                ls.append(temp1.b.string)
        tmp.append(ls)
        #获取登场率和胜率
        pattern7=re.compile(r<strong>(.*?)</strong>)
        tmp.append(re.findall(pattern7,text))
        equipment.append(tmp)

    #equipment格式为:[[[装备],[登场率,胜率]]]

 

   最后爬取符文主系和副系

技术图片

    #获取符文信息
    runes_tbody=champion_text.find_next_siblings(div)[0].tbody
    runes_tag=runes_tbody.tr.td.div
    runes_div=runes_tag.div.find_next_siblings(div)
    runes_div.append(runes_tag.div)
    rune_ls=[]
    for rune in runes_div:
        tmp=[]
        #匹配符文名
        pattern8=re.compile(r<div class="champion-stats-summary-rune__name">(.*?)</div>)
        z=[]
        for i in re.findall(pattern8,str(rune.a)):
            s=i.split( + )
            if s[0] in item.keys():
                s[0]=item[s[0]]
            if s[1] in item.keys():
                s[1]=item[s[1]]
            z= + .join(s)
        tmp.append(z)
        pattern9=re.compile(r<strong>(.*?)</strong>)
        tmp.append(re.findall(pattern9,str(rune.a)))
        pattern10=re.compile(r<span>(\d.*?)</span>)
        tmp.append(re.findall(pattern10,str(rune.a)))
        rune_ls.append(tmp)
    #rune_ls格式为[[[符文名],[登场率],[胜率]]]

python爬取opgg的LOL英雄数据

标签:ring   title   item   style   界面   图片   inf   ext   htm   

原文地址:https://www.cnblogs.com/b1ing/p/12148755.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!