码迷,mamicode.com
首页 > 其他好文 > 详细

八爪鱼采集器教程——分页列表采集(以链家房源信息为例)

时间:2017-09-04 15:14:01      阅读:337      评论:0      收藏:0      [点我收藏+]

标签:数据采集   大数据   八爪鱼   

介绍使用八爪鱼7.0采集链家房源数据的方法以深圳出租房为例

 

采集网站:

https://sz.lianjia.com/zufang/

示例规则下载:

链家房源采集规则

 

使用功能点:

分页列表页信息采集

 

步骤1:创建采集任务

进入主界面选择,选择自定义模式

技术分享 

上面网址的网址复制粘贴到网站输入框中,点击保存网址

技术分享 

保存网址后,页面将在八爪鱼采集器中打开,红色方框中的列表内容,就是演示采集数据

技术分享 

 

步骤2:创建翻页循环

找到翻页按钮,设置翻页循环

将页面下拉到底部,找到下一页按钮,鼠标点击,在右侧操作提示框中,

选择循环点击下一页

技术分享 

步骤3:房源信息采集

 

选中需要采集的字段信息,创建采集列表

编辑采集字段名称

如图,移动鼠标选中列表中标题的名称,右键点击,需采集的内容会变成绿色

技术分享 

注意:点击右上角的流程按钮即可展现出可视化流程图。

移动鼠标选中红色方框任意文本字段后,列表中所有适配内容会变成绿色,在右侧操作提示框中,查看提取的字段,可以将不需要的字段删除,然后点击“选中全部”

技术分享 

注意: 鼠标放在该字段上会出现一个删除标识,点击即可删除该字段。

技术分享 

 

点击“采集以下数据”

技术分享 

修改采集字段名称,点击下方红色方框中的保存并开始采集

技术分享 

 

根据采集的情况选择合适的采集方式,这里选择启动本地采集

技术分享 

说明:本地采集占用当前电脑资源进行采集,如果存在采集时间要求或当前电脑无法长时间进行采集可以使用云采集功能,云采集在网络中进行采集,无需当前电脑支持,电脑可以关机,可以设置多个云节点分摊任务,10个节点相当于10台电脑分配任务帮你采集,速度降低为原来的十分之一;采集到的数据可以在云上保存三个月,可以随时进行导出操作。


步骤4:数据采集及导出

采集完成后,会跳出提示,选择导出数据

技术分享 

 

选择合适的导出方式,将采集好的数据导出

技术分享 

 

 

 


本文出自 “八爪鱼大数据” 博客,请务必保留此出处http://bazhuayudata.blog.51cto.com/13213727/1962445

八爪鱼采集器教程——分页列表采集(以链家房源信息为例)

标签:数据采集   大数据   八爪鱼   

原文地址:http://bazhuayudata.blog.51cto.com/13213727/1962445

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!