网易新闻数据采集
2017-09-05 11:30:44 阅读量: 15154
本文介绍使用八爪鱼7.0采集网易新闻数据的方法
采集网站:
http://news.163.com/world/
使用功能点:
l Ajax滚动加载设置
l 列表内容提取
网易新闻:网易新闻提供极具网易特色的新闻阅读、跟贴盖楼、图片浏览、话题投票、要闻推送、网易新闻照片、离线阅读、流量提醒等功能,实现比电脑上看新闻更方便的优异体验,充分满足超过1亿网易网友的手机新闻、娱乐、体育、财经、科技等多种资讯内容需求。
网易新闻数据采集说明:本文进行了网易新闻数据的采集,本文仅以“网易新闻数据采集”为例,大家在实操过程中,可根据自身需求,更换网易新闻的其他内容进行数据采集。
网易新闻数据采集详细说明:网易新闻标题,网易新闻标签,新闻发布时间,新闻跟帖数量。
步骤1:创建采集任务
进入主界面选择,选择自定义模式
将上面网址的网址复制粘贴到网站输入框中,点击“保存网址”
保存网址后,页面将在八爪鱼采集器中打开,红色方框中的信息是这次演示要采集的内容
步骤2:设置ajax页面加载时间
l 设置打开网页步骤的ajax滚动加载时间
在页面打开后,当下拉页面时,会发现页面有新的数据在进行加载
所以需要进行以下设置:打开流程图,点击“打开网页”步骤,在右侧的高级选项框中,勾选“页面加载完成向下滚动”,设置滚动次数,每次滚动间隔时间,一般设置2秒,这个页面的滚动方式,选择“直接滚动到底部”;最后点击确定
注意:这里的滚动次数及间隔需要针对网站进行设置,测试方法可以参考八爪鱼7.0教程——AJAX滚动教程
步骤3:采集列表内容
l 选中需要采集列表中的新闻框,创建数据提取列表
如图,移动鼠标选中列表中标题的名称,右键点击,需采集的内容会变成绿色,选择右侧提示框中的“选中子元素”
注意:点击右上角的“流程”按钮,即可展现出可视化流程图。
列表中所有适配内容会被选中,在右侧操作提示框中,点击“选中全部”
注意: 鼠标放在该字段上会出现一个删除标识,点击即可删除该字段。
点击“采集以下数据”
修改采集字段名称,点击下方红色方框中的“保存并开始采集”
步骤4:数据采集及导出
根据采集的情况选择合适的采集方式,这里选择“启动本地采集”
说明:本地采集占用当前电脑资源进行采集,如果存在采集时间要求或当前电脑无法长时间进行采集可以使用云采集功能,云采集在网络中进行采集,无需当前电脑支持,电脑可以关机,可以设置多个云节点分摊任务,10个节点相当于10台电脑分配任务帮你采集,速度降低为原来的十分之一;采集到的数据可以在云上保存三个月,可以随时进行导出操作。
采集完成后,选择合适的导出方式,将采集好的数据导出