京东商品评价信息采集
2017-08-14 14:57:16 阅读量: 23180
本文介绍使用八爪鱼7.0采集京东商品评价数据的方法
采集网站:
http://item.jd.com/11221162.html#comment
使用功能点:
l Ajax翻页
l 分页内容提取
京东:京东是中国的综合网络零售商,是中国电子商务领域受消费者欢迎和具有影响力的电子商务网站之一,在线销售家电、数码通讯、电脑、家居百货、服装服饰、母婴、图书、食品、在线旅游等12大类数万个品牌百万种优质商品。
京东商品评价采集数据说明:本文进行了京东商品评价的采集。本文仅以“京东商品评价信息采集”为例,大家在实操过程中,可根据自身需求,更换京东的其他内容进行数据采集。
京东商品评价采集详细说明:商品评价时间,商品类别,商品评价内容, 商品评价点赞数,商品评价回复数,买家ID,买家会员等级,评价来源。
步骤1:创建采集任务
进入主界面选择,选择自定义模式
将上面网址的网址复制粘贴到网站输入框中,点击“保存网址”
保存网址后,页面将在八爪鱼采集器中打开,红色方框中的评价信息是这次演示要采集的内容
步骤2:创建翻页循环
l 找到商品评论列表
l 找到翻页按钮,设置翻页循环
l 设置ajax翻页时间
在商品页中,找到“商品评论”,鼠标点击,在右侧操作提示框中,选择“点击该链接”
将页面下拉到底部,找到下一页按钮,鼠标点击,在右侧操作提示框中,选择“循环点击下一页”
由于页面使用了ajax加载技术,需要对点击元素及翻页步骤设置ajax延时加载(ajax判断方法:打开流程图,找到翻页循环框,手动执行翻页,看网站有没有进行加载)在右侧的高级选项框中,勾选Ajax加载数据,选择合适的超时时间,一般设置2秒;最后点击确定
注意:点击右上角的“流程”按钮,即可展现出可视化流程图。
步骤3:评论信息采集
l 选中需要采集的字段信息,创建采集列表
l 编辑采集字段名称
移动鼠标选中评论框,右键点击,如图所示,评论框中数据会被全部选中,变成红色,点击右侧提示中“选中子元素”
评论页中适配的内容会变成绿色,在右侧操作提示框中,查看提取的字段,可以将不需要的字段删除,
点击右侧“选中全部”
注意: 鼠标放在提示框中的字段上会出现一个删除标识,点击即可删除该字段。
点击“采集以下数据”
修改采集字段名,并点击下方提示中的“保存并开始采集”
根据采集的情况选择合适的采集方式,这里选择“启动本地采集”
说明:本地采集占用当前电脑资源进行采集,如果存在采集时间要求或当前电脑无法长时间进行采集可以使用云采集功能,云采集在网络中进行采集,无需当前电脑支持,电脑可以关机,可以设置多个云节点分摊任务,10个节点相当于10台电脑分配任务帮你采集,速度降低为原来的十分之一;采集到的数据可以在云上保存三个月,可以随时进行导出操作。
步骤4:数据采集及导出
采集完成后,会跳出提示,选择“导出数据”
选择合适的导出方式,将采集好的数据导出