微博博主简介信息采集
2017-09-07 17:32:26 阅读量: 17968
本文介绍使用八爪鱼7.0采集微博博主信息的方法(以艺术分类为例)
采集网站:
http://d.weibo.com/1087030002_2975_2024_0
使用功能点:
l 翻页元素设置
l 列表内容提取
新浪微博:新浪微博提供微型博客服务类的社交网站。用户可以通过网页、WAP页面、手机客户端、手机短信、彩信发布消息或上传图片。新浪可以把微博理解为“微型博客”或者“一句话博客”。用户可以将看到的、听到的、想到的事情写成一句话,或发一张图片,通过电脑或者手机随时随地分享给朋友,一起分享、讨论;还可以关注朋友,即时看到朋友们发布的信息。
新浪微博数据采集说明:本文进行了新浪微博博主信息的采集,本文仅以“新浪微博博主信息”为例,大家在实操过程中,可根据自身需求,更换新浪微博的其他内容进行数据采集。
新浪微博数据采集详细说明:微博博主名称,博主关注数量,博主粉丝数量,博主地址,博主个人简介,博主个人标签。
步骤1:创建采集任务
进入主界面选择,选择自定义模式
将上面网址的网址复制粘贴到网站输入框中,点击“保存网址”
保存网址后,页面将在八爪鱼采集器中打开,红色方框中的信息是这次演示要采集的内容
步骤2:设置翻页步骤
l 创建翻页循环,设置翻页元素
页面下拉到底部,找到“下一页”按钮,点击选择“循环点击下一页”
设置翻页步骤:打开流程图,点击“循环翻页”步骤,在右侧点击“自定义”
注意:点击右上角的“流程”按钮,即可展现出可视化流程图。
如图选择好翻页点击元素的xpath,点击“确定”,完成翻页步骤的设置
步骤3:采集博主信息
l 选中需要采集列表中的信息框,创建数据提取列表
如图,移动鼠标选中博主信息栏,右键点击,选择“选中子元素”
然后点击“选中全部”
注意: 鼠标点击“X”,即可删除不需要字段。
点击“采集以下数据”
修改采集字段名称,点击下方红色方框中的“保存并开始采集”
步骤4:数据采集及导出
根据采集的情况选择合适的采集方式,这里选择“启动本地采集”
说明:本地采集占用当前电脑资源进行采集,如果存在采集时间要求或当前电脑无法长时间进行采集可以使用云采集功能,云采集在网络中进行采集,无需当前电脑支持,电脑可以关机,可以设置多个云节点分摊任务,10个节点相当于10台电脑分配任务帮你采集,速度降低为原来的十分之一;采集到的数据可以在云上保存三个月,可以随时进行导出操作。
采集完成后,选择合适的导出方式,将采集好的数据导出