采集场景

在微博主页(https://weibo.com/)登录后,循环打开微博博文链接,采集博文链接的一级评论数据。实例地址:https://weibo.com/1977661791/I7PgktlCh 。

 

 

采集字段

博主用户名、发布时间、博文内容、转发数、评论数、点赞数、评论人、评论内容、评论时间。

 

采集结果

采集结果可导出为Excel、CSV、HTML、数据库等多种格式。

 

 

 

教程说明

本篇更新时间:2023/04/20 八爪鱼版本:V8.6.0

如因网页改版导致网址或步骤无效,无法收集到目标数据,请联系官方客服,我们会及时处理。

 

采集步骤

步骤一:打开网页

步骤二、设置登录微博

步骤三、创建【循环-打开网页】,示范打开多个博文网址

步骤四、提取微博字段

步骤五、创建【循环列表】,提取一级评论列表数据

步骤六、创建循环滚动,以采集更多评论

步骤七、适当设置执行前等待,使采集更稳定

步骤八、启动采集

 

 

下面为具体步骤:

 

步骤一、打开网页

 

在首页【输入框】中,输入微博主页网址 https://weibo.com/,点击【开始采集】,八爪鱼自动打开网址。微博主页需要向下滚动,才会加载出登录的按钮,所以我们需要在【打开网页】步骤设置滚动,设置路径如下:

【打开网页】,选择【高级设置】,设置【页面滚动】,滚动模式为【全局】,滚动方式为【向下滚动一屏】,【每次间隔】1秒,【滚动次数】为3次,点击应用保存。

 

特别说明:

a. 设置中的滚动次数和时间间隔,请根据采集需求和网页加载情况进行设置,并非是一成不变的,具体请点击查看处理滚动加载数据的网页教程

 

 

步骤二、设置登录微博

 

要采集微博评论数据,首先需要登录。如果没有登录,只能采集到二三十条数据。

在八爪鱼中的登录步骤:

1、点击立即登录;

2、根据提示用手机app端快速扫码登录(建议提前打开微博APP准备好);

扫码等待一会后,成功登陆微博。

 

 

 

步骤三创建【循环-打开网页】,示范打开多个博文网址

 

创建【循环-打开网页】,示范打开多个博文网址,实现自动采集多个博文网址下的评论。

 

在【点击元素】步骤后,添加一个【循环】。

进入【循环】设置页面。选择循环方式为【网址列表】,点击  data-id= 按钮,将我们准备好网址粘贴进去后保存(同时输入多个网址,一行一个)。 


然后添加【打开网页】步骤,勾选【使用当前循环里的网址作为导航网址】。

 

 

 

 

步骤四、提取微博字段

 

选中网页中的目标字段,在操作提示框选择提取【文本内容】。

所有文本类型的字段都可以这样提取,示例中提取了 博主用户名、发布时间、博文内容、转发数、评论数、点赞数。

 

 

 

步骤五、创建【循环列表】,提取一级评论列表数据

 

1、建立【循环列表】

通过以下连续4步,采集一级评论列表数据:

1、选中页面上1个评论列表(注意一定要选中单条评论整个列表,包括所有需要的信息)

2、在黄色操作提示框,点击【选中全部子元素】

3、点击【选中全部相似组】

4、点击提取【元素中数据内容】

 

 

特别说明:

a. 经过以上连续4步,【循环-提取数据】创建完成。【循环】中的项,对应着页面上的评论列表,【提取数据】中的字段,对应着每个评论列表中的字段。启动采集以后,八爪鱼就会按照循环中的顺序依次提取每个列表中的字段。 

b. 为何通过以上4步,可建立【循环-提取数据】?详情点击查看 列表数据采集教程 

 

2、编辑字段

进入【提取列表数据】设置页面,可删除多余字段,修改字段名,移动字段顺序等。

 

 

 

步骤六、创建循环滚动,以采集更多评论

 

因为微博网页结构的原因:网页需要往下滚动,同时不管滚动多少次都只能定位十几条数据。所以需要设置边滚动边采集,同时勾选上【滚动时循环列表不自动去重】。

微博特殊网页结构问题会导致采集会有大量重复数据,这个属于正常现象,采集完成后,可以选择导出去重后的数据。

创建步骤如下:

1.添加循环框,选择循环的方式为【循环滚动】;

2.设置滚动模式,选择【全局】;设置滚动方式,选择【向下滚动一屏】;

3.勾选上【滚动时循环列表不自动去重】;

4.把【循环列表-提取列表数据】整个拖拽放到【循环1】里面进行内嵌套,如动图所示。

 

 

步骤七、适当设置执行前等待,使采集更稳定

 

采集模板做好之后,可以在一些步骤适当设置下执行前等待,这样可以使模板在采集数据的时候更稳定。

设置步骤如下:

1、【循环】这个框这里,设置【执行前等待】10s(之所以设置这么久,是为了在点击登录后,为用微博APP扫码登录留出时间,时间可根据个人情况适当调整);

2、【打开网页1】、【提取数据】、【循环列表】,设置【执行前等待】3s。

 

 

 

步骤八、启动采集

 

1、【采集】并【启动本地采集】。启动后八爪鱼开始自动采集数据。

 

 

特别说明:

a.【本地采集】使用是电脑电脑自己进行使用采集,【云采集】八爪鱼的云服务器采集,点击查看本地采集与云采集详解

 

2、采集完成后,选择合适的导出方式导出数据。支持导出为Excel、CSV、HTML、数据库等。这里导出为Excel。数据示例:

 

 

作者:Tina

编辑:Tina