采集场景

采集采集游天下不同城市的租房信息。

 

采集字段

城市、标题、出租人、地址、价格、标题链接、坐标等。

 

 

点击图片可查看高清大图，下文其他图片同理 

 

采集结果

采集结果可导出为Excel，CSV，HTML，数据库等多种格式。导出为Excel示例：

 

 

教程说明

本篇制作时间：2022/06/20    八爪鱼版本：V8.5.2

目标数据，请联系官方客服，我们将及时修正。

 

采集步骤

 

步骤一、打开网页

步骤二、提取数据

步骤三、创建【循环列表】

步骤四、提取数据

步骤五、启动采集

 

以下为具体步骤：

 

步骤一、打开网页

 

首页左上角点击【新建】—【自定义任务】。网址输入界面默认的是【手动输入】。

将复制好的一批同类网址，粘贴进网址输入框中，并点击【保存网址】。

如：https://www.youtx.com/kunming/in20220620-out20220624/

https://www.youtx.com/qinhuangdao/in20220620-out20220624/

八爪鱼中内置的浏览器会自动打开网页。同时，可以看到，流程中已自动创建【循环-打开网页】步骤。

 

 

特别说明：

a. 打开网页后，如果开始开始【自动识别】，请等待自动识别完成。八爪鱼支持自动识别网页上的列表，滚动和翻页，识别成功后直接启动采集并获取数据。如果【自动识别】的结果不是我们需要的，可点击【取消】关闭智能识别，自行配置采集流程。详情点击查看【自动识别】

b. 手动输入的url数量不得大于1万个，如有超过1万url，请选择【从文件导入】，具体请查看教程 网址输入升级

 

步骤二、提取数据

 

提取字段【城市】：在网页中选中区域的位置，再在操作提示框中点击【采集该文本框的值】。
如果不需要此字段，可跳过此步骤。

 

 

步骤三、创建【循环列表】

 

通过以下连续3步，采集所有房源列表中的标题和链接：

1、选中页面上一个房源列表

2、再选中页面上另一个房源列表，这样页面中全部的房源列表都被识别到了

3、选中【采集以下元素文本】，八爪鱼将列表中的全部字段作为一个字段提取下来。

如需单独提取每个字段，请看以下操作。

 

 

特别说明：

a. 为什么经过以上步骤能建立起循环列表步骤？详情请看 采集列表数据教程 。

 

步骤四、采集字段

 

1、采集列表中的字段

文本类字段的采集方式为：在网页中选中字段所在位置，然后在操作提示框中选择【采集该元素的文本】。

经过以上方式，房源标题、房源链接、价格等字段就被单独采集下来了。

 

 

2、编辑字段

列表中的字段采集下来后，我们可以进行修改字段名称、删除多余字段、调整字段顺序等操作。

 

 

3、进入房源详情页，采集【坐标】字段

【坐标】字段在房源详情页的网页源码中，并不直接显示在网页上。我们可以通过采集源码并格式化的方式提取。

具体操作如下：

① 先选中房源链接，在操作提示框中选择【点击该链接】，进入房源详情页

② 然后再选中坐标位置，在操作提示框中选择【采集该元素的Outer Html 】，将坐标所在的网页源码采集下来

③ 为了精准定位到每一个房源详情页的坐标源码位置，我们还需要修改一下xpath：点击字段后的【...】，选择【修改元素定位】，修改xpath为：//script [@type="text/javascript" and not(@src )][last()] ，然后【应用】保存。

 

 

④  坐标的源码被采集下来后，接下来用数据格式化将坐标从源码中提取出来：点击字段后的【...】，选择【字段格式化】-【添加步骤】-【正则匹配】，填入正则表达式  latmap(.+?)(?=;) ，【应用】保存，最后再修改字段名称为【坐标】。

 

 

特别说明：

a.  默认的定位不准确，需要修改Xpath,要用有一定的Xpath知识，【Xpath系统学习】

b.  要将目标字段从源码中提取出来，需要学习格式化数据，详情点击查看 【正则表达式】教程

 

步骤五、启动采集

 

1、保存好任务之后，点击【采集】并选择【启动本地采集】。启动后八爪鱼开始自动采集数据。

 

 

特别说明：

a. 【本地采集】是使用自己的电脑进行采集，【云采集】是使用八爪鱼提供的云服务器采集，点击查看 本地采集与云采集详解。

b.  如果采集的时候弹出验证，需要手动点击验证后才能采集数据。

 

2、采集完成后，选择合适的导出方式导出数据。支持导出为Excel、CSV、HTML、数据库等。这里导出为Excel。

 

 

 

作者：Fan

编辑：Aisling