【简易采集】58同城爬虫规则使用方法
2018-03-09 14:48:13 阅读量: 32897
对于某些用户来说,直接自定义规则可能有难度,所以在这种情况下,我们提供了网页简易模式,网页简易模式下存放了国内一些主流网站爬虫采集规则,在你需要采集相关网站时可以直接调用,节省了制作规则的时间以及精力。
作为一个综合的分类信息网,58上有很多丰富的信息,这些信息被爬虫采集下来有很多作用,比如可以分析招聘岗位的热门与否;分析房价近几年的起伏状况;分析二手车市场的发展状况,查询58上的公司黄页信息等。数据采集是最重要的一步之一。
所以本次介绍八爪鱼简易采集模式下“58同城爬虫规则”的使用教程以及注意要点。
步骤一、下载八爪鱼软件并登陆
1、打开/download,即八爪鱼软件官方下载页面,点击图中的下载按钮。
2、软件下载好了之后,双击安装,安装完毕之后打开软件,输入八爪鱼用户名密码,然后点击登陆。
步骤二、设置58同城爬虫规则任务
1、进入登陆界面之后就可以看到主页上的网站简易采集了,选择立即使用即可。
2、进去之后便可以看到目前网页简易模式里面内置的所有主流网站爬虫规则了,需要采集58同城信息的,在这里选择58即可。
3、本文仅以“58同城招聘职位”这条规则举例说明,需要采集58同城其他信息,可以选择其他爬虫规则,点击“立即使用”即可。
4、58同城招聘职位简易采集模式任务界面介绍
查看详情:点开可以看到示例网址,示例网址很重要,需认真观察
任务名:自定义任务名,默认为58同城招聘职位
任务组:给任务划分一个保存任务的组,如果不设置会有一个默认组
招聘页面网址填写注意事项:提供要采集的网页网址,即58招聘页的链接。这里输入的网址,需与示例网址的结构保持一致。我们点开示例网址(如下图所示),发现职位、地点、福利有多个关键词可选择,大家可根据自己的需求,更换要采集的关键词(红框中的关键词,均可点击更换)。
采集页数:要翻页的次数
示例数据:这个规则采集的所有字段信息。
5、 58同城招聘爬虫规则设置示例
例如要采集北京面点师的招聘信息,打开示例网址,切换城市为北京,选择职位关键词为面点师。
在设置里如下图所示:
任务名:自定义任务名,也可以不设置按照默认的就行
任务组:自定义任务组,也可以不设置按照默认的就行
招聘页面网址:http://bj.58.com/miandianshi/?PGTID=0d0025a8-0000-0542-d882-581fe8ed0122&ClickID=1
备注:如果想要采集多个招聘页的数据,可将此任务执行多次,每次更换要采集的网址即可。
采集页数:5(这里设置的是5页,大家可根据自己的需求,设置翻页次数)
关于寻找58招聘网址,可以通过这些方法:
1、打开示例网址,更换职位、地点、福利等关键词,然后将要采集的网址输入到八爪鱼中
2、在58同城首页,点击招聘 ,再点击要查询的职位关键词,然后将要采集的网址输入到八爪鱼中
步骤三、保存并运行58同城招聘爬虫规则
1、设置好爬虫规则之后点击保存。保存之后,点击会出现开始采集的按钮。
2、选择开始采集之后系统将会弹出运行任务的界面,可以选择启动本地采集(本地执行采集流程)或者启动云采集(由云服务器执行采集流程),这里以启动本地采集为例,我们选择启动本地采集按钮。
3、选择本地采集按钮之后,系统将会在本地执行这个采集流程来采集数据,下图为本地采集的效果
4、采集完毕之后选择导出数据按钮即可,这里以导出excel2007为例,选择这个选项之后点击确定。
5、然后选择文件存放在电脑上的路径,路径选择好之后选择保存。这样,58招聘信息数据就被完整的采集导出到自己的电脑上来了。
推荐阅读:58数据采集软件