【简易采集】知乎爬虫规则使用方法
2018-03-12 17:38:48 阅读量: 42287
对于某些用户来说,直接自定义规则可能有难度,所以在这种情况下,我们提供了网页简易模式,网页简易模式下存放了国内一些主流网站爬虫采集规则,在你需要采集相关网站时可以直接调用,节省了制作规则的时间以及精力。
知乎数据采集下来有很多作用,比如抓取知乎用户数据,你可以分析知乎的男女比例、知乎用户都是哪里人、知乎的职业分布、知乎赞数最多的100位是哪些大V,再比如采集知乎某个行业下的热门话题,你可以分析出这个行业哪块内容是比较感兴趣的,这个话题下有哪些大V。
所以本次介绍八爪鱼简易采集模式下“知乎关键字搜索”的使用教程以及注意要点。
步骤一、下载八爪鱼软件并登陆
1、打开/download,即八爪鱼软件官方下载页面,点击图中的下载按钮。
2、软件下载好了之后,双击安装,安装完毕之后打开软件,输入八爪鱼用户名密码,然后点击登陆
步骤二、设置知乎爬虫规则任务
1、进入登陆界面之后就可以看到主页上的网站简易采集了,选择立即使用即可。
2、进去之后便可以看到目前网页简易模式里面内置的所有主流网站了,需要采集知乎关键字内容的,这里选择搜狗即可。
3、找到知乎关键字搜索这条爬虫规则,点击即可使用。
4、知乎关键字搜索简易采集模式任务界面介绍
查看详情:点开可以看到示例网址
任务名:自定义任务名,默认为知乎关键字搜索
任务组:给任务划分一个保存任务的组,如果不设置会有一个默认组
搜索关键字填写注意事项:提供要采集的关键字。多关键字搜索输入多个关键字即可(回车键分隔开,即一个关键字为一行)。
示例数据:这个规则采集的所有字段信息。
5、 知乎爬虫规则设置示例
例如要采集的关键字为电影、美食
在设置里如下图所示:
任务名:自定义任务名,也可以不设置按照默认的就行
任务组:自定义任务组,也可以不设置按照默认的就行
搜索关键字:电影
美食
一行一个,使用回车(Enter)进行换行。
注意事项:关键字列表中建议不超过2万条
步骤三、保存并运行知乎爬虫规则
1、设置好爬虫规则之后点击保存。
2、保存之后,点击会出现开始采集的按钮。
3、 选择开始采集之后系统将会弹出运行任务的界面,可以选择启动本地采集(本地执行采集流程)或者启动云采集(由云服务器执行采集流程),这里以启动本地采集为例,我们选择启动本地采集按钮。
4、选择本地采集按钮之后,系统将会在本地执行这个采集流程来采集数据,下图为本地采集的效果(示例中商品评论数据较多,为方便展示故先行停止采集,诸位可以根据需求决定是否采集完。
5、采集完毕之后选择导出数据按钮即可,这里以导出excel2007为例,选择这个选项之后点击确定。
6、然后选择文件存放在电脑上的路径,路径选择好之后选择保存。
7、这样知乎问答数据就被完整的采集导出到自己的电脑上来了。