【简易模式】新浪微博数据爬虫采集教程
2017-11-01 20:37:04 阅读量: 36020
需要采集微博内容的,在网页简易模式界面里点击微博进去之后可以看到所有关于微博的爬虫规则信息,我们直接使用就可以的。
在微博中的输入关键词进行综合搜索并采集搜索结果(下图所示),即在微博搜索界面选择“综合”然后输入关键词进行搜索。
1、找到微博网页-关键词搜索规则然后点击立即使用
2、简易模式中微博网页-关键词搜索的任务界面介绍
查看详情:点开可以看到示例网址
任务名:自定义任务名,默认为微博搜索
任务组:给任务划分一个保存任务的组,如果不设置会有一个默认组
用户名:请填写您的微博账号,选填;不填则只采集第一页数据
密码:请填写微博账号的登录密码,选填;不填则只采集第一页数据
关键词:用于搜索的关键词,支持填写多个,用户回车分隔
翻页次数:设置采集多少页,翻页次数不填则默认采集完
将鼠标移动到?号图标和任务名顶部文字均可以查看详细的注释信息。
示例数据:这个规则采集的所有字段信息。
3、 新浪微博爬虫规则任务设置示例
例如要采集与“十九大”和“大数据”相关的微博消息
在设置里如下图所示:
任务名:自定义任务名,也可以不设置按照默认的就行
任务组:自定义任务组,也可以不设置按照默认的就行
用户名:请填写您的微博账号
密码:请填写微博账号的登录密码
关键词/搜索词:用于搜索的关键词,此处填写十九大”和“大数据”
翻页次数:设置采集多少页,此处设置3页
设置好之后点击保存
保存之后会出现开始采集的按钮
4、 选择开始采集之后系统将会弹出运行任务的界面
可以选择启动本地采集(本地执行采集流程)或者启动云采集(由云服务器执行采集流程),这里以启动本地采集为例,我们选择启动本地采集按钮。
5、选择本地采集按钮之后,系统将会在本地执行这个采集流程来采集数据,下图为本地采集的效果。
6、采集完毕之后选择导出数据按钮即可,这里以导出excel2007为例,选择这个选项之后点击确定。
7、然后选择文件存放在电脑上的路径,路径选择好之后选择保存。
8、这样数据就被完整的导出到自己的电脑上来了。