神箭手客户端可以可视化点选要爬取的网页数据,自动生成爬虫代码,同时优化了文件导出,速度更快,更可批量导出所有数据,神箭手云是一个大数据应用开发平台,为开发者提供成套的数据采集、数据分析、机器学习开发工具!
步骤一 登录神箭手客户端
打开安装好的神箭手客户端,输入神箭手账号和密码,登录进入控制台
步骤二 创建点选模式的爬虫
点击 “新建应用” > 选择 “爬虫”,点击 “下一步” > 选择 “自己开发” > 选择 “点选模式”。输入爬虫名称,点击”创建”
步骤三 点选要爬取的数据
1、 打开创建的爬虫,进入 打开点选面板
2、在点选面板中,进行 点选操作
首先,输入一个包含所需数据的url(比如 https://www.leiphone.com/news/201712/WxtDEEQEXXDZLYev.html ),回车加载显示内容:
然后,在显示的网页内容中,点击选择要采集的数据,比如选择采集文章的标题和内容:
点击左侧的高级设置,可以设置爬虫的列表页、内容页url正则表达式、是否自动JS渲染等,提高爬虫效率:
步骤四 启动爬虫
完成点选后,点击 开始爬取。稍等一会,爬虫就会自动开始运行了