如何在神箭手上快速开发爬虫——第四课 如何爬取分页数据【蘑菇街商品评论】

注:

1、本课完整的爬虫代码可以在神箭手示例代码中查看:http://www.shenjianshou.cn/index.php?r=demo/docs&demo_id=500006

2、如何在神箭手上运行代码,请查看文档:http://docs.shenjianshou.cn/overview/guide/develop/crawler.html

3、更详细的爬虫开发教程,请查看文档:http://docs.shenjianshou.cn/develop/summary/summary.html



大家好,我是神箭手的游牧老师~

今天继续给大家带来 如何在神箭手上快速开发爬虫 系列教程的第四课:如何爬取分页数据。


通过前三课的学习,相信大家爬爬文章、爬爬商品啥的已经很简单了(还不会的筒子面壁去( ̄▽ ̄)”)。那么今天呢,主要跟大家分享下爬取分页数据的方法。

分页数据指的是要爬取的数据在多个分页上,无法通过请求一个页面一次抽取出来。举个常见的栗子,就是电商商品的评论了:


如果要将每个商品的所有评论爬取为一个商品数据的一个字段,因为在商品的详情页内,评论是分页显示的,所以需要通过分别访问每页评论抽取。

如何在内容页中抽取分页数据,神箭手提供了两种方法:

手把手教你写电商爬虫-第五课 京东商品评论爬虫 一起来对付反爬虫

系列教程:

手把手教你写电商爬虫-第一课 找个软柿子捏捏

手把手教你写电商爬虫-第二课 实战尚妆网分页商品采集爬虫

手把手教你写电商爬虫-第三课 实战尚妆网AJAX请求处理和内容提取 

手把手教你写电商爬虫-第四课 淘宝网商品爬虫自动JS渲染 


四节课过去了,咱们在爬虫界也都算见过世面的人,现在再来一些什么ajax加载之类的小鱼小虾应该不在话下了,即使是淘宝这种大量的ajax,我们祭上我们的核武器,也轻松应对了,这一课主要是来看看除了技术上的页面处理外,我们还会遇上更棘手的问题,就是反爬虫,当然现在有

各种各样的反爬虫,今天就先介绍最简单的一种:限制IP。

今天咱们的对手依然是业界大佬,马云最忌惮的男人,宅男心中爱恨交错的对象 – JD.COM

手把手教你写电商爬虫-第四课 淘宝网商品爬虫自动JS渲染

系列教程:

手把手教你写电商爬虫-第一课 找个软柿子捏捏 

手把手教你写电商爬虫-第二课 实战尚妆网分页商品采集爬虫 

手把手教你写电商爬虫-第三课 实战尚妆网AJAX请求处理和内容提取 

都已经三节课了,大家活动活动手脚,咱们开始一场真正的硬仗, 我们要来爬电商老大,淘宝的数据了。

老规矩,爬之前首先感谢淘宝公布出这么多有价值的数据,才让我们这些爬虫们有东西可以搜集啊,不过淘宝就不用我来安利了

广大剁手党相信睡觉的时候都能把网址打出来吧。

手把手教你写电商爬虫-第三课 实战尚妆网AJAX请求处理和内容提取

系列教程:

手把手教你写电商爬虫-第一课 找个软柿子捏捏 

手把手教你写电商爬虫-第二课 实战尚妆网分页商品采集爬虫 


看完两篇,相信大家已经从开始的小菜鸟晋升为中级菜鸟了,好了,那我们就继续我们的爬虫课程。

上一课呢一定是因为对手太强,导致我们并没有完整的完成尚妆网的爬虫。



手把手教你写电商爬虫-第二课 实战尚妆网分页商品采集爬虫

系列教程

手把手教你写电商爬虫-第一课 找个软柿子捏捏 


如果没有看过第一课的朋友,请先移步第一课,第一课讲了一些基础性的东西,通过软柿子”切糕王子”这个电商网站好好的练了一次手,相信大家都应该对写爬虫的流程有了一个大概的了解,那么这课咱们就话不多说,正式上战场,对垒尚妆网。

手把手教你写电商爬虫-第一课 找个软柿子捏捏

话说现在基本上大家都在网上买东西,国家经济数据已经可以在网络购物的数据中略微窥见一二,再加上目前B2B行业的持续火爆,大有把所有交易搬到网上来的趋势,这个系列教程就来讲讲如果爬取这些大量的电商交易的数据。


工具要求:教程中主要使用到了 1、神箭手云爬虫 框架  这个是爬虫的基础,2、Chrome浏览器和Chrome的插件XpathHelper 这个用来测试Xpath写的是否正确

基础知识:本教程中主要用到了一些基础的js和xpath语法,如果对这两种语言不熟悉,可以提前先学习下,都很简单

1