摘要：比如我们可以设置这就代表我们设置的规则对百度爬虫是有效的。上一篇文章网络爬虫实战使用解析链接下一篇文章网络爬虫实战基本使用
上一篇文章：Python3网络爬虫实战---22、使用Urllib：解析链接
下一篇文章：Python3网络爬虫实战---24、requests：基本使用
利用 Urllib 的 robotparser 模块我们可以实现网站 Robots 协议的分析，本节我们来简单了解一下它的用法。
1. Robots协议Robots 协议也被称作爬虫协议、机器人协议，它的全名叫做网络爬虫排除标准（Robots Exclusion Protocol），用来告诉爬虫和搜索引擎哪些页面可以抓取，哪些不可以抓取。它通常是一个叫做 robots.txt 的文本文件，放在网站的根目录下。
当搜索爬虫访问一个站点时，它首先会检查下这个站点根目录下是否存在 robots.txt 文件，如果存在，搜索爬虫会根据其中定义的爬取范围来爬取。如果没有找到这个文件，那么搜索爬虫便会访问所有可直接访问的页面。
下面我们看一个 robots.txt 的样例：
User-agent: * Disallow: / Allow: /public/
以上的两行实现了对所有搜索爬虫只允许爬取 public目录的作用。
如上简单的两行，保存成 robots.txt 文件，放在网站的根目录下，和网站的入口文件放在一起。比如 index.php、index.html、index.jsp 等等。
那么上面的 User-agent 就描述了搜索爬虫的名称，在这里将值设置为 *，则代表该协议对任何的爬取爬虫有效。比如我们可以设置：
User-agent: Baiduspider
这就代表我们设置的规则对百度爬虫是有效的。如果有多条 User-agent 记录，则就会有多个爬虫会受到爬取限制，但至少需要指定一条。
Disallow 指定了不允许抓取的目录，比如上述例子中设置为/则代表不允许抓取所有页面。
Allow 一般和 Disallow 一起使用，一般不会多带带使用，用来排除某些限制，现在我们设置为 /public/ ，起到的作用是所有页面不允许抓取，但是 public 目录是可以抓取的。
下面我们再来看几个例子感受一下：
禁止所有爬虫访问任何目录
User-agent: * Disallow: /
允许所有爬虫访问任何目录
User-agent: * Disallow:
或者直接把 robots.txt 文件留空也是可以的。
禁止所有爬虫访问网站某些目录
User-agent: * Disallow: /private/ Disallow: /tmp/
只允许某一个爬虫访问
User-agent: WebCrawler Disallow: User-agent: * Disallow: /
以上是 robots.txt 的一些常见写法。
2. 爬虫名称大家可能会疑惑，爬虫名是哪儿来的？为什么就叫这个名？其实它是有固定名字的了，比如百度的就叫做 BaiduSpider，下面的表格列出了一些常见的搜索爬虫的名称及对应的网站：
| 爬虫名称 | 名称 | 网站 |
|---|---|---|
| BaiduSpider | 百度 | www.baidu.com |
| Googlebot | 谷歌 | www.google.com |
| 360Spider | 360搜索 | www.so.com |
| YodaoBot | 有道 | www.youdao.com |
| ia_archiver | Alexa | www.alexa.cn |
| Scooter | altavista | www.altavista.com |
了解了什么是 Robots 协议之后，我们就可以使用 robotparser 模块来解析 robots.txt 了。
robotparser 模块提供了一个类，叫做 RobotFileParser。它可以根据某网站的 robots.txt 文件来判断一个爬取爬虫是否有权限来爬取这个网页。
使用非常简单，首先看一下它的声明
urllib.robotparser.RobotFileParser(url="")
使用这个类的时候非常简单，只需要在构造方法里传入 robots.txt的链接即可。当然也可以声明时不传入，默认为空，再使用 set_url() 方法设置一下也可以。
有常用的几个方法分别介绍一下：
set_url()，用来设置 robots.txt 文件的链接。如果已经在创建 RobotFileParser 对象时传入了链接，那就不需要再使用这个方法设置了。
read()，读取 robots.txt 文件并进行分析，注意这个函数是执行一个读取和分析操作，如果不调用这个方法，接下来的判断都会为 False，所以一定记得调用这个方法，这个方法不会返回任何内容，但是执行了读取操作。
parse()，用来解析 robots.txt 文件，传入的参数是 robots.txt 某些行的内容，它会按照 robots.txt 的语法规则来分析这些内容。
can_fetch()，方法传入两个参数，第一个是 User-agent，第二个是要抓取的 URL，返回的内容是该搜索引擎是否可以抓取这个 URL，返回结果是 True 或 False。
mtime()，返回的是上次抓取和分析 robots.txt 的时间，这个对于长时间分析和抓取的搜索爬虫是很有必要的，你可能需要定期检查来抓取最新的 robots.txt。
modified()，同样的对于长时间分析和抓取的搜索爬虫很有帮助，将当前时间设置为上次抓取和分析 robots.txt 的时间。
以上是这个类提供的所有方法，下面我们用实例来感受一下：
from urllib.robotparser import RobotFileParser
rp = RobotFileParser()
rp.set_url("http://www.jianshu.com/robots.txt")
rp.read()
print(rp.can_fetch("*", "http://www.jianshu.com/p/b67554025d7d"))
print(rp.can_fetch("*", "http://www.jianshu.com/search?q=python&page=1&type=collections"))
以简书为例，我们首先创建 RobotFileParser 对象，然后通过 set_url() 方法来设置了 robots.txt 的链接。当然不用这个方法的话，可以在声明时直接用如下方法设置：
rp = RobotFileParser("http://www.jianshu.com/robots.txt")
下一步利用了 can_fetch() 方法来判断了网页是否可以被抓取。
运行结果：
True False
同样也可以使用 parser() 方法执行读取和分析。
用一个实例感受一下：
from urllib.robotparser import RobotFileParser
from urllib.request import urlopen
rp = RobotFileParser()
rp.parse(urlopen("http://www.jianshu.com/robots.txt").read().decode("utf-8").split("
"))
print(rp.can_fetch("*", "http://www.jianshu.com/p/b67554025d7d"))
print(rp.can_fetch("*", "http://www.jianshu.com/search?q=python&page=1&type=collections"))
运行结果一样：
True False4. 结语
以上介绍了 robotparser 模块的基本用法和实例讲解，利用它我们就可以方便地判断哪些页面可以抓取哪些不可以了。
上一篇文章：Python3网络爬虫实战---22、使用Urllib：解析链接
下一篇文章：Python3网络爬虫实战---24、requests：基本使用
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/44070.html
摘要：上一篇文章网络爬虫实战使用处理异常下一篇文章网络爬虫实战使用分析协议库里还提供了这个模块，它定义了处理的标准接口，例如实现各部分的抽取，合并以及链接转换。上一篇文章网络爬虫实战使用处理异常下一篇文章网络爬虫实战使用分析协议 上一篇文章：Python3网络爬虫实战---21、使用Urllib：处理异常下一篇文章：Python3网络爬虫实战---23、使用Urllib：分析Robots协议...
摘要：下面我们传入多个参数构建一个来感受一下在这里我们通过四个参数构造了一个，即请求，在中指定了和，传递的参数用了和方法来转成字节流，另外指定了请求方式为。运行结果如下通过观察结果可以发现，我们成功设置了，以及。用于处理重定向。 上一篇文章：Python3网络爬虫实战---19、代理基本原理下一篇文章：Python3网络爬虫实战---21、使用Urllib：处理异常 学习爬虫，最初的操作便...
摘要：所以使用代理隐藏真实的，让服务器误以为是代理服务器的在请求自己。参考来源由于涉及到一些专业名词知识，本节的部分内容参考来源如下代理服务器维基百科代理百度百科上一篇文章网络爬虫实战和下一篇文章网络爬虫实战使用发送请求 上一篇文章：Python3网络爬虫实战---18、Session和Cookies下一篇文章：Python3网络爬虫实战---20、使用Urllib：发送请求 我们在做爬虫...
摘要：上一篇文章网络爬虫实战使用分析协议下一篇文章在前面一节我们了解了的基本用法，但是其中确实有不方便的地方。发送之后，得到的自然就是，在上面的实例中我们使用了和获取了内容，不过还有很多属性和方法可以获取其他的信息，比如状态码等信息。 上一篇文章：Python3网络爬虫实战---23、使用Urllib：分析Robots协议下一篇文章： 在前面一节我们了解了 Urllib 的基本用法，但是其中...
摘要：在前面我们讲到了和的概念，我们向网站的服务器发送一个，返回的的便是网页源代码。渲染页面有时候我们在用或抓取网页时，得到的源代码实际和浏览器中看到的是不一样的。所以使用基本请求库得到的结果源代码可能跟浏览器中的页面源代码不太一样。 上一篇文章：Python3网络爬虫实战---16、Web网页基础下一篇文章：Python3网络爬虫实战---18、Session和Cookies 爬虫，即网...
阅读 794·2021-10-13 09:39
阅读 3672·2021-10-12 10:12
阅读 1703·2021-08-13 15:07
阅读 980·2019-08-29 15:31
阅读 2861·2019-08-26 13:25
阅读 1753·2019-08-23 18:38
阅读 1857·2019-08-23 18:25
阅读 1837·2019-08-23 17:20
