摘要：上一篇文章网络爬虫实战请求库安装下一篇文章网络爬虫实战解析库的安装的安装在上一节我们了解了的配置方法，配置完成之后我们便可以用来驱动浏览器来做相应网页的抓取。上一篇文章网络爬虫实战请求库安装下一篇文章网络爬虫实战解析库的安装
上一篇文章：Python3网络爬虫实战---1、请求库安装：Requests、Selenium、ChromeDriver1.1.4 GeckoDriver的安装
下一篇文章：Python3网络爬虫实战---3、解析库的安装：LXML、BeautifulSoup、PyQuery、Tesserocr
在上一节我们了解了 ChromeDriver 的配置方法，配置完成之后我们便可以用 Selenium 来驱动 Chrome 浏览器来做相应网页的抓取。
那么对于 Firefox 来说，也可以使用同样的方式完成 Selenium 的对接，这时需要安装另一个驱动 GeckoDriver。
本节来介绍一下 GeckoDriver 的安装过程。
GitHub：https://github.com/mozilla/ge...
下载地址：https://github.com/mozilla/ge...
2. MAC安装方式brew install GeckoDriver3. 验证安装
配置完成之后，就可以在命令行下直接执行 geckodriver 命令测试。
命令行下输入：
geckodriver
这时控制台应该有类似输出，如图 1-20 所示：
图 1-20 控制台输出
如果有类似输出则证明 GeckoDriver 的环境变量配置好了。
随后再在程序中测试，执行如下 Python 代码：
from selenium import webdriver browser = webdriver.Firefox()
运行之后会弹出一个空白的 Firefox 浏览器，证明所有的配置都没有问题，如果没有弹出，请检查之前的每一步的配置。
如果没有问题，接下来我们就可以利用 Firefox 配合 Selenium 来做网页抓取了。
到现在位置我们就可以使用 Chrome 或 Firefox 进行网页抓取了，但是这样可能有个不方便之处，因为程序运行过程中需要一直开着浏览器，在爬取网页的过程中浏览器可能一直动来动去，着实不方便。目前最新的 Chrome 浏览器版本已经支持了无界面模式，但如果版本较旧就不支持。所以在这里还有另一种方便的选择就是安装一个无界面浏览器 PhantomJS，抓取过程会在后台运行，不会再有窗口出现，这样就方便了很多，所以在下一节我们再了解一下 PhantomJS 的相关安装方法。
1.1.5 PhantomJS的安装如果我们使用 Chrome 或 Firefox 进行网页抓取的话，每次抓取的时候，都会弹出一个浏览器，比较影响使用。所以在这里再介绍一个无界面浏览器，叫做 PhantomJS。
PhantomJS 是一个无界面的，可脚本编程的 WebKit 浏览器引擎。它原生支持多种 web 标准：DOM 操作，CSS 选择器，JSON，Canvas 以及 SVG。
Selenium 支持 PhantomJS，这样在运行的时候就不会再弹出一个浏览器了，而且其运行效率也是很高的，还支持各种参数配置，使用非常方便，下面我们就来了解一下 PhantomJS 的安装过程。
官方网站：http://phantomjs.org
官方文档：http://phantomjs.org/quick-st...
下载地址：http://phantomjs.org/download...
API接口说明：http://phantomjs.org/api/comm...
2. MAC安装brew cask install phantomjs3. 验证安装
在 Selenium 中使用的话，我们只需要将 Chrome 切换为 PhantomJS 即可。
from selenium import webdriver
browser = webdriver.PhantomJS()
browser.get("https://www.baidu.com")
print(browser.current_url)
运行之后我们就不会发现有浏览器弹出了，但实际上 PhantomJS 已经运行起来了，在这里我们访问了百度，然后将当前的 URL 打印出来。
控制台输出如下：
https://www.baidu.com/
如此一来我们便完成了 PhantomJS 的配置，在后面我们可以利用它来完成一些页面的抓取。
4. 结语以上三节我们介绍了 Selenium 对应的三大主流浏览器的对接方式，在后文我们会对 Selenium 及各个浏览器的对接方法进行更加深入的探究。
1.1.6 Aiohttp的安装之前我们介绍的 Requests 库是一个阻塞式 HTTP 请求库，当我们发出一个请求后，程序会一直等待服务器的响应，直到得到响应后程序才会进行下一步的处理，其实这个过程是比较耗费资源的。如果程序可以在这个等待过程中做一些其他的事情，如进行请求的调度、响应的处理等等，那么爬取效率一定会大大提高。
Aiohttp 就是这样一个提供异步 Web 服务的库，从 Python3.5 版本开始，Python 中加入了 async/await 关键字，使得回调的写法更加直观和人性化，Aiohttp的异步操作借助于 async/await 关键字写法变得更加简洁，架构更加清晰。使用异步请求库来进行数据抓取会大大提高效率，下面我们来看一下这个库的安装方法。
1. 相关链接官方文档：http://aiohttp.readthedocs.io...
GitHub：https://github.com/aio-libs/a...
PyPi：https://pypi.python.org/pypi/...
2. 安装推荐使用 Pip 安装，命令如下：
pip3 install aiohttp
另外官方还推荐安装如下两个库，一个是字符编码检测库 cchardet，另一个是加速 DNS 解析库 aiodns，安装命令如下：
pip3 install cchardet aiodns3. 测试安装
安装完成之后，可以在 Python 命令行下测试。
$ python3 >>> import aiohttp
如果没有错误报出，则证明库已经安装好了。
4. 结语我们会在后面的实例中用到这个库，比如维护一个代理池，利用异步方式检测大量代理的运行状况，极大提高效率。
上一篇文章：Python3网络爬虫实战---1、请求库安装：Requests、Selenium、ChromeDriver
下一篇文章：Python3网络爬虫实战---3、解析库的安装：LXML、BeautifulSoup、PyQuery、Tesserocr
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/44019.html
摘要：下一篇文章网络爬虫实战请求库安装爬虫可以简单分为几步抓取页面分析页面存储数据。相关链接官方网站官方文档中文文档安装验证安装进入命令行交互模式，导入一下包，如果没有报错，则证明安装成功。 下一篇文章：Python3网络爬虫实战---2、请求库安装：GeckoDriver、PhantomJS、Aiohttp 爬虫可以简单分为几步：抓取页面、分析页面、存储数据。 在第一步抓取页面的过程中，...
摘要：运行结果如果运行结果一致则证明安装成功。上一篇文章网络爬虫实战请求库安装下一篇文章网络爬虫实战数据库的安装 上一篇文章：Python3网络爬虫实战---2、请求库安装：GeckoDriver、PhantomJS、Aiohttp下一篇文章：Python3网络爬虫实战---数据库的安装：MySQL、MongoDB、Redis 抓取下网页代码之后，下一步就是从网页中提取信息，提取信息的方式有...
摘要：所以如果对爬虫有一定基础，上手框架是一种好的选择。缺少包，使用安装即可缺少包，使用安装即可上一篇文章网络爬虫实战爬取相关库的安装的安装下一篇文章网络爬虫实战爬虫框架的安装 上一篇文章：Python3网络爬虫实战---9、APP爬取相关库的安装：Appium的安装下一篇文章：Python3网络爬虫实战---11、爬虫框架的安装：ScrapySplash、ScrapyRedis 我们直接...
摘要：，引言注释上一篇爬虫实战安居客房产经纪人信息采集，访问的网页是静态网页，有朋友模仿那个实战来采集动态加载豆瓣小组的网页，结果不成功。 showImg(https://segmentfault.com/img/bVzdNZ); 1， 引言 注释：上一篇《Python爬虫实战（3）：安居客房产经纪人信息采集》，访问的网页是静态网页，有朋友模仿那个实战来采集动态加载豆瓣小组的网页，结果不成功...
摘要：项目简介本实验通过使用实现一个淘宝女郎图片收集爬虫，学习并实践及正则表达式等知识。本教程由阿发布在实验楼，完整教程及在线练习地址实现淘女郎照片爬虫，可以直接在教程中下载代码使用。 showImg(https://segmentfault.com/img/bVBgrF); 项目简介：本实验通过使用 Python 实现一个淘宝女郎图片收集爬虫，学习并实践 BeautifulSoup、Sel...
阅读 895·2021-11-25 09:43
阅读 1241·2021-11-17 09:33
阅读 2977·2019-08-30 15:44
阅读 3275·2019-08-29 17:16
阅读 450·2019-08-28 18:20
阅读 1542·2019-08-26 13:54
阅读 531·2019-08-26 12:14
阅读 2149·2019-08-26 12:14
