Python3网络爬虫实战---34、数据存储：非关系型数据库存储:Redis

摘要：上一篇文章网络爬虫实战数据存储非关系型数据库存储下一篇文章网络爬虫实战数据爬取是一个基于内存的高效的键值型非关系型数据库，存取效率极高，而且支持多种存储数据结构，使用也非常简单，在本节我们介绍一下的操作，主要介绍这个库的用法。

上一篇文章：Python3网络爬虫实战---33、数据存储：非关系型数据库存储:MongoDB
下一篇文章：Python3网络爬虫实战---35、 Ajax数据爬取

Redis 是一个基于内存的高效的键值型非关系型数据库，存取效率极高，而且支持多种存储数据结构，使用也非常简单，在本节我们介绍一下 Python 的 Redis 操作，主要介绍 RedisPy 这个库的用法。

在本节开始之前请确保已经安装好了 Redis 及 RedisPy库，如果要做数据导入导出操作的话还需要安装 RedisDump，如没有安装可以参考第一章的安装说明。

RedisPy 库提供两个类 Redis 和 StrictRedis 用于实现Redis 的命令操作。

StrictRedis 实现了绝大部分官方的命令，参数也一一对应，比如 set() 方法就对应 Redis 命令的 set 方法。而Redis 是 StrictRedis 的子类，它的主要功能是用于向后兼容旧版本库里的几个方法，为了做兼容，将方法做了改写，比如 lrem() 方法就将 value 和 num 参数的位置互换，和Redis 命令行的命令参数不一致。

官方推荐使用 StrictRedis，所以本节我们也用 StrictRedis类的相关方法作演示。

当前在本地我已经安装了 Redis 并运行在 6379 端口，密码设置为 foobared。

那么可以用如下示例连接 Redis 并测试：

from redis import StrictRedis

redis = StrictRedis(host="localhost", port=6379, db=0, password="foobared")
redis.set("name", "Bob")
print(redis.get("name"))

在这里我们传入了 Redis 的地址，运行端口，使用的数据库，密码信息。在默认不传的情况下，这四个参数分别为 localhost、6379、0、None。现在我们声明了一个StrictRedis 对象，然后接下来调用了 set() 方法，设置一个键值对，然后在将其获取打印。

运行结果：

b"Bob"

这样就说明我们连接成功，并可以执行 set()、get() 操作了。

当然我们还可以使用 ConnectionPool 来连接，示例如下：

from redis import StrictRedis, ConnectionPool

pool = ConnectionPool(host="localhost", port=6379, db=0, password="foobared")
redis = StrictRedis(connection_pool=pool)

这样的连接效果是一样的，观察源码可以发现 StrictRedis内其实就是用 host、port 等参数又构造了一个 ConnectionPool，所以我们直接将 ConnectionPool 当参数传给 StrictRedis 也是一样的。

另外 ConnectionPool 还支持通过 URL 来构建，URL 的格式支持如下三种：

redis://[:password]@host:port/db
rediss://[:password]@host:port/db
unix://[:password]@/path/to/socket.sock?db=db

这三种 URL 分别表示创建 Redis TCP 连接、Redis TCP+SSL 连接、Redis Unix Socket 连接，我们只需要构造上面任意一种连接 URL 即可，其中 password 部分如果有则可以写，没有可以省略，下面我们再用URL连接演示一下：

url = "redis://:foobared@localhost:6379/0"
pool = ConnectionPool.from_url(url)
redis = StrictRedis(connection_pool=pool)

在这里我们使用了第一种连接字符串进行连接，我们首先声明了一个 Redis 连接字符串，然后调用 from_url() 方法创建一个 ConnectionPool，然后将其传给 StrictRedis 即可完成连接，所以使用 URL 的连接方式还是比较方便的。

在这里主要将 Key 的一些判断和操作方法做下总结：

Redis 中存在最基本的键值对形式存储，用法总结如下：

List，即列表。Redis 还提供了列表存储，列表内的元素可以重复，而且可以从两端存储，用法总结如下：

Set，即集合。Redis 还提供了集合存储，集合中的元素都是不重复的，用法总结如下：

Sorted Set，即有序集合，它相比集合多了一个分数字段，利用它我们可以对集合中的数据进行排序，其用法总结如下：

Hash，即哈希。Redis 还提供了哈希表的数据结构，我们可以用name指定一个哈希表的名称，然后表内存储了各个键值对，用法总结如下：

RedisDump 提供了强大的 Redis 数据的导入和导出功能，本节我们来看下它的具体用法。

首先确保已经安装好了 RedisDump。

RedisDump 提供两个可执行命令，redis-dump 用于导出数据，redis-load 用于导入数据。

我们可以首先输入如下命令查看所有可选项：

redis-dump -h

运行结果如下：

Usage: redis-dump [global options] COMMAND [command options] 
    -u, --uri=S                      Redis URI (e.g. redis://hostname[:port])
    -d, --database=S                 Redis database (e.g. -d 15)
    -s, --sleep=S                    Sleep for S seconds after dumping (for debugging)
    -c, --count=S                    Chunk size (default: 10000)
    -f, --filter=S                   Filter selected keys (passed directly to redis" KEYS command)
    -O, --without_optimizations      Disable run time optimizations
    -V, --version                    Display version
    -D, --debug
        --nosafe

可以看到其参数，-u 代表 Redis 连接字符串，-d 代表数据库代号，默认全部，-s 代表导出之后的休眠时间，-c 代表分块大小，默认是 10000，-f 代表导出时的过滤器，-O 代表禁用运行时优化，-V 显示版本，-D 开启调试。

我们拿本地的 Redis 做测试，运行在 6379 端口上，密码为 foobared，导出命令如下：

redis-dump -u :foobared@localhost:6379

如果没有密码的话可以不加密码前缀，命令如下：

redis-dump -u localhost:6379

运行之后可以将本地 0-15号 数据库的所有数据输出出来，例如：

{"db":0,"key":"name","ttl":-1,"type":"string","value":"James","size":5}
{"db":0,"key":"name2","ttl":-1,"type":"string","value":"Durant","size":6}
{"db":0,"key":"name3","ttl":-1,"type":"string","value":"Durant","size":6}
{"db":0,"key":"name4","ttl":-1,"type":"string","value":"HelloWorld","size":10}
{"db":0,"key":"name5","ttl":-1,"type":"string","value":"James","size":5}
{"db":0,"key":"name6","ttl":-1,"type":"string","value":"James","size":5}
{"db":0,"key":"age","ttl":-1,"type":"string","value":"1","size":1}
{"db":0,"key":"age2","ttl":-1,"type":"string","value":"-5","size":2}

每条数据都包含五个字段，db 即数据库代号，key 即键名，ttl 即该键值对的有效时间，type 即键值类型，size 即占用空间。

如果想要将其输出为 Json 行文件，可以使用如下命令：

redis-dump -u :foobared@localhost:6379 > ./redis_data.jl

这样我们就可以成功将 Redis 的所有数据库的所有数据导出成 Json 行文件了。

另外我们可以使用 -d 参数指定某个数据库的导出，例如只导出 1 号数据库的内容：

redis-dump -u :foobared@localhost:6379 -d 1 > ./redis.data.jl

如果只想导出特定的内容，如想导出 adsl 开头的数据，可以加入 -f 参数用来过滤，命令如下：

redis-dump -u :foobared@localhost:6379 -f adsl:* > ./redis.data.jl

其中 -f 的参数即 Redis 的 keys 命令的参数，可以写一些过滤规则。

我们同样可以首先输入如下命令查看所有可选项：

redis-load -h

运行结果如下：

redis-load --help
  Try: redis-load [global options] COMMAND [command options] 
    -u, --uri=S                      Redis URI (e.g. redis://hostname[:port])
    -d, --database=S                 Redis database (e.g. -d 15)
    -s, --sleep=S                    Sleep for S seconds after dumping (for debugging)
    -n, --no_check_utf8
    -V, --version                    Display version
    -D, --debug
        --nosafe

可以看到其参数，-u 代表 Redis 连接字符串，-d 代表数据库代号，默认全部，-s 代表导出之后的休眠时间，-n 代表不检测 UTF-8 编码，-V 显示版本，-D 开启调试。

我们可以将 Json 行文件导入到 Redis 数据库中：

< redis_data.json redis-load -u :foobared@localhost:6379

这样就可以成功将 Json 行文件导入到数据库中了。

另外如下命令同样可以达到同样的效果：

cat redis_data.json | redis-load -u :foobared@localhost:6379

以上便是 RedisDump 的使用概述，使用它我们可以高效便捷地实现 Redis 数据库的导入导出。

本节我们了解了 RedisPy 对 Redis 数据库的一些基本操作，另外还了解了 RedisDump 对数据导入导出做了演示，由于其便捷和高效性，在后文我们会利用 Redis 实现很多架构，如维护代理池、Cookies 池、ADSL 拨号代理池、ScrapyRedis 分布式架构等，所以 Redis 的操作需要好好掌握。

上一篇文章：Python3网络爬虫实战---33、数据存储：非关系型数据库存储:MongoDB
下一篇文章：Python3网络爬虫实战---35、 Ajax数据爬取