摘要:原文链接其他分布式系列快捷键分布式系列为什么需要分布式以及分布式的业务需求分布式系列适合做分布式吗分布式系列数据库自增机制适合做分布式吗分布式系列集群实现的分布式适合做分布式吗分布式系列的雪法算法适合做分布式吗大佬网址
今天我们来讲一下Redis集群实现的分布式ID的过程,总结一下Redis集群是否适合做分布式ID?
首先是项目地址:https://github.com/maqiankun/...
关于Redis集群生成分布式ID,这里要先了解redis使用lua脚本的时候的EVAL,EVALSHA命令:https://www.runoob.com/redis/...
https://www.runoob.com/redis/...
这里的分布式id我们分成3部分组成:毫秒级时间,redis集群的第多少个节点,每一个redis节点在每一毫秒的自增序列值
然后因为window是64位的,然后整数的时候第一位必须是0,所以最大的数值就是63位的111111111111111111111111111111111111111111111111111111111111111,这里呢,我们分出来41位作为毫秒,然后12位作为redis节点的数量,然后10位做成redis节点在每一毫秒的自增序列值
41位的二进制11111111111111111111111111111111111111111转换成10进制的毫秒就是2199023255551,然后我们把 2199023255551转换成时间就是2039-09-07,也就是说可以用20年的
然后12位作为redis节点,所以最多就是12位的111111111111,也就是最多可以支持4095个redis节点,
然后10位的redis每一个节点自增序列值,,这里最多就是10位的1111111111,也就是说每一个redis节点可以每一毫秒可以最多生成1023个不重复id值
然后我们使用java代码来讲解这个原理,下面的1565165536640L是一个毫秒值,然后我们的的redis节点设置成53,然后我们设置了两个不同的自增序列值,分别是1和1023,下面的结果展示的就是在1565165536640L这一毫秒里面,53号redis节点生成了两个不同的分布式id值
package io.github.hengyunabc.redis; import java.text.SimpleDateFormat; import java.util.Date; public class Test { public static void main(String[] args) { long buildId = buildId(1565165536640L, 53, 1); System.out.println("分布式id是:"+buildId); long buildIdLast = buildId(1565165536640L, 53, 1023); System.out.println("分布式id是:"+buildIdLast); } public static long buildId(long miliSecond, long shardId, long seq) { return (miliSecond << (12 + 10)) + (shardId << 10) + seq; } } public class Test { public static void main(String[] args) { long buildId = buildId(1565165536640L, 53, 1); System.out.println("分布式id是:"+buildId); long buildIdLast = buildId(1565165536640L, 53, 1023); System.out.println("分布式id是:"+buildIdLast); } public static long buildId(long miliSecond, long shardId, long seq) { return (miliSecond << (12 + 10)) + (shardId << 10) + seq; } }
结果如下所示
分布式id是:6564780070991352833 分布式id是:6564780070991353855
那么有人要说了,你这也不符合分布式id的设置啊,完全没有可读性啊,这里我们可以使用下面的方式来获取这个分布式id的生成毫秒时间值,
package io.github.hengyunabc.redis; import java.text.SimpleDateFormat; import java.util.Date; public class Test { public static void main(String[] args) { long buildId = buildId(1565165536640L, 53, 1); parseId(buildId); long buildIdLast = buildId(1565165536640L, 53, 1023); parseId(buildIdLast); } public static long buildId(long miliSecond, long shardId, long seq) { return (miliSecond << (12 + 10)) + (shardId << 10) + seq; } public static void parseId(long id) { long miliSecond = id >>> 22; long shardId = (id & (0xFFF << 10)) >> 10; System.err.println("分布式id-"+id+"生成的时间是:"+new SimpleDateFormat("yyyy-MM-dd").format(new Date(miliSecond))); System.err.println("分布式id-"+id+"在第"+shardId+"号redis节点生成"); } }
这样不就ok了,哈哈。
分布式id-6564780070991352833生成的时间是:2019-08-07 分布式id-6564780070991352833在第53号redis节点生成 分布式id-6564780070991353855生成的时间是:2019-08-07 分布式id-6564780070991353855在第53号redis节点生成实现集群版的redis的分布式id创建
此时我的分布式redis集群的端口分别是6380,6381
首先是生成Evalsha命令安全sha1 校验码,生成过程如下,
首先是生成6380端口对应的安全sha1 校验码,首先进入到redis的bin目录里面,然后执行下面的命令下载lua脚本
wget https://github.com/maqiankun/distributed-id-redis-generator/blob/master/redis-script-node1.lua
然后执行下面的命令,生成6380端口对应的安全sha1 校验码,此时看到是be6d4e21e9113bf8af47ce72f3da18e00580d402
./redis-cli -p 6380 script load "$(cat redis-script-node1.lua)"
首先是生成6381端口对应的安全sha1 校验码,首先进入到redis的bin目录里面,然后执行下面的命令下载lua脚本
wget https://github.com/maqiankun/distributed-id-redis-generator/blob/master/redis-script-node2.lua
然后执行下面的命令,生成6381端口对应的安全sha1 校验码,此时看到是97f65601d0aaf1a0574da69b1ff3092969c4310e
./redis-cli -p 6381 script load "$(cat redis-script-node2.lua)"然后我们就使用上面的sha1 校验码和下面的代码来生成分布式id
项目图片如下
IdGenerator类的代码如下所示
package io.github.hengyunabc.redis; import java.util.ArrayList; import java.util.List; import org.apache.commons.lang3.tuple.Pair; import redis.clients.jedis.Jedis; import redis.clients.jedis.JedisPool; import redis.clients.jedis.exceptions.JedisConnectionException; public class IdGenerator { /** * JedisPool, luaSha */ List> jedisPoolList; int retryTimes; int index = 0; private IdGenerator(List > jedisPoolList, int retryTimes) { this.jedisPoolList = jedisPoolList; this.retryTimes = retryTimes; } static public IdGeneratorBuilder builder() { return new IdGeneratorBuilder(); } static class IdGeneratorBuilder { List > jedisPoolList = new ArrayList(); int retryTimes = 5; public IdGeneratorBuilder addHost(String host, int port, String luaSha) { jedisPoolList.add(Pair.of(new JedisPool(host, port), luaSha)); return this; } public IdGenerator build() { return new IdGenerator(jedisPoolList, retryTimes); } } public long next(String tab) { for (int i = 0; i < retryTimes; ++i) { Long id = innerNext(tab); if (id != null) { return id; } } throw new RuntimeException("Can not generate id!"); } Long innerNext(String tab) { index++; int i = index % jedisPoolList.size(); Pair pair = jedisPoolList.get(i); JedisPool jedisPool = pair.getLeft(); String luaSha = pair.getRight(); Jedis jedis = null; try { jedis = jedisPool.getResource(); List result = (List ) jedis.evalsha(luaSha, 2, tab, "" + i); long id = buildId(result.get(0), result.get(1), result.get(2), result.get(3)); return id; } catch (JedisConnectionException e) { if (jedis != null) { jedisPool.returnBrokenResource(jedis); } } finally { if (jedis != null) { jedisPool.returnResource(jedis); } } return null; } public static long buildId(long second, long microSecond, long shardId, long seq) { long miliSecond = (second * 1000 + microSecond / 1000); return (miliSecond << (12 + 10)) + (shardId << 10) + seq; } public static List parseId(long id) { long miliSecond = id >>> 22; long shardId = (id & (0xFFF << 10)) >> 10; List re = new ArrayList (4); re.add(miliSecond); re.add(shardId); return re; } }
Example的代码如下所示,下面的while循环的目的就是为了打印多个分布式id,下面的tab变量就是evalsha命令里面的参数,可以根据自己的需求来定义
package io.github.hengyunabc.redis; import java.text.SimpleDateFormat; import java.util.Date; import java.util.List; public class Example { public static void main(String[] args) { String tab = "这个就是evalsha命令里面的参数,随便定义"; IdGenerator idGenerator = IdGenerator.builder() .addHost("47.91.248.236", 6380, "be6d4e21e9113bf8af47ce72f3da18e00580d402") .addHost("47.91.248.236", 6381, "97f65601d0aaf1a0574da69b1ff3092969c4310e") .build(); int hello = 0; while (hello<3){ long id = idGenerator.next(tab); System.out.println("分布式id值:" + id); Listresult = IdGenerator.parseId(id); System.out.println("分布式id生成的时间是:" + new SimpleDateFormat("yyyy-MM-dd").format(new Date(result.get(0))) ); System.out.println("redis节点:" + result.get(1)); hello++; } } }
此时打印结果如下所示
分布式id值:6564819854640022531 分布式id生成的时间是:2019-08-07 redis节点:1 分布式id值:6564819855189475330 分布式id生成的时间是:2019-08-07 redis节点:0 分布式id值:6564819855361442819 分布式id生成的时间是:2019-08-07 redis节点:1
到这里redis集群版的分布式id就算搞定了,完美؏؏☝ᖗ乛◡乛ᖘ☝؏؏
Redis集群实现的分布式id是否适合做分布式id呢?我觉得Redis集群实现分布式ID是可以供我们开发中的基本使用的,但是我还是觉得它有下面的两个问题:
1:这里我们可以给上一篇的数据库自增ID机制进行对比,其实Redis集群可以说是解决了数据库集群创建分布式ID的性能问题,但是Redis集群系统水平扩展还是比较困难,如果以后想对Redis集群增加Redis节点的话,还是会和数据库集群的节点扩展一样麻烦。
2:还有就是如果你的项目里面没有使用Redis,那么你就要引入新的组件,这也是一个比较麻烦的问题。
原文链接
其他分布式ID系列快捷键:
分布式ID系列(1)——为什么需要分布式ID以及分布式ID的业务需求
分布式ID系列(2)——UUID适合做分布式ID吗
分布式ID系列(3)——数据库自增ID机制适合做分布式ID吗
分布式ID系列(4)——Redis集群实现的分布式ID适合做分布式ID吗
分布式ID系列(5)——Twitter的雪法算法Snowflake适合做分布式ID吗
大佬网址
https://www.itqiankun.com/art...
https://blog.csdn.net/hengyun...
https://tech.meituan.com/2017...
https://segmentfault.com/a/11...
https://www.jianshu.com/p/9d7...
文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。
转载请注明本文地址:https://www.ucloud.cn/yun/76209.html
摘要:数据库自增机制原理介绍在分布式里面,数据库的自增机制的主要原理是数据库自增和数据库的函数实现的。 数据库自增ID机制原理介绍 在分布式里面,数据库的自增ID机制的主要原理是:数据库自增ID和mysql数据库的replace_into()函数实现的。这里的replace数据库自增ID和mysql数据库的replace_into()函数实现的。这里的replace into跟insert功...
摘要:用户指定一个名字空间和一个字符串,通过散列,生成。字符串本身需要是唯一的。。虽然是基于随机数,但是重复的可能性可以忽略不计,因此该版本也是被经常使用的版本。。当前正在使用的。。 UUID的生成策略: UUID的方式能生成一串唯一随机32位长度数据,它是无序的一串数据,按照开放软件基金会(OSF)制定的标准计算,UUID的生成用到了以太网卡地址、纳秒级时间、芯片ID码和许多可能的数字。U...
摘要:同时除了对号码自身的要求,业务还对号生成系统的可用性要求极高,想象一下,如果生成系统瘫痪,整个美团点评支付优惠券发券骑手派单等关键动作都无法执行,这就会带来一场灾难。 分布式id主要用到哪些地方 在复杂分布式系统中,往往需要对大量的数据和消息进行唯一标识。如在美团点评的金融、支付、餐饮、酒店、猫眼电影等产品的系统中,数据日渐增长,对数据分库分表后需要有一个唯一ID来标识一条数据或消息,...
阅读 626·2023-04-26 02:08
阅读 2655·2021-11-18 10:02
阅读 3463·2021-11-11 16:55
阅读 2343·2021-08-17 10:13
阅读 2904·2019-08-30 15:53
阅读 686·2019-08-30 15:44
阅读 2548·2019-08-30 11:10
阅读 1758·2019-08-29 16:57