分布式内存缓存系统设计

red_bricks 发布于2019-08-06 13:20 / 3277人阅读

摘要：客户端缓存代理缓存实例内存总量限制缓存安全机制实例都会开启功能实例都监听在内网核心流程新增节点删除节点缓存缓存参考资源一致性原理一致性实现通讯协议规范

1.问题

任何平台随着用户规模的扩大、功能不断的添加，持久化数据库层承受的读写压力会越来越大，一旦数据库承压过大会导致读写性能陡然下降，严重时会导致大量的业务请求超时，进而发生“雪崩”引发严重的故障。

2.解决方案

在业务层和数据库持久层之间引入一层内存缓存层，对于复杂且业务逻辑上不会变化的查询结果进行缓存，业务请求再次发起时，每次都先从缓存层中查询，从而大大减少对数据库的查询，减小对数据库的压力。

3.分布式内存缓存、本地单点缓存、应用层缓存对比

类型	稳定性	扩展性	通用性	对代码的侵入性
应用层缓存	应用会频繁重启更新，缓存易丢失，稳定性不佳	差，受限于进程的资源限制	差，不同应用难以复用	代码侵入性小，无网络操作，只需要操作应用进程内存
本地单点缓存	独立的缓存应用（redis、memcached等），不会频繁重启，稳定性一般，但有单点故障问题	一般，受限于单服务器资源限制	一般，业务应用和缓存应用有强耦合	代码侵入性一般，需要引入对应的api通常有网络操作
分布式内存缓存	分布式系统，具备故障恢复功能，无单点故障问题，稳健性佳	好，支持水平扩展	好，对业务层提供通用接口，后端具体的缓存应用对业务透明	代码侵入性一般，需要引入通用的api通常有网络操作

4.分布式内存缓存系统设计 4.1总体架构图

4.2自定义的客户端协议

业务模块采用自定义应用层协议和cacheProxy交互

整个cache后端采用什么协议，什么存储（redis，memcached等）对业务模块透明

cache后端和业务端进行了隔离，修改互不影响

4.3负载均衡与容错机制

采用一致性hash算法，即使部分节点down机，也不会导致全部的缓存失效，新增节点也不会导致大量缓存失效和重建

一份缓存数据保留两份，当前hash节点和下一个真实的hash节点（超时时间只有设置的超时时间的一半），单个节点down机时，缓存也不会马上失效

cacheMan是一个弱的管理节点，负责监控，删除节点，新增节点，可以任意启停

4.4缓存维护与淘汰机制

redis原生超时机制+三层LRU缓存架构，减少最终穿透到redis实例上的请求。

客户端LRU缓存

cacheProxy代理LRU缓存

redis实例内存总量限制+LRU缓存

4.5安全机制

redis实例都会开启auth功能

redis实例都监听在内网ip

4.6核心流程

新增redis节点

删除redis节点

set缓存

get缓存

5.参考资源

一致性hash原理：http://blog.codinglabs.org/ar...

一致性hash实现：https://github.com/pzx6019171...

redis通讯协议规范：http://www.redis.cn/topics/pr...

GPU云服务器云服务器系统设计缓存java 分布式内存文件系统分布式系统设计分布式系统架构设计

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/61834.html

分布式内存缓存系统设计

摘要：客户端缓存代理缓存实例内存总量限制缓存安全机制实例都会开启功能实例都监听在内网核心流程新增节点删除节点缓存缓存参考资源一致性原理一致性实现通讯协议规范 1.问题任何平台随着用户规模的扩大、功能不断的添加，持久化数据库层承受的读写压力会越来越大，一旦数据库承压过大会导致读写性能陡然下降，严重时会导致大量的业务请求超时，进而发生雪崩引发严重的故障。 2.解决方案在业务层和数据库持久层之...

gitmilk 2019-08-06 12:24 评论0 收藏0
［读书笔记］大型分布式网站架构设计与实践.分布式缓存

摘要：接下来将介绍分布式缓存的典型代表，以及分布式缓存的应用场景。的分布式实现本身并不是一种分布式的缓存系统，它的分布式是由访问它的客户端来实现的。前言：本书是对分布式系统架构涉及到的相关技术的一本科普书籍。由于很难作为开发参考，只能但求了解。所以通篇浅读，对分布式系统进行大致的了解。因为写的非常好，感觉非常有意思，自己也做不出总结。所谓的读书笔记也就演变成了摘抄。简介一个大型、稳健、...

pepperwang 2019-08-06 13:25 评论0 收藏0
马蜂窝推荐系统容灾缓存服务的设计与实现

摘要：马蜂窝推荐系统对于请求的平均处理时延要求在级别，时延的线保持在以内。任务队列与异步写入这里我们使用了中的线程池来实现。三优化方向基于和，我们在现有的推荐系统中增加了一个本地容灾缓存系统，当依赖服务或者应用本身突发异常时可以返回缓存的数据。数据库突然断开连接、第三方接口迟迟不返回结果、高峰期网络发生抖动...... 当程序突发异常时，我们的应用可以告诉调用方或者用户「对不起，服务器出了...

Dean 2019-08-26 13:52 评论0 收藏0