一、缓存的收益和成本

　　左侧为客户端直接调用存储层的架构，右侧为比较典型的缓存层+存储层架构，

　　

java redis缓存设计 redis缓存架构设计_后端

　　缓存加入后带来的收益如下：

  • 加速读写：因为缓存通常都是全内存的（例如Redis、Memcache），而存储层通常读写性能不够强悍（例如MySQL），通过缓存的使用可以有效地加速读写，优化用户体验。
  • 降低后端负载：帮助后端减少访问量和复杂计算（例如很复杂的SQL语句），在很大程度降低了后端的负载。

　　缓存加入后带来的成本如下：

  • 数据不一致性：缓存层和存储层的数据存在着一定时间窗口的不一致性，时间窗口跟更新策略有关。
  • 代码维护成本：加入缓存后，需要同时处理缓存层和存储层的逻辑，增大了开发者维护代码的成本。
  • 运维成本：以Redis Cluster为例，加入后无形中增加了运维成本。缓存的使用场景基本包含如下两种：
  • 开销大的复杂计算：以MySQL为例子，一些复杂的操作或者计算（例如大量联表操作、一些分组计算），如果不加缓存，不但无法满足高并发量，同时也会给MySQL带来巨大的负担。
  • 加速请求响应：即使查询单条后端数据足够快（例如select * from table where id=），那么依然可以使用缓存，Redis每秒可以完成数万次读写，并且提供的批量操作可以优化整个IO链的响应时间。

　　二、缓存更新策略

　　缓存中的数据通常都是有生命周期的，需要在指定时间后被删除或更新，这样可以保证缓存空间在一个可控的范围。但是缓存中的数据会和数据源中的真实数据有一段时间窗口的不一致，需要利用某些策略进行更新。

　　下面将分别从使用场景、一致性、开发人员开发/维护成本三个方面介绍三种缓存的更新策略。

　　（1）LRU/LFU/FIFO算法剔除
　　使用场景。剔除算法通常用于缓存使用量超过了预设的最大值时候，如何对现有的数据进行剔除。例如Redis使用maxmemory-policy这个配置作为内存最大值后对于数据的剔除策略。
　　一致性。要清理哪些数据是由具体算法决定，开发人员只能决定使用哪种算法，所以数据的一致性是最差的。
　　维护成本。算法不需要开发人员自己来实现，通常只需要配置最大maxmemory和对应的策略即可。开发人员只需要知道每种算法的含义，选择适合自己的算法即可。
　　（2）超时剔除
　　使用场景。超时剔除通过给缓存数据设置过期时间，让其在过期时间后自动删除，例如Redis提供的expire命令。如果业务可以容忍一段时间内，缓存层数据和存储层数据不一致，那么可以为其设置过期时间。在数据过期后，再从真实数据源获取数据，重新放到缓存并设置过期时间。例如一个视频的描述信息，可以容忍几分钟内数据不一致，但是涉及交易方面的业务，后果可想而知。
　　一致性。一段时间窗口内（取决于过期时间长短）存在一致性问题，即缓存数据和真实数据源的数据不一致。
　　维护成本。维护成本不是很高，只需设置expire过期时间即可，当然前提是应用方允许这段时间可能发生的数据不一致。
　　（3）主动更新
　　使用场景。应用方对于数据的一致性要求高，需要在真实数据更新后，立即更新缓存数据。例如可以利用消息系统或者其他方式通知缓存更新。
　　一致性。一致性最高，但如果主动更新发生了问题，那么这条数据很可能很长时间不会更新，所以建议结合超时剔除一起使用效果会更好。
　　维护成本。维护成本会比较高，开发者需要自己来完成更新，并保证更新操作的正确性。

　　（4）使用建议

  • 低一致性业务建议配置最大内存和淘汰策略的方式使用。
  • 高一致性业务可以结合使用超时剔除和主动更新，这样即使主动更新出了问题，也能保证数据过期时间后删除脏数据。

　　

java redis缓存设计 redis缓存架构设计_数据库_02

　　三、缓存粒度控制

　　

java redis缓存设计 redis缓存架构设计_数据库_03

　　例如现在需要将MySQL的用户信息使用Redis缓存，可以执行如下操作：

  • 从MySQL获取用户信息：
select * from user where id={id}



  • 将用户信息缓存到Redis中：
set user:{id} 'select * from user where id={id}'



　　假设用户有100个列，需要缓存到什么维度呢？这个问题就是缓存粒度问题

  • 缓存全部列：
set user:{id} 'select * from user where id={id}'



  • 缓存部分重要列：
set user:{id} 'select {importantColumn1}, {important Column2} ...{importantColumnN} from user where id={id}'



　　从通用性、空间占用和代码维护三个方面说明究竟是缓存全部属性还是只缓存部分重要属性：

  • 通用性。缓存全部数据比部分数据更加通用，但从实际经验看，很长时间内应用只需要几个重要的属性。
  • 空间占用。缓存全部数据要比部分数据占用更多的空间，可能存在以下问题：
  1. ·全部数据会造成内存的浪费。
  2. 全部数据可能每次传输产生的网络流量会比较大，耗时相对较大，在极端情况下会阻塞网络。
  3. 全部数据的序列化和反序列化的CPU开销更大。
  • 代码维护。全部数据的优势更加明显，而部分数据一旦要加新字段需要修改业务代码，而且修改后通常还需要刷新缓存数据。

　　四、穿透优化

　　缓存穿透是指查询一个根本不存在的数据，缓存层和存储层都不会命中，通常出于容错的考虑，如果从存储层查不到数据则不写入缓存层，如图

　　

java redis缓存设计 redis缓存架构设计_后端_04

　　整个过程分为如下3步：

  • 缓存层不命中。
  • 存储层不命中，不将空结果写回缓存。
  • 返回空结果。

　　缓存穿透将导致不存在的数据每次请求都要到存储层去查询，失去了缓存保护后端存储的意义。
　　缓存穿透问题可能会使后端存储负载加大，由于很多后端存储不具备高并发性，甚至可能造成后端存储宕掉。通常可以在程序中分别统计总调用数、缓存层命中数、存储层命中数，如果发现大量存储层空命中，可能就是出现了缓存穿透问题。
　　造成缓存穿透的基本原因有两个。

  • 自身业务代码或者数据出现问题，
  • 一些恶意攻击、爬虫等造成大量空命中。

　　（1）缓存空对象

　　当第2步存储层不命中后，仍然将空对象保留到缓存层中，之后再访问这个数据将会从缓存中获取，这样就保护了后端数据源。

　　

java redis缓存设计 redis缓存架构设计_运维_05

 　　缓存空对象会有两个问题：

  • 第一，空值做了缓存，意味着缓存层中存了更多的键，需要更多的内存空间（如果是攻击，问题更严重），比较有效的方法是针对这类数据设置一个较短的过期时间，让其自动剔除。
  • 第二，缓存层和存储层的数据会有一段时间窗口的不一致，可能会对业务有一定影响。例如过期时间设置为5分钟，如果此时存储层添加了这个数据，那此段时间就会出现缓存层和存储层数据的不一致，此时可以利用消息系统或者其他方式清除掉缓存层中的空对象。

　　（2）布隆过滤器拦截

　　在访问缓存层和存储层之前，将存在的key用布隆过滤器提前保存起来，做第一层拦截。

　　例如：一个推荐系统有4亿个用户id，每个小时算法工程师会根据每个用户之前历史行为计算出推荐数据放到存储层中，但是最新的用户由于没有历史行为，就会发生缓存穿透的行为，为此可
以将所有推荐数据的用户做成布隆过滤器。如果布隆过滤器认为该用户id不存在，那么就不会访问存储层，在一定程度保护了存储层。

　　

java redis缓存设计 redis缓存架构设计_运维_06

　　五、无底洞优化

　　为了满足业务要求添加了大量新节点，但是性能不但没有好转反而下降了，当时将这种现象称为缓存的“无底洞”现象。

　　无底洞问题有两个成因：

  • 客户端一次批量操作会涉及多次网络操作，也就意味着批量操作会随着节点的增多，耗时会不断增大。
  • 网络连接数变多，对节点的性能也有一定影响。

　　更多的节点不代表更高的性能，所谓“无底洞”就是说投入越多不一定产出越多。但是分布式又是不可以避免的，因为访问量和数据量越来越大，一个节点根本抗不住，所以如何高效地在分布式缓存中批量操作是一个难点。

　　（1）常见的IO优化思路

  • 命令本身的优化，例如优化SQL语句等。
  • 减少网络通信次数。
  • 降低接入成本，例如客户端使用长连/连接池、NIO等。

　　（2）以Redis批量获取n个字符串为例，有三种实现方法

  • 客户端n次get：n次网络+n次get命令本身。
  • 客户端1次pipeline get：1次网络+n次get命令本身。
  • 客户端1次mget：1次网络+1次mget命令本身。

　　（3）串行命令

　　由于n个key是比较均匀地分布在Redis Cluster的各个节点上，因此无法使用mget命令一次性获取，所以通常来讲要获取n个key的值，最简单的方法就是逐次执行n个get命令，这种操作时间复杂度较高，它的操作时间=n次网络时间+n次命令时间，网络次数是n。

　　很显然这种方案不是最优的，但是实现起来比较简单。

　　

java redis缓存设计 redis缓存架构设计_运维_07

　　（4）串行IO

　　Redis Cluster使用CRC16算法计算出散列值，再取对16383的余数就可以算出slot值，同时Smart客户端会保存slot和节点的对应关系，有了这两个数据就可以将属于同一个节点的key进行归档，得到每个节
点的key子列表，之后对每个节点执行mget或者Pipeline操作，它的操作时间=node次网络时间+n次命令时间，网络次数是node的个数，很明显这种方案比第一种要好很多，但是如果节点数太多，还是有一定的性能问题。

　　

java redis缓存设计 redis缓存架构设计_缓存_08

　　（5）并行IO

　　并行IO是将串行IO中的最后一步改为多线程执行，网络次数虽然还是节点个数，但由于使用多线程网络时间变为O（1），这种方案会增加编程的复杂度。

　　它的操作时间为：max_slow(node 网络时间 )+n 次命令时间。

　　

java redis缓存设计 redis缓存架构设计_缓存_09

　　（6）hash_tag实现

　　Redis Cluster的hash_tag功能，它可以将多个key强制分配到一个节点上，它的操作时间=1次网络时间+n次命令时间。（所有的key都属于node2节点。）

　　

java redis缓存设计 redis缓存架构设计_后端_10

java redis缓存设计 redis缓存架构设计_后端_11

　　

　　（7）方案对比

　　

java redis缓存设计 redis缓存架构设计_缓存_12

　　六、雪崩优化

　　

java redis缓存设计 redis缓存架构设计_缓存_13

　　由于缓存层承载着大量请求，有效地保护了存储层，但是如果缓存层由于某些原因不能提供服务，于是所有的请求都会达到存储层，存储层的调用量会暴增，造成存储层也会级联宕机的情况。

　　预防和解决雪崩问题，可以从三个方面入手：

  • 保证缓存层服务高可用性。例如Redis Sentinel和Redis Cluster都实现了高可用。
  • 依赖隔离组件为后端限流并降级。在实际项目中，我们需要对重要的资源（例如Redis、MySQL、HBase、外部接口）都进行隔离，让每种资源都单独运行在自己的线程池中，即使个别资源出现了问题，对其他服务没有影响。
  • 项目上线前，演练可能出现的各种问题。

　　七、热点key重建优化

　　（1）出现的问题和解决目标

　　开发人员使用“缓存+过期时间”的策略既可以加速数据读写，又保证数据的定期更新，这种模式基本能够满足绝大部分需求。但是有两个问题如果同时出现，可能就会对应用造成致命的危害：

  • 当前key是一个热点key（例如一个热门的娱乐新闻），并发量非常大。
  • 重建缓存不能在短时间完成，可能是一个复杂计算，例如复杂的SQL、多次IO、多个依赖等。

　　在缓存失效的瞬间，有大量线程来重建缓存，造成后端负载加大，甚至可能会让应用崩溃。要解决这个问题也不是很复杂，但是不能为了解决这个问题给系统带来更多的麻烦，所以需要制定如下目标：

  • 减少重建缓存的次数。
  • 数据尽可能一致。
  • 较少的潜在危险。

　　（2）互斥锁

　　只允许一个线程重建缓存，其他线程等待重建缓存的线程执行完，重新从缓存获取数据即可。

　　

java redis缓存设计 redis缓存架构设计_运维_14

　　（3）永远不过期

　　“永远不过期”包含两层意思：

  • 从缓存层面来看，确实没有设置过期时间，所以不会出现热点key过期后产生的问题，也就是“物理”不过期。
  • 从功能层面来看，为每个value设置一个逻辑过期时间，当发现超过逻辑过期时间后，会使用单独的线程去构建缓存。

　　

java redis缓存设计 redis缓存架构设计_java redis缓存设计_15

　　此方法有效杜绝了热点key产生的问题，但唯一不足的就是重构缓存期间，会出现数据不一致的情况，这取决于应用方是否容忍这种不一致。

　　作为一个并发量较大的应用，在使用缓存时有三个目标：第一，加快用户访问速度，提高用户体验。第二，降低后端负载，减少潜在的风险，保证系统平稳。第三，保证数据“尽可能”及时更新。

　　

java redis缓存设计 redis缓存架构设计_数据库_16