关于缓存,或者关于微服务,有很多的术语
比如微服务的熔断,服务降级,服务雪崩
之所以出现需要熔断或降级,大多情况是并发太高了,服务器扛不住了,或者服务器就是不能长时间运行
除了微服务,还有缓存的一些术语,击穿,雪崩
缓存击穿
定义: 缓存中的key一般设有过期时间,如果某个key过期了,恰在这个时候,有大量的并发请求访问这个key,则这些请求都会到达DB,导致DB瞬间压力过大,压垮DB。
解决方案: 1.设置互斥锁,mutex。当缓存失效时不时立即去访问数据库,而是使用缓存工具的操作成功带返回值的操作,比如redis的setnx(set if not exit),memcache的add,利用setnx实现锁的效果。
缺点:可能造成死锁,或线程池阻塞
2.提前使用互斥锁
redist的超时时间是timeout1,value的超时时间是timeout2,timeout2 < timeout1。 当timeout2超时时,延长timeout2的时间。并重新设置到redis中。
3.永远不过期
不设置过期时间。
把过期时间设到value里,如果快要过期了,通过一个后台异步线程进行缓存的构建,也就是逻辑过期。
缓存穿透
定义: 指有人用数据库中不存在的某个key访问,数据库中没有该key值,自然缓存中也不会有,该请求会直接到数据库。如果对该key的并发访问量过大,则会压垮数据库。
解决方案:
1. 采用过滤器,把所有数据库中不可能存在的数据hash到一张大的bitmap中,如果key在数据库中不存在,将会被bitmap拦截。
2. 对查出为空的key,也在缓存中简历key value对,只是过期时间设的短一点,比如5minetes。
缓存雪崩
定义: 指缓存中大量的数据在同一时间失效,这时有大量的请求会被直接转到数据库,造成数据库的压力过大。
解决方案:1. 加锁,加队列,如mq,保证缓存的单线程写,避免key失效时,大量并发到达数据库。
2.把缓存失效时间错开。比如在原有失效时间上加一个随机值,比如1-5分钟,这样失效时间的重复率降低,降低集体失效的概率。
总结
缓存雪崩是大量key同时失效事件,而缓存击穿和缓存穿透都是都是单个key失效,大量请求访问该key;不同的是缓存击穿,key对应的value值存在于数据库中,而缓存穿透的key, value不存在数据库中,可能被用来恶意攻击。
------------------------- A little Progress a day makes you a big success... ----------------------------