粉丝2.6万获赞16.3万

十分钟掌握 release 雪崩击穿穿透!哈喽,大家好,我是徐树,那相信大家最近呢需要跳槽面试对吧?那徐树老师呢,准备给大家去更新一些高频的面试题来给大家呢助助力。好吧,那今天呢,就来给大家讲一讲关于 release 的击穿雪崩穿透, 那这个呢,也是我们在开发高频发应用当中呢缓存会遇到的几个问题,也是面试当中呢经常会被问到的。 当然面试官他可能不会直接问你,你给我介绍一下 reds 的机床旋风穿透,他有可能会这么来问你, ok, 你在项目开发的时候用到了 reds 对吧?那你给我介绍一下,你在开发的时候有没有遇到关于 reds 的什么问题呢? 那你就可以给他介绍一下这几个问题以及呢你是怎么解决的?那徐树老师呢,会给大家结合代码的一个实战,以及呢把这个图给大家讲理论,我相信大家肯定是能够 掌握这几个问题是怎么回事以及怎么解决的。关于这个问题的详细文字版,我已经整理了一份八十万字的抓娃秘书大全笔记,放在视频的最后面,坚持看完一定对你有帮助。 ok, 那我们都知道啊, release 它主要的作用呢,是给数据库做挡箭牌的,对吧?减轻数据库的一个压力, 那在我们的正常的一个流程当中,我们的 reds 他会怎么去用呢?在这里呢,我给大家提供了一段我以前开发一个物流系统的一这样的一段尾代码,那我们正常的一个请求进来呢,我们会去调用这样的一个业务方法,对吧?根据发货单号,然后去查询物流信息, 那在这里呢?呃,我们不希望他去查询数据库,因为物流信息的查询接口,他的并发量会非常的大,或者说请求量呢,会非常的大。那这个时候呢,我们会先去缓存当中,在这里呢,我是通过 supreme data radius 去缓存当中呢,去查 查找看他是否存在,如果缓存当中有的话,我们会直接返回,对不对?那如果缓存没有的话,我们会去数据库当中进行查询,那数据库如果他有的话,我们会将数据库当中查询到的数据呢,给他设置到 red 三中,以及呢设置过期时间,对吧? 那么下次再去调用这个应用方法的时候,就能够从缓存当中查询到了,对不对?然后如果数据库也没有的话,我们通常呢会返回空,或者说掏出一个异常,那么 这是我们正常的使用 release 这样的一个流程。那大家看完这段代码你觉得有没有问题呢?那很多同学可能会觉得没毛病啊,对不对?那从逻辑上面来说,这段段啊确实没有一点毛病。但是如果我们要应对高并发这样的一个场景的话,假如说我们在 缓存当中,他的某一个 k 啊,之前非常的冷门,突然呢变成了爆款,大家有没有遇到过这种场景啊?就比如说我们之前疫情,对吧?一些口罩啊,一些这样的香水啊,突然就变成了爆款,对不对?之前呢,他一直是冷门,但是针对冷门商品呢,我们通常会给他设置过期时间, 但是这种热门商品是我们始料不及的,那这个时候呢,他会在突然的一段时间砍售着很大的一个并发量,但是这个 k 呢,他有可能就这么巧突然失效了,那这个 大的一个并发量他会怎么样?直接击穿我们的 reds 来到数据库,那么间接的呢,对我们的数据库造成一个非常大的一个压力,那么后续呢,还会将查询到的数据很多的县城啊,这里很多的县城将数据库查到的数据呢,给他设置到 reds 当中,也会造成一个没必要的一个性能的浪, 对吧?其实我们只要存一次就够了,所以说针对这样的一个问题,我们怎么解决呢?那其实我在这里给大家提供了几个解决方案。首先我们可以给这些数据呢设置成永不过期。 有同学可能会说,老师你把所有的 redis 都设置成永不过期,那我们的 redis 存储也不够用啊,对不对?那你可以这么来做啊,你可以把一些个能够预料到的热门商品呢设置成永不过期,然后把冷门商品设置成定时过期。 当然有的人又会说了,你像我们刚刚说的这种突然变成爆款的商品,我们始料不及啊,对不对?那这个时候呢,你可以写一个 的算法,就比如说他的这个访问量突然积增到某一个数量的时候,那你可以呢去给他修改过期时间为永不过期,对不对?可以通过这样的 一个思路来进行解决。那么另外一个思路呢,就是可以给他加锁来进行排队,也就是说呢,你过期我让你过期,但是这么大的一个并发量,我只让他一个进来,那么后面的其他的这些县城啊, 我让他在后面给我排着,你给我稍稍等一等,那么等我们的第一个县城进来,把这 个数据库的数据查到之后,给他放到 red 三中之后呢,你后面排队的这个县城才能进来,那么再去查 red 四就能够查到了,大概是这样的一个思路, 那么大家可以来看一下,这段尾代码我们怎么解决呢?其实就是在我们之前的这个代码里面啊,给他加了一个同步锁,好吧,那么这样的话,我们就能够保证当大病发的请求过来,如果他从 v d 三中的数据每 没有查到,也就是等于闹的话,我们给他加一个同步锁,那么这个时候就只有一个县城他能够进来,其他的这些县城你阻塞在外面,那么第一个县城进来之后呢?去这个缓存当中再去查一遍没有,对不对?那这个为什么要再查一遍呢?我待会再来说,好吧。 然后呢,在这里我们去让他数据库里面查询,那么将数据库里面查到的给他放到 red 三中,这也是我们之前一个正常流程的一个逻辑,对吧? ok, 那第一个线程将数据库当中的数据给他放到 release 之后呢?后面的线程他的锁就释放了,对不对?那么他再进来的时候,是不是会请求这一段代码 是不是就能够从 red 三中拿到数据了,对吧?那这里我们会发现,我们从 red 三中去检索这个数据呢,检索了两遍,那这个代码呢?其实就叫做双重检 检查锁,好吧,用这个双重检查锁呢,我们就可以解决这个缓存击穿的问题。当然有同学可能会说,老师,你这里不应该用分布式锁吗?干嘛用同步锁?确实,用分布式锁也是可以的,但是用这个同步锁,用这个进程锁其实也可以啊。你想一下,你的 应用可能会进行集群,你想一下你会集群多少?我就说十台吧,对不对?我就说十台。那么你用同步锁的话,最多也就是十个线程会击穿 redis, 然后来到数据库,对吧?那么这十个请求我数据库还扛不住吗? 所以说,徐树老师一项建议的是,大道至简,不要为了技术而技术。当然,你这里用这个,嗯,分部锁肯定是更完美的,对吧?但是有的同学呢,可能对分部锁不太了解,那如果想,呃,后续去听徐树老师讲解分部 锁呢,可以给徐老师点一点赞,或者在公屏上面的扣一波六。那徐老师如果看到了你们的反馈呢?我后续会更新一些关于分部锁的一些个内容。 ok, 那么这是一个点,为什么使用同步锁?好吧,这里使用同步锁呢是没有问题的。还有一个点呢,就是有同学可能会说,老师你这里使用了这个锁的话,不会使我们的这个请求性能降低吗?对不对? 那我难道以后每次请求进来,我所有的请求都变成了这个换行吗?这样不会是影响我的一个性能吗? 你要知道,我们注意看上面的这两句,正常假如说我的 redis 没有过期的话,他是不是从 redis 中拿到数据就直接走这个 s 就直接返回了呀?所以说我们百分之九十以上的这个产品呢,基本会走这两句业务逻辑 接待吗?就能够解决,对不对?只有在这个 red 突然过期了,他才会变成创行,也就是会变成我们的这个锁,对不对? 然后呢,第一个进来,后面的阻塞在外,后面的再去第二次检查就能够拿到这个数据, ok, 那么通过这种方式就能够完美的解全我们的黄盾击穿, ok, 那我们 再来看一下另外一个问题啊,那缓存雪崩是咋回事呢?他跟我们之前的击穿相比啊,击穿是某一个热点的 k 失效了,那缓存雪崩呢?他是缓存当中的这些 k 呢集中的过期了, 那么这样就会导致什么样的?假如我的系统并发量高,那么这些请求他都会击穿我的这个 redis, 从而呢打到我的数据库。你想一下,这么庞大的一个请求,这么多的一个 redis 的数据集中 过去了,全部打到我的数据库,我数据库能扛住吗?所以说我的这个数据库呢,有可能就会挂掉,那么数据库挂掉了,有可能呢就会导致我整个应用都不可用,从而呢导致我系统的一个血崩,这就是所谓的一个缓存血崩, 那么缓存血功的主要原因我该说了,就是因为缓存的集中过期,这是一个原因,好吧,那么第二个原因呢?是缓存有可能服务器挂掉了, 估计挂掉了,那么我里面的缓存都不行了,肯定就直接呢打到我手机库,所以说呢,这两种情况都会导致缓存血红,进而呢造成我系统的血红, 这种情况怎么解决呢?很简单,只需要在我们之前击穿的这个解决方案上面呢,给他随加一个随机失效时间,当然这只是针对第一个问题,也就是集中失效的一个 解决方案。你不是集中失效吗?我不让你集中失效呗,对不对?我只需要给你加上随机的这样的一个失效时间,不就搞定了吗?对不对?非常的简单啊。那么还有一种解决方案,主主要呢是针对这个淡季了,淡季了,没办法,你只能提前 给 redis 做好集群,做好这个,呃,烧冰模式对不对?挂掉了,另外一个补上, 呃,然后还有一种情况下呢,就是我们这个服务器断电了,对不对?那这种时候呢,你就得提前做好栽备,对吧?做好多机房,一个机房挂掉了,马上切换到另外一个地方的机房, 这都是属于呃, release 在之前就要做好的一些高可用的,呃部署, ok, 这针对我们的缓存血功。那最后一个问题呢,就是缓存穿透了, 那缓存穿透呢?其实很好理解啊,就是请求的数据呢? red 三中没有,那这个时候呢,请求数据库,那数据库呢?也没有这种现象,我们就称之为缓存的穿透。那有同学就会说,哎,老师,这种现象不是很正常吗?因为你数据都没有啊,对不对?确实啊, 假如说真的是用户按照我们程序所设计的这种方式去请求,那么都没有的话,确实很正常,但是如果大量的请求 release 跟买菜口都没有的话,那很可能就是用户的一个恶意的功绩了。 那他有可能呢,就会去比如说请求一些没有的 id, 一些复数,或者说非常大的一些 id, 他呢伪造大量的请求去攻击我们的应用,那这个时候呢,我们的系统可能就会支撑不住,然后呢挂掉,所以说这种情况非常的严重,对不对? 那我们要怎么去解决这个问题呢?其实也很简单,我们呢可以采用参数教验的方式,就比如说如果你是一些复数啊,或者说一些无效的参数啊,我就给你过滤掉。当然这种方式呢,没有办法完全的杜绝啊, 就比如说他去请求一些比较大的 id, 多大 id 才算大呢,对不对?或者说他请求的某一个 id 正好我数据都没有,那这种我们也没有办法完全的去杜绝,对不对?所以还有一种方式呢,我们可以怎么样呢?缓存空对象, 我们只需要在我们之前缓存机窗缓存血崩的基础上呢,将数据库查到的数据,我不管你有没有返回的数据,从数据库查到的数据啊,我不管你有没有,我都给你存到 red 当中去,对吧?之前呢,我们会 判断,如果这个数据他不等于呢我们才缓存到 rene 三中,那现在呢,我不管他有没有,我都给他缓存,但是记得啊,设置一个失效时间,因为就比如说 当前九九九这个 id, 他可能当前这个数据没有,但是他有可能过一段时间又添加了,对不对?所以说记得要设置过期的时间,当然你也可以设置一个随机的过期时间,又既能防雪崩,对吧?啊?然后呢又能防我们的穿透, ok, 好吧,可以缓存空对象,这种方式呢,也是最简单的,还是我那句话,大道至简,好吧,最简单的才是最有效的,那还有一种方式呢,就是使用布龙过滤器,那布龙过滤器我估计很多同学可能不知道怎么回事对不对?我在这里呢就不展开的去讲这个布龙过滤器是什么 东西了啊?那假如说同学们有兴趣听,可以在我的公屏上面呢打一波六六六好不好?然后呢点一波赞,那徐老师看到你们诉求呢,会在后续呢更新关于不容过滤器的一些内容。 ok, 那不如物理器简单来说,说白了他就是一种数据结构,这种数据结构呢,比我们以往用的 lisa 啊, set map 啊等等这些数据结构更加的高效,并且呢占用空间更少。 所以我们可以比如说把一些用户请求的不存在的 id 呢,给他放到不容过滤器当中,那么在请求的时候,我们先来到不容过滤器,如果当前请求的用户 id 是比如说负一,哎,来到不容过滤器找一遍 没有,那么去数据库找一遍,那么也没有给他缓存一个空的到波龙过滤器里面,然后呢下次用户再找的话,波龙 物理器里面就有了,直接返回空,那么这种是称之为黑名单的方式。什么是黑名单呢?黑名单就是我数据库没有的数据放到步入物理器, 那还有一种就是白名单,把这些数据库有的数据呢,给它放到不能过滤器,直接用户请求过来,如果不能过滤器有的话才能执行后续的操作,如果不能过滤器没有直接返回, 好吧,大概是一种这样的方式,那么就可以解决我们的缓存穿透。 ok, 那徐老师给大家讲了这几种方式,缓存穿透,缓存血崩,缓存击穿,那很多同学可能 记不住,对吧?其实很容易记啊,缓存击穿,其实就是你把它理解成一身防弹衣,好吧? redis, 你把它理解成防弹衣,买 cycle 呢?你理解成身体击穿呢?就说白了只是击穿了 redis, 好吧啊,并没有击穿你的身体,那么雪崩呢,就是 是直接把你给打死了好吧,整个系统都不可用,也就是大量的 reds 集中过期,或者说直接断机了,这是血崩。然后,然后呢,是我们的这个穿透,穿透呢,就是 防弹衣给你击穿了,数据库也给你击穿了,这种我们就叫做穿透, ok, 那么不同的问题呢? 还有不同的解决吗?我们希望能够记住,好吧,然后呢,你也可以把它融入到你现有的项目经验当中,把它作为你在开发当中遇到的一些问题,然后是怎么解决的?回答给面试官去听, ok, nice。

哈喽,各位小伙伴,我是北冥啊,那今天咱们来聊面试题,那在面试当中如何去回答缓存穿透、血崩等问题啊? 那首先呢,我们来去模拟一个面试的场景啊,那看到下面这张图,假设我们呢是有这么一个系统,嗯,当我们的系统他收到了用户比较频繁的一些查询请求的时候, 那他第一步是先从缓存当中他去查找数据,对吧?那如果缓存当中有数据呢,那就直接去读取数据,那响应给请求方就 ok 了。那如果缓存当中没有数据呢,那他就从数据库里面去查, 读取之后呢,然后再更新到缓存,那这样,那这样我们再一次获取数据的时候呢,他就可以直接从缓存当中去获取了,对吧?那不用再经过数据库, 这个呢是一个非常常见的,我们在去面对一些查询请求很频繁的时候,他的一种缓存的设计方案啊,那这种方案 他在请求并发量比较高的时候,他会有什么问题呢?就是面试官啊,他通常他在考察缓存设计的时候,他的套路是这样的, 他呢会给定一个场景给你,就假设,比如说我们某一个业务,然后呢我的查询请求量,比如说我的 q p s 会比较高,然后呢他会让候选者,也就是在屏幕前的你啊,让你去说一说这个场景当中存在的一些问题,然后呢再给出一些解决方案出来。 假设我们现在是一个电商的场景啊,我们要去查那电商商品的一个详情页,那详情页里面呢,他可能缓 成了很多信息,对吧?比如说商品名称啊,描述啊,价格啊,那还有优惠政策等等信息啊,那当我们在双十一的时候,我们商品详情页他就很有可能会出现一些问题, 比如说我缓存的穿透啊,那缓存并发的时候啊,然后缓存血崩啊,还有一些缓存的设计问题等等啊,那接下来呢,我们就重点去解决刚刚跟大家聊的这些高频问题啊,我们去设计出一套那高可用、高性能的缓存架构方案。 首先第一个问题,那也就是说我们的缓存穿透问题,那穿透它代表的意义是什么?就是我们每一次当我们再去查询,比如说某一个 key 的时候,它在缓存系统当中它没有命中,也 也就是在缓存里面没有查出来,那他呢会从数据库里面去查,对不对?那如果数据库呢,他存在这条数据,那他呢就会获取这条数据,然后呢更新到缓存系统里面去,但如果说数据库里面他没有这条数据, 那这个时候呢就无法去更新缓存了,对吧?那这样就会造成一个问题,就是我们去查询缓存当中不存在的数据的时候,我们每一次我们都要查数据库, 这个呢就是缓存穿透,可能我们乍一听起来没有什么太大的问题,对吧?那我们也有可能会想到在又当中这种情况呢,基本没有,我们要么呢这个商品肯定是存在的,那你点击商品详情的时候,你能看到,就是说我们能从数据库里面查出来这个商品的信息,对吧? 但我们想一下,如果说他通过抓爆的方式,他获取了你这个接口,然后呢他篡改了里面没有的值,那是不是他在查数据库的时候他会没有,对不对?这个呢也是一种恶意攻击的方案啊, 那在这样的情况下面数据库呢,他会承担一个非常大的压力,甚至呢都有可能会荡机啊。 好,那解决缓存穿透的通用方案是什么呢?我们跟大家来讲一下啊。首先我们可以给 所有的我们去指定的一个 k, 我们去预先设一个默认值,比如说我们可以设一个空字符串的一个 love, 当返回了这个空字符串 lo 的时候呢,我们可以去认为它呢是一个不存在的 k, 那么我们在业务代码当中我们去设计的时候呢,我们就可以 去判断我们是否取消查询数据库的这个操作,那或者说我们可以设一个过期时间,那他再次查的时候也是查缓存当中的这个烙制啊, 直到这个 k 过期的时候呢,他再会到数据库里面去查,那如果说他在查的时候取的不是烙,那我们就可以认为缓存当中对应的 k 有值了,那这样呢就避免了我们出现比如说请求访问到数据库的这种情况,对吧? 这样我们就能够把大量的就类似于这种攻击的请求呢,我们就挡在了缓存之中,那这样呢就不会打到数据库里面了。 ok, 这个呢是第一个问题。好,那咱们来聊第二个问题啊,缓存的并发问题,假设我们缓存在失效的一个 同时啊,那出现了多个客户端并发请求的去获取同一个 key, 那这一时刻呢?可能因为这个 key 呢已经过期了,那所有的请求他在缓存当中,他是不会去命中的, 那么所有的请求他都会到数据库里面去查,对不对?当我们查询到数据之后呢?那所有的请求再重复的将查询的数据呢,再更新到缓存里面,是吧?那这样是不是就会引发一个问题, 我们所有请求更新的是同一条数据,那这样呢?他不仅会增加数据库的一个压力,还会因为我们去反复的我们去更新缓存,其实也会占用缓存的资源啊,那这种现象呢?我们也把它叫做缓存 并发, ok, 那怎么去解决缓存并发呢?首先第一步啊,就是客户端发起请求,那首先呢从缓存当中去读,那看能不能从缓存当中去读到数据,如果读到了,那直接返回, ok, 没问题。 那如果说没有读到数据,那么就在 redis 当中呢,通过 set n x 的一个标识给他去设置一个状态位啊,那表示他当前是一个锁定的状态,如果说我们去设置这个锁定状态成功的话, 那这个时候请求从数据库当中他去读数据,然后呢他再去更新缓存,然后呢最后再把数据呢返回给前端,当我们再次出现这种查询的时候,我们会发现缓存当中呢,他已经有数据了,那么直接 返回数据给客户端就 ok 了。那如果说我们这个锁定标识,因为我们是并发的情况,对吧?那他有可能没有设置成功,那这个呢就说明已经有其他的请求已经锁定了,对不对?那此时呢,这个请求他会等待一段时间,然后再发起数据查询, 那这样呢就能够避免这个问题啊,那当再次查询的时候呢,他会发现缓存当中他已经有数据了,那么直接返回就 ok 了。 那通过这种方式呢,就能够去保证咱们在同一个时间里面,他只能有一个请求来去查询数据库,并且去更新缓存系统,而其他的请求呢,他只能够去等待重新发起,这样呢我们就解决了缓存并发的一个问题啊。 ok, 那我们讲完了缓存并发呢,再来聊聊缓存血崩啊。我们在实际的开发过程当中啊,我们通常会不断的去往缓存当中去写数据,对吧?那在很多情况下,我们在开发的时候, 我们可能会把缓存的过期时间呢,我们去设一个比较固定的值啊,那假设,比如说我们可能会一分钟啊,五分钟啊等等,那我们呢会把这个过期时间呢,可能会应用在很多的缓存 k 上, 那这些 k 的过期时间他就有可能都是一样的,对吧?那我们当 k 到期之后,是不是就存在一种可能,我们的缓存他可能会同时失效,如果这个时候我们的并发量他比较高,那么就有可能会导致一个现象, 就是我们会有大面积的一些请求,他会打到数据库里面,那这样是不是给数据库的瞬时压力会增大非常多,那从而呢就诞生了缓存血崩的这种现象了, 那缓存血泵怎么去解决呢?一般有两种方案啊。第一种,我们可以把缓存失效的时间呢随机打散, 假设啊,我们可能要设一个五分钟,对吧?那五分钟呢,我们可以在这个基础之上,我们再设一个一到十分钟的一个随机值,我们每一次去设置过期时间呢, 我们会叠加这个随机数啊,那这样呢,就能够去大概率的去减小,那么他们同时失效的一种情况,也就降低了他的一个概率。那第二种方案是什么呢?就是我们去设置缓乘的永 过期,假设我们这条数据他有可能会更新,对吧?那同时我们在写数据库的时候呢,我们把缓存也更新一遍,那这样我们设置永不过期呢,实际上也就没关系了,那他呢也能够去避免缓存失效呢,他所造成的这种缓存血崩的现象啊, 那同样呢,他也能在一定程度上面去避免前面提到的缓存并发的这个问题啊。 ok, 因为时间的原因啊,那这一讲咱们就聊到这,那下一讲呢,我们再来跟大家去聊一聊,怎么样去设计一个动态缓存热点数据的一种策略啊? 然后呢再跟大家去讲讲怎么样设计一个缓存操作与业务分离的架构。如果大家感兴趣的话,那可以给这个视频多点一点点赞啊,如果点赞超过两百的话,那我马上更新下一期。 ok, 那本讲的内容呢,咱们就聊到这,咱们下期再会。