粉丝1.5万获赞7.5万

网络热门词汇科普高并发,说到高并发呀,写代码的兄弟可就太熟悉了,本着专业的科普态度,我先举个例子,用一句话告诉你什么是高并发。 高并发指同一个时间大量用户同时访问同一个 api 接口或者 url 地址。就比如大家在各平台上面关注唐山打人事件,热心的网友们对事件内容同时进行了大量的吐槽以及评论转发。由于事发突然,短时间内容进了大量用户, 服务器感觉压力倍增,需要全副武装的去处理用户的需求,这就是高频发了。但是服务器无法估量是否会有更多的流量涌入呀,服务器当机那可就全完了,而这种爆发式增长的流量,我们又应该如何去应对呢?其实最有效的办法就是提升硬件,但是硬件的提升是有天花板的,并且 越高端的机器成本越高,你用不起。谷歌很早就意识到这个问题,通过构建分布式系统,使用集群来解决这个问题, 把一台服务器所承担的压力分摊到一堆服务器上,问题就迎刃而解了。通过把不同的业务模块部署到不同的服务器上,或者把同一个业务模块分拆成多个子业务,解决高病发的问题。除此之外,缓存是解决高病发问题的另一个有效手段。 因为磁盘读写速度较慢,所以我们常常用读写速度更快的内存来防止流量到达磁盘。通常我们会把一些静态资源,如音乐 f 的音频、歌词,已经没有那么重要的动态资源,比如热门的评论存放在缓存服务器上, 只要定期去做更新,就可以大大减少磁盘的压力。缓存有了,仍然有一些请求无法快速响应,这个时候一步处理就能拍上用场了, 义不处理又是什么呢?我给大家举个例子,我需要给一万个人群发邮件福气,逐个进行投递消息,一个人如果需要零点一秒的话,那光发邮件就得花一千秒,别的事情啥也干不了。而义不对恋呢,就能很好的解决这个问题。 优先处理重要业务,邮件错峰发送,极大的提高了工作效率,不仅可以削风限流,提升用户体验,还能很好的保护系统,一举两得。以上呢,就是高频发的内容,听懂的小伙伴点个赞再走。

张嘴闭嘴高兵法,那请问多高算高呢?给个数字行不行啊?有人啊,总爱拿 qps、 tps 说事,说我们已经有九千 qps 了,已经很了不起了呀。但是有人一听这个数字却嗤之以鼻,问题它不在这个数字本身,而在于你谈的是整个系统的吞吐,还是单个接口的峰值, 是独操作还是写操作?是普通查询还是热点数据的更新?你比如说像双十一峰值千万级 qps, 那 请问是整个系统达到的呢?还是单个应用它就这么多呀? 是一个下单接口扛得这么高,还是说只是做了个查询呢?那就算是再具体到扣库存接口,那到底是一个商品的热点行扣减呀,还是多行的同时扣减呢?这里面的差异它可老大了。如果一个系统或者一个应用的话,整体 qps 能达到几万或者几十万就算挺高的了。而如果是单接口能达到一秒钟几千个请求,那已经不是一般小公司能达到的了。 要是读接口的话还好,那写接口一秒几千 qps 的 话,哪怕就是持续一分钟,那数据量也是惊人的了。你如果在具体到秒杀扣库存这种单个热点行的 update qps 能到三百左右的话,你搜扣执行的所等待基本上要到二十秒以上,再来到五百以上 qps 的 时候呢?基本上你该遇到的高病发的典型问题也都能遇到了。 所以啊,大家不要去盲目追求所谓的高并法,一个靠缓存扛起来的几十万 qps 的 查询接口,它不一定有你一个五百 qps 的 秒杀扣减的技术难度高,所以说脱离业务场景和技术上下文去谈所谓的高并法,不过是空中楼阁。

如果有一天我为了你而抛弃了爱情,那么有一天我也一定会为了爱情而抛弃你。 爱情是一个最不靠谱的东西, 所以你今天一定要告诉我,在性能测试中如何做高并发测试。 高频发测试就是利用啊,或者真假等技能制的工具等模拟严格用户对某业务进行请求,你验证这个业务的夫妻性能。注意,是同时请求啊。 那么高必发的技术点有哪一些?以限量制的工具 ar 为例进行说明,采用的有居高点技术请求函数以及手工产检中设置费用户这些技术来配合使用。

性能测试如何设置记录的并发症?很多同学对性能测试不太了解,今天呢,我就给大家讲一下测试工作中如何去做性能测试设置并发症。首先呢,我们要介绍一下性能测试的应用场景,基本测试,他是整个项目上线的一个准入或者重复项目的基建, 他一般设置低并发症。比如一到十个用户去验证单个请求,单接口的一个响应时间达到上限标准即可覆盖测试呢,就是模拟日常的峰值,比如 比如说选择周末或者节假日的高峰,选择它的 pps 作为一个目标进行压测。那压力测试呢,就是逐步加压至整个系统的崩溃点,寻找到平静,这个拐点就是病发的拐点,然后你去直至系统打崩。那稳定性测试呢,我们需要长期保持百分之八十的最大成, 待并发运行七成二十四小时,看下系统是否能正常运行。那不管哪种呢,我们都应该 c 度发芽,保证每一分钟去增加,这样 t 度去发芽啊。二呢,就是我们利用一些公式去计算并发,比如说线上的压测,我们并发的用户,他就等于总用户乘以峰值的业务时间段,乘以单个用户的请求频率,除以 平均请求的显示时间,这个时候就得到了并发用户数。那举个例子,比如说我们日均十万用户,峰值时间呢,是两个小时,占比百分之四十,用户每分钟发起两次请求,平均显示时间一秒,那并发数就是十万乘以零点四乘以二,比上六十乘以二乘以三点二,再比二,大概就是五十六 三,根据发电机的 cpu 情况,一般八和十六 g 的 机器呢,大概能承载五百的并发。当然我们也看整个接口的情况,对于一些列路比较长的接口呢,我们单机可能在四百的并发左右,那如果是一些 请求比较快,响应比较快的接口呢,可能在八百到一千的并发症。那四呢,就是根据压测工具或者监控,比如解密特或者服务器资源,当 cpu 到百分之七十的时候,或者接口错误率超过百分之一了,我们就基本到并发症的峰值了,可以先暂停了。五呢就是利用经验值,我们先设置一些十到二十的一些并发症,然后逐步递增,直到你 qs 达标,这个时候我们记住整个并发症,这是后续 做压测,包括你的病发和 kbs 的 一些参考。那最后呢,大家在压测的时候设置病发一定要谨记,七度发芽逐步增加,并且观察资源和系统的平静,同时设置些垄断限流这些保护的测试,确保你压测的过程中不会影响到线上。 ok, 如果你还想学习更多权重压测性能测试以及测开相关的内容,欢迎大家找我交流。

今天这句话我就撂这,别以为软件行业的解决方案呢有多牛逼,都是人家玩剩下的,所有软件失去的场景啊,都能在现实生活找到与之对应的场景和解决方案。 每天呢都有人问我,哎呀,高并发场景怎么设计啊?如果说你想知道高并发场景怎么设计,按照我前面的理论,你可以每天早上呢带着丝袜去银行看一下, 银行呢,每天早上一开门都有一堆老头老太来办业务。这个呢,就是一个典型的高并发场景, 怎么做呢?第一步啊,叫多开窗口,一个不行呢,开两个,两个不行呢?开三个。这个啊,就是一个典型的集群加机器处理。第二步啊,开启取号模式,每个人到银行呢,不管你办什么, 先取个号,然后呢,你就可以坐在大厅里面等待了。这个是什么?这个就是一个典型的消息队列吗?哪个号呢?就是入队。办理业务呢,就是出队。有个常见的面试题啊,叫做消息队列,怎么保证消息不丢?哎,你还记不记得你前面取号拿了一张纸? 这个呢,就是发送消息的 a c k 凭证了,人家叫号,然后呢,你把票给人家,然后给你办理业务。这个啊,就是收消息的 a c k 了嘛,有了这些 a c k, 你说消息能丢吗? 第三步啊,把现金业务和非现金业务的拆分开来,现金业务的你就去那个大钢化玻璃后面的柜台办理,非现金业务的旁边的小桌子就可以给你办理了。这个是什么?不同的业务交给不同的业务集群去处理,这个是一个典型的分布式场 场景。第四步呢,还有什么呢?就是你可以发现在你排的时候呢,如果你办理业务需要填单子,保安呢,会让你先把单子填好,等一下呢,就可以直接拿去用了,节省办理时间。这个就是一个典型的缓存预热嘛。 还有什么比如银行呢,印了很多介绍业务的小册子,你要看业务怎么办理自己呢,翻这个小册子就完事了,也不需要去柜台问了,这个虽然不太准确,但是啊,你可以把它类比成为 cdn。 还有什么比如你去银行办信用卡,也不需要去银行大厅里面办理, 在手机上呢,填个单子就可以干你自己的事情的,银行呢,会派人上门给你办理,不占用大厅的资源,这个叫做事件毁掉。有时候呢,人实在太多了,在门口呢,保安就把你拦了,不让你进去了,这个叫做限流, 你看我讲了这么多,你还上网学什么高高并发呢?没事呢,多去医院啊,菜场啊,银行啊,多转悠,高高并发不就会了吗?

面试官问病房场景下能不能用 random 生成随机数?如果你回答可以, random 是 现场安全的,那你可能就要回去等通知了。这道题考察的不仅仅是能不能,而是好不好。 random 虽然现场安全,但它底层是所有县城抢同一个 atomic long 种子,在高病房场景下,多个县城同时生成随机数,就会频繁进行 cas 操作, cpu 直接飙高。更好的回答是使用 threadlocal random, 它的设计理念是空间换时间, 让每个县城在自己内部维护一个种子,大家各玩各的,没有所竞争,性能相比 random 有 大幅提升,但是可能大多数人都会用错。千万别把 threadlocal random 定义成类静态变量,那样依然可能会冲突,甚至深层的随机处 都是重复的。正确的用法非常简单,如上图所示,直接调用它的静态方法即可,随用随取,这才是最佳实践。总结一下,高病发场景下, random 是 性能杀手,所有的 local random 才是正解。关注我,解锁更多 java 面试题!