你有没有疑问过,明明都是二十七亿参数量,大模型为什么有的部署起来要吃掉五十多 g 的 显存,有的却只要三十 g 显存就能跑整整快一倍的显存差距到底是怎么来的?而且不管你去哪个平台下载大模型,相信你都会见过这样的一个参数,没错,就是章料数据类型。 今天这期视频呢,将带你熟悉几个最常用的浮点类型章料。我们话不多说,现在开始讲解 大模型的本质呢,就是海量参数的取存计算。而张量类型呢,就这些数字的存储与计算格式,它的核心取舍永远围绕着三个维度,精度、显存、占用和计算速度。这跟咱纯照片的逻辑完全一致,像无损的肉格式,把精度拉满,但占空间啊,加载速度慢。 而压缩的 jpg 格式呢,牺牲几乎感知不到的画面,换来体积骤减啊,加载飞快。而大模型能用低精度的核心,前提就是它天生的参数笼络性。 在成千上万亿的参数里头,其实绝大多数参数的微小数值变化,对模型的最终输出的影响几乎微乎其微,而正是因为这点,才让我们能够去压缩这个参数的精度。 在讲这个之前,咱得先普及一个基础知识。计算机专业的小伙伴应该知道,任何数据的本质其实都是一个又一个的数字,而计算机又是使用二件字来处理数字的,一个数在计算机当中怎么表示的呢?核心分为三段,最前面这个叫符号位,而用一笔的固定,主要用于标记该数字是正还是负的, 然后就指数位用来决定数字能表示的大小范围,比如说是一千还是一万,大模型最怕这里不够用,导致数值溢出。 最后就是尾数位,用来决定数字的精细程度,比如用来决定小数点后面能保留多少细节,大模型对这部分的敏感度呢,远低于这个指数位。关于这三部分的详细教程,可以去看我的这期视频啊,嘎嘎,详细看完你就知道计算机底层的数字存储原理了。 知道这些之后呢,咱们就可以开始来看目前主流的一些浮点型张量了。首先第一个就是 f p 三十二啊,传统的单精度浮点数,像 c 嘎嘎当中的 flat 变量就是 f p 三十二,它的核心结构为一比特的符号位,加上八比特的指数位,加上二十三比特的尾数位,总计三十二个比特,也就四个字节。 核心的特点就是数值范围几乎拉满,它能表达的最大或最小的数值范围呢,是这些啊,几乎没有误差,但是它的缺点也很明显,就是显存占用,嘎嘎高。举个例子, 仅七 b 的 模型大概是七十亿的参数量,如果全用这个 f p 三十二来存储权重,仅加载就需要大约二十六 g b 的 显存,家用的消费级显卡根本就扛不住。 所以它现在主要被用于梯度更新、优化器的状态存储等这些关键的地方,避免因为精度损失导致梯度消失或者爆炸。最终总结一下就是 f p 三上,你可以理解为原画无损格式啊,什么都好,就是太占空间,现在只有最核心的梯度更新才会用到它。接下来就是 f p 十六了, 也就传统的半精度浮点,它是由一比特的符号位加上五比特的指数位,加上十比特的尾数位构成,总计十六比特,也就是两个字节, 优势呢,很明显是吧,相比刚刚那个 f p 三十二,体积减少了一半,是早期混合精度训练的一个核心, 这是简单提纯混合精度,就是训练模型的时候呢,有的参数用高精度算,有的用低精度算,两种精度混着用啊,所以叫做混合精度。而 f p 十六呢,就是早期的混合精度里面的低精度的代表。 不过由于 f p 十六的指数位只有五比特,导致数值范围就相对较小,最大仅能表示正负的六万五千五百零四。而在大模型的激活值啊,七度啊,都很容易超出这个范围,直接溢出,导致训练崩溃, 需要靠损失缩放来补救,相对来讲更麻烦一点,而且不稳定,所以目前来讲呢,用的很少了。而这个 f p 十六呢,取而代之的则是 b f 十六啊,这个是由谷歌制定的一种张量类型,它的核心结构呢为一比特符号位,加上八比特的指数位和七比特的尾数位,共计十六比特,和刚刚一样,也是两个字节, 因为 f p 十六的指数范围跟 f p 三十二一样大,所以它的动态范围呢,与 f p 三十二同级,但由于尾数更少,所以它最大有限值呢,会略小于 f p 三十二,也就数值精度略低。 但大模型对尾数精度其实并没有那么敏感,所以这点损失呢,几乎感觉不到,这个 b f 十六呢,现在很多大模型的混合精度基本都用到了它,所以总结一下, b f 十六呢,是为大模型量身定做的半精度格式,和 f p 三十二一样的取景范围,只牺牲了一点点细节上的精度,现在是绝大多数大模型训练的标准。 再接下来出场就是 tf 三十二了,它是英伟达在安漂架构及更高版本的 gpu 引入的一种计算格式。从结构上看呢,它是由一比特的符号位加上八比特指数位加上十比特的尾数位组成, 总体呢,大约相当于十九比特的一个有效信息量。和刚刚的 bf 十六相比呢, tf 三十二在尾数部分精度更高,但它和前面那些格式的定位不太一样。 tf 三十二主要不是为了节省显存, 而是为了让原本用 f p 三十二训练的模型几乎不用改代码也能保持接近 f p 三十二的训练效果,同时还把速度提上来。具体来说呢,当原本的 f p 三十二的数据进入了 control 做矩阵乘法的时候,硬件会先把这个 f p 三十二的数据按 tf 三十二的规则对尾数精度进行截断或者舍入, 也就这个样子从它变成它,然后再参与乘法运算而累加,通常仍然保持 f p 三十二的精度,这样一来,它的运算速度会比传统的 f p 三十二更快,同时数值精度又通常会比 b f 十六更高。当然,我这为了方便是用的两个标量做的演示,而实际它加速的对象主要是啊矩阵的乘法呀,卷积的那种操作 并不只单个的数,所以你可以把这个 tf 十六呢理解为英伟达专门为 f p 三十二工作流准备的一种加速计算模式。最后呢,就这个 f p 八了, 五点数中继续压缩后的一个产物。不过 f p r 的 核心结构跟前面的相比有些微区别,它有两种结构,一种呢,叫做一四 m 三,第二种呢,叫做一五 m 二。 这里的一呢,指的就是指数精度, m 则是尾数精度,也就一比特符号位加四比特指数位加上三比特尾数位。而第二种这个 em 五二呢,也就是一比特的符号位,加上五比特指数位,加上二比特的尾数位。 你们一看这个格式就会发现, f p 八把位数压缩的更极限了,是吧?指数位和尾数位都相对来讲比较紧张,所以它不可能像 b f 十六那样既保住范围又保住细节,所以它必须得在范围和精度之间做一个取舍。这个一四 m 三的特点呢,就是尾数稍微多一点,所以精度相对更好一点, 但是它数值范围更小。而这个一五 m 二呢,特点就指数会更多,所以数值范围更大,但精度更粗一点。说白了就是一个更擅长保留细节啊,一个更擅长避免溢出。在实际的工程上,很常见的一种做法就是前向更偏向使用这个一四 m 三,然后反向梯度呢,更偏向使用这个一五 m 二。 好,最后咱们来总结一下,今天讲了五种张量类型,他们真正解决的其实就一个问题,是吧,你到底愿意拿多少精度去换多少显存跟速度? 所以这几种类型呢,其实对应的就是五种完全不同的取舍逻辑。 f p 三十二呢,就属于精度最高啊,范围也大,但代价就是又慢又占。显存是吧,通常只在最关键的计算环节,而 tf 三十二呢,就属于我表面上还走这个 f p 三十二的流程,但底层呢,偷偷帮你进行了个提速, 它不省显存,主要解决的是 f p 三十二工作流跑太慢的一个问题。而 f p 十六呢,就属于简单粗暴说把体积先砍一半。但它的问题呢,就是数值范围比较小啊,训练的时候容易溢出,所以现在的大模型训练以后已经很少使用了。 接下来就这个 b f 十六,然后他跟 f p 十六呢,是同样的一个显存占用,但是他的数值范围呢,跟这个 f p 三十二是一致的,所以他几乎成为了现在大模型训练的一个最主流的一个半精度格式。而最后这个 f p 八呢,是继续压缩嘛,在显存呢精度啊之间做了一个更激进的一个平衡。 所以你以后再看到像什么 f p 三十二呀, f p 十六啊等等等这种张亮类型,你应该就能清楚的知道他们的含义了。好,如果这期视频对你有帮助的话呢,麻烦点赞收藏加关注,咱们下期视频见!
粉丝4.0万获赞11.4万

那么当这些客户在问这个行业里讲呢,我们多少 p 多少 p 的 时候呢,就是为什么大家在算这个算利的时候,往往是按照 f p 幺六来算的, 那么这里面呢,有一个常见的叫做末人口径吧啊,但是不讲清楚呢,就很容易被这个事啊,给他带偏了。所以呢,我想先讲一个基本的这个结论啊,就是说,之所以常用 f p 幺六来做算利的一个区间, 当然 ip 三二肯定是更加的精确哈,那么他的这个赋点数更长,但是呢,你在大模型里很多的计算呢,并不需要全程用 ip 三二才能去工作, 而过去啊,像科学计算里面,很多时候还用到 ip 六四呢,那么其实这种精度呢啊,对于计算来讲呢,其实就是更奢侈了啊, 那么 ip 幺六哎,包括像 bf 幺六,那么这个呢,在工程上呢,现在来看是最常见啊,最现实的,这样的一个折动力的方案,既能够把举增举减跑起来,又能在屯土险存占用和成本之间呢,取得一个平衡。 那么呃,现在呢,为什么不是所有人都统一用 bf 幺六或者用 ip 八啊,那么这个时候呢,原因呢,在于口径呢,要兼顾通用性啊,不同的硬件,不同的软件站,对 bf 幺六, ip 幺六的知识度和性能表现呢,是不一样的。 那么像 ip 八呢,它更依赖于硬件的待机编辑能力和框架能力,而且呢,在业务上呢,还要考虑到啊,就是稳定性的问题,以及是否需要额外的去校准啊, 那么于是呢,就是让不同的厂商啊,不同的卡之间呢啊,形成一个相对统一的这样的一个对比,那么 f p 幺六呢,就成了目前呢比较默认的一个选择。 当然了,呃,现在啊, ip 八也越来越流行了啊,那么还是精度和速度的一个平衡啊,也需要现在更多的硬件来支持更强的 ip 八的一个能力。 所以呢,这里面呢,一定要注意一件事啊,就是 ip 幺六这个峰值算力,更多的是对外沟通的这个上限指标啊,不等于你真实的业务的实际产出 啊,真正的这个产出,这个头肯还是取决于啊,是训练啊,还是这个推理啊,上下文的这个长度有多长啊,并发的目标是多少啊? 那么这个时候呢,你需要多少卡来并行,还有网络存储调度这些东西是不是能配合的上?也就是说,哪怕是两套方案, ip 幺六的数字是一样的,最后的体验和成本也可能差非常多 啊,因为瓶颈厂长不是这个计算单元,而是在显存啊,显存容量啊,贷款啊,包括互联链路啊,还有个调度机制啊等等。所以呢,如果我们是一个企业级的用户啊,想把这个问题问的就是对业务更有用啊,那么有的时候呢,不只是问这个 ip 幺六有多少 p, 那么建议呢,还是要顺手多问两句啊,就是你这个 ip 幺六是按照什么口径来统计的,是稀疏还是稠密酸粒啊,是否是包含了特定的加速,加速的这个模式,那在我这个模型里面呢,这个上下纹的长度,在这个病发下,那么实际的吞吐手头啃的这个食盐到底是多少? 那如果对方只能报一个漂亮的数字,也给不出各种那个,呃,非常细的一些指标或测试方法,这个结果也是不可复现的话,那么这个多少 p 呢?对你来讲呢?它的这个决策价值呢?就非常有限了。

变聪明最好的方式就是多听我的卡点解析课来看,这道题解析的思路很特别,嗯,一百个人估计有九十个人都想不出来,这里呢是八九数对同行没有八和九 做不出来,这行呢是五六数对也做不出来。所以,这道题到底该怎么做呢?烦死了, 关口啊,你一定想不到是第一列的数字一,给你一分钟,你能看出来吗?好,时间到, 我们来解题。乍一看呢,这里一个一同一个数字不能重复,所以 一不能填在这三个格子。这里也有一个一同行的数字也不能重复,一也不能填在这里。还有两个会选格,但是再也没有别的一了呀,数字一到底应该填在哪里呢?这就非常考验我们的综合观察能力了。 答案在数字二和七上面来看,这两个数字二和七直接排除这两个单元格不能填二和七, 第八行也有二和七,所以呢,这个也不能填二和七。同样,第九行也有二和七,这个位置也不能填。那么第一列的二和七还能填在哪里呢?就只剩下了这两个位置。 yes, 两个位置,两个数刚好组成了数。对, 也就是说啊,这两个位置只能填数字二或者七,再也不能填别的数字了,嘿嘿,否则就会出错。 那么排除了这两个位置,这里不能填一,这里一个一排除第一个格子,所以数字一就只能填在这里。有了数字一这一列还能填出哪个数,你能看出来吗?

这次我们给广州某高校定制了一套千问三十二 b 的 大模型方案,模型用的是 f p 十六无损精度, 主要是帮老师和科研团队做语言学、机器翻译,还有跨语言理解这些方向的研究。整个方案是跑在 h 两百的平台上,用的是 v l l m 的 推理框架, 后续还能直接在上面做领域微调,帮他们搭一个自己的多余种专用大模型。硬件这块儿我们配的是双陆志强八五六八外的 c、 p u, 加上两百五十六 g 的 d、 d r 五大内存, 还有一张一百四十一 g 显存的 h 两百,整体就是为科研场景量身打造的,稳定、吞吐高,也适配他们的各种实验需求。在并发能力上,我们按不同的上下文长度做了计算,日常短交互一千零二十四 tok 的 场景能稳定跑四十五路。科研里最常用的二零四八 tok 上下文稳定并发是二十三路。 处理长文本的四千零九十六 token 场景能跑十一路。就算是八千一百九十二 token 的 超长上下文也能稳定跑五路。线上或者实际用的时候,最好把病发数再往下调百分之十到百分之十五,给显存留一点溶余,避免峰值的时候突然容量耗尽,这样能更稳一点。

这次是给武汉某高校定制一台 h 两百服务器,主要应用于计算机人工智能学科大模型推理加速算法研究与千万三二 b 部署。处理器是两颗 intel 铂金八四六八 v 叠加九十六和一百九十二现成,能支撑模型的全链路调度运行。 调度类算法验证十六根三十二 g d d r 五五千六百内存条五百一十二 g 容量,能保证模型的上下文流畅。配合推理加速算法研究的多组对照试验,英伟达 h 两百一百四十一 g 显卡完美原生,部署千万三二 b 大 模型 hopper 架构原生 f p 八 f p 十六硬件加速能力 赋能推理加速算法的对照研究,整体硬件方案兼顾模型落地与算法科研,满足高效的科研与教学需求。


警告,本视频耗时两百四十小时,制作时长共八百六十二秒。一口气带你搞懂优喽系列的学习路线,从零基础入门到精通实战,全系列,让你少走弯路,学会优喽的正确应用之路。优 喽这些年出了这么多版本,那我们要不要都系统学一遍呢?这个实验成本太高了,我们来捋一捋,哪些需要你系统学哪些呢?我们简单了解就行,你要想简单了解啊,你可以听我一句话开说,我觉得差不多了。首先呢,一六年优喽 v 出来了,那 v 我 觉着大家不需要看了,因为都知道他是做检测的。 v 一, 他就告诉你件事啊,就是用卷积网络呀,你就可以去预测结果啊,做两件事,一个回归预测,一个框的位置,一个分类呢,得到这个物体类别唯一简简单单,没有什么东西。那 v 二呢? v 二也不需要你看 v 二,你就记住一句话, 他在 v 的 基础上多做了一件事,比如说 v 一 啊,他说正常啊,比如说你特征图上的一个点,咱们是不是能对应一个正方形的区域啊?那 v 二他说,哎呀,光具检测正方形的物体有点少, 使得咱们照回率,就是说检测东西更全。他说呢,就是对于每一个特征点,我们想去关注目标,不仅有正方形的,还有长条的,还有竖条的,也就说要检测的东西可能更全,出水化的框做的更多啊,这是 b 二,也不需要大家看 b 三呢, b 三,他说我们要做多个输出层啊,就这样,你想 深度学习吧,层数越深呢,它的感受也越大,关注目标越大,是不是就是正常物体检测都是检测大目标,效果挺好的。那 b 三开始他说我们能不能做多个输出层呢?三个输出层来去做这个事, 中啊,就是浅层、中层、深层分别对应什么?小目标、中目标、大目标,三个出槽能把检测目标做的更好啊,这就是浅赛版本 v 四呢,我建议大家有时间可以看看论文,因为 v 四他告诉你一件事,叫什么叫嫁衣神功。 什么叫嫁衣神功呢?二零年这个 v 四有一个特点,他是这样啊,就是别的地方啊,做的好的东西拿过来试一试,我估计大家你们也经常用这个套路,别人做好的东西,拿到我任务当中去看一看有没有效果。 v 四呢,做了大量的实验,效果其实挺大的,因为他能学到很多不同的模块,应该怎么去加 v 四,就做这样一件事。 然后呢,接下来我们说啊,几个开源项目啊,就是商业版本。我们先说啊,就是 v 五, v 八还有 v 十一。为啥说这个 v 五 v 八还有 v 十一呢?因为他们都是官方版本啊,就是很多民间版本啊,咱也不说了,官方版本当中啊,这三代就是优势。 u 开头那个包是做的, 大家呢,咱们这样啊,就是 v 五,然后 v 八,然后 v 十一,大家说看哪一个呢?肯定看 v 十一,是不是大家说 v 五要不要看 v 五,暂时咱们可以不看了,那 v 八和 v 十一是一个事,就是以前啊,这个包的老版本, 我们叫 v 八,然后这个包的升级版本叫 v 十一,现在呢,你装这个包啊,它默认就 v 十一了,就是没有 v 八这个概念了啊,所以说大家默认用这个包就行了,你直接用 u 开头这个包,它最新版本就完事了。那 v 五 v 什么 v 五 v 八,这东西就不存在了,你也不要去看了好吧,大家说还有 v 六 v 七 六 v 七啊,嗯, v 六首先来说它没用,你就当 v 六不存在吧,这个东西压根都一点一,当年除了 v 六一点关注度都没有,那个论文也没人看,没啥用的东西。 v 七呢?多做了个事。 v 七啊,他就是说怎么在推底阶段做一个加速,其实都是一个小点,这些大家我觉得也不用去深入了,你现在有时间,你就直接从 v 十一开始就优顺那个包来看看像就行了。 然后呢,接下来很多 v 九 v 十, v 九 v 十两篇论文,你看一看吧,我觉得能对你有一些帮助,但是不是特别大,大概率你是用不上的。 v 九呢? v 九他做了多多做了一个事,就一句话总结啊,就比如说你这个深度学习啊,一层一层往下传, 那这个 t 度从后面往回传是不会损失一些啊?损失什么了?让中间这层吃了?那浅层他拿到就 t 度就信息就丢失了很多,是不是? v 九就说他为了弥补一些浅层的信息就丢失了很多,是不是? v 九就说他为了弥补一些浅层的信息没了,就这么点东西? 我觉得你需要看论文吗?你简单过一过,了解这个事就行了。 v 十呢? v 十我觉得意义不大。 v 十啊,他就说你那个优洛啊,他在做后处理的时候不有 n m s 吗?非加这一致是不是有点慢, 把这个事提前了,就这么点东西,我估计你用不上这个东西啊,还是用优社那个包,人家传导方法啊,人家那个经典法去做这些论文啊,简单了解即行。把重点发什么优洛优社那个包,从头到尾 delete 一 遍原码。为啥说让大家 delete 一 遍原码? 你光听,光看论文,或者光听我说你有一个概念,但是呢,你,你想说把系统给他学会,我觉得这东西光听是不行的,你必须过一遍圆满,就像我,我说我讲优喽,我,我咋讲?我不是说我去看点什么视频,看看论文,我就能讲这个东西,你不过一遍圆满,你永远心里没有这个底气。所以说重点放在哪? 优设最新的这个包,圆满过一遍,把时间放在这,不要把时间放在前面的版本,或者说把时间放在大量读论文,论文了解即可。重点在圆满。 咱们这套人工智能系统学习班对于准备做论文的同学有什么帮助呢?我相信很多同学啊,都是跨专业来的,导师让你做这些方向,但是自己之前还不了解,我也是分三个维度给大家解释一下吧。第一个维度就是说咱们的内容其实是比较通俗,比较容易去理解的,我讲课已经讲了快十年了,我觉得是能让大家花更少的时间成本,快速去入门这个领域。 第二点呢,就是大家在学的过程当中啊,可能会涉及到一些专题,那专题当中其实我都给他配备了一些专题资源,比如说我要做视觉,我要做文案,我要做多媒体。好,可以先看看我讲的这些论文,以及我讲的这些原码,咱先把这个领域啊快速去熟悉起来,好能高效的切入到 你要去做的一个场景。那第三点,其实就是我们在做论文的过程当中啊,大家可能说我数据怎么选,我创意点怎么做,可能我自己这条路啊,没有从零到一的走过一遍, 老师带我完整的去走呢。其实是有的,我们论文当中啊,咱们也是有专题的辅导,专业做论文老师从大家怎么选数据,怎么选模型,怎么做实验,怎么做创新,怎么写出稿,一步一步会带着大家完整的去走一遍流程的。总结一句话就是体系化的学习,我们是比较高效的,对应的辅导呢,咱们也是比较完善的。 哈喽,大家好,我是陶雨迪,咱们的人工智能第十四期班机马上就要开班了,那相比于我们前面一期,咱们第十四期啊,到底多少新的东西呢?首先第一件事啊,咱们内容更新了很多模块,不仅有新的模块,我们还把一些老的模块全部给大家 翻拍,全部给大家更新,并且会用直播的形式来给大家展示。以前呢,我们是每周就有直播这么一场,但是现在呢,我们一周是有多位老师同时给大家做直播的。第二件事呢,就是咱们的辅导也又又又升级了, 以前的辅导啊,是有助教老师、班主任老师,还有我。现在呢,我们多了论文副老师或者就业副老师,我们相当于是多位于一体记在课程内容上,也在教学更新上给大家带来了一次全面的升级。如果大家想了解整期内容,详细的大纲,详细的辅导计划,欢迎大家与我们的助教老师取得联系。今天给大家唠一唠这个事,叫物体检测。 为啥叫物体检测?我先猜一猜啊,来我问问兄弟们,你看我猜准不准。今天有没有来小伙伴准备搞论文的兄弟, 尤其是读研的,然后或者是本科的,可能还有读博的兄弟,然后呢,你想去考一些论文,为了满足毕业的条件啊,或者为了要要要有一个成果是吧?好猜有没有有很多兄弟考虑为啥认准物体检测这个方向, 就为什么会选 a 跟优喽相关的东西呢?其实就一点,因为他做起来相对来说是比较容易的,做起来是比较快的啊,所以说我们今天我给大家看一看啊,就是怎么用优喽完成自己的事, 我不仅会给大家讲啊,就是优喽的历代版本都是怎么玩的,还会带着大家我们一个看啊,就是怎么能把这个咱们今天说的物体检测这些东西啊,做在我们自己任务当中,若是大家还有啊想说在我任务当中 增删改查,做一些变换的,我们也会给大家看啊,如何增删改查,如何做一些变换好了,然后咱们今天的主题啊,我给大家讲这个优喽 v 八, 可能重点是 v 八哦,但是我们不仅仅去做跟 v 八相关的东西,咱们 v 一 到 v 十全部带兄弟们过一遍好不好? 一节课的时间咱争取往多了讲, v 一 到 v 十全玩一遍好不好?然后我给大家通俗去讲,我觉得大家收获还是蛮大的,千万不要离开。好了,那下面呢,我们就直奔主题了,我先给大家放个小 demo, 先通过一个比较简单的小 demo 来看一看, 就比如说咱这个优乐啊,它到底要去解决啥问题啊?来,我先举个小例子,咱们来看,比如说在我们任务当中啊,我先随便找一个啊,然后给大家去看一下我们的应用场景, 就是检测这个事啊,我估计应该很多小伙伴之前都看过,之前也听过,是吧?好了,我们来看一看, 来在这里边,比如说我们看这个场景,这个场景当中啊,就是输入呢,我们有这么一张图像数据,是不是有了我们的图像数据完之后 接下来干啥?接下来在这里边我们去看啊,这一块任务当中,我的物体在哪?我的框在哪?我关键要找到啥?找到我的一个框,找到物体所在的一个位置,是吧?好了,这是我们要做的啊,找到物体他所在的一个位置。 哎,那接下来大家再想,在我们这个任务当中啊,我现在怎么去找这个物体的位置,怎么能把这个框给他画出来呢? 来,大家帮我想一想,你觉着咱们任务当中怎么去画这个框啊?想画这个框可不太容易啊,我给大家演示一遍优喽是怎么做的啊?好了,来回到我们主题,咱们先这么想啊,先往简单说,那我这样,我先给大家说说优喽 v 一 吧,就是最早的一个版本,人家是怎么玩的啊? 然后呢,我慢慢咱们再去做一些拓展啊。好了,我们先来看假设,假设来在咱们任务当中啊,这里边我现在呢有一张输入图像数据,好有一张图像啊, 有了一张图像数据完之后啊,接下来,哎,我说现在假设啊,这块有个飞机,我说呢,咱想把这个飞机啊给它检测到,那这件事行不行?如何去检测这个飞机? 最关键一件事我们要提特征是吧?什么叫提特征?在我们任务当中啊?你这么想就是给了我一个输入数据, 咱现在要干啥?给了我一个输入数据,我说我得可以用一些啥,用一些转机干啥?用一些转机来,在我们任务当中要去做什么?提特征是吧?好了大家来看,在我们任务当中啊,给了输入数据卷积完之后能得到啥? 卷积完之后啊?哎,我说我现在是不是能得到一个特征图?那特征图你看啊,在这里边来,我说这一块咱们现在有很多特征点是吧?来大家帮我看,我现在有个特征图,特征图上有什么?有很多特征点, 哎,让我问问大家啊,就是咱们现在啊特征图上的每一个点他都会咋样?你这么想啊,就是特征图上每一个点他是不是都会对应原始输入一个区域啊?来这一块对应这个区域,第二个点呢?可能对应第二个区域,第三个点可能对应第三个区域。那此时想大家一件事, 我们该如何做检测呢?检测咱先往简单上说,好,有声音吗?兄弟们?检测咱先往简单上说啊,哎,我说就是逐窗口的遍地,什么叫逐窗口的遍地啊?哎,你这么想就是在我们这个任务当中啊,我去看一看每个窗口。

你是不是经常听说 ai 的 模型训练和推理,但是感觉云里雾里,别划走,一分钟给你讲的明明白白。假设你的公司要开发一个产品,它能够完成猫和狗的识别,那么第一步你开发这个产品的过程 就是叫模型训练。我们需要把大量的成千上万的图片交给这个模型,去不断提高它的准确率, 这通常这个过程就是一个烧钱、烧时间和烧算力的过程。我们需要大规模的 gpu, 然后海量的数据喂给你的模型,去不断的去修正模型的参数,最终将识别率达到一个可用的范围, 这就是模型训练的阶段。那么终于你的模型的准确率达标了,能够 发布产品给客户使用,客户拿到他需要识别的图片扔给这个模型,模型返回告诉他这是一只猫还是一个狗,这整个使用的过程我们就叫模型推理。现在你明白了 模型推理和模型训练之间的区别和联系了吗?总结来说,训练阶段是需要烧钱、烧算力、烧数据的一个大规模计算的过程,推理阶段就是最终这个产品完成之后交付给客户使用的一个过程。

这就是信息差呀,当我们孩子还在报动辄上千甚至五位数的思维班时,隔壁已经在玩这套逻辑屋桌游了。玩着玩着,树感就玩出来了。一套整整两百一十张题卡,把幼儿园和小学需要掌握的四大思维体系,空间、方位、排除运算 全都融入到这一个思维机里了,而且还是特别好玩的桌游形式,孩子很容易接受。先根据线索找到小狗和大象的位置,再依次找到熊猫和孔雀的位置,小猪在这里,青蛙在这里, 狮子只能在这,那这里就是小猫,最后蜜蜂只能在这。这也太好玩了,难度是一点一点增加的,小朋友挑战成功就很有成就感,关键没有电子屏幕,玩久了也不用担心伤眼,还特别的好收纳,一节四维课都不要的价格,居然能把这一套全部带回家,就这个性价比,赶紧安排上!

这中国信息安全测评中心刚刚审批过的一片芯片啊,看看其中有哪些可是公开信息啊,每个人都可以查到的啊,相关的概念有哪些呢?好难猜啊。关注我,有消息马上发给你啊!

哈喽,大家好,最近又有很多同学问我图推怎么学,怎么做到又快又准的,这个视频教你如何学习图推,做到事半功倍。首先我们讲一下图推考什么,就图推的表象,它是由各种简单或者抽象的图形,以各种各样的形式来排列, 让同学们观察其各个维度的一个变化,找到那个隐藏的规律。通过分析它的表象呢,咱们可以大概的分析一下,它的本质就是在于考察和训练人的模式识别、规范推理和空间思维能力。 当然这个比较抽象哈,一句话总结就是他考察的是从变化中找到不变的能力,这个变化中 就是图中的题目,它里面有很多图,这里面的图肯定不是一模一样的,它是发生变化。而后面的这个不变呢,指的是这里面各种各样的图啊, 它里面有共同的规律,有不变的规律,这个叫找不变。首先我们讲一下,在我们行车考试中,图形的变化形式有几种,那一共有四种啊?第一种虚列推理, 题干会给一组图形,通常四到五个要求推出下一个。第二种是九宫格推理,在三乘以三的学生中空缺一个要求,根据横列的规律来补全,当然也有可能考成那种米字形的 对角线啊。第三种是分组分类题型,题干给出六个图形,让我们按照要求,主要是按照这个规律,当这个规律我们要去找,分成两组, 当然这个两组一般是三三,而不是那种二四或者一五。第四种变化形式就最后一组啊,是立体图形的变化形式,涉及到折纸盒,主要是空间重构,像六面的重构啊,四面重构,或者是其他不规则, 还有什么三式图,解面图和立体拼合图,这是变化形式,今天我们讲一下不变的这种规律主要有五大种啊,第一种, 数量规律,主要是点心面角处的数量变化。第二种,位置规律,图形的移动、旋转、翻转,相对位置关系。第三种,预算规律,图形的叠加和加点。同意。第四种呢,属性规律,对称、取折和开闭。 主要是这三种属性规律,其他的一般不考。最后一种是空间结构,我们刚刚已经提到过的哈,立体图形的展开和折叠,还有视角的转换。接着我们再讲一下怎么去学习图推,那么主要是三个字,学练盘。 第一个学系统的学习考点,熟悉考察内容,形成初步的知识框架,特别是在小白阶段,建议大家找一份完整的这个图推教材,按照模块学习所有的这个规律类型, 如果大家连考什么规律都不清楚,那么做题根本就无从下手。第二个呢,是练,大量的练习内化,并且运用规律巩固自己的思维网络。就建议大家不管是在做什么样的题目,还是要去大量练习,特别在行测之中啊, 还没有进入到比拼天赋的一个阶段,那么通过大量的练习是可以提高咱们的能力的,提高咱们的分数。第三是盘复盘,总结经验, 构建做题的思路和方法,主要是自己的一套技巧,大家可以学习完之后啊,将每类规律的这个具体特征和常见的图形标志整理成自己的笔记,因为别人的思考流程终究是别人的,不适合自己。 最后一个建议呢,是大家要敢于试错,因为这个读题规律非常多,大家可能有这种惧怕的心理,希望大家还是不要去怕啊,还是要去勇敢一点。第三个部分呢,讲一下具体到某一个读题题目我们怎么去做。那么主要是四步,看元素组成,看特征式规律和验选项。 首先第一步看元素组成,如果元素组成是相似的,那么优先想到这个运算规律,那主要是加点同意和黑白运算, 如果是完全一样,那么大概率呢?他在考察位置规律,主要是平移,旋转和翻转,如果元素组成既不相似也不相同,就完全不同,杂乱不张的,那这个可以想属性规律,那对称取值和开闭还有数量规律,那么就是典型表数来一套。第二步呢,就看图形的特征,如果大家看到 田字,日字或者是多个圆相交,建议大家可以想一笔画或是多笔画,如果看到生活画呢,出现条想不分数或者是属性规律,对应起是该币嘛?如果看到多个独立的小元素,可以想元素的种类和个数。 第三是式规律,就是我们刚刚提到的要敢于试错,优先是明显特称的规律,就是先是简单的, 再到难的,不要上来就是难的,不要上来,就是那个数量规律,就是非常浪费时间。最后一步呢,是验选项, 保证选项和题干的规律一致,这是第一步,首先规律要一致。第二步呢,是要保留这个规律,他的选项是唯一的,因为在有些题目里面,他有可能会存在有多个选项满足其中一种规律,那么这个时候我们要对比择优,或者是要看存不存在一些复合规律。 接下来呢,给大家画一下图中的几个重点板块啊,主要这么四类啊,黑白块是绘画图形、线条图形和九宫格。 我们先讲一下黑白块的长考规律,主要有八类,平移、不分数、黑白球的数量、边数运算、对称性、面积和图形间的关系。我分别用几个题目来演示一下这几种规律。 首先我们看这个题目,这个题目呢,所有的图形它都有两个黑块,可以看到黑块它相对位置关系有点的不同,第一个呢,它是这个线连接,第二个呢是这个面连接,因此通过这个就可以分组分类。 再看这个题目,那这个题目所有的图形都有一个非常标准的黑块,他都是轴对称图形对称轴画出来,这次发现白块他也是轴对称的,因此他是黑白块的对称轴呈现夹角的一个变化。 再看这个题目,这个题目呢,所有的黑块他都是一部分,然后白块呢,是两部分,因此可以选出咱们的答案,这个就是系列推理。再看这个题目, 同样的,所有的黑块呢,都是非常标准的图形,那第一个呢是三角形,第二个呢是正方形,然后第三个又是三角形,第四个又是正方形,它是交替变换,因此问号处呢,应该是一个正方形。给到 a 项。再看这个题目,那这个题目呢,它的外观是相似,然后内部呢是黑白球,因此啊, 他一般在考察位置的移动或者是黑白运算,大家可以去试一下。再看这个题目,这个题目呢, 他的外观是非常标准的,然后内部的小黑块呈现一定的面积变化,分别是占了六分之一,五分之一,然后这个呢,应该是占百分之百。答案给到地向。再看下面这个题目, 它的外观相似,但是通过视规律黑白一算或者是移动呢,找不到,那我们直接 数它的数量,数量分别是五六七,就是黑球,这里是三四五。再看这个题目,它的外观也是相同,咱们直接试它的位置规律, 分别是每一列再进行移动,移格,向上移或者向下移。再看最后一题,那这所有的图形呢,都存在有两个黑块, 那么两个黑块他之间的位置关系咱们需要去考虑一下。可以发现,第一组图他都是隔了一个白块,都是隔了一个白块。 第二组图呢,也是隔了一个白块,应走位处应该是隔了一个白块。咱给到 c 项,就是黑白块的常见规律。再看第二种啊,生活化图形长角规律呢,也是八个,包含曲直性、开闭性、点线面的数量、部分数量、对称性,图形间的关系。 同样的,我拿几个题目来演示一下。首先这个题目九宫格的形式,但是他是生活化的特征,第一列呢是全曲线,第二列呢,全直线,第三列呢,曲直混合。 再看这个题目,他考察的是开闭性,因为这里有个梳子,还有这个眼睛呢,是典型的特征图形,它是半开半闭,因此通过全开放和半开半闭的特征可以区分出来。 再看这个题目,那这个题目是比较明显,因为这里发现啊,有相同元素存在,而且第一幅图里面相同元素有三个, 第四幅图也是三个,第五幅图也是三个,其他的呢,都是两个,因此可以分组分类。再看这个题目,也是生活化的特征,很明显是对称,所以他还是考察,这是对称。答案给到 c 项,这个 b 项呢,他不是对称,大家看仔细一点。再看下面这个题目, 他考察的是面数,因为这里面数特征非常明显,特别是最后一个图形啊,里面呢是六个小正方形,然后外框呢,是一个大的面,所以他总共有七个面,前面呢应该是六个面。再看这个,他是线条图形。 我的这个思维流程啊,是先算他的笔画数,一二三是一笔画,四五六呢是三笔画。 再看最后一个,那个也是生活化的特征。这里有个鸡吗?这里有个柳条,他考察的规律是一二五,他们的面啊,通过线连接,而三四六呢,通过线连接或者是点连接,这是生活化题型。再来看线条题型, 线条图形呢,他通常是考察一些数量规律居多啊,像线面点角点,线面角数都有可能会考。然后就是对称性和图形间关系。同样的是几个题目, 这个题目呢,考察的是切点的数量,可以分组分类。那这个题目呢,考察的是对称性,他所有的图形呢,都是竖轴对称,但是竖轴对称呢,是在 a、 d 里面做对比区分,具体来看, a 向对称轴,他是过六个面,因此可以当选。 再看这个题目,线条图形直接计算笔画数,它都是一笔画。再看下面这个,它的外观是相似分子分类题型,不过我们可以看到它的最大面啊,是可以通过轴对称以及中心对称来区分的。再看下面这个,就干脆就是非常明显的轴对称图形, 对称轴呢是在顺时针转四十五度。再看最后一个,这里有一个特定图形是电话卡,直接算直角,分别是一二三四五六个直角。答案给到 c 项, 再看下面的九宫格题型,常考规律呢,有五种,主要是黑白运算、加减同意,数量规律、对称性取值和开闭性。再看几个题目, 那这里是九宫格的形式,然后出现黑白块的特征,而且建议大家九宫格题型啊,一定是要横行优先看,横行试不出来,咱们再试竖列。那这个题目呢,很明显就是黑白运算,白乘以白等于白, 然后黑乘以黑等于黑,咱们通过第二行,经过验证,黑乘以黑等于黑,白乘以白等于白,所以验证通过,那么问号处呢,应该也遵循这么一种规律。 再来看这一题,那这个题目从第二行可以很明显发现,他肯定在发生旋转,就大家一定要注意,从第一行如果得不到规律,咱们可以看第二行,这在发生逆时针旋转九十,然后去同存异。答案给到 c 项, 再看这个题目,那这个题目呢,就是好找取直线,第一行呢是纯直线,第二行纯曲线,第三行取值混合。答案给到 c 项,再看下面这个,那这个就比较简单了, 就是单纯的考察数量规律,这里三条线,这两条线,这一条线,这里三个面,两个面一个面,这里是交点。答案给到 b 项,再看最后一题,那这个题目呢,考察就是对称性,因为中间这一列中心对称的特征非常明显, 然后到第一列去看一下,都是轴对称图形,所以第三列问号处要遵循前面两个的特征是轴对称,同时也只有两条对称轴, 所以只能给他递向,这是九宫格常见的一些规律,一些题目。最后,如果还是有很多同学理不清图的逻辑,那推荐大家学习我即将推出的图的六百题,可以帮助同学们解决很多痛点。 我们的图的六百题呢,是分为了两部分,首先一部分考点篇三百题,第二部分图形特征篇三百题。这个题目选举呢是非常的经典,基本上是选举的国审稿事业编的最新的专题。 我们第一部分的考点篇呢,主要是打基础,帮助同学们强化对某个考点的图形认识,图形特征。第二个图形特征篇呢,那就根据我们刚刚的考点识别的图形特征,进一步的来拔高,通过刷题来形成自己的思维框架。我们这个图的六百题呢,既适合小白同学, 就是那些刚刚开始打基础的同学来夯实基础,也适合有备考经验的同学们进行拔高练习,查漏补缺。同时我们这个六百题不仅包含纸质题本, 也包含这个视频课,我会手把手的带大家刷题,确保六百题的使用效果最大化,帮助大家做一题过一类,期待大家的关注。