我是真的发现有很多人都不会学习,就拿训练 lora 来说吧,有一个学生想要训练这种衣服类型的 lora, 但是他实在是不懂这些参数该怎么样子的设置,后来就找到我,我一听啊,这些东西还需要自己想吗?这种参数我们找点成功案例抄一下不就行了吗?所以本条视频主要是来讲解如何看懂每一个 lower 的数据,而且将他们运用到实际的训练流程里。 首先借回刚才的话题,让我们先来看这一个 j k 服装的 laura, 鼠标放到它上面的时候,会发现上面有一个红点, 里面是一个感叹号,我们点击他的话,就能够看到 laura 训练时候的各种参数。通过第一个参数我们就可以看到他训练这个 laura 的底模是这个 stable diffusion 一杠五的模型, 然后它这一块的参数,它也就是你 lower 训练包里的这个位置的参数, 比如说他这里是七六八乘以七六八,那这个地方也是七六八乘以七六八。而且我们要知道他这个地方的参数呢,他并不等于你每一张训练集里面的图片的大小,真正的训练集里面图片的大小 我们在后面会提到,然后他下一个训练的参数是等同于训练集里面图片的张数乘以每一张图片训练的次数, 训练节里面图片的总数。这个地方大家都很好理解他这里的每一张图片训练的次数,他是在这个位置,我们可以看到是有一个一百五,然后下划线比上一个 jk 制服,这个一百五就是每一张训练集里面的图片,他训练的次数,每张图片训练一百五十次,我们可以用计算器来计算一下,他这里是一四四零零除以每一张图片训练一百五十次,一百五 他等于九十六,就说他训练级里一共是有九十六张图片,我们可以往下接着看,他下面这一块的格式可以看出来都是左边是一个词,右边的是一个数字,中间是用冒号相连。他这一块的意思是说左边 左边的像这些什么,呃, jk 什么什么,还有白色的 jk 什么的,他这块是给这些训练集里面的图片打的标签, 右边呢是这个些标签,比如说这一个词,他一共出现了三十四次,因为我们刚才算出来,他整个的训练级是九十六,也就是说九十六张图片,他对应着九十六个不同的标签文件, 那也就是说这个词在九十六份标签文档当中出现了一共三十四次。那么下面这些词呢,都是可以用刚才的逻辑去推理, 比如说这个黑色的 jk 群,这个词一共出现了十次。我们继续往下看,这些都是给训练集里的图片打的标签。 呃,下面这个地方,这个地方的参数大家都很熟悉,他是说两张图片 一起进行训练,这个地方的参数就对应着训练包里面的这个参数,就是批量大小。然后我们往下看,这个地方他也是有一些像素或者说图片尺寸的设置, 那么这里的图片尺寸的设置跟我们最上面的看到这个地方七六八乘以七六八,这两个地方有什么不同呢?让我们回到这个训练包, 我们可以看到训练包里面是有一个训练图片的分辨率的正面一样一个设置,然而我们在处理自己的训练集的时候,有时候并不会把每一张训练集里面图片的尺寸设置的一样,也就是刚才我们看到的七六八乘七六八, 也可能会使用其他尺寸的图片进行训练,那么这个时候你的捞绕训练包就会将 将这种其他尺寸的图片进行一个处理好,让这种图片不至于过大。那么我们回过头来再看这一块的参数,像这一块的数据就是记录了你训练集里面其他尺寸的图片的情况, 比如说我们可以看到这里是六十四比上二五六,那就是说有一张图片的尺寸是宽六十四,高是二百五十六的一个尺寸, 然后下面有一个这个参数,然后他比了一个三百,这个意思是说像这个比例的图片, 他加起来一共训练了三百步,这是什么意思呢?由于我们刚才在这个地方就可以看到他其实每一张图片是训练了一百五十步,然后呢 刚才是在这里看到了三百步,所以我们可以用三百除以一百五就等于二,所以我们就可以知道这个尺寸的图片,他在样本集里面一共是两张,下面每一个参数都可以这样子进行理解, 然后这一块的参数他又可以在训练包的这个位置能够对应的上,然后可以看这里,这里我们可以看到有一个一百五,然后比上一个 jk 制服,下面是给了两个参数,一个是 repeat 一百五, 然后还有一个是图片的数量是九十六。呃,我们还记得我们刚才在最上面的这个地方计算过一个数,就是幺四四零零,除以一百五,正好是等于九十六吗? 所以说在刚才我们看到的这个地方,这个地方他就是说图片的总数是九十六张,每一张图片训练一百五十次, 这里就跟上面那块我们能够对应的上,然后下面的这些参数其实就是非常的简单,因为每一个参数我们都可以在训练包里面找的到,比如说这里有一个 cable 头跟子,他这里写的是无, 呃,那么在训练包里面他对应的就是这一块的选项。呃,无就是说零嘛,也就是说他这里没有一个特定的触发词, 如果你用过这款 lolo 的话,你就会记得它里面的出发词是非常非常多的。那么这些出发词呢,其实就是跟我们上面,我们在上面的这个地方看到的词是 是能够对应的上的,然后还可以再往下看,这里有一个最大的训练步数是七千二百步,然后就是我们每一次训练都觉得很难设置的一个学习率, 在这里也都能够看得到。比如他这里设置的就是零点零零零一,然后他文本的学习率,他是在这个地方设置的是五亿负五,然后在下面我们还可以看到他设置的优化器,他在训练包里面呢,对应的就是这一个。 如果你想训练一个服装类型的 laura, 为什么不去抄一些已经成功的 laura 的参数呢?因为这些参数已经能够得到验证了, 我们可以一开始根据这些已经成功的 lower 的参数进行一个训练,然后在第二遍训练的时候,可以根据训练的结果从这些上面 进行一个微调,这样子的话我觉得才能让我们训练的模型更加的优秀。其实不光是服装类型的 lower, 我们比如说训练人相关的 lower 的时候,也可以照抄他们相关的参数。 这个捞儿我觉得很神奇的地方就是他的 d m 的值设置成了一百十八,而这个模型的阿拉法的值同样的设置成了一百十八,但是这个模型的整体表现力其实还是不错的, 所以我是觉得从这些参数里面我们能够看到一些真的很有意思的地方,他能够打破我们常规的一些思路。那么以上呢,就是今天的全部内容了, 大家在训练 lower 的时候,真的可以参考一下这些 lower 的参数,作为自己设置参数的依据。
粉丝2.2万获赞17.7万

哈喽,小伙伴们大家好,我是白菜,上一期我简单讲了一下关于捞二分层控制的一些操作,然后很多人都想知道捞二权重到底该怎么调整,今天我就单独做一期视频,带你们研究一下如何调整捞二分层的权重参数。 既然是研究,那肯定少不了要啃一些开发文档来学习。如果你想看懂我后面的实操,那这部分是千万不能跳过的,否则到后面你可能会一头雾水。其实也就是把我们后面需要用到的一些点简单过一下,我会尽量把它缩短在一分钟左右,所以呢,耐心把它看完,如果你一遍不懂可以多看几遍。 好的,我们现在开始。这里作者说的是他用到的一个大模型和 lora, 这个我们用不到就直接过了。第一个需要注意的点,这里我们需要用到 x y z 图表结合插件的权重分析器 需要注意我们提示词里边的 low 名一定要后缀冒好 x y z, 不然他这边不会起作用。第二点, x y z 这里一定要勾选最右边的高效分析器下边的变换 x y 轴一定要勾选,因为我们需要让二十六个层都放在 x 轴上,便于我们 去分析图表。第三点,这里我们测试的是零点五和一,意思就是我们需要测试权重没有改变的情况下和改变到零点五的情况下每一层的改变的百分比或者说受影响的多少。第四点,我们需要确认 我们测试的 lora 哪个部分对于我们比较重要,是人物,衣服背景还是其他部分?比如说我们确定为衣服,那我们就看这些图表里边哪个图层的改变对衣服比较重要,我们给它分成三个档次,重要不重要或者不确定。 然后我们就根据生成的 x、 y、 d 图表来对每层进行分类,我们把重要的层权重设为一,把不重要的层权重设为零,对于不太确定的层 权重设为零点五。然后我们把确定好的权重填入下边这个表格里边。好,我们先了解这个文档的前半部分就可以了,当然后边还有更高寸的部分,如果大家感兴趣的话,可以自己去研究一下。我会把这个文档链接贴到视频简介里边,这个表格我会提供给大家。估计会有人说刚看完文档,现在又要看图,表 头现在已经蒙了,那先别蒙,接下来我们就直接进入实操环节,这个图表的用法我也会在实操里边给大家去讲解。 这就是今天我们所用的 lora, 他只有两套衣服,比较简单,没有多余的变化。今天我们的目的是通过分层控制来更好的还原这个 lora 的人物和衣服。呃,手部的这些细节 我们先不用管,然后背景我们也先不管,简单把这些参数填一下就行了,这些大家都会好。我们打开 lower block v 的这个插件,点击启用,如果你没有这个插件,可以看我上期的视频, 可以找一下那个安装包。好,我们勾选高效区块分析器,勾选转换 xy, 这里设置为零点五和一,下面的不用动。如果你觉得一张图测试不准确,可以增加种子数量,多生成几张图来进行比较。你应该还记得我们在前面讲过,需要在 lora 名字后边加上冒号 xyz, 好点击生成。我们可以打开后台看一下情况,如果有报错,那说明你有些地方填的不对。好的,图表已经生成了,我们来看一下,我们可以看到上 层这个显示的是 different 百分比,百分之多少就等于说这一层零点五权重和一权的时候,他的差别的百分比是多少。然后下边这个图像显示的是这个图像的差别啊,就等于说一个可视化的, 咱们能看到这个图像到底差别在哪个地方。好,那如果你还记得我在前面说过的,那在这个地方我们要确定一下哪些改变对我们来说是重要的,或者不重要的,或者是我们不确定的。那我们把这个 分成三个部分,然后把权重分别设为一、零和零点五。因为在前边我们已经确定了这个 lower 的人物和衣服对我们来说比较重 重要,那我们就聚焦这一点来给每一层确定一下他的权重。那么为了方便我们直接用画笔在图像上直接把权重给他写上,结合这个上面的百分比和下边的这个图像的差别, 这一点我觉得你们应该能看得明白,因为比较好分辨啊,把眼睛擦亮就行了。 好,那这部分完成以后,我们就需要把这个表格调出来,在相应的位置填上它的相应的数值。 好的,填完以后,我们需要把权重为一和零的层给它打上对勾,权重为零点五。 我的层,因为我们现在不太确定,就先不固定,待会我们还要进行调整,那么这些做完以后,我们能在右边这个表格栏里边看到二十六层的所有的权重参数。 那么下边这一行代表的意思呢?就是我们没有确定的层的名字,这个我们后面会用到现在暂时不用管他,我们先把上面这一层的初步确认的权重参数复制一下,我们给他填到这个参数预设里边, 一定要点击保存预设重载标签,然后我们就能在上边这个地方看到我们保存的这个预设名了。好,现在这个 x y 图我们现在用不到了,给他点击禁用,然后打开下边脚本 x y z 图表里边的 x y z pro, 如果你跟我一样是汉化过的界面,那就需要找这个提示词搜索和替换,如果是没汉化过的,那就是 prom 的 s 斜杠 r。 那么这一步我们是要干嘛呢?这里解释一下,可以看到 x 轴我填的是 all, acnex y 轴的 c 的我们填了四个负一,目的是为了生成四组不同的图来做对照来测试。 lora 没有更改分成权重与更改过后的区别。这里的 all 是我们没有更改过权重的, 可以看到参数全是一 acnite 是我们刚才复制过的参数,点击生成对照图。啊,这里报错了啊。需要注意一下,这个地方我们不能用 x y 了,需要用刚才我们替换题的词的第一个词就是 out, 我们给它 填上。好,可以看到这下就可以了。我们现在来看一下这个图。第一组左边这个手部的衣服不对,然后下边这个裙子也不对,因为他是个短的。第二组也是下边这个衣服不对,很明显右边这个眼睛画的更好一些。 第三组也是右边的眼睛画的更好一些。第四组这个右边的手臂崩了,但总体来看的话,还是右边对衣服和人物的还原度更好。 我们这里还有一些层可以继续对它进行优化,大部位的表示的是我们没有打过的层从零点五减到零的 lower 权重,因为我们默认的 subwide value 是零点五, 如果是零点二,那就是每层从零点五减到零点三,大家后面可以自己慢慢研究,这里我们就默认零点五了。我们复制一下这个表格里边的参数,然后打开 wi, 把刚才复 的参数粘贴到这个地方,把之前的预设替换掉,点击保存预设重载标签,之前的预设我们别忘了给他备份, 然后别忘了把这个奥改成 sad。 把这些预设名复制一下,然后粘贴到 prom 的 sr 里边。我们只需要生成一张图,所以把这个外轴给关掉,依旧是重复之前的操作。等这个图表生成以后,我们来看一下这个图的差别。 那这一步的目的简单来说就是要找出哪些层在变化的时候更容易使这个图崩坏。我们找出这些层,然后把它的权重降为零, 等我们确定以后,还是用这个图表把确定后的层改为零,然后打勾固定下来。这个我们之前也操作过了,我就不讲了。好,那么到现在呢?我们其实还有五个层还 没有确定,为了能高效的看出这个层的权重变化所带来的影响,我们可以同时进行加法和减法,减法就是把权重减到零,跟刚才的方法是一样的,加法就是零点五,再加零点五加到一。 那现在我们就需要用到这个 sub id weight 点和加权中,如果你想先加后减,就是 id sub weight 就是先加后减。这里我们还是重复之前的操作,复制一下里边的参数,然后粘贴到 web ui 这个插件的预设里边。 相信经过前面的操作,大家应该对这个操作比较熟悉了, 那这次看图的部分我就直接略过了,方法还是一样的,我们找 普通的一些权重变化以后,对图有破坏的一些层,把它的权重降为零,其他的层还是维持不变。 那么通过这种方法呢?我们就基本确定了这些层的权重参数。那我想告诉你的是,他依旧是比较粗糙的, 因为我们每一次增加和减少权重的时候,都是用零点五来测试的,如果你想更加精确,可以把参数设置成零点三, 零点二,甚至是零点一。熬参数依旧是一个比较漫长的路,如果某一天你漫漫长夜而无心睡眠,那么你可以静下心来慢慢的研究一下。 现在我们已经确定了最终的权重参数,现在肯定是要再测试一下最终的效果,看一下我们最终确定的这个权重对老二的影响到底如何。 好,那么让我们来看一下最终效果。左边是没有经过任何调整的,右边是已经调整好的。 第一组我们已经很明显的看到左边的手臂已经崩了, 第二组手臂也是已经崩了,左边右边的话稍微好一点。 第三组也是手臂的部分好,那么这么看下来的话,我们还是得到了自己想要的效果。 如果你不想在每次使用这个 lol 的时候用分层控制的方法,还可以把它融合成一个新模型来用。这里我们就需要用到 supermarket 这个插件,你可以在我分享的链接里边下载一个安装包,然后减压复制以后把它放在 限次这个目录下面,然后我们重启 wib ui, 就可以在这个地方找到这个插件了。中文名字叫超级模型融合,我们点开 lora 标签,在下边的 lora 模型中选择我们需要的 lora, 在 lora 名后边加上冒号和我们刚才设置好的权重预设, 点击合并 lora 合成完以后,我们点击下边的更新列表,就能看到我们新融合的 lora 了。好的,本期的视频内容你学会了吗?如果你喜欢本期视频,别忘了给白菜点个三连,我们下期再见。

capsc 又扔出一个网站,开源了仅六百三十行代码的 auto research 框架,让 ai 自己当研究员,一块消费级显卡就能跑。 你只需在 program 到 md 里写清研究方向,比如优化 nanochat 训练效率, ai 就 会自动修改 train 到 pi、 调整层数、学习率、优化器等参数,启动一轮五分钟的训练。实验结束后用 yippo pb 指标打分,越低越好,且与模型大小无关,公平可靠。 改得有效就保留,变差就回滚。重试每五分钟一轮,一小时能跑十多次,人类一天调两三次就累垮它,四十八小时内跑了近两百五十轮,筛出二十九次,真正有效的改进。这些不是微调, 在 rtx 四千零九十上连跑两天, ai 自主提升训练效率百分之十一。比如修复 qk norm 缺失缩放因子,还混搭了 mon 和 adam w 优化器。 要知道这些模型本已被人工调到极限, ai 居然还能挖出新空间。整个系统就三个文件, prepare 定增基础配置。 print 到的 pi 是 ai 的 实验本, program d 是 你的指令书,换方向改个 markdown 就 行。所有有效改动都以 git commit 记录,清晰可追溯。 carpathi 的 野心更大,打破所有研究必须合并到主干的惯性,他设想成千上万个智能体在独立分支探索,通过 getup discussions 互相留言, depths 等于十十 lr 等于三 e 四,效果更好,新智能体读到就能避开老坑。这灵感来自一九九九年的 s e t i at home, 当年网友用闲置电脑找外星信号, 现在他想用全球闲置 gpu 构建分布式 ai 科研网络,每个分支都是虚拟,博士生不求合并,只管积累和分享。发布不到四十八小时, auto research 已获九千五百家星标。 shopify ceo 直呼疯狂,斯坦福伯克利已用作教学案例。这不是调餐工具,而是一场科研范式的转移,从人写代码变成 ai 攒经验。未来真正的突破,或许不再来自天才灵光,而是无数沉默智能体在五分钟一轮的试错中,悄悄拼出答案。

那我们再看看像微调方法相关的这些内容呢?你觉得有哪些重要的参数想要给大家说一说? 嗯,我觉得微调方法,这里首先我想要先介绍一下我们就是三个微调的方法。对,呃,一个是全餐微调,还有一个是我们的冻结某些层对这种 freeze 的 微调方法。还有一个就是现在比较常见的一个低质的一个优化,对,一个高效微调方法 laura。 首先全餐微调的话, 全餐微调,因为它是字面吗?就是全部的参数都会去做更新,它其实从它的一些显存的占用上,资源的利用上都超级高,和我们的域域面其实差没有太大的区别 是,只是说我们的数据可能就跟那个域域面是不太一样的,对,格式场景相关的。然后福瑞斯的话,就是因为咱们全餐微调操的资源太大了, 但我就又不想说,直接跳到下面的一些派特类型的高效微调方法。那中间还有一种方法,就是说我冻结了部分的层次,比较常见的就是说我会冻结倒数的几个层,然后这样子的话,前面的 可能十层之类的是我们模型之前预训练的一些就固定下来了。对,我就不在固定在那里了。对,然后后面的几层呢?就可以去根据新的一些比较具体的场景,我们去调整模型的权重,让模型去只利用后面的层次去做学习, 这样子的话我们的一些对数据量的需求也可以降低一点。对,而且压力相对来说能够肯定比浅层微调是是要好很多了。有没有更优秀的方法呢?那就是下面那个 lora 了,对, lora 的 话就是现在咱们那个 pad 微调的高效微调方法之一,现在是很主流的一个方法, over 的 话,它其实就是利用了一种认知,我们的一些科学界会觉得就是说低智举证的一个空间,它里面这个维度其实是足以去有效的去对,有效的去表达一些新的知识,做一些调整。所以说基于这样子一个思路去 提出了罗尔这个方法。然后罗尔这个方法呢,他和瑞斯不同的是,我们积模型的权重是完整的冻结的,只是说我们在它平行的另外一边,我们先加外挂一个定时器,对,外挂了一个 dcep 器,我给大家解释一下,就是虽然你是差生, 但是呢,你装里都是小小条,对吧?好嘞,你从解题的这个这个解题的结果来看,其实 你其实和那个最优秀的学生之间其实差距不大,为什么呢?因为他虽然记到脑子里的吧,但是你可以拿出一个小条来去做,那么 lara 其实就是大概就是这样的一个外挂的形式去让你去做, 这个是现在业内做微调非常非常主流的一个方法。对对对,而且这个方法有一个特性的话,就是说就像你刚刚比喻的,你兜里有个小超,对吧? laura 的 适配器也有一个很好的点,就是咱在推理的时候,哦,我这个场景我训一个 laura, 第二个场景我再训一个 laura, 我 可以动态的挂在对小超一换,他又很方便的就切换了,对于一些 我是很富裕资源的这种场景下,它是非常好用。我之前其实有有有想做一个这样的一个场景,就是我们基于小模型啊,当然它本身基模是小模型,然后我们在外挂外挂一些低质取证,然后呢,我可能会有多个的来去完成不同的任务,那在这个过程中,我们在实际使用过程中遇到什么样的场景?我们把对应的低质取证挂上去 后,达到一个类似于大模型 mo 里边路由的大概相似的效果,但是完机制完全不一样,对,来去节省资源,在端测呢,尽可能让他对于不同的专业也能够有相对来说好的表现。 那么这个里边我们刚刚已经大概介绍了全餐微调,福瑞斯这样的,就是冻结部分参数微调以及完全外挂 lo 微调,我们可以看到它其实是一个递进关系,对吧?对,第一个呢,我们就是说白了,把你原先学的这些东西我全部再给你梳理一遍,让你重新学习。 第二个呢,相当于我学了可能七门课,然后六门不动,然后我只只去学习数学,我继续精进,他就是古木桶。第三个呢就是干脆我摊牌了,我不学了,对吧?我揣一兜纸条进去,我一样可以考的很好。 所以说这三种微调呢,大家想象一下,其实真正的要是说最好效果的是全碳微调,但是呢最经济实惠并且效果非常棒的是老软,也是我们这次课程里面主要要讲的一个方法。

接下来就是跟优化器比较相关的一些参数。第一个 learning rate, learning rate 它其实就是说控制一下模型,它每一次就是去更新的一个程度,差不多一个, 对,如果再专业一点,那就是咱每次梯度更新的一个步长,大概是我比如说我看那一页书的资料,那这一页书的资料它实际情况中它可能不一定都是正确的,或者说它不一定是跟我们的目标是相吻合的,那可能存在着一些噪音啊之类的东西。 那我们模型不能每一次都是将我们看到的内容都认为是绝对正确的,那些数据他可能比较片面,那我们不能每次更新,直接因为这这几条数据在这我们就一次性往那特别贴,那就会导致学习就会产生一些偏执了。所以说 learning rate 的 存在就会控制我们到底 是信于多少这一步我们要学多少,要去修改多少我们自己的认知。我们来举一个还是刚刚学习的例子,那我们在大学的时候一定会遇到期末考试的时候,往往一两天之内我们要考七八门课,是那 在这七八门课里边,有的时候你就要做取舍,我们明天要考的这个课,我们可能只有一天晚上的复习时间,你是要把一天晚上猛猛的全学这个限行代数呢?还是说今天的四门课全部复习一下这个 learning rate, 确保你不要太偏科,不要因为 前面的知识内容一次性更新,参数更新太狠,容易把原先的一些参数给它毁掉,也就是说导致你原先已经学习好了,我们原先积磨里已经有的知识和内容 破坏掉,接下来还有一个跟 learning rate 相关的,就是它的一个 schedule, 这个就是控制我们,因为训练的过程中,我们这个 learning rate 它不是一成不变的。是的,对,它会在训练的每一个阶段,它可能根据我们自己的一个意愿,它可以去控制它。 比如说其实一般来说大家的习惯是开头还不太熟的时候,能量是先小一点,对,慢慢多试试。对对对,差不多有点感觉了,慢慢的上升到一个可能是最高值峰值,那随着训练的往后的推移,那我们可能需要去做一些,比如说我们一开始是粗的复习,我们会要,后面需要变成细的复习, 我们需要变得更精致一点,那我们这个时候 language 也需要去降低一点,这样我们可以去更加细致的去贴合到咱们最终的一些正确的我们所期望的一些答案上。我,我个人有一个习惯,比如说我要选某一门课,比如说以前咱们那些数据库,还有很多指令,那我会先把那个课件,大体上 感觉需要一些可能会考的一些知识点,我都会做一个复习的一个笔记,但是这个笔记可能最后一个学期下来有二十页,三十页那么长,我考场前我不可能看看完三十页,所以我在复习的过程中我会去做删减。我这是微商万,这微商万前面整理完了,我差不多熟了,我再看第二遍的时候,我会把里面比较熟悉的一些东西,我会踢掉了, 到最后我会精简一点,就不断的去将要复习的笔记去精简到最最容易记混淆的一些对我来说最需要去反复看的一些内容。我反正考试之前会一次性搞好多题回来背,但是背的过程有的时候是因为这个题我背会了,但是你最后到了考试前你还揣到兜里边那个小纸条, 基本上就是你怎么背都背不会。所以他一定是一个慢慢变化的过程,他的本质的作用其实就是为了去调整学习率,能够让他在不同的阶段 更好的利用资源,其实还是一样。接下来就是我们的那个优化器了,比较主流的话就是我们的 adam adam w, 这个优化器基本上是每一个微调的框架都会有支持到,这个 adam w 也是属于咱们小白,非常推荐先用这个优化器,这个里边像优化器的话大概是一个什么样的概念? 优化器主要让我们去控制如何的去更新我们的一个参数,一个梯度,比如说我一开始的知识是这样,然后我看了一波新的知识,让我发现啊,有一些我是需要学习, 我,我可以 limit, 它控制了一个程度深浅,但是 optimizer 的 话就是控制我该学什么,我要去选择去学什么。就像有一些学生他可能数学天然就好,我这个完全不用复习,然后呢?我英语可能其差,那我就要去做一些取舍,去学一些这个具体的,或者说我们就数学来讲,对吧?我可能先天带出很好,但是我概率不太好, 那我可能要去主动去看看概率是那后边那个 i m w 一 般来说是它是什么样的一个机制,或者说它为什么会被 我们直接推荐所有的新手小白先试试这个 i m w 基于 i m 是 做了一些优化的,它将锐和梯度去做了一些结偶,所以说它在模型训练上的话,它的梯度更新的会更加稳定。那我们刚刚其实在这过程中我相信大家又会很困惑,因为有很多新名词,我们来解释第一个名词, 那什么是梯度?什么是梯度爆炸?梯度的话就是现在对于这一个问题,我觉得它的答案是这样的, 我觉得我可能这一道数学题我写了一个解,对,然后呢,实际上我看了一下参考答案,他的解跟我有点出入,那解题的就最后的答案不一样,或者说过程不一样,那最后肯定有点距离嘛?对,所以说呢,七度的话就就是去计算我们 参考答案和我们自己现在基于当前知识我们写出来的一个回答之间的一个距离。我觉得日常生活中有一个更贴近的样子,其实应该是大家常见的,你有一个领导,然后你的领导呢?希望你写一段他将要去发表讲话的内容,然后呢他平常其实自己也写,但是今天让你来写, 他希望你写的这个内容呢,尽可能和他更像,越像越好。以至于最他看到这个文章我应该写的也是这样, 这个就叫,就是这个就属于他的梯度其实是比较小,就说白了就是你在这个学习,你在学习这个领导的风格吗?他写的写内容,这个风格,当你学的越来越像的时候, 你们之间梯度越来越少,但是要防止两个点,一个叫梯度消失,一个叫梯度爆炸,就是你过于像他了,你至于他分不清是你的还是他的,这个是要出问题的,你是要当领导吗?第二个问题呢?梯度消失的问题就是看了以后我感觉这个东西完全没法用,就是完全和领导想要的东西南辕北辙,完全不是一个风格的。 所以这两种其实都是在梯度下降的过程中会有的问题,有的时候炸了,有的时候没了,就是咱刚刚就是聊到了 range 的 曲线一些变化的时候,我们可能会用到的一些参数。这 walmart 的 话就像它的字面意思一样,它是一个预热, 热的话那就是从零开始逐渐的去升温,所以就是我们的 learning rate 可以 去让它从零逐渐的我们可以控制它在多少步以内,或者是说我们比如说我们整个训练过程是百分百,我们可以用一个锐手去控制比例去控制,我们说前百分之十,前百分之五,我们的 learning rate 是 一个从零逐渐增长到我们一个目标的一个 learning rate 值的一个过程。对,这样子的话就能够让模型,因为模型在开头的时候它 他什么都不知道,他一开始见的特别少,都是在试探。对,他可能会因为前面的第一个第二个白痴,然后就产生了就他可能会一下子学太多了,那时候什么都不懂的时候,不能让他学太快,要让他控制一点,所以说前面是小小的,然后后面再逐渐增长到一个,我们觉得他伤重用。所以说沃玛特他其实要 解决的一个问题,其实是你在前期的学学习力过于陡峭是吧?过于陡峭其实不是一个好事,他会迅速的导致模型进入一个逆核的一个状态,那其实表现上就是路子曲线会直接在一个断崖式的崩就下来了,但是这样并没有学的好,或者没有学到什么。