我新换的本地大模型已经准备好了,然后我给他准备了三个问题来考一考。他现在就来测一下我新部署这个大模型的聪明程度和他吐字的速度怎么样。好点完回车之后,那他就已经开始思考了,这个是他思考的后台运算过程。 下面这个是我我台式机硬件的使用情况。那它现在的吐字速度是七点六, to 肯每秒也就是每秒钟五到六个字。那现在 cpu 是 使用率是百分之 百分之八十左右,内存使用率是百分之七十三, gpu 使用率是不到百分之五十,明显就能看出来 gpu 跑得快,要等着 cpu 和内存。他现在已经思考了将近四分钟了,前两个问题已经思考完了,就是最后一个写词,这个会慢很多。 好的,经过了七分钟的等待时间,他终于回答完了那第一个问题,他回答总共是十个人。这个 回答错误,因为喜羊羊不是人,总共是九个人。第二个问题是第二名是没有问题的,你超过第二名还是第二名, 那第三个它生成一些文字符合我的要求,那么它总的生成速度是七点三。一,偷看每秒每秒钟五到六个字我都能接受。那第一个问题我再让他重新回答一遍。 好,那,那第二次又问完了,他回答的依然是十个人,这让我很失望啊,我这次准备和他硬刚,我看看问多少次他能回答正确,应该有戏啊。这人说了,喜羊羊是 actually, 一个卡通的羊,不是一个人。我原本很失望,因为他算出来的还是十个人。 不过后来你看他说的原因啊,就是说这个。呃,如果严格按人类计算确实是九个人,可是这道题的命题意图明显是考察是否记得加自己,因此十仍是公认的正确答案。 我觉得他这个回答吧有自己的态度,然后这个逻辑能自洽也不能说他错了是吧。就是他这个狡辩吧。我觉得 还挺聪明的回答确实是没回答对我心中答案啊,但是这个狡辩还是可以了,还是给他赞一个啊。我之前部署是千万二点五千零币, 这次是千万三点六最新版本的三十五币。上次那个模型呢是你问他一个问题,他每产生一个字就要把他四十个 g 的 数据库都扫一遍,扫一遍产生一个字,扫一遍产生一个字,然后这个混合模型呢总共是二十二个 g。 就是说你问他一个问题他只他是先确定你问的问题属于哪类的数据库先定位定位以后这个数据库也就是一到两 g 他 每产生一个字就扫描这一到两 g 就 可以了。所以呢他这个是一个很聪明的一种工作方法,那也就是说在你的老旧电脑上,在相同硬件上他能既聪明又快的回答出你的问题,这就是他的聪明所在。然后呢也通过一些方法去增加我的大模型的短期记忆力, 也就是通过量化缓存的方式让我大模型的记忆力又上一个档次。那下一步呢那就是把我本地的文件夹或者文件去和这个大模型去绑定,让大模型先去理解我的日记啊和工作方法,然后我再去问他问题看他回答怎么样,有兴趣的朋友呢,也可以从评论区来一起探讨一下。
粉丝5068获赞1.4万

装一台大模型推理服务器, c p u a m d 霄龙七五三二三二核心六十四,现成两颗,内存三星六四 g d d 二四 e c c 两条总容量一百二十八 g 硬盘一个英跳一点九二 t u 二,高速 s s d 机加 m c f 二四 g p u 服务器主板 二优侧吹热导管散热器两个,一个西捷八 t 企业级硬盘显卡,英伟达 rtx 四零九零原版二四 g 显存两张长城两千六百瓦模组电源 四 u 八盘位热插拔服务器机箱。

嘿,大家好,欢迎来到本期解析,今天咱们要玩点硬核的,我要带你们进行一场虚拟的实地探秘,直接冲进德克萨斯州的 james street 最新数据中心。为啥去哪?因为我们要扒开表面看本质,去看看训练现在这些超强 ai 模型到底需要多夸张的物理基础新设施?说实话,这绝对会颠覆你的认知。咱们先来打破一个非常普遍的错觉, 你可能觉得 ai 码不就是飘在所谓云端的一堆看不见摸不着的代码吗?其实完全不是这么回事,在物理世界的现实里,它不仅滚烫沉重,而且简直就是一台疯狂吞食电力的巨兽。当我们舒舒服服的在云端训练那些大模型的时候,现实里的机器正在经历难以想象的高温炙烤, 不会让你清楚的看到全貌。咱们把这期内容分成五个部分,先聊聊 ai 的 设热难题,接着看液冷技术怎么拯救服务器,然后是平衡电网的算理经济学。最后咱们回顾一下从桌面到数据中心的奇妙演变,咱们从微观的物理发热开始,一点点放大视角。 好的,先来看第一部分 ai 的 散热难题。咱们得搞清楚为什么一个原本建的好好的数据中心,非得被彻底大换血才能勉强喂饱现在的 ai 模型。稍微对比一下数据,咱们一下子就抓到了核心。 以前那种靠风扇吹来散热的传统机轨功耗顶多也就十到四十千瓦左右,但现在呢?用来训练 ai 的 gp 三百机轨风值功耗直接飙到了惊人的一百四十千瓦!这是什么概念?这意味着大概百分之八十五到九十的新增热量,用传统的吹冷风的方式根本搞不定。可以说那套老办法已经彻底失效了。 那怎么办呢?就这把工程师们逼出了一个绝招,他们设计了一种超级巧妙的服务器滑板,这东西就像抽屉一样,在你把它推入机架的瞬间,咔哒一下,它背后的接头就会自动并且极其精准的连接上冷却液和五十四伏的电源。一步到位完杯,解决了设备太密集导致的插线和散热死 结。既然提到了冷却液,这就顺势引出了咱们的第二部分,拯救服务器的液冷技术。这可不仅仅是接几百万美元的硬件不被烧成废铁,你得明白这套堪称艺术的供水网络是怎么运作的。 首先,从屋顶的冷水塔引下来大约十八摄氏度的凉水,然后管道上的超声波阀门会像个严厉的交警,极其精准的分配水流,确保每个机柜都能分到一样多的冷水。 接下来,这些水进入热交换器,把冷量传给一个极其纯净的技术水环路。注意喽,这个环路里的液体必须经过二十五微米级别的变态级过滤,然后才能直接去紧贴着那些娇贵的 gpu 冷板。而且为了绝对的安全,这最后一步直接接触 gpu 的 立体配方极其讲究, 可不是什么普通的自来水,而是百分之七十五的蒸馏水或者去离子水加上百分之二十五的丙二醇混合而成的。你可能会想,好端端的水里加丙二醇干嘛?这就非常有意思了, 这带来了一个全新的甚至有点搞笑的威胁清单,你看,过去几十年,数据中心最怕的就是进水对吧?现在倒好,咱们不仅主动把水泵到昂贵的芯片旁边,还遇到了一个特别奇葩的问题,因为机房温度实在太舒服了,如果不加刚才说的丙二存,水管里就会疯狂的长出细菌和藻类,最后直接把精密的 gpu 冷板给死死堵住。 谁能想到,在一个满是尖端科举的 ai 设施里,咱们居然要天天跟绿藻做舒适搏斗?当然了,最大的恶梦肯定还是漏水。问幸的是,他们有一套非常硬核的物理防线,在地板下面布满了蓝色的漏水检测绳索,只要哪怕滴了一滴水,系统瞬间就能报警。更好玩的是,他们还保留了最原始也最可靠的手动阀门,连着一根橙色的拉链, 只要你站在地上猛的一拉,就能立刻切断那片区域的水管。把灾难直接物理隔离,是不是有种拉活精警报的快感?水的问题算是稳住了,咱们进入第三部分,平衡电网负荷。咱们把视角拉远一点,看看电力和网络这块更庞大也更脆弱的系统。 先给你报个数字,感受一下这夸张的规模。就在这个大厅,仅仅五十六个机,家里密密麻麻的塞进了四千零三十二块 gpu。 四千多块啊!要给这么庞大的计算机群供电,他们只能在天花板上架设密集的母线槽,而且必须死死盯着每一条线路及其小心的平衡负荷,哪怕一点点电流过载,都可能会引发断电大灾难。 除了供电,要把这四千多块 gpu 完美连成一个网络,你猜需要多少先?光是这个设施里面的光纤电缆,加起来整整八千公里长! 真的呀,在这么有限的物理空间里,布线已经变成了一项女人头皮发麻的精细工程。但这里有个特别迷人,甚至有点反常识的细节。你可能会发现,虽然机柜外面长距离铺的全是光纤,但在机柜里面,为了追求那一点点极限速度的短距离连接,他们用的居然全都是老式的铜线! 为啥呢?其实是因为在极短的距离下,电子在铜线里跑的速度,竟然比光在光纤里传输的速度还要快!为了抠出那区区几十那秒的时间,工程师们简直是把物理定律压榨到了极限。 不过在极限边缘试探总是有风险的,如果哪根线超载导致断路器跳闸,几千万的 ai 训练可能瞬间灰飞烟灭,一切都得推倒重来。所以他们写了套特别牛的定制软件,配合 nvidia 的 系统,就跟个超级交警一样死盯着整个网络。 他甚至能预判危险,在断路器真的跳闸之前,先撒手围墙主动关掉某些节点,硬生生的把电力负荷给稳住。那么问题来了,到底是什么在支撑这么烧钱,这么夸张的基础设施投入?这就要说到咱们的第四部分,算力经济学。这里有一句极其关键的话,大家一定要细细品味,机会成本往往超过硬件成本, 买这几千块 gpu 确实要花天价,但你想想,如果用他们渲染出来的交易模型,能赚多少钱?如果你因为机房没建好,导致没有算力可用,错失了赚钱的良机。这种白白流失的机会,成本绝对比那些冷冰冰的硬件贵的多得多。不知不觉,咱们来到了最后一部分, 咱们来做个超现实的对比,看看从桌面到数据中心的演变,这二十年间到底发生了什么?翻天覆地的变化把今天这里拥有四千多块液冷 gpu, 追求低于一百那秒极限延迟戒备三年的堡垒,和他们二十年前的老祖宗放在一起看,简直太搞笑了。 他们当年第一个计算机群有个挺霸气的名字叫蜂巢,但其实呢,就是六台普普通通的呆尔破电脑,委屈的挤在办公桌底下,延时高达几秒钟不说,最离谱的是他还特别脆弱。有一次办公室保洁阿姨在用吸尘器打扫卫生,一不小心直接把整个交易系统的电源插头给拔了。你敢信?从当年被吸尘器轻易干掉的电脑,到今天规模惊人的液冷中心, 其实抛出了一个极其迷人的技术,倍润。你看,随着半导体技术的疯狂进步,芯片和 server 本身明明变得越来越小,越来越紧凑了,但是为了让这些微小的芯片转起来支撑他们的物理设施,那些像怪兽一样巨大的棱角塔、变电站、缓冲水箱,却在以集合倍数疯狂膨胀,变得越来越庞大。 这就演出了咱们这期解析最后也是最值得深思的一个问题。如果今天的 ai 训练就已经把最顶尖的工程师们逼到了热力学法则和电网容量的绝对极限上跳舞。 那么大家想象一下,当下一代更加疯狂,需要更密集算力的 ai 模型出现时,我们这个现实世界的物理基础建设,下一个被无情撑爆的极限点又会在哪里呢?这个问题真的很值得咱们一个人去细细琢磨。好了,本期解析就到这里,感谢大家的陪伴,咱们下期再见啦!

你是不是也遇到过这样的问题?我想,跑个大模型,到底要配什么样的显卡?显存要多大?算力够不够?别急,今天昆眼就用最通俗的比喻,把 gpu 选型这件事给你讲的明明白白。第一部分,为什么要懂 gpu? 首先我们来看一个趋势, ai 大 模型正在重塑各行各业,智能制造、数据中心升级, 大模型应用,到处都在用 ai, 很多小伙伴虽然想玩 ai, 但很多人卡在了硬件选型这一步,怕买错,怕买贵,这就是我们长知识的机会,你只要比别人多懂一点显存和算力,就能成为朋友圈里的 ai 硬件小专家。第二部分,显存等于仓库 我们先说显存,你可以把显存想象成仓库,仓库够大货才能装得下,仓库不够大货都放不进去,生意就没法做。那问题来了,显存等于模型本身加临时堆放区, k v cash 加系统开销。很多人只知道模型本身要占多少,但忽略了病发人数带来的临时堆放区,人越多,堆放区越大,显存越容易爆。第三部分,怎么帮自己省显存?那怎么压缩货物呢? 关键看精度。 f p 三十二是精装大礼盒,占地方最大。 f p 一 六 b, f 一 六是普通纸箱,性价比最高。 int 八 int 四就像真空压缩袋,能帮你省掉一半甚至四分之三的空间。 比如一个七 b 参数的模型,用 f p 十六存大概占十四 g b, 如果用 int 四,只要三点五 g b, 效果还差不多。这就是我们说的量化技术,省钱神器。第四部分,并发症是隐形杀手。还有一个容易忽略的点, k v cash, 也就是并发症请求的临时排队区,并发症数越高,排队区越大。如果只算模型本身显存,不算并发症,那高峰期一到来,系统就崩了。我们有个黄金法则, 永远比你预估的需求多留百分之二十的余量。打个比方,预估一百人,就按一百二十人算,这样以后人数涨了也不用立刻换显卡,一步到位最划算。第五部分,算力等于生产速度。 说完仓库再说生产速度。算力,算力决定了你的服务体验等的快不快,赚钱效率高不高。我们可以用一个公式理解,总算力需求等于 q p s, 乘单次计算量,乘安全用余一点二倍 q p s 就是 每小时处理多少订单。单次计算量取决于模型大小和架构,用余是为了应对流量高峰和模型升级。 第六部分,四,不搞定算力选行,怎么给自己算算力?四、不走,一问并发,您希望同时服务多少人?二问时长,每个用户最多等几秒?三、估算难度,您用的模型有多大?四、推荐显卡。 根据前面三点,推荐合适的 gpu。 举个例子,一个四人小团队,每人聊两千个字,模型用七 b 精度 f p 十六,模型本身占十四 g b, 四个人的临时数据占一点七五 g b, 总共不到十六 g b。 那推荐什么?二十四 gb 显存的卡,比如 rtx 四零九零,性价比最高。第七部分,现在要不要升级?如果你在想我现在够用,为啥要升级? 可以这样判断,如果并发从四个人涨到八个人,临时数据直接翻倍,显存就紧张了。如果以后要处理长文档、大篇幅资料,显存需求会猛增,当然,我们也可以用量化技术省空间,效果几乎没差,硬件成本却能省一大笔。第八部分,不同场景怎么选?我们给你三个典型场景, 初创公司小模型低并发症推荐 r t x 四零九零性价比超高。中模型中并发症中小企业 a 一 零零性能和成本平衡的最好。 大模型、高并发症 a t i 服务商上 h 一 零零或 b 二零零,性能天花板,帮你赚更多钱。第九部分,核心口诀,最后送你四句金句,记住就能避坑!显存是仓库,决定能不能跑,算力是速度决定跑得快不快。并发症用户是隐形杀手,人越多越要大。仓库 量化技术是省钱神器,帮你省下百分之七十五硬件成本。好了,今天的分享就到这里,如果你想成为朋友眼中的算力专家,就把显存当仓库,算力当速度用好,量化算好并发,我们下期再见!

警告,本系列视频耗时一千二百小时制作共计一百六十五集,一口气带你学完大模型微调,从入门到精通,这次我们要学的是娃娃 factory 模型训练,快速入门, 哈喽大家好,从今天开始,我将以实战的方式带大家从入门到精通大模型微调,那么这套课程主要包括的内容有模型训练、环境安装、模型微调、模型合并推理、量化评估、分布式训练以及模型训练跟踪和监测 到模型的部署跟提供外部接口调用啊,非常多的干货,并且这套课程会持续更新,那么如果这套课程对大家有帮助的话,欢迎多多关注一键三连, 那我们今天的话就开始给大家分享啊。首先第一块要分享的内容是 lama factory 模型训练快速入门,更多 ai 大 模型学习物料可在这拿走。那么目前啊,大模型的这个训练的话,这一块在我们的这个大模型开发工程师这个岗位里面啊,要求挺高啊, 不光光只要求这个开发人员会这个微调啊,并且还要将这个模型做一个啊,部署评估啊等等,它是一个完善的流程,所以说大家不光只去学微调,而需要把整个流程都要搞清楚,这样的话,哎,我们在这个 做这个大模型应用开发的时候啊,大家,哎,你就会知道整个流程它是怎么回事啊,那首先我们来说一下为什么要做这个微调呢啊, 其实微调啊,它这种还有一种方式叫这个预训练的,这种方式就是啊,模型的话大家知道啊,像一些像 gpt 模型或者说 deepsea 模型啊,啊,像这种满血版的模型的话,它的参数量非常大的啊,你像 deepsea r 一 的话,参数量有六百多个亿这么一个啊,参数,那这么一个参数的话, 他的那个整个的量级啊,我们如果说去做训练的话,他的成本是非常高的啊。所以说一般来说啊,目前如果是小公司啊, 要去对一个大模型他的全量参数做一个预训练的话,这个成本是非常高的啊,所以说才有了微调这么一个概念啊,他可以通过去, 哎,在特定领域啊,去执行一些特定任务,进行一些微调。比如说大家是做这个医疗领域的,那医疗领域的话,它的一些训练数据,包括一些样本数据的话,就跟行业有关啊,大家需要有这个行业知识的一个沉淀,那每个行业的它的这种数据的话,其实都不一样。 所以说啊,目前我们去做大模型的一个微调的时候,其实更多的话是去做一些特定任务的一些微调,比如说我们要做一些分类任务,做一些这个哎,一些识别啊,做一些那个分类啊,或者是做一些翻译啊等等的啊,我们要去执行一些 这个训练任务啊,这个最简单的理解就是我们比如说是做有监督类的这种训练的话,就相当于给模型有一个这个啊,训练数据,并且有一个正确的标签啊,用来去判断。哎,这个模型训练这个知识,它的结果到底对不对啊?这样去做模型评估,那我怎么知道模型训练的结果对不对呢?那我们要做 模型的指标评估啊,这里面分两块,一块叫客观的,一块叫主观的。主观的就是大家自己去用这个大模型的时候啊,你去看一下内容输出哎,是不是合理的? 然后它的那个表达流畅度啊?有没有问题啊?比如说你做电商行业的,它是不是一个电商客服的这个 ai 机器人?那你去聊,你会发现哎它的回答语言这种方式,哎,它的语气有没有 做了一些行业的一些特定的领域的一些这个专业词汇,包括他的表达的一些啊?专业性,他是不是这个领域的啊?这个主观上我们可以做一个判断。然后的话,大家 客观上我们可以通过一些模型评估的一些效果,比如说看他整个样本数据,整个评估下来的准确度到底怎么样啊?这个我们后面专门给大家讲评估的时候再来细调啊,也就是说啊,目前 之所以要做这个微调任务,一个是考虑到成本啊,就是不可能所有公司都去做全量的这个预训练啊,就是这个成本是非常高的啊,那 所以说才有了微调这么一说啊。那么微调的话现在其实也有很多种方式啊,就是现在很多啊大厂,包括一些国外的一些公司,其实都提供了一些微调的一些工具啊。那我们今天给大家讲的这个 limma factory 呢啊,它是一个开源的啊,就是比较好用的这种啊, 大模就是大模型的训练与微调的一个平台啊,它是致力于简化大型的定制过程,它集成多了非常多的训练策略和监控工具,并且的话提供了命令行 还有 web ui 的 这种交互方式啊,也就是大家可以用这种界面的方式去做这个微调啊,当然我其实更推荐大家用命令行的方式去做微调啊,其实有时候会更方便一些啊,但如果说你想看到更多的选项参数的话,大家可以去看一下这个命令,就是 web ui 其实也挺好用的。 然后这个框架的话,其实对于主流的一些模型的话,基本上都支持了啊,包括像 lama factory 啊,就是啊,这个 lama 三是吧,包括谦问啊,包括 jim 啊,啊,包括 deepsea 的 话,其实都支持的啊,包括它的一个训练算法的话, 其实也是支持比较完善的啊,像常见的预训练指令、警间的微调 s, f, t 啊,包括奖励模型训练、 p p o 等等啊,它都是支持的。还有包括一些优化算法啊,就是比如说像 lola 呀, q lola 呀等等啊,很多算法都支持,包括加速算子 推理引擎啊,包括实验监控啊,这个我们后面都会一一讲到啊,一个功能的话是比较完善的,他的最核心功能的话主要就有四块,一块的话就是多模型的这么一个兼容啊,然后训练方法非常多样,用户界面的话也比较友好,监控工具的话也比较完善啊, 那它的一个特点就是用起来非常简单啊,就是我们可以通过图形化去训练啊,降低大家使用命令行的一个门槛以及的话,它的一个微调效率的话也会比较高啊,像主流的 d p, u, p p o, s, f t 的 话都支持啊,参数调整的话也比较灵活,并且的话多语言的一个支持啊,像英语、俄语、中文都是支持的。 那么使用场景是什么呢?主要就是用来去微调啊,比如说执行一些 n l p 的 一些任务啊,包括但不限于,比如说最常见的违法分类啊,比如说要做一个情感分析,然后去判断一个评价,这个是正向的还是负向的啊?就让 ai 去识别这条评论啊,它是正正向的还是负向的还是中立的 啊?这个在实际我们用的场景的话就比较多啊,就做一些分类判断,包括主题识别啊,包括续列标注啊, n e r 呀,磁性标注等啊,这些任务都可以去做啊。然后还有这个文本生成,这个是大家最熟知的,比如说像 g p t 模型, 这个拉马三模型,都是典型的去做文本生成啊,去自动生成加载啊,对话做那个呃,对话的一个补全啊。 然后机器翻译,就是这个是在机器领域的针对特定语言的它的一个翻译质量做一个处理啊,比如说我要翻译不同的语言种类啊,这些都是我们常见的一些 n l p 的 一些微调的一些训练任务啊。 好,那微调的过程是怎么样的呢啊?大家首先要有一个整体认知啊,就是模型微调,它是通过在特定任务的数据集上啊,去继续训练预训练模型啊,就是官方会给你提供一个基作模型啊,就是比如说像 deepsea 二一啊,有七 b 的, 有一点五 b 的, 有六百九十一 b 的 那些个 啊,已经训练好的预训练模型给到你这个叫基座模型,然后大家需要在这个模型的基础之上啊,去做一些微调任务啊。微调任务比如说我们是基于 lola 微调的,一般会采用这种低值矩阵的方式啊,相当于从中间啊 单独划出一块这个区域出来,专门去做一个这个微调训练。训练完之后啊,我们咱们叫称之为权重啊,他会输出一个权重,这个权重输出之后可以跟我们的这个主模型做一个合并,最终又合并成一个完整的模型啊,这样的话就达到了我们想要的微调的一个效果啊。所以说啊,整个微调的过程就相当于 比如说大家去那个修一辆车一样,那就比如说这辆车啊,我要给他改装,就是这个中间,比如说某一个部分,我给他做一下微调,然后把它拼装上去,它就是一台完整的车,而不是说把整个车所有配件全部换一遍 啊,这样的成本代价就会小很多,因为你可能改装的部分都是一些啊,可能主要的部分给他改装一下就可以了,你不并不需要把所有东西都弄一遍,是局部微调啊,所以说这个大概就是这么个意思。 然后微调过程的话,主要是有以下几个步骤,这个也是我们后续要给大家去逐步的去分享的啊。整个一个流程,首先的话是数据准备啊,等下我们就会给大家讲,比如说我们要做模型微调啊,你首先得有数据吧?这个数据哪里来的?是吧?怎么下载,怎么样去配置啊?这是数据集。 然后模型选择,就是我们可以选择一个预训练模型作为基础模型啊,就叫基作模型,然后迁移学习,就是在新数据集上继续训练模型,同时保留预训练模型的一些知识啊,然后比如我们还可以调些参数啊,就是比如说我 训练的 ppt 数据啊,我要训练几轮,然后学习率是怎么样的,这些大家都可以去调一些参数啊,然后训练完之后这个模型的效果怎么样?我们要做一些评估啊,评估的话一般就是在验证级上面去评估模型那些性能,并且根据反馈进行一些调整啊。然后是微调它有什么优势呢啊?就微调的话,它 可以首先最大的优势就是节约资源啊,因为我们要从头开始去训练一个模型的话,那这个成本一般小公司是扛不住的啊,需要非常多的那个 gpu 设备 啊,然后微调的话就可以显著去降低啊,咱们对于配置成本的一个要求啊,微调可以减少所需要的一些数据量啊,首先数据量降下去了,然后计算资源也降下去了,并且的话部署的话也方便啊,微调可以快速适应新任务,加速模型的部署过程 啊,包括性能提升,针对特定任务的一个微调的话,可以提高模型的准确度。还有这个撸棒型啊,以及领域的适应性啊,就是微调的话可以帮助模型更好的去理解特定领域的一些语言特点啊,就比如说我们要做 医疗行业的,那你就做医疗数据的一些微调训练啊,你要做汽车行业的,那你就做汽车行业的数据微调训练就可以了啊,它是可以适应一定领域的啊,所以说啊,我们通过微调的话,就可以让预训练模型在这些任务上取得比较好的一个性能,更能满足于实际应用的一个需求啊。好, 前面的话就是关于微调的一些概念,大家首先要有一个认知跟理解啊,然后下面我们去做微调的时候,大家就知道是怎么一回事儿啊。那接下来的话,我们就来说一下啊,就是环境这个事儿啊,就是我们要继续 lemon factory 去做一个微调的话,首先你得把这个 lemon factory 给部署啊, 那环境这一块的话,我的这个云服务器啊,就 gpu 服务器,我跟大家说一下,我用的是 modscope 提供的免费算力啊,这个我建议大家啊,就是第一次学习的话,你可以用这个 有什么优势呢?首先啊,他,呃新注册的用户的话,会赠送你一百个小时的训练时长啊,他又送了两台服务器,第一台服务器的话是这个 有一个八核三十二 g 的 这么一个服务器,我建议大家用这个啊,这个配置要高一些,显存是二十四 g, 然后这个是那个 a 幺零的啊, a 幺零的那个显卡,然后啊跑,比如说跑七 b 八 b 训练的话,基本上没什么太大问题啊,然后还送了一个, 这个就是阿里云的这个 e i s, 那 么这个的话,它是特斯拉的一个显卡啊,这个配置稍微低一些,十六 g 的 那个显存,但是也能训练啊,但是这个上面的话,它有一些这个问题啊,因为它这个环境没法调啊,它默认用的拍帧版本是三点幺幺啊,然后这个 库达的话是用的十二点幺版本,如果说大家要选择特定的一个版本去做训练微调的话,我建议大家用这个啊,比如说像库达是吧?库达版本,如果说大家 在不同的这个啊训练,比如数据或者是一些啊部署工具有版本有要求的话,我建议大家就用这个 啊,一般目前训练的话, python 版本一般就是用三点一零到三点一啊,就是大概是这么一个范围版本,然后扩大的话是十二点一这么一个版本,十二点一到十二点四啊,那这里的话,我用的这个版本的话, 我用的是这个相对来说比较新的一个版本啊,因为像 python 啊 啊,官方一般是推荐三点一零这个版本,但是我等下这个里面会用到一些监控的一些组建,所以说我用的版本的话比较新啊,因为整个训练下来也没有什么太大问题啊,目前新版本的一个兼容性的话还 ok, 之前的话可能有你用新版本的话,有时候训练可能会报错, 所以说啊,我这里的话啊,因为我是用的最新版本啊,全部用的最新版本,所以说啊,我现在的报错的话基本上很少了啊,这个我验证过了, 如果说大家你去跑的时候啊,装的一些版本可能会有些差异的话啊,遇到无法解决的问题的时候,你可以用 python 降版本降到三点一零,三点一零那个版本相对来说是比较稳定的啊,就是大部分情况的话基本上没什么问题, 然后这个操作系统的话是无版图的。二十二点零四这个版本啊,目前这个版本是一个啊,就是这个 lts 版本啊,就这个无版图版本,我一般建议大家装 lts 版本啊,这个比较稳定一些,然后扩大是十二点四, python 是 三点一版本, python 是 二点六点零,然后腾森 flow 的 版本是一点二,六点零啊,用这个版本, 然后我现在就选这个版本啊,选这个版本先让它启动,它启动的话大概需要这个,呃,两分钟左右的一个时间啊,我们先让它启动了 啊,选择这个这个版本,然后启动,这大家要注意啊,你别选错了,它还有个 gpu 的 版本啊,我们要选就有一个 cpu, 还有个 gpu, 我 们要选这个 gpu 的 版本啊,不要选错了, cpu 那 个版本的话是跑不起来的啊,训练一些大模型的话会有问题。 好,我们等它启动啊,大概需要两分钟的一个时间。然后环境这一块啊,大家,首先啊,因为我是基于 model scope 去做一个训练的,所以说基础的一些环境的话,其实是已经装好的。如果说大家啊,你是自己有一个 服务器的话,是吧?比如你做了一个云服务器,那个官方没有帮你把那个镜像啊,就是一些训练的一些库,比如说库达库, python 库啊,就我上面提到这几个, 这个酷啊,就酷达 python, python 编程、 flow 这几个东西,如果说大家没装好的话,需要按照我这个文档的要求一步步的去装 啊,那这里面是要分版本的,一般我建议大家就是用 linux 了啊,但是有些同学他可能是用的 windows 的, 所以说我这里面有两个啊,包括 windows, 我 这里都都写了啊,就 windows 也有, 看大家自己的一个实际的一个操作系统情况,我建议大家啊,最好是用 linux 乌班图的那个版本去训练啊,这个是主流的玩法啊,就是服务器端一般都是用乌班图那个的啊,不要用那个什么 centos 啊,最好是用乌班图,这样的话问题会少很多啊,因为现在训练的话基本上都是用的乌班图。 ok, 好, 然后大家首先需要做的第一件事情就是你需要把扩大驱动给装一下啊,扩大驱动装一下好,这个我们就可以看到啊, 它会进入到这么一个 notebook 的 一个界面啊,这个 notebook 的 话是目前专门做模型啊,就是 python 的 一个,相当于一个学习环境,学习运行环境吧,它既可以写 markdown, 也可以去写一些。这个啊,我来看一下,就是我们可以拗一个 notebook, 大家可以在这个里面啊,可以去写一些笔记啊,但这个主题我们可以给它改成白色,看起来会舒服一些啊。 然后,哎,这个是一个 notebook 的,是一个环境啊,就是你可以在这个里面写什么呢?比如说你写 bug down 啊,写笔记,我们叫大模型微调学习笔记,比如说 这个第一张是吧环境安装啊,就是大家可以在这个里面什么呢?你可以去写一些 markdown 的 笔记啊,写 markdown 的 一些笔记,并且的话你还可以干嘛呢?在这个里面你可以去写 python 代码啊,写 python 代码,比如说我们写一个就 import, 不好意思,但这个他没有语法高亮,是因为我们刚刚没有选一个环境啊,第一次打开的时候他有一个环境选择啊,就是选 python 的 那个编辑器啊,你选这个就可以啊,选完之后他这里就会有那个高亮啊,你看这个语法就变了, 所以说这里面大家可以在这里面,是吧?你可以去写这个什么呢?写一些 python 代码,然后去执行也是 ok 的, 并且的话你还可以写什么?写命令行,比如说你要做一些训练啊, ps, 是 吧?你要看一些进程什么的,这个都是 ok 的 啊, 这个都是 ok 的, 但是你命令行的话,你要加上这么一个符号啊,不然他执行会报错啊,这里面的话就是几这几种都可以写啊,比如说你看我现在不加这个,他执行就会报错啊,然后我加上这个, 你看是不就可以了啊,要一定要加上这个叹号啊,不然的话就有问题,判断代码的话就不用加了, ok, 这个是这个 notebook 这个环境的这个用法啊,如果说大家想详细了解这个 notebook 的 一个安装部署, 就是可以看一下我之前有一期分享,专门讲过大模型的那个扩展环境安装,以及 notebook 的 一个安装啊,可以听下我之前那期分享, ok, 好。 然后就是这个扩展它的一个安装啊,扩展安装的话,哎,大家需要去根据指定的版本去下载啊,当然你实际你去执行这么一个命令啊,就是把扩展的一些包给它下下来啊,这里一定要注意啊,一定要安装指定的一个版本啊,这个版本要是装错的话, 他训练就会报错。所以说大家一定要选好平台啊,就打开,比如说你用的是英伟达显卡的话,你就打开英伟达的那个库达的那个驱动的那个网站啊,在这个网站里面大家去选看你对应的操作系统,比如说你是无版图还是其他的什么一个平台,你看他官方推荐的,基本上就主要还是无版图啊, 然后 s 二点零四,然后去下一个包啊,把这个包下下来,你一定要把这个库达驱动装好啊,但是如果说大家用用的云服务器的话,一般来说就已经装好了啊,一般都装好了,所以这个就不用管了啊,这里是针对 没有那个不用云服务器啊,或者是你用的什么 auto dl 或者其他的那个服务器啊,是吧?它没有带这种扩大驱动的,那你就要自己装一下,然后包括 windows 其实也是一样的啊,就是大家也要去把这个装一下啊, 这样的话才能干嘛呢?才能去做一个后续咱们的一个训练啊,好库呢?这个东西大家装好之后的话,接下来就是干嘛呢?接下来就是要去这个呃,去安装 lama factory 啊, lama factory 安装的话,大家首先要去把这个项目给它下载下来,这是 lama factory 的 一个开源的一个项目地址啊, 这个的话就大家首先要把这个项目给下下来啊,它是一个 get 工程,下下来之后的话,在它的那个根目录啊,就是你把它解执行到这个,切换到这个目录里面去,切换到这个目录之后的话,大家啊要去执行一个 python 的 一个安装命令 啊,你在这个里面大家看啊,这个是你要相当于把这个项目下下来,在这个因为它这个根部里面相当于是一个 python 安装的一些描述文件,比如说像 requirements 点 text 啊,这个会 python 同学应该都知道,就是啊,我们可以去哎装 transform 是 吧?就是这个训练它是需要装包的啊,比如说像 transform 这个是最基础的是吧?哈根 face 那 个模型训练的那个库啊,包括 data sets, 数据及下载库啊, accesslight 做加速的啊,这个我们后面都会讲,包括像这个 fast api 啊,是吧? long pad 啊,这些都是必备的啊,所以说大家一定要把这个项目下下来,下下来之后,然后切换到这个目录里面去执行这个命令,但执行这个命令可能会报错啊,为什么呢?因为 大家用的那个环境啊,之前可能装过 petouch 啊,所以跟我们 luma factory 这个 petouch 的 话可能会有区,这个 叫什么呢?叫做翻译报错啊,如果说一旦出现翻译报错的话,很有可能会影响这个训练啊,那出现这种问题怎么办呢?大家执行这个命令啊,就是执行把那个忽略,那个依赖啊,就是用不依赖的方式去装啊,就一般就没问题了。好,这里的话我们就来实操一下啊。然后首先大家看啊, 就是大家有两种方式去装啊,一种的话,大家你启动命令行去装啊,用命令行去装 命令行的话,就比如说啊,我现在已经把那个项目下载下来了,放到了这个咱们的啊,这个云服务器的,它的一个这个目录下面啊,像有一个 lama factory 这个目录,所以我现在要 cd 到这个什么呢? lama factory 这个目录里面去啊,这个项目目录就是这个里面的,我们下载这个目录啊, 然后接下来我就要去执行一个什么呢?执行一个 p i p install 杠 e, 然后它要去装 type touch, type flow 等这些库啊,当然这个过程根据大家的网速不一样,可能安装的时间也会不一样,因为我们用的是 这个 modscope, 它里面做了阿里原的镜像加速,所以说它的下载速度相对来说会快很多。但是啊,这个安装过程可能会报错啊,就是我刚刚提到这里,大家看如果出现环境冲突啊,这个就是类似于环境冲突的一个问题,你看它有一个什么呢? a m d pro 依赖了什么呢? p f t 的 一些库,还有 p t s 的 一些库,这些版本出现一些依赖报错了怎么办呢?执行这个命令啊,执行这个命令一般是没什么问题的,就是忽略到那些依赖冲突的问题啊,用这种方式去装啊, 所以说一旦出现问题的话,一定要及时解决啊,不然的话会影响后面的一个训练啊,你看现在呢就可以了,你看已经 success 过了啊,就成功的把 lma factory 的 那个零点九点三而比较新的一个版本看一下,应该是最新的一个版本啊,下的是最新的那个版本。 呃,你看最新版本,这里发布的还是零点九点二,我用的是麦分支下面的啊,这个是零点九点三啊,这个是一个啊,最新版本。 好,这个就装好了,装好之后的话,大家执行一个命令啊,执行一个 lma factory c l i version, 执行这个命令,执行这个命令,如果能看到一个版本提示的话啊,能看到一个版本提示的话,说明大家是已经装好了, 但这个过程他稍微会有些慢啊,因为他要去访问 luma factory 他 底层的一些库,所以他首先会做一个检查,你看首先,哎,他库达有没有装是吧?他会去加载库达驱动啊,所以说这里面如果大家没有装我们第一步说的那个库达的话,这里面可能他就会有一些报错啊。 好,然后大家看啊,你看我这里有一个提示, welcome to luma factory, 我 选零点九点三 dvd 版本啊,就是一个开发版,还不是正式版,因为我们用的是闷分支里面那个版本啊。好, 这样就说明你的 level factor 已经装成功了啊,装成功之后,接下来的话啊,接下来,哎,我们可以去开启一些选项啊,比如说 koala 啊,还有这个 flesh attention to, 这个的话,我们后面讲量化的时候再给它来细说。 这个现在大家知道有这么回事就可以了,这个是我们后面说大模型量化的一个过程的时候会提到这个事啊。这里面大家首先需要知道,相当于是一个 lambda factor 的 一个高级选项,就是你要去做量化的话,首先你得起用量化啊,你要去装这个 bit and butters, 你 要去把这个装一下才行啊,包括 啊, flash attention to, 你 要把这个给装一下才行啊。这个咱们后面来讲啊,然后就是它依赖哪些库呢?就我前面提到的,首先是 petos 是 吧,这个做那个深度学习框架,这个我就不多说了,应该 同学们都知道啊。然后包括像一些这个 mattress 啊,做评估的,包括像 deep speed 的, 做分布式训练加速的啊,这个后面都会讲,以及什么 g p、 d q、 a、 w q 做量化的啊,这个后面也会说啊,主要就是这些啊,量化评估,然后 v、 l、 m 部署,以及啊, 比如说我来专门针对千问一些模型做一些微调的,所以说它要需要加载一些包啊,包括这个 modscop 的 一些库啊,因为 modscop 也提供了模型下载,是吧?所以你需要有这么一个库在里面啊,包括那个这个 s one level 啊,整个的一些库,你看它可以 记录格式化的一个训练过程啊,这个都是我们后续都会给大家讲啊,只是大家需要知道啊,这个 lambda factor 里面是包含了这些组件的,所以说为什么说它功能强大,它也是集成了各种库啊,它可以做很多事情,是因为它把相当于做了一个整合,那你用起来比较简单啊,其实它就是一个框架跟平台嘛。 好,然后 library 找好之后,接下来第一件事情就是要干嘛呢?去做数据处理啊,就是说白了就是要准备数据集嘛,数据集的话其实又分了好几类啊,官方一般给大家提供了一个这个 ipad 的 这么一个数据集啊,这个是一个啊,官方内置好的一个数据集啊,比如说大家要去做一个指令监督的一个微调啊, 它就提供了一个数据集啊,然后在这个下面大家看它有各种各样的数据集啊,比如说你看我们有预训练的数据集是吧?有指定微调的,有偏好的数据集,有 k、 t o 的 数据集,这个后续在我们不同的训练场景里面用到的数据集也会不太一样 啊,但是大家首先要对这个有点认知啊,因为这个是 lemon factory 里面给你内置的一些数据集啊,就它有几块啊,一块是叫本地数据集,还有一块叫在线数据集。如果说大家希望用自定义数据集的话,需要在它的一个叫 data input 点 json 文件里面去添加数据集。那些定义这什么意思呢? 就比如说我们刚刚把那个 lemon factory 这个目录给它下了下来,这个项目里面大家看啊,这个里面找一下,在哪里呢? example, 我找一下那个数据集啊,呃,有一个目录 data 在 这里,大家看啊,它有一个叫 data 目录, data 目录里面有一个文件夹,有一个文件啊,叫 data set in four 点 jason 啊,也就是大家以后啊,你要自己加自己的个定,就是自定义的一个数据集的话,相当于你自己做了一个数据集,对不对?你想把它集成到 number factor 里面去做训练微调的话怎么办呢?大家需要在 data set 里面去编辑啊, 在里面去编辑,但是这个里面它就不太好编辑了,我们可以用这个啊,拍唱里面,大家可以去编辑啊,你把这个项目下下来,然后找到这个,这里面有一个啊, data set info jason, 也就是说大家自己啊,你可以把这段内容啊复制一下,比如说你要加一个数据集,是吧?你要自己把它配一下, 比如说我们在这个最下面是吧?大家可以自己去加一下啊,或者说你在最上面去加,其实也是可以的啊,它又分几块?比如说是一个 identify, 这个东西叫什么呢?这个叫自我认知啊,也就是说大模型训练的话, 首先他会有一个自我认知的一个过程,比如说他是谁啊?一些问候语,什么哈喽啊,是吧?然后名字什么就说买了,就是对这个模型做一个基础定义啊,就跟大家去训练一个医疗大模型一样,这个医疗大模型的作用是什么?他是来自于哪一个机构训练的,或者哪一个公司训练的?哎,他主要提供的功能是什么? 可以帮助大家解决什么问题?这个东西叫自我认知啊,就说白了就像大家这个是吧?你要去面试一个岗位,你要对自我能力的一个表达,这个是 你的一个,是吧?认证相当于你个人的一些情况,这个是咱们首先要训练的啊,这是自我认知的一个训练,然后自我认知训练完之后,接下来就是业务数据的一个训练啊,就在这个里面,你看业务数据,比如说我们有个 epic, 他有,就是我们训练的话,他数据也分语言的,有中文数据,有英文数据,对不对?一般来说我们两种语言都会去那个训练啊,但是你如果要做的更完整一点,你可以把国际上比如说法语、日语等等的语言,你都应该训练一遍。所以说我们的数据集应该是多语言的啊,这里 官方给大家提供的主要语言就是中这个中文跟英文啊。在这个里面,大家看,你看这个训练数据的话,它是一个有点像科普的这么一个训练数据啊。那这个训练数据的话啊,大家其实也可以去那个什么呢?去 lama factory 啊,就是去那个呃 modscope 上面去找啊, 比如说你想去了解这个 epic 它的一个数据的话,大家可以去 modscope 上面去搜啊,在这个里面 modscope, 然后这里有个数据集,数据集,大家去搜啊,这个上面有很多描述啊,比如说我们想找 epic 的 这个 c n、 z h, 是 吧?这个里面大家就找,你看 lama factory, 是 吧? epic c n 这里面它会告诉你这个数据它是用来干嘛的,是吧?这这就是常见的一个训练数据了呀, 包括你看这个里面啊,默认模板,是吧?这个就是一个科普的一个类似的一个数据啊,就是各种提问啊,提问的一个问答 啊,包括这个里面你看我们可以从这个 modscope 里面去看到它的一些数据的一些情况,是吧?你像 luma factory 其实在这个 modscope 上面也放了很多数据啊,主要就是它那个 开源项目里面给它提供了一些样本数据啊,主要是为了方便大家去呃,做一个快速学习跟使用啊,相当于你把 number factor 给启动好之后,它默认就会给你一些数据,你可以做些训练啊,你看这个里面就是一些常见的科普问答,各种各样的问题,也有什么创作,什么夏天的二十个词复合诗啊,什么乘坐公交啊,就是各种各样奇奇怪怪的数据都有啊。 好,那这个就是数据集这一块的啊,那后续训练的话,其实这个过程的话,就是大家需要自己去啊,如果是你用的本地数据集的话,你就要去什么呢?去把这个数据集做一个新增,比如说在这个里面,大家看我们要 建一个自己的数据集,你可以把这个东西什么呢?给它复制一下是吧?你可以单独再复制一份,然后把这个里面的改一下,是吧?改改一个名称,然后 number factory 它就可以帮你自动加载了啊。然后这个下面你看它是配数据集的一个路径啊,比如说这个路径。哎,它的一个下载地址是吧? 这个是配的一个 identify name 啊,就是我们下载数据集怎么来下呢?你看它有一个 h f 的 haplace, 上面去下它去下这个啊, 如果是在那个 modscop 的 话,就是下这个啊,其实这两个名字都是一样的啊,然后包括你要用其他的这个 o m 的 这个平台去下的话,它就是这个路径啊,所以说不同的这个数据啊, 这是官方对应的一个下载的一个位置啊,就是你大家可以自由的去配置配置。哎,我从哪里去下载数据?我是去从 modscop 下呀,还是去从这个哈根菲斯下呀?都可以啊,一般我们如果说你用的国外的一些服务器的话,那你用哈根菲斯去下会比较合适一些啊,如果你你要国内下也可以,就是你要用镜像加速, 或者是你科学上网,这才能下啊,不然的话我建议大家一般用 model scope 下会比较合适一些,网络上会比较快一些啊。 啊?这个就是配置数据集啊,整个数据集要是配好之后的话,大家就可以开始去做一个训练了啊,你看这个里面,它这里提到的就是一些数据集的一些描述啊,比如说数据集的话,一般它有几种 啊?几个字段,首先的话是这个哎,相当于是一个提问,然后输入输出,输入输出的话就是什么呢?在这个里面,大家看我去输入一个问题,是吧?输入一个问题,然后输出,然后再到一个结果,相当于我们训练的时候输入的是什么,输入什么,就给一个答案嘛,是吧?这个问题 相当于做一个问答啊,就是这个就是训练级,训练级的数据无非就是输入内容什么,他的一个输入内容是什么,输入的一个结果是什么?以及他的一个内容的一些输出是什么?这个就是我们想要的这么一个输出的一个效果啊,就是我们训练数据吗?无非就是告诉他 啊,正常的结果输入的是什么,输出是什么?让大模型去做学习吗?就跟你看书一样,大家知道输入的内容,当你最终输出的结果,你要参照一个什么东西,是吧?这个数据级的话,就是让他去学习用的, 然后包括他,他还有一些预训练的一些数学题啊,大家我们主要是做一些微调训练的啊,预训练的话就相当相对来说会比较少啊,主要就是一些啊微调的一些数学题啊, 比如说指令级微调啊,还有如果说大家后面要去用这个训练一些多模态的一些数据,比如说这个啊, 一些图片,是吧?图片标记,以及做一些视频数据的一些训练,包括音频数据的一些训练的话,这个大家都可以什么呢?去做一些这个具体的一些处理啊,就是我们可以去拿一些图片出去啊, 像这个在这个里面啊,就这个 modscope 在 这个里面,大家看啊,这个模型库里面包括数据集里面,它其实有很多不同的数据啊,比如说你看图像数据、音频数据是吧?视频数据、多模态数据,以及科学计算什么什么数据等等的数据有很多,大家去选择啊,自己需要训练的数据就可以了啊。 好,这就关于数据集这一块的啊,大家首先知道要有,知道要有这么些数据集啊,包括你看它可以渲染 gpt 的 啊,就是用 gpt 的 之前训练一些数据啊,说白了就是用 gpt 啊,做一些训练,然后看它的一个结果拼装而成的一些数据啊, 这也是一种数据类型啊,就是用 gpt 生成的一些数据啊,包括像 open e 的 一些格式数据啊,是吧?这些数据啊, 这几种数据类型,大家需要知道啊,就在什么场景下用什么数据集啊,好,然后是模型训练啊,模型训练的话用 lma factory 去做模型训练。我们先讲一个简单的一个入门的这么一个案例啊,就是非常简单的一个案例,就是大家可以干嘛呢?就是用官方的这么一个一个 zample 啊,视例在这个下面啊, 大家看在官方的这个项目里面有一个 example 啊, examples 下面的话,有一个这个叫 train luna 啊, train luna 下面有一个叫 lama 三 luna sft yamela 这个文件的话,就是我们最简单的一个微调训练的一个视例啊, 你看这个下面它这里去训练的时候我们可以什么呢?改一些这个参数呢?首先是这个模型的参数啊,这默认的模型啊,这个地址可能是个错的啊,比如说是个,这个 是个 mate 的 拉玛这个地址啊,但是这个过程的话,下载的话,如果说你是在 model scope 的 这个服务器上面去下载的话,你用这个下载不了啊,因为它地址是错的,所以这里咱们得改一下啊,改成这个 lm research 啊,不然的话下下载会出错。这里是大家首先要改的这个名字是什么呢?在这个模型库里面,大家看啊,模型库里面,在这个地方, 在这个里面怎么去搜索?你要搜索到这个名字错的话,它下载不了这个模型啊, 就我们微调的就这个拉玛三八 b 的 这个模型嘛,所以说我们需要改几个参数,首先就是这个模型参数啊,就是这个模型名称 pass, 你 要改一下,但大家也可以用本地的路径啊,比如说你这个模型已经下载到本地了,你就不需要用 model scope 再去下了,你要去指定一个,比如说啊,当前根路径下面的什么什么,有一个模型的这个是吧?然后拉玛 三是吧?八 b, 你 比如说你有一个这样的路径,你已经下好了,你就配一下就可以了啊,我这边配的是一个路径的话,就是你没下的话,他会默认给你下载一个地方去,如果你有的话,他就直接用了啊。 好,然后下面的一些参数啊,就是比如说我们的这个啊,常见的一些什么模型名称啊,包括训练评估啊,这个我们后续会慢慢的给大家讲啊,每个参数的细节啊,我们后面会给大家慢慢讲。这里的话大家首先要知道的就是我们怎么样去开启一个训练,做一个入门, 包括这个数据集啊,就这个数据怎么配?最主要的参数的话就是有几个啊?一个是这个模型参数怎么来配啊?这个下载模型的名称,然后数据集我们刚提过,是吧?有一个 identify 自我认知的,还有这个 epic 英文的这个数据的啊,这个这几个东西大家需要把它配好, 然后还有那个有个参数啊,叫 max samples, 这个叫训练的最大样本数,这里一千的话就相当于我要训练一千条数据,但是训练一千条数据的话,它是需要有时间的,所以说如果说大家想加速这个训练的话,你可以把这个时间啊,把这个数据调小一些,比如说就调十条数据,然后让它的训练过程加速, 然后下面就是有一个保存步骤,这里比如说我们就五条数据保存一次进度,等下会有一个目录输出,然后记录日记的话,也是五条数据记录一次,然后把这个给改一下啊,然后再覆盖到我们刚刚那个这个目录里面去,这样的话我们就可以让他训练速度加快啊,主要是这么个目的啊, 正常大家训练的话,你不需要改这个参数啊,他是多少条数据你就跑跑多少条数据可以了,然后把那个训练人次,我们甚至还要放大一些,让他多跑几人,这样的话我们可能会跑出这个一些好的效果出来啊。 然后在这个 example 里面有一个叫 train 啊, train 了,然后拉玛三 sft 这个,这个里面, 呃,把这改一下,改一下,改一下完了之后大家看啊,我就开始执行训练那个命令了啊,我们把这个命令啊,把这个命令给复制一下,在这个里面复制一下这个命令啊,它就会开始去跑训练了,来执行一下, 主要是为了让大家了解整个一个快速入门啊,就是一个训练的一个流程啊,就是整个这个命令是怎么来运转的, 那参数怎么来配啊?具体细节的话,参数的话我们后面会慢慢给大家讲,这一课的话大家主要就要知道就是,呃,怎么样去开启一个训练吧?开启一个训练 包括前面我们讲的环境安装,先把基础的条件准备好,准备好之后我们可以开始训练的话,说明大家第一阶段这个入门的话就算完成了啊,然后我们再去研究那些参数,具体的一些微调啊,比如说我们基罗拉微调要调哪些参数等等的细节,这个我们后面再给大家分享。 好,这个就是一个训练啊,这个训练过程的话,因为我把数据集调小了,整个训练过程会很快啊,你看他我们的一些参数啊,你看包括这个里面是吧?他会 训练之前它会输出各种各样参数,比如说那个 lama complex, 是 吧?但大家第一次执行这个命令的时候,它首先会做一个下载啊,它会去下载模型,这个模型下载哪里呢?下载到这个根目录,但是大家默认你看不到啊,要点开有一个 view, view 这里有一个 show handle files, 点了这个之后,大家可以看到一个点 catch 的 一个目录,点 catch 目录有个点 modscope 目录, modscope 目录下面有一个 models, models, 那 models 下面有一个 mate, 拉玛啊啊,上面有一个 l m research, 在 这个下面就是我下载那个模型啊,我们刚刚下载那个拉玛,那个八 b 的 那个模型啊,就下载到这个位置, 但是我不需要配那个绝对路径啊,绝对路径的话,其实大家要配的也可以,你把它复制一下,你粘贴到这个地方来看,你可以改成这个样子啊,但这里还是一个相对路径,我们要写 m m t, 我 靠 space 完整路径,大家写这个地址啊,如果说你不想这么麻烦啊,如果说你不想这么麻烦的话,你就按我刚刚说的写一个相对路径,就是下载的那个名称啊,就下载那个 pass 就 可以了,你不需要写这么完整啊。这个完整的一般是什么场景呢?就是你本地部署的啊,就是 我现在啊,整个模型是不联网的,不对外公开的,没法用下载的。那你就用这个地址啊,所以说它这个叫 mod name o pass 呢,就是因为它有两种情况,如果你能联网能下载的话,你填个 pass 就 可以了,如果你不能下载是吧?你就是一个内网部署的话,那你就选这个就可以了。 ok, 这是大家需要注意的啊。 好,然后完了之后的话,大家看,我们其实模型训练就已经完成了啊,那这个输出的一个结果我给大家看一下啊,那这个里面,呃,有一个,这个 lama factory 下面有一个目录啊,有个目录叫什么呢?叫 saves, saves 就是 它每一次训练保存的一些进度啊,你看我们 lama 三八 b 的 这个模型的进入在这里啊,不同模型它会以那个模型的名称这里建一个文件夹,比如说你,你训练 deepsea 的 话,那有一个 deepsea 的 文件夹, 然后你看训练类型是 sft, 是 吧?然后这个有很多是因为我之前训练的啊,它有几轮数据,什么切克换叶五六啊,那是因为我跑了很多轮啊,现在最新,大家看最新的数据的话,就在这个下面啊, 你直接看最新的数据就可以了,比如说看最最大的啊, check the point 的 四零八,看这个,这个就是啊,我们想训练的一些结果啊,在这个下面,然后这个里面会有一张图啊,比如说叫 training laws 训练的那个损失啊,这里为什么看不到呢?因为大家训练的数据量还不够大,所以那个曲线都没出来,这是因为我,我想让大家快速看到这个训练结果,就他的结果质量肯定不高的,整个曲线都没有。我给他看一下我训练的完整数据,那个曲线啊是个什么样子的?这个下面我之前训练好的 这个我是把完整数据跑完之后,大家可以看到一个损失就明很明显的往下降,是吧?然后有一个是原始的,有一个是他啊,叫什么呢?叫 啊曲线变化啊,就有一个是大致的一个变化,有一个是整体的一个趋势啊,就两种可以整合起来,让你去做一个参考。整体它的一个损失是往下降的啊,这个就是我们训练的一些逻辑的细节啊,好到这里的话,大家啊 如果能做到这一步的话,基本上你 lama factory 就 算入门了啊,这些参数的细节的话,后面我们慢慢慢慢再来细说啊。首先大家需要把这个 lama factory 环境做一个部署,然后啊知道怎么样把那些 数据挤压做一个配置以及模型,怎么做一个配置基作模型啊,然后包括怎么样快速执行命令行做一个训练,到这一步的话大家基本上就完成了。 ok, 那 么以上的话就是我们关于啊 number factory 模型训练快速入门的一个分享啊,如果对大家有帮助的话,欢迎一键三连,大家的关注跟反馈是我不断更新的一个源泉,那咱们下期再见。

还记得十年前错过互联网,五年前错过云计算的感觉吗?现在大模型就是下一个确定性风口,但很多人觉得那是算法工程师的事,跟我没有关系。我跟你讲,企业真正缺的不是调餐专家,而是能把大模型落地到业务场景的人。要懂部署,会 rock, 能搭智能体。这期视频我给你一个完整的落地地图,从 从四有化部署到团队搭建,从零训练到微调蒸馏,你听完就知道,这个大模型红利你完全可以抓得住。本期视频我会带你完整做完一遍大模型企业的落地实战。 首先,我们从四有化部署开始,为什么数据不出,内网是底线,怎么低成本搭建起四有环境?这一步走不稳,后面就全是坑。然后是最容易上手的两个技术 提示词和 rock, 你 不需要训练模型,就能让它秒懂你的业务,这也是企业里用的最多的面试官最爱问的。接着,我们升级到智能体,不只是回答问题,而是让 ai 主动帮你干活,定会议室、审合同、走审批流。这里我会用一个实际的多智能体协助案例,让你看到人工三天的流程怎么缩短到几分钟。再往后, 如果前面这些还不够用,那我们需要对模型动点手术了。微调和蒸流,这是目前招聘 jj 里写着的核心技术战,我会告诉你什么时候该微调,什么时候该蒸流,以及怎么低成本做课程。最后,我们落地到人和团队,大模型催生了哪些新岗位呢?企业该怎么一步步搭建 ai 团队? 我们普通人又该怎么转型入局?整套内容零基础也能听懂,有基础基础的能深挖实战细节,所有知识点都可以直接复刻成项目经历。好框架,我们先梳理到这, 接下来我们正式开始。我们先从一个很常见的问题说起,你有没有遇到这种情况,让 ai 帮你写一份报销流程,说明他写的挺流畅,但偏偏漏掉你们公司最关键的一条,出差必须提前在系统里面填审批单,或者说让他生成一份合同条款,结果用了标准的模板,完全没有体现你们法务特别强盗的风险。斗抵条款 可能会觉得这 ai 是 不是有点笨?其实不是他不笨,他只是不了解你们公司,因为他是一个通用大模型,学的是网上公开的数据,不是你们公司内部的东西。所以第一个问题就出来了,他不懂你,更不懂你的行业术语, 不懂你的内部流程,更不懂哪些信息能说,哪些绝不能碰。第二个问题更加麻烦,数据安全,你想想,如果你要 ai 帮你总结一次会议纪要,里面可能无意中提到了客户的名称、项目预算,甚至还没公开的合作意向。这些数据一旦传到外部服务器,在金融、医疗、制造、政务这些强监管的行业,直接就是合规的红线, 轻则审计不通过,重则面临法律的风险。所以结论其实很直接,核心业务基本上不能直接用公有大模型,你必须把模型请进自家门,也就是私有化部署,放在你自己的服务器、私有云或者本地建房里,确保数据不出内网。好,那私有化部署到底能带来什么呢?我们看下一节 自有话。部署说白了就是两件事,第一,数据完全由你掌控,模型跑在你的服务器上,数据不出内网,所有的环节呢,你自己说了算。这在合规上是一条底线,尤其在金融啊,医疗这些行业,没有这条,后面什么都别谈。 第二,它是后续所有定制化开发的基础,你想做 rock, 给模型挂上公司的知识库,你想做智能体,让模型调用内部系统,你想做微调,让模型更懂你的业务。 所有的这些操作,前提是你有一个能自己能改、能调能控的模型实力。所以四有化部署不是炫技,也不是为了显得高大上,它就是企业真正用上大模型的入场券。那具体怎么做呢?是不是买几块 gpu 就 行? 其实没那么简单,我见过太多项目卡在酷的版本不对,驱动不匹配,高病发下服务直接锁死。所以我自己总结了一个四步法,我们来看一下, 你看第一步需求切片,不要一上来就说我要部署大模型,我们先问一下多少人用,能等几秒?是二十四小时跑呢?还是工作时间跑?这些数字出来后面选型才有依据。第二,模型选型不是越大越好的, 七 b 的 模型呢?做客服问答就够了,七十 b 的 可能一张卡都装不下。你要算显存,七十 b 的 模型光加载就要一百四十 gb 显存。第三步,容器化封装, 用 cubanities 加 him, 把模型打成容器,这样开发测试、生产环境一致,避免只能在我机器上跑得尴尬。 第四步,监控告警,上线不是结束。你要盯这三样东西,日制有没有报错啊?显存有没有报?每天生成了多少 token? 这三样合起来才知道系统是不是健康的。所以一定要记住一个事情,七分靠规划,三分靠算力。前期想清楚,后期少熬夜。 好,这一章我们讲完了,来快速回顾一下,自由化部署的核心价值是什么呢?两点,数据,安全和合规可控,数据不输内网,这是底线。落地上,我们讲了四步法,需求切片、模型、选型、融就好,封装、监控、告警。记住那句新法,七分靠规划,三分靠算力。 自由化部署是企业 ai 落地的第一步,这一步走稳了,后面才好展开。那接下来我们看一下第二章怎么零训练,让 ai 快 速上手业务 哦。模型部署好了,也接近来了,但到现在就像一个刚毕业的新员工,脑子很好使,但不知道你们公司报销流程是什么,也不知道合同里那个风险兜底条款怎么写。那怎么办呢?先别着急花钱,微调有一个零成本的办法,就是提示工程,说白了就是教 ai 怎么说话。你看一下 ppt 上这两个对比, 左边这个呢,他说帮我写个合同,你说 ai 能写好吗?他只能给你一个通用的,网上随便能搜到的模板。右边这个就不一样了, 你让他扮演制造业资深法务,然后明确说必须包含什么条款,付款方式分三期输出,格式呢?要 mark down, 你 看他给出来的东西,马上就贴近你的真实需求了。所以提示工程不是玄学,而是要把你的要求说清楚,说结构化。 我们总结了四个技巧,平时最常用第一,角色扮演,你让他假装是我们公司的法务,他说话的立场就完全不一样了。第二,势力驱动,你给他一个标准答案的样例,他就会照着那个风格写。第三, 思维练。比如你想要他分析合同风险,你可以说先练出可能的风险点,再给出修改建议,他一步步想,逻辑就好很多。第四个格式模板,明确说输出阶层,或者输出在列表的编号,方便你后面用程序处理好。四 个技巧讲完了,但我要说一句实话,提示词不是你写一次就能一劳永逸的,很多人第二天再用 ai 输出的格式就不太对了。为什么呢?因为模型在更新,业务也在变化, 甚至你问问题的角度稍微不一样, ai 的 理解就会偏差。所以提示词的优化是一个持续的过程。我自己的习惯是像调试代码一样去调试提示词,今天改一个限定词,明天调整一下语序,后天加一个约束条件。有时候只是把请帮我写改成你作为资深法务,请根据以下三点写,效果就完全不一样了。 内部经常一个提示词改,实际版才更换到生产环境,每一次微小的调整,都可能让输出的准确率明显提升。不过就算你把提示词打磨的再精细,他也有自己的天花板。有些复杂场景呢,光靠提示词是搞不定的,那什么时候不够用呢?我们接着往下看。 好,那如果你的知识特别复杂,比如公司的产品手册有几百页公告,提示词里你要记住这些,根本记不住。这时候就要请出第二项技术, rock 全身教解锁增强生成,你可以把它理解为给大模型配一个外挂的大脑,这个外挂就是你们公司的知识库。 我们先来看一下这个过程是怎么刨的。首先呢,你先把文档微进去, pdf、 word、 网页都行,系统会自动转成纯文本。然后它会把这些文本切成很多个小段, 按段落或者句子来切,方便后面精准查找。接下来重点来了,这些小片段会被转成像料,存到像料数据库里面。这一步你不需要深究原理,知道它是用来做语义搜索的就行,也就是根据意思去找相关内容,而不是单纯匹配关键词。好月处理完了,现在用户来提问了,比如差旅报销的标准是什么? 系统会先从像料数据库里检测出最相关的几段政策原文,然后把这些原文和用户的问题一起交给大模型,让它生成答案。 你看这样做最大的好处是什么?模型不需要重新训练,就能知道你们公司最新的制度。今天更新了一份文件,重新处理一遍,明天 ai 就 能用上。主要给三个很直观的优势,第一个更新快, 制度变了,重新处理一遍文档就行,不用微调。第二个,成本更低,几乎不花训练费用。第三个,可以追溯 ai 回来完,你还能看到他参考了哪一段文档,这对审计和纠错特别重要。但也要说个实话, rug 不是 万能的,如果任务需要深度推理,比如根据近三年的财报预测,明年的现金流光靠检测就不够了。那种场景呢,可能需要智能体或者微调,不过对我们大多数日常的场景,比如查制度、写报告,回答客服问题,提示,此类 rug 已经能解决百分之八十的需求了。好 好,第二章我们就讲到这里,我们现在来回顾一下提示工程本质就是把模糊的指令变成结构化的指令,让 ai 精准响应。 rock 呢,就是给 ai 外挂一个企业知识库,回答可以溯源到具体文档,心里有底。实战中 提示词加上 log, 能解决百分之八十的企业日常场景,低成本、高效率、零训练就能快速赋能业务。那如果想让 ai 不 止回答问题,而是主动干活呢?下一章我们讲一下智能题。智能题英文叫 agent, 你 可以把它想象成一个 ai 办事员,它和普通问答最大的区别是什么? 普通问答是你说一句,他回一句。智能体呢?是你说一个目标,他自己想办法完成一系列操作。举个例子,一个订午餐的场景,员工说帮我订一个午餐,预算五十块钱以内。一个普通的 ai 呢?可能会回答推荐你去某某某餐厅,但智能体会怎么做呢? 会先调用餐饮 a p i, 找到符合你口味的选项,再调地图服务,看哪家离得近,排队多久,然后判断是步行还是骑车。最后直接在某平台下单,发信息通知你已经定好了十二点半出餐。整个过程你只说了一句话,他自己完成四步操作,这就是智能体。 那怎么开发一个智能体呢?其实拆开来看去,四步,第一步,业务拆解,把任务拆成一个个元次动作,比如订餐,就等于查菜单,然后查距离,然后下单,最后发通知。第二步,工具封装, 每个动作背后的系统,不管是 hr 系统、 erp 还是日历,都封装成 api, ai 知道调用哪个 api 来完成任务。第三步,决策提示,用提示词告诉 ai 什么情况下调用哪个工具。第四步,异常处理。现实中总有意外, api 超时怎么办?权限不够怎么办呢?你要设置重试、降级、转人工,还要记录日制好。 这是单个智能体搭建的方法,但你看现实中的业务,很少有一个人能从头干到尾的事,往往需要多个角色一起配合。那多个智能体怎么写作呢?我们看下一个例子。就拿审核一份采购的合同来说,你看这个图, 采购 agent, 首先先看供应商在不在合格名录里,那财务 agent 检查预算和付款条例,那法务 agent 扫描有没有高风险条款,三个 agent 通过一个消息总线互相通知状态,谁审完了就发一个信号,下一个接着上。以前人工审核一份合同要走三天以上,现在多智能体并行 几分钟就能出结果。这里的关键词不是模型多聪明,而是你的工具链有多全,连热力都调不了,就定不了会议室。所以一定要先把企业内部系统打通好。前面我们讲了智能体能做什么,怎么做,但这里有一个很容易被忽略的前提,我专门拎出来讲一下。 你看左边这句话,能力上限取决于工具链,什么意思呢?就是智能体再聪明,你能给他接上多少工具,他就能干多少事。你如果连日历都调不了,你就定不了会议室,你连支付接口都没给他,他就不可能帮你下单。所以智能体的真实边界不是由模型参数决定的, 不是说七十倍的模型就一定比七倍的强,而是取决于他调用的外部工具的数量、种类和质量,只有工具点完善了,他的智商才能转化为执行力。我们再看右边这句,重点不在模型,而在打通内部系统。我见过不少团队花了很多钱买了最大的模型,结果发现根本解决不了业务问题。为什么?因 模型调不了,你们的 erp, 看不到库存,改不了审批流,它再聪明也没用。所以大模型能力再强,如果跟企业的 erp、 crm、 知识库、审批流这些内部系统没有深度集成,它就是一个摆设。反过来,你哪怕用一个中等大小的模型,只要把内部系统打通了,它就能干活,就能产生业务价值。 所以这里我想特别强调一句,实现数据和系统的全面互联,是智能体落地并产生业务价值的必经之路。说白了,搞智能体别只盯着模型参数。先去盘点一下,你们公司有哪些 a、 p i 能调,哪些系统能打通。这一步做完了,智能体才能真正用起来。好 智能体这一章我们收个尾。智能体本质上是什么?是一个能主动调用工具完成业务闭环的 ai 办事员。开发它有关键的三步,业务拆解、工具封装、异常处理。一句话总结一下,从问答到自动化,让 ai 真正办事。那如果前面这些方法还不够用,比如提示词已经很长了, rock 也救不回来,怎么办呢? 下一章我们讲更深度的定制、微调与蒸馏。先说一个重要的原则,微调不是首选,是最后的手段,因为它要花时间,花算力,还要有高质量的数据。那什么时候该启动微调呢?三个信号,第一个 提示词已经长到离谱了,比如超过了八千 token, 或者超过了模型上下文窗口的一半。太长的提示词不仅慢,还会让模型注意力分散,反而打不好。第二个, rock 的 召回效果不佳。 问一个问题,系统从知识库里找出最相关的五段文字,结果没一段真正有用,说明模型看不懂你的业务语言。第三个,业务指标卡在瓶颈了,比如隔空生成,准确率做到百分之八十五就上不去了,但是业务要求百分之九十五 差,这百分之十可能就是用户签不签单的关键。一旦出现这些信号,就说明通用模型的底子不够了,必须深度定制。 微调也有不同的路径,如果你要做一个行业大模型,比如医疗大模型啊,法律大模型,那就需要海量的语料做继续训练。但大多数企业不需要这么重,你只 你只需要模型会做这几件事情,比如写报销单、审合同、回客服这种指令,微调就可以了。那为了控制成本呢?我强烈推荐用 lora 这类高效微调的方法,它只训练一小部分参数七 b 的 模型,四块 a 十三天就能跑完,效果还很好。 微调完有时会遇到一个新问题,模型变重了,推理慢,显层次的多,放不到手机或者高屏放在柜台上,这时候就需要蒸馏了,你可以把蒸馏想象成师傅带徒弟,大模型呢,是师傅知识渊博,但是说话慢, 资源的消耗比较大。那小模型呢,就是徒弟脑子小,但学的很快,只要模仿师傅的思维方式,就能保留百分之九十的能力,但是延迟能降低百分之七十。具体怎么做呢? 大模型对一批输入生成软标签,他不是直接告诉小模型这个答案是对的,那个是错的,而是给出更细腻的信息。比如我觉得这个答案有百分之八十的可能性是对的,那个呢?只有百分之二十。小模型去学习这种带概率的判断,就能模仿师傅的思考方式。 落地的场景呢,就很实在了。比如银行柜台系统每秒要处理上百次查询,必须用轻量的模型,或者手机端的离线, ai 助手 不能依赖网络,也得靠真流。好,那接下来我们看一页对比,把微调跟真流放在一起理清楚。我们来看到这个表格。微调的目标呢,是让模型学会新领域、新任务,数据需求几百上千条标注指令,算力成本比较高,适合合同审核、医疗报告这类深度的任务。那真流的目标呢,是把大模型压缩成小模型, 数据需求大量无标签数据,算力的成本比较低,适合移动端、高病房柜台之类清亮场景。用比喻来记一下,就像微调是让民工来进修,蒸馏呢,是让师傅带徒弟,一个做深,一个做轻,解决的是不同的问题。好,微调完了,蒸馏也做好了, 部署上线了是不是就结束了呢?不是的,很多人就在这里在跟头。模型上线那天,大家都很兴奋,过了两个月没人管他了,再过三个月,业务部门跑过来说,哎,这个 ai 怎么越用越笨了? 为什么会这样呢?因为业务在变,你们公司的报销制度可能改了,价格产品可能调了,客户问的问题也在变,模型他自己是不会跟着跑的。所以记住一句话,企业节哀不是一锤子买卖, 上线那天不是终点,而是起点。我们看一下这三个框,我先问你一个问题,你的模型每天在业务里面跑,回答了多少问题?哪些问题回答的好,哪些回答的不好?用户有没有踩? 这些数据你回收了吗?如果你没有回收,那就是把金子当垃圾扔掉了。那些真实的交互数据是你最好的训练材料,所以我们一定要把反馈链路打通,让数据回流回来,再拿去微调,再优化,你越给他越多的真实数据,他就越懂。你。好, 下一个问题,你今天微调了一个模型,下周又微调了一个,两个版本都在跑,你怎么知道哪个好呢?万一新版本出了问题,你还能不能回到老版本呢?所以你得做版本的管理, 每一个模型版本你都要记下来,什么时候训的,用了什么数据,效果怎么样,这样万一出现了问题,一键就能回滚。否则你连自己上线的是哪个版本都不知道,那就麻烦了。第三个问题,你怎么判断模型是不是变差了? 不能光靠感觉吧。比如你做一个合同审核的 ai, 原来人工审一份要半个小时,用了 ai 之后只要十分钟。你要是只看准确率,百分之九十八跟百分之九十六可能差不多,但你得看业务价值,它到底省了多少人工?有没有帮业务部门真正解决问题? 所以我们要定期去测,看看有没有数据漂移,就是业务已经变了,但模型还停在原地,发现问题就赶紧去修。这三件事,数据回流、版本管理、效果评估合在一起,就是一个全生命周期的管理闭环。我自己的经验呢,是让 ai 火起来,不是靠一次性的热情,而是靠持续的喂养和照看。 你把它当成一个需要长期培养的团队成员,而不是一个一次性的工具。好,微调和蒸馏这一张讲完了,我们快速的过一下。微调是提升模型在特定领域的能力, 解决业务的瓶颈。蒸馏呢,是把大模型压缩成一个小模型,降板增效。那如果确实需要微调呢?也不是一锤子满满,模型上线后,业务还在变,数据也还在变,你得持续的迭代,持续的优化,才能让模型真正适配业务的长期发展好。最后一章我们讲人才和团队。 我们平常是不是经常会听到 ai 会取代人?其实不是, ai 会重塑岗位,而且会催生一批新的角色。最核心的一个叫大模型应用开发工程师,他不是传统的算法工程师,也不是纯业务人员。他左手技术,右手业务。技术上呢, 他得知道哪个模型适合什么任务,怎么写提示词,怎么打扰,怎么编排智能体,甚至能做若干微调和蒸流。业务上,他得能把法务说的合同要严谨翻译成必须要包含条款, a、 b、 c 能算清楚 ai 投入能不能省下三个人力。 很多企业说招不到这样的人,其实呢,我们可以从内部进行培养,让熟悉系统的 java 工程师或者数据分析师参加一个三周的 l a l m。 训练营,很快就能上手了。 除了刚刚那个核心角色,还有好几个新的岗位,像模型数据标注师,他负责清洗和标注高质量的数据,相当于 ai 的 老师。 l a l m 测试工程师,系统级测试,各种提示词组 组合,找出最优解,相当于 ai 的 质检员、 ai g c 体验设计师,设计交互流程,让用户一句话就能完成。多步操作。模型安全神器式,防止 ai 泄露敏感信息,输出违规内容。 l l m 成本优化式,通过模型微调调度策略,让 ai 既聪明又省钱。这些都是近几年才慢慢兴起的岗位,未来需求只会越来越大。 好了,知道了有什么岗位,我们再来聊一聊企业该怎么一步一步搭建自己的 ai 团队。那具体怎么建这个队伍呢?我的建议是分三步走,短期一到三个月,内部转岗。从熟悉公司系统的工程师分析是,你们选一批人, 集中培训三周,一个月就能拉起一个能打的核心小队,成本低,见效快。中期半年到一年。校园招聘,跟高校合作开设大模型微调 rock 实战这类课题,提前锁定优秀应届生, 他们的经验虽然少一点,但学习能力强,可以长期培养,长期一年以上,可以进行外部合作,跟云厂商开源社区共建模型蒸馏实验室,共享 gpu 资源。对中小模型来说,这比自己买卡要划算的多。这套三步走战略适合绝大多数的中小企业参考,落地好, 团队人招好了,还有一个关键的问题,组织架构怎么建设?人该放在哪个部门呢?有些公司让每个业务部门自己招人,采购招一个,财务招一个,法务也招一个,结果呢?各自为战,重复造轮子采购,采购的坑呢?财务再踩一遍,技术选型也不一样。最后我想整合都难。 所以我们建议另一种方式,设一个横向的 ai 能力中心,这个好处不挂在这个中心呢,不挂在任何一个业务部门下面,他统一负责技术选型、模型部署、供应链建设。业务部门有需求来找中心,中心派人支持。好处有三个,第一个是人才集中管理,不用每个部门都去招人,成本更低。 二是技术标准统一,不会出现各部门各搞一套的情况。三是经验可以重复用,一个部门做好的东西,其他人可以直接拿来用。如果你的公司正在规划 ai 团队,不妨先考虑这个方向,搭一个横向能力中心,而不是让业务部门各自散打。 好,我们来看一下最后一张的小节。最后我们来收一下尾我们讲的新角色的画像,技术加业务双星人才。看了新新的岗位,生态 布局、标注测试、安全审计、成本优化等等。团队建设的路径是三步走,内部转岗、校园招聘、外部合作。最后这句话送给你,人才是企业 ai 战略落地的核心基石。好, 整个课程到这里就全部讲完了,我们快速回归一下整体路径。企业大模型落地不是一个一步到位的事情,而是一个螺旋上升的过程,从通用模型试水到专属模型注入知识,再到急救模型边缘部署,贯穿始终的目标是三个,安, 安全、精准、效率提示工程 rug、 智能体微调蒸馏。这些工具不是非此级别的选择,而是根据你的业务需求去组合,先跑通一个闭环,再慢慢优化。好了,这节课我们就讲到这里,感谢你听完这一整套指南,如果实际落地中遇到了什么问题,也欢迎随时再聊,我们下期再见。

现在很多人学大模型,连域训练、微调应用都分不清,就想找 ai 工作,那我直接说一句实话,你连门都没进,大模型呢?其实就四层域训练,后续点微调应用。那你搞清楚这四层,你就知道自己到底在哪一层。 那我用一个简单的比喻跟你讲透,培养一个人。第一层预训练,就是从零开始,把一个婴儿养大。那怎么做?就是为海量的数据、文本呐,图片呐、视频呐,深度学习去训练,让他学会语言、逻辑、世界知识。这层干的事情呢,本质就是造一个基座模型, 这一层谁在做?大厂加顶级的研究院,比如 g、 p、 t 四这种级别的模型。但问题来了,这个人知道知识很多,但可能会乱说话,不会沟通,甚至不安全,所以要第二层叫后训练,说白了呢,就是教他做人, 核心方法就是基于人类反馈的强化学习,让模型学会什么该说怎么说更有用,怎么更符合人类的价值。那这一步呢,直接决定模型好不好用。第三层,微调,现在这个人已经是个通用人才了, 但还不够,企业要的是医生、律师、金融分析师,那怎么办?微调通过数据和参数调整,把模型变成行业专家、任务专家。那比如像法律模型更懂合规,医疗模型更少的误判,金融模型更懂风险。那这一步呢,本质就是从通用能力到赚钱能力。 第四层,应用,这层离你最近,说白了就是把模型变成产品,比如聊天机器人、智能客服、 ai 写作知识问答系统,直接接入企业系统上银行 app 里面的智能客服。基层干的事情就不是研究模型了,而是工程化加产品化。所以重点来了,这四层对应的是四种人,一系列, 对应的是顶级的研究。港九八五啊,海外授博起,那后续练高级算法岗,研究生起步微调工程算法岗本科可以做应用,对应的就是应用开发岗,它属于机会最多的。所以你认清一件事,就是不是所有人都适合往上卷, 大多数人真正的机会就是在微调加应用。所以在补一句行业真相,大模型业系统大多数是 java, 所以 如果你 java 都会, 哎,那你在应用层是非常稀缺的。所以这件事的本质是什么? ai 不是 一个岗位,而是四层分工体系,你要做的呢?不是盲目学,而是选一层狠狠干。那最后说一句扎心的,很多人学 ai 一 直卡住,不是因为难,是因为不知道自己该选哪一层。 那我整理了一套二零二六年进阶大模型学习路线,从模型原理到产品落地到完整的思维框架,全部都给你拆清楚了,需要的直接安排。

大模型微调怎么理解它?就像是你已经有了一个很聪明的通用模型,现在想让它更适合某一个具体任务,比如更会写客服话术,更懂公司业务,更像某个固定风格,或者更擅长某类问答。那微调的完整流程到底是怎样的?我是小哲,点赞收藏加关注,我们马上开始很多内容查看橱窗! 第一步,先明确微调目标。这一步非常关键,因为不是所有问题都适合微调。如果你的问题是模型不知道某些知识,比如公司制度、产品文档、最新资料,那很多时候应该先考虑 rag。 但如果你的问题是模型输出风格不稳定,回答格式经常不对,某类任务总是做不好,或者你希望他按照固定模板、固定语气、固定思路输出,这时候微调才更有价值。所以微调前先问一句,我到底是想让模型知道更多,还是想让模型表现的更像我想要的样子? 第二步,准备训练数据微调最核心的不是算法,而是数据。常见的数据格式其实很简单,就是一组一组的输入和理想输出。比如用户问一个问题,你给出一个标准答案,或者用户给一段需求,你给出一段符合要求的回复。模型就是通过这些样本学习你希望它如何回答。 这里最重要的不是数据越多越好,而是数据质量要高。一百条非常标准、非常清晰的数据,往往比一万条混乱数据更有用。数据里面要尽量避免答案前后风格不统一,格式一会这样,一会那样,错误答案混进去,低质量水文混进去,因为模型会照着学,你喂进去什么,他就学成什么。 第三步,清洗和格式化数据。很多人微调效果差,不是模型不行,而是数据太脏。比如同一个任务,有的答案很短,有的答案很长,有的用口语,有的用书面语,有的带解释,有的只给结果,这些都会让模型学习到混乱的模式。 所以在训练前,需要把数据整理成统一格式,比如统一成用户指令是什么,上下文是什么,标准回答是什么。如果是对话模型,还要整理成多轮对话格式。这一步的目标是让模型清楚的知道在什么输入下应该输出什么样的内容。 第四步,选择微调方式。常见有两类,一种是全量微调,也就是改动模型的大量参数,这种效果可能更强,但成本很高,对显卡数据量和训练经验要求都比较高。另一种是参数高效微调,比如 laura, 它不是直接大规模改模型本质,而是在旁边加一些小参数,让模型学会新的行为。 lora 的 好处是成本低,训练快,部署也更灵活。所以在大多数业务场景里,尤其是个人开发者和中小团队,通常会优先考虑 lora 这类方式。 第五步,开始训练。训练过程本质上就是把准备好的样本一条条喂给模型,让模型先自己生成答案,再和标准答案对比,然后不断调整参数。 这里会涉及一些训练参数,比如学习率、 p 词大小、训练轮数。但初学者先记住一个原则就够了,不要一上来就训练太久,训练太少,模型学不会,训练太多模型可能过拟核,所谓过拟核,就是模型把训练数据背下来了,但遇到新问题就不会举一反三了。 第六步,评估效果。微调完不是直接上线,而是要测试测试级,最好不要和训练数据重复。你要拿一些模型没见过的问题去问他,看他有没有真的学会。 主要看几个方面回答,格式是不是稳定,风格是不是符合预期,错误率有没有下降,有没有出现胡说八道,有没有牺牲原本的通用能力。很多时候,第一次微调效果不会特别完美,这是正常的。微调是一个迭代过程。 第七步,根据结果继续迭代。如果模型还是不稳定,可能要补充更多高质量样本。如果模型达的太死板,可能是数据太单一。如果模型开始胡说,可能是数据里有错误,或者训练过头了。如果模型格式经常错,可能要增加更多格式视力。 所以微调不是一次性工程,而是一个循环,定目标,做数据训练评估,再改数据,再训练,最后模型才会越来越接近你想要的效果。 所以总结一下微调的流程其实就是七步,先明确目标,再准备数据,然后清洗格式化,选择微调方式,开始训练,评估效果,最后不断迭代。 真正决定微调效果的,不是你用了多高级的模型,而是你的目标是否清晰,数据是否足够干净。一句话总结,微调不是给模型灌知识,而是教模型按你的方式做事。这也是为什么在很多业务场景里,微调和 r a、 g 不是 互相替代,而是经常一起使用。

嗨,大家好,欢迎来到这期的深度解析,今天咱们聊点极其硬核但又绝对接地气的话题,普通人到底怎么才能拥有属于自己的专属大模型? 你看现在啊,不管是谁都在谈论那些千亿参数的超级大模型,感觉特别遥远,高不可攀对吧?但今天我们要彻底打破这种壁垒,看看怎么把这种所谓科技巨头独享的力量真正交到咱们普通开发者和中小企业的手里。 这也是咱们今天最核心的一个灵魂拷问。买不起几百张极其昂贵的显卡,咱们普通人难道就真的只能眼巴巴看着,绝对不可能在自己的电脑上微调大模型了吗? 说实话,一直以来,在开发者和私有化人工智能之间,横着一堵让人非常绝望的算力高强。大家都知道大模型能力强悍,但一想到动辄成百上千张高端显卡的天价成本,估计绝大多数人都直接劝退了。所以,首先我们要看的正是告别天价算力全参数微调的沉重代价。 好的,让我们深入探讨一下这背后的巨大红沟。传统的全参数微调,他真的就像字面意思一样,要求你把模型里百分之百的参数全给更新一遍。 举个例子,假设你要微调一个七零币,也就是七百亿参数的模型,你猜怎么着?你得准备四到八张极其昂贵顶级的 a 一 零零级显卡,还得没日没夜的跑上好几天,这简直就是烧钱游戏对吧? 但别急,现在破局的曙光来了,参数高效微调,也就是 p e f t, 它只更新不到百分之一的参数,单张 g p u 就 能跑起来,成本瞬间实现了断崖式下跌。那么这到底是怎么做到的呢? 接下来咱们进入这个重点,什么是高效微调?以及 lora 的 魔法?面对高昂算力的痛点,业界抛出了一根极其关键的橄榄枝。这非常巧妙地引出了我们要聊的主角 lora, 全称叫低智自适应。 他的思路简直绝了,他完全不去动那个庞大复杂的基座模型,而是直接把他所有的权重死死冻结起来。 你可以把原本的千亿参数大模型想象成一个被彻底冻结的超级大脑,不管怎么微调,大脑原有结构一概不动,只是在里面悄悄加一点小型的可训练的矩阵。你可以这么理解,这就好比给这个超级大脑外接了一个非常小巧的 u 盘。 顺着这个思路,咱们来看看大圆模型的这个 u 盘旁路矩阵具体是怎么工作的。咱们拉近点看这个 u 盘在实际训练里发挥作用的过程,其实一共就四步, 第一步,把圆模型那成百上千亿的参数原地冻结。第二步,在旁边开辟一条低至矩阵组成的旁路,也就是我们的 u 盘。 然后第三步,当你拿自己的私有数据,比如公司的专业文档去训练时,实际上机器只在拼命训练这个极小极小的 u 盘里的参数。最后,当模型真正开始工作推理时,输入的信息会同时穿过冻结的大脑和你新训练的 u 盘,然后把结果一加 你看,既保留了原有的常识底座,又完美吸收了你未给他的独家秘籍。当然,这背后真正有意思的是他的数学逻辑。如果不加这个 u 盘,更新原矩阵所需的计算量是 m 乘以 n, 极其恐怖。 但 lora 耍了个聪明的花招,他把这条旁路拆成了两个低质矩阵相乘,一个 m 乘 r, 一个 r 乘 n。 这里的灵魂就在于这个质,也就是字母 r。 这个 r 可以 设的很小,小到什么程度呢?默认值常常只有三十二。通过这种降维分解的巧妙操作,他在底层硬生生把计算时的显存压力给砍掉了一大截。这一砍幅度令人震撼,最高能削减百分之九十九的可训练参数。 也就是说,用了 laura, 你 的训练负担直接暴跌了百分之九十到百分之九十九。但等一下,最离谱的是,哪怕你跳过了百分之九十九的参数,不去管它,训练出来的模型能力竟然依然能达到全参数微调质量的百分之八十五,甚至百分之九十五! 用芝麻粒大小的代价,换来几乎不打折扣的强悍性能,这就是高效微调最迷人的地方。那么,继续往下看,这一切还能怎么进一步突破? q l o i 的 极限压缩与消费级硬件的极限突破?如果说 l r a 是 给你省了一大笔经费,那 q l o i 简直就是直接把大模型搬到了你的书桌上。 qora 顾名思义,就是在 laura 的 基础上加入了量化技术。他下狠手把基础模型原本十六位的精度生生给压缩到了四位或者八位。但在实际运算时呢,他又极聪明地恢复到十六位来保证算得转。 这就意味着什么呢?这意味着,哪怕你手里只有一张打游戏用的只有二十四 gb 显存的普通消费级显卡,比如三零九零或四零九零,你现在竟然也能把一个七百亿参数的顶尖大模型塞进去,而且还能微调它。 所以这就引出了我们今天的一个核心结论,全民私有化微调时代的到来,将力量交还给开发者。到了这里,算力垄断的高墙可以说是轰然倒塌了。就像我们参考的资料中有一句非常振奋人心的话,这里的重点是 q r o i, 使得在单张二十四 g b 显存的消费级 gpu 上,微调七零 b 模型成为可能。 这是一种访问权力的民主化,直接推动了开源模型的大爆发。却是如此,正是有了这种跑在普通电脑上的平民化技术,现在不管是中小企业的 it 团队,还是实验室里的学生,只要你想,你就能去搞个优秀的开源模型,插上属于你的数据 u 盘,轻松搞定各行各业的专属领域专家。咱们今天的解析也差不多到尾声了, 其实从一开始那个高不可攀的算力门槛,一路聊到像外界 u 盘一样精妙的 lora, 再到用家用显卡就能跑通的 q lora, ai 技术的指挥棒现在已经实实在在的低到了我们每个人的手里。 那么留给屏幕前你的问题来了,当门槛已经彻底消失,任何人都可以在自己的电脑上随心所欲的训练专属 ai 时,你打算用你的 u 盘去装在怎样一个新世界呢?去动手试试吧!非常感谢大家收看这一期的深度解析,我们下期。

嗨,大家好,我是佳儿,给大家分享一下关于大模型训练背后的故事,不知道你会不会对模型背后的一些知识的产生有好奇心,我是对这件事情有好奇心的,所以有幸呃这个收到邀请审核通过了, 所以作为其中的一个这种训练员去参与了整个的项目。这个项目它的本质还是呃通过你的一定的专业经验,呃去进行知识的设计和资料的准备,规则的设计以及 答案的输出,其实基本就是这几个维度。那在这个过程中,其实核心啊考量的是你自己的行业专业背景, 学历背景,就需要你有人力资源相关的实践的项目经验。第三个的话就是你在 ai 领域需要有一定的 sense, 或者是实操的这种 web coding 之类的经验加分项。那么第四个的话就是一些软素质,就是你自己的快速学习力,包括你的逻辑思维。 最后一个其实是时间,就是这件事情你是否有时间和精力去投入,呃去通过你的脑力,包括一些体力去输出,因为他并不是一个很简单的这种训练项目,所以我在参加了 这个项目之后,我还是有一定的收获想分享给大家,我觉得你们可以去了解一下,至少通过这个视频记得关注点赞收藏。可以知道大家现在已经可以去进行自动化的一些迭代以外,他还是 在每一个你发出问题的背后,有很多的行业专家进行着知识的支撑和输入的,所以其实我觉得这是一个很伟大的事情, 我给大家展示一下,就是这边大家可以看到其实这是一个实际的训练的真实场景,就是说我们会输入什么样的信息给到 ai, 让他去做一个这样预训练的信息填充。那么就是我们平时去做 prompt 的 设置的时候,呃,首先你要去定义你的问题的角色是什么,然后给他对应的背景任务信息, 那么就可以看到,比如说你是什么什么公司的什么样的岗位,然后基于公司什么样的背景,然后导致说呃招聘成本会比较高,需要去降低。那么在这个过程中,其实你如果说给 ai 发问的话,你是不提供任何的数据源,或者是一些 呃比较贴合你们公司业务的一些背景信息,那么 ai 给出来的一个结论,他是呃会不太如预期的。所以在这里你就要去设计,呃去输入你们公司相关的一些,比如说呃这个招聘数据的现状包,这个现状包里面,呃我等一下会给大家展示一下 它会包含什么样的维度。那么第三个的话就是处理规则与约束,也就是呃你再去告诉 ai 有 这样的背景和输入以后,那么你要对它进行一定的要求或者是原则,那这里面就会包含它的这个交付物输出的格式。比如说老板让你交付的是个 ppt, 那 你就需要输出 ppt 格式,如果是 word, 那 就是 呃那个 doc 格式或者 docx 格式,嗯,包括 excel, 那 么这个呃格式确定了以后,里面还有工作表的名字。 然后最后一个很关键的就是 rubric, 大家可以理解为评分的规则或者评分的标准,因为其实我们做绩效考核或者是去定各种的一些嗯,工作任务目标的时候,你都要给出一定的评评估标准、评分规则,去告知对方 你达到了什么样的条件,你就能呃怎么样,对吧?有一些梯度的设计,那在这个大模型的训练的背后,他一定呃,他一样也是要有这样的一个约束在的。所以就是我这边给大家展示出来的这个呃信息,就可以看到基于我刚刚上面提到的一些背景和处理的规则约束以外,还会要继续细化每一条的 rubric。 那所以这里面就比如说呃展示了相关的这种交付物的这个明细,然后以及对应的体系,它会需要呃每一个基于过程啊结果指标和效率指标不少于五个, 嗯,包括了在这个最后可能我们还会有一些合规的要求,然后以及一些性别歧视或者是个人信息脱敏的问题。然后在这个整个的 rubric 的 规则的设计上,你需要去预估对应的完成时长, 呃给到 ai 去做一个设定,那么最后 ai 反馈给你的一个这个交付物呢?就会有对应的一个我们刚提到的那个, 呃这个招聘数据分析体系。然后接下来我再给大家展示一下实际的一个附件,输入数据和预期交付物数据的一个界面,这些都是 demo, 大家可以去呃这个大概的指导一下框架就 ok, ok, 然后现在给大家展示的 demo, 呃,我们可以看到这个招聘数据现状包,就是我刚提到的输入材料, 然后这个里面输入的它会包含数据现状,然后以及现有自断清单和看板的需求访谈,就是说你给 ai 让他帮你去执行一个任务的时候,你是需要给到他这样的一个输入材料的,那么在这之后我们就可以得到对应的答案, 答案就会包含我刚那个评分规则里面所有的一些明细项,它需要全部符合,比如说指标体系,它需要包含过程结果和效率指标,然后每一个需要去符合。呃,它的指标名称、定义、计算公式、目标值、域值和应用场景,包括它的采集规范,包括它的高管看板,包括它的运营看板以及部门看板和报告模板。 就是在这个过程中,我们能得到这样一份完整的,甚至可以直接拿来即用的报告之前,那都是基于我们首先在前期的输入和规则约束上做的足够的细,所以你最后才能得到这样的答案。那么以上就是今天所有的关于大模型训练背后的故事,不知道屏幕前的你有没有 get 到一些点呢? 因为通过这个的背后,我觉得行业专家以及现在你真的在某一个领域是做的很垂类很垂直的。你都不要焦虑,因为你未来有可能成为大模型训练其中的一个贡献者,因为你的专业,因为你的知识,因为你的头脑,你的判断和决策是无法替代的。那我们今天就分享到这了,拜拜。

还在纠结你的电脑到底能跑什么大模型?试试这个开源神器微欠来了,目前狂揽三点九 k 星标,自动检测你的 cpu、 gpu 和内存配置,直接告诉你最适合运行的本地 ai 模型,支持多种热门大模型,还能模拟 rtx、 四零九零、 五零九零等显卡配置,提前规划硬件升级,一句命令自动推荐最佳模型,从此不再盲目下载几十 g 模型踩坑 ai 本地部署玩家必备工具,关注我,了解最新项目资讯!

今天大表姐给大家隆重的介绍一款新品, ai 综合探救箱,这款产品是专门为高中和中职的学生们量身打造,零基础的学生们也可以轻松上手。设备支持图形化编程和代码编程双模式, 搭载丰富的硬件模块,还配套有自主研发的软件平台。想了解更多的细节,咱们一起开箱探秘。 小智小智,语音化简成功,请下达指令! g、 c、 b, 点头摇头再跳舞!点头摇头再来一段舞蹈! 小智小智语音化简成功,请下达指令!打开风扇,打开灯光好的,已经为您打开了风扇和灯光。 ai 综合探救箱一体化设计,开箱即可用。配套丰富的课程资源对标多门人工智能课标的持续内容,充分满足学生们的实操开发需求。有感兴趣的老师和朋友们欢迎联系大表姐,记得点赞关注哦!

叉的 gpt 到现在都没有回本,难道训练模型真的是很烧钱的事情吗?今天我们就来拆解一下,假设我们要从零开始训练一个餐数量为七百亿的专业大模型,那么整个训练过程中所产生的资源消耗主要来源于这样的四类,第一类就是数据资源, 我们知道数据是模型训练的原料,而一个七百亿参数的大模型所需要的数据量大概在一万一条左右。数据资源大体可以分为这样的三类,第一类就是开源供有的数据,这类数据是免费的,但由于来源混杂,数据格式混乱,需要花大量的精力去进行清洗和处理,所以它的成本主要来源于清洗的费用,而清洗的成本主要来源于 服务器的购买和租赁,以及员工薪资,所以为了不重复计算,这部分划掉了。第二类就是商业的授权数据,这类数据清洗成本较低,但需要专门购买,就 算一百万来算。第三类就是人工标注的数据,标注的话分为两类,第一类是基础标注,第二类是专家级标注,成本是不一样的,我们按两百万来去计算,那么在数据资源这部分的总成本大约在三百万左右,这是保守估计。第二类就是硬件资源,这一类资源就是我们成本的大头了, 是模型训练的主体。类别的话有这样的六类,第一类就是 c p u 的 服务器,主要用于数据计算、模型加载等,至少需要二十台。第二类就是 g p u 服务器,这一类是硬件资源中的大头,同时也是模型训练的核心,它的作用就是去执行超大规模的分布式运算,也就是我们之前所说的正向传播、反向传播,梯度更新, 大概需要六十四台。第三类就是存储服务器,用于存放模型文件数据资源,需要五台。第四类就是管理调度的服务器,用于监控系统运行的状态,以及资源在服务器之间的调度,需要三台左右。第五类就是网络交换机与光纤,用于连接这些服务器并进行数据传输, 大概需要数百个。第六类就是其他的机柜、电池、场地等。费用上分为两种情况,第一种就是我们自建机房去把服务器买断,总成本算下来要一点二亿左右, 但是我们现在的服务器集权已经发展的比较成熟了,如果租赁的话成本会低一些,但是这种方式确实会存在一定的数据泄露风险,并且是按小时计费的。这两千多万的资产最后并不属于 你,是完全烧掉的。能源资源主要用于保证整个训练过程能够持续安全的运转,主要有电费和水费这样两类,你可能会觉得这有什么可说的,但其实一个百亿级别的模型训练完成,总耗电量足够一千个家庭连续使用一整年, 所以是不容忽视的。水资源主要是用于冷却,因为整个训练过程中会进行大量的预算,而大量的预算会导致服务器产生大量的热,如果不冷却的话,服务器很容易就烧掉了,那我们算下来大概是一百万左右。人力资源主要就是去控制整个训练过程的,可以分为这样的五类,费用,算下来大概是四百五十万每年, 我们整体看下来会发现硬件资源其实是模型训练中成本占比最高的,如果是自建机房去买断的话,整个训练成本基本上也就是一点二亿这个量级,那如果是云端租赁,整个训练会花到三千多万左右。那今天的分享就到这里,我们下期再见。拜拜。

请你说一下如何建立起一个 ai 大 模型的认知学习框架。第一个阶段就是入门目标就是会用,理解大模型的基础概念,掌握主流模型的 api 调用,比如 gpt、 tcp block, 能做简陋对话内容生成,建立直观的认知。 第二个阶段就是中级目标,就是会训,理解模型训练和优化逻辑,掌握基础微调技术,比如 model, 能够在垂直领域做指标微调,适配业务场景。第三个阶段就是高级目标就是会建,具备独立模型优化和部署能力,能够开发对话系统 a 阶的应用,理解多模型协助逻辑。第四个阶段就是理论打底, 核心基础回顾,深度学习的基础知识,比如乾坤神机网络 t 路传播。理解语言模型从 r n n 到 s t m, 再到全是粉末,全是粉末是重中之重,撕透多头注意力位置编码,乾坤网络常常连接 leo 吗?了解分词技术,比如 b p e, word piece, sentence piece。 掌握关键优化,比如 k v catch, 混合经络训练,梯度累积。第五个阶段就是模型认知和训练对齐核心能力,搞懂 book g, p t, 拉 斑马等主流模型结构差异和设计理念,理解迪科的欧尼架构的优势,推理高效、延迟、低成本优。掌握 u 训练的数据采集,清洗去 虫,结构化高质量数据是模型效果的根本。掌握微调技术,比如 l l h f d p o p p o 更简单,效果更接近 l l h f 是 行业的趋势。 第六个阶段就是工程化和前沿应用落地的能力,掌握模型压缩,如蒸流量化减脂。学会分布式训练,如数据运行、模型运行、流水线运行 z 优化,精通推理部署。 如 kuv 缓存优化、动态批处理、服务化分装、融栽体系,聚焦前沿应用,构建 iig 系统,打造 a 阶的系统,拓展多模态的能力,做好评估优化。比如内容理解、幻觉识别、隐私保护、版本管理、用户反馈接待。学完理论之后剁手做项目, 搭建 iig 开发软件的应用,在实践中恐怖认知解决问题,才可以真正的掌握大模型的能力。最后说一句重点,我也是整理了一个二零二六年最新的 ai 学习路线图,包含了四个阶段,可以准确的看到应该先学什么,后学什么,用什么书,看什么教程,需要的扣六六六直接安排。

卷起来了,我的 ai 现在已经能自主调度其他 ai, 完成写代码、训练模型这些复杂工作了。反观很多人还在纠结该怎么入门大模型,不知道该从哪下手?今天分享一套圈内大佬都不愿公开的大模型疏通路线, 从零基础到顺利入行,每一步都给你安排的明明白白,建议赶紧点赞收藏,抢先一步,掌握核心技能。 第一步,打牢基础,搞懂大模型底层逻辑,必须吃透三大基石,神经网络的工作原理、自然语言处理、 nlp 的 核心任务,以及 transformer 架构中自注意力机制的运作方式。这是所有大模型技术的根基,基础不老,后面全是坑。 第二步,深耕三大核心板块, red 解锁增强生成 gpt 大 语言模型,还有 agent 的 智能体 red, 让模型能实时解锁外部知识。 gpt 代表了当前最强的文本生成能力, agent 则是让大模型从聊天机器人升级为能自主执行任务的智能系统。这三个方向掌握好了,你的技术壁垒就建立起来了。 第三步和第四步,进入实战阶段,学习本地部署大模型,掌握模型训练与性能优化的核心技巧,同时熟悉各类落地应用场景,知道企业真正需要什么。 最后冲刺企业级实战项目,优先选择可落地的案例来练习,让自己从会用变成能落地。 走完整个流程,你就能顺利踏入大模型行业。完整的学习路线图,每个阶段的笔记、配套的学习素材和实战项目,我都已经整理打包好了,评论区留下两个字,学习我全部分享给你,赶紧行动,别让机会溜走!

很多人训练 lara 模型最大的问题不是参数没调对,而是一开始就把方向打错了。 如果打标方式错了,素材质量不好,后面你再怎么调学习率、调分辨率,效果都会很别扭。今天我系统地讲一下怎么训练一个高质量的 lara 模型。这个方法不只是用于 animate, 也适用于大部分 lara 模型训练。 首先在你想清楚训练目标和训练内容以后,第一步就是打标。假设我们今天训练的是一个风格类模型,关于 anime 的 logo 模型,打标方式现在有很多不同的说法, 我也经常看到群里有人讨论,到底应该用短词组还是自然语言,到底应该标的细一点还是粗一点。 安利美是一个比较新的模型,对于新模型,我们不可能一上来就完全摸清他的强项和弱项,所以最稳的方法就是反过来观察他已经成功的案例。 首先我们打开 c 站,在图片区筛选安利美出图,然后从高质量图片开始往下看。 如果这些优质图片在出图时大多数用的是词组短语模式,那我们打标时也优先用词组短语模式。如果他们大多数用的是自然语言模式,那我们打标时也尽量贴近自然语言模式。 这一步不是为了抄提示词,而是为了判断这个模型更吃哪一种表达方式。 看图的时候还有一个很重要的动作,把一些相对特殊、有技巧性的图片保存下来, 比如背影、仰视角、大场景、抬头构图,或者一些结构比较极端的图。这些图后面不是拿来训练的,而是拿来测试模型的泛化能力。 所谓过你河,不是训练结束那一刻突然出现的结果,他通常是一个逐步发生的过程。 比如一开始模型还能稳定出背影、仰视角、大场景、抬头构图,但训练到后面,这些结构开始失控了, 本来应该背对镜头的人变成正对镜头,本来应该没有头的构图又把头画了出来, 这个时候就要警惕,模型可能已经开始牺牲画画能力了。所以我一般会把这些参考图的截图保存下来,最好连它用到的 lara 正向提示词、反向提示词一起截下来。 后面可以把这些截图交给智能体,让他帮你整理测试样图和提示词清单。同时看图时还要注意提示词长度。如果你看到高质量图片的提示词普遍很长很细,那你打的标也可以适当细一些。 如果他们的提示词普遍很短,那你打标也不需要写的特别复杂。还有英文表达也要注意。 很多词看起来意思差不多,但在模型里,权重和习惯并不一样。比如 girl 和 woman 都可以指女性,但很多二次元出图里, one girl 的 使用频率明显更高。 如果你看到大家都在用某个固定词组或短句,那你打标时也应该尽量贴近这种表达习惯。 当我们看了足够多的图以后,基本你就可以对这个模型的标注方式、标注长度以及标注细节有一个初步的判断。 下一步,打开模型作者页面,认真看作者对提示词和打标方式的说明。作者明确写出来的要求一定要优先参考,因为作者最清楚这个模型是怎么训练出来的,也最清楚他适合什么样的提示词。 至于作者没提到的部分,通常说明他不是最关键的变量,我们也不需要自己脑补太多。 完成这两步以后,再打开图图的超级智能打标器。打标工具有很多,但在这个场景里,我认为图图的打标器很关键,因为他可以做主体过滤。 如果训练 lol 的 时候没有做主体过滤,基本上可以约等于没有打标。至于什么是主体过滤,大家可以看我的置顶视频,这里我们不展开描述, 我们把风格图片导入进去,智能标注,选择风格,然后开始打标,因为我这里已经打过了,就不实际操作了。打标完成以后,可以先把标签翻译出来,这样更方便对照检查。 接下来不要着急导出,要逐章看。如果你用的是默认模式,基本上不会有错误,就可以直接用了。 如果你使用的是高级模式,那么就先把明显的错误重复以及无关的标签删掉,然后再逐一精修,该删的删,该改的改,该补的补。 修改完成以后,要加一个触发词,这个触发词建议放在最前面,而且一定要尽量没有明确含义。 怎么判断触发词有没有污染?很简单,实际测试用同一组提示词出一张图,再加上这个触发词出一张图。如果两张图除了随机差异以外,整体变化不大,说明这个触发词本身没有太强的映射。 但如果加上触发词以后,画面变化非常明显,那就要考虑换一个触发词。这个步骤建议一定要实测,可以减少触发词本身对模型的污染。 还有一点刚才忘了说,因为我们开了主体过滤,打完标以后也要检查过滤效果, 有些训练需要过滤的非常细,有些训练颗粒度不用那么高,这个要根据实际目标来定。 像这种风格模型我会过滤的细一点,所以打标时主体过滤可以开到零点九,打标和修改都完成以后就可以导出了。导出后打开图图的超级智能训练器。 坦诚的说,以往我适配模型时会做很多优化,但这次安利们模型我基本采用的是官方推荐的训练方案,所以和其他训练器的训练效果差异不会特别大。 后面如果有时间,我可能会再更新一版,给安妮美加入图图时间步相关。适配这个东西需要专门测算,做好以后对训练效果会有提升。 我的训练器是免费的,大家直接下载使用就可以。把刚才的训练机导入进去,选择自动模式开始训练就行。如果你想自己调参数,可以参考训练器自动配置里的参数。这里简单说几个重点, 第一,如果你的电脑配置比较好,可以把分辨率适当的调高一点,分辨率对最终质量影响比较明显。 第二,作者也提到这个模型的学习率要稍微低一点,可以使用鼻旋退火,让学习率逐渐下降。这样有两个好处, 一是降低过拟核风险,二是后期可以继续细化模型,对细节的学习。你的训练器如果有这两个选项,建议打开其他参数,更多是为了显存优化或者兼容不同机器, 只要还是 lowra 训练,整体架构差异不会特别夸张。有些朋友会加噪声,这个我不否认有作用,但一定要循序渐进,不要一次加太多。 还有人会问正则训练,对于这种相对简单的风格模型,我个人一般不建议上来就加正则,有的时候正则加的不合适,反而会把方向带跑边。 训练过程中,我最想强调的不是 loss, 不是 样图,样图比 loss 更直观,尤其是风格模型,我们除了要看 loss 有 没有继续下降,更要看风格有没有学进去,同时结构控制有没有被破坏。 比如可以看到这个训练从四千多步这里开始的时候,图片就开始发生了明显的分歧, 后面都出现了一些奇怪的问题。所以四千多步这里我们可能就要仔细的对它进行测试,同时也可以看到它的风格确实在发生明显的变化,这是我们想要的结果。 如果你想测试的更准确一些,样图里可以放一些特殊的测试图,这些提示词本身比较复杂,边界条件也更强。 如果训练过程中风格已经融入了画面,但原来的构图视角、人物结构没有明显跑掉,这就是比较理想的状态。 但如果你发现本来应该背对镜头,结果总是转过来,本来应该是才头构图,结果每次都把头补出来,反复出现这种情况,就可以考虑早停。训练完成以后怎么测试模型, 还是先用我之前讲过的 x y z 测试方法,先测出一个大概的范围,从里面挑出两到三个相对比较好的模型。这个 x y z 工作流我之前在 runnyhub 上发过,如果你本来就是在用 runnyhub, 可以 去找一下, 基于那个工作流,稍微改一改基本上就能用了。 ryan 哈布是我很常用的一个工作流平台,上面有非常多的工作流,现在还上了一些画布等功能,有兴趣的朋友大家可以去尝试一下。 下面我们继续刚才的测试,现在跳出两到三个后选模型以后,下一步要做一个很重要的测试,批量样图测试, 简单说就是把刚才整理出来的反推提示词批量放进去,只替换 lara 模型,其他条件尽量保持一致,这样每一 p 图之间的差异就更能说明模型本身的效果,而不是提示词或随机种子的影响。 通过这种方式,我们就能在比较强的边界条件下判断哪个模型风格学的更准,哪个模型结构更稳,哪个模型放话更好。 到这里,一个比较完整的训练流程就结束了。好了,本期内容就到这里,如果大家对安利们训练风格、 lara 主体过滤或者测试方法还有不清楚的地方,欢迎大家和我一起来交流讨论。

企业布局 ai 大 模型训练,不要一上来就组建技术团队,自研搭建框架。真正要做的第一步是先确定自身算力需求,匹配稳定合规的算力服务器资源。自建机房采购硬件投入成本高,部署周期长, 还要承担后期运维耗电和设备损耗压力。选择专业算力租赁服务,可以直接拿到标配整机,无需额外硬件投入,上线速度快,能够满足大模型训练、推理、运行等日常业务需求,资源可以按需调配,灵活适配企业发展节奏。想低成本稳妥开启大模型训练,不妨在评论区聊聊你的项目规模。