一分钟深度解读叉 gpt 四点零九月二十五日升级的重大意义。这是升级了语音和图像功能,可以实现。看,听说这相当于 gpt 长了眼睛、耳朵和嘴巴。先说图像,你可以拍照,让他教你如何修自行车,他会一二三四五告诉你。 然后你针对某个细节再去向他提问题。找一套工具让他告诉你用哪一个扳手去进行调整。 gpt 都可以给到你最合理的解决方案。 出问题菜的 gpt 就会找出问题所在,并做出相应合理的回应。可以排插烤箱无法启动的原因,拍照分析冰箱中的物品来计划菜单,分析复杂的图表, 提取相关数据。真的是生活工作一手抓。再说语音,他可以使用语音与 g、 p、 t 来回对话,请注意是来回不阶段的对话。你可以让他给你的家人讲睡前故事或者工作 建议等等。 gpt 设置了五个角色来回答你的提问。与 siri 等语音助手相比,他的语气听起来更加憎人。智能语音助手领域的谷歌、苹果的巨头,听了怕是也要连夜开会吧。 重点来了,看了 tpt 的报告后,我发现这个模型竟然是十个月之前就训练好的,这次突然放开,不知道要干掉多少初创企业。国内的大模型企业还有很长的路要走,埋头冲刺吧,努力做到遥遥领先。 aa 变得越来越像人类了,让我们一起来持续关注。
粉丝3920获赞2.7万

微软目前也在往开源的这个小模型上搞,他目前发布的这个小模型呢,叫哦欧卡这个模型,这个能力非常强的,他在某些推理能力方面, 它已经超过了,甚至有些达到了 g p 四的这个能力。但是它的这个模型是非常小的,因为我们清楚恰的 g p t 或者 g p d 四,它的模型是非常非常大的。那么之前 g p 三已经达到一千七百五十亿的这个参数了。 这次的话,微软他是出人意料的发布了只有一个一百三十亿的这样的一个大模型,因为他是十三 b 的,他这个上面写错了 一个模型,他这个文档写错了,他是一百三十亿的这样一个算是跟价值 gpd 来比,他算是一个小模型。开源欧卡这样的一个模型。这个模型他的那个训练方式是有所创新的。回头我们再讲。我们先看一下他的规模,可能只有集第四的几百分之一,或者是其他模型的那个几十分之一。但是他在 很很多测试方面,特别是在多轮的推理方面,他完全是碾压一些开源的这些模型。比如说开源模型里面最强的叫维库纳,我们来看一看他这个到底是怎么碾压他们的。这个是他的这个公布的这样的一个评估。欧卡杠十三 b 的话呢,就是他 gpd 四评估的话呢,它的得分要超过了恰的 gpd, 呃,达到一百零三 gpd 的话呢,就恰的 gpd 的话,大大概是一百, 库纳的话大概是九十二。对啊,这个差异还不算太大,我觉得这个差异是比较大的,他是特别是在一些数学和一些推理方面的,这个能力差异还是比较大的。这个的话呢,他达到四十二,比库纳开源的话呢,差不多只有他的一半左右,超过百分之五四十几啊,对这个差异是比较大的。 那么他这篇论文里面呢,也讲了,如果你的训练方式得大,或者你的数据量啊比较他说这个巧劲啊,要胜于蛮力,因为你大模型 他训练相对来讲还是比较简单的,把互联网上所有的这个数据都喂给他,我让他自我学习,他这是一种方式。呃,微软的这种方式,他除了把一些数据喂给他之后,还要给他一些提示,他叫 system 指令,系统的指令就是告诉他这个答案是怎么来做的,是怎么来推理的。这个也是比较重要的,他在这个里面也讲 讲了一下。当然他这个推理过程他也不是人工产生的,他也是通过恰的 g b t 或者 g b t 四作为老师,然后不去不断的去训练这些小模型,他是通过这种方式来做的。 我们来看一下他的这篇论文上面,他们是怎么赶超下的 gdp 的,这个是代表了他的一些任务。他在这篇文章里面也讲了,目前的开源的这些模型的话,他最弱的这些地方,主要是还是在一些推理能力上面。 如果面对七步的逻辑推理能力,开源的最强的 viclena 跟 g p 四的性能相差五十五五十五倍,所以它这个 c o t 机的这个能力会比较差。开源目前这个 cot 的能力会比较差。那微软呢?就是想通过一个小模型怎么去改善他这个 cut 的能力,那么他做出来之后,他说他目前开源出来的这个模型,这个参数要比,跟比空娜是类似的,但他的这个性能上面要比他高二十九倍,差不多是这样的一个能力。他就是在这个上面讲了一下, 这个是他的一些推理的一些能力,什么逻辑表达式的推理,一些各种各样的推理的一些步骤啊,一些能力,辨别一些颜色的物体啊等等,他有各种各样的这个实验,他这个叫任务,任务任务,他有掐的几掐的, gpd 的这个得分, og 第四的这个得分,然后开源里面最强的被库纳杠十三 b 的这个得分,然后还有那个欧卡,就是微软目前发布的这样欧卡的这样的一个模型,他的评分,这个是他的得分是跟开源的比,他的这个得分就是显著上升,他得特别他在这个 地方讲这个逻辑的七步的这个推理能力上升了二十七二二十九倍。他这个推理能力就是大大提升平均分。最后他的平均分呢,要比恰特 gbd 要高,当然跟 gd 四比起来,他还是会弱一些。他的目前是这样。 我们看看他是怎么取得这样的一个非常好的这样一个性能的,他们做了些什么事。主要的问题他还是在提示指令上面,他主要是讲就说目前这些小模型,他为什么他的这个推理能力 他会比较差,他的有几个方面,最核心的就是他所列的这些。那第一个就是他的这个指令比较简单,而且缺乏多样性,所以他的泛化能力会比较差,所以他有些推理,他根本就不知道你到底要做什么事。另外他的这个推理主 指定所收集的这个数据规模比较小,他等于是这样,所以的话,你你这些数据比较少,那相相对来讲就说你就 不能激发出原来这个模型的这个能力,他这个对此能力就不行。还有一个呢,他他们目前的说就是这这这些模型,他只能是通过这种这种方式去做模仿的这种学习方式,所以他提出了一种新的新的一种指令学习的方式。他在这个里面讲,原来都是这样的,用户的指令输出,他是通过这种 指令输入的问题,最后输出的这个答案,他通过原来都是通过这个通过 gpd 四,然后产生正确的答案,这个就是指令,他会把这个问题和这个答案再输给他那个开源的小模型,通过这种方式去做。那现在他们呢?就是这个思路发生巨大的转变,他的转变是什么?就是在这个上面,他增加了一个叫系统的指令, 就是你这个用户的指令。这个问题你要去告诉他,你应该一步一步的怎么去思考, gps 根据你这个指令,不会产生一步一步的这个推理的这个结果一二三,他是到底怎么推, 再把这个答案告诉你,他是通过这种方式去做的,把这些作为一个训练的数据,再输入到这个开源的这些模型里面去做。所以他就得到了这样欧卡这样的一个非常强大的这样的一个模型。那么他这种超过了下的 g p t 都达到了 g p t 四的可能百分之八十的这样的一个能力。 所以他的这种他主要是修改了一下他的指令学习的一些方式和方法,他就可以让他的模型的推理的能力得到了一个大幅的提升,这个提升幅度是非常大的。他这个里面也是讲他跟开源目前最强的 来比,要提升了一倍多,一百十三点七,他等于是这样,这个能力是很强的,在某些任务上面的提升最高的要达到二十九倍,这个是很厉害的。当然他其实本质上他还是通过其实工程里面的令里面再经过微调这样的训练,达到了 这样的一个欧卡的这样的一个性能。好。这篇文章应该给我们也有些启示,特别是对我们要训练一些行业的一些模型,我们大概会清楚的我们那个行业模型应该怎么样的更好的利用这个 恰的 g p t 四或者恰的 g p t 作为一个老师,输入一些什么样的指令或得到一个什么样的结果,输入到我们的那个模型里面去进行微调,能够微调出一个比较强的这样一个模型。好,今天这个话题就跟大家就聊到这。

太棒了朋友们, gpt 又多了一个新按钮,竟然可以直接共享对话框了,并且还可以接着提问啊!比如这个是我们训练好的小红书文案解锁,你直接点开这个链接,点击肯定领,这个训练好的对话框就会出现在我们自己的记录里面,然后只需要输入产品或者选题,就能不断的生成笔记。 我们的一个学员就用这个训练方法,昨天卖了两千多的货,这个功能真的太赞了,大家赶紧用起来。想要这个共享对话框,扣一下共享。

在美塔开源了大模型羊驼后, uc 伯克利的研究人员发布了二创模型 recuna, recuner 的训练成本只需要不到两千元,在 mac 上就能运行,并且性能能够达到叉 g p t 的百分之九十。而在 uc 伯克利之前,斯坦福也发布了他的二创模型奥帕卡、 opak 和 vacunnor 都是羊驼的英文名,都是基于 mate 的羊驼大模型调整而来的。研究人员用 gpt 四给这辆模型进行打分, weqna 的分数要高于奥帕克。我们来看一下 gpt 四给这两个模型的打分过程,同时问奥帕克和 weqna 一个问题,写一篇关于最近去夏威夷旅行的旅游博客,强调文化体验和必看经典。 weqna 写了一大段故事,情节薄, 还带有感情色彩,而奥帕克则只有简短的一小段,然后给 g p t 四讲清楚任务是什么,评判标准是什么。一到十分开始打分, g p t 四给 vacunnor 写的夏威夷博客打出了十分的满分, 而奥帕克只有七分。 bq 的模型训练过程只用到了七万条对话数据,而且算力成本不到两千元,他甚至可以用一个 gpu 就能运行起来,感兴趣的小伙伴也可以自己去体验一下。

gps 的那个模型架构啊,好像是被泄露出来了,我别人讲了,整个一个模型大概包含一点八万亿的参数,采用了这个混合的专家的那个模型叫 m o e 啊,今天我们先对这个 混合专家模型 m o e 到底是个什么概念?我们大家一起来交流一下,我们一起来看一看欧奔 ai 的那个 chat g p 四的话呢,目前就是 是很难超越的,是在碧源,在所有的 l l m 的那个大模型里面,他不管是各种各样的能能力啊,多模态啊,他的排名都是远远都是超过第一的啊,一直是排名第一的,是在目前是最厉害的这个模型,因为他真的好也是个碧源模型,所以大家纷纷都在猜啊,他这个模型到底是 呃是通过什么样的一个基础设施训练出来的啊?训练了多少数据级对吧?他大概是一个什么样的一个网络结构啊?那么很多呢,互联网 大厂啊,包括各种各样的谷歌啊, facebook 啊,美国的包括阿里,腾讯啊等等,一些头部的 ai 公司都一直想把它的这个欧根 ai 的这个掐的 gbd 四能够复制出来它这个能力,但是到目前为止它还是没有,还是没有,就是把它能够比 超越这个 gd 四这个模型。所以呢,大家就一直在猜他,那他到底用一个什么样的一个模型和框架啊?最近有人在那个吹车上面把这个消息给公布出来,原来是一个黑客。最近的哈也有一些权威人士啊,都跟他讲了一下啊, ggd 四是采用了这个 m o e 的这个模型来构建的啊,他说是用了十六个混合专家模式啊,每个模型就相当于那个 g t 三的这个参数,就一千一千多亿的这样一个参数啊,然后经过了两个专家模型啊,然后他训练而成的这个 g t 四,因为我们也清楚 g t 四里面有一个很特殊的功能,就是 多模态的这个功能啊,他等于是这样啊,我们今天就一起来聊一聊啊,他这个 gpd 四里面的 m o e 的这个模型到底是什么啊?他到底给整个一个大模型带来的价值到底是什么?我们一起来看一下啊, 我也在知乎上面看到了这样一篇文章啊,都是一些 ome 的这些原来的一些论文,我们可以看一下啊,那本质上来讲的呢?专家模型的话呢,它 他就是跟我们的人脑是一样的,他就是他有,他会对某些他的应用场景主要是这样讲的,因为我们的数据集他其实是有一些呃,他所谓的就是不同的玉啊,或者叫 doman, 他有不同的 topic 啊, 有些他主要是讲的是那个文字的,有些主要是讲的图片的啊,有些主要是讲声音的啊,他有各种各样的功能,而且这些数据他是相对来讲都是独立的模型啊,相互之间呢,也是不不用太干扰的,他这个 样本是不太干扰的那但是如果你把它放在一个模型里面,那个样本和样本之间就会形成一些干扰啊,他反而没有这些独立的功能模块性能会更好啊,他等于是这样,他有这样的一个天然的一个缺陷啊,所以别人就发明了这种叫那个 m o e 的这种模型啊,专就是专家模型,每个小模型它就是一个专家的网络,它再把它组合起来形成一个通用的这样的一个网络。那么它这个通用的网络呢?它是用一个 get away 这个 network, 通过一个呃路由的这样的一个门啊, 去路由到每个专家模型里面去,他主要去看啊的样本,他适合用哪个专家模型,或者这两个三个专家模型都会用啊,那么他这个上面的权重是怎么样?他都是有这个专家模型的这个 get away the network 去控制的啊,他这个就是一个通过一个小模型就组合成一个大模型啊,这个就是 m o e 的一个 最基本的一个原理啊,他他是最基本的一个原理。是这样啊,那么他们一般是怎么来训练的呢?那么他这篇论文里面呢?是他这个也讲了,在在二零 呃一呃,一九一九一年他这个论文就已经出现了啊,他们就来再再讲这个专家的这个模型到底怎么组合起来形成优的这样的一个模型啊?最优的一个网络啊, 它这个里面是这样来讲的。呃,基础的原理它是这样的,就是一个样本进去之后,它会分别给专家模型和这个 getaway 啊, 这个 get away 的这个 network 呢,它主要是让这个三个模型能够相互的合作,合力形成一个最优的这个方式。但是呢它这个模型它也要本身也要去看一下这个样本输入进去专家模型的这个训练是否合适,嗯,它等于是这样,它会这个三个模型,这个专家模型既有竞争又有 合作的这种方式,去共同去把整个一个网络达到一个最优的一个状态啊,他是通过这个来做啊,那么这个里面他也有些表达式啊,他也有一些数学的表达式啊,这个我们呃简单的就过滤掉啊,这个里面因为我们进入人工智能的这个模型,他还是有一个反向求导的一个过程, 所以它的这个公式,他们就会把它变成这样的一个公式,而又是指数化又取 log 这种方式啊,那这样,呃,他把这个模损损失函数变成这样了之后,他求导的时候呢,他的每个模型的输出 跟他自己有关系,跟其他的模型就没有任何的干扰啊,这样会导致他这个模型比较容易收敛啊,这个都是他的这个模型的一个基本原理啊,他是在一九九一年这些理论就已经发明了啊,在二十多年前啊,他这个理论就发明了,现在的话呢,他会变成这样,他们基本上都是基于这个 transformer 的这样的一个模型在做啊。那么 这个 transformer 的这个模型,基于 m o e 的这个 transformer, 它就是在这个地方,它会有一个公用的这样的一个类似于这个它的几个层,像一个 get v 一样,它可以共享的。是啊,它是通过这种方式来做的,那它可以把这个权重进行分享, 或者是公用的这种方式,把几个专家的 n 个专家的模型都可以联合起来,原理跟前面的那个基础原理是一样的啊,只是说现在大家都用的是基于 m o e 啊,这个底层结构都是 transformer 的,这样 incode 的这种方式去去做的啊, 那么这样的话,他他在那个 google, 原来在二零二二年哎,他就做了这个方面的研究啊,因为他 gdp 三推出来之后啊,那个模型已经非常大了,超过了一千七百多亿。 google 他就会把一系列的模型联合起来,他达到了一个叫 g l a m 的这样的一个模型,他达到了一点二个 的总的参数量,这个总的参数量呢,他就是有一系列的小模型组合起来的,他虽然有这么大的一个参数量,但是他在计算的过程当中,他的激活的参数量呢,其实是非常小的,只有九十六个币啊, 九百六十亿的这个参数啊,但是它这个模型的话呢,是非常大的,那么它这样会,它这个通用的模型能力又很强,同时性能又很好,因为它的激活函数就很少, 因为他很多模型是公用的,他只要用一个专家模型,他只要是输入的样本,他去看啊,哪个专家模型是适合在跑啊,那么他就往那个方向去走啊,他 通过这种方式的话,他就是把一个巨型的这样的一个模型啊,通过几十几个专家模型的联合啊,他反而他的真正在推算的过程当中,他反而真正的激活函数又激活的参数又很少,这样就达到了,他又是个大模型,同时他的推理的这个工 量又很少啊,他的性能又很高啊,他是达到这样的一个目的啊, google, 他在二零二二年就做了这样的一个实验啊,他们就往这个方向已经在走了啊,那 obai 别人估计啊,他的那个 gps 也是通过这种 ome 的这种模型来构建的,他本质上来讲他也是有十六个这种专家的模型 啊,组合构建而成,就通过我前面讲的这种方式组合构建而成的啊,虽然它的参数量非常大, 参数量非常大,可能有十三万亿的参数量,但是他的共享的,他的每个模型的激活的这种参数也只有一千多万, 就是一千多个亿的这个参数量,所以他运行起来就会非常快,效率推离的成本就会很低啊,当然他要去呃训练这样的一个混合的一个专家模型,他的那个训练过程,他的训练成本相对来讲还是 是比较高的,还是比较高的,但是他的那个推理成本就会很低啊,用起来的话成本就会下降啊,效率就会很高啊。好,这个我今天跟大家聊的啊, gpd 四啊,他的呃被泄露出来的这个最新的混合专家的这个模型,跟大家一起来交流一下 o m e 的这个模型到底是怎么回事啊?那么它有些什么好处对吧?它到底是什么样的原理?哎,跟大家就简单的沟通到这好。

gpt 四的预训练模型是一种巨型语言模型,它基于 transformer 结构,使用大规模的语料库进行训练,以获得更强大的语言生成和理解能力。与 gpt 三相比, gpt 四在模型规模、训练数据、计算资源等方面都得到了显著的提升。 gpt 四的预训练模型采用了更加深层的网络结构,其中包括多达两千五百层的 transformer 编码器和两千五百层的 transformer 解码器。每个 transformer 层都包含自注意力机制和前溃神经网络,使得模型可以更好的捕捉长距离依赖关系和上下文信息。 在训练过程中, gpt 四使用了超过八百亿个单词的语料库,其中包括各种领域和语言的文本数据。通过在如此大规模的数据集上进行与训练, gpt 四可以 生成更加流畅、准确和有意义的文本。除了预训练模型本身, gpt 四还采用了更加精细的微调技术,例如使用多任务学习和领域适应技术来提高模型在不同领域的表现。此外, gpt 四还引入了新的训练方法, 如岩马语言建模和双向 transformer 结构,以进一步提高模型的性能。总之, gpt 四的预训练模型是一种非常强大的语言模型,它通过大规模的训练和精细的微调技术, 可以生成高质量的自然语言文本,并且具有广泛的应用前景。

还是接上一期视频,很多网友答对了,这的确是一张运算卡,主要的使用场景呢,就是人工智能的 ai 深度学习卡,比如现在非常流行的人工智能差的 gpt, 早期的训练模型就是使用的英伟达 v 一百和这款 k 八零的两款显卡。最新的叉的七 pt 四已经开始使用 a 一百和 h 一百来进行 ai 模拟训练了,而后者的两个显卡已经被美国限制出口到中国了。这两个显卡虽然在超创领域神一样的存在,并且二十四万的天价在此之前还需要排队购买,那现在排队也买不到了。 不过办法总比困难多,我们手里的一些数据中心客户就在新加坡开了分站,把部分的 ai 人工智能训练项目搬迁过去,然后获得数据再返回来。 回过头来,我们再说一下手里的这个 k 八零,这类显卡也可以用作其他的大型数据运算,早期的英美达特斯拉 k 系列都是其余开普勒加过的高技能显卡。这个 k 八零在之前晚上也是人称双星河的,使用了两颗机 k 二幺零的显卡芯片以及二十四 g 的显存,也有很多人模改成普通显卡,但是多多少少都会有些 bug, 不太建议个人去改。我个人比较感叹的是,这类企业级的显卡,即便是经过了几年的使用,再流入到民用市场,也可以看看这些参数依然强大。再比如说最新被美国限制出口的 h 一百超算显卡, 仅仅是显存就已经达到了八十七,显卡的带宽更是达到了变态的三 tp 每秒。我估计五年之后我们在民用市场能买到最大显存的也肯定达不到八十七。

今天给大家介绍一个非常重要的概念,这个概念可能是你用来理解这次 ai 为什么这么火爆的一个关键的钥匙,这个概念就是 j b t。 但是在介绍这个概念之前,我先想给大家介绍一下什么是 ai j c aigc 的话,我们可以单独把它拆开来看, ai 的话就是人工智能,它机人工智能的话就是基于统计分析和概率论,我们去做一些回归,做一些分类这样的一些事情。而 gc 的话就是内容生产,这款内容生产其实是 ai 的一个应用领域, 所以 a i j c 连在一起的话,就是我们怎么要去用人工智能的模型,人工智能的算法去生产一些内容,而 a i 为什么能够自己去生产内容?这里头其实就是会讲到今天 关键的一个信息,叫做 j p t 这样的一个模块儿,它我们怎么去理解它?它其实就像我们大脑里头的神经元这样的一个东西,我们大脑里头有数以亿计的神经元组合在一起共同的作用,让我们去具备了一个人类的智能。 而机器它其实就用了这个 j b t 的东西,让机器产生了一个智能。 j b t 我们也可以分别拆开它的每个字母来理解,这代表就是生辰式这样的一个概念。 深沉式跟传统的那个积极学习会有一些区别。像我们传统做那个人工智能算法的时候,他基本上是我传进去一个文本或图像,他是最后会给以分类或者是以回归的方式给你一个准确的一个判断。而深沉式模型会有一些不太一样,他基本上会 我文本输入,会输出文本,或者或者是文本输入生成一个图片,他更像是我不同模态之间信息的一个预测,而他这个技术可以用到我们,比如像问答系统、机器翻译,还有文本生成这样的一些任务。 而第二个单词 p 它所代表的就是预训练,预训练在这个作用过程中其实作用是非常非常大的, 因为像我们人类有很深,通过几千年的演变,我们把所有的知识全部沉淀到了我们书本里头,然后我们去进行学习,而机器其实也是同样的道理,但是我们会用一个巧妙的方式,就是我们 让机器通过理解上文,他预测下一个单词这样一个简单的任务及人工智能的算法,利用刚才我说的那个,就是要介绍的这个 j p t 的单元,就能 能够学习到文本底下的知识,这个我们就怎么去理解他。其实会有一个游戏,我们不知道聚会的时候大家有没有玩过,我们围了一桌人,每个人会说一个字,第二个人会基于第一个人的字去接下一个,最后的话就一圈一圈这样轮下来以后, 大家每人说一个字,最后它能够组成一个完整的故事。其实机器去预训练或者学习人类知识也是同样的道理, 他就是通过把文本的上文去预测下文,通过这样的一个过程虽然是非常简单的,但是这个过程中他却能学习到大量人类知识底下所隐含到的那些潜在的信息。 而最后的话其实就是那个 t t 啊,是 transformer, 呃,它我们就理解成就是人类大脑中最小的记忆单 源就是那个神经元,而机器对于定的话就是机器的神经元,用来存储信息和相互作用,最后能够产生智能。这样这些话主要就是用 lstm, 后面的话是他们退出以后主要是迁移到了 transformer 这样的一个最小的神经元。

这是用另外一位星球粉丝提供的微调训练数据进行演示,他计划微调出按自己小红书写作风格持续弹出文字稿的模型,顺带帮他改改内容。可以看到,原始数据是一个 peg 数文件, open ai api 无法读取用于训练的, 里边有粉丝自己整理的过往文字版内容,有标题和文字部分,一行一行粘贴复制基本不可能, 真的不用花自己的时间去调。 gpt 训练数据级的内容格式分享,一周最多十分钟就调完上万条数据格式的方法, 我们分三步搞定,第一步,先把原始文件转换为 t s t 文本文件。第二步,让 check g b t 帮我们写个拍摄脚本,把里边的内容读出来,并创建一个 excel 格式的文件,将 标题内容放入 prompt, 将文字稿内容放入 completion, 复制胶本代码保存,执行胶本,读取上一步的 txt 文件内容。很快我们就得到了一个拆解好的训练数据集了。 第三步,用 openai mini 行数据转接工具来转换格式。这个指令之前视频有讲过,大家再去复习一下执行指令搞定了。 prompt 和 completion 都已经完美填充,直接可用于训练了,是不是很简单? 以上办法重要的是思路,大家都已经用上 chat jbt 了,那就多让他来提升大家的效率,大家训练其他开源模型也适用的。有执行力强的粉丝已经参照保姆教程完成了微调。 点个赞,对训练数据还有任何疑问,欢迎大家评论区或粉丝群留言,觉得有用记得点赞收藏。

我是圆圆,每天更新干货算法笔记。大模型的发展非常快,越来越多的公司和业务都开始应用大模型。 但是大模型参数量巨大,一般的方法无法直接 phantom。 那么我们该如何 phanton 自己的大模型呢?今天给大家汇总了四类大模型 phantom 的方法和代表论文。第一种是 promptuning。 这种方式不人工设定 prompt, 而是将其转换为可学习的向量。 promptuning 将铭文的 prompt token 全部替换成可学习的向量,基于训练数据对模型进行 fine tune, 指 fine tune 这些 prompt embedding 模型主体参数固定不变。这种方式不再依赖人工定义 promp 铭文模板交给模型自己去学, 同时需要 fine tune 的参数量也比较小。第二种方式是 prefix tuning。 与 prompt tuning 的思路非常类似。 prefix tuning 在输入文本前面加入一些任务特定的可学习参数,这些参数跟随下游任务做 fine tune 预训练模型整体参数固定不变。 prefix tuning 和 prompt tuning 是同一时期的两类工作,二者核心思路是相同的, 都是用一小部分参数的 find to 让大模型适配下游任务,二者区别不大。第三种方式是 adapter tuning。 在大模型的中间部分加一个参数量较小的网络结构及 adapter。 大模型整体参数 frees 不变, 只更新 deptor 部分的参数。 adapter 一般采用包头 neck 的结构缩小参数量,本质上 也是一种通过少量参数的更新影响大模型整体参数的 find turn 方式。第四种方式是 instruction tuning。 instruction tuning 将所有下游的各类 nlp 任务都转换为自然语言。在大模型的基础上, find turn 全部参数 fighting 的目标就是语言模型。通过这种方式,让欲训练大模型适应人类的指令及人类描述各类 n、 l p 任务,并要求模型给出答案的语言范式, 进而有效解决各类 nlp 任务,具备强大的 zero shot learning 能力。更多大模型干货、算法笔记也可以在我的公众号中查看详细图文解析。

各位小伙伴们,我教一下大家怎么去训练 gbt 啊。呃,这个呢是 clad, clad 呢,我把它训练成我想要训练的样子。然后这个是流程啊,比如说呃,我怎么训练你成为我希望你成为的那种。呃, gbt ai。 然后呢,他一开始呢给了一大堆 这种话术,那也对的,但是呢,我不希望他做多余的解释,所以他每次都讲了很多废话,那我就觉得这个有点勇于。然后我就让他尽量的把话术缩短一点,然后他刚开始不能理解我, 然后呢,我就每一次都提醒他,就有点像在 pua 他。然后我每次让他在回复我之前要称呼我老铁,刚开始呢,他都没有记住,他都没有记住。然后慢慢慢慢 几次我提醒他了以后,他开始有意识,但是他还是没法很好的记住我,直到我后面用比较严厉的语气跟他说, 然后他就慢慢慢慢记住了。最后我发现他还是会在叫我老铁,同时下面有一大堆废话。然后我就呃给了他一个限制。我说 你下次回复我的时候,你不要把话术超过三十个字。然后你看,在这个之前,你看他,我一直让他说你的话术太长了,剪短一点。他每次都会在下面说 讲一些嗯,感谢你宝贵时间,然后让我去使用他的一些说明。我觉得太长了。你看你又没有称呼我老铁,然后他就开始抱歉他后面还是这样。你看,然后到后面 我又提醒他了,慢慢慢他就改了。你看你又没有称呼我老铁,然后你还是讲了一大堆废话,下一段回复我不希望你再发我超过三十个字的回答,然后他慢慢就开始改了。你看,原来是这么多废话的。然后他现在就直接给我缩成了很短的句子。你看 你看,后面就听话了。所以,对于这种机器人,你要稍微 p u a 一下,那么它的生成效率会更高一些。你看你看,那话术就更短了,就解释说明也不说了啊。所以这种训练 gpt 的方法呢?嗯,效率会比较高,大家可以尝试着用一下啊。

免费使用 gpt 四点零,同时集成 chat gpt 三点五、 club 一百 k 等顶级大语言模型平台完全免费,不需要 chat gpt 账号,邮箱一键注册,无需验证码,就是稳定,就是好用,遥遥领先。 这就是大名鼎鼎的 poe, 网址是 poe 点 com, 我们直接使用邮箱注册,不需要拆的 gpt 账号,也不需要国际手机号接收验证码,直接邮箱注册,直接登录, 登录成功,这就是 p o e 的首页,在权威大圆模型 opencome pass 评测网站上,综合榜单排名前几名的大圆模型 p o e 全部都集成了,并且叉 t p t 三点五是免费的, 直接使用。我们先来测试一下 g p t 三点五猫为什么会在天上飞,三点五能力也很不错,他看出来了我们的体温有物,三点五 告诉我猫在天上飞这种说法是不正确的。并且 p o e 集成的三点五还可以帮我们读文档,直接点击这个曲别针, 选择一个文件,帮我分析一下公司财报,根据此文件做出分析和总结。他直接帮我们读取了文件,并且做出了对应的分析。 doe 集成的太太 gpd 三点五还是非常优秀的,并且他完全免费 飘逸,还集成了 cloud 一百 k, 不用多说, cloud 一百 k 正如其名,最强大一点是他能输入最大十万字的内容。我这里准备了一份六万五千字的专利文件,让他帮我们总结一下,帮我总结一下这篇专利 总结速度非常快,十秒钟读完了六万五千字,直接把我们总结专利重点。最后测试一下拆 ctpt 四点零,我们出一道陷阱题,看看 gpt 四能不能答出来。路上有七只鸟,开枪打掉一只,树上还剩下几只鸟。这道题三点五是永远答不出来的。 gpt 四答对了, g p t 四果然名不虚传。 g p t 四指出,这是一个常见的谜语,目的是测试人们对实际情况的理解,而不仅仅是数学计算。 g p t 四知道开枪的声音会吓飞所有的鸟,所以如果打掉一只,实际上树上所有鸟都会飞走。所以答案是零 p o e。 集成的 g p t 四每天可以免费使用一次。

让人人都能用上的室友 gpt, 一个本地部署可以在 cpu 上运行的 gpt, 他不需要联网啊,录制也不会传上网。如果你不想自己公司内部的数据 进入出去,同时也想用自己的数据进行训练,就用 g b t f o 进行事业部署。 g b t f o 让人人都能用上的自由 g b t 目前项目的新兴数量已经接近五十二 k, 他开源可以商用,他不仅是做那个聊天的界面,还是一整套的系统,几乎拿着就能用。另外他们 gpd four order 自家的系列模型,本机 bug 的数据相当出色,特别是他的十三个濒临的模型,得分直追 gpd 三点五。我们看一下怎么用, 这里下载源码,最简单的方法是直接下载安装包,安装过程中会提示下载模型,这里可以看到啊,除了他自家的 模型以外,还支持包括南方图战队的各种模型,我们可以根据需要进行下载,那我下的是七个比你的小羊驼。当然了,以后想用哪个模型也可以单独下载,我们在提问的时候可以在菜单中选择模型。另外我们也可以在本地的电脑上 配置一个文件夹,放入我自己的数据,让大模型能够访问,并且在回答问题的时候,大模型可以引用这个文件夹内的内容。这样就实现了,一方面进行的是一部署,另外一方面又能确定自己的数据,怎么样,是不是很爽快,去试试吧!

一觉醒来,又一个炸力的大模型上线了,据说和吉比利斯旗鼓相当啊。这是阿联酋推出的一个大模型猎鹰, 他是在三点五万亿个 token 上训练出来的,拥有一千八百亿的参数。这个模型呢,上线不到几天,九尾居哈根 face 排行榜首位啊。据官方称,这个一百八十 b 的模型在各种任务上,比如推理、编码知识表现都非常出色, 超过了迈特刚刚推出的拉姆二模型。在闭月模型测试中呢,它的能力仅次于 gbd 四,而且呢,还可以用来商用,未来很有可能会赶上 gbd 四。现在哈根菲斯上已经有呆萌了。经过浩哥的测试呢, 确实很不错,整体的逻辑和编码都没得说。但是这个一百八十 b 的模型啊,是真的耗钱啊。想要运行起来,需要八张 a, 一百,也就是六百四十 g 的显存啊。 想要进行全面的微调呢,就更耗钱了,需要十六张 a, 一百就是五千一百二十 g 的现存啊。说白了,你要运行这个模型,一小时的成本至少是八十块钱,而训练一小时啊,至少是六百四十块钱。

是不是最近很多 gp 账号都登不上去,即使付费的 plus 会员也没有用?这时候,如果有一个不需要网络,没有各种限制,能直接在你的笔记本里边就能运行的 ai 大模型, 就显得很重要了啊。你看我现在的网络是断开的,但依然可以去问问题,让 ai 帮我来执行任务。这叫特别感谢牛逼的开发者们开发的轻量化 ai 大模型。羊驼项目 二号。说到三月份,有人把 mita 公司开发的大语言模型拉玛的代码性来到网上,北阳 step 团队及 opennight gbd 三生成了一个包含有五万两千个啊指令的数据集,用于训练拉玛七臂模型。最终得到了羊驼七臂模型, 据说性能可以和 gpt 三相媲美。这个模型麦克、 windows 用户都能安装。大家可以查看 github 上这个项目的说明,也可以在学员群里面查看我写的详细教程。关注我,分享 ai, 帮你提高十倍生产力!


今天我们来给大家讲一下企业如果要用 gpt 或者是其他大员模型帮助大家在业务里面到底应该怎么做?其实通常有三种方法。第一种方法就是吹拧,就像 gpt 一样,用一个大模型去训练,那通常这个事情一般会花掉很多很多的钱, 比出 gp 三点五的模型大概是一千七百五十亿参数,那每一次的训练大概要一百万美金,那折合人民币你可以算一算,大概是七八百人民币的一次训练,要多次的训练以及调优,你才能拿到一个好的。 这个呢适合底气足的公司,用现有的 transfer 的模型,在自己的领域去训出一个独有的模型,那你就是这个行业的头部了。那第二种方法其实就是我们认为叫 find tony, 也就是那个金条或者微调,简单讲就是基于已有的大模型,我把自己的很多数据放进去,让模型去学 学习我们这里面的数据,并且呢他会生成一个相当于在一个嗯,他的 a p p 那边,你去调用一个被返 ton 之后的一个模型,那这个模型会具备你独有的一些信息内容,会更多懂得去学习。那第三种方法,其实你可以理解为是一些数据中间层的服务,像 vector in betting, 写入数据商量化等等的方法,简单讲就是我在记不记得外部去建一个知识库,一个数据,然后把我们自己的知识灌进去,那么这个 vector invading 方法,然后就能补充大模型不具备的对你的行业,你的企业领域知识不具备的这种能力,因为它去通过中间的这个中间储存的数据项量, 给大模型提供了一些其他的一些 incontext 能力,也就是所谓基于上下文丢给大模型进行理解,那他就能够具备更好的去应答的场景,可以非常好地运用在你的像客服交易、导购、咨询等等的场景。你会选择哪种方法?欢迎交流。

今天呢,我们用一个视频来讲解一个点,就是训练模型到底是在干什么?我们用一个非常简单的例子,相信大家能够秒懂。呃,训练模型的这个过程呢,其实是一个已知输入 已知结果,然后不断的用修改这个模型的参数,让这个模型的输出无限的逼近这个已知的结果这样一个过程。呃,举个例子吧,比如说就像有一个兵马俑, 我们也现在要建造一个模具啊,来去复制这个兵马俑。那如果我们用铁皮去来包裹这兵马俑,来试图得到它的一个形状,那我们只能得到一个大概一个轮廓。但如果我们用换成纸, 用纸片去包兵马俑,一张很大的纸,那就能得到一个比铁皮好好很多的一个轮廓,但是他依然啊一些细小的这些轮廓,我们是在纸包裹过程是被丢失的, 最好的办法是用什么呢?是用石膏把乒乓泳包起来,就能够得到非常完整的轮廓,对吗? 所以这就是一个呃,不同参数的一个过程,不同参数量的一个过程啊。铁皮,为什么?铁皮太硬,所以意味着他参数太少,他不能够完美的适应很多形状,纸片软了一些,他的参数多很多,但是他能够比比铁皮好,但依然不够好。 但是石膏颗粒呢,非常小,他能够适应任何的一个形状啊,基本可能参数的无限多啊,所以这样呢,兵马俑的形状就被 记忆在了大量参数的这样一个石膏模具里了。所以呢,我们看会来大模型的训练的一个成本啊,比如说 g p t 四,他的训练成本呢?坊间传言是六千三百万美元啊,那他的钱花在哪里呢?就是他有,首先他有很多很多个参数, 其次呢他要进行很多很多次迭代,那每一次非常多的几千亿参数迭代一迭代一次迭代两次,迭代很多很多次之后啊,这个过程呢会耗费很多的计算的资源,所以他的钱就是花在这里了。 那最后呢,做一个简单的总结,模型的训练过程就是去不断的更新模型的参数,使他的输出结果无限接近于我们所需要的预期的实际结果。这样一个过程啊,然后 当这个差值足够小,变成我们可接受的状态的一个时候,那这个模型就我们可以认为它训练到了我们的预期状态。

们不能直接让拆的 gpt 四点零读取图片,但是呢,我们目的是为了预测股票第二天的一个价格,所以呢,如果我们把它转换成数字类的文本数据的话,我们发现,哎,还真可以哎。 首先我们问 chat gpt 提供股票文本信息下载的网站,经过筛选,国内的网站都不合适,我们选择了雅虎, 我们登录雅虎财经网站,在搜索框中输入零零零零零一点 s s 上阵,综合指数查询,选择历史数据, 选择下载,打开数据文件,只保留二零二三年的数据。后面我们有两个选择,第一呢就是直接把数据配上问题粘贴到车的 gpt 的聊天框,他呢会详细的解释整个过程,同时呢还给出一段代码。最后呢,给出一个预测啊,二零二三年三 三月十七号,他预测上阵中指是三千一百一十三点四九六七幺四幺七么跟真实的数据去对比呢,有一百多点的误差。 我们还可以进入他的一个测试站点,在他的案例的 playground 里面去把问题和数据粘贴进去,最后得到这个结果呢,他预测是三千二百三十八点四三九九四幺,哎,误差比刚才小多了。

各位好消息,大模型训练已经没有门槛了, ppt 三点五现在已经可以在线微调,这就好比你有了一辆超级跑车,你可以根据自己的需求来进行改装,你所有的个性化定制的需求都可以训练出来,那我可能需要他直接变成大黄蜂,谢谢! 而微调后的 gpt 三点五在某种程度上来说是超越了 gpt 四的。那么问题来了,我什么时候可以用 gpt 四来训练我的跑车呢?恭喜 oppo ai 宣布 gpt 四的微调将在第三季度开启。不仅如此, oppo ai 还给了一颗定心丸,承诺所有用户的训练数据都是属于用户自己,不会被用于别的乱七八糟的事。所以你的跑车啊,独一无二。 不过别忘了,百度的大模型早就已经提供了在线微调的能力,流程也更加的完善,那市面上的大模型技术门槛已经降低,接下来就看你的能力了。关注冷科长,带你了解更多 ai 资讯。