就在刚刚,王小川的开源大模型又有了新动作,百川智能正式发布一百三十亿参数通用大语言模型 acooo 幺三 b b a s e 官方对此评价,性能最强的中英文百亿参数量开源模型。与此一同出道的还有一个对话模型, a 库王幺三 bc h a t 以及他的 i n t 四。除以 i n t 八两个量化版本,但更重要的一点是,完全开源,免费可商用。 nice! 那么这个号称最强开源大模型具体表现如何?多领域超越叉 g p t bacon 幺三 b 在一点四万亿 token 数据级上训练超过 lum 幺三 b 百分之四十,是当前开源十三字节尺寸下训练数据量最大的模型。 bacon 幺三 b 使用阿拉拜位置编码技术,能够更好的捕捉文本中上下文的相关性,做出更准确的预测或生成。 bacon 幺三 b 采用相对平衡的中英文语料配比和多语言对齐语料,从而在中英两种语言上都有不足表现。 来看看 bacoon 幺三 b 在中文领域的测评成绩。 bacoon 幺三 b 在自然科学、医学、艺术、数学等领域领先浪漫幺三 b vqna 幺三 b 等同尺寸的大语言模型 英文领域的表现也算不错,能比同尺寸的其他开源模型表现更好。来看看对话模型的实际表现效果,比如让他写个商品介绍邮件, 数据推理能力如何? 为什么完全开源可商用? bacon 幺三 bb a i c e 对学术研究完全开放,所有开发者均可通过邮件向百川智能申请授权,在获得官方商用许可后即可免费商用。 我们都知道大模型在训练的成本极高,欧派、内爱和谷歌最初选择碧源路数就是为保证自己的优势。后来米特推出的浪漫背道而驰却迅速吸引大批开发者,并迭代出各种叉 g b t 的替代品,甚至在性能上可以匹敌 g b t 三五。 业界对大模型未来发展已经达成了一个共识,类似安卓和 us 将会是开源和闭源共存的状态。因此开源在大模型的发展中已然成为一股不可或缺的中坚力量。
粉丝1709获赞1.8万

仅隔二十五天,王小川的百川大模型又升级了。就在昨天,百川智能发布了通用大语言模型 beach one 十三 b bass 兑换模型 beach one 十三 b 太子极其影视影子八两个量化版本不仅参数量猛增到一百三十亿,而且极高性能、完全开源、免费可商用等诸多优势于一身,是目前所有三十升币以下尺寸开源模型中效果最好的可商用大语言模型。 相比此前发布的 baitch one 七 b、 baitch one e 三 b, 在一点四万亿抽根数据级上训练超过了 me 三 b 百分之四十,是当前开源十三 b 尺寸下训练数据量最大的模型, 在 cfo、 momlu 等中英文领域评测榜单上均名列前茅。在国外已建立起碧源及开源大模型完整生态的背景下,百川大模型弥补了国内高品质开源商业模型的不足,也降低了国内企业部署焊条式的使用成本,让中 中国开源大模型商业化记录真正可用阶段。该模型对学术研究完全开放,其他开发者在获得官方商用许可后即可免费试用。 并且为了尽可能降低模型的使用门槛, ncn 这把两个量化版本在近乎无损的情况下,可以很方便的将模型部署在卢三零九零等消费级显卡上,感兴趣的兄弟可以去试试。关注龙哥,了解前人恋爱资讯!

讲两个消息啊,第一个中国百川大模型啊,第二代他的这个新的模型又开源了,新一代的这个模型就是百川的二代模型啊,那他这次模型里面呢, 公布了这个一共发布了七 b 和十三 b 两个开源的模型,一个呢是基于这个预训练完成的没有经过微调的贝斯模型,还有一个呢是经过微调之后可以做聊天的这样的一个恰特的这个版本,那恰特版本呢,他还提供了一个四倍特量化的一个版本,所以一共是五个版本。那么 这次百川的那个二代模型的话呢,他也是可以免费的商业使用的啊,只要你给他发个邮件进行申请,然后呃获得官方许可之后,就可以免费的请您商用啊。 目前这个大模型的话呢,是越来越多了啊,我也看到有很多网友给我留言说这个模型实在太多了,几乎是来不及看,我们还是看看啊。百川的这次 七 b 的这个模型,它有一个就 c i o 的这样的一个评测,是中国中文的这个评测里面它的得分还是比较高的,那五十四分比原来 chat g a m 杠六 b 的五十点二零分要高四分啊,已经超过了 g b 三点五啊。那么这个评分是这样,但实际又是怎么样?这个我们还得要观察一下, 它是基于武校特的这样的一个评测,还有一个呢,就是 m m l u 的这样一个评测,这个主要是英文,英文评测会比较多的啊,英文评测里面的话呢,它得分也是不错的, 五十四点一六分跟 l m 二的杠,七 b 的这个模型的话是四十五点七三分,看起来还是不错的,没有超过 gpd 三点五啊。在英文方面 ggd 三点五是六十八点五四分,他是这样, 所以,呃,也说明就是中国的这些开源大模型啊,进展还是非常顺利的,就是还是性能上面有所突破的啊,他既然能够发布二代的话,说明他肯定比一代有更多 国的一些突破和创新啊。我看了一下,他跟百川一代的比起来,确实有十几分的这样的一个提升,这个是十三 b 的这个模型,十三 b 的模型的话会更强啊,达达高尔达到了五十八点一零分和五十九点一七分啊, 是这样的一个情况,中国在发布一些呃,一百三十亿的这些大模型的时候呢,阿莫扎比的话,最近又公布了一个超大的一个开源的模型,是目前是开源模型里面最大的一个,网络规模达到一千八百亿啊, 就幺八零 b 的这样一个飞鹰的这个模型,这个模型的话在开源界也是比较有震动的,因为他是中东的一个一个研究所啊,进行研发的研,他在这个性能上面也非常卓越,目前在开源的这个里面排名是非常靠前的, 甚至它呃 pa pa l m 二就是 google 开 go go 闭园的 large 的这个一个模型啊,目前 被公认为就是开源能力最强的一个 lm 的大模型,那么说明是什么?飞鹰的这个幺八零 b 公布出来了之后的话,我看就是说后面开源出来的这些大模型的话呢,他只会越来越大啊。最近我也看到苹果,苹果公司每天据说花呃几百万美金也在训练这些大模型 啊,他要把 siri 啊这些应用啊,都要利用到这个大模型啊,因为现在大模型出来的话,苹果公司啊也是疯狂的在挖 google, 在挖 obana 的一些人,他也要尽快推出自己的大模型,据说他的网络规模要达到两千亿啊,这样的一个 大型的一个规模,他的这个飞鹰幺八零 b 他是用了四零九六个 gpu 进行训练啊,他是在亚马逊云上进行训练,挺厉害的,四千多个 gpu 花了,他们目前也是把这个数据级叫 defined whip 这样的一个数据级给公 布出来的啊,性能也是非常炸裂的,那么这个项目他也是可以用在商业用途上面,当然他说他的这个商业用途,他的 他的许可证可能会比较严格,这个是他公布的这样的一个性能啊,公布的这样一个性飞鹰幺八零 b 这个模型如果要完全推理起来,他的要求是比较高的,他是要八组八块 a 一百这个四十 gb 的 gpu 进行推理的,他这个如果是呃 全量的这个模型的话,那么如果你用是 f p 十六的话呢?那只要用八块 a 一百八十 g b 的这个 g p u 进行推理就可以了,一般用这个就够了,如果是用量化 就是呃 g b t t, 呃 g b t q 啊,四四个整形量化,主要用这个八块 a 一百的四十 g 的这个显卡就够了,所以它的推理的要求还是比较高的,但是它的性能会比较好,是目前开源模型里面性能是最好的, 之前中国他们也有一些超过千亿级的这些大模型,但目前的话都没有把它给公布出来啊,都是一些碧源的啊,在这样在做啊,随着这个飞鹰这个一千八百亿的这样的一个大模型 能够推理出来,之后的话,我估计像辣妈二的这些模型的话,都会慢慢的这些超大型的模型会都会公布出来。上次最近我也看到一条消息了,目前 oba ai 的 gpt 五啊,正在训练中了啊,他们号称是他现在的这个处理,他的这个网络规模的话是 gpt 四的一千倍,就是 会更大的一个超大型的一个模型。所以的话,目前看这个在人工智能上面的这个军队竞赛,其实还是还是都是紧张的,都在持续中啊,以英伟达显卡这个作为一个基础的这样一个设施,大家真的都很厉害啊,所以的话,你只有有足够多的这些显卡,那么你才能 训练出这个超大规模的这样的一个更智能的这样一个模型。他是这样的啊,呃,他相当于是一个资金啊,和一个硬件的一个比拼了,他等于啊在技术含量上面,当然也我相信数据量大了,他什么都是问题啊,他这个肯定就是你规模越大啊,那他肯定有各种各样的问题会发生的啊, 下次有机会我可以给大家再来介绍一下欧盟 ai 啊,他们用呃 cubanatis 啊,跑大概两千多个 gpu 的那个 server 啊,他这个当中也有各种各样的问题,因为他这个数据量大了,他都是问题。好,今天我这两个新闻就跟大家就聊到这啊,我也欢迎大家给我留言啊,看看大家有些什么感兴趣想了解的,那么我们可以一起再来交流一下。

二十五天的时间,王小川的百川大模型又前进了一步。继上一次推出七 b 版本的大模型之后,王小川的百川大模型又一次更新了,这一次推出了一百三十亿参数的大模型。 根据报导啦,这次一百三十亿参数版本的百川大模型在中文和英文的评测当中,仍然是同等级大模型性能最好的存在, 超越了国外的羊驼家族的模型。而且更重要的是,百川大模型仍然走的是开源路线,有很多国内的开发者在尝试使用国外的开源大模型,比如羊驼系列来去做本地化部署,但是国外的开源大模型在中文的词上面并不是很好, 而目前百川大漠星的发布,应该说是给了国内的开发者们一个更好的选择。我也不知道为什么,虽然明明知道大漠星赛道 是死亡赛道,可是总是觉得王小帆他有机会能成,没有理由,也没有逻辑。也许是我自己一厢情愿,希望看到中国科技圈内能够有一个技术理想主义者去取得成功,而非都是成熟的商人去获得成功。 也许是我想看到中国也能诞生出像 openai 这样的公司,一家以技术为导向的公司,一家能够创造奇迹的公司。


如何让 gpt 教你学习最新的开源项目?今天我们让大模型来教我们使用最新的开源项目游路 v 八。我们知道长安 gpt 最新的知识,直到二零一年九月,并且最多也只能输入一万个单词,根本无法处理这么长的文档。 所以今天我们要用的是 cloud 一百 k 能支持七万多个单词,可以直接把优乐微八的原文档一股脑的丢进去。我们先让大模型来做个总结,这里我们就知道优乐微八可以做目标检测、实力分割、关键点检测等任务。以目标检测为例,我们可以让他根据文档生成代码, 训练目标检测模型设计到的配置文件,同样也可以让他根据文档给出格式和参考视力,按照要求配置好后,就可以直接运行代码训练模型了。训练完成后可以再让大模型给出推力代码,这样我们就轻松学会了 ulov 八。

百川五三 b 大模型来了,今天发现百川五十三 b 大模型可以申请内测了,话不多说,带大家快速感受一下。 首先浏览器搜索 chat 百川 ai, 进入网站,完成手机号的验证登录并申请内测,稍等片刻就会收到短信通知,再次进入网站就可以开启内测之旅了。我们让百川讲个故事, 可以看到效果也是相当不错的,故事很完整,有头有尾,我们继续让百川写一篇头脑风暴, 可以看到输出的内容很详细很具体,我们在试试百穿的写代码能力,可以看到代码的质量也不错,并配有注视,同时提供了详细的测试用力。我们试试画图效果,虽然不能直接画图,但是还是输出了详 细的景色描述内容。我们继续让百川根据提供链接写一篇总结出来,从效果来看不是很好,生成的内容与网页本身的内容不相符。最后我们再尝试下 plugin 的功能, 从结果来看可以提供实时的天气信息,还是相当不错的。小伙伴们还在等什么?快来申请试试吧!

rwkv 大,他们开源的这样的一个 lm 的,这样的一个模型,他到底是怎么用的?跟大家来介绍一下。这个是代码,这个是代码。首先的话呢,你要用这个 rwkv 的话呢,首先你还是本机要装一个这个裤,要装一个内裤的,装一下, 装一下这个裤要安装一下,安装完就可以用了。他等于是这样,我自己是安装了一下,先要装一个这样的一个内裤,装完之后的 lanchen, 你也要装一下,装完之后你就可以把要把一个预处理的模型可以下载下来用。我是在这个哈根 face 上面,他有一个 rw k v 杠四 贝斯,他的目录,在这你可以看到他的文件是非常多的。我是用了一个第十一个版本的,我用的是这个啊,因为他有那个英文,英文训练百占百分之九十四十九,中文占百分之四十九,其他的各占百分之一。呃, 日本的和其他的各占百分之一。我用了这样的一个模型,你要把它提前下载下来,下载下来之后呢,你就放在一个目录下面,我是放在这个目录下面的,给大家看一下。这个文件的话,将近有十四个 gb, 下载还比较慢的,那还要下载一个这个 就是这个文件。这个文件的话呢,是在哈根 face 上面,就在这要把这这个两个文件要预处理的,把它给下载下来之后,你就可以运行这段代码了。运行这段代码,我先创建了一个模板, print 模板,不的话呢,就在本地去加载这样的一个模型。 我这个地方他其实是一个策略,策略我是用了 f p 十六,就是半精度的。我用了酷打的这个啊,这个是 tokens, tokens 就是你前面下载的这个文件的一个目录就可以了。你就调这样的一个方法,我把这个指令加进去之后,你就得到一个返回值啊,他会把这个模型 装载起来,我看装载还蛮快的。装载起来之后的话呢,他返回值就是这样的。所以这个模型用起来还是相对来讲,因为他跟连线就整合的比较好了,所以他用起来还是比较方便的。用起来是比较方便好 大概跟大家就介绍一下啊,这个啊,我们还可以看一下这个这个文件啊。 wkv 跟大家讲一下这个指令,指令这一部分。嗯,在哪里指令?他有一个策略, 那他有一个指令的,他是比较多的。你看他可以用 c p u f p 三十二,也可以用 c p u f b 十六,当然也可以用 c p u 的那个 f p 三十二杠 i, 所以他用的这个内存是不一样的。他主要是精度不一样。 我前面用的是 f p 十六,当然你也可以用 f p 十六 i 八 i 八的话呢,它的这个使用的内存会更小一点,它等于是这样。这个就是它 那个所谓的这个策略啊,就是你可以用 g p u, c p u, 然后用不同的精度,它等于是这样。或你不同的精度,它的使用的那个内存和使用的 g p u 的内存都是不一样的。这个这个地方要要关注一下。一般的话用这个就够了。酷到 f p 十六的话,我用了一个七 b 的模型, 他大概用了将近十四个 gb 的虚拟 gpu 的内存大概是这样的,他这个里面还可以设一些 os 的一些参数。他这儿讲的如果你用的这个变量,如果设置为一,他的那个速度会更快一点的。这个好。嗯,今天就跟大家就聊到这,主要还是介绍一下这个 rwkv 这个模型。

各类人工智能领域迎来重磅消息,百川大模型 baichuan 二五三 b 正式发布。这次发布中, baichuan 二五三 b 首次开放了 api, 意味着这个大模型正式进军商业用途了,而且这个模型的数学和逻辑推理能力也得到了大幅的提升。据了解, baichuan 二五三 b 模型在处理换解相关的问题时已经达到了格列领先水平。这个模型的开放将为格列的人工智能领域注入新的活力, 将为众多企业和开发者带来更多的机会和可能性。百川大模型 baichuan 二五三 b 的开研与商业化,不仅将促进人工智能技术的快速发展,也将带动相关产 it 发展,为人类社会带来更多的便利和创新。让我们一起期待 b a i c h u a n 二五三 b 模型在商业领域中的更多应用和突破, 相信他一定会在未来为我们带来更多惊喜和创新。如果你对百川大模型有任何看法或者预测,快来评论区发表你的观点吧!

多模态最近很火,分享一个开源的大模型视觉助手拉瓦,这是一个端到端训练的多模态模型,它能够实现类似 gpd 四的多模态效果, 不仅能理解文本,还能理解图像,像根据图片实现前端代码识别。冰箱的食材给出菜谱都不在话下,亲测效果还不错。我刚给他上传了一张茅台酒的照片,他会告诉我这是一个中国白酒标签,上面有中文字。如果你是 ai 应用开发者,我强烈推荐你去体验一下,毕竟 gpd 视觉版的 api 还没有对开发者开放。 最后啊,我预告一下,过两周我们的产品也会更新类似 gpd 四的视觉能力,等上线了我会发一期演示视频,喜欢记得收藏。

ai 界的安卓系统正式开源了,羊驼二可以称之上目前开源系统中最强的 ai 大语言模型,而且可免费商用。今天老张教大家如何把羊驼二部署到你的本地,咱们提前体验一下。首先看一下效果,可以直接将拉玛尔部署到咱们的本地电脑上, 根据您电脑性能不同,咱们可以选择不同的版本,性能越强,它的效果也就越好。接下来老张教大家如何轻松的把它部署到你的本地,咱们提前体验一下辣么二究竟有多强大。首先第一步,咱们可以去 dd hop 网站中搜索 test 杠 generation 杠外部 ui, 要这样的一款 ui 工具, 咱们可以往下去拉,找到最底端的这个下载选项,根据您的电脑系统进行下载。下载完成以后,直接将压缩包解压出来,然后双击进入,然后选择 start 杠温 六字典 b a t 这个文件双击打开。如果过程当中有任何问题,欢迎在评论区当中进行留言,老张会给大家一一解答。好的,安装成功以后呢,咱们会发现他会自动的给您产生一个 test 杠,占地 recent 杠 y b u i 拿到他以后,咱们不要着急启动。 老张呢给大家提供了这样的一个拉马尔七 b 的一个语言包模型,如果您这边说老张我自己想下载,我去哪下呢? 可以直接去这个憨狗 face 上找到这个 mate lamar 这样的一个文件,然后选择您对应的版本,因为它本身是三个模型嘛。七 b 十三 b 七十 b, 根据您的显卡进行选择,如果您是第一次打开这个网站,会让您先去做一个申请,因为我这边已经申请过了,咱们可以直接选择文件和版本,然后可以在这直接进行对应的下载,这是第一个下载方式,第二个下载方式可以直接 下载对应的版本,注意咱们的版本后缀是 ggml 这样的一个版本信息。当然如果说你说老张我什么都不想下,我只想体验一下所有东西,我会给大家打包整理好,到时候你可以直接在老张这进行领取。 ok, 然后这个地方都配置完成以后,咱们再次的双击打开,如果双击过程当中爆了一些错误,咱们可以先尝试更新一下对吧?这有一个更新系统,然后双击打开,当咱们打开之后,他会弹出一个 uil htvp, 冒号幺二,七点零点一,冒号七九零八,证明咱们这次启动是完全 ok 的, 咱们就可以直接打开您本地的浏览器,直接启动就可以,启动完成之后不能直接使用。注意上方有一个 model 啊,这个这模型对吧?把模型这个位置一定要选择咱们的这个拉吗?二,这样的一款模型,这款模型 咱们放在哪呢?放在咱们 test 杠 generation 杠外的 ui 的文件夹中,有一个 models 文件夹,把这个模型放到这个里面,我会给大家把模型提供,你直接拽进来就可以,然后在这个位置选择模型,一定要选择复合,然后再点击刷新, 刷新之后回到这就可以轻松的进行聊天了啊。因为现在这个羊驼二呢,他刚刚开源,对中文呢还是不太理解的,所以说咱们不要担心,你先把他部署上,后续都会逐一更新的。

今天我们再给大家来演示一下那个书生普语的 incol lm chat 二十 b 的两百亿参数的这个模型,我们看看能不能把它刨起来啊。因为是二十 b 的两百亿的这个参数,所以他基本上是要用四 四十 gb 的将近四十 gb 的这个内存啊,来跑啊。呃,我是用两块 gpu 啊,我们来一起来跑一下。目前这个模型我已经下载下来,它的整个模型的大小将近 四十四十一 g 左右啊,他有五个文件啊,那还是相对来讲还比较大的。下载完了之后呢,我们已经跑起来了啊,我给大家看一下,我们已经跑了,跑了用两块 gpu 把它跑起来了。我前面也测了一下,他整个一个两块 gpu, 零一和零和零一啊,他每块 gpu 大概占用的是将近二十 十 g 的内存,他推理的时候每块 gpu 大概是负载大概是在百分之五十以下啊,他大概情况是这样,我用的两块 gpu 是三零九零啊,两块。结果前面也测了一下,他可以跑通了,也用了那个欧奔 ai 的那个 sdk 啊,基本上跑起来了啊。 into l m chart 二十笔,我用了他的是这个聊天的这个模型啊,不是他的那个预训练完成的一个模型,他是已经微调完的一个模型啊,我让他做了一些简单的一些测试啊,这个也是可以的。测了一个聊天的接口啊,测了一个 inbeding 的这样一个接口, inbeding 这个接口,他回来的这个 不像其他的模型,回来是一零二四个像量的这个数组啊,他是比较大五幺二零五幺二零的这个 inbiding, 所以一般的话我估计 inbi inbiding 的话应该不会用这个模型的啊,他这个数组像量会 非常大,比较占空间的。其他的话我看了一下都是正常的啊,我们看一下再跑一遍,速度还是挺快的。两块 gpu 跑,所以它性能还是可以的啊,这个又跑了一下啊, 两块 gpu 基本上百分之五十的负载。呃,内存变化不是太大。好,我们再来测一下,怎么把它跑在八个 bit 上面,看看它的内存是不是会下降一些啊?我们再来做个实验啊,它模型加载的话呢,它需要一定时间的,这个有可能不成功呢,因为八个 bit 亮化的话,它是目前是不支持多 cpu 的, 我们看看吧,应该会凹 off memory 的。那他只跑了一块 gpu, 很快就崩掉了,他亮化的话估计只能跑在一块 gpu 上面。好,这个跑起来了,看一下 我估计是不成功了。跑成功了吗?八位量化,但是我看他没有跑,他这个八位量化是假的,他还是跑 bf 十六的,这样一个浮点,用了两块鸡皮跑。好。今天话呢,就简单的测试,就给大家就就演示到这。

一觉醒来,最强的翻译大模型来了啊!这个就是麦塔耶最近发布的 similize fourt, 它与以往的一些翻译模型呢,有很大的不同,它是一个多模态的翻译模型啊,它可以无缝的翻译和转录语音和文本,你可以将语音翻译成其他语言的语音, 又或者呢,将语音翻译成文本,文本翻译成语音,文本翻译成文本。而且啊,他还支持一百多种语言啊,最重要的是他支持中文, 你要知道,现在支持中文的开元大墨镜啊,实在是不多,我们直接看效果,先找一段文本让他翻译,可以看看翻译的效果怎么样。甚至呢,你还可以上传一段音频,让他来翻译,音频官方呢,也提供了一个弹幕,可以快速的让你体验他的翻译功能,感兴趣的可以去看一下。

今天给大家带来最强开源十三 b 模型,百川十三 b button、 十三 b 中英文大模型、极高性能、完全开源、 免费可商用等诸多优势于一身。相比此前发布的 battle one 七 b, battle one 十三 b 在一点四万亿 token 数据集上训练超过 nol arm 十三 b 百分之四十,是当前开源十三 b 尺寸下训练数据量最大的模型,对话 角色扮演能力接近 g p t 四,简直太强了。 推理能力不错,我加上了 int 八量化要十六 gb 显存 点启动自动下载模型,开启网页, 启动前先把环境中加两个缓存,要不然会把模型下到 c 盘。

就在昨晚,国内有八家大模型企业拿到了国家商用的资质,其中几家连夜宣布开始公测,其中也包含造势已久的文新一言。老哥对他们的实际表现很是好奇,他们能否超越 chat gpt 呢? 今天我们来测测看。今天的主角有三位,来自百度的文心一言,来自 chat gm 开发公司的智普青言,来自国内首个宣布开源可商用的百川智能的百川大模型。请注意,此测试并非大语言模型专业评测, 测试内容和测试结果仅供参考,测试方式和往期视频一致,这里不多作赘述。首先来看语文测试的结果,质朴轻言全对百川大模型和文心一言各错两题。商用 大模型的语文成绩的表现,当对于开源的六 b、 七 b、 十三 b 的版本有了显著的提升,但仍然存在错误的情况,看看语文的错题吧,百川大模型无法正确改写背字句, 和之前开原版本模型一致,文新一言答错了,由山西村只有作者没答全文,同时他们俩都答错了,见往知来的见的意思。接下来看看数学成绩,数学的表现,三个模型都不错,质朴轻言再次全对, 温馨一言和百川大模型各做一题,他们俩莫非商量好了?和语文一样,商业大模型的成绩再次大幅领先开原版本?来看看错题吧,百川大模型在待除法多项式中给出了错误答案,推理过程中出现了明显的 错误。而文新一言的五百公顷后面的小数点就很有点迷惑,莫非是由于量化导致的?接下看看英语成绩,质朴轻言又双若全对,文新一言和百川大模型又各错一题,质朴轻言这水平目前已经称得上遥遥领先了。 来看看具体的错题,还是之前错误率最高的起始句补权。文心怡言和百川大模型的错误也类似,他们仿照了例句而没有作补权,理解能力存在错误。 为了排除是题目本身设置不合理的问题,对文新一言和百川大模型优化了题目文案,但结果仍然相同,他们真的做不到补全。接下来是科学成绩,文新一言和智谱清言错了一题,百川大模型错 做了三题,质朴青颜终于开始错了。具体来看看错题吧,百川大模型一如既往的没有答出页研,质朴青颜把食盐回答成了盐,而百川大模型把食盐回答成了碳酸钙。 温馨一言的回答表现出了他知道残的四个阶段,也知道成虫就是鹅,但他就是答错了。最后来看看道法成绩,百川大模型全队 文心一言句答一题,质朴轻言句答两题,这里的句答是指表示自己无法回答并强行中断绘画, 这里就都算他们答错不多做展开了。接下来是总成绩,质朴轻言拿到九十四分,排行第一,与数外全队,文新一言拿到八十八分,排行第二,科学并列第 一。百川大模型拿到八十四分,排行第三,道法并列第一。三个模型的成绩都超过了 chat gpt 负三点五。从模型能力来看,质朴轻言遥遥领先,没有明显短板, 文新遗言和百川大模型都还存在一定不足。另外提一句,质朴轻言的能力在本测试中超过 chat、 gpt 四 国产大模型还是很能打的,希望他们越做越好。本期到此结束,谢谢大家的观看,觉得有用的小伙伴欢迎一键三连,再次感谢!

用大语言模型做应用才是正确的方向。今天给你们分享一个可以像搭积木一样构建 ai 应用的工具。 promot fro 是微软最新开源的一套开发工具,它大大简化了基于大语言模型端倒端开发 ai 应用程序的周期, 实现了从构思、圆形设计、测试评估到生产部署和监控一条龙服务。具体来说,你可以用 promote pro 把不同的工具和代码组合在一起,形成一个可以运行的工作流。接着利用 vsq 的将工作流可视化,方便你进行调试和修复问题。 特别是与大语言模型的交互部分,如果你对 python 比较熟悉,可以按照这个入门教程实践一下。另外,官方还提供了实用的案例,教你从零到一搭建和 pdf 聊天的 ai 应用。整体体验下来啊,我认为这个工具比我之前给你们分享的 province 好用不少, 我们最近也开始利用此类工具基于大于模型来开发 aibox。 如果刚好你也对 promtang new 感兴趣,欢迎一起学习交流。

internal l m 的这个模型啊,二十两百亿参数的这个模型已经呃公开,呃就是开源了啊,然后这个也是国内第一个两百亿的这个大模型,那么这个模型的话,之前我也演示过,如果你要呃进行推理的话呢,它至少需要四十几笔的那个 gpu 啊,所以的话,如果你不做, 如果你不做那个量化的话呢,它至少需要两块 gpu 啊,最好啊。那么现在的话呢,我们就用了一个呃,把这个模型两百亿的模型做一个四十 bit 的这样的一个压缩啊, 量化操作啊,量化操作完了之后的话呢,我们一起来看一看啊,他他的整个内存的这个消耗,量化操作的话呢,还是比较简单的,我们之前也是介绍过用了一个叫呃,叫 ot gpt 的这样一个项目啊,那么这个项目的话首先要进行量化啊,进行量化操作,那么他量化的话呢,他是要把所有的这个模型 加载在这个 cpu 的内存里面,他需要消耗的内存是比较大的啊,然后大概要跑四十五分,跑到大概二十五分钟这个样子啊,那么他基本上就跑完了啊,跑完了之后呢,你就可以把这个模型给加载起来,然后进行呃操作了啊,那我看了一下, 呃,我是让他输出这个 auto g p t 是一个什么样的一个啊?那么他也是能够准确输出出来啊,那么他的整个过程当中,我们可以看一下他的内存的占用啊,内存占用的话,他他还是比较少,只有十三 gb, 就是原来从四十 gb 下降到十三级,差不多下降到原来的三分之一左右啊,比原来的三分之一还低,低一点啊。差不多啊,原来的三分之一左右跟原来的这个理论值是一样的, 那么这样的话呢,那么他就可以在单块的这个 gpu 上进行运算啊,进行推理和加速啊。好,呃,这个就给大家演示到这啊,那么如果大家有兴趣的话呢,可以给我留言啊。

aia 镜头目前在整个业界被认为是大模型落地最有希望的方向,市面上的 aia 镜头有很多,大部分是基于 bimapi 构建的。摩拉社区最近开源了 moscopaeigent 这个以开源大模型作为核心中枢,通过使用工具来提升大圆模型的整体能力。 今天我们花五分钟教大家如何基于开源大模型来开发一个 a 进的系统。首先我们介绍一下 a 进的,如果把大模型比作人脑中枢, a 进的就是人体。 在任务执行中,大模型负责规划调度的命令发布,由 ag 的协同各种 ai 小模型或者 api 就能够很容易将大模型实际落地到各个行业的应用场景。 接着我们看一下 agent 是如何执行任务的。用户输入请求后,摩拉 ant 会先做一系列的工具检索,比如用 户想要生成一个商品文案以及对应的商品视频介绍 a 呢,就会先去检索相关的 a p i 大模型进行规划调度,调用对应的视频生成 a p i a 型的去执行对应的一篇,然后把执行的结果返回给大模型,大模型最终整理一段回复反馈给用户,为你带来全新的 vr 视觉盛宴。 而为了完成以上任务, ant 主要调用了三个模块协同工作,以大模型为中枢,包括记忆模块和工具使用模块。大模型中枢模块主要负责任务规划调度以及回复生成。 而记忆控制模块主要包含知识检索以及 promote 管理。最后工具使用模块包含工具库以及工具检索和工具的可定制化。现在教大家怎么使用模达 aj? 首先我们打开 notebook, 将 moscopy 的代码可弄过来,打开 demo 里的这个文件,接下来我们读取环境变量文件和工具配置, 构建好后,搭建工具向量检索。这里提供了基于阿里云 darescope 引斑顶和摩拉社区开源引斑顶两种,我们这里拿 darescope 引斑顶作为演示。然后我们启动中枢大模型, 这里以 msa 镜的千万七 b 作为样例,点击直行 a 型的就会拉取七 b 的大模型进行部署。 模型部署完成后,现在我们用于构建 a g 特的工具配置工具检索大模型部署均已完成,这样我们直接完成了 a g 的系统构建。接下来我们测试下构建好的 a g 特,让它生成一张有花有酒的图片, a 景的自动检索图片生成工具生成请求,并调用相关的 api。 接下来我们看一下生成的图片, 可以看到这里很好的生成了有花有酒的一个高清大图。接下来我们给大家演示一下怎么基于摩大 aj 的使用检索工具构建行业问答。在 notebook 里打开另一个文件,读取环境变量和工具配置部署大模型 到这里的操作和刚才演示的是一样的。 接着我们需要配置向量检索服务,这里拿摩达社区开源的 corel 文本向量模型来演示。 构建好向量服务后,我们导入摩大社区的知识文档以及对应的切分工具切分知识库文件, 然后将文件和支库服务导入近开源的向量检索工具 face 向量检索引擎构建完毕,我们测试一下向量检索引擎召回的效果,问他一个摩纳社区相关的问题,比如 model scop 模型可以在互联网使用吗? 我们看一下 ad 的调用知识库前的回答,可以看到里面存在着大量的知识幻觉。他说摩拉社区很多模型都支持非网络下使用,这是不正确的。然后再看知识库调用完成后的回答, 这下回答正确。未来摩达 a 进程还会接入更多的开元大模型,以及开放更多基于摩达 a 进程开发的应用,包括个人助力分身、 sora 进程、 智能导演助理等等。也欢迎大家将摩达 a 进展用于工业制造、游戏开发、智能互联等各行各业。