粉丝938获赞445

一家全是机器人的虚拟公司,或许是我们对 ai 的终极幻想了,然而这个节点已经到来,看到最后呢,免费教你如何安装这款有意思的工具。 今天给大家推荐这个项目啊,叫做 chad, 这是个小白都可以部署的虚拟 ai 机器人软件公司,咱们可以看一下目前这家公司已经做了哪些项目了啊?这边显示呢,做了有简易的网站,各式各样的小游戏和小工具。 下面我来解释一下 chidef 是如何运作的这个虚拟软件公司呢,像现实世界一样,有着 ceo、 ceo o 以及设计部门、技术部门和测试部门等。当我们要做一个软件项目时,这几个部门之间角色会互相沟通啊,并且互相吵架来优化各自的点子,是不是还挺可爱的? ok, 我这边让他做一个这个像素鸟 slappy bird 的游戏来看看。 可以看到啊,公司内部已经开始争吵起来了,给出了不同的意见,但好在最后还是完成了。可怕的是呢,这么多份代码都是他做的,甚至还有 有一个完整的使用文档啊。现在我教大家如何安装 chat, 大家跟着我的这个输入就行了啊。 这款 cheer def 呢,目前可能只善于做一些小项目,小脚本等,但是我相信按现在 ai 世界这个速度来发展的话,不出一年,一些中型甚至大型的项目也可以交给他了。最后别忘了关注我,了解更多 ai 黑科技 pizza。


超越 taggbt 四点零的中文理解能力, chitgmm 二正式开源公布,这是一款由清华大学出品的 ai 大语言模型,直接部署到本地就可轻松运行,而且对配置要求在逐渐降低,增加了逻辑思维和语言理解能力。接下来大家跟老张快速的体验一下。 首先我们打开对应的一件包,在这个一件包当中呢,咱们会拿到以下这四个对应的内容。首先咱们先说安装包,安装包是本次运行必备的环境之一,必须要把它先进行安装一次, 安装成功以后,咱们接下来需要先把这个一键安装包,对应的工具就是咱们说的一键启动器,把它解压出来,解压出来在这就是对应的这样的一个效果啊,有一个快速启动咱们可以看到,然后这个解压出来之后,紧接着第二步咱们需要做的就是把 把这两个对应的模型也就解压出来,这个模型是咱们今天的主角 chin gm 二,号称可以和 chintpp 四点零掰手腕的国产 ai 模型,这一款呢是我们程序儿界啊非常好用的专门写程序的代码模型,今天老张就不做演示了,如果你需要,你可以把它给下载下来, 然后解压出这款内容。之后呢,咱们把解压出来,他是一个对应的文件夹,咱们把这个文件夹复制,然后放到咱们当前的一键包中, 找到这个 models 文件夹,把它直接粘贴过来,这样的话就可以在一键启动器上找到咱们的 check gml 二对应的这个 an 模型, 找到之后呢,咱们可以直接在这选择快速启动好,然后在这选择对应的模型,因为咱们我这呢有两个模型,咱们要的是这个,对吧?拆个 gm 二杠六 b, 然后这款模型启动完成之后呢,咱们首先先根据您 的显卡来进行选择,比方说老张是八 g 闪存的,我就选择这一项,如果您是四 g 闪存,直接选择下一项就可以了,对吧?根据您对应的内容来进行调试, 可能首次加载他的时间会非常的长,咱们可以稍作等待,如果说他出现了一些报复原因,你一定要检查是不是你电脑显存不扣导致报显存等相关问题。好的,当咱们进行重新之后,你可以看到有一个编个地址栏,可以把这个地址复制,直接就可以打开了,这个就是咱们对应的模型选择, 咱们可以在哪呢?可以在这个模型选项中进行看,对吧?这是咱们这个模型,这是没问题的。好,然后咱们这是文本驱动器,在这就可以直接进行对应的应用效果呢?如果您的电脑配置够好,效果还是非常不错的,但是如果电脑配置一般的兄弟们可能要稍微的差一点。

当当当当, gdp 四点零这一波更新可以说是王炸了,别的咱不说,只有一词的当属 gpt s 了,他允许用户呢,根据特定的需求创建属于自己的拆 gpt 版本,也有人把它叫做自己的 gpt 分身。 这个功能的推出呢,可以说解决了两大问题。第一,我们此前要使用某种功能的时候,都需要通过非常长的提示词跟他聊半天才能进入到正题。现在呢,我们就不需要了,我们可以根据你要实现的功能一次性配置好, 免去了哪次当场训练的麻烦。第二呢,他有超级有用的本地话部署能力,什么意思呢? 我们在进行配置的时候,除了可以借助大模型已有的训练语料之外呢,你也可以上传自己的独家资料,这种资料可以说是一组其他论文,也可以说是某种技术材料或者是行业的信息。当大 大模型和你的本地资料结合起来的时候,威力会被进一步的放大。例如你可以给自己搭建一个法律顾问、理论匹配专家、理财专家、博士生导师、论文外审专家、时间管理专家等等。这个模式的复杂就在于搭建分身时的配置阶段,你还是需要做比较深入和细致的沟通。 我将这个模式的使用总结为五步方向配置、口味使用,再加上迭代。以下呢,我们以一个超级理论加分身的搭建和使用为例来做一个基本的演示,做一个实操的演示。我们可以看到新版的 gpt 的界面啊,这个地方我们可以点击来选择, 选择之后呢,这个地方有三点五 f 四点零,同时呢啊,这有个 explore, 那我们说的这个 g b t s 呢?就在这 explore 当中,你可以在这儿点加号,你就可以建立一个 属于你自己的 gps。 那大家可以看到,其实我今年有两个,一个是聚焦于理论匹配的超级理论家,另外一个呢是聚焦于方法设计的 scholarly a methodologist。 当然大家可以看到左侧这个地方,为什么在左侧的这个任务栏会出现呢?因为我把这一个公开化了,而这个是我自己私密使用的,所以这个就没有办法在这边看到。 那如果说你想自己用的话,你就不用把它公开,但如果你希望你创作的这个分身能够被别的研究者学有所使用的话,你就可以进行公开。好,那我可以点击,我可以直接点击这个分身,那我们就进入到这个分身的使用界面, 你可以在这输入一段提示词呢,他就会自动帮你产出一个结果。好,那我们也可以对这个分身来进行一定的编辑,这个地方我们可以看到这,是啊,我们有一个倒序的视角啊,比方说 假设你没有的时候,你就在这编辑 edit g b t, 好,假设我从零开始啊,那我们能够看到个键是这样的,它有三个不同的部分,一个是 create, 就是就跟我们和 g b t 正常交流是一样的,你可以跟他去讨论,比方说你可以告诉他我现在想建立一个什么样的分身,要求是什么样的,是否有资料的投位等等。 你在这一边整个的这个跟他沟通的过程呢,他就会自动在啊 confeder 这个位置呢,帮你去整合。例如我们命名叫超级理论家,有一个概述,这个 instruction 怎么来的?这个 instruction 我们可以看到他这里边呢,讲到了我这样的一个 scholar 的 insight 啊, 他把它变成英文这样一个东西要干什么啊?要包括哪些具体的结构?比方说你要有一个理论的这个 siri 啊, introduction 里面的介绍,你要有一个 definition of key concepts 啊,你要有一个 这个核心概念的界定,你还有一个 present 啊, preset, a theoretical framework 啊,你要有这个理论框架这样的一个预设,你还要有什么呀? therth, theoretical structure, ah diagram, 理论框架结构图,对吧?还包括呢,你要有 reference, satation, 那这些东西其实都是根据我跟他聊的时候,这个过程当中他自己总结个提炼出来的,还包括他提出的一些限制性的条件呀,以及一些 gadline 呀等等这些东西,以及一些细化的,你每一次 跟他聊的内容呢,他认为有用的这种流程性的、节点性的,他都会在这给你呈现出来。包括其实我也投为了一个本地化部署的一个啊,人物社会科学成果的一百个理论。因为我们知道呢,其实对于 gbd 来说,他的这个大语料呢,永远是不全的。有一些小语料呢,我们还可以通过本地化 的方式给他投位。投位之后呢,也就意味着当我们在这个分身的前端去问他问题的时候呢,他就可以同时启动他的大模型,以及我们给他投位的资料整合起来,给你做一个特别好的回答,那 这是我们配置的时候,那我们配置其实有两种方式,一种是你在 correct 的这个栏里边,你跟他去交流,他自己会总结到 configer 这个位置。当然你也可以反过来,你可以直接把你的 instructions 直接投位写到这个位置。也可以 啊,所以这是从左到右和从右到左的设定方式都可以。当然从右到左的方式,如果我在这个配置里边直接粘贴我的 structure, 它会非常明确。 他如果在这个地方跟他聊天的方式,那他会用他理解的方式把这个 instruction 给你提炼出来。但是还有一个不同,就是如果你在这用中文的话,这地方可以直接呈现中文,但是 你在这里如果用英文跟他交流的话,他依然会用英文的方式啊,你在这用中文跟他交流的话,他依然会用英文的方式给你总结出来,当然结果也没有差异,可能还是有差异的,这个大家可以去试一下。 那在右侧这个地方呢, gvt 把它叫做 playground, 其实呢,这个地方叫 preview, preview 的意思就是说,如果我设定了一版,对吧?我在这可以发出一段提示词,来看一下这个超级理论家,这样一个帮研究者来匹配和发展理论,以及 这个预设理论框架。这样一个分身,他的效果怎么样?你在这试验,如果效果不好,对吧?或者某一个地方觉得不足,你可以在 corry 的这个阶段呢继续跟他聊啊,你可以告诉他我希望在哪个地方来进行整合,对吧?聊完之后呢,他就会自动 整合到这个配置当中来。好,那这我们弄,弄完之后,对吧?这地方有个 update, 你改完之后呢,你就可以直接例如 点 public, 然后直接 confirm, 这个时候就意味着你进行了一版更新,而且你把你这个更新的 超级理论家这样一个 gpt 的分身呢发给了整个学术界啊。这个时候呢, confirm 之后呢?嗯,就可以把你这个东西怎么样啊?直接 把这个链接这方有一个链接复制,复制之后你就可以把这个链接发给任何一个其他的用户,只要他拥有 chengbt 四点零的账号,他就可以打开来使用。啊,我预计未来的话 gbts 会呈现一个爆发性的增长, 所以呢,大家可以来试一试,玩玩,非常的有意思。那这就是这讲的主要内容,我是平哥,关注我,带你走进学术的 ai 世界。

如何用 ai 打造一个虚拟软件公司?亲爱的大夫,是一个大雨夜模型驱动的自动化软件开发框架,他是由多个智能体协作运营的虚拟软件公司。当你给他安排一个任务,不同角色的智能体将进行协同合作,完成软件开发。在项目主页我们也能看出,目前他可以根据用户指令生成的软件种类还不少, 比如编程助手、休闲小游戏、效率管理工具等等。以设计一款五子棋为例,首先 ai 程序员和测试会根据需求生成一个基于终端的程序。 接着 ai 交互设计师会在此基础上加入用户交互界面, ai 视觉设计师会在交互界面上完成视觉素材的替换。由于这是一个开源项目,感兴趣的朋友可以根据这个教程为自己量身定制一个虚拟软件公司,实现你的老板们。


大家好,最近一段时间很多朋友在咨询关于大模型本地化部署微调和显卡的配置建议,所以将我们团队之前做的显卡速度测试数据分享给大家。首先呢,我们先来看第一个表格,我们实测了四种不同的 gpu, 从 a 六千,六千 a 的 a 一百到 max studio 都有,速度方面是六千 a 的最快, a 六千。第二名 a 一百,第三名 max studio 第四名, 我们是用拉马二选用十三 b 的参数量来做测试,那为什么选十三 b 呢?因为七 b 太笨,七零 b 呢?没有聪明到哪里去。那我们测出来十三 b 他的 cp 值最好,也就是说他不会太笨,那也不会占用太多资源,所以我们推荐的 是使用拉玛二十三 b hf 叫做半精度浮点数,也就是 fp 十六。我们在测试时为了比较精准,所以我们没有用量化,我们就直接用 fps 十六来做这几张显卡的速度测试。 那六千 a 的由于它是新一代的显卡,所以它速度是最快,那大家一直在讲说 a 一百,那其实它是上一代的显卡, 所以实测出来他的速度就没有那么快。那另外之前有传说 max 丢丢可以来做大语言模型的训练及推理,但是我们实测他的速度大概只有六千 a 的四分之一, 所以它的速度稍微慢了一些,但是它的内存大,这是它的优势。接下来我们来看看第二个表格,第一个没有亮化,叫做 f p 十六,第二个是八倍词量化,第三个是四倍词量化,那他们的差别在哪里呢?如果是以这个拉玛二十三 b 的大语言模型来讲,假设你用 fp 十六就是没有量化,那他需要占用的 gpu 显存是二十六 g 以上, 为了比较容易记住,就是十三乘以二,得到二十六。如果是八倍子量化,占用的 gpu 显存是十三 g 以上,十三乘以易得到十三。 如果是四倍次量化,占用的 gpu 显存是六点五 g 以上,十三乘以零点五,得到六点五。 通过这两张表,大家对本地化部署大模型的显卡配置应该有了一定的了解。经过我们长时间的业务应用,有一些小建议分享给大家,如果企业的数据可以上云,建议使用 微软的挨着 opennine 做微调和推理。如果企业的数据不想上云,可以本地化部署大语言模型,因为咱们用的是中文为主,不建议用拉玛二,可以用国产的大语言模型。 如果大家对这期内容感兴趣,可以在评论区与我交流,非常感谢大家的观看,我是你们的朋友 leo, 祝大家生活愉快,拜拜! i place my ear to the other。

在沙雕的 所有人都能够拥有那纯洁切,百分百的坚强,等到那时候,我们再一起去寻找那最开始的平衡。