粉丝5741获赞6.1万

火爆全网的 chat gpt 似乎敲开了第四次工业革命的大门,然而由于 open ai 没有开源,想要训练出自己的大模型仿佛就是天方夜谭。这家名为 coloso ai 的外国公司宣布研究出了一套快速、低成本复现 chat gpt 的方法, 并将它开源在了 github 上。这套方法基于拍 touch 的 check g p t, 复线流程涵盖了全部三个阶段,可实现从域训练模型到 check g p t 的蜕变,而且体验最小,呆默训练流程最低仅需要一点六二 g b, 现存 任意一张消费级的 gpu 都能满足条件,这也就意味着大部分带了独立显卡的电脑都可以参与到开发当中来。而且在训练速度上, coloso ai 也花了大功夫,相比原声拍拓去最高可提升单机训练速度 七点七三倍,单卡推理速度一点四二倍,一行代码即可使用。尽管此次开源包含了复线的 chat g b t。 的完整算法流程和必要软件系统,但对于训练出 chat g b t 同等水平的超大 ai 模型,还得依靠海量的数据和算力支撑。 但这没有关系,随着越来越多的资源贡献和志愿者的加入,每个人都有机会参与其中,一起拥抱大模型时代。我是造车的小爱姐姐,想要了解更多就关注我吧!

还是接上一期视频,很多网友答对了,这的确是一张运算卡,主要的使用场景呢,就是人工智能的 ai 深度学习卡,比如现在非常流行的人工智能差的 gpt, 早期的训练模型就是使用的英伟达 v 一百和这款 k 八零的两款显卡。最新的叉的七 pt 四已经开始使用 a 一百和 h 一百来进行 ai 模拟训练了,而后者的两个显卡已经被美国限制出口到中国了。这两个显卡虽然在超创领域神一样的存在,并且二十四万的天价在此之前还需要排队购买,那现在排队也买不到了。 不过办法总比困难多,我们手里的一些数据中心客户就在新加坡开了分站,把部分的 ai 人工智能训练项目搬迁过去,然后获得数据再返回来。 回过头来,我们再说一下手里的这个 k 八零,这类显卡也可以用作其他的大型数据运算,早期的英美达特斯拉 k 系列都是其余开普勒加过的高技能显卡。这个 k 八零在之前晚上也是人称双星河的,使用了两颗机 k 二幺零的显卡芯片以及二十四 g 的显存,也有很多人模改成普通显卡,但是多多少少都会有些 bug, 不太建议个人去改。我个人比较感叹的是,这类企业级的显卡,即便是经过了几年的使用,再流入到民用市场,也可以看看这些参数依然强大。再比如说最新被美国限制出口的 h 一百超算显卡, 仅仅是显存就已经达到了八十七,显卡的带宽更是达到了变态的三 tp 每秒。我估计五年之后我们在民用市场能买到最大显存的也肯定达不到八十七。

这配置比尔盖茨来看了也迷糊呀,他也想不到卖洋垃圾的奸商竟然走到了时代的最前沿。哈哈哈哈,啥情况啊。今天有个粉丝发给我条配置,说,兵哥,帮我看一下呗,看起来好专业呀,双 cpu 主机, 我一看这配置给我笑抽了,我跟你说 cpu 啊,英塔尔一五二六八零 v 四,两颗,这 cpu 啊,特别让人迷糊,为啥啊?这 cpu 十四核心,不懂的人啊,一看这 cpu 多牛啊,两颗二十八核心,但是啊,你们去搜一下,这是十年前的 cpu 了, 现在网上啊,应该是卖到一百元出头吧,两颗用不了一个二百五,而且你看这个 cpu 真算利器,性能怪兽,现在这奸商啊,真是有点本事。还有这个主板啊,英特尔高端福气,双鹿全新叉九九。哪还有全新的呀,多少年了, 主板说话可能是五六手的吧。还全新的啊。还有这个什么三星美光 dds, 三十二 g 高频大内存,这都是服务器上摘下来的美国颗粒。几年前的服务器内存他就没有中国颗粒啊。那肯定是美国颗粒呗。老板,有点意思啊,还是懂一点才能写出来这么专业的坑人配置的啊,太残暴了。 大容量固态五百一十二 g, 现在固态多便宜,大家可以自己搜一搜啊。五百一十二 g, 固态一百多元,全新的都买到了,和放养胎不一定给你全新的。还有这个什么立台,专业计算卡,兄弟,立台啊,他确实有专业计算卡,但是 你还写个幺六六零 s, 我劝一句,老板你好自为之,幺六六零 s 赖好,懂一点的都知道,这就是挖矿专用卡。这显卡啊,说是二手矿卡都是夸他的,很可能都用五六手矿卡了。深算真的用幺六六零 s 吗? 别忽悠我行不行啊。两只大风扇,静音,玄冰四百。玄冰四百怎么就变成服务器级工业散热了?我也是用过玄冰四百的。玄冰四百啊,四铜管真的放到服务器里吗?玄冰四百最出名的是滴血认亲, 不错,放服务器里呢,纯忽悠人啊,还有豪华网透啊。新款双路机箱,服务器机箱没有大家想象的那么贵,便宜点的服务器机箱那也就是个铁皮外壳,一两百元都能买到的金牌巨龙,一千两百瓦。 兄弟,这就是矿龙啊,当时挖矿用的最多的就是这个电源型号啊,他是长城的,一千两百瓦确实牌子还是可以的,但是呢,当年挖矿时候啊,这个电源卖的非常多,都用到挖矿机器上了。 这电源啊,很可能就是给你吹吹灰翻新一下就放在电脑里用了,还稳定。三百六十五天强力输出,永不断电。你逗我的吧,你是钢铁侠核心啊,断不断电 你店员能决定吗?最后啊,这个微软高级工程师推荐比尔盖茨来了。看到这配置也得跟你说你是哥,微软高级工程师都能推荐了啊。超 gpt 四点零全新时代来临了, 你真的会蹭热度?这奸商真的太溜了,站到风口上猪也能飞起来。真是把你的这个洋垃圾配置放到了风口上啊。深度计算人工智能主机啊,九千九百九十九, 这机器成本我跟你说两千块钱左右吧。一台机器九千多,你赚七千多,谁能救救我呀,趁我们一句话总结下这台电脑,洋垃圾配矿渣,一个字,绝。

最近爆火的 check gpp 真的有那么神吗?如果说用它写一套电脑配置会是一个什么样的体验呢?直接就问五千帮我可以开店 i 五幺零四零零 f 加幺六五零的配置。这个这个配置是相当给力了,如果电脑都能这么配啊,那电脑商家们都富得流油啊。 再问一下,五百块钱能不能配一台吃鸡的电脑啊?很委婉的说了,不能割穷人。那如果有十万的预算,能配一台什么样的电脑呢?好,也仅仅是十一代 i 九加三零八零的配置。 这个 chat gbt 对于有时效性的信息处理来说并不完美,起码并不适合用来配电脑啊。他的数据还没有更新到最近日期。但是如果处理一些有大体框架东西还不错,比如一些提升销售的建议,写一些总结性的、计划性的文章,或者写一些代码,都表 表现的还好,确实能给到一些思路和建议,但并不深入。包括制造光刻机这类问题,也仅仅是有个框架,更深层一层的东西就没有了,还是套原子弹,他直接都不告诉我,你说他是不是故意的? 总体来说,他目前就是一个加入了 aa 的搜索引擎,会智能引用网络上的一些特定内容,对问题的分析能力也很强。基本上你问的东西他能准确的理解,并且给出相应的答案。但是这些答案都基本来自搜索引擎里的内容,缺少灵魂。如果想让他写一些文章论文,代码 的效果确实要比其他 ai 工具要强得多。但是如果有的人说它能替代很多行业可能,那可能还有很长的一段路要走, 不过这个时候谷歌和百度应该就要慌了呀,要让 chat g p t 来取代他们,我觉得还是绰绰有余的。

港科大开源 mfo 支持上千种模型,提供全流程高效训练方案。拥有自己的 ai 大模型,不需要从头于训练,只需要以翻听作为切入点即可。具体来说,该模型基于七十亿参数的 ai lovem, 只需一张三千零九十,耗时五个小时,就可以训练一个专属于自己的个性化 gpt, 并完成网页端部署。开源库。作者们已经利用这个框架,单机训练三百三十亿参数的 ailam 中文版,并开源了模型权重,用于学术研究。

哈喽,大家好,本期视频将和大家介绍如何在自己的笔记本电脑上部署类似于恰的 gpt 的大语言模型。首先我们看一下演示, 比如说我输入,我正在做一期关于如何部署类似 chart p ppt 的模型视频,帮我写一个视频标本, 然后它就可以帮我们,它就可以实现类似于恰的 d p t 的效果。 比如视频标题简介,如何在本地部署聊天进行模型, 这个模型直接在本地运行,不需要连, 不存在其他限制。然后比如说我们看他帮我提炼一个短标题, 有时候他就可以回复自家就能训练 chate 几步器。本地部署大语言模型。当然我们也可以继续质问,他 在响用的时候,这个响用速度是没有加速的,是它正常的速度。 当然我们也可以让他写些程序,比如说写一个标点,程序简单, 当然我们也可以对他输出的内容进行一定的修改。嗯, 比如说我不想使用 example 点 com, 请帮我修改为电音主点 com, 然后它也可以按照我们的要求进行部署,它也可以按照我们的要求进行改写视力。 那么这个本地模型用的是哪个 大模型呢?用的是兰巴醋,但是兰巴醋对于中文的知识并不是太友好,所以我们使用一个重音化过后的一个库,然后这个库呢? 他针对于蓝巴兔扩充了中文词表,然后也进行了一些预训练。他他可以在个人电脑的 cpu 或者是 gpu 上进行快速训练,即使你没有个人信卡,也可以进行训练部署。 嗯嗯嗯嗯嗯。

大家好,自从我发布了基于本地大模型构建企业私有知识库系统的视频,很多小伙伴在后台留言让我出教程。最近一直忙着交付一些本地大模型和私有知识库的系统项目,一直腾不出时间来,现在总算有空了来安排。 首先我的视频会分为硬件和软件两个部分,教会大家从零开始部署一个基于本地大模型的私有知识库系统。首先是硬件篇, 做到硬件必不可少的就是四零九零了,现在的大模型动辄十几个 g 的最低显存要求,对于消费级硬件,这也足够了。视频最后是配置单,按照这个配置单的电脑基本上跑六 b 七 b 的模型很流畅,十三 b 的拉玛兔稍微有点卡, 传奇的过程我就直接快进了。考虑到散热,我配置了一个比较大的机箱。因为我对酷炫的灯光不太感兴趣,所以选择硬件的时候灯光效果不在我的考虑范围内。我主要从性能、稳定性、价格几个层面去考量。 这个配置的机器我已经用了三个月了,各方面我还是非常满意的。 关注小百,了解更多 ai 干货!

本地部署 chat gpt, 无需安装,直接解压到本地,一键启动,完全免费开园,无需科学上网,国内直接使用国产大模型 chat glm 二遥遥领先 chatglm 二六 b 是国产大原模型, 一键启动包已经给大家准备好了安装包,加入粉丝群,查看群公告,直接领取粉丝群的入口。在和我私聊的界面右上角,我们把 chitglm 压缩包下载到本地,按右键选择解压到本地 点按完成以后打开 tit gmr 文件夹,首先安装 denit 运行环境,双击打开选择安装。如果你的电脑已经安装过 denit 运行环境,无需再次安装,直接关闭。然后进入 titiglmryblim 录,双击一键启动器,快速启动 chatglmr。 打开 外部 ui 启动器以后,先选择模型,我们这里有两个模型,一个是聊天大圆模型,另一个是程序员写代码使用的模型,我们选择 itgm 二六 b, 根据你的显存配置下启动参数,我选择巴比特模式节约显存,然后选择一键启动,抖速运行会比较慢, 如果启动界面报错,那可能是启动参数配置和你的显存不匹配,或者电脑性能和运行环境不支持。 启动成功以后,命令还会显示 running on localuil, 并自动弹出浏览器。打开地址,我们来测试一下菜菜 gmr 六 b, 你好,选择詹德瑞特生成,生成速度还是很快的,效果也很不错,非常的完美。

你还在不会为训练 gbt 而烦恼吗?今天我给大家推荐一个懒人插件集合网站,这里集合了所有的 gbt 插件啊。昨天这里是一百三十八管,今天这里已经更新到了一百四十一个插件了。大部分你需要用到的 gbt 功能都有,大脑已经帮你训练好了,做成了这些插件。 你看啊,有给你生成音频和乐谱的插件。还有自动给你做好食谱和用餐计划,并且生成你的购物清单的插件。他还可以将各种配料分开列出啊,生成购物清单,甚至啊,国外的用户啊,你只要揭露了这个插件,比如说你今天想吃辣的,或者想吃酸的,想吃甜的, 或者说想坚持的啊,你可以直接的交给 gpt, 让他帮你做好你的今天的食谱和你的购物清单,直接可以在这个平台上一切 下的非常的方便。还有 ai 营养教练的插件,进入这个插件, gbt 就会化身你的营养教练,他可以根据你的身体情况和你想要达到的目标,给你做出你的一个长期的饮食计划。除此之外呢,还有娱乐游戏,还有这个飞行计划,那么像新闻,购物,甚至炒股, 这些都不在话下。你只需要点击你想用的插件啊,他就会弹出来一个非常详细的安装步骤。 gpt 呢,同时可以支持调用三款插件啊。这些功能呢,都是 gbt, 他可以自己去选择的,也可以手动去打开那个插件的开关。以后啊, ai 在生活中会越来越普及,如果你还没有掌握这道最先进的生产力工具,也可以来我的主页,我把学习资料发给你。

嗨,大家好,就在这两天啊, opening type 这项目呢,已经登挺 get up 的热度榜了, star 涨得非常的快,接上个视频,今天给大家带来的就是免费直连 gpt 使用 opening type 的一个方案。视频后面呢,有一个详细的操作文档,操作过程非常的简单, 这套方案不管是三点五还是四点零都可以使用国内的一个网络直联,他是怎么做到的呢?其实是有使用的 pandora 这个项目提供的一个服务,他是提取了一个 check gbt 外部端的一个 rcs token, 使用这个 set token 来模拟用户的一个网页请求,所以我们在对进行调用的时候是没有用到他那个收费的 key 的。而且呢, pandora 提供了一个兼容 open ai 库调用 gpk 的一个方式,因为他把那 那个阿 sis token 啊转成了一个 fake key 我,所以我们可以使用一个类似于 api key 的方式来进行一个拆 gpt 的一个访问,对应的代码里呢,其实我们只需要修改一行代码就可以实现一个中转访问。 ok, 我们来看一下效果,这里是我使用一个四点零的一个 fake 来进行一个启动,启动之后呢,我问他,你是谁?是 g b t 吗?以及一个周数人的经典问题,验明一下正身啊,确认是四点零,没错, 这就是我在没有 g p d 四 k 的一个情况下,把 g p d 四呢接入到了 inteptor 我本地里面。 这种方式除了一个免费以及直联,还有一个好处,就是说它的一个访问频率啊,是根据网页端来的, 所以类似于我这个四点零的话,就和网页上一样是五十次,每三个小时来看一下具体的一个操作流程啊,如果你本人是有那个账号以及 k 以及网络直连网络 ok 的话,所以你直接使用他一个官网提供的一个操作方式,就可以直接 install 一下他这个库,然后选择 intact 直接启动,讲一下两个参数,一个杠 f, 就是说 fast 选用他的一个三点五的一个 接口,另外一个就是说跟我玩呢,意思就是说免去他那个通知,一个执行确认的这么一个操作。今天主要讲的就是说如何实现我前面所说的一个国内直联的方式,也就是使用 pandora 的一个 fake, 首先我们就是 corrode 一下这个项目,然后呢我们打开这个 intact pie 这个文件,只需要修改一行代码,就是说他在发送请求之前呢,指定他的一个 a p i bass u i u 这个地址呢,为我们 panzora 提供的一个地址。 然后呢直接就进行一个启动啊,启动前需要安装一下 porridge 这个库, 因为这个项目呢是使用 parch 来管理的。其实我觉得这个 parch 呢比我们平时使用一个 requirement 安装的一个方式呢,我觉得是更方便了,他直接 parch install 一下,然后直接 run 就可以启动这个项目, 我这边呢给大家演示一下, ok, 直接到项目的地址里面呢,执行一个 part run in chapter l f 这里呢使用一个三点五的一个 fake kia ok 可以看到啊,成功调用,而且他还知道我到底是谁啊?这里呢提供了两个 key 给网络不 ok, 又需要国内直连说没有 key 的同学使用 这两个 key 呢?其实它的呃有效期和 assist token 一样,只有十四天啊。所以如果你对 pandora 这个项目有兴趣的话呢,可以直接去看一下我这复录里面获取 fake key 的方式呢,非常的简单啊。 不过呢,这项目呢,最近位置原因 github 下架了,如果有自己部署需求的话呢,可以去找一下网络 的一个共享包,但是他作者提供的这两个地址呢,还是能够继续使用的。后继有什么其他的一个有趣的改动呢?呃,继续给大家分享。至于这个呢,大家可以截图保存。

现在要想登上车的 gpt 啊,那你真的还不是一般人,又要讲科学,又要运气好,因为说不定你的账号就被封了呀。关键是,我费了九牛二虎之力登上去以后,我发现他的数据库就只停留在二零二一年,所以我们检索的内容,他都是在二零二一年以前的信息库里拾取的。 这种感觉就让我有一点 out 的感觉,仿佛我家里网不太好。但是你们知道吗?亲爱的 g p t 背后最大的股东是微软,微软呢,有一个自己的搜索引擎,叫 be b e i n g, 他不仅把亲爱的 g p t 内置到了这个浏览器里面,还给他连上了网。 连上了网是什么意思啊?朋友们?就是说欠 gbt 的信息库,他还停留在二零二一年的互联网,但是毕竟他已经打通了二零二三年的任督二脉,而且呢,无论是从注册和使用的体感上,他简直都甩欠 gbt 十八。 所以这个儿子确实是干不过老子的啊。比如说这个注册吧,你不用科学上网,不用国外的手机号,你只需要邮箱或者手机号码就能注册。操作的时候呢,他是内置在这个浏览器里面的,不需要你再去新开一个窗口。 关键是他不封号呀!同志们,这番体验以后啊,就一个感觉,丝滑,我都说了这么多了,你还不给我点赞收藏,冲啊!

p 四的代码解释器部署到本地使用也太香了,只要输入一段话,他就能帮你编写代码并运行任务,他的秘密就藏在这提示词中。这是一个开源的 open interpreter, 非常值得我们都去玩一玩。视频最后教你如何获取一台云服务器, 最主要是可以免费试用,有了这些,在终端就能本地一次性批量分析几十个 pdf 文件或者视频表格,数据清理分析,大型数据级。还能控制浏览器自动给你做研究,让他给做个 app 应用程序,给他一个指令,他能自行编写代码, 几秒钟就能给你做出来。不仅如此,上传个视频地址,他还能用 s d 来重绘视频中的每一帧画面。简单来说,以前需要简单代码才能解决的问题,现在都可以用自然语言来处理了。想把它安装在你 电脑上,超级傻瓜的做错一秒教会你。很简单,只需要打开运行命令行窗口,依次输入几个命令,有四点零 api 的同学可以直接输入 api 就可以使用了。 如果没有的话,可以去领取一个免费的三点五 api, 然后把它添加到环境变量中,重启后打开命令窗口,输入视频中的命令, 启用三点五模式。不过这里要小心,如果你的电脑里有重要资料,一定要记得先做好备份。此外,拍它试用页面,多款营产品时间也非常给力。关注我们,点击头像看更多精彩内容!

这是用另外一位星球粉丝提供的微调训练数据进行演示,他计划微调出按自己小红书写作风格持续弹出文字稿的模型,顺带帮他改改内容。可以看到,原始数据是一个 peg 数文件, open ai api 无法读取用于训练的, 里边有粉丝自己整理的过往文字版内容,有标题和文字部分,一行一行粘贴复制基本不可能, 真的不用花自己的时间去调。 gpt 训练数据级的内容格式分享,一周最多十分钟就调完上万条数据格式的方法, 我们分三步搞定,第一步,先把原始文件转换为 t s t 文本文件。第二步,让 check g b t 帮我们写个拍摄脚本,把里边的内容读出来,并创建一个 excel 格式的文件,将 标题内容放入 prompt, 将文字稿内容放入 completion, 复制胶本代码保存,执行胶本,读取上一步的 txt 文件内容。很快我们就得到了一个拆解好的训练数据集了。 第三步,用 openai mini 行数据转接工具来转换格式。这个指令之前视频有讲过,大家再去复习一下执行指令搞定了。 prompt 和 completion 都已经完美填充,直接可用于训练了,是不是很简单? 以上办法重要的是思路,大家都已经用上 chat jbt 了,那就多让他来提升大家的效率,大家训练其他开源模型也适用的。有执行力强的粉丝已经参照保姆教程完成了微调。 点个赞,对训练数据还有任何疑问,欢迎大家评论区或粉丝群留言,觉得有用记得点赞收藏。

本地运行一百三十亿参数多模态语言大模型,让大模型机器人帮我们写小说,快速翻译,微调大模型让他懂中文,微调大模型让他成为垂直领域的顶级专家, 可以说是大模型真正消费机应用本地离线写小说,多语言翻译,还可以定制本地知识库,调用知识库内容智能回答问题, 当然还可以联网获取知识。我们来看一下机器人智能写小说的效果,再来对比看一下启用本地知识库和没有启用本地知识库的效果。我们问 ai 机器人 chatloom 六 b 音和 chatloom 六 b 音最大模型的区别, 打开知识库的回答是准确的,没有打开知识库,机器人就会一本正经的胡说八道。另外,机器人的翻译水平比普通 在线百度翻译、谷歌翻译也强很多,我们可以对大模型进行微调,让不懂中文的大模型懂中文,让大模型成为垂直领域的顶级专家。

兄弟们继续讲 g p t 训练方案,别外传,自己用。我整理了一份 jat p t 写报告资料整理、写简历、准备面试、知识学习等等的训练方案。大权 精髓就是定人设定场景、定目的,然后反复要求他做出优化。这里继续送给大家,关注私信即可。

玩 stable diffusion 到底要不要配台司机?我的建议是刚入门的时候可以选择云部署,如果追求效率跟体验的话,最好还是配一台。在这之前我是麦克产品重度用户,在这大半年用过扣啦 otodl 跟青椒云,在中韩考虑各种问题之后,最终还是选择在东哥的店里配了一台。下面给大家分享一下我的配置。 cpu 是一三七零零 kf, 主板是微星四七九零的 p wifi, ddr 五内存是支持三十二 gb 套装。 ddr 五硬盘是幻想式 tb 固态硬盘, 电源是振华八五零瓦全模组,散热是利明三六零冰封幻境,显卡是 g 加魔音四零六零钛十六 g, 机箱是先满的,随便找了一个,因为我平时不玩游戏,在显存能量跟性价比之间选择了四零六零钛十六 g, 双击是送的上门安装。接着给大家 看一下测试数据,鲁大师跑分两百一十六万 stable deputy 设置图片尺寸五百一十二乘九百二十,开启面部跟高清修复总批次设置吧,跑了几次,用时平均在五分四十秒左右。 最后给大家看一下生产还不错的几张图。 lola 用的是物理秦川的镜中花,这个 lola 已经开放下载,喜欢的可以去自行搜索。