粉丝10.7万获赞110.6万

最近火爆全球的聊天机器人 chin gpt 让常人都感受到了 ai 的强大,有人说 gpt 四的知识已经超过了一个 stepford 学生,智力水平也接近了。其实 chipgpt 成功的背后和游戏是分不开的。为什么这么说呢?我是 stenford 机器人跑魔师,下面就听我在硅谷给你解读。 叉 t p t 是我们人类造出的最复杂的程序,它实际上是一个超大的深度学习模型。深度学习的模型就像人脑的神经元和神经链接,从数学上来讲就是很多矩阵的相乘和相加。叉 t p t 有一千七百多亿个参数, 模型的大小是五百七十 g b, 这个需要一个超级计算机才能够运行。叉 g b t 以及所有深度学习模型的训练都是在 g p u 上完成的,也就是中文里所说的显卡,而不是在 c p u 上。说到显卡,打过游戏 的人都知道了,那为什么深度学习的训练要在玩游戏的显卡上来做呢?这个要把时间回溯到上世纪九十年代,当时微软的 windows 试窗刚出现图形模式,屏幕上的每个像素是什么颜色都要实时计算, 幺零二四乘七六八的屏就有五百多万的像素需要计算,而且每秒至少要算二十四次,这样 cpu 吃不消了。这就催生了硅谷的一些创业公司,其中之一就是我们三佛接触校友黄仁勋,也就是我们爱称的黄教主所创立的 nba 英伟达。 cpu 是一条指令,对应一条数据, rcpu 在做三 d 渲染时,也就是在计算每个像素的值的时候,所遵循的公式是一样的,只是数据不同而已,这就比 cpu 简单很多,所以可以有很多个计算和大家一起算,这样几百万像素的计算就可以做到实时了。这个就叫 s md, 一条指令对应很多数据。而随着游戏行业的发展,大家为了追求更真实和实时的体验,对算力也提出了更高的要求,这就推动 gpu 不断提高算力和越来越多,每个核的计算能力也越来越强。 我当时就想到可以利用 gpu 的算力和并行运算来做图像拼接的计算,并在全球第一个把它用到了 b 超仪器上,类似现在 iphone 上的全景照相。后来英伟达也认识到了这一点,推出了哭档。这是一个通用的并行编程语言, gpu 一下子就可以用到各种科学计算上了。 这时候在加拿大的一个小城里,有一个出生在前苏联的犹太人,刚刚在三佛大学 ai 大牛文达手下做两个月的博士后,他叫 a 列,他要用神经网络做图像识别。最大的问题就是 cpu 算的太慢,一个同事告诉他可以 是用 gpu 来计算,他一试果然加速了上百倍。因为深度学习里的计算基本上就是矩阵运算,这个是 gpu 最擅长的之一。威廉后来又在两个 step 辍学生马斯克和奥特曼的劝说下,在二零一五年一起成立了 openai。 黄教主这次给 openna 送来了英伟达的 gpu 做成的超级计算机,最终拆 tpt 是用了上万个英伟达的 gpu 做训练,训练一次要跑一个多月。目前全球百分之九十五的深度学习训练都是在英伟达的 gpu 上做的,但是他的游戏业务还是有很高占比约百分之四十, 所以给他的研发输送了不少弹药。目前 gpu 在深入学习的训练上的速度比 cpu 一般都要快一百倍以上,按照半导体的摩尔定律, cpu 每两年的算力提高一倍,十年才会提高六十四倍。所以没有油气产业的市场 需求和资金来推动 gpo 的发展,拆 gpd 的出现至少要晚十年以上。现在你知道拆 gpd 的出现和你打游戏买显卡的贡献密不可分了吧。 其实游戏不只是在 tpu 的硬件上帮助了 ai 的发展,在软件和算法上也帮助了人工智能的进步,尤其是在机器人上。比如说你一定点赞过波士顿动力的机器人,他的翻腾跳跃比人都牛,但背后实际上是无穷次的失败,因为双足和四足机器人的编程太难了。 英伟达为此提供了一个类似游戏的虚拟环境 omniverse, 让虚拟的机器人可以在里面训练。瑞士的苏黎世理工就是用这个 omniverse 训练了他们的四足机器人 animo, 这个是使用深度学习中的加强训练 格的阿尔法扣就是用这种训练方法训练出来的,而且战胜了围棋世界冠军李氏时。但这个方法需要积极 些人试过所有的可能,说实话,这只能是在虚拟环境中,要是在真实世界里,那这只狗不知道要牺牲多少次了。刚刚腾讯把这个加强训练又提高了一个台阶, 腾讯通过游戏领域的技术,把真狗的跑步动作数字化了,建了模型,再把这个加入到他的虚拟机器狗的训练中,让机器狗就像我们人学走路一样了。有了大人的调教,因而很快就学会走路了,没听说哪个孩子在走路的过程中摔成了残废。 最近,三佛大学和谷歌的研究人员还把叉 g p t 和一个模拟人类生活的游戏结合了起来,发现当你给叉 g p t 一个长期目标记忆和行为反馈后,叉 g p t。 就真的像我们人类一样,每天 起床、洗漱、吃饭、上班、聚会和议论别人了。以后游戏和人生都很难区分了。未来游戏 产业对于人工智能产业的拉动规模还会持续增加,今年是三百多亿元,二零三零年会超过一千亿元。所以说 ai, 尤其是 chat tpt 的出现,实际上是靠游戏产业输送的弹药。 今日的 ai 的成功和游戏有着密切的联系,而且我觉得未来两者的结合和相互促进更会改变人类社会的形态,你觉得呢?

肯定有人会问,四零九零算力的性价比是非常高的,那为啥不能用来做大模型的训练呢?我们拿 gpt 三来说, gpt 三的参数就将近七百 g, 训练运算存储需求达到四二零零 g, 任何一张单卡训练一次都要超过一百年。 对于参数量达到十亿级别的大模型,参数本身就大,而且大模型通常需要更高的显存来存储参数,中间计算结果和梯度等。既然要多卡运行,数据的同步效率就显得非常重要,那么内存带宽、通信带宽、通信延时等性能将非常非常重要。 四零九零二十四 g 的显存相对较小,内存带宽每秒 etb, 通信带宽每秒六十四 g, 通信延时十微秒,这些都相对较弱,有点像短板理论最弱的那一下就决定了显卡的能力。总 上,四零九零在较大的大模型上没有什么发挥的余地,但对现存和算力需求相对较小的大模型,再加上推理算力需求更低,如拉玛七 b、 十三 b 等模型, 单卡的四零九零都可以运行。至少对于学习和研究大模型的个人或小团体来说,四零九零其实还真的是不错的选择。

还是接上一期视频,很多网友答对了,这的确是一张运算卡,主要的使用场景呢,就是人工智能的 ai 深度学习卡,比如现在非常流行的人工智能差的 gpt, 早期的训练模型就是使用的英伟达 v 一百和这款 k 八零的两款显卡。最新的叉的七 pt 四已经开始使用 a 一百和 h 一百来进行 ai 模拟训练了,而后者的两个显卡已经被美国限制出口到中国了。这两个显卡虽然在超创领域神一样的存在,并且二十四万的天价在此之前还需要排队购买,那现在排队也买不到了。 不过办法总比困难多,我们手里的一些数据中心客户就在新加坡开了分站,把部分的 ai 人工智能训练项目搬迁过去,然后获得数据再返回来。 回过头来,我们再说一下手里的这个 k 八零,这类显卡也可以用作其他的大型数据运算,早期的英美达特斯拉 k 系列都是其余开普勒加过的高技能显卡。这个 k 八零在之前晚上也是人称双星河的,使用了两颗机 k 二幺零的显卡芯片以及二十四 g 的显存,也有很多人模改成普通显卡,但是多多少少都会有些 bug, 不太建议个人去改。我个人比较感叹的是,这类企业级的显卡,即便是经过了几年的使用,再流入到民用市场,也可以看看这些参数依然强大。再比如说最新被美国限制出口的 h 一百超算显卡, 仅仅是显存就已经达到了八十七,显卡的带宽更是达到了变态的三 tp 每秒。我估计五年之后我们在民用市场能买到最大显存的也肯定达不到八十七。

sable diffusion 需要模型, charge p t 需要模型。不难发现,强大的 ai 都离不开模型的支持,但系列模型成本太高,需要一,从上千的项目中找到好用的模型。二,部署复杂的训练环境。 三,需要有懂算力分配的专业工程师。然而就算是专业工程师也会被环境和部署折磨的团团转,有什么好的解决方案呢? ins, 企业级的傻瓜是模型训练软件,只要有数据就能一键训练 a 模型。今天我们试试用 ins 做一个口罩识别模型, 主流模型软件预制好了,而且环境也已经部署好了。我们今天用的模型类别是物体侦测,模型的功能在软件中都有说明书,点一下就能使用了,不需要任何额外操作,这个效率的提升是史诗级的。第一步,上传数据集,我的数据集里面都是一些戴了口罩和不戴口罩的图片,他们都 已经做好标注。第二步,系列模型界面参数直接选择默认,开始训练。在硬件监控中可以查看硬件的利用率,这里用的是 itx 五千显卡,并且软件自带散力资源分配功能,用多少资源就分配多少,剩下的资源其他人还能用,让你的硬件使用力拉满。 训练结果显示,花了五个小时三十九分,每脑可以处理五十八张图片,上传几张图片,推理一下。在右边的界面可以看到,这个模型训练的非常成功。 with 就是戴了口罩,味道就是没戴,识别准确率达到百分之一百。 第三步了,部署模型训练好的模型可以直接下载下来,安装到你的本地硬件里,再配个摄像头,我们很熟悉的口罩识别机就做好了,怎么样不到六小时就完成了一个企业级的应用?在以往,这样的模型部署和训练至少需要三名以上 专业的婴儿算法工程师团队,而现在即使没有编程基础的宝子们也可以使用啊。这是我们的专家团队用这个软件做出的科研成果。如果你的企业也有大量的数据,不知道怎样应用,可以进粉丝群或者直接找我了解,目前李哥独家哦。

火爆全网的 chat gpt 似乎敲开了第四次工业革命的大门,然而由于 open ai 没有开源,想要训练出自己的大模型仿佛就是天方夜谭。这家名为 coloso ai 的外国公司宣布研究出了一套快速、低成本复现 chat gpt 的方法, 并将它开源在了 github 上。这套方法基于拍 touch 的 check g p t, 复线流程涵盖了全部三个阶段,可实现从域训练模型到 check g p t 的蜕变,而且体验最小,呆默训练流程最低仅需要一点六二 g b, 现存 任意一张消费级的 gpu 都能满足条件,这也就意味着大部分带了独立显卡的电脑都可以参与到开发当中来。而且在训练速度上, coloso ai 也花了大功夫,相比原声拍拓去最高可提升单机训练速度 七点七三倍,单卡推理速度一点四二倍,一行代码即可使用。尽管此次开源包含了复线的 chat g b t。 的完整算法流程和必要软件系统,但对于训练出 chat g b t 同等水平的超大 ai 模型,还得依靠海量的数据和算力支撑。 但这没有关系,随着越来越多的资源贡献和志愿者的加入,每个人都有机会参与其中,一起拥抱大模型时代。我是造车的小爱姐姐,想要了解更多就关注我吧!

朋友们,大家好,很高兴您能看到这个视频。因此,英伟达刚刚打破了一项令人难以自信的记录,并再次证明他们拥有全世界最好的 aigpu。 为了设定这一基准,英伟达使用名为 cover with 云提工商组合了三千五百八十四个 ag 百 gpu。 他们试图看看训练左右跟三的速度有多快。跟三是 open ai 的叉 x 的早期版本。我们将讨论实际上对此进行基准测试的第三方组织。 但他们将大量 ag 一百 gpu 的显卡与类似数量的英伟达 a 零零八十 gb 显卡和 v 一百 gpu 进行的比较。后者基本上是三年焊,大约六年前的最先进技术。 令人疯狂的是, ag 一百能够在短短四十六小时内训练完所有的三,这简直是太疯狂了。与 a 百 s 相比, a 一百 s 大约需要三十六天。因此,疯狂的是 ag 百,尽管它具有相同数量的物理基 pu, 实际上消耗的电量更少,但速度却比之前最先进的技术快了近二十倍。这完全是疯狂的 v 一百实际上花了五十一天。这是一个相当大的集群, 大多数人实际上无法想象拥有三千五百个当今人类可用的最先进 gpu 的成本。然而,这一进步提出了一些有趣的问题。根据我们现在从英伟达了解到的信息,我们实际上可以在这里提取一些非常有趣的见解。首先,很多人会问, imd 能与之竞争吗? 尽管这件事发生的时间令人印象深刻,对吧?这个大型模型需要四十六小时才能完成,五年前还需要近两个月的时间来训练。 这里的问题是,是怎么让这成为可能?真正的答案不仅仅是 g p u, 甚至有英伟达创建汉策划的平台网络汉软件使这一切成为可能。因此,尽管安安地推出了一 些有趣的新加速器,例如命二五零零焊三千,但这里的区别在于,即使 gpu 很快,行业标准是英伟达最好的软件,也是英伟达最好的开发人员正在使用它。因此,如果你要出去选择这个,你知道这是有一点风险的,而且它是不同的, 其实性能相同。这种基准测试实际上还没有被证明可以在 imd 上运行。而 md 的另一件奇怪的事情是,现在他们正试图更加认真的对待这一问题。这实际上增强了英伟达的地位,因为这时的英伟达在 i 领域的能力方面看起来不那么垄断。 还有其他一些问题。那么一个问题是,摩尔定律真的变得更快了吗?令人好奇的是,摩尔定律在技术上已经放缓,因此,使用 gpu 进行一万一次浮点运算的成本还相对密度并没有太大变化,它的移动速度比过去几十年要慢。然而, 重要的不一定是机身密度或我们消耗了多少能量,而是他的扩展能力,因为打手是展示了他们最高端的 gpu。 最重要的是他们的新英菲尼般的接口,这是一组将所有这些 gpu 连接在一起的光纤,因此,您可以将他们视为一个大型 gpu。 他们已经实现了接近线性的缩放。 因此,如果将五十个 a g 一百与一百个 a g 一百进行比较,线性缩放意味着一百个 a g 一百的速度是五十个 a g 一百的两倍。如果再添加一百个,那么两百个 a g 一百的速度将是一百个 a g 一百的两倍。对于我们这些记得英伟达诗意时代的人来说, 您最多可以将四个 g t x 五八零放在一起,或两个 g t x 五九零。这在我们拥有双 g p u 卡时就已经存在了。您会记得,在玩游戏时,两个 g p u 可能会比单个 g p u 提高百分之四十的性能。添加三分之一,你知道可能是微不足道的百分之十 十二到百分之十四。如果你只是一个玩家,并且有足够的钱购买四块 gtix 五八零,那么在大多数游戏中,第四块完整的 gtx 五八零可能只会再给你带来百分之八的性能提升,通常会更少。 这是非线性缩放的一个例子。所以基本上,当你添加更多的卡时,每增加一张卡回报就会减少。这就是为什么这很疯狂,因为打野经证明,是的,我们可以将三千五百个这些组合在一起,并实现近乎线性的缩放。因此,如果你有六千个 您知道限制,实际上取决于你拥有多少能源,建筑物中有多少空间,以及因为达英菲尼般的接口的突破点。这也是他们对麦的那次进行巨额投资的原因。这是一家只生产网络基础设施的公司。另一个很酷的事情是,他没有在 spc 集群上进行训练。这实际上是一个动态分配的集群,来自于 一家名为 cooperate 的云提工商,该提工商实际上专注于 gpu 集权。我认为值得一提的另一件事是,这里使用的基准是来自一个名为 mlpf 的独立组织的基准。因此,每年他们都会聚集在一起创建一些通用的 ego 基准测试。他们认为这些基准测试可以很好的了解。 如果你大规模运行这些基准测试,就可以了解当年运行他们的硬件有多好。这可能包括循环神经网络,更能,甚至今年的一些真诚人工智能。 有趣的是,你知道 bc 公司专注于定制加速器,例如有点像特斯拉所做的海湾地区,还有其他一些小公司说,哦,好吧,我们将专注于 vlos, 或者我们将专注于某些特定的行业领域。这很有趣,因为对于那些知道 sic 是什么的人来说, sic 是专用级乘电路。所以你知道,对于普通用户来说, 他们实际上只能很好的完成一件事。从技术上讲,英伟达 gpu 是一种 a s i c, 因为他可以很好地执行并行计算。然而,他们稍微更通用一些。这是在你看到 f p g a 之前的情况。 f p g a 的速度要慢得多,因此,英伟达在他们的芯片中找到了这些东西的平衡。 真正酷的是,他们实际上在 mlpf 基准测试的每个类别中都获得了最佳成绩。该基准测试具体称为 mlpf 三点零。 而且如果你去毫升敲门爽站,你实际上可以查看三点零的结果。这些结果都是由英伟达持有的。这里实际上是多种系统的混合体,所以就有了云实力,还有一些本地实力按时机构建服务器的人员进行细分。 因此,如果您决定花费数千万或数亿美元购买设备,这也很酷。你可以看看什么是最好的。你甚至可以将它与 伟达自己的硬件进行比较,他们拥有配备多种不同 cpu 的 d, g, x, h 一百。英伟达不仅在训练科三的速度方面击败了竞争对手,我认为这是最相关的,也是我们观众最容易理解的。但是是的,他们在每个类别中都做到了这一点。 因此认为目前在人工智能方面还有其他公司能比英伟达做得更好的,那就夸张了。当然,如果没有某种气候角度来看待这个问题,就不会是二零二三年这种密度的。有趣之处在于,您确实开始将英伟达 gpu 视为提高效率的最佳选择之一。我也知道 number 也有一些 a 之一百, 他们的人数很少,我想现在有几万,而且规模只会越来越大。再说一次,这更像是一个技术视频。但我认为观看这个视频非常酷,因为它显示了英伟达相对 imd 的领先优势。这表明英伟达在这里创建的生态系统正在发挥作用,并且经第三方机构验证无疑是 最好的。那么,请告诉我您对 ag 版的看法呢?可以在评论区一起讨论。一如既往,我希望能学到更多一些东西。如果您喜欢我们的内容,请点赞并关注,谢谢。他对我们帮助很大,我们将在下一个视频中见到您。

等你看完这条视频之后,一定会颠覆你的认知,你能想到这是一条用 ai 生成的语音吗?不知道大家有没有想过这样一个问题啊,如果沿着地轴中心挖一条贯穿南北极的通道啊,就是把地球挖穿,然后从一个洞口跳下去, 那么这个人可以从另外一个洞口出来了。没错,这的确就是用 ai 生成的,准确点说,他应该叫语音克隆, 可以把任何你熟知的声音作为样本,通过简单的训练生成一个声音模型。在你需要使用的时候,随意输入文字,就可以生成一条几乎接近真人并且可以带有情绪的语音。那现在就来带你了解这个神奇的工具, gpt sovics。 在开始之前,你需要先做一件事,准备一条一分钟左右干净的声音样本,最好是吐字清晰且没有杂音和背景音乐。如果你的声音样本带有背景音乐怎么办呢? 就要讲到 gpt sovic 的第一个功能,伴奏分离解压整合包后运行里面的 go weibui 脚本文件,稍等片刻就会弹出 sovits 的 weibui 界面。我们要做的第一步就是勾选这里开启 uv 二五, 他会以一个新页面的形式打开 uv 二五的操作页面。在这里我提前准备了一条郭老师的单口相声片段作为样本,那是他头号的军师 大谋士,然后复制文件路径并粘贴在这里。模型我选择 hp 五文件格式选 v, 点一下转换,很快他就会把你声音里的人声和伴奏进行分离。在根幕录下的 output 文件夹里打开这个文件夹,里面可以看到两个音频文件,这个是伴奏, 而这个就是干净的人生。提董卓必须得说理入, 那是他头号的军师,伴奏没什么用,我们可以给他删掉,然后复制这个文件加路径,返回到工具里,关掉这个页面,并取消这边的勾选来释放内存。接着把刚刚复制的路径粘贴在这里, 点一下,开启语音切歌,切歌完成后,在 slicer 下划线 up 文件夹里就可以看到切割后的音频文件,我们再复制这个文件夹的路径, 粘贴在批量 asr 输入路径中,点开启离线批量 asr, 这个过程也很快,等几秒钟后这边显示完成,我们就可以在 asr 下划线 out 文件夹,看到里面有一个打标数据文件,在这个文件上鼠标右键复制文件地址,然后把地址粘贴在标注文件路径里 里面删掉路径里的双引号,勾选这里开启打标 webui 弹出这个页面后,就可以根据每一个语音片段核对有没有错别字或者断句错误的地方,如果你的语音片段较多,点 next index 翻看下一页,确认无误后,点 submate text 提交修改后的标注内容, 然后关掉这个页面,并取消这边的勾选。接着进入 pts 标签页,这里我们给模型命一个名,并在这里粘贴标注文件的路径,我们可以返回到这个页面,把这边的路径复制过来,粘贴在这里就行。 这里输入切割后的音频文件加路径,同样也可以回到这边,把这个路径复制下来,粘贴在这里,拉到下面,点开启一键三连,等几秒钟,这边显示完成后,进入微调训练标签,这边的参数基本上不需要怎么去调整,直接点开启搜 vits 训练,在后 台能看到进度说明训练在正常进行,直到这边提示训练完成后,就可以开始最后一步, g p t 训练,训练总轮数可以根据你的显卡来调整,轮数越高,训练时长就会越长。然后点开启 g p t 训练,第一次训练会比较久,后面只要你的显卡不会特别差, 正常这个过程可以在一两分钟内完成。完成后进入推理标签,刷新一下模型,这里就可以看到我们刚刚训练好的模型了,通常我们会选择使用参数最大的那个模型,然后勾选开启 tts 推理 y b y, 然后就可以进入最关键的一步, 语音合成。在切割的语音片段里选一段语音,拖入到这里,这里输入这段语音的文字内容,在这里输入需要合成语音的文本。需要注意的是,如果你的文字比较多,需要先在这里对文本进行切分,切分后再 复制到这里点合成语音,这里的合成跟 sd 一样,生成的结果就跟抽盲盒一样,每次都会有不同的效果,选一个满意的效果保存就可以了。火焰山,由于山上一片火海。

有同学让我了解一下 g p o 云服务,我讲一讲为什么我不用 g p o 云服务,原因有两点,一是目前的 g p o 云做了磁化,不是所有大模型都可以在 g p o 云上运行,因为 g p o。 做训练需要云环境对大模型进行适配,否则是部署不了大模型训练的。 二是因为云服务对大模型底层训练不友好,改代码、调试以及适配会非常折腾。我第一波大模型就是用的曙光平台,给你们看一看,今年三月份足足改了一个月, 这次失败的原因有很多,首先,如果你最原始的模型 已经确定了,物理架构保存的七个破印的存储点都是按照物理结构存储的,再进行迁移有工作量。比如我的原始模型是九卡训练,结构迁移到曙光最好的方法就是同样的 九张卡。但是 gpu 云服务做了显卡的磁化,每张物理卡和我原生的物理卡就不一样了,我的一张卡是四十八 g 显存,曙光平台当时提供的是一张实际显存的卡,两者之间的比例就是一比五,这样算下来就需要四十五张卡才等同于我原生的卡。 这又牵扯到更深入的模型软件架构问题,这一顿操作下来,不可控因素导致你训练的时候非常耗时。当然了, gpu 云计算是一个很好的一个方案,我只是在两种选择之间选择了一条对自己有利的路而已。在此分享给大家, 如果你想了解大模型未来能做什么,请关注我主页视频。