大家好,欢迎来到日光华的 py touch 深度学习入门实战课程,这节课我们来看一下拍 touch 二点零的简介与安装。 拍 touch 二点零呢,它是二零二三年的三月份发布的一个重要的版本。拍 touch 二点零,它是一个重大的更新,它代表了拍 touch 在之后的一个这种眼镜的方向。 那么拍拖是二点零呢,他是在确保和之前一点 x 这个版本,比如说从一点零到一点一三所有的这些版本完全兼容的基础上,提供了更快的训练和推理速度, 这就是所谓的拍 touch 二点零,它是一个重大的更新。拍 touch 二点零在确保原 有的动态图模式还有命令行这种编程风格的基础上,从编译层面对拍套尺做了加速。 那么我们所说的编译层面,实际上就是说它从 python 代码转换成比如说 cpu 上运行的 c 加加代码,或者说 gpu 上运行的这种代码的时候啊,它的转换效率, 转换成的代码的效率更高,速度更快。拍透这二零呢,他针对的无论是这种 gpu 还是 cpu, 还是这种 我们所说的这种呃, macbook, 什么 m m 一这种显卡,各种硬件上这种推理呢和训练都做了优化,对于拍套池内置的这种 transform 模块,在二点零版本呢,也做了专门的 优化,其运行速度呢,更快。所以说我们所说的这种拍套值二点零,你 你要了解的一点就是说他的速度更快了啊,他的训无论是训练还是推理的速度更快了,并且呢,他完全兼容之前的这些版本,一点零的版本一点零到一点一三是完全兼容的,你不需要做任何的代码的更改。 那么在过去的几年,从拍 touch 一点零到最近的一点一三,官方进行了关这种更新和迭代, 拍套尺二点零呢,提供了相同的命令行运行模式,相同的 api, 这种开发体验,这些呢,都是完全相同的。与此同时呢,拍套尺二点零从根本上改变和增强了拍套尺在变异器 级别,他的这种运行方式。拍照是二点零的,可以充分的去利用硬件加速器的功能,能够在一个模式下为动态图运行和分布式计算呢,提供更好的这种性能和支持。 那么从呃底层来说的话,他就会使翻译成更高的效率啊,更高效率的这种代码,比如说 c 加加代码,或者说呃 gpu 上运行的这些代码。 拍 touch 二点零,他推出了一个完全附加的方法, touch the company 啊,这是拍 touch 二点零引入的一个新方法,就是 touch the computer, 这个方法呢,是百分之百向后兼容的,他完全兼容一点零的。那么通过这个 computer 这个方法呢, 能够将拍套式的性能推向新的高度,同时将拍套式的部分变异模块从 c 加加呢转移到了拍森那,这是一个。那么这个转移大家可能会觉得有些意外,这种转移的目的呢,是想让这个变异器模块呢,能够 被更多的这种程序员所接受啊,更容易上手。因为 c 家家的代码他并不容易上手啊,拍子呢,更容易学习。 所以呢,他将拍摄的这种拍套这种变异模块呢,从 c 加加迁移到了这种拍摄部分变异模块啊, 这是拍 touch 的一个这种新的发展方向,比如说他会提高速度的同时提增加更多的这种意 应用性,所以它启用了一个新的版本号二点零。二点零呢,它引入一个简单的这种 compart 函数,它的用方法在这里我们简单看一下,就是 model 啊,这个 model 它的创建方法和一点零是完全相同的, api 的写法也是完全相同的, 只不过你比如说使用这个方法陶瓷在扛 power, 然后他会得到一个扛 power 的毛豆,那么这个 com power 的毛豆呢,他的训练方式也和一点零是完全相同的,只不过他的速度更快, 所以我们不需要做任何原代码的更改。 r 点零呢,只需要加着一行代码,就能够在让我们之前的绝大多数的模型它的速度提高百分之三十到两倍。 使用二点零呢,不需要我们去修改拍套尺的这种工作流程,只需要这一行代码就能够优化模型,使二点零加速,并且呢与其余的这些拍套尺代码呢一起平稳运行。那么并且呢,这个编译这一步啊,是完全可选的, 你不想加速,你完全使用你之前的代码也没有任何关系。拍照是二点零,它之所以能够实现加速呢,它使用了四种新的技术, 在这里呢,我们也列出来了,他呢主要的目的就是使的程序运行更快,内存占用更少啊,这就是二点零他的一个特点,在内存占用更少的基础上,程序运运行的更快。他突出的一点呢,就是使用了这个深度学习的变异器。 这个 touch 啊,叫做 inductor, 这个 touch inductor 呢,它是一个呃,一个完全使用 passion 来编写的一个深度学习编译器,它可以为多种加速器,比如包括我们所说的 呃这种 cpu 啊,呃 gpu 啊,还有 m e 啊等等吧,提供这种加速生成这种快速的代码。 torch induction 呢,将拍 touch 模型呢,映射到 gpu 上生成的这种呃代码,还有 cpu 上这个代码, 他的核心这种中间表示就是矮矮,因为这种矮矮呢仅包含五十,大约五十多个字符,他是用拍散来实现的,易于学习和扩展。这 我们所说的这种拍套纸二点零,通过这个的大家介绍,大家可以看到二点零呢,它实际上是完全兼容之前版本,只不过对之前版本做了一个优化啊,做了一个加速,还有内存上做了一些优化。 我们想使用二点零的这种加速功能呢,只需要将之前的这种模型的加上增加这一步就 ok 了,就是这么简单。那我们来看一下二点零的安装拍照者,二点零的安装呢,他也非常的简单,总的来说他的 核心思想就是根据官网的提示来安装就 ok 了啊。那么我们首先来看一下它支持的平台啊,它支持 windows, linux, mac os 这些平台。 windows 呢,支持 win 七还 win 十,我们推荐大家使用 win 十, win 十一啊,真的高的版本,或者 windows server 二零零八 r 以及更高的版本。如果说你是一些低版本的 windows 可能就用不了了, 那么 linux 呢,它要求无斑图十三点零四及以上的版本。 mac os 呢,是一零点一零及以上版本。 m 一版本的 mac 呢,它支持 gpu 加速, 这是 linux 支持的这些版本,这些版本之上的都支持,包括这些版本。 呃,那么我们所兼容拍套尺寸兼容的 python 版本呢,是 python 三点七到三点九, python 三点七到三点九,并且呢是六十四位的 python, 这是它 还有在安装之前要注意的这环境啊,我们本科车呢使用的是三点九, 我们推荐大家使用 minicomda 来搭建拍摄环境,为什么?因为 minicomda 它可以创建一个独立的环境,你可能在学习这个课程之前已经安装了拍摄,那么在这个拍摄上你可能安装了很多库, 你,当然你在这上面去安装拍套尺,其实问题也不大,但是也有可能会出现这种,比如说库冲突这样的 啊,这样的发生啊,尤其是你,比如说你安装了 test flow, 你在这个环境下再去安装,就可能产生这种酷的冲突。那么在这里呢,我们搭建一个魅力康大,他会创建一个最小的这种拍散环境,还有 康达环境,所以我们可以来安装一下这个 mini 康达啊。 mini 康达呢,我们可以下载官网对应的三点七啊,对应拍森三点七到三点九版本的这个 mini 康达,注意 mini 康达它是包含着拍森的, 那么你可以加我的微信,我可以将这个 mini 康大呢发给你啊,在这里呢,我已经下载下来了,就是这这里呢,我们看到 mini 康大杠 p y 三九,说明它包含的拍三啊,是拍三三点九, 大家可以双击,然后下一步,下一步,下一步这样来安装,全部默认安装就可以,这个安装呢非常简单。 然后呢我们就来看一下拍 touch 的版本啊,拍 touch 呢,它分为两个版本,第一个呢就是 c p u 版本,然后呢是 g p u 版本, g p u 版本啊,它可以使用 n v 达显卡来加进行加速,如果说你没有 n v 达显卡,那你就安装 c p u 版本,如果说你有的话,那么你就可以安装 g p u 版本, 那么他的 gp 版本呢,他可以利用安维达这种强大的并行加速能力,使得他这种训练运行更为高效,可以成倍的提升这种模型训练速度。 好了,下面呢我们首先来演示一下 cpu 版本的安装,我们根据官网的提示来看一下,如果说我们没有显卡,我们要安装 cpu 版本应该如何来做, 我们首先呢进入这个官网往下拖,这里呢我们可以我们 看到这是一个提示框,这里比如说我们选择稳定版的二点零,我们是平台是 mac 还是 linux 呢?比如说我们是 windows, 我们选择 windows, 然后我们安装方式呢,选择 pipe, 我们的语言是拍摄,然后我们是 cpu, 我们点这个 cpu, 好的,这的话我们就把条件选好了,他给出我们一个安装命令,就是 pipe install touch touch vin touch audio, 我们复制, 然后我们打开我们的 miniconda mini 行,怎么打开呢?在这里搜索 anaconda, 这里有一个 anaconda prompt, 括号 miniconda, 我们点它,这样的话我们就进入了 miniconda 的 mini 行,这里大家看到前面有个 base, 这里呢我们把我们的命令呢粘贴过来啊,我们的安装命令粘贴过来,复制 粘贴正的话,我们敲回车就可以安装这个 touch 二点零 cpu 版本啊,这就是它的安装方式,我们看到它正在进行下载整个的过程呢,也是你注意观察它下载过程中 只要不产生这种,比如说因因为网络产生中断啊,他只要不报错,就能够成功的去安装 cpu 版本, 这就是我们所说的 cpu 版本的安装,根据官网的提示选择平台来安装,比如说你是 mac, 可以点 mac, 点 python, 点 default, 然后复制这一行安装命令 就可以了。你是 linux 也是可以的啊, pipe python cpu, 然后复制这个安装命令就可以了啊,就是这么简单。 好的,那么我们安装完了之后呢,我们再来看一下,假如说我有啊, 在电视里我们还有做一个提示啊,就是说在 windows 平台啊,我们安装这个牌套车还有可能需要这个 vc reddest 啊,有可能需要这个 vc reddist, 实际上他是需要的,一般情况下,尼克的电脑应该是有这个 vc 的。 如果说,呃,那我建议大家安装一下这个 vc redist, 那么大家如果说需要这个包的话,可以加我的微信来进行安装,这是一个 ese 文件,当你拿到这个 ese 文件之后,双击它就可以,那这是温 windows 平台,它需要这个 vzoc, 加这个包, linux 和 max 是不需要的。 windows 平台它需要安装这个 vc, 那么这个 vc 是个 ese 文件,你只要双击它安装就可以,非常简单。这个包呢,也很小,你可以加我的微信来获取啊。 好的,这样的话,我们就下次我们就安装完了这个,呃,这个牌套纸,牌套纸,通过这一行安装命令 就 pip 就安装完毕了,非常的简单。那这个 vc 呢?它你无论是 pip 之前安装还是 pip 之后安装都是完全可以的啊,它是一个 c 加加的这种 v j c 加加的一个库。 好的,那么我们下面呢,再来看一下在呃如果说我们 gpu 应该如何来安装呢? gpu gpu 的安装其实也是一样道理,我们在这里选择 staple, 选择 windows, 选择 pipe, 选择 python, 这里当我们选择 gp 的时候, gp 的时候,我们可以选择一个酷的啊,比如说我们选择酷的的版本十一点七,这就是他给出了一个 gp 版本的一个安装 命令。这里大家要注意啊,如果说你有 gpu 的话,你不需要去执行这个 cpu 的安装,你只要选择现在我们所演示的这个 gpu 的安装就可以啊,并不是说 cpu 的安装是一个必要的步骤, 如果说你有安维达显卡的话,你就直接选择这个 cod, 然后选择这一条安装命令。我们看到这个安装命令呢,他会帮我们去安 安装这个 touch touch v 人 touch audio, 并且呢它会下载这个库的是依赖库,所以你就你就直接复制它就可以了。好的,我们复制过来,然后呢?呃,没有复制过来啊, 复制好然后回撤,这样的话他就会安装这些所有的库。在这里大家看到我已经安装好了,那安装完了 beat 安装完毕之后呢, 我们就可以来啊测试一下,测试一下这个安装过程是否成功。 怎么测试呢?那么在这里呢,在测试之前,我们首先我们要提醒大家一步,就是说 我们呢需要去我推荐大家使用猪喷头的 book 来进行编程,猪喷头的 book 呢,它是一个基于外部的开发,开发六开发环境啊,它非常非常的方便。我有一个免费的教程啊,如果说你 不会使用这个猪盘 notebook 的话,你可以加我的微信来获取这个免费教程。那么在我们去测试之前,我们首先需要安装这个 notebook, 怎么安装呢? 我们可以使用这个 pipe 来安装 pipe install 啊, install notebook, notebook 就可以,就是这么简单。 pipe install notebook, 这样的话,我们就可以安装这个用 jupiter book 这个编辑器啊,你可以叫它编辑器啊,它是 实际上是一个 g u web 的开发环境,命令行式的开发环境,我们运行银行代码,能够立即看到它一个执行结果,这点是非常非常方便的。我们运行这个 pipe install notebook 之后呢, 我们打开这个 notebook, 怎么打开?我们可以输入 jupiter notebook 啊,这个命令叫做 jupiter notebook, jupiter 空格 notebook, 好,我们敲回车,这样的话他就会打开我们的浏览器,要注意啊,推荐大家使用呃,谷歌浏览器或者微软浏览器, 这就是一个 home 页面,实际上就是你命令行所在的这个目录, c u 色光环这个目录,这里面有很多文件,我们点击 new, 点击这个拍摄三,在你那里是拍摄三,没有这些乱七八糟, 这段话就会点打开一个新的可能。大家看到这就是一个主盘的 book 的一个编辑页面,但是这里闪了一个光标的地方就是一个命令。呃,单元格,你可以在这里面输入命令,比如说我们可以 input touch 啊,引爆 touch, 这样的话就导入了 touch, 怎么执行它呢?按住 shift 敲回车,它会执行这个单元格,然后它会我们看到按住 shift 敲回车之后,它会自动打开,出现一个新的单元格,并且呢 这光标闪在新的单元格上,这时候我们可以输入新的命令,比如说我们生成一个,呃,生成一个这种 tense 吧,比如说讨吃点 tense, 讨吃点 rendom 吧,我们来看一下啊,讨吃点 rendon, 比如说我要生成一个 呃二乘三的一个随机数,随机的单词 touch the render。 当我们执行这一行命令的时候,如果他正确的返回了一个单词,说明我们的这个 touch 呢是完全没有问题的,已经成功的安装了。 那这个时候你可能会想,如果说我有 gpu 的话,它能不能使用 gpu 呢?这里有个测试代码,就是 torch 点 code 点 is available 啊, available available touch the code is available。 我们执行这一行代码怎么执行?按住 shift 敲回车啊,它显示 false, 这样的话说明它并不能使用 gpu 啊。在这里呢,原因就是我们刚才 刚刚的啊,刚刚执行了一遍那个 cpu 版本的安装, cpu 版本的安装,所以它是一个 cpu 的版本。好的,如果说你不执行这个 cpu 啊,直接刚运行我们刚才所说的这个 gpu 版本的一个安装命令挂,那么他这里如果说你的显卡你有安慰他显卡的话,那么在这里呢,他会显示啊,显示为处,显示为处的话,代表他可以使用 cpu, 呃, gpu, 呃。也欢迎大家关注瑞光华在网易云课堂的拍套,是深度学习入门实战课程,这个完整课程呢,它有两百节,从入门讲起,内容包括 cnn 啊,卷进申请、网络数据输入模型保存、经典网络架构迁移、学习可视化、图像定位原理、图像语音分割、文本与序列循环、网络一维卷进目标定位等等。啊,这就是我们网易云课堂的一个封面。 那么这个课程呢,他的前三十七节是可以免费预览的,那您可以加我的微信呢,来获取基础部分的这种参考代码和数据记,可以看一下前三十七节。那完整课程呢,有专门的学员群 提供答疑,并且分享全部的数据集参考代码。还有课件啊,也欢迎大家关注日月光华在网易云课堂的 爬虫数据分析,积极学习特斯 flow, 还有更生成对抗网络等等课程。谢谢大家。大家可以加我的微信,有什么问题谢谢大家,再见!
粉丝7517获赞1.3万

带 gpu 的帕特尔签装需要三个步骤, q 弹安装、 gda 安装帕特尔签装,下面详细讲述安装过程。 guccid 安装步骤如下, 首先查看英伟达显卡的扩大信息,打开英伟达控制面板,帮助菜单下点击系统信息 演示基因。伟达显卡的哭大版本是十一点三。 查看帕涛尔支持的哭打版本, 进入拍拖耳之官网,向下找出拍拖耳签装配置,可以开出拍拖耳 七点九点零支持的酷的最高版本是十一点一, 一个是十一点三,一个是十一点一,要选择十一点一版本的裤带安装包, qq 的安装包下载地址已经打在屏幕上,找出酷的十一点一版本的链接,点击他演示笔记本的系统是六十四位 windows 十并 stoltax 选择 excnitty 安装包不到六十兆 安装扣的一定要以管理员身份运行。安装程序 要选择自定义安装 展开。抓一本 comeond, 如果给翻一抓,一本的 当前版本高于新版本,不要勾选 disco airi, 记住酷的安装位置,后面有用 按提示安装即可。演示笔记本比较老,这个过程大约需要十分钟 安装成功, 安装程序自动配置了,环境变亮,不需要手工处理, 同时按下微加二键,调出 cnb 窗口,进入 命令, mvcc 杠打 v 出现如图,结果证明酷打安装成功。酷 dnn 底安装步骤如下,这里需要会员资格,应 次先注册一个账户, 如果已经注册过,则录入密码登录,否则创建账户填写注册信息,勾选同一英伟达的条款。下面的问题是非常惨烈的,直接拷问你是不是人, 问题是随机出的,这次遇到的是从给出的图形中挑出自行车。要什么自行车啊?要啥自行车, 要认真回答问题,答错了,不只是要告别自行车了,恐怕告别的是人类。在图形识别领域 恋爱早就超过人类了,研发 ai 的公司还出这种题,也不知道是咋想的,应该考察对方是不是非人类,比如这样出题。那既然这 这样的话,我也咨询个问题,你说过年了,嗯,我们家什么年货也没买,就剩下一头猪和一头驴,你说我是先杀猪呢还是先杀驴呢?那你先杀,给你们俩个机会,哈哈哈, 驴肉好吃。好,先杀驴,先杀驴。恭喜你答对了,猪也是这么想的。回到正题,点击创建账户, 因为答会给人类发个验证邮件, 打开邮箱,在网站通知里找出这封邮件,点击其中链接,验证通过后登录,继续完善账户信息。 终于可以下载安装包了, 找出与酷的十一点一对应的 ctrl 软件包,这个地方需要仔细一点下载安装包,安装包是一个基本键, gdm 的安装就是把安装包中的文件按照文件加对应的原则拷贝到 q 点之中, 打开 cmd 窗口,按图中指令运行一个 dm, 结果如图时说明酷迪人类男装成功。 最后就是拍掏耳圈中打开拍掏耳器,官网向下找到安装配置,按系统情况选择。如图,最下面的指令就是安装指令, 这里采用的是拼盘装方式,不是康的,不需要实行安装。安的,康的执行安装指令,这里有个安装包,三个 g 下载,他需要一些。 安装结束, peplex 查看安装列表会发现多了三个。测试一下安装结果,运行爱开放,如图,渐入语句结果是出入说明 gpu 版的 party 安装成功。 这次安装过程的分享结束了,谢谢观看。 再来一遍。



拍 touch 的安装 g p u 版二,好,如果你库打安装好了,你接下来要去看一看库打是否安装成功,就可以在命令提示服里面在这里输入一个 m v c 杠 v, 哎,写错了啊,是杠 v 回车,那么此时它就会返回你当前安装的 quad 版本。诶,哦,是当前安装的 quad 版本呢,是十一点七,所以同学们,你要注意好了,你所能够支持的 quad 版本到底是多大,你就最多只能安装到 quad 十一点七这个版本, 你不要去安装酷打驱动软件,不要去安装十一点八,不要去安装啊,一定要安装他最多能够支持的,像老师这里最多能够支持的是十一点七,因此老师就安装了一个十一点七的版本的酷打软件。然后安装完之后,你通过 n v c c 啊,已经确定好了酷打安装成功了,那么接下来呢,你就可以直接 来安装库打了啊,就通过这个命令,现在我们已经确定了老师的库打是十一点七。好,你接下来就通过这个命令,可以直接来安装了,在这里呢,你放下来就可以来安装了。但是呢,由于这个软件非常大,我们刚才讲了安装的这个 torq 啊,他可能有一个多 g 啊,应该确定是有一个多 g。 如果你的网络但凡出现一点波动,这个地方他就你下载下载,下载,好不容易下载了五百多兆,七百多兆,哎,他就给你断掉了,因为网络有点波动,他就给你停掉了,那么怎么办呀?哎,其实这地方他给了你一个网址,同学们, 这个网址啊,你可以打开看一看,其实对应的就是 py torch 的服务器,那么在这里呢,它有很多关于 py torch 知识的软件,比如我们需要安装的 torch, 还有呢 torch audio, 还有呢 torch worship, 它都有,那么现在 你不就是要安装 touch 和 touch watching, 还有 audi 吗?那么你直接在这里来进行安装也是没有问题的。那么在这里一点开之后啊,我们刚才点击了 托起,我们先来安装托起啊,那么你到底应该安装哪一个版本的托起呢?你看前面这个托起二零,然后呢 cpu 什么什么的什么的什么的,你也不知道他到底代表什么含义啊?我们来分析一下,托起二点零零就代表你当前下载的托起版本是二点零零版本的, 然后呢,后面加上一个 cpu, 就代表你当前安装的是 cpu 版本的,然后呢,这个地方一个 cp, 不是说你要处一个 cp 啊,不是啊,这里的 cp 它表示的是 python 的版本,例如老师现在这个地方啊,我现在把这个删掉啊,不这样去安装, 老师在这里呢,默认使用的拍子呢,是三点七点九版本,所以你就去找到 cp 三点七点九这个版本,那么就是三七这个版本啊,你去找到这个版本就可以了, cp 三七这个版本就好了,哎,这个地方默认呢,比如这个,他表示 cp 三点十版本就是拍子三点十版本,然后呢操作系统是另一个操作系统的,那么显然这 一个文件并不是我们需要去安装的,我们要去安装拍摄三点七这个版本,所以呢,你通过 ctrl f 在这里呢,输入 c p 三七,就能够确立你当前拍摄的版本。好,我们将往下找找找,那你到底要安装哪一个版本呢?哎,你可以跟着老师一样的版本来进行安装啊,例如老师安装的呢? 修一下,我们查看一下 top 的版本。老师安装的是一点一三点一这个版本, 在这里我们也不建议同学们安装最新的 touch 版本好不,建议安装和老师差不多的版本就行了,但是同学们,你千万不要去安装啊,后面特别老的一些版本,例如我们往下翻啊,一点五一这个版本你就不要建议去安装了啊。 那么在这里呢,老师安装的是一点一三这个版本,那么你可以去找一下关于一点一三这个版本啊,直接就是搜一点一三这个版本。好,在这里呢,传是一点一三这个版本啊,一点 一三点一,那么好,再加个点一,现在就确定好了。在这,现在你去找到 c p 三点七,是不是只有这两个是 c p 三点七啊?哎,但是我们发现他好像只有慢了,嗯,这是怎么搞的?这是因为他是 c p u 版本,他并没有写 g p u 啊。那么 g p u 版本在哪里啊?你往下翻,下面还有 下面还有,我们往下翻,在这个地方,你看它这块有图形啊,这个地方是 touch c u, 看到没有?这个才是扩大啊,我们要去安装扩大一一七,那么扩大一一七在这儿,所以你一开始也可以直接定位扩大幺幺七,就代表你现在安装的是扩大 幺幺七这个版本。而老师安装的版本呢,是幺幺三点一,那么就找到幺幺三点一,就这个地方,然后呢找到 python 三点七这个版本,那么 python 三点七满足和老师一样的版本呢?是不是只有他们俩了呀?你看 torch 一点一,三点一,并且他的扩大版本呢是幺幺七,并且他的 python 版 版本呢是三点七,对不对?然后呢有一个 linu 系统版本,有一个 window 系统版本,那么此时我们就去下载 windows 系统版本,你把它下载一下,点击一下它就可以来下载了,你看二二点,一个 g 非常大,如果你用命令提示符的形式直接去下载安装啊,它经常性的可能会中断两个 g 的内容啊,你可能要下一个小时,那么一个小时的过程中,你突然就网络中断了,就会导致你下载失败。 所以呢,建议同学们你直接把这个网址啊,在这个地方下载,或者直接到迅雷啊,或者用其他这些下载专门的下载软件把它下载一下,这样的话下载速度就非常快了啊,关注我,学习计算机知识。

大家介绍一下,有一个蛮重大的一个消息,可能大家并不一定会关注,但是估计的话呢,我会影响深远的。就是那个我们在 ai 底层的有一个软件叫拍 touch 二点零版本,它今天是正式对外发布了 这个版本,我们看看它到底可以为我们未来带来一个什么样的一个变化。虽然这两天 g p t 四发布大家都会非常火,但我看到拍 touch 二点零发布的这个视我觉得也不亚于 这个 gp 七四的这样的一个发布的一个事件。我们可以看到最近在全世界就是 ai 方面的这些新的这些工具,新的这些能力不断的在创新,他等于有点像爆发的这种感觉,我每天都可以看到有新的变化啊。所以今天我主要还跟大家介绍一下,这个拍 touch 二点零 原来是 facebook 开源的这样的一个项目,它今天正式对外发布了,我们一起来看看它到底是一个什么样的一个东西。好吧, 首先我可以给大家介绍一下,在人工智能的爆发的话呢,它的起源主要是在于算力,算力的巨大的爆发,据统计在二零一二年到二零一九年,整个一个门蓬勃发展,他最大的一个支撑就是那个算力的大幅的增长啊,那么他在近五年当 他的算力增长的将近近三十万倍啊,这个是非常可怕的,就是说,呃,他的这样的一个增长啊,他的这个话呢,是可以看到这个需求的增长 更大,他这个 a 幺那个这个 a 来支持的这个需求的增长比目前的这个算力的增长要更快,他等于是这样。呃,这个是来自于华为的他们的一个数据,他们这边是讲三零年 对 b i 的需求的增长,这个数据的增长每年要以百分之八十的速度在增长,它等于是这样,那么我们清楚就是说它这 未来五年,他预计这个算力每年可能也要保持百分之三十几的这样的一个增长的一个速度。这样算力的需求和你实际的算力他其实形成了一个巨大的一个缺口。 其实目前市场上来讲算力是远远是不够的,包括我们现在看到的类似的这些人工智能的这些模型,也有一个统计数据,他这边是讲的二零一六年到二零二一年,我们清楚就说 现在的这个大模型就是 transformer 的这种大模型, g p t 一, burt g p t 二到这个 g p t 三到 g p t 四,它这个这个人工智能的模型的这个这个模型的参数是非常的增长,是非常快的,它是以这个指数级的在增长。但是呢这个 g p u 方面的这个算力,包括它这个内存的增长, 内存的 g p u 的内存的增长,它还是以从这个统计数据来看,这就这两年这个 transformer nice 的增长, 两年平均增长二百四十倍,但是 ai 这个内存的增长两年只有增长了两倍,所以它的这个算力的增长是远远落后于它的这个 ai 的这个算量的这个增长。一届的话呢,它一直在做一件事,就是一直在做怎么可以让我们的这个 ai 就是不需要的内存,或者不需要太多的算力,它就可以支持这个 ai 的这个呃,呃就是 ai 导游啊,它等于是这样,呃数据持续增长,算力的话呢,它是跟不上这个 实际的算法就会比较重要,所以我今天就看到就是 path pythoge, 它这个就是底子支持这个算法的,呃,这个,这个是底层的 ai 的这样的一个软件,所以它的本质上呢,它就是代表了算法,呃算法,所以我们看到这个非常呃高级,可以看到这个 pythoge 二点零,它现在去支持了更多的这 芯片,因为他发现现在 gpu 的龙头就是英伟达,英伟达的目前的这个发展,他可能已经跟不上整个一个算力的增长,所以他们这些的这些软件,他需要让 或这个 gpu 这算力的芯片的垄断,他要去支持更多的这个芯片,让更多的厂商去支持断力的持续的增长。他等于是这样,我们可以看到他这次发布的这些版本里面非常多的,我可以跟大家细讲一讲。就这一部分我们可以看一下他这张表格里面, 它虽然是二点零版本,这是稳定的。这是 bit 版,是圆形这个还是圆形的版本,这个它是一些 performance 的一些改善,你可以看到它很多的需求 都是在支持什么是支持更多的芯片。举一个例子啊,说这拍套去去支持 n p s 的 back end, n p s 其实就是这个苹果 的 mac 平台的 a m d 的 m 系列的这个芯片,它目前也已经支持了。那第二个你可以看到它这个功能叫点乘机的 attention, 它就是为了增加了一种算法,可以优化这个内存,需要更少的内存去算这样的一个 秉承的这样的一个,比如说他去支持了那个叉八六的 cpu 啊,去让它性能会更好啊。 它这次二点零发布之后,它适合 cpu 和原来的比较,它性能得到了翻翻的这个增长,支持了那个恩的这种算法的算子,在不管是在预测和训练上面,它这都是在 gpu 上面, cpu 上面也进行了优化, 大幅地增长了这个原来的成倍的这个就是,呃,等于是这样啊,那么我们也可以看到它是在考 a m d, m d 的 g p u 和这个亚马逊 a 块,呃,他们也自研了一个这个,这个,呃基于 arm 的一个芯片,呃,他也去支持了,他等于是这样, 呃,他就是说,呃,拍套这个最底层的这样一个算,呃算法的这样的一个平台,他等于是这样。嗯,那么那也去支持更多的这个,包括 amd, 包括叉的那个 gpu, 对吧?包括一些亚马逊、苹果的芯片,大普普遍的去支持,然后让这个算力可以能够继续的去支持这智能的这个发展。 那么我们再来看一下它为什么能看一下就是原来为什么它这个东西,呃,只支持美达的这个 gpu, 现在它可以去支这么多芯片啊,这是这个技术是怎么来的?我们,呃给大家稍微来介绍一下。 呃,这个实拍,它这个二点零里面的这个这样的一个 overview, 就是它的性能的一个概要啊,它对自己 整个一个版本,呃,提升,从一点零升级到它主要总结了四点的功能,新的特性啊。呃,这个就是动态,动态的图,还有这个自动的这个回归啊,呃,地规 个这两个功叫 primate 和 torch induct, 这两个功能是非常非常重要的,我会详细给大家解释一下啊, 这两个是什么功能呢啊?你可以看到他们整个一个二点零的,整个一个后台的架构的话,你会发现他会变成这样啊, 他的文中视角,他的 motion, 呃,他的动机是怎么样讲?就是说,呃 g p u 的话呢,就是越来越快互创造的这个模型的话呢,就是越来越懒啊,他等于所以,呃 现在的这个打杂,所以创建一个这样的一个模型的话呢,是挺复杂的啊。呃个例子,举了一个例子,别人用那个去编写了这样的一个学习的这样的一个网络 啊,这个网络的话其实如果要扔到 gpu 里面去计算,他还要经过这几步。第一步的话呢,他就是把那个动态的图进行优化完了之后,第二步把这个动态的图再把它变成这个算子,把它动态的这种图,他有两千多种的这种算法, 两千多种的这种算子,他把它合并成两百五十多种的这种算子,再把这个两百五十多种的算子,因为我们清楚就是多和他的病情计算会比较好。他再把这个两百多个这个算子, 然后通过叫 torch induct 这样的一个东西扔到这个 gpu 里面去,然后进行加速的并行的计算,他是这样来做到的, 这个是它的整个一个架构,所以的话你可以看到它的用户通过这个 model 创建了这样的一个,然后经过这一步变成了一个网,那个动态的张图,然后通的功能,它可以自动的解析成各种各样的算字, 然后这个拖呃呃,不,这个功能,他可以把它变成各种各样的这个把它合并成算子啊,就是把它变成这样,就是这个两两千一百九十八种的这种各种各样的这个操作。对人工智能的各种各样的操作,他会变成两百多种的这种核心的这种算子算子, 然后他再通过 torch inductor 这样的一个东西,再把它扔到这个 gpu 里面去进行优化,他是这么来做到的。 原来我们清楚如果他是要把这些算子要扔到 gpu 里面去,我们必须要通过英伟达的叫库达的这样的一个驱动程序,就是 gpu 的这样的一个驱动程序。但现在欧欧奔 ai 这家公司就很厉害, 也是那个 chat g p g 家公司,他们呢就是有开源了一个新的项目,叫 treatin 这样的一个项目。给大家看一下 他一开源了这个 tratin 的这个这个项目的话呢,他可以是什么样?他可以让那个编写在 g p u 上面的这个编程变得非常容易,他就直接绕过了那个库达。英伟达的这个 酷打的这个驱动程序,直接可以通过 treatin 来编译成为 g p u 上面的这些代码,它这个就很厉害。回头我给大家再演示一下,看一看它到底是一个什么样的一个东西。所以它经过这样的一个操作的话, 你可以看到拍套取,因为用了欧奔 ai 的这个吹腾,我们看看这个吹腾的这个项目,吹腾的这个项目呢,可以看到它可以支持英伟达的 gpu, 它也可以支持其他的一些 a m 的 gpu 和 cpu, 当然目前正在开发当中,它已经绕过了英伟达 gpu 的那个库达,因为它是直接可以通过 呃,这这类似于呃编写的这个 python 的这个代码,直接编译成英伟达,扩大上面 gpu 能 能够运算的这些代码给大家看一下,他在这个上面是解释的,我们可以看一下这个是他解释了一下他确定跟库达之间的这个差异,因为他很多的分配啊,包括一些 sm 的这种管理,微核的这种管理,他都是自动的 很多,但是如果你用库达的这个驱动程序,他你都是要手动去编写的,而且手动编写他不一定会比自动的效率更高,他的是这样,他的去他去证明的啊,这个他就是去证明了,这个就是雀藤,他这个是开源的这样的一个跑在 gpu 上面的这样的一个自动生成的这个代码, 这个就是 torch, torch native, 这个就是 torch native, 他们自己手动编写的这个支持这个 g p u 的这个酷达。 g p u 用酷达内裤的这种代码,你会发现它自动编写的这个趣腾的话,它的效率更高,它的效率更高,它等于是这样,它也是去证明的。这个就是这个 g p u 上面的一个内裤,叫 z u b l a s, 它自动产生的这样的一个 twitter 的这个代码,要比他用这个可以直接绕过这个库达的这个内裤写出来的代码效率有可能要更高。 所以它会经过这几步拍摄的代码,然后进行这个 b n e, 它会变成这个 titan 的叫 i o 的这种 i r 的这种指令, 它这个是自动的,然后再经过编译,它会变成这种 g p u 上面跑的这种东西,它等于是这样,它这个都是自动产生的,那你只要是编译一些胎神的代码,它自动的就可以产生在 g p u 上面跑的这种 底层的代码,他是等于是这样,而且他比你手工写的效率要更高,这样的话呢,他就直接去绕过了库达的这个样的一些内裤,这个就很厉害,这个是他的基础的原理。上面就是我给大家就是解释了一下,我们这次拍 touch 二点零 它这个发布其实影响也是非常深远的,它让整个一个人工智能的这个生态,那目前算力是整个一个行业的瓶颈,它通过绕过了那个英伟达,打破了它的垄断,让更多的 ai 的这个芯片去支持更多的 ai 的芯片,它等于是这样,那么它就不需要让那个拍套去一直要去支持拿那个这个内裤啊,它是这样啊,它的这种方式, 呃,所以他把这个就直接从一点三版本直接就升级到拍 touch 二点零版本,这个变化是非常非常大。呃,当然是背后也有欧本 ai 的很大的贡献,如果欧本 ai 没有这样的一个 triton 的这样的一个开源的项目,我估计拍 touch 他也只能目前只能去支持这个英伟达的库达的这样 g p u 的这样的一个 driver, 他等于是这样,那他就直接通过 triton 直接把 g p u 的这样的一个驱动的这个代码就直接能够生成, 这是很厉害。那我们再来看一下他这个 tratron, oppo ai 的这个 tretor 大,他这个代码到底是怎么来用的?我们稍微看一看,因为我们清楚就是说。呃,中国目前在数据上面,我相信中国应该还是有一定的优势的,中文啊,中文的这些数据中英文, 因为我们毕竟有十四亿人,这个产生的数据量肯定是非常大的,当然目前可能还是需要进一步的规范。呃,要做很多的工作,等于是 新经济。第二个的话呢,下面的话呢?呃也公司呃不断的在研发各种各样的芯片啊,然后这种开源项目的加持的话呢,就不用去太担心我们会 p u 上面被卡脖子啊,你们也可以去发明各种各样的这种 g p u 也有我们自己的驱动程序,然后雀藤欧奔 ai 的这个开源的 get 能够很好的结合的,他可以让他一套取得各种各样的这种人工智能的这种算法,直接跑在我们目前后面要开发的这些芯片上面,他等于是这样,所以这个项目就 重要了,变得极极极重要。好,我们一起来看看他这个代码到底是怎么来写的。第一个他其实让编写的语言 sg 拍成的这种语言安装他比较简单,他只要也是这样安装一下就可以,当然你也可以记语言代码的安装,那你就可以把这个 k 叉不上面的这样的一个目录镜能够下载下来安装一下就可以了。 当然它在安装的时候它还是要用那个 c mac 进行编译的,嗯,因为它里面会产生一些我们前面看到过的一些很呃,这些代码就是呃驱动程序,所以的话呢,它还是要用一些编译器的 see make 啊,要安装一下,我们看看啊,他到底怎么写啊?举个例子,他的这个文档,这是他的文档,我们可以看一下,我们看看这个,这个会比较简单,这个就是使量,两个使量的矩阵做一个加法,这个是经常做的一个操作,我们可以看到内核,他定义了一内核 加法的这样的一个算子的一个操作,那么这个操作我们用在拍 touch 里面的这样两个使使量的这样的一个加法,当然他这个当中,他在这个算子当中调了一个 add curnal 的这样的一个方法。 add curnal 的话呢, 需要进行吹腾的 j i t 的编译,就是要把这一段拍摄的代码到转换成 g p u 上面的代码,它等于是这样,只要你做这个就可以了,你看所以它的这个代码就会写的非常简单。原来如果我们要调这个 g p u 上面的代码,我们要写 c 加加的,它等于是这样, 你要叫那个调用那个英伟达那个扩大的这种内裤很麻烦的,他现在就不需要了,他这部分代码会自动产生,会非常方便。你只要把你 gpu 上面的这个相应的这个操作,你到底 block size, 你这个定义清楚,他等于是这样,那你完全就可以在这个上面操作了,然后他自动的会把你的拍摄的代码 编一层,我前面给大家演示过的这种底层的这种代码,他就可以跑,我们可以看他就可以跑,你可以看到用那个吹特编写的这个代码跟他原始用这个的这种代码是一样的, 他的性能几乎是一样的,他的也是这样,所以但是他的便捷性会非常高。当然他这个操作是最简单的,他这里面还有各种各样的操作,我们可以看到这个操作他的性能就会非常好, 因为它这个操作的话呢,它叫 affuse to marks, 呃,这个 use soft marks, 这个操作的话,你可以看到它用那个 twitter 编译自自动编译的代码,比你原始的这种代码性能要更好,性能要更好,所以这个价值就会非常大。好的好, 我们再来看看目前这个拍 touch 二点零,它跟一点三的话呢,它是完全是能够兼容的,就原来那个一点三的这些代码,你根本就不需要改,你就可以在二点零上跑。但是如果你想用到二 二点零的这种这么高的这种性能,他可以做什么?做一件什么事?可以看他这个里面他讲的啊,我给大家看一下,他主要用到这个,主要要把你这个 model, 就是我前面讲的这个原啊,就是你原来模型,你要经过 touch touch 的这个, 它自动的可以帮你把两千个算子,两千多个算子变成两千,呃,变成两百多个核心算子,再把核心算子通过,对吧?前 obai 的那样的一个编译器,把它变成底层的各种各样的芯片的指令它,它是变成这样啊, 这样的话呢,他就会非常非常强,就会非常非常强。然后我们可以看到就是人工智能或者新经济,他的数字经济。最重要的这个三个东西,一个是算力, 算力的话呢,核心就是芯片,芯片,第二个的话呢就是算法,算法的底层就是拍 touch 这种底层的这种他能支持各种各样的这种模型,各种各样的算法,他等于是这样。另外一个他就是数据, 这个是新竞技里面三个非常重要的要素。今天我给大家讲的 hightouch 二点零,这个是一个非常关键的软件底层的这部分,因为它是衔接的,算法跟芯片是非常重要的,如果我们 gdp 恰头,因为它现在的所需要的这个数据越来越多,所需要的数据量 模型越来越大,现在你光靠这个 gpu 里面的这个内存远远是不够了。所以你可以看到那个现在苹果的 n 一系列它的芯片的架构,它就可以把动态的内存变直接变成 gpu 里面的内存, 所以的话呢,它就会变成 m 一芯片,它对这个人工智能上的各种各样的操作的话呢,它优化程度也非常高。那么 i touch 二点零的话呢,目前他们也已经支持了,也已经支持了苹果的 n p s 的整个一个架构,就是 m 一芯片, m 二芯片就是 n 系列芯片的这样的一个能力。我前面这边讲 i touch n ps back end, 当然他目前还处于在 beta 版当中,但我自己也在其他的,我自己的电脑本身就是 m e 芯片,所以我自己在用的时候会发现,原来你跑人工智能会非常慢,但是你跑在拍 touch 上面,因为他已经已有一部分支持了 nps, 因为他的他的这个操作有两百多个,核心的这个操作有两百多个,他目前已经支持了可能几十种了,所以的话呢,他会越来越快,他等于是这样。好,今天我就跟大家就交流这些,好吧?如果大家有些什么疑问也可以给我留言。

嘟嘟嘟嘟,哎,开始了,哎,大家好,我是宗明, 刚才十一点半才开完会,然后刚洗完澡啊,现在已经十二点半了,晚上啊,那今天呢,我们来开始一个新的内容,就是 aip 一期里面的拍套区。大家都知道拍套最近呢发布了一个最新的版本二点零啊,他长线呢还没有发布啊,那现在呢,我们来看看拍套区二点零有哪些新的内容。 可以看到拍套小二点零呢,其实他引用了一个最大的概念,就是编译,这就完全符合我们最近聊到的 aiba 系这个系列。所以呢,我把拍套小二点零这个新的话题呢往前提, 我们看一下这个汇报里面呢,我给大家分开了四个内容,那第一个呢就是拍套是二点零的新特性,我们首先来看看拍套是二点零呢有哪些新特性,然后对他进行安 装,然后去使用一下。接着呢,我们一起来解读一下拍套曲的一些新的特性,例如 touch dynamic, 还有 aot autograde, 最后一个就是 touch inductor 三个最重要的特性,我们将会后面的内容去展开。今天我们先围绕我们的拍套曲二点零新特性一起去看看。 首先我们打开拍特使的官网,然后去到 gas star, 点击拍到十二点零,下面呢这些就是拍到十二点零最新的特性介绍,我们挑到 install, 然后去看看怎么安装。现在呢,我们把这条命令复制粘贴 到我们的特密笼里面 粘贴,然后淘气二点零居然已经开始安装了, 看到拍他是二零,虽然是拍他是二零,但是呢,现在长线版的爱特里版呢,还是一点一四来给大家提供的,哎,居然错误哦,没有权限,没有权限,那我加个速度提升一下权限吧。 安装完了,现在我们从上面到下面足够的简单的浏览一下,拍一套小二点零, 可以看到拍照二选零呢,主要推出四个重要的特性,其中 touch compile 里面这个基础站呢,就包含了四个最重要的特性, touch, denome, autogree, 还有 touch inductor 这个图呢,我们等一下,后面会详细的去展开解读,那这个就是版本 christmas, 哎,有点意思啊,这个平衡杆,哎,我们看看,哎,这个就拍上去的变异的流程,哎,先不管,我们后面详细展开, 有四个重要的特性, ao, 调头鬼, touch inductor, premit touch, 哎,下面这个图,哦哦,下面这个图帅,下面这个图帅气。 把所有的扇子都做了一个规约分类,嗯,不错,变成了两百五十多个扇子,然后收编到 at 里面七百多个,呜,对于三方芯面厂上来说,这个特性有点吸引。现在呢,我们打开 lowbook 来去尝鲜一下这些新的特性, 现在来真正的入代码了,首先 in part time import touch import touch, 点 dialamics dialomic, 这个就是新的特性, in pop touch region 点 models 用于我们后面直接把魔性加载进来用嘛, drink touch 刚刚获选,我们看看是用哪个版本,一点意思刚好是我们想要的。来 define, 建议一个简单的函数 返回 a 加上 b。 那现在呢,我们做一个简单的测试实验。 首先呢定一个 complete model, 等于 touch can pay for, 这个呢就是使用拍的最新的编译功能里面呢,隐藏了一个编译器,然后呢,输出等于 compat model, 然后把两个输入参数输进去, 然后算一下输出的时间,接着呢,打印出来 and 点 and 减去大可以看到,哎, 跑这么简单一个程序居然耗了我一点五九秒,哎,有点长,有点长。接下来我们做另外一个实验去看看。 现在呢,假设我们使用 dialomate 这个功能去做一个优化,然后呢,里面的后端使用 inductor, inductor 呢,在 cpu 上面呢,使用是 open mp 去编一点零点零二秒,哎,有点快耶,使用了达罗敏,然后指定的后端之后,他变快了好多。我们再试一个实验,假设我啥都不用,直接用以前的动态图或者一狗的模式, 直接使用拍照取原声的动态图或者异狗模式更快呀,直接用了零点零零零六毫秒,哎,那我为啥要编一层呢?我为啥要编一期呢?编一期有啥用啊?编一期不是说快了吗?为啥编一期会慢的呢?哎,不着急,我们后面会讲到, 你现在呢,定义一个 alex nat 还是定一个 alex snap, 然后呢,定义我们的优化器 现在坑拍末,然后对我们的 models 进行一个编译,下面这个就是我们真正的去执行一下我们这个网络模型,随机产生一个数据,然后呢定一个反向, 这个正反向,他推理发现,哎,用了两点七九毫秒,哎, 使用了拍摄视频仪器之后呢,用了两点七九毫秒,哎,假设我现在不用呢, 不用,我看看时间,哇,不用,时间只有一点零二七毫秒。 就是我,我为啥还要用编辑器啊,这样慢的那么多,这不原声挺好的。不,我在想往下看,这多做几个实验嘛。现在呢,我们刚才只是跑一个正向,跑一个反向,假设我现在多做几轮 apple 模拟我们在真实对网络模型进行训练的一个场景, 然后呢用 come, 然后去把每一轮迭代的时间算进来。那现在这个呢,就是使用动态图或者 e 狗模式的,我们看看总的耗时,或者每一次的耗时有多少 finish training, 接着,嗯,每一秒跑一次,哎,挺快的哈,跑个爱丽丝呢,还是挺 快的,然后平均时间是一点零六九毫秒,哎,没有跑编译的时候呢,是这个,那我们盘跑编译的方式来坑拍 model, 然后看一下他的时间, 哟,好像比上面快,那我们看一下快多少哎,一点零二四,明显比刚才一点零六九 快了那么零点零四毫秒。哦,这有点意思,在单一次执行的时候呢,我有变异的开销,所以单一次执行的时候会慢一点, 但是呢,他抵不过我做一个训练的时候,我是多伦迭代的,其实我图已经编译好了,我下一次直接把静态的图拿出来去执行,所以就快了很多。那这只是用一个最简单的 alex ne 在我们的 cpu 苹果上面去跑, 假设我在 gpu 上面跑,会不会快很多啊?刚才我们简单的去浏览了一次新的特性,就把刚才那个网页看了一遍,然后呢又装了一遍,然后把新特性也用了一遍,现在呢,我们去看看他的一些 特性啊,最后呢,再做一个启发性的思考啊。那首先呢,我们回顾一下未来的版本呢,他说在二点零的时候呢,会支持 touchcountam with ddp 和 fsdp, 就是我有了静态图之后就更好的去做分布式了,然后大部分的模型有百分之三十的提升。怪不得刚才说性能确实是好了,只是我们在一毫秒里面就快了那么一点点,你感觉不出来,那二点 s 里面呢,就会有更 stable 的版本去推出 后面的版本。我们先不管,我们先看近的,在之前呢,我们认为拍照他是没有编译器的,因为他大部分的时候你都用不到,因为现在呢,拍的是奥迪灵芝和明确的 支持 touchdownmi 加 aot autograde, 那 aot 就是 ahead of time 那一种编译的方式,那在底层呢,走的是 aton 还有 premitteriiiii, 最后呢就给 touch inductor 然后去执行的。那 touch inductor 呢,就是由 chitan 那去提供的 哦,我们现在来看看他的模型泛化性,这里面呢用了 tim, touchpan 还有横根 face 这三个套件去测,那基本上呢,大部分模型都有非常大的性能提升,我们看看用了多少模型, 四十六个加六十一个,再加五十六克五五,一共有一百五十多个模型有性能的提升,确实他做了很多的翻换性测试,看起来还是很不错的。 那这第一个重要的特性呢,就是他是呆,那么呆,那么就是发电机的意思啊,主要是从拍套去以前的静态图,然后获取了一个图的概念,然后 进行一个执行的。这里面说了很多啊,主要是在百分之九十九的时间,他都是能工作的,就是工作的非常好,在保持应用性的同时呢,还提升了非常稳健的性能。提升 这个特性呢,也是二点零里面主打最重要的一个特性,所以放在第一 denomo, 那第二个呢,就是 aot, ahead of time, otto 贵,刚才断续 denomo 呢,只是一个编译层啊,但是实际上呢, otto 柜就是反向自动求打造车,怎么做呢? 他使用了一个额海岛泰的一个对图的编译的方式,里面就通过 touch dispatch 去做一个分配和追踪的,这个特性也是非常有意思,我们会在后面去详细展开他的算法原理。 那第三个就是 touch inductor, 最重要的一个特点就是第三百问的,哎呀,提出了一个第三百问,哎呀,然后可以很快 做一个 cost 俊里面呢,主要是用了 oppona 提供的 chita 去生成 gpu 的一些代码,在 cpu 上面呢,用了 openanp 去生成代码,那下面我们再看看有没有最后的一个特性,哎,最后一个特性是 stable primitive operator。 其实在派套群里面呢,有一千两百多个算子,还有两千多个 api 接口啊,对我们生产厂商来说,要对接派套群里面确实是很痛苦的。而这里面呢, primes, ops 呢,提供了二百五十个 最基础的或者最核心算子,然后再往外层呢, atonops 呢,就提供了七百五十多个算子,这个特性呢,对于我们声讨来说可能是最重要的。到了最后一个环节就是启发和思考,嗯,第一点就是拍照是二点零啊,最大的改进,或者最 stand 呢一个呢,就是引入了一个图编译的模式,就 touch 坑拍了,他拍 touch 呢,正在走 one foot 呢, macebook 了,还有他是说 fool 的路就是走他的编译的模式,拍出去走着走着会不会让别人无路可走呢?这是我最大的一个启发。第二点呢,就是 touch in darker 引入了趣态 去支持用拍伞去写哭打的代码,这个特性到底好还是坏呢?我觉得是由开发者去验证的。 第三点就是 print tosh 呢,把两千多个蒜子用两百五十个蒜子进行收编呢,对于像华为升腾这样的场上来说呢, 对接肯定是更加方便的,我们可以拒绝到两百五十个基础算子,如果想要提升性能的话,那很简单嘛,我们去对接 at 里面的一些算子,做一些融合优化。另外还有几点呢,就是拍出去 二点零的官方了,就反复的去强调了,我引用了涂模式之后,肯定完全向后兼容的哦,探测负二点零,这个时候呢,就跳出来说,哎,我可没惹到你啊,你别乱说, 类似于 master 或者其他的 ai 框架来说呢,互相的兼容或者 api 的兼容啊,其实是很重要的,而且 api 在设计之处呢,就应该考虑很多问题。 第五点呢,就是拍套去加入 lineuse 基金会之后呢,更加拥抱开源了,从引入 opai 的 chitan 互相兼容 api 新的特性,充分考虑模型的放话性,还有梭边算子,它越来越开源呢,就引出了第六个问题,我们还有必要开发自己的 aa 框架吗? 这个呢,就是对于我们的思考和启发,也希望引起大家的一个更广泛的讨论。好了,谢谢各位。卷的不行了,卷的不行了,记得一键三零加关注哦,所有的内容都会开源,在下面这条链接里面摆了个摆。

不知道有没有这样的感受,在 b 它还有一个 pdf 版本的教程文章。我们先来看一下这份文档的内容结构,它总共有四个章节,第一章接受数据的划分与处理,数据增强。第二章介绍模型的定义,选择初始化模型方探。 第三章接受各种损失函数以及优化器。第四章介绍可视化工具、运营监控、数据模型权重以及损失函数的变化。还有就是干货直达的部分,作者就说 coms 二十二个方法,选择初始化的十种方法,陪他字的十七个损失函数,陪他字的十个优化器,陪他字的六个学习率调整方法,听说 报的 x 都做了非常详尽的解释。除此之外,还有三个我非常喜欢的地方。第一个就是它的代码,它的代码很全面, 我不担心找不到我需要的代码。他这个教程中的所有材料,我们在代码扣的文件中都可以找到相的去做,因为无论是数据处理模型应用,液化气问题、可视化,这些都是我们需要学的东西。第二个就是他的 data 文件夹中,他会根据当下的实际环境的问题,能够及时的更新自己的教程文件,这样的话 哪怕在环境不断迭代的过程中,教程的实用性依然很高。他这里原来是零点零点四,现在已经更新到了零点零点五了。第三个就是这个 requirements tst 文件中把所有的参数都告诉了我们,这样的话就防止我们在环境搭建中出现一些问题。这份教程文档真的非常非常的不错,推荐给大家。