拍 torch 是一个开源深度学习框架,用于构建许多世界知名的人工智能产品。它由 media 研究实验室于二零一六年创建,前身呢是基于 luoa 的 torch 库,二零零二年就有了。 简而言之,拍 torch 是一个处理张量,即多维数组,用于表示深度神经网络中的数据和参数的库。 尽管听起来比较复杂,但应用性使得只需几行拍三代码便可训练机器学习模型。此外呢,得益于 nvidia 的 crew 的平台, pet touch 还支持在 gpu 上进行高性能并行运算。 开发人员喜欢使用拍托尔斯进行原型设计,因为他支持动态计算图,允许在运行时优化模型,通过构建一个有效无环图实现。该图呢,由一系列函数组成,用于跟踪对张亮执行的所有操作,使得你可以在每次迭代后根据需 要更改形状大小或者是操作 air torch 已广泛应用于训练,例如特斯拉自动驾驶的计算机视觉 ai, 稳定扩散的图像蒸蒸器,还有 open a 下的模型,比如说 chin, gpt 等等。 要开始使用,首先安装 pet torch, 如果需要在 g p u 上加速计算,还可以选择性安装 cuda, 然后将其导入 python 的文件。张亮呢,与多维数组相似,你可以使用 python 创建一个二维数组或矩阵,然后用 tour 是将其转换为张亮。接下来可以对其进行各种计算,例如将所有整数转换为随机浮点数,或通过将多个张亮相乘来执行新型代数。 你可能希望构建一个深度神经网络,如图像分类器,可以先定义一个从神经网络模块类继承的新类,在构造函数中逐层构建网络展平层,将多 多维输入转换为一维。然后呢,使用 screenshow 创建一个数据流经的层容器,每个层包含多个节点,每个节点类似于一个小型统计模型。当数据点流经节点时,他会尝试猜测输出,并逐渐更新权重映射,以确定给定变量的重要性。 线性层是一个全链接层,将展平的二十八乘二十八图像转换为五幺二的输出。接着是一个非线性激活函数,激活时表示特征很重要并输出节点,否则输出为零。 最后呢,完成一个全列阶层输出模型,试图预测的十个标签。接下来,定义一个描述数据流的前项方法,将模型实力化到 gpu 上,并传递一些输入数据。 这将自动调用前向方法进行训练和预测。总之呢,拍 touch 是一个强大且易用的开源深度学习框架。感谢收看,我们下次见。
粉丝2.0万获赞16.1万

当然不能这样直接去学习拍 touch 了呀,同学们一上来去查很多东西是我要学什么,你会看到拍套这个名字出现的特别多。那你又知道在机器学习这块,我们一定是要学习一些编程的知识的,所以是不是就去学习拍 touch 了?首先你要弄清楚啊,拍 touch 它是解决深度学习里面的问题的,即便是你要去解决深度学习的问题的话, 你用拍 touch 的话,那也是基于 python 的,所以你得先学习 python 的基本的一些知识,然后要先去掌握囊派 pandas, metapla 的 lab 这样基基本的库,它都是在 python 这个 主体的结构上有的,就好像 python 是你这个人,我要今天下雨,解决的是防雨的问题,我就穿一个雨衣,下雨这个就对应着深度学学习, 穿雨衣就对应了拍 touch, python 整个这个语言的机环境里边去用拍 touch 的 python 就是土壤,插什么花,你你就在这边待着,但你不能没土。曹老师学 ai 入门如此简单。

视频呢,我将通过实现一个简单的歌词生成 ai, 带大家快速了解深度学习的基本流程,以及拍 touch 这款必备的深度学习框架。首先我们要知道,深度学习或者说神经网络的本质其实是一个数学问题。 我们可以通过训练让一个神经网络学习输入到输出之间的数据映射关系。例如,当神经网络看到这张图片时,他应当知道输出一条狗。 在拍拓器中,构建神经网络的核心数据结构是一个叫做 tensor 的东西,它和我们之前讲到的 number 数组非常类似。不过 tensor 的运算可以被放在 gpu 上执行, 利用 gpu 的并行运算来加速整个计算过程。在吞色之上呢,我们可以构建各种复杂的数学模型,拍 torch 也同时提供了梯度的自动计算。 那为什么需要梯度这个东西呢?梯度你可以简单理解成导数在高维度上的推广。这是因为对于神经网络的训练,或者说一般的最优化问题,大家都会用到一个核心算法梯度下降, 而拍 touch 将偏导数的计算链式、法则这些细节全部都隐藏在了框架中,因此我们可以更加关注与解决实际问题,而不是这些繁琐的计算细节。除了这些基本的计算功能以外,拍 touch 对神经网络还有各种模块化的封装, 比常见的卷基层、线形层、 pulling pying, 各种激活函数、 c, n, r, n, transformer 模型等等等等。以上呢,是对拍拓去的一个非常粗略的介绍。拍拓去单装还是比较容易的,我们可以在这里选择对应的操作系统扩大版本 的康大其实不是必须的。最后复制下面的命令到控制台安装即可。 训练的第一步呢,是准备我们需要的原始数据。数据级通常很容易被我们忽视,但是深度学习中相当重要的一环。有时候即使你的模型再好,但是训练的数据很差,最后也很难得到一个好的结果。这里我使用的呢,是这个中文歌词与辽阔。 在下载的原始数据中,我们可以看到很多非中文歌曲。有些歌词中的格式不工整,有些歌词的前面包含了不需要的信息。因此我们需要对这些原始数据做一些预处理,并将数据转换成我们需要的格式。 这里呢,我写了一个很简单的脚本,过滤掉不需要的歌词,去除多余的文字,并以斜杠来分隔歌词的每一句每一行呢是一首 首歌的歌词,最后存放在一个纯文本中。接下来呢,我们可以利用拍 touch 提供的 data set 和 data loader 来读取这个歌词文件。这两个类封装了基本的数据操作,比如切分训练数据,随机打乱数据,或者对数据进行简单变换等等。 这样我们就不用自己去造轮子了。我们可以通过继承 data 类来定义我们的歌词数据集。接下来,我们可以在一列弹数中加载之前的这个歌词文件,并将所有的文字转化成一个个缩影。 这里我们定义两个 dict, 用来保存缩影到文字,以及文字到缩影的映射。接下来我们需要实现两个函数,第一个函数 lens。 我们需要返回样本的总数。这里我们将所有的歌词文本拆分成一个个长度为四十八的序列, 所以样本总数等于文字的总数除以序列长度四十八,这里为什么减一?我们马上讲到第二个函数 get them, 我们可以根据指定的下标返回对应的文字序列。 这里返回的数据呢,可以被分成两部分,一部分代表网络的输入,另部分代表网络的输出。输入和输出刚好相差一个字,因为输出的文字刚好是对下一个字的预测。 定完毕之后,我们对刚刚代码进行一下简单测试。这里我们可以创建一个数据级对象,然后根据下标随便获取其中的一个样本。 可以看到这里返回的一个整数序列长度为四十八,其中的每个数字代表一个文字的缩影。我们当然也可以根据之前创建的映射将他们再还原成一个个字符。这部检查 打灯确实很有必要的,不然一步错,步步错。在定义了 data set 之后呢,我们需要再创建一个 data loader 来访问其中的数据,主要是因为 data loader 允许我们随机打乱数据或者按批次读取数据。 但这里我还进一步将数据分成了两部分,一部分用来做训练,另一部分用来做测试。原因我们在之后训练的时候讲到。 接下来呢,我们来定义我们用到的这个神经网络结构。在拍拖器中,我们可以通过继承 n n 中的猫九雷来定一个神经网络。这里最关键的是这个 forward 弹数, 他定义了我们网络从输入到输出的整个计算过程,比如数据会经过哪些层,层与层之间有应当如何连接等等。大家在定义模型的时候有一点非常 重要,不管我们要解决的问题有多么复杂,最好都先从构建一个最基本的模型开始,这样会大大降低训练和调试的难度。并且我们在增加模型复杂度之后,可以以这个最简单的模型做参照,确保复杂的模型是否真的表现的更好。 其实对于文本生成问题,使用当下最流行的 transformer 架构应该是更好的选择。不过这里呢,我们先用一个更加简单基本的 rnn 模型来做演示。 首先,我们会将这里输入的文字经过一个 embedding 层转换成一个像量,因为高维的像量能够更好地表示不同文字间的语意关联。接着我们将这个像量传入一个 l、 s, t、 m 单元, 最后通过一个线性层转换成输出的文字。和所有的分类问题一样,这里的文字是使用弯号的像量来 编码的。另外, lstm 单元同时有个隐藏状态的输入和一个隐藏状态的输出。正是因为有这个隐藏状态,才使得我们的神经网络具有记忆的能力,因为我们不希望深沉的歌词前言不搭后语,我们需要让魔性记住文字前后的关系。 如果大家对这里的 inbeding 或者 lstm 不是那么熟悉,也没有关系,大家可以先将重心放在数据的流向输入还有输出上。 比如这里你输入一个字,网络会帮你预测下一个字,然后我们将输出的文字连带隐藏的状态再次传递给神经网络,这样循环往复下去,就得到一整串的句子。 接下来我们来讲一下模型的训练。在训练的过程中,我们会每次抽取数据的一小部分,我们称之为一个 batch, 然后我们会一个 batch 接着一个 batch 的训练。当所有的数据都被训练过一遍之后,我们称之为一个 epoch。 通常我们也会对模型训练若干个 epoch, 让他更好地去拟合训练数据, 我们可以在循环中实现整个训练的过程。对于每一个 app, 我们会一个 batch 接着一个 batch 的训练。这里这项代码呢,单纯代表将训练数据上传至 gpu, 这一步呢是必要的, 因为我们使用 gpu 来加速训练的过程。接下来我们将数据传入之前创建的模型,让模型预测一个输出, 然后我们会去计算这个输出与标准答案之间的差异。这里我们会用到经常听到的损失函数 last function。 但对于不同的问题,我们会用到不同的损失函数。比如对于纯数 数值类型的输出,像温度,房价,这个 los 可以简单是输出与标准答案的绝对值或者是平方差。而对于我们这种情况,由于我们输出的是弯号编码的文字,因此我们会用到交叉箱 cross entry。 但大家可以简单的将这个 los 理解为输出与标准答案之间的差异。通常我们希望这个 los 越小越好,这样代表预测的结果与标准答案更接近。 而我们训练神经网络的目标呢,就是通过缓慢调节网络中的各种权重来降低这个 los。 用到的算法就是我们之前讲到的梯度下降。关于梯度的计算,我们可以轻松的通过调用一句 backward 完成。 然后我们可以调用 optimizer 的 step 函数,通过计算得到的梯度自动修改网络的权重。 这里第一行的 zero grad 也非常重要,他会在计算之前先将梯度清零,避免我们得到一个累加的梯度值。刚刚我们提到的 optimizer 是优化器,它可以通过计算得到的梯度自动更新网络的权重。 adam 和 sgd 是两个非常常用的优化器, 可以看到这里我使用的呢是 adam。 另外优化器还有一个额外的参数,学习速率,他会影响每次权重变化的大小。学习率越大,神经网络权重的变化量就越大。 但学习率绝不是越大越好,过大的学习率会让 los 无法收敛,甚至可能出现随着训练还增大的情况。学习率设置的过小会降低训练的速度,甚至可能让你的神经网络学不到任何东西。当然也有人尝试使用动态的学习率, 比如随着训练的推进逐渐降低学习率。关于学习率和优化器的选择又是一个很宽泛的话题,这里我们就不讲该讨论了。另外,在训练的过程中,我们可以将 los 打印出来,以方便我们跟踪模型的训练进度。 这里我们还可以用到 tensor board 这个库,我们可以调用 at scaler 来绘制像 loss 精确度这样标量的数据。虽然这一步不是必须的,但是图表呈现的信息往往比数字要直观很多。 除了训练之外呢,通常我们还会加入一个模型评估的环节。还记得我们在视频的开头将数据分成了训练和测试两部分吗?通常我们会预留少量的数据做评估,这部分数据并不会拿来做训练。评估的代码和训练非常类似,除了我们不会计算梯度来 更新网络的权重,我们同样会输出一个 los, 然后观察这个 los 下降的情况。因为单纯训练 los 的降低并不能代表模型表现的很好,模型也有可能过度拟合了我们的训练数据。 也就是说,我们的模型对于训练数据表现的很好,但是对于从来没有见过的数据却表现的很差。为了避免这种情况呢,我们会同时关注训练和评估时候的老师以及精确度这些指标。 在真正训练之前,我们最好对之前的代码做一个最最基本的验证。因为训练一个模型通常会花很多时间,有时候一两天都有可能。 如果等你训练完了以后才发现模型根本不工作,那么尼玛当场去世。那么具体我们应该怎么验证呢?比如我们可以修改这里的 data loader, 让我们暂时只使用第一个 batch 的数据,而且我们只用 batch 中的前两个样本来做训练。如果在这种情况下, lost 都不会降低。也就是说我们的模型都不能过度拟合,那我们的代码肯定哪里有问题,需要进行调试。 可以看到这里在训练了几十个 app 之后, los 一直在持续下降,并且预测的精确度呢,也达到了百分之百。到这一步呢,至少可以说我们的代码没有出现明显的错误。 接下来我们可以开始真正的训练。在训练的过程中,我们还可以每间隔一段时间让目前的模型生成一段输出。 这里的 january 弹数我们马上讲到,它会让模型生成一段歌词,并且每一句以深度学习。开始这一步主要是为了实时观测模型的预测结果。可以看到从一开 是几乎不能预测任何内容,到后面生成相对完整的句子。我们模型的输出随着训练有显著的提升。 这里我还做了一些改进,比如我们使用两层的 lstm 单元,并在输出之前额外增加了个线性层。与之前的模型相比较,新的模型进一步降低了 last, 并提高了预测的准确度。 虽然不是每一个修改都能保证模型效果的提升,不过模型优化确实需要我们不断的进行尝试。通常我们在 los 不再降低的时候就可以停止训练了。我这里手动将 apple 设置成了十五个。最后,等模型训练完成之后,我们让他来进行一段作词。 无法忘记你的美,可以让你不再流泪,深深的爱上你度过了多少个 春秋,学会珍惜,习惯了你的温柔,我的心在等待着你回来,是否我已经不再啰嗦,不再来私底里的等待。不错, 一个人的时候,键盘敲着时间的钟,三十年的时光连着我和你。 嗯,不错,狗屁不通。这里生成歌词的间内位弹数稍微有一点点长,不过总体来说,他会将我们规定的首字符先传递给神经网络,然后让神经网络自由创作,直到这一句结束,也就是遇到了斜杠分割符为止, 这里的 next word 函数会将当前字符传入神经网络,然后返回预测的下一个字,中间也会维护一个隐藏状态黑灯。这里的这几句呢,其实只是在对数据格式做变换而已。

我们再去实战过程当中啊,肯定会用到拍套这个框架,那很多小伙伴就会好奇,就是这个框架该怎么去学,尤其是还不会的同学,是不是咱得花个一个月、两个月甚至更多时间去学呢? 哈喽,大家好,我是陶宇迪,在我的频道当中啊,有任何你想学习的 ai 相关的知识点,记得关注哦。我给大家举个例子啊,就是你用这个框架窝当中只需要这三步啊,三步就让你最快的在一周之内就快速上手。 第一步呢,就是你要先给它装起来,你是 cpr gpu, 参考人家官方的安装这个东西不会超过一个小时你就可以装上。第二步呢,我给大家来说啊,就是要去学什么东西。 首先第一个,你学一下人家是怎么去处理数据的啊,比如说我们现在手里的图像数据,有一个文本数据,他该怎么样对文本数据、图像数据做预处理呢?你找一个开源的东西,或者说你再找一个简单的小类型, 这些玩很多,你是跟着我们客人来还是自己去找练习其实都行啊,这个练习非常多,第一步先看一看数据怎么处理的,因为这一步非常关键,以后呢,你玩自己的任务当中,最麻烦的一件事其实就处理数据了,要么说算法框架,其实基本都是类似的啊,咱们先知道 流量数据啊,什么数据增强啊,文本数据当中,哎,你先看一看文文怎么转 id 啊, id 怎么转向量啊,这是第一步啊,把咱们预处理这一步都做好了,相当于 data loader, 你的数据集你会制作了。 第二步呢,我们来看网络结构怎么定义啊,其实就是一个类,在这个类当中呢,无非就是有构造函数,有这个 forward 的前扬传播呗。 我们来看一看构造还有当中有哪些个常用的东西啊?比如说卷机是怎么定义的啊?全定金怎么去定义的啊?咱先把简单的定义方法都知道啊,基本上这些东西啊,你去跟着我们客人来,或者在教程上都会有 详细的解释,因为太简单了,所有地方都有这个教程的。第三步啊,就是说你再看一看我们的训练流程,其实训练流程我们叫做万变不离,其中都是一样的,无外乎啊,就是损失函数是什么东西?优化器是什么,怎么从这条路数当中取数据又怎么样?把数据传给模型又怎么样?模型输出结果再捐损失再去更新,是不是 总结起来就是三个大点,第一个呢,咱先把数据及自己会制作了。第二个呢,我们的网络结构咱们熟悉一下子啊,他是怎么定义的。第三个呢,你看看训练上我们流程上需要出于哪些个事啊?无外回写负循环呗,店里每次迭代,每次迭,咱们怎么去处理的?把这三件事咱们掌握完之后, 接下来啊,就是你再有一些使用场景的时候,咱直接拿一些开门项目去做就完全可以了啊,你拿开门项目做的时候,咱得边用边查,得边用边 debug 这个过程。 好了,说了三点啊,最重要的,怎么样快速的把拍套这个东西啊,给他熟练,给他用起来。好了,各位小伙伴,我们今天这些内容啊,咱们就到这里为止了,大家有任何问题欢迎大家跟我讨论和交流,记得一键三连哦!

世界上最著名的 ai 框架 pi torch, 扎克伯格的 meta 公司研发,二零一六年开源。华为的生思 minds boy 于二零二零年开源。十月十八日,华为加入了 pi torch 基金会,成为 premiere 会员。成为 premiere 会员有什么好处呢? 华为的想法原是想和英伟达一样单枪匹马,但后来发现难度很高,客户迁移难度大。而使用拍拖尺则轻松很多,因为华为客户都是在拍拖尺上构建业务。有些人会担心,拍拖尺背后的老板是扎克伯格,是美国人,美国会卡华为脖子吗? 注意开源的重要性,开源软件才会让大家免费使用。开源后,谁都可以得到软件的源代码。拜登政府想对拍脱或扎克伯格施压,从而制裁华为,这是不可能的。 开源是开放的重要标志,谁都可以使用和修改原代码。 pi torch 和生死 mindsport 强强联合,将为 ai 领域带来更多创新。

这张图片是一位叫 not dad 的网友发布的一张打友马赛克的一段话,他不太相信通过人工智能或机器学习能逆向识别出马赛克下的原文。为了验证他的想法,他发起了一场限时一个月的挑战赛,并拿出一千美元作为挑战成功的奖励。 我们单单看这张照片,很难想象这样的马赛克还能还原。在这次挑战之前,很多人都认为不可能。很快,一位申通机器学习的美国陆军人员威廉福来时慢,对这个问题十分感兴趣,于是他开始尝试对这段文字进行破译。 虽然现在有很多提高图像清晰度的工具,能将一张模糊的照片提高好几个清晰度。还有岛国动作片的马赛克也能被人工智能去除,但还没有发现有模糊文字识别的工具。所以威廉想通过图片还原的原理去还原这段话。 首先,他用拍赞编写了一些代码,用于生成与原图相似的白色背景和黑色文字的图片,再对每张图片自动打码, 并且将文字大小调整到与挑战图片一致,同样是三个像素格。于是这就有了生成无数个类似图片的能力。 接着,他用 peterch 这个开元机器学习库搭建了一个学习模型,每次学习恢复三十二个马赛克图片,然后对比正确文字,提升准确率。每个阶段学习一千零二十四张随机的图片,然后会对挑战图片进行一次破译。很快,机器在经过第一阶段的学习之后输出了这张照片。很明显学习效果不太好, 但这才是第一次随着机器训练周期不断迭代,准确度也越来越高。经过数日的初步学习后,机器最终输出了这张图片。好在努力没有白费,通过肉眼能判断的单词有 of all vulnerability for credibility, 但其余文字仍然找的张牙舞爪的,还看不出像哪个单词,所以他打算从三个方面继续优化学习方法。第一要使用字典生成单词, 而不是一串随机的字母。因为原图是一段话,一段话都是由单词组成的,所以训练时无必考虑无意义的字母组合。第二是选择合适的字体。因为出题者明确说了这是在 ps 中编辑的,所以可以选择 ps 中字带的那些常用字体,但也会加大学习难度。 第三是由于一个字母在不同位置出现时,马赛克会随背景发生变化,所以要让机器学习过程中去理解马赛克本身是如何实现的。 于是他用已经识别出来的文字让机器学习自己给这句话打马赛克。所以接下来又经历无数次打马后,最终使得机器学习打马的结果做到了和挑战图片中的马赛克几乎一模一样。 这相当于机器学习找出了打码规律,就可以将它应用到剩下的文字识别上,你提供准确度。在最后几天的学习中,他又对机器学习过程不断微调,优化学习方法。从每次输出的图片 可以看出,准确率也越来越高。在经过长达十九天的机器学习后,最终他成功复原了这段话。虽然不能完美还原,但通过肉眼我们能识别出这段话为, this was a full vulnerability for credibility nobody question。 翻译为中文大致意思为这是一个虚假的可信度漏洞,没有人质疑 nice, 最后, nothing 这位网友也履行了他的诺言。但从这次挑战成功后,就意味着一般的马赛克或者是模糊的文字信息确实是能够被破译的。很多敏感信息或者是隐私都可能会遭到泄露。虽然最终的识别结果会丢失部分信息,但这足以我们肉眼分辨出来了。

大家介绍一下,有一个蛮重大的一个消息,可能大家并不一定会关注,但是估计的话呢,我会影响深远的。就是那个我们在 ai 底层的有一个软件叫拍 touch 二点零版本,它今天是正式对外发布了 这个版本,我们看看它到底可以为我们未来带来一个什么样的一个变化。虽然这两天 g p t 四发布大家都会非常火,但我看到拍 touch 二点零发布的这个视我觉得也不亚于 这个 gp 七四的这样的一个发布的一个事件。我们可以看到最近在全世界就是 ai 方面的这些新的这些工具,新的这些能力不断的在创新,他等于有点像爆发的这种感觉,我每天都可以看到有新的变化啊。所以今天我主要还跟大家介绍一下,这个拍 touch 二点零 原来是 facebook 开源的这样的一个项目,它今天正式对外发布了,我们一起来看看它到底是一个什么样的一个东西。好吧, 首先我可以给大家介绍一下,在人工智能的爆发的话呢,它的起源主要是在于算力,算力的巨大的爆发,据统计在二零一二年到二零一九年,整个一个门蓬勃发展,他最大的一个支撑就是那个算力的大幅的增长啊,那么他在近五年当 他的算力增长的将近近三十万倍啊,这个是非常可怕的,就是说,呃,他的这样的一个增长啊,他的这个话呢,是可以看到这个需求的增长 更大,他这个 a 幺那个这个 a 来支持的这个需求的增长比目前的这个算力的增长要更快,他等于是这样。呃,这个是来自于华为的他们的一个数据,他们这边是讲三零年 对 b i 的需求的增长,这个数据的增长每年要以百分之八十的速度在增长,它等于是这样,那么我们清楚就是说它这 未来五年,他预计这个算力每年可能也要保持百分之三十几的这样的一个增长的一个速度。这样算力的需求和你实际的算力他其实形成了一个巨大的一个缺口。 其实目前市场上来讲算力是远远是不够的,包括我们现在看到的类似的这些人工智能的这些模型,也有一个统计数据,他这边是讲的二零一六年到二零二一年,我们清楚就说 现在的这个大模型就是 transformer 的这种大模型, g p t 一, burt g p t 二到这个 g p t 三到 g p t 四,它这个这个人工智能的模型的这个这个模型的参数是非常的增长,是非常快的,它是以这个指数级的在增长。但是呢这个 g p u 方面的这个算力,包括它这个内存的增长, 内存的 g p u 的内存的增长,它还是以从这个统计数据来看,这就这两年这个 transformer nice 的增长, 两年平均增长二百四十倍,但是 ai 这个内存的增长两年只有增长了两倍,所以它的这个算力的增长是远远落后于它的这个 ai 的这个算量的这个增长。一届的话呢,它一直在做一件事,就是一直在做怎么可以让我们的这个 ai 就是不需要的内存,或者不需要太多的算力,它就可以支持这个 ai 的这个呃,呃就是 ai 导游啊,它等于是这样,呃数据持续增长,算力的话呢,它是跟不上这个 实际的算法就会比较重要,所以我今天就看到就是 path pythoge, 它这个就是底子支持这个算法的,呃,这个,这个是底层的 ai 的这样的一个软件,所以它的本质上呢,它就是代表了算法,呃算法,所以我们看到这个非常呃高级,可以看到这个 pythoge 二点零,它现在去支持了更多的这 芯片,因为他发现现在 gpu 的龙头就是英伟达,英伟达的目前的这个发展,他可能已经跟不上整个一个算力的增长,所以他们这些的这些软件,他需要让 或这个 gpu 这算力的芯片的垄断,他要去支持更多的这个芯片,让更多的厂商去支持断力的持续的增长。他等于是这样,我们可以看到他这次发布的这些版本里面非常多的,我可以跟大家细讲一讲。就这一部分我们可以看一下他这张表格里面, 它虽然是二点零版本,这是稳定的。这是 bit 版,是圆形这个还是圆形的版本,这个它是一些 performance 的一些改善,你可以看到它很多的需求 都是在支持什么是支持更多的芯片。举一个例子啊,说这拍套去去支持 n p s 的 back end, n p s 其实就是这个苹果 的 mac 平台的 a m d 的 m 系列的这个芯片,它目前也已经支持了。那第二个你可以看到它这个功能叫点乘机的 attention, 它就是为了增加了一种算法,可以优化这个内存,需要更少的内存去算这样的一个 秉承的这样的一个,比如说他去支持了那个叉八六的 cpu 啊,去让它性能会更好啊。 它这次二点零发布之后,它适合 cpu 和原来的比较,它性能得到了翻翻的这个增长,支持了那个恩的这种算法的算子,在不管是在预测和训练上面,它这都是在 gpu 上面, cpu 上面也进行了优化, 大幅地增长了这个原来的成倍的这个就是,呃,等于是这样啊,那么我们也可以看到它是在考 a m d, m d 的 g p u 和这个亚马逊 a 块,呃,他们也自研了一个这个,这个,呃基于 arm 的一个芯片,呃,他也去支持了,他等于是这样, 呃,他就是说,呃,拍套这个最底层的这样一个算,呃算法的这样的一个平台,他等于是这样。嗯,那么那也去支持更多的这个,包括 amd, 包括叉的那个 gpu, 对吧?包括一些亚马逊、苹果的芯片,大普普遍的去支持,然后让这个算力可以能够继续的去支持这智能的这个发展。 那么我们再来看一下它为什么能看一下就是原来为什么它这个东西,呃,只支持美达的这个 gpu, 现在它可以去支这么多芯片啊,这是这个技术是怎么来的?我们,呃给大家稍微来介绍一下。 呃,这个实拍,它这个二点零里面的这个这样的一个 overview, 就是它的性能的一个概要啊,它对自己 整个一个版本,呃,提升,从一点零升级到它主要总结了四点的功能,新的特性啊。呃,这个就是动态,动态的图,还有这个自动的这个回归啊,呃,地规 个这两个功叫 primate 和 torch induct, 这两个功能是非常非常重要的,我会详细给大家解释一下啊, 这两个是什么功能呢啊?你可以看到他们整个一个二点零的,整个一个后台的架构的话,你会发现他会变成这样啊, 他的文中视角,他的 motion, 呃,他的动机是怎么样讲?就是说,呃 g p u 的话呢,就是越来越快互创造的这个模型的话呢,就是越来越懒啊,他等于所以,呃 现在的这个打杂,所以创建一个这样的一个模型的话呢,是挺复杂的啊。呃个例子,举了一个例子,别人用那个去编写了这样的一个学习的这样的一个网络 啊,这个网络的话其实如果要扔到 gpu 里面去计算,他还要经过这几步。第一步的话呢,他就是把那个动态的图进行优化完了之后,第二步把这个动态的图再把它变成这个算子,把它动态的这种图,他有两千多种的这种算法, 两千多种的这种算子,他把它合并成两百五十多种的这种算子,再把这个两百五十多种的算子,因为我们清楚就是多和他的病情计算会比较好。他再把这个两百多个这个算子, 然后通过叫 torch induct 这样的一个东西扔到这个 gpu 里面去,然后进行加速的并行的计算,他是这样来做到的, 这个是它的整个一个架构,所以的话你可以看到它的用户通过这个 model 创建了这样的一个,然后经过这一步变成了一个网,那个动态的张图,然后通的功能,它可以自动的解析成各种各样的算字, 然后这个拖呃呃,不,这个功能,他可以把它变成各种各样的这个把它合并成算子啊,就是把它变成这样,就是这个两两千一百九十八种的这种各种各样的这个操作。对人工智能的各种各样的操作,他会变成两百多种的这种核心的这种算子算子, 然后他再通过 torch inductor 这样的一个东西,再把它扔到这个 gpu 里面去进行优化,他是这么来做到的。 原来我们清楚如果他是要把这些算子要扔到 gpu 里面去,我们必须要通过英伟达的叫库达的这样的一个驱动程序,就是 gpu 的这样的一个驱动程序。但现在欧欧奔 ai 这家公司就很厉害, 也是那个 chat g p g 家公司,他们呢就是有开源了一个新的项目,叫 treatin 这样的一个项目。给大家看一下 他一开源了这个 tratin 的这个这个项目的话呢,他可以是什么样?他可以让那个编写在 g p u 上面的这个编程变得非常容易,他就直接绕过了那个库达。英伟达的这个 酷打的这个驱动程序,直接可以通过 treatin 来编译成为 g p u 上面的这些代码,它这个就很厉害。回头我给大家再演示一下,看一看它到底是一个什么样的一个东西。所以它经过这样的一个操作的话, 你可以看到拍套取,因为用了欧奔 ai 的这个吹腾,我们看看这个吹腾的这个项目,吹腾的这个项目呢,可以看到它可以支持英伟达的 gpu, 它也可以支持其他的一些 a m 的 gpu 和 cpu, 当然目前正在开发当中,它已经绕过了英伟达 gpu 的那个库达,因为它是直接可以通过 呃,这这类似于呃编写的这个 python 的这个代码,直接编译成英伟达,扩大上面 gpu 能 能够运算的这些代码给大家看一下,他在这个上面是解释的,我们可以看一下这个是他解释了一下他确定跟库达之间的这个差异,因为他很多的分配啊,包括一些 sm 的这种管理,微核的这种管理,他都是自动的 很多,但是如果你用库达的这个驱动程序,他你都是要手动去编写的,而且手动编写他不一定会比自动的效率更高,他的是这样,他的去他去证明的啊,这个他就是去证明了,这个就是雀藤,他这个是开源的这样的一个跑在 gpu 上面的这样的一个自动生成的这个代码, 这个就是 torch, torch native, 这个就是 torch native, 他们自己手动编写的这个支持这个 g p u 的这个酷达。 g p u 用酷达内裤的这种代码,你会发现它自动编写的这个趣腾的话,它的效率更高,它的效率更高,它等于是这样,它也是去证明的。这个就是这个 g p u 上面的一个内裤,叫 z u b l a s, 它自动产生的这样的一个 twitter 的这个代码,要比他用这个可以直接绕过这个库达的这个内裤写出来的代码效率有可能要更高。 所以它会经过这几步拍摄的代码,然后进行这个 b n e, 它会变成这个 titan 的叫 i o 的这种 i r 的这种指令, 它这个是自动的,然后再经过编译,它会变成这种 g p u 上面跑的这种东西,它等于是这样,它这个都是自动产生的,那你只要是编译一些胎神的代码,它自动的就可以产生在 g p u 上面跑的这种 底层的代码,他是等于是这样,而且他比你手工写的效率要更高,这样的话呢,他就直接去绕过了库达的这个样的一些内裤,这个就很厉害,这个是他的基础的原理。上面就是我给大家就是解释了一下,我们这次拍 touch 二点零 它这个发布其实影响也是非常深远的,它让整个一个人工智能的这个生态,那目前算力是整个一个行业的瓶颈,它通过绕过了那个英伟达,打破了它的垄断,让更多的 ai 的这个芯片去支持更多的 ai 的芯片,它等于是这样,那么它就不需要让那个拍套去一直要去支持拿那个这个内裤啊,它是这样啊,它的这种方式, 呃,所以他把这个就直接从一点三版本直接就升级到拍 touch 二点零版本,这个变化是非常非常大。呃,当然是背后也有欧本 ai 的很大的贡献,如果欧本 ai 没有这样的一个 triton 的这样的一个开源的项目,我估计拍 touch 他也只能目前只能去支持这个英伟达的库达的这样 g p u 的这样的一个 driver, 他等于是这样,那他就直接通过 triton 直接把 g p u 的这样的一个驱动的这个代码就直接能够生成, 这是很厉害。那我们再来看一下他这个 tratron, oppo ai 的这个 tretor 大,他这个代码到底是怎么来用的?我们稍微看一看,因为我们清楚就是说。呃,中国目前在数据上面,我相信中国应该还是有一定的优势的,中文啊,中文的这些数据中英文, 因为我们毕竟有十四亿人,这个产生的数据量肯定是非常大的,当然目前可能还是需要进一步的规范。呃,要做很多的工作,等于是 新经济。第二个的话呢,下面的话呢?呃也公司呃不断的在研发各种各样的芯片啊,然后这种开源项目的加持的话呢,就不用去太担心我们会 p u 上面被卡脖子啊,你们也可以去发明各种各样的这种 g p u 也有我们自己的驱动程序,然后雀藤欧奔 ai 的这个开源的 get 能够很好的结合的,他可以让他一套取得各种各样的这种人工智能的这种算法,直接跑在我们目前后面要开发的这些芯片上面,他等于是这样,所以这个项目就 重要了,变得极极极重要。好,我们一起来看看他这个代码到底是怎么来写的。第一个他其实让编写的语言 sg 拍成的这种语言安装他比较简单,他只要也是这样安装一下就可以,当然你也可以记语言代码的安装,那你就可以把这个 k 叉不上面的这样的一个目录镜能够下载下来安装一下就可以了。 当然它在安装的时候它还是要用那个 c mac 进行编译的,嗯,因为它里面会产生一些我们前面看到过的一些很呃,这些代码就是呃驱动程序,所以的话呢,它还是要用一些编译器的 see make 啊,要安装一下,我们看看啊,他到底怎么写啊?举个例子,他的这个文档,这是他的文档,我们可以看一下,我们看看这个,这个会比较简单,这个就是使量,两个使量的矩阵做一个加法,这个是经常做的一个操作,我们可以看到内核,他定义了一内核 加法的这样的一个算子的一个操作,那么这个操作我们用在拍 touch 里面的这样两个使使量的这样的一个加法,当然他这个当中,他在这个算子当中调了一个 add curnal 的这样的一个方法。 add curnal 的话呢, 需要进行吹腾的 j i t 的编译,就是要把这一段拍摄的代码到转换成 g p u 上面的代码,它等于是这样,只要你做这个就可以了,你看所以它的这个代码就会写的非常简单。原来如果我们要调这个 g p u 上面的代码,我们要写 c 加加的,它等于是这样, 你要叫那个调用那个英伟达那个扩大的这种内裤很麻烦的,他现在就不需要了,他这部分代码会自动产生,会非常方便。你只要把你 gpu 上面的这个相应的这个操作,你到底 block size, 你这个定义清楚,他等于是这样,那你完全就可以在这个上面操作了,然后他自动的会把你的拍摄的代码 编一层,我前面给大家演示过的这种底层的这种代码,他就可以跑,我们可以看他就可以跑,你可以看到用那个吹特编写的这个代码跟他原始用这个的这种代码是一样的, 他的性能几乎是一样的,他的也是这样,所以但是他的便捷性会非常高。当然他这个操作是最简单的,他这里面还有各种各样的操作,我们可以看到这个操作他的性能就会非常好, 因为它这个操作的话呢,它叫 affuse to marks, 呃,这个 use soft marks, 这个操作的话,你可以看到它用那个 twitter 编译自自动编译的代码,比你原始的这种代码性能要更好,性能要更好,所以这个价值就会非常大。好的好, 我们再来看看目前这个拍 touch 二点零,它跟一点三的话呢,它是完全是能够兼容的,就原来那个一点三的这些代码,你根本就不需要改,你就可以在二点零上跑。但是如果你想用到二 二点零的这种这么高的这种性能,他可以做什么?做一件什么事?可以看他这个里面他讲的啊,我给大家看一下,他主要用到这个,主要要把你这个 model, 就是我前面讲的这个原啊,就是你原来模型,你要经过 touch touch 的这个, 它自动的可以帮你把两千个算子,两千多个算子变成两千,呃,变成两百多个核心算子,再把核心算子通过,对吧?前 obai 的那样的一个编译器,把它变成底层的各种各样的芯片的指令它,它是变成这样啊, 这样的话呢,他就会非常非常强,就会非常非常强。然后我们可以看到就是人工智能或者新经济,他的数字经济。最重要的这个三个东西,一个是算力, 算力的话呢,核心就是芯片,芯片,第二个的话呢就是算法,算法的底层就是拍 touch 这种底层的这种他能支持各种各样的这种模型,各种各样的算法,他等于是这样。另外一个他就是数据, 这个是新竞技里面三个非常重要的要素。今天我给大家讲的 hightouch 二点零,这个是一个非常关键的软件底层的这部分,因为它是衔接的,算法跟芯片是非常重要的,如果我们 gdp 恰头,因为它现在的所需要的这个数据越来越多,所需要的数据量 模型越来越大,现在你光靠这个 gpu 里面的这个内存远远是不够了。所以你可以看到那个现在苹果的 n 一系列它的芯片的架构,它就可以把动态的内存变直接变成 gpu 里面的内存, 所以的话呢,它就会变成 m 一芯片,它对这个人工智能上的各种各样的操作的话呢,它优化程度也非常高。那么 i touch 二点零的话呢,目前他们也已经支持了,也已经支持了苹果的 n p s 的整个一个架构,就是 m 一芯片, m 二芯片就是 n 系列芯片的这样的一个能力。我前面这边讲 i touch n ps back end, 当然他目前还处于在 beta 版当中,但我自己也在其他的,我自己的电脑本身就是 m e 芯片,所以我自己在用的时候会发现,原来你跑人工智能会非常慢,但是你跑在拍 touch 上面,因为他已经已有一部分支持了 nps, 因为他的他的这个操作有两百多个,核心的这个操作有两百多个,他目前已经支持了可能几十种了,所以的话呢,他会越来越快,他等于是这样。好,今天我就跟大家就交流这些,好吧?如果大家有些什么疑问也可以给我留言。

大家好,欢迎来到这个光滑的 pire touch 深度学习入门实战课程。本次课程呢,我们首先介绍这个 p to touch 的简介, p touch 呢,它是一个深度学习库, 他是一个能在 cpu 和 gpu 上运行并且解决各类深度学习问题的一个深度学习框架,我们可以把它看作支持 gpu 计算以及自动微分运算的一个囊派库。 p a top 戴上之前呢,像是咖啡 touch 这样的深度学习库是非常受欢迎的深度学习库。那随着深度学习的这种快速发展啊, 开发人员和研究人员,他们就希望有一个高效的英语使用的这种框架,并且能够以拍伞编程语言来构建训练和评估神经网络。那这是为什么呢?因为拍伞是 最受欢迎的数据分析库以及这种机器学习库,那么拍散当中他有这种处理高位数据的囊排库,有处理这种经典积极学习的这种 s k 冷库,那我们希望拍散能够有一个这种内置的一个深度学习库的话,那当然是最好的这种 需求了。所以皮尔套饰的诞生呢,就应运而生。皮尔套制呢,最初是有这几个人他牵头发起的,并且得到了 facebook 的赞助,然后呢也得到了我们这个这位科学家的一个计算机科学家的一个 啊认可啊,我们这几款科学家在我们的教学当中曾经多次提到他的一些他的相关内容,他是二零一八年图领奖的得主,那么二零一七年的一月份, facebook 的人工智能研究院,也就是这个简称啊,他们 团队在跟哈巴上开源了 pure touch 这个框架,这个是 pure touch 他的一个最开始的由来, pure touch 呢,他可是一是一个这种灵活的因为容易学习的拍身裤,他实际上就是一个拍身裤, 他在学术和研究领域, pure touch 是目前最受欢迎的这种深度学习库,而且这种增长的趋势是越来越明显,可以说 pure touch 是 tensiflow, 这个是什么? tensiflow 是谷歌推出的一个深度学习框架, pff touch 是特色 flow 这个深度学习框架,一个最强有力的竞争对手。在学术领域, pa top 水是目前最受欢迎的深度学习库,而且这种他在搜索引擎上,在这种研究会议上啊,这种 各大会议上,皮外套是都是最受欢迎的深度学习口皮外套式的框架呢,他是这种诞生受到了套尺和称的这两个框架的启发。那我们听这个名字就知道 py 套尺了, pv 套纸,它实际上就是 touch 这个裤呢,最初 touch 这个裤呢,在这种拍线上的一个衍生版本,那 touch 这个裤它是由栾源来来编写的,这个语言比较小众,那相对说不容易被大家所接受。那 p touch 呢?它是一个在拍线上 实现了一个 pi 这种深度学习框架,它是一个拍散优先的框架,我们可以继承 pic 的类,然后去记自定义很多这种类来实现这种啊模型的编写非常非常的方便。如果说你对于拍散非常的了解, 你使用起 pice to 就感到得心应手,那这也提到一个前提,就是说你学习本次康价一个本次课程的一个前提是你要对拍森这个编程语言要有了解啊,如果说你对拍森这个语言不了解的话,可以看一下日月光华在网易云课堂的这种 拍摄数据分析,从拍摄零基础入门到爬虫啊这个课程,这课程是一个零基础的课程,他当然最后用爬虫为大家做了这种编码的这种演示啊,那么他如果说是有 vip 的话,他可是免费的。 呃,那么与称的这个这个框架相比呢?称的这个框架是一个更小众的框架了,他身上是日本的一个框架,那么这个框架呢?他最初的是会引入这种动态图的概念 框架, po 值的框架,它就有这种自动修到的动态图纸功能,也就是所谓的翻白状。那么我们在这里强调在二零二零一年的今天呢,来强调动态口,动态图其实意义并不是很大,那么在前几年的时候, 像是太子福禄这种版本,还有套车,像这种套车这种版本,他们都使用这种静态图,静态图这种编写,他这种代码,我也有太子福禄的课程,我也有太子福禄一点零的课程,他的这种编码非常的难以理解,非常的复杂,就是动态图对于人类来讲 并不是适合人类来编辑的,所以皮肤透彻的狂海的诞生呢,他当时使用了最开始使用的这种动态图,一下子就得到了这种数据科学家的青睐,从而获得了巨大的发展。那么他这种动态图呢?他可以在 开层解释器运行了相应的代码的这一行的时候,才创建我们这个计算图,创建这个这个动态图,这就是他一个这种特点, 他非常灵活可见即可得动态图,那么他的这种特点我们总结起来就是几点,第一呢就是易于使用的 api, 他就像拍子一样简单,拍子我们知道动动态语言非常简单,拍子就是未来,那么拍子就是未来的变成语言,他适合于我们像读英语一样来读取他的代码, 非常的简洁明了,看上去非常的优雅啊,他就是英语使用的 api, 那我们对于拍摄的热爱永远就像对于拍摄的热爱一样,非常的简单方便。那么第二点呢,就是对于拍摄的支持,拍摄可以顺利的与拍摄呢?科学计算库集成,那 他非常的类似于囊排了排散的科学计算库,非常的这种丰满啊,比如说我们的囊排排散的科学计算基础,他这种他可以让排散来支持了高危的这些,呃,高危的这些数据结构。 然后呢就是潘特斯,这是数据最好用的这所有变成原理版当中最好用的数据预处理库。潘特斯,他的这种名字就像他的这种名字一样,潘特斯嘛,人见人爱大熊猫, 然后会徒给我买的 polode 吧, pvprod 等等吧。 simbo, 他这种拍摄上对这种数据分析的支持是非常非常的全面的。 py 套尺与拍散的数据库,这些数据科学就算占那种集成史的 pv 套尺的应用也是德行应受,非常的方便。 然后就是个计算动态图,他是这是一个优势,我们可以编码上就能感觉到吧,非常的方便。然后呢就是部署简单。 peartouch, 他也集成了这种大规模的部署工具,像是这个 touch tour, touchsto 啊, touchstoo 呢,他也是 patoch 的这种开源项目的一部分, 我们可以使用它呢来进行大规模的 p toy toe 模型的部署,然后它支持这种分布式的训练, p toy toe 是可以实现在研究和生产当中分布式的训练和形容的优化的意思。再就是 p to top 是他支持这种移动端 p to you too, 他支持从拍摄到 ios 安卓系统的这种端端的工作流程。 另外呢,佩戴套纸,还有强大的生态系统,他有丰富的这些工具裤,那比如说处理这种呃图像呢,有套 保持微软,我们这个课程中会应用到,会讲解到啊,讲解的比较多,然后呢会对于 i l p 自然语言这一块,他又提供了 touch test, 我们这个课程也会应用到 啊,还以及陶瓷微六,在这种音频方面啊,陶瓷微六等等吧,他提供了一系列这种工具和酷来帮助我们使用。 另外呢,他内置的这些开放神经网络交换协议,那我们可以通过这个 onx 这个协议呢,很方便的与其他的深度学习框架进行互操作,进行步数啊,比如说我们可以将它导出到 onx 上这种格式上进,然后呢使用其他的工具来不进行步数。 那么我们这就是我们为大家简单介绍的这个皮外套尺这个框架。总的来讲, p 外套尺这个框架他目前应用是最广泛的, 并且发展的势头也是一个非常的一个上升的势头,非常的火热。如果说你需要去研究深度学习,希望需要第一次接触到深度学习,那我推荐大家学习枇杷套吃。 嗯,我也欢迎大家学习,日夜光滑。我们在啊,我在这个网易云课堂的爬虫数据分析,积极学习看似福禄生的学习,以及更深的对抗网络等等课程。啊,这是我的身网易云课堂的机构页面,这是我的这个微信, 大家可以加个微信获取一些啊优惠,比如说你是学生的话可以获取优惠。好的,那谢谢大家。我们这节课呢先介绍这里,下节课我们讲解这个 pirodes 的安装,再见。

今天教你用 passin 开发一个解手印识别系统,首先用 passin 采集十二个基本手印的图片,每种一千张, 再提取手掌关节的三维坐标信息,用作训练特征。两个手掌的四十二个关节在数据结构上可以看成一个图, 再使用拍 part 构建一个图卷机神经网络进行分类,最后在 gpu 上训练即可。老样子,圆满已开元,我是安培,关注我,一起学 a i。


大家好,欢迎回到人工智能编程,今天我来给大家演示一个用拍摄器创建神经网络,实现手写数字的一个识别的功能,非常简单啊,我们先导入所需要的包,软件包就先导入拍摄器, 接着导入拍摄起微信,从名字就可以听出来,它是处理视觉的一个宝啊,我们需要它里面的数据级,配置在的它自带的数据级啊,还有一个变换的一个一个一个一个转换器, 嗯,接着还有一个我们拍拖器中一个非常牛逼的一个模块叫,嗯嗯,它里面包含大量的内和方法函数,能让我们高效的创建强大的神经网络。接着再来导入我们的 优化器,接着我的创建一个变换,转换我们的图形数据啊, 第一个转换器他接受一个列表啊,我们把这个列表组合成多个转换功能,组合成一个。 第二个我们将它图像的 数据回忆画,然后由于我们的数据都是会接的图线,所以我这里只传一个。接下来我们 加载数据集,这里加载的就是 m nice 的数据,这个是我们这个托尔求微信中他自带的一个训练数据包。接着我们再来加载我们的,创建一个我们的数据加载器, ok, 接着就是要创建我们的模型,嗯,直接用我们的 nm 模块再扩一宿这个方法来创建。 首先我们创建我们的神经网络的第一个矩阵变换,他的输入七百八十四,雀斑是怎么来的呢?就是我们的那个图片是二十八乘二十八的,然后二十八乘二十八个像素就是七百八十四,然后再来创建,嗯,从第一层到第二层的激活函数 y l, 这个 y l 在隐藏成功中他的应用是非常广泛的啊,因为他算法比较简单,大家都喜欢使用,他能够让我们的呃深度学习的效率 提高。然后接着创建,嗯,第二层的组成变化,输入是二百五十六,输出是六十四,然后再来一个 rap, 然后再到我们的输出层,输出层是因为我们是零到十,零到九的十个数字,所以我们这里 是最终输出是十。然后接着我们再来写一个最后一层的计划函数,落个所谓的麦克,他输出的是落的是纸对数。然后 接着我们再来创建一个,嗯,配合 logo shop man max 机构函数的一个损失函数,嗯,那么这个损失函数的他的输入就是指数。然后接着再来创建一个优化器。怎么来的? s g d, 这是一个随机剃度下降的一个一个一个优化器,然后我们将模型参数传递给他,然后学习速率 零点零零五给他。然后我们一共要让我们的模型训练五五个批次,这个一炮等于五,然后我们就来循环,循环开始训练五次,然后我们再来循环加载数据, 图片跟他的标签印纯银 lower, 然后接下来让我们图片数据变平化, 就让它变成一维的,它本身是二维的嘛,哎,我们这里的数据啊都是灰接的,都是只有一个颜色通道的,然后图片都是二十八乘二十八。然后接下来再让我们的优化器来清空它的梯度,它是通过梯度来 来来优化我们的模型参数的,所以我们每次在训练的时候都要先轻松他,轻松他的梯度,要不然就容易残留上一次训练的梯度, 那样我们的模型就不能正常工作了。这一步呢,是把我们的数据直接丢给模型,让他去真相传播,真相传播,然后得到输出,然后我们通过他的输出跟那个他的数据标签做比较,得到一个损失,丢给损失函数去计算损失,然后 通过损失呢,通过最终的损失反向传播计算机度,这里是要到反向传播了,然后通过优化器 将计算的梯度呢,将计算的梯度来更新到我们的模型的参数里面,也就是模型的权重和偏差。 ok, 那这里来五,让我们来计算一下他的损失。 boss, 说实话他要零零,然后这里累加一下损失, 然后我们训练完一个批次就打印一下第第几代训练 损失,为我们这里取他的平均损失啊,用我们的总损失除以他的数据长度。 ok, 那我们这里直接就先让他训练着运行啊,这里 有个错误,穿 lower 啊,这个小帽号。 ok, 他在 训练了,接下来我们在等他边训练,我们在编写,我们一会要测试这个模型的代码,首先我们把图形画,可是画的包倒进来卖 plus, 我们这第一代的那个损失已经出来了啊,一点四七, 我们接着写,我们这里先取一张图片出来, 第二代也出来了,我们选第一张图,然后还是以同样的给他点平画,选八十四个像素, 然后这里我们不需要提肚,不需要提肚,我们这么来做 logo, 不需要他计算提肚, 然后将他输出的优点模型把图片,然后他输出的是一个对数,对数以后我们再 用社会 max 给他,再用社会的麦克斯给他输出的结果压缩成 合为一的概率,就是这个说服的 max 的一个作用。然后我们再将这个概率呢给它转化一下, 转成囊块,然后将他的那个维度,唯一的维度都给他去掉,然后接下来是可视化的代码,我就直接贴过来了。 ok, 我们这五代 也都训训练完了,到最终第五代的时候是损失降到了零点三二,第一代是一点四七。好,现在我们来测试一下。 ok, 打印出来了,这是一个零的数字,然后我们的模型正确判断了他为零,然后我们换一张图片,再试一下, 这是一个四啊,这个四写的,嗯,奇怪状的,他也有形状像九的部分,可以看应该有百分之二十多,然后最终他判断的还是最终是十,有百分之六十的几率判断他是四,我们再换一张,还是四啊? 还是四。 ok, 那今天这个代幕就写到这。

今天给大家介绍一个鸡蛋计数器的项目,使用 opencv 和优乐 v 八检测鸡蛋个数,能够高效、准确、安全、可靠的完成鸡蛋个数的统计工作。 ulov 八是一个使用配套取框架创建和训练的剪辑神经网络模型,是计算机视觉领域最流行的目标检测算法之一,运行代码来看看结果吧!


看一个主流的深度学习框架,拍拓曲,拍拓曲这个框架是 facebook 出的,然后拍前面 py 这两个单词代表的就是拍摄,然后其实拍拓曲的前身是 另外一个 facebook 出的框架,我们把它叫做唾弃,然后唾弃是其实是一个很好用的框架,他和安排很类似,然后操作起来特别的灵活和简洁。但是他有一个 不算是缺点,就是它采用的编程语言,不是一些主流的编程语言,而采用的是一个比较小众的编程语言, 这地方叫做撸啊,是葡萄牙语,是一个巴西的教授发明的。然后因为这个编程语言流行度不高,所以基于透 touch, 然后 facebook 又出了一个 touch 加拍神的一个新的计算框架,把它命名为拍 touch。 然后除了 facebook 之外,其他很多比较大的机构都用的拍拖曲,还有就是呃,很多学术论文所用的深度学习框架都是用的拍拖曲,因为因为他的语法很简单,非常的灵活。 下面我们可以来看一下拍拖曲拍有哪些特点,让他变成一个非常热门的计算框架。 拍拖曲不是简单的在 c 加加的框架上绑定拍摄出来的一个语言,而他是在非常细腻度的程 程度上就支持拍森的访问,所以我们每次在访问拍透去的时候,他的语法其实就是像我们平时用 non 排用 sipe 这样简单,这又大大的降低了入门的一个门槛,他也可以保证代码和原声的拍摄代码实现起来是一致的。 拍拖车还有一个很大的优点就是他用了动态的神经网络,这点我们可以和 tsflow 一来比较一下, tsflow 一用的就是一个静态的计算图,不是一个动态的神经网络,就主要的意思,如果大家用过 tyflow 一都知道,我们在计算之前先要 建好整个计算图,先要把计算的流程都给规定好,然后再打开 c 审,然后位数据进去,然后再取出特 定节点的一个返回值,然后这是静态的计算图。这种静态的计算图为什么 我们要先定义好计算图呢?因为当我们在定义好计算图进定义好计算流程之后,他的一个优点就是他可以非常合理的分配电脑的一个计算资源和内存空间,这是静态计算图的一个优点,然后拍拖去用的是动态的 神经网络。动态的一个计算图他的一个优点就是我在运行的时候就可以生成动态的计算图,这样的这样的话我们就非常好堤坝, 然后开发者就可以直接在调试器里面停掉解释器,然后查看某个节点的一个输出,这种很易于 dbug 的这个优点是 two 一这版本没有的,当然当然现在 flo 更新到。二,然后他现在使用的也是一这种动态的计算图开拓器还有一个很大的优点就是同时支持 cpu 和 gpu 并行预算,当然这是很多深度学习框架都具有的优点,然后这是。

拍 torch 的安装一,接下来呢,我们就正式来看一看 py torch 怎么样去安装安装呢,它的步骤也比较简单,你首先进入到 py torch 的官网,点击一下,那么此时呢就进入到 py torch 的官网, 呃,往下滑,现在网速有点慢啊,往下滑滑到这个地方,他就是教你如何去安装 py torch。 首先 py torch 呢,有两个版本啊, 我们横着来看,一个呢是稳定版本,这个呢是稳定版本,这个呢是预览版,所以呢你选择的话应该是选择稳定版本,不要选择预览版。然后呢接下来第二行啊, 这个地方呢是表示你当前的电脑你要安装的平台是属于哪一个系统,如果你是 linux 系统呢,就安装它,如果你是 mac 系统呢,安装它,如果你是 windows 呢, 就选择它啊。然后第三个呢就是你当前使用哪个包管理工具,如果你安装了 antconda, 那么就用它用 comda mini 来安装。如果你安装的 python 呢,就使用 peep 工具来安装。如果你没有 python, 也没有 antconda 呀, 还有一个呢, like, 这个一般是针对 c, 加加和加外语言来用的。然后呢还有一个元代码安装方法都是可以的。那么对于我们的课程里面来说啊,建议同学们使用 pep 工具,当然你也可以用康达都可以。这两个啊,我们一会课程里面呢就使用 pep 来进行安装 好。下面一个呢,狼轨就是表示你当前编程语言是哪一个?我们课程里面使用 python 啊,如果你使用的 java 也可以,当然我们课程里面是使用 python, 就是说啊, p y tort, 它是支持 c 加加和加瓦语言的。 好,下面一个呢是表示计算的平台哎,你发现他有一个扩大十一点七,扩大十一点八,然后呢,还有一个 cpu, 这是什么?这是告诉你到底是选择 cpu 版本还是 gpu 版本。 有些同学就蒙掉了,老师,我不知道我电脑有没有 gpu, 我电脑肯定有 cpu, 但是我不知道有没有 gpu 啊,这个时候我该怎么去确定呢?那么如果你的电脑里面没有显卡, 或者说你的显卡容量,这个显卡的内存容量低于六个 gb 的啊,如果你是四个 g, 两个 g 的显卡,同学们,你全部都去安装 cpu 的版本就好了,不要去安装 gpu 了。如果你的电脑的显卡容量有六 gb, 甚至于比 gpu 呢以上更多一点,哎,那么就推荐同学们呢去安装扩大版本。 那么怎么去安装扩大版本?我们一会再来教同学们,现在同学们已经知道了呃, g p u 版本和 c p u 版本,那么现在我们来告诉一下同学们怎么去安装 c p u 版本呢?安装 c p u 版本呢,它下面会自动给你一个命令,这个命令同学们熟悉不熟悉啊?是不是 p in store 呀? 所以呢,这个时候你只需要启动命令提示符,然后呢,在这里输入一个 cape in store torch 就可以了,那么这个时候呢,就会安装 py torch。 如果你安装的速度比较慢呀,下载的速度比较慢呀,你就加上一个进项地址,这个进项地址我以前也教过大家了啊,应该很熟悉了,对不对? 那么同学你看一下这个命令啊,通过 people 三 in store torch, 还有一个 torch watching, 还有一个 torch early, 它代表什么意思呢?它是代表了我们既安装了 torch, 又安装 放了一个这个东西,这个东西,那么 version 它表示的是自带的关于图像处理的模板,就是以后我们要去构建关于图像处理的深度神经网络的模板,他自己在这里方呢是提供了,如果你是要做音频处理呢?哎,这个里面他是提供了, 如果你将来不想使用他的模板,你就完全使用自己去搭建,那你就下载 torch 就可以了,后面这两个呀,你就可以删除掉。 好,那么这是 cpu 的安装版本啊,同学们,如果网络不好,你自己呢?慢慢呢去切换一下镜像壁纸。那么在下一节课,我们来告诉同学们 gpu 版本该如何安装,关注我,学习计算机指示。

hi, torch 框架认识好各位同学,大家好,在上节课呢,已经带大家安装了 py torch, 那么今天我们来简单的认识一下 py torch, 我们来看一下第一个任务就是带大家利用 minis 的数据及实现神经网络的图像识别。呃,在之前我们刚刚学习 python 编程语言的时候,我们都是带大家写的第一个程序就是 hello word 啊, 大家还记得吧,我们选第一个程序 hello word 能给大家带来好运,那么在这里 p y touch 你要实现的第一个项目也必须是使用手写字数据级实现图像的识别啊,他也能给你带来好运,那么今天我们的任务就是完成这样一个任务。 呃,那么简单的来介绍一下首写字数律级 mini 的数率级到底是什么样子的?是这个样子啊,它里面呢有很多的其他的人写的数字,零一二三四五六七八 九啊,很多人写的,然后呢,把这个手写下来的数字我们拍照拍下来,哎,现在呢,要对这一些些的图像进行识别,看看这个数字你能不能识别的正确。哎,我们要用实际网络来实现这样一个功能。好,我们来看一下这个数据集啊 啊,这个数据集打开呢,同学可以在老师的 ppt 里面,你点击这一块就可以进入到这个网页里面来,这个网页呢就介绍了关于 minis 的数据集,这个数据集呢,是由这些大学这些研究机构 创建出来的啊,是他们提前已经创建好的模板,我们接下来只需要把这个数据集啊拿下来直接来用就可以了。那么啊,这个数据集啊,他一共包含了六万个福利, 训练级包含六万个,测试级包含一万个,是不是就非常方便呀?测试级和训练级都已经划分好了,我们看到呢,他一共提供了四个文件,分别是训练的图像,训练的标签, 那么训练的图像就是指刚才这个地方啊,一张张的图片,那么这个呢,就是图像,然后标签呢?比如这样的零,这是标签,就是这张图片正确的答案应该是多少,这个是他的标签,下面呢还有测试级的图像以及测试级的标签,那么一共有四个文件啊, 那么训练集呢,它是有六万个,也代表了训练的图像和标签合在一块有六万个,然后呢测试级的图像和标签一共有一万个。呃,下面关于这篇文章下面还有一些介绍,他就说,呃,在历史上,以前有很多人都拿了这个数据集来做测试,例如呢,在一九九八年的时候,哎,这个,这个人啊, 他用了一层的神经网络,嗯嗯,就是神经网络,没有任何做其他处理的情况下,他的正确率,最终测试的正确率啊,达到了百分之八十八。错误率啊,这个地方写的是错误率 是多少?比如说啊,图对图像的识别一共有多少个错误了?哎,在一九九八年啊,一共有十二个人错了啊,一共有十二张图片识别错误了,然后呢,后面我们加上了一些偏斜矫正,发现他的错误率呢下降了,然后加上呢其他的方法,他的做工错误率又下降了,但是同学们可以看到啊,啊,当时的身体网络 只能够实现线性可分,当时一九九八年,所以他的正确率很低,不如后来的 k 近邻算法,看到没有,他都不如传统的机器学习算法,传统的机器学习算法呢?他的实现正确率你看看是不是远远更低一些呀?啊? kn 算法后面还有知识项链机算法, 直线的计算法,他已经达到了非常高的正确率了,同学们看到有没有已经达到了百分之零点五六。后面呢,哎,发现突然间又出现了神经网络,看到没有啊,这个时候神经网络啊,发现他又更低了一些, 六层的一个升级网络,他的中介率呢,又非常的低啊,这是二零一零年之后啊,当然后面还有很多很多的测试方法啊,那我们就不去一个一个的给大家演示了,知道关于这个网站里面呢,他提供了手写数字的数据集啊, 我们可以拿来用就可以了。那么现在 py torch 怎么去使用这个数据集呢?那我们接下来呢,就正式来看一看 py torch 如何去使用。 首先第一个呀,呃,常规我们要去判断一下当前的 py torch 它的版本啊,使用的方法呢,就是通过 torch 下面那个 version 就可以来知道当前你使用的 torch 的版本, 简单的运行一下,可以看到呢,他输出的结果呀,啊,是一个一点一三,就代表当前的唾弃版本是一点一三点一这个版本,并且老师的库达呢,是幺幺七这个版本,所以他能够显示出当前的运行 环境到底是哪一个版本,这对于以后你去做项目的时候,你必须要去识别出目标设备当前这个设备是否符合你的代码运行要求。关注我,学习计算机知识。

拍 touch 的安装 g p u 版二,好,如果你库打安装好了,你接下来要去看一看库打是否安装成功,就可以在命令提示服里面在这里输入一个 m v c 杠 v, 哎,写错了啊,是杠 v 回车,那么此时它就会返回你当前安装的 quad 版本。诶,哦,是当前安装的 quad 版本呢,是十一点七,所以同学们,你要注意好了,你所能够支持的 quad 版本到底是多大,你就最多只能安装到 quad 十一点七这个版本, 你不要去安装酷打驱动软件,不要去安装十一点八,不要去安装啊,一定要安装他最多能够支持的,像老师这里最多能够支持的是十一点七,因此老师就安装了一个十一点七的版本的酷打软件。然后安装完之后,你通过 n v c c 啊,已经确定好了酷打安装成功了,那么接下来呢,你就可以直接 来安装库打了啊,就通过这个命令,现在我们已经确定了老师的库打是十一点七。好,你接下来就通过这个命令,可以直接来安装了,在这里呢,你放下来就可以来安装了。但是呢,由于这个软件非常大,我们刚才讲了安装的这个 torq 啊,他可能有一个多 g 啊,应该确定是有一个多 g。 如果你的网络但凡出现一点波动,这个地方他就你下载下载,下载,好不容易下载了五百多兆,七百多兆,哎,他就给你断掉了,因为网络有点波动,他就给你停掉了,那么怎么办呀?哎,其实这地方他给了你一个网址,同学们, 这个网址啊,你可以打开看一看,其实对应的就是 py torch 的服务器,那么在这里呢,它有很多关于 py torch 知识的软件,比如我们需要安装的 torch, 还有呢 torch audio, 还有呢 torch worship, 它都有,那么现在 你不就是要安装 touch 和 touch watching, 还有 audi 吗?那么你直接在这里来进行安装也是没有问题的。那么在这里一点开之后啊,我们刚才点击了 托起,我们先来安装托起啊,那么你到底应该安装哪一个版本的托起呢?你看前面这个托起二零,然后呢 cpu 什么什么的什么的什么的,你也不知道他到底代表什么含义啊?我们来分析一下,托起二点零零就代表你当前下载的托起版本是二点零零版本的, 然后呢,后面加上一个 cpu, 就代表你当前安装的是 cpu 版本的,然后呢,这个地方一个 cp, 不是说你要处一个 cp 啊,不是啊,这里的 cp 它表示的是 python 的版本,例如老师现在这个地方啊,我现在把这个删掉啊,不这样去安装, 老师在这里呢,默认使用的拍子呢,是三点七点九版本,所以你就去找到 cp 三点七点九这个版本,那么就是三七这个版本啊,你去找到这个版本就可以了, cp 三七这个版本就好了,哎,这个地方默认呢,比如这个,他表示 cp 三点十版本就是拍子三点十版本,然后呢操作系统是另一个操作系统的,那么显然这 一个文件并不是我们需要去安装的,我们要去安装拍摄三点七这个版本,所以呢,你通过 ctrl f 在这里呢,输入 c p 三七,就能够确立你当前拍摄的版本。好,我们将往下找找找,那你到底要安装哪一个版本呢?哎,你可以跟着老师一样的版本来进行安装啊,例如老师安装的呢? 修一下,我们查看一下 top 的版本。老师安装的是一点一三点一这个版本, 在这里我们也不建议同学们安装最新的 touch 版本好不,建议安装和老师差不多的版本就行了,但是同学们,你千万不要去安装啊,后面特别老的一些版本,例如我们往下翻啊,一点五一这个版本你就不要建议去安装了啊。 那么在这里呢,老师安装的是一点一三这个版本,那么你可以去找一下关于一点一三这个版本啊,直接就是搜一点一三这个版本。好,在这里呢,传是一点一三这个版本啊,一点 一三点一,那么好,再加个点一,现在就确定好了。在这,现在你去找到 c p 三点七,是不是只有这两个是 c p 三点七啊?哎,但是我们发现他好像只有慢了,嗯,这是怎么搞的?这是因为他是 c p u 版本,他并没有写 g p u 啊。那么 g p u 版本在哪里啊?你往下翻,下面还有 下面还有,我们往下翻,在这个地方,你看它这块有图形啊,这个地方是 touch c u, 看到没有?这个才是扩大啊,我们要去安装扩大一一七,那么扩大一一七在这儿,所以你一开始也可以直接定位扩大幺幺七,就代表你现在安装的是扩大 幺幺七这个版本。而老师安装的版本呢,是幺幺三点一,那么就找到幺幺三点一,就这个地方,然后呢找到 python 三点七这个版本,那么 python 三点七满足和老师一样的版本呢?是不是只有他们俩了呀?你看 torch 一点一,三点一,并且他的扩大版本呢是幺幺七,并且他的 python 版 版本呢是三点七,对不对?然后呢有一个 linu 系统版本,有一个 window 系统版本,那么此时我们就去下载 windows 系统版本,你把它下载一下,点击一下它就可以来下载了,你看二二点,一个 g 非常大,如果你用命令提示符的形式直接去下载安装啊,它经常性的可能会中断两个 g 的内容啊,你可能要下一个小时,那么一个小时的过程中,你突然就网络中断了,就会导致你下载失败。 所以呢,建议同学们你直接把这个网址啊,在这个地方下载,或者直接到迅雷啊,或者用其他这些下载专门的下载软件把它下载一下,这样的话下载速度就非常快了啊,关注我,学习计算机知识。

面对深度学习无从下手,买了很多书,却只能看个一知半解。这本书更适合你。这不是一本典型的书籍,作者以一位朋友的口吻进行书写,同时不像其他书籍。从漂亮的图像分类问题开始,这本书作者以结构化渐进和从第一原理的方法来学习拍 torch。 这本书详细讲解了诸多拍 torch 模型的开发,展示了拍 torch 时的使用 python 构建模型变得更加简单直观的原因。自动求导、动态计算图、模型类等等。正如书名中写道 step by step 对 ai 行业的初学者非常友好。

今天我们来开发一个简单的行人监测 a i 智能系统,基于目标检测系统构建人工智能模型,利用数据进行模型训练,并开发相应简单可视化界面。 我们打开一张图片,利用训练好的模型进行检测,可视化检测结果可以看到重叠的人员被准确的检测出来。 接着我们导入几段短视频,利用模型实时进行检测,可以看到视频画面中行人和周边其他物体被准确的检测出来。 模型代码很简单,想要原代码的可以私信我,立马获取,你也可以快速搭建属于自己的 a i 智能检测平台。