jax转pytorch教程
js 又一个加速限行代数库，但能在未来的新硬件上把数值计算跑到飞起。要理解 js， 先从 x 说起。加速限行代数，在 python 里已经有个很棒的限行库叫 number pi， 而 js 和它几乎一样。 你可以创建多维数组，用它们做科学计算，比如相加点击。然而， jax 强制一些 number pi 没有的约束，比如不可变数组合、纯函数，这让它可以自动编一成在 gpu、 ppu 等加速硬件上运行的低级代码。 a 代表自动微分 autograd。 jax 由谷歌开发，团队成员来自最初的 autograd 库。机器学习几乎处处离不开微积分，你需要计算优化算法 和神经网络反向传播的梯度，而 autograd 能让你把这些自动区分出来。简单来说，它会根据输入算出函数的变化率。最后，这是即时翻译 just in time compilation。 你 在 jax 里写一个函数，它会被转换成一组原始操作。 所谓的 javascript 是 惰性翻译的，可以像一门迷你函数式编程语言那样被评估。上手很简单。安装 jax， 不 管是 cpu、 gpu 还是 tpu 版本， 都能开始高性能数值计算。我们先创建几个二维数值，在 number pi 里，如果你想改数值里的值，可以直接修改数据结构。但在 jax 里，这是错误的， 因为数值不可变，相反要用 add 函数选中，所以再用 set 改值并返回一个新数值。然后我们就能做限行代数运算，比如竹元素相加，竹元素相乘或两个数值的点击。不过 jax 最酷的是自动微分。 想象你在做一个物理仿真，写一个 python 函数，按时间计算某个云团的高度。我们不仅要知道任意时刻的高度，还想知道瞬时变化率，也就是在给定时刻的增长速度。用 javascript 把这个函数传给 javascript， 就 能对它作微分。返回一个新的函数来计算导数。如果把函数改成接受一个参数数组，最终结果就是一个梯度， 一组偏导数组给出原函数相对于每个输入变量的变化率。因为 grad 返回的是函数， 我们甚至可以把它应用在自身的输出上，再次微分，得到高阶导数。更重要的是，你可以像这样在 jax 里用数学构建机器学习的未来梯度，告诉我们如何调整模型参数以减少损失或提升模型性能。 现在你就可以配合 flex 等酷开始构建深度神经网络，三分钟带你了解 jax。 想看更多这样的短视频，记得点赞和关注，感谢观看，我们下次再见！
粉丝3928获赞2.4万
相关视频
01:05查看AI文稿AI文稿今天我来教你们飞包三六零， 出包前蓄力前轮到包顶，要出包的时候可稍微拐点把，准备转起前轮出去后 开始往转起方向转头看自己的后轮头，带动肩膀转，脚踢车架，稍微收点腿。当我们转到两百七十的时候，头就可以看到落点了，这时稳住中心，看好落点，推一点车把。然后一定要记住三六零 一定要直着上去转，再直着下来，不然就很容易飞到包外面。我们的转体也一定要直着转，不要横着转出去，该收腿的一定要收腿，收腿时我们要压车，压车就是手不要向上弯去，把车头压在下面，不然落地不仅不是空转，还很容易翻 背包。三六零这个动作我们一定要多加练习，练熟后你就可以把它做高、做远、做飘，做出风格，也可以在三六零的基础上加很多招。
472Skittles🔥
06:21查看AI文稿AI文稿深度学习框架的选择直接决定了我们开发模型的效率和性能。今天我们就来深入剖析一下 py torch、 tensor、 flow 和 jax 这三大框架的核心 api， 看看它们各自的优势和特点。先来看 py torch， 它的核心优势在于动态计算图。啥叫动态？ 简单说就是你的计算过程是实时构建的，像写普通 python 代码一样，一行行执行，想改哪改哪，非常灵活。这对于研究来说简直是福音，调试起来特别方便，快速迭代，模型结构也毫无压力。 很多前沿模型，比如 raspnet 都是用 python 搞出来的，这种灵活性让它在学术界和研究领域非常受欢迎。 python 的 数据操作核心是张量，你可以把它理解成多维数组，但更强大，因为它天然支持 gpu 加速。 它的 api 设计非常贴心，如果你用过 number 派，那上手拍拓尺的张量操作简直不要太容易。创建张量、查看形状、加减、存储、矩阵运算这些常用操作都跟 number 差不多，但性能更强劲。 比如数据预处理、模型输入输出这些基础操作，用拍拓尺张量就能轻松搞定。训练神经网络，梯度计算是绕不开的坎，拍拓尺的自动微分机制 auto grad 就 派上大用场了， 你只需要给需要计算梯度的张亮打个标记， requires grad 等于 true， 然后在反向传播时调用 loss 点 backward pie torch， 就 能帮你自动计算出所有参数的梯度。这简直是神器啊，省去了手动求导的麻烦，大大提高了开发效率。 配合优化器的 step 方法，模型参数就能自动更新了，可以说自动微分是 pie torch 高效训练的秘密武器之一。 pytoch 的 模型构建方式也很有特色，那就是模块化设计。核心组建是 n n module， 你 可以把它想象成一个积木块，各种神经网络层，比如卷积层、 n n con v 二 d 全连接层、 n n linear 激活函数、 n n lu 等等，都是现成的模块。 你可以用 n n sequence 把这些模块像搭积木一样顺序组合起来，快速构建一个简单的模型。如果想搞点复杂的，比如自定义网络结构，那就继承 n n model 自己实现就行。这种模块化的设计，让构建各种神经网络模型变得非常直观和高效。 我们切换到 t c flow， t c flow 的 核心特点是静态计算图。跟拍拓戳的动态图不同， t c flow 是 先构建好整个计算流程，形成一个完整的图，然后再执行。 这种方式的好处是， tsa flow 可以 对整个计算图进行编意优化，从而提升执行效率。而且静态图更容易部署到生产环境，比如服务器、移动端等等。所以 tsa flow 在 工业界应用非常广泛，像 afgo 这样的大型项目都是用 tsa flow 搞定的。 tensor flow 的 张亮操作也是一大亮点，虽然它的 api 功能非常强大，但相对来说可能没有 py torch 那 么简洁直观。创建张亮用 tf 点 constant 查看形状，用 tf shift 加法、 tf add 矩阵乘法、 tf dot、 matlab 这些基本操作跟 py torch 类似。 但是 tensor flow 的 张量操作在分布式计算、数据处理等方面提供了更丰富的功能，更适合构建大规模、复杂的模型。当然，功能强大也意味着学习曲线稍微陡峭一些。 tensaflow 的 自动微分机制叫做 gradient tape， 它用的是上下文管理器的方式 with tef gradient tsp。 在 这个代码块里定义的计算都会被记录下来。当你需要计算梯度时，调用 t dot gradient loss variable 指定损失函数和需要计算梯度的变量， tensor flow 就 能帮你算出梯度。 这种方式非常灵活，你可以精确控制哪些计算需要记录梯度，哪些不需要配合优化器的 apply gradients 方法就可以完成参数更新。 gradient tab 让 tensor flow 的 梯度计算也变得非常方便。 tensor flow 为了降低使用门槛，推出了 keras api。 keras api 可以 说是 tensor flow 的 高级封装，它提供了更简洁、更用户友好的接口。核心组件是 tf dot curves model 和 tf dot curves sequencer。 常用的神经网络层，比如全连接层 tf dot keras dense 卷积层 tf dot keras dot layers com v 二 d 都有对应的 keras 版本。你可以用 tf dot keras dot models sequence 像搭积木一样快速组合这些层，构建一个简单的模型。 keras api 让 tensor flow 的 使用体验更加友好，尤其适合快速圆形设计和构建常见模型。最后我们来看看 jax。 jax 最大的杀手锏就是 xla 加速。 x l a 是 一个高性能的翻译器，它可以将 j x 代码翻译成针对 gpu 或 tpu 的 高效机器码，从而大幅提升计算速度。 j x 的 api 设计非常简洁，跟 nupi 非常相似。如果你熟悉 nupi， 上手 j x 会非常快。 它的核心优势在于性能，无论是 gpu 还是 tpu 都能得到充分利用。在高性能计算、科研、计算、量化、金融等领域， jax 都有着非常重要的应用。 jax 的 自动微分机制也是一大亮点，它跟 py torch 的 auto grad 很 像，都是基于函数的计算梯度。用 jax dot grad 函数非常简洁。 更厉害的是 gt 翻译，也就是 just in time 翻译。你可以用 at jax jit 装饰器来标记一个函数， jax 会在运行时自动把这个函数翻译成高效的机器码，从而加速函数的执行。 g i t 翻译和 x l a 加速结合，让 j x 在 性能上达到了一个新的高度。对于追求极致性能的模型训练来说， j x 绝对是不二之选。 j x 还有一个非常独特的设计理念，就是函数式编程，它强调纯函数，也就是说函数的输出只取决于输入，没有副作用。 这种编程泛式带来的好处是代码更加简洁清晰，易于理解和维护。而且函数式编程天然，适合并行计算来说直观重要。 如果你追求代码的简洁性和优雅性，同时又需要高性能，那么 jax 的 函数式编程范式绝对值得你尝试。好了，我们对 py torch、 tensor flow 和 jax 这三大框架的核心 api 进行了对比。 总结一下， py torch 以动态计算图和易用性见长，非常适合研究和快速迭代。 tensor flow 凭借静态计算图和强大的部署能力在工业界占据重要地位，而 jax 则以 x l a 加速和函数式编程为核心，追求极致的性能和简洁性。 选择哪个框架最终还是要看你的具体需求和应用场景。希望今天的分享能帮助大家更好的理解和选择合适的深度学习框架。
84小柯老师
02:39查看AI文稿AI文稿一天学一个变态的人工智能知识第一百三十期，这节课要讲的是 python， 这个框架怎么学呢？ 最近很多小伙伴都问我一个问题，就是现在深度学习啊，你看都用 python 去做啊，这个框架挺好用，那我该怎么学呢？代码我之前也没练过，也是可能跨着方向转专业过来的。那怎么办？很多学员跟我说要不要买本书去系统学一学， 其实说心里话，我不太建议大家买书，因为代码这个东西，还是你要自己去跑，自己去练的。光看这个东西啊，其实没啥用，尤其是对一个框架来说，我们需要学的是啥？我给大家先说一说啊，你第一步啊，不要说你上手就能自己去写很多东西，不可能， 你不是干这个领域的，你没干个半年，一年半载的，你去写东西绝对不可能先能看得懂就行了，你可能说就是能把所有东西都看懂，不太容易，先看懂一个大概，后续呢，咱边看边查都行。这是第一件事，我建议大家呢，就是先去理解拍套当中一些基本语法， 你先能看得懂，先能知道是做啥的，暂时又够了。但是这些东西啊，绝对不是说你一口气全背下来的，先有个概念，后续呢，咱查东西查的也快。 第二件事，有了一些基本概念完之后，我建议大家多找一些，嗯，比如说简单点的开源项目，咱们干啥呢？我们去看看人源码，主要就是不是说走马观花，从上大家去看有一个模式啊，叫做抵 bug 模式， 常看我视频小伙伴我估计会发现，我经常给大家去抵 bug 些源码。为什么要抵 bug 源码呢？因为你在抵 bug 过程当中你就能看到，哎呀，我这一块第一行代码做什么，第二行代码做什么？整体项目的逻辑又非常清晰。所以说首先你要拍套学是啥？ 学的是能看得懂，能理解他执行任务的一个流程。你可别说上来我就自己写啊。上来你别自己写，能看懂就不错了，你花个一个月半个月时间先能理解这圆满能达到什么水平呢？你看的时候 能边看边查去理解，这就可以了。能写那都是很往后以后的事了，那都得结合你自己的任务，自己的项目边练边玩了。然后最后呢？干什么？最后我建议大家就是多刷论文，多看算法，结合论文和算法，你去抵霸这些原码， 周日复始啊，你搞个十几个二十个啊，这些算法卷码论文，你再去想一想，看看现在你拍套能力就会有一定提升了。所以说是先能看得懂，再能去理解流程，最后慢慢结合你的任务去慢慢练这个东西拍套是不是说上来你就用系统掌握的， 我们先能达到能用、能理解，边看边查，后续慢慢提升的一个过程。为帮助同学快速学习 photoshop 框架，收集整理好了 photoshop 教程书籍、论文、项目实战，感兴趣的同学留个学习抱回家。
61迪哥AI课堂
05:29查看AI文稿AI文稿最近刷 ins 看到这个妆我就立马想到了 jayden， 然后再看 jayden 最近作品里的妆容，依旧还是很喜欢这种美式亚裔妆真的没有那么难，很适合所有新手姐妹去化。我将去繁化碱，和我一起五分钟化妆，跟脸你也一定可以化好，妆前的准备工作还是很重要的，我们的嘴巴一定要润，方便我们后续可以画出这种嘟嘟唇的感觉。 妆前保湿这一块，如果说你是有时间的，推荐你用补水面膜，但是追求快速的话呢，我们就用补水的喷雾，你会发现他们的眼珠子都非常的不灵不灵，而且很自然，相信我选择棕色类的眼珠珠， 我选的这一款呢，它稍微会带一点点小混血的感觉。粉底液的话我就一个要求，色号不要选择太白的，因为压抑状态还蛮离不开自然原声感这个理念。上妆的这个手法倒是没有太高的要求，就注意一下我们要用这种拍打的手法去上妆就可以了，用一下我新买的遮瑕。新鲜东西啊新鲜东西，这个效果还行，黑眼圈也遮一下， 在这里我要和新手化妆小宝说一下下哈。我们在使用黑眼圈的遮瑕类产品，是很少有产品可以一次性遮的明明白白的，尤其是像这种黑色的泪沟，但是你看到后面我一定会教会你怎么把这个泪沟给它处理掉。 今天的腮红我打算用我新买的颜色，但是有一点点偏这种粉紫调的感觉，或者选择这种比较偏玫瑰的粉调也是可以的，再或者说这种嫩粉色也是非常不错的，我们就选择这一类偏粉色调或者是粉紫调的都没问题。可以先从我们眼尾垂直向下的这个点去下手，慢慢的往颧骨方向去带，再过渡一点到我们的面 中。在这一步我们可以大胆的去上腮红的用量，因为接下来我们要来处理一下我们面中提亮的位置，这一步的话就可以刚好去中和一下我们腮红嘴角的位置也来一点， 你们看我左半张脸是不是比这边要膨胀干净许多。鼻子这一块呢，我们就从眉下的这个点连接我们眼角垂直过来的这个点，给他连成一个小弯线，直接找到我们鼻孔的这个位置， 给他画一个这种小 u 字形，鼻头也是这种圆圆的。另外一边也是这样子，直接画一个小 u 鼻背就更简单了，给他来上一条小直线就好。重点是我们晕染开的这个手法，拿一个这种小的鼻影刷，沿着这些阴影线原地的给他拍打开，最后再用我们刷子上剩余的膏体，可以在我们鼻头上方的这个位置给他来一 小横线。也不是说小横线吧，就是一条比较自然的这种过渡的阴影线，直接找到我们颧骨的最高点，在上面给他画上一笔，然后在这一笔的两侧给他再加上一小笔，再回到我们的正面，找到腮帮子最突出的这个地方，直接给他这么画下来，扁带到我们下巴的位置。像我这样原地拍打开之后，这一边的流畅度以及阴暗面就会比 这边明显特别多，这一块的阴影我们就把它往发际线上面去打眉毛的话，它就更简单了，先拿眉刷给它捋顺，直接用一把眉刷蘸取这种棕色的眉粉，直接在我们眉毛上面这么轻刷它 眉粉刷出来的眉毛，它就非常的有自然感，而且适合手残党。然后拿一个定妆喷雾定妆，比起以前我会用粉饼来定妆，现在我会更喜欢用散粉直接蘸取一点点，先定在我们眼睛的位置 以及眼下，其次是我们 t 区爱出油的地方，以及面中前半部分，还有我们的下巴腮红这个位置我们就不盯它了， 答应大家的泪沟消失术来喽，用一个这种比较圆头松散一点的刷子，蘸取这种哑光类的高光产品拍打一下，用均匀取粉的这一面 轻点在我们这条黑色泪沟线上少量多次的这么去叠加，特别明显的效果，像折到这种程度，你正常的去社交是完全没有任何问题的。眼影就拿出我们手头上这种大地色，蘸取最浅的这个颜色，给我们眼窝的位置打底。 新手小宝就记住一个点，少量区分多次晕染。那这个晕染的手法的话呢，就是不停的在我们的眼皮上面左右来回轻刷，像这种程度的话呢，他还是会有点显脏不均匀，这就叫没有晕染开。那我们把刷子上面的这个粉给他再扫一下下，给他扫走，再来在我们这种不均匀的地方不停的给他晕染清扫， 再用深一点的这个颜色加深到我们的双眼皮里面，依旧也是要这样子左右来回亲刷晕染，最后再蘸取最深的这个大地色，加深我们眼尾的位置，不停在眼尾处，这么清爽，卧蚕的部分呢，我们就拿一个这种镰刀刷，蘸取最浅的这个大地色，然后在卧蚕中间线的这个地方下笔，先往眼尾带一点点， 但是不用拉出去太多，再用回我们的哑光提亮提亮在我们卧蚕的地方，然后拿出一个这种棕色的眼线胶笔，随便拿一个刷子当工具，把我们的眼睛这样子给他拨开，接在我们的睫毛根部给他加深，一直给他加深到我们眼尾的位置，然后下眼睑的位置也可以拿这个棕色的胶笔给他晕染。 睫毛部分的话呢，其实可以根据自己的喜好去做决定，我会在眼尾贴一个这种弧细一点的睫毛，去拉长我的眼尾，然后再用一个这种比较翘的去做叠加，很不错，很喜欢。最后拿一个这种嫩粉的颜色，再填补一下我们腮红的位置，然后我们也可以这样子给他夹扁，之后上一点点在我们卧蚕的这个位置， 鼻头的位置也可以左右再清扫一点，还有我们的下巴，咱们再拿一个细节的鼻影刷，用这种粉状的阴影再加强一下我们鼻子的塑形，尤其是我们鼻头的这个 u 字形，给它加强一下，再用一个我们的黑色眼线笔来进行点痣，最后来叠加一点我们的水光膏，水光膏的话呢，它就有一个由内而外散发出来的水光感。 最后就是我们口红的部分，下嘴唇的部分呢，我们就在我们本身的唇线靠外一点的位置给它勾勒，然后嘴角的位置给它延伸出来一点点，有点微笑唇的感觉，最后呢，先在我们的唇峰上面画一个 u 字形，再把上唇周的两侧给它勾勒一下，最后用这个晕染刷给它晕染开， 最后叠加这种闪闪的裸色口红，这样子我们的美式压一妆就完成了。
86派大鑫子
01:36查看AI文稿AI文稿java 后端转 ai 方向就给你三个月，我们该如何安排？速通指南带你跳槽起飞？第一个月，首先要明白，虽然岗位换了，但 java 大 多数是后端工程师，大模型应用开发本质上也是后端工程师，但代码架构以及主流数据库的逻辑没变， 你欠缺的只是 python 语言和 python 框架， java 转 python 那 就和喝水一样简单。第二个月，做一个后训练的小项目，重点是去学习微调和强化学习。 首先是微调，用高质量数据和标签，通过 s、 f、 t 或 lower 去微调一个小模型，难度不高，掌握数据清洗、数据及构建和超参调节。搞清楚这些后，原来你可能是 java 背锅侠，但现在就是 ai 练单师。接着是强化学习 r、 l、 h、 f。 在 微调和模型的基础上，学会通过基于输出反馈对模型做强化学习，这过程就是人类批改作业，让模型做强化学习这两个板块搞清楚，面试官会把你往上抬一个层级后， 后续项目也能做到核心人员。第三个月，学习 rack 工程和 agent 设计。 java 开发转行的优势不在算法研究上，而是在模型服务化、 api 封装和工程落地。先学习 rack 系统的工作组建和原理，学习向量数据库和知识图谱，一个基于相似度匹配查询，一个通过结构化数据 精准解锁。接着学习 agent 智能体，你可以把流程想象成用状态机加工具调用加自我反思，打造一个能自主规划、调用 api 甚至调试 bug 的 ai 助手。 这套流程编排接口设计不就是你写了三年 spring bot 的 看家本领吗？学习 lanchan 和 lymodx 框架，再写两到三个 demo， 面试就没啥问题了。如果你也没有方向，不知道从哪里学的话，我这里整理了大模型学习路线以及配套视频教程。实战项目，留下学习直接暴走。
35刘宇编程- 01:36查看AI文稿AI文稿
java 后端转 ai 方向就给你三个月，我们该如何安排？速通指南带你跳槽起飞？第一个月，首先要明白，虽然岗位换了，但 java 大 多数是后端工程师，大模型应用开发本质上也是后端工程师，但代码架构以及主流数据库的逻辑没变， 你欠缺的只是 python 语言和 python 框架， java 转 python 那 就和喝水一样简单。第二个月，做一个后训练的小项目，重点是去学习微调和强化学习。 首先是微调，用高质量数据和标签，通过 s、 f、 t 或 lower 去微调一个小模型，难度不高，掌握数据清洗、数据及构建和超参调节。搞清楚这些后，原来你可能是 java 背锅侠，但现在就是 ai 练单师。接着是强化学习 r、 l、 h、 f。 在 微调和模型的基础上，学会通过基于输出反馈对模型做强化学习，这过程就是人类批改作业，让模型做强化学习这两个板块搞清楚，面试官会把你往上抬一个层级后， 后续项目也能做到核心人员。第三个月，学习 rack 工程和 agent 设计。 java 开发转行的优势不在算法研究上，而是在模型服务化、 api 封装和工程落地。先学习 rack 系统的工作组建和原理，学习向量数据库和知识图谱，一个基于相似度匹配查询，一个通过结构化数据 精准解锁。接着学习 agent 智能体，你可以把流程想象成用状态机加工具调用加自我反思，打造一个能自主规划、调用 api 甚至调试 bug 的 ai 助手。 这套流程编排接口设计不就是你写了三年 spring bot 的 看家本领吗？学习 lanchan 和 lymodx 框架，再写两到三个 demo， 面试就没啥问题了。如果你也没有方向，不知道从哪里学的话，我这里整理了大模型学习路线以及配套视频教程。实战项目，留下学习直接暴走。
21刘宇编程 
00:56查看AI文稿AI文稿invita 英伟达，一家市值突破四万亿美元的全球科技巨头，它的崛起正是踩中了 ai 井喷式爆发的时代风口。 撑起今天所有大模型的是深度学习两大核心框架 tesla 与 pie torch， 占据市场百分之九十以上份额。 大模型本质是海量矩阵计算，正好和 gpu 擅长的定型计算完美契合。 gpu 效率是 cpu 的 几百倍，但直接拍频式套装的都是 cpu 版本， gpu 版本又复杂到劝退无数人。 今天给大家分享一个工具，自动适配你的显卡，一键装齐 gpu 版本的所有库，不用你在折腾环境，里面还有大量机器学习成品项目，动物识别 unit 分 割全都能直接跑，不想再被环境配置折磨。想要这个工具的直接戳评论区就行。
00:40查看AI文稿AI文稿有人只用一个文件就手搓出了完整 gpt， 这就是 ai 大 神 carpathia 最新炸场项目 my great p t p t p y 直接告诉你，训练一个 gpt 其实没那么难！很多人觉得 gpt 是 深不可测的黑科技，但这个项目没有 python， 没有 python， 纯 python， 从零首写核心仅两百行代码， 从文本转数字到自动求导模型，训练每一步逻辑全都摊开给你看。短短两百行代码，让你彻底看懂 gpt 到底是怎么跑起来的！这就是顶级工程师的浪漫！关注我，带你了解更多 ai 优质项目！
107牛码架构
