Gemma4只有ollma版本吗

jam 四非常的火爆，这个视频我们来看到它的破线版本，使用欧拉玛运行，去除了拒绝回答机制，直接的回答没有任何的限制，以及社区当中风评比较好的大参数破性模型 g b d o s s 那 么就与图像和视频模型破线一样， gm 四破线之后的话，能够回答我们提出的任何问题，他不会拒绝，且会直接回答你的任何提问。这两个模型以及对应的五零九零启动日设我都已经部署至了应用之算平台上面，同时这个视频我将分享一个文档， 以辅助想要在本地运行的朋友来如何进行欧拉玛模型的模型文件配置，以控制欧拉玛运行下模型在 gpu 当中的卸载陈述。经过 这样的配置学习，我们可以使用更低的显存来跑更大的模型，甚至说跑一百二十倍的模型。点击进入到优云智算平台，找到对应的镜像点击部署实力，那么我这里推荐租用的是五零九零显卡， 使用 jimmy 四最经济也最具性价比的选项。那么这是一个自启动的镜像，我们不需要启动指令，点击立即部署， 等待一下。那么出了欧拉玛之后的话，我们点击欧拉玛就可以进入到 open web ui， 输入统一的电子邮箱和密码， 点击登录上方，就可以选用对应的模型并与模型进行对话。如果我们租用的是五零九零，可以使用五零九零对应的预设，能够获得更为稳定，更为一键自动化的运行。破线的内容不是那么好演示，正常情况下我们就 打开侧边栏，该怎么对话就怎么对话，那么这都是常用的对话形式嘛，这里我直接以 g b d 开源的这个模型为例，快速启动上来说，只需要记住预设与非预设模型的区分，那么上风这两个也并不是实体模型，仅仅是一个搭配了预设文件之后的模型感 改了一个名字而已。我就以这个一百二十 b 的 模型为例，它是由 g p d 开源，但就限制解除破线这一块的话，这个模型的话，它的性能仍旧算得上顶级，所以我也把它给加进来。当然 jam 四也是很强了，我们可以看到用时十一秒钟，一点都不快， 但仍能属于可以接受的水平，在此时此刻，内存占用为六十七点七 gb。 这里的技巧我整理成了一个文档，放在了我的 bilibili 的 简介当中的云盘里面。把这个文档呢丢给大语言模型九十以上的概率，它能够帮助你去控制大语言模型的 g p u 卸载的陈述。这是 g b d 给我总结的文档，如果愿意的话也可以看一下，这一套是使用 jupiter lab 来进行的配置。我们切一下这个圈八四模型看一下， 可以看到 jam 四的思考速度还是非常的快的，此时此刻的内存占用为五 gb， 因为大部分的模型还在我们的显存当中，回答速度也很快。那么今天呢，由于一个快乐马模型呢，据说是登顶了，甚至呢要超过 cds 来自于阿里，那么具体如何的话，我们还是等它真正的 开源了再看。可以这么说，现在这个状况来说，只要是开源都是有意义的，因为从以前到现在来说的话，哪怕只开源一代模型的话，退一万步说 我们至少能保留那一代模型在我们的硬盘当中，想用的时候随时用，没有限制，就像今天的这个镜像一样，完全的解除了我们的限制，问什么回什么，可能说没有那么聪明，但是绝对自由。

大家好，本期内容我来分享如何在本地部署谷歌新开源的多模态 ai 模型代码四，我会分享命令行和格式化界面两种安装方案，零基础也能轻松搞定。 最后我还会教你如何修改部署的路径，彻底解决大模型占用 c 盘的问题。本地部署的优势就是你的数据可以完全保存在自己的电脑上，隐私安全有保障，而且支持模型微调， 可以打造专属的 ai 助手。但是他也是有缺点的，就是我们需要稍微懂一些技术，还有就是硬件的支撑，如果电脑配置高，自己可以部署折腾一下。有了本期视频，就算你不懂技术，跟着视频操作也可以部署成功。 本期演示我只分享入门版本，主要就是参考部署的方法和流程。接下来我手把手带大家用欧拉玛一键部署。 首先我们先来了解一下 jam 四到底是什么，它是谷歌新发布的开源多模态的 ai 模型，与 jimmy nay 是 同源的。 简单来说，谷歌就是把自家的 ai 技术打包成了一个免费开源的版本，让每个人都能用上。它的能力是非常全面的，支持文本交互、图像识别、音频处理，还能生成代码， 基本上覆盖了所有的 ai 应用场景。下面我们再来看一下它的核心优势。核心优势它有三个，第一个就是多模态能力，文本、图像、音频代码，一个模型全部搞定。 第二个就是完全免费，它没有会员订阅，没有暗次收费，可以随便的去使用，甚至用它去开发商业化的产品。第三个就是比较重要的隐私安全保障，本地部署模式下，所有的数据处理都在自己的设备上完成， 敏感信息不会上传到云端，这是三大核心优势，就是在我们安装之前，需要我们了解一下这个安装环境。首先系统兼容性 demo， 四是支持 mac os、 linux、 windows 三大主流操作系统，基本上覆盖了绝大多数的用户。 然后就是内存要求，如果你的电脑小于三十二 gb， 推荐安装四 b 版本，自己安装体验折腾一下就可以。如果你的内存达到或超过了三十二 gb， 那 就可以选择二十六 g 或三十一 g 的 版本。 在这里有一个小提醒，就是如果是 mac 电脑 m 系列的芯片，它的显存和内存是合二为一的，大家直接看内存就可以。如果大家不是 mac 电脑，比如 windows 或者 linux， 那 么就优先看显存，显存不够再看内存，这是关于这个配置的查看。像这个本地部署也非常简单，仅需两个步骤即可完成。第一个就是安装欧拉玛，这个欧拉玛就可以理解为是本地大模型的一个容器， 它是装大模型的，有了它才可以运行。第二步就是我们容器安装好之后，我们需要给它把模型放进去，就是部署模型，两个步骤即可搞定。下面我们直接进入实操环节，我们来一起看一下部署的全部流程。 在这里第一步我们就先要有这个欧拉玛，他是一个大模型的容器，就是我们打开之后选择右上角的 download， 这时候我们就需要选择匹配自己系统的版本，在这里我这是 windows， 然后我们选择 download for windows， 在这里选择 download for windows 之后就会弹出窗口，我们选择路径直接保存就可以，当下载好之后，然后我们就安装即可，安装好之后打开就是这样的主界面，这个是我之前安装的版本，部署着一个一点五 b 的 zip， 然后下一步就需要我们去选择大模型，我们还来到刚刚乌拉玛的这个界面，在这里我们选择左上角的 models， 然 然后在这里我们可以看到该马四，然后我们选择进来，它提供了好多个版本，在这里我就选择一个入门的版本，主要就是演示安装的流程，比如我们选择 e 二 b， 然后我们选择，这时候我们就看到了这个安装命令，选择右边的这个两个方框，然后选择 copy， 然后下一步 我们就按键盘上的 windows 加 r 键，这时候出现运行窗口，然后在这里面输入 cmd， 然后直接回车， 回车之后就出现了这个命令窗口，然后我们刚刚复制了直接鼠标的右键，可以看一下，这个命令就粘贴过来了，然后我们直接 回车好了，这时候它就开始部署到本地了，在这里我们需要等待一段时间，好可以看一下出现了 success 这个提示，就证明安装成功了。现在我们在这里可以直接和它对话，比如我们输入你好当前什么模型，然后我们发送 可以看一下，他现在回复我们了，我是一个大语言模型，我叫 jama 四，这时候我们就在本地已经部署成功了， 然后我们再回到欧拉玛的客户端，在这里在这个对话窗口右下角这里，这里可以选择模型，然后我们找到刚刚部署到本地的 jama 模型好了，这时候就切换好了。同样在这里我们也可以直接和他对话，比如我们输入你好，然后发送， 这时候他就回复我们了，你好，很高兴和你交流，请问有什么帮助到你的？到这里我们就已经部署成功了。前面我们分享的是使用命令行 c l i 模式去部署，其实还有一个简变的方法， 在这里我们还可以选择模型后面对应的这个按钮，也是可以直接部署的，这个是非常方便的。好，最后我再分享一个大家比较关心的问题，就是我如何设置这个本地模型的一个部署路径， 在这里我们也不用去改环境变量了，这个客户端是直接支持的，我们选择左上角的设置，然后在这里选择这个 model location， 在 这里我们就可以去设置模型的一个保存路径，在这里大家自己设置就可以，是非常方便的。 好，下面我这里演示的是上传了一张图片，就让他识别这张图片，我们一起来看一下他给我们的结果，好了可以看一下，我们给了他一张图片，我们问他这是张什么图片，他给我们的回复， 这是一张符号或者是图标，然后他还分析了主要包含的元素，还有用途预测等等，能够精准的识别内容，并生成详细的描述， 表现还是可以的。好了，现在我们本地部署成功了，然后刚刚我们也做了一个功能测试，第一个就是我们和他对话，就是文字处理，第二个测试的就是这个图像识别，他也是可以精准识别的， 他虽然是多模态的，但是目前我们用的这个容器不支持多模态的输入，我们暂未测试音频和视频的识别。好，最后我再补充两个细节，就是第一个欧拉玛的拓展性他是非常强的，除了可以部署这个 demo 四， 还支持比如通用签问或者是 deepsafe 等众多的开源模型，部署方法也是完全一样的，一条命令就能去部署。第二个就是本地部署的真正价值不仅仅是隐私保护，更重要的是支持模型微调， 可以用自己的数据去训练模型，打造一个完全专属的 ai 助手。好了，这就是我们本地部署的所有内容，大家感兴趣的可以自己折腾一下，探索更多的玩法。好了，我们本期内容分享就到这里，可以留下你的想法，我们下期再见。

谷歌刚发布了王炸级别的开源大模型 g m 四，本视频将为你带来详细的评测。本次的 g m 四最大的杀手锏是彻底转向了 ipad 二点零纯开源协议，这意味着他终于解除了之前的法务紧箍咒，开发者可以闭眼商用。虽然三十一 d 模型在 reno ai 榜单上拿到了开源第三， 但回归到真实场景，它的表现其实是一把极其锋利的双刃剑，评价非常两极分化。首先看旗舰级的三十一 bance 模型，它的编程能力非常惊艳，实测写 html 界面，排版精美，在 levelbench 拿到了百分之八十的高分，达到了专业程序员的指令水平。 而且它的 token 效率极高，平均消耗只有 coin 三点五的百分之六十五，非常适合需要反复调用、在意成本的本地 agent 工作流。 但它的偏科非常严重，数学精度不足，简单的运算经常出错，尤其是在处理信息密度大的长文本时，很容易产生幻觉，而且在开启慢思考模式后，偶尔会陷入死循环，无法跳出。接下来是性价比极高的二十六 b m o e 模型， 这款模型是本地二十四 g 显存用户的福音，虽然总参数有二十五点二 b， 但推理时仅激活三点八 b 参数，这意味着你只需要十六到十八 g b 的 显存就能跑起四 b 的 量化版，而且速度极快，实测能达到每秒六十个 token， 非常适合那些需要塞入臃肿系统提示词的 a 帧子应用。不过这款模型的评价极其割裂，虽然有人觉得它实用，但也有开发者直言它在中文写作和逻辑推理上，灌水严重， 被戏称为数字干水制造器。最后是端侧的小杯模型 e 四 b 和 e 二 b。 它最大的亮点在于原声支持最高三十秒的音频输入，这意味着你不需要外挂 s r 语音转文字模型，英文转写效果几乎完美，是做本地语音助手的绝佳选择。但它的视觉能力简直是灾难， 面对简单的发票截图或手机截图，文字提取错漏百出，甚至连最简单的网页自动化操作第一步都会报错。在视觉理解这个维度上，它被 q n 三点五的九 b 模型按在地上摩擦。 那么在实际选择时，如果你需要构建本地的高频 agent 循环照用，且对 token 预算和响应延迟要求极高，那么二十六 b m o e 是 首选。 如果你想打造纯离线的语音交互设备，直接用 e 四 b 即可。当然，如果你最看重的是开源协议，需要变商用 jamas 的 pitch 二点零协议就是最大的优势。 相反，如果你需要一个强悍且稳定的综合小尺寸模型， q n 三点五的九 b 版本在综合能力上是碾压 e 四 b 的。 另外，如果你依赖高精度的数学计算 o c r 文字识别，并且要求极低的幻觉率，或者需要一个更成熟的生态和丰富的尺寸矩阵，那么 canon 三点五会是更稳妥的选择。在底层架构上，简码四引入了两项黑科技， 第一是 pl e 逐层嵌入，这是小模型专享的，它不再把所有信息在初识阶段一次性打包，而是在每一层都生成专属信号， 本质上是用额外的算力换取存储空间，增强表达力。第二是混合注意力机制，它采用了五层滑动窗口和一层全局注意力交替的结构，配合双 o p e 配置，直接将上下文处理能力拉升到了二五六 k。 针对硬件部署，这里给一套基于 ansel 和 m c p p 的 建议。如果你只有八 gb 显存，勉强能跑 e 二 b 或 e 四 b， 但只能做简单的摘药或语音识别，千万不要尝试复杂的视觉理解或长代码分析。二到十六 gb 显存是 e 四 b 的 舒适区， 也可以尝试二十六 b m o e 的 重读量化版。而如果你拥有二十四 g b 显存，强烈推荐跑二十六 b a 四 b m o e， 这是目前最有限势意义的型号，能同时兼顾二五六 k 的 长上下文和高效的吞吐量。 最后，分享两个长文本推理的闭坑技巧。如果你在进行存文字的长上下文推理，建议在辣妈 c p p 中直接关闭微震视觉功能，这样可以节约大量显存。 另外，面对复杂任务时，可以通过 a p i 动态调整 thinking budget， 也就是思考预算，防止模型陷入无限思考的死循环，导致机器直接卡死。

一分钟让你搞清楚关于全球最强开源模型 jam 的 一切。最近谷歌开源了 jam 四，我将用四个问题 让你清晰了解关于 jam 的 一切。 jam 各版本的区别，我家的电脑能用吗？模型怎么部署安装？普通人用来干什么？先说他的四个版本，三一 b 直接冲上全球开源 ai 榜第三名，以前要机房才能跑的能力，现在你家里的高端游戏显卡就能搞定。 轻量版的一二 b 和一四 b 为手机、平板以及中低端电脑设备打造，性能虽不是最顶级，但是绝对好用够用。而二六 b 猫号称总参数两百六十亿，但实际每次思考只用其中三十八亿个，最相关的效果却能媲美两百六十亿， 能理解超长文章以及视频。简单说，无论你是用手机、笔记本还是高性能电脑， jam 四都能给你免费安全强大的顶级模型体验。再说你家里的设备是否能用上？一张图告诉你 jam 四个版本的最低要求。 对于多数人而言，家用的电脑设部署一二 b 一 四 b 完全够用，基本能满足百分之九十的使用场景。另外两个版本对内存要求较高，但是性能出众，属于好马配好鞍。 再说模型安装，整个过程大概十分钟左右。首先下载 lm studio， 然后打开 opencool 或者 id 工具，让它查找你本地配置，给你推荐安装哪个版本。之后在 lm studio 里下载，运行搜索推荐的模型名点下载，最后接入 opencool 或者 i d e l m studio， 提供 open ai 兼容 api， 在 open 框里把 api 地址改成， h t t p l o c a o s t colon twelve three four slash vivo 就 能用 jama 四驱动你的 ai agent 了。 网上攻略一大堆，这里就不展开了。最后说下所有人最关心的能用 jama 做什么？这里推荐三个场景，可以去试试。第一， 构建本地知识库，把工作和学习相关的文件丢给本地 jama， 让他帮你形成系统化的知识。构建个人知识库时进行向量缩影和 anitive， 解锁数据不出本地，安全合规。第二，给家人搭建一个 ai 助手，下载好模型，配个界面，电脑手机都可以直接对话，不花钱不泄露隐私。第三，内容创作 最大优点是无限额度，即便不如部分付费模型，但可以靠大量尝试提升优质内容的概率。千马寺会改写国内企业及政府客户的私部模型格局吗？欢迎在评论区发表你的观点。

兄弟们，欧拉玛已经更新好了，杰玛斯的大模型也不朽完成了，一共四个模型，接下来挨个测试一下，所有的测试都是在这个电脑配置下完成的。第一个问题，介绍一下自己， 第二个问题，用李白的风格写一首 诗。 最后一个问题，经典的喜鹊问题 总结一下，四个模型都测了，最快的是一二 b， 最慢的是三十一 b， 四个模型第一次启动都有点慢，后续速度都还可以。 总的来说，回答质量最好的是三十一 b， 包括最后的一个洗车逻辑陷阱也自动识别出来了， 就是我这个配置运行起来实在是太慢太慢了，所以性价比最高的应该是这个二十六 b 模型。回答速度，回答质量都还可以，可以用在部署小龙虾，用来做个人的 a 键，挺好用的。后续再和千万三点五做个横向对比，记得点个关注。

今天我将跟着大家一起本地步数加码四，接入 open core， 彻底告别托肯焦虑，接下来跟着我操作。 这里我们先进入 elama 的 官方网站，进入官方网站过后，我们直接点右上角的 download 下载，我们这里是 windows 系统，选择下载 for windows， 点击这里， 这里就等它下载好。下载好之后，我们这里就直接双击运行，这是它的安装界面，我们直接点安装这里，等它默认安装好。 好了，这里 elama 就 安装好了。然后我们到这个地方 elama 的 官方网站，选择 models， 这个地方选择 command 四， 然后这里我们选择我们的模型，这个模型的选择我们根据我们的显卡显存大小来选择。我们这边看一下我们的显存是多少， 这里看到我使用的是四零七零的显卡，显存是十二 g b 的 显存，十二 g b 的 显存的情况下，我们可以选择这个九点六 g 的 模型，这个一四 b， 这个我们直接点进去，选择一四 b。 点击进去过后，我们直接复制这条命令，然后运行一个 cmd 窗口， 直接粘贴这里，它就会欧拉玛会自动地给我们安装这个模型。呃，这里等的时间是比较长的， 这里模型已经下载下来，并且运行起来了，我们向它发送一条消息，试一下你是谁， 反应还是可以的，这就跟了我们信息回答了。好了，在这里过后呢，我们就可以把这个窗口关闭掉， 关闭掉过后，在 lama 这个地方我们去选择这个模型，在这个位置也就可以和它进行通话了。 比如我们问他一句，你可以帮我做些什么， 他已经帮我回答了，在这里呢，我们因为我们是在本地虚拟机上安装的，所以而且我们为了方便以后可以在其他计算机上也可以调用，我们在这地方设置这个位置 点，这个位置点设置这个允许在网络上运行，把它开起来点了就可以了。 好了，我们下一步就开始配在 open core 上配置啊，在这里我们进入虚拟机之后，我已经执行了 npm i， 刚接 open core 全曲，安装 open core 的， 我们这里可以执行一下 mini， 看下我们安装的版本。 openclock 杠 v 是 安装的最新版本二零二六点四点五版本，然后我们执行 openclock on， 在 这里我们进行一个调试，这个地方我们 yes， 这里选择快速，这个地方它是让我们选择大模型，呃，大模型它这里有，我们选择本地的这个位置点确定 这里我们直接就选择本地的，不要选云，上面是带云端的，就选择本地模型。 这地方让我们选择模型，我们选择这个，这就是我们刚刚这个就是我们刚刚下载好的模型，就是 直接回车。等一下， 这里让我们选择通讯工具，我们这直接跳过，暂时不管这个，直接跳过。 呃， scale， 我 们这边也选择否先进行最简单的安装 网关，我们就直接重启， 选择 open ray web ui 好 了，我们看一下 open core 运行起来了没有。 open core getaway style sta 好了，已经运营起来了，我们进去看一下， 这边需要 token， 我 去看一下 token 是 多少，关于 token 的 话就是我们，我现在是在虚拟机里面安装的， 我要重新打开看一下，在虚拟机里面安装，我们就直接去通过这条 mini 访问我们的虚拟机， wsl 的 虚拟机访问，然后无斑图选择 home 目录，选择我们的用户， 然后这里选择点 opencloud 这个文件夹，然后这一个 opencloud json 让我们看一下，到 git 里面去，这个地方就是我们的 talking， 复制粘贴下来到这个地方，点连接好了，我们尝试给他发一条消息，你是谁？ 在主位置这个地方，我们可以看到这地方是我的模型。 我再问他一条消息，你现在使用的是什么模型？ 看这里已经是我当前运行的模型 工具，在这里我们就可以看到了，我们现在整个 open call 来使用的是我们本地模型，就不需要去购买 token 了。好，今天内容就这么多，谢谢大家。

大家好，我是根谷 open cloud 的 追马四欧拉玛全新的本地模型体验来了。欧拉玛最新更新的版本是 v 二点零啊，已经支持追马四，搭配 open cloud， 响应更流畅，速度更快，回车记出结果，支持常文本做任务处理，本地 i i 体验相当的不错， 要想流畅的体验，快去试试升级吧。首先教大家如何去升级吧，当你用这个积马四的话，你首先的显卡应该是十六 gb 上的啊，最好能够到三十六 gb 啊，我的电脑是一个一百二十八 g 的 全存和内存一体化的，是吧， m 四 max 的 最强电脑，所以说我运行这个东西是， 呃，我运行这个金马四二十六币了，这个模型是没任何压力的啊，欧拉玛兔啊，一定要用这个命令啊，金买四二十六币啊，你回车 他默认的会把它下载到你这个，因为我是下完了是吧，当然如果你下载很慢的话呀，你应该去做的有两个操作，就是应该是这么做的，应该是做那个去开他代理啊，这个代理应该是这么做啊，就是去去这么做 开这个代理啊，或者是你去那个把这个镜像设置为那个，设置为一层摩摩搭论坛的那个代理啊， 就是把它带代理到国内啊，如果你能够魔法上网的话，就不需要开代理了，因为我这边的网速是比较快，大概是下载了接近接近两个小时，一个半小时啊，大概是五到六兆每秒，他是七 gb 的， 他会下载哪个目录呢？你可以看一下这个目录啊，欧拉玛这个目录，呃， 首先它的模型会下载到这里，下载你其实不用管了，你可以打开你的欧拉玛，现在欧拉玛其实它又升级了一个小版本啊，就是零点零点二 两百啊，零点二点，零点二点零点二啊，这是今天最新版本，大家建议大家升级最新的版本。那我这里下载了两个模型比较好用，一个是 gbt 的， 一个是 o s s 二十 b， 一个是这个积满四，最新的二十六 b。 那 我发现这两个模型都非常快啊，你下完了以后，你一定要用欧拉玛浪琴去启动欧拉玛 浪去，他去启动这个欧风 club， 启动完了以后我这已经是启动了，启动了以后你打开这个小小龙虾的页面来，我给他做一道数学题目吧。啊，这个他不知道他能不能识别啊，哎，你看非常快吧，秒开吧，是吧？ 然后他这个地方其实有错误啊，就是我应该去截个图给，不知道能不能截图过去啊？就是你，哎，就是就是就是，求解，这个一元二次方程， 不知道他能不能识别。这个啊，他已经识别出来了啊，这个是啊，我不知道这个结果是不是对的。 x 平方减五， x 加六啊，应该是没，应该是没问题的，对吧？一个是二，一个是三，对吧？对，非常快，然后这个数学题其实更难一些，就是这个勾股定力的这个，一个这个这个 啊，你看看一下，他应该是应该是很快的，一秒、两秒，两秒就出来了，这个比之前是快很多，我记得考了应该是三月 二十八号那个版本嘛，大概是一周前的欧拉玛这个版本和 opencall 的 最新版本啊，它大概是这样一个难度的速写题，要要五到八秒钟，如果是过年的那会大概是要一分多钟，所以说现在是非常快啊，非常快啊，就是我感觉比那个 api 都要快，所以大家尽可能去试一试啊。用它进行养虾的话， 那比如说，比如说我是谁啊？对吧？他应该很快就能够找到十二月份，是吧？年龄怎么怎么样？我觉得非常快，这个建议大家赶紧去升级吧。

酷狗发布的 jamax 家族这次把本地部署的门槛彻底拉低了，它包含了从高性能工作站到边缘 iot 设备的四款模型，不仅原生支持图文视频多模态理解，还拥有最高二五六 k 的 超长上下文。 最关键的是，全系全面转向了 h 二点零协议商用，完全没有后顾之忧。首先来看这个家族的扛把子三十一 b 电子版本，它采用全密集架构，三百一十亿参数在推理时全部激活， 这意味着它拥有该系列最强的逻辑能力和输出质量。如果你手里有八十 g 显存的 h 幺零零或者多张消费基显卡组基群，且对结果的精准度有极致要求，选这款就对了。 接下来是性价比最高的二十六 b m o e 版本，这里要重点解释一下混合专家架构的优势。虽然它的总餐数量有二十六 b， 但单次推理时系统只会激活其中三点八 b 的 参数，这种机制在保证智商的同时提高了每秒的吞吐量。 对于大多数本地桌面用户来说，这款模型在响应速度和性能之间达到了完美的平衡。针对手机和 l t 设备， google 推出了 e 四 b 和 e 二 b 两款端侧模型。这里引入了一个关键的 pl e 单层嵌入表技术，简单来说就是让大体级的磁表在查找时不全面参与常规计算，从而大幅降低内存占用。 一四 b 有 四点五 b 有 效参数，适合树莓派或 jason， 而一二 b 只有二点三 b 可以 直接跑在手机上，让端测 ai agent 成为可能。最后总结一下全系列的通用能力， 在上下文长度上，大模型支持二五六 k， 小 模型也达到了幺二八 k， 足以处理超长文档。再加上原生的图文视频理解能力，让它在实际应用场景中非常灵活。 在实际性能测试中， jam 四三十一币的表现非常强悍，尤其在 g p q a diamond 科学推理测试中，拿到了百分之八十五点七的高分， 但更核心的竞争力在于它的 token 效率。同样，一个任务竞品可能需要一百五十万个以上的 token 才能说清楚，而 jam 四只需要一百二十万个，这意味着它说话废话更少，逻辑更直接，在实际部署时能显著降低推理成本。 如果把它和国产明星 q n 三点五二十七 b 放在一起对比，你会发现一个有趣的现象，在一些细分的工具调用跑分上， q n 确实略占上风， 但在基于人类真实偏好的 rena a i yellow 评分中，两者几乎打平。这说明在实际的人机交互体感上， g m 四三十一 b 已经达到了顶尖水平。很多人好奇为什么价格没怎么变，性能却原地起飞？ 其实拆解底层代码会发现，它依然沿用了 paperstorm g q a 以及局部全局混合注意力机制。这次性能的飞跃完全不是靠改架构，而是归功于训练数据的质量飞跃和训练配方的深度优化。这再次证明了在当前大中型阶段，高质量的数据才是真正的核心竞争力。 现在进入实操环节，如果你追求极致简单，首选奥拉玛。首先把版本升级到零点二零以上，然后直接在终端输入命令，想要轻量化测试，就运行一二 b 版本。如果追求性能和速度的平衡，强烈推荐运行二十六 b 版本。 对于 macm 系列芯片用户， m l x 框架配合 turboq 是 史诗级加强，它通过压缩 kb 缓存，直接把内存占用，从十三点三 gb 砍到了四点九 gb， 整整节省了百分之六十三的空间。 具体的部署命令就在屏幕上，这里有一个关键的权衡，开启这个优化后，解码速度会慢一点五倍，但它能让你在 mac 上跑满幺二八 k 的 长上下文。对于处理长文档来说，这个招牌绝对稳赚不赔。 如果你是显存困难户或者即刻玩家，可以尝试 einslof 和拉玛 cpp， 只用 einslof 量化，只要六 gb 显存就能跑起一二 b 或一四 b， 甚至能构建支持网页搜索的本地 agent。 而如果你有三张四千零九十并行二十六 b m o e 版本的速度能达到惊人的每秒一百六十二个头啃。此外，通过实验性的 turbo quant plus 分 支，能把三十一 b 模型的体积从三十 g b 强行压到十八点九 g b， 让大模型在消费级显卡上跑起来。 最后是企业级生产环境，建议直接使用 v l l m， 它原生支持多模态输入和二五六 k 的 高吞吐量，并且完美兼容多卡并发。 开发者在实测中发现， v i l l l 搭配最新版的 transformers cool， 可以 非常稳定地调用 jam 四的工具接口，适合构建大规模的商业应用。在部署之前，有几个坑必须提前告知。首先是模态缺失，虽然官方宣传支持音频， 在目前音频输入请在 google ai studio 线上可用，所有的本地框架都还没适配。其次是稳定性问题，如果你使用 l m studio 运行三十一 bit n s 的 g g u f 版本，可能会遇到死循环输出的 bug， 建议等待社区修复。最后是能力边界，在处理复杂的函数调用时， e 二 b 和 e 四 b 这类小模型的表现不如同级别的竞品复杂任务建议直接上二十六 b 或三十一 b 版本。最后根据你的设备和需求 直接看这个部署。建议企业商用直接选 jam 四 high party 二点零协议让你没有任何法务后顾之忧。个人 pc 或游戏本用户强烈推荐二十六 b m o e 版本，单卡四千零九十就能跑通超长上下文，且响应极快。 mac 开发者请认准 mlx 框架，记得开启 turboqant 来解放统一内存。至于 i o t 创客 e 二 b 和 e 四 b 证明了六 gb 内存也能跑起。智能 agent 是 端侧智能的最佳选择。

大家好，今天我们来玩 jam 四加 cloud code， 内容包括下载运行 jam 四，接入 cloud code 编程能力测试。接下来简单讲一下安装和接入。通过欧拉玛瑙 jam 四就能够下载模型， 需要注意的是需要加上模型的具体大小，比如说下载三十一币就是欧拉玛瑙 jamma 四冒号三十一币，等待几分钟模型就能运行。欧拉玛连接 cloud code 也很简单， 用 cc switch 点击右上角，选择自定义配置请求地址，当中填 local host 和端口号，幺幺四三四保存就可以了。 终端输入欧拉玛 launch cloud model jam 四三十一币。 这样来看一下，现在的内存压力是很小的。执行指令登录说一句话，我们内存一下子就上来了，这样子呢，就说明我们的 cloud code 已经在调用 jam 模型了。 要测试的场景是让接入了 jam 四的 cloud code 复刻我们的官网，想让它变成苹果官网的风格， 先到 get design， 点 md 里面找到它的设计风格，进入到前端重构目录下 执行指令。这条指令是安装一个 md 文档，让 cloud code 知道如何模仿苹果的官网设计 design， 点 md 好， 现在已经可以了，命令也很简单，请你使用 next nex 的 gs 复刻我们的官网，参考 design， 点 md 中苹果的设计风格，我们就持续等待吧， 它已经运行了半个小时，还在 plan model， 还在思考该怎么办，我们继续等待吧，现在已经持续运行了快一个小时，代码也编已完成， 打开看一下，启动的时候报错了，让它修复一下，现在来对比一下。 左边是重构之前的效果，右边是重构之后的效果，可以看到右边还是很贴近苹果网站的风格，今天做这个测试主要是想看本地模型在 agent 的 场景下是否能够使用， 相比之前的本地模型只能够聊天，现在已经可以支持一些 agent 的 操作工具调用，基本可以长时间的运行任务，相信再过半年本地模型也能够达到生产的效果。大家有什么想测的可以告诉我， 今天先到这里，谢谢大家。

谷歌终于坐不住了，正式卷开源市场， jm 四的效果到底如何呢？ jm 四的发布啊，真的有可能让我们实现头很自由。这期视频呢，老张给大家简要介绍一下 jm 四怎么安装到本地，以及如何搭配到我们的 open klo 大 龙虾上， 附带所有的安装步骤啊，大家可以一起来体验一下。后续呢，老张也会根据测评效果给大家接着发视频，这期是我们完整的部署流程，老张重点给大家简单聊一下，就是为什么 jm 四的发布啊，会让大家感觉谷歌真的开始卷起来了呢？ 首先第一点，他和目前谷歌的 jimmy 三用的是相同的技术基座啊，所以说他的能力是毋庸置疑的。第二点就是商业自由，你直接部署下来做什么都是可以的，都是允许的。然后第三个就是支持多模态，无论是文本、图像甚至小规模的视频音频， 他都可以直接支持。第四点就是结合前段时间爆火的 open klo， 他 可以直接在本地对接 open klo 以及对接 klo 的 code， 实现本地的偷根无线化。这是老张给大家总结的四点，为什么詹姆斯的发布会让大家感觉，哎，可能真的要进入到一个新的纪元， 然后呢，他所发布的这四款模型呢？老张给大家做了一张图片啊，大家可以到时候把它截下来。第一个模型一二 b 的， 他本身是用于手机或者边缘设备八 g 显存， 然后最高端的三十一 b， 他 所对应的旗舰版本呢，是对应的是二十四 g 加，所以大家根据你的需求来进行对应的模型选择。老张这次视频呢给大家来看一下三十一 b 的 这款模型的安装， 然后关于本地的安装部署啊，其实非常简单，任何开源模型，其实我们只需要让他和欧拉玛就是那个小羊驼结合到一起就可以了，然后找到你符合要求的版本。安装成功之后啊，欧拉玛现在已经有了一个完整的应用端了，所以大家可以直接在这个位置和他进行对话交流。 那我们想要下载 jm 四到你本地的电脑上，我们可以使用它的官方指令，会告诉我们直接怎么样去进行 jm 四的对应安装，像老张想安这个三十一 b 的 对吧？我们就把它拿过来， 把它直接这有一个 c l i 命令行安装方式，把这个东西直接复制在你的开始菜单中，单机右键选择运行输入 cmd， 直接把刚才指令粘贴过来，这儿的时间会很长，因为它有二十个 g 的 大小，我们直接稍作等待 安装成功之后，我们也可以直接回到它的客户端中，在模型选项上找到我们安装好的詹姆斯冒号三十一币， 然后可以直接进行对话。老张他处理一个较为复杂的提示词，我们让他看一下当前显存的内存消耗， 咱们拿这个 ai 慢距的提示词来测试啊，这个提示词非常的长，我们看一下他读取提示词的能力，以及他的这个显卡的性能消耗，我们看一下啊，这个显存直接拉满的，达到了百分之九十四的占比， 而且这个响应速度还是非常快的，只需十一点七秒啊，就把整体的业务流程给我们直接补齐了，而且呢按照需求给我们进行了对应的提问，要什么样的慢距效果，所以说以目前的测试反应来看呢，他的这个响应速度起码要比之前的很多大模型要好的多， 所以接下来我们自己来尝试一下对话类的工具，可能大家都不是很需要的，我们能不能把它接入到我们的 open clone， 丢到我们的龙虾里，让它们俩来进行联动的。然后这期视频呢，老张顺便给大家提一下，就是最新版的 open clone 的 部署流程 啊，咱们可以快速的去过一下一些重点的细节，因为之前老张发过很多期的部署视频一块的呢，因为它本身啊， wsl 它是相当于在 windows 系统上安装一个 linux 的 独立系统， 这样的话呢，就直接相当于在你电脑上安装了一个独立的存储空间，它所谓叫做沙盒安全，而且运行起来呢是不会有任何的兼容性的对应问题的，因为 windows 中啊，它的权限呐，路径等经常会报错。所以说我们这 期视频重点教大家怎么用 wsl 进行 win opencl 的 部署安装，这样的话， windows 和 wsl 的 安装您都了解之后之后学起来就非常方便了。 然后接下来呢，老张给大家简单的介绍一下在 wsl 中如何安装我们的 openclaw， 因为之前呢，咱们介绍过太多次了，很多兄弟留言说老张就别介绍怎么安装了，然后我们就给大家简单说一下注意事 项。首先第一呢，你想在 wsl 上安装 openclaw 的 话，第一点你得先在你的 windows 系统下把 wsl 安装一下，当然很多电脑老张发现其实都是自带的， 怎么检查是否自带呢？咱们可以直接输入 wsl 空格杠杠威森，如果弹出定的版本号，证明 wsl 电脑已经安装了，如果没有弹出的话，使用安装指令 wsl 空格 insert 直接安装即可。然后紧接着按照老张给你提供的指令复制粘贴就可以了。先安装你的优班图， 安装之后进行一下更新。安装完优班图之后啊，在这选择这个倒三角，找到优班图系统，就可以直接进入到你的优班图系统当中。 在你安装过程中啊，它会让你设置一个用户名和密码，到时候可能需要做一步密码验证。在优班图系统中，注意是优班图系统中运行这些环境指令，分别安装 python 三，安装一个压缩包工具，方便安装一个 node 点 ps， 然后再安装一个 get 工具。 如果说为了检测每一步安装是否成功的话，你可以分别输入，比如 note 杠 v、 npm 杠 v， 包括 get 杠 v， 在 这检测我们对应的这个版本。如果都能弹出版本号，证明你三项安装都是成功的，这是配置 openclo 的 基本的内容要求。 然后紧接着我们把基本环境配置好的兄弟，你还需要在这个位置安装一下这个欧拉玛。 这老张要重点说一下，说老张我不在本地都已经下载好欧拉玛了吗？为什么在优班图里还需要再配置一下？其实我们优班图中是可以调用本地的欧拉玛的，但是很多兄弟在调用过程中分别给老张留言说说调用时无论是 ip 地址找不到，还是 ip 的 动态变化，导致每次都需要重新连接，重新配置。 所以说最简单的方式就是把欧拉玛在你的优班图系统中再次的安装一遍。其实安装非常简单，只需要把第一步的安装指令复制过去，直接在这个位置直接粘贴即可。安装成功的检测方式很简单，你就输入欧拉玛， 如果他不报错还给我们对应的选项，是咱们是进行对话呀，还是怎么样的证明你的安装就是成功的？ ctrl c 直接退出。 所以说欧拉玛安装之后，紧接着就是把我们的模型在当前的优班图中跑起来。老张刚才给大家测试的是 jm 四三十一 b 模型，我们直接输入指令欧拉玛空格 run， 然后你的模型效果直接回车，第一次时他会直接进行对应的模型下载。如果说你现在只想用 open klo 来调用欧拉玛的这个占四的话，可以在我们的本地电脑上把之前咱们那个桌面端给他 删掉，如果说你不你想两端都使用的话，就可以直接在这个位置进行使用了，然后发一个你好看一下响应速度， 嗯，响应速度是非常快的，所以接下来我们把这个家伙欧拉玛的詹姆士直接部署给我们的 openclo， 在 这怎么中止对话，摁一下 ctrl c， 再摁一下 ctrl d 啊，就可以直接进行中止对话了啊，所以说大家可以直接的把它退出来， 退出来之后我们在这儿部署一下 openclo。 关于 openclo 的 安装呢，官网推荐是使用 c o r l 这种安装方法，但是老张发现很多兄弟在使用这种安装方式时呢， 出现了这个网络问题，导致下载出现卡顿，如果说 c u i l 的 方法报错的话，直接使用 n p m 安装也是完全可以的，安装完之后直接输入 open klo 空格杠 v 来输出最新的 open klo 的 对应版本啊，这就是老张跟大家说的一些建议啊，大家按照这个要求去做就行了。 然后接下来我们进入到配置，直接是直接输入它的配置指令回车，选择 yes， 然后选择快速开始就可以，我们直接配置一下模型， 然后选择更新，这选择谁呢？选择这个欧拉玛啊，然后选择默认的这个 ul， 选择本地模型，让他去给我找一下咱们本地有哪些模型，稍作等待 好，选择当前的这个模型，咱们四三十一币，然后配置我们的聊天软件啊，这个老张之前讲过太多太多次了，现在呢，他又支持了很多，包括 qq 之类的，大家有需要的话可以按照之前老张的教程再来一遍，我们先跳过 打开之后啊，就可以直接对话。但是如果说善于观察的兄弟们也发现了，老张呢把这个使用模型呢换成了这个一四 b 的 模型，不是那个三十一 b 的， 因为三十一 b 呢，老张在测试的时候也好，或者在一些使用时候也好，他有的时候会出现这个连接超时的问题，也是 oppo klo 更新到最新版本出现了一个能启动问题， 这个呢，老张现在还没有特别好的解决方案，所以说我先用一次必得给大家进行演示，发一个，你好，我们来测试一下他的响应速度啊，还是比较快的。 然后接下来呢，我们再把之前的那个慢句的提示词发送过来，我们来看一下他能不能更好的帮我们去进行慢句提示词的对应理解，以及对应的相关反馈。 嗯，其实我们看到啊，他反馈的这个结果呢，和三十一 b 相比啊，真的是有一定差距的，但是呢，确实也是另一方面实现了我们所谓的叫偷根自由。 大家呢也可以后续啊，去测试一下怎么让本地如果你的显卡够用的话，把这个大模型给它跑起来。然后老张呢也会及时给大家更新，无论是在评论区中还是视频中教大家如何使用。我是程学老张，定期分享 ai 好 用知识，希望大家多多关注。

昨天，谷歌发布了迄今为止最强大的 gemma 四本地大模型系列，让众多本地 l l m 爱好者欣喜若狂。 特别令人兴奋的是， gemma 四基于 gemini 三技术开发，根据公布的基准测试结果，其性能甚至超越了规模高达其二十倍的竞争对手。但抛开所有技术细节这些，我稍后会讲到。此次发布中最引人注目的它是 apache 二点零。 看起来谷歌终于听起了开元社区的呼声。如今， game 四已完全开放，允许商用的 app 二点零许可证发布了。 这意味着你可以用这个模型做几乎你想做的任何事情，完全自由，不受公司绑定，对您的数据和产品拥有绝对控制权。今天我要在我的笔记本上安装并测试这个模型，可能还会在台式机上试一下，看看它是否足够好，能作为我的主要本地模型使用。 但有个重要说明，我不是想用这个替代付费模型。我把詹姆斯视为对付费模型的补充，适用于不太复杂的任务，或我不希望数据离开本机的情形。嗨，我是 nick， 从事软件开发已超过二十年， 在这个频道，我分享自己在 it 领域的经验、见解与思考。所以，为了今天在我的电脑上运行 jm 四，我将使用 lm studio。 如果你还没用过这个工具，看看我频道上的视频，里面解释了这是什么，以及如何使用它。 好的，首先，我会尝试在我的 macbook 上安装这个模型，因为正如我所说，我希望它能随时可用。不幸的是，我的 macbook 只有二十四 gb 内存，所以我会在那里安装一个较小版本的模型，参数规模为两百六十亿或三百一十亿的更大变体，我将安装在台式机上。 该模型有多个量化版本可供选择，我就选最大的那个，毕竟大小差异不大，但输出质量应该更好。 模型下载期间，让我先回顾一下谷歌在公告中强调的几个关键特性。首先，这些模型在设计之初就考虑到了基于智能体的工作流，他们原声支持函数调用，并能生成干净的结构化 g s o n。 第二，所有版本都是多模态的， 他们能处理图像和视频，而较小的模型一二 b 和一四 b 甚至拥有原声音频支持，这意味着他们可以直接理解语音。 第三，这些模型配备上下文窗口，小版本为十二万八千个 token， 大 版本则为二十五万六千个 token， 这应能让他们胜任大型代码库的处理。不过这一点还有待我们测试验证。 最后，作为一个不错的额外福利，这些模型支持多种语言。好了，模型下载完成了，让我们把它加载到内存里，我们也快速检查一下参数。正如我所说，我下载了八位量化版本，架构当然是 gemma 四。最重要的是该模型支持工具和图像输入。 正如你所见，这个模型拥有七十五亿参数，但只有四十亿有效参数，这应该能带来更好的性能。上下文窗口已设置为最大值幺二八零零零头啃，这很棒。好的切换到聊天界面，让我们确认已加载并激活正确的模型。 顺便提一下， lm studio 在 这里显示了一些有趣的信息，比如模型加载后实际占用了多少内存？正如你所见，对我来说大约是十二 gb。 在 聊天底部，你还可以看到在使用模型时可用的工具。 好的模型已成功加载，我们来测试一下它到底行不行。为此，我会在新的聊天中发送一个简单的提示。首先，我会让它完成一项相当简单的任务，编辑一个 python 函数，按两个键对字典列表进行排序。 这是我用来测试每个模型的标准化提示词。这相当基础，所以任何模型都应该能搞定。但这里的目的是验证模型是否正常工作，并看看他在我的硬件上想拥有多快。 我会加快视频中回答生成的速度，因为生成完整答案可能需要一些时间。但最后我会分享总耗时，这样你就能估算他在你的机器上跑的多快。 所以模型耗时不到一分钟。精确来说是四十九秒，平均速度约为每秒三十一个 token， 启动响应的延迟约四点五秒。 老师说这是个相当不错的结果。提醒你一下，我是在配备二十四 gb 内存和 m 四 pro 芯片的 macbook 上运行这个。现在我们来测试一下詹姆士处理图像的效果，看看他是否能真正理解图中的内容。 我会上传一张图片到聊天中，然后让模型描述他看到了什么。这是照片。如你所见，我拍了一张书桌的照片，上面有四样东西，键盘、 kindle、 鼠标和一支笔。让我们看看 gemma 能认出其中多少个 好的模型已完成图像分析。正如你所见，它成功识别出了键盘和鼠标。它还识别出了 kindle， 甚至描述了表面和光照情况。然而它没注意到那只笔。但说实话，这没什么大不了的，重要的是它捕捉到了整体场景，并正确识别出了大部分主要物体。 好的，现在轮到测试更大的模型了。为此，我将使用我的台式机快速介绍一下。我将运行 jam 四两百六十亿参数版本的机器配置。 它配备 amd ryzen 七处理器，一百二十八 gb 内存以及带有十六 gb 显存的 gforce rtx 四零六零钛显卡。好了，模型已启动并运行。让我们给它在 macbook 上执行和小模型相同的任务。 编写一个 python 函数来对字典列表进行排序。这将帮助我对比 jam 四第二十六版在我的台式机上的性能。在此，我会加速生成过程，但稍后会分享总耗时。 在生成回复的同时，看看系统覆盖。右上角我运行的是 mv top， 我 用它来监控 gpu 使用情况。深黄色线条显示显存使用情况，浅蓝色线条显示 gpu 利用率。右下角我运行了 hto p 来监控 cpu 覆盖和内存使用情况。 这两个工具都是免费且开源的。由于完整的 jam 四模型无法完全放入我的显存，因此它严重依赖 cpu 和系统视频内存。但这并不是真正的问题，关键在于响应速度是否可接受。 好了，模型已完成响应生成耗时一分三秒，比小模型稍慢一些，每秒 token 数也显著更低。正如你所见，它大约是每秒十二个 token， 那 比小模型慢了将近三倍。但这并非公平的直面对比。 由于这些模型的能力差异很大，不过现在我对这台电脑上这个模型的预期有了清晰的了解。顺便提一句，这台台式机运行的是 linux 系统，我偶尔用它来做些项目，但我很少把它当做传统台式机用。它主要是一台高性能服务器。 由于它连接到了我的家庭网络，当我需要时，通常可以从任何其他电脑通过 s s h 访问它。我用来与一切交互的主机依然是我的 macbook， 而且好处是你并不需要太多设置就能让它跑起来。厅 l m studio 已经内置了一个可以通过网络访问的 api。 好的，现在让我们切回 macbook， 给模型布置一个更有挑战性的任务。如果你看过我之前测试千三点五和千 code next 的 视频，可能会记得，我准备了一个任务文件，让模型去可示化一个排序算法。 今天让我们给 jama 司同一个任务。在生成回复的过程中，我再给你们看看系统赋载。这和以前差不多， 几乎所有 cpu 核心都已满载，现存也达到极限。好的模型完成了。正如所要求的，它生成了一个可示化排序过程的 html 文件。让我们看看。乍一看，一切看起来都正确无误。我没看出什么明显问题， 现在我要在浏览器中打开它，看看最终效果。哦，这看起来相当不错，它甚至使用了自定义字体，让我试着运行一下。没错，一切正常，速度滑快，可实时更新。动画 不错，总体而言非常扎实。所以今天测试完 demo 四系列后，我可以肯定的说，这些模型真的很棒，我肯定会经常使用它们。 但再次强调，为了明确起见，我并非打算用这个来替代付费模型，我把 demo 四视为付费模型的补充，适用于简单任务或我不希望数据离开本期的情形是，好了，今天就到这里，如果你喜欢这个视频，别忘了点赞订阅，以免错过下一个，回头见。保证。

hello， 大家好，我是 ken， 今天早上刚刚打开手机，我就兴奋的睡不着了。 google 刚刚发布了伽马四，一个可以本地部署的大模型，我的第一个念头是省钱了， 如果把它接入 openclaw， 从此在本地生产 token， 那 是不是就可以不用再被云端 ipi 一 点一点计废了呢？然后我花了一整天的时间来验证这个想法，结论有点出乎意料。先听我说完， 我在本地部署的是二十六 b 混合专家模型，二十六 b 代表着他拥有二百六十亿的参数。 混合专家模型的意思是，他不会一次性把所有的参数都用上，而是根据你的指令调动一小部分的专家来进行回答。这样的好处是推理的成本更低，回答的速度也更快。 这个版本在二十六 g 内存的 m 五芯片 macbook 上刚好能跑。这里 jam 四的几个版本呢？我也简单的跟大家分享一下。最轻量的是 e 二 b， 一个二十亿参数的模型，它在市面上大部分的设备上都可以运行。 那么 e 四 b 呢，是一个四十亿模型，运行它呢至少需要有十六 gb 的 内存。蓝血版是三十一 b， 拥有三百一十亿的参数能力最强，但是目前我手头的设备呢，都没有办法运行。目测 如果说要跑三十一 b 的 模型的话，至少需要三十六 g 的 内存。以我这一个月以来把所有的大模型接入到 openclaw 的 体感来看呢，二十六 b 版本我再应用下来，我认为它称日常工作是完全没有问题的。 截止到这里，一切都让我很兴奋。在 macbook 本地上跑通以后，我迫不及待的把它接入了 openclaw。 和我之前用其他大模型接入的体验不同， jam 四在接入以后没有那个互相了解定义角色的初识化环节，不过正常对话是没有问题的。那么问题来了，他能做些什么？说实话，就是个聊天机器人， 连在桌面创建一个 word 文档都做不到，更别谈生产力了。如果只把它看作是一个聊天机器人的话，那么在欧莱玛中直接运行反而比嵌入到 open cloud 中要更快，所以呢，还不如不用。 然后我掏出了我二零一七年的 windows 老本，这台机器呢，有十六 g 内存，按照 ai 的 建议，分别部署了 e 二 b 和 e 四 b 两个版本的模型。单独跑模型的话， e 四 b 这个四十亿参数的版本呢，每个回答要等待时间在十秒以上。那么 e 二 b 这个二十亿参数的小轻量级版本呢？如果是处理简单问题，基本上可以做到秒问秒答。 但当我把他们接入到 openclaw 之后呢，连收到两个字都没有办法回复，不管哪个版本，通通卡死。所以结论很明确，内存不够的设备不要尝试把 jam 四接入到 openclaw， 硬件是硬门槛，绕不过去。 总结一下今天的折腾，二十六 g 内存的 macbook 可以 本地运行，二十六 b 混合专家模型接入 openclaw 也能正常对话，但完全没有超出聊天机器人的额外生产力。 十六 g 内存的 windows 老本呢，接入 openclaw 可以 说是失败的，那么如果在本地运行呢？一二 b 和一四 b 两个版本都可以作为聊天问答机器人来进行本地使用。 我的判断是，如果内存能够达到三十六 g 以上，能够完整的跑下来二十六 b 混合专家模型，那么也许真的可以变为生产力。但是限阶段大多数人的设备都没有达到这个门槛。 本地部署不是不值得探索，但是要先看看自己的硬件设备有没有达到那个门槛，再决定要不要去折腾，不然的话结果可能会很打消你的积极性。 我是 ken， 专注用 ai 做可持续相关工作流的自动化。如果你对 ai 工具和自然语言编程感兴趣，请关注我，我们下期见。

谷歌此次打破常规，全新开源大模型 jimmy 一 经发布便震撼业界，自初代 jimmy 上线，全网累计下载量超四千万次，开发者生态中衍生变体版本超十万个， 热度持续高涨。 jimmy 备受关注，关键在于继承谷歌最强 jimmy 三底层核心技术，且首次采用 ipad 二点零协议，完全开源，学术研究与商业项目均可免费授权。 谷歌此次推出四款不同参数模型，包含端侧小型号到高性能大尺寸，包括 e 二 b、 e 四 b 二六 b 级性能最强的三一 b 密集模型。该模型全家桶能覆盖所有硬件场景，全系列支持本地离线运行，无需网络。 相较于上一代肩马四堪称无短版的全能选手，多模态能力大幅提升。四款型号均支持图文处理， e 二 b 和 e 四 b 还支持语音识别，全系内置思考链条模式，逻辑能力显著增强，其记忆能力出色。 二六 b 和三 e b 大 模型支持二五六 k 超长上下文窗口，小模型标配一百二十八 k 上下文窗口原声，支持超一百四十种语言，性能表现超预期。三 e b 参数模型在 arduino ai 排行榜冲进全球开源模型前三、二六 b 模型或第六名， 虽参数规模小却跑出高性能。可将本地运行的键盘式接入 continue 本地模式，或搭配欧乐马、 open i i y b i cloud 九等工具， 打造免费、无使用限制且保障数据安全的本地代码助手，实现科技普惠。欢迎在评论区分享你期望本地设备中 ai 助手具备的功能。

哈喽，大家好，近期谷歌开源的大模型机麻四啊比较火爆啊，我这段时间呢也去部署体验了一下，发现它的效果呢，确实不错，它可以无缝的去对接 a g 的 啊， open color， 包括一些变成 ide 啊， vs code 啊， color 啊， 都可以实现这个 top 自由部署呢，也是非常的简单啊。当然了啊，我们不要一说到开源就说啊，只有机麻四，其实我们国内有非常优秀的开源大模型啊，也是非常不错的开源大模型， 而且像他们的部署的方法基本上都是一样的，都是一托于欧拉玛这个平台去进行部署的。那么本地部署的一个好处是什么呢？它可以实现脱坑自由，就不用你再去花钱去买别的高高昂的这个脱坑额度，也不用你去编程的时候去进行一个排队啊 啊，当然了，他虽然说能实现我们的掏根自由，但是呢，他对我们整个硬件的算力要求还是比较高的啊，最低最低的要求，你的显卡显存至少要在八个 g， 但是你想玩的好，我推荐二十个 g 以上的显存用户去玩，要不然的话，你根本就体验不到开门的快乐，因为你玩不到他的满血版。 然后经过我的测试呢， a 一 百像这种专业级的 a 一 百的显卡， a 八百的显卡啊，部署是完全没有问题的 啊，包括四零九零的四零九零 plus 这种消费级的显卡，也可以流畅的运行三十二一 b 的 这个大模型啊。如果说你的电脑算力不够啊，你可以跟我一样去像到这个赤星云上面去租一个啊，赤星云呢，就是就是这个名字啊，大家可以看一下啊，直接去租，然后进来之后我们点一下这个算力市场，你租这个 a 八百的， 你租的 a 八百的四十 g 的 也行，你租这个八十 g 的 也行，或者说你租这个四零九零 plus， 四零九零啊，五零九零都可以，那我就以这个四零九零为例，因为我已经租好了，我现在我给它重新启动一下，当这个状态显示运行中的时候，我们就在电脑上搜索远程， 然后点这个查看连接方式，把远程桌面给他复制进来，添到这个地方点连接，把账号密码啊给他都复制一下，添加进来就可以进行远程登录了啊，那么登录进来之后呢，我们需要去打开浏览器啊，在浏览器里面我们要进入欧拉曼的官网， 欧拉曼的官网的话呢，他可能需要科学上网，有些人他可能访问不了。如果说啊，你是在本地电脑上跟我一起去做的， 然后你没办法可以上网啊，我这里的话也准备好了一个网盘，我把欧拉玛的安装包啊放到网盘里面了，到时候大家可以直接在这个网盘里面去进行下载，包括它里面已经内置好了模型啊，我也都上传到网盘里面，大家可以等一下直接去下载。呃，我先安装好啊，好，我们点下载的时候，在这里我们选择自己的系统就行了， windows 就 点 windows 了，我们点击正常去下载，因为我已经下载好了， 我这里我就不下载了啊，我就给它取消掉了。那么安装，安装完就下一步，下一步，下一步的去安装啊，安装好之后我们可以在电脑这里啊，就可以看到一个小羊驼的图标啊，我们点击一下让它启动，启动完之后啊，就在这个地方出现一个小羊驼了啊，然后我们来到命运梯子航，因为这个系统啊，它是 win 十的，这个 win 十的系统，跟大家说一下啊，这个欧莱玛在 win 十的系统里面啊，它是没有这个 桌面端的啊，他只能通过命令去的，只有在 win 十一的他才有这个桌面端啊，因为 win 十二，我们看这里有个小羊驼啊，就知道他已经启动了，如果说你看这小羊驼卡死了，那我们就给他干嘛，我们就关掉重启一下啊，我们打开任务管理器，把它欧拉马车给它结束掉啊， 你看结束了之后，这里的小圆桌就没了，然后我们再到这个地方来，或者搜索欧拉玛，点击一下启动，哎，它就出来了，那么出来之后呢，出来之后呢，我们需要去安装这个大模型，安装的地址我们在欧拉玛的官网在这里直接搜就行了，我们选七八四，大家可以看到这里还有五点一的啊，二点七的，三点五的都有，那因为我们就装七八四，我们就选七八四就行了。 进来之后大家千万不要说直接复制这个指令去运行了啊，如果说你直接复制这个指令，他默认他安装的这个一四 b 的 版本的啊，我们要点一下这个三十一 b 的， 点进来之后我们复制这个指令，看到没有，我们复制这个指令到这个里面哎，我们去给它运行，如果你之前没有下载过这个大模型啊，他第一次他会去下载这个大模型，二十个 g 啊，下载速度是比较慢的，如果说啊，你不想让它下载这么慢，你想快点让它下载啊，也是可以的。我这里呢也给大家 准备好了一个网盘啊，我这里给大家准备好了一个网盘，我下载好了模型全都放在这个，哎，这个网盘里面欧拉曼模型里面啊，我们点击这个 models， 这 models 的 话，我们给他下载到我们自己的电脑上面来，下载下来之后我们怎么去找他呢？啊？在这个我们一般电脑我们安装好之后，在这个 c 盘里面， c 盘里面的用户 找到你的用户名下面有个点欧拉玛，看到没？它里面也有个 model， 就是 跟我网站里面这个是一样的，你把这个 model 下载下来，直接替换掉这个文件就可以了啊，你们可以看到这个里面的文件名跟我网站里面的文件名全都是一模一样的啊，直接下载好，直接替换就行了。 好，这就是两个下载方式啊，一个是你就等他自己慢慢下载，一个就是啊，在我往下面下，下载好之后呢，我们来两次点击艾特键啊，进来之后我们就会对话了，问，你好，你是什么大模型？你能做什么？好，我们看一下它，它的一个回复速度，大家可以看到这个是没有经过任何任何加速的啊，这个速度还是非常不错的， 他的中文理解能力还是有的，他的先用把我们的话中文翻译成英文，然后他用英文回答，然后再给你转成中文，告诉你就中间他又有一个波折，但他的速度大家都可以看得到的，是非常的不错的， 这个也多亏了志清云啊，给我们提供了一个这样的一个平台，哎呀，非常不错，能解决我们电脑配置比较低啊。 好，那么为了更直观的让大家看到他的一个最牛逼的效果，给大家看一下。好，那么我们现在呢，再来看一下他的一个图片识别能力啊，我给他发了一张这样的图啊，我说这张图里总共有几辆车，他图中总共有四辆车， 最显眼的是前面一个灰色保姆车，也就是这个 suv， 对 吧？后面是一辆红色的吉普风格的 suv， 吉普风格的右侧是一个黑色的轿车，然后最左侧漏出来的是一个深色的车辆啊，另外红色 suv 旁边还有一个红色的 小型拖拉机或者三轮车。哎，他这个图片识别的能力还是非常的不错的啊，他的在线推理能力啊，他的一个文字识别能力，再再给大家看一下他的一个 改写能力啊，这个是我给他一个话术啊，我让他来帮我改写一下，你看到没有？这是什么？之所以 ai 为农，是因为太阳说明书什么什么什么。他给了我几个风格版本，一啊，高亢兴奋风版本二，亲切自然风版本三，极简快节奏风， 他会跟你说什么什么什么什么的原因，所以他的整个的在线推理逻辑啊，图像识别能力，这个是没问题，但是如果他仅仅只是这样，他还不足以让我们这么兴奋，他接下来的功能才是他的一个重头戏啊。我们如何用接发四来对接到我们的 oppo 可乐，或者是对接我们的 codex 上面来呢，大家耐心的往下看啊， 这里我就以 vs 扣的为例啊，因为 vs 扣的话用的人是比较多的啊，我这里先跟大家先用这个讲，然后后面再说怎么去对接欧本可乐。首先我们电脑上面要有这个 vs 扣的啊，我们要先提前给它安装好。 安装好这个 vs code 之后呢，我们再点击这个右侧的扩展，我们来到扩展里面搜索这个应用 get help， 好， 因为这里呢，我已经安装好了，你们没有安装的话就先安装一下，安装完之后呢，我们回到这个，我们回到这个对话界面上面来，如果说你的这里啊，没有办法，你如果说你这里只有 out， 没有这个其他模型，那你要点这个地方啊，点启动 ar 功能， 然后信任，然后你要去登录你的 github 账号啊，因为它是 github 的 嘛，你要登录你的 github 账号。好，登录进来之后，我们来打开 vs code， 我 们就可以点其他模型，管理模型，我们点添加模型，然后在这里我们选欧拉玛，看到没有，这里有个欧拉玛， 然后再给他们起个名字，我们就叫欧拉玛，然后再点一下回车，他的地址默认就是幺幺四三四，我们点回车。好，那这个时候就来了，我们把这前面的两个小眼睛一定要，如果他是这样子的，一定要给他点亮啊，然后这个时候我们就可以给他关掉了，我们给他关掉，重新打开一下，就我们连接好这个机麻四了啊， 这个时候呢，我让他帮我做件事情啊，我说你帮我写一个贪吃蛇的小游戏，放在电脑桌面上，好，我们让他来看一下他的一个编程能力怎么样啊？ 这个，这个装不装无所谓啊。呃，能装就给他装一下。好，他现在开始帮我写写程序了啊，好，他现在文件呢就已经帮我写好了。 好，我们现在插入到新文件里面，我们保存一下这个网页啊，保存到桌面上吧，我们来看一下它这个写，它的这个写作能力到底怎么样啊？好，我们可以看到它这个游戏写的还可以啊。 哎呦，好，可以看到它这个功能完成的还是非常不错的，但是你一撞墙它就死掉了。而 看到没有，好，他，他这个写编程能力啊，也是没有什么太大问题的。而且的话现在我们就已经对接好了 vs code 了，那他的其中一个能力大家可以看到也是非常的简单啊，我们只要借助一个第三方的插件就可以了。好，那除此之外呢，我们除了去对接这个 vs code， 那 我们还可以对接 code x， 那 对接 code x 的 话，我们就重新再打开这个管理员，我们重新再再打开一个应用窗口，我们回到这个欧拉玛的官网啊，我们点这个机麻四。 好，那么在这个地方的话，大家注意啊，不要还是一样不要直接复制这个指令啊，比如说你现在你想对接这个 code x 啊，我们直接复制，但这个指令啊，你不要直接粘贴到这个里面去去用了啊，因为它的模型不是 g m 四，它的模型是什么呢？它的模型是后面我们还要加一个 冒，嗯，是冒号三十一 b 啊，如果这个模型名字你不知道怎么写，那我们还可以管理员身份来 o 拉玛 l i s t。 啊，我们看一下。哎，看一下这个名字是什么？如果是这个名字，我们直接给他复制过来粘贴就行了。好，我们现在来对接一下。好，他说错误，他说 codex 没有安装，让我们到这上面去安装一下。好，那我们现在打开 codex。 好， 他说让我们通过这个命令来安装，那我们就先来安装一下 codex。 好， 现在已经安装好了啊，没有问题，现在就可以已经运行了啊， 他现在默认用的是，呃，这个五点四。好，那现在没有关系啊。好，那么我们现在呢再重新运行一下， 我们现在再来重新运行一下这个指令啊，如果大家在使用中啊，这些指令不会的，也没有，也也不用担心啊。 好，我们现在来。好，我们来重新运行一下这个 codex， 通过就可以关掉了啊，好，他让我们输入指令，看到没有？他现在就是机麻四的三十一 b 的 大模型了，我们来帮我在桌面创建一个名字叫测试点 t x t 的 文件， 他现在其实访问被拒绝权限不够，看到没有？他这个权限不够，他现在已经已经帮我在执行了。好，那这样的话，其实我们这个 codex 啊，其实也就已经对接好了，大家可以看到这个机麻四它的对接能力还是非常非常的强的啊。 好的，我们再接下来配一下 open code 啊， open code 的 这个对接方式啊，跟其他的不一样，所以这个非常有特点啊，大家一定好好看啊。这个 open code 啊，我们首先第一点，我们在这边下一个桌面版的，因为已经下载好了，没有的话就在这个网址上面自己去下一下啊啊，网址的话我也会放在这个文档里面。 好，那么下载好之后呢，我们打开这个桌面分档，我们点击右下角这个设置啊，他这个配置非常搞笑啊，研究了好长时间啊。大家看到这里没有欧拉玛，我们点这个添加自定义这个共享单 id， 无所谓，就随便填，然后这个欧拉玛我们就填欧拉玛，方便识别。好，这个 u i l， 大家注意啊， u i l 的 话，我们填这个， 填这个幺二七点零点零点一，冒号幺幺四三四这个端口，因为冒号这个这个是欧拉玛的一个运行，运行端口，大家可以看一下啊，看到没有，他会提示欧拉玛一个 domain 杠后面加个 v 一 啊，一定要加个 v 一 啊。好，这个密奥不用填好模型的这里啊，不要乱停啊，一定要填这个金马四三十一币啊，金马四三十一币，两个都给填好，我们点击提交。点提交之后呢，我们看这里啊，他就有一个金马四了啊，我们点一下，问一下，你好，你现在可以跟我对话吗？ 我们来看一下啊，他能不能连接上啊，就这两点非常的关键啊，一个 api 的 地址，一个是 model id 啊，可以，他现在已经可可以啊，说明我现在已经对接到机麻四上面去了。 大家可以看到啊，这个 open code 的 对接方式是非常有特点的啊，他跟前面的 vs code 呀，还有 code x 啊，他的对接方式都不一样，是吧？好，那这第三个方式我们都我们也学会了啊，好，那我们看最后一个 open klo。 好的，我们来配置一下欧本可乐的啊，如果欧本可乐你们之前没有安装的话啊，可以按照我之前的教程可以看下我之前的视频啊，里面教大家怎么去安装的， 安装好之后我们直接打开欧本可乐的这个配置界面啊。好，那到这一步的话，我们选择 yes， 好， 我们选择快速配置，我们更新一下啊，好，那到这里的话，他的我们选择这个模型啊，我们在这里模型选欧拉玛啊。 好，回车选云或者本地也可以啊，这个云加本地就是说欧蒙可乐的云模型你也可以用啊，本地的模型你也可以用，那这样选择会更多一些，等下大家在选的时候呢，也能看得到啊。好，那这里的话我们就要去选了啊，这个时候我们要选他，默认是这个之前配给他质朴的啊，那我们现在因为我们本地已经配置好了啊， 那个 g m 四三十一的，我们就选这个 g m 四三十一的就行。那么如果说你要想选奥拉玛的云端的啊，也是可以的，比如说 g o m 五点一的呀，这些都可以的，但是呢，他可能额度跟这个数据会有限制，那我们就直接选啊，本地已经部署的。 好，那这一步呢，我们选择这个聊天窗口的，那我们就不配了，我们就直接跳过了啊，那这里的话我们也就不配了，直接跳过 是否配置我们也不配。好，那这里的话，那我们就快一点啊，直接回车。好， 那这里的话我们重启一下网关就可以了。好，我们现在可以看到模型啊，它就是欧拉玛的加码四啊，三十 e b 的 模型。好，那现在我们可以看到欧门口了，这里使用的是我们加码四三十 e b 的 模型了，也就是欧拉玛这边来生成的啊，然后这里的话，咱做任务什么东西速度还是比较可以的， 目前我们教官给大家整理的这几种啊，加码四对接的方式，你看看有借助第三方的啊，有直接内置对接的，还有通过 api 对 接的，包括可口可乐的一些对接方法啊， 基本上就给大家讲全了，如果说你觉得这个视频对你有用的话啊，大家一定要点个一键三连啊，还有就是如果说你的电脑算力不足啊，你要需要用到这个智行云的时候啊，大家可以用这个邀请码，就是 b 二三二五七啊，邀请码来去进行注册，可以获得他们的这个视频的简介，大家有需要的可以自取，谢谢大家。

公主，你现在看到的就是谷歌最强的开源模型加码四，可以看图，能听音频，也有不错的推理机制，最重要的是完全免费，给我几分钟，从零开始，将加码四部署在自己的电脑上。我们直接开始 先花一分钟和大家聊一下贾马四是什么？它是谷歌刚发布的开源 ai 模型，跟商业版的怎么奈同根同源，你可以理解为谷歌把自家最强的 ai 技术浓缩成了一个免费的版本，直接送给你用。 那么它好在哪里呢？三个点。第一，多模态，不只是聊天机器人，你可以发图片让他看，发音频给他听，还能写代码。 我们可以看看这张表格，横轴是模型的参数体量，而纵轴就是性能表现。贾马四以满血版的性能表现和千万的三百九十七 b 的 模型能力基本持平，关键在于它的体量只有千万的十分之一，这真的非常夸张。 第二，完全免费，不用充会员，不按 token 收费，并且可以商用，你可以模改它做成各种有意思的本地模型，拿去做产品也没有任何的问题。第三，隐私安全，因为跑在你自己的电脑上，所有的数据都不会出，你的电脑拿它处理合同，财务，私人物件，不用去担心泄露。 ok， 我 们直接动手。你现在只需要打开一个浏览器，然后把它放到全屏上，直接官网上搜索欧拉玛点 com 啊，然后这个东西就出来了。然后你只要点击整个画面的一个右上角 download， 看到没有？然后你可以选择你是 mac os 系统还是 linux 还是 windows， 我是 mac os， 那 你就直接点击这个 download from mac os， 然后我们就可以看到这个画面上的右上角应该是会有个下载的链接， 然后等它下载好就可以了，因为我这边其实已经安装好了吗？那么我这边的最终的一个输出效果的话，大概是在这里。你们下载完了之后，打开你们的桌面上的欧拉玛，你们看到的应该是现在这样子的一个画面，那就说明你已经安装成功。 佳马仕一共有四个版本，你可以根据你的电脑配置进行模型的选择，模型的能力越强，所需要的配置就越高。对于内存小于三十二 g 的 玩家，我建议大家直接安装一四 b， 三十二 g 及其以上，可以试试看二十六 b 和三十一 b 的 参数量， 其实这两者模型的能力大通小异，如果你是为了极致的精度，可以选择三十一 b， 但是在我看来，二十六 b 呢，其实是一个非常甜点的位置，达到了速度和精度的一个平衡。如果你不知道你的电脑内存是多少，这里针对 mac 用户，你可以选择终端输入这行命令。 而 windows 用户你可以点击 win 加 r， 点击回车，召唤出来你的终端以后，然后再输入这个命令，也可以显示出你的内存。选择好对应的模型，我们只需要打开终端，和刚刚一样的步骤，根据模型输入指令直接回车即可。等待模型下载好，打开你的 oala， 选择模型就可以开始了。 ok， 我 们打开我们欧曼的软件，你点击这里，然后往下滑，你就可以看到你刚刚已经安装好的这个佳马仕。我们来问他一个很有逻，就是说很有那个逻辑陷阱的一个问题，就是我今天要去洗车，但是只有一百米，你觉得我是走路去还是开车去？ ok， 我 们来看一下他的一个答复是怎么样子。 这是一个非常有意思的一个逻辑陷阱题，我们可以从不同的维度去分析。逻辑层面上来说，必须开车去， ok， 这一点已经很棒了啊。 那如果说是从脑筋急转弯角度上来说，他说如果你走路去，那么你是在散步，而不是在洗车。哦，也就是说他分为了三个维度，一个是脑筋急转弯，一个是实用主义层面，还有个就是逻辑层面。我们来看一下他这个佳马仕的这个逻辑能力。哎，你还真别说这小参数，但他的表现还是不错的。 那么 jamas 它的一个很大的优点就在于它其实是支持这个多模态的。我们来不妨给他上传张图片，我们来看一下。 ok， 那 么我们上传一张什么图片呢？哎，上传张这个图片，你们看怎么样啊？就是这是一朵花，然后有个太阳，有一本书，我们来让他看看。我说，啊，描述一下， 描述一下这个图片，我们来看看他的多模态识别能力怎么样？说实话，本地具有多模态识别能力的模型，而且是能够你自己去模改的，其实并不是很多。我们来看一下。 ok， 一， jeff 二，然后 jeff 三，给了几个他看到的一些画面。好，我看他现在在思考和输出。这张画面充满了诗意，唯美且带一丝忧伤。 画面主体是一本翻开的书籍。哎，确实是对的，背景与中景是一个画面，然后呢，躺着一只洁白的玫瑰，然后背景是有一个夕阳，散发出这个温暖的金橙色光芒，哎呦，很不错，你们发现没有，是不是很棒？就是说他好像 表达的还是很到位的，但是因为呃，我其实本来还是想测一下这个关于音频识别和这个视频识别的，因为这个佳马仕它也是支持视频识别的， 但是因为欧拉玛官方不太支持，所以大家可以自己去谷歌 as do do 上面去玩一玩。所以总的来说，其实通过这么两个比较简单的测试，它当然不够严谨，而我觉得感受来说的话，这个香奈儿丝还是 真的是能够在本地帮我们处理一些比较复杂的一些任务的，就是在文字层面以及去多模态识别能力上来说，是一个比较抗打的模型。 看到这里相信你一定会明白， olama 本身是一个模型管理器，你当然也可以不用贾马四，你可以选择开源的 deep stick， 千问等等，其他的开源模型还是同样的命令，一键配置就可以了。 本地捕鼠的最大优点就是保护你的隐私，模型的使用不会受到任何的限制，同时也可以支持模型的微调，让它更合你的口味。下期我打算教大家小白如何从零到一，微调自己的本地模型，感兴趣的可以点个关注，我们下期再见。

当一款只有三百一十亿参数的模型跃级，斩杀比自己大二十倍的对手时，你还不重新审视规模至上的铁律吗？谷歌深夜甩出 jam 四全系开源模型，四个尺寸 app 二点零协议，从手机到单卡工作站全覆盖。 最炸的是三幺 b dance 数学 am 二零二六达百分之八十九点二，比前代暴涨六十八个百分点，直接挤进开源榜单前三排，他前面的体量都是他的数倍。二十六 b m 更夸张，推理时只激活三十八亿，参数 l 却冲到一千四百四十一，速度与智能兼得。上一代 jam 三在这组数据面前，几乎被打成了计量单位，编程、多语言推理、智能体任务全线断层式碾压，甚至连上下文一百二十八 k 的 精准解锁三十一币都拿下百分之六十六点四，而前代只有百分之十三点五。 更狠的是， e 二 b 和 e 四 b 两款端侧模型已经在手机和树莓派上跑通，延迟接近零。谷歌这次还彻底放手 apache 二点零协议商用修改分发全自由。 parking fee ceo 说，这是巨大的里程碑，但对你而言，更关键的问题是，当一台 mac mini 就 能跑。当三十一 b 能打千亿模型， 你下一步的 ai 应用准备用它做什么？评论区聊聊你最想用 jam 四干的项目。