嗨,今天是二零二六年五月五号周二。好吧,我们随便聊聊上周 ai 资讯, 上周算是这几个月 ai 更新和发布最少的一周了。先说 mister, 这周他们正式发布了新旗舰多模态模型 mister, medium, 三点五一千两百八十亿参数的分辨率的图像输入, 上下文窗口给到了两百五十六 k。 比较有意思的设计是 api 层面允许开发者动态调节推理努力程度,也就是轻度聊天,用一档复杂 agent 任务再开高档按需分配算力。 下面来看 github 抠拍了的计费模式,这周宣布要大改,从今年六月一日开始,现有的高级请求计次规则会正式退出,改成按每个模型真实消耗的 api token 量来扣费,输入、输出、缓存都算进去, 基础定价暂时不变, pro 版还是每月十美元,企业版三十九美元。核心的代码补全功能不消耗额度,整体看这个变化对重度用户的影响会比较大, 具体多花多少,得看你平时调用哪些模型。接着看开发者工具这边, web 终端这周宣布正式开源,客户端代码库 ui 框架走 mit 协议,核心代码是 agplv 三,同时还在终端里内置了由 openai 驱动的 agentik 工作流, 不用离开命令行就能呼出 gpt 智能体写代码,分发任务,自动跑测试。对喜欢在终端里待着的开发者来说,这个组合挺实用的。 open ai 这边也开源了一套东西, 是专门为 react 和浏览器环境打造的实时语音界面,组建库叫 realtime voice component, 这不是拿来自动控制浏览器的工具,而是给开发者在自己完全掌控的应用场景里快速接入端测语音能力用的, 内置了可拖拽悬浮模式和被叫做幽灵光标的交互指示器,做语音 app 的 工程师可以直接拿去用。另外关注下开源模型,是两条关于 gemmas 的 更新,一条是 有开发者开源了一个 chrome 扩展,直接让 jam 四跑在了本地浏览器里,完全靠 web、 gpu 和 transformers, j s 不 需要任何服务器。这个扩展能通过自然语言指令管理浏览器标签页,抓取网页结构化信息,还内置了本地向量存储, 可以直接对浏览历史做羽翼。剪索完全离线,完全本地隐私,角度很干净。另一个是社区开发者 barrissey 用一种叫 jango 的 自适应混合精度量化技术,把 jama four thirty one b 压到了十八点二级字节,配合苹果官方的 m l x 框架, 能直接在 apple silicon 的 mac 上跑起来。注意力层保留高精度,其他层做强力压缩,实际跑起来没什么大问题,有 m 系列 mac 的 可以折腾一下。同样在开元社区,一个叫 local deep research 的 本地深度研究智能体发布了, 它能把复杂问题自动拆解,同时调度超过十种搜索引擎和本地私有文档库,并发剪索。开发者实测在一张 rtx 三千零九十上跑二十七 b 本地模型在 simple q a 机转上的准确率大概到百分之九十五, 最后快速过几条短信。 set 代码编辑器正式发布一点零稳定版,全平台支持 mac、 windows 和 linux, 整套客户端用 rust 从底层写成,主打启动快,界面清,同时也在持续接入大模型辅助编码,不喜欢臃肿 ide 的 开发者可以试试。 mit 发了一篇叫柏拉图表示假说的论文, 说随着训练规模增加,各家大模型在深层特征空间上正彼此靠近,去向一套通用的内部表达。具体测试里,模型中间曾对不同语言但语义相同内容的编码相似度甚至高于同语言不同内容的数据队。 大家模型越训越像,背后可能是有底层规律在的。 x a i 在 api 里上线了 custom voices 语音克隆服务, 提供不到两分钟的人生素材就能生成专属克隆模型,同时内置了八十多种预设声音,覆盖二十八种语言,做语音智能体的开发者多了一个选项。好,以上就是上周的 ai 资讯, 接下来看下上周全球前十的生成式 ai 产品访问量排名, 最后再看看本周哈根 face 上热度前十的开源模型有哪些。 嗯,好吧,这期就这样,感谢收看,觉得有用的话点个赞分享一下,下期见!
粉丝2807获赞2.1万

大家好,本期内容我来分享如何在本地部署谷歌新开源的多模态 ai 模型代码四,我会分享命令行和格式化界面两种安装方案,零基础也能轻松搞定。 最后我还会教你如何修改部署的路径,彻底解决大模型占用 c 盘的问题。本地部署的优势就是你的数据可以完全保存在自己的电脑上,隐私安全有保障,而且支持模型微调, 可以打造专属的 ai 助手。但是他也是有缺点的,就是我们需要稍微懂一些技术,还有就是硬件的支撑,如果电脑配置高,自己可以部署折腾一下。有了本期视频,就算你不懂技术,跟着视频操作也可以部署成功。 本期演示我只分享入门版本,主要就是参考部署的方法和流程。接下来我手把手带大家用欧拉玛一键部署。 首先我们先来了解一下 jam 四到底是什么,它是谷歌新发布的开源多模态的 ai 模型,与 jimmy nay 是 同源的。 简单来说,谷歌就是把自家的 ai 技术打包成了一个免费开源的版本,让每个人都能用上。它的能力是非常全面的,支持文本交互、图像识别、音频处理,还能生成代码, 基本上覆盖了所有的 ai 应用场景。下面我们再来看一下它的核心优势。核心优势它有三个,第一个就是多模态能力,文本、图像、音频代码,一个模型全部搞定。 第二个就是完全免费,它没有会员订阅,没有暗次收费,可以随便的去使用,甚至用它去开发商业化的产品。第三个就是比较重要的隐私安全保障,本地部署模式下,所有的数据处理都在自己的设备上完成, 敏感信息不会上传到云端,这是三大核心优势,就是在我们安装之前,需要我们了解一下这个安装环境。首先系统兼容性 demo, 四是支持 mac os、 linux、 windows 三大主流操作系统,基本上覆盖了绝大多数的用户。 然后就是内存要求,如果你的电脑小于三十二 gb, 推荐安装四 b 版本,自己安装体验折腾一下就可以。如果你的内存达到或超过了三十二 gb, 那 就可以选择二十六 g 或三十一 g 的 版本。 在这里有一个小提醒,就是如果是 mac 电脑 m 系列的芯片,它的显存和内存是合二为一的,大家直接看内存就可以。如果大家不是 mac 电脑,比如 windows 或者 linux, 那 么就优先看显存,显存不够再看内存,这是关于这个配置的查看。像这个本地部署也非常简单,仅需两个步骤即可完成。第一个就是安装欧拉玛,这个欧拉玛就可以理解为是本地大模型的一个容器, 它是装大模型的,有了它才可以运行。第二步就是我们容器安装好之后,我们需要给它把模型放进去,就是部署模型,两个步骤即可搞定。下面我们直接进入实操环节,我们来一起看一下部署的全部流程。 在这里第一步我们就先要有这个欧拉玛,他是一个大模型的容器,就是我们打开之后选择右上角的 download, 这时候我们就需要选择匹配自己系统的版本,在这里我这是 windows, 然后我们选择 download for windows, 在这里选择 download for windows 之后就会弹出窗口,我们选择路径直接保存就可以,当下载好之后,然后我们就安装即可,安装好之后打开就是这样的主界面,这个是我之前安装的版本,部署着一个一点五 b 的 zip, 然后下一步就需要我们去选择大模型,我们还来到刚刚乌拉玛的这个界面,在这里我们选择左上角的 models, 然 然后在这里我们可以看到该马四,然后我们选择进来,它提供了好多个版本,在这里我就选择一个入门的版本,主要就是演示安装的流程,比如我们选择 e 二 b, 然后我们选择,这时候我们就看到了这个安装命令,选择右边的这个两个方框,然后选择 copy, 然后下一步 我们就按键盘上的 windows 加 r 键,这时候出现运行窗口,然后在这里面输入 cmd, 然后直接回车, 回车之后就出现了这个命令窗口,然后我们刚刚复制了直接鼠标的右键,可以看一下,这个命令就粘贴过来了,然后我们直接 回车好了,这时候它就开始部署到本地了,在这里我们需要等待一段时间,好可以看一下出现了 success 这个提示,就证明安装成功了。现在我们在这里可以直接和它对话,比如我们输入你好当前什么模型,然后我们发送 可以看一下,他现在回复我们了,我是一个大语言模型,我叫 jama 四,这时候我们就在本地已经部署成功了, 然后我们再回到欧拉玛的客户端,在这里在这个对话窗口右下角这里,这里可以选择模型,然后我们找到刚刚部署到本地的 jama 模型好了,这时候就切换好了。同样在这里我们也可以直接和他对话,比如我们输入你好,然后发送, 这时候他就回复我们了,你好,很高兴和你交流,请问有什么帮助到你的?到这里我们就已经部署成功了。前面我们分享的是使用命令行 c l i 模式去部署,其实还有一个简变的方法, 在这里我们还可以选择模型后面对应的这个按钮,也是可以直接部署的,这个是非常方便的。好,最后我再分享一个大家比较关心的问题,就是我如何设置这个本地模型的一个部署路径, 在这里我们也不用去改环境变量了,这个客户端是直接支持的,我们选择左上角的设置,然后在这里选择这个 model location, 在 这里我们就可以去设置模型的一个保存路径,在这里大家自己设置就可以,是非常方便的。 好,下面我这里演示的是上传了一张图片,就让他识别这张图片,我们一起来看一下他给我们的结果,好了可以看一下,我们给了他一张图片,我们问他这是张什么图片,他给我们的回复, 这是一张符号或者是图标,然后他还分析了主要包含的元素,还有用途预测等等,能够精准的识别内容,并生成详细的描述, 表现还是可以的。好了,现在我们本地部署成功了,然后刚刚我们也做了一个功能测试,第一个就是我们和他对话,就是文字处理,第二个测试的就是这个图像识别,他也是可以精准识别的, 他虽然是多模态的,但是目前我们用的这个容器不支持多模态的输入,我们暂未测试音频和视频的识别。好,最后我再补充两个细节,就是第一个欧拉玛的拓展性他是非常强的,除了可以部署这个 demo 四, 还支持比如通用签问或者是 deepsafe 等众多的开源模型,部署方法也是完全一样的,一条命令就能去部署。第二个就是本地部署的真正价值不仅仅是隐私保护,更重要的是支持模型微调, 可以用自己的数据去训练模型,打造一个完全专属的 ai 助手。好了,这就是我们本地部署的所有内容,大家感兴趣的可以自己折腾一下,探索更多的玩法。好了,我们本期内容分享就到这里,可以留下你的想法,我们下期再见。

叮咚,家人们 ai 大 模型正式进入手机部署时代,昨天的视频呢,我跟大家说了,谷歌最新发布的加马斯模型可以直接在手机上面部署,今天我就来带大家实现它。首先咱们先看效果, 首先我先打开我的手机的飞行模式,可以看到我现在这个手机是没有任何的 wifi 和数据连接的,然后这时候我们回到 ai, 然后打开一个聊天窗口,我们问他一个问题,比如说帮我查一下苹果 ceo 库克, 然后他会问我们需要什么,我们选择一他的职业生涯和背景, 可以看到他直接就给了我们答案。按照我们正常逻辑思维来说,这些数据应该是在手机需要联网的情况下才可以给我们的答案,但是这个本地部署的大模型他就不需要联网,他就像一个活生生的人,他的脑子里面已经有这个记忆了,所以当你问他的时候,他可以直接就给你回答。 那么这样一个模型我们究竟要如何安装与使用呢?那我们现在开始首先第一步呢,就是我们要打开我们的应用商店,然后在应用商店里面找到这个软件,叫做 google ai gallery, 这是谷歌专门推出让我们使用扎马四模型的 app, 安卓用户也是可以下载到的,但是安卓的用户需要在谷歌 play 商店里面才可以下载,然后我们这里已经是下载好了这个软件,所以呢我们直接打开就可以了。 打开软件之后呢,你们会看到这个屏幕中显示的全是英文,并且软件的内部它是不支持我们去切换语言的, 很多人看到这里就已经开始头痛了,那我看不懂英文咋办呢?其实不用慌,因为这里面的功能其实非常的简单,完全也不需要用到翻译,而且当我们在跟语言模型对话的时候,它是完全支持我们中文对话的。 这里我们向下滑可以看到官方总共给了我们七个功能,从上向下分别是图像、语音、语言聊天、模型、花园以及手机操作。 我们就先从最基础的开始 ai chat, 也就是我们常用的文字聊天。那我们打开这个 ai chat 之后呢,可以看到它底下有五个模型给我们选择, 其中三个是胶码三,还有两个是胶码四,那我们这一次主要针对是胶码四,所以我们就选择上面两个胶码四,然后这个胶码四它分为 e 二 b 的 模型和 e 四 b 的 模型, 这两个我们要怎么去选?就是主要是看你的手机性能,如果你的手机性能稍微好一点,你就选择这个 e 四 b, 如果你的手机性能稍微弱一点,那我们就选择这个 e 二 b, 那 我现在演示的这个设备是十六 pro max, 那 我们就选择 e 四 b 这个模型。当然你在使用模型之前是需要先去下载的,所以我现在就点开这个 e 四 b, 点出来 it, 然后进入到模型之后给大家做一个演示。首先我们先给他打个招呼,你好吗? 哇,可以看到他这个回复速度真的是超级快,我之前一直认为这种手机跑的模型应该会很慢,没想到他的速度还是很快的。然后我们再问他一个,你是什么模型?你能为我做什么? 看到他这个吐字速度真的是超级快,那这个速度呢?对于我们大部分人来说已经是超越了我们的阅读速度的,所以如果你是日常聊天或者写写论文啥的,这个模型对于我们来说是完全足够用的了, 当然这只是最基础的文本聊天。那我们再去下一项看一下他的图像测试怎么样?那我们现在就已经到了他这个图像测试窗口了, 我先给他一张图片,这张图片呢是一张上海滩的图片,让他看一下他对这个地标啊,还有图片内的内容识别度如何。 ok, 在 经过大概五秒钟左右的思考,他已经给了我们答案,然后他说这是上海的城市景观没错,然后他说这是上海中心大厦, 这一点我不知道哎,他好像把东方明珠论成了上海大厦,虽然这两个地标中间只隔了零点八公里,但是我没有在图片中找到这个这个中心大厦这个东西, 然后他说这是独特的双层球体啊,那看到了是建筑认错了,但是其他的关于黄浦江还有其他的描述倒是正确的,就是单独认错了这个东方明珠和中心大厦这个地标建筑。 ok, 那 我们就再给他一张东方明珠的照片,但是这是我们给他夜景的照片,看下他识别度如何。 可以,他已经给了我们回答,他说这是上海的夜景,然后地标是上海中心大厦,那看来他还是认错了这个地标,他依然把东方明珠认成了中心大厦。 其实我不知道他这后面这个逻辑是什么,有没有一种可能,他是去网络上找了类似的图片,然后类似图片说这个地方是中心大厦,所以他就给我们说这个是中心大厦的,我觉得应该大概率是这样。 嗯,有知道的小伙伴可以打在这个屏幕上,那我们就先不纠结这一点,我们进行下一项测试, 现在我们来试一下他的语言听写能力,然后这次我们依然还是选择这个 e 四 b 模型,我先给他发一段语音,你好,你能听得见我说话吗?现在时间是北京时间四月九日,看他能不能给我们提取出来。 可以看到它已经完美的提取出来了我语音说的内容,并且没有误差,那看来它对中文的这个听写能力支持还是很强的。那我们进入下一项功能, 然后这个功能呢?叫做 agent skill。 相信大家对 skill 这个单词已经是很不陌生了, skill 是 什么意思呢?就是一个技能, 然后谷歌目前官方里面给我们默认是内置了八个 skill, 但是其实它最重要的是什么?最重要的是它这个 skill 是 允许我们自己再去添加的,所以我认为这是这个 app 里面最具有 可玩性的一个功能。就是我还记得前一段时间在网络上很流行一个叫做前任 skill, 就是 把自己的前任变成一个技能,然后放进他们的 open cloud 之中。那现在你不用放进 open cloud 了,也不用打开电脑了,直接在手机之中就可以操作了。嗯, 我相信后面会有很多人去专门为手机的这个开发 skill。 那 这个 skill 我 也就不多说了,因为目前我这里只有官方的八个默认 skill, 然后默认 skill 都是比较基础的啊,说的也没有太大的意义,大家自己后期自己去 自行尝试一下就行。然后我们来到下一个这个红色的按钮叫做模型实验室,这个应该是对于比较极客的玩家用的比较多,那我们大部分的普通玩家呢,是很少也几乎不会用到的一个功能, 所以我们这里就不过多传输。然后下一个绿色的这个是迷你花园,是谷歌官方出了一个专门用来语音玩游戏的一个小功能吧, 也没有什么好说的,因为他是英文交互吗?嗯,大部分人可能也就是藏着新鲜进去看一看,也没 什么好玩的。所以我们来到最后一个,也就是我认为第二可玩性比较高的一个功能,叫做手机操作,那他顾名思义呢,就是可以直接操作我们的手机,那我们现在点进去看一下, 那我们点进来之后可以看到他首页是说他有最基础的五个技能,第一个是开关手电筒,第二个是创建联系人,第三个是发送邮件,第四个是在日历中创建,第五个是 在地图中搜索,那这应该是最基础的,我不知道他有没有其他的功能,但是我们可以先把他的基础功能先试用一下展示一下给大家看。 我这里是让他打开了我的手电筒,然后他确实也打开了我的手电筒,然后我们来试一下,让他关闭手电筒,嘿,然后他也成功的关闭了我的手电筒,然后我们最后来测试一下他能不能在地图中展示, 可以看到他是直接调用了苹果官方的这个地图,然后打开了我要他搜索的地点,但是这个功能怎么如此的似曾相识呢?感觉有点像被前段时间被全网封杀了。豆包手机 太眼熟了,只能说太眼熟了。 ok, 相信大家看完以上的教学视频之后,都已经成功的安装好了手机端的胶码四,也对他的所有的功能呢都有了一个初步的了解, 在手机端部署大模型,不仅仅是拥有极高的隐私安全,还支持在没有联网的情况下使用,真的可以说是开启了一个 ai 的 全新时代。那么本期视频到此结束,咱们下期再见!拜拜!

今天安装体验了 iphone 上运行 google 最新大模型 jam 四一二 b 的 感受,最核心的改变就是他本地运行的能力。这意味着什么?意味着我不再需要担心网络延迟,不再需要担心隐私泄露,他直接在我设备上跑,速度直接拉满。真实感受。首先是速度,我问一个复杂的逻辑问题,他几乎是及时反馈,那种秒回的感觉完全颠覆了我对 ai 响应的认知。 其次是精准度,我试着用它对一张复杂的图进行深度分析它识别的细节,那种对上下文的理解真的非常到位,比我以前在云端体验过的那些模型精确度高出好几个档次。现在本地运行的 jam 四一二 b, 在 效率和深度上,跟我现在小龙虾用的 mini max 每月产生的费用载速度和体验相比,已经 是现了。这个飞跃,他不是在模仿,他是在从行定义本地 ai 的 上线。这感觉就像我把最强大的引擎装在了我的手机里。 jam 四,文本处理能力核心能力是强大的文本理解、生成、载药、翻译、编程辅助等音频处理能力。特定版本 jam 四中的某些版本,如二 b 和四 b, 具备处理音频输入的能力。

千万三点六 jamah 四 lm 五点一 deep seek v 四五大开源模型四月同时发布,本期视频教你如何选择最适合你的大模型。先看硬数据代码能力, glm 五点一在 swebench pro 拿到五十八点四分,全球开源第一。 deep seek v 四 pro 的 code forces 评分三千两百零六,全球最高。 中文能力, deepseek v 四的 c evo 评分九十二点一分, c m m l u 评分九十点四分。千问三点六 plus c evo 评分九十三点三分,中文第一上下文能力, lama s scale 支持一千万 token, 能装下七百五十万字,等于三十本三体。 deepseek v 四支持一百万 token, k v cash 只有 v 三点二的百分之十,成本极低, 场景不同,选择完全不同。企业智能客服用 deep seek v 四 flash 输入缓存命中,每百万 token 才两分钱,一天处理十万次问答成本不到二十块,比用 g p t 五点五省七百倍。 代码开发团队用 g l m 五点一能连续自主工作八小时,不需要你盯着实测,它对代码进行了六百五十五轮迭代优化,把搜索性能提升了六点九倍。 月成本从 cloud opus 的 一千美元降到三十美元,个人开发者快速验证,用千问三点六七 brtx 三零九零就能跑。实测在 apple m 三 pro 上运行四十五 tokens, 每秒日常开发够用,完全免费,数据不出本机。 法律合同分析用拉玛寺 scout 一 千万 token, 上下文能把一整年的合同文档一次性丢进去,分析 不用分段,不用拼接。移动端 a p p 集成用伽玛四 e 二 b 量化后一点五 g 自洁内存就能跑苹果手机,安卓手机都能离线运行,医疗金融这些数据敏感场景特别适合。 选好了模型,怎么用好才是关键。 deep seek 千问这些模型提示词怎么写效果最好? rag 怎么搭建? agent 怎么开发 ai 大 模型?核心技术研修班从模型原理讲到实战,五大模块覆盖提示词工程、智能办公零代码, agent 开发 ai 编程,教你如何玩转大模型。

阿拉玛作为我们最常用的离线 ai 模型工具,最近也是非常活跃,就在刚才,零点二、零点三正式推送了, 这已经是本周第三个正式版本了,四月二号到四月七号五天四个版本,这个节奏属实不慢,我们今天就把这一批更新从头捋一遍。要说零点二零点零系列, 这期的主角只有一个, google 的 詹玛四。四月二号跟着欧拉曼一起来的詹玛四,这次一次性支持全部四个规格,最轻的是 e 二 b 和 e 四 b, 适合笔记本和配置一般的个人 pc, 而二六 b 的 蒙混合专家适合显存或内存容量较大的环境。 最后是三 e b 的 纯密集版本,适合计算资源比较充沛的用户尝试。为了支持 jam 四的运行, alama 底层也跟着 jam 四补了分词器的 sentence piece bpe, 支持 m l x, 后端也修了一个 tokenizer 的 配置不生效问题, 这些是 jam 四能刨下来的基础。然后从零点二、零点一到零点二、零点三 三个小版本,目前共经历了三个小版本。四月三号推出零点二、零点一版本,主要修复了 jam 四的工具调用,解决了参数自创例,有引号的时候解析会出错。 整个脱扣的处理流程也重构了一遍,稳定性提升明显。另外为 gemma 四开启了 flash 叉神长上下文场景下速度更快,显存占用也更低。新 u d a 和 rock 这边也跟着修了一个底层的调用时机问题,按卡 a 卡用户都受益。四月 四号推出零点二、零点二版本就一个改动,打开欧拉玛桌面 app, 以前进去是个启动页,现在直接就是新对话界面,就这一件事,但下面点赞的人还挺多的, 这种小细节确实影响每天的使用感受。零点二、零点三是四月七号,也就是今天刚出的这个版本, jam 四的工具调用又进一步打磨了, app 里的模型列表也 从不更新了, jam 四直接能在界面里找到,不用自己去查命令。另外修了 open call 启动 t u i 的 一个问题, 终端用户应该有感。最后说说零点二,零点四现在已经到 i c r 了,预计很快正式发布这个版本。最值得关注的是苹果 m 的 性能优化,用了一个叫 n a x 的 技术,专门针对 m 芯片, m 五设备的推理速度会有提升。是 m 四在 m l x 路径上的 flash tension 也补全了, m 系列芯片的用户这次能完整享受到这个优化。另外,奥拉玛奎埃的这个命令也做了一次清理,修复了从已有 safeton 模型创建时的问题, 有自定义模型导入需求的用户可以留意一下。目前稳定版零点二、零点三已经通过自动更新推送,如果想尝鲜零点二、零点四的,可以去 guitar releases 手动效 rc 二试试。好,今天的内容就这些,我们下期见。

一分钟让你搞清楚关于全球最强开源模型 jam 的 一切。最近谷歌开源了 jam 四,我将用四个问题 让你清晰了解关于 jam 的 一切。 jam 各版本的区别,我家的电脑能用吗?模型怎么部署安装?普通人用来干什么?先说他的四个版本,三一 b 直接冲上全球开源 ai 榜第三名,以前要机房才能跑的能力,现在你家里的高端游戏显卡就能搞定。 轻量版的一二 b 和一四 b 为手机、平板以及中低端电脑设备打造,性能虽不是最顶级,但是绝对好用够用。而二六 b 猫号称总参数两百六十亿,但实际每次思考只用其中三十八亿个,最相关的效果却能媲美两百六十亿, 能理解超长文章以及视频。简单说,无论你是用手机、笔记本还是高性能电脑, jam 四都能给你免费安全强大的顶级模型体验。再说你家里的设备是否能用上?一张图告诉你 jam 四个版本的最低要求。 对于多数人而言,家用的电脑设部署一二 b 一 四 b 完全够用,基本能满足百分之九十的使用场景。另外两个版本对内存要求较高,但是性能出众,属于好马配好鞍。 再说模型安装,整个过程大概十分钟左右。首先下载 lm studio, 然后打开 opencool 或者 id 工具,让它查找你本地配置,给你推荐安装哪个版本。之后在 lm studio 里下载,运行搜索推荐的模型名点下载,最后接入 opencool 或者 i d e l m studio, 提供 open ai 兼容 api, 在 open 框里把 api 地址改成, h t t p l o c a o s t colon twelve three four slash vivo 就 能用 jama 四驱动你的 ai agent 了。 网上攻略一大堆,这里就不展开了。最后说下所有人最关心的能用 jama 做什么?这里推荐三个场景,可以去试试。第一, 构建本地知识库,把工作和学习相关的文件丢给本地 jama, 让他帮你形成系统化的知识。构建个人知识库时进行向量缩影和 anitive, 解锁数据不出本地,安全合规。第二,给家人搭建一个 ai 助手,下载好模型,配个界面,电脑手机都可以直接对话,不花钱不泄露隐私。第三,内容创作 最大优点是无限额度,即便不如部分付费模型,但可以靠大量尝试提升优质内容的概率。千马寺会改写国内企业及政府客户的私部模型格局吗?欢迎在评论区发表你的观点。

这是标准的 z image 工作流。这是我的增强型工作流,一种拥有更加皮肤细节的高级工作流。现在, jamie four 已原声支持 comfyui, 所以 在这期视频中,我将展示全部三项改动。 在此之前,你需要一个自定义节点来拷写或增强文本。但现在, jamie four 可以 直接在 comfyui 内帮你拷写更优质的提示词。 我一直在定期更新我的 gmail 工作流。在这段视频中,我将展示如何添加 gemma 四支持,以及如何获得更高级的皮肤细节。 所以,首先我们来谈谈如何重建 gemma 四提示部分。如果您未使用我的工作流,仍可轻松将其添加至任意工作流中。 首先,我移出了旧的 q n v l 自定义节点,然后搜索了文本生成节点。这里是文本生成节点。 你可以看到它拥有 clip 输入,图像输入,视频输入和音频输入。这意味着它可以描述您的图像,视频或音频。 你也可以在提示框中写入任意文本,并要求它增强你的提示。首先,我添加一个加载 clip 节点,并将其连接到 clip 输入端。对于模型 g m 四提供 f p 八和 b f 十六版本, 您可以根据系统的内存或显存进行下载。我正在使用 f p 八版本,我下载了它,并将其保存在我的文本编码器文件夹中。 现在在加载 c i i p 节点中。你可以从列表中选择你下载的文件。选择 jama 四 f b 八缩放模型, 确保例行设置为 stable diffusion。 现在,对于生成的文本,我添加了一个显示文本节点,并将其连接到文本生成输出。这样我们就能看到 jama 四给出的提示词是什么。 你也可以将生成的文本直接连接到 clip 文本编码节点。那么 j m 四生成的所有内容都会自动进入您的图像生成提示词中。但你也可以断开连接,手动拷写,以提升提示词。 顶部我已经添加了一条指令,这条指令帮助 jama 四 v z image 写出更好的提示词。它提供了一个增强版的提示词,更适合图像生成。 我有一个基于图像的提示指令,另一个是基于文本的提示指令。 例如,如果你脑海中有一个想法,只需将文字指令粘贴到写着在此处粘贴您的提示的文字生成提示框中,即可写下你的想法。 所以这里我正在写一个非常简单的提示词。所以这里我正在写一个非常简单的提示词。一位身穿红裙的美丽女性正在进行时尚拍摄,画面高度精细,呈现逼真的摄影效果。 目前,这是一个非常基础的提示词。我写的时候就像个不懂如何写好 z 图像提示的人一样。 我只是随机组合了穿红裙的美女,时尚摄影、高细节和写实摄影这些元素。现在我开始运行 几秒后,你可以看到 gmail 四已增强了我的提示词。所以这里我不知道该怎么写完整的提示词。 我只给了一个小小的指令, gmail 四,让它更详细,也更适合 z image。 他写的是一位美丽惊艳的女性,身着充满活力的深红色光芒,姿态极其优雅。拍摄于高度精细的超写实摄影棚中,构图应具有电影感,光线强烈,皮肤真实时尚,摄影细节丰富。 现在你可以看到结果了。我给了一个非常基础的提示。基于这个提示, jama 四对其进行了增强。现在我们得到了一位身穿红裙的美丽女性,你可以清楚地看到细节。要让 jama 四运行,请确保您的 comfy ui 已更新。 目前我的 copy y 版本是零点二。零点二。如果 demo 四仍然无法运行,请前往您的 copy y 文件夹。在 copy 文件夹内检查 text and code 文件夹,并确保 demo 四文件可用。 如果文件不可用,你可以下载它并粘贴到那里。现在我们可以绕过守护进程生成组,并用新方法让皮肤更好。 所以这里我只是跳过了守护进程生成组。现在,在上彩样部分,我又添加了一个彩样器。不过首先我会把图片送入放大模型。我使用的模型是四 x pure photo g r p l s k r。 那么这个模型是做什么的?四 expo photo real p l s k r。 模型有助于恢复照片细节,它能改善头发皮肤纹理和表面细节。 此模型提升分辨率并恢复表面细节。接着,第二个彩样器利用提示词帮助重绘并细化细节。所以上彩样模型提升了图像质量。而彩样器则将更多人工智能生成的细节重新添加回皮肤和面部。 所以这次测试我把曲照强度设为零点三八,然后运行并对比结果。 如你所见,在这个新的彩样器之前,脸部有点锐利,但经过彩样器后,它增加了皮肤纹理的细节,感觉更加真实。你可以看到眼睛看起来也更好了。 这些细微之处让画面更好看。如果你在观看我的工作流,也能看到我添加了一个噪声选项,让画面更真实。 如果你不希望图像中有噪声,可以从这里跳过它,这让工作流更容易理解。 有时人们不喜欢添加噪声,因为噪声注入节点会让图像看起来不同。因此您可以根据结果选择绕过或起用该选项。 现在让我们回到 jm 四节点。你可以看到这里有一个图像输入。你可以在这里加载任意图片。我加载了这张图片,图像分辨率为二一九四乘一六四零。现在我使用图像指令。 我将其复制粘贴到文本生成提示框中。然后我将图像分辨率更改为一二八零乘以七百六十八。我只调整了分辨率。现在来看看结果有多接近。 现在我们要根据我的图像指令获取提示词。这里还想展示的一点是,姿势几乎一模一样,服装的外观和整体结构也非常接近,背景只有细微差别。 所以你可以看到即使没有任何 ctrl 呢,它也能非常精准的复制姿势。这张图片是用默认的 z image 工作流生成的。现在你可以看到增强型工作流产生的结果有多出色。 现在我们要用第二个彩样器测试皮肤细节。你可以看到,在第二阶段彩样器之前,皮肤已经看起来既柔和又清晰。现在经过第二轮彩样后,它会根据指令添加更多细节, 这让画面看起来更加逼真。如果看眼睛的话,它们比之前更好。 这些细微的细节让图像质量大幅提升。所以当你像这样生成图像并将其转换为视频时,生成的图像越好,得到的视频质量就越高。 所以这就是关于 gfo 中 jimmy 或支持的更新。我更新了工作流,添加了另一个彩样器,使皮肤细节更加出色。希望你喜欢这个视频,请订阅频道以获取更多精彩内容,谢谢!拜拜!

扎马四大模型在上周进行了开源,因为它跟 nano banana 二都是 google 的, 因此我把这两个模型拼在了一起,做了个 copy y 工作流。 其中扎马四大模型负责写提示词,把你想要生成的图片用大白话跟它讲清楚,扎马四就会给你输出一段非常标准的图像,生成提示词。 然后呢,将这个提示词传给 nonban 二节点进行升图,等待几秒,你就能得到一张以球队队徽为创意的足球海报图了。 本期来讲伽马四大模型,这是谷歌 deepmind 团队开发的开源模型,它有这么几个特点啊,第一,具有推理能力。第二,支持多模态,可以处理文本、图像、视频和音频。 第三,可以在笔记本电脑和手机上运行。第四,最高支持二百五十六 k 的 上下文。 java 四有四个型号,其中 e 二 b 和 e 四 b 主要应用于手机端, 而二十六 b a 四 b 和三十一 b 这两个型号需要的显存就很大了,至少要是四零九零显卡的电脑。 具体选择哪个型号需要看你的业务场景,因为我想用 jama 四去写优美的 number banana 二提示词,所以我选择这个二十六 b a 四 b 这个型号。这个名字中的 a 代表激活参数, 该模型的总参数是二十六 b。 但是呢,在推理阶段仅激活四 b 的 参数子集,因此它运行的速度很快,运行效率接近四 b 参数模型。具体的量化版本,我选择的是 q 四 k m 模型,大小在十六 g 左右。 接下来呢,我用康复 ui 工作流给大家展示一下用 g m 四来写提示词有多么的好啊, 在软件 hack 我 已经搭建好了啊,这个詹麦斯去写生图提示词的康复 ui 工作流。整个工作流看起来非常简单,分三部分组成啊。第一部分,上传主场球队和客场球队的队徽, 我分别上传的是常州队和南通队的队徽,因为他们明天就要比赛了,这两个队的队徽分别传给詹麦斯和 nintendo 二,进行下一步处理。 第二部分,使用 java 四模型去书写优美的生图提示词。首先使用 lama cpp model loader 节点去加载 java 四二十六 b a 四 b 的 q 四 km 量化版大模型。另外呢, mmprog 多模态投射器选择对应的模型即可。 在下面的 luma c p p parameters 需要按照模型介绍页的视力参数进行设置,之后你需要把这两个队的队徽传给 luma c p p instruct 节点的 images 端口。 另外还要设置系统提示词和用户提示词,其中系统提示词就是给 java 四大魔性定身份和立规矩的,你看我写的是你是 number banana 二、图像生成 prompt, 转写大师根据用户输入的生图需求输出详细的 prompt 提示词 等等等等。用户提示词是给大魔星下达具体任务的,我写的是我想生成一张足球对战海报,比赛球队是常州 vs 南通,图一是常州队徽,图二是南通队徽等等等等。 然后你就会得到由詹曼四给你写好的优美的 nano banana 二生图提示词了。第三部分,使用 nano banana 二进行生图, 他负责接收两个队的队徽图案以及刚才 jam 四生成好的提示词分辨率,我选择的是二 k 和横版十六比九,点击运行你就能得到一张以两队队徽为创意的海报图了。 最后我们总结一下啊, nano banana 的 新玩法就是 gemmas 四负责写提示词, nano banana 二负责升图。如果本期视频对你有所帮助,请关注、点赞、收藏,三点走一波,这里是电磁波 studio, 我 们下期视频见。

有人说尼莫场除了快一无是处,那这一期我们来测一下在长上下文中,他能否找到关键信息,并且速度怎么样。我们就随便找了一个上市公司的 pdf 版本年报,我们随机抽选了两个经营细节数据,让模型从二十万长上下文中大海捞针,找到这两个精确数据,那么我们就开到最大。 然后这个尼莫创 amd 单卡三十二 g 的 加载速度,大概是在两分三十秒加载完了二十一万上下文,并且准确的找出了两个数字。然后我们测谷歌的集码四的二十六 b 模型,也是 m o e 模型, 但是我发现这个 mo 模型如果拉到二十六万的上下文,它就是需要三十多个 g 的 显存,已经爆了,那我就把我的另一个显卡也开起来。现在我是 amd 和英伟达的混跑,当然速度的影响我,后面我会再测一次这个尼莫创在两张卡上的速度,吉玛斯的读取速度最后是七分三十多秒, 数字也完全准确。然后我又在双卡状态下,我又测了一次这个尼莫创的读取速度, 居然能达到一分五十秒,如果是用于文档处理,或者需要长上下文携同工作的本地大模型,那我认为这是一个非常好的选择。这跑二十六万上下文的三十 b 模型才要二十几 g 的 显存,那还要什么自行车呀?

同样是开源模型,为什么 gemma 四能把能跑和能用同时做到? 近日,在一场关于开源模型的技术演讲里,谷歌 deepman 研究员卡西迪哈丁介绍了刚发布的 gemma 四。他想回答的其实是个很现实的问题,开源模型越来越多,但为什么很多看起来很强的模型 真正落到手机、平板、笔记本这些设备上,就变成了跑不动、成本高、集成麻烦? jama 四的思路很直接,把模型拆成四个尺寸,两条路线同时推进,一条专门服务端侧本地运行,另一条追求更强推理与更复杂的代理式 ai 工作流。 先看最吸引开发者的可用性, jam 四一共四个型号,两款小的有效模型面向端侧本地运行。两款大的模型面向复杂推理和编码。大的里面,一个是三十一 b 稠密模型,主打先进推理与多模态能力。 另一个是二十六 b 混合专家模型,也是 jama 家族第一次上 omoe。 这里最关键的数字是二十六 b。 这个 omoe 虽然总量是二十六 b, 但每次推理只激活大约三十八到三十九亿参数。它一共一百二十八个专家网络,但每次只挑八个参与计算,所以效率上明显更友好。 三十一 b 这边则给到二百五十六 k 上下文窗口,而且原生支持思考函数调用以及结构化 json 输出,说白了就是更适合做自动化流程工具调用,以及需要长文本上下文的任务。 you should easily be able? 第二个变化是开源到底开到哪一步? gemma 四把授权切到 apache 二点零,这意味着更宽松、更便于在真实项目里集成。从本地测试到工程化部署,再到上线迭代流程,阻力会小很多。对很多团队来说,模型能力并不是唯一门槛,合规和授权才是能不能进产品的生死线。 授权一旦更清晰,才会有人愿意把它放进开发生命周期里反复打磨。那 jama 四为什么能在小体积里做出更强性能?核心是三块 注意力机制的效率,猫 e 架构以及端侧内存的优化。注意力这块儿,它把局部注意力和局注意力交错起来,比如五比一的比例穿插局部层和局层,小模型是四比一,局部层用滑动窗口只看前面一段 token, 小 模型窗口五百一十二,大模型窗口一千零二十四, 局层才看全部历史 token, 而且还保证最后一层一定是局层,避免信息断层,但局注意力很贵,所以又引入分组查询注意力, 也就是 grouped query attention。 局部层两个 query 共享一组 key 和 value 头。全体层直接八个 query 共享一组 key 和 value 头,同时把全层的 key 和 value 维度加长到五百一十二,局部层是二百五十六,在省内存的同时尽量稳住性能。 换句话说,它不是暴力堆参数,而是把最烧钱的计算环节先瘦身。专测那两款有效模型更有意思,它强调运行时需要的参数,与模型表达能力的参数不是一回事儿。 比如 effective 二 b 运行时大约只需要二十三亿参数,但代表性深度能到五十一亿参数,目标就是让手机笔记本不靠远程 api 也能跑得动。为了解决端侧最卡脖子的 v r a m 问题,它用了逐层嵌入,每一层都有自己的 embedding 表, 但这个额外表不放在 v r a m 里,而是放到闪存里。而且 pl e 的 embedding 维度只有二百五十六,远小于原本的一千五百三十六或两千五百六十。 推理时在每个 decoder 快 末尾去查这一层的 p l e, 再投影回模型需要的完整维度效果就是内存压力小很多,但小模型的表现还能明显超过上一代 jam 三的小模型。你更想用端侧二 b 还是云端三十一 b 评论区说理由。

二零二六年四月三日凌晨, google deepmind 无预警甩出 jam 四全系开源模型,这场突袭不是常规迭代, 而是用架构重构、协议松绑,端云一体三重杀招彻底终结,开源 ai 的 参数均被禁赛。三一 b 筹密版跻身全球开源前三, 性能碾压餐数量二十倍的巨无霸二六 b 默推理仅激活三十八亿参数,速度看齐小模型,站立直逼闭源。更关键的是, ip 二零彻底解绑商业手机离线跑全功能 agent 成为现实。 当效率取代参数成为核心标志,开源 ai 的 韩武器正式到来。 jm 四并接低参数的内卷路线,以稠密末双架构 pl 一 每层嵌入 共享 kv 缓存、原生 agent 四大核心创新,实现性能与效率的双重突破,覆盖从边缘端到服务器全场景。一、旗舰稠密版三 e b ds 以小博大登顶开园前三,作为 jam 四家族的战力担当,三 e b dance 采用全机活稠密架构,六十层深度搭配两百五十六 k 超长上下文,在 erina ai 开园榜稳居第三,实现小参数吊打大模型的颠覆性表现。数学能力 a i m e 二零二六,准确率八十九百分之二,超越多数百亿级模型编程实力 live code bench 得分百分之八十,对标币原代码模型 通用基准 m m l u 得分百分之八十八点四,多模态理解能力拉满,部署优势,单卡 h 一 零零即可全量运行,算力消耗降低百分之二十, 企业微调成本直接腰斩。二、高效木板二十六 b a 四 b 速度与站立的平衡惯二六 b a 四 b 采用混合专家架构,总参数两百五十二亿, 推理时仅激活三十八亿。参数一百二十八,专家中激活八专家加一共享 l 评分一四四一,位列开元第六,颜值表现接近四 b, 小 模型,推理速度提升百分之四十,性能底线,数学准确率百分之八十八点三, 兼顾效率与能力,场景适配 api 服务,实时交互、轻量化部署的性价比首选三,端侧轻量版 e 二 b e 四 b 本地 ai 的 终极答案。针对移动端 i o t、 车载等边缘场景推出的 e 二 b、 e 四 b, 通过 pl 一 每层切入技术压缩有效参数,实现端测流线推理。一二 b 总参数五十一亿,有效激活二十三亿,支持一二八 k 上下文。一四 b 总参数八十亿,有效激活四十五亿,算力消耗降低百分之六十。模态能力新增原声音频输入, 支持文本、图像、音符多模态交互落地,突破安卓手机树莓派,可流畅运行离线 ai, 从概念变量场四原生 agent 能力, 开箱即用的任务型 ai jama 四,将 function calling system shrunk 多步推理念作为标配,天生为智能体设计, 无需二次模改即可实现规划执行到观察闭环,低代码就能搭建企业及工作流, 让 ai 从聊天转向干活。潜在 gemma 的 自有协议成为企业商用的枷锁,而 gemma 四直接切换 ipr 零开源协议,完成从开放权重到真正开源的蜕变。无用途限制,个人商业私有化部署群兼容无法务成本,可自由修改分发再许可 专利授权明确生态释放疑托四亿下载十万加遍体的社区基础,快速构建全场景生态,这是谷歌对开源社区的彻底妥协,也是对米特莱玛 国产开源阵营的正面先战。开发者终于可以无门槛使用谷歌旗舰技术。杰玛斯的突袭,打出三个不可逆的行业趋势,彻底改写开源 ai 的 发展逻辑。一、 参数为王,时代终结,效率成为核心标尺。三、 e d 模型打印二十倍参数量具不罢证明架构效率、参数堆砌。后续开源模型将全面转向小而强算力、成本、推理速度、部署门 槛取代参数量,成为衡量模型价值的核心指标。二、本地 ai 从 demo 变量产隐私场景迎来合规底座当测离线运行 数据不出设备,让金融、医疗、政务、车载等高敏感场景拥有了隐私合规的 ai 基座。离线语音、离线文档分析、离线智能体不再是实验室噱头。 三、 agent 延伸重构应用层 ai 进入干活时代,延伸工具调用常上下文多步推理能力,让企业级 agent 落地门槛大幅降低, ai 应用从对话交互 转向任务执行流程自动化,智能体普及率将迎来爆发式增长。 g m 四,以强性能加真开源加全场景覆盖,补齐谷歌开源战略的最后一块拼图,全球开源 ai 格局正式定型,谷歌 g m 四, 技术均衡、许可友好端于一体。米特拉玛生态成熟,落地广泛,社区基数大,国产开源长文本代码、多模态各有所长。对开发者而言,选择更多、成本更低。 对企业而言,私有化、可控、合规成为标配。对赛道而言,边缘垄断被进一步虚弱,开源成为 ai 基建主流。 gemma 四的突袭本质是 deepmind 将 gemini 旗舰技术下放开源,用效率、许可、部署三重优势重新定义开源规则,三 e b 登顶开源前三支是表象。 真正的价值在于, ai 不 必堆到千亿万亿小模型,也能有大智慧,不必依赖终端本地,也能有顶级智能,不必受限协议,商业可以放心创新。接下来半年, gemma 四的微调量化蒸馏 区块一体将迎来爆发式增长。参数竞赛的落幕,正是效率革命的开端开言, ai 已进入真正的寒武纪,每一个开发者、每一家企业,都能在这场变格中找到属于自己的机会。


阿里这模型研发效率是开了挂吧?三点六 plus 刚上线半个月,昨天晚上又发布了三点六三五 b a 三 b。 我 看了下介绍,虽然还是 m o e 架构,但是在 coding 方面大幅超越了前代,甚至赶上了自家的二七 b 和 jimmy 三一 b 这类的凳子模型,这就有点夸张了,要知道这俩模型的参数体量可是比 a 三 b 大 了十倍。 让我觉得不可思议的是,三点六不仅支持多模态能力,而且在大多数视觉语言基本测试中,它的表现已经和 cloudsonnet 四点五持平,甚至超越模型,依然支持思考模式。不同的是,增加了 preserve thinking 的 功能,实现在多轮对话中保留之前的思维内容,来优化 agent 的 记忆和长任务能力。 目前已经上架 hackinface, 各个社区的量化版本也被大神们搞了出来。另外,这周末我打算利用 turboquest 加昨天发布的 deflash 扩扩散技术一起跑下千万三点五二七 b, 大家等着看效果吧!