每天一个开源项目第八十一期,二零二六年最值得关注的开源 agent 框架之一, craft agents, 专门给 agent 设计的工作台,帮你管理多个 ai 员工、多个任务、多个数据源的桌面操作系统,无需连接任何 a p i 或服 a patch 协议,可以按照自己需求任意修改。它支持多绘画、多工作区、多模型连接,还能接入 m c p rest api。 本地文件系统,它不只是一个聊天窗口,而是把技能权限、自动化、后台任务文件、 def 状态流转都做进去了。它开始把 ai 员工这件事从一个 demo 做成接近真实工作流的产品形态。
粉丝2.1万获赞22.1万

十小时 github 狂揽三万星, openai 押注七十万开发者在用的 ai 终端工具 work 一 夜之间开源了。他想做的本质上是把终端从一个黑矿命令行升级成 agent 时代的开发中书。过去开发者写代码要在终端 ida 文档 get 工具之间反复横跳,而现在, work 直接把这一切打包进一个终端里,内置了 ai 编程助手,也支持接入各种外部 agent, 还把整个交互逻辑都重够了。 i d e 级别的输入框 快捷导航,垂直标签页内置文件数和编辑器,甚至还能做交互式代码审查。简单说,它不是在优化 terminal, 而是在重新定义开发者如何和 ai 一 起工作。最关键的是,这次选择开源,直接打消了开发者最担心的安全和可控问题,而且底层还是 rust。


这两天看了 astropica 的 一篇文章,叫 building effective agents, 有 些事情呢,突然想明白,我原来用 agent 就是 想让他完全自主地去帮我干活,我呢,什么都不用管。但 astropica 说,等等,你可能想错了,比起全自主的 agent 呢,你可能更需要的是 workflow。 全自主 agent 呢,只会让你既浪费时间,又浪费 token, 还拿不到想要的结果。 astropica 呢,它就是开发 cloud code 的 公司啊。 这篇文章是他们在与客户合作以及亲自构建 agent 的 过程中的一个总结的经验。本来呢,是写给 agent 的 开发者看,但我发现这里面也藏着我们普通人用好 agent 的 四个技巧,能提升你使用 code code 或阿里的稳定性、节约你的 token, 以及加快任务的执行速度。那在讲这四个技巧之前呢, 我们需要先了解两个概念,一个叫做 l m workflow, 一个叫全自主 agent。 l m workflow 是 说你会把任务拆成几步,甚至固化下来,每一步都是确定的,人类来编排这个流程。 l m 指在需要的步骤介入。 而全自动 agent 是 说呢,你只是提要求,让 l m 自己决定下一步做什么,自己选择工具,自己判断要不要继续。没有任何预先编排的流程,每次 agent 呢,都是从零开始执行任务。 astropica 把这两种都归类为智能体系统,所以不用觉得 workflow 听着很 low。 fmworkflow 的 好处很明显, 可预测你知道它会做什么好。调试出了问题,你知道是哪一步出的成本低,因为每一步都是必要的,没有浪费。全自主 agent 的 好处也很明显,灵活能处理你没想到的情况,能扩展同样的 agent, 可以 处理各种不同的任务。但全自主 agent 的 问题是啊,你不知道它会做什么,它可能走弯路,可能掉一堆没用的工具,可能陷入常常常 的循环,成本会高很多,延迟也会长很多。 s r p 来说,能用 l m workflow 就 别依赖全自主 agent 还给出了 l m workflow 的 几种应用模式啊。我就是从中梳理出了这四个技巧。第一个技巧,提示链。 相比仅用一个提示词来处理复杂任务啊。如果把每一个任务呢,拆成一连串按顺序执行的步骤,后一个步骤依赖前一个步骤的输出结果, 每一个步骤用针对性的提示词,效果会更好。不要小看这种模式啊,这个东西用好了真的很有效。假设你经常浏览 x 上的推文,有一天,你看到一篇帖子里有一个英文视频,没有中文字幕,你又很想看,怎么办呢? 如果你把推文的网址呢,丢给 cloud code 或者是 wordbody, 然后说帮我生成中文字幕,你大概率是得不到想要的结果, agent 会运行很长时间,然后告诉你失败了。如果你知道提示念这个技巧,就会把这个任务拆解成这三个步骤。 第一步呢,下载视频。第二步,生成视频字幕文件。第三步,把字幕文件翻译成中文。每一步完成之后,再跟 cloud code 说下一步要做什么, 这样大概率你能得到想要的结果。然后呢,你可以让 agent 把你们的对话过程做成一个 skill, 把这三个步骤固化到 skill 的 脚本代码里。这样下次你只要调用这个 skill 呢,就能快速得到一个视频的中文字幕。 这个 scale 我 已经做好,需要可以留言,我会分享出来,不需要任何 a p p, 可以 直接用。如果你会用扣子、 nbn, david 这样的工作流平台啊,搭建一个固定的工作流也很好用。第二个技巧,路由, 根据输入的类型,把任务分流到不同的处理路径。假设你这种苦老大模型的 togg 消耗的速度太快了,可以创建多个 agent, 为这些 agent 呢,分别设置不同的大模型,比如简单场景用便宜的模型,复杂场景用贵的模型。在 code to code 里做这件事情很简单,用斜杠 agent 命令就可以创建不同的 agent。 第三个技巧,并行,多个 lm 同时跑,然后汇总结果。假设你要分析一个代码库啊,但 agent 分 析起来太慢了。 可以这么跟 cloud code 说,帮我用五个子 agent 分 析探索这个代码库。 agent 呢,干活的速度将提升五倍,这也是 cloud code 的 支付啊,暴利斯切尔尼公开的,他们团队内部使用 cloud code 的 十个技巧之一。第四个技巧,评估,优化 一个 m 生成结果,另一个 m 评估并给出反馈,然后循环迭代。假设你担心 agent 呢,帮你润色的文稿携带敏感词,又不想每次都要自己去核一遍。可以在你的文章润色的 skill md 里加入一个评估步骤,提前放入敏感词以及你不喜欢的措辞。 agent 呢,就会自动循环评估,直到优化所有的问题。 那上面的每一个技巧都能全然提升你的 agent 的 使用效率。这也是为什么同样是选 kolod code 或者是 wordbody, 有 的人用的非起,有的人觉得不好用,如果这四个技巧你还是都不会用啊,你就只能依赖全自主 agent 了。 比如你只能直接和 agent 说,给这个视频生成中文字幕。 agent 接到任务呢,会自己规划,自己选工具,自己执行,自己判断,做完了没有遇到问题呢,自己想办法解决。没有任何人为提前设置的 o 和 flow, 这会消耗你巨大的头肯和时间成本,而且就目前的情况来看,你大概率无法达到结果。 如果 agent 呢,碰巧真的完成了任务,那你一定要记住,在 agent 呢完成任务后,让 agent 呢为这次任务的执行过程创建一个 skill, 把一些步骤固化到 skill, 甚至是 skill 的 脚本代码, 从而下次可以稳定复用 srfu 开源的这个创建 skill。 skill 呢,可以先安装,从而让 cloud code 或者 workbody 能创建质量更高的 skill。 安装方法也很简单,直接跟 cloud code 或者 workbody 说,帮我安装 skill 杠 creator 这个 skill 就 可以了。 cloud code, workbody 这些 agent 的 工作台啊,确实很大提升了人们的工作效率。 很多人呢,随手就能执行一个很复杂的任务,看着很厉害,但关键问题是啊,复杂任务大概率会出错,而且你会为 agent 修复错误付出大量的时间和 token, 尤其那些容错率很低的场景。我们更需要的呢,是一个能稳定解决问题的 walk flow, 而不是每次从零开始的全自主 agent 的。 而梳理出我可否呢,就让你付出自己对问题的专业理解和判断,这是你多年修炼出来的品味。我在 astropica 的 这篇文章里啊,看到了一种课程,在面对 ai 的 快速试错能力仍然保持人类思考的课程, 这才是人类用 ai 的 最佳模式。不要期望发一句指令就能坐享其成,那只会让你失去价值。你得攻深入局,付出你独特的思考和品味,这些将成为你在 ai 时代的核心竞争。 以上就是今天的全部内容,如果对你所帮助,点个赞,一起转发给你那个想用好 agent 的 朋友。这对我真的很重要。我是丹秋水,用酒生存,用酒学生活。我们下期再见。


今天开会的时候呢,我发现都二零二六了,还有很多开发者、产品经理都搞不清楚什么是 agent, mcp, skill, hooks, plugins。 今天这条视频呢,我用一套最简单的方式给你全部讲清楚。首先是 agent 和 sub agent, agent 就是 项目经理,他负责大局,知道你要干什么。而 sub agent 呢,他是被派活的小弟,一次只干一件事情。 比如说 a 准要写一个文档,他可以先派一个小弟先去做策划,再派一个小弟呢去写文档,最后再派一个小弟帮他审核文档。 为什么要分呢?因为 ai 也会有脑误,一个 a 准如果负责的任务太多呢,它就会乱。所以呢,你要派活给多个小弟,可以更快更稳,还可以控制好权限。然后第二层的话呢,就是 m c, p, l, c, l i, 它们俩本质是给 a 准能够接触外部的系统, 比如说 app, 网页等等,它们能够让 a 人直接拥有操作 app 的 能力,否则 a 人就只能和你闲聊。其中 mcp 呢,它是一种标准协议,类似于 usb 协议。 而 coi 呢,它是命令行,它们俩都可以去对接外部的 api。 它俩的优劣呢,我在之前的视频有讲解过。 第三层就是 skills, skills 就是 s o p, 就是 说明书,就是操作文档。它的出现不是说你的 agent 不 会写文档,而是说能够按照你的语言表达习惯来写文档,比如说按照金字塔原则,先说结论,再展开分析。 第四层就是 command, 就是 快捷键,你可以简单敲一个快捷指令,比如说审核,它就可以帮你调起你想用的 skills 对 应的 agent, 还有 sub agent, 小 弟一整套链路一起帮你干活,它就是 agent 时代的快捷键。第五层就是 hook, 自动触发, 你可以为他配置对应的任务。比如说 agent 干完一天的活,触发一个名为一天的 hook, 你 可以给他配置对应的任务,就是自动写日报。当 agent 干了一周的活呢,触发了一个名为一周的 hook, 配应对应的任务就是写一个周报,这就是可以通过 hook 来自动触发的。 第六层就是 plug in, 这是最高级别的分装,它里面已经打包好了 agent, sub agent, mcp, skill, hook 等等一整套,让你开箱即食。因为 plug in 里面已经打包好了, agent skill, hook 什么都打包好了,所以使用者直接 跟 agent 对 话,就可以享受一整套打包好了的服务。总结来说呢, agent 是 老板, sub agent 是 干活的小弟, command 是 快捷指令,快捷键, skill 是 做事情的, s, o, p, m, c, p 和 co i 呢,是对接外部的系统。 hook 是 自动触发,而 plug in 是 打包好的服务。 ai 这一块呢,其实名词特别多,但本质上都在讲一个事情,就是怎么样让 ai 更像一个人,更像一个团队。你还有哪些没有搞清楚?评论区留言,我们下条视频见。

面试官问你,开发智能体该怎么选大模型?如果你脱口而出选参数最大、最聪明的那个,那这道题大概率就答偏了。因为这不是一道模型榜单题,而是一道工程落地题。 很多同学遇到这类问题都会踩坑,觉得不管三七二十一,直接上最强模型准没错,结果一开口就暴露出没有生产环境意识。 嗨,大家好,我是小哲,关注、点赞加收藏,我们马上开始今天的讲解。咱们先顺着新手的思路想想,大家平时自己玩大模型,是不是觉得只要能搞到最顶级的模型,接口直接连上去,什么意图识别、任务规划、工具调用全让他干就行了。 如果在面试时你也这么说,面试官心里估计就在摇头了。为什么呢?因为在真实的企业环境里,一个智能体完成一个复杂任务,后台可能要流转调用好几次模型, 你每一个环节全都用最强最贵的那个,并发一上来,模型调用成本就会非常高,而且延迟压力也会很大,用户不一定等得起。这种不顾成本、延迟和任务差异的暴力解法,通常很难直接上生产线。那破局点在哪里呢?其实就四个字,各司其职。 我们要把智能体想象成一个大公司,不同的任务分配给不同级别的员工,这就是我们在架构上常说的分层路由调度思维。 咱们现在在脑子里跑一个具体的例子,假设你开发了一个智能管家,用户发了一句话问今天北京天气怎么样?顺便帮我查一下苹果公司的最新股价。 好,第一步,这句话先进来,遇到的是我们的前台接待员,这可以是一个非常便宜、速度很快的小模型,甚至也可以是规则系统。他的任务只有一个,就是判断这句话的意图和路由方向。他一看,哦,这是一个天气查询加金融查询的组合任务。 第二步,如果这个任务很简单,系统其实不需要上强推理模型,直接把它拆成天气查询和股票查询两个工具调用就可以了。 但如果用户的问题更复杂,比如要结合行程安排、持仓情况和风险偏好来做建议,那就要交给业务主管,也就是推理能力更强的大模型来做任务规划和步骤拆解。 紧接着第三步,系统把具体动作交给专门负责拿数据的技术员。这里可以用一个结构化输出稳定的模型来生成工具调用参数。 但注意,真正调用 api 之前,一定还要由程序做 skma 叫验、类型叫验和权限叫验,不能完全相信模型。 拿着合法参数拿到真实数据后,最后一步交给公司的前台文员,也就是一个普通模型,把冷冰冰的数据润色成一段用户听得懂的语音播报。 大家想象一下,这个画面简单,陆游用小模型后规则复杂规划用强模型工具调用,看结构化稳定性,最终总结看表达和中式性。这样跑下来,成本和延迟都会明显优化,而且整个流程也更稳定更可控。 把这套逻辑理顺,你会发现,面试官问你模型选型,他想听的根本不是各个大模型的跑分,而是你在这个过程中对成本、延迟、能力部署和稳定性的综合工程化权衡。大模型不是越贵越好,而是合适最好。 比如简单分类和意图识别,重点是便宜、快速、稳定、复杂推理和任务规划,重点是能力上限, 工具调用,重点是结构化输出和参数校验。常文档任务,重点是上下文能力,涉及企业敏感数据,还要考虑云端 api 私有化部署或者混合部署。只要你把这套像开公司一样的分层调度架构抛出来, 面试官就会知道你不是只会调接口,而是真的理解。智能题怎么落地。课后大家可以想一个简单的问题,如果在刚刚那个流程里,天气 api 突然挂了,报错了,系统应该怎么处理? 是执行层先重试还是切换备用? a p i 还是降级?返回股票信息并提示天气暂时不可用?欢迎在评论区告诉我你的想法。今天的视频就到这里,我们下期见,拜了个拜。

二零二六年,百分之六十七的企业正在寻求多供应商 ai 策略。马 zelander 团队的 ceo 说,我们必须创建 copilot 和叉 g p t 的 替代品,这样 ai 的 未来就不只是我们从几家巨头公司那里租用它。 samsung 马 zelander 旗下 samsung 团队刚刚发布的主权 ai 客户端首日拿下四百五十八颗 star。 二十年开源品牌背书,选你的模型,拥有你的数据,消除供应商锁定 一个界面,接入 entropic, cloud, openai, gpt, msdraw, deep seek、 open router, 还有你自己的私有模型。特别提一下, deep seek 原生支持国内开发者,不需要 vpn 就 能使用国产大模型 离线优先架构,所有数据存储在本地, sq lite 断网也能正常使用。恢复网络后, power sync 自动同步对话,历史设置配置永远不丢失。 端到端加密采用 nes 后量子标准 ml cam 七六八加 aes 二五六。 gcm 密钥通过 bit 三九注记词恢复,和加密钱包一样安全。每台设备有独立密钥信封,就算服务器被攻破,公记者看到的也只是密文。 六大平台原生支持桌面端加移动端加问,基于 terry v 二 rust, 后端比 electron 更清亮、更快、更安全。应用体积小,内存占用低,启动速度快。 三层架构设计,客户端曾用 react 十九加 tori 加 azulite, 服务端用 elijah 加班加 postgrads, ql 加 hastet, 外部对接各家 l l m 关键设计 inference proxy 代理所有 ai 请求,你的 api key 永远不会暴露给客户端。 docker compose 一 键自托管后端 elijah 框架跑在半上, ai 编排用 delete, hastet, 认证用 better off, 企业数据不离开你的服务器,满足 g d p r h i p a 合规要求。 和竞品对比一下,庵 air 二十七 k star, 但没有一二亿加密和自托管。 open web ui 八零 k star, 但只是 web 应用,没原声客户端。叉 gpt enterprise 完全闭源。 thunderbolt 是 唯一同时具备一二亿加密离线优先六平台原声自托管和后量子加密的开源 ai 客户端。 c o r n s 说我们曾挑战了 i e 百分之九十五的市场份额,现在 thunderbolt 要做同样的是挑战 ai 巨头的垄断。 github 搜索 thunderbird, thunderbolt 开源免费 deep seek 原声支持 doctor 一 键自托管。

最适合小白部署 hermes 的 方式非常简单,如果你想选择一个二十四小时在线的私人助理,并且随问随答,那么得益于阿里云的轻量服务器模型,通过阿里云来部署 hermes 一定是你最佳的一个选择。 首先进入阿里云,自己解锁进去,右边可以通过支付宝扫码登录,扫码登录之后,鼠标悬停在产品这个界面,悬停在计算这个界面,然后点击清亮应用服务器, 在清亮应用服务器的界面点击立即购买,立即购买有系统镜像,应用镜像这里,大家在应用镜像这里直接选用 hermes 的 agent。 目前 hermes agent 相比于 opencloe 的 话,它的整个的 tokens 消耗量下降在百分之五十以下,而且带有自学习的这个功能,更新迭代很快,更加的聪明灵活,所以说这是最近的一个热点的 agent。 在地域选择上的话,可以选择香港及海外以及内地,他的区别在于香港及海外一些应用服务,对外的话他是不需要备案的,在咱们内地受限于一些法律的条款,他需要对外服务的时候进行备案, 因为这里我们是用做自己的私人 agent, 所以 说不用选择海外,就哪里离你最近,你就选哪里就行了。那么我这里选的是成都,还有一个就是内地的话会比香港海外他的价格更便宜, 我选择成都之后,然后直接选择一年,这里可以看到他的价格目前是四百五十九元,但是当你第一次购买的时候,他是一折或者是两折的这样一个价格,就是当时我买的话大概就是六七十块钱一年, 这样试一试,点击立即购买就可以了,那么我这里已经买了,我就不再继续点击了。 点击立即购买之后,他就会翻转到现在这个界面,这里是已经给你部署好的 hermes 的 服务器,这里直接点击应用详情,在应用详情里面就有 hermes 的 agent 使用步骤。第一步,点击出场, 呃,目前的话,他只支持阿里的云百链,所以说你要在云百链注册一个账号,如果大家不知道云百链是什么东西,下一次课程里会进行一个扫盲,自己也可以去百度搜索进去注册一个账号,然后这里选择北京,根据自己的服务器地址,哪个地方最近就选哪里, 然后阿里云百链的 api key 自己粘贴复制一下,生成了之后,这里点击下一步, 点击下一步之后等个几分钟,然后的话右边就可以点击这个安全代理访问了,点击下安全代理访问,它是最新的 hermes, 已经给你有一个成熟的关于 hermes 的 ui 服务, 直接点击确定。如果不想了解那么多的话,这里就进入到这个 hermes agent 的 服务器端它的后台了, 他的后台的话,这里需要点击的就是这个配置,配置的话这里有目前你现在部署的模型,比如说现在是这个千万三点五 plus, 如果你有其他的模型,你就直接把这个剪切 剪切掉,然后把你想要布的模型从那个阿里云百链的模型名称给它粘贴进去就可以了。因为之前你是输过 api key 的, 所以说这里你输模型直接输入它就默认去消耗你 api key 这个账户里面的这个托尔斯的数量, 点击右上角的保存,点击保存之后,咱们回到这个清凉应用服务器啊,然后我们看一下刚才部署的怎么样了,是不是我们部署的这个千万三点五的这个模型,点击连接,远程连接,直接点登录, 这样的话就登进了我们的一个服务器里面,就是我们买的服务器里面 啊,直接输入 hermes 回车, 稍等片刻进入了 hermes 里面,你看到就已经提供服务了,然后这里有千万三点五 plus, 就 说明刚才你部署的是对了,那么在这个页面的话,我们的 hermes 的 部署就已经完成了,并且你可以在这里和它进行对话, 他的中文也是识别的,你可以直接打中文,他就回你中文了。如果你希望他以后一直给你回中文,你就说,呃,我希望你记住以后一直给我回中文,然后再打个回车,他就会记住你的编号, 支持的话 hermes 就 不锁完成了。那是不是这样 hermes 就 可以完全在线使用呢?是的,但是它目前还不好用,因为这个界面你和它的登进来进行呃访问,那么咱们下节课再讲怎么把它连接进入我们的微信, 进行远程访问,以及给它安装一些 python 的 库,让它去帮助我们进行具体的工作,谢谢大家。

谷歌团队最近通过研究整个 ai 生态系统中技能的构建方式,发现从 antlrack 的 存储库到 vsell 和 google 的 内部指南,反复出现了这五种设计模式,它能帮你彻底解决 agent 输出乱不稳定的痛点。第一种, tool rapper 工具包装器, 把任何第三方库或 api 封装成 ai 智能体,可直接调用的工具用,到时才加载,不用硬塞提示词,秒变领域专家。第二种, generate 生成器模式,用模板加样式指南,保证输出结构统一、格式稳定, 写报告、做文档、生成提交信息再也不会每次都不一样。第三种, reviewer 审核员模式,对照检查清单,逐条评分,按错误等级输出结果,换个清单就是新能力。第四种, version 反转模式,不让 a 诊瞎猜,先当面试官执行任务前,主动面试你 澄清需求,确认边界,大幅减少返工。第五种是排查流水线模式,复杂任务拆成多步骤,每部设检查点,强制按顺序执行, 上一步不过关就不往下走,适合代码审查、内容发布、合规审核等高质量管控场景。这五种模式不是孤立的, 还能自由组合流水线加审核生成器,配反转复杂工作流,轻松拆解,不用再堆很长提示词。用好这五种设计模式,你的 agent 能力直接升级,稳定又好用。

现在网上那么多 agent 工具,究竟该怎么选?现在有 hermes、 openclaw、 codex cloud, 那 年初的时候先是吹爆了 openclaw, 到三到四月的时候 hermes 又非常的火, 也有人说 codex cloud 是 编程必备哦。这些 agent 工具到底有什么区别?今天大概聊一聊。先讲最火的 hermos 和 opencloud, 这两者都是 github 上面的开源项目,由个人开发者开发的 agent 工具本质上都是运行在终端的 agent 工具, 通过为其安装 skills tools 等插件,能够完成本地化的操作。但是 hermes 优于 opencore 的 地方在于它的一个自我净化系统, 原理其实很简单,它就是内置了一个钩子,你每次调用的时候就会触发,触发到一定频次的时候就会调用一次 review, 把你和它的对话进行一次审查,会过滤出你的偏好,或者有时候你纠正它的一些事实, 它会把这些东西分别存储到三个系统级文件中,你下次打开的时候和它对话,它就会读这些文件,避免再犯同样的错误。 再说到 codex 和 cloud, 这俩都出自于 ai 大 厂 open ai 和 antropica 的, 它俩又有各自的终端命令行工具和 app 软件。 codex 分 别分为 cloud code 和 cloud desktop, 但是无论是 codex app 还是 cloud desktop, 这两个都可以实现终端里所有能完成的功能,因为它们本身就具备调用终端的能力。 就交互上而言, codex app 和 cloud desktop 都远远优于他们自己的命令行工具。因为 app 中你可以通过左边栏快速新开对话窗口,而不需要新打开一个终端。运行窗口。在做什么项目, a 君在跑什么都清楚明了。 这期先大致介绍这四款 a 键工具,但具体该怎么选择,下一期详细对比他们的优劣,让你明白究竟哪一款 a 键工具适合你。

最近 ai 圈又火了一个新东西 hermes agent, 它和前段时间爆火的 opencla 到底有什么区别呢? opencla 本质上是一个帮你操作电脑的 ai, 会点鼠标,会打开网页,会模拟人类一步步操作,你可以理解为它在替你动手。而 hermes agent 更像是一个真正的执行型 ai, 会思考,会拆任务,还能调用各种工具。那问题来了, 这种东西普通人能不能跑?好消息是腾讯云已经把这件事做得非常简单了。 hermes agent 支持云端一键部署。 首先我们需要新建或重装一台服务器来运行 hermes agent 应用模板,这里选择 hermes agent, 不 想动手的朋友也可以通过一句话让 kiki 帮你去操作。完成后, 我们需要为 hermes agent 配置两个核心部分,模型和聊天通道。第一步,我们需要登录刚刚创建好的服务器,登录方式选择免密登录,用户名修改为 lighthouse。 在 配置模型之前,需要先在 minimax 平台获取一个 api 密钥。 接下来回到服务器终端,运行这条命令,启动 hermes agent 的 交互配置。执行后选择快速配置,然后会显示模型提供商列表, 这里我们来选择 minimax china, 选择完毕后会提示你输入 api 密钥,我们将刚刚创建好的密钥复制过来粘贴在终端,然后回车。接下来选择 minimax china 支持的模型列表。 模型配置完成后会询问你是否要连接聊天平台,可以选择稍后再配置。按回车键跳过,这里会显示配置完成的信息摘要,然后提示是否需要立刻连接 hermis 对 话 选择 yes 即可。如果模型配置没有问题,你会看到 hermes agent 的 欢迎界面,也可以输入一条简单的消息来测试一下。 hermes agent 会在终端内生成一段回复给你, 验证成功后输入 quit 按回车,退出 t u i 界面,回到命令行。模型验证通过后,接下来我们来配置企业微信作为聊天通道和 hermes agent 进行对话。登录企业微信管理后台,打开管理工具, 在智能专区中选择智能机器人创建,机器人选择手动创建,然后单机编辑按钮,设置机器人的头像名称和简介,按需配置可见范围。接下来滑动至页面右侧底部,选择 a p i 模式创建,找到 secret 单机后面的点击获取按钮, 在可使用权限中选择相应的授权,授权完毕后单机保存。创建完成后,进入机器人的详情页面, 你会看到 bot id 与 secret。 回到终端后输入以上命令,写入 bot id 与 secret。 你 可以通过设置 wacom dm policy 来限制,可以私聊 hermes agent 的 用户范围,此处设置为 pairing。 配置完成后,我们可以将网关安装为系统服务,安装完成后启动服务。 你也可以通过以上命令检查网关的运行状态。此时我们回到企微后台,可以通过获取并扫描机器人二维码来将它添加到对话框。在企微发送一条信息后,它会返回给你一条配对信息。 复制配对信息中的最后一条命令,粘贴到终端,看到如下信息后表示配对完成,然后回到企微界面,即可开始与 hermes agent 对 话。

今天我们想跟大家聊一聊,在做长上下文的这个 agent 的 时候,为什么 catching 是 不可或缺的,以及 prompt catching 到底在整个架构里面起到一个什么样的作用。 ok, 没错, 这个也是最近在行业里面非常非常火的一个话题,那我们就直接开始吧。咱们首先要聊的主题啊,就是缓存机制与结构 啊,就是这个 prompt catching 到底是怎么工作的,对吧?它的底层的这个逻辑是什么?其实 prompt catching 它就是会把你输入的 token 序列的中间状态给你缓存下来,然后它的这个匹配呢,是通过精确的哈希匹配,也就是说只有当你的这个 token 序列 从第一个到你指定的那个断点全部都一样,他才会认为这两个是同一个缓存。所以就是说哪怕我就改了最前面的一个 token, 后面都不变,那也得全部重新算呗。对,就是这个意思,所以就说,呃,你在使用这个 prompt catching 的 时候, 你这个 tos 或者说 system messages 这些东西的顺序是非常重要的,而且你最好是把那些最稳定的东西放在最前面, 这样的话可以最大程度的去提高你的这个缓存的使用率。那就是说这个 cloud code 它到底是怎么把这个提示分层的,然后又怎么用到这个缓存里的?它是一个三层的缓存结构,嗯, 最下面的一层呢,是放的是局都不会怎么变的一些系统的提示和工具的定义,这个是大家都共享的。再往上一层呢,是每个项目自己独有的一些配置, 最上面一层是每个对话自己的一些动态的历史,嗯,然后每一层呢都只会缓存自己关心的那一部分内容, 这样的话就可以避免很多不必要的重复计算。那这个分层之后怎么保证说我每次都能精准的命中我想要的那个缓存呢?这就要靠 catch control 这个标签了。嗯,你可以用它来做一个断点, 然后它会自动地帮你检查说你这个最长的匹配的前缀是哪个,你可以去指定最多四个断点嘛,那它就会从最长的那个匹配的地方开始给你读缓存, 这样的话就可以保证你这个每一个部分的这个更新都不会影响到其他的部分,最大限度地去利用了这个缓存,又保证了这个灵活性和隔离性。哦,我明白了。那在实际应用这个 prompt catching 的 时候,有哪些比较容易被大家忽略的一些最佳实践,或者说一些小陷阱呢? 比如说像这个把动态的内容,比如说时间戳,或者说一些变化很频繁的一些参数放在了这个很容易被缓存的这个部分,就会导致你这个缓存几乎是无效的。 就是你要把这些东西单独拎出来,不要让它污染了你的这个稳定的前缀。就是说这个顺序和这个内容的稳定性其实是非常关键的。对,然后包括像这个系统的提示,尽量不要去动态的修改它。 那如果说你真的需要传递一些变化的信息的话,你可以通过这个 messages 这个参数来传递,这样的话就能更精准地去命中缓存。没错没错。然后还有就是比如说像这个工具的这个定义的顺序啊,一定要保持一致,包括你这个如果是团队协助的话,一定要把这个公共的配置啊都统一好。 还有就是要监控这个缓存的命中率啊,包括你再做一些,比如说像对话的压缩呀,或者是说这个绘画的这个 branching 啊,就是你要特别小心,不要破坏了这个原有的这个前缀。好的,那我们接下来就进入一个非常实用的一个环节啊,就是操作的要点和陷阱。 呃,就是说这个在实际使用 catching 的 时候有哪些常见的误区和对应的最佳实践?最常见的一个误区就是你会在运行的过程当中去修改这个 system prompt, 对, 那这个就会导致你的这个缓存全部都失效。 那你正确的做法其实是把你想要的这个动态的信息放到 user message 或者是说这个 two results 里面去传递, 那这样的话就不会影响你的这个缓存的前缀。哦,原来是这个传递的方式,也会影响到这个缓存的命中率,对,没错,没错,对。然后还有一个就是说你这个工具的这个增减,或者说这个换顺序,其实也是会导致你的这个缓存失效的, 那你可以用一个就是统一的这个工具的列表里面有一些就是标记位来控制他的这个状态。那还有就是说这个模型的切换也会导致你的这个缓存失效, 那你可以用这个子智能体来做这个分叉的这个处理,就可以避免这个问题,就是让每一个这个叫什么对话的路径,它都是可以独立的去缓存的。嗯,明白了,那这个在做这个长上下文的这个 catching 的 时候,这个上下文的压缩有哪些关键的细节需要注意呢? 就是你在压缩的时候,你一定要保证你的这个系统的提示和你的这个工具的定义是跟你原来的那个绘画是一模一样的。 然后你通过一个特殊的这个压缩的消息类型来进行一个标识,这样的话他才能够正确的去命中这个缓存。 你也可以通过这个只留最近的几个工具的结果,或者说你把这个大的输出持久化到外部,在本地维护一个压缩的状态,来帮你做这个更精细的控制。听起来好像这个压缩的这个策略的设计还是挺有讲究的,没错没错,对不对?对, 因为如果你这个策略做的不好的话,就很容易出现这种摘要丢失关键信息啊,或者说这个模型的性能下降啊,或者说这个缓存命中率低啊等等的问题。 那你可以通过主动的触发压缩呀,然后给这个压缩加上一些自定义的描述啊,用这个紧凑的消息结构啊,包括去监控这个缓存的命中率啊等等的一些手段,来提升你的这个整体的效率和稳定性。 ok, 我 们再来讲一下工程化落地的建议,就说我们在做这个实际的工程化落地的时候,在使用 prompt caching 这个技术的时候,有哪些比较实用的建议可以帮我们去避免一些常见的坑呢?最核心的就是要把你的这个 system prompt 和你的这个工具的定义放在最前面, 而且保证它们是不会变的,然后把你的这个动态的信息都放到这个 messages 里面,并且通过这个 catch control 这个断点来做一些分层的处理。你要去监控你的这个缓存的命中率,如果这个命中率有异常的波动的话,往往就意味着你的这个 缓存的结构,或者说你的这个流程上面出现了一些问题,那你就要去调整你的这个策略,所以说这个结构设计和这个监控都是缺一不可的,而且就是要尽量的去避免在这个中间去更换你的这个模型,或者说更换你的这个工具级,然后要合理的使用这个 子智能体和这个压缩的机制啊,那你这个系统才会比较高效,比较稳定。如果你违反了这些原则的话,比如说你随意的去改变了你的这个前缀啊, 或者说你这个压缩的时候丢失了一些关键的状态啊,都有可能导致你的这个缓存彻底失效,那你的这个系统的开销就会暴增, 所以说这些细节都是非常重要的。说得很有道理,那我们就来进入今天的这个设计原则的总结,那这部分就想请你分享一下,你认为在做这个 prompt catching 的 架构设计的时候,最需要关注的一些核心的要点就是你要让这个 catching 真正的高效, 就是你首先第一点就是你要把你的这个 system 的 部分和这个 tool 的 定义都作为一个只读的前缀, ok, 对, 然后这个东西一定是大家共享的,不变的动态的内容一定是放到后面,而且你最好是通过一些 catch control 这个断点啊,把它分层, 这样的话可以最大化的去复用。所以结构的分层和这个内容的隔离其实是很重要的,那就是说这个缓存的键的设计和这个更新的机制也是非常有讲究的,对吧?对,就是缓存的这个键, 你要能够去精准的区分不同的用户,不同的绘画,包括你要去有一些敏感的信息,你要能够去识别出来,不要放到这个共享的缓存里面, 你的这个缓存的更新,你要能够去支持这种版本化的管理和这种主动的失效,甚至你可能需要有一些这种多级的缓存和这个羽翼的解锁,你才能够去扛住这种高病发。你的这个监控一定是要覆盖到这个命中率啊, 延迟啊,包括这个存储的使用啊等等这些关键的指标,你才能够真正的让这个架构是安全的,是高效的。说的很详细啊,那我们就想请你聊一聊,在你看来,要想做好这个 prompt cashing 的 这个状态管理和这个更新的机制,哪些原则是最核心的? 就是我觉得要让这个 catching 真正的有效,你最核心的就是要把你的这个 system 和这个 tool 的 这个定义作为一个只读的头部,然后永远都不要去动态地修改它,所有的变化的部分都应该通过 user message 或者是 tool result 这种方式来进行一个追加, 这样的话你才能够保证这个缓存的这个前缀它是稳定的,可以被附用到的。哦,原来是要彻底的隔离这个静态和动态的内容,对,而且就是这个缓存的更新,你要能够去支持这种版本化的管理和这种主动的失效, 对,就是你可以通过比如说这个模型的版本,或者是这个工具的版本作为这个缓存的键的一部分,然后配合上这种事件驱动的这种机制,可以去批量的清除, 或者是说你可以定期的去扫描,加上这种 t t l, 你 可以去设置不同的这个缓存的时间。对于不同的内容,包括你可能需要有一些这种对于敏感信息的一些特殊的处理,就是你要能够保证这个数据的安全性和这个时效性是同时都可以做到的。 好的,那我们最后一个话题就是在实际生产环境当中,要想做好这个 prompt caching 的 监控和评估,有哪些关键的指标是我们必须要关注的?首先最核心的就是你要去追踪这个缓存的命中率, 这个是你要去追踪的一个核心的指标。然后这个命中率我们一般的话是要保证在百分之六十以上,如果是那种特别特别高病发的场景的话,可能要到百分之九十以上你才算是 ok 的。 哦。那除了命中率之外,还有哪些指标是我们必须要关注的? 还要看这个平均的缓存的延迟,这个一般的话我们是要控制在五毫秒以内,你才能够保证说你的这个整体的性能是没有被拖累的。哦,原来还需要关注这个存储的使用情况,对,当然啊,就是你这个存储的用量不能超过这个系统的这个上限, 比如说你的内存,或者说你的这个 register 的 这个实力,它的这个上限,然后配合上一些这种告警的规则,比如说你的命中率下降了, 或者说你的这个延迟突然之间飙升了,或者说你的这个存储的用量快要满了等等的一些情况,你可以去及时的发现说, ok, 我 这个系统是不是出现了一些问题?对了,还有个问题就是怎么去评估这个缓存带来的实际的收益呢?你可以去做一些这种缓存的预热, 就是在上线之前把一些热门的内容提前加载进去,你可以去做一些这种 a b 测试对比,有缓存和无缓存的效果, 最终你可以去准确地评估说, ok, 我 这个缓存到底给我带来了多少的收益?今天我们把这个缓存的这个架构的设计的一些细节和一些最佳实践都给大家聊了一遍,嗯,对, 然后也希望能够激发大家去尝试着在自己的这个 agent 当中去应用这些思路。嗯,对。好了,这就是本期节目了,感谢大家的收听,咱们下期再见,拜拜。拜拜。

为什么我们要做 tool routing? 做 agent 的 都知道 memory 容量是有限的,这样设计的好处是清量高效。但问题也很明显, agent 经常不知道该用什么工具, 比如搜索 brave, search 和 table, 什么时候用哪个 agent 根本分不清。再比如抓取 web 下划线 extract 和 crawl 四 ai, 该用 crawl 四 ai 的 时候用了 web 下划线 extract, 效率直接砍半。 更烦人的是,昨天还能完成的任务,今天突然说实现不了了。所以我们做了 tool routing, 它是一个轻量的技能路由系统帮 agent 在 工具选择时做出更准确的判断。 它通过结构化的工具描述和清晰的使用规则,让 agent 知道什么时候该用什么工具。 用了 tool routing 之后,工具选择有据可依,效率明显提升,昨天能做的,今天照样能做。如果你也有类似的工具选择困扰,推荐试试这个方案。

今天要分享的是 ai agent, 网络上那么多视频讲 ai 做出来的代码多好, ai 有 多聪明,但是 ai 大 模型实际上只能一问一答,它输出的始终只是符号, 它不能修改你的文件,无法在碰到问题时自动思考。而 ai 能实现修改文件和重复思考的操作,就是依赖 agent。 就 像许多视频里讲的, cloud code 其实就是一种 agent。 那 么 agent 是 如何让 ai 实现重复思考的呢? 前面我们学 ai 的 本质上还是一问一答,而 aint 让 ai 能实现重复思考,就是用自我提问, 它让 ai 碰到问题时能自动生成问题,然后回答,这样就实现了 ai 重复思考,省略了你反复提问的繁琐步骤。一句话总结, aint 就是 ai 模型的手脚和大脑控制器手脚给 ai 做戏的能力,大脑控制器给 ai 解决复杂问题的能力。

大家好,我是大叔,只说真话,只做实在事,只给干货。最近有一款 ai 软件非常火,那就是 hermes 爱马仕,目前在开源 get 代码仓库史大叔已超十三万,收到很多粉丝反馈想要 hermes 的 相关教程,我觉得这个需求很合理,毕竟这么火的项目, 所以我决定先从安装开始,带着大家上手。今天这期视频教你两分钟内完成安装,一行命令搞定所有配置,零手动操作,支持四个以上的三大核心优势, 第一,一键安装单行命令,完成缩配置,无需手动依赖,两分钟即可使用。第二,自动依赖管理,自动检测并安装包括 python、 三点一、 no djs v 二二、 rip group、 fmpag 等全部自动配置。 第三,跨平台支持完美支持 linux、 macos、 wsl、 安卓的 timax windows 需通过 wsl 运行。为什么选择 hermes, 开箱即用零配置启动,对开发者非常友好。那具体怎么安装,直接上干货 来看看快速安装的步骤,适用于 linux、 macos 和 wsl。 二、只需一行命令就可以快速部署 在终端中输入使用 curl 命令加 fssl 参数,从 raw database content com 再入脚本,路径是 news research 组织的 hermes agent 项目 main 分 之下 scripts 文件夹里的 install or search, 用管道符连接到 bash 执行这个命令会做五件事,第一,一、 自动检测系统,识别 linux, mac os 或 w s l two。 第二,安装所有依赖 padlock j s ripgrab f f m p g。 第三,克隆代码仓库获取最新版本。第四,设置虚拟环境,用 u v 创建隔离的 padlock 环境。第五,配置全举命令和 miss, 可直接在任何位置使用唯一前置条件,确保已安装 git 运行 get 加双横杠默认验证或直接输入 get 看反应给大家看我 mac 上的安装过程,就像截图显示的命令,执行后自动下载,依赖耐心的耐就行,整个过程顺利无报错,跑完就安装成功。另外安卓的手机也支持,咱们往下看 hermes 现已支持安卓的设备使用相同安装命令, 安装器会自动检测 tmux 环境,有六个特性,第一,自动检测 tmux 切换到 android 的 专用流程。第二, tmux 包管理,用 pkg 安装 git, python, dot、 node, heap、 grab, fmpg 等系统依赖。第三,虚拟环境创建,用 python 的 虚拟环境名称。 第四,自动导出 api 级别,设置环境变量。第五,专属扩展包安装,测试过的 tmux 额外依赖。第六,跳过未测试功能,默认跳过浏览器和 whatsapp, 这样更稳定。如需完整功能,参考专门指南安卓的问题解决。 接下来聊聊安装布局细节。安装布局有两种模式,根据全线不同路径有所区别。第一种是普通用户模式,也叫 perisal 模式,代码装在用户目录下波浪线斜钢点 hermes, 里面是 hermes agent, 指目录 hermes 命令快捷方式在波浪线斜钢点 local 斜钢并任何地方都能直接敲 hermes 命令,配置数据都存在波浪线斜钢点 hermes 目录里。 第二种是 root 模式,用管理员权限安装,代码放在系统及目录斜杠 arthur、 斜杠 local 斜杠 labi 斜杠 hermes agent 目录命令在斜杠 arthur 斜杠 local 斜刚,并数据目录默认在斜高 to 斜刚点 hermes, 也可通过 hermes home 环境变量改位置。如何选择普通用户模式,适合个人使用,推荐 root 模式,适合共享机器一次安装供所有用户使用。注意每个用户的默认目录下的波浪线斜刚点 隐私互不影响。如需 root 模式命令前加速的用管理员权限运行,安装搞定。接下来看看怎么配置和使用。安装完成后,按以下步骤配置和启动。第一步,重新加载 shell, 让新命令生效。 bay 用户运行 sources 波浪线斜钢点 bashter style zsa 用户运行 source 波浪线斜钢点 z h r c 简单来说就是刷新终端环境。第二步,开始聊天,直接输入 hermes 就 能启动 hermes agent 开始对话。第三步,个性化配置几个常用命令,第一个, hermes model, 选择 l o m 提供商合模型,比如 open router, anthropomorphic, open ai 等。 第二个, hermes tools, 配置起用的工具,比如文件操作、网页浏览、代码执行等。第三个, hermes gateway setup, 设置消息平台,比如电报, discord, whatsapp 等通讯平台。 第四个, hermes configset 的 设置单个配置项,比如设置 api 密钥,后面跟上配置名和密钥值。第五个, hermes setup, 运行完整配置项,导 一次性配置所有内容。这几个命令都很实用,建议根据需求配置。使用中遇到问题咱们有解决办法。遇到问题这里有解决方案。常见问题三个,第一个, hermes command not found, 找不到命令。解决方法,重新加载 excel 波浪线斜杠 d s a 或检查 path 环境变量,看看 hermes 路径有没有加进去。 第二个, api key not set, api 密钥没设置。解决方法,运行 hermes model, 选择模型提供商或用 hermes config set 设置密钥,后面跟上 openroute api key 和密钥值。第三个, missing config after update 更新后配置丢失解决方法,运行 hermes config check 检查配置状态, 然后运行 hermes config migrate 迁移就配置到新格式。还有一个高级诊断工具,运行 hermes doc, 它会精确告诉你缺少什么以及如何修复。有三个特点,第一,自动检测,检查所有依赖和配置。第二,详细报告显示每个主键状态修复建议提供具体解决步骤,非常好用,遇到问题时先跑这个命令。 今天的教程差不多就这些,最后简单总结回顾一下 hermes 的 核心亮点,一键安装、自动配置、跨平台支持、即刻可用。这四个特点让 hermes 成为易上手的 ai 助手框架,想立即体验,直接用这一行命令。使用 kol 从开源 get 代码仓库下载脚本, 通过管道符连接 bios 执行,自动完成安装,两分钟后就能开始你的 ai 助手之旅。如果觉得本教程有帮助,请点赞、收藏、分享,感谢观看,我们下期再见!

有一款开源应用,它的开发者不用任何代码编辑器,完全用 ai agent 来写自己的代码。这就是 craft agents。 今天 github 热榜上一天涨了四百多颗 star, 一个真正的 agent 原声桌面应用。现在最强的 ai agent 都在终端里跑, 连个 m c p server 要手写 g s o m 加个新工具,还得重启好几个任务同时跑,根本分不清哪个在做啥。这不是效率问题,这是体验问题。底层是两套 s d k 并行跑, cloud agent s d k 接 entropic open router 和四百多种模型 pi s d k 接 google ai studio chat。 gpt plus 和 github co pilot 已经适配了最新的 gpt。 五点五和 deepseek 全线控制也很聪明。三档模式用 shift 加 tab, 实时切换所有凭证,本地 aes 二五六加密存储,这是最离谱的功能。 你只要跟 agent 说一句,帮我加上 linear, 他 自己去找公开 a p i 读文档,拿凭证配好一切零配置文件零重启,已经有 m c p john 的, 直接粘贴就行,要是服务连 a p i 都没有。他内置了一个完整的 chromium 浏览器, agent 自己打开网页,登录填表提取数据。自动化这块也很强, chrome 定时标签触发工具调用触发,用自然语言就能定义规则。 agent 在 后台跑长任务,你该干啥干啥,跑完了通知你。 多绘画,像收件箱一样管理每个绘画,保持完整历史,配合三档权限, explorer 模式只看不改, auto 模式放手让它干,它还能部署到远程服务器。当无头服务跑,桌面应用变成售客户端,通过 web socket 连上去,支持 t l s 加密和 docker 部署 团队合作的时候, agent 的 每一步决策过程都能附加到 p r 和 issue 里,别人看到的是完整的思考链路。不只是最终代码, 企业内部的各种系统,不管有没有 a p i, 它都能连上 craft agents。 apache 二点零开源协议完全免费,五千多颗 star 还在持续增长, agent 原声多模型零配置。关注我,下期继续带你发现宝藏开源项目。