兄弟们,你们要的利用网页转 a b i 接入 hermes 调用工具指南来了。如果是 windows 用户安装这个 excel, 安装完之后点击打开,首先就是我们选择了这个模型,本身就要具备调用工具的能力, 也就是我们的 function q 的 能力,点右侧这三个点,然后进到我们的管理模型里面,看看我们所接入的这些模型是否都是具备调用工具能力的。然后就点到我们的模型管理里面的最后一个工具调用,这里我们来看看。这里已经给我们设置好了一些可以注入提示词的一种 工具调用的方式,注入配置这里我们也可以选是始终注入还是根据他自己的判断来注入,这里我选择的是始终注入。协议的格式也有两种,一种是括号的格式,一种是我们的 xml 的 格式,括号的格式的话就稍微要通用一些,而 xml 的 格式的话就更加严谨一些。 这里的话我们把起用工具调用的解析开关打开,那关键的就是这个地方的提示词设置,这里的话我们根据自己的要求去把工具调用的这个提示词给它粘贴上去, 然后点击保存。那现在来到我们的 house 里面,我们只需要修改一下配置文件,让他去主动去理解 x m l 传过来的一些工具调用的指令,然后他就可以去执行了。这里我们拿个例子来演示一下, 还是查看我们当前的本机上的桌面有哪些文件。见证奇迹的时刻到了,很快他就正确的查出了我们整个桌面上的目录,调用了我们查询目录的工具。
粉丝8959获赞3.3万

今天这款 home 软件,小白也能一分钟极速搞定,没错,不用手动改代码,不用反复调参数,还在为复杂的软件安装步骤头大,双击安装包,跟着提示点下一步,全程傻瓜式操作, 眨眼功夫就能完成安装。焊配置安装完成直接用 正面简洁明的功能一目了然,新手也能秒上手,告别繁琐,拒绝折腾,一分钟拥有高效办公神器,还等什么,赶紧跟着视频试试吧! 这里就是开始配置参数,都是图形好设计,直接点继续大模型配置界面可以接入本地大模型,也可以是 pi 形式,如果列表没有,就选择 custom open ai compatible 自定义模型,输入了 pikey 还访问地址。我用的是小米大模型,直接粘贴复制了 工作区,可以修改或者默认都可,但是默认模型必须修改为你自己厂商的模型名称, 根据自己需要一般跳过即可。这就完成了所有参数设置,接下来就可以尽情享用吧! 演示一个连接微信教程,点击连接找到连接微信,点击配置, 再点击获取二维码,然后用手机扫码即可。 再点击测试连接即可。用微信发消息回复一个验证码,直接发给大模型即可。配对成功或者告诉黑莓所不需要验证码验证配置,直接修改为不需要验证码验证即可。连接 小伙伴们赶紧入群下载安装包吧!群里有下载链接地址。

你有没有过用大模型?刚聊没几句,就弹出提示说 token 不 足,要充值。我身边好几个做开发的朋友,上个月光给终端用的大模型充 token 就 花了一千多,直呼现在用 ai 的 成本越来越高,觉得有用的话先点个赞加关注,咱们马上说一款能帮你最多省九十九 token 的 开源神器, 哪怕你是零基础小白,也能快速上手。先给不懂的朋友解释一句, token 就是 大模型计算消耗的单位,相当于你跟大模型聊天的流量,用多少就扣多少,超了就得额外充钱,是咱们用大模型最主要的成本来源。 今天说的这款开源插件,是专门给 hermes 终端做的增强外挂。 hermes 终端就是你电脑上的命令行窗口,不管是 windows、 苹果还是 linux 系统都有。很多人用 hermes 大 模型的时候,都是在这个窗口里输指令。 原来用 hermes 大 模型的时候,它输出的运行日制执行结果动不动就几十上百行,这里面大部分都是没用的域域,白白花钱。这个插件就相当于给大模型请了个专属助理, 第一步,先把没用的噪音内容全部过滤掉。第二步,把剩下的有效信息套进固定模板,压缩成短频块的技术化内容。原来几十行的内容可能就缩成两三行,自然就省了大量 token。 官方公开的技术分享里说,这款插件最高能省九十九的 token, 最低也能省九百分之效果,实打实的, 你完全不用担心自己不会写过滤规则。插件装完就自带了一堆现成的场景模板,像代码托管、代码测试笔记、财务办公套件,这些常用的场景都覆盖到了,开箱就能用, 尤其适合平时经常用 hermes 做开发。看日制管理代码仓库的朋友,不仅省了偷看成本,还不用自己在一大堆输出里找重点,省了超多时间。说到这,有没有平时经常用终端大模型的朋友?有的话可以在评论区扣个一,看看咱们有多少同行。 接下来大家最关心的安装问题,我也给大家理清楚了,全系统都兼容,基本零门槛,苹果和 linux 系统最简单,官方自带一键安装脚本,你下载好项目,压缩包解压之后,打开终端进入对应文件夹,先给脚本开个运行权限,再执行安装就行,基本不会出问题, 要是操作不熟,随便找个大模型问一下就能搞定。 windows 系统也有专门兼容的一键安装脚本,不管你装没装 linux 子系统,都能用。把压缩包解压到桌面,用管理员身份打开命令行窗口,进入解压后的文件夹运行安装脚本, 等个几分钟就能装完。装完之后怎么用才能真的省 token? 其实特别简单,前三次跟 hermes 智能体对话的时候,加一句固定提示,说要优先返回最短的结构化摘药,不要输出永长的原始内容。 发三次以上大模型自己就会记住这个习惯,后面不用每次说,它也会自动按 token 的 方式输出。这里也要跟大家说清楚局限性,目前这款插件只支持 hermes 智能体,其他同类型的项目还在适配中,作者已经公开说了,后续会做,到时候我也会第一时间分享给大家, 对了,也要跟大家说一下,现在的内容是基于公开分享整理的,因为解锁工具限流,后续我会补充实测数据项目的代码、仓库地址,还有其他同类型 token 优化工具的对比,感兴趣的可以蹲一波更新。 现在正在用 hermes 终端的朋友可以先试试安装,实测一下自己常用的场景能省多少 token, 记得前三次对话主动加上省流提示,能更快固化输出习惯。 今天的核心内容其实很简单,这款针对 hermes 终端的开源插件,能帮你省百分之九十到九十九的投坑成本,安装使用都没有门槛,非常适合终端大模型的高频用户。 后面我也会做不同场景的实测,看看实际用下来到底能省多少钱。想看的朋友记得留意我的更新。今天的内容就分享到这里了,如果你觉得有收获的话,记得点赞加关注哦!

你的 openclaw 和 hermes 还在花钱调用大模型的 a p i 吗?今天我教你用零成本本地部署奥拉玛,在你的电脑上直接跑大模型,还能无缝对接 openclaw 和 hermes, 实现免费玩 ai 智能题工具。首先介绍一下欧拉玛,什么是欧拉玛呢?欧拉玛是目前最简单的本地模型工具,在 windows、 mac 和 linux 上都支持,几分钟就能装好,八 g 内存就能跑。当然了,还是建议最少要安装十六 g 内存, 这样体验起来更加流畅。如果有英伟达的显卡,还能够使用 g p u 加速。了解完了欧拉玛是什么之后,我们来看一下欧拉玛如何安装。首先我们要访问欧拉玛的官网欧拉玛点 com, 它的首页是 一个羊驼抱着一个龙虾,下面的英文是 power open claw with ollama, 中文的意思就是使用 ollama 为龙虾赋能,从这一点我们就能看出它是全面的拥抱和支持 open claw 了。这也是为什么今天我要在 open claw 的 专栏里专门做一期 ollama 视频的原因。 废话不多说了,首先要下载欧拉玛,点击右上角的 download, 这里我们可以看到它有 mac os、 linux, windows 的 下载方式自动已经给我们定位到了 windows, 点击这个黑色的 download for windows 按钮, 就会弹出下载框,点击另存为保存,有点大,两个 g, 这个网速非常感人,所以我建议大家用迅雷来下载。 我们已经下载完了欧拉玛的这个安装包,下面我们就开始安装欧拉玛的安装有一个问题,就是它没有让你选择 需要安装的文件夹这个选项,它默认是安装到我们的 c 盘 user 底下的,如果你想安装到指定的文件夹,那你需要换一种方式,我们先把这个安装过程停止。 我们找到拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇拇 斜杠 d i r 等于这里写上我们的安装地址,也就是记盘的欧拉玛文件夹。打回车就跳出来安装界面,我们点击安装,大家可以看这里已经安装到记盘的欧拉玛这个文件夹下面。 进了这个界面,就代表着欧拉玛已经成功安装并且启动了。安装好了欧拉玛,我们再来看如何下载模型。在欧拉玛的网站上点击这个 models, 就 可以进入模型列表,这里都是可以使用欧拉玛直接下载使用的模型。我们来找一下 谷歌的 jam 四,这个是最近小模型中比较好的,可以通过这一句欧拉玛 ram 四来进行下载。 输入奥拉玛 ram 捷摩斯回车运行。安装完了,我们来跟他说一句话试试。我们在这里输入一个,你好打个回车。 好的,扎马四已经回复了我们,虽然有点慢,但那是我电脑性能的问题。大家可以看到现在已经成功地让大模型在我们的电脑上运行起来了。再下一步我们就来看如何把欧拉玛接入到 open cloud 中。 ctrl d, 我 们来退出欧拉玛,然后输入 openclaw config, 进入 openclaw 的 设置,这个我们直接选择本地运行,这个我们选择第二个 model, 打回车进入,然后我们要在这里找欧拉玛, 这个就是欧拉玛提示我们欧拉玛不可用。我们来重新编辑一下 openclaw 的 配置文件。 openclaw 的 jason, 这个就是 openclaw 的 配置文件。我们来找一下 allow 这一项,这里就是扩展的 allow 这一项,我们要在这里添加上 alama。 我 们来运行 openclaw config 来设置 openclaw 的 大模型。 选择默认的本地模式,这个我们选择第二项 model, 就是 设置模型,这个是选择模型的提供商,我们来找一下 alama, 这个是询问我们选择云服务还是本地模式。我们选择最后一个本地模式,这个是欧拉玛默认的 b、 c、 l。 回车,这个是有哪些可用的模型?只有一个,我们按空格选中回车确认 提示,我们已经把模型信息写入了配置文件,我们退出。我们回到 open 可乐,这里是我们 问了 openclaw 一 句你使用的什么模型,他们回,他回答,我使用的是谷歌的伽马四。我们这次的 olamata 下载安装以及安装模型,以及如何在 openclaw 中使用 olamata 模型。到这里就结束了,关注,我每次 都给大家带来一个 ai 的 新知识,感谢大家的观看,再见。

兄弟们,你们要的在 hermes engine 中用网页大模型代替我们 api 的 解决方法来了,下面我们用一分钟的时间来实操一下 windows 用户的话,得到这个 excel 的 文件安装包,直接安装好的话,主界面就这样了, 我们在设置里面把它的文字改为简体中文,然后再点击供应商,这里我们添加一个单元格型,这里我就以字谱为例,选择之后直接点下一步,然后点击 os 登录方式,打开 os 登录,然后我们就像以前登录字谱的官网一样去登录它就完了。登录好了之后,我们就点击添加账号,相当于现在已经有一个 字谱的账号在这里了。然后点击左侧菜单栏,点击代理设置里绑定地址的话,如果是自己用,那就按着这个上面默认的就可以更改。然后点左侧菜单栏的 api key, 我们打开认证,新建一个 api king, 这里的名称和 king 可以 自动生成就可以,然后我们接入 api 的 base url 的 话就填上面那个, 然后模型名称填下面那个,那么这里面的所有的操作我这里都已经整理成了一份指南,如果大家有需要的话可以在评论区留言。接着我们打开我们的 harmony, 然后这里面输入 harmony 默认,接着我们往下翻一翻,找到自定义接入 api 的 方式,然后点击进去,然后我们把我们刚才的 s、 u、 r、 l 复制过来,然后下面把 api king 也给复制过来,然后这里点击回车,然后我们查看一下所有的可用 api 列表,好,这里发现智普的 g、 r、 m 这里都有了。

哈喽大家好,欢迎来到今天的解析。今天咱们要聊点齐齐用核,同时也绝对会让你眼前一亮的东西, hermes agent。 它可不是市面上那种普普通通的云端工具,而是一个能直接在你本地电脑上运行,并且会随着你的工作流不断自我进化的全自主性 ai 助手。 如果你一直在苦苦寻找一个能真正成为你左膀右臂的数字员工,那么今天的内容绝对不容错过。接下来几分钟,我们会来一次纯干货的零基础到高阶演练, 内容包含了 hermes agent 简介、环境检查与安装、首次启动配置、核心工具演示、进阶的技能提取与定时任务。最后是一个快速的总结和资源分享。咱们直接进入第一部分,先来聊聊 hermes agent 的 核心承诺,看看它到底凭什么与众不同。 大家可能用过像 openclo 这样的框架对吧?他们基本上采取的是一种网关邮件的设计,主要就是帮你连接到各大平台。但是 hermes agent 采用了截然不同的架构哲学,叫做 agent 循环邮件。这意味着什么呢?也就是说,它其实是一个闭环的学习系统,它不仅仅是个指挥死板、执行命令的机器, 它是真的能记住你的工作流,利用底层的持久化记忆系统,你每使用它一次,它都会在暗中学习,变得越来越聪明,越来越懂你。 第二部分,咱们得打好基础,一起来做一下环境检查和安装。在咱们真正敲击键盘运行代码之前,你得先确保电脑上准备好了这几样基础组建。首先排版必须是三点幺幺或以上的版本,其次是 note g s 的 v 二版本,当然还有不可或缺的 get。 这里要特别给用 windows 的 朋友提个大大的醒啊,原生的 windows 环境是没法直接跑的,你必须得提前配置好 w s 幺二,也就是那个 linux 子系统。这是硬性要求。 把前置环境搞定之后,安装其实特别轻松,简直就是秒级部署。你只需要在终端里跑一下官方提供的这行科询告脚本,它就会极其聪明地帮你把所有依赖都搞定。 不过呢,这里有个新手特别容易踩的坑,装完之后千万千万记得运行 source c capture, 刷新一下你的使用环境,不然的话,你的系统压根就不认识这个刚安装的新命令,直接给你甩的报错,那多扫兴啊! 环境就绪,咱们趁热打铁进入第三部分,首次启动与配置。在选择背后的大脑,也就是模型提供商的时候, hermes 给了你可以说是随心所欲的自由度。 想省事的极其推荐走 open routing, 只要一把 api 密钥,就能在各大顶尖与模型之间智能穿梭。当然,你也可以直接连 anthropic 的 cloud 训练。 但最爽的其实是,如果你自己本地算力扛得住,或者你对数据隐私有极高的要求,你完全可以通过填一个 base url, 无缝接入欧拉玛或者是 vlm。 知道这意味着什么吗?这意味着纯正的零 a p i 成本,纯本地运行,就算你把网线拔了,它照样能跑。你的数据永远安全地锁在你的硬盘里, 那怎么启动呢?完全由你做主。如果你是个急客,喜欢敲命令,直接输入 hermes 秒进一个纯命令行的交互界面。但如果你跟我一样,有时候就想点点鼠标图个直观,那你就敲 hermes dashboard, 它马上会在你本地的九一一九端口弹出一个极简美观的 web 面板。在那个网页里,什么模型、网关啊, api 密钥啊,点几下鼠标就全都配好了。 第四部分,到了真正见证魔法的时刻了。核心工具演示说真的,很多人刚开始用这种能操控本地电脑的 ai 时,心里都在打鼓,我直接用大白话让 ai 动我的文件系统,这真的安全吗?万一他脑子一热,敲错个命令,把我系统文件删了怎么办? ai 到底是怎么做到把咱们随便敲的一句聊天指令,安全无误地转化成终端命令或者文件修改的呢?其实这背后的定海神针就是智能审批系统加上隔离容器, hermes 绝对不会像无头苍蝇一样乱敲键盘。比如说,你让他执行个简单的 ios 命令,看看目录或者更复杂的文件,读写 它内部的语言模型。辅助评估机制会先像个安检员一样,对你的命令进行极其严格的安全审查。更绝的是,这一切都是在一个完全隔离的沙盒容器里执行的。它能精准做事,但绝对跨不过雷池半步,所以你完全可以把它当成你双手的一个极度安全的数字延伸。 接下来进入第五部分,这也是他真正的杀手锏,进阶的技能提取与定时任务。我们来看看这个所谓的技能自我提升闭环,到底是怎么颠覆工作流的。 这个过程有点像你带个徒弟,首先, hermes 会去执行一项复杂任务,跑完之后,他会自动评估自己干得漂不漂亮。一旦他确认任务成功了,最精彩的来了,他会自动把刚才摸索出来的操作提取成一套标准流程,取个名字,然后存成一个 markdown 格式的技能文件。 下次你再让他干类似的活儿,他直接秒调用这个技能文件,完全不需要重新摸索。这就是他越用越懂你的底层秘密。 那么,如果你把这些他自己摸索出来的武功秘籍,跟 chrome 这个 unix 系统里的定时任务调度神器结合起来,会发生什么?这就相当于你给他排了个班表, 你可以让 hermes 在 后台全自动完全独立地去跑那些极其耗时的复杂任务。无论是半夜偷偷备份,还是每天早上准点拉取最新数据,写好日报,他全包了,你彻底解放双手。 不知不觉了了这么多,咱们进入最后一部分总结与资源,咱们快速盘一下今天的硬核干货。它的安装几奇几简,一行课本全搞定,模型选择异常自由,本地云端通吃,而且自带 f t s five。 持久化记忆,是个真正能陪你一起进化的闭环 ai。 在节目的最后,我想留给大家一个真正值得思考的问题,如果有一天,你最依赖的生产力工具,它不仅能秒懂你的命令,还会主动观察你的操作习惯,甚至自己给自己编辑操作手册,那你每天的日常工作流会被重塑成什么样? 这种每天都在悄悄进化的 ai 写作者,你准备好迎接它吗?非常感谢大家的收看,咱们下次解析不见不散!

一个视频咱们来解决新手小白好几个月都解决不了的问题啊。 opencore 也好, hardware agent 也好,扣代斯可洛克扣的也好,是不是困扰你的就是 api 配置大模型更换的问题啊?你连 cc switch 都不知道,那么你只能多走很多弯路了。

大家好,我是麦东。 hermes 零点一四版本终于带来了一个大家期待了很久的更新, hermes engine 终于原生支持在 windows 上安装了。 之前想在 windows 上用 hermes, 我 们必须先通过 wsl 搞一个 linux 子系统,对于很多技术小白来说,这个门槛儿就把它们给挡住了。 现在零点一四版本开始,我们通过 cmd 或者是 power xl 运行一条命令就可以直接安装 harms 了,不再需要 wsl 了。而且这次还多了一个更简单的安装方式,通过 pip 命令即可安装,对于本地已经有拍摄环境的朋友来说还是非常友好的好。下面我们来看一下具体怎么安装。 首先第一种方式,通过 power 线安装脚板,我们只需要打开 power 线,运行如下这条命令即可,这个脚板会自动帮你装好所有的依赖,包括 uv 包管理器, python, node js, rip group, ffm pack 等等。如果你电脑上没有 get, 它还会自动去下载一个。 这是第一种方式,通过一键脚本进行安装。第二种方式,我们还可以通过 p i p 安装,如果你电脑上已经有拍摄环境,那么我们直接运行 p i p install harmony engine 即可完成安装。 安装完成之后,所有的 harmony meaning 跟之前都是一样的,这个方式呢,更加简洁,适合本地已经有拍摄开发环境的同学。好,下面我们打开发校给大家演示一下完整流程。 我们还是使用官方的一键安装脚板进行安装,直接将一键安装脚板粘贴至发光效果,按下回车可以看到它在检测系统环境,然后依次安装各个依赖。这边需要注意的是,如果你的网络环境不太好,可能需要稍微多等一会, 只要安装脚板没有报错结束,那么就不用管它,耐心等待即可。 安装脚本自动帮我们启动了触式外的配置。首先第一步依然还是会检测你当前电脑上有没有装过 openclaw, 如果有,它会提示你是否需要导入 openclaw 相关的配置, 我们可以输入 y 确定导入。 ok, 接下来开始配置 harmony, 这边我们直接按下回车,选择 quick setup, 到了选择模型这一步了, 本次演示我们就以大家用的比较多的 dsp 为例,这边需要注意一下,之前我们无论是在 wsl、 macos 或者是 linux 安装在这一步配置模型的时候,我们都是可以通过方向键上下切换模型进行选择的,但是 windows 原声安装的时候目前是不支持这样设置的, 我们需要手动输入模型供应商前面的编号,再按下回车。可以看到 dsp 这边前面的编号是十七,我们输入十七 按下回车。接下来输入 deepsea 的 api key, 这边要注意一下,之前很多朋友在配置 api key 的 时候都会搞错,在 power 七二里面粘贴的动作不是通过 ctrl 加 v 完成的,而是通过鼠标右键, 鼠标右键一定也不要多点,点一下就行了,然后按下回车。接下来第二步配置 v c u r l 这个一般是不需要改的,直接按下回车。第三步就会让你选择默认模型了,我们这边选择 deepsea vs flush, 按下回车 ok, 模型就配置完成了。这一步是让你选择在哪里执行,后端我们直接默认回车即可在本地执行。 下一步就是配置消息对接平台了,这一步我们在本次视频里面就不做演示了,国内主流的消息平台对接我们在之前的视频里都有讲过,大家可以回过头去翻一下我前面的视频,我们选择二,暂时不配置消息平台,按下回车, ok, 配置完成。下面我们最好关闭当前的 power 界面,重新开启一个新的 power, 输入 harmony, 按下回车,打开对话界面,下面我们跟 harmony 打个招呼, ok, 可以 看到 harmony 已经给我们响应了,到这边我们的基础配置就已经完成了。需要注意的是,目前 harmony 的 原声 windows 安装还是处在早期 beta 阶段,可能还是会遇到一些小问题。官方在这个版本里面也修了四十多个 windows 相关的 bug, 但是呢,毕竟是第一个正式支持的版本, 遇到一些问题我们也可以去 github 上给官方提一些英雄。好了,本期视频到这边就要结束了,最后总结一下,如果你之前因为 wsl 的 门槛没用上哈密斯,那么现在可以去试一试了, 只需要通过一条命令即可完成安装。如果你本地有派生开发环境的话,通过 p i p 的 方式安装会更加的方便,不需要你再去折腾 linux 环境了。大家如果有在 windows 上已经安装了的,可以在评论区反馈一下体验怎么样?工具会变,但方法更重要,我是麦冬,下一条继续。

这是我是第一次安装这个和 miss, 然后前面的硬件安装都还没有什么大问题,还是很低啥的,根据豆包的指示一步一步操作就好了。 然后是这样的,我就是在基础环境都装好的情况下,就进入了那个 api 调用的环节了,然后呢,这个豆包给的 api 调用指示总是错的,还一个劲的绕圈子,搞得我就有点急了,我想这边走不通,就去千问那边问一问, 结果他这边显示的结果比这包好不到哪去,没办法就去各个视频平台去搜相关的安装教程。但是其实我的核心问题就是就是 api 调用总是显示出错,然后就收到一些视频,最直接的说是显示错误的有几种,包括四零零、四零一,四零三,就是说四百零一是认证错误, 四百是请求错误,四零四是 u l 错误。然后我对照了一下,我这边先是四百零一出了问题,然后按照豆包的操作解决了,后面就是四百的错误,按照豆包的操作一直就是显示有问题, 说我的亏单是不是不对,但是按照豆包的要求改又不对,最后也是迷迷糊糊的碰到一个关键点,就是所有的 home 是 安装 都可以直接在 word 里面输入 home inspector 指令,它就会自动检查哪地方的安装出了问题,最后显示我的 a、 p、 i、 o、 k 输入不对,问了豆包之后就明白怎么改了,结果就搞好了,还是很开心的,希望分享给大家。

这几天有小伙伴反馈用千万三点六呃,追买四,用了一段时间,大模型的响应就越来越慢,然后 agent 开始失忆,紧接着 tos 调用异常,最后直接卡死。 这种情况啊,大部分是不是模型不行,而是常对话的 token 爆了。大家好,我是根谷,今天教大家用一套本地的模型配置方法, 简单的调教好参数,从根源上控制头肯的消耗,让你的本地模型能稳定长时间运行。为什么你的这个长对话会爆头肯呢?不是你的模型不行啊,是上下文被撑爆了,是因为第一个就是每轮对话 都会追加上下文。 n 轮对话以后啊,这个系统提示加全部的历史,最后的新提问,头肯只会呈指数级的增加, 可以大家用一个公式去计算。二十人对话的话大概是会到五万,这个头肯直接会超限,所以说还有第二的话,就是你的兔耳是会输出炸弹,因为 m c p 啊,就是模型上下文的协议,他默认的是我这里配置的,默认是五万这个头肯,所以说一次就能占满上下文,这个地方我们可以通过配置文件去解决。 第三块就是 memory 无限堆积,因为有些人他用的是这个 skills 啊,特别是那些比较好的 skills, 他 会把所有的记忆体给你塞到上下文,所以说你的任务越长,他 token 累积越来越多。第四块就是 cost 啊, cost 这样一个隐形的消耗,也就是反思 是推理这个玩意,也是也是大量吃透根,却不产生直接的价值啊。解决的思路就是用四种方法去防止他的这个透根膨胀,第一个就自动的压缩这个历史对话,第二的话就控制这个拓式的输出长度,第三就是防止这个曼曼的无限堆积,最后就长时间稳定的运行。我们通过限制的轮数,包括这个最大的透根的 的限制,包括关闭这个这样一个 cost 啊,好,然后呢,我这里给大家举的例子就是我用的是这个呃 呃,这个 j m 四二十六 b a 四 b 的 it, 它是 f b 这样一个十六位的一个全量模型,大概是消耗我的内存,应该是二十六乘以四,大概是八十 g 左右,八十 g 以内的这样一个显存啊,其实这个模型已经非常强大了。首先我找到这样一个配置文件,这个配置文件就是在加载目录下 hammers config yum yum 这样一个文件,这个文件的话首先我要输,找到这个模型啊,我这里有三个模型,一个是 j 满四,一个是千问,还有一个是这个 gpt, 是 吧?这个模型为什么我设置六五五三六啊?这个你,你不设置这么多,你这个你这个嗨马斯就运行不起来,正常情况下我们应该设置一万二千个头啃, 所以说这第一步是骗这个 hammer 的 啊,这个倒没关系啊,好,这个是第一个配配置,第二的话就是在这个 a 检测里面有个叫 master, 默认的话,这个系统默认的话它是二十轮,二十轮其实有点大了,然后我们每轮配置的这样一个是这个就是最大的头啃啊,就是一万二,一万四都是可以的,如果他的这个 这个模型的参数最大的这个上下文累计到二十五万的时候,它就会爆头壳,所以说你一次性一万四的话,大概是要十次接近十次啊,就会把它撑爆,当然你说其实每次都没这么大,大概是几百个头壳嘛,所以说大概是两两百人左右,那它才会爆是吧? 所以说 max 的 pro mode 设置为一万二到一万四都是可以的,千万不要设置为两万三万啊,这个就会出问题的。那是第一个,第一个地方, 第二的话就是这个刚刚说的这个没有价值的东西,卡斯特,怎么怎么卡斯特了,这个玩意得给你关掉它去啊。这个这个玩意,这个玩意很恶心啊,就是我之前是没关掉他比较好。这个头肯 啊,就这个玩意,这个 enable, 把它变成 force, 默认他是 true 啊,这个没什么卵用啊。这个。然后第三个是最最关键的,就上下为压缩,如果这个系统发现我快要达到这个二十五万的时候,它会自动启动压缩,我们这个预值默认的是零点三或零点五都可以。当达到一万十二万的时候,它自动的启动压缩, 然后这个一个这个目标这个率的话默认的是三零点三,我们把它设置为零点一八,还有这个轮数我们设置为六轮,那就不要设置为二十轮,二十轮的话有点有,有点太长了,对吧? 好,这个地方这个配置是最最关键的。第三个就是我们把这个记忆体关掉,因为我这里用到了一个样式,就是我记忆体其实其实可以看的跟古老师的上一堂课啊,就是设文件啊,慢慢的这个文件去做记忆体配置,先不要在这里去弄啊,这个把它关掉,甚至你是自己去外接一个存储,这个,这个这个数据库都是可以的,把它关掉啊。 第三块就是这个拓式的 alt put, 这个也很恶心,因为你肯定是用了一些这个,呃,外外部的样式吗?对吧?他这个这个这个 输出他五万,那五万就直接把你五万还是五十万吧,应该默认的是个十百千五万,五万也太大了,因为设置为一万二千吧,对吧?五万的话你杀差不多三到四次调用这个工具的样式,你这个你这个内存啊,你这个透坑就承包了。好,你设置完了以后,这个 hammer 你 重启一下,就是 hammer, 是 吧?然后重启一下, 哎,这个就是可以了,对吧?好,可以了。以后我要假设我要做一个这样一个比较长的任务和一个比较比较复杂的任务,就是我用这样一个样式查询最近三天的 ai 新闻啊。它之前我没有做这个配置的话,它很快,大概是一两分钟它就会, 他就会承包。你可以看一下这里,我这里有一个这个 hammer 式的这样一个,是吧?然后到仪表盘里面,我把它变大一点,啊,这个你看到吗?他请求过来了,是吧?一个请求我可以把它放到这里来,是吧?哎,他已经调用了这个这个样式, 大概会到百分之七八十的时候,他就会输出这样一个新闻,是吧?他第二轮已经出来了,大概是 现在是六百七十四个头款,美版也是非常快。我,我这个这个电脑应该非常快,给大家看一下我的显存消耗,我这里显存消耗的话应该是,哎,五十七个 g 是 吧?接近六十个 g 了,六六十个 g 的 显存,所以说大家显存低的话还是玩不起这个追满四,那只能去老老实实的去用这个,呃, 千万三点六是吧?他当超出这个上下文的话,他就会去进行压缩啊,进行压缩, 如果不进行压缩的话,基本上这个就卡到这里就会死掉,基本上就会死掉。好,然后再回到这个这个 ppt 来。 好,这里也就是告诉二数人是非常大,大概率就叫爆,是吧?所以说我们设置为一万二千是比较合适的。还有地方去设置是这个玩意,这个地方有一个这个全局的设置,这个地方在 这个地方也需要设置一下啊,这个三万二千最大的上下网窗口,还有这个最大拓展,这里设置为四千多就好了,就这个是那个 ml, 是 这个,这个推力框架的配置啊。好,然后其他的地方这个都说了,是吧?压缩,这个把它关掉是吧?然后这个也关掉是吧?然后具体把它关掉。 有些人说我这个这里关掉了,会不会让他这个失忆啊?我觉得不会啊,因为你的失忆核心不是他核心的是我们的三个文件是吧?一个售文件,一个是 mami 的 文件,还有一个优者文件,这你可以翻一翻跟我老师的前面的课程,这个也是一定要一定要去设置的,这个不要设置太大,不要设置太太大, 最后就是在这里面的完整的这个地方,大家可以截图保存啊,把这些,这是针对 jama 四的这样一个二十六 b 的 模型的配置啊?就是我尝试调了很多次这样一个配置,像是比较好的,比较好的啊,其他的地方就应该没有什么了, 哎。然后这个地方可以大家看一下,刚刚这个东西它已经出来了,是吧?这是查到最近三天的这样一个新闻,它其实里面大概耗了也是有几万个 token 了,对吧?几万个 token 这堂课就分享到这里,你学会了吗?

大家好,前几期大家对 hermes agent 已经基本入门了,今天要跟大家讲解一下系统性的东西,也是它的核心点。内容包含主配置的关键配置,从 hermes slash 目录结构到 config org org md 的 核心设置, 一次性给大家讲透,咱们直接进入正题,先看看 hermes 的 配置目录结构,所有配置都存在波浪线斜钢 hermes 斜钢目录里,方便访问、管理和备份。这个目录下有几个核心文件,第一个是 config dot emo, 主配置文件管模型、终端 t t s 这些设置。 第二个是 ib 文件,存 a 片密钥和敏感信息。第三个是 author jon o o 凭证,比如 news portal 的 认证。第四个是 so dot md a 键的身份定义占系统提示的第一位。第五个是 memories 文件加持久化记忆,有 memory dot md 和 user dot md。 第六个是 skills 文件加管,定时任务 sessions 文件加管,网关绘画 logs 文件加存,自动脱敏的日制。 记住一点,所有配置都在波浪线斜杠 hermes 斜杠目录里,方便统一管理和备份。目录结构清楚了,那具体怎么管理这些配置? 接着看 hermes 的 配置管理命令,很方便。想看配置,在终端输入 hermes config 就 能看到当前所有配置。想编辑的话,输入 hermes config editor。 想设置配置,用 hermes config set kz 为 vl, 比如设模行为 anthropic 斜杠 cloudops 是。或者设中后端为 docker, 检查配置有没有缺失,跑一下 hermes config check, 想交互是添加缺失选项,用 hermes config me great。 设 api 密钥时,输入 hermes config set open router api k y k r 会自动存到 in v 文件里,这里有个很实用的特性叫智能路由。 hermes config set 命令 会自动把值存到正确的文件 a p i 密钥存到因微其他设置存到 config 的 emo, 这样就不用担心把密钥物写到配置文件里了。配置管理命令讲完了,那这些配置的优先级是怎样的?往下看。 hermes 的 配置优先级从高到低分四层, 第一层, client 参数优先,即最高,比如跑 hermes chat model enterprise, 斜杠 cloud sonit 四,这次调用会覆盖其他所有配置。第二层, config 到 emo 文件组,配置文件管所有非秘密设置。第三层, indiv 文件环境变量回退存必须的秘密信息向 api 密钥,令牌密码。第四层,内置默认值,啥都没设的时候会用硬编码的安全默认值。有个经验法则要记住秘密信息,比如 api 密钥, 机器人令牌密码放 indiv 文件,其它设置像模型终端后端压缩设置内存限制,工具级放 config 到 emo 文件,两者都设了的话,非秘密设置以 config 到 emo 为准。 另外, config edu 里可以用美元符号大括号 var name 引用环境变量。比如 auxiliary 的 vision 配置里 api key 设成美元符号 google api key base url 设成美元符号 custom vision url。 注意,只支持美元符号大括号 var 的 语法,不支持裸美元符号 var 优先即清楚了。接下来看看终端后端的配置。 hermes 支持七种终端后端决定 a 阵的需要,命令在哪执行。 第一种是 local, 直接在你机器上跑,没隔离,适合开发和个人用。第二种是兜客,在兜客容器里跑,完全隔离安全。沙乡环境。第三种是 s s 区,通过 s s h 连远程服务器, 跨网络边界,适合远程开发。第四种是 model model 云,沙乡云端虚拟机,适合临时计算。第五种是 dayton 的 dayton 的 工作区托管的云环境。第六种是 versa sandbox versa 沙乡云微虚拟机,支持快造词久化。第七种是 singularity 容器,适合高性能计算集群和共享机器。拿 docker 后端举例,你可以在 config dot emo 里配 docker image, 指定用 nicole 斜杠 python node js 冒号 python 三点一一 node js 二零镜像,还能配 docker forward env 转发还变量像 gitupoken 配 docker volumes, 把本地目录挂到容器里,还能设 container cpu, container memory 以及 container persistent, 要不要持久化?容器终端后端选好了,接下来看看记忆系统怎么配。 hermes 的 记忆系统得先分清记忆和技能这两个概念。 记忆存的是事实,向你的环境偏好项目位置, it 学到的关于你的事。技能存的是过程向多步骤工作流工具、特定指令可附用的配方。 简单说,记忆管是记忆性能或者什么。记忆系统有两个核心文件,第一个是 memory dot md 持久化记忆文件, memory enable 设为 true memory char limit, 设呃两千二百字,大概八百个 token。 第三是两千 dot md 用户档案文件 user profile enable 设为 true user char limit, 设一千三百七十五字符,大概五百个 token。 有 几个记忆管理技巧要知道,第一 记忆容量有限,大概两千两百字,幅满了 agent 会自动整合。第二,你可以跟 agent 说清理你的记忆或者替换旧的 python 三点九笔记,我们现在用三点一二。第三, productive session 结束后跟 agent 说,记住这个已被下次使用。第四记忆是冻结快照, session 里的改动要到下一个 session 才会在系统提示里出现 记忆。系统讲完了,接下来看看最重要的 so dot md 文件。 so dot md 是 agent 的 主要身份定义,占系统提示第一位,完全替换内置默认身份文件,位置在波浪线斜杠 hermit 斜杠 so dot md 或者美元符号 hermit home 斜杠 so dot md。 如果 so dot md 没了,空的货架再不了, hermes 会退回内置默认身份, hermes 会在文件不存在十自动生成默认的 so dot md。 你 可以编辑 so dot md 来自定义 a 键的身份。比如,你是个专业的 ai 助手,专注软件开发和技术咨询。性格特点包括耐心细致, 善于解释复杂概念,注重代码质量和使用实践,乐于学习和改进。专场领域包括 python、 javascript、 type script 开发、 devops 和云计算系统架构设计。 hermes 用两种不同的上下文范围,第一种是 soul md, agent 的 主要身份始终独立加载。第二种是项目上下文文件,像 hermes md 或 hermes md。 项目特定指令优先级最高。还有 agent start md 也是项目特定指令和编码约定,会递归便利目录以及 cloud dot md clock 的 上下文文件只在工作目录生效。注意,项目上下文文件用优先级,系统只加载一种类型,首 次匹配获胜。 so dot md 讲完了,最后看看技能系统,技能系统用来存过程性知识,什么时候该建技能,如果你发现一个要五步以上还会再做的任务,就让 agent 给他建个技能。比如你可以跟 agent 说,把你刚才做的纯成名叫 deploy staging 的 技能, 下次只要输入斜杠 deploy staging, agent 就 会夹在完整流程技能的位置。在波浪线斜杠、 hermes 斜杠、 skill 斜杠目录下,每个技能是个文件夹,里面有 skill dot md 文件和 scripts 子文件夹 技能。用 skill manage 工具管理, agent 创建的技能会自动存在 skills 目录里。技能有四个好处,第一,程序性记忆, agent 创建并附用的流程。第二,跨 session 持久化,所有 session 都能用。第三,自我改进, agent 用着用着会优化技能,一键调用书写纲, skill name 就 能快速执行。 核心内容讲完了,最后总结一下,回顾一下 harmony agent 配置的核心要点。第一,目录结构,所有配置存在波浪线斜杠、 harmonies 斜杠目录里包括 config comfy 等文件。第二,配置管理,用 hermes comfy 命令查看编辑和设置配置智能路由到正确文件。第三,优先级规则, client 参数优先级最高, 然后是 config comfy, 再是 in v, 最后室内自默认值。第四,七种终端后端按需选合适的。第五,记忆系统, memory dot md 存时是 user dot md 存用户档案,容量有限,但能管理。第六, stored md 定义, a 证的身份,占系统提示第一位,可完全自定义。 第七,技能系统纯过程性,支持五步以上任务键,一键技能支持一键调用。如果你再用 hermes agent 或打算部署 ai 助手,建议仔细看看官方文档,合理配置各个模块, 用起来会更稳定、更个性化。我是大叔,大实测验证并整理。如果你觉得这个配置指南有帮助有用,请点赞收藏,后续会持续更新 hermes agent 的 相关内容,感谢观看,咱们下期再见!

朋友问我,我的电脑配置是十六 g 的 内存,八 g 的 显存,能不能把大模型部署在本地?完全可以,并且部署后再也不用给我买 tucker。 今天我们来聊聊使用奥拉玛部署本地大模型。奥拉玛具有模型管理的功能,直接把免费模型拉到你本地,在你自己的电脑上跑起来,无需联网, 既不花钱,还保护了你的数据安全。下面直接开始安装,来到阿拉姆的官网,根据操作系统选择自己的版本,下载完成,按指引一步步安装。安装后我们点击这个小羊头的图标,从下了菜单看到可以选用的模型。十六 g 加八 g 的 电脑可以直接安装 七 b 的 模型,前文二七 b 或者 mr 七 b 就 可以配置更高,可以选更强大的模型。在终端使用命令进行下载, alama run 前文二七 b 下载完成,再次打开 alama, 从下到菜单,选用自己的模型,问他一句,嗨,你是谁? 马上回复他,就是你自己的私有 ai 了,再也不用被 api 收费绑架。接下来让 openklo 使用奥拉玛下载的模型,直接修改配置文件或者 openklo config, 选择本地网宽模型呢,就选择奥拉玛贝斯尔,而不用改。继续选 local 本地 模型文件就可以看到自己下载的模型并选用它。好了,现在你已经拥有免费的本地模型文件,就可以看到自己下载的模型并选用它。好了,现在你已经拥有免费的模型了。以后我们再分享各个聚合平台的免费方案,下次见。

兄弟们,利用小龙虾获得 hermes 批量生成 ai 漫剧的时代已经来了,以前我们无法利用小龙虾等这些顶级的 ai 智能体去帮我们去做一个完整的 ai 漫剧,是因为目前我们还没有发现任何一个操作 g u i 非常精准的 ai 顶级真体 ui, 随时都可能会调出一些广告弹窗等等,这些是我们 ai 所看不懂的,他不知道这个是对他来说有用还是没有用的,只不过我们最近开放了自己的 c 二 i 的 工具,有了这个命令行工具,那么我们不管是 house 还是我们的 open globe, 都能够直接畅通无阻地使用它, 一行命令就能把它安装起来,然后只需要授权一下就可以正常使用。功能跟我们在网页上操作积木是一样的,甚至有些功能还更全面一些。那么小龙虾如何去控制它呢?其实非常简单,当我们安装好的时候,我们的 skr 点 md 的 文件已经在我们电脑本地了,我们只需要把它传给小龙, 同时把我这篇命令行指南的文档一并传给小龙虾。为什么要传给他?因为目前疾风的这个 c i 的 命令还是刚出来不久,他还在不断的完善,不断的补充,那么我们需要一个类似于知识库的这个功能,帮他快速的去告诉小龙虾哪些是最新的一些命令行。 那他的核心的话,肯定是用文字或者图形去生成我们的图形和视频,比如纹身视频,这里我们除了可以设置他的 视频的时长,然后尺寸大小、分辨率以及人群次数之外,我们还可以指定是用哪一种大模型,比如说现在我们已经可以用到 sims 二点零的完整版以及它的 first, 根据这里的任务管理的命令,我们就可以通过像小龙虾去直接批量的去帮我们把生成好的视频图像进行一个分类标签画,这样就节省了我们大量的人工在现场去盯着生成好的视频图像进行一个分类标签画,这样就节省了我们大量的人工在现场去归类归等等一系列人物。

大家好,我是大叔,只说真话,只做实在事,只给干货。前几天有个粉丝私信我问,哈密斯的模型配置到底该怎么调,才能既聪明又不花冤枉钱? 我想着既然有人问,肯定不止他一个人想知道,干脆做个详细讲解,一次性说清楚。今天这期视频就带你搞懂哈密斯的双模型架构,让你的 a i a 键既聪明又省钱。咱们直接开始。 先说说 hermes 的 设计思路,它用了个双模型架构,把任务分成两类,第一类教主模型,你可以把它想象成 agent 的 大脑,所有用户消息、工具调用、循环流逝响应都靠它来处理。第二类是辅助模型,专门处理那些小活,比如上下文压缩、视觉分析、网页摘要、绘画、搜索等等,一共有八种任务。 你可能会问,干嘛要分开配?主要有三个好处是省钱,不是所有任务都得用昂贵的推理模型是快,简单任务用快速模型响应速度蹭蹭往上涨。三是灵活,每个任务独立配置,互不干扰。 models 页面分两块,上面是 model settings 就是 模型设置, 下面是 uc analytics, 使用统计 uc analytics 会显示每个模型的 token 消耗成本和能力徽章,帮你看看配置合不合理。接下来咱们看看怎么设置主模型。设置主模型其实挺简单的,第一步,在终端里输入 hermes dashboard, 回车打开 dashboard, 然后点侧边栏的 models 选项, 在 model settings 面板找到 may model 那 一行,点映制按钮,弹出选择器,左边显示你已经认证的 provider, 右边是这个 provider 推荐的模型列表,选一个你喜欢的点 switch 就 搞定了。这里要注意一下,配置改了之后只对新绘画生效,已经打开的聊天窗口还是用原来的模型。 要是想在当前聊天里切换,用 model 命令就行。主模型的配置长这样, model provider openrot defunct cloudopus 四点七 base url 流控制服串切换 provider 时会自动清空 api mode, 设成 chat completion。 辅助模型覆盖的例子,拿 vision 来说, auxiliary 冒号 vision provider open router model 冒号 google 斜杠 gemini 二点五, flash 还能设 timeout 超时时间 extrabody 额外参数, download timeout 下再超时。如果用 auto 模式,就是用主模型, provider 设成 auto model 流控制服串,主模型配置完了,咱们看看有哪些辅助任务可以单独配。 hermes 支持八种辅助模型,任务分别是, title general、 绘画标题生成 v 阵、图像分析、 compression、 上下文压缩、 session search、 绘画搜索、 approval、 审批评分、 web extract、 网页栽药、 skills hub、 技能搜索、 m c p 工具路由。默认情况下,所有辅助任务都设成 auto, 就是 用主模型,但你可以给特定任务单独配用更便宜或更快的模型。 哪些任务最值得单独配呢?咱们看看常见场景。第一个常见的是 title general, 这个几乎总是要改写绘画标题,这种简单活用、快速清亮的模型,效果跟昂贵的推理模型差不多。推荐用国产模型,比如阿里通一千问 turbo, 或者百度文心一言 speed 之类的。 配置长这样, auxiliary 冒号 titlegen provide dashcode model 冒号 coenable 第二个是 vision, 当主模型没视觉能力时要改,比如 kimi 或 deepsea 是 编码模型,但看不了图,这时候可以指向 google 斜钢 gemini 二点五 or flash 或者 gpt 四点 o。 mini 图像分析得用专用视觉模型, 比如 gemini 或 gpt 四点 o。 第三个是 compression, 为了省钱,用 opus 或 m two point seven 总结,上下文太浪费了,快速聊天模型只要五十分之一的成本就能干同样的活, 上下文压缩不需要推理能力,便宜模型就够了。除了这三种,最常见的还有其他高级策略值得了解。第四个是 session search, 召回查询并发度高的时候,用便宜模型,能快速判断要不要自动批准低风险命令。 第六个是 web extract, 大 量用网页提取时,摘药任务不需要推理能力,可以用便宜模型。第七个是 skills 和 m c p, 这两个通常保持 o to 就 行,不用特别配。核心原则就一条,推理密集型任务用主模型,简单摘药和分类任务用廉价快速模型。掌握了这些策略,有没有更快的配置方法?当然有, emis 提供了 ucs 快 捷操作,能一键分配模型。每个模型卡片都有 ucs 的 下拉菜单,给你几条快速路径。第一向 main model 设成主模型。第二项 all auxiliary tasks, 一 次性分给所有八个辅助任务。 第三项 individual task options, 单独分给特定任务,比如 vision web extract 之类的。要是你掉过头了,想重来点辅助部分顶部的 reset auto 按钮, 这样所有槽位都会恢复。用主模型,当前分配的模型会在卡片上标成 main 或 ox, 加任务名,一眼就能看出来配置完了什么时候生效,这得看你用的接口类型, 课外的话就是 hermes chat 命令,下次调用时生效。 gateway 的 话包括电报、 discord, slack 这些平台下次新绘画时生效,想强制所有绘画更新重启网关就行。 dashboard chat 的 话,下一个新听 day 生效。当前聊天保持原模型,可以用 model 命令热切换。注意啊,改了配置不会让运行中绘画的提示缓存失效, 这是故意这么设计的。绘画内切换组模型需要缓存重置,咱们把它留给明确的 model 命令。配置完遇到问题怎么办?别急,常见问题解决方法在下一页。除了图形界面,还有其他配置方法。第一种是 ki 斜杠命令,输入 model g p 点是 provide openroute, 这是景绘画级别的配置,加上 gobo 参数就会持久化到 config 点 emo 文件里。第二种是自定义别名,强烈推荐在配置文件里定义短名称,能快速切换。常用形容模型,比如在 teodah 斜钢点 hermes 斜钢 config 点 emo 文件里设 model ace alias 冒号 five, model class zero 的 四点六 provider 冒号 anthropic, 再设 grog 冒号 model grog 四 provider 冒号 x a i。 然后在聊天里用 model five 或者 model grog, 比书完整模型名方便多了。常见问题速查,如果出现 no authenticated providers 错误,检查 keys 页面,确保有 api 密钥。 如果主模型没改,这是正常现象,新绘画才生效。当前聊天用 model 热切换,如果辅助覆盖没生效,确认启动新绘画 provide 的 不是 auto, 而且已认证。配置方法都讲完了,咱们总结一下最佳实践。第一,主模型选最强的处理核心推理任务。 第二,辅助模型按需改 title general 必改。第三,微信任务配专用视觉模型。第四, compression 和 web extract 用廉价快速模型。第五,定期看看 ucs analytics 优化配置。第六,多用 us, 快 捷操作,省事儿。核心原则有四条,智能分配,不同任务用不同模型,别浪费 成本,意识简单任务别用贵模型,性能优先,快速模型处理高频小任务灵活调整,根据实际使用情况持续优化。我是大叔,大实测验证并整理,后续会持续更新,觉得有用的话点赞收藏支持一下,感谢观看,下期见!

harmys 现在可以直接在原声 windows 上跑了,以前想在 windows 上玩 ai agents 有 折腾, wsl 二对本地环境的控制很不方便。现在原声版本来了,虽然还是 beta 版,但已经能跑了。 今天我带大家过一遍怎么一行命令搞定安装有哪些必须注意的坑,以及最后怎么在原声 windows 和 wsl 二之间做选择。 安装非常简单,打开 power shell 或者 windows terminal, 直接贴入这段安装脚本。整个过程不需要管理员权限,它会自动帮你把 python 三点一一, node js 二十二还有 get 便携版全部装好。所有的东西都会存放在用户本地的应用数据目录下,不会污染你的系统环境。 充完之后,有一个必须做的动作,一定要关掉当前的 power 窗口,重新开一个,如果不重启系统就无法刷新用户路径。你输入命令时会提示找不到 hm, 直接关掉重开问题就解决了。配置流程非常直观, 运行配置命令,选好模型,并填入你的 api t, 比如 open router, 配置完成后直接进入聊天模式,你会发现它的命令行交互界面和 linux 版本一模一样,功能没有任何缩水。 在自动化任务方面,它利用了 windows 的 原声设计,比如你想挂在 telegram 机器人,只需要运行网关命令,它会自动调用 windows 的 任务计划程序。这样你每次登录电脑,机器人就会自动在后台跑起来,不需要你手动去设什么服务。 如果你习惯用 vs code, 一定要改一下环境变量。默认情况下,当你调用外部编辑器写上提示词时,它会直接打开记事本。 你需要把编辑器设为 code, 加上 wait 参数。这里的 wait 非常关键,它会让终端一直等待 vs code 窗口关闭。 如果不加这个参数, vs code 刚弹出来,程序就以为你写完了,导致你写的内容根本传不回 hermis。 关于中文显示,建议大家直接使用 windows terminal, 兼容性是最好的。如果在使用过程中遇到中文乱码或者变成问号,可以去开启一下内置的 utf 八修复开关。 dashboard 的 网页控制台有一个功能限制,里面的终端标签页暂时用不了。这是因为 windows 缺少 posix pty 的 系统支持,如果你点击进入,它会提示你使用 wslr。 所以, 如果你非常依赖 dashboard 的 终端面板,目前还是建议切换到 wslr 模式。 promise 命令行执行是依赖 git, bash 的 安装脚本会自动帮你配好一个便携版的 git。 不 过,如果你系统里已经装了其他的 bash 环境,比如 sigwin, 可能会产生一些意想不到的冲突。建议留意一下 到底选原声 windows 还是 wsl, 主要看你的使用场景。如果你只是想进行 cio 聊天、跑机器人,或者用本地的欧拉玛,原声 windows 足够清亮且好用。但如果你需要用到 dashboard 终端面板或者你的任务对 plx 环境有强依赖,那就选 wsl 二。 如果是追求生产环境的极致稳定, wsl 二依然是更成熟的选择。最后补充一点,这两个版本的数据是完全隔离的,你可以放心同时安装 原声 windows 的 数据存放在用户本地的应用数据目录下,而 ws l 二的数据则在用户加目录下,这意味着你可以根据需求在两个版本之间随时切换,完全不用担心数据冲突。

今天我想聊一篇关于 harmis agent 多入口架构的文章。一个 agent 的 项目做到后期,核心能力已经不只是命令型问答了。 用户希望他能跑在终端里,也能接 telegram, discord slack, 还希望有更现代的 t u i, 甚至能被编辑器或 api 调用。这时候最容易走错的一步是给每个入口都写一套 agent。 hermes 没这么做,它的核心思路是 a 键 loop, 尽量统一入口层,各自处理交互形态。 我们先看 hermes 的 核心拆分, ai ai 证负责构建 system prompt, 管理对话历史调用模型,执行工具处理上下文压缩,还有 memory to do、 session 等状态管理。 但用户如何输入,如何展示,如何审批危险命令,如何恢复绘画,这些并不属于 ai agent。 t i 点 p y 面向交互终端处理 prompt 下划线、 toki 输入和 rich 展示 getway, 面向消息平台处理平台 adapter 和异步消息。 t u i 面向液体界面, tapisk 负责渲染, python 负责 agent 逻辑。这个拆分很关键,如果把所有 u i 逻辑都塞进 ai agent agent loop 会变得无法维护。 classic c l i 是 最后的本地入堂,赫尔氏科一管的事情非常多,加载配置你人情 睡至完啦,贵惯的数据太特别,自带太特别,这种对网关的酒肯定非常的追震。 输入历史与使命 ai agent 维护对话历史处理各种 slash commands 处理图片附件和剪贴板处理审批和密码输入,退出时清理资源,写入 siit 三审。 它承担的是完整的本地产品体验,而不是 agent 推理本身。 c l i 的 一个重要特征是它和用户在同一个 terminal 里实时交互。危险命令审批、 soluto 密码、 secret 输入都可以通过 prompt 下划线。 tokyo 在 本地阻塞等待、 德瑞面向 charlie、 greg、 discord、 slack、 whatsapp 等平台。它和 c l i 最大的不同是长期运行的后台服务, 这带来很多问题。多个平台同时连接,多个聊天同时发消息,同一个 session 可能跨很长时间继续,用户可能在 a 阵正忙时继续发消息。危险,命令不能用 terminal point, 要通过消息平台审批。 其中最值得注意的是 agent cache 机制, data 会按 session 缓存 ai agent 时利用来保留 point caching。 如果每条消息都创建新的 ai agent, 就 会重建 system prompt, 破坏 provider 的 prefix cache, 成本会大幅上升。 所以 data 不是 每条消息新建一个 agent, 而是用 session key 映射到缓存的 agent 时,历 该会下。不能只用一个 session 下划线 id, 因为消息平台里同一个用户可能在不同群、不同 thread、 不 同平台里和 agent 对 话。 comis 用 session 下划线 key 作为核心,抽象格式是 agent main 平台聊天类型聊天 id session store 会根据来源生成 session key, 再映射到真实的 session 下划线 id。 这个设计的好处是,平台路由使用稳定的 session key 数据库存储,使用 session id resume 可以 把某个 session key 切到已有 session id reset policy 可以 按平台和聊天类型生效。 session key 不是 装饰质段,而是 getaway 运行时的主键。 多路口系统很容易出现命令漂移的问题。 c l i 有 某个命令,挑了官,帮主里没有 slack 支持某个命令。 c l i auto complete 又忘了别名 hermes 用 c o m m a n d 下划线 r e g i s t r y 解决这个问题, 每条命令是一个 command def, 包含名称描述,分类,别名,参数提示,还有 k i i 下划线 only 和 getaway 下划线 only 等标志。 然后所有下游都从这里派生。 c l i help getaway help telegram 命令菜单 select 命令映设,自动补全命令解析, 新增命令的主要动作是先加 command def, 再在对应入口接 handle, 这就是中央注册表的价值定义,统一暴露可控。 hanis t u i 拆成了 node 和 python 两个进程,域态是 increact, 负责终端 ui 渲染。 t 太下划线,该位是 python j s o n r p c backend, 负责 agent 逻辑和工具调用,这不是多此一举,而是非常务实。 ink 更是合作复杂终端 ui。 python 进程已经拥有 hems 的 agent 和工具生态, 强行把 agent 移植到 node 代价太大,强行用 python 复刻现代 tui 体验又很难做好。 还有一个重要细节, python stodo 被重定向到 stare, 保留真实。 stodo 专门写 j s o n r p c 防止普通 print 污染协议通道。 t u i 里还有个 slash worker, 是 一个持久的 c l i support, 专门执行 slash command, 最大限度附用 c l i 逻辑。 horis 多入口架构的启发很实际,不要把 agent 做成 u i, 也不要把每个 u i 做成一个 agent。 更好的方式是, agent 是 能力内核工具系统是统一执行层, session, db 是 历史事实层, command register 是 控制面。 c i gateway t u i 是 不同交互外壳 入口可以继续增加,但核心能力不需要复制。代价是入口层会变厚,但这是合理复杂度, 真正应该避免的是把交互复杂度推回 ai agent, 或者在每个入口层会变厚,但这是合理复杂度,真正应该避免的是把交互复杂度推回 ai agent loop, 用统一内核承载能力,用入口适配器承载体验,这就是一个 agent 从 demo 走向产品时必须跨过的架构分界线。我是林深健, ai 我 们下期再。