我今天折腾本地 ai 工具的时候，突然摸出一个特别省心的小方案，专门解决好多人吐槽的 hermes 联网搜索的老大难问题。这不，赶紧来跟你唠唠， 你有没有在用 hermes 这个本地 ai h 呢？说实话，它本地跑起来隐私性强，自由度高，用着是挺顺手的。但好多人跟我吐槽它最闹心的短板就是没有内置的联网搜索引擎， 你要想让他能搜点儿新信息，就得自己去对接第三方的搜索 a p i。 这一来二去，不光 a p i 配置调半天都调不通，成本还特别难控制，搜着搜着，钱包就莫名少了好多钱，是不是特别头疼？ 哎，我最近试了用扣子的工作流来解决这个事儿，亲测好用，今天就把整个实操方案全部分享给你，你听我给你捋啊！ 操作一点儿都不复杂，你直接在扣子平台上面建一个专门的搜索工作流，把这个工作流暴露成外部可用的 a p i 之后， hermes 不 用自己费劲对接乱七八糟的搜索接口，直接调用你在扣子做好的这个 a p i 就 行， 整个流程跑起来特别丝滑，一点都不卡壳。更惊喜的是，这个方案的成本真的特别划算。不过啊，我得特意提醒你一句，这个方案可不是适合所有人的，它只适合那些已经同时在用扣子和 hermes 的 朋友，相当于你手头已经有现成的平台环境了，花个十几二十分钟搭个工作流就能用上，性价比拉满。 但如果你现在只用 hermes， 压根儿就没在用扣子做别的工作流，专门为了这一个联网搜索的需求，特意去搭一整套扣子环境调试工作流，那可就太麻烦了，性价比低到离谱。我真心不建议你这么操作，不如直接找个现成的轻量搜索 api 对 接来的省事儿。 你看，折腾 ai 工具很多时候不是要找什么万能的完美方案，就是要找这种刚好适配你现有工具站的小技巧，花最少的精力和钱把短板补上，用着才舒服，对吧？ 要是你刚好两个工具都在用，今晚有空就可以试着搭一下。好了，今天的小方案就分享到这，你要是有别的更省心的玩法，也欢迎来评论区跟我聊聊，咱们下期见！
粉丝73获赞3904
相关视频
02:24查看AI文稿AI文稿还在局限 hermes 自带的内置模型达不到你的需求，今天教你 hermes 的 核心高阶玩法， hermes 接入自定义 api 大 模型。只要是兼容 openai 协议的大模型，不管是线上的第三方 api， 还是本地部署的欧拉玛等私有模型，全部支持接入。 下面我就带领大家一起看一看 hermes 中应该如何操作才能接入自定义 api 大 模型。首先我们打开一个命令行窗口，在窗口中我们输入 hermes model， 这个就是 hermes 的 大模型设置界面。在这里的都是 hermes 内置的 ai 服务提供商，我们如果要添加自定义的 ai 服务提供商，就要选择这个 custom direct a p i。 这里是提示我们输入自定义服务商的 b c u l， 不知道服务商 b c u l 的 去找你的客服要一下，或者是查阅服务商的文档，我已经提前预备好了。复制，然后回到命令行窗口，粘贴到这里。下面是要求我们 输入 api k， 同样复制粘贴到这里。这个是让我们选择 api 的 兼容模式，如果没有特殊说明，一般都是 openai compatible， 目前选择的就是 openai compatible， 我 们打回车确认就可以了。 这里列出了当前服务商所提供的模型，找到你想要设置的模型，输入相应的数字，打回车就可以了。这里是设置上下文的长度，直接打回车自动的检测。这里是设置显示的名称，你可以输入一个适合自己记忆的名称，我就不换了。打回车 到这里，自定义 ai 服务商接入的设置就完成了，我们来测试一下连接的设置是否正确，我们输入 clear， 把屏幕清理一下，然后输入 hermes， 可以 看到这里的模型名称已经变成了我们刚刚接入的模型名称。我们输入一个 hello， 回车看一下会给我们返回什么信息， 给我们回复了， can i help you？ 收到回复信息就代表着我们已经可以连接到 ai 服务商了。我们再接着输入你是哪个模型， 他把模型的名称和由谁开发的已经回复给我们了，没有问题，设置是正确的。今天的视频就讲到这里了，感谢大家的观看，再见。
120波哥的AI课
03:42查看AI文稿AI文稿现在给大家完整演示一下，我先从另一台电脑把打包的压缩包发送过来， 我们先解压。然后这里我准备了 windows、 macos、 linux 系统的一键运行脚本和一键停止脚本，帮助不熟悉命令型的小伙伴更便捷。这里因为我之前已经有勾环境，所以脚本运行中没有去安装依赖。 这里自动打开 web 页面，我们输入默认密码，幺二三四五六进入管理台。在配置页面，我们可以自己去修改管理密码和 api 密钥，这里我修改一下， 然后我们点击保存。 ai 提供商，这里是正常 gemine、 opennine、 cloud 等供应商的 a p i。 添加 os 登录才是我们的重头戏。可以看到支持 codex、 anthrax、 gemini、 kimi、 quin 等授权登录， 这里就是可以把它们赠送的免费额度统一封装成 a p i。 我 来演示一下 quin， 点击登录，打开链接 这里。我之前登录过，就直接登录了，没有账户的小伙伴自己注册，就是不需要下载客户端 可以看见。现在认证成功，我们再测试一下 codex 支持的登录方式，很多，方便演示，我就选择 google 登录， 可以看到很简单就认证成功了。 认证文件这里，点击刷新就可以看见额度还剩多少 g p t。 五点四还是太香了，有 pos 会员的用户可以用这个管理账号轮询这里我批量添加了很多 codex 的 账号 功能，很实用，怎么使用？我们进入中心信息页面，可以看见目前添加账号支持的模型，这也是我们配置给 open core 和 hermes 等 ai 工具填写的模型名字。这里演示一下我新安装的 hermes， 打开配置文件， bios u r l 地址就是我们本地端口模型复制中心信息的模型名称密钥。在 f 文件中不会配置的小伙伴直接把 bios 密钥和模型名称给 ai， 让他帮你配置 好了。现在我们测试一下， 可以看到已经成功了， 我们可以去看看可选模型中添加的模型，可以看到 gptf 五点四 基本演示，就这样，我一下午都是跑，目前非常顺畅，然后想结束进程，点击 saf 脚本就一键结束了。需要便捷安装的小伙伴到文章底部用领取口令 自行领取吧。记得点赞关注。至于说如何批量注册账号，看情况反应，我看看下一篇要不要写。
100聿凡与AI
04:47查看AI文稿AI文稿一台十六 gb 的 mac mini， 装上本地大模型，再接上一个 ai agent， 还有一个收尾问题，让它自动回复客服工单，整套流程全程没手动配置， 全是让另一个 ai 替你搞定的。大家好，我是进化中的阿晨。听起来有点绕，但这件事真正有意思的地方在于，当你的编程工具能直接访问你电脑的终端，它就不只是帮你写代码了， 它能读取你的硬件信息。改系统、设置、跑安装命令、配 api、 建 webhook。 基本上你以前得自己一步步折腾的事儿，现在丢给他一句话就行。 具体来说是这样的，一台 m 四芯片的 mac mini， 十六 gb 内存，先装好 lm studio， 跑一个 jammer 四十二 b 的 本地模型， 然后要在上面装 hermes agent。 这是一个可以接入各种工具，帮你自动处理任务的 ai 助手框架。传统方式你得自己去官网找安装命令、配环境、调参数、接服务，整个流程繁琐且容易出错。 但如果你用的编程工具能操作终端，你只需要告诉他帮我装一下 hermes agent， 先来个最基础的配置，他就自己去跑了。这里面有几个细节值得聊。 第一个是内存分配的问题。十六 gb 听起来不少，但你要同时跑操作系统、本地模型还有 hermes agent 去执行各种任务，内存会非常紧张。 模型加载时你得控制 context， length， 拉满的话直接报错，根本加载不了。实测下来大概十二 gb 左右，分给模型，留四 gb 给系统和 agent， 是 一个勉强能跑的平衡点。 开启 flash attention 之后，可以把量化降到 q 八，换来更大的 context 窗口，大概能到六点七万 toc， 但准确率会有一点损失。 第二个是模型选择 jama 四十二 b 后来出了一个 qrt 版本，也就是量化感知训练版，体积更小，理论上应该在保持更多智能的同时更省资源。但 reddit 上有人反馈说 qrt 版在某些场景下反而退步了， 所以本地模型这件事没有装上就完事这一说，你得根据自己的使用场景去测。第三个也是我觉得最值得关注的，这套东西一旦跑起来之后能干什么？演示里做了一个很实际的事，把 hermes agent 接入 zendesk 客服系统。 操作过程是这样的，在 zendesk 后台生成一个 api key， 然后告诉编程工具，拿着这个 key 帮我建一个 webhook。 每次有新工单进来，就转发给 hermes agent， 让本地的 java 模型来回复。编程工具自己去读 hermes 的 client 文档配 webhook 上传 faq 数据集跑，集成测试。整套流程没有手动介入。几分钟之后， zendesk 里真的收到了自动回复。 有人问营业时间， jamah 基于之前未进去的 faq 深沉了回答，格式完整，信息准确。整个过程中， mac mini 内存占用标到十五点零八 gb， 机器顶部摸着发烫，但确实跑通了。 不过说实话，这套方案在十六 gb 机器上跑的并不轻松，响应时间大概两分半到三分钟一条，离即时响应还有距离。如果你想拿它当七乘二十四小时的后台助手，处理一些不那么紧急的任务，比如客服邮件信息整理，这个速度够用。 但如果你期待实时对话级别的体验，十六 gb 确实还差点意思，而且还有一个容易忽略的问题， mac mini 如果进了睡眠状态， agent 也跟着睡， 凌晨三点来了一封重要邮件，它要等机器醒了才能处理。所以你得把系统设成永不睡眠，最好还写一个重启脚本，万一断电，重启后能自动把 lm、 studio、 html 这些全拉起来。 我觉得这件事真正的意义在于他把本地部署 ai， ai 整这件事的门槛拉低了一大截。以前你得懂命令行、懂配置文件、懂 api 对 接，现在你只要能跟一个足够聪明的编程工具说清楚你想要什么，他替你把脏活累活全干了。 模型在你自己机器上跑，数据不出本地，这对在意隐私的人来说很有吸引力。当然，十六 gb 是 起步线， 网上加内存，换更大的模型，接更多工具，这条路能走很远。但即便是现在，这个配置能让一台三四千块的 mac mini 变成一个全天候运行的本地 ai 助手，还能自动处理客服公单，这个性价比已经相当离谱了。 你们觉得本地跑 a 整的这件事是会越来越主流，还是最终大多数人还是会选云端方案评论区聊聊？
311进化中的阿陈
04:01查看AI文稿AI文稿ok， 我 们的电视盒呢已经把 ms 部署好了，这一期我们来通过接入 a p i 让它跑起来， 前面我有介绍过一个免费的 a p i， 大家可以尝试一下，先注册，然后把 a p i 接入，那么打开它的那个 a p i 平台，然后点击注册，输入你的邮箱， 然后发送验证码，再打开你的邮箱， 然后我们在他的验证码上面，然后把这个验证码输入进去，就可以再设定一下密码，就可以完成注册。 ok， 继续好显示注册成功， 那么我们在这里直接 apm 秘钥，这里直接创建秘钥，随随意填一个名字。好的好的好的，然后我们确认 这，我们回到这个 amos 这边，先退出 amos， 然后回到主目录下面，然后输入 amos mod 回车。 好的，跳入到这个 api 设定的页面，我们直接往下往下调选择，这两个都是可以的啊，那我们直接点入 api 就 可以了，然后这个好的好的， 然后我们再回到这个文档这边，先把这个接口的那个 base url， 选择 base url， 我 们复制这， 然后拷贝到这里回车，然后再输入刚才的 api key， 然后回车。 ok， 我 们直接选择一 auto， 然后把模型的名称输入模型名称的话，它们的模型是我们接这个 比较新的就行了，它只有一个文本模型，那我们就直接输入这个，找到这个文本模型，把它拷贝， 然后输入回车，然后这里有留空，然后名称的话，我们按你想法给它命名一个 ugly 回车。 好，这样就已经完成了一个 a b i 的 接入，那我们直接进入对话，很好，可以看到我们的对话模型已经变成了阿根廷二点零的 fresh， 那 我们测试一下，看看通不通。 ok， 可以 看到它已经回复了。 好了，到这一步你已经完成了接入 a p i， 并且跑通了整个的对话。好，下一次继续教大家怎么去 粗始化这个 amos， 配置好它的基础条件，让它更好地为你去干活。好，这一期就先到这里。
49菜鸡的老黎
03:50查看AI文稿AI文稿今天是主要做一个后裔和本地的这个欧拉玛推力引擎的一个介入，因为是我前面刚开始做的时候，相信很多人都碰到很多就是有的模型他不识别， 比如说本地部署，自定义，我在这用的是欧拉玛推力引擎，进入的是拉玛三点一这个推力引擎，但有的时候有的模型它这个地方的上下纹线长，所以说是没有办法 啊。使用其他模型，咱们先看一下做一个简单的测试，是否是调用了这个啊？ gpu 本地用心 啊，现在已经可以看到 gpu 这个地方已经是百分之百了，我这个的话属于是共享内存，所以说的话是调度啊，稍微会慢一点啊，现在已经可以看到了，它自动可以伸长了， 速度的话是在二点三 tokyo 啊，整体的话不是特别快，但是同样也可以有两种，比如说简单的任务可以直接调取本地模型 啊，我这个本地模型的话是差不多有点多，差不多是一共是三十一个，可以测试，有语音的，也有这个推力的， deepsea 的， 也有千文的，也有一些像一些框架型的。 嗯，包括如果是想用这个线上的话，我用的是线上的 a p i， 这边调用设置为当前模型，比如说简单在这边尝试一下自我介绍。 呃，困难的一些问题，可以直接调取线上的这种 a p i， 比如说是像有些平台是它是免费的 啊，比如说代码呀，比如说要生成一些方案呢，他有多个大模型，你根据你的需求可以设置 啊，你可以看到这个地方。再比如说你想让他呃使用的模型 啊，比如说是像其他一些的更专业的，在这你可以使用像四点七，像这个五点一、五点二之类的都可以提前设置好啊，但是有的是需要花费的，有的是不需要花费的，现在我们简单让他做一个推力， 同样的话在这你也可以设置一些，比如说工作流，当这个提示词，这些你要需要自己去总结， 包括这还有个消息网关，消息网关的话是这边是连接微信，呃，可以直接根据呃给你的大模型这边去，我这边是已经连过了，只需要重新点一下，重新启动就可以了。 嗯，这边是通过 a p i 这边交流的，内容是深层的，也比较详细，而且是细节描述非常清楚。
28道隐
00:15查看AI文稿AI文稿因为他赚了这么多钱，可算良心发现，阿布顿地区开放了可以免费使用大模型一年的 a p i， 让你零成本就可以使用 g m 五点一、 t m 二点七等六十多种顶级大模型滤是每分钟四十次调用，平时使用完全够用。我已经用国内手机号注册拿到了 a p i k， 千万不要错过。
528晓庆在学习（读博版）
01:45查看AI文稿AI文稿嗨，大家好，从这期开始，我们聊聊提升办公效率的技能， skill、 工作流及实用开源项目。今天先从 pdf 处理说起。 hermes agent 自带 pdf 斜杠命令，这个技能可以读及提取 pdf 里面的文本、表格、图片，还能实现对 pdf 的 新建、合并、拆分、加水印等操作。 我拿公众号三篇文章转成 pdf 做实操演示。首先新建 pdf， 直接调用斜杠命令，让 hermes 在 地盘生成 abc 这个 pdf， 打开文件夹看，确实创建成功。 再来测试加水印，这次用自然语言指令让 hermes 帮我在 pdf 添加水印。 a 键的寻记操作完成，生成了一个新文件。我们打开看可以发现十九暂时不支持中文水印，中文会变成占位符，想要中文水印， 大概率需要把文字转成图片再写入 pdf， 处理时间会拉长。接着测试 pdf 合并，还是说给 hermes 调用 pdf skill， 它会输出合并完成的新文件，实测可以正常使用。 如果你需要更强大的 pdf 工具，强烈推荐 get up 上面的明星项目， sterling pdf 接近九三新标，全平台都能用。它内置五十五种以上 pdf 工具，包含页面处理、加密、解密、格式转换、内容编辑等一应俱全，不管个人用还是企业用都合适。 我们可以将 starting pdf 部署到本地，作为一个服务，让 hermes 做一个 skill 来调用它，这样就能批量处理更多 pdf 操作了。好了，以上就是本期分享的内容，欢迎大家评论区留言或者私信我，你感兴趣的内容我们下期再见。
30Agent循迹
00:21查看AI文稿AI文稿我告诉你一个方法，首先呀，你要拿到他的手机号去登录抖音，然后呀选择找回密码， 这里注意啊，千万不要发送验证码，系统呢就会提示他的抖音的第一个字母或第一个字，然后呀，去抖音搜索里边搜索他，这样呀，大概率就能找到他，不信你试试。
329笑着玩机
00:17
01:00查看AI文稿AI文稿嗨，如何通过手机号查询对方的信息呢？有的时候我们会接到 sorry 电话或者陌生电话，不确定对方是谁，那么下面几点建议也许会帮到你，通过手机号看一下对方是谁。 第一，通过营业厅查询，去该号码通讯商的营业厅，帮该号码进行花费充值，要求开具发票，发票上会显示该号码所属人的个人信息。 第二呢，通过支付宝查询，打开支付宝直接搜索该手机号码，在操作过程中会出现对方的姓氏和名字的最后一个字。 第三呢，通过期限宝、天眼查起查查等软件进行查询，直接输入对方的号码，点击搜索会显示出绑定了该手机号的企业公司，了解到对方相应公司的名称、地址等。第四，如果发生了侵权行为，立刻报警，公安会帮忙核实对方的身份信息。 当然，害人之心不可有，防人之心不可无，适当了解一些法律知识，对于我们的日常生活是有帮助的哟。
1.1万微尘里娜一缕风
01:28查看AI文稿AI文稿十七万亿 tokens， 这是一个开源 ai agent 在 网关上跑出来的数字。今天聊一下 hermes agent 怎么接入 open letter， 从安装到路由配置，一次讲清楚。用多个 ai 提供商的人都知道，每个提供商一套账户，一个 a p i t， 一 份账单，模型列表还各自为证。 open letter 给你一个 t， 接入四百多个模型，来自六十多家提供商，有网关和没网关的区别，故障了手动重试还是自动转移 失败？请求收费还是不收费？使用数据分散在五个仪表板还是集中在一个地方？先消歧义一下， hermes agent 是 应用 hermes 三和四式模型，很多人搜 hermes 三，其实找的是模型，不是 agent 安装是一型扣。配置分三步放 a p i t。 这模型和提供商启动聊天默认用 cloudsonnet 需要至少六四 k 上下文。模型 id 的 写法是 provider model name 前缀是路由快捷方式自动解析到该系列的最新版本。路由配置分三层， provider 下划线， routine 决定谁执行。请求包 back 下划线， providers 决定主模型挂了谁顶上 auxiliary 处理标题 置绝这些副任务。成本优化有两个抓手， rito code 自动选满足质量门槛的最便宜模型，还有二十五个以上免费模型，可以零成本跑。如果你也在用 hermes agent 跑， open router 评论区说说你的模型选择和越军 tucker 消耗。关注我们，获取更多 ai 工具实战指南。
15与AI同行
