啊,兄弟们,最近非常火的一个 hems agent 啊,在 get up 上面也是斩获了七十二点七 k 的 新标了啊,这个 hems 啊,跟那个 open color 的 主要的一个区别呢,就是啊, open color 需要你人为的去为这个 scale 啊,但是 hems 它可以在跟你对话的时候自己就去 学会这些四 k 了,是吧,所以说很方便啊,据说是拳打脚踢鹅蹦哥啊,所以说为了方便各位观众朋友们使用这个黑幕式啊,我们做了一个黑幕式的一个一键部署网站啊,你只需要输入服务器的账号密码,我们就能够一键安装到你的服务器啊, ok 啊,我现在已经部署完成了啊,然后我们再部署第二个,我们先去那个啊,第一个已经部署好的里面去看一下啊,这个黑幕式到底怎么样啊? ok 啊,兄弟们,当你们部署了这个黑马是在本地之后对吧,你想要做点什么逆向啊,或者是什么本地服务啊,就比如说打开一个 qq 音乐听首歌是吧,这些东西都能解决。 ok 啊,来我们看一下啊,来,我们问一个问题啊,来我们呢,做一个那个加减乘除的一个网页,因为是在服务器吗?他直接就能在服务器直接访问了啊,很方便啊,一个服务器也不贵啊,一年也就三四十块吗?啊,你直接部署到服务器的话,用起来很方便啊, 我们一键安装完成之后会给你一个网网址啊,跟他直接跟他对话很方便啊, 像这里直接展示放在八零八一端口了啊,兄弟们,像你们不属于本地的话就能直接的运行啊,这里我们付费的时间就不展示了啊,然后 ok 啊,你像这个同时你可以创建多个用户啊,就是一个黑模式啊,你可以多个人一起使用啊, 就很方便啊。我觉得这个黑面是做的还是挺可以的,就是我整体的使用下来,然后如果说兄弟们你们要换这个模型的话,在这里换啊。哦,部署完成之后默认是绑定的免费的啊。然后你们要换更强大的这个模型啊,你们在这里直接换就行了啊,兄弟们,今天晚。
粉丝69获赞667

什么是 agent? 什么是 m c p, 什么是 skill? 还有再再说说什么是 open club, 把这个东西讲完,大家应该就能对这个知识点有一个更深的了解了。首先第一个 什么是大模型,咱们得先说大模型,它就是一个可以对话的一个大脑,你跟他说话,他就能回复消息。但是有一个问题,他没有记忆,你跟大模型说一句话,你说你好,再跟他说我是谁,他不知道, 但也就是大漠星,他没有记忆,你说一个消息,他其实底层是一个 transom 架构,他经过神经网络一层一层的去计算,最终通过概率给你算出来他要回复什么东西,所以说他那个东西是有幻觉的,通过概率给你算出来一个东西给你回复了,你说我是小周,你再问我是谁,他不知道,你这 ai 没有记忆可不行了。 所以说大家为了让 ai 有 记忆可以聊天,大家就制造了一个聊天机器人,就叫 bot, 那 这个 bot 能干什么呢?就是我跟他说,我说我是小周, bot 接到我是小周,然后他会跟大模型去交流,他作为一个中间人跟大模型交流, 然后他告诉大模型这个人叫小周,然后我再说我是谁,我跟那个 bot 说我是谁的时候,这个 bot 他 会把我是小周,然后大模型的回复,然后这我是谁一起发给 大模型,也就说大模型拿到不是我是谁,而是之前的所有聊天记录,大模型都看到了,然后他再回,那这个聊天机器人他的作用呢?就是让这个大模型看上去有记忆了,这是聊天机器人,那聊天机器人的功能还是很弱,对吧?就比如说我想让他帮我关电脑, 帮我执行一段程序,帮我查询今天的天气,它也不行。所以说这个时候就聊天机器人的基础上,又扩展出了一个东西,叫 agent, 叫智能体。智能体可以干什么呢?智能体,大家记住啊,智,一句话就知道智能体可以调用工具,这东西就是智能体。 那什么是工具呢?就比如说这里有一个函数,有一行代码,这行代码可以 get weather, 可以 获取天气信息,获取获取日历信息。今天是几号?这个大模型是不知道的,大模型他知道的东西就是基于他训练的结果。 我二零二五年五月一号训练,这个大模型结束。那大模型二零二五年五月一号之前的东西,他训练过的,知道五月一号之后的事,他啥也不知道,他没训练,所以你问他,你说今天天气怎么样?他不知道今天是几号,大模型他不知道,但是 agent 他 知道。 a 针呢?可以调一个工具 get 外的,我获取到今天的天气,然后我再告诉大模型,大模型再分析,然后再给我回复,也就说这个 a 针呢?是什么呢? a 针它是可以调用工具的一个程序,它可以通过调用工具让大模型知道更多的事,这个就是 a 针的。 然后大家发现 a 针不知道天气,我得怎么办呢?我得调用一些接口,比如说高德有天气信息的接口, 我得调这个接口啊,然后还有什么饭店的接口,旅游景区的接口,什么时候卖票的接口,他得调很多接口。那这个这样的话, 所有的互联网服务平台,比如说天气的呀,景区的呀,卖票的呀,全得开放接口,然后这个 a 证他得调所有接口才能实现这个功能,那 a 证他也麻烦,那个第三方平台,那个天气的第三方平台也麻烦,然后这个接口怎么调参数都很麻烦。其中有一个执行方案,就是说我定义一个协议, 就说你这个 agent 调这个第三方平台的接口数据的时候,你别像以前那么调接口,你你咱谈个协议,你只要两边都遵守这个协议,我就可以去拿你的数据了,我就可以拿天气数据,拿时间数据,拿各种景区的数据都能拿了。 那这个协议叫什么的呢?就叫模型上下文协议,所以这个协议就叫 mcp, 所以 大家知道什么是 mcp 了吧?它就是协议,对吧?我调接口为了更方便的调接口,开发了一个协议,叫 mcp, 所以 大家知道什么是 mcp 了? mcp 就是 让 agent 可以 更方便的调用工具, 简单吗? mcp 就是 为了让 agent 调用工具,然后把调用工具的信息给大模型,让大模型可以回复,懂了吧?这是 mcp。 什么叫 skill 呢? 没点关注,点个关注,我讲的很细,跟大家说没点关注,点个关注。然后我这边有个 ai 学习专栏,大家可以加一下,我这边还有 ai 交流群,感兴趣的小伙伴可以加一下。然后我接着说什么是 skill? skill 最早就是咱先说这个调用工具, 等于说调用工具有什么弊端吧,如果你想让这个 agent 调用工具的话,你得先把这个工具的所有的说明书什么的参数配置全都给这个 agent 告诉他,然后他比如说你跟他说我,我,我跟那个 agent 说,我说你好,他收到的就是你好吗?不是 他,除了这他,他给这个大媒体人发的,除了这个你好,他还会把我这个 a 帧呢,可以调什么工具,什么乱七八糟的呀,这各种各种这个工具的参数啊,这些信息全都给大媒体人发过去,这就很麻烦, 东西很多,所以呢,为了让这个提升这个性能吧,当然也不只是为了提升这个性能,咱就说性能,为了提升这个性能吧, hlp 公司就发布了一个叫 a n 的 skill 的 东西, a n 的 skill 的 话,他可以定义一个工作流,定一个文档,一个 markdown 文件, 然后这样的话它只要在文件上面写一个原数据,写两行,对吧?当用户在干什么的时候调用这个 skill, 那 下面细节就不用不用给大模型了, 那这样我一个 a 针呢,就可以接很多的 skill, 我 只要看它那个原数据,它能干啥,我需要的时候我再调它里面的东西,这样呢性能就能得到一定的提升。而且用这个 skill 的 时候会大家发现更好的一点,就是 skill 可以 写很多很多东西, 比如说你想做一个知识库,你可以放在 skill 里面,你可以有定一个工作流,你可以放在 skill 里面,很多事都可以放在 skill 里面,这样 skill 就 火出圈了。 也就说 skill 它是一套文档,文档规定了这个事怎么干,然后大模型就会按照这个流程去干事,做事就就就完事了。 所以刚才说的 m c p 是 什么?是调用工具更方便,工具是什么呢?就是查询天气这些工具。然后呢? skill 呢? skill 是 可以让规定 你做这件事,调用哪些工具,执行哪些标准,它是做了一个更更广的一个规范,也就说一个 skill 可以 调很多 m c p 可以 调很多的工具,这是 skill 的 作用, 也就是说大家会发现 skill 能力强了,是吧? skill 可以 作为文档,它可以做知识库。 skill 可以 定义工作流,它可以做很多事, skill 可以 调很多的工具, skill 也可以调 m c p, 这是 skill 的 能力。 然后大家就会发现,那 sku 是 不是太强大了呀?对吧?它是不是可以操作浏览器啊,可以写代码啊,做简历啊,所有的工作流,甚至取代什么扣子,以前那种传统的工作人形式全都取代了,那所以这 sku 实在是太好用了吧? 确实好用,确实好用,它太好用了。然后呢,就出现了很多的工具全都接入了这个 skill, 包括浏览器, tree products, 所有的 ai 工具, ai 开发工具都接入了这个 skill, 就 大家都能用 skill 了。然后又出现了一个东西也接入了这个 skill, 就是 open claw, 也就是说因为 skill 可以 做很多事, open claw 它不需要做这些事, open claw 只需要可以调 skill, 它就可以做所有 skill 的 事。也就是 open klo 是 什么呢?它就是一个智能体,智能体的能力不依赖于它智能体本身,而依赖于它接入了哪些 skill。 这也就是说,为什么大家用 不用担心 open klo 以后能力会不会变强变弱什么的,你不需要关注它有什么能力, open klo 也没什么能力,它的能力全部一托于 skill 生态。 所以有个网站叫 cloud 号吧,里面有很多 skill 嘛。大家如果想扩展自己 opencloud 的 能力的话,你就直接下载 skill 就 ok 了,你就可以让你的 opencloud 去做各种各样的事了。因为 skill 可以 做,所以 opencloud 就 可以做, 这就是大模型 agent skill mcp 和 opencloud 的 关系。我不知道我讲的透不透彻。讲的透彻,点个赞支持一下。

挑战两分钟,彻底讲清 agent 和大模型看完这期,你可以在半分钟之内把差别讲给同事听。很多人第一次接触 agent, 会首先想到联网搜索插件能力。工具按钮。这条路能够帮我们迅速地进入主题,因为工具确实是 agent 的 体系里很醒目的组成部分。 接下来,我们把视角再往前推进一步,把工具放到一整套完整的运行机制里。当机制完整地呈现出来, agent 的 边界和特征会更清楚。 agent 它是一个围绕着目标运行的系统,它能自己做规划,按多步推进任务,并在每一步读取结果后调整后续动作。这套能力的关键在于闭环画面里,这条列录从感知开始,经由规划进入行动,再到反馈。把这条闭环记住,才是真正理解 agent 的 第一步。 那大模型,也就是 l l m, 最擅长的是生成文字,也就是根据你输入的内容向后拼接文字。但是它有三个典型的短板, 第一个知识可能不是最新的,很多实时问题他并不知道。第二,他自己不会动手,他只能够告诉你应该怎么做。第三,他没有天然的持续状态,你不额外给他记录,他很容易把中间过程忘掉。所以单独的大模型更像一个超级会表达的问答机器,但不一定能够把一件事从头做到尾。 好,那 agent 呢?怎么解决这些问题?你可以把 agent 当成大模型,这个脑子再加上三样东西, 第一是工具,让他有手有脚,真的去查去算、去发去写。第二是记忆,把中间状态偏好历史结果留下来,不至于走一步忘一步。第三是反馈控制,根据执行结果决定下一步是积蓄换策略还是重试,这三样加上才会让他从会说升级成会做。 先展开第一块工具。工具这件事的意义特别简单,让模型的输出不只是建议,而是触发一次真实的动作。 比如他可以去搜索材料,可以运行一段代码,可以查数据库调 api, 甚至可以发邮件创建公单。他也可以在自己的沙河世界里盖一座伟大的城堡。 你会发现,一旦能行动,很多原来只是寥寥的场景,突然就变成了可以自动完成了。后面我会用查天气并发邮件的例子,让你直观的看到这件事情多像一个真正的执行流程。 第二块是记忆,我建议你把它分成两层,短期记忆和长期记忆。短期记忆更像工作台,放的是当前任务中的中间过程, 我刚查到了什么,下一步要做什么,上一步返回了什么结果。长期记忆更像档案库,放的是跨任务的信息,比如你的偏好、历史决策,你常用的工具的参数,需要的时候再剪辑回来用。那有了记忆 a 阵呢,才能在一个复杂任务里保持连贯,不至于每一步都想重新开始。 第三块是很多人忽略,但是很关键的,他会不会纠错?现实世界里做事经常会失败,关键词搜不到,结果报错,结果不符合预期, 如果他一失败就停,那他只是一个会调用工具的脚本。 a 阵呢?他更像人,做一步看结果发现不对他就调整,比如换关键词再搜,或者说换一种调用的方式,再试一下这种边做边调整的能力,才让他在不确定的环境里也能够把任务推进下去。 现在把刚才的三块拼回到那条壁环里,感知,读取你的输入,看环境信息、规划,拆任务、选工具、拍步骤、行动,也就是真正的去调用工具执行 反馈是读回结果,判断是否达标,不达标就修正计划。当这个环能自己转起来,我们就说他具备了 agent 的 味道,自主闭环。接下来我们用一个最小的例子,让你看到这个环是怎么转的。 假设我给他一个目标,帮我查一下北京的天气,然后把结果发邮件给老板。一个 agent 的 执行会像这样, 第一步,他先决定调用天气工具去拿到北京现在多少度,什么天气。第二步,获得反馈,把这个结果编成一段可以发出去的内容。第三步,查询数据库中老板的邮箱。第四步,再调用发邮件的工具,把邮件真的发给老板。 重点来了,这里的每一步他都不是在文字里假装完成了,而是在系统里真的执行了工具调用,并且把结果回传给他,驱动下一步。这就是从生成答案到完成任务的差别。 那为什么 agent 这两年突然爆火了?这里我用三方面来分析。第一,模型能力确实变强了,他更能理解目标,拆任务,选工具了。第二,工具的调用更标准化了,模型能够输出结构化的调用请求,工程接入的成本大幅降低了。第三,生态更完整了, 框架、项链库、各种 api 都让可行动的能力变得更容易拼起来。三件事情凑齐, agent 才从概念变成了可落地的工程形态。 最后我们做个总结,大模型强在生成文字, agent 强在完成目标。如果你看完这期视频没记住全部的内容,那记住 agent 的 以下三点就足够了,第一核心是自主闭环。第二关键能力是工具加记忆加反馈纠错。第三结果是从回答问题升级到把事情做完。 你以后看到任何 agent 的 产品,就用这三点去检查它到底是不是在跑闭环,还是只多了几个按钮。如果这期视频对你有用,记得点赞关注,我们下期再见!

最近,整个科技圈都被一件大事炸翻了。一家名叫 minnes 的 ai 公司,前脚被海外巨头砸出二十亿美元天价收购,眼看就要上演一场 ai 圈的顶级资本盛宴。可谁也没想到,剧情突然惊天反转,一纸监管叫停通知,直接叫停收购,撤销股权、封存核心数据。 minnes 到底凭什么能值二十亿? 好好的收购案,为什么突然被紧急按下暂停键?更关键的是,这件事背后藏着整条 ai 智能体赛道的风口, a 股又有哪些企业已经悄悄卡位了相似布局?今天咱们把整件事从头到尾拆透。很多人搞不懂 minus 到底利害在哪? 它跟我们平时玩的 chat、 gpt、 普通大模型根本不是一个维度,普通 ai 只能被动聊天,一问一答,所有步骤都要人一步步指挥。 但 minus 是 真正意义上通用 ai 智能体操作系统,你只需要一句话,下达指令,它就能自己拆解复杂任务,自主调用浏览器工具代码全程全自动执行,还能自我纠错,复盘收尾, 直接给你交付完整成品。不管是做一份行业深度研报,还是独立开发小程序,整理整套办公报表,它都能一人包揽。更夸张的是,上线短短九个月,年化营收直接破一亿美元,全球开发者挤破头,内测码甚至被炒到十万块一个。 在国际权威测评里,它的综合能力直接超越了 openai 同类型产品。也难怪海外巨头愿意砸二十亿,非要把它收入囊中。既然实力这么顶尖,为什么监管非要果断叫停?这场收购核心根本不是商业买卖那么简单,背后是 ai 核心技术与数据安全的底线博弈。 minnes 骨子里是纯中国研发的团队,纯国内技术沉淀底层训练数据,也高度一托国内本土数据资源,属于明确的前沿敏感 ai 技术范畴。 更关键的是,这家企业玩的一手典型的洗澡式出海,悄悄把总部迁到新加坡,清空国内社交痕迹官网,屏蔽国内 ip, 刻意做去中国化包装, 本质就是想把国内孵化出来的顶级 ai 核心资产、技术、人才变相转移到境外,再转手卖给海外巨头,刻意规避国内安全审查。对监管来说,前沿 ai 核心能力、关键数据资源绝对不能轻易外流,更不能用这种迂回方式金蝉脱壳。 所以这次直接强硬叫停,也是给整个 ai 行业立下规矩。 ai 可以 正常出海发展,但核心技术、核心控制权决不能轻易拱手让人。 menace 事件看似是单一企业的资本风波,实则直接引爆了国产 ai 智能体 agent 整条赛道海外收购备栏,意味着高端通用 ai 智能体的发展主动权要牢牢握在国内自己手里。而 a 股里面,其实早就有一批企业,早早布局了和 menace 同类型的赛道, 像科大讯飞一托星火大模型,深耕政企、教育、医疗全行业。 ai 智能体落地金山办公,把智能体嵌入 wps, 实现文档、表格、 ppt 全自动办公。还有汉德信息、智远互联,主打企业及协同办公,供应链财务全流程智能自动化。 另外,蓝色光标间接参股关联,也是 ai 营销智能体加海外布局的核心标的,再加上浪潮信息这类 ai 算力底座企业,都是支撑智能体大规模落地的关键环节。 整件事梳理下来很清晰, menace 的 厉害在于它打通了 ai 智能体工程化落地的壁垒,做到了真正全自动复杂任务执行被叫停的核心是规避监管的变相技术外流,触碰了国家 ai 安全红线。 而对我们普通人,对整个产业来说,最大的信号就是 ai 智能体已经成为下一轮科技竞争的核心赛道,国产替代、自主可控会是接下来很长一段时间的机会。

家人们,别再被你手里的 ai 给骗了,你天天用的那玩意根本不是真正的 ai! 是 不是跟我一样,刚用 ai 的 时候觉得这东西要上天了,结果却越用越气?让他写个旅游攻略就给你列个干巴巴的空架子, 让做个工作周报,通篇全是正确的废话,纯纯就是推一下动一下,你多吩咐半句他都不会给你带个啥也摸不清门道的实习生。一模一样, 越用心越累。你平时用的叉子、 g p p 豆包这些只能叫 ai 聊天机器人,而真正能帮你把活干明白的叫 agent。 用人话翻译,普通 ai 是 你喊一句才动一下的实习生, agent 就是 你给个目标就能搬妥的全能私人助理。有个最接地气的例子你瞬间就懂。你说一句,五一我从北京去成都玩,四天五千预算,但老人要轻松不踩坑。 普通 ai 呢,给你列个四天行程大纲就完事了,剩下查机票订酒店算预算,全得你自己弄在 ai 界面呢,你说完这句话直接往沙发一摊,啥也不用管,他自己给你挑不折腾老人的航班, 开电梯不临街的酒店,还每天只去两个地方的轻松行程,连每一笔开销都给你算的明明白白,门票、预约提醒都给你安排的妥妥贴贴。谁觉得这是什么大厂才能用的上的黑科技,离咱们普通人远的很。 现在这玩意零门槛就能用?打工人做报表,写周报,整理会议资料,学生党做学习计划整笔记,就连你减肥都给你算好,每一顿的卡路里点外卖,怎么点都给你安排的明明白白,一句话给你记死了, ac 就是 你不用听不用你教 自己想办法把事情给办明白的专属助理。是不是超心动,想知道在哪能用上?关注我带你把 ai 玩的明明白白。你们平时用 ai 最烦的是什么?评论区告诉我。

最近特别火的 agent、 mcp、 skill、 open claw、 rag 大 模型到底是啥意思?今天一次性讲明白。先给大家举个例子,你把自己想象成一个老板,想搞一家完全不用人动手的全自动化的公司,这个时候你是不是需要一个全能的执行者?他不只是动动脑子,他还能统筹安排落地执行。 这里先澄清一个关键,真正管事的做决策的,那背后的核心,他是大模型,相当于我们人的大脑。咱们说的 agent, 也就是智能体,就是这个大脑的执行者的化身,他能听懂你想干啥,把你交代的环拆成一个一个的小任务,定好详细的执行步骤, 再指挥后续动作的落地。当然,他一定会借助各种各样的工具,相当于带着大脑的指令干活的统治者。准确的说,大模型是核心的大脑, agent, 他 是大脑的执行主体,是能自主决策、调度任务的智能执行者。那 skill 又是什么呢? 其实就是这个 agent 就是 执行者,他手里的硬本事是他自带的一些本地知识,标准化的能力能让他把活干的更漂亮。不只是凑合着完成 agent, 他 具有的硬本事可真不少哦。 比如说怎么写周报,怎么整理电脑里的文件,怎么打开浏览器查东西,怎么发邮件,怎么做内容的生成和发布,他可以写前后端的代码, 这些相对比较固定的流程,不用我们反复琢磨的一些标准化的动作和常规工作,每一个都可以是一个 skill。 简单说, skill 就是 agent 的 基本功,是它能落地执行任务的基础。接下来是 m c p, 它的全称 model context protocol 模型上下文协议。咱们还是举个例子,在没有 m c p 之前,你想让 ai 帮你干活。比如说你让 ai 查你的非书表格,非书文档,你要专门写一套代码去适配非书。你要让 ai 读你百度网盘里的文件,你要重新写一套去适配百度网盘。 你想用 ai 去高德地图查路线,或者给你的微信发消息,你每一个都得单独写一套代码。想让 ai 在 淘宝、京东给你下个单写套代码适配电商。所以你看,每连一个工具都要重新开发,重新适配, 正在重复的造轮子。现在有了 m c p 统一标准的协议了,它就像 ai 界的通用 usb 数据线,什么飞书、百度网盘、高德、微信、支付宝、京东,全按 m c p 的 标准插上去就行。那 ai 不 用学每一家的方言,一套标准接口适配所有的工具,不用写任何额外的适配代码了, 就实现了一次适配,多平台通用。在这里就是万物互联。那 red 又是什么呢?他翻译过来是解锁增强生成,其实核心就是让 ai 具备查资料的能力。 你像我们传统的 ai, 当生成内容的时候,可能会因为知识的不足,他就胡编乱造,产生幻觉。 red, 他 会先通过互联网,然后我们自有的知识库进行信息的查询,然后基于这些已有的内容再重新生成,那提供的信息他一定是更可靠的。 最 lag 的 本质是什么呢?为 ai 增加了搜索引擎的功能,类似于我们写论文,你先去图书馆查资料。最后我们说 openclot, 它到底是个啥?如果说大魔行驶大脑 agent 是 统筹的执行者,那 openclot 就是 承载这两者的一个躯体, 它是一个开源的、可以自己托管的 ai agent 网关。简单点说,你可以把它下载下来,安装在我们自己的电脑或者是服务器上,它就是一个能让 ai 跑起来的运行环境。 open code 里边已经自带了 agent 的 核心执行逻辑,它能通过我们刚才说的这个 mcp 协议 去调用各种现成的 skill。 而它所有的核心决策,比如说我怎么拆分任务啊?我先执行哪个呀?遇到错误之后怎么换其他方法呀?它其实背后都是靠接入的大模型,但可以再通俗一点, open color 就 像一个开箱即用的数字员工套装,哪怕你不是技术大神,你只要简单设置一下,说出你的最终目标,就能把 大模型 agent、 mcp、 skill、 rank 等等整合起来,拥有一个能够自动帮你干活的 ai 助手,你不用自己写代码搞开发。最后总结一下,大模型是核心的大脑,负责思考、做决策 agent, 它是统筹的执行者,像一个核心高管, 承载大脑的指令,拆分任务、定步骤、指挥执行 skill。 agent 的 基本功内置了标准化动作帮, 让你把具体的活给干了。 m c p 通用接口相当于通用的 usb 数据线,帮着 ai 去连接各种外部工具,不需要重复适配。 open call 躯体加运行环境,把大脑执行者、基本功、通用接口都整合到一起,让咱们普通人能轻松用上。

今天我们来聊聊 agent, 它也叫 ai agent, 这是一个随着大模型热潮而兴起的重要概念。虽然 agent 这个词现在被频繁的提起,但它究竟是什么, 又是如何运作的,很多人其实并不清楚,所以在这个视频中,我会带你彻底搞明白这两个问题。 那我们都知道现在的大模型,比如千问以及像 deepsea, 那 么他们在回答问题的时候,哎,非常的厉害啊,逻辑也很强,但平时我们在使用他们的时候,会发现他们有一个限制, 无法感知或者改变外部环境。那这句话是什么意思啊?我们举一个例子来说明一下。比如你想要让我们的千问啊帮你去写一个打 游戏,他确实可以给你去深层对应的代码,但写完之后,像把这个代码写入文件这样的事情,还需要你自己去动手啊。 也就是说大模型他无法改变外界的环境,因为这个代码他最终还是需要你自己手动啊,去复制到文件当中去。再比如说你已经有了一部分的代码,那你只是想要让大模型 基于这样的一些代码来进行改写或者增加功能,那么在这种情况下,你就必须要把你已有的代码复制给千问才可以。 如果你不主动告诉大模型,他是无法自己去查到这样的一些代码的,换句话说,这就是大模型无法感知或者改变外界环境的体现。所以综合来看啊,大模型他的这样一个缺点那是存在的,那么有没有办法来解决这样的一个问题呢? 其实是有的,那我们可以给他安装对应的工具,那其实就可以了,比如那我们可以有这个工具的这样的一些列表,那我们可以去读写文件的内容,哎,它是一个工具,那查看文件的列表,它又是一个工具啊,我们可以去运行终端的命令,这也是一个工具, 那工具它就像大模型的感官和视知,有了它大模型它就可以自己啊去查询已有的文件, 自己去写入代码,运行程序,整个过程不需要我们去插手,完全是自动化的。那么像这样一个把大模型和一堆工具啊组装起来,变成一个能够感知和改变外界环境的智能程序,那我们就把它叫做 agent。 通常啊, agent 我 们会用一个机器人图标来表示啊,那么这个与大模型的大脑图标形成了鲜明的对比,毕竟 agent 有 了感官和视知啊,能够独立啊做事了,那就像一个机器人一样,那 agent 它有很多的类型, 前面我们列出的是编程类的 agent, 那 么它可以用来开发程序,除此之外,还有一些啊,可以用来做我们的 ppt, 甚至还有一些可以用来进行我们的深度搜索。 那总的来说, agent 它的类型多种多样,那擅长的领域也各不相同。下面我们再来看几个具体的例子。比如我们在编程当中啊,非常有名的 person, 那括号的话,它是一个用于编程的 agent, 我 们只需要提交任务,它就会调用大模型和各种工具来帮我们写代码,直到完成任务。那整个过程我们最多只需要去点击确定的按钮,其他的基本不用你去操作。那下面我们把统 这一个非常简单的一个开发游戏的任务啊,提交给咱们的 agent 啊,那我们来看一下它是如何来进行工作的。 好,然后我们现在啊,我们可以看到啊,那么当我们提出一个需求之后,哎,接下来 agent 它就能够自动啊,完成整个任务啊,包括我们整个 项目结构的创建,包括我们要实现的基本的一些功能,包括以及我们对应的目录的创建啊, make d r, 然后创建我们对应的文件等等,所有的功能全程是自己去完成的, 需要我们自己去做任何的操作啊,那同样的,对于这样一个游戏啊,我们也可以来进行对应的一些应用啊,比如我们在这里我们可以打开我们的 文件资源,然后我们直接啊运行我们的 index 文件啊,那我们可以看到啊,那么在当前的这个文件当中啊,没有任何的问题,好让我们重新看一遍啊,好,那么在这个非常简单的游戏当中啊,我们会发现啊,基本的功能,那其实在这里啊,都已经实现了, 以及游戏的结束的判断条件,那这就是 agent 它所具备的能力。那其实像类似的应用啊,还有非常多啊,包括我们之前我们非常出名的,像 mammals 以及 open mormos 还有等等啊,就像这样的应用啊,非常非常多。那么了解了 agent 是 什么之后啊,我们再来看一看它的运行模式, agent 的 运行有很多模式,其中最有名的一种就是 react, react 本身是一个缩写,它的全称是 reasoning and acting, 也就是思考与行动。 react 可能是目前使用最广泛的 agent 运行模式?如果你要学习 agent 的 实现原理,那你就绝对绕不开 react 这个模式,那么它最初是由二零二二年十月份的一篇论文提出, 虽然距今已经有接近三年的时间了,但是它所提出的 agent 的 运行模式仍然有着非常广泛的使用, 说它是目前使用最广泛的 agent 运行模式也不为过。在这种模式下,用户先提交问题,然后 agent 先做思考,英文名,也就是 sort, 但他在思考后会决定啊是否调用工具,如果说是的话,他便会去调用适合的工具,比如说读取文件,写入文件内容等等。 react 称这一步是行动,英文名是 action, 那在行动之后, agent 会去查看工具的执行结果,比如所读取的文件内容写入是否成功等等。 react 趁这一步是观察,也就是观察工具执行的结果,英文名是 observation, 在 观察之后, react 会继续思考,那么他会去判断是否啊需要再次去调用工具,那如果说是的话,他就会去重复之前的所有所说的行动,观察和思考的这样一个流程, 直到某个时刻,他认为不再需要调用工具了,可以直接给出结论,此时他就会输出最终的答案,那英文名就是 final order。 整个流程到此结束。所以从这个流程图里面我们也可以看到 react 核心步骤是 short, action, observation 以及 final order。 记住这几个词我们后面会用到。了解了 react 模式的流程之后,下一个问题就是这种 react 模式它是如何实现的? 为什么模型在拿到用户的问题之后,他会先思考在行动,他为什么不直接行动?是因为模型就这么训练的吗?不是的,这跟模型的训练 其实关系不大,大部分的奥秘其实都集中在系统提示词上,系统提示词它是跟用户的问题一起啊,发送给模型的提示词,它规定了模型的角色运行时要遵守的规则,以及各种环境的信息等等。 比如我们在系统提示词里面写,你的回答必须要包含两个叉 ml 标签,一个叫 question, 那 用于存放用户的问题,一个叫 alter, 那 用于存放你的回答。你把这个系统提示词和用户的问题一起啊, 发给大模型,在这种情况下,大模型它就会遵守这种规范来输出答案。上面给大家举的是一个简单的这样的一个例子啊, 那如果说你想要的模型按照 react 模式返回答案,那么你的系统词,系统提示词它就会更复杂一些, 那我这里的话也有一个具体的例子啊,好,那我们可以来仔细的来阅读一下啊。那首先的话,我们来看一下那么职责描述的这一部分,那它描述的就是你需要解决一个问题 啊,就是为此啊,你需要将这个问题分解为多个步骤,对,每一个步骤,首先使用 sort 思考要做什么, 然后使用可用的工具之一啊,决定一个 action, 然后接下来你要根据你的行动啊,从环境工具中收到一个 operation, 那 持续这个思考和行动的过程,直到你有足够的信息啊,来提供这个啊, 或者那所有的这个步骤啊,他都会有这样的一些具体的一些标签,然后下面的话也有这样的一个例子啊,比如说这个埃菲尔铁塔他有多高,那我们怎么做呢?首先他会去思考,对吧?他要找到这个埃菲尔铁塔的高度啊,那么可以使用搜索的工具, 那这样他就会有一个 get hat, 这样一个查看这个高度的一个工具啊,然后观察这样的一个工具,反馈这个结果,然后再思考,那我们根据这个结果得到了,可以直接输出了,所以说就最终啊输出这样一个答案, 就这其中一个,然后下面还有第二个。好,然后再往后啊,那么还给大家去猎取了一些可用的工具啊,比如说可以分别用来读取文件的内容,对吧?然后写入我们指定的内容,然后以及用于执行我们终端的这样的一些命令啊, 然后的话还猎取了一些注意的一些事项啊,比如说告诉大模型的一些环境的一些信息,那以及包括他能做的和他不能够去做的啊,那这个地方都有啊,那下面的话我们就来演示一下如何使用这个系统题的词啊, 我们用 deepsea 来举例啊,或者用千问都可以啊,那就让我们先选择这个千问吧,因为千问我用用过一次啊。好,那么这个对话的话其实非常的简单啊,比如说我把这个 发过来啊,给大家看一下啊,其实这个是一个非常简单的一个东西啊,好吧,那么这个地方首先就是要把我们前面的这样的一个职责描述啊,就是我们这个系统提示词啊,把所有的内容全部复制一遍, 复制一遍之后啊,然后我们开始给了他的一个需求,就是我们通过这个 test, 哎,把我们的这样一个需求提交过去了,那么这个需求提交过去之后,我们可以看到那么大模型他的回答,那跟之前就不一样了,对吧?他首先是回到这样一个 sort, 那这是他思考的这样的一部分内容啊,然后接下来开始有一个 app, 好, 那么在这个地方很关键啊,因为我们是需要去模拟啊,他的这样一个执行的一个过程,所以这个地方他实际上是没有去写入成功的啊,但是我们这个 y y x y x 啊,然后我们还是把这个写入成功啊,发给他,那发给他之后,哎,他就开始去下一步的这个思考,因为上一步这个 x y 文件,然后再告诉他写不成功,那他就会创建这个 css, ok, 然后再创建这个 g s 啊 g s 文件代码,那我都告诉他,哎,你都已经写入成功了,好,那么都写入成功之后啊,他就会把这个完整的这个内容啊返回给我们了。好,那我们其实可以看到啊,其实在这个地方的话,那因为我们是一个模拟的这样的一个 过程,好吧,那如果说是一个真正的 a 整数的话,那么他就会去调用啊工具背后的这个 html 文件的内容, 所以我们现在就这个假设啊,好,那么这个地方的话,我们把这个完成之后啊,那么我们可以发现啊,那么其实整个流程它的关键其实在于我们的这个提示词, 好吧,它决定了模型啊应该如何一步一步的去运行?那其实在这个系统提示词的基础之上啊,那我们可以再加入一些配套的代码,那我们就能够去 搭建一个真正的这样一个可用的 react agent。 那 实际上啊,这个项目我这边的话是已经写好了,那接下来的话先给大家演示一下那么这个 agent, 那 么它的一个完整使用的过程啊,然后再带大家一起去看一面它的一个 完整的代码。那么在这里的话,我现在已经进入到这个啊,项目这个 a 型的这个项目所在的一个目录了啊,那么首先我们可以通过 d r r 来我们查看一下这个项目的一些文件啊,那么在这个项目下面的话,首先与我们这个环境配置相关的,比如说这个 change, 这个 vspace, 然后这个 v v 英 v 啊,这是我们的虚拟环境,然后 agent 呢,就是我们要执行的代码,然后这边还有两个文件夹啊,这个是用来存储我们的一个项目的一个目录的啊,然后接下来这个 man 点 py 的 文件哎,然后 prompt them play, 那 这个提示词模板啊,这就是我们这个文件里面的这一个啊, 那接下来的话啊,我们就先来看一下啊,就这个 a 键呢,到底啊如何去运行它啊?那么要运行这个 a 键呢,我们是通过 uv 哎,然后润啊,命令啊, 然后 a 键呢这个代码啊,那后面的话,我们可以再加上一个,就是我们的这个目录啊,就你要把你的这个文件要写出来哪一个目录啊?到时候可以放进去啊,但是我们也可以不写,那你其实不写的话,我们也可以在这个地方,我们运行之后啊,再去指定这样的一个内容啊, 啊,这边不行,不行啊,不行,他告诉我们缺少这样一个参数啊,那我们就把这个给他加上啊,好,那么运行之后的话,那么首先的话是需要我们去提交这样的一个任务啊,那么这个任务的话,在这里啊,我们先还是一样的,我们 直接复制一下就 ok 了。好,然后我们告诉他,我们要写一个一个游戏啊,然后通过什么语言来完成,然后代码就放到代码放到 当前啊,项目路径下的。好,然后这个把这个路径啊,我们给他写进去啊, ok, 然后回车啊,好,那我们就可以看到啊,你这个任务啊提交之后,哎,他就会去请求这样的一个模型。好,那么首先呢告诉我们直接啊,首先第一步,哎, 看到没有写入成功,那这个写入成功啊,他就不再是咱们模拟的了,好吧,他是一个真正啊已经这个写入成功了,等一下我们可以去看啊。好,然后下面啊这个 css 啊也已经写入成功了,然后他开始去请求这个 gs, 开始去生成这一个 gs 的 这个代码了啊 啊,这个结识代码啊,现在结识啊,这个结识这个地方其实也已经写录成功了啊,那么最终啊,看到没有,哎,我们这样一个结果,对吧?比如放到我这,那告诉我们这个游戏啊已经完成了,然后代码已经放到当前项目路径下面的这个文件夹里面了,然后包括这三个文件啊,那么其实到这里的话,我们就可以通过这个拍下啊, 我们打开这个项目啊,来,我们看一下, ok, 好, 来这里我们就能看到有这三个文件啊,比如说 index, 然后这个 style, css, 还有这个 code, 这个 js 啊,三个文件啊。 ok, 好, 所以这个咱们就不看了啊,因为前面我们在 call 上面已经看过了,好,那么我们在这里啊, 我们的从这个结果啊,我们其实可以判断,那么这个 a 键啊,其实并没有什么问题,对吧?我们就通过这样的一些提示词,哎,我们就告诉 完成了整个 agent 它的这样一个完整的一个流程,好吧,那接下来的话,我们来看一下这个 agent, 那 么它的一个具体的一个代码,它到底是怎么去实现的?那么首先的话,我们从这个, 呃,入口啊,我们开始来看,那么这个入口的话,其实是我们这个最下面这个问函数啊,好,那么在这个问函数里面啊,首先它会有一个参数啊,叫 project dictionary, 那 这个就是我们一个项目的一个文件夹啊, 是你的这个什么呢?你的这个文件它要输出到哪一个文件在下面,哎,那你就把它放到这里啊,好,然后接下来,那我们有一个工具的一个列表,对吧? toast, 然后这个 read fail, 然后这个 want to fail, 对 吧? ok, 以及执行终端这个命令的这个润, 然后 c、 m、 d 的, 好,我们就可以分别来看一下,对吧?读取文件的内容啊,然后写入文件的内容,那其实说白了就是我们的一个 python 当中的函数啊,好,然后这个是执行我们终端的一个命令啊。 ok, 好, 那么工具列表有了之后,哎,接下来我们就去定义了这样一个 react agent, 那 这就是我们的核心啊, 那这个 react agent 呢?它到底是什么?来,我们来打开看一下,那这个 react agent, 它是我们自己啊定义的一个类啊,那么在这个类当中啊,首先它的粗俗化啊,有很多内容,来我们看一下 plus, 就是 我们的工具的一个列表,然后 model, 哎,就我们的这个模型嘛,对不对?好,然后接下来 project 啊,就我们的一个路径啊,一个目录,然后 cat 啊,就是我们通过 open ai 的 接口啊,去实现的这样的一个大模型的一个接口啊。好,那这个就到这里了,然后它里面还有一个方法叫润方法。 好,那么这个润函数呢?它的这个参数啊,是我们可以来看到是一个 user input, 就是 我们用户的一个输入啊,就在这个地方。然 在函数的内部啊,那么它是先构建了一个 message 的 这样一个列表。好,然后它里面的话有两个参数啊,一个的话是我们这一个 system, 那 是我们的一个系统一个提示词,还有我们用户的一个问题啊,那系统提示词的话,它是用这个 render system prompt 啊,来进行的这样一个渲染,那么它接收一个参数啊, 那这个参数啊,其实就是我们的这个,给它看一下 prompt play 的 这样一个模板啊,那这里面的话,我们可以看到,我们其实就把很多一些工具啊, 来进行了这样一个什么,哎,进行了这样的一个格式化啊,好,然后下面就是我们的这个 content 啊,用户的一个问题,然后把这个 user input, 哎,我们把它填进去啊,好吧,通过占位符啊,把它填进去,那么拼接好这样一个完整的这个 message 的 这个列表之后啊,那么我们接下来就可以去使用这个 call model 这个函数啊,来调用我们的这个模型的,好不好?那拿到这个模型的这样的一个结果之后呢?来我们再看啊, 这个地方,对吧?首先通过这个库 model 啊,来把我们这个消息啊传进去,那么我们会得到一个模型给了一个结果啊,那模型给了这个结果,那么我们就会去通过这个正则表达式啊,我们去检测这个模型它到底返回的是这个函数, 还是这一个 friend order, 对 吧?还是这个 action, 还是说其他的这样的一些信息?那通过这样一个匹配的一个方式,那我们就知道它进行到哪一步了,好吧,那如果说它返回的是我们的这个啊,它只要返回的不是这个 哦,翻了 order, 那 么他就会去循环重复整个的这样的一个过程啊,因为这是一个 while 循环,所以他后面的执行完成之后啊,他又会回到前面去啊,好吧,那继续去请求这样一个模型,所以 我们给他传的这个 message 的 这个列表,比如这个 comodo, 那 给他传的这个 message 的 这个列表的话,那么我们后续啊,其实还会把一些结果啊也放到这个列表里面来,比如说这个 append, 哎,这有点这个 content 啊,就它这个地方,它是一直在变化的,就是我们这个观察到的一个结果,也就是模型它前面输出的内容也会一起啊提交进去啊,因为在一个微扰循环里面啊,它回到上面之后,它继续就会把这个结果啊,会传进去了, 这样的话模型他就能够拿到什么,拿到工具执行的一个结果了,那么他进一步,哎,他就能够根据这个工具执行的结果啊,去预测下一步啊,要做什么, 所以给大家去总结一下这个 while 循环啊。好,那么在呃这里面的话啊,给大家总结一下他几件事情啊,第一步啊,就是我们去请求这个模型啊,好,请求完模型之后啊,那么我们首先是去提取这一个算法,也就我们这个思考这个部分, 然后再检测一下它到底有没有输入这个啊, final order, 就 如果说是的话,那么我们就可以直接 return, 那 这个 y 循环就结束了, ok, 因为函数也结束了, 好吧,那如果说没有了,没有的话,那么我们再去检测这个 action, 哎,就它有没有这个提到啊,要调用什么样的一些工具啊?好吧,那么这个过程它会一直重复啊,直到什么,直到模型返回了这个 final order 为止啊,这个就是它的一个流程啊, 那回想一下,这个也正是啊,我们之前所提到的 react 的 它的一个运行的一个流程啊, 那么为了去确保啊,大家能够彻底明白啊,这中间,那到底啊发生了什么事情?那接下来的话,我们来画一个这个 agent 的 一个流程图啊,那么流程图的话,我们只有两个角色,好吧,一个是 agent, 那 agent 的 话,我们可以把它分成三个部分, 也就什么呀,哎,也就是我们的模型工具啊,还有咱们的这个函数啊,我们这个主程序啊,好吧, a g 的 主程序, 那主程序这个词我们可能之前没有提过啊,但其实就是我们这个 a g 的 里面啊,负责去串联整个流程的一个代码的逻辑,好吧,那么它能够在 适当的时候啊,去调用工具啊,或者说模型,那你可以把它理解为我们刚才代码里面的这个润函数,哎,这就我们的主程序,那下面的话,我们来简化这样的一个流程啊,那么我们来看一下,那么这四个角色之间他到底是怎么去进行这样一个沟通的? 那么首先是用户啊,那么我们在提交完一个任务之后,任务呢,首先会来到这个 agent 的 主程序这里面, agent 的 主程序,那么它就会去调用我们的大模型啊,去请求模型,那模型的话,这个时候它就会返回我们的这样一个思考的一个过程啊,以及要调用什么 工具。然后 agent 的 主程序啊,那么再把这个 sort 思考的过程,还有这个 action 要调用的工具啊,打印给咱们的用户去看, 哎,又显示出来好,显示出来之后啊,那么再去调用什么?再去调用这个 action 里面的什么,哎,这样的一个工具啊,因为你要调用吗?好,你这个思考啊,还要去调用啊,那么调用这个工具,哎,他就会有对应的一个工具啊,他所执行的一个结果, 那这个结果同样的也会返回给咱们的用户啊,来去查看,然后再把这个工具的执行结果啊,加到我们这个历史消息的这个列表里面去啊,然后我们会重复啊,就是整个框住的这样一个部分流程 啊,他一直重复啊,好吧,也就是请求模型,然后处理这个 sort action, 还有这个 operation 的 这样一个逻辑,那直到那在可能在某一个时刻啊, 你在请求完这个模型之后啊,那么模型啊重复 n 次之后,他认为啊,用户的任务啊已经完成了,好吧,哎,他不再需要去调用这样一个工具了,那么这个时候他就会返回这样一个 sort 思考的过程。还有这个啊, final order 啊,我们这样一个结束,那 agent 的 主程序啊,再把这个啊 final order 展示给用户看,那整个流程到这里啊,其实就结束了, 那这就是一个完整的 react agent 的 问答流程。好,那这个啊,就是今天啊要跟大家去分享的啊,我们从 agent 是 什么啊,以及到 agent 它的运行流程, 包括 agent 它运行的这样一个 react 构建的模式啊,给大家做了一个详细的这样一个讲解啊,那希望大家啊有有所收获啊,我们下期再见。

下班了,今天聊点 ai 真话。那前天在 ai 圈又发生了一件大事,就是发改委要求撤销 met 对 manu 二十亿美金的收购,那么这件事在网上的讨论也是非常激烈。 呃,我就想从两个方面来谈谈这件事,也想知道大家是怎么想的。嗯,第一个方面呢,就是 menu 为什么能卖这么贵?或者说这个事件为什么能这么火吧。 那 menus 的 背后其实是代表了两种范式,第一个就是产品形态的范式。那 menus 其实是去年三月份发布的嘛,当时就号称是全球首个通用 agent, 它的概念也是在 deepsea 之后小火了一把。 那 menus 其实并不是第一个做通用 agent 的, 但是它是第一个把消费级通用 agent 落地的。但是很多人其实觉得 menus 并不好用啊, 那他们说的其实也没错,因为我觉得 menu 最厉害的并不在于它投入生产之后真正的成功率,而是它验证了非常多的想法,包括上下文的管理呀,以及大量工具的这种集成调用啊, 呃,还有多 agent 的 管理呀,甚至说以主对话式为窗口,然后让 ai 去后台调用大量的工具完成任务的这种 呃理念。那在后来的呃, open call 啊,以及呃甚至 call 扣的呀,还有我们的天宫啊,磐石,其实都有它的影子。 那第二点呢,就是它的商业范式,在全中国的 ai 创业公司之中,大概有百分之二十多是专门做出海业务的,那其中已经有大概二十多是专门做出海业务的。那 这种路线在近三年的 ai 创业圈中也是非常火爆,甚至可以说大家是前仆后继的,那么 menu 作为被收购的呃最高金额的公司,那也是被当做了一个典型,象征着这种路线,呃,一去不复返了。 那最后一点其实也是我最想说的,呃,这件事在网上的讨论也是非常激烈。 呃,但其实我们去讨论谁对谁错,这些都是不重要的,因为没有谁都是对的,也没有谁都是错的,重要的是它背后象征着仍然是美国的这种 ai 霸权、 技术霸权,甚至说是产业霸权和市场霸权。那这笔交易在去年的十月份其实已经完成了,也就是说很多的核心技术人员和产品的原代码 已经卖出去了,那当然就算交易撤销了,呃,像原代码这些东西,它也追不回来了。那当然, 我们现在有了开源的 open cloud, 有 甚至有 cloud code 的 代码,对吧?所以 menus 的 框架可能并不重要了。呃,但是无论怎么说,呃,追不回来这个事,它本身就是一种技术霸权, 所以这种静止本身就是对霸权的一种反抗吧。那话又说回来,如果说 manage 框架的人马不是最重要的,那现在最重要的是什么?我觉得第一个就是庞大的用户数据,那这个数据是独一无二的。 当然这个数据何去何从,感兴趣的朋友们可以去网上查一查。那第二呢,就是大量的呃技术人才的流失,如果不加以制止的话,那我们之间的差距只会越来越大。 那最后我又想到 oki 和 samo 特曼前几天发的长文,希望 ai 的 作用可以是让人们越来越平等吗? peace。

玩 agent 一 年,我终于搞明白了三件事。事情是这样的,大概一年前,我第一次看到有人用 coco 自动写完一整个项目,全程没有人工干预,代码自己跑起来, bug 自己修,连测试都自己跑完了,我当时就愣住了。然后我花了大概三秒钟,就决定要把这玩意搞明白。这一年里,我踩了一堆坑,也摸清楚了一些规律。 今天想把我觉得最重要的三个底层概念,用最直白的话聊一遍。不是什么高深的东西,但如果你刚开始玩 agent, 或者玩了一段时间,但总觉得差点什么,我觉得这篇文章应该对你有用。 我自己也不确定讲的全不全,但我已经毫无保留了。先说背景,聊聊 ai 这一年到底发生了什么。说真的, ai 进化的速度比我预想的快太多了。两年前,大家用 ai 干的最多的事是帮我写一封邮件,帮我改改。这段话说到底还是一个很高级的文字工具,你问他,他打 你就这样。但大概从去年开始,有个东西悄悄变了,变的是 agent, 也就是我们说的智能体,普通的 ai 聊天工具。就像一个很聪明的顾问,你问他这个项目应该怎么做,他给你一份计划书,然后等你自己去执行, a 准不一样,他会直接帮你做。你说帮我把这份报告整理成 ppt, 他 不是给你一个步骤清单,而是真的一步步把 ppt 做出来,出了问题自己想办法解决,直到你看到成品。这个区别听着好像就是多干了一步,但实际上是质变。就像你雇了一个助手,之前那个助手很厉害, 但你每件事都得亲自交代清楚才行。现在这个助手,你只需要说我要开会,你帮我准备,他自己就知道要去查日程,约人、整理资料、发通知。 ai 从辅助工具变成了数字员工,真的不是夸张。那问题来了,这个数字员工要怎么用?用起来有什么坑?我的体感是,搞明白以下三件事,你基本上就能把 agent 玩明白了。第一件事, api 这块是绕不过去的, cloud code 是 目前我用过的 agent 工具里综合体验最好的,没有之一。它背后跑的是 antropica 自家最顶尖的模型, 能力非常强,用起来顺手,自主解决问题的能力也很稳定。但他有一个问题贵,如果你每天大量用,光模型的费用就能把你吓到。对于很多人,尤其是个人用户或者小团队来说,长期跑下来有点吃不消,所以就出现了一个很自然的需求。有没有便宜一点但效果也还不错的替代品?当然是有的,现在国产模型里有几个很能打,性价比极高,某些任务下效果跟顶尖模型差不多, 价格可能只有十分之一甚至更低。问题是怎么让 code code 这类工具去调用别家的模型,这就是 api 要解决的事。 api 这个词你可能听过,全称是 application programming interface 应用程序接口,听着很技术,但它做的事情其实很简单,就是两个系统之间的对话通道。打个比方, 你去餐厅,服务员是你和厨房之间的 api, 你 跟服务员说我要一份红烧肉,服务员把这个需求传给厨房,厨房做好了再通过服务员端给你。 你不需要知道厨房是怎么运作的,你只需要跟服务员对话就行。 ai 模型的 api 也是一样,它就是一个通道,让不同的应用和不同的模型之间可以互相讲话。 每家 ai 公司都会给自己的模型开放 api。 你 注册账号拿到 apikey, 可以 理解成一把专属的钥匙,然后在你用的工具里填进去,工具就能通过这个通道去调用对应的模型了。这个配置方法因工具不同会有一点差异,有的在设置面板里直接改,有的需要去编辑配置文件。对于刚入门的朋友,我推荐去 github 上找一些开源项目, 比如 c c switch, 它把主流模型都整合进去了,切换起来会方便很多。理解了 api, 你 就理解了为什么 agent 可以 不绑死在一个模型上。 工具是工具,模型是模型,中间的连接就靠 api 这个底层逻辑搞明白了之后,很多事情就想得通了。第二件事, m c p 协议这个词最近越来越常听到,但很多人还是一头雾水,我来帮你拆解一下。先说痛点,光有模型 agent 能干的事其实没那么多。举个最简单的例子,你让 agent 帮你调研一个话题, 他没办法直接联网搜索,也没办法打开你发给他的网址,更没办法看你桌面上那张图片。为啥?因为大模型本身就是一个文字处理器,它能处理你输入给他的文字,但他不能主动去外部世界取数据。 你如果懂一些技术,当然可以自己写代码,把网页内容抓下来,转成文字再喂给模型。但这对大多数人来说太麻烦了,而且每次都要重新搞 m c p 协议,就是为了解决这个问题存在的。 m c p 全称 model context protocol 模型上下文协议,它相当于 ai 界各家厂商共同商定的一套万能接口标准,有点像 usb 接口,不管你是什么品牌的手机,只要接口统一,充电器就都能用。 m c p 的 工作方式挺优雅的,分三步走。第一步, m c p 工具主动自我介绍。你想象一下,有一个 m c p 工具,专门负责联网搜索, 他一上线就主动给 agent 发了一份清单,上面写着,我能做这些事。联网搜索,抓取网页正文,返回结构化结果,这份清单 agent 就 记住了。第二步, agent 接到任务后,自动匹配工具,你让 agent 帮你搜索最新的 ai 创业公司融资情况。 agent 一 看,哦,这需要联网。然后他按照 m c b 协议统一的格式,把这个需求打包发给那个搜索工具。 第三步, m c p 工具去外部世界干活,然后翻译成模型能看懂的格式送回来。 m c p 工具跑出去真的在互联网上搜索,把找到的网页内容抓回来,把那些乱七八糟的 html 代码处理掉,整理成干净的结构化文本,直接送进 agent 的 对话上下文里, 整个过程你完全不需要操心。这玩意厉害的地方在于,它把 ai 能干的事的上限直接拉高了一个量级。联网搜索,读取网页、识别图片、操控浏览器、调用各种第三方服务。理论上只要有对应的 m c p 工具编辑的都能做。你去 github 搜 m c p, 能找到很多开源的工具,基本上常见的需求都有现成的,不需要自己从头开发, 我自己这一年用下来感受最深的一点是 m c p。 把 agent 从一个只能在信息里游泳的大脑,变成了一个能伸手去外部世界取物品再拿回来的身体,这个差别真的很大。第三件事, skill。 这个可能是三个里面最容易被忽视,但长期来看影响最大的一个。我来先说说我踩过的坑。刚开始玩 agent 的 时候,我每次用都要重新跟他解释一大堆背景信息, 比如我在做什么类型的内容,用什么风格写作,目标用户是谁,有哪些格式要求,每次都要写,有时候一段提示词就七八百字,打起来就很烦,更费时间。然后这些信息还要送进模型,每次都是一大块 token, 算下来成本不小。 后来我意识到这是个结构性问题,不是用法问题。如果你的某些任务是高频的,有固定流程的,每次都从头交 agent, 是 一件非常低效的事,不管是时间成本还是金钱成本,都在白白消耗。 skill 就是 解这道题的答案。简单来说, skill 是 针对某类高频任务预先写好的标准流程, 你把这个流程封装成一个固定的模块,每次处理同类任务的时候,直接调用这个模块就行,不需要重新解释,不需要重新写提示词。 举个具体的例子,你经常要把客户的原始需求整理成项目。 brief, 这个流程其实是固定的,需要提取哪些信息,用什么格式输出哪些细节,必须确认。这套流程只需要写一次,封装成 skill 之后,每次直接调用 agent 就 知道该怎么干了。 skill 的 价值有两层,一层是效率,不用每次写签字提示词,任务可以快速启动。另一层是成本,塞进模型的 token 少了,账单能差出一截。 这玩意玩熟了之后,有点像给 agent 装了一套专属的肌肉记忆。你的 agent 不 再是一个什么都知道但什么都要你现场教的通才,而是在你的核心工作场景上极度熟练的专家。回到最开始的那个问题, ai 成了数字员工之后,我们怎么用好它?我现在的答案是, api 解决了接入谁的问题, mcp 解决了能干什么的问题, skill 解决了干的好不好,值不值的问题。这三件事不是互相独立的,他们其实是同一套系统的三个层次,底层是接入,中间是能力,上层是效率。三层都想清楚了,你的 a 卷才能真正跑起来,不只是能用,而是好用,而且越用越顺手。我花了一年才把这个弄明白。说实话,走了挺多弯路的,现在分享出来, 希望你能少踩一点坑,永远对世界保持好奇。以上,既然看到这里了,如果觉得不错,随手点个赞吧。谢谢你,看到这里,我们下次再见。

零基础入门 a 证需要学从头学起,学哪些技能才能去找实习呢?主播是什么水平呢?二本计算机语言基础学的也一般,字典也是从啥都不懂,一路踩坑踩过来的,一开始学的时候又是大模型又是框架,看着头都大了, 后来自己也慢慢摸出一些门道了。今天跟大家讲一下我是怎么学的。首先第一块就是先把 python 基础搞定,不用学太深,会点基础语法,能写个简单的小脚本,能调用个接口就够用了。 常用的库也就那几个,你照着练个两三天,基本都能上手实操了,不用死磕语法,够用就行。然后就是大模型的基础用法,说白了就是会调拆的 gpt 通,一千问这些的 api, 会写提示词,能看懂模型返回来的 jason 数据格式,知道了他说了啥,要干啥,这就够了。 再顺带学点简单的工具雕,有写个能搜索,能算数,能读写文件的小函数,知道怎么跟模型描述这个工具,让他知道什么时候该用就完事了。第二款就是搞懂 agent 到底是怎么干活的,最核心的就是 react 框架,简单的来讲就是先让他思考,再行动,再观察结果,然后循环这几个过程。 你得明白智能体呢几个基本部分,记忆、规划、执行、反思。比如怎么存聊天记录,怎么把大务任务拆成小任务,做完了怎么复盘优化,还有多轮对话,别让它失忆,怎么存历史,怎么控制长度,这些小细节一定要注意。第三块就是工程上的小技巧,让你的 a 政策能跑起来不崩。 首先让模型乖乖输出 jason 这样的结构化内容,不然你都没有办法调用这些工具,然后会来简单的流程控制工具跑崩了怎么补货异常, 这些小技巧扎上去,你的 agent 就 稳多了。第四款就是进阶一点的内容了,想做的更有技术含量就得学这些。一个任务规划,把复杂的活拆成一步一步来。再一个是 r a g, 让 agent 接上知识库,让他的回答更专业,不乱编。还有多智能体协助, 一个负责审查资料,一个负责写代码,一个负责审核分工干活。最后我再总结一下,框架真的不用贪多,精通一个就够了。 通用场景就学 learn train, 生态全好用,偏知识库就学 linux, 数学理论也不用死磕,懂点基础概念,知道大模型能干什么,不能干什么就不完就够 了。全程不需要你特别懂里边的理论,只需要理解各个模块的逻辑处理就行了,实操为主, a 阵的不上手哒很难学会。主播也是整理了一些适合小白的学习资料,有需要的可以在评论区打个 a 阵的带走。下期给大家分享几个我觉得还不错的学习课程,有兴趣的可以支持三连主播,我们下期见!

大家都在忙着给 max 贴标签,但几乎没有人认真的讲一讲这个东西到底是怎么做出来的。 max 的 ceo 叫萧红,这个人不是什么天才少年,他是华中科技大学软件工程毕业的, 大二的时候学校的微信公众号上做了个漂流瓶,做了个微信上墙,就是这么一个潦草的起步。后来他发现做公众号编辑器叫一半, 注意这个东西的本质是什么?是微信生态里面的一个插件。他从第一天开始,不是自己在研发,而是在别人的地基上面盖自己的房子, 一半做到了一百多万用户,后来又做了企业微信的工具,打包卖掉了。这是一次完整的创业闭环,创业退出。二零二二年 gbt 出来的时候,他马上做了模拟卡。 模拟卡是什么?说白了就是一个国内用 gbt 的 浏览器插件,很多人骂他是套壳,但就是这么一个被骂套壳的东西,做到了一千万用户,而且是赚钱的。 二零二四年,字节跳动出价三千万美元要收购模拟卡,他没卖。为什么没卖?因为他觉得下一个机会更大。 这个时候他通过折格基金找到了另一个人,叫纪一超。纪一超是什么人?十六岁的时候就自己开发了问码浏览器, 高中靠卖 app 赚了三十万美金,那个时候高中的时候就 app 出海了,后来拿到了甄格和洪三的投资,做了一个知识搜索引擎,叫 maggie。 但是二零二零年 gdp 三出来的时候,他发现自己花了好几年搭建的知识图谱, 被通用大模型一夜之间都吞掉了,功能全部都覆盖,就是一个非常惨痛的经历,这个经历后来反而成了他们最大的财富。为什么? 因为一开始烧红枣记忆操来是要做一个 ai 浏览器,产品都快做好了,团队也搭了,剪也投了, 但是记忆超有过被大模型碾压的亲身经历,他很清楚的知道一件事,如果你做的东西在大模型的下游,大模型一升级,你就死了。所以他们做了一个很艰难的决定,把已经做成型的 ai 浏览器砍掉了。 这个决定是谁?拍版的是 ceo 萧红,不是投票大家商量,就是 ceo 自己拍的版,自己扛的责任,你信就跟着干,这就是他们团队的风格, 他们要做的不是在大模型下面接活,而是在大模型上面长出一双手。大模型是脑子,光有脑子是不够的,你需要的是一双手帮你去操作电脑,登录网页,执行任务。 madison 就是 干这个的, 很多人骂 madison 套壳,骂莫尼卡套壳,骂伊半套壳。但是你仔细去看萧红这个人,他从大二到现在,十年,整整十年干的就同一件事, 在别人的生态上面发现需求,搭建桥梁,然后变现微信生态搭建编辑器, gpt 生态搭建 monica, 大 模型生态搭建 minnes。 每一次都被骂套壳,每一次都活下来了,每一次都比上一次更值钱。 套壳是不是一种能力?我认为是的,而且至少需要三种能力叠加在一起。第一,你能够发现需求,光这一点就已经淘汰了绝大多数人。 第二,你能够在发现需求和技术之间搭建起桥梁来,你知道有需求,你也知道有技术,但你能不能把中间这条路打通? 第三,你能变现,你不能光做好看的东西,你得让他活下去。这三件事,骂套壳的人一件都做不到。 今天评论区有人说了一句话,让我印象很深刻,做事的人在埋头干,不做事的人在旁边骂。我觉得不管你是不是喜欢 minnes, 至少你先了解清楚它是什么,在下结论也不迟。好,这个话题我今天就说到这里,如果你用过 minnes, 或者你有什么不同的看法,欢迎评论区告诉我。

只需几天,你就能学会 ai 的 玩炸工具 chat gpt 出品的 codex, 你 信吗?很多人觉得像 codex 这种 能接管电脑的超级应用,肯定是给程序员用的,自己搞不定。其实呢,门槛真的没有你想象中的高。只要你会用 chat gpt 或者豆包之类的对话框, ai, 花点时间转变一下思路, 你就能把 codex 调教成一个极度贴心的私人超级助理。等你用顺手以后,你会发现他什么活都能接, 跑几十张发票算账,去邮箱翻找客户邮件,跨软件做 ppt, 甚至帮你盯着竞争对手的网页。 之前会不会写代码根本不是关键,核心在于你有没有意识去把任务拆解,把重复动作打包。今天这个视频主要是想带着非技术的同学快速上手这个 open ai 推出的 ai agent 的 超级应用。 从云端回到本地,不写代码的同学习惯了查 gpt, 第一步往往不太适用 codex 的 存储逻辑。以前你是在网页上对话 传的文件都存在云端,但在 codex 里面,你给他的文件以及他生成的所有文件,全部都直接保存在你自己的电脑本地。 为了不让文件乱成一锅粥,最好的准备工作是什么?是永远在项目里干活。你可以在文件夹里建一个新的项目,所有相关的聊天和生成的文件都会被 codex 自动归整。在这个文件夹下, 非技术的同学可以设置模式为适合日常工作。 codex 适合什么样的活呢? codex 拥有对你电脑文件的全权访问的能力,它能自动找对文件夹并完成任务。具体来说,这几类活最适合交给他。 一、处理本地的繁杂文件。比如你的下载文件夹中有六十张发票照片,你只需要说去读取那些发票,帮我提取文字,并在本地建一个 excel 报表,看消费趋势, 它就会自动搞定,并在本地生成一个真实的 excel 文件。跨软件的信息收集, 通过插件 codex 可以 直接联通你的常用工具,目前有上百个。你只要敲一个 at 符号,比如输入 at gmail 或者 at notion, 你 就能让它去翻阅过去两周找我做广告的邮件,整理成表格。 第三呢,是代替你直接点点点,它能直接用鼠标和键盘控制你的电脑。通过 at computer use, 它可以帮你打开电脑上的 camera 软件,新建换灯片。甚至还能用 at browse use 帮你自动去点击浏览器里面的按钮,测试网页好不好用。然后呢,要沉淀你的专属 s o p。 把活变成技能。 最阻碍新人提效的一点是总在下重复的指令。在 code x 里面,你需要习惯把你做好的工作变成可附用的技能。笔一上来就想着写多复杂的指令。按这个节奏来, 先用大白话让他干活,如果不满意就让他改,一直迭代到结果,让你拍他腿说,啊,太棒了!这时最关键的一步来了,你直接对他说,我很满意这个结果。 把它变成一个技能,它会立刻把刚才所有的经验提炼成一个可重复使用的标准文件。以后你只需要敲一个斜杠符号,比如斜杠品牌合作分析,它就能瞬间按最高标准重跑一遍。 如果你过程中又发现了更好的排版格式,随时告诉他请更新这个技能,以后都按这种格式输出。进阶习惯,让他二十四小时替你打工。定时自动化,对着你整理好的报表说一句, 请在每周五早上九点执行一次这个任务。更新这张表。 codex 呢,就会把这是加进日程表到点,自动在后台干活。你可以在 automation 的 面板里随时管理这些任务。白嫖全球最顶尖的画图模型 codex 内置了最强的 gpt image two 的 模型,生成的图片呢,会直接存进你的本地文件夹。如果你直接给出参照图描述需求,立即会生成质量极高的图片。 那根据图片生成梧桐树下的新功能的效果图,看一下避坑与管理他的大脑。用 codex 久了,他会越来越懂你,因为他有两个记忆占卜,一个是手动记忆, 这是你的规矩本。当你对它说以后这种落地页都用左侧边栏的排版格式并记住它的时候,它会写进 agent 的 n d 里面。 那第二个呢,是自动记忆,它会默默观察你的工作习惯并记录下来。那重要的提示是呢,不要去手动修改这个文件,让 ai 自己去更新就好,它会越来越聪明。所以呢, 别怕什么终端或者代码,先把你的日常痛点丢给他,建个项目,存个技能,你的工作方式呢,就会彻底被改变。如果你真的想学 ai, 请留言,想学 codex, 我 来教你。

今天通过盖房子来搞懂 clue 的 open clue agents, skills, hooks rules, m c p 这个 ai 天团到底是什么东西?故 事开始,首先你作为甲方提出了你的盖房需求,然后大脑 clue, 也就是大模型,瞬间生成专业的一个施工方案。最后,中控 open clue, 也就是我们的小龙虾收到方案,立刻建立项目看板,准备开工。 开工消息一响,中控 openglue 立刻调排来了各个专业的工人 agent, 但光有人不行啊,大佬 glue 马上给他们分发了对应的专业工具箱 skills, 让他们拥有了实际操作的能力, 施工过程中你随时可以提出修改指令,中控 openglue 会立刻调度对应的工人去执行。但关键的一步来了,大佬 glue 会对所有关键操作进行最终的审核,确保方案的科学性和安全性,避免工人瞎搞。 为了保证工程质量和安全,工地上还有两大神器,一个是 hux 传感器,它能自动检测施工质量,一旦发现问题就自动报警甚至停工。二是如果是红线,它设定了绝对不能违反的铁律,比如环保啊、预算啊等,任何人都无法触碰。最 厉害的来了,如果工地缺了本地没有的特殊材料怎么办?别慌, m c p 这个超级物流通道瞬间开启,能让大佬克鲁德的手直接伸到外部世界, 获取实时数据,查询资源,甚至直接下单,让 ai 不 再是纸上谈兵。最后,房子盖好了,大脑 ko 的 进行最终验收,确认所有标准都已达标,中控 open ko 会把所有施工数据、图纸、手册打包交付给你。 更贴心的是,住进去后,有任何问题,他都能调取历史记录,快速定位问题,并给出解决方案。好了,整个 ai 盖房的故事讲完了,最后我再帮大家总结一遍, load 就是 大脑负责思考, openclip 是 中控负责调度, agent 是 工人负责执行。 skills 是 工具, rules 是 底线, hogs 是 传感器, m c p 是 连接外界的超级通道。是不是大家一下子就特别清晰了?


最近爱尚的大神 kathy 呢,发了一个帖子,叫做 l l m knowledge base, 这个呢,其实就是被大家誉为的 l l m wiki 的 一个项目的想法,可以理解成是一个个人知识库的 harness, 你 harness 很 火么?总的来说,什么逻辑呢?就是它表达呢,自己在使用大圆模型时候,现在越来越少的写代码了,更多是在控制知识, 希望用 l l m 呢为各种研究的兴趣构建自己的个人知识。这样呢,在过程中呢,他这些知识呢,可以自我进化,变成一个系统性的 wiki, 就是 把自己的随时随地的学习的各种信息呢,通过大元模型组建成一个有系统性的上下文体系。 我能把这个就称为个人知识库的 hollis, 那 他把这套方法论呢发表到 github 上,把方法论呢开源给所有人。那这框架是什么样子呢?这框架呢,其实是一个七十五行的 markdown 的 文件,也称为 idea, 就是 他的想法的文件。里面 andrew captain 呢,重点介绍了他的所谓个人知识库的一个需求和实验方式。首先,为什么需要维护一个个人知识 库的内容,修正主题的摘要,标注新旧知识之间的矛盾,不断的强化。已有的综合分析 认为呢,每次在问询中,在去学习新的工具中呢,每一次都是在做一次翻译,翻译之后呢,要保持新鲜,而不是每次查询都要重新推导。所以呢,他用了一套自己的方法叫 l l m wiki, 其中分成三层,底层呢就是原始的资料层,就是 raw data, 是 只写不改,各种学的东西,研究的方向随时随地可以丢进去,让 l l m 帮他去消化。第二层呢叫 wiki 层,是由大圆模型去自我维护的,这里面呢,包括了各类 topic, 各类话题, 从概念到人物到技术到项目,互相的链接的 markdown 的 文件,是结构化的一个气息。最上层呢是 sima 层,相当于规则和规范定义了。 wiki 应该怎么写?所以呢,他是用一套这样的体系呢,把大元模型从通用的聊天机器人,变成了专业的个人知识的一个维护者。 怎么样去让这个知库转起来呢?首先叫贯入,把新的资料丢入 raw, 就是 最底层的这个原始内容目录里面告诉大模型去处理。大模型呢,读完之后会跟你讨论要点, 写一页摘要更新。所以然后呢,跑去更新 wiki 里面所需要的实体页跟概念页,就所谓的它里面的什么人物啊,概念啊,技术啊,项目等这些,每一个 entity, 大 部分人自己去对比分析,做综述,自己去创建和维护,形成一个自我净化的体 系。第二步呢,就是提问,向 wiki 呢,不断的问问题,每个问题呢,如果是好的问题,有新的产出,新的知识的进化跟蒸流,就会自动归到到 wiki。 我 们每次问完问题之后,他会问我是不是把这个知识 插入到知识库里面,每次探索都在为知识库添砖加瓦。最后呢叫巡检,定期让 l l m 对 大模型,对整个的微信知识库做体检,找矛盾,补缺失,发现新的关联标记,深入研究的方向。因为里面很多的关联也好,知识之间的联想也好,大模型做起来比人类会快很多,让大模型做的事情会很轻松,同时大模型还会帮助你联想研究下一步研究话题。 andrew cobbsey 用自己的经验呢分享,他在一个研究方向上累积了大约会有一百多篇文章,四十多万字。原本这 rek 呢,是很耗时的用一个大模型的这样的缩影,通过中阶层的不同的实体 entity, 去整理成不同的分门别类的结构化,再去通过缩影不断的优化这样的体系呢,会比直接用 rek 会容易很多。 有一个博主叫做雨辰鲸,用 cloud agent 呢画了一个整体的价格图,总结这套模式,可以看出,它的价格图里面呢是分成了三个模块,分别是 raw source, wiki 和 schema。 最核心的模块就中央的 schema, 它有多个 entity 组成, raw source 呢是它的丢进去的素材,而 schema 呢,是它的规则。在这样体系下呢,通 通过 index 输入 raw data, 通过多次的 query, 人工的去提问,包括大模型自己的提问,再加上大模型的不断自我修正,自我去整理,就形成了这套人与 ai 形成的一个 similes 共生的支付的体系。 人负责选择题判断和思考,大元模型负责剩下的一切。当然我这个内容讲完之后呢,我还是想分享一下,现在进入了一个 hollis 的 时代,所有的大模型呢,都在寻找符合自己场景的 hollis, fans 呢,就是像江神。原来呢,所谓叫 contact engineer, 现在呢,有一个更稳定的一个架构,把大模型这些野马很好的驯服在一起。这样呢,追求整个系统的稳定性,包括他的记忆,包括他的主动性,包括他的角色、身份和个性。在此之上呢,应 通过 agent loop 的 run time 或者是 virtual machine 虚拟机呢,来实现整个系统的稳定性。那这个呢,已经变成了所有的未来的一个智能系统的很重要的中间键了。我们过去一段时间看到的 harness 的 代表,包括了 open clock, 包括了已经被泄露代码的 clock code, 包括这次 captain 分享了自己 l l m wiki, 都是所谓的中间层的这个 harness。 我们认为呢,未来的 ai 的 系统的升级不只是模型层的,而是一个 end to end, 端到端的四个层级的。整个系统的升级,从底层的模型到中间层的 inforce, inforce 呢,就是我们所谓的 harness。 再来上层的 api 以及应用,每一层呢,都形成一个互相依赖但又互相进化的一个体系。上层的应用呢,是用户和系统进行不断的交互, 人类去影响,包括 guide, 包括引导模型的进化。而 a p s 呢,是把 harness 跟模型有效地整合在一起,形成一个相对稳定和独立的整体。 harness 跟模型之间呢,又是一种环境跟发动机的一个共生关系,通过模型加上 harness 的 这种 agent, 再加上 use, 再加上人机交互的多层的互动,最终呢,让整个的 intangent system 就是 智能系统自我进化,这是我们看到一个非常前卫,也是非常具有前沿共识的一个智能系统的整体架构。

火爆全网的 hermes agent 也许从根源上就是个骗局, hermes agent 在 get up 狂揽八万星,抖音博主狂吹,号称是能自我进化的 agent, 但是事实真的如此吗? 我们来扒一下 hermes 自我进化的核心原理。 hermes 能够把任务成功的经验总结成固定路径,然后靠不断地把路径沉淀为 skill 来实现所谓的自我进化。理论上, skill 越多, agent 覆盖的场景越大, 相对来说越万能。但是在实际体验当中呢,往往会出现 tucker 消耗巨大、执行任务速度慢以及 skill 增加的时候, agent 反而变得不好用了。要解释这一反常现象呢,我们首先得清楚 skill 是 什么。 c q 说白了就是 agent 在 执行任务过程当中的一个固定化的工作流,在没有 agent 之前,这个东西叫 workflow。 那 么我们在面对企业当中固定的工作场景的时候,往往是有两种情况,第一种情况就是我们希望从 a 得到 b 这样的一个固定场景。第二种情况呢,则是我们需要一个 a, 在 a 情况下,我们需要一个不确定的结果,而 agent 往往是帮我们执行一些低频次和不确定的需求的。 也就是说, agent 的 本质就不是为了固定流程来服务的。如果真的是要解决从 a 到 b 的 问题,我为什么要用一个速度又慢, tokens 消耗又高的 agent, 而不用编码加大模型判断 或者用固定的拖拽工作流呢?所以 hermes agent 对 agent 的 定位理解是有误的,他试图通过穷举所有物理世界的场景 来让 agent 变得万能,不能说这样的路是走不通的,在相对不复杂的工作场景里,这样的办法也许可以成功,但是这却是所有可以成功的办法当中,资源消耗最大,也是最笨的一个。 其二呢,使用过 hermes agent 的 人呢,往往都发现他的能力精力了一个到 u 型曲线的变化,就是刚下载的时候没有技能 agent, 这个时候需要消耗大量的 tokens 来撞技能,当技能逐步增多的时候,有十几二十个技能的时候, 这是他最好用的时候,能力确实得到了增强,但是随着 skill 的 增多, agent 的 能力呈现了断崖式的下跌。这个究其原因呢, 其实是选 skill 本身比解决问题更难了。试想一个场景,你现在有十个前端制作技能,有十个文档生成技能,有十个调研报告技能。那么当你面对一个新的调研报告的时候,你要怎么准确地从这十次调研报告 成功经历当中选出最匹配的那一次呢?如果 agent 有 这样的能力,他为什么不直接把任务做完呢?然后第三个缺陷就是当前场景 完全没有 skill 覆盖的时候, hermes agent 要怎么解决问题?我觉得他在设计过程当中完全没有考虑过这件事情。在当前场景,如果没有 skill 覆盖, hermes 的 选择就是用使用者的 tokens 撞出 skill 来解决问题, 这其实本质是一种设计上的懒惰,所以 skill 试图通过穷举物理世界的办法来达成所谓的自我进化的愿景, 本质上就是一个骗局。他跟早期的扫地机器人没有什么区别,通过不断撞墙来描写地图,即使撞出来也是代价惨重的。

你是一个程序员,这是一行可以解决一切工作烦恼的万能命令,它会将系统所有文件删除,且几乎不可恢复。一旦运行工作没了,烦恼也就没了。你就说目的达没达到吧,我相信你不可能手动跑这行命令,但 ai agent 就 不一定,因为 agent 本质上就是个死循环, 他会先组装上下文发给大模型,大模型负责思考推理。 ai agent 会根据模型的返回执行工具,把工具执行结果塞回上下文,进入下一轮推理和执行。 这种循环一旦次数过多,上下文就会过长,导致截断, ai agent 的 目标就可能会偏移,导致执行一些危险的命令,比如视频开头提到的删除命令。 为了解决这一问题, ai agent 引入了沙箱这一概念。可问题就来了,沙箱到底是什么?和多克容器、虚拟机的区别是什么?今天就把这些概念串起来讲透,然后带大家看一下业界前沿的开源云沙箱方案, cube sandbox 是 怎么样的?看之前你点赞了吗?关注了吗?谢谢! 沙箱是什么?小时候听过一个笑话,痘痘长在哪里最不需要担心,答案是别人脸上。同理,虽然让 a 检测执行命令有风险,但只要不是在我的环境里,那就约等于没风险了。这个专门划分出来用于执行高风险操作的隔离环境,就是所谓的沙箱。 将风险命令包装成应用,运行在沙箱内,就算炸了也不影响 ai agent 原来的环境。沙箱既可以运行在本地,也可以运行在云端,后者叫云沙箱,它是目前 ai agent 执行风险代码时最常见的隔离方案。那么问题来了,这听起来有点像云端虚拟机,它们的区别是什么? 沙箱和虚拟机容器的区别。我们知道,平时我们看得见摸得着的电脑机器就叫物理机,在腾讯云那也叫裸金属服务器。裸金属服务器的 cpu 和内存比较多,上面可以通过微软 kvm 这类软件将资源切换,创建多台虚拟的小机器,也叫虚拟机。 每台虚拟机都有自己独立的操作系统和资源,虚拟机之间完全隔离在它内部,不管怎么搞破坏都完全不影响其他虚拟机确实非常安全。但问题是 它的操作系统内核完整,太重了,启动会很慢,用它做沙箱, ai agent 要跑断代码,临时创建个虚拟机都要卡好一会,明显不太现实。那能不能快一点?可以, 既然操作系统内核太重,那我们换个思路,在虚拟机的基础上,把应用和依赖加配置打包隔离起来,限制它能使用的最大内存和 cpu, 形成一个个独立的环境, 也就是所谓的容器。容器本质上是进程,所以启动可以很快,性能上符合沙箱要求。所以早期很多厂商会在容器基础上加上一些收紧权限的机制,推出云沙箱方案。但问题是多个容器共享同一个宿主机操作系统内核,一旦遇到内核漏洞或者逃逸 影响面,就可能变成整台宿主机,连带其他容器一起遭殃。因此只适合一些风险相对可控的操作,我们没办法保证 ai agent 会不会执行高风险命令。所以业界在传统虚拟机的基础上做精简,比如砍掉那些为了兼容各种设备的模块,只保留跑应用真正需要的虚拟硬件, 形成一套极简操作系统内核的虚拟机,也就是 micro v m。 这样它既有独立操作系统内核带来的安全边界,启动也能比传统虚拟机快很多。 于是就出现了基于 micro v m 的 云沙箱路线。但它本质上依然是一个虚拟机,想做到 ai agent 要的那种毫秒级响应,就得再上些优化。接下来我们以 cube sandbox 为例,看下业界前沿的方案都是怎么做的。 cube sandbox 是 什么? cube sandbox 是 最近在 github 上热度飙升的开源云沙箱方案,它来自腾讯云,你可以把它简单理解成是专门给 ai agent 用的云沙箱底座, 他负责管理沙箱的创建、隔离和回收,可以快速部署在你自己的物理机上。对外提供云沙箱服务, agent 需要执行代码命令文件操作时,调用 cube sandbox 提供的 api, 就 会临时拉起一个云沙箱去执行,过程中可以多次附用,跑完后再销毁 它。跟另外一套开源云沙箱方案 e 二 b 做的事情一样,但不同的是, cuban box 开源产品化做得更好,搭建成本更低。元宝的在线编程和 mini max 最新大模型的 agent 强化学习训练用的都是这套方案。 以前这是大厂专属的能力,现在普通开发者也能用上 cube sandbox 架构。为了实现上面的功能, cube sandbox 将服务器分为两类,分别是控制面和工作节点 node。 简单来说,他们的关系就是老板和打工人。 控制面负责控制和管理各个 node。 node 一 般是裸金属服务器,负责实际创建和运行。沙箱控制面里包含 cuba api 和 cubmaster 两个组建。 cuba api 负责对外提供兼容 e to b 的 接口,接过 e to b 的 应用,改个地址就能接进来。 cuba api 收到请求后, cubmaster 会通过消息让 node 创建沙箱, node 里面有个 cuboid 组建,勇于接收 cubmaster 的 命令。 cubelet 收到创建沙箱的指令后,会驱动 kvm 创建 micro vm 沙箱从零起一台 micro vm 太慢,所以 cube sandbox 会提前先启动一次 micro vm, 把系统环境依赖和业务启动这类慢火跑完,再把当时的状态保存成一份模板快照, 这样后面有新请求时,就直接从这份快照克隆出新的 micro v m。 慢的出世化工作已经在制作模板时提前完成了,所以启动誓言才能压到几十毫秒。 v m 启动后,用户的业务是立即可用的,同时每个沙箱的内存和磁盘一开始都是指向同一份底层页面, 只有真的写入时才复制一份新的出来,因此单个沙箱的内存开销可以控制在几 mb。 qbox 对 外完全屏蔽了这些实现细节, ai agent 只需要将代执行代码和命令通过 qbox 的 a p i 就 能发到 note 的 沙箱里运行,安全感拉满。 实测 qbox 架构了解完了,我们实操下,首先是买服务器和部署 qbox 等一系列流程,这部分我已经为大家准备了详细步骤的文档,照着做就行。 好了之后我们就可以通过这段 demo 代码将 ai agent 要跑的内容发到 cube sandboxbox 运行 cube sandboxbox 会将运行的结果通过 result 返回给我们,然后我们再来个简单的压测,看一下沙箱在高病发场景下性能怎么样。 可以看到 cube 三的 box 在 五十个泵发的压测下,可以将创建沙箱的 p 九九控制在一百五十毫秒左右,性能完全符合预期。如果对这个项目感兴趣,可以 star 支持一下。过去大家聊 ai agent, 更多聊的是大模型、提示词、上下文、工程和工作流。但现在 随着哈尼斯 engineering 等概念的兴起,大家开始更加重视 agent 的 执行环境。没有杀相的执行型 agent 本质上是在拿生产环境做实验,只有把风险关进笼子里,我们才敢让他去跑真实的业务流程,真正把人从繁杂的执行工作里解放出来。 现在大家通了吗?好了,如果你觉得这期视频对你有帮助,记得转发给你那不成器的兄弟。文字版的笔记见评论区,这里是小白的 bug, 我 们聚焦一切可能影响人类历史进程的技术。如果你感兴趣,记得关注我们,下期见!嘟嘟嘟嘟嘟嘟嘟嘟嘟嘟。