面试官问, costco 这种外部工具真的能够实现大模型的无限上下文吗?为什么?嗯,各位同学,听到这个问题的时候呢,你千万不要只能回答一个能,或者是不能,这道题背后考的其实是 呃,你对于大模型底层架构以及功能化落地的一个深度理解啊。大家好,我是金哲,我们先给结论啊,从模型的这个原声的底层来 逻辑来看啊,我们这个绝对无限肯定是不存在的。为什么呢?大家可以跟我一起想一下,现在大模型呢,都是一个 transform 的 一个架构,它的注意力计算的这个复杂度是 o 的 n 的 平方,也就是二次方的增长,这意味着什么?因为你输入了这个 token 啊,每增加一倍,那么计算量跟显存的占用呢?它就是翻倍再翻倍。所以不管你外挂什么 scale, 那模型最终那个负责处理信息的大脑,也就是它的上下文窗口,适用于物理显存和算理,它永远有一个物理的上限,就像咱们人类,脑容量再大,一次性盯住的信息也是有限的。但是如果你面试只说不能,那这样的话呢,你离挂掉就不远了。在应用层呢,我们完全可以靠什么呢?靠这个 scale 来模拟出无限上下文的一个体验。大家可以把大模型看作是什么呢?看作是这个电脑的 c p u, 把模型原生的上下文窗口呢,看作是内存。然后呢, 所谓的 skills, 比如说,呃,解锁搜索数据库,其实就是硬盘,当我们这个内存装不下的时候,我们会怎么办?我们会通过 skills 暂时把不需要的这个信息存到哪里呢?存到这个硬盘里面 啊,然后呢,这个在需要用的时候呢?再把它精准的捞回内存,这就是我们目前所谓的拥有无限上下文的这样的一个什么呢?记忆的本质,既然有方案了,那是不是就万事大吉了呢?大家再思考一个问题,如果你在读一个一本一百万字的小说,我把这个小说切成一千个碎片塞进数据库, 那现在我问你,这本小说的核心思想是什么?这个时候你负责搜索的这个 skills, 它还会能够精准召回吗?这恐怕很难,它可能给你找回的只是几个具体的片段,这就是 skill 方案在工程落地的第一个大坑,见数不见零,那我们结合架构图里面的四个解决方案,一个一个来做,一个拆解。 第一个就是我们的大局视野的丢失,那大局视野丢失的话呢?刚才说了,我们切片解锁的时候,哎,他会丢掉大局感,那怎么办呢?现在呢,警戒方案有两个,第一个我们要去搞一个 层次,这个层次化的摘药就像看书要有目录,有这个章节大纲一样,我们 use excel 递归给文档写摘药。 大问题,干招标,小问题,搜索细节快。第一个大招呢,是涌入什么呢?引入我们的这个知识图谱,也就是 graph, graph 提前把实体关系推理清楚,并生成社区招标。这样的话呢,无论是搜细节还是问宏观,都能解决全局观的问题。 第二个呢,就是我们的这个多跳推理导致这个啊断裂,这个在面试当中非常的高频,比如说用户问 a 的 邻居, a 就是 谁,你的这个 skills 第一次可能只找回了这个 a 的 邻居是谁,那逻辑断了,这个时候你需要赋予模型动态规划的这个能力, 也就是我们常说的 a 键的模式,模型得先搜一下,读完发现信息不够,再主动发起第二次搜索。还有这个 c f s 这个机制,引导模型,把大问题拆成小问题,逐个去调用技能做一个击破。 第三个呢,就是羽翼的红勾,那什么羽翼红勾呢?有的时候用户问的跟这个文档里面写的字面上完全不一样,羽翼解锁也会失灵,那解决的方案就是查询式改写和这个混合解锁。在调用时刻之前呢,先让模型 把什么呢?把这个问题多变几个花样出来,同时用关键词解锁补位,最后再加一层重排,确保未改模型的信息是最准的。第四个就是我们的 这个延迟和成本,不停地去调用 scale, 那 反复读长文本,那么 token 烧起来是非常肉桶的, 闪映也慢。这里呢,我们有两个策略,首先呢,在原声的长窗口里面呢,我们啊把它添加技能这样的一个混合架构,别 scale scale, 那高频的重要的数据呢,直接塞进模型原生的超长窗口里,只有海量的这个冷数据才调用 skill。 那 其实呢,就是黑科技的上下文缓存,对于那种经常要读的文档呢,我们直接把它的这个计算状态缓存起来,下次用的时候呢,秒开,那这样的话呢,我们不勤快,而且省钱。 好,那讲到这里啊,我们咱们给面试官做一个有深度的总结,我们来看到这个总结区域,那就是 第一个靠 skill 实现的这个无限上下文啊。那谁是在构建一套什么的分层记忆系统未来的大模型呢?一定不是去盲目追求那个无限长的什么,它的这个上下文窗口就像我们人类的大脑一样分为,第一快速记忆,第二呢, 哎,我们给它做一个慢速记忆,那第三呢?也就是啊,这种原声基座加智能调度 skill 的 这样的一个预购系统,这才是实现我们无限上下文的一个终极。
粉丝1355获赞1.0万

最近 github 上啊有一个仓库啊,叫做 awesome personal skills 火了,这个仓库呢,收入了三十多个点 skills 文件。本质上, skill 是 精心设计的 problem 框架。那这些文件呢,它是想让 ai 能以某类人的思维方式来运作。你看,它的仓库的描述,只有一句话, 与其等着被别人争,不如先争自己,不争馒头争口气,顺便呢,还能争留下身边的人。这话听起来很像段子,但仔细想一想,他其实触碰了一件非常认真的事情,把一个人的思维方式、语言风格、价值观提炼成可以去调用的认知工具。 你看,他下面有老板的 skill, 他 能够去把聊天记录会以激昂争流成为一个角色风格。还有呢,前任的 skill, 哎,他的描述,那个夏天,把前任以另一种方式啊去跟你重逢。 还有自己点 skill, 这个呢,他的描述是,与其去征留别人,不如先去征留自己,以及永生。点 skill, 这个呢,是数字形式的另一种程序,包括女娲点 skill, 让乔布斯、芒格费曼给你打工。还有呢,反征留点 skill, 公司让你自己去写 skill, 你 把核心的知识留给你自己。 那为什么征留人的这个事情啊,现在火了呢?其实啊,这个也不是第一次有人想去把人格去给数字化。 早在 g p t 出现之前,就有人想用聊天记录去训练出数字分身,但是为什么是现在这件事突然有了社区效应, 我觉得有三股力量在同时汇聚,第一,大模型的理解能力的门槛啊,已经提升到了一个档次。过去 prom 的 写得再好,模型也只是在去表演某个角色, 现在的模型呢,真的是能够在你的风格,在逻辑链和价值权衡上去保持一定程度的一致性,那蒸馏这样才有了意义。第二个呢,就是人际关系的流失感,是在家具的,你看离职的同事, 已经逝去的亲人,失散的初恋,数字时代的人们,比任何的时候都更能感受到关联的成本,那点四六呢,是一种对抗遗忘的一种方法。 三点呢,是知识工作者开始去焦虑思维资产了。你看,当巴菲特啊,当芒格的思维被打包成了 skill, 本质上是在说,优秀的认知模式是可以赋用的资产,而你自己的认知模式也是你最重要的资产。 所以我真正想说的是,蒸馏一个人,其实就是在去回答一个人的本质到底是什么。你看老板的 skill 收集的是聊天记录和批注,前任的 skill 呢,收集的是过去的对话,父母的 skill 呢,收集的是记忆和声音。这些原料经过 problem 框架进行一些提炼,变成了某种可以持续 去调用的东西。但这里有一个很根本的问题,我们蒸馏的到底是我们对那个人的印象呢?而我们留给别人的材料,是我们经过筛选后的输出, 包括发出去的消息,包括写下的字,包括开过的会,而那些没有去说出口的话,那些在你深夜里的犹豫,那些连你自己都不知道的偏好,这些是无法被追留的。所以最诚实的说法就是点 skill 追留的是一个人的投影,而不是这个人的本身, 这个投影可以很有用,可以帮助我们更好的去理解某种思维方式,但他不是那个人。还有一个有意思的事情,就是我刚提到的仓库里有一个叫做反蒸馏点 skill, 这个东西描述的是公司让你写 skill, 跑一遍交叉,用核心知识留给自己。那这个 skill 的 一个存在本身就说明一件问题,蒸馏这件事情已经出现了权力结构的博弈, 谁有权去提取谁的认知呢?当公司要求员工将知识沉淀为 skill, 本质上是在要求员工将自己最有价值的东西,也就是多年积累的判断力和隐性的知识外部化、标准化,变成公司的资产。 而反蒸馏 skill 的 出现是员工的一种防御,那这个张力呢?也不会消失,它只会随着这类工具的普及而加具。哪些知识值得被蒸馏,被谁去拥有, 以什么方式去使用?这些都是接下来几年必然要去面对的一个新的问题。那讲到这里,大家可能会去想,哎,我到底应不应该蒸馏自己啊? 那我给你的答案呢?是值得一试。但要想清楚目的,如果你的目的是让自己的思维方式变得可以附用和传播,那自己点 scale 是 一个很好的自我审视工具,整理自己的判断原则、思维框架,面对问题时的惯用路径,本身就是一种叫做圆润质的训练。 如果你的目的呢,是去留住某个要离开的人,或者已经离开人,那需要去保持清醒点。 scale 是 给你的是一种陪伴感,不是那个人把它当做思念的出口没问题,但别把它当做关系的替代品。 那如果你的目的是去调用顶级思维者的认知啊,那这一类的 skill 包括巴菲特,包括芒格,包括费曼,确确实实有非常大的实用价值。他们本质上是把大量的公开的资料提炼成了一套结构化的提问框架,用来去做决策参考,真的比读完二十本书的效率要高得很多啊。 所以万物皆可 skill。 人生处处是蒸馏,但蒸馏之后剩下的东西从来都不是全部,真正重要的那些往往还是挥发掉的那部分。

kill 最后会不会被大模型公司吞掉?如果大家现在有投资的钱,你会更愿意加仓大模型,还是更愿意去 bet 一 些这样的 one pc 呢?我忽然有一点感慨,就说起 one person company, 就是 我前两天在硅谷,我正好聊到了一个 mate 的 员工,他们在强制他们的人员写 skills, 就是把自己的工作流写成 skills, 你 如果不写 you get fired right away, 你 马上就被干掉了。你如果写了三个月之后,你也被干掉了。所以我当时觉得刚刚说到员工的这个价值,我当时内心真的是一惊,我就觉得再过可能几个月之后,硅谷的大厂你会看到一大批裁员, 但是这个 one person 的 company 的 价值呢?这个写 skill 的 这个过程, skill 就 会不会被大模型公司吞掉?如果大家现在有投资的钱,你会更愿意加仓大模型,还是更愿意去 bet 一 些这样的 one pc 呢? 曹总要补充一些观点吧,因为您刚刚聊到 skill 了,其实您也投了 kimi, 您既有投大模型的视角,又可能会去 bet 一 些 one person company, 那 您会选择继续加仓大模型公司?还是这个我们的思路是两边都堵。首先第一点,我们看到的是刚才我们提到的龙虾所有内在的机制。刚才其实 tina 问了一个很好的 问题,就是说这个 skill 被模型吸收,但是我们首先看到的是一些最高频的 skill 模型团队本身就在做, 比如说 deep research, 多轮长链条,需要梳理各种各样的 contest, 这个 heartbeat 的 机制,这个其实大模型也都在做。最近其实大家开始说龙虾可以做 computer use, 那 你看 cloud 刚刚出了个 computer use, kimi 出了 computer use 这大模型,也都在出各种各样的 computer use 的 这种方案和这种能 能力,所以我自己觉得呢,最后一定是用户需求导向,用户还是有最终的决定权。还有一点就是 computer use 的 这个 skill, 它目前发展到了一个什么样的阶段,以及这个 skill 大 模型可以多快地学会?我们觉得它是一个巨大的数据集, 人类在使用这些交互软件的时候,有大量的我们叫做人类数据和人机交互数据,那这些数据呢?就算大模型去学,也需要有数据的来源,就如果是标准端口,这个大模型用起来很方便, 但是如果是非标的,大家也需要有一个 learning 的 一个过程,所以我觉得这个地方对于大公司和小公司来讲,相对来讲还是要公平一些。 那我们有请魏总来讲一下您对小龙虾的一些看法。我也是同意老胡的说法,我觉得子弹先飞一会,大家先飞一会。这个其实流量就像在现在抽肯一样,移动的时代呢,大家所有人都在做小工具,所以可能是这个时间点,在技术没有收敛的时候,大家都需要随时去 uh, 所以 我说咱们大家都有点紧张,但实际上技术现在的发展速度特别的快,所以你也没法 follow, 因为所有人都处在这个状态里面, 只说我们手边的,你说的 skill 会不会被吃掉?有可能,如果你在一个特别大的 time 里面,肯定会被吃掉,你就想在我就找差异化,如果我们每个人都能做一个,这个市场可能就一千万,但只有你懂这个一千万的市场那就很好,那这个市场就是你的 hundred percent, 就是 大家,我们就 adapt 就 好了, 但是大家不能随大溜的,不能混日子了,这事你必须得特别懂,你才能活下来,所以我觉得这是我们这代人遇到的一个巨大的机会和挑战。

最近特别火的 agent、 mcp、 skill、 open claw、 rag 大 模型到底是啥意思?今天一次性讲明白。先给大家举个例子,你把自己想象成一个老板,想搞一家完全不用人动手的全自动化的公司,这个时候你是不是需要一个全能的执行者?他不只是动动脑子,他还能统筹安排落地执行。 这里先澄清一个关键,真正管事的做决策的,那背后的核心,他是大模型,相当于我们人的大脑。咱们说的 agent, 也就是智能体,就是这个大脑的执行者的化身,他能听懂你想干啥,把你交代的环拆成一个一个的小任务,定好详细的执行步骤, 再指挥后续动作的落地。当然,他一定会借助各种各样的工具,相当于带着大脑的指令干活的统治者。准确的说,大模型是核心的大脑, agent, 他 是大脑的执行主体,是能自主决策、调度任务的智能执行者。那 skill 又是什么呢? 其实就是这个 agent 就是 执行者,他手里的硬本事是他自带的一些本地知识,标准化的能力能让他把活干的更漂亮。不只是凑合着完成 agent, 他 具有的硬本事可真不少哦。 比如说怎么写周报,怎么整理电脑里的文件,怎么打开浏览器查东西,怎么发邮件,怎么做内容的生成和发布,他可以写前后端的代码, 这些相对比较固定的流程,不用我们反复琢磨的一些标准化的动作和常规工作,每一个都可以是一个 skill。 简单说, skill 就是 agent 的 基本功,是它能落地执行任务的基础。接下来是 m c p, 它的全称 model context protocol 模型上下文协议。咱们还是举个例子,在没有 m c p 之前,你想让 ai 帮你干活。比如说你让 ai 查你的非书表格,非书文档,你要专门写一套代码去适配非书。你要让 ai 读你百度网盘里的文件,你要重新写一套去适配百度网盘。 你想用 ai 去高德地图查路线,或者给你的微信发消息,你每一个都得单独写一套代码。想让 ai 在 淘宝、京东给你下个单写套代码适配电商。所以你看,每连一个工具都要重新开发,重新适配, 正在重复的造轮子。现在有了 m c p 统一标准的协议了,它就像 ai 界的通用 usb 数据线,什么飞书、百度网盘、高德、微信、支付宝、京东,全按 m c p 的 标准插上去就行。那 ai 不 用学每一家的方言,一套标准接口适配所有的工具,不用写任何额外的适配代码了, 就实现了一次适配,多平台通用。在这里就是万物互联。那 red 又是什么呢?他翻译过来是解锁增强生成,其实核心就是让 ai 具备查资料的能力。 你像我们传统的 ai, 当生成内容的时候,可能会因为知识的不足,他就胡编乱造,产生幻觉。 red, 他 会先通过互联网,然后我们自有的知识库进行信息的查询,然后基于这些已有的内容再重新生成,那提供的信息他一定是更可靠的。 最 lag 的 本质是什么呢?为 ai 增加了搜索引擎的功能,类似于我们写论文,你先去图书馆查资料。最后我们说 openclot, 它到底是个啥?如果说大魔行驶大脑 agent 是 统筹的执行者,那 openclot 就是 承载这两者的一个躯体, 它是一个开源的、可以自己托管的 ai agent 网关。简单点说,你可以把它下载下来,安装在我们自己的电脑或者是服务器上,它就是一个能让 ai 跑起来的运行环境。 open code 里边已经自带了 agent 的 核心执行逻辑,它能通过我们刚才说的这个 mcp 协议 去调用各种现成的 skill。 而它所有的核心决策,比如说我怎么拆分任务啊?我先执行哪个呀?遇到错误之后怎么换其他方法呀?它其实背后都是靠接入的大模型,但可以再通俗一点, open color 就 像一个开箱即用的数字员工套装,哪怕你不是技术大神,你只要简单设置一下,说出你的最终目标,就能把 大模型 agent、 mcp、 skill、 rank 等等整合起来,拥有一个能够自动帮你干活的 ai 助手,你不用自己写代码搞开发。最后总结一下,大模型是核心的大脑,负责思考、做决策 agent, 它是统筹的执行者,像一个核心高管, 承载大脑的指令,拆分任务、定步骤、指挥执行 skill。 agent 的 基本功内置了标准化动作帮, 让你把具体的活给干了。 m c p 通用接口相当于通用的 usb 数据线,帮着 ai 去连接各种外部工具,不需要重复适配。 open call 躯体加运行环境,把大脑执行者、基本功、通用接口都整合到一起,让咱们普通人能轻松用上。

哈喽各位, skill 呢,确实是很好用的,创建起来呢也不复杂,但不是装的越多啊越强,从能跑到真正能用,需要的呢是在真实场景里面去反复的打磨, 我自己用了半年啊,把这过程里面最基础最常见的五个坑和解法整理出来来分享给大家。首先第一个坑就是 skill 跑通了一次呢,你就以为可以直接放着用了, 这个是最典型的新手错误。你会发现,当你把 skill 写好跑通,但开发阶段呢,可能看不出任何的问题,但真实 case 好 多了才会去暴露, 他可能会去传奇怪的参数,可能会在不该触发的情况下去做触发,也可能是在某个细节去做偏差。那我现在经验呢,就是创建 skill 和打磨 skill 的 时间大概就是二比八,跑通只是一个起点,不是终点,后面百分之八十的工作其实就是在真实场景里面去做,不断的磨合。 第二坑呢,就是 q 的 触发的描述啊,写的太模糊了。很多人去写 q 的 时候呢,触发条件写的是当用户需要什么的时候,你 再去触发,这个描述真的很宽泛,结果就是不该触发的时候给他触发了,那该触发的时候又给他跳过了。模型不知道你在说什么,只能去猜。举个例子,当你去写,当用户需要在写作帮助的时候去触发,模型根本就不知道什么叫做需要写作帮助。但当你去写,用户说帮我去写或者帮我改的时候,触发呢, 模型就知道该定哪几个词了,所以越具体,那 skill 的 触发也就越准。第三个坑就是 skill 装的越多啊,以为的 agent 会越强,这个直觉呢,其实也是错的。 skill 一 多模型,在执行任务的时候,需要从一堆工具里面去判断该用哪个功能,重合的越多,选择也就越飘忽不定。 我自己的体感是可用工具超过十几个以后,模型旋起来就开始去飘了。我见过有人推荐必装五十个 skill, 说实话,看到这个标题我就知道这个人可能没有真正的去用过,因为 skill 真的 是宁缺毋滥啊,挑几个顺手的用,好比 装一堆要强的多的多。第四个坑呢,就是把流程去写进到 markdown, 以为模型会老老实实的按照步骤去走,这个呢,也是我踩的最深的一个坑,上下文一长,模型很容易去漏掉中间的步骤,前几步走对了,中间某个检查呢,直接跳过,最后输出看起来没什么问题,但流程呢,已经走歪了。 本质上这个是模型本身的毛病,不是你的 skill 写的不好。解法呢,就是能用代码写的逻辑尽量还是写成代码 skill 的 md 的 文件退居二线,只负责告诉 agent 去跑哪些脚本,真正的业务逻辑交给代码去兜底,确定性呢,也会高很多。 第五个坑呢,就是用管自动化的标准啊,去来要求 agent, 那 自动化系统呢,是要求呢,是百分之百的稳定,只要有百分之一的出错就很难用。但现在 agent 不是 自动化系统,它更像是一个刚去参加工作的聪明的年轻人,脑子好,学习能力强,给他一个目标,他就能自己去想出 方案。但执行层面会犯各种奇怪的小错误,比如说忘记发邮件,把同一个事情做两次,流程走错一步。所以你看,如果用自动化系统的思路去看它呢,你会觉得非常不可靠,但如果你把它当成一个员工去管呢?逻辑就不一样了。所以这五个坑呢,本质上就是同一件事情 对 skill 的 这个预期啊,太理想化了,所以降低预期,在真实世界里面不断的去磨合,这个才是真正用好 skill 的 方法。 ok, 那 你踩过哪个呢?也评论区告诉我。同时呢,我们星球也已经有两千位 ai 的 爱好者同行了,也欢迎去加入江学长 ai 学习圈,我们一起用 ai 去解放大家的竞争力。

很多人做 skill 还停留在给模型补资料这一步,但 google 这篇文章真正狠的地方是,他已经开始教你怎么让 skill 反过来管模型了。 上一篇我们讲了前两个最容易理解的模式,一个是 tool rapper, 把某个领域知识打包成即时专家。 一个是 generator, 用模板和风格规则稳定产出结构化结果。但从第三个模式开始,事情就变了, google 其实在把 skill 从知识补丁往行为控制器推进。第三个模式叫 reviewer, 它的核心不是写,而是审。 作者把它定义得非常清楚,把检查什么和怎么检查拆开,检查标准放在 references 里的 checklists 里, 审查流程写在指令里。这样一来,同样一个 skill 结构,你换一份 checklist, 它的审查目标就完全变了。今天可以审 python 代码,明天可以审安全问题,后天甚至可以审文案。是不是符合品牌风格, 这个思路非常重要,因为它说明 skill 不是 靠模型自己凭感觉点评,而是让模型按外部标准来做判断。文章里甚至举了例子,一个带三处刻意 bug 的 函数 reviewer 模式,能把命名问题、可变默认参数和 bare accept 全抓出来,而且还能按严重程度分级。这背后的重点不是模型聪明,而是 checklist 的 真正接管了行为。第四个模式叫 inversion, 翻过来理解就是先问再做。这其实是在专门打模型最常见的一种失败方式,明明信息不够,他却急着开始设计,开始输出,开始拍脑袋补设定。所以这个模式会强制模型按阶段提问。 比如先问问题是什么,用户是谁,规模多大?然后再问部署环境、技术站预算合规要求,最后等这些都答完了,才允许他进入产出阶段。 作者甚至直接在指令里加了很重的一句,在所有阶段完成之前,不要开始构建或设计。 你会发现,这已经不是在教模型知识了,而是在压他的行为边界,防止他跳步骤。对于需求梳理、故障排查、配置向导这类任务,这种模式特别值钱,因为它能显著减少模型自己脑补一堆前提的问题。第五个模式叫 pie plan, 这也是最重的一种, 它不是简单的补知识,也不是简单的先问问题,而是定义一条必须按顺序走的工作流,每一步没过,下一步不能开始。作者给的例子是,文档生成流水线,先解析代码,列出公开 a p i, 问用户,这是不是你要文档化的全部内容,然后再生成 docstring, 并且要用户确认, 确认通过后才进入文档拼装,最后再按质量 check list, 回头做一次完整检查。这里最关键的不是步骤多,而是 gate, 也就是关卡。比如用户没确认就不能进入下一步,某一步失败就不能继续往后跑。 google 明确在强调,很多 agent 一 旦没有这种 get, 就 会一路冲到底,最后给你一个看似完整,但中间跳过了验证的结果。到这里,这三个模式其实已经把 skill 的 边界往前推得很明显了。 reviewer 在 做标准化评估, inversion 在 做输入控制, pieplan 在 做流程控制。 换句话说, skill 不 再只是让模型知道什么,而是开始规定它应该按什么顺序问,按什么标准查,按什么观察走 这种变化很关键,因为它说明 skill 正在从提示工程的附件变成 agent 行为工程的一部分。文章后面还专门说了一点,五个模式不是互斥的,而是可以组合一个 pipeline, 里面可以欠 reviewer 一个 generator, 前面可以先走 inversion 采集需求。 也就是说,真正成熟的 skill 很 可能不是单一模式,而是多个结构组合在一起,最终把一个模糊任务拆成可控的行为列。 所以第二集最该记住的不是这三个英文名字,而是一个更大的判断。 google 这篇文章真正想推进的,已经不是让 skill 变多,而是让 skill 开始管理模型的行动方式。 谁能做到这一点,谁的 agent 才会从会回答变成会按规矩干活。下一集我讲最后一层,也是最容易被忽略的一层。 google 其实不只是在讲五种写法,它背后真正想推动的是一个跨工具、可附用、能流通的 skill 生态。如果你觉得模式讲到这里已经差不多了,那最后一集最值得看,因为真正大的变化可能根本不在这五个模式本身,而在它们会把整个 agent 生态推到哪里。

推荐六个我一定会用的 skill, 都是我一直在用并研究过的。第一个 skill creator, 这是所有 skill 的 鼻祖,官方认证的,直接帮你把跑通的工作流转化成独一无二的 skill。 自动分析工作流程,提取可附用模式,生成标准 skill 文档,一键安装,立即可用这个 skill, 我 认真读完所有文档,绝对靠谱! 第二个, document skills, 也是官方出品, ai 操作文档的天花板,自动填表写 docs, 批量处理 excel 数据,一键生成 ppt 演示, 能阅读 pdf 文档。装上它,你的 ai 交互能力直接提升一大截。第三个, find the skill, 能从几万个 skill 中精准找到适合你的智能匹配需求,场景筛选高评分 skill, 对 比相似方案,推荐最佳选择。做复杂的事,先呼叫他帮你找找,说不定有惊喜。 第四个, fronten design, 官方出品,前端美化神器,专业级 ui 设计,一键美化界面响应式布局,避免 ai 审美疲劳。装上它,你的网页前端直接起飞。 第五个, code simplifier, 使删代码终结者,自动简化复杂逻辑,消除荣誉代码,优化代码结构,提升可读性。装上它, ai 再也不会给你一些奇怪代码了。 第六个, ralphloop ai, 无限打工模式,自动循环执行任务,无限搜索资料,持续迭代优化,直到任务完成。但记得用上包月编程套餐,不然费用可能顶不住。这六个 skill 我 每天都在用,到这里,必须给大家安利这个 ai 集合工具, 不管是刚才推荐的这六个 skill, 还是几万个其他 skill, 用它都能一键搜索,精准匹配你的需求,找到最适合你的那一个,而且不用复杂操作,搜索到之后一键安装立 即可用,省去所有折腾,不用再手动找 skill 配环境,新手也能轻松玩转所有 ai skill。 关注我,分享更多 ai 技巧,也把这款 ai 工具安装和使用教程整理好,方便你直接拿去用。

skill 装多了真的非常容易乱,我自己呢,现在常用的 skill 是 十一个,我按场景分成了三类。我先说第一类,它是属于效率工具, 首先是 agent rich, 以前我们收资料需要一个平台一个平台去切换,现在你只需要一句话去说清楚你要什么。 这个 skill 它能帮你跨平台去找, youtube, 小 红书、推特公众号都能支持,还能直接的去提取字幕,不花 a p i 的 费用。第二个呢是 loglib lm skill, 这个呢,不是 loglib lm 的 一个本身啊,而是呢,在终端里面操控它的 skill, 把采集来的资料批量导入,让它去做归纳分析,你不用打开浏览器内行里面直接去搞定。第三个是 bb browser, 这个呢是让 ai 直接接管你的 clone, 打开网页,点按钮,填表单,截图,爬数据,跟你自己坐在电脑前面操作没有任何区别,每天你要重复的流程,你丢给他就可以。接下来呢是 skill creator cloud 的 官方出品,写 skill 的 skill, 把你每天重复的工作流程用一句话描述出来,它能帮你去分装成可以反复调用的 skill, 教会 cloud 按照你的方式工作。 我觉得这个 skill 长期的价值会非常非常高。接下来呢是 find skills, 相当于 skill 的 一个搜索引擎,你不知道该用哪个 skill 的 时候呢,把你的需求告诉他,他根据上下文帮你去找到最合适的,不用自己一个一个去翻。 好,接下来再讲。第二个是产品开发 tusk, 这个是硅谷创业圈出来的开源技能库,里面的 office hours 是 我用的最多的。做任何事之前,先被 ai 连问六个问题,把目标和边界条件逼出来,跳过这一步,做出来的东西反功率高很多啊。 第二个 superpowers, 这个是给 cloud code 装的一套工程师的工作习惯,拆任务,写测试代码,审查这些流程,它默认就会走,不用你每次都提醒。本质上就是去把 ai 编程从能跑就行推到可以去交付。 然后 from end design 和 ui ux pro max, 这两个是做前端设计的 skill, 你 不懂设计没关系,排版、配色、交互细节他自己去判断,一个负责从零去生成页面,一个负责在现有的基础上去做优化。 然后呢,是 playwrite mcp 自动化去测试产品,做完以后让他模拟用户的操作去跑一遍,哪 里点不动,哪里报错了全部暴露出来,你不用一自己手动,一个一个点, ok, 那 再讲最后一类,就是自媒体, 只有一个,但我几乎每天都在用 kimi niger 杠 zh, 这个是规范大脑的出品啊。 ai 写的东西通顺归通顺,就是读起来不像人话。这个 skill 专门去处理这个问题,过一遍之后,自然度明显不一样,做内容的基本上都用得上。 所以你看三条线,十一个 skill, 基本上覆盖了我百分之九十的日常场景,提效率,做产品,做内容, ok? 那 最后你最常用的是哪个 skill? 欢迎在评论区去告诉我们。 另外呢,我们学习圈正在进行五月份的实战打卡训练营活动,分别是 webcoding、 ai 知识库和 ai gc 的 影视。那你如果感兴趣呢,也可以去了解江学长 ai 学习圈和两千多位新友啊,一起去同行。

为什么我们精心打造的 skill 总是不被调用?我们将一起揭开谜底,并学习一套能让 skill 命中率飙升百分之九十的实战秘籍。 大家好,今天我们来聊一个非常扎心但又极其重要的话题。开发过 cloud skills 的 同学是不是或多或少都遇到过这样的情况, 你辛辛苦苦写了一个功能超强的工具,结果上线后却发现它就像一个被遗忘在角落的宝藏,无人问津。用户明明提出了相关需求,但 cloud 就是 不调用你的 skill。 这到底是为什么?是我们的模型不够智能吗?还是我们哪里没做对呢? 今天我们就来揭开这个谜底,并给出一套立竿见影的解决方案。其实问题的根源往往比我们想象的要朴素的多。我们总以为是模型理解能力不行, 但真相是我们没有给他正确的路标。想象一下,我们把每个 skill 都看作是商场里的一家店铺, name 就是 门牌号, description 就是 店门口那块告诉路人你进来能解决什么问题的招牌。如果你的招牌写的模棱两可,顾客怎么会知道你到底卖什么, 他们只会擦肩而过。同样,我们花了百分之九十的精力去打磨 skill 的 内部逻辑,却只用百分之十的心思去写他的名字和描述,这正是导致我们的 skill 被雪藏的根本原因。 要写出能被正确调用的 skill, 我 们必须先理解它是如何被选中的。我把这个过程拆解为五个阶段,第一阶段是发现 cloud 会先快速浏览你的 skill 名称和描述。第二阶段是登记,它会把这些信息做成缩影卡片。 第三阶段匹配,这是命中率的主战场,因为用户输入要在这里和 skill 进行语义对齐,只有匹配成功了,它才会进入。第四阶段,加载,去仔细阅读你的正文。最后是执行,大家可以看到,前三个阶段完全依赖于我们的 name 和 description, 所以 想要 skill 好 用,写好说明书 的封面,也就是这两个字段至关重要。现在我们明白了, description 是 整个流程的核心,但很多人对它的理解是错误的,把它当成了产品简介,这是完全错误的。 一个高命中率的 description, 它的本质是一套触发规则,同时清晰地界定了使用边界, 并给出了输入输出的线索。它必须同时完成三个任务,首先要让模型在需要的时候能想得起你。其次要让它在众多相似工具中能选的对你。 最后要让他在调用你之前就有信心知道怎么用你。接下来我们进入最实用的部分,黄金公式。首先是命名,一个好的名字应该像一个清晰的指令。我强烈建议使用动词加名词的结构, 比如审查代码就叫 review code, 千万不要用那些空洞的口号或者过于宽泛的词。记住一个名字,只干一件事,这是让模型精准识别你的第一步。命名之后是更关键的描述, 这里我给大家提供三个可以直接套用的公式。第一个是万能公式,它的核心是模拟一个条件判断,当用户说了什么就触发我的。第二个是边界清晰版, 他明确告诉模型我是干嘛的,我需要什么,我产出什么,以及我不做什么。第三个是多意图覆盖版,你可以直接把用户可能会说的原话写进去, 这样命中率会非常高。在描述中,关键词的选择直观重要,我们要学会换位思考,从我们觉得该用什么词转变为用户会怎么说。我建议大家在描述里明确写出三类词, 业务对象词、动作词和约束词。同时不要只写专业术语,要把口语化的表达也加进去,比如内存泄露和内存占用飙升都写上,这样能覆盖更多用户的表达方式。掌握了基础公式后,我们可以学习一些进阶技巧。 第一是中音混合,在中文描述后面加上关键的英文术语,这能显著提升模型的识别稳定性。第二是否定约束,明确告诉模型我不做什么, 这能有效过滤掉不相关的请求。最后是缺声追问,提前告诉模型如果缺少必要的信息,应该如何向用户提问。通过这三种技巧,我们可以把一个什么都做但不精的通用模型塑造成一个边界清晰、体验流畅的专业助手。 理论说了很多,我们来看一个真实的案例。左边是一个典型的错误示范描述,写的非常模糊,没有具体场景,容易让系统混淆。 现在我们用刚才讲的触发场景加核心能力公式来改造它,变成右边的版本,大家看它明确了具体的触发条件,锁定了 python、 sql 等核心关键词,还清晰界定了后端代码分析的范围。仅仅是这一行,描述的改变,工具的命中率就从百分之三十飙升到了百分之九十, 就是写好一行描述胜过十页论文的威力。除了知道怎么做对,我们还有知道怎么避免犯错。这里列出了五个最常见的低级错误, 第一,描述不要写的太长。第二,不要堆砌形容词。第三,不要忽略文件夹和文件名的语义。第四,论文和描述一定要一致。最后,保证你的输入输出格式稳定。为了方便大家立刻上手,我把今天所有的要点都浓缩成了一个可复制的 skill, md 股价。大家可以看到,这个模板的核心就是那个 description 的 写法,它集成了我们今天讲的所有公式和技巧,你只需要按照这个模板填空,就能写出一个高命中率的描述。总结一下, 在 ai 时代,被看见比有能力更重要。你的 name 和 description 就是 你和 ai 的 调用器约,它决定了你能不能被发现,被选中、被使用。记住这句话,写好一行描述胜过十页论文。

最近啊,我帮几个朋友看了下他们平时是怎么使用 cloud code 的, 结果发现大家踩的坑都差不多,比如说在 contacts 都快满的情况下,还在疯狂地向 cloud code 输出,甚至还问我他的 cloud code 怎么越用越笨,还有装了 skill 的 有没有用上都不知道。 那对于这种把 taco 用在刀背上的做法,我只能说一个字,绝。所以今天就给大家分享一下我自己使用 clotco 的 过程中的几个小技巧,听完包你满意,赶紧点赞收藏。当然,大家也可以在评论区分享一下自己的经验。 第一个,上下文管理这个道理啊,很多人都懂,但很少有人会注意到上下文污染的严重性。如果说你也有这样的毛病,我建议赶紧去看一下。前两周 cloud 发布的这篇关于绘画上下文管理的文章,里面讲的是非常详细的。 特别要注意的是啊,文章里面有提到,当上下文窗口开始占到百分之三十到百分之四十的时候,就会出现一定程度的上下文腐烂。这个其实对我自己也是有点启发的,你像我之前就是用到百分之六十可能才开始做一些上下文的管理,那现在可能百分之三十到四十就要开始做了。 那我平时做上下文管理无非是用到这三个命令,第一个, compact, 当任务跑了很长时间,进行过多轮的对话之后,使用这个命令,让他把前面的对话压缩成一个摘样,清掉容易的信息,只保留关键的,这样的话,你的 contacts 就 会变得很干净,他后续的表现也都会回归正常 我的使用习惯啊,同一个任务超过二十到三十轮对话,或者说我当前的上下文窗口已经占到了百分之五十以上,那我就会进行次压缩。 又或者说当我发现啊大模型开始回答一些奇奇怪怪的答案了,那我的第一反应也都会先去 compact 一下。第二个 clear, 那 这个相较于 compact 会更加的直接,把当前的对话直接清空掉,重新开始, 或者说你开一个新的对话窗口也是 ok 的, 这个适合一个任务已经完全跑偏,或者说你就想换一个新任务的场景。 对比的话, compact 就是 整理桌面, clear 的 话就是清空桌面重新来。那用哪个还是要看当前的任务有没有值得保留的上下文来决定呢? 第三个命令 by the way。 这个命令一般会出现在你不想去侵入当前上下文窗口的情况下去使用。举个例子,比如说你现在正在 web coding, 但是你又想到一个产品的逻辑上面会有点问题,就可以使用 by the way 去跟它进行讨论, 这个是不会记录在上下文的,或者说你使用 by the way 把你这一次的需求让它记录在某个文档里面。当你手头的这个 web coding 的 任务结束之后啊,接下来的任务你可以再调用原来记录下来文档里面这个需求继续展开工作。 那说完了我常用的这三个命令之后啊,还有些关于上下文管理的我的个人的使用习惯。第一个,引用文件的时候,指定路径和文件名,不要让大模型自己去扫描文件,扫描整个仓库,他有的时候如果找不到的话,甚至还会去写一个脚本去帮你去找到这个文件, 所以说这样的托克消耗是得不偿失的。第二个,我相信大部分人都会知道,长任务或者复杂任务的时候,用 plm 的 模式可以大幅度的减少托克的一个消耗。 第三点,尽量让 cloud code 完成一整个工作流,而不是一步一步的告诉他去做什么。因为 cloud code 是 非常强大的一个 agent, 你 给他一个超级复杂的任务,他也能从第一步到最后一步完美的给你执行出来。如果说你每一步都拆开,那首先上下文会变得非常长,那上下文一长,你的大模型就会出现幻觉,你的上下文就会出现丢失,被污染。 那讲完了上下文管理之后,接下来这个 prom 的 缓存本质上和上下文也有一定的关系,那我为什么会单独拎出来讲呢?因为它会直接影响你用 cloud 的 速度和成本,也是大家特别容易忽视的一个问题。 c c 的 一个 prom 的 缓存机制啊,如果说你上一次请求里面的内容和这一次请求的前缀是一样的, cloud 的 就不会重新处理那段内容,直接用缓存速度更快,托克的消耗也会大幅度的降低。 在 cloud code 里, cloud 点 md 的 内容和项目文件的内容在同一个绘画里面是可以被缓存的,但缓存会失效。最常见的失效场景有以下两种。第一个, cloud 点 md 这个文件啊,在 cloud code 的 缓存架构中是被视为一个整体的模块的, 由于它位于缓存前缀的中间位置,一旦你改了文件中哪怕一个标点符号,系统也会判定从 cloud md 这个文件的模块开始,到后续所有的内容,包括历史对话的缓存都会全部失效。 第二个,对话的间隔太长, cloud 的 缓存默认有五分钟的超时时间,超过五分钟没有新的请求,缓存就失效了。 如果说你再做一个任务,保持对话的节奏要比长时间等待更好,所以说每次离开之前先 come back 一下是最好的。理解这个机制之后,你就会开始有意识的组织 cloud d m d 这个文件的结构,让 cloud code 的 能够持续的用到缓存,整体的速度就会明显快一些,托管的使用量也会少很多。 那接下来第三块的使用小技巧,就是我自己平时经常会使用到的一些 skill。 skill 是 cloud code 的 可安装能力包,把一套提示词和逻辑打包成一个命令以后就可以直接调用。那我现在用的最多的就是以下几个。第一个, planning with fire。 当你有一个复杂的任务,不想让 cloud code 直接开始乱动,那就先用这个,它会把任务拆解成结构化的计划写进一个文件里,当你 review 确认之后啊,它再按照文件里的计划一步步执行。这个是我目前使用频率最高的,甚至说我所有偏复杂的任务都会先用这个 planning with file 的 这个 skill。 那举个例子,比如说我现在做 webco 顶,那原本开发的流程,可能说花一天时间去想一下架构,然后再花几天的时间去开发,那现在就反过来,我会先花大概几天的时间去跟他去跟 cloud 的 去聊我会怎么样去设计,然后聊的过程中去把这些我的想法全部记录到文件, 那之后我再做 webco 顶,让他去生成代码的时候,那整个的代码的结构,包括代码的约束,代码的规范都是非常工整的。 那接下来第二个 skill, 那 其实是一整套啊,基本都是偏向前端界面设计的,像 fronten design, 还有像 ui ux pro 这两个 skill 啊,还有一个就是我现在做视频基本上都会用到的 remotion skill 啊,都是我自己高频在使用的。 那这种是专门为前端界面设计调优过的 skill, 我 觉得对于很多开发人员来说,因为对一些 ui 的 设计都不是很 make sense, 我 觉得用这些 skill 可以 帮到你们很多,并且他们的官网也是提供很多的素材和模板 啊。再结合像现在的,比如说 stitch 啊这种圆形的设计软件啊,那我觉得再配合这些 skill, 那 可以起到事半功倍的一个效果。 第三个 notebook lm skill 啊,那对于这个 skill 我 原本是不怎么开始用的,因为像原来的 gmail 可以 直接去连到这个 notebook lm, 因为都是谷歌的全家桶嘛,呃,都能够直接去输出我想要的结果。但后来大家也都知道 gmail 降至比较厉害, 我发现我的结果就我的要求他不太能满足到了啊。后面我就尝试着把 nosbook lm 生成的结果给到 cloud, 让他去帮我进行接下来的任务执行啊,效果也非常的好。然后到后面也发现现在是有这个 skill 的, 那我就直接拿过来用了。 第四个 everything cloud code, 那 这个 skill 汇总了 cloud code 的 目前所有功能的一个用法,相当于一个随时可查的内置的使用手册啊,不确定某个功能怎么用的时候,你就可以直接调用它,比翻原本的官方文档要快很多。 那这边有一点要说明啊,这个 skill 会比较消耗托肯啊,你一定要去关闭它的一些 mcp 啊,你哪怕关了的话,它的托肯消耗也是会比较大的。那如果说没有碰到一些复杂的任务,我觉得是用不上的,但是整体的质量还是非常好的。 第五个, superpowers, 那 这个也是老朋友了,我相信很多人都在使用这个 skill, 那 这个 skill 对 我来说最重要的一点就是它的脑爆啊,这一个技能。 呃,而且这个 skill 是 非常适合小白的,因为它是包含了一整个完整的软件工程的,一个生命周期的一个 skill 的 一个全集啊。所以说,如果你是小白,刚刚入手 web coding, 我 觉得你用这一个 skill 就 足够了。 第六个,卡帕西的这个 skill 啊,那这个 skill 我 觉得是相较于前面 superpower 和 everything, cloud code 的, 它更像是一个靠谱的资深工程师啊,它会强调先清楚再动手,不乱猜啊,能简单的就不要搞得太复杂啊,改动都是以最小的成本去改的,而且每一步都是尽可能的去做验证, 所以说啊,它特别适合去修 bug, 改老项目,做一些重构。那接下来第四块, hux 啊,那 hux 的 定义的话就是钩子啊,它允许你去自定义一些触发器啊,在卡拉扣的做完某件事情的时候,会自动的执行一段啊,你所定义的无论是脚本啊还是命令, 那我最常用的三个场景,第一个,我每次让卡拉扣的修改了代码之后,就会自动的去提醒,也不用担心它改完之后代码的格式会乱掉。 第二个,任务结束的时候自动发通知啊,比如说你在跑一个时间比较长的任务啊,那你可以去做别的事情,那任务完成的时候可以触发一条系统通知到你的手机上, 那为什么会举这个场景呢?啊?之前在用 open call 的 时候,因为像 open call 它本身可以去调用 call 的, 但是它怎么去监控 call 的, 它会一直去用轮询的这个方式去做,会非常的消耗 token。 那后来我就自定了一套我让 openclaw 去触发 claw 的 code, 之后我通过 claw 的 hook 去回调来通知 openclaw, 使用这样的方式之后啊,就可以减少掉不少的 token。 第三个场景,那像工具的调用前后会去自动的记日制啊,你想知道 claw 的 在一个任务里面到底做了什么,那 hux 就 可以帮你在每次工具调用的前后去协调日制,任务结束之后就能够看到完整的执行过程。 第五块, cloud code 的 插件,那说到插件啊,前面提到的像 skillbox, 包括没有提到的 mcp, 其实都可以揉在一块成为一个自己的插件 啊,所以我说我这边就分享我经常使用到的三个。第一个 cloud hard 啊,这个的话可以去实时的监控你自己套餐的一个使用量啊,包括你目前这个 session 的 上下文的一个情况啊,再配合前面上下文管理的一些方式组合起来,那效果是非常的好的。 第二个 figma 的 mcp 啊,那这个很适合前面讲的 fronten 的 design u i u x skill 啊,特别是如果你在工作中啊,你们的产品用的是 figma, 那 你直接可以通过 mcp 的 方式直接把设计搞给搞进来啊,从设计到实现会剩很多。 第三个三 tree, 那 这个也是 mcp 啊,这个比较适合去排查线上的 bug 报出错来以后啊, cc 能够更快地结合异常的信息对账和上下文去定位问题啊,可以省掉自己去翻半天的一个日记。 ok 啊,那以上就是关于本次我自己在使用 calco 的 过程中总结出来的小技巧的一个分享,希望能对大家有所帮助。如果说你看到了这边,证明你是一个非常求学的人,在此我也希望能够得到你的一箭三连和关注。那本期的视频就先到这,我是布鲁,我们下一期视频再见。

别再纠结是 codex 还是 cloud code 了,我在实测了数十个 agent 之后,发现真正决定生产力上限的不仅仅是 agent 工具,还有你手里的 skill 配置。如果你的 skill 没配对,换再强的 agent 也是在浪费时间。 所以我根据实际开发场景和我的日常使用,筛选出了这四组最核心的顶级 skill, 包含了原能力扩展、工程化开发、前端设计和内容创作。 它们完全不挑平台,不管你以后切换到哪个 agent 装上都能用。先讲最根本的两把钥匙,我称为原 skill。 你 可以把它理解成让 ai 自我进化的能力,它不负责具体的活,而是专门用来扩展 agent 的 能力边界的。不管你用 ai 做什么,这都是你第一天就应该打好的地基。 第一个是 skill creator, 来自 antropic 官方。如果你想把一套成熟的工作流变成一个新的 skill, 便于后续调用,那么选它就对了。 以前想自己做个 skill 特别麻烦,得先去研究半天复杂的格式,不然可能写出来的 skill 还会报错。就算写出来了,使用效果也不一定尽如人意。但现在有了它,你不需要去研究什么复杂的格式,也不用手动改文件, 你只需要像给同事交代工作一样,用大白话把你的流程说一遍,或者直接把你的操作手册丢给他,他就会自动帮你起草、测试、反复迭代。在你自己完全不用看开发文档的情况下,一分钟就能写出一个既标准又好用的 skill。 安装和使用方式也很简单,在安装完成后, 只需要在 agent 里选中 skill creator, 然后输入你的需求,和它一步步地进行沟通就好。建议直接局安装,这样无论你在哪个项目里,都可以随时进行调用。第二个是 find skills, 大家千万别把它当成一个普通的搜索插件, 觉得还得自己手动去查。真正的用法是你直接给 agent 派任务就行了。比如你让他帮你做个 ui 设计,要是他发现自己不会,他就会自动把你的需求拆解成 ui 抵赞你这种关键词,然后自己去全网搬救兵。他在后台连接的是 skill 点 s h 这个平台,他会自己查看哪个 skill 安装量大,哪个作者靠谱, 然后挑出最好的那个供你进行选择。在你选择好之后,它还能直接一行命令帮你安装上 skill。 creator 是 让它能自己造工具,而 find skills 是 让它能去外面找现成的,这两个配合使用,一定能大大提升你的 agent 的 工作效率。接下来是针对具体场景的 skill。 先说软件开发, 我选了这三个, superpowers, j stack 和一个前端大神的 skill, 它们针对的场景略有区别,但核心都在解决同一个问题,就是终结那种看似逻辑闭环,实则无法落地的代码幻觉,帮你守住工程底线。第一个 superpowers, 他的杀手锏在于他把测试驱动开发这套严苛的工程标准,直接变成了 agent 必须遵守的硬规则。其实很多人刚开始用 ai 编程,最容易上手的场景就是让他写测试,而 superpowers 顺着这个逻辑直接把开发流程给正规化了,他 会强制 agent 进入一套标准的红绿重构循环,先写一个必然失败的测试,证明功能还没实现,然后写最少量的代码,让它变绿,最后再进行优化, 而且它非常稳。 agent 写完之后,它会自动开启两轮内部审计,一轮看代码,实现跟你的需求对不对的上。另一轮则专门盯着代码的质量挑毛病。这种慢思考的模式能帮你抓出很多隐藏的边界问题。 虽然看起来多花了一点点时间,但因为它第一遍就能把代码写到八十分以上,省掉了后面无数次反复抵 bug 的 时间,长期来看反而更省头肯也更省钱。它的整个工作流程大致如下, 首先他会拉着你做头脑风暴,把需求细节彻底磨清楚,先出一份整体的设计文档。然后他会把大任务拆成一个个几分钟就能搞定的小碎活儿,每个活儿都有明确的验证标准。接着就是让紫 a j 特自己去跑, 他自己写,自己查,严禁跳步,你只要在旁边关键节点确认一下就行。最后等测试全部通过了,他会把选项丢给你,是直接合并代码,还是先留着分支,或者觉得不行直接丢掉?第二个是 j stack, 作者是 y c 的 总裁 gary 谭。如果你还不知道 y c 是 什么,简单说,它就是全球最牛的创业孵化器,像 airbnb、 dropbox 这种巨头都是它孵化出来的。所以这位大佬出的工具,骨子里带的就是那种硅谷创业者的实战基因。这个工具有一点不同, 它不是那种功能单一的 skill, 而是在 agent 里内置了二十三个不同的专家角色,从 ceo、 设计师到发布工程师,你都可以通过斜杠命令直接调用,这相当于给 agent 配齐了一整支团队,让他不再是单兵作战。为什么要搞这么多角色? 因为真正做商业系统,代码行数不值钱,能跑通才值钱。有了这群专家帮你交叉审计, agent 就 能在不同的专业视角下, 把你揪出那些隐藏极深的问题。我来向你介绍一下它的实战流程。首先,在你动手写第一行代码之前,先跑一下 office hours 命令。这就是 yc 最出名的灵魂拷问。 ai 不 会立刻写代码,而是像个严厉导师一样, 反问你六个最尖锐的问题,把不靠谱的假设先掐死。接着可以用 plan ceo review 命令,让 agent 站在 ceo 的 高度审视计划,看看有没有更优解。到了代码复合阶段, review 命令就是你的资深工程师,他不光找小 bug, 更盯着那些 c i 能过,但一上线就可能爆炸的工程隐患。另一个具有实战特色的是 q a 命令,以前 a 阵呢,只能在代码里纸上谈兵,但这个命令是真的,会打开浏览器,像真人测试员一样去点击验证, 直接把 bug 抓出来修掉。最后活干完了,直接执行 shift 命令,它会自动同步跑测试、推代码、开 pr。 整套发布动作一气呵成。该瑞坦统计过,二零二六年,它的代码产出是二零一三年的二百四十倍。这不是说 ai 写的代码行数多就是厉害,而是同样的需求, 他一个人现在能顶一支小团队在干活,这就是角色分工带来的本质变化。第三个是一套前端大神 mod, 自己日常工作用的 skill, 作者是 typescript 的 布道者,如果你平时前端开发比较多,那么可以试试这个。 这套工具重点解决的是人与 agent 之间沟通对不起的问题。 mark 总结过,如果没有好的引导规则, agent 写代码很容易陷入几种困境。首先是理解偏差, agent 可能根本没听懂你需要什么,或者写得太啰嗦,废话很多。然后是执行失败,好不容易写出来的代码,结果发现根本跑不通。最后是架构隐患, 虽然代码能跑,但因为缺乏整体规划,后期维护起来会非常痛苦。所以他的这套 skill 核心逻辑很简单,宁可在前期多花几分钟对其需求, 也不要在后期花几个小时去处理这套低质量的代码。具体到这套 skill 里面的指令,我建议你重点关注这几个。首先是 graeme 系列的命令,这就是刚才提到的拷问模式,当你提了一个模糊的需求,比如说想加个登录功能,他不会马上动手,而 是会回过头来不停地拷问你细节。可能问完之后,他发现你真正想要的是 sso 环境下的多租户登录,这就把隐患消灭在开工之前了。接着是 tree 命令,也就是 aure 分 诊,他会帮你把所有的任务都过一遍, 分清楚轻重缓急,确保你不是在修一些细枝末节的小 bug, 而忽视了真正堵塞进度的核心问题。最后还有一个 improve 命令,这是代码库的架构急救包, 你可以每隔几天就跑一次,让 agent 站在大局的视角审视你的代码库,找出那些以后可能会越来越难改的地方,并给出重构的建议。接下来是前端页面设计,这是最开始编程 agent 出来时,他做的最差的一个领域之一。 agent 化 u i 出来的永远都是那些固定的套路, 固定的字体,蓝紫色的渐变背景、圆角卡片、特定的按钮样式。你在网上看到的那些 ai 生成的界面,十个里面有十二个长的都一样。解决这个问题的 skill 有 两个,第一个是 frontend design, afropic 官方出品。如果你受够了那种千篇一律的 ai 审美, 那它就是你的救星。以前的 ai 画 ui, 一 眼看过去全是圆角卡片加紫色渐变,就像是在共用一套廉价的模板。 而 front and design 的 核心是帮你洗掉这些 ai 位。它不是机械的套用组建,而是根据你的产品调性去推敲更有质感的纹理,或者尝试那种更有呼吸感的非对称布局。比如你给他提一个具体的风格要求,想要一个杂志感带点硬核感的页面,他给出的方案里, 字体的比例和模块间的留白都会处理的很到位。有了这种对视觉细节的把控,你的 ui 就 从一眼 ai 变成了真正意义上的耐看。 第二个是 u i u x pro max。 如果说前面的工具是帮你找灵感,那这个就是直接帮你配了一个设计总监。它的特点在于,它不是在靠直觉画图,而是把专业设计的那些条条框框全部变成了底层的逻辑。比如你要做一个金融或者医疗类的界面,它会非常明确地告诉你 什么样的配色能体现安全感,什么样的字体更显专业。他甚至还会给你列出一份避坑指南,直接点出哪些设计在商业场景里是绝对不能碰的。之所以能这么专业,是因为他后台内置了一百六十多个行业的深度规则, 不管你遇到多冷门的业务,他都能拿出一套成体系的方案,从交互细节到动效走位,都给你安排的明明白白。 而且它有一个很实在的功能,就是能帮你生成一套可以持久化附用的设计系统。有了这套规范,你下次再开发新项目, 直接把文件丢给 agent 就 能用,不用每次都从零开始打磨风格。而且它的上手门槛很低,无论是装插件还是用命令行,都能快速跑起来。 这两款工具的分工也很明确, front and 底钻负责把画面画得出彩,而 u i u x pro max 负责把产品做的更专业。有了它们, ai 的 输出就再也不会有那种廉价感了。最后一类,内容创作。如果你用 agent 做内容创作,那这组宝玉老师的 skill 我 一定要强力推荐给你。 它首先解决的就是内容本身的高质量产出,比如它能帮你生成一张极具审美,完全不输专业设计师的封面图,或者把一大段枯燥的文字直接变成一张高信息密度的格式化信息图。 在内容做漂亮之后,他还会顺手帮你搞定后面那些讨厌的碎活,比如说转格式、做排版,最后还能直接一键发布到各个平台,他把从生产到发布的全流程都打通了,有了它,你就能真正实现生产和发布一体化,把所有的精力都集中在打磨好内容上。 宝玉老师的这套工具箱里包含了十几个好用的 skill, 我 这里简单带大家看几个。首先是用于生成封面图的 cover image skill, 它最强的地方在于有一套五维控制系统,从构图类型、色调方案、渲染风格到文字排版和情绪基调, 全都能精准调优。这七十七种预设组合,能让封面彻底告别开盲盒的随机感,每一张出来的效果都像是为你的文章量身定制的专业设计。 如果你平时觉得画逻辑图、架构图很头疼,那这个信息图相关的 skill 绝对是神器。它内置了二十一种专业的信息布局,像分析原因的鱼骨图、做转化的漏斗图、梳理层级的金字塔图应有尽有。更聪明的是, 它能自动读懂你文案里的逻辑结构,直接推荐最合适的布局方案。以前要在设计软件里磨半天的信息大图, 现在只需要几秒钟就能产出出版级的可量化成果。如果你经营小红书,那么可以使用小红书 image skill, 它能将长文章自动拆解为一到十张卡通风格的轮播卡片。通过内置的十一种视觉风格和八种排版模式, 如对比、清单、流程等,可以快速生成符合平台排版习惯的图文内容。针对排版环节, 这个 markdown to html 的 skill 解决的是一个非常具体的痛点,那就是在微信公众号这种不支持 markdown 的 平台上,如何保留精致的排版。它内置了多套公众号主题,能自动处理代码、高量和数学公式。 最实用的一点是,它能把文中的普通外链自动转为文末的底部引用,彻底解决了公众号里链接打不开或者被截断的尴尬。如果你平时还有翻译文章或者精读外文资料的需求,那这个翻译 skill 就 派上用场了。 他最强的地方在于提供了一个正式出版级的模式,这个模式不是直接进行翻译,而是会走分析、翻译、校正再到润色这整整四步的流程。 而且他有一个非常人性化的功能,就是能让你指定你的读者是谁。比如你告诉他你的读者是资深开发者,他就会自动省略掉那些庸愚的解释, 翻译出来的语气读起来就像是真正的圈内人写的。最后,当你把内容全部准备妥当,可以通过发布微信或者发布微博这两个 skill 来实现一键跨平台分发。 它区分了不同的分发逻辑,你可以发长文形式的文章,也可以选择只发几张图片配一段摘药的贴图模式。它把那些复杂的后台操作全都变成了 agent 里面的一行指令, 从本地草稿到最终发布,整套流程都可以在 agent 里面直接闭环完成。今天分享的这些 skill 只是个开始,其实最关键的是大家要根据自己的工作流程和使用场景,去打磨出真正适合自己的 skill。 如果觉得视频对你有帮助,别忘了点赞和订阅,我是俊旺,我们下期再见!

使用 c c switch 进行 cloudbox 的 使用,好多朋友不会用啊,这个 c c switch 大家入悉一下,首先在这个网站里面搜索一下这个 c c switch, 把 c c switch 下载下来,对应的安装包在这里面点 windows 这个 msi 就 可以了,安装下一步就可以, 我现在是安装完的之后的效果,第一次进入是这样,要进入这个 c c switch 的 设置,在设置里面呢,如果你没有安装 cloudbox 呢?你要把这个 应用这个插件可以点,把这个跳过,初次安装这个一定要点开,这个非常有用,好多朋友因为他没有格式的账号,所以每次要登录时候需要登录账号,这个跳过了,只用咱们国内的 ai 就 可以了。 到这里面这里面,比如说像我的这个,我其实用的 dipstick 和这个 gim, 还有 mini max 它其实国外这个我也没有使用啊,太贵了,大家可以直接点加号加号,比如说你要有一下,比如说你用小米的这个 mini 吧,小米这个 mini 呢?你去把这个 key 添加这里面把,这个一般都不会用。改啊,如果你是 tiktok 的 话,你要去搜索一下 tiktok, 在这里面补充一下,有的朋友使用的是 tokenplay 或者是 codingplay, 这里以小米为例,他的 tokenplay 或者 codingplay 里面的兼容协议是这个名称,但是 c c switch 这个作者呢?他说他自己忘写了,他写的是这个,这个是错误的啊。大家一定要把这个 play 复制一下,复制之后把这个放到这里改一下, 改下之后再把你的 api 复制里面,这才是对的。之前有朋友是写错了,他默认是有问题的,这个一定要看一下,把你的模型需要用的模型改一下,一般都是小写啊,很少有大写的。这个大家自己添一下,点击添加就过来了。 过来之后呢,想像我这样的点试这个余额,这个余额比如说你看我这个 deepsea 的 余额,呃,使用用量查询,官方把这个设为零, 你刷新一下,像我这个还剩二百七十块钱。智普的这个呢?它是我 tiktok plan 吗?我是用 tiktok plan 就 不一样,这个也是在这地方配置前用量查询就可以了,其他的注意的事项没有,因为其他我也没怎么用啊。 注意一下小龙虾,这个好像有点有一点点问题,我不建议小龙虾和爱马仕在这个 cc switch 里配置可能有这两个不太建议在这里面配置,就这个 clod, 再用这个配置就可以了,其他的不要配置 这个 skill。 点击这个像扳手一样的图标,点击之后呢,你就可以直接在这里面去安装 skill, 非常方便啊。比如说你想找一个 skill, 那 点击这个发行技能啊,要保持你的网络通畅啊,你的网络要好, 这里面才能显示你想要安装的 skill。 这个 skill 是 这样,它这个 skill 里面有个 top 上总结上的,在仓库,但是有一些特殊的,比如说我安装的我安装的 canvas 赛,这个 canvas 赛其实没有,你就要去他的网站上,他教你怎么去安装,你就搜索安装,按照他的方法就可以了, 其他的大部分都能搜到,如果搜不到的,很可能他改了名了。这个不要着急,你就去那个 github 上去搜索一下,是这样,你也可以从这个 ip 上去安装导入已有。都可以啊,发现技能就可以直接点击安装,这就安装出来了。这个比较方便,我建议新手小白直接在这里面去找能下载的就可以。

不要再被那些高大上的 ai 名词绕晕了,今天呢,咱用大白话把大模型、 agent、 mcp、 skill、 open cloud 这五个词一次性给你盘明白。 那首先呢,大模型就是个失忆的天才大脑,他靠概率算字,你问他我是谁,他根本不知道。于是聊天机器人出现了,他呢,就像个记事本,把聊天记录打包发给大模型, 让 ai 看上去有了记忆。但光会聊天没有用啊,得干活。这时候呢, agent 就是 智能体来了。记住一句话, agent 就是 长了双手的一个大模型,它能调用工具,比如你问它天气, agent 呢,能直接调用代码去查,再告诉大模型。可现实里的工具成千上万, 接口参数呢,也是五花八门,调起来太麻烦了。于是, m c p 就是 模型的上下文协议诞生了, 它就像 ai 世界里的 usb 通用接口,只要遵守协议, agent 呢,就能即插即用,无缝连接各种外部工具。工具多了又乱,怎么办?好了, skill 闪亮登场,就是技能包,它就像一个标准的一个操作手册。 s o p 规定了在什么场景调用什么样的工具,按照什么样的流程。那 agent 呢,不用把几万字的说明书塞进脑子,需要时呢,直接加载 skill, 又快又准。那最后呢, opencloud 是 什么?他就是个超级打工人,他本身呢,没有啥特殊能力,全靠下载各种 skill 来武装自己, skill 能干嘛,他就能干嘛。总结一下,大模型呢是脑子, agent 呢是长了手的人, mcp 呢是通用插座, skill 呢是操作手册。 而 opencloud 就是 那个揣着一万本手册,啥活都能干的超级员工。听懂了吗?评论区聊一聊,你还想知道哪些 ai 知识?

让大语言模型吸纳过往经验与提升表现是当前的热门方向。人们普遍认为给模型提供的经验手册越详尽,他应对新任务时越游刃有余。 但清华与 evo map 团队的最新研究得出了一个反常识结论,提供两千五百个 token 的 详细纠错 skill, 反而导致精准测试通过率大幅下跌。换成两百三十个 token 的 精简控制指令,却实现了性能逆势飙升。 业界常将机器的犯错经历打包成强劲的程序化 still 文档。研究团队在覆盖四十五个复杂科学代码求解场景的数据库中,进行了四千五百九十次对照实验,结果发现,引入厚重 still 文档后,模型通过率从百分之六十点一重错至百分之五十点七。 一味堆砌经验,不仅无法转化为有效控制信号,反而对高能力模型产生了严重干扰。拆解实验揭开了原因, skill 文档内部效用极度不均,仅有工作流部分有正向收益,大量描述性段落反而造成负面影响, 高价值指令被海量说明文字严重稀释。在模型受限的注意力分配机制下,人类视角的详尽解说成了沉重的认知负担。为此, 研究引入了策略基因概念,它摒弃文档完整性,只保留极简匹配关键词、简短摘要、核心策略步骤和回避警告, 直接输出关键参数。两百三十 token 的 基因组将双模型平均通过率推升至百分之五十四点零, light 模型从百分之四十一点八大幅升至百分之四十八点二。实验证明,单纯缩减次数不是关键,真正的飞跃发生在经验被凝练重组为行动策略的那一刻。 抗干扰测试结实了基因的稳健性。注入错误算法会引发性能血崩,但将策略优先级倒置或添加过度约束破坏却微乎其微。过度约束变体甚至逆势升至百分之五十五点九。只要核心策略对其当前任务字面结构的扭曲不会摧毁控制力。 试图将基因重新扩展为 skill 或拼接互补基因,均因破坏指令纯度或分散注意力而宣告失败。在更长周期的经验累积中,策略基因同样展现出绝对的在体优势, 将失败历史塞入自由文本或 skill 文档,成绩均出现倒退,而将失败教训精准压缩为简短独立的警告信号,取得了百分之五十四点四的最佳战绩。 经验的累积应当保持克制,精准压缩永远优于无脑扩容。在实际演化部署中,基于结构化基因的自我演化系统展现出了爆发力。 在哈密顿逆向设计等任务中,系统摒弃笼统提示、高频起用、直接罗列刚性约束的核心基因,成功将复杂问题降解并复用,最终斩获百分之二十七点一四的超高准确率。 从永长的人类 skill 到冷峻精简的策略基因, ai 吸纳经验应当化繁为简。为什么详尽的文档反而会让人工智能产生混淆?欢迎在评论区探讨。

如果通公司突然把你用的好好的 a 件的给禁用了,你会怎么办?今天我们公司正式对我们的 a 件的下手了,就是要逐步禁用我们公司电脑的豆包、元宝通、亿千万和沃克堡利这些桌面应用,让我们使用公司内部采购的字眼那些。 首先遇到这种问题就很烦,因为你已经在 workbook 上跟它形成了一定的默契吧,觉得就问你的,呃使用风格和偏好呀,像我们知识,你的记忆,你的 skill, 你 的 plug in, 你 的包括一些连接器啊等等这些东西已经很习惯了。 再就让我们突然切换成抠,抠的很烦,然后对比了这两样东西。我今天下午简单对比一下,我觉得三个点,其实抠的和 workbook 使用体验很差。第一个就是抠的它不支持切换模型,只有旗舰版和普通版。 第二个就是它没有,它不支持项目制,它每次都要新建任务,然后让你手动关联一个本地文件夹,就没有 work buddy 那 种可拉的模式。第三点就是 to kill 消耗的数量太快了, 我们公司在 code 上面每个月只给我们批一千 credits, 但是一下午只迁移了个项目文档就花费了大概百分之五十。然后我要增加的话,我到外头去申请,申请也只能每个月再加两千,两千的话只能用个最多一周或者四五天,而且你还要节约,说是省着用。 通过这个事情我也反思了一下,就是我们突然切换大模型或者 a 键的,那什么东西是我们个人最宝贵的东西呢?我觉得第一点就是我们自己的一些 prompt 和我们的使用偏好,就是包括电台 md 啊和我们 user md 这些文档对于我们来说非常重要,还有一些我们常用的 prompt。 第二点就是我们自己沉淀的 skill, 我 们自己建的小工具和我们建立的 skill, 这些是我们高频最使用的,就其他 skill 可能不重要,但我们自己建的一定对我们的工作生活影响最大。 第三点就是我们的工作流,就是我们通过 skill 和小工具去搭建了一套属于自己的工作流,然后可以让我们生活和工作和一些副业大大提升的一些东西,这是我觉得个人一定要去和别人拉开差距非常重要的点。

大家好,今天咱们用最通俗的话讲懂当下大模型智能体最核心的技术, agent、 skill、 mcp 到底是什么?三者怎么完美配合,打造真正好用的智能大模型? 很多朋友都好奇,为什么普通大模型只会聊天,而智能 agent 却能自己查资料,用工具完成复杂任务,其实原理特别简单,没有大家想的那么高深。 今天一句话讲透,还带大家看懂最顶级的 ai 架构设计。第一部分,逐个讲懂三大核心概念。 首先我们先分开搞懂这三个东西,分别是干嘛的?一句话,精准定义。第一个 agent, 说白了就是大模型的大脑总指挥, 它的作用是教大模型学会感知外界,影响外界,不再是只会被动回答问题,而是能主动思考,主动做事,相当于 ai 的 总指挥官,负责判断任务,规划步骤。第二个 agent skill, 就是 大模型的操作说明书加做事流程,相当于给大模型一份详细的执行文档,定义好参考规则和执行脚本。它不是给大模型提供数据,而是教大模型怎么处理数据, 怎么一步步完成任务,规定好大模型的处理逻辑、作实方法,让 ai 不 会乱做事,不会出错。第三个 m c p 就是 一个通用公共工具接口,是大模型连接外界所有工具的统一桥梁。不管是什么软件,什么数据,什么外部工具, 只要接入这个标准接口,任何大模型都能直接调用,不用重复适配。它负责给大模型提供外界的原始数据调用外部工具是 ai 和现实世界的数据通道。简单总结, agent 管决策 skill 管做事方法, mcp 管拿数据调工具, mcp 负责提供数据, skill 负责处理数据,分工特别明确。 第二部分,核心融合设计讲解那问题来了,我们想要做一个完美的智能 agent, 能不能把 skill 和 mcp 的 优势结合起来? 答案完全可以,而且这就是最专业最合理的设计模式。我们的设计思路就是在 skill 的 执行脚本里直接嵌入 mcp 工具调用,把两者完美融合。通俗来讲, skill 就 像是 ai 的 标准化做事流程, 里面写好了 ai 要做什么,先做什么,后做什么,也就是我们说的规则参考和执行脚本。 m c p 就是 ai 的 万能工具库,不用自己开发,不用适配各种工具,统一接口,随用随调。我们直接在 skill 的 做事流程里, 按需调用 m c p 的 工具接口,不用单独改模型,不用重新写代码。这样一来,这个智能 agent 同时拥有了两大优势, 一方面,一托 skill 大 模型,有规范的执行逻辑,做事有章法,处理数据更专业,不会出现幻觉,任务执行更精准。另一方面,一托 m c p 通用工具接口,无缝适配所有外部工具,外部数据都能轻松调用,兼容性极强, 换任何大模型都能正常使用,附用性拉满。第三部分,总结升华加核心亮点。最后给大家梳理一遍完整逻辑, agent 作为总大脑,下发任务指令, scale 沉结指令,定义好任务处理流程、做事规则。 scale 内部直接调用 m c p 通用接口,获取外部数据,盗用外部工具, 最终精准完成整个任务,全程无需人工干预。这套设计模式分层清晰、职责简陋,既规避了单一用 skill 无法灵活调用外部工具的问题,也解决了单一用 m c p 大 模型没有规范做事逻辑的弊端,兼顾了专业性、通用性、实用性,是当下大模型智能体最落地、最高效的技术方案。 结尾简单理解, ai 想要变得更聪明、更实用,既要有规范的做事方法,也要有畅通的外界连接通道, 而 skill 加 m c p 的 融合模式就是大模型智能体的最优解。关注我,带你看懂更多硬核 ai 科技,下期我们讲更多大模型智能体落地干货!

最近 a i a 阵的这一块啊,真的可以说是全疯了,从最早 cologne code 到前一段时间的 open cologne, 现在呢,又出了一个叫爱马仕的框架,更新迭代的速度比咱手机更新的还快,但你会发现这些框架里面都在反复强调一个技术,叫做 skill, 也就是技能。你上网可以搜一搜,各种的技能包是铺天盖地, 什么张雪峰技能包、同事技能包,听着是真的够高半上。咱们这里拿张雪峰这个例子来说,说白了,他就是把张雪峰直播时跟家长的一些对话的内容整理成了文字,做成一个 skill。 再说这个同事技能包 就更简单了,他就把你以前工作的文档记录一类的东西也打成一个 skill, 你 调用 a 这个框架时候,他就会去调用这些技能,好像 ai 瞬间就变成了这个领域的一个专家了。 但是像咱懂技术的人都知道, skill 在 设计之初根本不是为了干这个用的。如果你像现在这样单纯拿它当一个文字的笔记本这样去用,缺陷就非常的大。 因为他的运行逻辑是这样的,当你调用 a 阵的框架时,他会直接把这个技能里的内容直接塞给大模型。如果你的技能包内容特别大,特别长,那麻烦就来了。大模型有上下文长度的限制,很容易超出 token 的 消耗也会蹭蹭的往上涨,烧钱非常的快。而且大模型在面对超长的文本时,也会出现注意力的分散,也就是理解不准确,给你的答案不一定是准确的答案。所以现在这种张雪峰 skill 也好,同事 skill 也好,本质上就是跟我们自己用大模型平台时,一股脑把所有的文件都上传,然后问大模型一个问题是一样的, 只不过是形式不一样,你觉得很方便,实际上这大模型已经累吐血了。那正确的做法应该是什么?应该是用 r a g 技术,也就是解锁增强生成。其实你就可以把它理解成给大模型加了一个外挂, 因为大模型的知识是有截止日期的,比如 deepsea 去年发布的那个版本,他只知道发布之前的事,那你问他之后的新知识,他只能说不知道,要么就瞎编。 而 r a g 的 做法呢,就是当你提问的时候,你先去你外挂的知识库里去精准解锁相关的内容,再把解锁到的信息交给大模型去生成答案,这样既省了头看,而且还准确,也不用担心上下文会爆掉。当然, r a g 如何去做到精准的解锁,这里面基础是很复杂的,我们可以以后找个机会再聊。 我今天想表达的核心就是一句话, skill 不 能瞎用,而是要用对地方,它更应该附着在 agent 的 框架里,作为一种规范的能力去使用。比如当 agent 遇到某类的问题时,规定好调用哪个技能包,技能包里定义清楚目标是什么,工作流程什么,每一步应该怎么样去做。 至于更复杂的知识调用,你可能是需要结合 r a g 技术的,或者远程的工具调用。所以千万别把 skill 当成万能的,更像是一套规则和规范, 告诉 agent 在 什么背景下,什么规则下,该怎么样去做。那么你用 skill 踩过哪些坑呢?或者说见过哪些离谱的技能包呢?欢迎在评论区分享,关注,小罗带你搞懂 ai 技术背后的真东西!

面试官问你,在大模型的 agent 架构当中,海量的 skills, 也就是技能,到底是怎么样去加载的?哎,各位同学,大家先别着急的去翻那些代码库,我们先思考一个最基本的问题,面试官为什么要问这个问题?它其实不是考的是你某个框架的 api, 它考的是你对系统资源 跟模型注意力的极致把控。大家好,我是静者。你想啊,现在的 agent 随随便便呢,我们就要挂在几十个甚至上百个工具, 如果每个工具的说明书都有几千个字,你一股脑塞进 plymouth, 那 你光读这些啊,上下文就要烧掉几万个 tokyo 老板的钱包呢,也是支撑不住模型的,脑子也乱了,那这种全量投喂的做法呢?在工业界就不是 啊,一个不合格的一个做法。好,我们看到下面,那今天我们要讲的就是一个满分架构的方案间接式。譬如我们首先对比一下左右两边, 那左边这个传统方案呢,也就是全量加载,那全量加载呢,他最大的问题就是上下文爆炸,由于信息太多呢,模型会产生一种叫做 rosa 印章 made 的 一个现象,也就是中间的信息他全部忘了, 并且每轮对话都要重复加载,贵的要命。而右边的这个,现在的啊,这个方案就是我们的主角,间接式批录,他的核心的逻辑呢,就八个字,按需加载,极致清亮。 这就像我们去图书馆,你不需要去把整座的图书馆啊背在身上,你只需要背上一本目录,想看哪本呢,再去抽哪本。接下来呢,我们顺着中间的这条彩色连线,看一看这套三层炸孔是怎么样跑起来的。 第一层啊,也就是我们的感知层啊,这一层呢,做的事情叫做原数据挂载,说白了就是只给目录,当大模型刚启动的时候呢,系统只会告诉他你现在有这个 web search, 或者是啊什么什么样的工具。那模型呢,这个时候只需要知道有什么就行了, 大家看到这个设立的代码极其的精简,这样呢模型就能把宝贵的注意力全部放在理解用户的意图上面。接着用户提问查一下今天的这个新闻,模型反馈说,我想用搜索的时候呢,咱们就进入了第二步,也就是理解层, 那在这个时候呢,系统的编排层会瞬间去拦截到啊,这个意图, 把 webster 起的详细的接收代码,具体的参数格式,还有一堆相关的例子,喷的一下注入到三层文中,这就是确认啊意图之后才去给到具体的这个手册,保证模型在调用工具的一瞬间呢,拿到指定是最清晰最专业的,那如果任务特别正, 特别的重,比如代码跑错了,要看几万字的这个报错手册怎么办?那这个时候呢,我们还有第三层执行层, 那执行层做的事情呢,就是运行时上下文,也就是我们真正在运行的时候才会去翻的一些副路,那些重篇幅的背景文案,只有真正需要深度理解的时候呢,才会加载进来,平时呢他就静静待在数据库里面,不占模型一丁点内存。 讲到这里大家可能会傻,这方案听起来逻辑满分,但实际落地的时候真的就会一帆风顺吗?那接下来我们重点来看一下这个面试总结区。 首先我们总结一下咱们的核心知识点啊,间接式,譬如呢,本质上是模仿我们人类的工作记忆,他成功的把这个大模型的推理负债和外部技能的扩展给结偶了,这就意味着你的系统理论上面呢,是可以挂在一万个技能,但模型的提示时呢,依然可以保持的非常的苗条。 但是大家要注意,这套架构在工程落地呢,一定要提出来,这叫降维打击。第一个难点是什么呢?就是他的这个解锁的精度, 解锁进度呢?如果你第一层的目录写的太糊涂,模型选错了工具,那后面全部白搭。第二层呢,就是,哎,能启动延迟, 每你每一步都要动态加载,用户等的着急了怎么办?第三个呢,就是状态管理,如果你把技能全部卸载了,对吧?那模型待会忘了之前干到哪一步了。那针对于我们这个问题,那我们的破解方案是什么 啊?第一个就是引入我们的语义路由,在请求到达大模型之前呢,先用一个轻量级模型做精确分类,保证啊,我们选对人,干对事。第二个呢,用提示词缓存,提示词缓存技术把这些高频出现的技能说明直接锁在缓存里面,实现真正的秒开。 最后呢,我们会搭建一个记忆模块啊,不计权量对话,只计核心的状态在内,这样的话呢,我们让模型长畸形,又不会让这个上下文爆掉。 所以啊,我们在回答这个问题的时候呢,你不能只谈加载,你要从这个认知的复旦开始讲清楚它的三层递进的逻辑,最后呢,用羽翼路由跟这个缓存优化来收尾。

大家好,上一次呢给大家分享了大模型是怎么去解决他自己原本不擅长的技术的这个问题的。 那第一种方式呢?呃,就是通过预训练阶段,随着互联网上面相关的语料变得越来越丰富,那有一些问题和答案在互联网上也出现的越来越多,那大模型呢,他就能够有更大的概率去回答正确这个问题,那并不是因为这个大模型变得更能去计算这个数量了, 而是呢在互联网上有更多相关的问题以及它对应的这个答案了,那大模型能更好的去把它对应起来。那这是上一次分享的第一种啊,今天就给大家分享呃,第二种和第三种这个方式是我个人认为也可以去解决这个大模型的这个,呃两种这个方式,这两种方式都是在微调阶段去进行的, 那微调阶段做的事情呢,就是去帮助大模型去标识出呃最高质量的这个呃回答的这个内容,或者是人为去写一些高质量的一问一答这个内容,把它形成一个训练级。然后呢这个训练级也是通过这个 transformer 的 整个这个模型训练的这个东西再重新丢给 大模型去训练训练出来,然后呢大模型就能够呃知道这个训练集里面内容了。所以第二个方式呢,就是通过在训练集里面直接告诉大模型他的这个相关这个问题的解析思路,或者是他答案应该是什么 啊?比如说如果是计算一个单词里面某一个字母有多少,那这个时候就可以直接在训练机里面去告诉大模型,你可以,你需要把这个东西拆成一个一个字母,然后再去做什么样的一个事情,就告诉他方法。或者说对于像 strawberry 这样的问题,被大家呃问的非常多的直接告诉他这个答案是什么, 但这个就是在微调阶段可以做的第一种方式,但这样做呢,他会还是会有一个情况啊,就是他解决了当下的这个问题,但是呢他并没有根本上去解决大模型呃不擅长去计数这个问题,所以说一旦我换一个更复杂的要去计数的这个问题,那大模型可能会又打不出来了 啊,比如说啊,让让大模型去计算我后面这个地方有多少个点,那对大模型其实对他来说就是难的,因为这个东西,呃最核心其实就是大模型他不擅长去做技术,那就算他答对了,他也是基于这个 token 的 这个概率去 这个关联。对了,那有没有一种方式是可以去帮助大模型去解决这样的一个问题呢?就这是他的弱项。那 有一个东西,虽然说计数是大模型的弱项,但是呢计数和计算是代码的强项,而大模型能做的一个事情呢,它能理解语义,它能把各种各样 token 拼在一起,也就是说大模型是擅长去把各种各样代码结构粘进来的, 但是呢,他不擅长去做中间的这个计算过程,而代码擅长去做中间的计算过程。那有没有一种方式就是让大模型和代码去做一个结合,然后大模型去拿到这个代码生成的这个结果,然后再去做后续的这个输出呢?那后面这个地方啊,我也截了一张图,这个是一个, 这样是一个例子,那也是呢,让这个问这个大模型下面有多少个点,那直接让大模型去回答的时候,他会告诉你有一百六十一个,但是你让大模型去写代码去解决的时候,那写完代码之后去计算,其实最终是有一百七十七个点。 那这个里面我觉得,呃一个非常重要的一个点,就是我们要知道说大模型他不擅长做什么事情,那比如说大模型就是不擅长去做计数的, 而如果说碰到这样的问题我们要去解决的时候,实际上呢是可以让大模型去用代码来去做解决的。那这个里面呢,大模型是怎么样去掉这个代码工具的呢?那在最开始的时候,因为大模型它本质上它就是只有 token, 它只认这个 token 这个 id。 呃,那大模型它是怎么去让这个大模型去写代码的呢? 那开始的这个呃大模型的场上肯定也面临着这个问题,那他们的解决的这个方式呢,其实就是在大模型它要去写代码的时候,会在这个呃微调这个阶段去教这个大模型一些特殊的 token id, 那 原来的这个 token id, 比如说它是一万零两百七十七个,那这个时候我就会再去加一万零两百七十八,它可能就是让 code star 啊,那这个对应的可能就是要开始写代码, 那它就会教这个 gpt, 你 碰到了代码这个词的时候,要要关,要关联的那个相关的这个 token id 可能是一万零两百七十八啊,假设,那这个时候 gpt 它呃要输出对应的这个,呃一万零两百七十八的时候,它就知道后面应该是要去开始写代码了。 那通过这样的这个一些特殊的这个 token id, 把它内嵌到原有的那个,呃 token id 的 那个体系里面去,让大魔镜知道说,哦,这个大这个 token id 开始是要开始写代码了,呃,然后在这个地方再去做一些特殊的一个处理,但是呢,嗯,这个地方其实还可以去做继续的衍生。那写代码呢?只是碰到了第一种场景, 我们也非常常见的。第二种就是去做搜索,那大模型它的预训练,它可能是基于去年的数据,它的数据不是最新的,那要增加它的这个可用性,那它必须要去做。呃,有,有的时候是需要去互联网上去搜索的, 那这个时候其实搜索也可以也用这样的模式,那我就再给它加一个特殊的这个 token id, 那 原来是一万零两百七十八,那这个搜索可能就是一万零两百七十九, 那后面呢?可能又来了一个需求,让他去查天气,然后后面又来,然后又往后面加这个 token id, 但这样的话这个无休无止的这个需求就会导致无休无止了,这个 token id 一 直不断地在往后特殊的这个 token id 往后加。所以说呢, 后面就想了一个办法,那把这所有的这些的 token id 能不能把它封装成一个更高维度的一个东西?那,那这个时候能不能说直接把这个地方改成 tour 杠 star, tour 杠 end, 那 它就是一个统一的一个,那你中间的这个内容才去写,你是要去呃调代码,你是要调搜索,你是要去调天气,还是你是要去干什么?那这个东西呢?就衍生出来了一个新的东西,就是 function core 或者是 tools。 因为这个方程库或者 tools 一 般是呃在不同的模型里面,它的叫法不一样,但是它要做的事情是一样的,就是当模型它很多时候它自己不是万能的,它需要借助外界的一些东西来弥补自己的不足,来填充自己的信息,那这个时候呢,我们就把它封装成了一个标准的 一个接口啊,像 openai, 它就把它封装成了 function core, 它是一个接口这种形式来去供外界的第三方应用来去做调用。 但是这个地方呃方向括,虽然它又临时解决了这个问题,解决了大模型自身去对外调用的问题,但是呢,这个时候又会有一个新的问题出来了,那这个新的问题呢?就是 比如说我有一个查天气的这个应用,但是我查天气这个应用跟叉 cpt 对 接了之后啊用这个方向括去做对接了,但是呢,我用跟 jimmy, 我 可能是用要用 tools 这个这个函数去跟它对接,那我呃用,比如说用逗包,可能又是一个新的这个接口,那也就说同样是我要干一个查天气这件事儿, 那我去跟叉 c p d 去对接的时候又是 a, 我 去跟 jam 来对接的时候,又是又要写一遍我的这个适配代码,我要去跟豆包适配的时候,我又要适配一遍代码,那这种时候呢,就对于这个呃应用端来说就会非常的麻烦,于是呢就衍生出来了一个东西,就是 m c p, m c p 呢,它解决了一个东西,就是它就是个中间商,那它这边呢,接的是大模型,这边呢接的是各种各样的应用, 那也就说你这边的应用,你是一个查天气的应用,你是一个搜索的一个应用,那你都接到这个 m c p 里面来,然后这个 m c p 呢,它作为一个中间商,帮你去转换一下,这边能接大模型 a, 接大模型 b, 接大模型 c 都是可以的,你就只需要去写一遍你的这个 呃搜索的这个代码,那这边呢,你去接豆包也可以,你去接切 ppt 也可以,那这个就是 m c p 干的一件事情,实际上他们要解决的问题是相同的一个问题, 而 mcp 呢,它也有它自己的一个问题。那现在呢,又衍生出来了我们非常火爆。另外一个东西就是 skills, 那 skills 它就有点类似于一个包含了多个 mcp 的 一个说明书。那具体的这个里面相关的这个内容呢,我就下一次再跟大家进行一个分享。