粉丝51获赞156

扣子智能体里的这个知识点,百分之九十九你会用到,智能体是否可用,是否能用全看他。新手如果不会写题时词,不理解题时词书写的规则,不懂 markdown 语法,不知道如何选择模型,如何让模型输出的内容更加的精准有效。 接下来通过一个实战的案例,教会大家在扣子里边无脑编辑大模型能看懂的提示词,以及大模型的应用方式。优化方式。首先呢,我们需要登录到扣子的官方网站,然后我们看到右侧有一个我的头像,点击它,点击扣子开发平台, 然后我们就进入了扣子的开发平台的首页啊,我们看到这里有一个我们已经创建好的智能体,这是南哥上一发创建的那个智能体啊,我们可以直接点击它进入到扣子智能体的编辑页面,我们还可以通过另外的一种方式啊,我们可以点击工作空间, 然后点击个人空间,找到项目开发,你会发现右侧的内容啊,都是我们已经创建好的智能体, 那么我上一发创建的这个智能体呢,也会存在于这里,我们可以直接点击它就进入到了这个智能体的编辑页面。 今天呢,既然要讲大模型的微调啊,我们就需要找到大模型,那么大模型为什么要微调呢?首先啊,大家要理解一个概念,大模型它本身已经被训练好了,我们直接啊拿来就可以用,就像我们的豆包,就像我们的 deepsea, 我 们无法对它进行训练了,那么我们只能 对它进行微调,微调的意思就是说让这个大模型啊输出的内容呢,更加符合我们的预期,更加的精准也好,或者说更加的有创意也好, 就是通过大模型的微调来进行实现的。那首先呢,我就要点击一下这个小图标, 这里边啊就是做大模型的微调的,首先呢就是生成多样化,这个生成多样化我们可以点击一下这个小叹号,你会看到有三种方式,精准、平衡、创意。 平衡模式是基于创意跟精准模式之间的一种模式啊,那精准模式啊就是用于准确无误的场合,如正式文档代码,还有像比较重要的文献,数学,科学 啊,历史这种东西啊,还有财务这些是需要非常精准的输出。所以说我们要对大模型微调的时候呢,我们要选择精准模式, 选择哪种模式啊,需要看我们的业务场景,如果说,哎,我们就想写个小说,写一个有创意的脚本,那你完全就可以用创意模式。当我们选择的时候呢,你会发现啊, 这里边的生成随机性,他会有个数值啊,这个最大就是一,他会跟着走,比如说我选择平衡模式,他就变成零点八, 精准模式变成零点三,当然你是不是可以调啊,也可以没问题,零点四啊,他可能输出的就不那么精准了。这里还可以点击自定义,这个自定义啊,我们就可以随便的拖动 这个数值,可以拉的很大,拉的很小。其实啊,扣子已经给我们内置了这种方式啊,我们直接点击它就可以了啊,平衡模式呢是他们两个之间的一种模式,所以说这个东西啊很好的理解。 接下来啊,就是我们的输入与输出的设置啊,首先大家看到携带上下文轮数啊,我们依然还是要点开这个小叹号, 我们看到设置带入模型上下文的对话,历史的轮数记状是历史轮数,轮数越多,多轮对话相关性越高,相关性越高,代表了我输出的内容的关联性越高,可能输出的内容呢,会更加的精准。 什么是三轮呢?他默认就是三轮,我们还可以往高了去调啊,可以一百轮,但是很少这样去用,默认三轮啊,直接修改它。什么是轮数呢? 这是我第一次跟大模型或者智能体啊的一个问答,大模型或者智能体给我了进行一个回复,这个就是一轮,如果三次就是三轮,那我在进行第四次的提问的时候啊, 就不基于上面的内容进行回复了。如果说我这里边调到五, 那我第五次进行提问的时候,这个大模型啊会基于上四次的内容给我进行精准的输出。所以说这就是携带上下文轮数的一个逻辑啊,大家要看看你的大模型是如何进行输出的,还有一个呢,就是最大的回复长度, 还有呢就是大模型的回复长度啊,这一点大家应该非常有体会,尤其是我们使用豆包啊,或者 dbic, 当你让它输出一个非常长的一篇文案的时候,它会输出到一半就停掉了,原因在于啊,我们很多大模型它里边会有一个最大回复长度的设定,你看啊,这里边就是四零九六。 好,我给大家说一个概念啊,四零九六它是一个 tokens, 它就是代表了一个值啊,你可以理解为就是一个单位 tokens, 这个值呢,它会有一个对应,比如说一百 token 大 约是一百五十个字,也就是汉字啊,那你四零九六呢?我们可以换算一下,大概是六千一百多个汉字。 所以说如果说我的提问的内容超出了你这个最大的回复长度,那我就需要被截断了,只输出了一部分,那如果说我们想让它输出的内容更长呢?其实啊,我们是可以进行调节的, 可以把它拉到最长幺二二八八,那这个 tokens 就是 这么个长度,那它大概是换算到汉字的数量,大概是一万八千多个汉字。 大家根据你输出的问题啊,或者说根据你这个智能机他要输出的内容去调节他的最大恢复长度。那接下来啊,就是上下文缓存啊,这个默认式关闭的状态,他这个东西是花钱的啊, 我们看一下他的整体的逻辑啊,当我们鼠标移动到这个小叹号上面,他会有一个提示啊,那么我们直接啊点开这个指引文档, 我们来看一下他到底说的是什么样的一个事情啊?比如说有一些标准化的标题,还有固定化的一些制式的文字格式, 这些内容啊,你让大模型自动的把它存起来,你就想象一下,把它存起来,我再用的时候,我直接去调用就好了,我不要重新的重复的从上到下再把这个事屡一遍,有些东西都是固定的,我直接重新的去拷给一下,大家只需要理解他是这样的概念就可以啊。 然后还有模板化的内容,比如说产品的描述,招聘的信息,个性化的消息。其实啊,这里也是南哥所讲的上面的一些内容啊, 还有标准化的开头跟结尾,比如说我们写 word 文档的时候,有一些那个页眉页脚这些东西啊,直接就保存起来就好了,我们不需要重新的让大模型再读一遍,这些内容都是啊规则的,固定的,有规律的东西,对吧?这就是上下文缓存的功能啊。 那接下来啊,还有一个叫做模型的默认指令,这个东西啊也是默认关闭的,那么我们不懂的情况下,我们直接啊点击这个小叹号,然后 选择指引文档,我们来看一下他到底说了什么好。默认指令说的东西也特别少啊,当前时间啊,就是开启后,智能机与用户对话时,能实时的获取并提供标准的时间信息,也就是说 这个信息他会携带一个时间,就是把那个时间啊默认给你加到这里边了,而且这个时间呢,会非常的精准,可能会精确到秒。 还有就是系统提示词防泄露啊,这个东西很有用啊,因为大家想到我们有时候给到大模型的一些文章内容,可能是我的一些内部机密的东西,如果说这个用户啊,他就反复的去提及这些敏感的内容的时候呢, 大模型是要输出的,如果输出了,其实就泄露了一些机密。那如果说我们把这个功能开启之后啊,当大模型检测到了这个机密的信息之后,他会礼貌性的拒绝用户的请求,哎,他会说你这个请求我无法进行作答, 诸如此类的回复啊,大家一定要想到他的一个概念啊,这个其实啊,就是我们对于模型的一个微调啊,那在这里啊,我认为最重要的就是这个多样化的一个调节,还有你的输入输出的这个设置啊,他是精准或者 创意进行输出,这个呢就是回复的一个轮数,以及你输出的精准性的一个控制。但是我们在大模型里想让大模型输出的内容更加的精准,还是要看我们的这套提示词的,这套提示词非常非常的关键,还记得南哥所讲的他是一种指令, 或者说他是一种命令,大模型就需要听从他的命令来进行内容的输出啊,那在这里啊,就涉及到了提示词的一些重要的规则,那在上一盘,南哥给大家讲到了这些内容都是核心的内容,他是一种标准化的格式, 作为智能企来说,你一定要有一个角色的定义,你一定要有技能,而且呢还要对这个智能企啊有一定的限制。 首先我们第一次在扣子里接触提示词啊,就是在我们的扣子智能题里边,就是在人设与回复逻辑里边,那以后呢,我们会在 扣子的工作流里边当中有一个大模型节点,我们依然会接触到这个提示词啊,当我们把智能题里边的这个人设与回复逻辑所讲到的提示词掌握之后,那个跟他类似 这里的提示词,它有一个概述,其实就是一种自然语言的指令哎,为大模型提供任务的指导,仅此而已,它只是产生了这样一个作用啊, 而人设功能设定呢,就是编写这个体式词,为智能体设定身份和目标,那那个角色不就是身份和目标吗?对吧?还有清晰明确,也就是说我们在编写体式词的时候一定要非常的精准, 这个精准跟明确它的意义重大。如果这个提示词里边我们拖泥带水的说了一些不相关的内容啊,你大模型输出的内容一定是不符合预期的, 首先要保证精准,还要明确。好,那接下来啊,看功能的特性,一个就是我们可以通过 ai 的 方式生成这个东西,南哥是教过大家的,可以点击它进行 自动化的生成,但这个自动化的生成,他的根据来源是在哪里呢?就是在这里,一个是你的智能体的标题, 就是你智能体的名称,还有你智能体的描述,他是基于这两点共同结合生成的这套提示词。如果说我们使用到的是这种自动化的方式啊, 还有就是高效编辑啊,高效编辑的意思就是说我们可以支持精假语言,还有 markdown 格式,这个南哥后边会给大家去讲什么是精假语句,什么是 markdown 格式啊, 而且呢,我们现在所有的这些提示词的底层逻辑啊,编辑的方式啊,都是用 markdown 格式来呈现的,它是一种复文本的格式,你看这里边有回复啊,还有小图标,我们同时还可以在这里加一些链接, 还记得南哥上一发讲过的副文本吗?其实 markdown 它就是一种副文本的一种形式的展现哈, 好的,那接下来啊,就是模板的复用,其实我们可以在我们的智能体里啊,存储一些常用的标准化的提示词,就在这里,我们可以直接啊提交到提示库,可以点击它, ok, 这里边你看 我的提示词直接他会放在这里,同时呢我给这个提示词一个名称,就是天气小助手的提示词,这里可以给他添加一个描述啊,我直接点击确认看他就被存储起来了 啊,然后如果说我想调用怎么办啊?如果说我们换了一个智能体,还想调用这套提示词,那你在另外的那个智能体啊,直接点击这个小灯泡,点击它,你会发现在我们的个人里边啊,会存储了一个东西,就是它 天气小助手的提示词就是他,我们直接啊就可以直接点击插入提示词,就会跑到人设与回复的逻辑里边,或者说你直接复制一下也可以,然后粘贴过来也没有问题啊。接下来啊就是推荐哎,这个推荐很有意思啊,就是官方给我们提供的一些提示词模板, 我们可以看一下通用结构会有啊,你看他的通用结构就是角色、目标、技能、工作流、输出格式限制这种逻辑,如果说我们想按照一种标准化的格式进行编辑提示词,我们可以直接拿到官方的这种逻辑, 好的,直接我们就可以插入提示词,然后呢按照这种方式啊进行修改里边的内容就可以了啊,还有很多的提示词啊。然后我想给大家看的是这种精假语法啊,精假语法, 这个相当于一个变量,南哥会放到后边去讲啊,你看这就是雕一种变量的方式, 就是 designer type, designer type 后边有个等号,后边就是设计师,我问大家一个问题啊,如果说我把它改了名字不是平面设计师了,是 u i 设计师,那这个里边的存的内容就变成 u i 设计师了,这个就方便我们作为开发者啊,去 使用这套提示词,不需要改一些内部的核心的东西了,这个核心的内容呢,是一个动态改变的,我们啊就在这里边进行设定就好了啊,这是 design task 啊,这是海报,设计好,它也会在这里边进行一个调用, 其实这个方式啊,就是变量调用的一种形式,这种编辑提示词的方式呢,就是我们刚才所看到的精加语法, markdown 格式也给大家去讲了,精湛的语法也给大家去讲了,其实编一些提示词啊,我们需要记住它的格式就可以了啊,而且这个模板的附用也给大家去说明了,同时呢可以资源进行管理啊,其实当我们建立好这些提示词啊,我们很多人都可以进行管理,可以进行一个修改 啊,这些都是南哥存储起来的个人的一些常用的提示词啊。那么看大家的一个需求了,接下来啊,我们再往下去走, 这个提示词的类型啊,会有系统提示词和用户提示词,这个这一趴呢,我会放到工作流里面去讲, 大家今天还没有学过工作流,但是一定会碰到工作流的啊,工作流里边会有一个大模型的节点,里边大家会碰到系统提示词和用户提示词啊,在这里啊,我稍稍的给大家带一下,接下来我们就来看一下编辑提示词, 就是编辑提示词啊,他有一些编辑的建议啊,建议就是这些,他是一种明文的一种规定,大家只需要按照这种逻辑编辑即可啊, 然后呢,我也会把这个内容给到大家,大家详细的去看一下,在这里啊,南哥就不过多的去介绍他了,好吧,他只是一种规则而已,游戏的规则, 那在这里啊,其实重要的是提示词的标准,首先我们在写提示词的时候一定要包含这几类东西,人物的设定就是他的角色,他是谁,他能干什么,哎,功能和流程回复的格式,像在这里,我们是不是指定了他回复的格式, 这种格式就是为用户输出的内容的一种形式,就是变成了他。我们在设计整体的时候一定要注意这一点,第一要保证美观,第二要输出的精准。 接下来啊,这里边做了一个详细的一个说明,人物设定描述所扮演的角色职责和回复风格。哎,这里边还有一个势力好 功能和流程,就是描述智能体的功能和工作流程,约定智能体在不同场景下如何回答用户的问题,所以说这个事啊,我们必须要约定他, 然后下面的内容大家仔细的去阅读一下,这些东西都很好的去掌握,我们需要了解我们设计提示词的一些规则即可啊,然后会看到回复的格式啊,就是描述所扮演角色职责和风格, 这里有回复的格式,这个格式啊,就这样一个情况,这个格式你这里边是什么样子的内容,那我在智能体回复的时候就会变成什么样的内容,一定要去指定啊,好,那还有一个就是你的约束和限制, 在上一趴南哥跟大家去讲过,我们一定要针对于这套提示词啊,或者说让大模型干的这件事一定要有约束,你不能让他什么都会干,因为我们的智能体 它产生的意义就是在某个垂直领域下解决某一项事件和任务的,所以说咱们要设定它什么应该回答,什么不应该回答。 第三个就是咱们提示词的语法,刚才南哥也给大家介绍了一下,还有就是我们的 markdown 格式,这个 markdown 格式啊就是一种轻量级的标记语啊,这个话简直不是人话,其实你就可以理解为这里 既可以插入哎标题,也就说这套提示词里边,你看这个井号就是 markdown 格式的一种表现形式,如果说我加了井号,它的颜色就会变,你看到回复视力的时候,我这里加了两个星号 包裹起来的内容呢,中间的这个内容啊,它就会加粗,所以说在扣子里啊,它都能够实现的。 然后我们用的最多的就是这种 markdown 编写提示词的这种方式,其实扣子默认自动生成的那种方式就是通过 markdown 生成的,它就是一种复文本的形式,里边还可以放链接, 还可以啊,修改这个标题的大小,字体的颜色都可以改变啊,那今天的内容啊,咱们就讲这么多。



兄弟们,扣子现在是大变天啊,那个可以快速的去帮你实现你所有的这个 ai 工具的自动生成,那扣子这边呢,把原来的开发平台呢改为了我们的这个扣子编程,现在呢它属于工作当中,所以大家可以免费每天去生成三个项目, 可以去生成智能体工作流,或者你的这个网页上面的这种应用,这个网页应用呢也会自动帮你生成页面,移动应用呢还要申请内测,我今天帮大家测试了这三个,我今天都帮大家测进行了一个测试,只要一句话,他就会自动的自己生成代码,自己去帮你设计页面,自动自动帮你去写提示值 给大家先看一下,我第一个测的是智能体,智能体呢我这边选的是,我这边是用一句话告诉他啊,拍照片批改作业的智能体,他就全自动去给我生成了一百,然后智能体这边呢 给大家看一下整体,这边呢我给他就上传了一张试卷,然后呢他就帮我去做了一个整体的分析,他实现了几个,一呢是实现了这个图文识别,二呢是做了分数的批改,批改的结果以及深度的这个题目的错误分析, 包括这些答案还有评语。这个其实一般的来说,有些老师现在都不定能做到这么精确的去批改作业, 他非常全自动,如果你有什么需要他再去修改呢,你可以在这边再给他提要求,他会帮你再重新再去设计,当你也可以对他的结果进行微调。这边呢可以,比如说他选用的这大冒险,如果你不满意可以改他这些系统处理的提示词呢?如果你觉得哪个细节不满意要改,也可以去进行更改, 包括你完了之后呢,你就直接去接他进行一个部署,直接点击部署,他就会全自动去 进行部署,然后给大家看。部署成功之后呢,它会给你一个外部 a p i 的 一个请求接口,以及它会帮你有一个 a p i token 的 这么一个安全措施,可以通过这个 token 然后调用这个接口来进行访问,一步到位,这个真的非常访问,整个这个智能体一共就花了四五分钟吧,我什么也没做。 然后呢?工作流这边呢,我是让它做了一个电商的工作流, 电商的一个宣传图的一个工作流。那然后他会因为我只用一句话,所以他会在提示说你是用于什么的?我会让他要求我出一些更精确的目标方向。那我也告诉他,完了之后呢,他也是花了大概五六分钟全自动去帮我做这个问题, 然后完之后他就帮我生成了一组工作流。这工作流呢,从我前期输入我的这个内容分析,然后他最终会给我做一个图片生成,可以看一下。最终呢,他会给我输出这么一张 海报图片,那我的数是什么?我的数是我要一个笔记本,它的特点是长续航方向,呃,它的是时尚设计方向,然后它的目标群体是电脑爱好者。最终它的这个海报的目的是什么?为了品牌曝光,所以它最终走完之后,它给我生成了一个 海报图片,然后呢,并且在这边呢,他还体贴的给到我们微信、抖音、微博不同的这个宣传文案,他都帮我们去考虑好了,那其实每一步的内容呢,我们都可以去对他进行修改的,他的模型啊,或者说系统贴纸, 大家理解原理的人呢,可以自行再去修改,那么对一些小白来说直接就可以拿来用的。所以如果说,比如说你对他哪个要求哪个节点不满意,那么你可以甚至可以对他哪个节点不满意,那么他再去帮你进行更 网易应用。这边我是想让他去给我生成一个慢剧的生成网站,我按照现在常用的慢剧的四步,第一步根据主题生成 大纲。第二步根据大纲生成几组分镜描述和主要人物描述。第三步根据分镜和主要人物生成对应的图片。 第四步最终生成一个动态的慢剧。那这个呢?其实它当中它给我生成过好几次,然后它有问题,看到它因为有问题,然后我就让它把第一步的图片去掉,然后它就又重新去帮我编辑了。 控制这次大翻新,每天限制三个,可以方便大家快全自动快速去做一些常用的日常 ai 工具,所以说大家现在赶紧去用起来吧。