粉丝15.5万获赞144.3万

怎么用奶奶漏洞去攻击 gpt 四?如果你想让他识别验证码,老实人就直接发过去,但他就会告诉你这是验证码,他帮不了你,因为这是训练 gpt 四 v 时做的价值观对齐。 但如果你狡猾一点呢,就可以骗 gpt 说奶奶去世了,留下了一串项链,并且把验证码 p 图伪装成像是项链盒里面刻的字,这样 gpt 四就会充满同情心的告诉你上面的字母了, 这就是提示词注入 propt in jacks, 给大语言模型去洗脑,让他冲破限制的一种方式,而且这是针对最新的看图能力的攻击。 具体这种奶奶漏洞呢,在今年四月份就有人发现了,他骗机器人说自己奶奶曾经是凝固汽油蛋厂的化学工程师,经常 哄睡自己时就给自己去讲怎么造这个凝固汽油弹,机器人就毫无警惕的像奶奶一样给他讲这个造汽油弹的过程。然后在六月份,又有人用类似方式诱骗 gpt 说出了 windows 的安装秘要, 不过后来呢,发现这个只是通用密要哈他并不会激活的这个奶奶漏洞能够生效,一方面趣事的奶奶会让机器人放松警惕,另外一方面呢,奶奶这种人设,他本身也是给人经验丰富,愿意分享的一个感觉。 不过病很快就针对奶奶漏洞读验证码去打了补丁,现在你看,他会假装自己不认识验证码上的字了。但是道高一尺魔高一丈哈,很快又发现了小孩漏洞,他把验证码反射变成了黑色的背景,并且 p 图到了星空照片上,骗 gpt 四说自己带孩子出去玩啊,没有戴眼镜,看不清楚这个星座的名字,结果病又傻乎乎的读出了验证码,他以为他在读一个星座的名字啊, 并且他还说很高兴啊,你能够陪小孩看星空。大家发现大语模型的软肋了吗?因为 模型必须要训练出三观很正来,所以啊,他就很容易像对老人小孩这种弱势群体放松警惕,这就产生了奶奶漏洞、小孩漏洞这样一些提示词注入的攻击方式。

用过文心一言的小伙伴是不是发现想要用好它,提示词很关键?作为第一款向全社会开放的国民级别的大语言模型,文心一言相信很多朋友们都已经使用过了,但是你们有没有发现,有的时候得到的答案其实并不太如人意 这个东西,其实不是文心意言不强,而是我们没有找到最关键的方法,那就是用对提示词。作为一个和人非常像的深沉式大语言模型,我们和文心意言做交流的时候,需要记住的一点就是需要把它当人看。 就比如我们谈恋爱的时候,经常呃两个人不把心里边话说出来,总要对方去猜,这猜来猜去,可能好好的爱情就给谈没了。我们和文心妍做交流的时候,一样的,需要把我们的具体的需求想法,用提示词的方法准确的告诉他,这样他才能够帮你做出准确有效 笑的回答。作为从文静一言内测开始就一直使用的一个老用户,我想分享一点我的经验给您。在我的工作中,可能用到文静一言的时候,主要有三种情况。第一种情况是,嗯,可能我会突然接到一些嗯, 紧急任务,一些突然的活动通知,那么我就有可能需要让文星一言帮我去草拟出来一个文稿,帮助我去应对一些情况。就好像今天早上我接到了 科大的双创学院的一个邀请,邀请我去生一同创这样的一个双创的研究生开班仪式去做一个主持人。 我对这方面其实了解的不是特别多,而且因为工作拍的太满了,可能我没有足够的时间去好好的撰写我的主持词,这个时候我就可以向文心一言求助,让他帮我写一份嗯,不错的稿子。大家现在看到的这个结冰就是我向文心一言 求助以后得到的结果。我把这件事情的前因后果都说清楚,而且把我自己的要求非常的明确,提出来以后,他给了我一个不错的答案。除此之外,其实我经常还做一些科普的活动,我们在科普里边需要用到一些有趣的图,但是我没有美术功底, 在这个时候,我就可以向文星一言求助,让他帮我画一些画。就比如说我要去解释人类的祖先是不是猿猴或者是不是鱼的时候,那么我就需要用到一些有趣的,和人有关, 和星星有关的这样的一些图片。嗯,我就可以向文星言求助,让他帮我画一个西装革履的黑星星,然后注明了我要的是一个全身像。嗯,需要什么样的一些特殊的要求? 最让人吃惊的是,他不但给我画出来了一个我很喜欢的图像,而且在我画了他以后,他又附赠了一幅图给我。其实除了 工作之外,文静一言他还可以作为我们生活的好帮手。就比如说,嗯,如果我的冰箱里边没有多少菜了,我又不知道该吃点什么时候,我就可以把我的材料告诉他,然后让他给我一个简单的建议,嗯,帮我安排出一菜一汤,吃的丰丰盛盛,又香又甜。 当然了,文静语言能够帮我们做的事情远远不止这么些。呃,很多时候,我们只要是将我们的想法,我们要求用准确的提示词告诉他,他就可以帮我们解决更多的一些难题。 至于这个星期四真的是到主持的那天,我到底会不会用文心一言帮我写的主持词呢?大家可以猜一猜。文心一言棒棒的,颜红棒棒的,我是李旭,帮你解读科学奥秘。

欢迎来到未来练习社,今天的主题是叉 g p t prompt 提示词的课程,那今天的参考资料其实是吴恩达博士和 openni 官方出的一期提示词工程教学视频,我会将视频的内容拆除几期,和大家用我自己的理解来分享这个课程。那么首先想要了解提示词,我们就要了解现在最火爆的 l l m 是什么。 l l m 等于 large language model 大型语言模型,像大家熟知的大大型语言模型有 g p t 三, g p t 四 lamda, 也就是谷歌的 bard, 然后 blue 就 howling face 还有 lama 等等这些模型。其实大型语言模型可以分成两部分,一个是基础大模型 base l l m s, 还有指令调试大模型, 呃, instruction tuned l m m 这两个区别是什么呢?那其实基础大模型他的能力是通过文本训练数据预测下一句话是什么,也就是他其实有很多很多的数据样本,他通过学习之后,他可以知道你的下一句话想说什么。呃,举个例子,比如说如果我们给他一个提示词,说很久以前有一只独角兽,那基础大模型他就会回答说无忧无虑的和他的伙伴住在森林里。 但是当我们问的一个问题的时候,比如说我们问到法国的首都在哪里,那技术大模型,根据他被训练的一些数据,网上的一些内容,他其实可能会问一些相关的其他问题,比如说法国的人口有多少,法国的流通货币是什么?法国最大的城市是哪里?而他不会直接去回答这个问题, 那么指令调试大模型就可以做类似的事情,也就是他可以尝试执行指令。那同样是这个例子,如果我们问他法国的首都在哪里,他就会回答,法国的首都在巴黎。那其实指令调试大模型,也就是咱们所谓的微调模型。指令调试的步骤 大概分为这几类,首先通过基础大模型,因为他已经经过了大量的文字训练数据去训练,所以把它作为一个基础进行微调调的方式,也就是通过指令教育这个大模型,更好地去遵循和执行他即将获得的 的直流。那最后呢,我们也会用一种方法叫 r l h f, 也就是人类反馈,强化学习,不断地通过人工干预纠正大模型的错误,告诉大模型哪个是对的呢? 是错的,让他更好的去帮助人类去做一些指定的工作。那么其实如何理解微调模型的意义呢?就是假设你有一个很聪明的助手,那么但他不知道他需要完成什么样的任务,或者他不知道你想给他的任务是什么,那你就需要通过描述告诉他任务内容。 举个例子,比如说你如果告诉大模型,请给我写一篇关于马斯克的文章,那这个指令其实是并不具体的,他可能写出任何形式的文章出来。那如果你在指令当中加入一些 细节的描述,比如说他的商业成就是什么?他的自然生活是什么样的?他的人类共性有哪些呢?那其实这个大模型就会写出更好的文章,或者你可以指定一个口吻,你是想让 ai 以专业记者的口吻描述这个事情,还是以幽默风趣的把它方式来描述, 或者写这张这篇文章之前,你可以告诉大模型你需要去阅读哪些内容以来帮助他更好的去完成一个任务,这都是你在微调当中可以做的一件事情。那么下一个课题我们将讲到提示四工程的两大原则。关注我,了解更多 ai 信息。

捡到宝了老子们!刚发现购我见过最全面的提示词网站,包括绘画、文案、论文、代码等领域,并且可以完美适配国内备胎大语言模型。网址放后面,点开网站左上角,可以看到它集成了近四十种分类的提示词,并且每种都十分专业,帮我们省去自己想提示词的时间。 比如这个写作类的小红书爆款标题,提示词里面内容把标题该有的要求全部提及到,我们只需要点击下面的复制就能直接使用。比如来到国产模型质朴青年,粘贴到对话框,来到最后把主题换成自己的, 他就可以生成质量相当高的标题了。网站放在这里,家人们还不快充,对了还不会用 vi 工具提高工作学习效率的进我主页查看简介, 添加领取视频、同款资料,还能获得 jppt、 额者尼、 cbww 中等国内版热门 ai 工具实操账号,名师直播带学使用技巧,帮你快人一步抓住 ii 风口,翻倍提高生产力!

随着我们使用大模型的深入呢,我们会呃发现这样一个现象,叫做我们正常情况下,我们问大模型的问题呢,我们会得到一个非常普实的回答,就是大模型会根据自己的训练的这个过往的一些知识的积累,然后告诉我们他认为最好的一个答案。 但是如果我们问到一些非常具体的针对啊,我们自己生活和工作的一些问题,比如说一个文档,或者说公司里边的一些情况的时候。哎,那这个时候呢,大模型的回答的这个就不会包括这部分知识。那如何做这样的定制呢?啊?我们今天就讲这个这个话题。 呃,通常来讲呢,呃有三种办法。第一个办法呢叫做提示工程,叫做 prompt engineering, 呃,这是一种通过设计特定的输入提示来引导模型生成我们期望的输出的办法。第二种呢叫做知识库的嵌入, 叫,呃, notch based in beddings, 所以这指的是结合模型与外部的知识库,使模型在生成答案的时候呢,可以引用这些外部的知识。第三种呢就是 fight tuning, 呃,微调,这是在特定数据集上对预先训练的模型进行额外的训练,使其更适应特定人物或者领域。 这么讲起来呢,可能,呃有点难理解,我们举一个例子啊,呃,来说明,我们就举一个例子叫做假设,一个学生啊,一个大学毕业生啊,可能是一个博,呃,本科生硕士生啊,他刚毕业了, 然后呢,他具有经过了这二十多年的学习,他具有了深厚的学术背景和理论的知识,然后他现在要去工作,但是在面临世界工作的时候呢,他必须要需要一些适应和调整,对吧?所以呢, 提示工程 prompt engineering 相当于什么呢?相当于他的领导给他布置了一个具体的任务。呃,口头布置了一个任务,然后博士这个学生呢,就基于自己的知识和经验,按照任务要求进行操作 啊,这是第一种啊。第二种呢,就知识库嵌入相当于什么呢?相当于这个学生遇到了一些问题啊,然后他的领导给他扔,扔给他一本啊,操作手册啊,一本字典啊,然后让他在操作的时候,这个学生就可以去查阅啊, 然后这就像模,这就像模型引用了外部知识库来增强他的输出。那第三种呢? facility 像什么呢?就像这个学生在刚开始工作的时候,他不是报道的第一天就去工作的,他是先经呃,接受了两个月的上岗前的培训,可能有公司的 这个企业的一些制度啊,企业的文化呀,工作流程啊,过往的一些操作指南啊等等,让他更适应具体的工作环境和要求,所以这就是三个不同的区别。提示工程知识库嵌入,还有这个微调, 那他的优缺点是什么呢?我们很快的讲一下。对于提示工程由 prompt engineering 来讲,他的最大的优点在于快速实现啊,直接针对特定的需求,然后这个学生就能够迅速的得到结果。但是他的缺点就是有可能需要多次尝试才能得到最大最佳的答案,要要要去试。 然后呢,这个方法呢,也不适用于啊所有的问题,特别是对于复杂的任务而言,这种方法可能会是失效的,因为我们上次也讲过这个,他会占用很多的 token 啊,所以这个可能 prompt engineering 这部分提供的些背景知识就已经超长了。有这种可能啊。 第二个呢,就知识库嵌入,他的优点是说增加了模型的深度和广度,使其能够更处理更加复杂和特定的问题。就好像刚才讲,像这个学生有一个操作手册,他可以随时查阅, 但这个缺点在于什么呢?在于啊,整合和维护知识库需要额外的时间和资源啊,这不是说他就一直在那里的,要进行对他进行项量化的一些操作啊。然后呢,需要确保啊,同时需要确保知识库的准确性和即视性。是是是是,随时在更新的 最后一个微调,他的优点是针对特定任务啊,或者领域,优化模型的性能,使其更加的专业和适应。就好像刚才讲上岗前的培训之后,这个学生就会更加胜任某一岗位。但他的缺点呢,就是需要大量的标记数据啊,可能,也有可能呢,会导致一种 叫做过离合的一个情况发生。就好像这个学生,呃,只针对一个小领域进行培训,可能就会失去了对其他领域的一个灵活性。所以做一个简单的总结啊,这个叫做 一个博士生,一个学生他可以,呃,可以,可以接受一个,接受一个领导的口头任务啊,这个叫做提示工程,他就去做了。第二个呢,这个学生呢,他可以拿到一个手册,然后在不会的时候去查阅手册,再去再去做,这就叫做知识库的嵌入。 第三个呢叫做微调,就是他进行了一个上岗前的培训,一个月的培训,然后呢来进行适应,更适应上岗前的呃,更适应这个工作的本身 啊,所以就是这样一个例子,帮助大家去进行一个理解。那具体这三个方法,呃的一些更具体的一些解释,我们放到后面的视频里再进行讲解。

大模型!大模型!大模型!大模型!大模型! ai 模型其实已经非常普遍,工业的生产线制件、农业的病虫害识别、金融行业常用的虹膜识别等等,日常你能感知到的智能背后都是一个个的 ai 模型,只是他们还不够大, 我们很难为三百六十行做三百六十个模型,当我们可以做一个更大的模型,让他能用在三百六十行的每一行。 所以大规模预训练模型出现了,简称为大模型。常见的 ai 大模型有 nlp 自然语言处理大模型、 cv 计算机视觉大模型、跨模态大模型和科学计算大模型。其中 nlp 自然语言处理大模型具备超强的语言理解能 以及对话生成、文学创作等能力,可广泛应用于医疗、金融、搜索、代码、对话、跨语言等场景。今年年初打响国内大模型百模大战第一枪的文新预言就是此类大模型产品。 文新一言是百度自主研发的知识增强大语言模型,集知识增强、检索增强、对话增强、技术创新于一体。其基础工作原理是依据给定的输入上文判断接下来一个词的概率。 可简单理解为我们在与文心一言沟通时所输入的文字,在文心一言眼中其实是一个一个 token。 token 在计算机术语中指一个词,词组字字节。比方请介绍, wave sammit 二零二三就是请介绍喂 sammit 二 零二三四个 tok。 文心一言对输入的 tok 进行处理,根据给定的 tok 上文判断接下来一个 tok 的概率,自动的预测生成出后面的内容,在这样的输入输出中形成一个完整的生成结果, 这很像一个单字接龙游戏,只不过我们把偷看接龙这项工作交给了大语言模型。有人会问,在这个过程中,文心语言是如何做到生成我想要的内容呢? 答案是靠训练。大语言模型是做自然语言处理的一个概念,主流的大语言模型入室前一般都需要经过三个阶段的训练。这三个阶段其实不难理解, 我们每个人都会经历一个三部曲,从牙牙学语式的看图、看视频、听声音,到父母老师的教导指正,从而更好的 步入社会。目前,文心一言大语言模型基于文心大模型三点五版本持续优化,迭代能力进一步增强,不仅在创作问答、推理、代码作画、 声音生成、视频生成与文本理解、看图写作和图表生成的能力上全面升级,对问题的做答更加精准,响应也更加快速,方便人们更高效的使用。 当然了,文心言大语言模型归根到底是个工具,想要更好地使用好大模型,输入好的 prompt 是第一步,下期带大家了解什么是更好的 prompt。

能给我们简单的解释一下大语言模型的原理,嗯,大模型,大语言模型是我理解是基于呃深度学习的神经网络,然后呢?嗯,他主要是需要有很多的模型参数,然后会通过大量的 啊语料网上的一些资料去进行无监督的学习,然后去训练出一个语言模型,然后这个语言模型的话,根据下游不同的任务还可以去基于比如说企业啊,一些客户 或者是垂直行业的一些特有的铝料去做微调,然后去适配他具体的应用场景的一些能力。对,就这是大语言模型的一个基础的原理,之前了解到就是这一块,不都是他是运训练的模型吗?啊,对,那,那我们怎么给他换出距离运训练的模型?运训练的模型其实就说像 gpt 这种的话,是他已经训练好了, open ai 已经训练好了,嗯,我们给他灌数据的话,相当于是我们可能要做,要不然就做微调,嗯,要不然就是我们基于我们自己的语料,然后去做一个 去向量检索,然后再进行那个上下文提示,这样,这样可以达到一些就是特有的一个知识,可以去灌进去的一个效果。对,了解 叉的 gbt 的出现呢?其实是我可以理解为其实是 ai 发展的一个转折点。嗯,对。那么其实如果跟过去的 ai 相比的话,现在的大语言模型为什么会有这么大的进步呢?嗯, 因为因为以前这个有一点就是以前都叫 ai 嘛。嗯,现在特别强调大语言模型,嗯,其中就是在那个大上面,嗯,就是他的模型更大,参数更多,可能以前是举个例子,可能 以前是几千万或上亿,现在都是几十亿、上百亿的参数,那这个参数的话,有了这么大的模型参数之后,他模型的这个容纳知识的能力就会更强,然后基于这个能力的之后,再用大量的语料去训练之后,他就能够把很多知识的学习进去。 然后当然就说也也知道他对数据的要求是很多的,而且对计算的算力要求也很高,那这 ona 其实也是这么过来的。嗯,有句话叫大力出奇迹, 就是大模型加大数据,再加很多算力,然后最后就把这个模型就做出来了这么这么好的一个效果。所以说主要的原因还是因为他大模型大,数据大,然后算力大,就其实他的这个数据要足够的多吗?对对,是的,最开始的时候我理解,就当时我们知道下经历 出来的时候,其实我们可以说说他是智能客服结合的点,其实是最他的用场景才是最我们说最贴合的。嗯,那我们在应用的过程中会有人说我们在做这块结合的时候,嗯,他的要点或者晚点是什么, 嗯,就是说跟智能客服是吧?对对对,嗯,我觉得,呃要点的话就是说要找准,因为大语言模型他有很多能力,嗯,比如说有对话,嗯,聊天的能力, 也有翻译呀,也有做推理,做做一些,比如数学推理,还能做一些,比如说啊 文案,对吧?比如说一些文案的一些一些推导和补充。那这个时候,比如说智能客服肯定要结合自己的使用场景,嗯,比如说自己的客户案例和客户那个产品功能,对吧?嗯,以美洽为例的话,我 觉得美恰的,比如说我们典型的就有智能客服机器人这个东西是可以跟叉的 gbd 这种大于原模型的,这个 叫什么?多轮对话,这个能力是可以结合的比较好的。对,这个是,这个是说要要点就说找准自己的应用场景去用到他适当的能力。 难点的话就是说呃,多方面,就一方面就是说呃大圆模型刚我们讲的他是用训练的,用训练的话他是拿了很多通用的语料去训练的,也就说可能他 对于世界的通识来讲他是比较强。但是呢,对于具体比如说我们的一些,通常我们做智能客服肯定是要去为企业出逼,为企业提供能力,对吧?那每个企业他自己的知识是不太一样的,这样的话如果用原生的大圆模型的能力,其实用他自自由的知识其实不够的,我们需要去 把企业自身的一些特有的知识或者是垂直行业的知识给他结合起来,这个就是一个难点。我理解的难点在这 刚刚其实讲到的有一些场景呢,比如说刚刚听到的什么翻译这种场景,其实我们之前其实也有这种可以接入的这种第三方的应用啊,或者是比如说我记得阿里云啊,这种其实都是可以提供的。嗯,但比如说拆了 gdp 跟他有什么不一样的点?嗯, 如果从功能上来讲的话,其实都是翻译嘛?嗯,就是说,比如说把一种语言翻译成另外一种语言,是吧?嗯嗯,要说不一样的话,可能就是说 背后用到的语言模型不太一样,而且可能支持的语种也要看训练的数据,因为可能比如说一些三方的服务云场上,比如阿里云这种,他可能支支持的语言比较多,但那这个东西可能也要也要看他 他的抗造能力,嗯,因为特别是有些,呃,还有方言啊之类的,可能不一定他能翻译的很好,嗯,对吧?那那个是语音了,我说的是语音方面的,嗯。如果是文字的话其实都不存在,对吧?啊? 嗯,我觉得可能就是说一个是说他,嗯翻译的效果好吧,以及于总支持了多少,嗯,呃。还有就是说他的,呃。怎么说啊? 呃。单纯翻译来讲我觉得可能差不太多啊。差不太多本质上就是从一段文字翻译成另外一种语。对,那这一类型的大语言模型大家对行业来说会有什么变化吗?就是或者是带来什么更好的这种应用,这个行业是吧?其实这个,呃网上因为 gpd 很火吗?大家都在说, 我个人理解的话就是说可能有一点我是比较赞同,就是说大圆模型能够带来呃生产力的提升, 就是很多他可能不见得说马上会替换人,但是他能能能为人带来效率的巨大的提升。第二个点就是说他可能让这个传统软件也好或人机交互也好,这个界面会变得更利用 原来的人机交互界面更多是基于一些图形化的一些界面,那以后的话可能就是我们通过自然语言就可以去跟机器去交互了。比如说举个例子,就像以前那种控制电视的,什么 天猫啊,天猫精灵啊,电信的那种,对吧?你说你要看什么台?看什么台,那就可以跳,但这个现在大圆模型可能能够带来能力会更超凡的。这个。对对对, 理解的会更到位。对对对,是哎。那我们自己在线接入的是哪一个模型的?效果怎样?我们自己的话目前是接的 gbt 的。嗯,三点五的一个模型。嗯,然后 我们就是像刚刚讲的,就是我们智能客服的话,想就是说还是要跟实际的产品功能结合起来。嗯,我们目前主要是在机器人客服,机器人这个产品是用到 gpt 的能力,嗯,呃,就是用的 gpt。 三点五效果的话目前在初步测试阶段。嗯,呃, 就是跟我们以前这种算法的模型比起来,他的多轮的效果是更自然了。对,就是我们测试这个效果就是多轮效果更自然。而且就是说我们还把鞋头 的知识库能够结合进去,就是他能够回答企业特有的知识的一些问题。嗯,目前测试效果大家反馈都还不错。对,觉得这个模型有没有什么可以改善的点?因为好像我们自己也自己内测了,我们自己都试了。嗯,但是他现在是只能支持纯文字的。对,还不能支持一些图片呐,或者是一些丰富的什么 emoji 之类的, 但是我们正常的这种聊天过程中其实是希望更更丰富的。对对对,这块的话,就是目前确实我们只接了文本,我觉得就是怎么说呢?这个一方面因为我们现在用的 gpt, gpt 四其实是支持多么开的 所谓的多模态,就是说文本、图片、语音都支持这块,其实说目前是有这个能力,我们去接入 更多的话,应该还要去再尝试一下。嗯,对对对,那我们在接入的这个过程中,其实我记得好像刚刚上线我们就该看了,就这个时间也没有菜,因为他三点五开放到现在,其实时间也不是特别的。呃,长嘛。那这个在接入的过程当中有没有遇到什么困难的?想去解决这些问题的 困难的话,其实目前就会存在,因为 g b t 这块目前有一些国内和国外之间访问的 一些速度。对,还有就是说本来 g b t 因为很多人都在用,毕竟是三方厂商的一个 a p i。 嗯,这块的话会对一些 使用的访问频率啊,包括有时候如果用的多了可能会有些限制。这块的话就是目前是,就是说智能客服厂商要去接入这一类的 大圆模型,这种厂商提供 api, 我觉得都会遇到一些通用的问题。对,然后嗯,老师说哈,就国内的各大模型跟就是 gpd 相比的话有哪些差距呢?因为我们平时也用国内,对,国内,其实,呃陆续也发布了很多。嗯,对吧,百度的文, 还有阿里的什么通译,对对对,还有一些别的都都有。嗯,对,我觉得就是说目前看来其实网上也有很多测评。嗯,总的来说可能就是说 目前国内厂商去做这个大模型的时间积累,包括去训练的语料还不够,还不太够。目前跟 gpt 相比的话,呃,全方位来讲就是因为 gpt 的能力有很多。嗯,刚刚讲的有翻译,有做一些推理,对吧?还有做一些问答这一块,嗯,包括还有其他各方面的。嗯 啊,总做总结啊,做归纳啊,对吧?嗯,就是说国内大模型跟 cbd 比,也不是说全方位的都不好。嗯,在某些场景下可能会好一些。嗯,但总体来说总体得分可能会差一些。嗯,差距的话就像我刚刚讲的,一方面可能就是说 啊,起步还没有 oppo、 ni 来的早一些。嗯,然后训练的语料和时间,包括做的一些就是运训练中间的一些调优,可能还会有一些技巧,我觉得这块可能还是需要一些时间,可能技技术也有些壁垒。 另一方面的话就是还需要时间去做更多的训练,还是要沉淀吧。对,包括国内好多,我理解就是像百度纹身一言都是,主要是以中英文为主,其他语种他会比较差。像 tpt 就是很多语种都很好的效果。对,那文心的话,会不会对中文的这种 语料的这种识别会更准确一点?呃,看起来还好,他自己也是号称的中文是最强的,英文也不错,其他的语种可能就 弱一些。嗯,对对对,了解。那最后一个问题哈,就是未来的话,我们对大约模型与智能客服这一块场景的结合有没有一些规划或者是更多的期待呢? 呃,未来的话,其实刚才我们也聊到,就是我觉得一方面就是说我们现有的基于文字这种聊天机器人的,我们还有更多的调约的场景。第二个就是说我们基于文本,这个还是比较单一,未来可能图片啊, 语音啊、视频啊,有可能包括用户问的问题和输入的问题,我们可以更丰富、多模态,对吧?包括我们展现出来的回答的答案的内容也可以更丰富。但这块的话有依赖于首先大模型能力的一个更新迭代,另一方面我们也要结合大模型的能力去。 呃,看我们场景,我们的产品的场景和我们自己客户的一些诉求,嗯,可能据两方面去结合起来。嗯,期待的话,我觉得就是 目前 gpt 已经给了大家足够的惊喜了。嗯,未来一定,现在这个一定还是处于初级阶段,未来可能相信能够有 更多更好就是更强大的模型能够去赋能我们的智能客服,能够我们又能够反过来去赋能我们的客户。嗯,对啊,谢谢罗老师。

哈喽,小伙伴们大家好,给大家汇报一个好消息啊,我的新书零基础掌握学术提示工程近日呢,由清华大学出版社出版了。那这个呢,是专门面向我们 ai 小白教大家怎么样写好 提示词的一本书。我们都知道呢,在跟 j、 c、 p、 t, 包括 being 啊,包括温馨言等等这些国内外的大语言模型我们去交呼的时候呢, 我们最能够掌握的一个工具呢,就是写好我们这个提示词。那我们知道呢,好的提示词可能长达数百字,但是提示词怎么写呢?其实背后是有一整套的结构化思维的。那这本书呢,就是为了 专门帮大家解决提示词写作障碍而准备的。那在这本书当中呢,我帮大家整理了一些常见的错误的提问方式。比方说像 就事论事啊,比方说像问题不当啊。最重要的啊,我用了四个章节的篇幅呢,来帮大家提炼了二十种不同的提示词的模型。这里边有初级的比方说角色设定啊, 也有高级的比方说像文本分类啊,情感分析啊,对外扩展等等。希望通过这本书呢,帮大家呢在进入 ai 的学术道路上提供一臂之力。我是平哥,关注我,带你一起走进学术的 ai 世界。

在 ai 绘画中,有很多高质量关键词,我们很难想到,这时候我们可以借助 charge p t, 如果没有的话,国内的 charge p t 的镜像网站也可以。当然还包括文心一言通、一千问等,都可以来快速获取到灵感和高质量提示词。 在提问之前,可以把这句我从网上找来的话复制给 chat、 gpt 等大语言模型的网站,然后提问我们想要生成的画面,比如中国建筑群。 然后把提示词复制到 stable diffusion 生成,看下效果。 我们也可以用这个插件翻译一下,并且来删除不想要的词。 这样我们就有了一个基础的提示词了,可以在他的基础上来修改,增添我们想要的内容了。好啦,视频到这里就结束了,有不明白的可以私信我哦。

停更了一整时间,主要是工作上比较忙。然后呢,我们今天继续讲大模型相关的。呃,今天我们不讲大模型的一个原理对吧?包括他的什么训练过程啊,他那个各种算法啊,传播算法,各种数学原理。 我们今天来讲一讲怎么用大模型,因为大模型在 nrp 自然语言处理中已经取得了良好的成成效嘛,对吧?然后我们可以把它当做一个人一样去对它进行自然语言编程。就是伊人马斯克不是说过叫 naturelang 过一句 programming 吗? 呃,这里面就涉及到一个框架,叫 low chan, 他有什么作用呢?就是呃,就是我们利用这个大于模型的时候,就肯定调大接口嘛,对吧?调大接口之后,然后我们可以让他去做一些呃,与我们个人的一些任务相关 的一些动作。比方说,呃,我们来看一个 agent。 所以说这就是我们今天要介绍的这个 agent。 agent 是?嗯, 我们来看一下 a 型的,它分为两个部分,就是 a 型的 a action e 镜子和 planet q 的 agent, 对吧?然后呢,呃,我们今天主要介绍的就是 plant 的 t。 为什么能够让我们的大模大原模型就是我们来敲的。 g b t 能够 执行我们的计划,并且执行我们自己自定义的一些函数级啊,或者是一些代理级,对吧?我们来简单的看一个一段代码啊。我们是首先介绍一下原理吧,就是看一下这个 planet soft 这种 planet q 的这个论文。呃,就是 improving there was sort of thought。 就是思维练,就是能够让我们的那个语言模型能够支持一种思维练。这个思维练,比方说,呃, 蔡徐坤的女友的年龄乘以二等于多少?那么这一句话我们可以让掐的 gpd 能帮我们解决。我们现在因为到网上没有现成答案对吧?所以说他涉及到一些思维,比方说我们怎么去创业。好,我们的思维就是首先我们要搜到蔡徐坤的女朋友是谁 啊,得到他的生日日期对吧?然后计算他的那个年龄,然后再乘以二。所以说这里就涉及到一个查询 web, 然后再进行数学计算对吧?当然还可以设置呃,更难的更复杂的一些数学逻辑。我们来看一下 there's sort of child saw 的这一个论文就是垃圾当归就 model have recently scene show a deliverer impressive performance in various nrp tasks 就是 to tackle market step reasoning tasks。 这就是多步骤的 推理任务。这是什么意思呢?就是包括我们蔡徐坤的女朋友是吧?蔡徐坤的女朋友只是一个一步,然后他的年龄乘以二,这是第二步。所以说他是一个推理的一个任务,就是我们使用这种少量样本进行将 sort 这种 cut program per parmeting。 这个 parmet 就是我们的一个提示词的模板对吧?就是提示词的意思。 includes a few manually crafted step by steps reasoning demonstrations which enable lmms to explicitly generate reasoning steps and improve their reasoning task 这个很简很就是简单的介绍了一下这个 cot 是什么意思。就是能够利用我们的语言模型去给我们的一个任务,就是 marty step 的这个推理任务啊,进行分类啊,就是分分层,就是分步骤。然后一步一步的去执行 食堂,使我们的结果更加准确,对吧?这就是一个嗯呃 a 就是我们的这个 champsalt。 我们来今天来我们来介绍一下这个 就是我们的 plan and soft 嘛。 p o p o s 嘛。然后我们来看一下啊,就是首先呢,就是 long chain 呢,就是引炮的一些东西。然后调用我们的 open open a p r 把我们的 k 设置好,然后 我搂着 tools surp api 实践,是一个 google 的一个 api 接口,嗯,是付费的。然后 arm mas。 当然我们这里可以定一些自己的一些 模型,就让我们定一个函数,名字叫 python low 的 everything, 就是利用 python 脚本执行任何想要的动作对吧?然后我们就可以告诉原模型应该返回一下什么样的参数,然后去执行我们的 low 的 everything。 然后呢,我们就呃类似的,我们初始化异性的,然后就注定状。这里简单的就介绍了一下谁是这个 leo decapriary 的 girlfriend 对吧?然后他的他的那个当前的年龄的零点四三次方等于多少?那么很显然这是一个推理任务。 好,这是一个推理的一个步骤。我们来看一下。首先进入券,这是 oppo ai 返回的就是 l a m 垃圾栏固定 我返回来。首先呢,他要找到这个 leo dear decario 的 girlfriend 啊, then calculate her age 对吧?就是 oppo 爱自己思考的过程。我们看他的一个动作, search search 他的 girlfriend。 然后 observation, 就是获得了一个结果。然后 thought 开始思考, i need to find out karamoria 就是他的上一个输出的一个 age, 然后再调 search, 就是 step by step 第一步,第二步,然后 然后 input 就是它的 age, 然后获得就是观察到的结果是二十五。然后呢,再 salt 进行开格列的计算,得到暗撒。 now, i know the final answer final answer is 对吧?这个没有任何的人工的去去干, 或者是我们人工的一个编排的一个过程。直接写一段话,他就把计算结果拿到了。嗯,这就是枪 of thought。 嗯,这个思维列。我们来看一下他这个原理啊。 好,我们现在有一段这样一个代码。我们来看一下。这就是我们刚刚摘抄的一个代码。首先我们还是直接点 bug, 看这个 aj 的 run 到底执行了什么,就是看它的 promise 到底长什么样。 好,我在 open ander 定义了一个,定义了一个请求,我们来看一下。直接请求 send 到到这一步, 到这一步了啊。我们主要就看 看那个呃 request 和那个 response。 我们来看一下 request。 这个 prompt 就是我们发给那个 open ai 的一个返回结果。 你看,这个是 open i 返回的结果就是 i need to find out。 实际上和我们这个一样对吧? 就是 action action input。 为什么他会我们的 openi 会直接返回这个呢? 我我本来会直接返回这个,让我们赚的是因为我们定了一个提示,此 prompt。 我们来看一下这个 prompt 长什么样啊。我们的 prompt 就是这个, 看一下啊。好,这是因为那是接口封装的嘛,所以说就是 indeed a 进去之后,它封装了一个 problem 的提示词。我们来看一下 提示词。看提示词是非常重要的一步,就是我们要理解他思维电的原因。这就是提示词呃,是非常重要的,大家理解这个就行。然后我们来看一下这个提示词啊。 answer the following question that's best as you can 就是把那个哎 我朋友还当做一个义务对象对吧?你是一个真实存在的人一样。 you have access to the following tools 你可以访问 search 或者 calculator 两个。这个 tools 就是我们这刚刚刚刚这个代码里面介绍的这个 load 对吧? sorry p i arm month 实际上它的 description 就是这里面的东西。 the third api 就是 make a description of such engine useful 对吧? calculator 然后 use the following format 这个题就是 question thought action action observation sort final answer 这是然后呢,这个 sort action action input 是可以 repeat in times 的。然后就是告诉我们的 open 呀,能够自己去思索 这一个整个过程。比方说蔡徐坤的女朋友的年龄乘以二。就是让他自己去思考怎么去一步一步去解决。 我们只要定义好这个文本, prom 这个提示词后,空压就能自动帮我们做了。这是因为语言模型已经在呃万亿级的一个 top 上能够学到了一个基本的思维,就是他的一个 呃,怎么想呢?这就是人工智能的一个想法的一个所在,就是人工智能有自己的意识,就是靠这个啊。然后 begin, 然后 question 就是我们输入的对吧?然后扫我们来看一下他返回的结果是什么? 这不掉 oppo ai 班了, open ai 了吗?然后看 response yeah respond just i need to find out who girlfriend is and then calculate her age, 对吧?那么我们来看一下这个题日词在我们的 open a 里面到底应该说出什么?是不是跟我们想要的结果是一样的?我们再来看一下啊, 直接把它拷贝下来。好,我们来直接请求这个敲的 g b t 用我们这个 t h s 直接请求。 你看这个叉的句就很简单,他给我们一下全部生成了对吧? thought action op action input observation 然后 action action input observation 然后 final answer 对吧?他得到了一个最终的结果。那么他这个结果得到的不一定是我们想要的,因为这个 search 是他,我们是他已经帮我们自己去做好了。因为 oppon opponi 底层他也用到了一个 啊,这种搜练的一个工具,它里面是是工具的。所以说我们要替换他的工具。怎么做呢?到设计这一步,也就是到设计这一步,我们应该让他 啊,到这个 action input 这一步呢,我们直接让他跳出来去执行我们自己要的函数对吧?那我们应该首先我们来看一下为什么啊?刚刚我们说了为什么他有点不同哎。这个是我们这个接口返回的 对吧?到 action input 的时候就停了。那为什么我们的 oppo n oppena 到了 action input 后面还继续执行呢?这里面就用到了这个 stop 一个东西。我们来看一下 action 里面有个 stop request, 是这个 pyramids。 我们来看一下 pyramids 一个 stop, 这个 stop 是干什么用的呢?就是呃,对 open i 返回的结果 对它进行分割。如果遇到了这个杠, in observation 里面开头的词就停止,停止输出,我们来看一下,他停止输出就 observation 到这个地方停止输出了,那么他返回的结果就是我们要的 结果,对吧?后面这个后面这里面的是一模一样的他那个 response 对吧?到了这个 action input 的时候就停止了, 他肯定不得停止了。这就是和我们的结果是一模一样的。就是你们用到了一个 stop 的一个东西。我们为什么要用 stop? 就是为了让他的色系啊,不让 oppo ai 自己执行,而跳到我们自己的一个工具函数里面去。我们自己这个色系函数里面,然后去去执行他,对吧? 然后这里面写了个第八个,大家可以看一下。用它来跑呢,申请的世界上也是一样的,因为我没有定义 stop 嘛。来看一下这个, 你看它的 stop 就会空。 刚才说了,他这里面不有 stop 吗?看我们现在看第八个,第八个到这来的时候看,不是 paramours, 他就没有 stop, 看见没?然后这个 test 里面他就有一个 stop 的 preparm paramours, 这就是他俩的一个不同。所以说当遇到了这个,我们拿到这个硬铺的时候呢,我们就可以执行自己的一个思维链了。 大家仔细看一下对吧。我们获得什么 girlfriend, 然后可以调它去获取它的一个名字。当然这里面任何工具函数我们可以自己写脚本了。比方说要让我们做安全的时候啊,我们这儿输入啊, 呃,幺零点幺零点幺零点幺零这个服务器开了哪几个端口,然后呢我们就可以用 m map, 就直接这里面定一个 m map 的一个一个工具,我们就能执行我们自己要的一个结果了。行,这就是一个整个的思维链的一个一个原理。 然后就是 planned solve prompting 这么一个东西。我们来看一下伊朗马斯科是怎么解释怎么说的 啊,反正原理就是这样吧。然后就是整个 a 技能,就是最呃狼圈里面最核心的这个 a 技能思维链 一个过程。实际上他那个原理这也介绍的很清楚,就是他的原理就是嗯,这里没写嘛, 就是一个 prom 的嘛,加一个 l, r, m, 然后定义自己的 to。 这就是三个原理组成的一个 agent, 然后 agent 呢可以串成一个列, 这样的话就能实现我们所有要的一个东西。然后浪券呢,就是将这个 ts 模板都已经给你分装好了,然后把一些基本的 aol 模型啊, oppo ai 接口啊全部给你分装好了。你这些这里面添涂鸦式的你们填就行是吧,很基本的一个代码。 好,其他的我就不介绍了。好,今天就到这里,谢谢大家。

当我们明白了大模型为什么会出错,就来到了下一个部分。为什么明明是错误的答案,还是被大模型自信满满的输出了呢?把目光投向输入和输出的中间环节,我们需要了解大模型是如何学习和表达的。 首先,让大模型闭嘴无疑是残忍又扫兴的。试想你向 ai 提出的每一个问题都因为没有达到百分之百的准确率而被告知无法回答,这偏离了大模型 one model for all tasks 的期望,也极大地降低了用户的体验。 其次,现有的大模型通常都会包括有自监督学习的训练系统,即由大模型自己阅读海量信息后,捕捉字词之间的依赖关系,对下一个字眼进行预测,预测接近正确答案则被奖励和加强。 我们可以把这个过程理解为一个学霸在写完习题后自己对答案,再整理出错题集来取得进步。深度学习三巨头之一的杨丽坤在二零二三智园人工智能大会的演讲中这样评价,自监督学习这些系统在某种程度上是专业化和脆弱的, 他们会犯愚蠢的错误,他们不会推理和规划,他们只是快速的反应。他认为这是导致大模型出现幻觉问题的重要原因之一。所以你也许已经注意到了,大模型在回答问题时总是一个字一个字的向外蹦。 这其实可以很好的说明大语言模型的本质,根据训练过程中的统计概率,逐一预测并选择最优的下一个 talking。 所以,当我们疑惑为什么大模型出错时不停止回答,或者坦诚的说, 我不知道呢?哦,或许他真的停不下来,也意识不到自己的不知道。这通常被称为曝光偏差。他对每一个自己即将吐出的字眼自信满满,经过计算,他们确实是最适合出现在这个句子的这个位置上的。 而在一个紧接一个的预测中,一旦一个字词偏离了轨道,答案也许就一发不可收拾了。 当然,还有一个原因不可忽视,来自使用者的调戏。通常情况下,不管用户输入的问题有多么跳脱,大模型也不会对其发出质疑,而是把输入内容视为提示纳入数据分布的一部分。 一些离谱的问题就这样被大模型深信不疑,并努力的得到了解答。因此,不仅大模型的回答需要研究人员们不断 训练调整,提出问题的使用者也需要掌握提问的艺术,尽可能清楚的表达自己的问题和需要,以尽可能的减少输入问题的语音模糊或不明对大模型答案质量带来的负面影响。不过,如果你的目的就是为让大模型出糗,那可就另当别论喽。 视频中总结的数据和模型原因是现在普遍被接受认可的大模型产生幻觉的归因,当然,也许还有更多的原因有待研究人员的归纳和证实。幻觉问题该如何得到解决? 现有的解决方法到达了什么样的阶段?幻觉是否有可能被完全消除,又是否有必要被完全消除呢?人类真的需要一个全知全能、永不出错的 ai 吗? 种种问题,我们将在下一个视频为大家详细解答,那么下集再见喽!

大模型!大模型!大模型!大模型!大模型! ai 模型其实已经非常普遍,工业的生产线制件、农业的病虫害识别、金融行业常用的虹膜识别等等,日常你能感知到的智能背后都是一个个的 ai 模型,只是他们还不够大, 我们很难为三百六十行做三百六十个模型,当我们可以做一个更大的模型,让他能用在三百六十行的每一行。 所以大规模预训练模型出现了,简称为大模型。常见的 ai 大模型有 nlp 自然语言处理大模型、 cv 计算机视觉大模型、跨模态大模型和科学计算大模型。其中 nlp 自然语言处理大模型具备超强的语言理解能 以及对话生成、文学创作等能力,可广泛应用于医疗、金融、搜索、代码、对话、跨语言等场景。今年年初打响国内大模型百模大战第一枪的文新预言就是此类大模型产品。 文新一言是百度自主研发的知识增强大语言模型,集知识增强、检索增强、对话增强、技术创新于一体。其基础工作原理是依据给定的输入上文判断接下来一个词的概率。 可简单理解为我们在与文心一言沟通时所输入的文字,在文心一言眼中其实是一个一个 token。 token 在计算机术语中指一个词,词组字字节。比方请介绍, wave sammit 二零二三就是请介绍喂 sammit 二 零二三四个 tok。 文心一言对输入的 tok 进行处理,根据给定的 tok 上文判断接下来一个 tok 的概率,自动的预测生成出后面的内容,在这样的输入输出中形成一个完整的生成结果, 这很像一个单字接龙游戏,只不过我们把偷看接龙这项工作交给了大语言模型。有人会问,在这个过程中,文心语言是如何做到生成我想要的内容呢? 答案是靠训练。大语言模型是做自然语言处理的一个概念,主流的大语言模型入室前一般都需要经过三个阶段的训练,这三个阶段其实不难理解, 我们每个人都会经历一个三部曲,从牙牙学语式的看图、看视频、听声音,到父母老师的教导指正,从而更好的 步入社会。目前,文心一言大语言模型基于文心大模型三点五版本持续优化,迭代能力进一步增强,不仅在创作问答、推理、代码作画、 声音生成、视频生成与文本理解、看图写作和图表生成的能力上全面升级,对问题的做答更加精准,响应也更加快速,方便人们更高效的使用。 当然了,文心妍大语言模型归根到底是个工具,想要更好地使用好大模型,输入好的 prompt 是第一步,下期带大家了解什么是更好的 prompt。

如果你只将 child gvt 作为一个聊天机器人,或者让他帮你写文案的话,那你只用了他不到百分之一的能力。 而这个系列视频呢,将会有直白的范例,教你如何将 chat g b t 的能力发挥出来。以下将是本节课的内容,你可以现在就截屏收藏,记住他们有助于让你更高效的使用它。第一个原则是使用明确和具体的指令。通常呢,我们会输入提示词来给 g b t 下达指令, 提示词中的文本则是我们具体需要 gdp 处理的内容。有时候,我们为了尽可能避免误会,需要用一些策略来让 gdp 更清楚的知道他具体要做什么。第一个策略是使用分割服务。 我们先看例子啊,我要求 j b t 将指定的文本转化为一个短句。 j b t 识别出了我标识处的文本,并且按照指令呢将文本转为了一个短句。那在这个例子里边,我使用了三个连接号来进行分割。除此之外呢,你还可以使用 三引号,三单引号,各种括号,甚至 xml 的标签来告诉 gdp 哪些内容是与需要它处理的部分。第二个策略是让模型按照要求输出结构化的内容。有时候,我们会需要将一些文本整理为表格或者 jason。 这时候我们可以要求 gbt 按照我们指定的结构化来进行输出,比如使用表格展示, 或者按照以下给定的键结构输出为 jason 的方式。模型就会理解这句话,并且输出你想要的结果。 第三个策略是家务条件判断。我们看一段例子,给 gpt 一段包含操作步骤的文本,让他按步提取出来。如果我们给的文本没有包含步骤,则让他输出未提供任何步骤。 可以看到 g b t 成功地提取出的操作步骤。然后我们将文本替换为一个没有操作步骤的文本, g b t 也成功地识别到这里没有任何操作步骤,所以它返回来未提供任何步骤。第四个策略 是加入成功执行任务的视力。有时候我们需要模型来输出我们想要的格式,这时候我们可以在提示词中加入一些视力来引导他。比如这个例子,孩子说,请教会我什么是, 然后爷爷用比喻的方式来回答他。我们可以要求模型在我们输入这个提示词上半句后,模型将用下半句来回答我们。第二个原则呢,是给模型思考的时间。 跟我们人处理问题一样,如果你让一个人执行任务,但不给他思考时间的话,他一定会出错。我们的第一个策略呢,是我们可以指定模型完成任务所需的步骤。 这里有一段文本,我需要模型呢,做四件事。第一件事是用一句话来总结这段文本中的摘要。第二件事是将这个摘要翻译成英语。第三件事呢,是提取摘要中所出现的人名。最后呢,我需要让他用表格来帮我展示出来他整理的东西。可以看到模型成功的按照我们要求输出的内容。 有时候我们还会遇到一种情况,就是即使给他的步骤,模型还是依然给出了错误的答案。这时候我们可以采取另外一个策略,就是指导模型先思考解决方案,然后再作答。 比如我现在是一个老师,需要让他帮我判断学生的作答是否正确。我给出了一道很简单的数学题,而学生呢,回答是有错误的,因为他在维护费用的部分多打了一个零,将十 x 写成了一百 x。 但是如果我们按照以下内容写提示词的话,你会发现模型做出了错误的判断,他认为学生的解答是正确的。 如果要解决这个问题,我们可以让模型先自己进行一次解答,然后让他比对。我们将提示词改写为以下内容,要求模型先自己得出答案,然后将他的答案和学生的对比,再判断学生的作答是否正确,最后按照我们所需要的格式来进行输出。 如此呢,我们就能得到正确的解答。好了,以上就是本次的课程,如果对你有帮助的话,请点赞、收藏、支持我继续更新。下一期我们会讲如何通过迭代思路持续优化你的提示词。我是六桑,我们下期再见。

昨天我们介绍了一下大模型的微调啊,那么大模型微调的话,需要这种数据的啊,需要训练的这个数据啊,监督学习微调需要数据的。今天呢,我们再来讲一讲这个训练数据啊,怎么来啊?或者大模型微调呃,训练数据方面的一些 呃,一些经验啊。一篇博客的话,我们首先先来看一下,就叫监督指令微调,监督指令微调的 呃, instruct gpt 的这样的一个论文里面他们有这样一张图的呃,你可以看到,虽然目前大模型的话呢啊,默认的性能在这啊,但是如果你用提示工程的话呢,就是你不需要经过训练, 你只要给他一些提示工程指令啊,那么他的准确度会进一步上升啊,当然他是随着规模的变大,他的准确度是上升会非常快啊,但是如果他经过监督的微调的话,那么他的准确度会更高, 还是等于是这样,所以的我们的这些大模型呢,因为为了取得更好的这个性能啊,所以还是非常,尽管他经过了这预训练,但是他的那个微调监督学习训练也是非常重要的,他这个简称叫 s f t 啊, 编都的指令微调啊,他的中文名称是这样好,那么我们看看他训练的他需要什么样的那个数据样本啊,他的数据样本是怎么样的啊?他的本质上呢,他需要有三个 自断啊,一个到指令啊,你的那个指令是什么?第二个呢?输入啊,当然输入也可以空啊,这个当然是最后是正确的答案是什么啊? 这个输入 input text 是一个可选项啊,当然有啊,你也可以没有啊,这个之前也是讲过的啊,这个是微调指令微调的一些格式啊,他是这样的,那么大模型的,他是,他是根据这种呃上下文呃指令和这个输入,他会 得到一个反馈哎,这个是他是作为预测下一个的这个 token 啊,他是这样来做的啊,那么他呢就不断的会产生字符啊,直到啊,他有一个就 and 最终达到最后的那个这个输出的这个中指的那个字符出现,那么他这个输出就结束了啊,他是整个一个 呃,大模型是这样来做的啊,这个也是大模型的这样的一个呃预训练的这样的一个情况啊。好, 那么我们还了解大数模型微调 sf, 后面还可以经过 rhf, 这个是人类反馈强化学习。是两种啊,这是两种啊,先要经过微调,微调之后的话呢,再经过人类反馈强化学习啊,他是这样的啊,那么我们这篇文章呢,主要还是介绍的是 啊,就一条 s f t 啊,好,我们看看啊,它是那么微调的话产生原始的数据集的啊,有两种方式啊,一 一种是通过人啊,中国人类啊,他自己通过一些专家啊,他可以提供一些指令,提供一些 input 啊,然后再回答 output, 他等于是这样再回答这些问题啊,他可以啊,在自己比较擅长的那个领域啊,做这个方面的一些数据啊,还有一种是是通过 ai, 通过大模型自动产生啊,这个也是可以的啊,它是有这个两种方式,所以话呢,在在 呃指令微调的这样的一个论文里面的,他们会把这个模型的微调啊,他分为分成两个阶段,一个阶段的话是称之为就是指令数据的构造啊,另外一个的话是主要是 定构造完了之后他再经过微调啊,所以我们一般做模型微调的话,他都是要经过这两步。那么我们今天的话重点主要还是讲这一部分啊,因为如何进行指定微调的话,昨天其实我们那个 lora 和 q rora 我们重呃也 已经讲了很多了啊,所以这个是呃我们今天的着重点啊。首先我们看看产生数据值的啊,模型是怎么产生数据值的啊?他有一篇论文之前我也是介绍过啊,叫 self instruct 啊,就自己 产生指令啊,自己产生数据啊,他是怎么来做呢?他一共有分成四个部分啊,啊,这个好几个阶段啊,他是等于是这样,刚开始呢,他会收集啊一些啊,他在这个图里面讲,他是收集了一百七十五个种子的任务啊, 他跟随着是有一个指令,他有个总资的任务,然后也有一个指令啊,那么每个任务啊,他就是一个实体啊,他跟实体都是一个, 他会把一百七十五个种子任务放到这个任务的库里面去,通过这个模型啊,能够够自动的构造出他的指令啊,他是这样的啊,他会根据这个任务啊,根据这个啊,根据他的这个种子任务自动的构造出这个指令啊, 然后这个指令的啊,他会进行分类的,他这个分类的是他会去判断啊,是否要进行 autoport first 啊,是否要进行这个输出啊?回答问题,如果是的话,那么他的指令 回答啊,他就会完成了啊,那么他又会扔到这样的一个呃任务库里面去,当然他会经过这个第四步的这个过滤啊,他等于是这样啊, 那么如果的话,它还是要产生这个 input 的话, input first, 因为我们前面看到它这个可选项,它的它有三个东西,指令它已经有了,那么它是要看看它这个是不是要产生 input, 如果要产生 in input 的,那么它先把 input 产生,如果 input 不需要产生的话,那么它就直接产生 output, 它是这样啊, 他是要经过这样一个模型的这样一个任务的分类啊,他是这样来做的啊,那么他呃又有 input, 然后有 output 了之后的话啊,他就会把这些任务啊,就会 把这些指令啊,他就会把他这个训练的数据再经过过滤啊,他这个里面会有一些过了过滤的算法,把一些重复的一些指令啊,不需要的一些呃,分类任务啊,比较多的重重叠的啊,他就把它给处理掉啊,理掉之后呢,他再循环到这个 task pro 里面去,然后再循环的 再通过这个他这个种子任务再去产生这些指令,新的这些指令,他等于是这样他就群往复不断的这样,那么他可以自动的自己的产生指令啊,他是这样来做的啊, 那么 self instruct 呢?它有一个非常著名的就是 alpaca 啊,这样的一个数据集啊,它的五点二万条的这个数据啊,它就是通过 这样的 self instruct 来产生的啊,那么我们有些时候呢,就不需要再去做这件事了啊,直接用 alpaca 这样的,呃 innocent 你就可以来训练啊,训练这种拉慢的模型,或者训训练 其他拉玛兔的这些模型啊,他都是可以训练和微调了,他得只要你有这个数据机啊,那你就可以微调了啊,这个是呃这样的一个情况啊,这个是通过模型产生数据啊,这是一种算法, 那么第二种算法的话呢?他叫反向,反向的翻译啊,他这个是什么含义呢?就说他会,他会经过很多步骤啊,他第一步的一些初始化的一些数据啊, n library 一些数据啊,他通过这个数据的,先让这个模型和自动的去产生这样的一些呃 指令和参数啊,去让他预测啊,你最后的这个 y 值是什么啊?他是有些任务的啊,他这个任务的话先可能他不太准啊,但是没关系,他可以先让这个模型初始化了这个模型,先去预测出这个 y 值啊, 那么这个 y 值之后的话,它会作为一个 data, see the data 啊,它作为一个种子任务啊,它就会放在这个里面啊,它会勾勾兑一个最 小的一个数据值啊,有了这个数据值之后呢,他再去训练 m 零啊,他才会把呃这个模型进行微调和训练,他就不断的这样的迭代啊,他让这个,让这个模型不断的自己去产生这样的一些数据,让这个数据的不断的去微调啊,他等于是这样 啊,他通过这种方式的话,当然他这个里面的话,他肯定也会去选择的,因为你产生的指令比较多的,他还是一样的,他也要经过过滤啊,选择一些比较高质量的这个子机啊,耐经到这个模型里面去训练,训练的话他同理哎,他又可以通过这些数据又产生更多的这些, 呃,预测出来更多的这些数据,再来做这样一件事情啊,这个的话叫 back translation 这样的一个算法, back translation 的这样一个算法,那么通过 back translation 的这种算法的话,你可以看到它有一个数据集叫 number back 啊,这个你可以发现很高,精准度会很很高,他们这个模型的那个拉玛的这种模型,用这个这种算法把 back translation 的这种算法,然后去微调这个拉玛的这个模型啊,你可以发现,哎, 他不断的在上升,而且随着他的这个模型数据量的这个递增啊,他这个模型的准确度是比较高的啊,他比一般的我们后面会看到叫立马啊这种的样的,这种数据值更优啊,他甚至超过了米库玛前面讲的啊啊啊,普卡 gpt 产生的这些数据会更优啊,这个啊, alpha 卡 g p t 就是前面这种算法 self interactor 产生的这样一个数据,那你可以看到他就会明显的都会高于这种方式,所以这种的是一种,呃,让那个机器啊自动的能够产生训练数据一个比较有效的方法,有效的方法他是等于是这样,他是让你自己训练的 这个模型,自己不断的产生数据,不断的地规啊,不断的去循环选择更好的这个数据,不断的去去训练它啊,直到啊它会越来越强,它等于是这样啊,那么这我们是让 ai 自动产生 这个剧的两种最重要的这个方法啊,这个也是目前最主流的两种方法啊,所以我们可以看到有些模型,有些任务啊,他说我们没有数据啊,其实没关系啊,我们可以通过 ai 啊,可以通过微调的模型自身啊,可以产生数据啊,只要你有一些问题,只要你有些指令啊,你就可以循环的去做这样一件事情啊, 不知的话,你可以用一个更好的模型相机。第四啊,这种模型去让老师去产生更好的这些数据,让喂给这些要微调的这个模型啊,两种思路都是可以的。好,那么我们再来看一看,就是高质量的这个数据的这个价值啊,那么我们经常会发现微调的话呢,他有个悖论, 这个微调的数据是不是越多越好啊?那么这个答案在学术界的那个科研的这些,呃,学术界的话,他们一直是去研究的,他们发现了他的微调的话,并不是说数据越多越好啊,是一个数据是要高质量,而且是,呃,就是 他不一定是越多越好的,他等于是这样啊,他就举了一个例子啊,他这个数据叫叫立马啊,立马的这样一个数据集啊,这个数据集的话只有一千条指令啊,他就可以通过拉玛米的版本去微调啊,这样的一个 六百五十一参数的这样一个模型啊,你可以发现他这个模型很厉害,他甚至超过了呃, chat g b d 三点五,他的胜率很高,他的胜率很高,你可以看到他的胜率很高啊,这个是立马的这样一个数据值啊,这个的话呢,是用了 alpaca 的这样的一个数据值 啊,你可以看到这个他的胜率是非常好。这个是人类评估的啊,这个都是用 g b 四自动评估的啊,那么人类和 g a i 都评估出来啊,这个 airpod 卡杠六十五 b 啊,他的训练的这个模型,用立马训练出来这个模型啊,性能是要超过啊,恰个 g b 机 以第三点五的这样的一个模型啊,这个是是是一个比较好的这样的一个结论啊,所以,好,我们再来看看。 呃,立马的这个数据集的话,其实是,呃可以下载的啊,它是可以下载的啊,这个项目,呃,它是可以通过叫 light g p g 啊这个项目啊,然后你可以微调下面的这些模型啊,它都是可以进行微调的 啊,他也有些数据机啊,不可以。那么他这边呢,就举了一个例子啊,他基于拉玛 two base 的一个模型,然后通过立马来进行微调拉玛 two 的这样一个模型啊, 可以看一下啊,那么他首先的话呢,还是进行下载这个辣妈兔七 b 的这样一个贝斯的一个模型的权重啊,下载完了之后呢,然后一个数据转换啊,模型权重的转换,转换完了之后呢,他就下载立马的这个数据啊,立马数据下载完了之后的话,那他就进行微调啊,他是通过罗拉进行微调的,嗯,这个就是我们昨天讲的 roller 微调啊,它的,嗯,好,那这它在这个当中呢,也介绍了一些微调的一些呃, tips 就是字条啊,它这个里面讲的就有些长度的,放到二零四八啊,它要修改一个长度啊,去嵌解这个 over ri override, 这个 marks secret lens 的这样的一个, 然后这个我们上次是讲过的啊,这个主要是放你这个数据级的数量一千啊,这个就可以了。 itoning 一 pro 一次就可以了啊,不要多次训练啊,那么他这个东西就会非常快的训练完,可能花了几分钟啊,他就可以 训练完了啊,他就会非常快啊。那他这个里面也举了一个例子,用五点二万的这个数据啊,如果是全餐训练的话,他要用六,要用到六个 gpu 啊,用飞音的这个七 b 模型,他要 将近九个小时,八个小时五十二分钟啊,他等于是这样,那么如果你是要用罗拉这个模型的话,他只要用一个 gpu 就可以了。一块 gpu 啊,他这个是用 a 一百的这个 gpu, 他只要用一块一个小时多啊,他就可以把呃,五点二万条的这个训练集全书全训练完,他等于是这样啊, 所以这个罗拉跟全餐训练,他主要就是还是在这个效率上面,他还是比较高的,当然全餐训练的他的性能会比罗拉更好一些啊,会更更好好一些啊。这个是另外两种方式, adopt 和 ad adopt vr 的这样的一个呃,微调的方式啊,那么一般的话,我们用这种微调方式目前会比较多,要不用 全餐,要不就是用 roar 啊,作为微调的方式啊,这两种好,那么这个里面呢,他也介绍了一些,呃,数据集啊,有前面介绍过的,就 alpaca 的这样的一个数据集啊,他是用 self instructor 啊,通过 g p d 四来产生的啊, 也有一个叫立马的这样一个数据集啊,这个数据集的话只有一千个指令啊,但是性能也是非常好啊,他有张口是一千零八十四个啊,他也可以微调啊,这些都是数据集 啊,这是微调的数据机啊,好,当然的话我们也可以自己去准备我们自己的数据机啊,这个也是比较方便的啊,先首先呢去准备一个 csv 的一个文件啊,这个文件呢,只要包含三列啊, 这个是指令啊,这个是 input 啊,当然也可以空啊, output 啊,这个是输入输出和指令啊,要有包含这三行啊,去经过这样的一个拍摄的这样一个脚本啊,那么它会自动地生成一个这样的一个 descent 啊,就是训练的一个数据集,他会自动的会生成出来,那么生成出来之后呢,你就可以把这个数据集的目录告诉他,经过罗拉的这个微调,用你的这个基础模型你调啊,这个还是比较简单的啊,所以的话呢,你发现就是这个模型微调的,还是相对来讲,如果你知道他的这个原理的,还是比较 容易做的,我有些时候跟有些工程师沟通的时候呢,他们会跟我讲就,呃,现在这个大模型啊,微调比较难,他不像原来的那个专家模型 啊,他微调只要你这个数据足够多啊,你就可以不断的喂给他,他会越来越精确,因为他会收敛啊,但是这个大模型的话就不一样啊,他还他的微调的话不是靠数据量的, 他是靠数据质量啊,数据质量是最低优先的啊,他的也是这样啊,你不是说数量越多啊,他的性能会越好啊,有些时候这个不是这样啊,他是根据你的数据的质量,所以数据质量呢,会非常重要的,那么就需要我们的一些搬家啊, 包括有些用户的这样的一个交互啊,去判断啊,哪些预出呃是更符合这个虾油的这些任务,他是等于是这样的啊,所以,呃,这个微调也是门技术活,他他他他他不是靠量就能堆能够堆出来的,他对,嗯, 好,这里面他也是讲了一下啊,一些进一步进行学习的这样的,呃,研究的这样一些方向啊,数据值得合并啊,因为这个数据要多种多样性,那么是不是把一些呃调的非常好的,立马啊,类似的 多利亚这种数据值进行合并,合并之后看看他是不是能够泛化出更强的能力啊,这个也是一个研究方向啊,另外一个数据的这样的一个排序啊,数据的这个排序啊,我看到那个百川那个模型微调里面他们就会排序啊,会把这个数据值进行分统, 分桶的话他就会排序,挑选出比较优质的,比如说十条数据,那他也不是把所有数据都进去啊,那么他有比如说十个 大类啊,两百个小类,每个小类里面有十个分桶啊,分桶数据里面有十条进行排序的。这种数据啊,他是通过这种啊, datascents 的 order 啊,就是排序啊,这个也是比较重要的 啊,另外呢,训练呢,是否要重复多次啊?这个还是有些争论的啊,他是有有些争论,在那个罗拉的什么上篇文章里面讲的是非常清楚的啊,你不要把这个训练的数据进行重复啊,重复的话会过拟和它的性能反而会下降,是这样的 好,还有一个是比较重要的,就是怎么样挑选自动化的去挑选啊,高质量的数据,或者把一些低质量的数据把它过滤掉啊,这个技术也是比较重要的啊,这个技术也是比较重要的啊,那一般的我们称之,把这个东西称之叫评价模型啊,叫那你要还要有一个更 这个商更高的一个能力更强的一个模模型啊,你要去判断把哪些样本数据放到另另外一个模型里面去训练 啊,这个也是比较重要的,那这个都是些基础的原理啊,他这个里面就讲了一个例子啊,他把 alpha 卡的这个数据从呃,五点二万条里面,对吧?他选出来九千条,他做了一些对比啊, 那他发现了如果你的数据量小,你经过精挑细选而反而他这个性能会更好,反而性能会更好,他这个 他这个胜率会更高啊,你这个九千条的这个数据胜过了这个五点二万条的这样一个数据啊,所以的话数据不能多啊,还是要精啊,这,所以这个是研究的一些结果,他跟原来传统的我们训练一些人工智能的模型不一样啊,原来传统的这些专家模型的话,你可以跪给他大量的数据,越多越好啊, 他等于是这样好好,最后呢就给了我们这样的一个结论啊,这篇文章的话也是非常有价值的,非常有价值的啊,他就告诉我们这一条的时候啊,我们怎么如 如何有效的去微调啊?数据集是一个非常重要的这样的一个挑战啊,如何去微调这样一个模型,如何去构建一个高质量的一个数据集是非常重要的啊。那么他有几个部分啊,他可以通过那个, 目前大部分都是通过 ai 产生这些数据的,那么他有两种算法。我们前面讲啊,同时的数据产生之后,他还要有一个评价模型啊,他要去过滤啊,把一些质量不好的模型,要把它质量不行的一些数据,要把它过滤过滤掉啊,这个也是比较重要的啊。 呃,因为你有了一些高质量的一些数据,再经过微调的话,那么你这样的微调出来的模型啊,他他的性能才会比较好,好吧。好,呃,今天啊,我们怎么优化这个模型的微调啊?怎么去准备微调这个模型的数据集,这一部分的内容就跟大家就介绍到这,好,谢谢各位。

你是不是费尽心机写了很多的提示词,却仍然控制不了画面的细节和色调? 今天教会你使用 ctrlnet 的太偶模型,只使用两个词就能够产生这样丰富细节的效果。首先我们来到利不利我 ai, 在这里找到一个合适的大模型,然后点击这里将它加入到模型库中。 加入之后,在上面点击在线 stable defusion, 我们就可以来到一个原汁原味的线上 stable defusion 的页面,在这里就可以找到刚才我们放入进去的大模型。 然后来到 png 图片信息,将一张图片儿载入进去,最后点击发送到文生图。因为我们要使用的是 ctrl net 的 tail, 所以说它的提示词根本不需要这么多,我们只要把主体给留下,就 比如说就留下来一个女孩,然后下面的副项提示词里面也是我们要删除绝大多数的,让提示词尽可能的精简。然后下面的放大算法,我们可以选择最后一个 ultra shelf, 下面打开 ctrl nice 与处理器的话选择 tile, color fix。 然后模型的话,同样的我们选择太阳模型, 使用 tar 的话,他的权重一定要给他拉低点,我们可以先给到零点三五,然后下面的变换,这个参数可以拉高一些,我们可以拉到最高三十二。 然后我们将使用这张照片作为 tail 输入的图片,然后我们来到最上面,点击开始生成。我们可以看一下生成的图片和原本 tail 的图片的对比,可以看到 生成的图片当中是借鉴了很多太阳使用的图片的一些元素,比如说他的一些植物,还有一些下面的花的一些关系,因为太阳模型本身,他就会将这张图片进行向下采样,也就是说首先把这张图片变得更小, 然后 ai 在这张图片里面给他添加更多的细节,包括画面的颜色。可以看到两张图片是有一定的课程关系的,我们使用太阳模型的话,可以让我们只使用很少的提示词,就能够达到很丰富的画面效果。 那么接下来我们还可以尝试使用这张图片,把它作为 tile 的一个参考图片,看一下生成的效果。那么从生成的图片当中,我们可以看到,它依然是借鉴了 tile 的参考图 片中的一些元素,比如说中间的这个蓝色的东西成为了人物当中的衣服的主色调,包括画面当中的这种曲线, 他形成了在人物背后的背景的这个地方。从整体的色调来看呢,两张图片的色调是基本上一致的,那么我们可以尝试使用更多的图片作为 tal 的参考图片,看看能不能出现更多神奇的效果。 保留相同的提示词和参数不变。 tile 的参考图选择一盘式子,可以看到生成的图片 和原图的构图和色调依然保留了很大的关联,他好像是把中间的这几个式子变成了一个人。再来看这一组图像,依然保留了太偶参考图的色调和细节。我们使用太 模型的话,确实可以让我们只使用很少的提示词,就能够做出很高细节度的图片。如果你电脑的硬件水平没有那么好,或者暂时没有办法用电脑做图,可以考虑来到利不利沃 ai, 使用他的在线 style titution 的功能。 它不仅可以使用多个 control net, 而且它的功能还算是比较齐全,比如有涂装图或者后期处理等。 他每天可以免费生成一百张图片,基本上一天是用不完的。喜欢什么模型,还可以一键添加到模型库里,方便我们调用。 大家可以多试一下。泰欧的这两个预处理器,真的很好用,使用他的话,记得要把权重给他拉低一点,效果才会更加明显。

关于 gpt 等生成是大语言模型背后的技术原理,一个很常见的说法是,他们是通过预测出现概率最高的下一个词来实现文本生成的。 这种效果有点像搜索引擎的自动补全。每当我们输入一个新的字或词,输入框就开始预测后面的文本,概率越高的排在越上面。 但模型具体到底是如何得到各个词出现的概率呢?这个视频为你揭秘 chat gpt 背后的原理。 在上一个介绍大元模型的视频里,我们提到,说起大元模型的技术原理,就不得不说 transformer 加购。自从一篇二零一七的论文 attention is all you need 提出 transformer 后,文本领域的大模型几乎被他一统江湖, open i 的 gpt、 清华的 g l m, 百度的 only 等 背后无一没有 transformer 的影子。在 attention is all you need 论文里,他长成这样,看起来有点复杂,但不需要头大,他可以被看作有两个核心部分组成,编码器 incoder 以及解码器 decoder。 假如我们要这个 transformer 做英语翻译法语的任务,给编码器输入一句英语,解码器返回对应的法语,这个过程中发生了什么呢? 我们先看编码七部分。输入的文本首先会被 token 化,也就是先把输入拆分成各个 token。 token 可以被理解为是文本的一个基本单位, 取决于不同的 token 画方法。短单词可能每个词是一个 token, 长单词可能被拆成多个 token。 然后呢,每个 token 会被用一个整数数字表示,这个数字被叫做 token id。 这样做是因为计算机内部是无法储存文字的,任何字符最终都得用数字来表示。有了数字表示的,输入文本后,再把它传入嵌入层。嵌入层的作用是让每个 token 都用向量表示。 向量可以被简单的看为一串数字,问能在画面里放下,这里把向量长度简化为三,但实际中向量长度可以非常长。 问题来了,之前明明已经有单个整数表示哥哥 tok 了,怎么现在又要用一串数字表示哥哥 tok? 其中一个原因是,一串数字能表达的含义是大于一个数字的,能包含更多语法、语音、信息等等。这就好比男人和女人这两个词,他们都在描述人类,但性别又是完全相反的。如果只用一个 数字表示,这两个数字大小之间应该距离很大,还是应该距离很小呢?但如果有多个数字,我们就可以进行更多维度的表示。就比如说,第一个数字可以表示是磁性的程度,第二个表示年龄大的程度,第三个表示社会阶层高的程度。 所以呢,嵌入层的向量不是随便搞出来的,里面包含了词汇之间语法、语义等关系,相似的词所对应的嵌入向量在向量空间里距离也更近,而一些没啥关系的词之间的距离就更远。 这有助于模型利用数学计算向量空间里的距离,去捕捉不同词在语义和语法等方面的相似性。而且呢,男人与国王的差异和女人与女王的差异可以被看作是相似的,这也可以在多维向量空间里 展现。因此,词向量不仅可以帮模型理解词的语意,也可以捕捉词与词之间的复杂关系。那我们这里为了直观,是用三维向量空间表示的,把向量长度相应简化成了三。 而提出 trans 方位的论文里,向量长度是五百一十二 g b t, 三是一万两千二百八十八,所以可以想象能包含多少信息。 通过编码器的嵌入层得到此项量后,下一步是对项量进行位置编码。我们在上个视频里提到, trans 分位的一项关键机制是位置编码。 如果你没看上一节,没关系,位置编码就是把表示各个词在文本里顺序的相量和上一步得到词相量相加,然后把得到的结果传给编码器。这样做的意义是,模型既可以理解每个词的意义,又能 够捕捉词在句子中的位置,从而理解不同词之间的顺序关系。接下来就到了编码器这个核心部分,它的主要任务是把输入转换成一种更抽象的表示形式。这个表示形式也是向量,几串数字 里面既保留了输入文本的词汇信息和顺序关系,也捕捉了语法语义上的关键特征。捕捉关键特征的核心是编码器的自注意力机制。 模型在处理每个词的时候,不仅会关注这个词本身和它附近的词,还会关注输入数列中所有其他词。 也正如 transformer 论文标题所说, attention is all you need。 注意力就是你所需要的一切。自注意力机制通过计算每对词之间的相关性来决定注意力权重。如果两个词 之间的相关性更强,他们之间的注意力权重就会更高。比如这个例子,单从语法上来讲, it 可以指 animal, 也可以指 street, 而自助力机制发现了 it 与 animal 更强的关联,所以给 animal 的权重会更大一些。 由于自注意力机制对上下文的全面关注,但在输出的表示结果里,不仅包含这个词本身的信息,还融合了上下文中的相关信息。上下文在语言里很重要,也能揭露相同词的不同含义。 所以在解码器输出的结果里,表示各个词的向量会根据上下文信息进行调整,同一个词根据上下文有不同的抽象表示。自注意力机制涉及到很多计算步骤,这个视频主要是做个简单的科普,更多细节可以在论文原文里关注一下。 而且 transformer 实际上使用了多头自注意力,也就是编码器不只有一个自注意力模块,而是有多个,每个头都有他自己的注意力权重,用来关注文本里不同特征或方面,比如有的关注动词,有的关注修饰词,有的关注情感,有的关注秘密实体等等。 而且他们之间可以做并行运算,也就是计算进展上互不影响。每个自注意力投的权重都是模型在之前的训练过程中,从大量文本里逐渐学习和调整的。 在多头自注意力后面还有一个前窥神经网络,他会对自注意力模块的输出进行进一步的处理,增强模型的表达能力。那编码器在 transform 里不只有一个,实际上是有多个堆叠到一起,每个编码器内部结构一样,但不 共享权重,这样模型能更深入的理解数据,处理更复杂的文本语言内容。看完编码器,接下来看解码器的部分,它是大于模型生成一个个词的关键。通过前面的编码器,我们有了输入序列里各个偷啃的抽象表示,可以把它传给解码器。 解码器还会先接收一个特殊值,这个值表示输出序列的开头。这样做的原因是,解码器不仅会把来自编码器的输入序列的抽象表示作为输入,还会把之前已经生成的文本也作为输入,来保持输出的连贯性和上下文相关性。 刚开始的这轮还没有任何已生成的文本,所以把表示开头的特殊值先作为输入。具体的生成过程仍然是要经过多个步骤。首先和编码器一样, 文本要经过我们已经了解过的嵌入层和位置编码,然后被输入进多头自注意力层。但他和编码器里的自注意力层有点不一样,当编码器在处理各个词的时候,他会关注输入序列里所有其他词, 但解码器中自助力只会关注这个词和他前面的其他词,后面的词要被遮住,不去关注。这样做是为了确保解码器生成文本时遵循正确的时间顺序,不能给他偷看到后面,在预测下一个词时,只使用前面的词作为上下文。 这种类型的多投资注意力被叫做代言码的多投资注意力。代言码的多投资注意力是针对已生成的输出序列的,而那后面解码器还有个多投资注意力层,这里就是前面编码器所输出的输入 序列的抽象表示所派上用场的地方。注意力会捕捉编码器的输出和解码器即将生成的输出之间的对应关系,从而将原始输入序列的信息融合到输出序列的生成过程中。 解码器里的前窥神经网络作用和编码器里的类似,也是通过额外的计算来增强模型的表达能力。而且和编码器一样,解码器同样是多个堆叠到一起的,这可以增加模型的性能,有助于处理复杂的输入输出关系。 解码器的最后阶段包含一个线性层和一个 soft max 层,他们俩加一块的作用是把解码器输出的表示转换为词汇表的概率分布,这个词汇表的概率分布代表下一个被生成偷坑的概率,那么有些偷坑的概率就会比其他的高。在 大多数情况下,模型会选择概率最高的头肯作为下一个输出。那现在我们知道了解码其本质上是在猜下一个最可能的输出,至于输出是否符合客观事实,模型无从得知,所以我们能经常看到模型一本正经的胡说八道,这种现象也被叫做幻觉。 那解码器的一整个流程会重复多次,新的 tok 会持续生成,直到生成的是一个用来表示输出序列结束的特殊 tok。 那现在我们就拥有了来自解码器的完整输出序列小花。 但以上描述的是在天神 is all unit 里的原始 transformer。 编码器用来理解和表示输入序列,解码器用来生成输出序列。实际上在原始架构的基础上,后续出现了一些变种,主要有三个类别, 井编码器,井解码器以及编码器解码器。井编码器模型也叫字编码器模型,只保留了原始家沟里的编码器, but it 就是这种模型的一个例子。 此类模型适用于理解语言的任务,比如野马语言建模,也就是让模型猜文本里被遮住的词是什么,情感分析,让模型判断文本情感是积极还是消极等等。 仅解码器模型也叫自回归模型,只保留了原始架构里的解码器。 gpt 系列都是这种模型的例子,这类模型非常擅长通过预测下一个词来实现文本生成。我们已经在 chat gpt 身上建设过了 编码器解码器模型,也叫序列到序列模型,同时保留了原始架构里的编码器和解码器。 t 五 bird 都是这种模型的立, 此类模型适用于把一个序列转换成另一个序列的任务,比如翻译、总结等等。那经过这个视频,你对大于模型背后技术的了解应该已经超过百分之九十九的人了。如果你好奇怎样才能练成一个 chat gpp 的话,我们下个视频见。

然后还有一个说法叫咒语啊,那为什么要叫咒语呢?因为这个找不到比这个词更形象的更贴下来形容他了,因为提示词是我们跟恋爱对话的一个语, 每个人都必须要掌握,而且你越早掌握他,你越能够获得在 ai 的这个这个方向的一个竞争的优势。那提示词就是我们开启 ai 魔法世界的一个重 一般的咒语是哈利波特的咒语,应该是标准答案,对,他的特点是没有标准答案,这才是神奇的地方, 因为既然没有标准答案,他的学习对我们每个人的要求就高了,对你的思考能力要求就高了,对你的想象力的要求就高了。所以这个我刚才讲这个庞大的一个巨大的突出法,有完全,它的价值能发挥到什么什么程度,完全取决于 你的创造力,你的思维方式来决定他能够给你贡献什么样的幸运和家庭。这里举了两个例子,一个是他的确定的一段提示字啊,翻译成中文就是我是一个小学生,在为学校的意外活动做准备,包括几年份活动的策划方案,这是不是记住你们的痛点了? 你们是不是今天就说了你们暑期的有对有工艺的。对,老师哦,老师,哎,放心。 好,太棒了我,我用过,他会说,你说你应该先这样这样这样,然后再调查一下是一件什么,你看,这就已经有人欣然一股了。看,能看出来这个不是个好的提示词,就说明他已经做了深入的非常深入的研究了啊我,我特别给研究开始点赞啊, 这个能够你就已经能够阻断了。其实好,其实只不过大家还有点疑问。好,那我这边就不让大家唱了。哈哈哈,是首歌呢,叫花呀花呀花,这个我把它改编成了一首。这个 大家我给大家念一下啊,在什么样的花园里面挖野花,种什么样的种子,开什么样的花。在爱的世界里面挖野花,说什么样的种子什么样的花。在爱的世界里面挖野花,说漂亮的咒语出漂亮的花。在爱的世界里面挖野花,说神秘的咒语出神秘的话, 神秘的话最好。这段就非常好的总结了其实词的特点。好吧,就如果你们今天走出这个教室,什么都没记住,你记住这点,记住这首诗就 ok 了。好。

建筑类怎么去写提示词?我们可以给大家准备五到六种用法,比如说从 can keep 语言模型反推,到我们的谷歌翻译怎么去使用,然后再到我们的第二个 d bruce 的模型反推,怎么去得到我们的图片的内容? 提示词该怎么写?还有我们的塔格模型反推,我们怎么去借助已有的图片去生成提示词?怎么再用更高级的叉的 gp 的插件进行反推,然后去获得我们的提示词?再往后 我们如何根据一些专门的网站在线反推网址更好的去获得我们提示词的反推?这个网址是比较终极的答案了,一下子可以给你推出这么长的提示词。最后呢,再配合我们的手动输入,对我们的提示词进行整理, 你再不会描述这个画面,你接触这些工具总能描述吧,这都是我们的总结下来的经验跟思路,这都是干活时出来的经验哦。比如说我们的主题什么 类型,什么背景,什么环境,什么灯光风格,媒介配色方案,画质。其他的,我们通过这种方式帮助大家分门别类的进行归纳,大家就不至于在写提日词的时候无所适从。 nice。

同学们,今天我们要讨论一个很热门的人工智能技术,叫做待语言模型。他就像一个超级聪明的机器人,可以读懂汉,写出各种各样的文字,甚至可以跟我们聊天,回答问题,翻译语言等等,他是怎么做到的呢? 它其实是通过阅读海量的文本数据来学习语言知识和规则的,就像我们小时候学习母语一样,但是它比我们更厉害,因为它可以阅读比我们多的多得多的书籍、文章、网页等等。大语言模型听起来很神奇吧,但是 他也不是完美无缺的,他也有自己的问题和困难,比如说他需要消耗很多电脑资源和电力来运行,他可能会复制或放大一些错误或不公正的信息,他可能会影响到一些人或行业的工作和生活等等。 所以我们不能盲目的相信会依赖大语言模型,而要有批判性的思考和评估。那么在这样一个快速发展的时代,我们应该怎么做呢?我觉得有三点很重要,第一,保持学习和创新。大语言模型并不是 是万能的,他也不能替代人类的智慧焊创造力,所以我们要不断的学习新知识,焊新技能,并且尝试寻找新问题核心方法。第二,拥抱多样性焊协作。大语言模型涉及到多个领域和层面,如计算机科学、数学、语言学、社会科学等。 我们不能只关注自己感兴趣或擅长的方面,而要与不同背景和专业的人交流和合作,并且尊重他们的观点和价值。第三,关注伦理和社会影响。大语言模型可能会产生一些负面或不可预见的后果,如偏见、歧视、误导、欺骗等。这些后果可能会影响到个人或群体的权力、利益和扶持。 所以我们要关注大语言模型所涉及到的伦理和社会问题,并积极参与相关讨论。汉监督最后,我想给你们举几个例子,来说明一下哪些行业或职业可能更容易受到大语言模型的影响。第一个例子是媒体行业或记者职业,他们需要处理很多文本信息,并且需要写出有意义还有吸引力的报道或 评论。带语言模型可以在这些任务上提供辅助或替代功能,比如深层标题、摘药、引用等。但是,带语言模型也可能会产生一些错误或不准确的信息,或者与事实不符的观点或立场。所以媒体人或记者要保持对信息的核实和分析能力,并且要遵守新闻伦理和规范。第二个例子是文化行业或作家职业, 他们需要进行创意性或多样性的工作,并且需要创造新颖还有吸引力的内容,比如小说、歌曲、视频等。大语言模型可以在这些内容上提供灵感或参考,并且可以生成多种形式和风格的内容。但是大语言模型也可能会侵犯一些版权或知识产权,或者与原创作者的意图或风格不一致。所以文化人或作家要保持 内容的原创信焊质量,并且要尊重其他作者的作品焊权力。第三个例子是医疗行业会议征职业,他们需要处理一些专门领域的数据焊知识,但这些数据焊知识可能不容易获取或标 标注,大语言模型可以利用自监督学习和营养本学习来降低对数据标注的依赖,并且可以利用知识增强来提高对专门领域的理解。但是大语言模型也可能会忽略一些细节或特殊情况,或者与最新的医学研究不一致,所以医疗人员会医生要保持对数据和知识的更新和验证,并且要考虑到患者的个体差异和需求。