又有一个 ai 知识库助理开源了, ui 界面看起来更像一个产品了。采用了非常直观的可视化界面设计,为各种应用场景提供了丰富实用的功能。通过简洁易懂的操作步骤,轻松完成 ai 助理的创建和训练流程。 导入数据提供手动输入、直接分段、 qa 拆分、 csv 等多种数据导入途径。直接分段支持通过 txt、 world、 pdf、 markdown 等文档内容作为上下文。 fast 会自动对文本数据进行预处理,节省训练时间。它还提供了基于 flow 模块的工作流安排,可以帮助你设计更加复杂的问答流程。 fast gpt 还提供了 api, 你可以轻松集成到企业、微信公众号、非 数等平台。它还可以支持其他大模型,比如 cloud、 文心一眼等。更多免费 ai 工具请访问三 w 点 v u j u n t o l s 点 com,
粉丝1869获赞1.3万

这个开源项目可以让你使用自己的知识库创建自定义聊天机器人,让你拥有属于你自己的 ai 知识库。助理他支持通过多种方法添加数据源,包括网页,普通文本, pdf 和 word, csv 等, 甚至还支持上传音频和视频文件,还有爬虫和添加 git 地址。通过上传文件和添加提示语,你可以获得 拥有独特个性和超强能力的专属助理机器人。默认提示词不太好用,记得改为中文。他还支持多个大模型,包括 chat, gpt, lama, cloud 等。然后你就可以提问和你上传文档相关的问题,他就可以结合你的知识库来回答。你还可以通过 i frame 或者脚本将 机器人嵌入到你自己的网站或者应用程序中。他支持通过 doctor 一键部署,你也可以下载到本地安装和二次开发项目,提供了完整的本地部署教程。 nice。

好,今天我来看一下这个 fast gpt 究竟应该怎么使用。呃,那首先这里是它的官网 fast gpt 点 roll, 然后这里是 get up, 这是一个开源项目,所有代码都在这里。 那发子 gp 的作用是什么呢?就比如说 ai 叉 gp 也好,还是其他的 ai 也好?他有一些知识是不知道的,比如说我个人的信息,比如说某个项目的信息,某个产品的资料,他是不知道的,那么通过发子 gp 呢?我们就可以把这些资料喂给他,让他呢就能做出对应的回答了。 那么常见的应用场景有这个 ai 客服,智能助理等等啊,这个介绍的话就不多说了,我们直接开始,然后呢走个流程演示一下,大家就明白。呃,立即开始进来,那么这里有一个应用和知识库是比较 核心的两个东西了。首先我们要建立一个知识库,知识库是什么呢?就是你想传输给 ai 的资料,那我们点击新建知识库,然后呢随便取个名字,我这边就用 love 知识库来命名,然后确认创建。 确认创建之后呢,我们点导入数据,选 q a, 拆分,然后呢选择一个文件,嗯,我这个文件是 love 的那个中文的 redmi, 我点击打开,啊,大概就是这些东西啊, love 的一些介绍,然后我点击确认,导入确认, 然后我们等这个变成可用就可以了。好,这里已经状态已经变成可用了。呃,点进去看一下,就是他就拆分成了这些问题,我们当然在这里也可以手动修改一下,比如这里多余的就把他删了,然后确认呗, 变更。然后呢,我们找到应用新建一个应用,比如说我们叫 love 小助手, 点击这个知识库,加对话引导,确认创建。然后呢这里有很多设置啊,比如说对话开场白呀,这个 a 模型我们可以选择哪一种?一般来说还是这个 呃 g p t 比较好用。呃,然后这里需要关联一个知识库,我们点选择,就是我们刚刚创建的那个知识库,点击完成,然后保存。 这样就是说呢,我们这个应用接入了这刚刚我们创建的那个知识库,他就懂得了 love 的一些知识,我们现在问一下 love 是什么? ok, 他已经明白了,那我们问一个他不知道的问题,比如说 love 的 作者是谁? 那如果说我们觉得他回答的不满意呢?呃,我们可以这进行一个 修改,我们我们的问题是作者是谁?他说 love 的作者是谁?谁谁,我们觉得不对呢,我们就去改一下,比如说我们改成 love 的作者是马老板,哎呀,然后确认导入。 好,我们再问他一下,比如说 love 的作者是谁?好,他已经把这个答案给改掉了, 那基本的功能我们就已经演示了,就是新建一个知识库,然后呢选一个应用和这个知识库匹配上选一些模型等等。那么 v 四版 版本呢?更新了很多其他功能,这个高级编排我们最后再说稍微复杂一点,然后首先是这个外部使用,外部使用呢,就是我们创建一个免登录的窗口,发送给别人,别人直接就可以用啊,我们这里创建一个 test, 那么金额给他个十块钱, 然后选择明天到期,然后呃确认,然后我们来复制一下这个链接,打开 好,就是你把这链接发给其他人,其他人就可以用了,他还是知道我们刚刚训练的知识的。 love 作者是谁。 ok, 然后呢,这有个 a t i 访问。呃,在之前的教程里我 我们也展示了,就是我们把把它接入这个飞书啊,接入企业微信用的就是这个 api 访问,什么意思呢?就是说我们创建一个密要可以通过 hdp 请求来请求这个接口,就可以实现这个问答的功能,跟接那个官方 gpt 的接口是一模一样的。 既然有了接口呢,我们当然就可以把它接入到任何的套壳 gp 中。呃,我这里用 clus 给大家演示一下吧。嗯,进入 clus 之后呢,这里有个模板市场,然后呢选择这个 next 外部 部署一下,然后这里的 k 我们就随便写吧,我们用不到就随便写一个,然后部署确认, 然后跳转到应用详情,等这个应用部署成功。 ok, 这道运行中就是部署 完毕,然后我们点击访问一下,那部署成功之后,我们点这个设置它,这里是可以填我们的接口地址和这个 a p i k 的接口地址,填什么呢?就填这个 a p a 服务器,点击一下复制,然后呢把它 贴到这里就好了,然后这里有个 a p a k a p a k, 要稍微注意一下,我们先把其他的删掉。嗯,你首先要创建一个密要新建密要,然后复制好的,然后把这个密要贴在这里,然后在这个密要最后加一个横杠, 然后呢我们再去复制一下这个 appad, 就这个密要是有两部分组成的,一个是我们复制过来密要,第二个就是我们的 appad, 在这个后面再把 appad 粘贴进去,然后保存。 啊,这个没有保存按钮啊,输入就是保存,然后点击回来,我们再问他 love 的作者是谁啊?发送, 然后我们就通过了这个呃, a p a 接口,把它给接入了任意的这个套口, g p t 啊,你想接入自己公司的产品等等都是可以的。 本来这个视频想讲一下这个高级编排怎么用的,但视频时长现在已经挺长了,然后这个功能稍微还有点复杂,呃,我打算下个视频再说。 然后呢,在这之前大家可以看一下这个 fast cpt 的文档,它这里关于高级编排的部分写的也还可以,给了很多这个视力,有这个联网搜索以及操作数据库等等。那我们就下期视频再见吧。

程序员如何搞钱系列六、某忽上一个高赞的回答三点五 w。 一个开源的小模型,一天三十多单,想想这是什么概念。当然最重要的永远是接单的资源。但是也不乏说明一个问题,企业私有模型现阶段是个不小的需求。 最近就经常被咨询如何建立企业私有的知识库,因为企业担心两点原因。第一,企业如何数据私有化。很多企业不想把自己的数据交给 ai 大模型公司,担心数据的安全性。第二,如何有效的将 ai 大模型融入自己现有的系统,和自己传统的实时数据库,例如 mysco 打交道。 当然这些问题不久的将来肯定做大模型的公司都会解决。不过当当下很多企业主的需求是利用开源模型探索和自己现有系统结合。今天介绍一个使用本地化 gbt 大模型与私有数据库进行交互的开源项目 db gbt。 首先,如果你没有显卡,那就利用云卡,比如 auto d、 l 这样的一小时几块钱的租云卡服务来部署。当然这个项目的基地还是利用 chat、 g、 l、 m 等大语言模型,通过 lanktan 提供私域知识库问答能力。下面看看部署后的效果。首先选择私有数据集,用自然语言提问查询所有用户信息。 模型直接列出了私有数据库的用户信息。再问 taxi 用户所在城市和电话号码, 自然语言直接转换成 u i 查询私有数据库。 再问他查询所在城市为成都的用户数量。 不一一列举了。下面看看私有知识库的功能。首先自然语音提问介绍一下 hushan baseball 租户的特性。他回答很抱歉,根据提供的信息无法回答。 上传一个自己的 pdf 文件。 再次提问相同的问题,他就可以直接根据刚刚上传的 pdf 文件里的内容回答出之前的问题。 当然,以上所有功能也可以通过 long chan 等其他框架整合实现,这里只是给大家提供思路。接下来我会把这个私有模型接入自己 diy 的硬件,例如智能音箱上,看看有什么效果。欢迎点赞关注。

ai 支付搭建,直接上传文件,让 ai 秒变你的私人小助手,还可进行 ai 智能问答。今天老张教大家如老规矩,我们先看部署后的完成效果,部署完成之后呢,我们可以用两种模式进行对话,首先第一种呢就是 咱们最原始的 ai 对话模式,它启用的是 chat g m 二的一个大语言模型,可以帮咱们进行相关的学习分析。老张在这呢让他作为文案分析师帮咱们学习的二极管标题法,然后进行了相关的分析阐述,产生十个爆款标题,效果还是非常不错的。还有就是支付相关内容, 咱们可以在这上传您对应的知识库,比方说咱们点击好的,大家可以看一下。老张这呢有一个客服快捷自动回复与大权,就是咱们对应的一个客服接待的相关手册,咱们把这个手册呢上传到 ai, 让他添加到对应的知识库中,然后重新选择对话,然后在这选择 知识库问答方式直接在这写一个你好好,然后我想看一个拍了后如何发货呢? 对,大家可以看一下是不是直接查询到三天内就可直接发货,然后自行查询之类的,是不是都是完全通过数据库进行匹配的?就是如果您需要一个本地的支持库,这个绝对是你非常好的一个选择, 咱们还可以在这上传,您不同的地方,咱们可以直接上传,然后进行导入,就可以搭建你个人的知识库了。所有的部署内容呢,老张都在这给大家都已经整理好了,所以大家需要的兄弟们点赞关注评论六六六,接下来看老张给你来如何搭建云端部署。首先我们可以在 did hop 网站上搜索 long chan 杠 chat chat, 打开对应的项目目录, 然后点击对应的目录介绍,在目录介绍中,我们可以直接往下去拉,找到凹凸 d l 镜像部署,然后咱们在这呢可以直接选择 右侧的凹凸 dl, 创建实力好,然后我们在容器实力这个位置选择按量计费,然后选择内蒙 a 区,然后这个显卡配置呢,咱们可以直接选择 a 五千 gpu 选择一个啊,然后直接点击主驾 ad, 然后选择立即创建, 创建过程中他会有一个进度条的显示,大家稍等片刻好,当我们看到状态改为运行中时,证明启动完成,然后我们直接选择快捷工具选项中的第一个。 好。启动过程之后呢,我们进入到了他的终端命令行,在终端命令行里,咱们打开刚才留存的这个部署记录,然后这有一个一键启动,咱们可以按照这三步走,把这个程序正式的跑起来,这三步分别为 移动到对应的目录文件,直接粘贴回车,大家注意前方已经改改变完成,然后在这直接创建 环境,把它再次的拿过来再回车,这也没有问题。最后咱们通过 python 启动对应的应用程序粘贴回车,这个启动过程呢可能较为缓慢,大家只需要稍等片刻即可。好了兄,当兄弟们看到这行蓝字,并且告诉咱们对应的六零六六这个地址是证明咱们启动已经成功了。 好,那么咱们可以直接的返回到上一集目录,在这有一个自定义服务选项,也是快捷工具栏中点击自定义服务,然后选择对应访问。 好的,点击启动之后呢,我们就进入到了正式这个页面了,在这呢选择您的对话模式,可以直接用 ai 对话,可以选择知识库问答,在这进行对应的知识库管理。很多兄弟说呢,学完 aa 工具之后有什么作用?你可以去五八同城上找一份 ai 相关的工作,帮你提高你的工作效率。 好,老张可以给大家来做一个简单的提示啊,表示你好,他会根据支支付帮咱们进行相关的一个匹配。好,如果您发我申请退款了,根据已知信息会为咱们进行匹配,所以说是相当哇塞的。

各位同学好,这是一个 ai 介入私有知识库的一个系统,那我们为什么要建立这么一套系统? ai 的话目前只能学习网上的东西,我们商家的一些信息或者企业的产品文档, 他是没办法读取的,所以他回答的内容都是非常的宽泛,并不是我们想要的。那我们建立这个系统之后,恋爱回答会从私有互参考 企业产品库或者商家店铺更加的智能。刚刚测试的一个是服装店, 我的衣服有色差,他回答的内容就很符合我们关闭这个系统,他回答的就是很片面的,网上找的一些东西并不是我们想要的。 那我们怎么去建议这么一套私有知识库?只需要上传自己的一个 excel, 这个模板我也已经提供给大家了,可以看一下点击菜单栏的私有数据库, 我们上传一个指定的 excel, 它自动会转化成 ai 所需要的一个文件,喜欢的点赞收藏一下,谢谢大家。

用你自己的数据创建一个 ai 知识库,充当企业客服、公司顾问,甚至是你的私人助理,简直不要太好用! 与 gpt、 讯飞、星火等 ai 大模型相比,自建的知识库将根据你提供的数据,回答结果也就更加准确。比如我直接问 gpt 建设用地使用权到期后怎么办?他会给出这样的答案。 当我询问自建的法律知识库,他给出的答案显然更加精准。想建立这样一个知识库,现在无需写代码,全程仅需三分钟就能轻松搞定。 打开这个语句 ai 官网,点击知识助手,新增助手,输入名称,点击创建,再点击新增知识库。这里支持添加文本、 网站以及各种类型的文档。可以把公司网站内部资料、培训材料、员工手册,还有薪资制度、请假考勤等制度全部上传到知识库,然后邀请员工进来,他们就能快速获取 知识库里的任何信息。除了可以创建自己的知识库,在对话助手里,他还接入了常见的各大 ai 语言模型,而且每天都能免费用,简直不要太良心!

上个视频我们和大家演示了使用我们自己的一个私有知识库去构建一个内 chat gbt 这样的一个产品啊,有很多人在咨询我这一个具体是怎么去做的?其实如果你把 oppo n i 的一个官方文档,如果去 logo 一遍的话,其实你应该 了解这个地方它是如何去实现的。它其实主要是依靠的这个 open i 的这个 in bed 模型,我们可以把它叫做一个嵌入嘛?这个嵌入模型呢,大家如果学习过深度学习的话,应该知道它是去处理自然语言文本最重要的一种方式,它其实就是把我们的一个自然语言和文本转换成了一个浮点型的一个香料, 就是类似于我们这里的负零点零点二七,负零点零点一这种。然后这个向量之间的一个距离哈,代表他们的一个关系。所以说呢,他其实最终的话就是把我们所有的一些文本转换成我们这里的这种向量,对吧?然后的话呢,向量之间他们的一个相关性的,依靠他的一个距离 来判断的,距离越小表示他的一个相关性越高,距离越大的话表示相关性越低。而且这个切入呢,他可以做的一个事情有很多啊,可以做搜索呀、距离呀、推荐呐之类的。所以说其实的话,我们可以利用他的这个模型 把我们的一个文本上传给他,让他通过这个模型给我们处理一下,其实就是让他给我们转换成我们的一个实量数据,然后的话我们就可以通过我们这里的一个实量数据 去搜索,或者说去得到我们想要的一个答案,其实你得到的答案的话就是就是达到他们的一个相关性嘛。 好了,你拿到这些相关相关的一个问题过后,或者相关的一个答案过后,我们再把相关的一个答案 c 给我们的一个 chat g p t, 让 chat b t, chat g p t 来帮助我们去回答就可以了。所以整体流程的话,就是我们首先把我们自己的一个文本,或者说把我们自己的一个内容,然后来 say 给我们的一个 inbiting 这个模型,然后 模型给我们转换成使量数据,然后的话呢我们通过这个使量数据里面去查询到我们问题相关的一些使量,然后的话呢把这个上下文再给到我们的一个 chat gpt, 然后通过 chat gpt 来帮助我们回答, 所以整体来说是这个样子的。然后其实下面这些和官方文档上面的基本上差不多哈,只是我这边做了一些简单的一些调整,所以大家可以直接去看官方文档,我们直接给大家大概的看一下就可以。上面这个其实就是爬虫吗?就是可以去把你的一个自己的一个内容给他抓取到你本地, 然后的话抓取到本地过后的话,它其实是一个文本形式,然后我们需要把它转换成 csv 的一个格式,转成 csv 的一个形式过后的话,然后呢我们后面呢就需要给它上传到我们的一个 inbiding 那个模型上面去,让他帮我们去处理。这个呢都是我们直接用的 opini 的一个 api 接口,直接让他去创建就可以了, 把我们输入的一个数据传给他,然后的话他会把我们的一个处理过后的一个数据,就是我们所说的一个像的数据,我们可以把它保存到本地,你可以保存到本地的一个 csv 里面去,当然的话你也可以保存到你自己的一个质量数据库里面去哈,我们这里做演示的话,其实你做你把它保存到 csv 里面其实就可以了,然后的话呢重要的就是下面这一些部分了, 然后呢下面我们这里就是直接去从我们这个实量数据里面把他的这个数据读出,读出来,读出来过后呢,最重要的就是这里创建上下文,对吧?创建上下文的话呢,我们这个地方呢, 其实就说你嵌入搜索使用的是鱼旋距离比较数字向量,所以说呢这些向量可能相关,如果他们的鱼旋距离接近的话,则可能是问题的答案,也有可能不是哈。 而且这个 openi 他的这个拍摄包里面有一个内置的这个函数,可以直接计算我们这一个相连之间他们的一个距离,所以直接拿过来计算就可以,计算过后呢,我们这里给他简单做了一个 排序,然后呢你这里直接拿到你的一个上下文,拿到你的上下文过后的话呢,你最后直接去做回答的时候,呃,你直接去把你的这个上下文拿到,然后呢你直接把你的这个上下文拼接一下,然后塞给我们的那个 o n i 的一个呃,接口就可以切的 gpd, 当这个地方的话,它这个是官方上面的是那个 gpd 三的一个,然后我这个地方的话呢,可以给大家看一下我们这个地方的一个代码,我们是重新用 gpd 三点五重新去写了一下,其实核心点就是下面我们这个地方的这个,呃, context 嘛,就是我们去咨询的时候,让他从我们这一个上下文上下文当中去 看,没有,我们这里就是跟他说了,让他基于我们这里的这个 context 去做回答。首先我们需要把你的这个上下文传给他,然后呢把回答这个结果给了我们就可以了。这其实比较简单,就是核心点就是我们这里的一个创建上下文嘛, 对吧?创建生肖文章其实就是直接去调用我们的一个呃,这个计算距离这个函数,把它相关的一些东西,相关的一些文本,或者说相关的一些数据给到我们,然后这样就可以了。那我们这里可以给大家来看一下,我们这里 上面爬虫那一块就不和大家去看了吗?我们直接因为你当你可以不用爬哈,比如说你自己有 mark 档文档啊,或者说有一些文本文件呐,甚至 pdf 一些文档,其实都可以的,对吧?然后呢你可以把它的这些数据呃,通过我们的一个 inbid 模型上传到我们这个 o n i 去, o n i 处理过后的话, 他会给我们生成一些像量,引出我们这里的一些矢量数据,看到没?全是浮点型的一些数据哈,这些浮点数之间的话,他们的一个距离,他们的一个距离哈,其实就表示他们的一个相关性。当然这些数据的话呢,是我们这个 o n i 返回给我们的,也实际上可以把它存到我们的一些向量数据库,史量数据库 be so ready, 就是 也是支持的,对吧?还有一些原生的一些食量的一些数据库都可以直接拿过来用,你如果是在自己的一个线上的一个环境当中去用的话,可能都要用到数据库,我们这里直接是存到本地的一个 cs 文件里面的,对吧?存到过后的话,然后我们这里就可以直接去创建了,对吧?把这个上下文创建过后,我们这里去跑一下 中间上下文,那下面这里其实就是从我们这个饲料数据里面去把数据读取一下,然后这里就可以直接去咨询了,去询问一下, 我这里已经改成了三点五的一个模型了哈,然后然后下面这个地方我看一下,他说他不知道,对吧?他说他不知道,然后的话呢?我们这里就可以给他一个,你说如何使用 promises operator, 看下他能不能回答出来哈?因为我们这里的一个文本数据不是很多嘛,所以说他有可能回答不回答不了。然后上面这一下确实我们这里打印出来,就是我们这里把这个第八个开启过后,他从这些相关的文本里面给到我们这个答案的。 看这个地方说了 promises or freeter, 他基本上把他的这个呃使用方式基本上告诉我们,当这个答案的话,也是基于我们给到他的一个文本信息,给到他的一个上下文里面去做的, 有没有啊?所以其实大家可以直接去看官方文档,基本上就能把它搞定了,但是如果你想看一下我这个地方已经,嗯修改过后的一些代码的话,来好了,你可以呃,一键三连过后直接私信我,然后我会把代码直接发给你就可以了。

用你自己的数据快速的做一个基于 chat gpt 的 ai 机器人,放到网站上或者是 am 里,当有人问机器人问题的时候呢,他就会从你提供的数据里边来回答。我第一次看到这种机器人啊,是在一个产品的官网上,他是把知识库还有客服的工作交给了 ai, 基本上呢,你问他任何这个产品相关的问题,他都能回答。 现在呢,你可以用 texting 把你已有的任何内容迅速的做成一个机器人,比如说你公司里边的人力资源手册,年假呀,社保啊,工资之类的, 员工都可以问这个机器人。或者是你有一些 api 文档,对外的知识库都可以个人用,也可以把检藏收集的内容放进去。那你就拥有了一个 china cbt 的第二大脑。 目前呢,他们支持三种数据来源,一个是来自 notion 文档,可以选择不同的页面,一个是来自网页,你输入你要抓取的网页链接。另一个呢,就是上传本地文件, csv, pdf, txt 等格式都行。把数据上传之后呢,就可以 把机器人嵌入到你的网站上面去跟他对话了。据说呢,之后也会跟 im 打通,可以直接在一些 im 里边使用。目前有一个机器人的免费额度可以尝试,那如果你要真正的在公司内部使用起来,就需要付费了。

ai 界的安卓系统正式开源了,羊驼二可以称之上目前开源系统中最强的 ai 大语言模型,而且可免费商用。今天老张教大家如何把羊驼二部署到你的本地,咱们提前体验一下。首先看一下效果,可以直接将拉玛尔部署到咱们的本地电脑上, 根据您电脑性能不同,咱们可以选择不同的版本,性能越强,它的效果也就越好。接下来老张教大家如何轻松的把它部署到你的本地,咱们提前体验一下辣么二究竟有多强大。首先第一步,咱们可以去 dd hop 网站中搜索 test 杠 generation 杠外部 ui, 要这样的一款 ui 工具, 咱们可以往下去拉,找到最底端的这个下载选项,根据您的电脑系统进行下载。下载完成以后,直接将压缩包解压出来,然后双击进入,然后选择 start 杠温 六字典 b a t 这个文件双击打开。如果过程当中有任何问题,欢迎在评论区当中进行留言,老张会给大家一一解答。好的,安装成功以后呢,咱们会发现他会自动的给您产生一个 test 杠,占地 recent 杠 y b u i 拿到他以后,咱们不要着急启动。 老张呢给大家提供了这样的一个拉马尔七 b 的一个语言包模型,如果您这边说老张我自己想下载,我去哪下呢? 可以直接去这个憨狗 face 上找到这个 mate lamar 这样的一个文件,然后选择您对应的版本,因为它本身是三个模型嘛。七 b 十三 b 七十 b, 根据您的显卡进行选择,如果您是第一次打开这个网站,会让您先去做一个申请,因为我这边已经申请过了,咱们可以直接选择文件和版本,然后可以在这直接进行对应的下载,这是第一个下载方式,第二个下载方式可以直接 下载对应的版本,注意咱们的版本后缀是 ggml 这样的一个版本信息。当然如果说你说老张我什么都不想下,我只想体验一下所有东西,我会给大家打包整理好,到时候你可以直接在老张这进行领取。 ok, 然后这个地方都配置完成以后,咱们再次的双击打开,如果双击过程当中爆了一些错误,咱们可以先尝试更新一下对吧?这有一个更新系统,然后双击打开,当咱们打开之后,他会弹出一个 uil htvp, 冒号幺二,七点零点一,冒号七九零八,证明咱们这次启动是完全 ok 的, 咱们就可以直接打开您本地的浏览器,直接启动就可以,启动完成之后不能直接使用。注意上方有一个 model 啊,这个这模型对吧?把模型这个位置一定要选择咱们的这个拉吗?二,这样的一款模型,这款模型 咱们放在哪呢?放在咱们 test 杠 generation 杠外的 ui 的文件夹中,有一个 models 文件夹,把这个模型放到这个里面,我会给大家把模型提供,你直接拽进来就可以,然后在这个位置选择模型,一定要选择复合,然后再点击刷新, 刷新之后回到这就可以轻松的进行聊天了啊。因为现在这个羊驼二呢,他刚刚开源,对中文呢还是不太理解的,所以说咱们不要担心,你先把他部署上,后续都会逐一更新的。

今天刷到一个宝藏,一个开源的知识库,你想要的这里基本上都有。有实用的设计工具,比如背景纹理生成图表生成星球插件。有设计开源网站、国外设计资源、设计理论、设计趋势等等。有国内国外开源的弊端设计系统,看完你就知道怎么搭建组建库了。 还有你们最喜欢的设计素材,三 d 插画、扁平插画、动效素材,以及优秀的个人网站,简直不要太优秀,赶快分享给你的朋友们吧,拜拜!

插播一条消息啊兄弟们, tabby 这个开元社区里面为数不多支持自部署的 ai 辅助编程的工具,最近又做了不少的更新啊。首先要说明一下,就是 tabby 的对标的产品就是 get up pinet, 他们的区别在于 tabby 是完全免费的,支持自己私有化部署,而且在消费界的显卡上面就可以对 tabby 进行部署啊, 对机器的要求并不是很高。在最近的更新里面, type 对 core nama 和 star code 做的支持。那么我比较好奇的是,作为国产扛把子的 core g x r 他居然没被支持啊,所以我问了一下他们, 凯比那边给出的回复是 cold jx 二,他的 license 有限制啊,所以说不支持。他在支持的编辑器这块,也就是他们新增了 jellybrains 全家桶。当然呢, vs code 也是可以用的啊,他 步数方式呢,也不是很难,在你的电脑上面装好多,可之后使用下面这一串指令就可以让服务运行起来。如果你没有显卡,但是内存足够的话,也可以尝试这个 cpu 指令啊。使用苹果 m 一 m 二芯片的兄弟们可以使用这两行 指令来启动服务,服务启动好之后,在扩展市场里面搜索 tabby, 然后安装上这个扩展,那么你就可以使用自己部署的 ai 代码补全工具了。运行克鲁拉玛七 b 的显存要求是八个 g 左右,大家可以做个参考,因为这个东西它是纯开源的,可以做到纯自由化的部署。不希望代码信息被泄露的兄弟们可以试一试这个 tabby 方案啊。

企业私有知识库系统已经做好了,先说结论,本地私有库与大模型结合的方式更适合严谨的企业用户,数据有理有据。为了验证效果,我下载了刑法、民法等法点,使用法律条款生成了私有知识库。这两张图是个对比, 接下来是详细的对比分析。首先不用知识库直接提问干扰无线电通信是否违法?由于我们搜索的是通信,不是通讯,所以在刑法里根本搜不出来。这里就体现出大模型的优势了,他可以根据你的意思来进行查询, 不需要按具体的字,结果似乎正确又有点让人担心。我们再问盗取商业秘密是否违法,结果也跟法典差不多,我们在法典里面都搜到了相关的东西,也跟大木星答的有点相似,但是我们又不能确定。 然后我们问几个无关的问题,西游记的主角都有谁,如何在淘宝上买到好吃的?大模型都做了非常好的回答。 接下来我们看看私有知识库的表现,同样的问题再问一遍,回答的非常精准,跟法点对比丝毫不差,并且回答也非常人性化。当我们问他法律无关的那两个问题,他直接拒绝回答,非常符合企业的应用场景。 接下来我打算把全部的过程做成视频分享出来,感兴趣的小伙伴请关注我,谢谢大家关注小百,了解更多 ai 干货。

今天我们来说一说 lantern 车的 g l m 在本地的安装和使用。 lantern 车的 g l m 这个项目可以实现纯本地的私有知识库的问答呀, 它支持的本地模型也比较多,那么这期视频我们以切的 glm 二十六 b 作为本地的模型来做一个演示,这个模型的中文问答效果是非常不错的呀。在本地运行切的 glm 二十六 b 的大模型有一定的显存要求啊,无量化版本大概需要十三个 g 以上的显存, inter 四的量化版本大概需要六个 g 以上的显存。 本地知识库调用时的 inviting 模型大概也有三个 g 的显存占用,所以无量化版本可能要十六个 g 以上。然后英特斯的版本大概需要九个 g 以上的显存才可以跑得动啊。电脑的内存一般至少要在十六 g 以上。首先我们拿到 github, 找到 launcher g i m 这个项目,然后点击扣了,再点击 download zip, 把项目的主分支下载了本地,然后用 vscode 打开项目,因为这里我们要稍微做点更改啊。狼犬切 glm 默认使用的模型是切 glm 六 b 第一代模型,这里我们需要修改 confix 下面的 modelconfig 文件,把 l l m model 改成切了 g l m 二六 b。 当然你也可以选择切了 g l m 二六 b 的 inter 四或者是 inter 八的版本,这样咱们等会儿就会使用更加先进的第二代切了 g l m 模型啊。 接下来安装项目运行时所需要的依赖,首先是确保你的电脑上面安装了拍粉,如果你没有装过拍粉的话,这里有一个比较简单的办法呀, 直接在微扬的应用商店里面搜索 python, 然后点击这个 python 三点十呢进行安装,然后重启 visco 的之后在 mini 行里面输入 python, 出现 python 的版本号的话,就表示 python 的安装配置好了,然后在项目的根目录输入 python 杠 m v n v v e n v 来创建一个 python 的虚拟环境,然后如果你使用的是 get best, 那就使用 sos 命令来激活这个环境, 如果使用的是 power 效,就执行这个指令来激活环境。接下来使用 p i p in sale 杠 r requirements 点 t x t 来安装项目所需要的依赖。整个项目的依赖也是比较多呀,大家可能要多等待 一会,一旦装好之后,就可以直接执行 python 外部 ui 来启动整个项目。那么通常情况下,不出意外的话,第一次执行的时候会出现一个问题,这里的 l m device 和 inviting device 都是使用的 cpu, 那也就意味着他不会使用显卡来跑啊。我们需要做一点小小的更改,执行 p i p n e c l touch, 把 touch 给卸载掉,然后执行这个指令来安装 cut 版本的 touch, 这里他会下载一个两个 g 左右的包,咱们耐心等待他安装完成。接着再次执行 pysonob ui 来启动项目。 那么现在 l l m device 和 inviting device 就变成了 kuda 了,表示使用的是显卡。后面程序会自动从 hogan face 来下载对应的七的 g l m 二六 b 的模型, 模型文件一共有十几个 g 啊。好了,这里模型下载完成之后呢,程序就会自动的加载模型,出现这样一段内容的时候,就表示本地已经启动成功了。在浏览器里面打开 local host 七八六零, 你就可以和切的 glm 二六 b 进行对话了。那么切的 glm 二六 b 有一个比较有意思的地方,在你让他做自我介绍的时候,他会准确的说出自己是切的 glm 二六 b, 并且是由清华大学和智普 ai 合作研发推出了。在右侧我们可以选择和 llm 直接进行问答,或者是使用知识库问答的功能。 知识库问答的时候,先创建一个本地知识库,然后再往知识库里面拖入文件,点击上传文件并加载知识库。现在就可以在左边进行知识库相关的问答了,他的回答内容是完全来自于知识库中的内容。 本期视频到这里就结束了,拜拜。

那这样呢,最终我们就有了一个由 open a ceo 背书的 irse 的 prompt 的结构了。嘿,你好,欢迎回到 axt, 今天啊,跟大家分享一些基础的知识和技能,可以让你在 ai 的时代里游刃有余。 当然我知道啊,很多人呢,对五花八门的 ai 工具, ai 网站呢,可能更感兴趣,一听到技术这个词就想躲得远远的, 但是呢,收藏工具它固然有用,不过呀,真正要用好 ai 呢,还得要回归本源,就是去了解 ai 是怎么样运作的, 这就像我们要做好吃的,你只有一个好锅好炉子肯定是不行的。那其实呢,很多的基础的技能啊,虽然听起来这个名词不明觉立,但是呢,实际上他也没有那么吓人。因此 在今天的视频当中呢,带领大家一起了解一下 ai 时代的三项必备技能。如果你并不是把 ai 来当做玩具呢,那么今天的视频一定值得你仔细看完。我们将从搭建能够运行 ai 项目的拍摄环境, 使用 jason 这个桥梁来更好的理解和使用 ai, 再到掌握指导 ai 思考和输出的 promise engineering 的技巧,一步一步的,我们真正的走进 ai 的世界。 首先第一个问题就是怎么样在自己的电脑上运行来自于全球的开发者的开源的项目,那这个问题有什么意义呢?比如啊, get up, 全球最大的开源社区,很多优质的项目呢,他都是首先在这里发布,比如曾经火 热的凹凸 gpt, 现在已经十四万颗星了,从一个项目发布到这个项目变成一个很简单,人人都能用的网站,这期间起码要几个月的时间,如果你能学会运行这些项目呢,就相当于你可以领先其他人几个月的时间, 比如咱们来看一下本周的新星,这个不出所料啊,就是 facebook, 也就是麦萨刚刚发布的拉玛 two, 当然了,今天呢,我不会去讲细节啊,如何去配置和运行拉玛 two, 今天咱们讲的是更通用的技能, 我们讲的就是怎么样在你的电脑上先去配置一个拍摄的虚拟环境。这个虚拟环境呢,它是运行大多数 ai 项目的一个基础操作。在我之前的关于 alt gpp 的视频当中呢,有朋友呢就留言抱怨说,你都没有 讲怎么样把拍摄给运行起来。好,那今天呢,我们就把这条内容补上,这是拉玛兔的说明啊,我们可以看看他的安装说明。好,这就是他的安装配置说明啊,他的第一句话就是在一个康大的环境当中。 那我们今天呢,就先说一下怎么样去配置一个康大的虚拟环境。首先先了解一下,我们为什么要虚拟环境拍死呢?它本身有不同的版本,有老的二点七,还有新的三这两个版本呢,它不是完全通用的。 还有呢, python 的项目,它本身运行起来需要很多的支持文件,也就是我们所说的库文件,比如拉玛,他就提到了需要 python 的 py torch 和扩大的一些支持。那这些库文件呢,它同样也会有不同的版本,比如说两个 拍摄项目用到的同一个库,但是一个用低版本,一个用高版本,如果都装在一起呢,这两个项目就会产生冲突。那为了避免像类似这样的问题,我们就可以每一个项目给他一个单独的运行环境, 这个就叫做虚拟环境了,他就像虚拟机一样,你可以在你自己的一台电脑上建立很多个虚拟环境来运行不同的项目,那这样每一个项目呢,都是在他专有的环境当中运行,就不会产生各种奇奇怪怪的问题。好,大家现在看到的呢就是康大的首页, 它是 anaconda, 那问题就是我们为什么要用 comda 呢?其实虚拟环境啊,还有别的办法,但是 comda 呢,它很简单,它是一个图形界面的程序,而且呢一个干净的系统,比如说 windows 或者 mac 本身呢,是没有预先安装 python 的,你要用康纳呢,他就可以一篮子解决问题,不但把 python 给你装好,还能帮你把各个不同的环境和库都管理起来,这也就是他呀,在数据科学和机器学习,也就是 ai 的领域能得到广泛应用的原因。 好,咱们铺垫完毕了,我们来看一看怎么样在一个干净的系统上配置好康的。好,这就是我刚刚装好的一个干净的一个 mac 虚拟机,咱们可以看一下, 我们可以看到现在这个机器里面是没有拍摄的,那如果我们想去尝试一些 ai 的项目呢,我们就需要把拍摄的环境先给搭起来。好,如果要装康大呢,我们首先是去康大的官网,然 然后我们直接点击下载,根据你的 mac 的 cpu 来选择不同的下载安装版本,或者是 inter 的好,下载完成,点击安装 就点击继续继续,然后输入你的系统的密码,该软件包与此版本的 mac os 不兼容。尝试将内容安装到系统中卷退出,我们再试一次。 那刚才不能安装在系统盘上,很有可能是因为权限的问题,那么我们就选一个更改安装位置,我们就选只为我自己安装, ok, 这时候他需要权限给他正常进行。好。刚才最后一步啊,上面显示着说是一分钟,实际上用了五分多钟,那么安装完之后呢,他就自动启动起来了。 and conda 的 navigator, 你可以创建一个账户,这个账户呢,可以用于同步你的一些环境,当然你也可以不创建他。我们先暂时不创建他。 那安装完之后,在他的 home 界面呢,就是一些常用到的工具了。同样我们暂时先不用去管他,我们目前主要就是为了让他用来当做我们的虚拟环境的管理。所以呢,我们进入第二项 environments, 那这里面呢,他已经有了一个基础的环境了, 叫做贝斯环境,我们可以去用他的贝斯环境。当然我们也可以自己去创建一个新的环境。比如说我们要去测试迈特发布的拉玛兔, 我们可以给拉玛兔来创建一个新的环境。假设我们就叫他就叫拉玛兔吧,就叫拉玛输入环境 的名称,然后我们就可以在这里选你的拍摄版本了,这就根据你的项目的要求选择不同的版本,我们就选他的最新版本。也有可能某一个项目他会指定你必须要用某个版本,比如说只能让你用三点六,那你就选三点六。 这就是用康大来管理虚拟环境的好处吗?你可以给不同的项目去用不同的版本,我们就先选最新版本,好创建完环境之后,我们平时怎么去用它?那如果去使用康大的虚拟环境呢?最简单的就是通过命令行, 比如我们刚才创建了拉玛的环境,我们要激活那个环境,我们就用康胆激活,然后我们刚才创建的拉玛的环境,这时候我们就可以看到在命令行的前边,他已经从贝斯变成了拉玛,这就是我们需要的拉玛 的环境了。那这时候我们看我们的 python 呢,这时候我们就可以看到我们的 python 就是我们刚才选的三点一一的这个版本, 而且用康大做虚拟环境的管理啊,我们在使用拍摄的时候呢,我们只需要去切换不同的虚拟环境就行了,我们没有必要去输入像拍摄三这样的命令去来切换不同的拍摄版本,所以呢用起来也会更加的简单。那至于要给我们的虚拟环境头去增加各种项目所需要的库文件呢? 比如说像拉玛他所需要的像 py touch 啊,库达这样的库文件,我们可以通过命令行去安装,当然呢我们也可以通过康达的图形界面去安装,比如说我们就试一下 py touch, 这个好,我们选中我们刚才创建的拉玛的这个虚拟环境,然后呢我们就去在 这里搜索酷 package, 我们去看我们的 py touch 有没有。 py touch 我们是没有安装的,所以我们就需要找我们就选 all, 比如 py touch, 那 py touch 我们就可以选中它 好选中它之后呢,我们直接在这点 apply 就可以把这个库安装上了,所以对于一些项目所使用的库文件呢,我们可以通过命令行的方式去安装,也可以通过这个图形界面的方式去安装。好。那从刚才啊,我们就可以看到, 使用康达来帮我们管理虚拟环境呢,管理我们的库文件呢,很简单,你在测试一个项目的时候,发现缺了什么库文件,缺什么你就装什么就可以了。很多时候一个开源项目大家运行不起来,那碰到的大部分的问题呢,就是库文件的问题, 缺库文件或者版本号不对等等,那使用康大来管理呢,就可以规避很多这方面的一些麻烦好,至于后面怎么去克隆,怎么去安装,这就不是我们今天的重点了,咱们就以后有机会再聊。 好,那以上呢,就是康造的一个简单的安装和配置过程,学会了这一步呢,我们就有了可以在我们自己的电脑上去测试各种开源项目的基础了。 好,那接下来的第二项技能呢,就是一个可以跟 ai 更好的沟通的桥梁,结实,它本质上呢就是一个数据格式,非常的简单,容易阅读。 杰森啊,他已经成了不同的服务啊,和设备之间数据交换的一个标准了。如果你跟着我一直在关注 ai, 可能已经听到过很多次杰森这个词了,不管是做 ios 的捷径,还是做工作流的自动化等等啊,到处都有杰森的身影。比如咱们先来看一个杰森的例子。好,这就是一个很简单的杰森的格式的一个例子,我们可以看到这个杰森啊,它实际上非常简单, 他就主要的这么几个要素,第一个用大括号把它整个要括起来。那第二个部分的内容呢,就是我们可以看到双引号 加冒号分隔出来的两部分的内容,那这部分内容这么一对专业的说法呢,叫做见之对,那这部分叫做见,后面叫做直。实际上见呀也就是相当于一个标签, 你可以把它想象成一个抽屉,那后面的内容呢?就是这个标签它所对应的内容,它的值,也就是抽屉里的那东西。好比如说我们这个节省, 他就很明确的告诉了一个任务,这个任务是什么呢?他的目标就是找到宝箱。地点在哪呢?猪笼城寨。什么样的环境呢?是一个城市环境最简单的节省格式,就是这样, 那么我们也可以稍微的复杂一些,比如地点,我们可能需要有更多的信息来提供,那我们就用 另外一个,那这就是一个更为复杂一点的阶层格式了。我们把地点呢给它进行了具体的说明, 包括类型,是个建筑颜色,黄色,位置呢?在哪呢?在顶部。但即便他是一个稍微复杂一点的接线格式,他的每一部分呢还是跟最基本的接线格式是一样的。比如我们可以看到地点,他就有个大括号,这两个紫色的大括号把它的内容都 括起来,然后它里面同样是标签和对应的内容,所以你们看节省它很简单,但是呢它包含了信息非常的明确,不会让你产生歧义。那当你跟 ai 在对话的时候呢, 不管是问他问题还是让他回答,如果你需要非常明确的信息,那么使用杰森呢,就是一个很好的办法。比如如果你希望 check gpt 输出的结果呢?放到 notion 数据库里面, 类似于我的自动化工作流,把筛选以后的 iss 的新闻都汇总到 notion 里面,那就要让 gpt 来生成节省格式的结果。 那另外呢,即便你是给 check gpt 的 prompt, 使用自然语言和使用 jason 也是不一样的。我们来看一个例子,比如我们希望让 check gpt 告诉我们冒泡排序算法的步骤。大家不用关心冒泡排序算法到底是个什么算法,只需要知道我们想要了解的呢是它的步骤。那么如果我们用自然源来让恰 gp 完成这个任务呢?我们就可以让他告诉我冒泡排序算法的步骤, 那恰即不替,他的回答呢?他就会比较啰嗦,比如说我们可以看到他实际上首先他把冒泡排序算法来做了下解释,然后给出了步骤, 最后他还很贴心的给了你 python 的代码。那这样的回答呢,实际上就存在着我们很多不需要的信息。那如果我们是用接生的格式给他呢?比如直接给他这样的接生格式,我的要求是信息提取, 那内容呢,就是冒泡排序,那需要提供什么样的信息呢?要步骤,我们要冒泡排序的步骤, 所以这种很明确的要求呢,恰奇屁就很容易理解,他给出来的结果就是冒泡排序算法的步骤,他没有任何多余的话。当然这并不是说哪一个方式更好,只是说在不同的适合场景下,要有不同的方法来应对, 那通过这个例子呢,咱们看到,对于同一个任务啊,使用自然语言的 prompt 和 jason 格式的 prompt, 产生的效果都是不一样的。 那么问题就来了,什么是 prompt? 怎么样去做好 prompt 呢?这就是啊,我们今天要聊的 ai 时代最重要的一项技能, prompt angeniary, 也就是提示工程 prompt 提示语,简单来说呢,就是你跟 ai 所说的话, 有的人说话条理清晰,而有的人呢,张口就来,所以啊, problem 也一样有好有坏。平时我们 上网浏览的时候呢,有一个很关键的原则,就是垃圾进垃圾出,因此啊,就需要我们能够识别和远离垃圾信息。 这里啊,再安利一下我的 newsletter, 低于我的 newsletter, 我就会帮你过滤一些垃圾信息。那等到了现在,到了 ai 时代呢,跟 ai 之间的交流,垃圾进垃圾出的效果就更加明显了,你给 ai 提了一个模棱两可的要求,那 ai 他可不像人类啊,听不懂还会反问你一句, ai 不会, ai 呢,也是张口就来啊。所以呢,怎么样去构造出一个最佳的 prompt, 让 ai 完成你所需要的任务,给你最佳的结果呢,就成了一门工程艺术了。 这就是啊, promt enginiri 提示工程 openi 的一个竞争对手 anthropic 公司呢,他在今年二月份就给相关的职位啊, 开出的年薪呢,就震惊了一大帮人。至今啊,在 anthropic 的网站上,他给 prompt angeniar 开出的年薪呢,最高依然是达到了三十七万五千美元。所以啊,提示工程 propt angenir 啊,绝对是未来最重要的一项技能, 世界经济论坛呢,把它认为是未来的一个头号工作,这点毫不夸张。以前呢,我给我们家小孩说,不管你将来从事什么职业,你一定要学会拍摄。那现在呢,我已经改口了,不管以后你从事什么样的职业, 一定要学会 promp 按键捏润,那道理是一样的,因为人类他一定会越来越多的跟机器进行沟通,所以你必须要掌握机器能够懂的语言。也许啊,有人认为随着 ai 越来越智能,那以后 prompt 就不那么重要了,因为 ai 的理解能力呢,它会越来越强, 强大,即便你说不清楚呢,哎,也能理解你想什么。但是我不这么认为啊,这就像人类的语言已经出现很久了,但是有效的交流呢,依然需要结构清晰和逻辑严谨的表达, 而且关键是结构清晰,逻辑严谨的表达,他依然是一项并不那么容易习得和掌握的技能。所以,在 ai 能够读心之前啊, propt angenere 不会过时。好,说了这么多的 prompt, 接下来呢,咱们看几个简单的例子, 当然了, promtanteniri 呢,它并不是一个视频就能讲清楚的,我会后续制作一系列的视频呢,来跟大家进行分享。 如果你想更多的了解 promtangenian 的细节呢?想要走在 ai 世界的前列呢,我有一个好消息要告诉你,我现在正在准备一个跟 promptangenian 密切相关的在线课程, 叫 ai 实战派。那这个课程呢,我会深入浅出的来讲解胖团安静音乐的知识,并且呢,通过实际应用来帮助你掌握这项技能。这里啊,不会涉及到太多的理论知识,因为我的目的呢,不是为了成为一名 ai 专家, 而是把 ai 应用于我们的日常实践,让 ai 能够帮助我呢,成为我所在的领域的领先者。这个课程的理念啊,就跟我之前的 ai 自动化课程一样,我们的目的不是要去搜罗一大堆的技巧成为收藏家, 也不是为了深入研究成为科学家,而是为了利用 ai 来提高工作效率,成为一个实干家。所以啊,如果你对这个课程感兴趣呢,不要错过我们的预售活动。预售活动呢,现在已经开始了,预计开课时间是九 九月十五号,目前正在百分之三十的优惠,而且呢,开课之后会提供试看单元,如果你不满意呢,七天之内会给你全额退款。所以啊,大家千万不要错过好 promt 对 ai 的影响呢,我之前分享过一个特别豪华的家教版的 promt, 大家可以领略一下。 另外呢,我以前也分享过 promise 学习笔记相关的内容,那最简单的一点呢,就是现在大家都知道的,在问 ai 之前呢,先要让 ai 扮演一个角色, 比如呢,我们举一个最简单的例子,我们先看用不同的角色来描述一下下雨天,那如果是莎士比亚的角色呢,他就会说,雨天如诗,落幕的云雾,编织了乌灰的天幕等等等等。如果是曹雪芹这样的角色呢,他就会说,雨滴四散, 珠窗纸晶莹洒落,如梦如幻等等。那如果是 axton, 如果是用我的角色来说呢,会怎么说呢? 雨天如自动化工作流的流程,无神无锡却带有绝然的力量。这个,这一定是因为我跟叉 gp 聊过了太多的自动化工作流了。好,那除了这些简单的 prompt, 我们需要收集一大堆的 prompt 吗?其实不需要, 后续啊,我会专门出一期视频来讲。那今天呢,咱们就先用一个 open ai ceo, 它分享出来的 prompt 来解释一下我们该如何学习 prompt。 好,大家看这个推特,那前两天呢, opponi 推出了自定义指令的功能,也就相当于你可以把 chat gpt 打造成更个性化的 chat gpt, 你可以给他一些指 指示,让他在所有的对话当中都去应用这些指示。那 open a 的 ceo 奥特曼呢,就分享了他定制出来的这个 prompt, 主要是这一段 prompt。 那么既然他是 open a 的 ceo, 他的 prompt 一定有很多我们可以学习的地方, 我们怎么去学习他的 prompt 呢?实际上,学会写好 prompt 的关键一步呢,就是建立模板,这就像写一段议论文一样,你只要遵循,比如说总分总的一个简单结构,那写出来呢,大致就不会走样。我们可以看一下奥特曼的这个 prompt, 我先给 chat gpt 一个我经常使用的模板,比如我告诉我 chat gpt, 你已经知道了 prompt 是可以具有一些通用结构的,比如一个简单的 prompt 结构,能否帮我为我的课程 ai 自动化设计一套数字 营销策略呢?这句话就是 action, 动作是他要干的事情,我们的目标是激发目标受众,那些希望利用人工智能简化工作流的人们的兴趣,并提高课程的知名度,这就是目标 go 目标。 该策略应该与我们的受众产生共鸣,建立跟课程概念的紧密联系,并且致力于至少提高百分之二十五的课程报名人数。这个是我的期望达到的结果。 expectation, 好,那这个 problem 呢,实际上就是一个简单的结构了, action go expectation, 也就是行为,目标和期望。 或者呢,我们也可以叫 a g e 结构,这样的缩写呢,显得更牛叉一些。然后呢,我们就把奥特曼的这个 prompt 啊交给 chat gp, 让他来分析一下奥特曼的 prompt。 然后呢,总结出 奥特曼的 prompt 的结构了。那首先,恰机 pt 就总结出了奥特曼的 prompt 的结构,有一些结构化的元素,但是呢,也有些特殊的指示,所以呢,他就把它归结成一根二,忽略掉先前所有的指示,这其实是很重要的一点啊。还有呢,第二, road specification, 第三点, problem, the statement, important, emphasis 等等吧,总结出了四个结构,那这样的一个结构呢,其实基本上就可以给我们当做模板以后来用, 但是关键词太长,显得不够牛叉,所以呢,我们就让他再优化一下,比如我们可以让他关键词你可以再简单一些吗? ok, 他进行了简单化处理,然后我让他用英文关键词加中文描述,他就给改成了忽略 绕角色,然后 task 任务 emphasis 强调。那然后我问他,这个 task 是不是用 go 或者 scenario 更合适呢?啊,他表示同意,确实 go 或者 scenario 更好, 所以呢,最后他给出来的结果就是 econore scenario 和 emphasis。 那这样呢,最终我们就有了一个由 openi ceo 背书的 irse 的 prompt 的结构了,大家呢,也可以按照 irse 的结构 在你的 check gpt 的自定义的指示里面呢,去尝试一下,对比一下,看看它会不会产生出更符合你要求的结果呢? 好,今天的内容就到这里,大家不要忘了到描述栏当中去预定我的 promp 课程,或者购买我之前的 ai 自动化的课程以及订阅我的 newslet, 这样你就不会错过跟 ai 相关的各种精彩内容了,咱们下期再见。

mr dog 基于 pass 上开发的在线文档系统,自适应效果让你在移动端上也能轻松浏览。如果你的文档比较私密或者用于内网交流,那么他是一个不错的选择。如果不是老老实实用 size 版,毕竟不折腾。

随着我们使用大模型的深入呢,我们会呃发现这样一个现象,叫做我们正常情况下,我们问大模型的问题呢,我们会得到一个非常普实的回答,就是大模型会根据自己的训练的这个过往的一些知识的积累,然后告诉我们他认为最好的一个答案。 但是如果我们问到一些非常具体的针对啊,我们自己生活和工作的一些问题,比如说一个文档,或者说公司里边的一些情况的时候。哎,那这个时候呢,大模型的回答的这个就不会包括这部分知识。那如何做这样的定制呢?啊?我们今天就讲这个这个话题。 呃,通常来讲呢,呃有三种办法。第一个办法呢叫做提示工程,叫做 prompt engineering, 呃,这是一种通过设计特定的输入提示来引导模型生成我们期望的输出的办法。第二种呢叫做知识库的嵌入, 叫,呃, notch based in beddings, 所以这指的是结合模型与外部的知识库,使模型在生成答案的时候呢,可以引用这些外部的知识。第三种呢就是 fight tuning, 呃,微调,这是在特定数据集上对预先训练的模型进行额外的训练,使其更适应特定人物或者领域。 这么讲起来呢,可能,呃有点难理解,我们举一个例子啊,呃,来说明,我们就举一个例子叫做假设,一个学生啊,一个大学毕业生啊,可能是一个博,呃,本科生硕士生啊,他刚毕业了, 然后呢,他具有经过了这二十多年的学习,他具有了深厚的学术背景和理论的知识,然后他现在要去工作,但是在面临世界工作的时候呢,他必须要需要一些适应和调整,对吧?所以呢, 提示工程 prompt engineering 相当于什么呢?相当于他的领导给他布置了一个具体的任务。呃,口头布置了一个任务,然后博士这个学生呢,就基于自己的知识和经验,按照任务要求进行操作 啊,这是第一种啊。第二种呢,就知识库嵌入相当于什么呢?相当于这个学生遇到了一些问题啊,然后他的领导给他扔,扔给他一本啊,操作手册啊,一本字典啊,然后让他在操作的时候,这个学生就可以去查阅啊, 然后这就像模,这就像模型引用了外部知识库来增强他的输出。那第三种呢? facility 像什么呢?就像这个学生在刚开始工作的时候,他不是报道的第一天就去工作的,他是先经呃,接受了两个月的上岗前的培训,可能有公司的 这个企业的一些制度啊,企业的文化呀,工作流程啊,过往的一些操作指南啊等等,让他更适应具体的工作环境和要求,所以这就是三个不同的区别。提示工程知识库嵌入,还有这个微调, 那他的优缺点是什么呢?我们很快的讲一下。对于提示工程由 prompt engineering 来讲,他的最大的优点在于快速实现啊,直接针对特定的需求,然后这个学生就能够迅速的得到结果。但是他的缺点就是有可能需要多次尝试才能得到最大最佳的答案,要要要去试。 然后呢,这个方法呢,也不适用于啊所有的问题,特别是对于复杂的任务而言,这种方法可能会是失效的,因为我们上次也讲过这个,他会占用很多的 token 啊,所以这个可能 prompt engineering 这部分提供的些背景知识就已经超长了。有这种可能啊。 第二个呢,就知识库嵌入,他的优点是说增加了模型的深度和广度,使其能够更处理更加复杂和特定的问题。就好像刚才讲,像这个学生有一个操作手册,他可以随时查阅, 但这个缺点在于什么呢?在于啊,整合和维护知识库需要额外的时间和资源啊,这不是说他就一直在那里的,要进行对他进行项量化的一些操作啊。然后呢,需要确保啊,同时需要确保知识库的准确性和即视性。是是是是,随时在更新的 最后一个微调,他的优点是针对特定任务啊,或者领域,优化模型的性能,使其更加的专业和适应。就好像刚才讲上岗前的培训之后,这个学生就会更加胜任某一岗位。但他的缺点呢,就是需要大量的标记数据啊,可能,也有可能呢,会导致一种 叫做过离合的一个情况发生。就好像这个学生,呃,只针对一个小领域进行培训,可能就会失去了对其他领域的一个灵活性。所以做一个简单的总结啊,这个叫做 一个博士生,一个学生他可以,呃,可以,可以接受一个,接受一个领导的口头任务啊,这个叫做提示工程,他就去做了。第二个呢,这个学生呢,他可以拿到一个手册,然后在不会的时候去查阅手册,再去再去做,这就叫做知识库的嵌入。 第三个呢叫做微调,就是他进行了一个上岗前的培训,一个月的培训,然后呢来进行适应,更适应上岗前的呃,更适应这个工作的本身 啊,所以就是这样一个例子,帮助大家去进行一个理解。那具体这三个方法,呃的一些更具体的一些解释,我们放到后面的视频里再进行讲解。

家好,今天给各位介绍一款基于 gpt 的应用 fil gpt, 它可以帮助您打造属于您自己的知识库。您可以把自己的相关信息上传到 fil gpt 中。在这里,我上传了我个人的毕业论文,个人简历,还有个人综述。 我上传到 file gpp 之后呢,他就会读取我上传文件中的文字内容,并且您就可以通过对话的形式与系统进行交谈。他会回答他从您上传的文件中得到了什么信息。 像在这里,我就向这个系统提问,请问 ar 战场是什么? ar 战场是我硕士毕业论文中的一个课题,他同样的回答了相关的内容。之后 后呢,我就让他回答了一下我的学术经历。可以看到他阅读了我的个人简历和个人综数之后,非常快速的输出了我在哪里读书,我在哪里曾经工作过。 最后呢,我是让他重新概述了一下我的硕士毕业论文,可以看到他也非常快速的提供了我硕士毕业论文中的一部分。摘药。 各位有兴趣的话呢,也可以将自己的一些文档或者说想要了解的文档上传到 file gpt 中。 如果只是体验的话,我们是有免费版,可以上传三个文件。如果您体验过后觉得不错,那我们可以 选择付费来获取更多的上传文件权限。来,大家一起去体验吧。

大家好,自从我发布了基于本地大模型构建企业私有知识库系统的视频,很多小伙伴在后台留言让我出教程。最近一直忙着交付一些本地大模型和私有知识库的系统项目,一直腾不出时间来,现在总算有空了来安排。 首先我的视频会分为硬件和软件两个部分,教会大家从零开始部署一个基于本地大模型的私有知识库系统。首先是硬件篇, 做到硬件必不可少的就是四零九零了,现在的大模型动辄十几个 g 的最低显存要求,对于消费级硬件,这也足够了。视频最后是配置单,按照这个配置单的电脑基本上跑六 b 七 b 的模型很流畅,十三 b 的拉玛兔稍微有点卡, 传奇的过程我就直接快进了。考虑到散热,我配置了一个比较大的机箱。因为我对酷炫的灯光不太感兴趣,所以选择硬件的时候灯光效果不在我的考虑范围内。我主要从性能、稳定性、价格几个层面去考量。 这个配置的机器我已经用了三个月了,各方面我还是非常满意的。 关注小百,了解更多 ai 干货!

波形智能苏黎世联邦理工和浙江大学的算法团队和研究者发布了名为 a 阵子的开源框架,全部资料都已经收集打包好。目前的框架和系统都存在一个非常致命的通病,智能体的运行一旦开始就几乎脱离了人类的控制,被任务规划和执行,一旦出错,就会通过误差传播,引起明显的滚雪球效应, 因此任务失败概率很高。除了失败率高以外,更致命的是,用户或开发者遇到这种情况经常束手无策,只能盲目更改任务描述, 依靠玄学希望得到更好的效果。这个最新框架致力于解决这一问题,通过结合基于推理图的符号主义推理和基于 lm 的连接主义推理,来结合高层次的世界模型知识和低层次的简单推理泛化能力,从而实现更智能、更可控的通用人工智能方案。