之前用 ai 技术开发的配料表识别程序需要自己编写 ocr 代码,而讯飞最近更新的星火大模型增加了多模态能力,可以直接识别图片中的每种配料,无需编程。 说到编程,星火大模型也可以快速生成代码,这里让他用拍子做人脸识别,他完全可以按照我们的指令,用红色检测光,绿色字体标注出人脸。此外,星火还内置了许多编程助手,可以直接用。 本次更新的另一大亮点是插件能力,用简历生成插件,可以轻松帮你生成简历模板。想体验讯飞星或大模型的朋友,我为大家申请了专属注册,链接放在了评论区,专属链接注册免费,秒通过即可上手,免费体验,无需审核等待。 苹果大模型也开放了 api, 支持多平台、多编程语言调用。通过专属链接可以获得比常规注册渠道多百分之三十的 api 额度,两百万一点五版本的 tokens, 两百万二点零版本的 tokens, 累计四百万讯飞星果大模型 api 使用权益。
粉丝2.5万获赞18.0万


调用 rest for 的接口的时候,调这个 chat post 的接口的时候呢,就是我们会发现他返回的时间有些时候会比较久的,因为他不断的在循环的在输出一些内容啊,那么我们看看就是有没有一种方案,就是通过流逝接口的调 调调用的一种方案。我看了一下他们这个 a p i 这个里面还是有的,所以我今天跟大家稍微简单的演示一下,先发指令快速群 对吧? history knowledge base send 到服期端,服期端接收之后就不断循环,如果他能拿到数据就不断的去循环,然后判断这个这个快速这个回答是否已经结束了,如果没有结束,那么他就一直把呃拿到的这个 message 啊,就放在这个 response 里面,我放在一个 list 里面, 如果结束的话,那么他就通过这个循环跳出来了,跳出来之后的话呢,他这个链接就自动断 断,断了,断了之后的话呢,我们可以看到它这个,它这个 response 的话,我就会把它打印出来,那么它这个反馈到底是什么啊? 我们可以看一下,或者我直接把它返回吧, 那你就直接把它打出来就可以了。 power 我们看一下,运行一下, 那么他还是流逝的把这些数据给返回出来,然后这个是 question 啊,然后这个是 answer, answer 他就回来了,然后这个是文件的出处啊,他也会 告,他也可以告诉你这个文件出售在哪里,他等于是这样。那么服务器端的话呢?他也是欧本 close 也是比较正常的啊,我在这个原代码里面也稍微改了一下,他原来这个原代码是有些问题的。嗯,在这个地方加了个 break, 否则的话他会报错,他会报错的。你强制把它关掉的话,他会报错的。好,嗯,今天就讲到这。

我今天很高兴我们再来执行这个结果, 那我们看到它的正向达到了零点九九啊,所以最终的判定结果, ctiman 的是二二,代表是正向。 人生苦短,我用拍子,各位小伙伴大家好,今天我们来教大家用拍子调用百度的情感分析接口,进行一个情感倾向分析。那我们首先打开百度的 ai 首页, 在开放能力选择情感倾向分析,我们点击立即使用, 进行一个登录, 在应用列表,我们选择创建应用,那这里我的已经创建好了,我们来演示一下创建的过程, 这应用名称随便起一个名字, 然后勾选自然远处理,那这里面是包含情感情相分析这一项的, 那下面选择公司或者个人,按照自己的情况选择,再用描述随便写一些内容,然后点击立即创建,创建好了之后 就得到这个应用,那这里面有三个关键的信息, a p p i d a p i k 呃 security。 那这三个是后面需要用到的。那第二步呢?我们来查看这个技术文档,看看这个接口是怎么用的。 那它是通过发送向接口地址发送 pos 请求, 那这里有两种方式,一种是通过 token 去发送请求,第二种是通过 k 来发送请求。 我们看一下这个实力代码 啊,第一种是通过 呃 k 的方式,第二种是通过 token 的方式。让我们来演示 token 的方式,那 token 是如何获取呢?我们点击这个说明文档, 在创建应用之后,通过向这个地址发送请求,通过 a p i key 和 security key 来获取 token, 那这个就是他对应的拍层代码,我们把这个代码放到 picham 里来, 那我这里已经卸好了,那其中这个 url 里面是带着刚才应用创建好之后的 client id 和 client secret 啊。通过这两个信息, 我们来执行一下,看这个返回的结果,那这里就拿到了 access token, 那这个 token 呢?就是我们需要用到的 token, 那这里有一个过期日期, 二五九二零零零啊,这是单位是秒啊,也就是三十天的时间,那这个 token 的有效期是三十天,那我们拿到这个 token 之后呢, 就可以把这个 token 放到这里来。我们把这个 python 代码复制下来,放到 pichum 里来, 那这个请求的地址 url 里面是有这个参数 access token, 把它放到这里来,然后 请求参数 text 就是我们需要判断的文本,我们把它粘到这个地方来。 run 好,他已经返回结果了。 coffee 的知心度,零点八一 negative pro 零点九一 positive 是正向啊,零点零八啊,所以这个文本最终的判定结果是消极。 我们再再来换一句话, 我今天很高兴我们再来执行这个结果,那我们看到他的正向达到了零点九九啊,所以最终的判定结果, ct 们的 是二二,代表是正向。我们再来换一下,我今天很伤心,再来执行这个代码,最终得到的 ctimant 是零零,代表负向啊,负向的概率是零点九六 啊。这就是通过拍摄来调用百度的接口实现的一个情感请调分析。那当然我们可以通过, 比如说拿到一个微博评论的一个数据,我们就可以应用这个情感接口循环来判断每一条评论的一个情感景象,最终得到一个整体案例的 请向占比。嗯,对情感分布做一个进一步的判断。好,这就是我今天分享的内容,谢谢大家。

touchy and joy 别哭了呦喂原谅你自己的伤害让我无所谓,谁跟你那么累,你让我怎么睡?没有你的世界仿佛一直在下坠 有你的世界仿佛一直在下坠着。感情还要。

哈喽,大家好,这期视频我们来看一下如何通过拍摄的 api 来获取股票数据。获取股票数据有三种方式,一种是通过爬虫啊,我们自己到东方财富的网站上去爬取他, 那这样的话呢,会比较费时费力,因为有非常多的数据,当然也可以自己写接口,但是会非常费时费力。然后第二种方式呢,是通过数据服务商,也就是通过问的蓬勃或者是操控软件,他们会提供这样的一个付费的接口,一年几万块钱。 然后第三种方式呢,就是通过一些免费的接口,比如说一些量化交易平台,开源代码库,那这个他给你提供了一些试用的是免费的接口,你可以获取到很多数据。那我们采取第三种方式啊,因为他是免费的吧,是吧?我们来看到这里的巨宽社区这里,那我们打开这个网站之后 呢,我们可以看到啊,这就是一个量化的交易的一个社区,那这里他会给你提供一些数据,当他也有会员在这里呢,我们来看一下我们怎么去获取到我们的想要的数据。我们先来了解一下这个网站,这个网站呢,他提供 很多东西,不是说策略研究、数据字典,社区等等啊,在这里呢,我们来切换到他的数据字典这里 可以看到他这里提供了股票数据,行业概念数据,他的股票数据包括全面的行情,财务基本面的数据,然后还提供指数的数据,宏观经济数据,期货数据等等,他提供的数据还是挺多的。那在这里呢,我们主要用的是股票数据,我们可以点击进去 看一下他给你提供的这些股票的数据啊,已经给你按照这种菜单等级给分类好了,是吧?比如说你获取单支股票的数据, 可以用这种 api 的接口给你写好了,是吧?那这里呢,他们都会给你提供一个接口,然后给你提供一个具体的他的参数的含义,然后具体的调用的实力,是吧? 就是看起来很简单,那在这里呢,我们怎么去调用它呢?实际上除了这个数据字典的入口,这里还会有一个本地数据,我们通过拍摄版的 api 调用会更加的方便,是吧?这里的 有非常全的一个接口的说明和使用文档,我们来通过这个路口来了解怎么去使用这个网站给你提供的接口,是吧?那首先呢,我们来看一下 这个最基础的介绍,在这里呢,他会给你一些就是数据说明 书,是吧?呃,芙蓉 jqdit sdk 引破的心,是吧?那我们来看下他的介绍和说明吧,主要是这里首先呢我们会了解如何去开通这个 jq dit 啊,就是主要因为这个 dty 我们来如何开通, 首先呢,我们他需要去提交试用的申请,就能得到六个月的有效期的试用账号,是吧?试用账号在试用期内可以免费调用他的全部基础数据,每天可以调用一百万条,具体的试用权限呢,是吧?这都是数据。好,那我们现在就来提交试用申请呢, 在这里你需要填写各种数据,最重要的是你填写正确的手机号,然后呢他会给你输入一个验证码,你获取验证码之后点击确认提交,他就会给你 一个账号了,具体的方式呢,我在这里截图上大家也可以看一下,就是如果你写好了之后呢,他会给你一个提供给你一个账号还有密码,密码就是账号的后六位,然后你直接登录即可,是吧?在这里呢我直接登录一下啊, 那因为我之前已经注册好了,所以我这里就直接登录了,登录完成后呢,你看就会显示这个东西,是吧? 我们来看一下,我们就是说这样的话我们就弄好了,接下来呢我们开通完成之后呢,我们要看什么东西呢?就是说我们来看如何安装和使用这个, 这里呢他会给你提供一些的步骤,安装就是拍片做,然后升级就是拍片做杠优, 对吧?然后使用他呢就是芙蓉,这使用他呢就是芙蓉 jqds dk 影破心。然后在这里呢输入你的账号和密码,就可以调用他的接口了,就可以获取数据,所以呢这里我们把最基本的概念介绍完成之后呢,我们就来实干一下啊, 首先呢我们来看一下,我们要安装这个 sdk, 那首先我们来创建一个脚本,是吧?能创建一个 叫做虚幻世俗的块头的一个项目,然后我们在这里创建好这么一个项目啊,项目 里面呢我们就可以通过 fyle oppo 的,这是威斯扣的,关于如何使用威斯扣的来去编写牌程代码,这些都是比较基础的东西, 大家呢自己去了解就可以了。那在这里呢,我们直接去打开刚刚创建的那个文件夹,比如说就是 hipad, 是吧?我们选择这个文件夹,那这样的话呢,在里面 我们就来创建一个文件夹,因为我们这一次主要是获取数据,他就是数据端,所以我们给他创建一个 对他的文件,然后呢文件夹,然后在里面我们创建一个 stop 点 py, 获取股票行情数据的一个拍摄脚本文件,那这里呢,我们就可以,虽然很简单,我们 直接来到他的官网,根据官网来编程。首先呢我们需要安装这个库啊,安装这个库很简单,我们先运行一下这个脚本,然后他会弹出一个中端,是吧?我们直接 happy 数这个,然后他就会安装了, 安装的过程呢,可能会比较长啊,因为他这个库还是比较大的,我们稍等一下,然后在后面的话呢,我们会把这个登录这个 sdk, 我们需要登录他,是吧?那这里已经安装好了,安装好了之后呢,我们就要把刚刚的代码给他粘贴过来, 那这里呢我们就睡去把它引入进来,然后这里输入的是账号和密码,账号呢就是 你申请的账号, 密码呢就是账号的后六位,是吧?然后我们运行一下 这里,因为我装了很多个版本的拍摄呢,所以我需要先运行 cmd, 可以看到我的是在空的,第一个的拍摄是在空的的拍摄点 ex e, 那我们选中这个啊,选中这个来继续在直行 这里的 安装啊,因为刚刚可能安装到其他的,因为拍摄路径有很多,我安装了很多个版本,所以在这里呢,那如果你安装一个版本是没有这个问题的,是吧?那我弄好了之后呢,我们再次运行一下, 这时候是通过空的点拍成 exce 来运行这个拍摄文件,可以看到是没问题的提示,我已经成功登陆了,对吧?好的,那这样的话呢,我们就成功的去能够去登录并且使用他的接口了。 那接下来呢,我们来看一下,就是我们如何来获取行情的数据,在这里呢,他会给你提供了这么多的数据啊,有股票的,期货的,基金的, 指数的,齐全的,债券的都有,但是呢,我们只需要获得股票的行情数据,我们点击他,然后在这里呢,我们可以看到这里会有一个 getpars, 他就是获得一天或者每分钟的行情数据,是吧?在这里呢,他会有这个接口 和他对你的参数以及他的一些说明,是吧?然后呢会给你给每个参数呢介绍, 然后是 feel 啊,这也是一个参数的一个介绍,是吧?比较详细的介绍。那在这里呢,我们可以看到他的代码失利啊,我们直接 给他 copy 过来复制,然后呢我们到这里 给他粘贴上去, 为了方便演示,我分了三行啊,首先到这里我们看一下,我们先来运行一下,先运行一下代码, 哎,大家可以看到这里呢,就会得到一个这样的结果,是吧?然后这是我们钓的方式,我们简单给大家解释一下, getplax, getplaxxsh 一是什么东西呢? xs h 一, 我们来看啊, xsh g 就是上海证券交易所, xsh 一就是深圳证券交易所, 也就是说我们这个是股票代码为零零零零零一的深圳政权交易所,大家可以知道这个是平安银行是吧?也就是说他是个股票代码,加上他的交易所才能确定我是 获取哪一个股票的行情数据,是吧?然后呢艾特嘚特,就是他截止你要获取到这个 行情数据的截止时间,然后 ctrl 等于四呢,就是你要获取四条数据,你看这里有四条,是吧?截止时间是二零一五年一月三十号 两点的前面四分钟,是吧?因为他是以每分钟为一个福利款式去调用获取这个接口的,然后 fuze 呢,就是他的一个列的字段,比如说 opple, closhill, 忙,你是吧?都在这里。好,那这样的话呢,就是这个行情数据的一个接口啊,是吧?我们成功的去获取到了这个行情数据, 那关于它里面的详细的参数介绍呢?大家实际上可以在这里都能看得到,这里的话呢就是我们就可以去 仔细看,如果你有别的要求的话,你就可以换一下这里的一个参数,是吧?那我们接下来看,我们接下来看一下,接下来呢我们来测试一下, 我们刚刚只是大致讲解了一下,比如说我把这想获取十条数据,是吧?我想获取二零二一年 五月三十号的数据之前的数据,然后呢我想按照天来获取,叫做一的啊,对吗?是吧?一天,然后运行一下, 那这里就大家就可以看到,这只是五月二十八号啊,五月二十九号,刚好就是周末,是吧?五月二十七,五月二十六,五月二十五,他是按天来获取获取了十条, 然后呢是以五月二十八号,就是五月三十号之前的那两个数据来获取,是吧?那这样的话呢?哎,符合我们的预期,我们测试就成功了。 接下来呢,我们来教验一下这些数据是否正确,因为有可能他的数据是错的啊,那这样的话呢,我们通过这种量化交易呢,得到的结果也肯定是错的,是吧?那有了这些数据之后呢,我们来对照一下,怎么对照呢? 非常简单,我们还是到哪里呢?到我们的东方财富王,然后呢在这里我直接输入股票代码就行了, 哎,他这里会显示深圳交易所的一个股票代码,我们点击他的行情, 这里呢就是你看平安银行是吧?经开二十四点六八,那这个就是五月二十八号的数据啊,因为我是获取最新的数据的,对应到这里的接口呢,就是二十四点六八,是吧?然后比如说你可以看这里的舆论是对应的就是这里总市值是四七五四亿 啊,成交量他是成交量对应的是四九二四万首,四九点二四万首,是吧?对应的成交额呢是十二点零一亿,十二点零一亿是吧?就说明我们这个数据啊,是没有错的,是吧? 当然路线领奖教练这五月二十七号也很简单,打开这个 k 线 这里 你可以看到他可以定位到五月二十八号,是吧?然后呢你在这里他就定位到五月二十七号,是吧?你可以对应到这些数据 实际上都是准确的,那这样的话呢,我们就能够去哎,获取到正确的数据了,是吧?这是正确的行程数据, 这是每天的。那刚刚我们看到我们改了福利困死啊,虽然福利困死他会有一种简化的表达方式,然后刚刚是一分钟吗?在一分钟里也有直接改成 em, 也可以去直接获取,是吧? 哎,这样就获取到每分钟的数据了啊,那这样的话呢?因为他只要在五月三号之前,那是他是在五月二十八号三点,是吧?这是正确的。好,那这样的话,我们就获取到每分钟的数据,那接下 那我们来看另一个接口,我们想要获取多个股票代码的一个数据,因为这个数据是吧?他只是一个股票代码,怎么获取多个呢?我们现在再来讲解一个接口,就说 我们来看一下如何获取到所有的股票代码信息, 看到这里获取所有的股票代码信息,对吧? 我们点击进去来看一下,这里我们直接拿他的一个例子,我们拿他的一个例子, 将所有的股票信息转化为数储,是吧?我们拿这个例子,然后到这里 我们先把这一段注视起来,然后在后面呢,我们来给他运行一下, 我们运行 我们把前五个的结果给他打印出来。 哎,你看到他就是把前五个的股票代码给打印出来了,是吧?这里只是前五个,是吧?我们这个他是一个数组,是所有的,我们可以不妨打印出来所有的股票代码。 这里会比较长啊,你看总共是多少呢?总共应该是四千多个股票代码, a 股的所有的一个 股票的一个数据都在这里。好,那这样的话呢,我们就获取到了所有的行情数据,是吧?的一个股票代码。那接下来我们来看一, 我们直接拿这里的,就是我们直接就会去拿这里我们在讲义中 写好的代码来讲解,这样方便。呃,演示我们直接 copy 这段代码, 我们直接 copy 这段代码,是吧? 实际上是一模一样的,我们只是为了讲解的快一点,是吧?虽然是一模一样的, 这是我们来看一下这张代码的含义,就说我首先呢会导入这个 tom 的时间库啊,我们会去让他是利浦三秒钟来看一下 每一个行情数据,就是我想每个三秒获取一个股票代码的行情数据,那这里呢是我们刚刚讲的接口,我们把所有的股票代码的 一个列表给他获取到,那这里有四千多条,然后我们对这四千多条数据进行便利,然后打印出你当前正在获取的那个股票代码是什么,是吧?然后呢我们通过获取这个股票的行情数据,然后去把他的 每天的数据呢行情数据可以获取到,然后从截止时间为这个时间,然后呢是五条数据,是吧?我们然后呢他费用是这么多,哎,这是我们之前所有的介绍路一个过程,是吧?那接下来呢,我们就来运行一下, 可以看到他正在获取平安银行的一个股票,然后过了 三秒钟呢获取零零零二股票代码,然后零零零四的股票代码的一个行情数据,这样的话呢我们就实现了通过接口来获取到这个行情数据的一个方式啊,这非常简单,是吧?我们非常非常简单, 所以这就是一个简单的获取行情数据的一个脚本,后续呢我们会根据需求来对这个脚本进行扩充,那这就是本期课程全部内容,感谢你的观看,我们下期视频再见。

也是介绍过啊,阿里的这个通一千万的这个模型,他啊,他这个最大的特色呢,就是他对这个 api 的这个调用,他的这个能力啊,他要超过 gd 四的这样的一个能力 啊,它对工具的这个选择的这个能力,它要超过啊,超过一些一些主流的一些模型,你可以看到它这个 g p t 四,它的工具选择的准确性,它只有百分之九十五, 但是通一千分这个七 b 的模型的话,他准确性可以上升到百分之九十九,他大概率都是会对的啊,那而且他错误选择之不到百分之十啊,那像 gd 四的话要百分之十五啊, gg gpd 三点五的话要达到百分之七十五啊,所以这个通一千分这个模型,他对这个工具的使用 选择,让那个大模型跟其他的 a p i 结合,这个方面的能力是非常强的啊,所以我们今天来讲一下这个方面的一些功能啊,好,我们看看啊。啊,这个代码我已经已经用了 一下啊,这个也是通过他的这个,他的这个商铺的这个例子啊,啊,稍微改了一下啊,给大家看一下啊,他这个例子里面呢,他的工具的话呢,他会有四个啊,四个啊,有一个搜索啊,有一个数学方程式计算啊,数学公式计算的这样的一个工具的增强 啊,还有一个啊,查询论文的这个 api 啊,还有一个是拍审这个代码的这个自我的运行啊,他有这样四个工具啊,我主要是测一下这个啊,因为其他这个两个,这两个是要有 api 的这个支持的,就像你要有一,他是有收费的 api 的 key 啊,如果你没有的话,你可能就做不了啊,他这个事情啊, 拍摄他因为他这个环境要拍摄三点九版本啊,所以我这个也没跑起来啊,我这个是三点八的,所以我主要撤几个给大家看一下啊,他大概是怎么跑的?首先呢肯定还是要定义这个工具啊,这个定义这样一个工具,你要 告诉他这个工具是干嘛的啊?这个这个工具的名称是什么啊?他这个里面会讲啊,如果你要去,你要去回答一些,要去搜索到里面要去搜索一些 ai、 a, r x i v 的这样一个文档的话,你就可以利用这样一个工具啊,它的这个参数啊,它主要是输入一个字符串的这样一个参数啊。 啊?他的 a p i 主要是这样的啊,他会介绍一下,他的 a p i 主要是这表这个函数,他等于是这样。好,我们可以看一下是他的这个工具的模板啊,因为他用一个 reaction 的这样的一个提示的工程啊,他这个提示工程,他主要是经历这四个阶段,就是问题要去思考,要去行动,要去观察,再要去思考 啊,最后去回答这个问题啊,他要经过这几个步骤啊,他要经过这样几个步骤,要去判断这个模型目前是处于什么样的一个阶段, 然后要做一个什么样的动作,他在这个里面循环,循环完了之后,他最后去根据你这个问题去回答,他主要是做这个啊,这个主要是 beau 的这个提示工程的啊,这个里面会讲啊,你用些什么工具,对吧?你要回答一些什么问题?你要做一些什么事啊?他这个这个里面 提示工程,提示工程的话就把这个里面前面那些东西把它给录入进来,他主要做这样一件事情,他只要做一个 reaction 的这样一个提示模板,他的核心就是 构建这个提示模板这部分代码,他主要是装载啊通一千万的这样的一个七币的这样一个模型啊,因为我本地已经下载了,所以我要他要下载一下啊,啊,装载模型完了之后,这个地方的话呢,他主要是要去就要去调用啊,调用这样的一个帕拉格印的这样的一个 api 啊,然后他调用完了之后 要去分析分析这个 plug in 的那个参数到底是什么?掉哪个 plug in, 然后掉的参数是什么?它主要是做这样一件事情, 那么他会根据这个反馈这个模型反馈的这个 action 和 action input 和观察到的这个数据去调这个,调这个参数,调这个 plug in 的一些参数啊,这个地方就用这个 plug in 啊,就调用这个 a p i, 它主要是, 那么这个是主函数的话呢,它主要是把上面所有的这些东西给串起来啊,那么首先他会根据你这个问题和你选择的工具,他首先要去做一个计划啊,要做前面这个东西就做啊,问题思考、观察行动,对吧?观察最终答案,他要做这样一个 计划,计划完了之后,他会根据他的这个观察到的这个情况去做这样的一个反馈,他会把这个结论会拿到啊,他会根据这个反馈的这样的一个东西是最终去回答输出这个啊,那么我呢,就简单的,他这个问题,就是编号是这样的一个论文,他讲了些什么啊?如果你用大 模型的话,因为他是缺乏这个方面的知识的啊,他是不知道这篇论文的啊,所以的话呢,他会选择这样一个工具啊,备选的工具注视,把它注入进去啊,这个是他的反馈的情况啊,你可以看到啊,这个 answer for in question for best you, 这个就是提示工程,然后 他会把这个工具给输入进去啊,然后这个参数到底是什么,对吧?返回的是一个 jason 的格式,他会跟你讲的啊,然后 follow some, 这个是 format, 他是根据这个问题输入的这个问题,思考这个就是提示模板前面的提示模板,提示工程里面 啊,他这个问题是这个,他的反馈又来了,他思考这个模型,思考是我需要调这样的 a p i 来获取这个论文的信息,他就去调了啊,调的这个参数,他也准确的捕捉到了啊,他观察到的这个信息啊,那他的这个 publish 的时间对吧?他的这个标题 对吧?他的作者,他的 summary, 他的摘要是什么?他拿到这个信息了之后,他认为他可以去回答这样一个问题了,所以他最终的答案是啊,这篇论文是研究的是一个什么东西,对吧?他的摘要是什么?这个 还是蛮蛮好的,假设我的问题就是输入一个,你好啊,他会不会会用这个工具呢?那么这也是一样的,他这个提示工程,提示模板啊,他会看一下啊,他会告诉你 啊,这个回答概问题的帮助比较小,我将不使用这个工具直接回答,然后他的最终的回答是,你好,很高兴见到你他的事情啊,所以这个我们也可以反映出啊,他他的这个工艺千万的这样的一个模型啊,他可以通过这些工具的定义, 他可以通过工具去增强他的这个模型的这种能力啊。他,呃,如果他觉得他需要有必要用工具的时候呢,他就会去用啊,去把这个利用这个工具的这个能 把一些内容,能够能够获取到这个 contex 这个上下文里面,他根据大模型的这个上下文里面的内容去最终去回答你这个问题啊,他只是一种方式,另外一种的方式,他可能觉得,呃,回答这个问题不用这些工具也是可以的,那么他就不不会用这些工具就直接的去回答你这些问题啊 的话,这个通一千分的这个能力,我,我上次也是介绍过啊,他这个能力就会非常强,他这个模型是七 b 的一个模型,但他可以通过工具的这个使用的这个工具的赋能, 可以干更大模型的事啊。在这个 luncheon 里面,它其实也定义了啊,各种各样的工具啊,你可以把这个工具跟这个模型 集成在一起,然后去告诉他,当然你可以定制开发一些你自己的工具,用这些工具跟这个模型的结合,能够做出一个非常智能的这样的一个机器人出来啊,他不但可以回答你各种各样的问题,对吧?他也可以结合你的本地知识库啊,去做这样一些事情啊, 当然他也可以去做,就是是呃,利用你这个工具去拓宽他各种各样的能力,他等于说,呃,你这个工具他比如说是环境控制啊,你这个工具是调用一些 api, 你这个工具是那个查询数据库里面的一些结构化的一些数据啊,他其实都是可以作为一些增强的, 你这个模型跟其他的这个外部的工具能够做到一个非常好的支持啊,这样我们清楚之前恰的 g p t 它是有这方面的能力的啊,它是可以调用外部工具啊,它会可以去告诉你,你可以去调一些外部工具去增强恰的 g p t 的这个能力的。那么目前看这个独立部署的像 通一千问的这样一个模型,它也能去掉这个 a p i, 去掉外部工具去增强这方面能力啊,它也是非常强的啊,好吧,好。

接下来我们要开始讲 l 模型了,或者说 l 模型的发展史,这也是网络并发编程的最后一部分内容。说到模型,我们前面学了一个 osi 汽车模型,这些都属于理论,可能会有一点点复杂,不过你跟着我的节奏来还是不难的。我会在这里从最简单也是最 low l 模型开始,然后一步一步到后面很牛逼的 l 模型。 ok, 在开始讲 l 模型之前,我们要先知道,这里我们研究的 l 模型针对的都是网络 l, 因为现在大多数应用程序都是在基于互联网通信的,所以接下来我们研究的 i o 都是网络 i o, 如果不是网络 i o 的话,就不在我们的考虑范围内。先来回顾一下我们前面学的网络编程。比如这是我们的客户端, 这是服务端,不管是客服端还是服务端,他们都是一款应用程序。应用程序想要做交互,他们是怎么交互的?还记得吗?不是直接给对方 发数据吧,还要经过计程协议,通过网卡网线才能够把数据发出去,对吧?但需要注意的是,应用程序是没办法直接操作硬件的。我们的应用程序想要发送数据,就必须把数据交给操作系统。 比如我们这里有一个 mac 等于 hello, 这个数据是在我们的应用程序里面产生的。现在我想把这个 hello 发送给服务端,那我们就需要先把这个数据拷贝给操作系统,让操作系统调用计算机硬件,然后帮我们把数据发出去。应用程序把数据拷贝到操作系统,这个过程 他有一个名字叫 copy data, 也就是拷贝数据。这个数据拷贝到操作系统之后,操作系统在登用硬件以及我也在继承相关的东西。最后把我们的数据沿着网线发给服务端计算机。数据到了这个计算机之后,电视被操作系统解锁。然后同样会经历一个 copyta 大过程,把数据拷贝给应用程序。然后下面这一段就是网络 io 过程, 他要等待别人给他发消息,你叫微天负责对他 to ready。 这两个阶段你要知道 一个是等待数据准备,我一定负责对他主页点。第二个就是把数据从内核考表到进程 copy 的它。当然这个类号我们现在不要去研究它,现阶段我们就把它理解成操作系统就可以了。

大家好,今天要讲的内容是 windows 本地部署拉玛二大模型。 在本节课中,我们将在 windows 环境不使用 gpu, 只使用 cpu 的情况下,基于拉玛点 cpp 这个库部署并运行拉玛二大模型 完成部署后会直接使用 python 接口进行文本生成。 二零二三年七月十九日, meta 发布了免费并且可商用的大语言模型拉玛二,这一举措足以让大模型领域的格 格局发生巨大的变化。 number 二系列模型有七十亿、一百三十亿和七百亿三种不同规模参数的模型, 经过评估,拉玛尔的实际效果已经超过 gpt 三,甚至已经接近 gpt 三点五。 关于拉玛尔本身,有非常多值得讨论的地方,尤其是对国内 ai 领域的深远影响,将来我会再专门出视频来讨论。 下面我们进入正题,就用手头的个人电脑来体验一下。辣妈二, 我们都知道大圆模型动辄就是上百亿的参数,本身就不是在单机环境下使用的, 即使是拉玛系列最小的七十亿参数,也需要英伟达 r t x 四零九零或 a 十来运行。 但是有位超级大神,他基于 meta 发布的拉玛模型开发出了一个运行拉玛模型的模块拉玛点 cpp。 该项目纯手工基于 c 加加打造,没有任何第三方便于依赖,使我们可以基于 c p u 条件进行大模型推理。 另外, 拉马点 c p p 不仅支持拉马二模型,还支持 alpaca、 chinese、 拉马 visor 的 l m 等等其他模型,并且还提供了 python、 go、 node、 j s 等其它语言的接口。 接下来我们来一步步搭建拉玛 cpp 的拍摄环境,实现大语言模型的单机运行。 在搭建环境前,需要提前安装 video studio 用于编译拉玛点 cpp, 我们可以直接在 vs 的官网下载 vs 二零二二 社区版进行安装。 完成 vs 的安装后,使用安娜康大创建一个新的 python 环境,其中 python 版本选择三点十, 接着打开环境,使用 pad install 拉玛 c p p python 命令安装 python 接口的拉玛 c p p。 我们可以在哈根 face 上下载量化后的拉玛二模型,具体登录哈根 face, 找到 the block 这个项目,然后再在其中找到拉玛二 七 b chat g g m l 模性这里要说明的是拉玛尔七 b 是原始的七 b 版本, chat 代表聊天微调版本,而 g g m l 代表亮化模型。 所谓模型量化,可以简单的理解为一种模型压缩的技术。 在下载列表中,我们选择下载其中的 q 四零这个版本,列表中还有很多其他版本, 简单来说, q 四零表示每四个比特一个权重, q 五零就表示每五个比特一个权重,其中的数越大,那么就代表精度越高,我们选择一个差不多的来 使用就可以了。 完成环境的搭建和模型的下载后,就可以编写 python 代码了,程序会依赖拉玛 cpu python 这个模块儿,它的接口使用方法可以在项目的文档中找到, 打开项目文档可以找到接口中的各个参数都怎么使用, 这里就不过多介绍,具体的使用效果还需要大家自行调试。下面我们就来写一个简单的样例程序。 首先导入 lama c p p 在内函数中首先创建拉玛模型,模型使用我们刚刚下好的 q 四零模型,然后对模型输入, hello, who are you? how old are you? 看一看模型的反应如何。 这里我们实现一个功能函数, generate text 函数传入模型 model 和输入信息 message 函数返回模型的输出结果。 在函数中,首先需要将 message 转换为 prompt, 然后将 prompt 输入至模型,得到输出 output。 输出结果的格式可以参考文档。我们将其中的 trialses 中的 text 字符串取出, 保存到 answer 中,并将 answer 返回 运行程序,可以得到三个测试结果。发送 hello, m 二会回复一个友善的回复。发送 who are you? m 二会自我介绍发送 how old are you? m 二也会给出合适的结果。 那么到这里, windows 本地部署拉玛尔大模型就讲完了,感谢大家的观看,我们下节课再会。

哈喽,大家好,今天教大家如何用拍摄去开发。嗯,自己的 aps 啊,就提供给前端,就给前可以给前端提供接口,可以给其他 任何用户去提供结合。首先我们打开拍摄,然后去把这里已经装好了啊,直接可以新建一个工程,然后张口,对吧? 哎呦,我这里也创建,创建的话过程太慢,我已经提前创建好了,如果在这里无法创建的话,可能需要 c 加库支持啊什么的,就可以去官网去整个官网,在这里去下载啊, 来返回我们看一下啊,刚打开张狗,我们需要去创建一个,呃,创建一个张狗项目, 张狗 la 的名起个名字叫一片,我们看一下这里就出来了 啊,这是刚默认创建的一些,嗯,路由啊,设置啊,通行管道啊什么的,这里是我们的那个项目啊,第一步我们需要在师徒里啊,不对, 现在路由里啊,在路由里,然后添加一下我们项目的一个视图 啊,就把上面的肤质小就可以了,收拾一下, 然后我们吃一个吃一个 api 吧, api 这样就是一个接口啊,这是路路由匹配下来,我们在在我们项目里边啊,项目就把我们找到 vivovivos, 在这里边写我们的 aps 接口。 aps 接口我们首先需要导入一些包, 然后我们需要的,因为,呃,张狗在 pos 请求的时候会有个 crcrf 跨越的一个问题啊,我们把它先注射掉,先倒入倒入这个包, 然后再导入一个返回的现线,返回也是第一笔清楚的一个现线, 这里使用到装饰器啊,使用到这个装饰器,然后要不要配置一下? i want to dispatch, 然后这里就要用到我们之前起那个名字啊, apx, 嗯,这日里就不用揭穿,这是要冒火。嗯,对, poss 小粉, 我们这里用到也不知道还需要接受什么参数吗?就用到这些 不定参数。第一个,这个带一个新的,这个是接受任意任意的一个参数啊,参数列表,然后两个新的话就接受任意字典, 然后这里,这里。瑞瑞特返回一下 post, 一般都是创建创创建,创建什么呢? 中间订单吧, 这个就是基本上用到就用到四个,四个方法 啊,当然在这里我们只是反悔了,你可以在这里, 在这里写一些其他方法,比如像数据库里边添加数据,对吧?请求请求到的这个 数据他可以插入到数据库啊,也可以在这里获取数据库的一个数据啊。这里我们就简单的展示一下啊。后续在更新,从数据库中获取数据及添加数据, 以及呃,客户在请求 api 的时候进行一些全新认证啊,我们演示一下,跑一下,看一下, 应该说没有设置没有设置 app 啊,刚才忘了继承继承视图了啊,继承一下,继承一下就好了。明天访问一下 啊,我们到 postman 里边去放一下。 嗯, 该的请求啊,请求一下,该的请求是不是该的请求是获取订单,我们可以用 pos 请求创建订单啊,等他实现了,然后 pot 是更新订单,这都是正常显示的。 看一下这代码。这里啊,本次教程到此结束啊,后续吗?可以更新一些权限认证,使用 这个 usfresfuel work 这个框架啊,做一些全线认证,以及对这个数据库的一个查询啊创建 用我们的函数更新啊,创建已经掏啃去认证啊,好,希望大家点点赞啊,点点关注。
![#程序员 #计算机 #python #干货 #教程 [python知识] 小z老师的视频精选,今天我们来学习如何用flask模块创建数据库的api读取接口](https://p3-pc-sign.douyinpic.com/image-cut-tos-priv/d422471772b45e9fee29c80cca3c2dc8~tplv-dy-resize-origshort-autoq-75:330.jpeg?lk3s=138a59ce&x-expires=2110518000&x-signature=81QUl2AgpQzSr3wsdI5pmBv2JBw%3D&from=327834062&s=PackSourceEnum_AWEME_DETAIL&se=false&sc=cover&biz_tag=pcweb_cover&l=202611201510571CB3163040AA56FDA37A)
大家好,这里是星途文化,我是小曾老师,今天呢我们一起来学习怎么样呢?在这一个 pattern 中啊,去读取我们的数据库表格内容,并且呢作为接口去进行数据的传递。 在我们日常的这一个项目开发过程中呢,如果我们直接将这一个数据库的像地址段国号,用户名和密码提供给其他的这一个系统来进行数据的对接,那这种做法呢,相对来说不怎么安全。 这个时候呢就可以将我们这一个数据库的内容呢给他去在后台定义成接口,用接口地址呢来传递数据啊,会相对来说呢更好一些。那在我们这一个 pass 中啊,我们怎么样来实现这一个操作呢? 首先第一个啊,我们来先试一下,这里呢有一个叫做 flask 的库啊,在这里面我们来导入这一 一个 phonus 壳的这一个内,那这个 phonus 壳呢,它是一个第三方的库,如果我们需要去使用的话,要在这一个 pass 中先通过 pip 的这个命令对它进行安装啊,安装就可以了,安装整个过程非常的简单, 那我们现在来一起看一下整个的这个代码编写要需要哪些不同的步骤。首先第一个呢,我们要先来创建一个这一个 worb ipi 的框架啊, 那么这个框架的定义呢,就直接写 a p p, 等于在这里写上这一个 flask, 我们将这个内呢进行实力化的操作,在里面呢去传递我们的这一个小火线,小火线 name, 然后接着呢,我们在这里需要有一个 装饰器,这个装饰器呢叫做哎装饰器啊,现在打成一个 at 符号,装饰器叫做 up 点 root。 那么这一个装饰器的作用呢,是将我们的这一个路由的这一个地址和我们后面呢要进行这一个数据操作的函数来进行绑定。那这个地方呢,我们可以去自己定义一个这一个路由地址啊, 在这个地址里面呢,还是定义我们这一个地址访问的方法,那么访问方法呢,一共有两种,一个呢是 get, 一个是 post 啊,这里我们就只有 get 和 post 两种不同的方法。 然后接着呢,我们后面要写上一个操作数据的这一个函数,那我就写一个 get data 啊,自己定义这个函数的名字。那么在这个函数里 呢,我是想要去获取某一个数据库表格的内容,所以我在这里啊去连接我们自己的这一个奥尔口数据库, ok 啊,然后在这里呢,我们通过这一个数据库里面的 connector 方法,然后写上我的这个用户名,然后还有我的这一个密码啊,加上这一个地址啊,因为是我本地的吗,很多个 host, 然后幺五二幺,再加上这一个 sid 啊,这个酷的名字。 接着呢我们给到一个变量保存一下,然后在数据库里面呢,还要去创建一个操作 circle 语句的邮标啊,这里我们写上这一个 ctrl, 然后通过这一个邮标呢去调用我们的这一个 circle 语句,那在里面我就写一个简单的 sending the scene from emp 表格。那接着呢 我们用这一个邮标,然后点飞驰 or 来获取这个查询语句所有的内容啊,然后给他一个变量保存,然后接着呢我们去 return 当前获取到的这个数据, 那么在读取的过程中呢,数据库一旦打开呢,我们要记得呢去给他 ctrls 关闭一下 好了,那整个过程其实我们就已经写完了啊,这个操作呢,其实并不难,然后我们再写上一个数据的入口啊,写上 even, 等于这里加上 men。 好了,这个入口呢,写完之后,我们在下面去调用这个框架,让它跑起来啊,下面写上一个 run 运行就可以了,现在呢我们右键去执行一下当前写好的这一 一个文件,运行起来之后,这里会提示我们啊,这里一个 running on, 这个后面呢是我们启动的这一个服务器地址,默认的账号呢,用的是五千,我们去 copy 一下,然后找到浏览器粘贴进去, 除了这一个服务器的地址和端口号之外,还要再加上我们刚才自己定义的这个路由地址啊,这个 apidat, 然后把它写在这个后面,然后敲回车。这个时候呢就可以看到我成功的读取了这一个数据库中 emp 表格的内容, 那么这一个数据的读取,我们能不能让他变得更加的灵活一些呢?好,我现在先把这个服务停下来啊, 我们可以呢去让这一个用户想读取哪个表格就读取哪个表格,我们可以让这一个 后面的 data 这个路径啊,把它变成一个动态的表明。那么怎么来进行这种数据的操作呢?我们把这个后面啊写上一个间括号,然后在里面写上 tablene, 那把这个 table nine 呢变成一个接收用户输入的一个变量,然后将这个变量呢传递到我们的这一个函数里面去, 然后接着呢我们把这个英文 p 表呢,把它变成啊,我们当前要去接受的这一个格式化的这个内容呢,然后把 top nine 传递到这个字幕串里面去。那写完之后,我们现在重新来运行一下当前的这一个弗纳斯克整个框架。 然后下面我们来看一下啊,如果我把它写的是 d, e, p, t, 然后敲回车,这里看到的就是我的这个部门的信息,我们把它放大一点, 这里看到的是部门的信息,那如果我写的是 emp, 敲回车看到的就是员工的信息啊,然后我们这里再写上什么 udas, 敲回车看到的就是用户的信息,然后再换一个啊,什么 trips, 就是订单的信息, 所以呢我们就可以通过呢进行这一个地址的切换,然后随时读取各种不一样的表格呢, 这个呢就是怎么样将这个数据库的内容,然后以接口的形式进行返回的基本操作方法,那么大家学会了吗?

亲爱的, gps 官方 apr 呢,有一个重要参数,这个参数叫做 three, 如果你设置错了,那么结果的返回就像是流水一样,一个字一个字的返回,给你用的体验非常好。 如果你不加这个参数呢,这一篇呀,会把所有内容都输入完了以后再还给你,会导致因为等待时间过长,体验不好。 如果你想克隆一个一模一样的 gp, 这个参数非常重要。点击下方小黄车我的课里面我教你 gp 本身 api 怎么调用,里面有详细参数配的说明,并且啊,我教你怎么完全克隆一个 gps 应用,也有网页版的应用。

今天跟大家介绍一下的是,呃,如何用这个大模型结合本地知识库呃,做这样的一个应用啊?在这个项目里面,如果拿到代码之后的话,你可以看到我这个里面有两个文件夹在 context 下面,一个呢是中文的,还有一个呢是英文的,英文的啊, 我我先,呃,因为用的比较多的还是中文,所以我给大家介绍一下中文怎么用啊?核心的话呢,它其实是三个,这个三个文件一个是 man 点 ph, 还有一个是呃, in guest 点 ph 啊,我们先来讲还有一个是 carry 杠 data ph, 这个三个 点 py 的这样的一个拍摄的这样的一个文件啊,这个三个文件呢,分别的作用,这个的话呢,主要是把现在的这些文件把它切片放到啊下降数据库放在这儿的,它,是啊,这是这个文件的作用,是做这件事情面呢,它是一个主函数, 它主要是提供了两个接口,一个接口它会返回一个 index 的这样的一个 h t m l 的一个页面,那么这个页面的话可以操作这个页面对这个机器人进行问答。第二个呢,它提供了一个接口,就是一个 web socket 的恰特的一个接口,那么这个接口的话呢,它的主要的功能就是把你的问题 扔到那个质量数据库里面来,然后再通过大模型,然后进行问答,他把一些内容返回出来啊,这个地方就是 result, 就是他返回的东西啊,这个就是他的问题啊,他把这个返回的问题可以放在这个 history 里面啊,他主要是做这样的一个事情啊。好,我们给大家一起来, 先给大家一起来演示一下啊,这个 carry, 我 carry data。 回头我再来重点来讲一讲啊,我们先给大家来演示一下,先给大家演示的是怎么查询打这个命令,当然前提是你要安装一些东西,安装这个东西的话,在 这个是内裤,你要打这个命令啊,你要打快门回撤,这个因为我已经装过了,那他就很快就已经过了,这个是安装完环境,安装完,安装完之后就可以了,打这个命令回撤, 这个时候呢,他你可以看到他已经在起这个 server 了,他起了一个九零零零的端口,那么九零零零的端口在哪里呢?他其实也是可以改的,他在这 port 九零零零。那么一般的话呢,我们 web 的呢?端口的话呢?是八零端口啊,那么当然你这个地方可以改,这个是你的 host 的 ip 地址,你也可以改,我用的是本机, 我们可以看一下 local host。 九零啊,他已经出来了,对吧?那么出来了一个界面,我们可以让他问他一下。 sorry, 翻车了啊,对不起,这个是个 bug, 回头我再来讲一讲,这个是个 bug, 这个是他的框架的一个 bug, 我们发现了,好,好了,他在 计算了,你看啊,他已经告诉你了,哒哒哒。根据什么什么什么条款执纳金的问题应该是怎么样子的?这个问题的话呢,他就是结合了这个里面的一些问题他去解答的,比如说我们再来看一个这个, 再问一个,那他又在算,算完之后他就讲了,好,我们再看一个啊,看第三个,我不知道他答的对不对,感觉还是对,好,我们先就这样。好吧,我们先演示这个,我们来看看他是怎么来实现的,我们跟大家一起来讲一下。好,这个我们就演示到这,先把它关掉, ctrl c 把它断开, 断开之后我们可以看到我们先看这个文件,这个文件是比较重,我先把这个文件先删除掉它,它的这个这个文件的作用是什么呢?它主要的作用就是把我前面讲的这些项链,就是这些文件,它会转成那个使量数据库啊,在这上面 他要转成使量数据库呢,我们就要用到那个就是 oppo ai 类似的这种大模型啊,这个是大模型的那个环境变量啊,他的地址啊,这个地方要有一个杠。 b 一是比较重要的啊,因为我们是引用的是本地部署的这个大模型, a p i k 的话你可以随便设,我这边设了一个 empty 是空的。好,我们看这些文档第一的话呢,它就是从这个目录下面, 这个目录下面,当前目录下 context 下面的这个目录新建一个 loud 的对象,这个 loud 对象他就可以把这些裸的这个文件把它读出来,读出来之后他再经过这个文件的这个拆分,这个拆分他是每一千个字符拆分一次,他等于是这样,你可以看到这个地方他是他这个已经七百 六十,所以他这个会拆成一个。我这个里面你看的话,我大家要注意的,我这边有两个换行,他这个会拆一个,这个会拆 一个,他是这样的啊,如果核心你可以看一下他的这个 a p i, 他这个 a p i 里面会去定义的。在这你看到他有一个叫分割符,他有两个空格啊,两个回车或者一个回车的时候呢,或者有空格的时候呢,他就会自动帮他拆分了,所以这个是最优先的。 如果他达到一千个字符,他会去看是不是有这个两个东西,有,那就开始拆,如果有这个他也拆,如果有空格也拆,当然你这个地方是可以自己定义的, 这个可以自己定义的,当然你可以在中文里面,你可以把那个句号或者逗号也定义进去,也是可以的啊,这个地方 好,我们看看啊,这个是比较重要,那么这个参数是指什么呢?你指了前面,如果我有一千个,如果你这个快,如果你是,我们看一下这个啊,如果你有一千个,快一千个字符啊,比如说这个假设他超过了一千个字符,那你怎么办呢?他会猜成 两部分,所以他要拆成两部分的时候,他有一个参数,这个参数就是是不是把前面那个块的一部分的内容,把它引用到后面块里面去。比如说如果你这边是一百的话,就把前面那一块 最后的一百个字符跟后面的一千个字符混合在一起,他等于是这样,一般的情况的话呢,就不要做重叠啊。 我一我一般是这样设的好,设完之后呢,我们就把裸的这个 document 放在这个 tax sprite 这个里面,把这个 document 给拆分出来,这个时候呢他会按一千个把它给拆出来,拆的他会更多。 开出来之后呢,我这边通过了一个 inbeding 的这样一个操作,我这个操作呢是用个本地的一个 m 三一杠贝斯的一个模型,当然你也可以用我上面的这个就是 lm 的一个大模型,这个的话呢比较适合于中文,比较适合于中文,这个模型中英文其实它是可以的。呃,如果是全英文的话呢,就不要用这个, 要用我上面这个注视掉的。好。然后进去了之后呢,我就用到了一个 vs 的数据史料数据库啊,这个地方,把这个 in bedding 和这个 document 的拆分之后,存放在这个 victor store 里面,这个就是矢量数据库,然后把它保存下来,然后 close 掉,所有的代码就很少,只有这么一点,我们看一下啊,跑了,你在运行查询之前,你必须要先跑这个东西回车,它自动会帮你把这个文件读起来。好了,你看到这个地方产生了这个 victor store, 点 p k l 的这个文件的时候,说明它已经 完成了这部分。好,我们这个代码就讲完了,我们再来讲这个主函数里面,我前面已经讲过了,它的核心就是这个 carry chain, carry chain 呢,它是放在这个 carry data 这个文件里面呢,就是这个主函数啊,我们来看看这个主函数主要是做些什么事。它的核心的话呢,它是主要是做了两件事情啊。第, 第一个他创建了一个 l l m 的大模型啊,他创建了两个大模型,一个呢是 question 的大模型,一个他主要是这个做回答的这个大模型。这个模型呢? question 的这个大模型呢,他主要是做 inbiting 的这个操作,他把这个 question 作为了一次 inbiting 的操作。第二次呢, in bed 完了之后呢?他把这个 in bed 的这些结果放在这个 context 的这个环境里面,我们看看啊,他是放在哪里?他在这你可以看到 context, 他这个里面有一个 template, 有一个提示模板,提示模板里面他会把这个 context 就是我们前面矢量数据库里面查出来的文档,他会放在这个变量找, 然后他把这个快速群会放在这个上面。哦,他会告诉你你回答他的这个答案是什么,他是通过这个来做的啊,他把这个 context 和快速群把它内读变量放到这个模板里面来就可以了,这个就叫提示工程啊。 好,那么我们这个 tnt type 的类型叫 staff, staff 的之前我也是介绍过的,有四四种类型,目前郎欠他虽然说支持四种类型,但只有这一种类型目前是可以正常工作的,另外三种类型是不能正常工作的,我们可以看一下 另外还有哪三种,一个叫 map reduce, 一个叫 refine, 还有一个叫 map 叫 re rank 的四种方式。这种方式是最简单的,就把查出来的所有的文档全一股脑塞在 context, 就是前面的那个环境变量里面。 map reduce 的话呢,它就是先要做先把所有的文档放在一起,再进行一个 压缩的操作啊,压缩的操作的话就是深层摘药啊,他主要是做这样一个事情,那就怕这个文档太大,呃, define, 他把一个一个文档都让他去迭代的去回答这个问题,嗯,这个是比较有价值的,这个他会把所有的文档一个一个的加 到 contex 里面,不去回答问题,我找一个他认为回答最准的一个问题啊,这个价值其实是比较大的,但他目前是报错的,是不支持的啊。好,我们就不要动弹,就用这一个。我这个地方的这个参数要跟大家讲一下,这个它是用于了一个 conversation 的,一个 一个,呃,基于这个文档获获取的这样的一个对话的一个欠啊。参数啊, k 等于三, k 等于三是指什么呢?就从这个时量数据库去拿取文档,拿回来三个 啊,这个因为要根据你的这个文档的这个数量要去看的,如果你是非常多的话,当然你拿回来要多一点。我之前介绍过一个 论文的,这个论文里面讲五到十个是最合适的,因为我这里面的话只有六个文档,所以的话拿三个的话已经拿了百分之五十了,已经非常多了,按照道理的话他应该更少一点,因为他有可能。呃,如果你拿过来的这个文档相关性不是太大的, 可能会影响到他的啊,好啊,这个就是这个文档最核心的代码,最核心代码还有一个代码,在这要跟大家讲一下这 temperature, temperature 你是否要用到这个大模型的这样的一个创新,如果你不要用到他创新的话,你可以用零, 也是可以的。用力,我们来看一看啊,如果是这样的情况,我们再来启动一下,给大家演示一下。好,又启动起来了,根据什么四十三号晚应该对的,我好像看到过。对的,好, 这个再来解答一下。对的,他这个打的都是比较准确的,所以这个两个参数是比较重要的,这两个参数是比较重要,如果你调一调的话,他的性能会好很多 啊,所以这个调餐是比较重要啊,这个 k 和这个 temperature 好,呃,今天的话呢,这个原代码的关于 l l m 的大模型,对吧?结合这个本地的这个知识库啊,就跟大家。呃,讲到这,好,谢谢各位。

大家好,今天和大家分享一下小爱同学揭露国产的星火大模型。我发现呢,在回答国内的问题上呢,国产的大模型的效果似乎比 chant gpt 要好很多。 嗯,之前呢,我们介绍过,我们给小爱同学呢,加了一个小的书媒派,然后通过小的书媒派的电源改造,是 使小爱同学开机便可以通过小树梅派实现访问 chant gpt 的功能。呃,这一期呢,我是将星火大模型呢,然后集成到了小树梅派当中,然后测试一下它的效果。现在我们来进行开机, 大头同学已联网当听到树莓派发出大头同学,已联网之后呢,就代表着我们的树莓派已经成功启动了。现在我们来问几个问题。小爱同学,哎,进入星火模式 有这个模。进入星火模式。小爱同学,哎,中国最深的湖是什么?第一名,正在问星火,请等待! 中国最深的湖是澜沧江的著名源头泸沽湖,位于云南省和四川省交界处。 泸沽湖的最大深度约为九十三点五米三百零二英尺,平均水深约为七十八米二百六十四英尺。 小爱同学,哎,退出星火模式好的小爱同学在进入大头模式,进入叉 g p t 模式。小爱同学,哎,中国最深的湖是什么? d 正在问 g p t 请等待!中国最深的湖是泸定湖 ludinate 泸定湖位于四川省西部的泸定县,是中国西南地区最大的注水湖泊之一,它的最大水深可达一百一十米。 小爱同学,我在退出大头模式。好的小爱同学,在中国最深的湖是什么? 第一名,长白山天池长白山天池位于吉林省延边朝鲜族自治州安图县,平均水深二百零四米,最深处达三百七十三米,为中国最深的湖泊。小爱同学在进入星火模式! 当然可以进入星火模式。小爱同学,哎,中国最深的盐水湖是什么?这个正在问星火,请等待! 中国最深的盐水湖是位于青海省柴达木盆地南部的纳木措,最大水深约七十米,二百三十英尺,平均水深约四十五米,一百四十八英尺。小爱同学在退出星火模式。 好的小爱同学在进入大头模式! 进入叉 g p t 模式。小爱同学,哎,中国最深的盐水湖是什么? 正在问 g p t 请等待!中国最深的盐水湖是库布奇盐湖和 beauty subway。 库布奇盐湖位于内蒙古自治区,是中国北方最大的盐水湖之一, 它的最大水深可达五十多米。小爱同学在退出大头模式。 好的,小爱同学,哎,中国最深的盐水湖是什么?问题太有水平了,带我去学习一下。


兄弟们,这个,兄弟们,这个 fast api 是真牛,真牛逼啊。这个开发出来把这个后面加个 docs, 自带文档,自带文档这个后端的一个就别卷扎袜了,别卷扎袜了,赶紧学这个。