7b模型支持tools吗

也是介绍过啊，阿里的这个通一千万的这个模型，他啊，他这个最大的特色呢，就是他对这个 api 的这个调用，他的这个能力啊，他要超过 gd 四的这样的一个能力 啊，它对工具的这个选择的这个能力，它要超过啊，超过一些一些主流的一些模型，你可以看到它这个 g p t 四，它的工具选择的准确性，它只有百分之九十五， 但是通一千分这个七 b 的模型的话，他准确性可以上升到百分之九十九，他大概率都是会对的啊，那而且他错误选择之不到百分之十啊，那像 gd 四的话要百分之十五啊， gg gpd 三点五的话要达到百分之七十五啊，所以这个通一千分这个模型，他对这个工具的使用 选择，让那个大模型跟其他的 a p i 结合，这个方面的能力是非常强的啊，所以我们今天来讲一下这个方面的一些功能啊，好，我们看看啊。啊，这个代码我已经已经用了 一下啊，这个也是通过他的这个，他的这个商铺的这个例子啊，啊，稍微改了一下啊，给大家看一下啊，他这个例子里面呢，他的工具的话呢，他会有四个啊，四个啊，有一个搜索啊，有一个数学方程式计算啊，数学公式计算的这样的一个工具的增强 啊，还有一个啊，查询论文的这个 api 啊，还有一个是拍审这个代码的这个自我的运行啊，他有这样四个工具啊，我主要是测一下这个啊，因为其他这个两个，这两个是要有 api 的这个支持的，就像你要有一，他是有收费的 api 的 key 啊，如果你没有的话，你可能就做不了啊，他这个事情啊， 拍摄他因为他这个环境要拍摄三点九版本啊，所以我这个也没跑起来啊，我这个是三点八的，所以我主要撤几个给大家看一下啊，他大概是怎么跑的？首先呢肯定还是要定义这个工具啊，这个定义这样一个工具，你要 告诉他这个工具是干嘛的啊？这个这个工具的名称是什么啊？他这个里面会讲啊，如果你要去，你要去回答一些，要去搜索到里面要去搜索一些 ai、 a， r x i v 的这样一个文档的话，你就可以利用这样一个工具啊，它的这个参数啊，它主要是输入一个字符串的这样一个参数啊。 啊？他的 a p i 主要是这样的啊，他会介绍一下，他的 a p i 主要是这表这个函数，他等于是这样。好，我们可以看一下是他的这个工具的模板啊，因为他用一个 reaction 的这样的一个提示的工程啊，他这个提示工程，他主要是经历这四个阶段，就是问题要去思考，要去行动，要去观察，再要去思考 啊，最后去回答这个问题啊，他要经过这几个步骤啊，他要经过这样几个步骤，要去判断这个模型目前是处于什么样的一个阶段， 然后要做一个什么样的动作，他在这个里面循环，循环完了之后，他最后去根据你这个问题去回答，他主要是做这个啊，这个主要是 beau 的这个提示工程的啊，这个里面会讲啊，你用些什么工具，对吧？你要回答一些什么问题？你要做一些什么事啊？他这个这个里面 提示工程，提示工程的话就把这个里面前面那些东西把它给录入进来，他主要做这样一件事情，他只要做一个 reaction 的这样一个提示模板，他的核心就是 构建这个提示模板这部分代码，他主要是装载啊通一千万的这样的一个七币的这样一个模型啊，因为我本地已经下载了，所以我要他要下载一下啊，啊，装载模型完了之后，这个地方的话呢，他主要是要去就要去调用啊，调用这样的一个帕拉格印的这样的一个 api 啊，然后他调用完了之后 要去分析分析这个 plug in 的那个参数到底是什么？掉哪个 plug in， 然后掉的参数是什么？它主要是做这样一件事情， 那么他会根据这个反馈这个模型反馈的这个 action 和 action input 和观察到的这个数据去调这个，调这个参数，调这个 plug in 的一些参数啊，这个地方就用这个 plug in 啊，就调用这个 a p i， 它主要是， 那么这个是主函数的话呢，它主要是把上面所有的这些东西给串起来啊，那么首先他会根据你这个问题和你选择的工具，他首先要去做一个计划啊，要做前面这个东西就做啊，问题思考、观察行动，对吧？观察最终答案，他要做这样一个 计划，计划完了之后，他会根据他的这个观察到的这个情况去做这样的一个反馈，他会把这个结论会拿到啊，他会根据这个反馈的这样的一个东西是最终去回答输出这个啊，那么我呢，就简单的，他这个问题，就是编号是这样的一个论文，他讲了些什么啊？如果你用大 模型的话，因为他是缺乏这个方面的知识的啊，他是不知道这篇论文的啊，所以的话呢，他会选择这样一个工具啊，备选的工具注视，把它注入进去啊，这个是他的反馈的情况啊，你可以看到啊，这个 answer for in question for best you， 这个就是提示工程，然后 他会把这个工具给输入进去啊，然后这个参数到底是什么，对吧？返回的是一个 jason 的格式，他会跟你讲的啊，然后 follow some， 这个是 format， 他是根据这个问题输入的这个问题，思考这个就是提示模板前面的提示模板，提示工程里面 啊，他这个问题是这个，他的反馈又来了，他思考这个模型，思考是我需要调这样的 a p i 来获取这个论文的信息，他就去调了啊，调的这个参数，他也准确的捕捉到了啊，他观察到的这个信息啊，那他的这个 publish 的时间对吧？他的这个标题 对吧？他的作者，他的 summary， 他的摘要是什么？他拿到这个信息了之后，他认为他可以去回答这样一个问题了，所以他最终的答案是啊，这篇论文是研究的是一个什么东西，对吧？他的摘要是什么？这个 还是蛮蛮好的，假设我的问题就是输入一个，你好啊，他会不会会用这个工具呢？那么这也是一样的，他这个提示工程，提示模板啊，他会看一下啊，他会告诉你 啊，这个回答概问题的帮助比较小，我将不使用这个工具直接回答，然后他的最终的回答是，你好，很高兴见到你他的事情啊，所以这个我们也可以反映出啊，他他的这个工艺千万的这样的一个模型啊，他可以通过这些工具的定义， 他可以通过工具去增强他的这个模型的这种能力啊。他，呃，如果他觉得他需要有必要用工具的时候呢，他就会去用啊，去把这个利用这个工具的这个能 把一些内容，能够能够获取到这个 contex 这个上下文里面，他根据大模型的这个上下文里面的内容去最终去回答你这个问题啊，他只是一种方式，另外一种的方式，他可能觉得，呃，回答这个问题不用这些工具也是可以的，那么他就不不会用这些工具就直接的去回答你这些问题啊 的话，这个通一千分的这个能力，我，我上次也是介绍过啊，他这个能力就会非常强，他这个模型是七 b 的一个模型，但他可以通过工具的这个使用的这个工具的赋能， 可以干更大模型的事啊。在这个 luncheon 里面，它其实也定义了啊，各种各样的工具啊，你可以把这个工具跟这个模型 集成在一起，然后去告诉他，当然你可以定制开发一些你自己的工具，用这些工具跟这个模型的结合，能够做出一个非常智能的这样的一个机器人出来啊，他不但可以回答你各种各样的问题，对吧？他也可以结合你的本地知识库啊，去做这样一些事情啊， 当然他也可以去做，就是是呃，利用你这个工具去拓宽他各种各样的能力，他等于说，呃，你这个工具他比如说是环境控制啊，你这个工具是调用一些 api， 你这个工具是那个查询数据库里面的一些结构化的一些数据啊，他其实都是可以作为一些增强的， 你这个模型跟其他的这个外部的工具能够做到一个非常好的支持啊，这样我们清楚之前恰的 g p t 它是有这方面的能力的啊，它是可以调用外部工具啊，它会可以去告诉你，你可以去调一些外部工具去增强恰的 g p t 的这个能力的。那么目前看这个独立部署的像 通一千问的这样一个模型，它也能去掉这个 a p i， 去掉外部工具去增强这方面能力啊，它也是非常强的啊，好吧，好。