GLM-5零代码部署教程

之前视频我介绍了不用联网，不用付费，家用显卡即可部署全代码开源的大语言模型 chat j r m 三。本期我们进一步介绍三代的两个全新能力，工具调用，还有代码解释器。工具调用指的是大模型遵守我们的自然语言去调用外部工具， 也就是说调用拍摄函数或者外部 api， 这样就能大幅拓展大模型的能力，并且能够接入我们的实际各种业务。代码解释器指的是我们输入自然语言 chat g l m 三就会给出对应的代码，并且自动执行输出结果。本期视频的最后，我会讲一下本地如何的 bug 调试 chat g l m 三。我们先看工具调用，这里我介绍最简单的方式，十行代码就能给 chat g l m 三添加一种工 据函数。添加完工具函数以后， chat g r m。 可以根据用户的输入来判断是否调用某个函数，并且它还可以自动的从用户输入中提取函数所需要的参数。我们先打开上次提供的 chat g r m 三的一键部署包， 这个部署包我已经上传到网盘了，需要的话可以关注私信我。我们在这个 chat g l m 三的目录下面找到这个文件 to 点 registry， 点 p y。 这里官方提供了两个函数，第一个函数是生成随机数的，第二个函数是获取天气的，我们可以仿照官方的写法写一个我们自己的函数，比如这里我写一个穿衣服建议的函数， 第一行先写这个装饰器 register two， 这个装饰器很重要，相当于声明了这个函数是大语言模型可以调用的工具，我们看到这个函 函数有一个入餐，就是气温，后面这个 annotation 是对这个入餐进行一些解释，比如说他的类型可以是整形，可以是浮点型，也可以是字符串，然后这个参数是必填的。我们再看下面这个注视，这个注视也很重要，这里神奇的地方是我们用自然语言书写就可以了。 这个大语言模型他可以看得懂的。注视用来说明这个函数是做什么用的。 chat g r m 三可以根据注视的内容自动判断什么时候应该调用这个函数。 下面就是函数题，我就随便写了一下，比如零度以下应该穿棉衣，二十度以下应该穿秋衣，三十度以下应该穿衬衣等等等等，如果抛出异常就回答，不知道就行了。好，这样就结束了，一个简单的工具，函数我们就书写完成了，我们马上来测试一下。我们进入 glm 三的 demo 页面，这里打到 toos 这一栏，然后我问他个问题，零下三度应该穿什么衣服？看到这里 get close suggestion， 这就是我刚刚写的那个函数，他直接就掉到这个函数了， 这里返回棉衣，这样就成功了。我们再看下一大块功能，代码解释器，代码解释器指的是我们输入自然语言，然后模型给出对应的代码， 并且能够自动执行出代码的结果。使用代码解释器需要安装如下三个命令，首先我们在电脑上安装 python， 然后执行下面三个命令， 前两行是安装 ipython， ipython 简单来说就是 python 的一种命令行环境。第三句是新建一个 ipython 内核， chat jrm 的代码就是运行在这个内核上面的，这里这个名字很重要，就不要改，还是叫 chat jr m 三 demo 这个内核的名字。执行完三个命令以后，我们还是运行我们的一键部署脚本，进到这个 demo 页面，找到第三个代码解释器，我们给他一个命令，用 pass 去计算一到五十的阶程，看看他会不会做。 我们再看一个复杂一点的例子，编写一个程序，找到两千至三千二之内的所有数字，可以被七整除，但是不能被五整除的，得到的数字按照逗号分格， 这里输出有点问题，他不是打印到一行里的，这里可能是由于我的显卡显存不太够，我是 int 四量化执行的，如果你显存更大的话，可能效果会很好。视频的最后我再来讲一下如何 本地调试这个 chat glm 三。首先我们打开 pyx， 找到这个目录， chat glm 三这个目录点击 ok， 这样我们就把项目导进来了， 导进来以后给他添加拍摄解释器，这里右下角点击这个 interpreter， 点击添加一个新的解释器。注意看，这里是重点，我们选择这个 system interpreter， 然后浏览这个目录，找到这个 tech shrimp， 也就是技术爬爬虾的这个文件夹，找到 python 点 e x e， 也就是说我们直接使用这个一键部署包里面的 python 解释器， 因为这个显示器里面已经预装了所有 chat g l m 三的依赖，如果自己装这套东西还是有点麻烦的，这里直接点击 ok 就可以了，这里可以看到 python 三点一零的显示器已经安装好了，下一步我们运行它，这里 点击 idate configuration， 进入这个页面以后，我们点击这个加号，点击 pison， 添加一个 pison 的运行环境，这个内幕，这里随便填一个就可以了。然后这里的 pison 显示器还是选择刚刚上一部的这个一键部署包里面的这个 pison， 点 exe， 然后 modify options， 这里要选择 perimeters， 把这个勾上脚本，脚本就按我这个填， 填写 tax shrimp 的 lab， 下面 side package， 点 stream bit， 填写到这个路径，然后让它 run 点儿闷点儿 p y 工作目录就填写这个 chat c r m 三的目录，下面这个不用动， 然后点击 ok， 下一步找到 clant， 点 p y 这个文件，修改这个文件的第十七行，改成这个样，像我这样的绝对路径 就可以了，这样就可以了，我们直接点击 debug， 这样就从 pyxm 里把这个环境运行起来了。这里是技术爬爬虾，我会定期分享一些有趣实用的编程项目，分享一些提升效率的黑科技软件。今天的视频就到这里，感谢大家，我们下期再见。