codecombat 自建服务器,这是一款闯关市 python 学习工具,关卡从一到难,专业程序员也很难通关。美国公司开发,国内之前有网易代理 庭服后,我自己在 v n 十一上通过 doctor 搭建在局域网内,让部分学生做,他们普遍认为这东西太难了。
粉丝1.8万获赞9.3万


上期视频发布后,有玩家表示奥拉玛推力有点慢,想看看怎么在 c c 中通过拉玛 c p p 调用本地模型,本期视频我们就一起来看一下。首先我们来看一下拉玛 c p p 的 安装与配置。在 github 上找到拉玛 c p p 这个项目,根据 red 中的描述,从 release 记录中找到自己系统对于的软件包进行下载,主流操作系统都支持, 比如我自己就是安装的这个 windows 叉六四库达十三点一的版本软件,下载好后将其安装到磁盘中。 接着需要将软件安装目录添加到系统环境变量,确保使用命令行工具时能正常找到软件提供的 lama clea 和 lama server 等可执行命令。接下来添加环境变量,点击开始打开系统设置, 点击左侧系统菜单滚动到底,找到系统信息,打开后继续点击高级系统设置,弹出窗口中即可看到环境变量设置入口,点击环境变量,将软件安装路径添加到用户变量的 pad 变量中即可。 此外,你也可以直接在此电脑图标上右键选择属性,直接进入系统信息界面,这样会更快捷一点。 环境变量配置好后,打开命令行工具,通过运行 lama 颗粒 version 或者 lama server version 命令确认配置结果。如果正常输出版本信息以及你的显卡信息,则说明安装成功。接着我们来实际运行一下模型试试。 我这里已经下载好了一个千万三点五的 g g u f 模型,大家如果想用可以前往摩搭平台下载搜索视频展示的模型名称即可。我使用的是 q 五 k m 的 量化版本,此外还需要下载这个 m m p r o j 的 文件, 这个文件的作用是多模态场景下处理视觉张亮和文本张亮之间的映射关系。回到文件目录,右键打开命令行工具 运行视频所示命令就可以在命令行中与模型对话了。试试让模型帮忙写一个简单的加法函数,并且要求他用 python 语言来编辑 回车发送模型立刻就有了响应。这确实比欧拉玛要快很多,过程就不给大家展示了,快进看一下结果吧。实现了函数,还主动添加了测试用力。 但是如何才能在 cloud 中调用呢?我们先回去看看拉玛 c p p 的 说明文档,向下滚动,找到拉玛 server 这一小节,这里明确说明拉玛 server 命令可以启动一个适配 openai 规范的大模型 http 服务,这应该就跟欧拉玛的本地服务是一回事了。 回到命令行,按照说明运行一下,看看是什么效果。服务启动后,果然得到一个带端口的 http 服务地址。不仅如此,根据文档所示,我们还可以通过 port 参数指定服务端口,记住,这个服务端口后面配置 cloud code 会用到。 现在我们继续配置 cloud code。 cloud code 的 配置文件通常在用户根目录下的点 cloud 的 目录中 先备份一下,然后打开 settings json 文件,没有的话直接新建一个就可以,这里 autoken 随便填。本地没有较验,被 c u i l 的 端口改成刚才我们设置的四个九即可。模型配置没有用,随便修改一下也会用于确认配置是否生效。 保存后,随便进入一个目录,右键新开一个命令行,输入 cloud 命令,启动 cloud t u i 界面,如果遇到安全检测提示,信任一下即可。通过这里的模型名称可以确认配置生效了。同样,先让它写个加法函数试试, 比在命令行中使用的反应要慢一些。好在还是正常响应了,可以简单检查一下生成结果,再进行一次普通的对话试试,没有问题。托肯正常跑起来了,但怎么确认调用的是拉玛而不是奥拉玛呢? 我是这么验证的,切换回 lama server, 启动窗口,停止 lama server 服务,然后回到 cloud 的 交互界面,再次对话,可以看到 cloud 的 明确给出了无法连接 api 的 提示,至此可以确认 cloud 控制中通过 lama c p p 调用大模型成功了。点赞关注,下期更精彩!




cloud 泄露第三天,保姆级本地部署教程他来了,成功的接入了本地大模型。我让他开发了一款游戏,他还自动打开运行,并测试能不能成功。耐心看到最后先收藏再观看。整个部署分为四步,新手友好。 第一步,安装我们的 b u n, 点击麦克右上角的聚焦环搜索,输入 terminal 或者是终端回车。打开终端,复制我们的安装指令,粘贴回车, 等待安装完成。新开一个终端,输入二杠运行,最终显示版本号代表第一步成功。第二步,解压我们 打开安装目录,找到我们的隐藏的配置文件点 emv mac 可能有时候看不见,我们需要用 command 加 shift 加点来显示隐藏文件,按照我们的参数来配置接口地址和 t, 还有大文件的名称,修改完成,保存,关闭配置。 第三步,启动程序。首先终端切换到安装目录,依次复制以下两个命令进行执行。第一条命令赋予我们程序实行权限,复制,粘贴运行。第二条,复制粘贴回车。如果看到这个界面,说明我们的程序已经部署成功。先询问他使用了什么样的段位型返回内容和我们的配置一致,部署 成功。接下来测试实战效果,让他做一款俄罗斯方块的游戏,看他用多久时间,是否能够一次性成功。他自动唤起了浏览器,打开运行程序,我们来玩一下,我这里加速玩一下。 我发现最后他在游戏结束时没有做弹窗提醒,那我们让他修复一下。好,这里他花了两分钟修复这个 bug。 如果帮助到大家,点赞收藏,我是张成敏,关注我多一个程序员男朋友。

ok, 这个 cloud code 我 已经是成功在本地上面去运行了,发到了那个 github 上面去了,网址在这里你们可以看一下,我跟他一个对话,去读取某个文件,然后回答其中问题,填写上他的答案。我去看了一下他答案,确实已经改进去了。接下来这个是教程啊,直接把这一个复制,然后我们去到这里面,在这里复制进来, 它就自动克隆到这个地方来,然后按确定就好了。下一步就是配置自己那个 a p i, 先用这个打开,你们用记事本打开也可以,然后还有打开这一个, 这个是例子啊,我是用那个归机流动的那个 a p i 来搞的,你们也可以直接放进你们提米的那个 a p i, 因为我以前用过归机流动那些,里面的余额还在。 ok, 现在已经配置好我的那个 a p i 了,弄了一个双击启动的一个,很方便,你们到时候配置好 a p i, 直接双击个启动就可以了。 然后它这里会让你啊,你就选择这个。 yes, 按这个回车键,让我们来看一下它能不能正常地对话啊,你是谁?哎? 你是谁? ok, 它也是可以回复的,然后我们先来做一个简单的测试,虽然我想让它去读我这一个测试文件啊,看它能不能读到我里面的东西,并且回答我有没有问题 啊。复制,然后给他,他这里就是问我继不继续的意思。 ok, 他 成功读取到了我其他文件夹的文件,看,而且他回答对了,所以就是 可以的。呃,清除掉他记忆的话,就另他就好了,他就没有了。如果你们不方便去克隆的话啊,我在群里面有放那个,那个我下载好的那个压缩包,你们直接去解压那个压缩包,按照我刚才的那个流程去搞就好了。