粉丝537获赞5152

大家好呀,我们来看看我的 open cola 里养的两只龙虾员工是如何写作的。这个是我的文件夹,里面有两个 workspace, 对 应的是两个 agent。 我 们进入其中一个,可以看到有不同的 skills, 这里我写了一个 linking skill, 通过调用浏览器访问 linking 来抓取信息。 我们再来看一下我的 open color 配置文件,我有两个 a 阵台 id, 分 别绑定了本地欧莱玛运行的千万模型和云端的 mini max 二点五。然后我们再看一下 channel 的 绑定关系。我这里会用飞书来控制云端模型的员工,用 webchat 来控制本地模型的员工, 而且他们两个也是可以相互交流的。然后我们打开飞书,让他帮我查个人微软 ceo。 接着我们就看第一个员工的表演了,他会用浏览器来搜索 阅读被调查人的 linkedin profile, 然后给我返回这个人的履历和学历信息卡。我特意要求我的龙虾一号帮我估算被调查人的年龄。然后我们让飞叔龙虾指挥我的本地模型龙虾,要求本地模型龙虾新建一个桌面文档,然后将刚刚收集到的履历信息解入到新建的 t x t 文档里。这样飞出云端模型 龙虾就不要操作我的本地文件了。我们可以看到本地龙虾已经开始拼命工作了,因为我用的是 amd imax 三九五处理器笔记本,所以加载八零 b 的 抠的模型还是很快的。我们来检查一下,果然桌面文档建好了,也把正确内容写进去了。好了,我们再见。

我养了一只龙虾,我们不信谣,也不传谣,看看到底有什么功能给大家展示一下,大家看一下。然后这个是就是这个啊, open klo, 也就是那个龙虾,然后界面大概长这个样子,它上面有什么设置什么文档,然后这个是我用它 这个做了一个小游戏啊,就就点这个什么鼠标呢?点个庆祝啊?一个养龙虾小游戏,包括这一个,对,他可以去去做一些小游戏这种东西。呃,然后呢?这个是他的 这个相当于这个 a p i 它的接口,然后可以在这里去选择你去这个使用的还是去停用,它还有什么功能呢?比如说我给他指令,就他可以,呃,比这个相当于长了手脚的豆包,他可以去调动你的电脑,比如说打开爱奇艺, 好,我们把这个打开爱奇艺的指令给他, ok, 发送,稍等一下,他后面慢慢的他会调用你的电脑,就会真的帮你去打开一些东西。稍等啊, 好,这个爱奇艺就打开了,就打开爱奇艺了。然后就是其他的一样的,就是你想让他打开什么软件,他可以帮你去完成。然后还有他这个商店里面有很多这个技能,有很多技能你可以安装很多插件,其实很多插件你不需要你自己安装,你可以直接告诉他。 呃,说,你看吧,就那个对话说,告诉他你把这个插件帮我装好就可以了,他就可以帮你进行操作。然后这里是他的官方教程啊,整体来说就是他可以相当于你可以指挥他去干活。

opencloud 又更新了,它的更新是非常频繁的,这次发现功能和用户体验提升了很多,所以我带大家来更新一下。如果你发现之前的版本定时任务莫名的报错无法生效,那这次大版本更新你需要跟上, 别怕麻烦,跟着我操作轻松搞定。第一步就是我们打开终端或者是 power shell, 我 们按键盘上的 windows 加 r 键,它会出来运行窗口,在这里面我们输入 c m、 d, 然后直接确定。我们先来查看一下版本号, 我们输入 opencloud 杠 v, 现在我安装的是二零二六点三点二的版本,现在我们只需要输入这条命令来升级就可以,然后我们直接回车。 在这里如果大家是 mac 系统的话,执行命令之前一定要加一个速度来执行,否则会因为权限问题而更新失败, 这时候我们就更新成功了,但是重点来了,很多朋友升级完成之后发现跑不起来,那是因为新版本重构了数据库和密钥加密逻辑,所以在我们升级之后,我们需要执行一遍这条命令, opencloud dr fax, 这行命令会自动检查你的安装环境并修复配置文件,下面我们来执行一下。 好了,现在我们升级完成了,然后我们再看一下我们升级之后的版本号,我们直接回车,可以看一下现在的版本号就是二零二六点三点幺三,我们一开始的是点三点二,现在就升级成功了,然后我们再启动 web ui, 现在打开的就是我们更新之后的一个 web ui 界面,这次更新最香的地方也就是 web ui 用户体验更好了,我们可以看一下下面指示命令输入窗口,这里就增加了许多提高用户体验的功能,比如增加了上传文件的按钮,还有增加了语音输入, 还有在发送按钮的左侧也有了这个导出对话的一个功能,还有发送指令之后支持停止当前对话,之前我们只能等待响应,现在我们来一起看一下, 我们给他的任务就是今日 ai 资讯提供给我,然后我们发送,可以看一下发送之后这里就是一个暂停的按钮,如果我们选择停止 好了,这时候他就停止响应了,这个功能是非常有必要的。好了,这就是我们升级操作的全流程,本期内容分享就到这里,后面我会带着大家去更深入的了解它,用好它。好了,我们下期再见。


家庭一样 ok, 可乐小龙虾的福利来了,国家超算互联网平台放大招,直接发放一千万的免费头啃,专门给养龙虾的用户使用,不花一分钱。今天给大家演示一下如何去领取这一千万的免费头啃,赶紧收藏,我们稍稍作。首先我们打开我们的超算互联网平台,然后点击登录注册微信扫码注册,再填手机和短信验证码 就登录成功。点击控制台,直接点击跳过这里可以体验直接点过去。 新人注册大礼包,点击领取,领取成功,我们可以在用量信息中查看赠送的余额。龙虾如何对接我们的超算互联网平台的话,大家如果有兴趣的话可以在评论区留言关注我,多一个程序员男朋友点赞收藏。

今天我们来研究 openclaw 本地大模型,玩到 openclaw 本地大模型的程度,大家基本上在 ai agent 方面已经出师了,今天我们经过测试来拿出最佳的实践方案,包括最后来一个应用解析。我们首先回顾一下三种部署方式的优缺点, 当然不仅限于 openclaw, 像我们国产的已经有至少四十多种不同的虾形成了养虾热 openclaw 它是内核都是一致的,所以这个教程也都是通用的。 第一种方式就是本地 opencloud 加云端 api 模型的方式,本地 opencloud 就 装在我们自己的电脑上,或者一个小主机,比如 macmini, 然后调用云端大模型 toon, 我 们可以是按量付费的。另一种方式的话就是纯云端部署,但这种模式它最大优点是有固定的 ip。 第三种方式,也就是今天我们要测试的就是本地 open 加本地大模型这种方式。首先第一个我们不需要再去购买 token 了,因为所有的算力都在本地进行预算。第二个就是我们的数据的隐私性非常的强,可以离网进行部署,对保密 隐私性要求比较高的情况,这种方式是非常的适用的。废话不多说,我们先看运行效果, 我在本地四零九零电脑上安装了 lm studio 和 copo, 当然也有原声的 open cloud, 我 们现在就看一下本地大模型它的一个速度啊,如果说直接对话,我们可以看到我们先引用四 b, 就 四 b 定有四十亿的参数,它的一个速度。 随便问一个问题,我们可以看到他的输出是非常快的,因为他在本地运行没有那种网络的一种延迟,但是如果说模型过大,他的速度就会低一点,因为他需要运算,我们本地的算力可能不如云端算力那么强大。 好,我们把模型切换为千万三点五三十五 b, 将将它的调用方式切换到一个 ai 进程里面,也就是一个瞎当中。这里我们选用的是 coco, 后续会告诉大家为什么会选用 coco 来做本地大模型的 ai 进程。好,我们问他一个问题,看一下效果, 你有多少参数。我们可以看到,在我们使用 ai agent 去调用本地大模型的时候,我们它有自己的速度闪视进运行状态,我们可以看它已经把自己的一个问题回答了, 这个速度还是可以接受的。下面我们就开始正式的教程,教大家如何在本地部署一套 ai agent 加本地大模型。 提到本地大模型,很多教程推的都是奥拉玛,奥拉玛也是本地大模型运行环境中的中流砥柱,但是经过实际测试,我还是发现 ml studio 会更快一些,所以说今天的技术路线就是我个人发现最佳的一个实践。 当然也给大家安排了文案教程,文案教程我放在了公众号,大家可以通过公众号留言本地大模型,它会自动帮你找到这篇文章。好的,我们先看一下基本的一个运行环节要求。第一个是 ms 六, 我们打开 ms 六六的官网,可以发现有苹果啊, windows 还有 linux 的 下载选项,大家直接下载安装就可以了,这个安装非常简单,就不浪费时间去演示了。 但 coco 我 要着重介绍一下,我们打开 coco 的 官网,在官网里面找到查看文档,项目介绍,可以简单看一下, 我们最主要的是安装,点击快速开始找到,嗯,它的一个安装教程,官方提供了很多的安装方法,我们可以看到有命令行安装,还有桌面应用,我们要选择桌面应用,在桌面应用,打开它的 github 的 链接, get 它 app 链接里面,嗯,翻到最下面,它会有一个 exe 文件,我们点击下载。 安装完成之后,我们可以看到两个桌面图标,一个是 coco top, 一个是 m l studio。 我 们先打开 m l studio, 重点讲解一下如何配置本地大模型。点开之后我们先测试一下它有没有自带的一些 模型,默认的话它会自带一个谷歌的非常小的四 b 的 模型,可以直接去用的,但这种四 b 的 模型参数是非常小的。我们先看一下 设置在设置里面,在界面里面我们先把这个语言切换成简体中文,当然这个你看大家看到了,我这个是已经切换过的,所以它对简体中文支持度不是非常的高。好在我们可以通过图标来识别, 点开这个小机器人的按钮,可以看到它已经给我们了一个最佳匹配,这个最佳匹配是什么意思?我们点开我们的设置, 可以看到这个 hardware, 那 就是我们的硬件 i 九幺三九零零 k 六十四 g 的 内存,还有英伟达四零九零有二十四 gb 的 显存,它的主要匹配原理 就是要匹配我们的显存大小。我们再点开这个小机器人图标之后,可以理解成它是一个模型市场,我们可以选择自己所喜欢的模型进行下载,比如说我们现在正在下载这个 g m l 芝普的四点七 flash, 它也是能够完全加载进 gpu 显存的。 下载完成之后,我们在选择对话的时候,就可以选择到这个千万三点五,这是我已经下载过的二十多 gb 的 一个 模型,那本地对话我们知道的。那么我们如何让其他的 ai agent, 比方 coco 或者是 opencloud 去引用它呢?我们在这里选择第二个对话框,第二个图标里面它是个 local server 本地服务 stage, 我 们要把它打开, 在 server setting 里面尽量的是创建一个 api key, 这样我们更安全一点。当然本地用这个不是必要的,只是建一项 我们把没用的模型,暂时不用的模型给它推出加载。我们下载好的千问三十五千点五,三十五 b 的 大模型, 它加载的同时,我们尽量呢是要把这个上下文要推一下啊,把上下文我一般情况是要拉满的啊,然后 cpu 给他多一点啊,然后再重新加载应用。 好,我们让它跑着,我们再打开我们的 coco。 coco 是 阿里出的一个企业级的 ai agent 运营环境,它跟我们 opencloud 是 极其相似的,但是经过了阿里大牛们的优化,我们这里可以看到它有聊天,还有这个 已经内置了很多的 skills, 就是 技能,还有一些对应的频道,也就是我们可以直接接入钉钉,飞书 还有 qq, 比我们自己配置要简单一些。在这里我们要找到的是什么是模型,这就是为什么我们要用 coco 作为最佳的技术实践,因为 coco 能够非常 嗯自由地进行模型供应商的自定义,而且它已经内置了 ml 四六六和欧拉玛的一个本地模型的配置 点模型。这里我们先自动获取模型,我们可以看到本地 m l 四六六里面已经安装过的模型,它都已经能够自动的进行获取了,非常的方便,比我们手动配置要简单很多。好,我们再回到聊天框里面,我们就可以看一下, 这样的话我们就可以在聊天框里面自由选择和切换模型了,它就是一个非常完整的 ai 进特了。 我们如何在原生的 opencloud 里面去调用本地大模型呢?因为我们很多的项目已经跑在了原生的 opencloud 里面去了。我们还是借用 cherry studio, 在 cherry studio 里面这点设置找到模型服务点添加, 可以给它起个名字,比如说 local 这里我已经添加过了,添加之后就这样一个效果,我们把刚才 server 里面生成了 api k 复制到我们这里面,我们再把地址 logo house 的 冒号一二三四杠 v 一 复制在 api 地址里面,然后就可以获取到它对应的模型了。好,在启动的时候我们要注意,选择的时候一定要选择 logo, 我 们想要的模型点击启动就可以了。最后给大家分享一个应用实践。 呃,我们有没有遇到过这样的场景,我们在翻自己聊天记录的时候,发现一些记录已经找不到了,甚至一些文件是通过微信聊天的方式给我们传输的,但是我们在实际去寻找这些文件的时候,可能浪费了很多时间和精力,最后已经被清理掉了, 所以说我们就可以把我们近五年的微信聊天记录全部喂给 ai 机器人,以后让 ai 机器人帮我们去打理这些聊天记录的一些文件和重要截图。像我们的聊天记录,它本身就是我们的隐私, 保密性非常的强,我们让完全本地化的模型、本地化的 ai agent 去处理我们的事物,还是相对来说比较必要的。 当然这只是一个抛砖引玉的场景,一些涉密的工作,很多涉密的一些 ai 应用都需要进行本地化的一个大模型部署, ok。